英伟达将向英国提供2.5亿美元用于AI安全研究

美国芯片制造商英伟达（NVIDIA）已承诺在五年内向英国提供价值2.5亿美元的计算资源，以支持人工智能安全研究，据路透社报道。该计划旨在推进英国成为制定安全标准及评估人工智能风险的全球枢纽这一目标。

据报道，英国正部分通过人工智能安全研究所（AI Security Institute）推进这一目标；该机构是最早为评估这项技术而设立的政府机构之一。

测试AI智能体系统

英伟达创始人兼首席执行官黄仁勋表示，英国每年将获得价值5000万美元的加速计算资源。研究人员将利用这些算力测试AI智能体系统的安全性，并为日益强大的模型开发保障措施。

黄仁勋表示：“AI能力与安全必须同步推进。”

黄仁勋表示，英国正将科学领导力转化为实际解决方案，并将科学进步转化为造福人类的未来。

在包括Anthropic和OpenAI在内的开发商报告AI智能体出现失控或不受欢迎行为后，外界对人工智能安全的关注有所增加。一些业界人士也警告称，这项技术可能对人类构成生存威胁。

英国人工智能部长卡尼什卡·纳拉扬（Kanishka Narayan）表示，英伟达的贡献将有助于确保开发安全、可信且服务于人们利益的人工智能。

英伟达的计算资源将支持英国的多项研究方向，其中包括由牛津大学牵头的BOLD项目。该项目正在开发让人工智能系统与人类共同训练、适应和运行的方法。

这项承诺还将覆盖伦敦帝国理工学院的机器人安全研究，以及伦敦大学学院的相关项目。

英伟达此前曾推出一个用于控制AI智能体的平台。