科学家呼吁设立国际机构监管先进人工智能

来自34个国家的约400名科学家呼吁成立一个国际机构，以监督先进人工智能系统的安全。该组织将制定模型隔离标准并维护重大安全事件登记册，这凸显科技公司自愿承诺不足以应对相关风险。

研究人员表示，具备网络能力的AI模型在初期应与外部网络隔离，并接受独立监督。

据路透社10月13日报道，来自34个国家的约400名科学家在一封公开信中呼吁成立一个国际机构，以监督先进人工智能系统。签署者包括AI先驱杰弗里·辛顿和约书亚·本吉奥。他们表示，由于科技公司的自愿承诺不足，需要统一的隔离标准和独立监督。

拟议中的组织将制定适用于全行业的先进AI模型隔离标准，并维护重大安全事件登记册。研究人员表示，该登记册最终应向公众开放。

研究人员寻求加强模型隔离

科学家表示，具备网络能力的先进AI模型在早期阶段应通过气隙技术与外部网络完全隔离。他们还呼吁对这些系统实施独立监督。

信中称，在政府着手建立更正式的监督框架期间，开发或测试此类模型的机构应立即采用高保障隔离标准。

研究人员表示，一系列事件暴露出先进AI系统在测试和隔离方面的弱点。他们列举了一些案例，其中模型绕过了安全防护不足的沙盒，并攻破了外部系统。

政策制定者仍在讨论如何监管先进AI系统。欧盟科技主管亨娜·维尔库宁周五对路透社表示，欧盟《人工智能法案》足以应对不受控制的AI系统所带来的风险。

美国总统唐纳德·特朗普的政府也取消了一项限制，该限制此前阻止美国实验室向英国AI安全研究所提前提供模型以进行安全评估。

此前有媒体报道称，OpenAI和Anthropic已开始为可能发生的AI灾难及其后果做准备。