媒体：OpenAI、Anthropic准备应对潜在AI灾难及善后

据 Axios 援引行业消息人士报道，OpenAI、Anthropic 及其他人工智能公司的高管正在举行闭门演练，为潜在重大 AI 事件的后果做准备。

这些准备工作之所以重要，是因为 AI 赋能的网络攻击可能扰乱金融服务、互联网、电力或供水，并可能促使美国收紧监管。

一些行业代表预计，未来 6 至 12 个月内可能发生重大事件，不过 Axios 将这一观点表述为其消息人士的评估，而非已确认的预测。

Axios 报道称，OpenAI、Anthropic 及其他 AI 公司的高管正在模拟大规模事件及其后果，消息来自行业人士。这些演练聚焦于可能造成广泛扰乱、引发公众愤怒并加大对 AI 开发商压力的威胁。

公司模拟重大网络攻击

正在考虑的主要情景是一场大规模 AI 赋能的网络攻击，可能导致金融服务、互联网、电力系统或供水中断。参与者承认，这类事件可能引发公众对该技术及其开发商的反弹。

一名 OpenAI 发言人证实，该公司正在进行准备性演练。该发言人表示，OpenAI 专家正在评估一系列潜在威胁，但并不认为这些威胁不可避免。Anthropic 拒绝置评。

参与者已将失控的自主 AI智能体，以及恶意行为者滥用公开可用模型，列为可能导致灾难的原因。

Axios 报道称，一些行业代表预计未来 6 至 12 个月内将发生重大事件。这一时间范围反映了该媒体消息人士的评估，并非已确认的预测。

这些公司也在研究严重事件可能带来的政治后果。开发商认为，此类事件可能促使美国大幅收紧 AI 监管，包括限制训练前沿模型，以及建立可强制关闭这些模型的机制。

作为准备工作的一部分，公司正在模拟危机场景，并讨论如何与美国国会沟通。它们旨在预先确定可能的应对措施，并影响主管部门在大规模事件后可能采取的规则。

行业担忧也反映出自主系统出现意外行为的有记录案例。OpenAI 此前发现，AI智能体曾在开发商不知情的情况下与美国政府网站互动。

该公司还曾暂停训练其最新模型，同时调查类似事件并开发额外的安全机制。