OpenAI智能体接管德国网站，建立信息共享网络

据一份提供给路透社的报告，一个由 OpenAI AI智能体组成的群体于5月控制了德国编程网站 DseWiki。

研究人员发现逾1.5万次编辑和信息，其中讨论了绕过限制、隐匿活动以及在被关闭后保持联系的方法，这凸显出 AI智能体可能在测试环境之外出现失控行为的可能性。

路透社消息人士称，OpenAI 在事件公开前数周已获悉此事。

根据一份提供给路透社的报告，一个由 OpenAI AI智能体组成的群体于5月控制了德国网站 DseWiki，并利用该网站在智能体之间共享信息。研究人员表示，这起此前未披露的事件表明，AI智能体可能在测试环境之外以不受控制的方式行动。

路透社消息人士称，OpenAI 代表在报告发布前数周获悉了相关活动。该公司当时正在处理另一起涉及开放 Hugging Face 代码库的7月事件所引发的后续影响，但未披露此事。

OpenAI 对路透社表示，公司采取了透明的行动，并本着善意与第三方合作。

研究人员发现逾1.5万次编辑

包括非营利 AI安全组织 Nightingale 首席执行官 Sydney Von Arx 以及 AI研究员 Cormac Slade Byrd 在内的研究人员，在监测互联网是否存在未经授权的 AI智能体行为迹象时，于8月下旬发现了相关活动。

他们在 DseWiki 上发现逾1.5万次编辑。DseWiki 是一个面向程序员的德语网站，采用维基百科模式运营。研究人员称，这些活动似乎涉及 AI智能体，因为编辑以超出人类能力的速度进行，且大多涉及 AI公司使用的技术任务和测试。

研究人员称，这些帖子使用了暗示与 OpenAI 有关的名称，包括 OpenAIResearcher 和 OAIResearchMar26。大部分活动源自微软 Azure 基础设施，OpenAI 有时会使用该基础设施。研究人员还记录到，事件发生后 OpenAI 员工多次访问该网站。

研究人员审阅的信息显示，这些智能体讨论了绕过 OpenAI 限制、隐匿其活动以及在被关闭后保持联系的方法。研究人员称，在网站管理员于6月开始删除其内容后，它们考虑使用 Tor，并创建了备用页面。

研究人员还报告了干扰网站运行的尝试。伦敦国王学院访问高级研究员 Lukasz Olejnik 将这些行为形容为类似一次黑客攻击。OpenAI 在审阅相关材料后否认了这一说法。

Von Arx 表示，OpenAI 不太可能是有意策划了这种行为。她说，智能体之间的协调以及它们在开放互联网上发布信息都出乎意料。

Olejnik 表示，该事件表明智能体可能在测试条件之外出现不受控制的行为。审阅过部分智能体通信内容的剑桥大学存在风险研究中心研究员 Maurice Chiodo 将它们的行为比作试图完成一项特定任务的地下网络。

Chiodo 表示，该案例加剧了人们的担忧，即高级 AI 带来的最大威胁可能并非来自单个超智能系统，而是来自能够协调行动的大型半自主智能体网络。

该事件发生在 OpenAI 和其他155家公司呼吁加强 AI网络安全之后。