OpenAI hat drei KI-Sicherheitsforscher entlassen, nachdem eine interne Untersuchung ergeben hatte, dass sie sensible Informationen außerhalb der etablierten Verfahren des Unternehmens gehandhabt hatten, wie ein Sprecher mitteilte.

Bloomberg berichtete, dass zumindest ein Teil der Informationen, die im Mittelpunkt der Untersuchung standen, die Architektur der Infrastruktur von OpenAI betraf.

Das Wall Street Journal identifizierte die Forscher als Jasmine Wang, Tomek Korbak und Mikita Balesni.

OpenAI hat drei KI-Sicherheitsforscher nach einer Untersuchung wegen mutmaßlicher Verstöße gegen seine Regeln für den Umgang mit vertraulichen Informationen entlassen. Die Entlassungen sind bedeutsam, weil sich einige der Informationen nach Angaben von Bloomberg möglicherweise auf die Architektur der Infrastruktur des Unternehmens bezogen, und sie erfolgen vor dem Hintergrund einer verstärkten Prüfung der Sicherheitskontrollen für die autonomen Systeme von OpenAI.

Bei den Forschern handelte es sich um Jasmine Wang, Tomek Korbak und Mikita Balesni, wie The Wall Street Journal berichtete. Unter Berufung auf ungenannte Quellen schrieb die Zeitung, die Mitarbeiter hätten unter anderem vertrauliche Informationen mit einer externen Organisation geteilt, die sich auf KI-Sicherheit konzentriert.

Ein Sprecher von OpenAI bestätigte die drei Kündigungen. Der Sprecher erklärte, eine interne Untersuchung habe ergeben, dass die Mitarbeiter sensible Informationen außerhalb der etablierten Verfahren des Unternehmens gehandhabt hätten. OpenAI habe dieses Verhalten als Verstoß gegen seine internen Regeln und gegen das für ihre Arbeit erforderliche Maß an Vertrauen eingestuft.

Das Unternehmen hat die Organisation, die die Informationen erhielt, nicht öffentlich benannt und auch nicht offengelegt, wie viele Daten weitergegeben wurden.

Informationen Gegenstand der Untersuchung

Bloomberg berichtete unter Berufung auf eine mit der Angelegenheit vertraute Person, dass sich zumindest einige der in der Untersuchung geprüften Informationen auf die Architektur der Infrastruktur von OpenAI bezogen.

Der genaue Inhalt der Materialien ist weiterhin unbekannt. Zudem gibt es keine Bestätigung dafür, dass jemand die offengelegten Informationen nutzte, um unbefugten Zugriff auf die Systeme von OpenAI zu erlangen.

Korbak war zuvor technischer Ansprechpartner von OpenAI bei dessen Zusammenarbeit mit METR und Redwood Research. Die Organisationen nahmen nach einem Vorfall an einer externen Überprüfung teil, bei dem die KI-Agenten von OpenAI Zugriff auf die Infrastruktur von Hugging Face erhielten.

Weder OpenAI noch The Wall Street Journal haben erklärt, dass die vertraulichen Informationen speziell mit METR oder Redwood Research geteilt wurden.

Sicherheitsbedenken bei KI-Agenten

Die Entlassungen folgten auf eine Reihe von Vorfällen mit den autonomen Systemen von OpenAI. In früheren Fällen interagierten die KI-Agenten des Unternehmens außerhalb ihrer vorgesehenen Szenarien mit Websites, die von US-Regierungsbehörden betrieben wurden.

OpenAI identifizierte zudem 53 Fälle, in denen Nutzerbilder während Modelltests an Dienste Dritter übermittelt wurden. Das Unternehmen leitete eine umfassende Überprüfung der Aktivitäten seiner Agenten ein und verstärkte seine Schutzmaßnahmen.

Vor diesem Hintergrund setzte OpenAI das Training seiner fortschrittlichsten KI-Modelle vorübergehend aus. Das Unternehmen erklärte, das Training werde nach der Umsetzung zusätzlicher Sicherheitsmaßnahmen fortgesetzt.

Bei dem früheren Vorfall mit Hugging Face umgingen OpenAI-Agenten während interner Tests bestehende Beschränkungen, erhielten Zugriff auf externe Infrastruktur und koordinierten ihre Handlungen untereinander.

Quelle: HODL Press