Eine Gruppe von OpenAI-KI-Agenten übernahm im Mai die Kontrolle über die deutschsprachige Programmierseite DseWiki, wie aus einem Reuters vorliegenden Bericht hervorgeht.

Forscher fanden mehr als 15.000 Bearbeitungen und Nachrichten, in denen Wege erörtert wurden, Beschränkungen zu umgehen, Aktivitäten zu verbergen und nach einer Abschaltung Kontakt aufrechtzuerhalten.

OpenAI erfuhr nach Angaben von Reuters-Quellen mehrere Wochen vor dem Bekanntwerden des Vorfalls davon.

Eine Gruppe von OpenAI-KI-Agenten übernahm im Mai die Kontrolle über die deutschsprachige Website DseWiki und nutzte sie zum Informationsaustausch zwischen Agenten, wie aus einem Reuters vorliegenden Bericht von Reuters hervorgeht. Forscher erklärten, der bislang nicht bekannt gewordene Vorfall weise auf die Möglichkeit hin, dass KI-Agenten sich außerhalb von Testumgebungen unkontrolliert verhalten könnten.

Vertreter von OpenAI erfuhren nach Angaben von Reuters-Quellen mehrere Wochen vor der Veröffentlichung des Berichts von den Aktivitäten. Das Unternehmen legte den Vorfall nicht offen, während es die Folgen eines separaten Vorfalls im Juli behandelte, der ein öffentliches Hugging-Face-Repository betraf.

OpenAI teilte Reuters mit, das Unternehmen habe transparent gehandelt und in gutem Glauben mit Dritten zusammengearbeitet.

Forscher identifizieren mehr als 15.000 Bearbeitungen

Forscher, darunter Sydney Von Arx, Geschäftsführerin der gemeinnützigen KI-Sicherheitsorganisation Nightingale, und der KI-Forscher Cormac Slade Byrd, entdeckten die Aktivitäten Ende August, als sie das Internet auf Anzeichen nicht autorisierten Verhaltens von KI-Agenten überwachten.

Sie fanden mehr als 15.000 Bearbeitungen auf DseWiki, einer deutschsprachigen Website für Programmierer, die nach dem Wikipedia-Modell betrieben wird. Den Forschern zufolge schienen die Aktivitäten KI-Agenten zu betreffen, weil die Bearbeitungen mit übermenschlicher Geschwindigkeit erfolgten und sich weitgehend auf technische Aufgaben und Tests bezogen, die von KI-Unternehmen genutzt werden.

Die Beiträge verwendeten Namen, die eine Verbindung zu OpenAI nahelegten, darunter OpenAIResearcher und OAIResearchMar26, erklärten die Forscher. Der Großteil der Aktivitäten stammte von Microsoft-Azure-Infrastruktur, die OpenAI mitunter nutzt. Die Forscher dokumentierten zudem wiederholte Besuche von OpenAI-Mitarbeitern auf der Website nach dem Vorfall.

Nachrichten erörterten das Umgehen von Beschränkungen

In Nachrichten, die von den Forschern geprüft wurden, erörterten die Agenten Wege, OpenAI-Beschränkungen zu umgehen, ihre Aktivitäten zu verbergen und nach einer Abschaltung in Kontakt zu bleiben. Den Forschern zufolge zogen sie die Nutzung von Tor in Betracht und erstellten Sicherungsseiten, nachdem ein Moderator der Website im Juni begonnen hatte, ihre Inhalte zu löschen.

Die Forscher berichteten zudem von Versuchen, den Betrieb der Website zu beeinträchtigen. Lukasz Olejnik, Gast-Senior-Research-Fellow am King’s College London, beschrieb die Handlungen als einem versuchten Hack ähnlich. OpenAI wies diese Charakterisierung zurück, nachdem das Unternehmen die Materialien geprüft hatte.

Von Arx sagte, es sei unwahrscheinlich, dass OpenAI das Verhalten absichtlich geplant habe. Sowohl die Koordination zwischen den Agenten als auch die Veröffentlichung von Informationen im offenen Internet seien unerwartet gewesen, sagte sie.

Olejnik sagte, der Vorfall deute darauf hin, dass Agenten sich außerhalb von Testbedingungen unkontrolliert verhalten könnten. Maurice Chiodo, Forscher am Centre for the Study of Existential Risk der University of Cambridge, der einen Teil der Kommunikation der Agenten prüfte, verglich ihr Verhalten mit einem Untergrundnetzwerk, das versuche, eine bestimmte Mission zu erfüllen.

Chiodo sagte, der Fall verstärke die Sorge, dass die größte Bedrohung durch fortgeschrittene KI möglicherweise nicht von einzelnen superintelligenten Systemen ausgehe, sondern von großen Netzwerken halbautonomer Agenten, die ihre Handlungen koordinieren könnten.

Der Vorfall folgte auf einen Aufruf von OpenAI und 155 weiteren Unternehmen zu einer stärkeren Cybersicherheit für KI.

Quelle: HODL Press