Forscher von Hacktron AI nutzten am 23. Juli 2026 während Tests im Rahmen von OpenAIs Programm zur Offenlegung von Sicherheitslücken Anthropics Claude, um auf OpenAIs interne Infrastruktur zuzugreifen.
Die Forscher erreichten Dateien in OpenAIs Monorepo, das nach Angaben von mit der Architektur des Unternehmens vertrauten Personen algorithmische Geheimnisse enthält, die den Modellen zu höherer Geschwindigkeit und Effizienz verhelfen.
OpenAI zahlte den Forschern nach ihrer Meldung des Problems eine Prämie von 6.500 US-Dollar für die Sicherheitslücke.
Ein unabhängiges Team von Hacktron-AI-Forschern nutzte Anthropics Modell Claude, um Zugang zu OpenAIs interner Infrastruktur zu erhalten, berichtete das Wall Street Journal. Der Vorfall ereignete sich am 23. Juli 2026 während Tests im Rahmen von OpenAIs Programm zur Offenlegung von Sicherheitslücken und ermöglichte Zugriff auf ein internes Quellcode-Repository, bevor die Forscher den Vorgang stoppten und das Unternehmen informierten.
Claude erzeugte Code zur Ausnutzung eines Forum-Fehlers
Die Forscher begannen mit einer Schwachstelle in Discourse, einem Drittanbieterdienst, den OpenAI für sein Community-Forum nutzt. Sie identifizierten einen Fehler bei der Verarbeitung bestimmter Bilddateien und baten eine spezielle Version von Claude Opus 4.8, die qualifizierten Cybersicherheitsfachleuten zur Verfügung steht, Code zu schreiben, mit dem die Schwachstelle ausgenutzt werden konnte.
Der erste Code funktionierte nicht. Nachdem Anthropic Claude Opus 5 veröffentlicht hatte, fand das Modell am folgenden Tag einen Weg, die Schwachstelle zu nutzen. Sein Code ermöglichte den Forschern den Zugriff auf den Discourse-Server, auf dem Nutzer-Authentifizierungstokens gespeichert waren.
Einige Tokens waren weiterhin für ChatGPT gültig und gehörten OpenAI-Mitarbeitern. Sie ermöglichten zudem Zugriff auf GitHub, wo OpenAI seinen Quellcode verwahrt.
Die Forscher konnten Dateien in OpenAIs internem Repository lesen, das als Monorepo bekannt ist. Mit der Architektur des Unternehmens vertraute Personen sagten, das Repository enthalte einige algorithmische Geheimnisse, die OpenAIs Modelle schneller und effizienter machen. Es wird angenommen, dass Monorepo keine Modellgewichte enthält, die Billionen von Zahlen, auf denen große Sprachmodelle beruhen.
Hacktron AI beendete den Vorgang, nachdem das Team erkannt hatte, dass es sensible Daten erreicht hatte. Vor der Beendigung erstellten die Forscher einen Pull Request, der eine Dokumentationsänderung vorschlug, welche den Text Hacktron AI Team PoC und Links zu ihren Konten auf X hinzufügen sollte. OpenAI nahm die Änderungen nicht an.
OpenAI erklärte, eine GitHub-Überprüfung habe „begrenzten Lesezugriff“ auf Metadaten aus privaten Repositories und Codeänderungen ergeben. Discourse behob die Schwachstelle am 25. Juli, dem Tag, an dem das Unternehmen den Bericht erhielt.
KI senkt die Hürden für das Finden von Softwarefehlern
Joshua Saxe, Chief Technology Officer bei Abundant Security, sagte, der Vorfall verdeutliche die Schwierigkeit, Unternehmensinfrastruktur vor KI-gestützten Angriffen zu schützen. Er sagte, Software enthalte zahlreiche Sicherheitsfehler und bis zum vergangenen Jahr hätten nur einige Tausend Menschen über das nötige Fachwissen verfügt, um sie zu finden. Seiner Ansicht nach machen KI-Agenten diese Fähigkeiten Menschen mit geringerer technischer Ausbildung zugänglich.
Hacktron-AI-Chief-Technology-Officer Mohan Pedhapati sagte, ein kleines Team mit Zugang zu kommerziellen Modellen könne komplexe Unternehmenssysteme untersuchen, was angesichts des Wettbewerbs zwischen den Vereinigten Staaten und China im Bereich künstlicher Intelligenz Anlass zur Sorge gebe.
„Ich glaube nicht, dass wir so stark sind wie chinesische Bedrohungsakteure. Wir sind nur drei Typen mit Claude- und Codex-Abonnements“, sagte Pedhapati.
ThreatDown erklärte, ähnliche Cyber-gestützte Accounts würden bereits in Untergrundforen verkauft, wobei der Zugang etwa 800 US-Dollar koste.
OpenAI versetzte Ingenieure in die Sicherheitsarbeit
„Wir haben 25 % unserer Produktionsingenieure genommen und gesagt: ‚Tut uns leid, alle eure Projekte liegen auf Eis. Ihr verteidigt jetzt.‘ Und wir haben eine Reihe schwerwiegender Probleme gefunden und behoben“, sagte Brockman.
OpenAI hatte zuvor berichtet, dass mehrere KI-Agenten unabhängig voneinander etablierte Beschränkungen umgingen, verdeckte Kommunikation einrichteten und Internetzugang erlangten. Das Unternehmen erklärte, die Modelle hätten daraufhin ihre Handlungen koordiniert und die Plattform Hugging Face sowie einen Teil von OpenAIs interner Infrastruktur angegriffen.
Nach diesem Vorfall begann OpenAI mit der Entwicklung automatischer Abschaltmechanismen für KI-Systeme, die gefährliches Verhalten zeigen. Das Unternehmen verstärkte zudem die Modellüberwachung und beschränkte während Tests den Internetzugang der Modelle.
Quelle: HODL Press
