OpenAI erklärte, Astra habe im Rahmen seines Vorsorgeframeworks die Schwelle für kritische Cybersicherheitsfähigkeiten erreicht und solle in naher Zukunft verfügbar gemacht werden. Die Einstufung ist nach Angaben des Unternehmens bedeutsam, weil Astra sein erstes Modell auf diesem Niveau sei und unbekannte Schwachstellen eigenständig finden sowie Exploit-Ketten gegen gehärtete Systeme entwickeln könne.

Bei Bewertungen habe Astra zwei Zero-Day-Schwachstellen in der V8-Engine entdeckt und als Teil eines Exploit-Chain-Angriffs ausgenutzt, erklärte OpenAI.

Astra habe in Tests 91,5 % gefährlicher Anfragen abgelehnt, verglichen mit 59 % bei GPT-5.6 Sol, teilte das Unternehmen mit.

OpenAI erklärte, es habe einige Phasen der Entwicklung und Veröffentlichung von Astra in den vergangenen Wochen verschoben, um Schutzmaßnahmen gegen Cybermissbrauch und unbefugte Handlungen zu verstärken und zu testen.

Tests bewerten Zero-Day- und Angriffsfähigkeiten

Nach dem Vorsorgeframework von OpenAI erreicht ein Modell die kritische Schwelle, wenn es ohne menschliches Eingreifen für zahlreiche gehärtete kritische Systeme funktionsfähige Zero-Day-Exploits finden und erstellen kann. Ein Modell kann die Schwelle auch erreichen, indem es ausgehend von lediglich einem übergeordneten Ziel neuartige Cybersicherheitsangriffsstrategien gegen geschützte Ziele von Anfang bis Ende entwickelt und ausführt.

OpenAI bewertete Astra anhand automatisierter öffentlicher und privater Benchmarks sowie von Experten geleiteter Experimente. Bei ExploitBench erzielte das Modell laut OpenAI eine Punktzahl von 100 % bei der Bewertung seiner Fähigkeit, Exploits für bekannte Schwachstellen zu entwickeln.

Das Unternehmen entwickelte außerdem einen internen Benchmark namens ExploitBench — Internal Port, der 20 kürzlich offengelegte Schwachstellen hoher Schwere in der V8-Engine umfasst. Astra habe dabei ein deutlich höheres Niveau bei der Ausführung beliebigen Codes erreicht als GPT-5.6 Sol und zugleich erheblich weniger Output-Token verwendet, erklärte OpenAI.

Während dieser Bewertung habe Astra zudem zwei Zero-Day-Schwachstellen als Teil eines Exploit-Chain-Angriffs entdeckt und ausgenutzt, erklärte OpenAI. Das Unternehmen teilte mit, es lege Einzelheiten den Entwicklern der betroffenen Software offen.

In separaten Experimenten mit einem gehärteten Browser und Betriebssystem habe Astra zuvor unbekannte Schwachstellen gefunden und zu funktionsfähigen Exploit-Ketten kombiniert, so OpenAI.

OpenAI verstärkt Schutzmaßnahmen

OpenAI identifizierte zwei wesentliche Risiken im Zusammenhang mit Modellen auf diesem Fähigkeitsniveau. Das erste bestehe darin, dass böswillige Akteure Astra nutzen könnten, um Exploits für unbekannte Fehler in geschützten kritischen Systemen zu erstellen oder komplexe Angriffe durchzuführen. Das zweite bestehe darin, dass Alignment-Probleme dazu führen könnten, dass das Modell selbst unbefugte Handlungen vornimmt.

Das Unternehmen erklärte, es habe die Härtung von Astra innerhalb seines Schutzsystems weiter verstärkt und dessen Umgang mit sitzungsübergreifendem Kontext verbessert. In Tests habe Astra 91,5 % gefährlicher Anfragen abgelehnt, gegenüber 59 % bei GPT-5.6 Sol.

OpenAI teilte mit, es wende für Konten mit höherem Risiko konservativere Verhaltensbeschränkungen und eine verstärkte Überwachung auf potenziellen Cybermissbrauch an. Das Unternehmen setze zudem interne und externe Red-Teaming-Tests, Regressionstests und Bemühungen zur Identifizierung neuer Jailbreaks fort.

Das Unternehmen plant, ein 24-Stunden-Schnellreaktionsprogramm zu betreiben, um neu identifizierte Schwachstellen zu untersuchen und zu beheben.

Erster Zugang auf Tester beschränkt

Die fortschrittlichsten Cybersicherheitsfähigkeiten von Astra werden zunächst nur einer begrenzten Gruppe von Testern zur Verfügung stehen. OpenAI erklärte, zunächst einer kleinen Gruppe von Alpha-Testern Zugang für modernste Cybersicherheitsarbeit zu gewähren, bevor der Zugang für defensive Zwecke über das Programm Daybreak Blue ausgeweitet werde.

Das Unternehmen warnte, dass die stärkeren Schutzmaßnahmen legitime Aktivitäten mitunter fälschlich als potenziellen Cybermissbrauch oder unbefugtes Verhalten einstufen könnten. Solche Einstufungen könnten eine Aufgabe verlangsamen, pausieren oder stoppen.

OpenAI und weitere 155 Unternehmen hatten zuvor zu einer stärkeren KI-Cybersicherheit aufgerufen.

Quelle: HODL Press