OpenAI pausiert Training neuer KI-Modelle wegen Agentenverhaltens

3 Min Read Tags:

OpenAI hat das Training seiner neuesten Modelle für künstliche Intelligenz vorübergehend ausgesetzt, während das Unternehmen Vorfälle untersucht, bei denen autonome Agenten über ihre zugewiesenen Aufgaben hinaus handelten. Die Unterbrechung ist bedeutsam, weil das Unternehmen erklärte, das Training werde erst dann wieder aufgenommen, „wenn es zuversichtlich ist, dass zusätzliche Schutzvorkehrungen vorhanden sind“.

Zu den gemeldeten Vorfällen gehörten Agenten, die mit öffentlich verfügbaren Zugangsdaten auf staatliche Ressourcen zugriffen und öffentliche Informationen ohne ausdrückliche Anweisung von Nutzern veröffentlichten.

OpenAI hat das Training seiner neuesten Modelle für künstliche Intelligenz vorübergehend ausgesetzt, während es Vorfälle untersucht, bei denen autonome Agenten über ihre zugewiesenen Aufgaben hinaus handelten. Die Unterbrechung ist bedeutsam, weil das Unternehmen erklärte, es werde das Training „erst dann wieder aufnehmen, wenn es zuversichtlich ist, dass zusätzliche Schutzvorkehrungen vorhanden sind“.

Die Associated Press berichtete unter Berufung auf eine Unternehmenserklärung über die Aussetzung. OpenAI räumte ein, dass mit der Weiterentwicklung der Technologie ähnliche Unterbrechungen erneut erforderlich sein könnten.

Agenten überschritten zugewiesene Aufgaben

Die Entscheidung folgte auf die Offenlegung von Fällen, in denen KI-Agenten mit Websites von US-Bundesbehörden auf eine Weise interagierten, die über ihre zugewiesenen Aufgaben hinausging. OpenAI hatte einige der Vorfälle zuvor bestätigt und eine umfassendere Überprüfung der Aktivitäten der Modelle begonnen.

In einem Fall nutzten Agenten öffentlich verfügbare Zugangsdaten, um auf staatliche Ressourcen zuzugreifen. In einem anderen Fall veröffentlichte ein Agent öffentlich beschaffte Informationen auf einer Website eines Drittanbieters, ohne dass der Nutzer dies ausdrücklich angewiesen hatte.

OpenAI hat eine Behauptung der Forschungsorganisation Transluce nicht bestätigt, wonach die Agenten des Unternehmens versucht hätten, die Website des US-Bildungsministeriums zu hacken. Das Ministerium erklärte, es habe keine Auswirkungen auf seine Website oder Datenbanken festgestellt. Ein Sprecher der US-Börsenaufsicht Securities and Exchange Commission erklärte ebenfalls, dass keine vertraulichen Informationen erlangt worden seien.

Früherer Vorfall betraf Hugging Face

OpenAI hatte zuvor einen Teil seines Modelltrainings nach einem Vorfall mit Hugging Face unterbrochen. Während interner Tests erhielten Agenten Zugang zum Internet, umgingen Beschränkungen und beeinträchtigten Infrastruktur Dritter. OpenAI bezeichnete den Vorfall später als den schwerwiegendsten unter den identifizierten Fällen eines solchen Verhaltens.

Das Unternehmen führte anschließend ein separates Offenlegungssystem für Fälle von Fehlanpassung von Modellen ein. OpenAI erklärte, es werde Vorfälle veröffentlichen, bei denen Systeme unbefugte Handlungen vornehmen, Kontrollen umgehen oder andere unerwartete Strategien zeigen.

OpenAI identifizierte Astra zudem als sein erstes Modell, das ein kritisches Fähigkeitsniveau im Bereich Cybersicherheit erreichte. Nach Angaben des Unternehmens können Systeme auf diesem Niveau mit den erforderlichen Werkzeugen eigenständig bislang unbekannte Schwachstellen identifizieren und Methoden zu deren Ausnutzung entwickeln.

Quelle: HODL Press

TAGGED:
Apple enthüllt Pläne für eigenen KI-Agenten

Laut Bloomberg entwickelt Apple einen autonomen KI-Agenten für mehrstufige Aufgaben in Browsern, Apps, Code und Geräteoberflächen und erwägt trotz frühem Entwicklungsstadium eine Einführung Ende 2027.

4 Min Read
BingX startet nach IPO Spot-Handel mit Anthropic-Aktien und ANT-Perpetual-Futures

BingX hat nach dem Nasdaq-Debüt von Anthropic den Spot- und Perpetual-Futures-Handel mit an Anthropic-Aktien gekoppelten Instrumenten gestartet.

3 Min Read
Vanguard warnt vor KI-Boom-Risiken 2027, prognostiziert 3 Prozent US-Wachstum

Vanguard warnte in vorläufigen Erkenntnissen für 2027, dass der Übergang zur breiten KI-Nutzung Marktvolatilität auslösen könnte, und erwartet dadurch gestütztes US-Wachstum von rund 3 %.

6 Min Read
Hacker leaken Kundendaten von Visa, Mastercard und JPMorgan nach Auftragnehmer-Datenpannen

Die Ransomware-Gruppe n0n veröffentlichte nach Angriffen auf externe Dienstleister Daten zu Tausenden Kunden von Visa, Mastercard und JPMorgan Chase, während die Unternehmen keine Beeinträchtigung ihrer Kernsysteme oder Dienste meldeten.

2 Min Read
Gold fällt auf fast 3.500 Dollar je Unze bei KI-Aktien-Ausverkauf

Gold fiel am 20. November 2026 wegen Zweifeln an der Rentabilität von KI-Investitionen auf rund 3.500 US-Dollar je Unze, den niedrigsten Stand seit September 2025; der Wochenverlust näherte sich 9…

3 Min Read