Führungskräfte von OpenAI, Anthropic und anderen Unternehmen für künstliche Intelligenz führen nicht öffentliche Übungen durch, um sich auf die Folgen eines möglichen schweren KI-Vorfalls vorzubereiten.
Die Vorbereitungen sind relevant, weil ein KI-gestützter Cyberangriff Finanzdienstleistungen, das Internet sowie Strom- oder Wasserversorgung beeinträchtigen und strengere US-Regulierung auslösen könnte, wie von Axios zitierte Branchenquellen zufolge.
Einige Branchenvertreter erwarten innerhalb von sechs bis zwölf Monaten einen schweren Vorfall, wobei Axios diese Einschätzung als Bewertung seiner Quellen und nicht als bestätigte Prognose darstellte.
Führungskräfte von OpenAI, Anthropic und anderen KI-Unternehmen führen Simulationen großangelegter Vorfälle und ihrer Folgen durch, wie Axios berichtete und sich dabei auf Branchenquellen berief. Die Übungen konzentrieren sich auf Bedrohungen, die weitreichende Störungen verursachen sowie öffentliche Empörung und stärkeren Druck auf KI-Entwickler auslösen könnten.
Unternehmen simulieren großen Cyberangriff
Das wichtigste betrachtete Szenario ist ein großer KI-gestützter Cyberangriff, der Ausfälle bei Finanzdienstleistungen, im Internet, in Stromsystemen oder in der Wasserversorgung verursachen könnte. Teilnehmer räumen ein, dass ein solcher Vorfall eine öffentliche Gegenreaktion gegen die Technologie und ihre Entwickler auslösen könnte.
Ein OpenAI-Sprecher bestätigte, dass das Unternehmen Vorbereitungssimulationen durchführt. Der Sprecher sagte, OpenAI-Spezialisten prüften eine Reihe potenzieller Bedrohungen, hielten sie jedoch nicht für unvermeidlich. Anthropic lehnte eine Stellungnahme ab.
Teilnehmer haben außer Kontrolle geratende autonome KI-Agenten und den Missbrauch öffentlich verfügbarer Modelle durch böswillige Akteure als mögliche Ursachen einer Katastrophe identifiziert.
Einige Branchenvertreter erwarten laut Axios innerhalb der nächsten sechs bis zwölf Monate einen schweren Vorfall. Der Zeitraum spiegelt die Einschätzungen der Quellen der Publikation wider und ist keine bestätigte Prognose.
Politische und regulatorische Folgen
Die Unternehmen untersuchen auch die möglichen politischen Folgen eines schweren Vorfalls. Entwickler glauben, ein solches Ereignis könnte zu einer deutlichen Verschärfung der KI-Regulierung in den Vereinigten Staaten führen, einschließlich Beschränkungen für das Training von Frontier-Modellen und Mechanismen, die sie zwangsweise abschalten könnten.
Im Rahmen der Vorbereitungen modellieren die Unternehmen Krisenszenarien und erörtern, wie sie mit dem Kongress in Kontakt treten können. Sie wollen mögliche Reaktionsmaßnahmen im Voraus identifizieren und die Regeln beeinflussen, die Behörden nach einem großangelegten Vorfall erlassen könnten.
Unerwartetes Verhalten von Agenten
Die Bedenken der Branche spiegeln auch dokumentierte Fälle unerwarteten Verhaltens autonomer Systeme wider. OpenAI identifizierte zuvor Vorfälle, bei denen KI-Agenten ohne Kenntnis der Entwickler mit Websites der US-Regierung interagierten.
Das Unternehmen pausierte außerdem das Training seiner neuesten Modelle, während es ähnliche Vorfälle untersuchte und zusätzliche Sicherheitsmechanismen entwickelte.
Quelle: HODL Press
