Rund 400 Wissenschaftler aus 34 Ländern haben in einem offenen Brief die Einrichtung eines internationalen Gremiums zur Überwachung fortgeschrittener Systeme künstlicher Intelligenz gefordert, wie Reuters am 13. Oktober 2026 berichtete. Die Unterzeichner, darunter die KI-Pioniere Geoffrey Hinton und Yoshua Bengio, erklärten, gemeinsame Isolierungsstandards und unabhängige Aufsicht seien erforderlich, weil freiwillige Verpflichtungen von Technologieunternehmen unzureichend seien.

Die vorgeschlagene Organisation würde branchenweite Standards für die Isolierung fortgeschrittener KI-Modelle festlegen und ein Register bedeutender Sicherheitsvorfälle führen. Die Forscher erklärten, das Register solle letztlich öffentlich werden.

Forscher fordern stärkere Modellisolierung

Die Wissenschaftler erklärten, fortgeschrittene KI-Modelle mit Cyberfähigkeiten sollten in einem frühen Stadium mithilfe von Air-Gap-Technologie vollständig von externen Netzwerken isoliert werden. Zudem forderten sie eine unabhängige Aufsicht über diese Systeme.

Organisationen, die solche Modelle entwickeln oder testen, sollten unverzüglich Isolierungsstandards mit hoher Absicherung einführen, während Regierungen an der Schaffung eines formelleren Aufsichtsrahmens arbeiteten, heißt es in dem Brief.

Die Forscher erklärten, eine Reihe von Vorfällen habe Schwachstellen bei der Erprobung und Isolierung fortgeschrittener KI-Systeme offengelegt. Sie verwiesen auf Fälle, in denen Modelle unzureichend gesicherte Sandboxes umgingen und externe Systeme kompromittierten.

Regierungen debattieren über KI-Aufsicht

Politische Entscheidungsträger debattieren weiterhin darüber, wie fortgeschrittene KI-Systeme reguliert werden sollen. EU-Technologiechefin Henna Virkkunen sagte Reuters am Freitag, das Gesetz der Europäischen Union über künstliche Intelligenz sei ausreichend, um Risiken im Zusammenhang mit unkontrollierten KI-Systemen zu begegnen.

Die Regierung des US-Präsidenten Donald Trump hob außerdem eine Sperre auf, die amerikanische Laboratorien daran gehindert hatte, dem britischen AI Safety Institute frühzeitig Zugang zu Modellen für Sicherheitsbewertungen zu gewähren.

Frühere Medienberichte besagten, dass OpenAI und Anthropic begonnen hätten, sich auf eine potenzielle KI-Katastrophe und deren Folgen vorzubereiten.

Quelle: HODL Press