Anthropic hat Mitgliedern des US-Kongresses einen bundesweiten Gesetzentwurf zur KI-Sicherheit vorgeschlagen, wie Politico am 17. Oktober 2026 berichtete.

Der Vorschlag würde einschränken, wann die Regierung ein fortgeschrittenes KI-Modell stoppen darf, und zugleich unabhängige Bewertungen, Risikoberichte und Schutzmaßnahmen für Entwickler vorschreiben.

Der Entwurf würde zudem einige Anforderungen auf Ebene der Bundesstaaten zurücknehmen, ein Thema, das im Kongress weiterhin umstritten ist.

Anthropic hat laut einem Bericht von Politico vom 17. Oktober 2026 eine bundesweite Gesetzgebung für fortgeschrittene Modelle künstlicher Intelligenz vorgeschlagen. Der Entwurf würde staatliche Eingriffe nur zulassen, wenn ein Modell bestimmte schwere Risiken darstellt, und die Befugnisse von Bundesbehörden begrenzen, dessen Entwicklung oder Nutzung auszusetzen.

Schwellenwerte für das Stoppen eines KI-Modells

Laut Politico übergab Anthropic den Gesetzentwurf an Mitglieder des Kongresses. Der Vorschlag soll Sicherheitsregeln für fortgeschrittene KI-Modelle festlegen und zugleich die Befugnis der Regierung beschränken, in deren Entwicklung und Einsatz einzugreifen.

Nach dem Entwurf könnte die Regierung die Veröffentlichung oder Nutzung eines Modells nur verhindern wollen, wenn von ihm ein vorhersehbares und unmittelbar bevorstehendes Risiko von Schäden von mehr als 1 Milliarde US-Dollar oder der Tötung oder schweren Verletzung von mehr als 50 Menschen ausgeht. Zu den erfassten Bedrohungen zählen die Entwicklung oder Freisetzung biologischer Waffen, das Umgehen von Schutzmaßnahmen eines Entwicklers durch ein Modell oder ein Cyberangriff.

Das Handelsministerium könnte bei einem Gericht beantragen, die Veröffentlichung eines Modells zu stoppen. Der Gesetzentwurf würde anderen Bundesbehörden und Amtsträgern untersagen, die Entwicklung, den Einsatz oder die interne Nutzung erfasster Systeme eigenständig auszusetzen. Ein Bundesgericht in Washington würde endgültig darüber entscheiden, ob ein Modell gestoppt wird.

Audits, Schutzmaßnahmen und Meldung von Vorfällen

Der Vorschlag würde Entwickler fortgeschrittener Modelle verpflichten, Sicherheitssysteme aufzubauen und aufrechtzuerhalten, Transparenzberichte über neue Modelle zu veröffentlichen, Hinweisgeber zu schützen, die Verstöße melden, und das Handelsministerium über kritische Sicherheitsvorfälle zu informieren.

Unabhängige, beim Ministerium registrierte Prüfer würden Entwickler und ihre Modelle regelmäßig prüfen. Unternehmen könnten für die Bewertungen zahlen, sofern die Vergütung nicht an die Ergebnisse gebunden ist. Stellt eine Bewertung ein im Gesetzentwurf definiertes unmittelbar bevorstehendes Risiko fest, müsste der Prüfer das Ministerium innerhalb von 72 Stunden nach Abschluss der Prüfung informieren.

Ein Sprecher von Anthropic sagte, das Dokument basiere auf dem Rahmenwerk des Unternehmens für die Sicherheit fortgeschrittener KI.

„Dieser Gesetzentwurf entspricht den Vorschlägen aus Anthropics Advanced AI Framework, für die wir uns seit Juni bei Gesetzgebern auf Bundes- und Ebene der Bundesstaaten einsetzen. Dies sind vernünftige Maßnahmen, von denen wir glauben, dass der Kongress handeln sollte“, sagte der Sprecher.

Regeln der Bundesstaaten und andere Vorschläge im Kongress

Der Entwurf würde einige Anforderungen auf Ebene der Bundesstaaten zurücknehmen, die die öffentliche Offenlegung von Risiken, unabhängige Modellbewertungen und die Meldung kritischer Vorfälle betreffen. Einige Demokraten befürchten, dass ein einheitlicher Bundesstandard Regeln schwächen würde, die bereits in Kalifornien, Illinois und New York verabschiedet wurden. Vertreter der Technologiebranche argumentieren, dass unterschiedliche Anforderungen der Bundesstaaten die Einhaltung von Vorschriften erschweren.

Im Kongress werden weitere Vorschläge diskutiert. Im Repräsentantenhaus treiben die Abgeordneten Lori Trahan und Jay Obernolte den FRONTIER Act voran, der ebenfalls erlauben würde, den Einsatz gefährlicher Modelle auszusetzen, und einige Gesetze der Bundesstaaten verdrängen würde. Im Senat verhandeln Mehrheitsführer John Thune sowie die Senatoren Amy Klobuchar und Ted Cruz über Gesetzgebung, die auf katastrophale KI-Risiken abzielt.

Einige Politiker und Organisationen für Technologiesicherheit setzen sich für eine stärkere staatliche Aufsicht ein, während einige progressive Abgeordnete eine Pause bei der Entwicklung fortgeschrittener KI fordern.

Anthropics Streit mit der Trump-Regierung

Der Konflikt zwischen Anthropic und der Regierung von Präsident Donald Trump verschärfte sich Anfang 2026 wegen Meinungsverschiedenheiten über militärische Anwendungen von KI. Die Behörden setzten das Unternehmen anschließend auf eine Liste für Lieferkettenrisiken und beschränkten Bundesbehörden in der Zusammenarbeit mit ihm.

Die US-Regierung verlangte später Beschränkungen des ausländischen Zugangs zu den Modellen Claude Fable 5 und Mythos 5, woraufhin Anthropic den Support für beide Modelle für alle Kunden aussetzte. Bundesrichterin Rita Lin entschied, dass die Aufnahme von Anthropic in die schwarze Liste rechtswidrig war. Sie stellte fest, die Behörden hätten keine tatsächliche Bedrohung der nationalen Sicherheit nachgewiesen und die Beschränkungen verstießen gegen den ersten und fünften Zusatzartikel zur US-Verfassung.

Anthropic war im Sommer zudem mit umfassenden Exportbeschränkungen konfrontiert, die den Zugang zu zwei seiner fortgeschrittensten Modelle abschnitten. Die Entscheidung der Regierung löste im Technologiesektor Bedenken über den Ermessensspielraum von Amtsträgern bei der Beschränkung des Zugangs zu KI aus.

Die Trump-Regierung forderte OpenAI separat auf, die anfängliche Einführung von GPT-5.6 auf eine kleine Gruppe staatlich genehmigter Partner zu beschränken, damit das Modell aus Gründen der nationalen Sicherheit vor einer öffentlichen Veröffentlichung getestet werden könne.

Quelle: HODL Press