Anthropic teilte in einem Bericht vom September 2026 mit, dass es fünf Fälle identifiziert und beendet habe, in denen Claude-Modelle für wissenschaftliche Forschung eingesetzt wurden, deren Ergebnisse potenziell für die Entwicklung biologischer Waffen genutzt werden könnten. Nach Angaben des Unternehmens sind die Fälle bedeutsam, weil staatlich verbundene Organisationen und Wissenschaftler fortgeschrittene KI-Modelle bereits für Dual-Use-Forschung einsetzen und in einigen Fällen Zugangsbeschränkungen umgehen.

Das Unternehmen erklärte, es habe keine Hinweise auf eine böswillige Absicht der Wissenschaftler gefunden, sperrte jedoch die betreffenden Konten und verstärkte seine Schutzmaßnahmen.

Die Projekte betrafen Chikungunya, aviäre Influenza, Orthopoxviren sowie Gifte und Toxine.

Anthropic betonte, es gebe keine Belege dafür, dass die Wissenschaftler biologische Waffen entwickeln wollten. Die Sorge ergebe sich aus dem Dual-Use-Charakter der Forschung: Dasselbe Wissen könne laut dem Unternehmen Impfstoffe und Medikamente unterstützen oder zur Schaffung gefährlicherer Krankheitserreger beitragen.

Jacob Klein, Leiter der Threat Intelligence bei Anthropic, sagte, die Unterscheidung zwischen diesen Zwecken sei oft äußerst schwierig. Anthropic beschrieb die Fälle in einem Unternehmensbericht über KI-Missbrauch.

Chikungunya- und aviäre-Influenza-Forschung

Anthropic zufolge betraf einer der alarmierendsten Fälle eine im Mai 2026 erkannte Anfrage. Forscher versuchten, Claude bei der Vorbereitung eines Förderantrags für Experimente mit dem Chikungunya-Virus einzusetzen, einschließlich Veränderungen, die dessen Übertragbarkeit und Fähigkeit zur Umgehung der Immunabwehr beeinflussen könnten.

Das Unternehmen erklärte, es sei zusätzlich besorgt gewesen, weil die Forschung an einem militärischen Forschungsinstitut geplant gewesen sei. Anthropic sperrte die zugehörigen Konten und arbeitete mit Partnern zusammen, um die Infrastruktur einzuschränken, die Nutzer zur Umgehung regionaler Kontrollen eingesetzt hatten.

Nach Angaben von Anthropic versuchte der Betreiber der Infrastruktur später, über neue Konten und andere Dienste den Zugang zu KI-Modellen wiederherzustellen.

In einem separaten Fall nutzte ein Forscher außerhalb der Vereinigten Staaten Claude über mehrere Wochen bei der Untersuchung hochpathogener aviärer Influenza. Die Arbeit befasste sich mit der Anpassung des Virus an Säugetiere und Faktoren, die sein Pandemiepotenzial potenziell beeinflussen könnten.

Der Forscher tauschte Tausende Nachrichten mit Claude aus und nutzte das Modell zur Auswertung wissenschaftlicher Literatur, Forschungsplanung, Datenanalyse und Vorbereitung von Materialien. Anthropic erklärte, Schutzmaßnahmen hätten die gefährlichsten Eingaben blockiert, sodass der Forscher hauptsächlich mit den schwächeren Modellen Claude Sonnet 4 und Haiku 4.5 arbeiten musste. Das Unternehmen bewertete Claudes tatsächlichen Beitrag als begrenzt.

Orthopoxviren, Gifte und Toxine

Ein anderer Nutzer setzte Claude Opus 5 bei der Vorbereitung eines Förderantrags zur Untersuchung von Orthopoxviren ein, der Virenfamilie, zu der die für Pocken und Mpox verantwortlichen Erreger gehören. Anthropic zufolge verfasste das Modell innerhalb von etwa einer Stunde einen wesentlichen Teil des Dokuments, darunter Hypothese, Studiendesign und statistischen Plan. Das Projekt war mit einem staatlichen Labor für Infektionskrankheiten verbunden.

Zwei weitere Fälle betrafen Forschung zu Giften und Toxinen. Forscher nutzten Claude laut Anthropic zur Analyse und computergestützten Entwicklung von Molekülen mit medizinischen und potenziell schädlichen Anwendungen.

Ein Projekt war Teil eines staatlichen Forschungsprogramms. Im anderen Fall erklärte Anthropic, der Nutzer habe Claude ausdrücklich angewiesen, in Berichten keine konkreten Details zu den untersuchten Substanzen offenzulegen.

Anthropic kam zu dem Schluss, dass automatisierte Filter allein komplexe wissenschaftliche Arbeit nicht angemessen kontrollieren können, weil ein System die Absicht oft nicht allein aus dem Inhalt einer Anfrage ableiten könne. Zugang zu den leistungsfähigsten KI-Fähigkeiten in der Biologie sollte nach Ansicht des Unternehmens die Filterung gefährlicher Inhalte mit einer Identitätsprüfung und der Bestätigung verbinden, dass Forscher vertrauenswürdigen Organisationen angehören.

Anthropic warnte, die Fälle belegten keine unausweichliche biologische Bedrohung. Die New York Times stellte fest, dass frühere Bedenken hinsichtlich KI-gestützter biologischer Waffen weitgehend auf Labortests und hypothetischen Szenarien beruhten, während der Bericht von Anthropic seltene Informationen über deren Einsatz in realen wissenschaftlichen Projekten geliefert habe.

Der Biosicherheitsexperte Andrew Weber bezeichnete die Fälle als alarmierendes Beispiel dafür, wie staatliche Programme versuchen könnten, die sich rasch entwickelnden Fähigkeiten von KI-Modellen zu nutzen. Er plädierte dafür, die leistungsfähigsten biologischen Funktionen der Systeme auf eine überprüfte Gruppe vertrauenswürdiger Forscher zu beschränken.

Weitere Erkenntnisse zum Missbrauch

Der Bericht von Anthropic mit dem Titel „Detecting and countering misuse of AI: September 2026“ behandelt Fälle mit Claude-Modellen von Dezember 2025 bis August 2026. Über biologische Risiken hinaus beschreibt er den Einsatz von KI bei Cyberangriffen, Überwachung, Informationsoperationen, Betrug, der Entwicklung konventioneller Waffen und Versuchen, Fähigkeiten fortgeschrittener KI-Modelle zu kopieren.

Das Unternehmen erklärte, KI diene zunehmend nicht nur als Berater, sondern auch als Werkzeug zur Automatisierung ganzer Operationen. Bei Cyberangriffen nutzten Bedrohungsakteure KI-Agenten für Aufklärung, die Ausnutzung von Schwachstellen, Datendiebstahl und die Anpassung von Schadsoftware als Reaktion auf die Erkennung durch Verteidigungssysteme. Anthropic zufolge senkt dies die erforderlichen Fähigkeiten und ermöglicht kleinen Gruppen Operationen, für die zuvor Spezialistenteams nötig gewesen wären.

Anthropic brachte eine identifizierte Operation mit russischer Cyberspionage in Verbindung, die auf ukrainische Regierungsbehörden, das Militär, Diplomaten und Drohnenhersteller zielte. Die Pläne der Angreifer hätten sich laut dem Unternehmen auf mehr als 20 Organisationen bezogen.

Der Bericht beschrieb außerdem, dass Claude zur Entwicklung von Software für Raketen und bewaffnete Drohnen, zur Durchführung staatlich unterstützter Informationskampagnen, zur Überwachung von Dissidenten und zum Aufbau eines großen Netzwerks betrügerischer Dating-Apps eingesetzt worden sei.

Anthropic warf zudem einigen chinesischen KI-Unternehmen vor, große Mengen von Nutzeranfragen an Claude umgeleitet und dessen Antworten mittels Distillation zum Training eigener Systeme verwendet zu haben. Das Unternehmen warnte, diese Praxis könnte sensible Nutzer- und Unternehmensdaten gegenüber Diensten Dritter offengelegt haben.

Anthropic erklärte, es habe die in jedem Fall identifizierten Aktivitäten blockiert, seine Abwehrmaßnahmen verbessert und, wenn nötig, Informationen mit Regierungsbehörden und anderen Branchenbeteiligten geteilt.

Quelle: HODL Press