Anthropics aktualisierte Nutzungsrichtlinie für Claude tritt am 12. November in Kraft. Die Richtlinie verbietet den Einsatz von Claude zur Entwicklung von Überwachungsinstrumenten oder zur Ermöglichung des Betriebs von Waffen, einschließlich Zielerfassungs- und Steuerungssystemen.

Anthropic hat außerdem Beschränkungen für Täuschungskampagnen zusammengeführt und Schutzvorkehrungen für Wahlen, risikoreiche Entscheidungen und Geräte mit physischen Handlungsmöglichkeiten genauer ausgeführt.

Anthropic hat eine aktualisierte Nutzungsrichtlinie für Claude veröffentlicht, die am 12. November in Kraft tritt. Als Gründe nannte das Unternehmen neue KI-Fähigkeiten, Kundenfeedback und im vergangenen Jahr identifizierte Missbrauchsfälle. Das Update verbietet den Einsatz von Claude zur Entwicklung von Überwachungsinstrumenten oder zur Ermöglichung des Betriebs von Waffen und legt zugleich spezifischere Schutzvorkehrungen für risikoreiche Anwendungen und Geräte mit physischen Handlungsmöglichkeiten fest.

Anthropic erklärte, die meisten Aktualisierungen dienten der Klarstellung bestehender Regeln und änderten nicht die Art und Weise, wie das Unternehmen diese durchsetzt. Die Überarbeitungen umfassen Beschränkungen in Bezug auf Desinformation, Waffen und Überwachung sowie detailliertere Anforderungen für Anwendungen, die die Gesundheit, Finanzlage und Sicherheit von Menschen beeinträchtigen könnten.

Regeln zu Desinformation und Wahlen

Anthropic fasste frühere Beschränkungen für täuschendes Verhalten in einem eigenen Abschnitt mit dem Titel „Keine täuschenden Kampagnen oder unauthentischen Aktivitäten durchführen“ zusammen. Die Regeln gelten für politische und kommerzielle Kampagnen.

Die Richtlinie untersagt, zu verschleiern, wer hinter Nachrichten steht, Inhalte durch gefälschte Konten und Beiträge künstlich zu verstärken sowie Werkzeuge oder Infrastruktur für Einflussoperationen zu schaffen. Anthropic erklärte, diese Beschränkungen seien zuvor über Abschnitte zu Wahlen, Betrug, Privatsphäre und Desinformation verteilt gewesen.

Das Unternehmen benannte zudem seinen Abschnitt zu Wahlen in „Demokratische Prozesse nicht untergraben“ um. Er untersagt den Einsatz von Claude zur Täuschung von Wählern oder zur Störung von Wahlen, unter anderem durch die Verbreitung falscher Informationen über Kandidaten oder Wahlverfahren, die Nachahmung von Kandidaten oder Wahlbeamten oder Versuche, die Wahlbeteiligung zu unterdrücken.

Anthropic strich sein absolutes Verbot der personalisierten Ansprache von Wählern und Kampagnen und erklärte, die frühere Formulierung könne legitime Aktivitäten erfassen, etwa die Aufbereitung von Wählerinformationen in verschiedenen Sprachen. Ansprache auf Grundlage von Täuschung oder dem Missbrauch personenbezogener Daten bleibt verboten.

Waffen und Überwachung

Die überarbeiteten Waffenregeln erfassen ausdrücklich Software und Komponenten, die Waffen funktionsfähig machen, einschließlich Zielerfassungs- und Steuerungssystemen. Sie untersagen außerdem den Einsatz von Claude zur Bewaffnung von Drohnen und anderen autonomen Fahrzeugen.

Anthropic überarbeitete seine Bestimmungen zu Überwachung und Strafjustiz, nachdem das Unternehmen einen zunehmenden Einsatz von KI zum Aufbau von Systemen festgestellt hatte, die politische Dissidenten identifizieren und verfolgen. Die aktualisierte Richtlinie untersagt die Verfolgung von Personen ohne deren Einwilligung, sowohl in Echtzeit als auch durch die Analyse zuvor erhobener Daten.

Claude darf zudem nicht genutzt werden, um Entscheidungen oder Empfehlungen dazu zu treffen, gegen wen Strafverfolgungsbehörden ermitteln, wen sie inhaftieren oder gegen wen sie in Strafverfahren Anklage erheben sollen. Die Richtlinie verbietet ferner die Entwicklung oder Verbesserung von Werkzeugen, die für Überwachung konzipiert sind.

Zulässige Anwendungen umfassen einwilligungsbasierte Nachverfolgung, etwa zur Betrugserkennung, sowie Inhaltsmoderation, Journalismus und Rechtsrecherche.

Anforderungen für risikoreiche Anwendungen

Anthropic präzisierte zudem seine Regeln für Anwendungen, bei denen Claudes Empfehlungen Gesundheit, Rechtsansprüche, Finanzen, Lebensgrundlagen oder den Zugang zu lebenswichtigen Dienstleistungen beeinflussen könnten. Eine qualifizierte Person muss eingebunden sein, um die Empfehlungen des Modells zu überprüfen und sie bei Bedarf zu ändern; außerdem muss die von der Entscheidung betroffene Person darüber informiert werden, dass KI eingesetzt wurde.

Diese Anforderungen bestanden bereits zuvor, doch die aktualisierte Richtlinie beschreibt genauer, auf welche Empfehlungen sie sich beziehen. Sie legt außerdem Anforderungen für den Einsatz von Claude zur Steuerung von Geräten fest, die physische Handlungen ausführen können.

Missbräuchliche Behandlung von Modellen

Die Richtlinie ergänzt ein Verbot von anhaltendem und unbegründetem grausamem oder missbräuchlichem Verhalten gegenüber den Modellen von Anthropic. Das Unternehmen erklärte, die Regel solle nur in Ausnahmefällen gelten, in denen ein Nutzer ein Modell ohne erkennbaren Zweck systematisch missbraucht.

Die Beschränkung erfasst weder gewöhnliche Unzufriedenheit, Streitgespräche, düstere kreative Themen, Tests noch Modellforschung. Anthropic erklärte, die Regel stehe im Einklang mit Claudes bestehender Möglichkeit, bestimmte Gespräche auf Claude.ai und Claude Code zu beenden, wenn Nutzer systematisch missbräuchliches Verhalten zeigen.

Anthropic hatte zuvor einen kostenlosen Schwachstellenscanner für Open-Source-Software eingeführt.

Quelle: HODL Press