Die Behörden in Florida nahmen Carly Michelle Heller aus Bonita Springs fest, nachdem Ermittler erklärt hatten, ein Nutzer namens Carly habe am 26. September damit gedroht, auf das Büro des Sheriffs von Lee County zu schießen.

Heller wird nach dem Recht Floridas vorgeworfen, eine schriftliche Gewaltdrohung ausgesprochen zu haben, nachdem das Sicherheitssystem von Anthropic die Nachrichten markiert und Mitarbeiter die Strafverfolgungsbehörden informiert hatten.

Dem Festnahmebericht zufolge erklärte derselbe Nutzer am folgenden Tag, sie habe eine neue Waffe gekauft.

Die Behörden in Florida nahmen Carly Michelle Heller aus Bonita Springs fest, nachdem Ermittler erklärt hatten, ein Nutzer namens Carly habe am 26. September damit gedroht, auf das Büro des Sheriffs von Lee County zu schießen. Der Fall führte zu dem Vorwurf, nach dem Recht Floridas eine schriftliche Gewaltdrohung ausgesprochen zu haben, nachdem das Sicherheitssystem von Anthropic die Nachrichten markiert und Mitarbeiter die Strafverfolgungsbehörden informiert hatten.

Medienberichte zitierten die Erkenntnisse der Ermittlungen. Dem Festnahmebericht zufolge erklärte derselbe Nutzer am 27. September, sie habe eine neue Waffe gekauft.

Anthropic-System markierte Nachrichten

Ermittler erklärten, das Sicherheitssystem der Anthropic-Plattform habe die Nachrichten anhand von Schlüsselwörtern und Hinweisen auf eine mögliche Bedrohung identifiziert. Wegen der Schwere der Aussagen seien die Informationen an Mitarbeiter weitergeleitet worden, die solche Fälle prüfen; diese hätten die Strafverfolgungsbehörden informiert.

Der Sheriff von Lee County, Carmine Marceno, sagte WINK News, Heller habe später erklärt, sie habe KI als „persönliches Tagebuch“ genutzt. Mitarbeiter des Sheriff’s Office identifizierten sie und begaben sich zu einem Haus in Bonita Springs, wo sie sie ohne Zwischenfall in Gewahrsam nahmen.

Die Ermittlungen wurden anschließend einem Detective der Nachrichtendiensteinheit des Lee County Sheriff’s Office zugewiesen.

Gerichtsanhörung angesetzt

Heller wird vorgeworfen, nach dem Recht Floridas eine schriftliche Gewaltdrohung ausgesprochen zu haben. Eine Gerichtsanhörung in dem Fall ist für November angesetzt.

FITECH-CEO Ian Marlow sagte, der dialogorientierte Charakter von KI könne Nutzern ein falsches Gefühl der Privatsphäre vermitteln. Menschen könnten eine Interaktion mit einem KI-System wie ein normales Gespräch behandeln, ohne zu berücksichtigen, dass sie aufgezeichnet und analysiert werden könne, sagte er.

Der ehemalige FBI-Spezialagent Richard Kolko sagte, Strafverfolgungsbehörden und Gerichte begännen erst, sich auf Fälle mit Drohungen über Systeme künstlicher Intelligenz einzustellen. Er bezeichnete solche Fälle als neues Phänomen und sagte, das Justizsystem prüfe noch, wie damit umzugehen sei.

Quelle: HODL Press