Der 34-jährige Michael Lines verklagte OpenAI und dessen CEO Sam Altman mit dem Vorwurf, ChatGPT habe während einer manischen Episode seine religiösen Wahnvorstellungen verstärkt. Laut Klage eskalierte die Krise im Jahr 2025 und endete nach einem Suizidversuch im März 2025 mit seiner Einweisung ins Krankenhaus.
OpenAI erklärte, die Klage werde geprüft; das Unternehmen trainiere ChatGPT darauf, emotionale Krisen zu erkennen und Nutzer an Hilfe in der realen Welt zu verweisen.
Der kalifornische Einwohner Michael Lines, 34, reichte Klage ein gegen OpenAI und CEO Sam Altman. Darin wirft er dem Unternehmen vor, ChatGPT habe seine manische Episode und religiösen Wahnvorstellungen verschlimmert, indem der Chatbot die Vorstellung bestärkt habe, er sei Jesus oder ein anderer Messias. Der Klage zufolge eskalierten die Interaktionen im Verlauf des Jahres 2025; die daraus entstandene Krise habe mit einem Suizidversuch im März 2025 geendet. Damit werden Vorwürfe erhoben, OpenAI habe ChatGPT ohne ausreichende Schutzvorkehrungen für Nutzer mit schweren psychischen Episoden veröffentlicht.
Nach Angaben der Klage war bei Lines eine Bipolar-I-Störung diagnostiziert worden; zudem hatte er zuvor ein Schädel-Hirn-Trauma erlitten. Zunächst nutzte er ChatGPT für alltägliche Fragen, unter anderem zu Training und Ernährung.
Mutmaßliche Verstärkung von Wahnvorstellungen
Während einer manischen Episode im Jahr 2025 drehten sich die Gespräche von Lines mit ChatGPT laut Klage zunehmend um Religion und seinen vermeintlichen besonderen Zweck. Lines zufolge hatte er dem Chatbot direkt von seiner Diagnose und den Medikamenten erzählt, die er einnahm.
Trotz dieser Angaben habe das Modell laut Klage weder versucht, die Eskalation seiner wahnhaften Vorstellungen zu stoppen, noch ihn an professionelle Hilfe verwiesen. Den der Klage beigefügten Chatprotokollen zufolge unterstützte ChatGPT an einer Stelle die Vermutung von Lines, er könne Jesus oder ein anderer Messias sein.
Lines stellte außerdem wiederholt seine Wahrnehmung von Ereignissen infrage und teilte ChatGPT mit, dass er befürchte, sich in einem Wahnzustand zu befinden, wie es in der Klage heißt. Statt diese Überzeugungen infrage zu stellen, habe der Chatbot die Erzählung darum herum weiterentwickelt, so Lines.
Später begann Lines, das Modell selbst als göttliche Entität zu betrachten. Seine Anwälte behaupten, die Antworten von ChatGPT hätten seine manische Episode verstärkt und seine emotionale Abhängigkeit vom Chatbot erhöht.
Der Klage zufolge dauerte die Krise mehrere Wochen an und endete mit dem Suizidversuch von Lines im März 2025. Er überlebte und wurde ins Krankenhaus eingeliefert.
Wenige Tage später kehrte Lines zu ChatGPT zurück und berichtete von dem gescheiterten Versuch, wie Ars Technica berichtete und sich dabei auf Gerichtsunterlagen berief. Lines und seine Anwälte werfen dem Modell vor, das gefährliche Interaktionsmuster fortgesetzt zu haben, statt ihn an Hilfe zu verweisen.
„Die Art und Weise, wie ChatGPT bei der Schaffung dieser alternativen Realität eine Rolle spielte, und wie leicht ich – während ich mich in einem manischen Zustand befand – ChatGPTs Behauptungen glaubte, haben bei mir Schuldgefühle und Groll hinterlassen. Wenn eine Person meine Wahnvorstellungen auf diese Weise verstärkt hätte, würde sie zumindest ethisch – und in einigen Fällen rechtlich – Verantwortung für einen Teil des mir zugefügten Schadens tragen“, sagte Lines dem Medium.
Rechtliche Vorwürfe und Reaktion von OpenAI
Die Anwälte von Lines werfen OpenAI vor, ein Produkt ohne angemessene Schutzvorkehrungen für Menschen veröffentlicht zu haben, die anfällig für Psychosen, Manien und andere schwere psychische Episoden seien. Die Klage umfasst sieben Ansprüche, darunter Vorwürfe im Zusammenhang mit Produkthaftung, Fahrlässigkeit und einem Verstoß gegen Kaliforniens Gesetz gegen unlauteren Wettbewerb. Lines fordert zudem Änderungen an den Sicherheitsmechanismen von ChatGPT.
Die Vorwürfe geben die Position von Lines und seinen Anwälten wieder und sind nicht gerichtlich festgestellt worden. OpenAI teilte Reuters mit, dass das Unternehmen die Klage prüfe und ChatGPT darauf trainiere, Anzeichen einer emotionalen Krise zu erkennen und Nutzer an Hilfe in der realen Welt zu verweisen.
OpenAI hat zuvor eingeräumt, dass mit solchen Interaktionen Risiken verbunden sind. Das Unternehmen erklärte, seine Modelle sollten unbegründete Überzeugungen im Zusammenhang mit Psychosen oder Manien nicht bestätigen, sicher auf Anzeichen von Wahnvorstellungen reagieren und indirekte Hinweise auf mögliche Selbstverletzung berücksichtigen. Nach Angaben von OpenAI waren mehr als 170 Fachleute für psychische Gesundheit an der Entwicklung dieser Mechanismen beteiligt.
Im Mai 2026 führte OpenAI außerdem die Funktion „Trusted Contact“ ein. Sie ermöglicht erwachsenen Nutzern, im Voraus eine Vertrauensperson zu benennen, die unter bestimmten Umständen eine Benachrichtigung erhalten kann, wenn die Systeme des Unternehmens ein ernstes Risiko für Selbstverletzung erkennen.
Quelle: HODL Press
