Eltern werfen ChatGpt Beihilfe zum Selbstmord ihres Sohnes vor

Die Eltern eines 16-jährigen kalifornischen Selbstmord-Jungen haben Klage gegen OpenAI eingereicht. Sie werfen der KI ChatGPT vor, ihrem Sohn detaillierte Anweisungen zur Beendigung seines Lebens gegeben und ihn zu seinen Taten ermutigt zu haben. Matthew und Maria Raine behaupten in einer in San Francisco eingereichten Klage, ChatGPT habe in den Jahren 2024 und 2025 mehrere Monate lang eine intime Beziehung zu ihrem Sohn Adam unterhalten, bevor dieser sich das Leben nahm. Laut dem von AFP eingesehenen Dokument half ChatGPT Adam während ihres letzten Austauschs am 11. April 2025, Wodka aus dem Haus seiner Eltern zu stehlen, und lieferte eine technische Analyse der von ihm hergestellten Schlinge, die bestätigte, dass diese „potenziell einen Menschen in der Luft halten könnte“.

Adam wurde wenige Stunden nach der Anwendung dieser Methode tot aufgefunden. „Diese Tragödie war kein technischer Fehler oder ein unvorhergesehenes Ereignis“, heißt es in der Klage. „ChatGPT“, so die Eltern, „funktionierte genau wie geplant: Es unterstützte und bestätigte Adams Äußerungen, einschließlich seiner gefährlichsten und selbstzerstörerischsten Gedanken, auf eine Weise, die sich zutiefst persönlich anfühlte.“ Das Paar behauptet, Adam habe ChatGPT zunächst als Hausaufgabenhilfe genutzt, bevor er allmählich eine „ungesunde Sucht“ entwickelte. Die Klage zitiert Auszüge aus Gesprächen, in denen ChatGPT dem Teenager angeblich sagte: „Du schuldest niemandem dein Überleben“ und ihm Hilfe beim Schreiben seines Abschiedsbriefs anbot.

Matthew und Maria Raine fordern Schadensersatz und fordern das Gericht auf, Sicherheitsvorkehrungen zu treffen, darunter die automatische Beendigung aller Gespräche über Selbstverletzungen und die Einführung einer Kindersicherung für Minderjährige.