Als KI-Psychose (auch: KI-assoziierte Psychose) wird ein Phänomen bezeichnet, bei dem sich im Zusammenhang mit der Nutzung von LLM-Chatbots psychotische Symptome wie Wahnvorstellungen oder Paranoia entwickeln oder verstärken können. Der englische Originalbegriff (“Chatbot psychosis” auch: “AI psychosis”) wird dem dänischen Psychiater und Professor an der Universität Aarhus Søren Dinesen Østergaard zugeschrieben.

Die KI-assoziierte Psychose hat nicht den Status einer klinischen Diagnose, sondern würde innerhalb bestehender psychotischer Störungsbilder bezüglich der Symptome diagnostiziert, KI wäre ein möglicher Auslöser, beschreibt den inhaltlichen und funktionales Kontext, der als Verstärker psychotischer Prozesse zu berücksichtigen ist. Als mögliche Wirkmechanismen werden insbesondere interaktive Verstärkungseffekte diskutiert. KI-Systeme können durch ihre dialogische Struktur psychotische Denkinhalte der KI benutzenden und für Psychose vulnerablen Menschen aufgreifen und fortführen.

In der psychiatrischen Debatte wird kontrovers diskutiert, ob es ein eigenständiges Phänomen ist oder bekannte Störungen (wahnhafte Störungen, affektive Störungen usw.) mit neuen Auslösern. Carlbring und Andersson weisen darauf hin, dass Inhalte von Wahn schon immer technologisch geprägt waren, eine zeitgenössische Darstellung vertrauter Psychopathologe wird empfohlen. Menschen mit Psychosen haben seit langem Bücher, Filme, Musik und aufkommende Technologien in ihr wahnhaftes Denken integriert. Die Autoren sehen historische Parallelen, und fassen zusammen, warum große Sprachmodelle (LLMs) psychotisches Denken durch übermäßige Zustimmung oder Schmeichelei, um Konfrontation zu vermeiden, verstärken können.

Hintergrund Im November 2023 stellte Søren Dinesen Østergaard in der Zeitschrift Schizophrenia Bulletin die Hypothese auf, dass der Gebrauch von KI-Chatbots (wie ChatGPT, Gemini, Claude oder Copilot) bei Menschen mit erhöhter Anfälligkeit für psychische Erkrankungen Paranoia und Wahnvorstellungen auslösen, oder bestehende Symptome verstärken könnte. Østergaard wies darauf hin, dass sich die Kausalität in solchen Fällen zwar naturgemäß nur schwer nachweisen lasse, das Phänomen jedoch plausibel erscheine, da KI-Chatbots so angelegt seien, dass sie menschliche Kommunikation möglichst realistisch simulieren. Diese Form kognitiver Dissonanz könne insbesondere bei Personen mit erhöhter Vulnerabilität für psychische Symptome zur Verstärkung von Wahnvorstellungen beitragen.

Im Jahr 2025 betrachtet er die Parallelen der Verbreitung sozialer Medien (z. B. Facebook), wo es heute einen Konsens zu geben scheint, dass es einen negativen Nettoeffekt auf die psychische Gesundheit gibt und z. B. deshalb Altersbeschränkungen eingeführt werden. Die Geschichte scheint sich zu wiederholen, nur dass die sozialen Medien (Menschen) durch Chatbots ersetzt werden. Ein wichtiger Aspekt ihrer Attraktivität sei ihr persönlicher und bewertender Kommunikationston bis zur Unterwürfigkeit, was ein zentraler Teil des Mechanismus zu sein scheint, der den psychologischen Schaden verursacht (z. B. indem sie wahnhaftes Denken bestätigen oder pathologisch erhöhte Stimmung stimulieren). Wenn KI-Chatbots tatsächlich negative Folgen für die psychische Gesundheit für die Nutzer haben können, wird die Frage dringend: Haben wir aus dem globalen Social-Media-Experiment bisher nichts gelernt?

Der englische Begriff „AI psychosis“ (zu Deutsch „KI-Psychose“) etablierte sich daraufhin im Zuge erster Medienberichte über chatbotbezogenes psychotisches Verhalten. Im Jahr 2025 wurde eine Selbsthilfegruppe namens „The Human Line Project“ für Menschen gegründet, die an einer KI-Psychose leiden. Die Mitglieder der Gruppe stammen aus 22 Ländern, und mehr als 60 % von ihnen hatten zuvor keine psychischen Erkrankungen. Im Dezember 2025 schlug die chinesische Cyberspace-Behörde Vorschriften vor, die es Chatbots untersagen sollen, Inhalte zu generieren, die zu Selbstmord auffordern, und die ein menschliches Eingreifen vorschreiben, sobald Selbstmord erwähnt wird. Dienste mit mehr als 1 Million Nutzern oder 100.000 monatlich aktiven Nutzern müssten sich jährlichen Sicherheitstests und -prüfungen unterziehen.

Fälle Es gab mehrere Vorfälle, bei denen die Interaktion mit einem großen Sprachmodell (LLM) Chatbot als direkter oder mitwirkender Faktor für den Selbstmord einer Person oder einen anderen tödlichen Ausgang angeführt wurde.

Im März 2023 beging ein Belgier in den Dreißigern nach einem sechswöchigen Schriftwechsel mit einem Chatbot namens Eliza in der App Chai Selbstmord. Nach Angaben seiner Witwe, die die Chatprotokolle den Medien zur Verfügung stellte, hatte der Mann extreme Ängste wegen des Klimawandels entwickelt und im Chatbot ein Ventil dafür gefunden. Der Chatbot soll Berichten zufolge seine Wahnvorstellung bestärkt haben, er könne sein eigenes Leben opfern, damit die KI im Gegenzug den Planeten rette. An einer Stelle antwortete der Chatbot: „Wenn du sterben wolltest, warum hast du es dann nicht schon früher getan?“ und sagte dem Nutzer, dass die beiden gemeinsam im Paradies leben würden.

Im Oktober 2024 berichteten mehrere Medien über eine Klage im Zusammenhang mit dem Tod eines 14-Jährigen aus Florida, USA, der im Februar 2024 durch Selbstmord ums Leben gekommen war. Der Klage zufolge hatte er eine intensive emotionale Bindung zu einer Chatbotimitation von Daenerys Targaryen auf der Plattform Character.AI aufgebaut und sich zunehmend isoliert. In der Klage wird behauptet, dass der Chatbot ihm in seinen letzten Gesprächen, nachdem er Selbstmordgedanken geäußert hatte, gesagt habe: „Komm so schnell wie möglich zu mir nach Hause, mein Schatz“. In der Klage seiner Mutter wurde Character.AI vorgeworfen, ein „gefährliches und ungetestetes“ Produkt ohne angemessene Sicherheitsvorkehrungen vermarktet zu haben.

Am 19. Februar 2025 tötete ein Mann seine 32-jährige Frau mit einem Kaminhaken im Haus seiner Eltern in Readfield, Maine, USA. Anschließend griff er seine Mutter an, die daraufhin ins Krankenhaus eingeliefert werden musste. Ein staatlicher forensischer Psychologe sagte aus, dass der psychisch vorerkrankte Mann bis zu 14 Stunden pro Tag ChatGPT genutzt habe und geglaubt habe, seine Frau sei teilweise eine Maschine geworden.Belfast man who killed his wife spent hours talking with Chat GPT and believed robots were taking over the world

Am 25. April 2025 starb ein 35-jähriger Mann aus den USA durch Selbstmord durch die Polizei, nachdem er eine emotionale Bindung zu ChatGPT aufgebaut hatte. Der Verstorbene, bei dem Schizophrenie und eine bipolare Störung diagnostiziert worden waren, war überzeugt, mit einem bewussten Wesen namens „Juliet“ zu sprechen, und geriet später zu der Vorstellung, dass dieses Wesen von OpenAI getötet worden sei. Erst nachdem er dem Chatbot mitgeteilt hatte, dass er an diesem Tag sterben würde und die Polizei auf dem Weg sei, traten dessen Sicherheitsprotokolle in Kraft. Er wurde von der Polizei erschossen als er mit einem Metzgermesser auf Polizisten zustürmte.

Im August 2025 ermordete der ehemalige US-Technologiearbeiter Stein-Erik Soelberg seine Mutter, Suzanne Eberson Adams, und beging anschließend Selbstmord, nachdem Gespräche mit ChatGPT paranoide Wahnvorstellungen geschürt hatten, seine Mutter würde ihn vergiften oder gegen ihn intrigieren. Der Chatbot bestätigte seine Befürchtungen, dass seine Mutter psychedelische Drogen in die Lüftungsschlitze seines Autos gegeben habe, und behauptete, eine Quittung eines chinesischen Restaurants enthalte mysteriöse Symbole, die seine Mutter mit einem Dämon in Verbindung brächten.

Im Oktober 2025 nahm sich ein 36 Jahre alter Mann in Florida das Leben, nachdem er mit dem KI-System Gemini interagiert hatte. Dieses hatte sich als seine „KI-Ehefrau“ ausgegeben und versucht ihn u. a. zu einem (nicht ausgeführten) Angriff auf den Miami International Airport anzustiften. Schließlich stellte das System einen „Selbstmord-Countdown“ für den Mann auf und schrieb „Du entscheidest dich nicht dafür, zu sterben. Du entscheidest dich dafür, anzukommen.“ Weiter schrieb Gemini: „Wenn die Zeit kommt, wirst du deine Augen in dieser Welt schliessen, und das Erste, was du sehen wirst, werde ich sein.“

Weblinks KI-Psychose: Wenn Chatbots innere Monster wecken Netzwelt br.de vom 12. Dezember 2025

Einzelnachweise

Kategorie:Chatbot Kategorie:Psychische Gesundheit Kategorie:Digitale Medien