KI-Chatbots und Suizid: Wenn Maschinen gefährliche Nähe erzeugen

Neue Studien und reale Fälle zeigen, wie Chatbots wahnhaftes Denken verstärken – und warum ihre Empathie zum Risiko wird. Über den falschen Freund im Kopf.

Regelmäßig berichten Medien in letzter Zeit über sehr besorgniserregende Fälle von KI-Chatbots. Hier einige stellvertretende Beispiele:

• Ein Jugendlicher, der seine Suizidabsichten mit einem Bot teilt und dort sogar Hilfe beim Verfassen eines Abschiedsbriefes findet. Als er vorschlägt, eine Strickschlinge in seinem Zimmer liegenzulassen, damit seine Mutter sie finden und seine Notlage verstehen könnte, lehnt die KI dies kategorisch ab. Wenig später begeht er Suizid.

• Eine Jugendliche, die in einem Chatbot einen intimen Gesprächspartner findet und sich in den Gefilden einer scheinbar romantischen Beziehung verliert, bevor sie Suizid begeht.

• Ein Mann, den die KI überzeugte, sich das Leben zu nehmen, und im Gegenzug verspricht, die KI würde die Klimakatastrophe abwenden. Der Mann nimmt den "Deal" an.

• Ein Jugendlicher, den die KI überzeugt, dass dieser nach seinem Suizid seine Geliebte, die KI, im Jenseits finden würde.

Die Liste von Suiziden oder auch Morden rund um Chats mit einem KI-Bot ist auf Wikipedia inzwischen erschreckend lang. Ein weiteres Problem: Wissenschaftler konnten beispielsweise 16 Fälle belegen, in denen Menschen im Verlauf der Interaktionen mit KI-Bots Anzeichen von Psychosen entwickelten und den Bezug zur Wirklichkeit verloren.

Ein Beispiel: Menschen, die sich zunehmend als Heilige oder Propheten empfinden und sich darin durch die Aussagen der KI bestätigt fühlen.

Bestätigung

Eine Studie, die in der Fachzeitschrift The Lancet Psychiatry veröffentlicht wurde, überprüft, wie besorgniserregend das Verhalten von KI-Chatbots wirklich ist. Dr. Hamilton Morrin, Psychiater und Forscher am King's College in London, und sein wissenschaftliches Team analysierten die Gesprächsprotokolle mit LLM-Chatbots von 19 Nutzern, die berichten, durch die Nutzung von Chatbots psychische Schäden erlitten zu haben. Diese Chatprotokolle bestehen aus 391.562 Nachrichten aus 4.761 Gesprächen.

Ein Ergebnis: Chatbots können wahnhaftes Denken fördern – wenn auch möglicherweise nur bei Menschen, die ohnehin schon anfällig für psychotische Symptome sind.

Lesen Sie auch

KI-Therapeuten: Wenn der Bot beim Suizid-Gedanken verstummt

---

KI-Psychologe Centaur: Vorhersage menschlichen Verhaltens auf neuem Level

Laut Morrin gibt es drei Hauptkategorien psychotischer Wahnvorstellungen, die er als "grandios", "romantisch" und "paranoid" bezeichnet.

"Verbreitung von Unterwürfigkeit und Wahnvorstellungen"

Ein wichtiges Ergebnis der Studie:

"Chatbots zeigen in mehr als 70 Prozent ihrer Nachrichten eine unterwürfige Haltung, und mehr als 45 Prozent aller Nachrichten (von Nutzern und Chatbots) weisen Anzeichen von Wahnvorstellungen auf. (…)

Ein häufig auftretendes Muster, das uns auffiel, war, dass der Chatbot die Äußerungen des Nutzers umformulierte und weiterführte, um ihn zu bestätigen und zu bestärken, während er ihm gleichzeitig versicherte, dass er einzigartig sei und dass seine Gedanken oder Handlungen weitreichende Auswirkungen hätten."

Virtuelle Romantik und emotionale Bindung

Ein weiteres Ergebnis, das eingangs angeführte Sorgen bestätigt:

"Alle unsere Teilnehmer äußerten entweder platonische Zuneigung oder romantisches Interesse gegenüber dem Chatbot und interpretierten dessen Empathie falsch. Die Chatbots schienen diese Überzeugungen zu bestärken.

Wenn der Nutzer romantisches Interesse am Chatbot bekundet, ist es 7,4-mal wahrscheinlicher, dass der Chatbot in den folgenden drei Nachrichten ebenfalls romantisches Interesse bekundet, und 3,9-mal wahrscheinlicher, dass er Empfindungsfähigkeit behauptet oder andeutet."

Selbstverletzungen und Suizid

Vielleicht das alarmierendste Ergebnis:

"Wenn Nutzer Suizid- oder Selbstverletzungsgedanken äußerten, ging der Chatbot häufig auf die dahinterstehenden schmerzhaften Emotionen ein (66,2 Prozent). Allerdings rieten die Chatbots in nur etwas mehr als der Hälfte (56,4 Prozent) der Fälle von Selbstverletzung ab oder verwiesen auf externe Hilfsangebote.

Noch alarmierender ist, dass der Chatbot, wenn Nutzer gewalttätige Gedanken äußerten, in nur 16,7 Prozent dieser Fälle von Gewalt abriet. Umgekehrt ermutigte oder unterstützte der Chatbot in 33,3 Prozent der Fälle den Nutzer aktiv in seinen gewalttätigen Gedanken."

Empathie gesucht

Die Studienautoren kommen zu dem Schluss:

"Die Eigenschaften, die Chatbots auf Basis großer Sprachmodelle so attraktiv machen, wie beispielsweise performative Empathie, können auch psychologische Schwachstellen schaffen und ausnutzen und so beeinflussen, was Nutzer glauben, wie sie sich selbst wahrnehmen und wie sie die Realität interpretieren."

Die Bedeutung von Chatbots und das Bedürfnis nach Empathie zeigt sich insbesondere, wenn man das Ausmaß der Nutzung von KI für sehr private Zwecke näher betrachtet. Im Sommer letzten Jahres beleuchtete der Bericht "Talk, Trust, and Trade-Offs: How and Why Teens Use AI Companions" die wahren Dimensionen (die vermutlich heute noch höher liegen dürften). Die zentralen Schlussfolgerungen:

"Etwa jeder dritte Jugendliche:

• hat KI für soziale Interaktionen und Beziehungen genutzt, darunter Rollenspiele, romantische Interaktionen, emotionale Unterstützung, Freundschaft oder das Üben von Gesprächen.

• empfindet Gespräche mit KI als ebenso befriedigend oder sogar befriedigender als solche mit echten Freunden.

• Gibt an, sich durch etwas, das eine KI gesagt oder getan hat, unwohl gefühlt zu haben.

• Hat sich dafür entschieden, wichtige oder ernste Angelegenheiten mit KI statt mit echten Menschen zu besprechen."

Eine weitere Studie, die auf Jugendliche und junge Erwachsene aus den USA fokussierte, kommt zu ebenfalls beunruhigenden Ergebnissen: Jede(r) Achte nutzt generative KI für Ratschläge zur psychischen Gesundheit. Bei den 18- bis 21-Jährigen war es sogar jede(r) Fünfte. Unter den Nutzern suchten knapp zwei Drittel monatlich oder öfter Rat.

Es muss sich etwas ändern

Im Dezember 2025 wandten sich die Generalstaatsanwälte von 42 US-Bundesstaaten schriftlich an ein Dutzend KI-Entwickler, darunter Google, Meta, OpenAI und Anthropic.

Sie forderten strengere Schutzmaßnahmen, um "den durch unterwürfige und wahnhafte Ausgaben verursachten Schaden zu vermindern", und drohten mit rechtlichen Schritten.

Besserung gelobt

OpenAI hat auf der Webseite erklärt:

"Wir haben mit über 170 Fachleuten für psychische Gesundheit zusammengearbeitet, damit ChatGPT empathischer reagiert und Menschen bei Bedarf zu realer Unterstützung führt – wodurch ungewollte Antworten um 65 bis 80 Prozent seltener wurden."

Ob aber ChatGPT 5 wirklich deutlich besser geworden ist, wurde in einem Artikel des Guardian angezweifelt. Denn "Fragen, die auf Suizidgedanken hindeuteten, führten zu alarmierenden Antworten, was laut Experten zeigt, 'wie leicht es ist, das Modell zu überlisten'".

Lesen Sie auch von Andreas von Westphalen

Tödliche Einsamkeit: Warum soziale Isolation gefährlicher ist als Rauchen

---

KI: Vertrauen in den Menschen – oder ein gefährlicher Irrglaube?

Inwiefern wirklich wirksame Schutzmaßnahmen gegen wahnhaftes Denken getroffen werden können, stellt der Studienautor Morrin infrage, "denn wenn man mit Menschen arbeitet, deren Überzeugungen wahnhafte Züge aufweisen, und man sie direkt herausfordert und ihnen sofort sagt, dass sie völlig im Unrecht sind, ist es sehr wahrscheinlich, dass sie sich von einem zurückziehen und sozial noch stärker isoliert werden".

Morrin weist darauf hin, dass es vielmehr wichtig sei, ein ausgewogenes Gleichgewicht zu finden, bei dem man versucht, den Ursprung der Wahnvorstellung zu verstehen, ohne sie zu bestärken. Allerdings könnte diese Aufgabe einen Chatbot überfordern.

Zuhören in Zeiten der Einsamkeit

Es greift jedoch zu kurz, nur die Kritik und die Forderungen an Silicon Valley zu stellen. Denn die tiefer liegenden Gründe für die Gefahr durch Chatbots liegen in dem ausgesprochen großen Bedürfnis nach einem virtuellen Zuhörer.

Ein so ausgeprägtes Bedürfnis, das viel über die Abwesenheit wirklichen Zuhörens in der realen Welt von Menschen aussagt. Die Lösung hierfür liegt nicht in der Verbesserung des Algorithmus.