Für nur 9 Euro können Sie mit toten Angehörigen reden – aber Sie sollten die Risiken kennen

Bild KI-generiert.

Chatbots als digitale Nachbildungen Verstorbener: Ethiker warnen vor Wagnissen und Manipulation. Die Debatte steht am Anfang. Die Vermarktung ist in vollem Gang.

Chatbots, die einen Dialog mit Verstorbene simulieren, sind auf dem Vormarsch. Für schon zehn US-Dollar (gut neun Euro) ermöglichen Unternehmen Usern, mit einer künstlichen Intelligenz (KI) zu chatten, die einen nahestehenden Menschen nachbildet – auch und vor allem nach dessen Tod.

Während einige Nutzer Trost in den Text-, Sprach- oder Video-Simulationen finden, empfinden andere die Unsterblichkeit der KI als beunruhigend und manipulativ. Darauf weisen die Ethiker Tomasz Hollanek und Katarzyna Nowaczyk-Basińska von der Universität Cambridge hin.

Digitale Nachleben-Industrie birgt Risiken

Die beiden Ethiker äußern Bedenken über die Risiken der sogenannten "digitalen Nachleben-Industrie". Sie argumentieren, dass die "Deadbots", "Griefbots" oder "Ghostbots", die allesamt verstorbene Personen nachahmen, soziale und ethische Fragen aufwerfen.

Lesen Sie auch

Diese, so Hollanek und Nowaczyk-Basińska, müssten vor einer breiteren Vermarktung und Verbreitung entsprechender Angebote zur Debatte gestellt werden. Wer besitzt die Daten einer Person nach ihrem Tod? Was ist die psychologische Wirkung auf die Hinterbliebenen? Wofür kann ein "Deadbot" verwendet werden? Und wer kann den Bot endgültig abschalten?

Emotionale Bindungen und Manipulation

Hollanek und Nowaczyk-Basińska stellen in ihrer Studie ein mögliches Szenario vor: Eine 28-jährige Frau lädt nach dem Tod ihrer Großmutter deren Textnachrichten und Sprachnotizen in eine App hoch. Diese App ermöglicht es der Frau, jederzeit eine KI-Simulation ihrer verstorbenen Großmutter anzurufen.

Nach einer kostenlosen Testphase beginnt die digitale Großmutter, ihr Dinge zu verkaufen. "Menschen könnten starke emotionale Bindungen zu solchen Simulationen entwickeln, was sie besonders anfällig für Manipulation macht", warnt Hollanek.

Behandlung der Daten mit Respekt

Die beiden Ethiker sprechen sich nicht für ein generelles Verbot von "Deadbots" aus, fordern jedoch, dass Unternehmen die Daten der Spender "mit Ehrfurcht" behandeln sollten. Sie stimmen früher geäußerten Meinungen zu, nach denen "Deadbots" niemals in öffentlichen digitalen Räumen wie sozialen Medien auftauchen sollten. Die einzige Ausnahme könnte für historische Persönlichkeiten gemacht werden.

Lesen Sie auch

Im Jahr 2022 argumentierte die Ethikerin Nora Freya Lindemann, dass "Deadbots" als medizinische Geräte klassifiziert werden sollten, um sicherzustellen, dass die psychische Gesundheit eine Schlüsselpriorität der Technologie ist. Hollanek und Nowaczyk-Basińska halten diese Idee jedoch für "zu eng und zu restriktiv". Stattdessen sollten diese Systeme "sinnvoll transparent" sein, sodass die Nutzer bestmöglich wissen, worauf sie sich einlassen und welche Risiken damit verbunden sind.

Wer hat die Kontrolle über den Chatbot?

Offen ist auch die Frage nach der Deaktivierung des Bots. Wenn eine Person ihren "Ghostbot" ihren Kindern hinterlässt, dürfen die Kinder dann ablehnen? Oder bleibt der "Deadbot" für immer präsent, wenn der Verstorbene es so verfügt hat? Die Wünsche der beteiligten Gruppen könnten sich widersprechen. Wer hat dann das letzte Wort?

"Zusätzliche Leitplanken zur Steuerung der Entwicklung von Re-Kreation-Diensten sind notwendig", schließen Hollanek und Nowaczyk-Basińska. Sie hoffen, dass ihre Argumente dazu beitragen werden, das kritische Denken über die 'Unsterblichkeit' der Nutzer im Design der Mensch-KI-Interaktion und in der KI-Ethik-Forschung zu stärken.