"Ein Chatbot quasselt Kriegsherren unter den Tisch. Das halte ich für legitim"

Telepolis ließ Sprach-KI ChatGPT Friedensplan für Ukraine entwerfen. Reaktionen fielen unterschiedlich aus. Experiment warf Fragen auf, brachte aber auch Erkenntnisse.

Zu Ostern hatte Telepolis in zwei Teilen Texte der Sprach-KI ChatGPT zum Ukraine-Konflikt veröffentlicht, darunter den Entwurf eines Friedensvertrags. Die Idee zu dem Experiment hatte unser Heise-Kollege Hartmut Gieselmann aus der Redaktion des Magazins c’t.

Angesichts zahlreicher Reaktionen sprach Telepolis-Chefredakteur Harald Neuber mit Hartmut Gieselmann über die Intention, das Ergebnis und die journalistische Einordnung der Antworten, die unter anderem auch von unserem Partnermedium Berliner Zeitung veröffentlicht wurden.

Die Sprach-KI ChatGPT Briefe an Wolodymyr Selenskyj und Wladimir Putin schreiben und einen Friedensvertrag entwerfen lassen – wie bist Du auf diese Idee gekommen?

Hartmut Gieselmann: Ist das nicht naheliegend? Die aktuelle Diskussion um den Krieg in der Ukraine ist extrem emotional aufgeladen und jede Seite denkt in dichotomen Freund-Feind-Schemata. Mit dazu beigetragen hat der Dauerbeschuss der Medien in den vergangenen 14 Monaten.

Diplomatische Verhandlungen gelten als naive Träumereien, denn es gilt ja auf jeder Seite, das absolute Böse zu vernichten. In dieser Logik wird dann auch gerne immer wieder Adolf Hitler zum Vergleich rausgekramt. Damit berauben wir Menschen uns aber notwendiger Handlungsoptionen.

ChatGPT ist davon frei. Nicht nur, dass die Maschine ihre Antworten emotionslos rein mathematisch anhand von Wahrscheinlichkeiten berechnet, ihr Erfahrungshorizont Endet im September 2021. Viele sehen das ja als Nachteil. Aber wir haben zum Beispiel beim Test von Bing gesehen, dass diese Suchmaschine dümmere Antworten gibt als ChatGPT mit GPT-4. Wenn man es positiv betrachtet: Ihr Trainingsmaterial wurde in den vergangenen 14 Monaten nicht mit Propaganda vergiftet.

Was wäre also – so meine Überlegung – wenn wir jemanden aus der Vergangenheit befragen, der immer noch im September 2021 lebt? Gewiss, das Sprachmodell halluziniert zu 20 bis 30 Prozent Humbug. Aber ich wollte wissen, wie es reagiert, wenn ich ihm erzähle, dass im Februar 2022 ein Krieg ausgebrochen ist.

Es sollte erraten, welcher das sein könnte und dann Handlungsoptionen aufzeigen, wie man im September 2021 eine Eskalation hätte verhindern können. ChatGPT hat gelernt, dass Gewalt keine Lösung ist. Er würde also nicht vorschlagen, Putin mit einem Killerkommando auszuschalten, bevor ein Krieg ausbricht.

In Science-Fiction-Filmen wie "Colossus: The Forbin Project" oder "Wargames" sind emotionslose Computer die Bösen, die den Dritten Weltkrieg auslösen und die Menschheit zu vernichten drohen. Ich wollte den Spieß umdrehen und sehen, ob eine reale KI Konzepte hat, dies zu verhindern.

Sind die Antworten so ausgefallen, wie Du es erwartet hast?

Hartmut Gieselmann: Es hat sich über drei Stunden eine Diskussion entwickelt, in der ich mir zunächst die politische Ausgangssituation von ChatGPT mit GPT-4 erklären ließ. Ich habe zwar in den 90ern Sozialwissenschaften studiert und zu Kriegspropaganda gearbeitet, aber die exakten Hintergründe zum Konflikt in der Ostukraine und zum Maidan waren mir nicht geläufig.

Da fand ich manche Erläuterungen von ChatGPT durchaus erhellend. GPT-4 ist ziemlich gut darin, die verschiedenen Aspekte eines Themas sowie die Vor- und Nachteile aufzuzählen. Und da die Kriegsparteien extrem auf Selenskyj und Putin personifiziert wurden, interessierte mich die psychologische Komponente, wie man beide an einen Verhandlungstisch bringen könnte.

Nachdem Telepolis die KI-generierten Texte über Ostern in zwei Teilen veröffentlicht hat, gab es ziemliche Debatten im Forum. Einige Leser haben uns heftig kritisiert. Er könne den Zweck des Artikels nicht ganz erkennen, schrieb User K3 unter dem zweiten Teil: "Das Ergebnis hat das Niveau eines Schulaufsatzes. Wenn es ernst gemeint ist, einen Chatbot-Text als Friedenslösung vorzuschlagen, dann ist das in meinen Augen eher eine Verhöhnung." Kannst Du das nachvollziehen?

Hartmut Gieselmann: Natürlich kann ich nachvollziehen, dass ein Großteil der Leser so reagiert. Schließlich haben alle in den vergangenen 14 Monaten fleißig Nachrichten konsumiert und sich eine Meinung gebildet. Das ist ja gerade die Krux, warum sich die Seiten so unversöhnlich gegenüberstehen. Ob ein Text in der Schule geschrieben wurde, sagt übrigens nichts über seine Qualität aus.

User Flake sah in den Beiträgen "ein Zeugnis, wie KI bewusst missbraucht werden kann, diesmal sogar von einem kritischen Medium wie Telepolis". Die Antworten fielen jetzt kritisch gegenüber dem Westen aus. "In ein paar Monaten, wenn die Daten bis April 2023 zurückreichen, wird ChatGPT für Waffenlieferungen und eine militärische Lösung plädieren und das 'Interview' wird auf der Homepage des Verteidigungsministeriums wiedergegeben werden", kommentierte der User. Kann doch sein, oder?

Hartmut Gieselmann: Natürlich kann das passieren. Aber jetzt hat GPT-4 nun mal Vorschläge aufgeschrieben, wie man beide Seiten diplomatisch ansprechen könnte und wer eventuelle Friedensverhandlungen einleiten und überwachen könnte. Warum nicht die OSZE? Zum Spaß habe ich ChatGPT sogar einen Einakter für ein Theaterstück im Stil von Bertolt Brecht schreiben lassen, in dem Putin und Selenskyj unter Aufsicht eines OSZE-Gesandten einen Friedensvertrag unterzeichnen.

Dramaturgisch ist das banal, aber warum diskutiert niemand solche Optionen in der Öffentlichkeit? Wenn sich in einem Land verschiedene Bevölkerungsgruppen in einzelnen Regionen nicht grün sind: Warum arbeitet man keine föderale Länderstruktur mit Autonomierechten aus, wie GPT-4 es vorschlägt? So halten es ja auch die Bayern, Preußen und Sachsen in Deutschland miteinander aus.