Digitale Wahlmanipulation: "Die KI baut die Persönlichkeit"

2042: Neue Politik-Welten, neue Kandidaten, neurotische Wähler. Wie Populismus upgedatet werden kann. Ein Interview mit Christian J. Meier

2022 erschien Christian J. Meiers zweiter Roman Der Kandidat. Meier arbeitet als Journalist zu Fragen der Künstlichen Intelligenz und Zukunftstechnologien. Was er in seinen journalistischen Texten für die SZ, NZZ oder RiffReporter nicht ausmalen kann, projiziert er in seinen Romanen in die nahe Zukunft.

Dabei ist das KI-Thema schon ein altes Thema der Science Fiction und spätestens mit den Robotergeschichten des US-Autors Isaac Asimov, aber auch frühen Computerkunstexperimenten des deutschsprachigen Urgesteins Herbert W. Franke, der letztes Jahr leider verstarb, ist KI zumindest auch in der Literatur ein virulentes Thema gewesen.

Inzwischen hat uns die KI im Alltag erreicht. Meier überlegt, wie diese technologischen Möglichkeiten unsere Gesellschaft und Zukunft verändern könnten.

"Vorsicht, da kommt was!"

Wie sind Sie auf das Szenario Ihres Romans gestoßen? Ich lese darin einerseits digitale Wahlmanipulation, dann aber auch viel Parteienpolitik. Wie sehen Sie das?

Christian J. Meier: Ich schrieb meinen Roman, nachdem ich das Buch über den Cambridge Analytica-Skandal von Brittany Kaiser gelesen hatte, das mich nachdrücklich beeindruckt hat. Das Buch beschäftigt sich mit Wahlmanipulation durch digitale Mittel und letztlich auch KI.

Eine grundlegende Methode meiner Arbeitsweise besteht darin, dass ich mir aktuelle Entwicklungen wie diese digitale Wahlmanipulation anschaue und das weiterspinne. Ich habe die Möglichkeiten, die eine KI bietet, in die nahe Zukunft fortgeführt. Inwieweit wäre die Verstärkung des heute Möglichen machbar? Das hat mich zu einem Szenario geführt, das ich beängstigend fand und das mich so beschäftigte, dass ich das in einem Roman ausdrücken wollte.

Als Journalist könnte ich durchaus journalistisch über solche Themen schreiben, aber manches ist eben noch nicht so weit. Dann macht ein SF-Szenario mehr Sinn, um Aufmerksamkeit darauf zu lenken, dass dies noch ein großes und schwieriges Thema werden kann.

Ist der Roman also als Warnung geschrieben?

Christian J. Meier: Es gibt im Englischen diesen Begriff "cautionary story" – Vorsicht, da kommt was! Ein bisschen in diese Richtung würde ich auch meinen Roman einstufen.

Bei der Lektüre des Romans hatte ich jedoch nicht den Eindruck, dass er komplett in die dystopische Richtung geht. Es ist nicht ein völlig beängstigendes Szenario in "Der Kandidat".

Christian J. Meier: Ja, das stimmt. Eigentlich ist es am Anfang keine Dystopie. Ich schildere einen Staat, der aus Krisen gelernt hat, präventiver vorzugehen. Dadurch reguliert er auch das Internet stärker. Fake News zum Beispiel werden automatisch markiert und Deepfakes werden technisch blockiert.

Im Prinzip ist das erst mal keine Dystopie. In dieser Welt gibt es einen stark ausgeprägten Datenschutz und man versucht, bei Krisen präventiv vorzugehen. Etwa gegen Pandemien oder den Klimawandel.

Dennoch kennt dies auch seine Schattenseiten: Zum Beispiel werden da Kilometer erfasst, die man fährt. Wie weit man fährt. Da gibt es ein Budget, innerhalb dessen man umsonst fährt. Wenn man darüber hinausgeht, muss man zahlen. Das ist ein starkes Nudging-System. Die Idee ist jetzt, dass solch staatlich aufgesetzte Systeme Widerspruch und Widerstände auslösen.

Solche Bewegungen haben wir auch bei den Corona-Lockdowns gesehen. Diese Kräfte, die dort wirken, organisieren sich. Im Hintergrund finden sie Wege, zum Beispiel diese Technologie zu hacken, die Deepfakes unmöglich macht. Sie nutzen dann Deepfakes, um diesen Kandidaten, der einen starken Freiheitspathos hat, zu fördern und keiner rechnet damit.

Dazu kommt dann noch die KI "Carin", die den Gedanken des Micro-Targeting auf die Spitze treibt. Das gibt es heutzutage schon, dass wir bestimmte Zielgruppen ganz genau in den Fokus nehmen. Teilweise sind das Gruppen von nur wenigen Tausend Menschen, die ganz gezielt angesprochen werden. Der Skandal um Cambridge Analytica hat das deutlich gezeigt. In meinem Roman ist diese Entwicklung so auf die Spitze getrieben, dass die Botschaft zielgenau auf eine Person geht.

Schwächen der Personen werden direkt angesprochen

Das fand ich sehr interessant beschrieben: Einerseits sehr emotional und euphorisch, andererseits aber auch beängstigend. Dieser Politiker spricht die Protagonistin scheinbar direkt an, sie spürt Verbindungen. Die Politik wird vorerst nicht mit Argumenten, sondern durch persönlich perfekt abgestimmte Emotionen an den Mann und die Frau gebracht? Die angesprochene Person möchte zum Beispiel unbedingt auf die Philippinen.

Christian J. Meier: Da werden die Schwächen der Personen direkt angesprochen. Welche Bedürfnisse haben sie? Was Sie angesprochen haben: Es ist zu dieser Zeit sehr schwierig, ein Praktikum auf den Philippinen zu machen, wegen dieser de facto existierenden Reisebeschränkung.

Es gibt dann in der Politik einen Kanzlerkandidaten, der wieder mehr Freiheit einführen möchte und der dann genau das auf eine subtile Art anspricht, dass die Zielperson gar nicht merkt, wie sie individuell aufs Korn genommen wird.

Es ist zwar zielgenau, aber es wird nicht platt angesprochen. Es wird eben nicht direkt gesagt: "Möchtest du nicht auf die Philippinen?" Das weckt Sympathien für jemanden, der genau meinen Freiheitsdrang, den ich nicht ausleben kann, adressiert. Dann hat man eine direkte Verbindung zu dem Kandidaten.

Es gibt im Roman auch zwei Existenzebenen: Einerseits in der Augmented Reality und andererseits in der Realpräsenz. Wie ist das Verhältnis zwischen den beiden?

Christian J. Meier: Die Beeinflussung kommt nur virtuell, nicht in der realen Welt. Es ist so gedacht, dass der Kandidat zwar bei realen Veranstaltungen spricht, die dann aufgezeichnet werden. In diese Aufzeichnung wird dann ein Deepfake hineingeschnitten, die dann auf die Person wirkt, die sich eine Augmented Reality von zu Hause aus anguckt. Wenn man sich auf einer realen Veranstaltung befindet, wird man nicht bespielt. Es ist eine digitale Angelegenheit.

Neurotische Wähler: Populisten, Emotionen und ein neuer Möglichkeitsraum

Der Politiker entstammt dem populistischen Spektrum. Bereits in der analogen Welt besteht mit diesem Politmodell eine große Einflussnahme. Wie schaut das aber im Digitalen aus?

Christian J. Meier: Man hat gesehen, dass die AfD im Wahlkampf 2017 digitale Mittel, also konkret: Facebook, benutzt hat, um Wahlkampf zu machen. Viel stärker als damals noch alle anderen Parteien. Bei Facebook gibt es Funktionen, um eine enge Zielgruppe zu finden. Das haben sie auch genutzt, um ihre Botschaft loszuwerden und um Follower zu kriegen.

Hinter diesen Targeting-Algorithmen bei Facebook stehen auch Machine-Learning-Methoden. Das geht da schon etwas in diese Richtung. Dass es hier oft Populisten sind, die das nutzen, hat natürlich wieder mit der Rolle der Emotionen zu tun. Wenn man Gefühle weckt, wirkt das am besten.

Können Sie da Beispiele nennen?

Christian J. Meier: Man hat es am eben erwähnten Beispiel in Deutschland gesehen. In den USA war es ähnlich: Barack Obama hat bereits intensiv Facebook genutzt, dann kam aber der Wahlkampf von Donald Trump. Da waren die erwähnten Cambridge Analytica involviert, die mit psychologischen Profilen auch emotionale Botschaften gesendet haben.

Mit dem Ziel der Demobilisierung, also dass man Wähler von der Wahl abhält, indem man mit den Profilen herausgefunden hat, welche Menschen etwas ängstlich sind. Es gibt das Persönlichkeitsmerkmal des Neurotisch-Seins.

Diesen Menschen hat man dann Botschaften wie "Hillary Clinton will Amerika zerstören!" oder so geschickt. Neurotische Wähler, die wahrscheinlich Hillary Clinton wählen würden, hat man versucht, davon abzuhalten. Das kann funktionieren, wenn es ein Kopf-an-Kopf-Rennen ist.

Es geht da um das Zünglein an der Waage. Wenn man zigtausend Leute abhält, hat man vielleicht gewonnen. Es ist umstritten, ob das tatsächlich gewirkt hat. Man kann das nicht nachweisen, aber vom Prinzip her ist das schon denkbar.

Persönlichkeitsmodelle

In Ihrem Roman hilft die Carin-App der Protagonistin auch beim Lesen von Gestik und Mimik und Körpersprache allgemein, ob die Person, die gerade spricht, die Wahrheit sagt oder authentisch ist. Können Sie dazu noch etwas sagen?

Christian J. Meier: Die KI baut Persönlichkeitsmodelle auf Basis von Mustern in Verhaltensdaten. Sie hat Zugriff auf eine riesige Menge an Verhaltensdaten. Sie analysiert die Zielperson und ordnet sie in dieses Persönlichkeitsmodell ein.

Das Ergebnis benutzt sie dann, um die Person zu manipulieren. Sie findet zum Beispiel heraus, in welchen Lebensbereichen sie sich unfrei fühlt, um auf ihre persönliche Schnittmenge mit dem Freiheitspathos des Kandidaten abzuzielen. Die Protagonistin Sophie hat Carin entwickelt und kann sie für ihre Zwecke nutzen. Sie weiß aber nicht, dass Carin missbraucht wird. Auch sie selbst wird von einer anderen Instanz der KI manipuliert.

Sie ist zugleich Opfer und Nutzerin der KI. Als Nutzerin kann sie eben diese Analysefähigkeiten nutzen, und kommt so dem Betrug auf die Spur. Die KI schaut zum Beispiel: Was ist das für eine Persönlichkeit und ist diese authentisch? Der Kandidat Riemann ist durchaus authentisch. Er besitzt tatsächlich diesen Freiheitspathos. Es gibt also Hintermänner.

Dennoch entwickelt er mit der Zeit ein eigenes Bewusstsein, auch ohne dieses Backup-Team selbst Karriere zu machen.

Christian J. Meier: Er wird nicht in das ganze Spiel dahinter eingeweiht. Er weiß nichts von den Deepfakes, die von ihm angefertigt werden, um damit Leute zu bearbeiten. Das soll er eben nicht wissen, um eben auch authentisch zu wirken. Er ist nur ein Werkzeug der Hintermänner.