Digitale Wahlmanipulation: "Die KI baut die Persönlichkeit"
2042: Neue Politik-Welten, neue Kandidaten, neurotische Wähler. Wie Populismus upgedatet werden kann. Ein Interview mit Christian J. Meier
2022 erschien Christian J. Meiers zweiter Roman Der Kandidat. Meier arbeitet als Journalist zu Fragen der Künstlichen Intelligenz und Zukunftstechnologien. Was er in seinen journalistischen Texten für die SZ, NZZ oder RiffReporter nicht ausmalen kann, projiziert er in seinen Romanen in die nahe Zukunft.
Dabei ist das KI-Thema schon ein altes Thema der Science Fiction und spätestens mit den Robotergeschichten des US-Autors Isaac Asimov, aber auch frühen Computerkunstexperimenten des deutschsprachigen Urgesteins Herbert W. Franke, der letztes Jahr leider verstarb, ist KI zumindest auch in der Literatur ein virulentes Thema gewesen.
Inzwischen hat uns die KI im Alltag erreicht. Meier überlegt, wie diese technologischen Möglichkeiten unsere Gesellschaft und Zukunft verändern könnten.
"Vorsicht, da kommt was!"
Wie sind Sie auf das Szenario Ihres Romans gestoßen? Ich lese darin einerseits digitale Wahlmanipulation, dann aber auch viel Parteienpolitik. Wie sehen Sie das?
Christian J. Meier: Ich schrieb meinen Roman, nachdem ich das Buch über den Cambridge Analytica-Skandal von Brittany Kaiser gelesen hatte, das mich nachdrücklich beeindruckt hat. Das Buch beschäftigt sich mit Wahlmanipulation durch digitale Mittel und letztlich auch KI.
Eine grundlegende Methode meiner Arbeitsweise besteht darin, dass ich mir aktuelle Entwicklungen wie diese digitale Wahlmanipulation anschaue und das weiterspinne. Ich habe die Möglichkeiten, die eine KI bietet, in die nahe Zukunft fortgeführt. Inwieweit wäre die Verstärkung des heute Möglichen machbar? Das hat mich zu einem Szenario geführt, das ich beängstigend fand und das mich so beschäftigte, dass ich das in einem Roman ausdrücken wollte.
Als Journalist könnte ich durchaus journalistisch über solche Themen schreiben, aber manches ist eben noch nicht so weit. Dann macht ein SF-Szenario mehr Sinn, um Aufmerksamkeit darauf zu lenken, dass dies noch ein großes und schwieriges Thema werden kann.
Ist der Roman also als Warnung geschrieben?
Christian J. Meier: Es gibt im Englischen diesen Begriff "cautionary story" – Vorsicht, da kommt was! Ein bisschen in diese Richtung würde ich auch meinen Roman einstufen.
Bei der Lektüre des Romans hatte ich jedoch nicht den Eindruck, dass er komplett in die dystopische Richtung geht. Es ist nicht ein völlig beängstigendes Szenario in "Der Kandidat".
Christian J. Meier: Ja, das stimmt. Eigentlich ist es am Anfang keine Dystopie. Ich schildere einen Staat, der aus Krisen gelernt hat, präventiver vorzugehen. Dadurch reguliert er auch das Internet stärker. Fake News zum Beispiel werden automatisch markiert und Deepfakes werden technisch blockiert.
Im Prinzip ist das erst mal keine Dystopie. In dieser Welt gibt es einen stark ausgeprägten Datenschutz und man versucht, bei Krisen präventiv vorzugehen. Etwa gegen Pandemien oder den Klimawandel.
Dennoch kennt dies auch seine Schattenseiten: Zum Beispiel werden da Kilometer erfasst, die man fährt. Wie weit man fährt. Da gibt es ein Budget, innerhalb dessen man umsonst fährt. Wenn man darüber hinausgeht, muss man zahlen. Das ist ein starkes Nudging-System. Die Idee ist jetzt, dass solch staatlich aufgesetzte Systeme Widerspruch und Widerstände auslösen.
Solche Bewegungen haben wir auch bei den Corona-Lockdowns gesehen. Diese Kräfte, die dort wirken, organisieren sich. Im Hintergrund finden sie Wege, zum Beispiel diese Technologie zu hacken, die Deepfakes unmöglich macht. Sie nutzen dann Deepfakes, um diesen Kandidaten, der einen starken Freiheitspathos hat, zu fördern und keiner rechnet damit.
Dazu kommt dann noch die KI "Carin", die den Gedanken des Micro-Targeting auf die Spitze treibt. Das gibt es heutzutage schon, dass wir bestimmte Zielgruppen ganz genau in den Fokus nehmen. Teilweise sind das Gruppen von nur wenigen Tausend Menschen, die ganz gezielt angesprochen werden. Der Skandal um Cambridge Analytica hat das deutlich gezeigt. In meinem Roman ist diese Entwicklung so auf die Spitze getrieben, dass die Botschaft zielgenau auf eine Person geht.
Schwächen der Personen werden direkt angesprochen
Das fand ich sehr interessant beschrieben: Einerseits sehr emotional und euphorisch, andererseits aber auch beängstigend. Dieser Politiker spricht die Protagonistin scheinbar direkt an, sie spürt Verbindungen. Die Politik wird vorerst nicht mit Argumenten, sondern durch persönlich perfekt abgestimmte Emotionen an den Mann und die Frau gebracht? Die angesprochene Person möchte zum Beispiel unbedingt auf die Philippinen.
Christian J. Meier: Da werden die Schwächen der Personen direkt angesprochen. Welche Bedürfnisse haben sie? Was Sie angesprochen haben: Es ist zu dieser Zeit sehr schwierig, ein Praktikum auf den Philippinen zu machen, wegen dieser de facto existierenden Reisebeschränkung.
Es gibt dann in der Politik einen Kanzlerkandidaten, der wieder mehr Freiheit einführen möchte und der dann genau das auf eine subtile Art anspricht, dass die Zielperson gar nicht merkt, wie sie individuell aufs Korn genommen wird.
Es ist zwar zielgenau, aber es wird nicht platt angesprochen. Es wird eben nicht direkt gesagt: "Möchtest du nicht auf die Philippinen?" Das weckt Sympathien für jemanden, der genau meinen Freiheitsdrang, den ich nicht ausleben kann, adressiert. Dann hat man eine direkte Verbindung zu dem Kandidaten.
Es gibt im Roman auch zwei Existenzebenen: Einerseits in der Augmented Reality und andererseits in der Realpräsenz. Wie ist das Verhältnis zwischen den beiden?
Christian J. Meier: Die Beeinflussung kommt nur virtuell, nicht in der realen Welt. Es ist so gedacht, dass der Kandidat zwar bei realen Veranstaltungen spricht, die dann aufgezeichnet werden. In diese Aufzeichnung wird dann ein Deepfake hineingeschnitten, die dann auf die Person wirkt, die sich eine Augmented Reality von zu Hause aus anguckt. Wenn man sich auf einer realen Veranstaltung befindet, wird man nicht bespielt. Es ist eine digitale Angelegenheit.
Neurotische Wähler: Populisten, Emotionen und ein neuer Möglichkeitsraum
Der Politiker entstammt dem populistischen Spektrum. Bereits in der analogen Welt besteht mit diesem Politmodell eine große Einflussnahme. Wie schaut das aber im Digitalen aus?
Christian J. Meier: Man hat gesehen, dass die AfD im Wahlkampf 2017 digitale Mittel, also konkret: Facebook, benutzt hat, um Wahlkampf zu machen. Viel stärker als damals noch alle anderen Parteien. Bei Facebook gibt es Funktionen, um eine enge Zielgruppe zu finden. Das haben sie auch genutzt, um ihre Botschaft loszuwerden und um Follower zu kriegen.
Hinter diesen Targeting-Algorithmen bei Facebook stehen auch Machine-Learning-Methoden. Das geht da schon etwas in diese Richtung. Dass es hier oft Populisten sind, die das nutzen, hat natürlich wieder mit der Rolle der Emotionen zu tun. Wenn man Gefühle weckt, wirkt das am besten.
Können Sie da Beispiele nennen?
Christian J. Meier: Man hat es am eben erwähnten Beispiel in Deutschland gesehen. In den USA war es ähnlich: Barack Obama hat bereits intensiv Facebook genutzt, dann kam aber der Wahlkampf von Donald Trump. Da waren die erwähnten Cambridge Analytica involviert, die mit psychologischen Profilen auch emotionale Botschaften gesendet haben.
Mit dem Ziel der Demobilisierung, also dass man Wähler von der Wahl abhält, indem man mit den Profilen herausgefunden hat, welche Menschen etwas ängstlich sind. Es gibt das Persönlichkeitsmerkmal des Neurotisch-Seins.
Diesen Menschen hat man dann Botschaften wie "Hillary Clinton will Amerika zerstören!" oder so geschickt. Neurotische Wähler, die wahrscheinlich Hillary Clinton wählen würden, hat man versucht, davon abzuhalten. Das kann funktionieren, wenn es ein Kopf-an-Kopf-Rennen ist.
Es geht da um das Zünglein an der Waage. Wenn man zigtausend Leute abhält, hat man vielleicht gewonnen. Es ist umstritten, ob das tatsächlich gewirkt hat. Man kann das nicht nachweisen, aber vom Prinzip her ist das schon denkbar.
Persönlichkeitsmodelle
In Ihrem Roman hilft die Carin-App der Protagonistin auch beim Lesen von Gestik und Mimik und Körpersprache allgemein, ob die Person, die gerade spricht, die Wahrheit sagt oder authentisch ist. Können Sie dazu noch etwas sagen?
Christian J. Meier: Die KI baut Persönlichkeitsmodelle auf Basis von Mustern in Verhaltensdaten. Sie hat Zugriff auf eine riesige Menge an Verhaltensdaten. Sie analysiert die Zielperson und ordnet sie in dieses Persönlichkeitsmodell ein.
Das Ergebnis benutzt sie dann, um die Person zu manipulieren. Sie findet zum Beispiel heraus, in welchen Lebensbereichen sie sich unfrei fühlt, um auf ihre persönliche Schnittmenge mit dem Freiheitspathos des Kandidaten abzuzielen. Die Protagonistin Sophie hat Carin entwickelt und kann sie für ihre Zwecke nutzen. Sie weiß aber nicht, dass Carin missbraucht wird. Auch sie selbst wird von einer anderen Instanz der KI manipuliert.
Sie ist zugleich Opfer und Nutzerin der KI. Als Nutzerin kann sie eben diese Analysefähigkeiten nutzen, und kommt so dem Betrug auf die Spur. Die KI schaut zum Beispiel: Was ist das für eine Persönlichkeit und ist diese authentisch? Der Kandidat Riemann ist durchaus authentisch. Er besitzt tatsächlich diesen Freiheitspathos. Es gibt also Hintermänner.
Dennoch entwickelt er mit der Zeit ein eigenes Bewusstsein, auch ohne dieses Backup-Team selbst Karriere zu machen.
Christian J. Meier: Er wird nicht in das ganze Spiel dahinter eingeweiht. Er weiß nichts von den Deepfakes, die von ihm angefertigt werden, um damit Leute zu bearbeiten. Das soll er eben nicht wissen, um eben auch authentisch zu wirken. Er ist nur ein Werkzeug der Hintermänner.
Das Jahr 2042
Sie sehen Ihren Roman als Science Fiction. Bei Science-Fiction-Literatur gibt es eine gewisse Distanz zur Gegenwart. Wie groß ist diese bei "Der Kandidat"?
Christian J. Meier: Die zeitliche Distanz ist knapp 20 Jahre. Sprich: Die Handlung spielt im Jahr 2042. Die technologische Distanz ist ziemlich groß. Diese Tiefe an KI-Manipulation gibt es bei Weitem noch nicht.
Die Carin-Software ist eine sehr mächtige KI. Sie hat einen irren Datenpool zur Verfügung, den es in dieser Gestalt meiner Kenntnis nach noch nicht gibt. In meinem Roman funktioniert bereits das Internet der Dinge. Das heißt, die Menschen interagieren mit ihren Hausgeräten und die Daten fließen irgendwo hin.
Offiziell gibt es keinen großen Datenpool, sondern die Firmen, die diese Geräte herstellen, verwalten diese Daten. Hinter diesen Firmen fließen die Daten dann doch zusammen. Da ist eine Menge an Verhaltensdaten im Spiel, die es derzeit meines Erachtens noch nicht gibt, weil das Internet der Dinge noch nicht so weit vorgedrungen ist. Wenn wir Kaffee kochen, dann landen diese Verhaltensdaten nicht unbedingt im Netz.
Die großen Techfirmen haben zwar riesige Datenmengen, aber nicht so umfassend. Carin hat aber Zugriff auf das alles und kann entsprechend Muster in diesen umfassenden Verhaltensdaten suchen. Daraufhin kann sie sehr feinkörnige Persönlichkeitsdaten der Personen anfertigen.
Dies ist ganz klar ein Science-Fiction-Anteil, dass eine KI ein so sehr individualisiertes Micro-Targeting erlaubt. Heute ordnet man die Menschen in Gruppen ein, in meinem Roman ist diese Gruppe reduziert auf 1. Das ist ins Extreme gedacht. Ob das jemals so krass sein wird, weiß ich nicht. Aber wenn man die Diskussionen von Experten zu dieser Thematik anschaut, dann ist das als Drohkulisse vorhanden.
Das Internet der Dinge greift in den Alltag der Menschen ein. Neue Technologien sind meist erfolgreich, wenn sie Dinge des Alltags einfacher machen. Über diese Gewöhnungsschiene könnte das sich gesellschaftlich durchsetzen. Oder was denken Sie?
Christian J. Meier: Die Menschen im Roman denken da aber anders. Die offizielle Regelung dort ist ja, dass diese Daten offiziell nicht in einen Pool fließen dürfen. Das wird inoffiziell von den Firmen zusammengeführt, die ein Interesse haben, einen größeren Datenpool zu haben, um ihre Algorithmen besser entwickeln zu können.
Es ist so ähnlich wie mit den Deepfakes, dass man nicht damit rechnet. Man denkt, das ist alles super geregelt und das kann alles nicht passieren, und dann passiert es eben doch. Die Idee ist: Man bezahlt dann auch für diese Services. Man zahlt für das Gerät. Ich kann mir eine solche Internet-der-Dinge-Maschine oder eine normale Kaffeemaschine kaufen.
Man hat in dieser fiktionalen Welt eigentlich Freiheiten. Man bezahlt nicht mit der Preisgabe der eigenen Daten, sondern mit mehr Geld für diese besondere, mit dem Internet verbundene Kaffeemaschine. Und denkt, man wäre damit datenmäßig auf der sicheren Seite. Ist man aber nicht.
Belohnungen, Strafen und korrektes Funktionieren
Kann man das gesellschaftlichen Fortschritt nennen?
Christian J. Meier: Nicht unbedingt. Aber in der Form, wie es in meinem Roman umgesetzt ist, finde ich es diskutabel, weil man weiterhin Freiheiten hat. Wenn wir das Beispiel Impfen aufgreifen: Dort gibt es keine Impfpflicht. Das ist überhaupt kein Thema. Sondern eine Belohnung. Man erhält Geld, weil man sich impfen lässt. Man wird aber nicht dadurch motiviert, dass man andere schützt, indem ich mich jetzt impfen lasse. Im Sinne von: Ich tue etwas für die Gesellschaft.
Wir haben dann keinen mündigen Bürger, sondern jemand, der zum korrekten Funktionieren gebracht wird. Durch Anreize oder Strafen. Das ist ja beides. Es gibt Boni und es gibt Maluse. Es ist nicht so schlimm wie das System in China, wo es vielleicht eher ums Wohlverhalten im sittlichen Sinne geht. Natürlich auch politisch, weil man in China nicht offen gegen die Regierung sprechen darf.
Eigentlich ist man in meinem Roman frei. Dadurch, dass viele die finanziellen Boni brauchen, um die Miete zu bezahlen, ist man es dann aber doch nicht. Und diese Unfreiheit ist es letztlich, die viele Wähler zum Kandidaten Boris Riemann treibt.
Ein ambivalentes Thema. Besten Dank für das ausführliche Gespräch.
Christian J. Meier: Gerne.
Christian J. Meier
Der Kandidat
416 Seiten, 12,95 Euro
ISBN: 978-3947619610
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Buchempfehlung (Amazon Affiliates) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Amazon Affiliates) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.