Die Beinahe-Machtübernahme

KI kann Menschen mit ähnlichen Ansichten erkennen, schon bevor sie selbst wissen, dass sie diese Ansichten haben. Doch uns schützt eine zentrale menschliche Eigenschaft

Die Demokratie setzt die Vernunft im Volke voraus, die sie erst hervorbringen soll.

Karl Jaspers

Am 6. Januar 2021 hält die Welt den Atem an. Ein aufgebrachter Mob stürmt, angefeuert durch den eigenen Präsidenten, das Kapitol in Washington und damit das Herz der amerikanischen Demokratie. Viele der Teilnehmer filmen live und übertragen den Sturm auf Amerikas Demokratie über Facebook. Einige tragen die Videokameras montiert auf ihren Helmen. Der Facebook-Algorithmus schaltet dazu passende Werbung von Waffen und Militaria1.

Neben einem Sturmgewehr, einer schusssicheren Weste und Kisten voller Munition erscheint die Werbezeile: The survival gear that you are missing, Die Überlebensausrüstung, die Ihnen fehlt. Die Teilnehmer hatten zuvor ihre Pläne ganz offen in den einschlägigen Gruppenchats besprochen, dennoch traf die Eskalation die Polizei für die Weltöffentlichkeit erkennbar unvorbereitet.

Der Facebook-Algorithmus zeigte sich weniger überrascht, er sah schon den Bedarf an weiteren Waffen und Material voraus und regierte mit entsprechender Werbung. Ist er doch darauf trainiert, die Absichten der Nutzer aus ihren Datenspuren herauszulesen und ihnen dann entsprechend passende Kaufangebote zu unterbreiten. Er weiß, was Sie brauchen, wenn Sie tagelang mit Gleichgesinnten den Sturm auf die Demokratie geplant haben, schließlich hat er selbst seinen Beitrag dazu geleistet.

Der Text stammt aus Matthias Pfeffers Buch "Menschliches Denken und Künstliche Intelligenz - Eine Aufforderung".
Verlag J.H.W. Dietz, 184 Seiten, 18,00 Euro
ISBN 978-3-8012-0617-8

Denn er kann noch viel mehr, als nur Werbung verkaufen: Er kann Menschen mit ähnlichen Ansichten erkennen, schon bevor sie selbst wissen, dass sie diese Ansichten haben. Und daraus Absichten machen. Durch das permanente Durchpflügen gewaltiger Datenbestände, das Erkennen von Mustern und die Bildung milliardenfacher persönlicher Profile kann er größeres Wissen über seine Datenlieferanten gewinnen, als diese selbst über sich haben, deshalb ihre Vorhaben, Wünsche und Gefühle besser verstehen als sie selbst und darum auch besser steuern.

Durch gezielt verschickte Nachrichten und Beiträge kann er aus latentem Ärger über einzelne Angehörige von Bevölkerungsgruppen manifeste Fremdenfeindlichkeit machen, aus dem Ärger über bestimmte Politiker einen Hass auf die Demokratie. Bei diesem Prozess spielen Fakten kaum eine Rolle, sie sind sogar hinderlich.

Der Algorithmus will Emotionen mobilisieren. Und er ist auf Steigerung aus, weil er Aufmerksamkeit gewinnen und nicht mehr abgeben will. Dabei hilft ihm eine zunehmende Polarisierung.

Eine bestimmte psychische Disposition des Nutzers, die er aus dessen Daten herausgelesen hat, kombiniert mit anderen Datenpunkten reicht ihm aus, um ihn einschlägigen Gruppen vorzuschlagen, die ihn dort mit weiterem "passenden" Material versorgen.

Ein radikaler Anführer, der den Ton vorgibt, hat sich dort schon längst gefunden: Er hat die meisten Likes der anderen Gruppenmitglieder eingesammelt, indem er den Ärger durch immer spektakulärere und unglaublichere "Enthüllungen" und emotionalisierende Aufrufe befeuert. Wenn er noch dazu selbst der Präsident ist, umso besser.

So hat sich die Eskalation der Proteste gegen das Ergebnis einer demokratischen Wahl in der wichtigsten Demokratie, die lange als Anführer der freien Welt galt, vor den Augen eines alles sehenden Algorithmus abgespielt, der dabei keineswegs passiv blieb: Ist er doch darauf trainiert, die Nutzer, die ähnlich ticken, zusammenzubringen, um gleich einer ganzen Gruppe ein passendes Produkt zu empfehlen und sie durch "Anstupsen" dazu zu bringen, es dann auch zu kaufen.

Werbealgorithmen vs. Demokratie

An diesem Tag war die Zahl der entschlossenen potenziellen Käufer von Waffen und Militärausrüstung erfreulich hoch. Erfreulich für die Facebook-Algorithmen. Weniger erfreulich für die Demokratie.

Die Werbetreibenden konnten zufrieden sein: Ihre Botschaft erreichte eine zu hundert Prozent passende Zielgruppe, hatte doch der Algorithmus mitgeholfen, sie passend zuzurichten: Eine Gruppe von Menschen, die buchstäblich zu allem entschlossen war, vor allem dazu, Gewalt einzusetzen.

Der Algorithmus hatte seinen unmerklichen, aber wesentlichen Beitrag dazu geleistet, diesen Werbeerfolg zu ermöglichen. Mission accomplished. Dass dabei kurzzeitig die Demokratie am Abgrund stand, wurde als Kollateralschaden in Kauf genommen.

Der gesellschaftliche Preis für ein solches Werbetool ist hoch, ihn zahlen am Ende alle. Denn der Algorithmus teilt die Bevölkerung in Gruppen und Grüppchen auf, je nachdem wo ihre Schwächen liegen und sie am leichtesten manipulierbar sind, und bestärkt sie dann in diesem Gruppendenken mit "passenden" Nachrichten.

Eine Untersuchung zeigte nach den Ereignissen des 6. Januar, dass in den Tagen nach der Erstürmung die Gruppen der Trump- und Biden-Sympathisanten jeweils zwei völlig unterschiedliche Wirklichkeiten bei Facebook angezeigt bekamen2. Das Ereignis wurde so zum Katalysator weiterer gesellschaftlicher Spaltung.

Alles Folge eines Werbemodells, das auf Personalisierung setzt und dabei den gemeinsamen Grund von Überzeugungen, der die Basis von Gemeinsinn bildet, gezielt untergräbt. Und Folge von Algorithmen, deren Belohnungssysteme ausschließlich darauf programmiert sind, die Verweildauer der Nutzer und die Klickrate der Werbeanzeigen zu maximieren.

Ein Algorithmus, der alle überwacht und dabei die Strippen zieht, um die Überwachten in seinem Sinne zu lenken. Natürlich ist das eine Metapher. Die aber einen maßgeblichen Kern des neuen Überwachungskapitalismus trifft.

So hat die US-amerikanische Autorin Shoshana Zuboff das neue digitale ökonomische System bezeichnet, das die Daten der Nutzer sammelt und auswertet, um aus ihnen Verhaltensprognosen zu erstellen, die an den Warenterminmärkten der Aufmerksamkeitsökonomie hoch profitabel gehandelt werden.3 Doch wer ist der Algorithmus, und wenn ja, wie viele?

Hinter diesen hochkomplexen Programmen lassen sich die Ziele der Unternehmen erkennen, die sie betreiben. Und einige von ihnen sind sehr tückisch. Man sollte glauben, dass sie ihr Ziel, die Klickrate zu erhöhen, um dadurch mehr Werbung zu verkaufen, lediglich dadurch verfolgen, dass sie dem Nutzer Informationen anzeigen, die er mag, damit er daraufklickt und das Produkt erwirbt.

Algorithmen formen den Nutzer

Das ist aber nur die Hälfte der Wahrheit. Im Online-Marketing werden sogenannte Bandit-(sic!)-Algorithmen, sowie Algorithmen für Reinforcement Learning (selbstverstärkendes Lernen) eingesetzt. Diese Algorithmen verfolgen nicht nur das Ziel, durch ihre Nachrichtenauswahl den Nutzer mit dem passenden Angebot zufriedenzustellen, sie versuchen vielmehr die Vorlieben der Nutzer so zu ändern, dass sie für den Algorithmus transparenter werden.

Einem durchschaubaren Nutzer lassen sich die passenden Waren leichter verkaufen und am einfachsten durchschauen lassen sich Menschen mit radikalen politischen Ansichten. "Wie ein rationales Wesen lernt der Algorithmus, wie er den Zustand seiner Umgebung verändern kann, um die eigene Belohnung zu maximieren" so einer der weltweit führenden KI-Forscher über dieses perfide Modell.4

Demnach wäre die politische Radikalisierung der Bevölkerung nicht nur eine unbeabsichtigte Nebenfolge ungehemmten Online-Marketings - sie wäre ihr Ziel. Die Verdummung und Spaltung der Gesellschaft als Geschäftsmodell, das die reichsten Unternehmen der Welt immer mächtiger macht und die demokratische Ordnung dabei unterminiert.

Noch erfolgt das eigentliche "Strippenziehen" in den sozialen Netzwerken durch recht dumme Algorithmen. Doch auch sie sind Teil der "Künstlichen Intelligenz", also von Programmen, die sich bei dem, was sie tun, "selbst" "verbessern", jedenfalls aber selbsttätig verändern. Und die dabei immer besser werden, wenn es darum geht, ihre Ziele zu erreichen. Wenn schon die dummen Bandit-Algorithmen von Facebook die Demokratie an den Rand treiben, was haben wir dann von wirklich intelligenten Algorithmen zu erwarten? Bei den am weitesten entwickelten Künstlichen Intelligenzen ist ein Programmierer nicht mehr erforderlich. Sie programmieren sich selbst. Wer übernimmt dann die Verantwortung für das, was sie anrichten?

Nach dem Sturm auf das Herz der Demokratie war die Welt geschockt. Als die Ermittlungen begannen, wollte keiner dafür verantwortlich sein, auch diejenigen nicht, die sich doch bei der Erstürmung bildträchtig selbst in Szene gesetzt hatten.

So tappte die Polizei, die unter den fünf Toten einen der ihren zu beklagen hatte, zunächst im Dunkeln. Nicht so der Mitarbeiter eines Werbeunternehmens, der einige Tage danach mit einem brisanten Datensatz in den Redaktionsräumen der New York Times auftauchte. Unterm Arm: über einhunderttausend exakte Standortdaten für Tausende von Smartphones, deren Besitzer sich am 6. Januar in der Nähe des Kapitols aufgehalten hatten.

Exakte Bewegungsdaten von Trump-Anhängern, Randalierern, Passanten. Fast alle davon ließen sich den betreffenden Personen zuordnen, denen die Handys gehörten. Der Werbe-Whistleblower setzte die New York Times unter Druck, die Daten zu veröffentlichen, andernfalls werde er selbst bekannt machen, welche enorme Überwachungsmacht in den Diensten einer optimal geölten Werbemaschine inzwischen aufgebaut worden sei.

Enormen Wissen in den Händen der Werbeindustrie

Die New York Times veröffentlichte die Geschichte. Sie schrieb, die Messdaten ermöglichten einen Blick auf das Geschehen des "dunklen Tages" im Stil des "Auges Gottes".

Die Daten konnten auch belegen, dass vierzig Prozent der Smartphones, die sich während Trumps aufstachelnder Rede in der Nähe der Kundgebungsbühne auf der Nationalmall befunden hatten, später während der Belagerung im Kapitol geortet wurden und geben damit einen Hinweis auf die Ursachen des Geschehens. Enormes Wissen - in den Händen der Werbeindustrie.

"Unsere Privatsphäre der Regierung zu überlassen, wäre schon dumm genug. Noch heimtückischer ist jedoch der faustische Handel mit der Marketingindustrie, die jeden Standort-Ping in eine Währung verwandelt, da er auf dem Marktplatz der Überwachungswerbung gekauft und verkauft wird," schreibt die New York Times.

Der verständliche Protest gegen staatliche Überwachung laufe angesichts der kommerziellen Überwachungsmacht ins Leere: "Aber zu jedem anderen Zeitpunkt werden die Standortdaten von Hedgefonds, Finanzinstituten und Vermarktern überprüft, um mehr darüber zu erfahren, wo wir einkaufen und wie wir leben."i

Die Gefahren, die solche Algorithmen bergen, und die Schäden, die sie anrichten, sind enorm, weil sie Milliarden Menschen auf der ganzen Welt beeinflussen. Sie erfordern, dass wir besser verstehen, wie sie funktionieren. Es ist wichtig, die unterschiedlichen Dimensionen dieses "faustischen Handels" zu beleuchten.

Mit welchem Mephisto lassen wir uns ein, wenn wir mit den Instrumenten der Digitalisierung erkunden wollen, was die Welt im Innersten zusammenhält und wie wir uns in ihr orientieren können? Welchen Preis zahlen wir am Ende, wenn wir uns bedenkenlos in seine Hände begeben? Und lautet dabei die neue Gretchenfrage vielleicht: Wie hältst du’s mit der Demokratie?

Fest steht: Durch die immer feine gesponnene Vernetzung aller Menschen mit allen Menschen, vor allem aber mit den datenhungrigen Riesenservern der Plattformunternehmen, haben sich Formen der Überwachung und Manipulation entwickelt, die längst nicht mehr nur das Konsumverhalten steuern.

Die Sphäre der Öffentlichkeit, Garant und gleichzeitig Voraussetzung einer funktionierenden Demokratie, ist in den vergangenen Jahrzehnten durch eine ganze Reihe digitaler Technologien umgestaltet worden: durch Big Data, Cloud-Technologie, Internet of Things, Blockchain und vor allem durch Künstliche Intelligenz, die die gefährlichste Hochrisikotechnologie des 21. Jahrhunderts ist.

Denn sie zielt direkt auf das Vermögen des Menschen, das Selbstbestimmung erst ermöglicht: Auf die menschliche Vernunft, die sie durch eine überlegene Künstliche Intelligenz ablösen will. Zumindest wollen das einige der Propagandisten einer schönen neuen digitalen Welt, die alles andere als schön sein wird, wenn sie sich durchsetzen.

Die digitale Transformation hat bereits weltweit Demokratien unter Druck gesetzt. Sah es noch vor einigen Jahren durch Bewegungen wie den Arabischen Frühling so aus, als würden durch die digitalen Möglichkeiten Demokratie und Selbstbestimmung befeuert, rücken seit einiger Zeit die negativen Effekte dieser Entwicklung immer mehr in den Fokus.

Politisches Gegenprogramm notwendig

Die digitale Organisation einer solchen Freiheitsbewegung allein kann offenbar nicht ihren nachhaltigen Erfolg sichern. Dazu bedürfte es eines Zusammenschlusses von Menschen, die sich langfristig engagieren, ihre Interessen in einem politischen Programm umzusetzen.

Das Digitale kann einen solchen Zusammenschluss ermöglichen, es bietet aber keinen Ersatz für dauerhaftes Engagement und die institutionelle Absicherung erkämpfter Freiheiten. Demgegenüber funktionieren die Angriffe auf die Demokratie von innen wie außen durch Autokraten oder Populisten, durch Troll-Fabriken und Hacker digital umso besser.

Auch in Deutschland bekommen wir die Auswirkungen zu spüren. Nach einer Umfrage glauben nur noch weniger als die Hälfte der Deutschen, ihre Meinung frei sagen zu können.

Unfreiheit als Lebensgefühl in einem der freiesten Länder der Welt. Die gefühlte Freiheit weicht immer stärker von der verfassungsmäßig garantierten Freiheit ab. Der Grund ist nicht staatliche Überwachung, sondern sind rüde Umgangsformen und durch die allgegenwärtigen "Shitstorms" erzwungene Konformität an einen vermeintlichen Mainstream. Jeder zweite Bürgermeister im Land hat damit inzwischen einschlägige Erfahrungen, immer mehr überlegen deshalb, ihr Amt aufzugeben.

Die Mechanismen einer neuen automatisierten Öffentlichkeit unterminieren unmerklich, aber wirkungsvoll die Grundfeste der Demokratie. So hat sich die einst versprochene grenzenlose Freiheit des Cyberspace in ihr glattes Gegenteil verkehrt.

Wir müssen erneut fragen: Wenn bereits die derzeitigen dummen und auf Werbeklicks getrimmten Algorithmen von Facebook und Co. die Demokratie an den Abgrund führen, was haben wir dann in den kommenden Jahren von den Systemen zu erwarten, die sich Künstlicher Intelligenz bedienen, die täglich leistungsfähiger werden und immer mehr Steuerungsaufgaben "autonom" bündeln können?

Und das Tempo dieser Entwicklung steigert sich zusehends, denn die Schlüsseltechnologie der Digitalisierung, die Künstliche Intelligenz, entwickelt sich immer schneller. Es ist denkbar, dass an die Stelle einer Herrschaft durch Technik, die wir heute bereits sehen, auch einmal eine Herrschaft der Technik tritt.

Schließlich hören wir immer, dass KI dem Menschen überlegen sei und zunehmend eigene Entscheidungen treffen kann. Gerade deshalb wird sie ja überall eingesetzt. Um die menschlichen Schwächen, die in einer hoch technisierten Welt zum Risiko werden, zu beheben, um den Menschen selbst zu optimieren, diesen abgründigen und fehlerhaften Mutanten der Natur.

Und einige Fragen stellen sich ganz fundamental: Was passiert eigentlich mit unserem Denken, mit unserer Vernunft, wenn diese durch ihre eigene technische Erfindung übertroffen wird? Wird Homo Sapiens getrieben durch eine eigene Schöpfung zum Homo Digitalis mutieren und dabei seine Sapientia, seine Weisheit einbüßen? Wird er dadurch gar zum Homo Deus, zum Prothesengott seiner eigenen Schöpfung? Und was, wenn KI dann so etwas wie Vernunft und Bewusstsein entwickeln oder zumindest solche Phänomene erfolgreich simulieren kann? Oder bleibt das unmöglich? Und darauf zu vertrauen, dass es die KI schon richten wird, eine gefährliche Illusion?

Vernunft und Technologie

Auf diese Fragen sucht das vorliegende Buch Antworten. Dafür lade ich Sie ein auf eine kurze Reise durch verschiedene Problemzonen der Künstlichen Intelligenz und der menschlichen Vernunft. Denn die menschliche Vernunft ist Schöpferin der Technologie, die ihr den Platz streitig macht. Sie hat dem Menschen den Aufbruch aus dem Reich der Natur in das der Kultur und Zivilisation überhaupt erst ermöglicht, allerdings auf diesem Weg auch unüberschaubar große Probleme erzeugt.

Im Zeitalter der höchsten jemals entwickelten Technologie treten mit der Klimakrise, dem durch den Menschen verursachten Artensterben und gewaltiger sozialer Ungleichheit auf dem Planeten Probleme auf, die die Moderne verursacht hat, scheinbar aber mit eigenen Mitteln nicht in den Griff bekommt.

Heute stellt sich die Frage, ob diese Probleme durch die Vernunft selbst geheilt werden können, die sie erzeugt hat, oder ob wir dazu das "Andere der Vernunft" brauchen, sei es in Gestalt einer technischen Superintelligenz oder einer unbegreiflich vernunftlosen höheren Macht.

Wollen wir dabei auf die Vernunft setzen, müssen wir zunächst konstatieren, dass sie derzeit weltweit auf der Anklagebank sitzt. Sie gilt weithin als Verursacherin der großen Probleme, kaum als Mittel zu deren Lösung. Im Westen herrscht seit einigen Jahren ein radikales Vernunft-Bashing, das mit dem Scheitern der revolutionären Hoffnungen in Paris 1968 einsetzte, vor allem befeuert durch postmoderne Philosophen wie Foucault, Derrida und Lyotard5, fortgesetzt durch heutige Denker der Identitätspolitik linker wie rechter Provenienz.

Die Vernunft wird darin als Verursacherin der Probleme gesehen, der kaum noch zugetraut wird, Teil der Lösung sein zu können.

Dieses Buch will einladen zum Denken. Denn das Denken ist nicht nur Werkzeug zum "Optimieren" von Wirtschaft und Technologie, sondern auch Mittel der Selbstbesinnung und Selbstbestimmung, von Kritik und schöpferischer Fantasie.

Deshalb kann vernünftiges Denken auch helfen, diese Fragen zu beantworten. Und wenn wir nachdenken, können wir kaum anders, als die Vernunft einzusetzen. Genau betrachtet haben wir dazu nur unvernünftige Alternativen, die die Probleme mit Sicherheit vergrößern, aber kaum lösen würden.

Jetzt werden Sie fragen: Wo bleiben in diesem Szenario die enormen Möglichkeiten zur Verbesserung des menschlichen Lebens, die KI bietet? Sie sollen keinesfalls in Abrede gestellt werden. Die wichtigste positive Leistung von KI ist, dass sie uns helfen kann, uns selbst und die Welt, in der wir leben, immer besser zu verstehen.

Aber das positive Potenzial, das KI in Verbindung mit anderen digitalen Technologien birgt, kann nur entfaltet werden, wenn wir verstehen, wie sie funktioniert und sie nach menschlichen Regeln entwickelt wird. Und wenn es gelingt, eine Möglichkeit zu entwickeln, sie auf Dauer zu kontrollieren.

Das bedeutet auch: bestimmten unerwünschten Entwicklungen klare Grenzen zu setzen. Andernfalls könnte ihr negatives Potenzial sehr schnell die Oberhand gewinnen und künftige Generationen zwingen, nach ihren Regeln zu leben. Das wäre dann kein menschliches Leben mehr, jedenfalls kein Leben in Freiheit.

Haben wir also den Mut, vernünftig zu denken.

Denn wie sich zeigen wird, werden wir die Weisheit des Homo Sapiens weiter brauchen - auch und gerade im Zeitalter Künstlicher Intelligenz.