Seite 2: Algorithmen formen den Nutzer

Das ist aber nur die Hälfte der Wahrheit. Im Online-Marketing werden sogenannte Bandit-(sic!)-Algorithmen, sowie Algorithmen für Reinforcement Learning (selbstverstärkendes Lernen) eingesetzt. Diese Algorithmen verfolgen nicht nur das Ziel, durch ihre Nachrichtenauswahl den Nutzer mit dem passenden Angebot zufriedenzustellen, sie versuchen vielmehr die Vorlieben der Nutzer so zu ändern, dass sie für den Algorithmus transparenter werden.

Einem durchschaubaren Nutzer lassen sich die passenden Waren leichter verkaufen und am einfachsten durchschauen lassen sich Menschen mit radikalen politischen Ansichten. "Wie ein rationales Wesen lernt der Algorithmus, wie er den Zustand seiner Umgebung verändern kann, um die eigene Belohnung zu maximieren" so einer der weltweit führenden KI-Forscher über dieses perfide Modell.4

Demnach wäre die politische Radikalisierung der Bevölkerung nicht nur eine unbeabsichtigte Nebenfolge ungehemmten Online-Marketings - sie wäre ihr Ziel. Die Verdummung und Spaltung der Gesellschaft als Geschäftsmodell, das die reichsten Unternehmen der Welt immer mächtiger macht und die demokratische Ordnung dabei unterminiert.

Noch erfolgt das eigentliche "Strippenziehen" in den sozialen Netzwerken durch recht dumme Algorithmen. Doch auch sie sind Teil der "Künstlichen Intelligenz", also von Programmen, die sich bei dem, was sie tun, "selbst" "verbessern", jedenfalls aber selbsttätig verändern. Und die dabei immer besser werden, wenn es darum geht, ihre Ziele zu erreichen. Wenn schon die dummen Bandit-Algorithmen von Facebook die Demokratie an den Rand treiben, was haben wir dann von wirklich intelligenten Algorithmen zu erwarten? Bei den am weitesten entwickelten Künstlichen Intelligenzen ist ein Programmierer nicht mehr erforderlich. Sie programmieren sich selbst. Wer übernimmt dann die Verantwortung für das, was sie anrichten?

Nach dem Sturm auf das Herz der Demokratie war die Welt geschockt. Als die Ermittlungen begannen, wollte keiner dafür verantwortlich sein, auch diejenigen nicht, die sich doch bei der Erstürmung bildträchtig selbst in Szene gesetzt hatten.

So tappte die Polizei, die unter den fünf Toten einen der ihren zu beklagen hatte, zunächst im Dunkeln. Nicht so der Mitarbeiter eines Werbeunternehmens, der einige Tage danach mit einem brisanten Datensatz in den Redaktionsräumen der New York Times auftauchte. Unterm Arm: über einhunderttausend exakte Standortdaten für Tausende von Smartphones, deren Besitzer sich am 6. Januar in der Nähe des Kapitols aufgehalten hatten.

Exakte Bewegungsdaten von Trump-Anhängern, Randalierern, Passanten. Fast alle davon ließen sich den betreffenden Personen zuordnen, denen die Handys gehörten. Der Werbe-Whistleblower setzte die New York Times unter Druck, die Daten zu veröffentlichen, andernfalls werde er selbst bekannt machen, welche enorme Überwachungsmacht in den Diensten einer optimal geölten Werbemaschine inzwischen aufgebaut worden sei.

Enormen Wissen in den Händen der Werbeindustrie

Die New York Times veröffentlichte die Geschichte. Sie schrieb, die Messdaten ermöglichten einen Blick auf das Geschehen des "dunklen Tages" im Stil des "Auges Gottes".

Die Daten konnten auch belegen, dass vierzig Prozent der Smartphones, die sich während Trumps aufstachelnder Rede in der Nähe der Kundgebungsbühne auf der Nationalmall befunden hatten, später während der Belagerung im Kapitol geortet wurden und geben damit einen Hinweis auf die Ursachen des Geschehens. Enormes Wissen - in den Händen der Werbeindustrie.

"Unsere Privatsphäre der Regierung zu überlassen, wäre schon dumm genug. Noch heimtückischer ist jedoch der faustische Handel mit der Marketingindustrie, die jeden Standort-Ping in eine Währung verwandelt, da er auf dem Marktplatz der Überwachungswerbung gekauft und verkauft wird," schreibt die New York Times.

Der verständliche Protest gegen staatliche Überwachung laufe angesichts der kommerziellen Überwachungsmacht ins Leere: "Aber zu jedem anderen Zeitpunkt werden die Standortdaten von Hedgefonds, Finanzinstituten und Vermarktern überprüft, um mehr darüber zu erfahren, wo wir einkaufen und wie wir leben."i

Die Gefahren, die solche Algorithmen bergen, und die Schäden, die sie anrichten, sind enorm, weil sie Milliarden Menschen auf der ganzen Welt beeinflussen. Sie erfordern, dass wir besser verstehen, wie sie funktionieren. Es ist wichtig, die unterschiedlichen Dimensionen dieses "faustischen Handels" zu beleuchten.

Mit welchem Mephisto lassen wir uns ein, wenn wir mit den Instrumenten der Digitalisierung erkunden wollen, was die Welt im Innersten zusammenhält und wie wir uns in ihr orientieren können? Welchen Preis zahlen wir am Ende, wenn wir uns bedenkenlos in seine Hände begeben? Und lautet dabei die neue Gretchenfrage vielleicht: Wie hältst du’s mit der Demokratie?

Fest steht: Durch die immer feine gesponnene Vernetzung aller Menschen mit allen Menschen, vor allem aber mit den datenhungrigen Riesenservern der Plattformunternehmen, haben sich Formen der Überwachung und Manipulation entwickelt, die längst nicht mehr nur das Konsumverhalten steuern.

Die Sphäre der Öffentlichkeit, Garant und gleichzeitig Voraussetzung einer funktionierenden Demokratie, ist in den vergangenen Jahrzehnten durch eine ganze Reihe digitaler Technologien umgestaltet worden: durch Big Data, Cloud-Technologie, Internet of Things, Blockchain und vor allem durch Künstliche Intelligenz, die die gefährlichste Hochrisikotechnologie des 21. Jahrhunderts ist.

Denn sie zielt direkt auf das Vermögen des Menschen, das Selbstbestimmung erst ermöglicht: Auf die menschliche Vernunft, die sie durch eine überlegene Künstliche Intelligenz ablösen will. Zumindest wollen das einige der Propagandisten einer schönen neuen digitalen Welt, die alles andere als schön sein wird, wenn sie sich durchsetzen.

Die digitale Transformation hat bereits weltweit Demokratien unter Druck gesetzt. Sah es noch vor einigen Jahren durch Bewegungen wie den Arabischen Frühling so aus, als würden durch die digitalen Möglichkeiten Demokratie und Selbstbestimmung befeuert, rücken seit einiger Zeit die negativen Effekte dieser Entwicklung immer mehr in den Fokus.