Seite 3: Wir werden zunehmend von Systemen abhängig sein, die wir nicht mehr verstehen

Wo liegen die Gefahren?

Kai Schlieter: Das Problem besteht in der Monopolisierung von Wissen. Google vermittelt uns das Wissen der Welt und erhebt damit zugleich ein Wissen über die menschliche Welt. Zu wissen, wann Menschen bestimmte Dinge tun, was sie mögen, wo sie sich zu einem Zeitpunkt in der Zukunft befinden oder wann sie welche Bedürfnisse oder auch Krankheiten entwickeln, bedeutet sehr viel Macht.

Wer die Zukunft von so vielen Menschen mithilfe von KI antizipieren kann, kann vorab darauf Einfluss nehmen und diese Zukunft in seinem Sinne verändern. Und diese Einflussnahme bliebe unbemerkt, weil sie ja auf die Zukunft abhebt. Der französische Philosoph Michel Foucault definiert so einmal das Wesen von Macht an sich. Und kaum jemand kennt sich mit diesem sozialen Phänomen besser aus als er.

Gibt es weitere Gefahren?

Kai Schlieter: Eine weitere Gefahr besteht darin, dass wir zunehmend von Systemen abhängig werden, die wir nicht mehr verstehen. Die KI, die Google, Amazon oder Facebook an ihre Server-Farmen koppelt, lernt stetig mehr und trifft Entscheidungen, die von Menschen nicht mehr nachvollziehbar sind. Die Steuerung systemrelevanter Infrastruktur, von Fabriken oder Elektrizitätswerken, von der Börse oder von Autos, hängt zunehmend von KI ab, die wir nicht mehr verstehen. Stephen Hawking und tausende von Experten und Wissenschaftlern warnen vor KI als die womöglich größte Bedrohung. Denn sie verstehen sehr genau, wie weit diese Forschung und ihre Anwendung unsere Realität bedingt.

Ihr Buch trägt den Titel "Die Herrschaftsformel - Wie künstliche Intelligenz uns berechnet, steuert und unser Leben verändert." Was hat KI mit Herrschaft zu tun?

Kai Schlieter: Hawking warnte unter anderem davor, dass KI-Systeme politische Entscheider manipulieren und Waffen entwickeln könnten, die wir nicht mehr verstehen. Das ist weniger abwegig, als diese einem Laien erscheinen mag. Denn tatsächlich entwickelte das US-Militär bereits in den 1980er Jahren Expertensysteme, die Militärs bei den komplexen strategischen Entscheidungen auf dem Schlachtfeld berieten. Modelle der Spieltheorie verknüpft mit Massendaten prognostizieren gegnerisches Handeln.

Mir sagte ein Experte, dass die NSA Daten erheben würde, um vor allem die Entwicklung von Konzernen zu prognostizieren, in die sich dann eingekauft wird. Wirtschaftsspionage ist dann nicht mehr nötig, wenn man Anteilseigner von Konzernen ist, bei denen man weiß, dass ihr Wert steigt.

Politiker wie Obama nutzen seit Jahren KI, um mit gezielter Manipulation Wechselwähler zu identifizieren und maßgeschneiderte Werbung per Feedbacks zu testen und so die Ansprache immer mehr zu verfeinern. 90 Prozent der Menschen sehen sich bei Google nur die erste Trefferliste an, weitere 50 nur die ersten beiden Ergebnisse.

Der renommierte Psychologe Robert Epstein hat nachgewiesen, dass Google längst den Ausgang von Wahlen mit seinem Algorithmus bestimmt. Er belegte dies anhand von Wahlen in den USA und Indien. Wer die intelligentesten Systeme beherrscht und besitzt, hat viel mehr Wissen und Macht als andere. KI ist auch eine Herrschaftstechnologie. Das gilt für Regierungen und auch Konzerne. Das Silicon Valley veranschaulicht dies schon auf fast boulevardeske Art.

Datenkraken überwachen uns nicht nur, sie manipulieren uns auch permanent

Aber was genau bedeutet Herrschaft durch oder mit KI?

Kai Schlieter: Zu wissen was kommt, ermöglicht es darauf Einfluss zu nehmen. KI ist ein kybernetisches Prognosesystem, das Macht repräsentiert. Wer die Zukunft kennt, wird im simpelsten Fall dieses Wissen nutzen, um sich strategische Vorteile zu verschaffen. Allerdings geht es darüber hinaus. Facebook wurde 2014 dafür kritisiert, weil es mit 689.000 Usern experimentierte, um die Ausbreitung von Effekten der Manipulation über Facebook-Nachrichten zu messen. Ein Menschenversuch, der auch nicht der erste war.

Es ist also davon auszugehen, dass all die verschwiegenen Datensammler wie die NSA, Google oder das chinesische Pendant Baidu, das gemeinsam mit dem chinesischen Militär eine sehr leistungsfähige KI baut, all diese Datenkraken überwachen uns nicht nur, sie manipulieren uns permanent, um ihr erwünschtes Kontrollziel zu erreichen. Wie schon erwähnt: Das Prinzip der Kybernetik lautet: Information - also Daten -, Feedback , Prognose. Das Ganze beschreibt einen Prozess der Steuerung und Kontrolle. Das beutet in diesem Zusammenhang, dass die Überwachung nur ein Moment dieses Gesamtprozesses ist, der auf Steuerung und Kontrolle abhebt.

In Ihrem Buch gehen Sie auch auf den Begriff Neoliberalismus ein. Was hat Neoliberlismus mit KI zu tun?

Kai Schlieter: Tim O’Reilly ist einer der Vordenker im Silicon Valley. Er erfand unter anderem den Begriff Web 2.0. Er wie auch der sehr mächtige deutschstämmige Investor Peter Thiel und wohl auch sehr viele der Unternehmer dort halten die Demokratie für eine "veraltete Technologie". Die Prozeduren sind ihnen zu langsam, Gesetze haben Vorlauf und reagieren nicht in Echtzeit auf Veränderungen. Genau das aber stört sie, weil die technologische Revolution in einer unfassbaren Geschwindigkeit voran schreitet.

Die Rahmenbedingungen sollen sich wie ein Thermostat den Innovationen anpassen. Selbstfahrende Autos sollen nicht geprüft werden, sondern endlich losfahren. Für O’Reilly besteht die Zukunft der Politik in "algorithmischer Regulation" gesellschaftlicher Prozesse. Intelligente Systeme evaluieren permanent den Ist-Zustand und gleichen das mit prognostizierten Zielvorstellungen ab. Mangementkybernetik, die als Politik verkauft wird. Tatsächlich aber bedeutet dies das Ende der Politik.

Es entsteht ein sich selbst steuernder Prozess. In gewisser Weise bedeutet eine "algorithmische Regulation" der "veralteten Technologie" Demokratie die Automatisierung von Politik und Gesellschaft. Doch dabei wird unterschlagen, dass eine Zieldefinition nötig ist, auf die hin diese kybernetische Selbststeuerung beruht - wie die Zimmertemperatur, die voreingestellt wird.

Geht es in der Politik im Idealfall um das Gemeinwohl, bedeutet die Automatisierung von Politik ihre Abschaffung. Das ist die Parallele zum Neoliberalismus. Der Staat wird als Hemmnis definiert. Der Markt gilt als der perfekte und objektive "Informationsprozessor", wie der Wirtschaftshistoriker Philip Mirowski das nennt. Der Markt ist bei den Neoliberalen also als Idealmaschine konzipiert, die nicht durch ein Regulativ gestört werden darf. Ebenso argumentieren diese mächtigen Vertreter des Silicon Valley. Und ihr Datenkapitalismus entspricht zudem der Potenzierung des Marktmodells. Denn mit den Daten ist der Mensch und jede seiner Lebensäußerungen zur quantifizierbaren Ware geworden.

Es gibt also eine ideologische und gesellschaftliche Grundlage, die mit dazu führt, dass KI in der Form, wie es nun der Fall ist, sich überhaupt so verbreiten kann?

Kai Schlieter: Ja.

Können Sie einen Ausblick wagen? Wie wird es weitergehen mit KI? Wie wird sich unsere Gesellschaft verändern?

Kai Schlieter: Zunehmend haben wir es mit Angriffen zu tun, die auf der immer stärkeren Vernetzung beruhen. Die Bundeswehr kommt Jahre nach den Amerikanern nun auf die Idee eine Cybereinheit aufzubauen, der BND investiert 300 Millionen Euro in digitale Aufrüstung wie netzpolitik.org enthüllte. Das Börsengeschehen ist gekennzeichnet von permanenten Kurschwankungen, die auf nicht druchschaubaren Entscheidungen künstlich intelligenter Systeme beruhen. Es wird dazu kommen, dass uns erklärt wird, dass wir diese Systeme immer mehr einsetzen müssen, um in der komplexen Welt vertretbaren Entscheidungen zu treffen.

Virginia Rometty, die CEO von IBM, sagte kürzlich, dass bald keine Entscheidung des Menschen mehr getroffen wird, ohne zuvor solche Systeme zu konsultieren. Worüber wir uns Sorgen machen sollten und auf was wir sehr genau achten müssen, ist dann unsere Autonomie.

Die Autonomie des Menschen wird derzeit von verschiedenen Stellen unterhöhlt. Beispielsweise von der sich ausbreitenden Verhaltensökonomie - der "behavioral economics." Obama, Cameron und Merkel haben bereits entsprechende Berater. Diese vermeintliche Wissenschaft versucht mit fragwürdigen Belegen darzustellen, dass wir Menschen in sehr vielen Dingen viel zu irrational handeln und deswegen so genannte "Entscheidungsarchitekten" brauchen, die uns helfen. Die technologische Seite davon könnten KI-Systeme sein.

Gibt es überhaupt noch Möglichkeiten, wie man dieser Entwicklung entgegentreten kann? Was kann der Einzelen tun?

Kai Schlieter: Der Umgang mit Daten und mit den vermeintlich harmlosen Angeboten der "sozialen" Medien gehört als Pflichtfach in den Unterricht. Die Sensibilität für demokratische Grundprinzipien muss gestärkt werden. In den Geschichtsunterricht gehört auch neben der Ideologie des Kommunismus auch jene des Neoliberalismus, die gegenwärtig wohl mächtigste Weltanschauung.

Es sind interdisziplinäre und internationale Expertenkommissionen nötig, die sich ernsthaft mit den Gefahren von Künstlicher Intelligenz beschäftigen. Obwohl Hawkings offenen Brief zuletzt rund 16.000 Wissenschaftler unterschrieben, hält die Mehrheit das Thema noch für Science Fiction. Doch dieser Film ist die Realität.