Seite 3: Gründlich regieren - mit Algorithmen

Ich habe mich gerade unter dem Eindruck der Pandemie noch einmal intensiv mit John Brunner beschäftigt, der in seinen Büchern "Schockwellenreiter" und "Morgenland" Großrechner als handelnde Personen auftreten lässt, die ganze Gesellschaften managen. Brunner hatte eine Obsession für smarte Städte: Rechner steuern alle Operationen des Soziallebens in den beiden Büchern. Ein weiteres Buch hat er dann gänzlich der neuen Stadt gewidmet: in "The Squares of the City" beschreibt er eine fiktive Plan-Stadt als eine der modernsten Großstädte der Welt, Hauptstadt einer fiktiven Republik, die ihm als das "am gründlichsten regierte Land der Welt" gilt. Das gründliche Regieren mit Algorithmen - ist das Science Fiction oder die Realität von morgen?

Anders Riel Müller: In Ken Loach's Film I, Daniel Blake gibt es eine ausgezeichnete Szene. Sie setzt die Absurdität, Entmenschlichung und Ungerechtigkeit eines solchen Systems brillant in Szene.

Der Algorithmus wird zur ultimativen Autorität, eine Autorität, die schwer anzufechten ist, da sie durch geistige Eigentumsrechte geschützt ist. Die Logik ist die gleiche, wie bei einer Kreditprüfung. Ich bin vor kurzem nach Norwegen gezogen und kann keine Kreditkarte bekommen, weil der Algorithmus, der die Kreditprüfung durchführt, nicht genügend persönliche Daten über mich hat. Ich habe keine früheren Kredite oder Kreditkarten in Norwegen. Meine persönliche Wirtschaftsgeschichte reicht also nicht aus, damit der Algorithmus mir die Genehmigung erteilt, eine Kreditkarte zu erhalten.

Ich kann gegen diese Entscheidung keine Berufung einlegen - ein an sich antidemokratischer Umstand, der in sehr kleinen Buchstaben unter der "umstandslosen Ablehnung" (im Original: instant rejection) vermerkt ist. Dies, obwohl ich meine Einkommensquelle, meinen Wohnsitz und alles nachweisen kann. Der Algorithmus kümmert sich nicht darum. Denn er wurde geschrieben, um Dir kategorisch den Zugang zu einer Kreditkarte zu verweigern, wenn Du den vordefinierten Schwellenwert nicht erreichst.

Stell Dir vor, wenn solche Algorithmen bestimmen dürfen, ob Du Anspruch auf Sozialhilfe, Krankenversicherung, krankheitsbedingten Urlaub usw. hast. In demokratischen Gesellschaften gibt es rechtliche Möglichkeiten, Entscheidungen anzufechten, wenn Du den begründeten Verdacht hast, dass Verfahrensfehler gemacht wurden, Informationen vom Sachbearbeiter übersehen oder ignoriert wurden, besondere persönliche Umstände und dergleichen.

Aber wenn diese Entscheidungen durch einen Algorithmus getroffen werden und dieser Algorithmus geistiges Eigentum eines Unternehmens ist, wie kann man dann seine Entscheidung anfechten?

Wie kannst Du beweisen, dass der Algorithmus einen "Fehler" gemacht hat?

Zusammenfassend lässt sich sagen, dass die KI oft als etwas Wünschenswertes für die Zukunft angesehen wird, aber die Algorithmen und die Logik hinter der KI beeinflussen bereits heute unser tägliches Leben, ob man nun einen Bankkredit, eine Versicherung oder eine Sozialleistung erhält. An Algorithmen zeigt sich immer wieder, dass sie bestehende Formen der Diskriminierung und Ungerechtigkeit verstärken.

Das neue Alphabet

Die führenden Unternehmen des Plattformkapitalismus melden derzeit mit Ausblick auf ein kommendes post-staatliches Machtvakuum verstärkt ihre Ansprüche an. "Schmidt Futures", die Bildungsförderungsstiftung der Eheleute Schmidt, fordert ein, dass wir Farbe bekennen: "Jeder Amerikaner sollte sich fragen, wo wir die Nation haben wollen, wenn die Covid-19-Pandemie vorbei ist." Sie postulieren die "Notwendigkeit eines schnellen, groß angelegten Experiments".

Naomi Klein pariert kritisch: "Die Technik gibt uns mächtige Werkzeuge an die Hand, aber nicht jede Lösung ist technologisch. Und das Problem mit der Auslagerung wichtiger Entscheidungen darüber, wie wir unsere Staaten und Städte neu gestalten können, an Männer wie Bill Gates und Eric Schmidt besteht darin, dass sie ihr Leben damit verbracht haben, den Glauben zu demonstrieren, dass es kein Problem gibt, das die Technologie nicht lösen kann." Kannst Du das bitte kommentieren?

Anders Riel Müller: Ich denke, Naomi Klein hat recht, dass nicht jede Lösung technologisch ist. Ich glaube jedoch, dass sie übersieht, was Schmidts ideologisches Projekt wirklich im Sinn hat: Die Neuorganisation der Wirtschaft als Silicon-Valley-artiges Risikokapital-Modell. Ich habe sechs Jahre lang im Silicon Valley gearbeitet. Was ich immer wieder sah, war, wie technologische Lösungen, die sich positiv auswirken könnten, schnell in die Logik von Risikokapital eingeordnet wurden. Sie kaufen das geistige Eigentum und skalieren die Idee so schnell wie möglich hoch.

Ich erlebte mehrfach, wie junge idealistische Studenten, die mit technologischen Lösungen aufwarteten, mit denen armen und marginalisierten Gemeinschaften geholfen werden sollte, von den Versprechungen der Venture-Capitalists, schnell viel Geld zu machen, überredet wurden, anstatt ihnen zu helfen, ihre Lösungen möglichst vielen Menschen zugänglich zu machen. Ich glaube, dass Leute wie Eric Schmidt wirklich davon überzeugt sind, dass Silicon Valley und seine wirtschaftliche Logik die Probleme der Welt lösen kann... und ich sehe das als großen Grund zur Sorge.

Um es zynisch zu formulieren: Sie sehen Menschen nur als Erzeuger von Daten, die für ihre Profite genutzt werden können. Aber ich denke auch, dass sie wirklich glauben, dass die wirtschaftliche Logik, die sie zu Milliardären gemacht hat, die Probleme der Gesellschaft lösen kann. Ich meine, es ist heute eminent wichtig, diese Milliardäre kritisch zu betrachten, weil sie die Macht haben, die Politik zu beeinflussen und eine wirtschaftliche Logik zu verbreiten, die ich äußerst beunruhigend finde.

Ich sehe auch Widerstandspotentiale, wie im Fall des Sidewalk-Labs-Projekts in Toronto, das genau einen Tag nach Cuomos "briefing" mit Eric Schmidt am 7. Mai 2020 stillgelegt stillgelegt wurde - auch am Sidewalks Lab war Alphabet in führender Rolle beteiligt. Aber so glatt läuft es eben nicht immer. Das lag zum guten Teil am Widerstand der Bevölkerung, der das Fortschrittstempo des Vorhabens so weit verlangsamt hat, dass die wirtschaftliche Logik des Projekts für die Eigentümer keinen Sinn mehr machte.

Die Wirtschaft des Silicon Valley verlangt schnelle Erträge, so dass eine Möglichkeit des Widerstands darin besteht, diese Art von Projekten den langen und schmerzhaften Prozess der öffentlichen Zustimmung durchlaufen zu lassen, indem man sie auf Schritt und Tritt verlangsamt, eine demokratische Aufsicht verlangt und das Recht jedes Einzelnen auf den Besitz der von ihm erzeugten Daten fordert.

Bedrohungen

Viele bedeutsame technische Innovationen der letzten Jahrzehnte wurden durch eine Bedrohung gerechtfertigt. Können intelligente Städte risiko- oder bedrohungsfreie Zonen kreieren?

Anders Riel Müller: Bei Smart Cities geht es um den Umgang mit Risiken und Bedrohungen, aber vor allem um die besonderen Risiken und Bedrohungen, um die sich bestimmte Gruppen (sprich: Elite und Mittelklasse) Sorgen machen. Der jüngste Aufstand in den USA und die weltweiten Proteste nach dem Tod von George Floyd zeigen deutlich, dass das Polizei-Motto "dienen und schützen" bedeutet, bestimmten Gruppen und Interessen Dienst und Schutz zu leisten. Für einen Schwarzen in den USA ist die Polizei ein alltägliches Risiko und eine tödliche Bedrohung.

Wir können bereits beobachten, wie "intelligente" Technologien mit erstaunlicher Geschwindigkeit auf den Markt gebracht werden, um die Bedrohung durch Covid-19 zu "managen". Solche Produkte umgehen regelmäßig demokratische Prozesse im Namen von Effizienz und Effektivität. Ein solches Szenario ist natürlich der feuchteste Traum von Eric Schmidt.

Ein Szenario wie die Pandemie ermöglicht den Milliardären des Silicon Valley, rasch "technologische Lösungen" umzusetzen, unter Umgehung des langen und mühsamen Weges, der mit einer öffentlichen, demokratischen Kontrolle und genauen Prüfung aller Umstände und Folgen verbunden ist, die im Mittelpunkt jeder Stadtplanung stehen sollte.

Aus meiner Forschung meine ich, genügend Beweise beibringen zu können, dass intelligente Städte bestehende Ungleichheiten und Ungerechtigkeiten eher verschlimmern als sie zu beseitigen. Abgesehen davon, dass Smart Cities einige aktuelle Risiken und Bedrohungen reduzieren, bringen sie jede Menge neue Risiken hervor, von denen viele mit der Einschränkung oder Zurücknahme demokratisch verbürgter Rechte und Gerechtigkeit zu tun haben. Wenn intelligente Stadtprojekte nicht ausdrücklich Begriffe der sozialen, wirtschaftlichen und ökologischen Gerechtigkeit bereits im Kern enthalten, werden sie, so fürchte ich, viele der "bösen" städtischen Probleme, mit denen wir heute konfrontiert sind, nur verstärken.

Intelligente Städte können vielleicht das Risiko von Verkehrsunfällen und die Bedrohung durch Umweltverschmutzung verringern. Aber sie können auch zu einem noch größeren Demokratiedefizit führen, wenn die Technologien und ihr Einsatz nicht vernünftig beherrscht werden. Diese neuen Risiken und Bedrohungen werden so, wie es jetzt aussieht, ungleichmäßig auf die Bevölkerung verteilt sein.

Wenn Naomi Klein schreibt: "Es ist eine Zukunft, in der unsere Wohnungen nie wieder ausschließlich persönliche Räume sind", dann wendet sie sich meiner Meinung nach an die weiße und städtische Mittelschicht. Denn der exklusive private Raum war nie ein Konzept für alle. Die neuen Risiken und Bedrohungen werden meiner Meinung nach zumeist von ohnehin schon marginalisierten Gruppen ausgebadet, denn ihre Bewegungen im Stadtraum und ihre Aufenthaltsorte werden verstärkt überwacht, kontrolliert und eingeschränkt.

Dies geschieht bereits in vielen Städten, die mit Einsatz digitaler Technologien ihre Polizeiarbeit optimieren. Ich will damit sagen, dass die neuen Risiken, Bedrohungen und sozialschädlichen Effekte der intelligenten Stadt ungleichmäßig über die Bevölkerung verteilt sein werden, wobei diejenigen, die sich bereits jetzt am Rande der Gesellschaft befinden, die Hauptziele der Negativwirkung sein werden. Das passiert eben genau deswegen, weil die soziale, wirtschaftliche und ökologische Gerechtigkeit nicht das Hauptinteresse ist, die Entwicklung der intelligenten Stadt voranzutreiben. Ich hoffe allerdings, dass ich mit dieser Einschätzung falsch liege.