Seite 5: Vom Kreditscoring zum Social oder Citizen Scoring

Neben berechtigten Forderungen nach Algorithmentransparenz, Algorithmenregulierung und "Algorithmic Accountability" ist deshalb die entscheidende Frage die Macht- und Wertefrage: Wer bestimmt, welches Verhalten belohnt und welches bestraft wird? Wer und mit welchem Ziel schreibt und kontrolliert die Algorithmen? Um welche Werte geht es?

Im Fall des Werts der Privatsphäre ist die verbreitete Reaktion des "Ich habe ja nichts zu verbergen" selbst in vermeintlich freien und demokratischen "Rechtsstaaten" ein leichtfertig-naiver Trugschluss - nicht nur, weil nirgends festgeschrieben steht, dass Freiheit und Rechtsstaatlichkeit für immer gelten. Denn allein das Wissen darüber, dass alles, was man sagt, tut und liest - und schlimmstenfalls irgendwann auch alles, was man denkt und fühlt - von Konzernen, Geheimdiensten und Regierungen protokolliert wird und, wie Google-Chef Eric Schmidt drohend sagt, "eines Tages ans Licht kommen kann", führt zu dem, was Schmidt allen Ernstes als Ratschlag bereit hält10: Selbstzensur zu üben, bestimmte Dinge nicht mehr zu sagen und zu tun, aus Angst, dass dies negative Folgen (für die Karriere, das Amt, die Ehe et cetera) haben könnte.

Wohin dies in einem dystopischen doch bereits realen Szenario führen kann, lässt sich am Beispiel Chinas betrachten. Mit ihrem so genannten "Sesame Credit Score" bewerten acht chinesische Großunternehmen nicht nur die Kreditwürdigkeit der Teilnehmer, sondern auch ihren Arbeitsplatz, Familienstand oder die Anzahl ihrer Freunde, die "Sesame Credits" nutzen.

Der chinesischen Regierung dient dies als Pilotprojekt für das Vorhaben, ab 2020 von allen chinesischen Bürgern einen "Citizen Score" zu erstellen, in welchem Verhalten, das im Sinne der "harmonischen sozialistischen Gesellschaft" ist, belohnt und Gegenteiliges bestraft wird.11 Wer ausreichend Punkte hat, erhält leichter einen Kredit, hat Vorteile in der Karriere, bei Hotelbuchungen, Dating-Plattformen oder Visaanträgen. Wer sich jedoch zu oft mit konsumfaulen und regimekritischen Leuten abgibt, riskiert eine Herabstufung seines Scorewerts, da nicht nur das eigene Verhalten sondern auch das Verhalten von Freunden Einfluss auf den eigenen Scorewert hat. Wenn man also in der Karriere vorankommen will, nach Europa reisen und einen Hauskredit bekommen möchte, sollte man seinen Freundeskreis gegebenenfalls entsprechend modifizieren. Auch kritische Nachrichten zu lesen oder zu posten, sollte man dann wohl besser vermeiden, wenn dadurch der Kindergartenplatz für das Kind verloren geht oder man keinen Job mehr bekommt.

Durch diese Erweiterung des Kreditscorings zu einem "Social Scoring" wird der im kapitalistischen Wettbewerbssystem ohnehin schon herrschende Anpassungsdruck noch weiter verstärkt. Gleichzeitig würde ein derartiges Menschenrating das wohl umfassendste Werkzeug zur Normierung und Kontrolle von Bevölkerungen darstellen, das es je gegeben hat. Möglich wird dadurch eine "psychopolitische Steuerung der Gesellschaft" (Byung-Chul Han), in der Vertrauensbildung als soziale Praxis abgeschafft und durch Kontrolle ersetzt wird.1 Wenn man nichts mehr um seiner selbst willen tut oder weil man es für moralisch geboten hält, sondern nur noch wegen Aussicht auf Belohnung oder Bestrafung, wenn also aus intrinsischen ausschließlich extrinsische Motive werden, gilt selbiges für Ethik und Moral. Das kapitalistische Projekt der Kommodifizierung aller Lebensbereiche, die Monetarisierung bis dato noch nicht mess- und verwertbarer Teile des Lebens könnte damit bereits abgeschlossen sein und somit wahr werden, wovor etwa Frank Schirrmacher in seinen letzten Publikationen eindringlich gewarnt hat: Aus der Fiktion des Homo oeconomicus würde Realität.

Freilich handelt es sich dabei um keinen "technologischen Determinismus", da es immer darauf ankommt, wie und in welchem Rahmen Technologien eingesetzt werden. Im herrschenden Rahmen des Profitmaximierungswettbewerbs als Hauptkriterium ökonomischen Handelns jedoch würden die durch die Geldwirtschaft und den Kapitalismus bereits existierenden Effekte der Entsolidarisierung und Entfremdung noch weiter intensiviert. Würde sich unter Maßgabe von Kapitalinteressen und Profitmaximierung eine derartige "soziale Physik" durchsetzen, verlören wir schließlich, wie Evgeny Morozov auf den Punkt bringt, auch "die Freiheit, das Falsche zu tun".2

Dies lässt sich besonders gut am Beispiel des so genannten "Predictive Policing" verdeutlichen - eine bereits stattfindende Praxis, die in dem auf einer Kurzgeschichte von Philip K. Dick aus dem Jahr 1956 basierenden Film Minority Report (2002) noch als abstruse Science-Fiction erschien: Softwaresysteme machen für die Polizei Vorhersagen, an welchen Orten in Zukunft Verbrechen geschehen könnten. Zu Ende gedacht bedeutet dies: Wenn eines Tages keinerlei Verbrechen mehr begangen würden, weil die smarte Polizei jeweils schon eingreift, bevor sie passieren, gäbe es gar keine Möglichkeit mehr, gegen Gesetze zu verstoßen. Und im Umkehrschluss: Man könnte sich auch nicht mehr moralisch "richtig" verhalten, weil man es ja muss beziehungsweise das "Falsche" als Möglichkeit gar nicht mehr existiert. Wenn jegliches Abweichen von sozialen Normen und Gesetzen nicht mehr möglich ist, dann ist auch keine Entwicklung, kein Widerstand, keine Revolution mehr möglich. Das (paradoxe) Ergebnis der Erweiterung und Auslagerung menschlicher Fähigkeiten und (Arbeits-) Kraft in die Technik wäre die Selbstabschaffung, die Amputation - der Mensch als berechnetes und normiertes Produkt seiner selbst. Wir selbst wären die Roboter in einer von Eliten und Maschinen gelenkten Welt.