Digitale Imperien und die mediale Transformation des Humanen

Die Forderung nach mehr Digitalisierung ist en vogue. Doch was bedeutet dieser Prozess für Mensch, Gesellschaft und Zukunft? (Teil 1)

In jedem Parteiprogramm wird wie selbstverständlich die Digitalisierung der Verwaltung und der Wirtschaft gefordert. Doch Digitalisierung hat verschiedene Seiten. Vorteile hinsichtlich der Prozessschnelligkeit und Verarbeitungskapazität stehen bürgerrechtlich zu begründende Nachteile entgegen. Zu diskutieren ist des Weiteren, was unter dem Humanen in seiner Essenz zu verstehen ist und wie dies durch bestimmte Formen zukünftiger Digitalisierung gefährdet sein könnte.

Marx/Engels sahen bereits Mitte des 19. Jahrhunderts die permanente Notwendigkeit für die Eigentümer von Fabriken und Dienstleistungsunternehmen, die technischen, organisatorischen, rechtlichen und politischen Möglichkeiten weiterzuentwickeln, um in der regionalen und globalen Konkurrenz bestehen zu können1:

Die Bourgeoisie kann nicht existieren, ohne die Produktionsinstrumente, also die Produktionsverhältnisse, also sämtliche gesellschaftliche Verhältnisse fortwährend zu revolutionieren. (…) Die fortwährende Umwälzung der Produktion, die ununterbrochene Erschütterung aller gesellschaftlichen Zustände, die ewige Unsicherheit und Bewegung zeichnet die Bourgeois-Epoche aus.

Die Ausmaße zukünftiger Digitalisierung stellen eine Form dieser von Marx/Engels beschriebenen Revolutionierung der gesellschaftlichen Verhältnisse dar, deren tatsächliche Reichweite wohl noch immer unterschätzt bzw. selektiv wahrgenommen wird.

Ein digitales Negativszenario, das bereits von der Gegenwart partiell eingeholt ist

Ein Negativszenario versucht deutlich zu machen, was passieren kann, wenn die falschen Entscheidungen getroffen werden. Es kann also eintreten, es muss aber nicht eintreten. Negativszenarien sind spekulative Zugriffe auf die Zukunft, um drohende Gefahren erkennen zu können. Die vorliegenden fünf Negativszenarien wurzeln in gegenwärtigen Entwicklungen, gehen aber deutlich hierüber hinaus.2

Digitales Negativszenario 1: Die totale digitale Transparenz: Google kennt uns besser

Die digitale Revolution ist im vorliegenden Negativszenario eine Form der gesellschaftlichen Transformation, deren Triebfeder die ungehemmte Gier im entfesselten Kapitalismus nach immer größeren Profiten auf Kosten des Humanen ist.

Negativszenarien eines übermächtigen digitalen Zeitalters bzw. digitaler Hegemonie im Interesse hierauf ausgerichteter Ökonomien und politischer Herrschaftsverhältnisse in der utopischen Literatur sind z.T. bereits von der gesellschaftlichen Wirklichkeit eingeholt bzw. überholt worden. Die Bedrohung der Humanität, also des menschlichen Kerns, über die digitale Koppelung und Beherrschung der Individuen zu einem human-digitalen Zwitterwesen, einem Cyborg, ist in ernst zu nehmenden Ansätzen erkennbar.

Ein aus digitalen Uhren, Smartphones, Alexa und Siri, Chip-Implantaten unter der Haut, digital vernetzten audiovisuellen Systemen und humaner Substanz bestehendes symbiotisches Lebensverhältnis führt zum Verlust der humanen Subjektivität. Totale digitale Transparenz ermöglicht die Vernichtung individueller Freiheitsspielräume, jeglicher Privatsphäre und auch die Möglichkeit zum systematischen Zweifeln und praktizierter Mündigkeit und Kritikfähigkeit. Der "antiquierte Mensch", also ein Mensch, der an den Zielen der Aufklärung festhält, wird zum zu verfolgenden Gegenbild einer digitalen Modernisierung, die aufgeklärte Antiquiertheit ausgrenzen und vernichten will.3

Der Mensch ist nicht mehr in der Lage, mit seinen technischen Erfindungen Schritt zu halten, überblickt nicht mehr, welche Konsequenzen die digitale Überwachung der Subjekte in den individuellen, sozialen und gesellschaftspolitischen Bezügen hat. Günther Anders (1956) fokussierte vor allem die atomare Bedrohung und die hierauf bezogene planetare Apokalypse. Zu diesem Bedrohungsszenario tritt nun die digitale Apokalypse hinzu, über die Verschmelzung des Humanen mit dem Digitalen.

Der deutsche Informatiker und engagierte Vertreter einer wissenschaftlichen Ethik, Werner Meixner, warnt vor einer bereits eingetretenen und sich in Zukunft weiter verstärkenden Entwicklung in Zeiten der gesetzlich beschlossenen Staatstrojaner, der kontrollierenden Apps sowie der in Smartphones, Tablets und anderen PCs bereits bei der Produktion eingebauten Sicherheitslücken, welche die humane Privatsphäre gefährden bzw. vernichten4:

Unsere Privatsphäre ist massiv gefährdet, und es gibt allen Grund, sich mit den Ursachen und Urhebern der Gefährdung zu beschäftigen. Marc Rotenberg hat in einem Artikel für den Nachrichtensender CNN die Eingriffe in die Privatsphäre durch die Internetfirma Google als "eine der größten Gesetzesübertretungen der Geschichte" bezeichnet. (…) Rotenberg war Präsident des Electronic Privacy Information Center (EPIC), eines unabhängigen gemeinnützigen Forschungszentrums in Washington, D.C., das auf den Schutz der bürgerlichen Grundrechte achtet.

Und Google Chef Eric Schmidt prahlt, dass Google uns besser kennen würde als wir uns selbst (…). Man fragt sich, ob es noch eines weiteren Beweises bedarf, dass unsere Privatsphäre gefährdet ist. Übrigens sind sowohl Datendiebstahl als auch staatliche Überwachung für die Betroffenen weitgehend unsichtbare Vorgänge.

Es findet ein Umbruch statt. Schritt für Schritt wird das Grundgesetz geändert oder unwirksam gemacht. Die wesentlichen gesellschaftlichen Entscheidungsprozesse werden dem Parlament entzogen und in undemokratische Außengremien verlagert. Die Mündigkeit der Bürger wird systematisch untergraben, indem man nicht mehr parlamentarisch offen diskutiert (…).

Der Umbruch, von dem wir hier reden, ist nichts Geringeres als der Angriff auf die verfassungsrechtlich verbrieften Grundlagen unseres Staates.

Die Individuen dürfen die Kosten dieser digitalen Ausspähung und Beherrschung zum großen Teil selbst finanzieren, da ihnen das digitale Zeitalter und die entsprechenden Medien über manipulative Werbestrategien sowie bereits im Kindesalter über Computerspiele schmackhaft gemacht werden.

Digitales Negativszenario 2: Der Mensch zwischen Algorithmen und Werten

So gesehen ist auch das digitale Zeitalter mit gigantischen Renditen für die sich zunehmend ausbreitende und gleichzeitig in riesigen Medienkonzernen konzentrierende digitale Wirtschaft versehen, die das neue Menschenbild und das digitale Verständnis des Modernen in das Denken und Fühlen der Menschen propagandistisch und manipulativ zu implementieren versucht. Ähnlich wie früher Religionen bereits im frühen Kindesalter manipulativen Zugang zum Menschen suchten, werden schon Kleinkinder an die Displays digitaler Medien gewöhnt und Schritt für Schritt in einen digital-menschlichen Cyborg überführt.

Das zunehmende Betreten virtueller Welten ("Virtual Reality") - auch von Kindern und Jugendlichen - mithilfe von VR-Brillen durchmischt die reale Wirklichkeit mit der virtuellen Welt ohne die Sicherheit, dass noch beides auseinander gehalten werden kann bzw. ohne das Wissen, wie es sich gegenseitig beeinflusst. Das Zeitalter der digitalen Hybrid-Menschen ist eingeleitet.

Im Zuge der Durchsetzung digitaler Zugriffe ist das Verhältnis zwischen künstlicher Intelligenz und der Eigenart des Humanen zu klären und inwieweit, die künstliche Intelligenz auch in Zukunft noch beherrschbar ist. Entscheidend wird sein, wann die Politik auf diese Problematik aufmerksam wird, ob sie dies unterstützt oder sich widerständig zeigt und ob sie verbindliche ethische Richtlinien zur Entwicklung künstlicher Intelligenz in Kooperation mit den beteiligten Wissenschaftlern:innen entwickelt.

Die Voraussetzung hierfür ist, dass ein Diskurs stattfindet, was den Menschen eigentlich ausmacht. Ist es Liebesfähigkeit, Fähigkeit zu verstehen oder Einfühlungsvermögen, ethisch geleitete Kritikfähigkeit? Sind dies die Eigenschaften, die den Menschen von den intelligenten Maschinen unterscheiden? Genauso muss gefragt werden, was die technologisch möglichen Reichweiten künstlicher Intelligenz sind, und welche Gefährdungen für den Fortbestand der Menschheit hierin zu sehen sind - so der Journalist Ulrich Schnabel (2018, 39)5:

Ob all die Fähigkeiten des Homo sapiens - Liebe, Empathie, Kunst, Fehleranfälligkeit, Flexibilität, Innovationskraft, moralisches Denken und Zuversicht - am Ende ausreichen, die Maschinen auf Dauer unter Kontrolle zu halten, wird man sehen. Aber wenn wir nicht beginnen, über Unterschiede nachzudenken, haben wir schon jetzt verloren.

Digitales Negativszenario 3: Das chinesische "Social Credit System"

Hunderte Millionen digitaler Videokameras sollen zukünftig in China eine absolute Transparenz und Kontrolle über die Menschen erreichen. Zunächst liefen in China regionale Testprogramme zur Implementierung des chinesischen "Social Credit System", im Rahmen dessen Chinas Bürger lückenlos überwacht und sanktioniert werden sollen. Inzwischen hat die überregionale Einführung des SCR begonnen.

Die Aufnahmen der Videokameras werden vermischt mit digital ermittelbaren Informationen z.B. aus digitalen Netzwerken oder behördlichen Aufzeichnungen über einzelne Personen, der gerichtlichen Aktenlage, finanziellen Daten sowie schulischen und beruflichen Beurteilungen und ergeben zusammen genommen eine Bewertung nach Punkten, deren Bewertungskriterien für alle Chinesen gleich sein sollen.

Hierbei wird im gegenwärtigen noch positives Verhalten positiv sanktioniert, was sich natürlich nach der vollständigen Implementierung auch schnell ändern kann, so dass abweichendes Verhalten generell als negativ betrachtet wird und zu Punkteabzug führt.

Auf einmal bekommt dann ein Bürger die Nachricht, dass er nicht mehr mit der Eisenbahn fahren dürfe, dass eine Behandlung von ihm im Krankenhaus nicht mehr möglich sei oder dass bei einem Dating-Portal niemand mehr reagiert, weil der angezeigte Punktestand zu niedrig ist. Eine Gesellschaft wird somit im Auftrag des Staates digital bis in die Feinheiten des Sozialverhaltens kontrolliert. Dies geht weit über Orwells oder Huxleys Utopien hinaus, erinnert eher an Dave Eggers' Werke "The Circle" und "The Every".6

Eine aktuelle Variante eines solchen Negativszenarios, das kommen kann, aber nicht eintreten muss, ist die digitale Gesundheitsdiktatur. Die Corona-Krise hat gezeigt, wie schnell sich Menschen angesichts der Gesundheitsgefahr beeinflussen und ihre Freiheiten massiv einschränken lassen (Ausgeh- und Versammlungsverbote, Abschaffung der Demonstrationsfreiheit, Einschränkung der Pressefreiheit).

Es besteht hier die Gefahr, dass zukünftige Pandemien in so manchen autoritären Staaten ausgenutzt werden, grundsätzlich die bürgerlichen Freiheitsrechte abzuschaffen und dies u.a. mit verpflichtenden digitalen Apps in obligatorisch zu benutzenden Kommunikationsmedien zu kontrollieren. Auch in den Staaten mit einem demokratischen Selbstanspruch, wie z.B. Deutschland, ist darauf zu drängen, dass die Grundrechtseinschränkungen wieder zurückgenommen werden, sobald die pandemische Lage sich entspannt.

Digitales Negativszenario 4: Arbeitswelt 4.0

Im Rahmen eines Negativszenarios zur Digitalisierung der Gesellschaft kann vor allem vorausgesehen werden, dass der Mensch als arbeitendes Wesen weitgehend überflüssig gemacht sowie in die totalitäre digitale Kontrolle der Herrschenden gezwungen wird. Die digitale Transformation von Arbeitsprozessen setzt den Menschen aus Arbeitsprozessen frei, ist aber darauf angewiesen, ihn digital zu kontrollieren, damit er nicht gegen dieses System rebelliert.

Die Arbeitswelt 4.0 sieht die digitale Steuerung und Durchführung der Arbeitsprozesse vor: Automatisierung, intelligente Roboter in der Fertigung, Arbeitssubstitution durch Computeralgorithmen und smarte Technik in Büros. Hierbei findet die Zukunft der Arbeit laut OECD in den nächsten Jahren ohne 14 Prozent der bisherigen Jobs statt und weitere 32 Prozent sind einschneidenden Veränderungen unterworfen.

Unter den Technologien, die in den letzten Jahren marktreif geworden sind, ist vor allem der mobile, kollaborative Roboter zu nennen. Statt wie ein klassischer Industrieroboter, der an einem Ort feststeht und immer wieder die vorprogrammierten Arbeitsschritte erledigt, kann er unterschiedliche Tätigkeiten an verschiedenen Orten verrichten und dabei mit Menschen zusammenarbeiten. Bisher waren beim Einsatz von Industrierobotern trennende Schutzeinrichtungen notwendig, um Personen, die sich im Arbeitsfeld des Roboters befanden, sicher gegen Verletzungen durch die sich schnell bewegenden Roboter zu schützen. Kollaborierende Roboter dagegen sind mit Sensoren ausgestattet, die Verletzungen des menschlichen Mitarbeiters verhindern. Damit wird es möglich, dass Menschen eng mit Robotern zusammenarbeiten. Ein kollaborativer Roboter kann zum Beispiel eingesetzt werden, um schwere Werkstücke zu heben und zu positionieren, um dem Menschen die Arbeit zu erleichtern.

Katharina Dengler, Britta Matthes in Substituierbarkeitspotenziale von Berufen. Wenige Berufsbilder halten mit der Digitalisierung Schritt

Hierbei sind insbesondere Jobs gefährdet, die durch sich wiederholende manuelle Tätigkeiten gekennzeichnet sind. Dies wird daher eher die ärmere Schicht der Gesellschaft treffen und weniger Lehrer, Ärzte oder Wissenschaftler. Digitalisierung und der Einsatz der Künstlichen Intelligenz sind in diesem Szenario gefräßige Jobvertilger mit einem sich steigernden Appetit.

Bisherige Widerstandsbewegungen richteten sich insbesondere gegen Umweltzerstörung, gegen Kriegstreiberei und Aufrüstung oder gegen gesellschaftliche Ungerechtigkeiten, wie z.B. der Verlust von Arbeitsplätzen oder die ungerechte Vermögensverteilung. Der Protest gegen Arbeitsplatzverluste wird nun eine neue Dimension durch die sich beschleunigende Entwicklung von Zukunftstechnologien bekommen.

Der zu erwartende Sprung in der die Arbeitswelt betreffenden Technologieentwicklung ist bereits angesetzt und dürfte in einer Kombination von digitalen Technologien und Biotechnologien bestehen. Diese Technologieentwicklung ist u.a. durch Genmanipulation, Künstliche Intelligenz, Robotik, integrierte Netzwerke von Menschen und Algorithmen, Chip-Implementierung, Blockchain und Kryptowährungen, digitale Beschleunigung von Informationsflüssen, digitale Automatisierung und maschinelles Lernen gekennzeichnet.

Hierbei ergibt sich eine doppelte Problematik: Zum einen wird der Mensch in seiner Eigenart durch Genmanipulation, invasive Chiptechniken oder die Integration in durch Algorithmen gesteuerte neuronale Netzwerke verändert. Andererseits entfällt ein Großteil der vorhandenen Arbeitsplätze, ohne dass die meisten hiervon betroffenen Menschen zunächst die Qualifikationen haben, in die neue Arbeitswelt zu wechseln. Der Schriftsteller und Historiker Yuval Noah Harari, der in der Lage ist, sich nicht nur in die Vergangenheit zu versetzen, sondern auch weit in die Zukunft zu denken, sieht hierin eine gegenüber früheren Protestbewegungen gewandelte Problematik7:

Möglicherweise werden populistische Revolten im 21. Jahrhundert nicht gegen eine Wirtschaftselite aufbegehren, welche die Menschen ausbeutet, sondern gegen eine solche, welche die Menschen schlicht nicht mehr braucht. Kann gut sein, dass die Menschen diese Schlacht verlieren. Denn es ist viel schwerer, gegen Bedeutungslosigkeit zu kämpfen als gegen Ausbeutung.

Negativszenario 5: Künstliche Intelligenz und Cyber-War

Die meisten Vorstellungen eines Cyber-Wars beruhen auf bewussten menschlichen Eingriffen in das internationale System bzw. in die digital verwaltete Sicherheitsarchitektur eines Staates, berücksichtigen allerdings nur selten die Möglichkeit von Software in Computersystemen, die sich im Zuge entwickelnder künstlicher Intelligenz selbstständig macht. Was ist, wenn die hektische Aktivität im Bereich der Erforschung und Installierung künstlicher Intelligenz von Google, Amazon, Facebook, Apple und Co. dazu führt, dass diese sich in digitale Netze einmischt und hinsichtlich militärischer Angriffe und entsprechender Abwehrreaktionen aktiv wird? Ist dies völlig ausgeschlossen und szenarischer Unsinn?

Der Neurobiologe und Physiker Christoph v. d. Malsburg, der ansonsten ein eher nüchternes Verhältnis zu Utopien künstlicher Intelligenz aufweist, stellt Aufsehen erregend fest8:

Ich denke trotzdem, man muss die Gefahr der künstlichen Intelligenz sehr ernst nehmen, das ist schlimmer für die Menschheit als die Atombombe.

Auch ein solcher Vorgang dürfte, wenn er denn eintritt, eher schleichend und zunächst wenig bemerkt passieren. Gefährlich wird es vor allem dann, wenn sich die für militärische Kontrollzwecke eingesetzte Software selbstständig macht und eigene Initiativen in militärischer Hinsicht entwickelt, z.B. den Abschuss gegnerischer Atomwaffen gegen das eigene Staatsgebiet fälschlicherweise dokumentiert.

Wie ausgeschlossen ist eine derartige Entwicklung in einem solchen Szenario?

Der Informationswissenschaftler Werner Meixner ist der Auffassung, dass es einen grundlegenden Gegensatz zwischen der weltweit vernetzten Anlage von "Big Data" und einem gelingenden Sicherheitskonzept für vernetzte Rechner gibt, der zu einer nicht beherrschbaren Gefährdung der Menschheit wird9:

Zur tödlichen Gefahr wird die Vernetzung allerdings dann, wenn ein Baustein der Autonomisierung von kriegerischen Angriffen aus dem Internet heraus agiert, weil Algorithmen befehlen, eine mutmaßliche Gefahr abzuwenden. Das mag nach Science-Fiction klingen, dieser Baustein wird jedoch bereits entwickelt. (…) Er ermöglicht den autonomen präventiven Cyberkrieg und ist notwendig, weil die Reaktionszeiten zu kurz sind, als dass man einen menschlichen Entscheidungsprozess vorschalten könnte.

Verantwortungsbewusste Hacker und Whistleblower haben gezeigt, was wir befürchten müssen. Eine schnell wachsende Internetkriminalität zeichnet sich ab. Atomanlagen, Energieversorgung, Wasserversorgung, Krankenhäuser, Öffentlicher Verkehr, Behörden sind von Anschlägen und Spionage bedroht. Die Existenz jedes Einzelnen ist in Gefahr, zerstört zu werden.

Wegen der bereits bestehenden Risikolage müssen sofort alle kritischen Anlagen vom Internet genommen werden. Universitäten müssen Alarm schlagen. Politisch ist zu fragen, ob Amtseide verletzt werden.

Die weltweite Vernetzung der "Welt der Dinge" mit zentraler Datenverarbeitung ist eine gefährliche Fehlentwicklung. Sie bedeutet den Verlust der Souveränität aller Nationalstaaten, weil die Nationalstaaten ihre Sicherheit nicht mehr selbst gewährleisten können. Zwangsläufig entsteht ein zentraler Überwachungsstaat, weil man sich von diesem allein noch Sicherheit erhofft.

Aber selbst der Zentralstaat kann die erhoffte Sicherheit nicht bieten und wird nach und nach alle Freiheiten seiner Bürger abschaffen, weil nicht mehr klar ist, wer der Feind in einem Cyberkrieg ist. Warum sollten die Völker zulassen, dass mit den Lebensgrundlagen zukünftiger Generationen auf den Roulettetischen von Forschung und Entwicklung gespielt wird?