Seite 6: "Meaningful Human Control"

Ganz kritisch wird die Sache, wenn es um wehrtechnische autonome Mobile geht. Im "Open Letter from AI & Robotics Researchers on Autonomous Weapons" vom 28. Juli 2015, unterzeichnet von Stephen Hawking, Noam Chomsky und weiteren 20.027 Wissenschaftlern, heißt es: "Sobald die erste Militärmacht von globaler Bedeutung das Wettrennen um Waffen mit künstlicher Intelligenz startet, könnten autonome Waffen die Kalaschnikows von morgen sein."

Unter dem "computational regime" wird die Auflösung der Grenzen zwischen militärischer und ziviler Anwendung schnell schwinden, Waffen werden im Nu zu "Werkzeugen" werden, frei von jeder negativen Konnotation. Autonome Waffen migrieren aus dem "Feld" ins Alltagsleben und sind dort ununterscheidbar von gewaltfreier digitaler Hard- und Software.

AI soll den damit bestückten militärischen Vehikeln Autonomie verleihen. Landgängige, fliegende und tauchende Fahrzeuge, Roboter, Drohnen und U-Boote, sollen in naher Zukunft eigenständig Einsatz-Entscheidungen treffen: mit "künstlicher Intelligenz". Algorithmen - so der Name von Handlungsvorschriften, die einer Maschine in Computersprache sagen, was sie Schritt für Schritt tun soll - gelten den Befürwortern von autonomen technischen Systemen als sichere Lösung für das Problem einer effizienten Befehlsdurchführung, die keiner menschlichen Überwachung mehr bedarf.

Man einigt sich, wie bei der Auswahl einer Schallplatte in einer Musikbox, vorher darauf, welches Programm man hören möchte. Alles Weitere läuft dann "wie am Schnürchen" ab. Algorithmen sind zudem lernfähig:Ssie bauen Lösungen für Fehler automatisch in ihr Programm ein und führen so in gewissem Umfang ein "Eigenleben".

Das klingt alles sehr praktisch, sicher und human - scheinen doch Tod und Verletzung von Soldaten im Krieg durch "kybernetische Systeme" auf ein Minimum reduzierbar. Zudem steigt das Gefühl der Sicherheit, wenn man sich von "hoch intelligenten" Apparaten statt durch dumpfe Feuerwaffen schützen lässt.

Doch was passiert, wenn mehrere solcher "unabhängig sich steuernden" Systeme aufeinander treffen? Welche Chancen hat der Mensch einzugreifen, wenn er nach Aktivierung der Waffe erkennt, dass unvorhergesehene Probleme auftreten? Schließlich: Können schlaue Maschinen wirklich ein sozial verträgliches, humanitäres Krisenmanagement leisten? In welchem Umfang kann und möchte man wirklich persönliche Verantwortung an Software abgeben?

Die Szene der kritischen Wissenschaftler, die sich im November 2015 in Berlin zum "Parlamentarischen Frühstück" unter der Schirmherrschaft von MdB Ute Finkh-Krämer, Obfrau der SPD im Unterausschuss für Zivile Krisenprävention, Konfliktbearbeitung und vernetztes Handeln und stellvertretende Vorsitzende des Unterausschusses Abrüstung, Rüstungskontrolle und Nichtverbreitung traf, forderte nicht etwa ein Präventivverbot solcher Systeme, sondern eine "meaningful human control", eine völkerrechtlich verbindliche Definition für die Zulassung solcher Systeme ausschließlich unter "Kontrolle durch den Menschen".

Doch wann und wo soll sie ansetzen? Sind es denn etwa keine Menschen, die die Algorithmen für die Automaten entwerfen?

Algorithmus ist der Name des neuen Stacheldrahts

In Zeiten der Krise hört man täglich den Ruf nach geschützten Zonen und Aussperrung unerwünschter Neuankömmlinge. Es ist nur ein winziger Schritt von der bewachten Wohnsiedlung zur "Festung Europa". Die "gated community" scheint das Modell für den Kontinent als gigantische Burg mit digitalen Zugbrücken: Drohnen, autonome Roboter, die nach dem Muster in Meuten jagender Hunde die Geflüchteten hetzen sollen, und hyperschnelle IT-Hubs, die alles verbinden.

Auf einmal stellen wir fest, dass die Grenze ubiquitär ist: Wir finden ihre Struktur in Malls wieder, an Flughäfen, in intelligenten Eigenheimen und an den Schlagbäumen vor den Sperrzonen: überall die gleichen sozialen Selektionsmuster. Algorithmus ist der Name des neuen Stacheldrahts.

Das ist keine dystopische Vision. Wir zitieren hier aus gegenwärtig laufenden EU-geförderten Wissenschafts- und Forschungsprogrammen wie Talos, das Roboterhundeprogramm, und Horizon 2020: Nur drei Jahre voraus liegt der Horror nach dem gewitzten Plan der Ingenieure einer europäischen Selbstverbunkerung.

Stimuliert von der stets höheren Dosis Bilder beständig anschwellender Ströme von Migranten und angesichts einer dauernden Gefahr von Terroranschlägen und Unruhen in Folge der Staatsschuldenkrisen in Europa versprechen Programme für "smarte Grenzkontrollen" eine pragmatische Antwort auf die drückende Frage nach der Sicherung von Besitz und Leben.

Wir sind Zeuge des rapiden Wachstums einer Branche, die sich auf private und staatliche Sicherheit kapriziert und sich auf die einträgliche Kriegsarena in den Städten und die "asymmetrische Kriegsführung" entlang der Schengen-Außengrenze einschießt. Der damit einhergehende Einsatz "intelligenter" digitaler Werkzeuge maskiert perfekt die brutale Gewalt der gegenwärtigen Entwicklungen als "lebenserhaltende chirurgische Operation".

Man erklärt Migration und eine aus der Balance geratene Gesellschaft zum "technischen Problem", und schon vereinigen sich Waffenhersteller und die Finanzwelt, um die Lösung zu liefern: denn was sich technisch lösen lässt, erspart neue Gesetze und erst recht ein Sozialprogramm, das nur kostet statt einzutragen - wie der Ankauf von Sicherheitstechnologie.

Wer geschützt hinter den Mauern der Festung sitzt, fühlt, dass Recht und Ordnung aufrechterhalten bleiben. Überleben heute heißt aufzupassen, dass man nicht auf die andere Seite der Mauer gerät!

Was wir bislang relativ abstrakt das "digitale Zeitalter" genannt haben, nimmt nun physische Gestalt an. Das Versprechen von endloser Wohlfahrt, das auf dem Vertrauen in die Verlässlichkeit, man möchte fast sagen: in die "Unbeirrbarkeit des Algorithmus" beruht, kann nicht ins Werk gesetzt werden ohne eine vollständige Dekonstruktion der hergebrachten ökonomischen Weltordnung (die bereits in vollem Umfang im Gange ist), nicht ohne Einsatz struktureller Gewalt und nicht ohne massiven Abfluss des Besitzes aus allen weniger begüterten Teilen der Gesellschaft in Richtung "reich". Das, so argumentiert die bekannte Soziologin Saskia Sassen, ist der wahre Kern der "Exklusion", die das alte Konzept der "Ungleichheit" ablöst.

Das maschinische Milieu

Wenn demokratische Staaten mit umfassender Digitalisierung aller Zugänge, ihrer Finanzoperationen und ihrer Dienstleistungskultur ein "totales" maschinisches Milieu installieren, das umfassende Sicherheit garantieren soll, indem es ausnahmslos und unsentimental alle nicht-Zugehörígen erfasst, dann eliminiert endgültig maschinelle Effizienz den menschlichen Faktor.

Das "Softe" (wie in Software) zementiert dabei die Klassen- als Rassentrennung.

Algorithmisch kontrollierte Waffensysteme werden nicht länger exklusiv im "Krieg gegen den Terror" eingesetzt. Sie befinden sich bereits im Arsenal demokratischer Staaten und es muss für ihren umfassenden Einsatz "zum Wohle der Nation" eigentlich nur den Terrorismusbegriff gehörig aufgeweitet werden.

Algorithmisch kontrollierte, mithin (teil-)autonome Waffensysteme stehen schon vor den Toren Europas und sollen helfen, die 50.000 Kilometer lange Schengen-Grenze bereits im Vorfeld abzudichten. Dieses Horrorszenario ist keine Zukunftsmusik: Im Juni 2016 kam über ICRAC (die britische NGO International Committee for Robot Arms Control) die Meldung von Yeni Safak, dass das türkische Militär mit den Bauarbeiten an der syrischen Grenze begonnen habe und alle 300 Meter ein Turm aufgestellt werde, der mit vollautomatisierten Produkten der Firma Aselsan bestückt wird. Jedermann, der von Syrien Richtung Türkei kommend die "wipe out zone" vor dem Turm betritt, könnte damit ohne Ansehen der Person von Maschinen exekutiert werden.

Es scheint geradezu grotesk und dennoch kommt man an dieser Stelle nicht umhin, daran zu erinnern, dass angesichts solcher Installationen zum Schutz der Europäischen Gemeinschaft die Frage nach der Kompatibilität mit dem Menschenrecht zu stellen ist - und zwar nicht als akademisch-philosophische Frage, sondern mit politischer Konsequenz. Sind Aselsan-Türme die Einlösung unser Vorstellung einer smarten sicheren Zukunft? Sind wir bereit, ihre Existenz hinzunehmen?

Die Technopolitik der Exklusion

Angesichts dramatischer Umwelt-Veränderung und gesellschaftlicher Verwerfungen von tektonischer Dimension, beide nicht zuletzt die Folge einer langen Geschichte der Ausbeutung menschlicher und natürlicher "Ressourcen", und dies als ein Prozess, der im kybernetischen Zeitalter beschleunigt und durch den Übergang der analogen in die binäre Welt gewaltig geschmiert wurde, angesichts dessen entscheidet sich die herrschende Klasse, genau jene Mittel einzusetzen, die den Konflikt zustande gebracht und immer weiter verschärft haben.

Sie ziehen die digitalen Zugbrücken rund um Europa hoch.

Die "Habenichtse" klopfen an das Tor. Sie haben nicht, was sie haben müssten, um eingelassen zu werden: keine Papiere, kein Geld. Folglich: keinen Zutritt. Es sei denn, ihre fast kostenlose Arbeit wird gebraucht auf den Plantagen in der Festung.6

Egalité, einst einer der drei Kampfbegriff der französischen Revolution, die Gleichheit wird nun zur Falle für die "Ungleichen".

Digitalität erlaubt den politischen Entscheidern, sich hinter schimmernd schönen Technologien zu verstecken. Die dem Algorithmus immanente Gewalt bleibt auf den ersten Blick unsichtbar. Mit stoischer "fairness" entscheidet der Code, jedes individuelle Schicksal zu ignorieren und alle und alles über einen Kamm zu scheren. Das sieht zunächst nach Gleichbehandlung aus.

Doch die "Technopolitik der Exklusion" (Steve Wright) manifestiert lediglich den politischen Willen, die "Überschüssigen" aus dem Programm "Zivilisation" auszusondern. Um der Selektion einen humanitären Anstrich zu verpassen, findet sie nach sauberen Kriterien statt, nach solchen, die in jeder Maschine zum gleichen Resultat führen.

Autonome Autos in staatlichem Besitz könnten, rein technisch betrachtet und analog zu den digitalisierten autonomen Waffensystemen, die perfekten, flächendeckend im Land verteilten Plattformen stellen, mit denen sich die "neue Weltordnung" installiert.