Können Roboter den Krieg humanisieren?

13. April 2014 Hans-Arthur Marsiske

Die Optimierung der Gewalt

"Waffen sind stets ethisch neutral." Mit diesem Satz könnte es Thomas de Mazière trotz seiner vergleichsweise kurzen Amtsperiode von knapp drei Jahren als deutscher Verteidigungsminister in die Geschichtsbücher geschafft haben. Zwar nahm er diese gewagte Behauptung vom August 2012 schon wenige Wochen später wieder zurück, bleibt damit aber dennoch der erste hochrangige Politiker, der sich bei der Diskussion über den militärischen Einsatz von Robotern aus der Deckung gewagt hat. Jahrelang galt für Bundeswehr und Verteidigungsministerium die Anweisung, über Roboter und insbesondere deren Bewaffnung in der Öffentlichkeit möglichst gar nicht zu reden. Da war es schon ein erheblicher Fortschritt, als de Mazière klipp und klar erklärte, dass er "zwischen Drohnen und Flugzeugen keinen Unterschied" sehe.

Mit dieser Einschätzung - die er bislang nicht zurückgenommen hat - steht er nicht allein. Im Zusammenhang mit Militärrobotern wird häufig auf eine vermeintliche Kontinuität der Entwicklung verwiesen. Eigentlich ändere sich doch gar nicht viel, argumentieren insbesondere Vertreter von Politik, Industrie und Militär. Es vergrößere sich lediglich die Distanz, aus der getötet wird. Dadurch würden die eigenen Soldaten aus der Schusslinie genommen und die Verluste auf der eigenen Seite reduziert. Und selbstverständlich werde immer ein Mensch die letzte Entscheidung über den Einsatz tödlicher Waffen haben. Niemand wolle autonom feuernde Kampfmaschinen.

Tödliche Autonomie ist unausweichlich

Nun hat allerdings die Vergrößerung der Distanz, aus der die Angriffe gesteuert werden, schon jetzt zu einer völlig neuen Kriegserfahrung geführt. In den Krieg zu ziehen hat in den vergangenen Jahrtausenden stets bedeutet, die Heimat zu verlassen und sich unter Lebensgefahr aufs Schlachtfeld zu begeben. Der Bediener einer Drohne dagegen kann zu Hause bleiben. Die Anwendung tödlicher Gewalt wird für ihn zu einer Aufgabe mit geregelten Arbeitszeiten, die er ohne persönliches Risiko bewältigen kann, um anschließend zu seiner Familie zurückzukehren und den Kindern bei den Schulaufgaben zu helfen. Töten als Job wie jeder andere - wie sich dieser Status auf Dauer psychologisch und kulturell auswirkt, lässt sich bislang nicht absehen.

Absehbar ist dagegen, dass die Arbeit des Drohnenoperators nicht so risikoarm bleiben wird wie heute. Völkerrechtlich gilt er als Kombattant und ist damit ein legitimes Ziel für die Gegenseite. Wenn bei einem Angriff auf ihn auch seine Familie getötet wird, wäre das demnach kein terroristischer Anschlag, sondern ein kriegerischer Akt mit Kollateralschaden. Die damit zusammenhängenden Fragen werden zukünftig sicherlich noch viele Gerichte beschäftigen.

Zwischen dem Bediener einer Drohne und etwa einem Scharfschützen, der sein Ziel aus einem Kilometer Entfernung anvisiert, gibt es noch einen weiteren Unterschied. Der Scharfschütze sieht sein Ziel durch ein optisches System, das die Bildinformationen auf eine ihm bekannte, stets gleiche und nachvollziehbare Weise verändert. Wer ohne direkte Sicht feuert, verlässt sich dagegen auf die Elektronik einer Drohne, die sich zunächst selbst ein Bild macht und es dann übermittelt.

Das mag zunächst unproblematisch erscheinen, weil wir durch Fernsehübertragungen seit Langem daran gewöhnt sind, uns auf Kamerabilder zu verlassen. Doch ein Teil der Verantwortung für die Entscheidung über Angriff oder nicht liegt damit bereits beim technischen System. Wer der Drohne ein bewegliches Ziel vorgibt, etwa ein fahrendes Auto, das sie automatisch verfolgen soll, übergibt ihr noch mehr Verantwortung. Zwar kann der Operator die Aktionen am Monitor mitverfolgen und notfalls abbrechen. Aber wird das immer rechtzeitig möglich sein?

Die Befehle erreichen die Drohne schon im Normalbetrieb mit Verzögerungen im Sekundenbereich, bei gestörter Funkverbindung dauert es noch länger. Wie lange genau, gehört zu den besser gehüteten Militärgeheimnissen. Aber wir dürfen davon ausgehen, dass die Zeit knapp wird, wenn die Drohne während eines Angriffs durch ein kreuzendes oder überholendes Fahrzeug irritiert werden sollte und plötzlich das falsche Ziel angreift. Durch den Einsatz ferngelenkter Drohnen vergrößert sich daher nicht nur die Entfernung zwischen Schütze und Ziel, es verlagert sich auch ein Teil der Verantwortung auf die Maschine.

Anders als an Bord eines bemannten Kampfjets, wo der Auslöser der Bordwaffen durch eine Scheibe vor versehentlichen Berührungen abgeschirmt werden kann, gibt es bei Drohnen keine derartige Sicherheitshardware. Deren Waffen werden per Funkbefehl ausgelöst. Aber welchen Charakter hat dieser Feuerbefehl? Entspricht er eher dem Kommando an eine Kampfeinheit oder eher dem Betätigen des Abzugs? Der Übergang zwischen militärischer Kommandostruktur und Programmcode verwischt sich: Ob wirklich der Mensch schießt oder nicht doch der Roboter auf Befehl des Menschen, lässt sich immer schwieriger auseinanderhalten. Hinzu kommt, dass der Feuerbefehl zumindest zum Teil auf den vom Roboter übermittelten Informationen beruht.

Selbst wenn Roboter heute noch weitgehend ferngesteuert werden, übernehmen sie daher bereits Verantwortung fürs Töten. Der Anteil an dieser Verantwortung wird unvermeidlich zunehmen, sofern sie nicht unverzüglich entwaffnet werden - bis hin zum Roboter, der autonom über Leben und Tod entscheidet.

Roboter schießen besser

Dazu werde es nicht kommen, versichern Vertreter des Militärs ebenso wie Politiker. Es solle auch in Zukunft immer ein Mensch die letzte Entscheidung haben. Doch diese Absichtserklärung, die durchaus ernst gemeint sein mag, kann nicht wirklich beruhigen. Denn es liegt offensichtlich nicht in der Macht der Rüstungsplaner, dies zu gewährleisten.

Schnelligkeit und Feuerkraft sind die wichtigsten militärischen Parameter. Wer bewaffnete Roboter ins Gefecht schickt, will, dass sie schneller schießen als die des Gegners. Da ist irgendwann die Grenze der Fernsteuerung erreicht, spätestens wenn Reaktionszeiten gefordert werden, die kürzer sind als die Laufzeiten der Funksignale. So gehen US-Militärplaner davon aus, dass es bereits in 20 Jahren luftkampffähige Flugroboter geben könnte. Um gegen andere Flugzeuge bestehen zu können, müssen sie aber innerhalb von Sekundenbruchteilen über den Waffeneinsatz entscheiden. Das geht nur, wenn sie autonom agieren.

Wer sich heute für bewaffnete Drohnen entscheidet, nimmt diese Rüstungsdynamik in Kauf. Sie läuft unweigerlich auf - angeblich von niemandem gewünschte - autonom feuernde Roboter hinaus.

Aber vielleicht ist das alles gar nicht so schlimm? Im Gegenteil, es könnte für die Menschen sogar von Vorteil sein, wenn Roboter über tödliche Waffen verfügen. Schließlich kennen die Maschinen weder Emotionen noch Stress, die die Entscheidungsfähigkeit im Schlachtengetümmel häufig beeinträchtigen. Ronald Arkin, Informatiker am Georgia Institute of Technology in Atlanta (GeorgiaTech) hat diese Frage im Auftrag der US-Militärforschungsbehörde Darpa (Defense Advanced Research Projects Agency) untersucht.

Es kann sein, dass sich Roboter auf dem Schlachtfeld besser bewähren als Menschen, nicht nur in militärischer Hinsicht, sondern auch in ethischer. Das Resultat könnten weniger zivile Opfer und geringere Zerstörungen sein. Ich habe menschliches Verhalten im Kampfeinsatz ausgiebig studiert und das Ergebnis ist ernüchternd: Menschen machen hier viele Fehler und verhalten sich oft grausam. Insofern könnte das Schlachtfeld der Ort sein, an dem sich ethisch agierende Roboter womöglich leichter realisieren lassen als anderswo."
Ron Arkin

Arkins Forschungsteam entwickelte ein System, das in der Lage sein soll, sich am Kriegsvölkerrecht zu orientieren:

Ähnlich wie James Watt für seine Dampfmaschine einen "centrifugal governor" konstruierte, der sicherstellte, dass die Leistung der Maschine sich in bestimmten Grenzen bewegte, haben wir eine Software entwickelt, die die Reaktionen des Roboters daraufhin überprüft, ob sie sich innerhalb der Regeln des Kriegsvölkerrechts bewegen. Der "ethical governor" erlaubt oder verbietet Aktionen, die von einer anderen Komponente der Software ausgewählt worden sind.
Ron Arkin

So könne es für einen Roboter ein zwingender Grund sein, den Schießbefehl zu verweigern, wenn im Funkverkehr von "Verwundeten" die Rede ist.

Traditionell vertrauen wir mehr dem Menschen als der Maschine. Auf dem Schlachtfeld kann das aber gefährlich sein, denn hier reagieren Menschen anders als beim Ausfüllen eines Testformulars am Schreibtisch. Auf den Stress und das Chaos einer Kampfsituation kann man sie nur begrenzt vorbereiten. Roboter könnten besser dafür geeignet sein. Es ist nur eine Möglichkeit, aber sie könnte helfen, Leben zu retten. Das ist für mich Grund genug, sie weiter zu erforschen.
Ron Arkin

Auch Arkin hält "tödliche Autonomie" auf Dauer für unvermeidlich, sofern die technische Entwicklung nicht durch internationale Abkommen gestoppt oder kontrolliert werde.

Es geht nicht darum, einen autonomen Roboterstaat zu schaffen. Roboter bekommen ihre Befehle von Menschen, genauso wie Soldaten, brauchen für die Durchführung ihrer Missionen aber Entscheidungsfreiraum. Dabei werden sie gewiss Fehler machen. Sie sollten daher erst dann zum Einsatz kommen, wenn erwiesen ist, dass sie weniger Fehler machen als Menschen. Sie werden menschliche Soldaten auch nicht komplett ersetzen, sondern an ihrer Seite kämpfen. Ich sehe sie vor allem in Spezialmissionen wie dem Einsatz gegen Scharfschützen, der Durchsuchung von Gebäuden oder anderen Aufgaben, für die Spezialisten benötigt werden.
Ron Arkin

Optimierte Gewalt

Arkins Robotersoldaten schießen vorsichtiger als Menschen. Gegenüber den Kampfrobotern der Science-Fiction, die in erster Linie schneller und genauer schießen, hocheffizient und ohne jedes Mitgefühl, kann das zunächst wie ein Fortschritt erscheinen. Wenn die Studie trotzdem häufig Unbehagen auslöst, hat das vor allem damit zu tun, dass die zugrundeliegende Entwicklungslogik unverändert geblieben ist: Wie bei Terminator und Robocop dient die Robotik auch bei Arkin der Optimierung der Gewalt.

Krieg ist die Entfesselung des Grauens. Gewaltige Zerstörungskräfte werden freigesetzt, die sich nur teilweise kontrollieren lassen, Emotionen geschürt, Gewaltexzesse begünstigt. Das Versprechen der Automatisierung besteht darin, diese Exzesse zu reduzieren - als wären sie Entgleisungen des Krieges und nicht sein eigentliches Wesen, als wäre Krieg an sich akzeptabel, wenn er nur ordentlich geführt würde. Der Gewalteinsatz wird den jeweiligen Aufgaben angepasst, gerade so viel wie nötig, um das gesetzte Ziel zu erreichen. Aber grundsätzlich bleibt die Anwendung tödlicher Gewalt ein akzeptiertes Mittel zur Durchsetzung von Interessen und damit die Basis internationaler Beziehungen.

Es überrascht nicht weiter, dass eine Militärinstitution wie die Darpa die Robotik vorrangig aus der Perspektive der Kriegsführung betrachtet und dem Potenzial dieser Technologie zur Kriegsvermeidung und Friedensstiftung keine weitere Beachtung schenkt. Akzeptabel ist diese Verengung der Perspektive trotzdem nicht.

Krieg ist kein Schicksal, er ist Ergebnis kultureller Entwicklung. Für die weit verbreitete Annahme, dass es Kriege "schon immer gegeben" habe, gibt es keine archäologischen Belege.1 [1] Vielmehr kamen die Menschen den größten Teil ihrer Geschichte offenbar ohne Kriege aus. Der Anthropologe Raymond C. Kelly konnte zeigen, dass seit vermutlich einer Million Jahren freundschaftliche Beziehungen zwischen verschiedenen Menschengruppen dominierten:

Diese altsteinzeitliche Periode der Abwesenheit von Kriegen wurzelte in einer niedrigen Bevölkerungsdichte, einer Anerkennung der Vorzüge freundschaftlicher Beziehungen mit Nachbarn und einem gesunden Respekt vor deren Verteidigungsfähigkeiten. Sie endete erst, als die kulturelle Entwicklung komplexere Formen der Organisation und damit den Krieg hervorbrachte.
Raymond C. Kelly

Bei Jägern und Sammlern, der über Jahrhunderttausende vorherrschenden Existenzform, kommt es sehr selten zu kollektiver Gewalt. Erst mit der Entwicklung stärker strukturierter Gesellschaften und der Durchsetzung sesshafter Lebensformen gewinnen kriegerische Auseinandersetzungen an Bedeutung. Die ältesten Siedlungen, deren Verteidigungsstrukturen zweifelsfrei der Abwehr von Angriffen dienten, sind nur etwa 7000 Jahre alt.2 [2]

Das Krieg/Frieden-System

Erstaunlicherweise sind diese Erkenntnisse bislang kaum ins allgemeine Bewusstsein eingedrungen. Offenbar werden sie von vielen für belanglos gehalten, weil sie einen Zeitabschnitt betreffen, der häufig immer noch als "Vorgeschichte" der Menschheit wahrgenommen wird, ohne Bedeutung für die Gegenwart.

Nun ist die Rückkehr zu einfachen nomadischen Lebensformen sicherlich kein gangbarer Weg, um zukünftig Kriege zu vermeiden. Dennoch ist der Blick in die Vergangenheit an dieser Stelle wichtig und hilfreich, stellt er doch die in Arkins Studie vorgenommene Verengung der Perspektive in Frage. Es mag realpolitisch vernünftig erscheinen, auch zukünftig von der Existenz von Kriegen auszugehen und sich darauf vorzubereiten, um siegreich und mit möglichst wenig Opfern auf der eigenen Seite aus ihnen hervorzugehen. Aber dieser kurzfristige militärische Vorteil wäre viel zu teuer erkauft, wenn dadurch die Chance vertan würde, den Krieg als Werkzeug der Politik grundsätzlich abzuschaffen oder dessen Nutzung wenigstens massiv einzudämmen. Diese Chance gibt es: Es hat in der Vergangenheit nicht immer schon Kriege gegeben. Also sind sie auch in der Zukunft nicht unvermeidlich.

Kellys Studie zeigt, dass technologische Innovationen und soziale Organisation ausschlaggebend für die lange Zeit des Friedens waren, die erst durch einen tiefgreifenden sozialen Wandel, den Übergang zu sesshaften Lebensformen, beendet wurde. Globalisierung und das Erreichen der Wachstumsgrenze sind Umwälzungen von vergleichbarer Tragweite. Sie könnten Wege eröffnen, erneut eine Periode des Friedens einzuleiten. In diesem Zusammenhang sind die Überlegungen von besonderem Interesse, die Kelly zu den Andamanen vorgenommen hat.

Die Inselgruppe der Andamanen im Indischen Ozean ist seit mindestens 2200 Jahren von Menschen besiedelt. Die meisten der 13 Völker waren sich kulturell und verwandtschaftlich so nah, dass sie sich sprachlich verständigen konnten. Je nach Jahreszeit und Siedlungsgebiet nutzten sie Nahrungsquellen im Meer und in den Wäldern, lebten aber in "einer begrenzten Umgebung, in der die maximale Bevölkerungsdichte erreicht war".3 [3] Streit um Ressourcen war unter diesen Umständen unvermeidlich und führte gelegentlich zu Todesfällen, die wiederum Racheakte zur Folge hatten.

Kelly zitiert dazu den britischen Sozialforscher Alfred Radcliffe-Brown, der die Inseln vor etwa hundert Jahren besuchte:

Solche Angriffe und Gegenangriffe mochten für einige Jahre fortgesetzt werden und so zu einer Fehde zwischen zwei benachbarten Gruppen führen. In der Regel wurde aber nach ein oder zwei solcher Kämpfe Frieden geschlossen. Bei den Völkern der Nord-Andamanen gab es eine spezielle Friedenszeremonie. (…) Alle Friedensverhandlungen wurden von den Frauen geführt. Ein oder zwei Frauen der einen Gruppe wurden beauftragt, die Frauen der anderen Gruppe zu befragen, ob sie bereit wären, die Vergangenheit zu vergessen und Freundschaft zu schließen. Es scheint, als wäre es vor allem der Groll der Frauen über die getöteten Angehörigen gewesen, der die Fehde am Leben erhielt. Die Männer der beiden Parteien waren viel eher als die Frauen bereit, Freundschaft zu schließen.
Alfred Radcliffe-Brown

Um den Frieden zu besiegeln, kam die "vergebende Partei" zum Siedlungsplatz derjenigen, die für den letzten feindlichen Akt verantwortlich waren. Zentrales Element der Friedenszeremonie war ein Tanz, bei dem zunächst jeder Mann und danach jede Frau der besuchenden Gruppe jeden Mann der anderen Gruppe einmal kräftig schüttelte, während deren Frauen den Takt dazu klatschten. Auf diese Weise, so Kelly, wurde der "Frieden in einem Konsens verankert, an dem jeder beteiligt war".4 [4]. Auf den Andamanen entwickelten sich Friedenschließen und Kriegsführen parallel. Der Krieg, betont Kelly, entstand "als ständiger Wechsel von Krieg und Frieden, das heißt, als ein Krieg/Frieden-System. Der Ursprung des Krieges ist damit gleichzeitig der Ursprung des Friedens (als eines sozial konstruierten Zustands).5 [5]

Bei der Diskussion über Militärroboter steht bislang allein die Kriegsführung im Vordergrund. Das Potenzial der Robotik für das Schließen und Bewahren des Friedens wird dagegen bislang nicht beachtet. Dabei unterstreichen die Nachrichten Tag für Tag, dass gerade hier offenbar die deutlich größeren Defizite bestehen.

Friedensbotschafter

Nun werden sich die Friedensrituale der Andamanesen nicht eins zu eins in die Gegenwart übertragen lassen. Roboter, die mit Selbstmordattentätern die Versöhnung ertanzen, sind ein schöner Stoff fürs Kino oder für ein Musical, aber wahrscheinlich keine realistische Lösung für aktuelle Konflikte. Dennoch verdient der Blick auf Roboter als Friedensbringer mindestens die gleiche Aufmerksamkeit wie der auf Roboter als ethisch korrekter schießende Soldaten.

Vergleichende Untersuchungen friedlicher Gesellschaften haben ein hohes Maß an Gleichheit als zentrales Element bei der Wahrung des Friedens erkannt:

Weitere friedenserhaltende Ansätze sind (1) Erziehungspraktiken, die Gewaltlosigkeit höher bewerten als Aggressivität und die Verinnerlichung gewaltloser Werte und Verhaltensmuster fördern; (2) sich aus dem Weg zu gehen als gängiges Verhalten; (3) die Entwicklung von Selbstbeherrschung gegenüber Ausdrücken von Wut und Aggression; (4) der Gebrauch verschiedener sozialer Kontrollmechanismen zur Förderung von Gewaltlosigkeit; (5) die aktive Einbeziehung dritter Parteien bei der Lösung von Konflikten.::Baszarkiewicz/Fry6 [6]

Hier können Roboter eine wichtige Rolle spielen. Schließlich wird gerade von Militärvertretern immer wieder hervorgehoben, dass sie vor allem die schmutzigen, langweiligen und gefährlichen Arbeiten übernehmen sollen, die auf Englisch besonders einprägsamen 3 D: dirty, dull, dangerous. In der zivilen Welt haben aber gerade diejenigen, die bislang die Drecksarbeiten ausführen, durch Roboter in der Regel nur Nachteile: Ihnen wird die Arbeit nicht abgenommen, sondern weggenommen und damit auch der Lebensunterhalt. Automatisierung trägt so zur weiteren Polarisierung der Gesellschaft bei - dabei hätte sie das Potenzial, diesen Prozess umzukehren.

Notwendig wäre dafür allerdings eine Neubewertung der Erwerbsarbeit, insbesondere eine Entkoppelung der Arbeit von der Sicherung des Lebensunterhalts. Andrea Bertolini, Rechtswissenschaftler an der Scuola Superiore Sant‘Anna in Pisa, wies Ende 2013 bei einer Konferenz des europäischen Netzwerks für künstliche kognitive Systeme (EUCog) darauf hin, dass Arbeit die Stellung des Individuums in der Gesellschaft definiere. Ihre Bedeutung beschränke sich keinesfalls darauf, lediglich das Einkommen zu sichern. Mit der Mehrheit der Tagungsteilnehmer war er sich einig darin, dass sich die Frage immer dringender stelle, wie sich der Wohlstand, den die Maschinen schaffen, fair verteilen lasse. Auch viele Kommentare, die übers Internet und Twitter die Konferenz erreichten, gingen darauf ein. Automatisierung, so eine Forderung, solle zu einem besseren Leben für alle beitragen, nicht zu einer weiteren Verstärkung der Spaltung zwischen arm und reich.

Wenn es gelänge, Roboter in dieser Weise wirken zu lassen, könnten sie tatsächlich gute Krieger werden - ganz im Sinne des chinesischen Philosophen Sun Tzu, Verfasser des ersten Buches über die Kriegskunst, der vor 2500 Jahren schrieb: "Die größte Leistung besteht darin, den Widerstand des Feindes ohne einen Kampf zu brechen." Vielleicht müsste es heute eher heißen: die Feindschaft gar nicht erst entstehen zu lassen.

Literatur [7]

URL dieses Artikels:
https://www.heise.de/-3364699

Links in diesem Artikel:
[1] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_1
[2] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_2
[3] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_3
[4] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_4
[5] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_5
[6] https://www.heise.de/tp/features/Koennen-Roboter-den-Krieg-humanisieren-3364699.html?view=fussnoten#f_6
[7] ?artikel_cid=&row_id=1