"Entmenschlichung der Entscheidung über Leben und Tod"
"Heron 1 operators". Archivbild (2003): US-Luftwaffe, gemeinfrei
Dokumentiert: Die Bewaffnung von Drohnen für die Bundeswehr stoppen - autonome Waffensysteme ächten!
Bis zum 10. November wollen SPD, Grüne und FDP erste Verhandlungsergebnisse zum neuen Koalitionsvertrag vorlegen. Aktivisten und KI-Experten befürchten, dass es - gegen erheblichen Widerstand aus Politik und Zivilgesellschaft - zu einer Billigung bewaffneter Drohnenprogramme kommt. Telepolis dokumentiert einen offenen Brief, der am heutigen Montagmittag veröffentlicht werden wird. Darin sprechen sich renommierte Informatik- und KI-Experten gegen ein militärisches Drohnenprogramm aus.
Sehr geehrte Vorsitzende der Parteien SPD, Bündnis 90 die Grünen und FDP,
sehr geehrte Verhandlungsführende der Koalitionsverhandlungen,
sehr geehrte Mitbürger:innen der Bundesrepublik,
wir wenden uns als Forscher:innen der Künstlichen Intelligenz und Informatik und als Bürger:innen an die Politik und die Öffentlichkeit, damit die Bewaffnung von Drohnen für die Bundeswehr aus humanitären wie aus sicherheitspolitischen Gründen gestoppt wird.
Als Forscher:innen der Künstlichen Intelligenz (KI) und Informatik sprechen wir uns entschieden gegen autonome Waffensysteme aus, so wie viele Tausend unserer internationalen Kolleg:innen [1]
Eine Maschine "sieht" einen Menschen nur als eine lange Liste aus Zahlen, und "versteht" den Wert eines Menschenlebens nicht. Sie kann die weitreichenden Auswirkungen ihrer "Entscheidungen" nicht "begreifen".
Die Tötung von Menschen sollte niemals aufgrund algorithmischer Formeln automatisiert ablaufen. Eine solche Entmenschlichung der Entscheidung über Leben und Tod durch autonome Waffensysteme muss weltweit geächtet werden!
Zudem sind die heutigen KI-Algorithmen bei Weitem nicht so objektiv und robust, wie es oft den Anschein macht. In realen Situationen mit realen Daten können Algorithmen unzuverlässig, fehlerhaft und undurchschaubar sein. Soziale Ungerechtigkeiten und Vorurteile werden durch Algorithmen oft verstärkt.
Die Revolution in der Künstlichen Intelligenz hat eine algorithmengesteuerte Kriegsführung in absehbarer Zukunft möglich gemacht. Bisher gibt es jedoch keine nationalen oder internationalen Kontrollregime, die dieser bereits stattfindenden Entwicklung Einhalt gebieten.
Die Bewaffnung von Drohnen macht eine autonome Waffenführung prinzipiell möglich und stellt einen kritischen Wendepunkt dar. Der wissenschaftlich-technologische Stand ist mittlerweile so weit fortgeschritten, dass jede moderne ferngelenkte bewaffnete Drohne nur ein Software-Update von einer vollautonomen tödlichen Waffe entfernt ist, ohne dass dies nachgewiesen werden kann!
Bewaffnete Drohnen müssen jetzt vermieden werden, bevor der Entwicklung hin zu vollautonomen Waffen kein Einhalt mehr geboten werden kann.
Kritische Schwelle zur Automatisierung der Kriegsführung
Im öffentlichen Diskurs über die Bewaffnung von Drohnen wird die Gefahr einer schleichenden Automatisierung der Kriegsführung bisher unzureichend reflektiert – diese Debatte muss geführt werden!
Denn mit der Bewaffnung von Drohnen wird eine kritische Schwelle zur Automatisierung der Kriegsführung überschritten: hin zur Entwicklung von Waffen, deren Angriff auf Menschen automatisiert abläuft, ohne weitere menschliche Entscheidung, Aufsicht oder Möglichkeit eines Abbruchs.
Die dringend gebotene internationale Ächtung von vollautonomen letalen Waffen, die sich auch die bisherige Bundesregierung auf die Fahnen schreibt, muss daher bewaffnete Drohnen einschließen.
Bereits der Einsatz von vom Menschen gesteuerten bewaffneten Drohnen hat die Schwelle zum Einsatz militärischer Gewalt gesenkt und den Krieg weiter entgrenzt, Drohnenangriffe finden dauerhaft und häufig ohne Kriegserklärung statt.
Die technologische Hochrüstung mit bewaffneten Drohnen hat militärisch und technologisch überlegenen Staaten wie den USA außergerichtliche Tötungen vereinfacht, die fast ausschließlich People of Colour treffen [2].
Autonome Waffen würden die Möglichkeit globaler Überwachung und Tötungen als potenzielle Gefahr definierter Menschen verstärken und die Kontrolle über die Elimination dieser Menschen nicht nur rechtlichen Normen, sondern auch zunehmend menschlichem Einfluss entziehen.
Die zunehmende Automatisierung von bewaffneten Drohnen verschärft gleichzeitig die Gefahr einer militärischen Konfrontation zwischen Staaten, die mit solchen Waffen ausgerüstet sind.
Wird aufgrund eines realen militärischen Zwischenfalls oder eines Fehlalarms ein autonomes Waffensystem aktiviert, wird sich eine militärische Eskalation nicht mehr aufhalten lassen. Damit droht eine Verschärfung globaler Instabilität.
Keine ferne Dystopie
Diese Szenarien sind keine ferne Dystopie – im Juni dieses Jahres haben die Vereinten Nationen in einem Bericht bekannt gegeben, dass in Libyen vermutlich eine Drohne einen vollautonomen Angriff durchgeführt hat. Sicher bestätigen, ob dieser Angriff [3] tatsächlich von einer vollautonomen Waffe durchgeführt wurde [4], konnten die Vereinten Nationen nicht.
Dieser Vorfall zeigt exemplarisch: Mit einer Verbreitung von bewaffneten Drohnen ist die globale Ausweitung autonomer Waffen auch über die technologisch führenden Staaten hinaus absehbar und bisher weder zu kontrollieren noch zu stoppen.
Eine Nicht-Bewaffnung von Drohnen kann politisch entschieden und auf internationaler Ebene kontrolliert werden, die schleichende Entwicklung hin zu immer autonomeren Waffen aufgrund immer komplexerer Algorithmen ist dagegen ein intransparenter Prozess, der sich weitgehend der Möglichkeit öffentlich-demokratischer, geschweige denn internationaler Kontrolle entzieht.
Angesichts der rasanten Entwicklung der Künstlichen Intelligenz ist die Entwicklung und Verbreitung von modernen bewaffneten Drohnen der Dammbruch für einen globalen Rüstungswettlauf hin zu autonomer Kriegsführung [5], der jetzt gestoppt werden kann und muss [6].
Die Lösung der drängenden Zukunftsfragen macht globale zivile Zusammenarbeit für Sicherheit und menschliche Entwicklung unumgänglich: Ein Bruchteil der Mittel, die aktuell für die Technologisierung und Automatisierung des Krieges verwendet werden, würden ausreichen, um in globalem Ausmaß Sicherheit und menschliche Entwicklung umfassend zu befördern.
Allein das von der französischen, deutschen und spanischen Regierung bis 2040 geplante "Future Combat Air System" [7], ein auf teilautonomen, bewaffneten Drohnen-Schwärmen basierenden Kampfsystem, soll bis zu 500 Milliarden Euro kosten [8].
Schon die Kosten dieses Projektes entsprechen dem doppelten der Mittel, die nach den Vereinten Nationen jährlich notwendig wären, um weltweit den Hunger zu beenden [9].
Der Stopp der Ausbreitung von bewaffneten Drohnen und ihre internationale Abrüstung sind für die Realisierung der sozialen wie der politischen Menschenrechte, für eine menschenwürdige Zukunft auf diesem Planeten geboten.
Wir appellieren daher an die Vertreterinnen und Vertreter der Parteien im Deutschen Bundestag, an die Wissenschaft und die Zivilgesellschaft: Stoppen Sie die Bewaffnung von Drohnen für die Bundeswehr. Setzen Sie sich für einen sofortigen Stopp der Verbreitung von bewaffneten Drohnen und für eine Ächtung von bewaffneten Drohnen und autonomen Waffensystemen ein.
Gezeichnet:
Forscher*innen der KI und Informatik:
- Dr. Jakob Foerster, Universität Oxford
- Prof. Dr. Hans-Jörg Kreowski, Universität Bremen
- Dr. Maximilian Igl
- Christian Schroeder de Witt, Universität Oxford
- Luisa Zintgraf, Universität Oxford
- Prof. Dr.-Ing. Dorothea Kolossa, Ruhr-Universität Bochum
- Prof. Dr. Karl Hans Bläsius
- Prof. Dr. Christoph Dalitz, Hochschule Niederrhein
- Prof. Dr. Ulrike Erb, Hochschule Bremerhaven
- Christian Heck, Kunsthochschule für Medien Köln
- Ao.Univ.Prof.i.R. Dr. Wolfgang Hofkirchner, Technische Universität Wien
- Aaron Lye, Universität Bremen
- Prof. Dr. Julia Padberg, Hochschule für Angewandte Wissenschaften Hamburg
- Rainer Rehak, Weizenbaum-Institut für die vernetzte Gesellschaft Berlin
- Prof. Dr. Britta Schinzel, Universität Freiburg
- Prof. Dr. Jörg Siekmann, Universität des Saarlandes
- Prof. Dr. Andreas Spillner, Hochschule Bremen
- Prof. Dr. Christian Stary, Johannes Kepler Universität Linz
- Prof. Dr. Werner Winzerling, Hochschule Fulda
- Prof. Dr. Eberhard Zehendner, Friedrich-Schiller-Universität Jena
- Prof.Dr. Wolfgang Coy, Humboldt-Universität zu Berlin
- Prof. Dr. Prof. h.c. Otthein Herzog, Universität Bremen
- Prof. Dr. Frieder Nake, Universität Bremen
- Prof. Dr. Karin Vosseberg, Hochschule Bremerhaven
- Prof. Tim Rocktäschel, Ph.D., University College London
Weitere Unterstützende:
- Prof. Dr. Franz Kasper Krönig, Fakultät für Angewandte Sozialwissenschaften, TH Köln
URL dieses Artikels:
https://www.heise.de/-6237475
Links in diesem Artikel:
[1] https://futureoflife.org/open-letter-autonomous-weapons/
[2] https://cutt.ly/BRBSZs4
[3] https://www.deutschlandfunkkultur.de/kampfdrohnen-und-lenkwaffen-wir-sehen-zunehmend-autonomie.1264.de.html?dram%3Aarticle_id=498368
[4] https://www.defenseone.com/ideas/2021/06/libyas-uav-strike-should-galvanize-efforts-autonomous-weapons/174449/
[5] https://www.blaetter.de/ausgabe/2021/august/angriff-der-killerroboter-wenn-der-algorithmus-toetet
[6] https://www.heise.de/tp/features/Das-neue-Wettruesten-hat-bereits-begonnen-6180922.html
[7] https://www.heise.de/tp/features/Leuchtturmprojekt-auf-der-Kippe-Luftkampfsystem-FCAS-6063408.html
[8] https://www.handelsblatt.com/politik/deutschland/militaerprojekt-fcas-bund-gibt-ersten-millionenbetrag-fuer-deutsch-franzoesischen-kampfjet-frei/24422282.html?ticket=ST-3094114-euLU5F6FzdICYadieq07-cas01.example.org
[9] https://taz.de/Weltweiter-Ruestungsausgaben-Rekord/!5678650/
Copyright © 2021 Heise Medien