"Entmenschlichung der Entscheidung über Leben und Tod"
"Heron 1 operators". Archivbild (2003): US-Luftwaffe, gemeinfrei
Dokumentiert: Die Bewaffnung von Drohnen für die Bundeswehr stoppen - autonome Waffensysteme ächten!
Bis zum 10. November wollen SPD, Grüne und FDP erste Verhandlungsergebnisse zum neuen Koalitionsvertrag vorlegen. Aktivisten und KI-Experten befürchten, dass es - gegen erheblichen Widerstand aus Politik und Zivilgesellschaft - zu einer Billigung bewaffneter Drohnenprogramme kommt. Telepolis dokumentiert einen offenen Brief, der am heutigen Montagmittag veröffentlicht werden wird. Darin sprechen sich renommierte Informatik- und KI-Experten gegen ein militärisches Drohnenprogramm aus.
Sehr geehrte Vorsitzende der Parteien SPD, Bündnis 90 die Grünen und FDP,
sehr geehrte Verhandlungsführende der Koalitionsverhandlungen,
sehr geehrte Mitbürger:innen der Bundesrepublik,
wir wenden uns als Forscher:innen der Künstlichen Intelligenz und Informatik und als Bürger:innen an die Politik und die Öffentlichkeit, damit die Bewaffnung von Drohnen für die Bundeswehr aus humanitären wie aus sicherheitspolitischen Gründen gestoppt wird.
Als Forscher:innen der Künstlichen Intelligenz (KI) und Informatik sprechen wir uns entschieden gegen autonome Waffensysteme aus, so wie viele Tausend unserer internationalen Kolleg:innen
Eine Maschine "sieht" einen Menschen nur als eine lange Liste aus Zahlen, und "versteht" den Wert eines Menschenlebens nicht. Sie kann die weitreichenden Auswirkungen ihrer "Entscheidungen" nicht "begreifen".
Die Tötung von Menschen sollte niemals aufgrund algorithmischer Formeln automatisiert ablaufen. Eine solche Entmenschlichung der Entscheidung über Leben und Tod durch autonome Waffensysteme muss weltweit geächtet werden!
Zudem sind die heutigen KI-Algorithmen bei Weitem nicht so objektiv und robust, wie es oft den Anschein macht. In realen Situationen mit realen Daten können Algorithmen unzuverlässig, fehlerhaft und undurchschaubar sein. Soziale Ungerechtigkeiten und Vorurteile werden durch Algorithmen oft verstärkt.
Die Revolution in der Künstlichen Intelligenz hat eine algorithmengesteuerte Kriegsführung in absehbarer Zukunft möglich gemacht. Bisher gibt es jedoch keine nationalen oder internationalen Kontrollregime, die dieser bereits stattfindenden Entwicklung Einhalt gebieten.
Die Bewaffnung von Drohnen macht eine autonome Waffenführung prinzipiell möglich und stellt einen kritischen Wendepunkt dar. Der wissenschaftlich-technologische Stand ist mittlerweile so weit fortgeschritten, dass jede moderne ferngelenkte bewaffnete Drohne nur ein Software-Update von einer vollautonomen tödlichen Waffe entfernt ist, ohne dass dies nachgewiesen werden kann!
Bewaffnete Drohnen müssen jetzt vermieden werden, bevor der Entwicklung hin zu vollautonomen Waffen kein Einhalt mehr geboten werden kann.