KI und Krieg: Nukleare Risiken und politische Forderungen
Mitwirken der KI bei nuklearen Waffensystemen bedrohlich. Politische Forderungen müssen zu mehr Kontrolle führen. Eine Warnung. (Teil 2 und Schluss)
Ein ungebremster Rüstungswettlauf von Atommächten auf Konfrontationskurs erhöht auch das Atomkriegsrisiko in erheblichem Umfang.
Neue Dimensionen des Wettrüstens
In den letzten Jahren hat ein neues Wettrüsten in verschiedenen militärischen Dimensionen begonnen. Die meisten dieser Entwicklungen sind noch am Anfang und die Folgen kaum kalkulierbar.
Dies gilt für neue Trägersysteme von Atomwaffen, wie etwa die Hyperschallraketen, die geplante Bewaffnung des Weltraums, Laserwaffen, den Ausbau von Cyberkriegskapazitäten und die zunehmende Anwendung von Systemen der Künstlichen Intelligenz bis hin zu autonomen Waffensystemen.
Alle diese Aspekte haben auch Wechselwirkungen mit Frühwarnsystemen zur Erkennung von Angriffen mit Atomraketen und werden die Komplexität dieser Systeme deutlich erhöhen.
Die Weiterentwicklung von Waffensystemen mit höherer Treffsicherheit, verbesserter Lenkbarkeit und immer kürzeren Flugzeiten (Hyperschallraketen) wird zunehmend Techniken der Künstlichen Intelligenz (KI) erforderlich machen, um für gewisse Teilaufgaben Entscheidungen automatisch zu treffen.
Die Mensch-Maschine-Entscheidung
Es gibt im Zusammenhang mit Frühwarnsystemen bereits Forderungen, autonome KI-Systeme zu entwickeln, die vollautomatisch eine Alarmmeldung bewerten und gegebenenfalls einen Gegenschlag auslösen, da für menschliche Entscheidungen keine Zeit mehr bleibt.
Die für eine Entscheidung verfügbaren Daten sind in der Regel jedoch vage, unsicher und unvollständig. Deshalb können auch KI-Systeme in solchen Situationen nicht zuverlässig entscheiden. In der kurzen verfügbaren Zeit wird es kaum möglich sein, Entscheidungen der Maschine zu überprüfen. Dem Menschen bleibt nur zu glauben, was die Maschine liefert.
Aufgrund der unsicheren und unvollständigen Datengrundlage werden weder Menschen noch Maschinen in der Lage sein, Alarmmeldungen zuverlässig zu bewerten.
Gefahren durch KI-fähige Systeme
Nach einem Bericht der "National Security Commission on Artificial Intelligence" der USA vom November 2019 besteht die Gefahr, dass KI-fähige Systeme bisher unverletzliche militärische Positionen verfolgen und angreifen und somit die globale strategische Stabilität und nukleare Abschreckung untergraben könnten. Staaten könnten dadurch zu einem aggressiveren Verhalten verleitet werden, was die Anreize für einen Erstschlag erhöhen könnte.
In dem Bericht werden auch Vereinbarungen zwischen USA, Russland, China und anderen Nationen vorgeschlagen, um ein Verbot für einen durch KI-Systeme autorisierten oder ausgelösten Abschuss von Atomwaffen zu erwirken.
Warnungen vor destabilisierenden Trends
Auch der Sipri-Bericht über die Auswirkungen der KI auf die strategische Stabilität und die nuklearen Risiken warnt vor einem zunehmenden Einsatz von autonomen oder KI-basierten Entscheidungsunterstützungssystemen, die nur scheinbar ein klares Bild in kurzer Zeit liefern.
Um ein gewisses Maß an Stabilität aufrechtzuerhalten, sei ein Austausch zwischen Militärs über die jeweiligen KI-Fähigkeiten erforderlich, um das Prinzip der nuklearen Abschreckung aufrechterhalten zu können.
Die Bedrohung durch Cyberangriffe
Unkalkulierbar sind auch potenzielle Cyberangriffe, wobei Komponenten oder Daten eines Frühwarnsystems manipuliert werden könnten, was auf vielfältige Art möglich sein kann.
Bei zivilen KI-Anwendungen gab es in den letzten Jahren einige Überraschungen, wobei unerwartete Fähigkeiten erreicht wurden, wie zuletzt mit Systemen der generativen KI, wie z.B. ChatGPT. Weltweit führende KI-Wissenschaftler und auch Chefs von großen KI-Unternehmen haben im Jahr 2023 eindringlich vor den möglichen Risiken dieser Entwicklung gewarnt.
Auch eine Superintelligenz, bei der das menschliche Intelligenzniveau weit überschritten wird, wird in den nächsten Jahren für möglich gehalten.
Mithilfe von Techniken von "Deepfake" und Systemen der generativen KI können massenhaft Texte, Bilder und Videos erzeugt werden, die vermeintliche Tatsachen vermitteln. Mit solchen Desinformationen können Menschen manipuliert und Gesellschaften destabilisiert werden.
Der Einfluss von KI auf die Medien
Wenn immer mehr Medieninhalte automatisch erzeugt werden, ohne Möglichkeit den Wahrheitsgehalt zu prüfen, wird politisches Handeln in demokratischen Staaten immer schwieriger. Chaos mit sozialen Verwerfungen, Aufständen und eventuell Bürgerkriege könnten die Folge sein.
Zunehmend schwieriges politisches Handeln verbunden mit immer gefährlicheren Waffensystemen, wie z.B. die Weiterentwicklung von Hyperschallraketen und die oben beschriebene Tendenz zu KI-basierten Waffen bilden eine Mischung, die für unsere politischen Systeme unbeherrschbar wird und auch durch Missverständnisse leicht zu einer globalen Katastrophe führen kann, z.B. in Form eines Atomkriegs aus Versehen.