zurück zum Artikel

Mitwirken der KI bei nuklearen Waffensystemen bedrohlich. Politische Forderungen müssen zu mehr Kontrolle führen. Eine Warnung. (Teil 2 und Schluss)

Ein ungebremster Rüstungswettlauf von Atommächten auf Konfrontationskurs erhöht auch das Atomkriegsrisiko in erheblichem Umfang.

Neue Dimensionen des Wettrüstens

In den letzten Jahren hat ein neues Wettrüsten in verschiedenen militärischen Dimensionen begonnen. Die meisten dieser Entwicklungen sind noch am Anfang und die Folgen kaum kalkulierbar.

Dies gilt für neue Trägersysteme von Atomwaffen, wie etwa die Hyperschallraketen, die geplante Bewaffnung des Weltraums, Laserwaffen, den Ausbau von Cyberkriegskapazitäten und die zunehmende Anwendung von Systemen der Künstlichen Intelligenz bis hin zu autonomen Waffensystemen.

Alle diese Aspekte haben auch Wechselwirkungen mit Frühwarnsystemen zur Erkennung von Angriffen mit Atomraketen und werden die Komplexität dieser Systeme deutlich erhöhen.

Die Weiterentwicklung von Waffensystemen mit höherer Treffsicherheit, verbesserter Lenkbarkeit und immer kürzeren Flugzeiten (Hyperschallraketen) wird zunehmend Techniken der Künstlichen Intelligenz (KI) erforderlich machen, um für gewisse Teilaufgaben Entscheidungen automatisch zu treffen.

Die Mensch-Maschine-Entscheidung

Es gibt im Zusammenhang mit Frühwarnsystemen bereits Forderungen, autonome KI-Systeme zu entwickeln, die vollautomatisch eine Alarmmeldung bewerten und gegebenenfalls einen Gegenschlag auslösen, da für menschliche Entscheidungen keine Zeit mehr bleibt.

Die für eine Entscheidung verfügbaren Daten sind in der Regel jedoch vage, unsicher und unvollständig. Deshalb können auch KI-Systeme in solchen Situationen nicht zuverlässig entscheiden. In der kurzen verfügbaren Zeit wird es kaum möglich sein, Entscheidungen der Maschine zu überprüfen. Dem Menschen bleibt nur zu glauben, was die Maschine liefert.

Aufgrund der unsicheren und unvollständigen Datengrundlage werden weder Menschen noch Maschinen in der Lage sein, Alarmmeldungen zuverlässig zu bewerten.

Gefahren durch KI-fähige Systeme

Nach einem Bericht der "National Security Commission on Artificial Intelligence" der USA vom November 2019 besteht die Gefahr, dass KI-fähige Systeme bisher unverletzliche militärische Positionen verfolgen und angreifen und somit die globale strategische Stabilität und nukleare Abschreckung untergraben könnten. Staaten könnten dadurch zu einem aggressiveren Verhalten verleitet werden, was die Anreize für einen Erstschlag erhöhen könnte.

In dem Bericht werden auch Vereinbarungen zwischen USA, Russland, China und anderen Nationen vorgeschlagen, um ein Verbot für einen durch KI-Systeme autorisierten oder ausgelösten Abschuss von Atomwaffen zu erwirken.

Warnungen vor destabilisierenden Trends

Auch der Sipri-Bericht über die Auswirkungen der KI auf die strategische Stabilität und die nuklearen Risiken warnt vor einem zunehmenden Einsatz von autonomen oder KI-basierten Entscheidungsunterstützungssystemen, die nur scheinbar ein klares Bild in kurzer Zeit liefern.

Um ein gewisses Maß an Stabilität aufrechtzuerhalten, sei ein Austausch zwischen Militärs über die jeweiligen KI-Fähigkeiten erforderlich, um das Prinzip der nuklearen Abschreckung aufrechterhalten zu können.

Die Bedrohung durch Cyberangriffe

Unkalkulierbar sind auch potenzielle Cyberangriffe, wobei Komponenten oder Daten eines Frühwarnsystems manipuliert werden könnten, was auf vielfältige Art möglich sein kann.

Bei zivilen KI-Anwendungen gab es in den letzten Jahren einige Überraschungen, wobei unerwartete Fähigkeiten erreicht wurden, wie zuletzt mit Systemen der generativen KI, wie z.B. ChatGPT. Weltweit führende KI-Wissenschaftler und auch Chefs von großen KI-Unternehmen haben im Jahr 2023 eindringlich vor den möglichen Risiken dieser Entwicklung gewarnt.

Auch eine Superintelligenz, bei der das menschliche Intelligenzniveau weit überschritten wird, wird in den nächsten Jahren für möglich gehalten.

Mithilfe von Techniken von "Deepfake" und Systemen der generativen KI können massenhaft Texte, Bilder und Videos erzeugt werden, die vermeintliche Tatsachen vermitteln. Mit solchen Desinformationen können Menschen manipuliert und Gesellschaften destabilisiert werden.

Der Einfluss von KI auf die Medien

Wenn immer mehr Medieninhalte automatisch erzeugt werden, ohne Möglichkeit den Wahrheitsgehalt zu prüfen, wird politisches Handeln in demokratischen Staaten immer schwieriger. Chaos mit sozialen Verwerfungen, Aufständen und eventuell Bürgerkriege könnten die Folge sein.

Zunehmend schwieriges politisches Handeln verbunden mit immer gefährlicheren Waffensystemen, wie z.B. die Weiterentwicklung von Hyperschallraketen und die oben beschriebene Tendenz zu KI-basierten Waffen bilden eine Mischung, die für unsere politischen Systeme unbeherrschbar wird und auch durch Missverständnisse leicht zu einer globalen Katastrophe führen kann, z.B. in Form eines Atomkriegs aus Versehen.

Notwendige politische Veränderungen

Eine Politik, die einzig auf eine wechselseitige Konfrontation zwischen dem Westen und Russland oder China setzt, wird zur Folge haben, dass gefährliche Waffensysteme auf allen Seiten mit höchster Priorität weiterentwickelt werden, einschließlich der Einbeziehung von Techniken der KI.

Die aktuellen Kriege bieten ein "ideales Testfeld" zur Erprobung und Perfektionierung dieser militärischen Fähigkeiten. Um eine globale Katastrophe zu vermeiden, die zu einer Vernichtung der Menschheit führen könnte, muss dieser Prozess umgekehrt werden.

Die aktuellen Kriege müssen so schnell wie möglich beendet werden. Statt Waffenlieferungen in Kriegsgebiete sollte umfangreiche Diplomatie das Gebot der Stunde sein. An die Stelle eines gegenseitigen Konfrontationskurses müssen Vertrauen, Kooperationen und gute Kommunikationskanäle wieder aufgebaut und verbessert werden.

Hierbei müssen ökonomische und geostrategische Interessen der verschiedenen Seiten in Verhandlungsprozessen berücksichtigt werden.

Statt neue Hyperschallraketen in Ost und West zu stationieren, sind wirksame Vereinbarungen zur Rüstungskontrolle, einschließlich nuklearer Abrüstung erforderlich. Auch weltweite Vereinbarungen zum Verbot autonomer Waffensysteme und einer Regulierung der KI werden dringend benötigt.

Die Abhängigkeit von Internetdiensten sollte nicht weiter steigen. Stattdessen müssen wichtige Infrastruktursysteme, wie das Gesundheitswesen und die Stromversorgung auch ohne Internet fehlerfrei funktionieren. Auch muss sichergestellt werden, dass gefährliche Waffensysteme, wie Atomraketen, nicht über das Internet ansteuerbar sind.

Hier soll zudem die Auffassung vertreten werden, dass derartige international anzulegende Kontrollprozesse über eine Reform der UN unterstützt werden können – Reformprozesse, die sowohl ihre Struktur als auch den Rechtsstatus der über die UN vertretenen Menschen betreffen.

Die UN sind zum einen in ihrer Wirkmächtigkeit und finanziellen Unabhängigkeit zu stärken, damit sie auch die Macht bekommen, über die notwendigen Zukunftsentscheidungen maßgeblich zu bestimmen.

Gleichzeitig – und immer etwas vor der Erweiterung der Befugnisse – sind die Vereinten Nationen zu demokratisieren, um demokratische Wahlen der UN-Gremien zu gewährleisten und eine legitime und institutionell ausbalancierte Kontrolle über die Entscheidungsgremien zu bekommen.

Die Vision eines Weltbürgerrechts

Immanuel Kant verband seine Idee vom Frieden zudem mit einer Veränderung bzw. notwendigen Ergänzung im Staats- und Völkerrecht:

Da es nun mit der unter den Völkern der Erde einmal durchgängig überhand genommenen (engeren oder weiteren) Gemeinschaft so weit gekommen ist, dass die Rechtsverletzung an einem Platz der Erde an allen gefühlt wird:

So ist die Idee eines Weltbürgerrechts keine phantastische und überspannte Vorstellungsart des Rechts, sondern eine notwendige Ergänzung des ungeschriebenen Kodex, sowohl des Staats- als Völkerrechts zum öffentlichen Menschenrechte (…) überhaupt, und so zum ewigen Frieden, zu dem man sich in der kontinuierlichen Annäherung zu befinden nur unter dieser Bedingung schmeicheln darf.

Gegenwärtige Initiativen zur UN-Reform und zum Weltbürgerrecht müssten auch die Forderungen hinsichtlich der internationalen Kontrolle der KI in ihre Agenda aufnehmen. Dies wird dann die Chancen, die in der gesellschaftlichen Anwendung vorhanden sind, aber auch die Probleme klären müssen, die sich aus einer ungenügend kontrollierten KI-Entwicklung, insbesondere im Zusammenhang mit inter- und intragesellschaftlichen Großkonflikten, ergeben.

Es ist zu erwarten, dass es bei mächtigen Akteuren, die in den Vereinten Nationen ihre Interessen ohne Verantwortung für das Ganze vertreten wollen, erhebliche Widerstände gegen eine UN-koordinierte Kontrolle der KI-Entwicklung geben wird. Doch hier geht es um zu viel, ohne zumindest den Einsatz dafür deutlich zu erhöhen, eine verantwortliche KI-Entwicklung für die weltbürgerliche Gemeinschaft zu erreichen.

URL dieses Artikels:
https://www.heise.de/-9638955

Links in diesem Artikel:
[1] https://blaesius.net/
[2] https://www.klaus-moegling.de/

Copyright © 2024 Heise Medien