Krieg mit KI-Systemen: Ohne Angst und Emotion, aber mit hoher Ungewissheit

Im Pentagon rückt man davon ab, dass autonome Systeme niemals selbstständig Entscheidungen über Leben und Tod treffen können

Bob Work, schon unter Obama stellvertretender Verteidigungsminister, ist verantwortlich dafür, das Pentagon in die technische Zukunft zu schieben. Das ging los mit der Third Offset Strategy mit der Ausrichtung auf weitere Digitalisierung und Entwicklung autonomer Systeme (Das Pentagon setzt auf die Mensch-Maschine-Kooperation) über die Einrichtung neuer Abteilungen Strategic Capabilities Office und den den Rapid Capabilities Abteilungen bei den Streitkräften bis hin zur Defense Innovation Unit Experimental (DIUX). Digital und innovativ muss es sein, weswegen nicht wundert, wenn Work kürzlich von einer "algorithmischen Kriegsführung" sprach (Das Pentagon forciert "algorithmische Kriegsführung").

Auf der KI-Konferenz ISCForum 2017 am Applied Physics Laboratory der Johns Hopkins University erklärte Work, er beginne immer fester zu glauben, dass Künstliche Intelligenz nicht nur verändern werde, wie Krieg in Zukunft geführt wird, sondern auch "das Wesen des Kriegs" selbst. Es sei eine "Sünde" in seiner Profession zu unterstellen, dass Technik das unveränderbare Wesen des Konflikts verändern könne. Daher habe er gesündigt, als er dies sagte.

Work bezog sich auf Clausewitz, so berichtet Breakingdefense.com, als er das traditionelle Wesen des Krieges mit dem Zusammenspiel von Wille, Angst, Ungewissheit und Zufall zusammenfasste: "Sie müssen sich selbst fragen, wie Angst in einer Welt zur Geltung kommt, wenn ein großer Teil der Aktionen zwischen unbemannten Systemen stattfindet." Wenn Maschinen die Entscheidungen treffen, werden menschliche Schwächen und Emotionen wie Angst, Wut oder Stolz keine Rolle mehr spielen. Das würde die Strategien des Kriegführens tatsächlich verändern.

Work ist der Meinung, dass auch die Ungewissheit nicht mehr so prägend sein wird, da die computerbasierte Entscheidungsfindung die Kommandeure klarer sehen ließe. Wieder bezog er sich auf Clausewitz, der vom "coup d'oeil" der Kommandeure gesprochen hat, womit diese die Lage schnell, einfach und umfassend erkennen würden.

Soll er (der Geist) nun diesen beständigen Streit mit dem Unerwarteten glücklich bestehen, so sind ihm zwei Eigenschaften unentbehrlich: einmal ein Verstand, der auch in dieser gesteigerten Dunkelheit nicht ohne einige Spuren des inneren Lichts ist, die ihn zur Wahrheit führen, und dann Mut, diesem schwachen Lichte zu folgen. Der erstere ist bildlich mit dem französischen Ausdruck coup d'oeil bezeichnet worden, der andere ist die Entschlossenheit.

Carl von Clausewitz: Vom Kriege

Work griff diese von Clausewitz gewitzten Kriegsführern zugeschriebene Eigenschaft auf, intuitiv das erkennen zu können, was geschieht. Clausewitz oder Napoleon hätten diese Eigenschaft als angeboren und nicht zu reproduzieren betrachtet, Work ist aber der Meinung, dass "lernende Maschinen mehr und mehr Kommandeuren einen coup d’oeil" geben würden, die dann eben nicht von der Intuition, sondern von Maschinen und ihren aufbereiteten Daten gestützt würden.

Menschliches Wissen und auch menschliche Erfahrung würden also an den Rand gedrängt, was aber nicht heiße, dass die Ungewissheit verschwindet. Man könne zwar erahnen, welche Kapazitäten ein Panzer habe, der bei einer Parade auf dem Roten Platz auffährt, aber seine KI zeige sich erst im Kampf. Dass der Gegner Russland ist, ist nebenbei auch bezeichnend. "Überraschung wird endemisch werden", sagt Work, "weil wir viele Fortschritte, die die Anderen mit ihren Waffensystemen erzielen, erst erkennen werden, wenn wir sie bekämpfen." Und wenn sie eine KI haben, "die bessere als unsere ist, würde dies ein schwarzer Tag sein".