KI ist nicht weiter als Statistik mit ganz viel Trainingsdaten und Rechenpower. Das erzeugt gelegentlich erstaunliche gute Ergebnisse aber ebenso gigantische Fehlleistungen. Und es ist inzwischen bewiesen, dass diese Fehlleitungen dem Verfahren immanent sind, sprich sie lassen sich nicht vermeiden, auch nicht mit mehr Training oder mehr Rechenpower. Denn diese KI ist dümmer als jeder Idiot, sie hat kein Verständnis von der Welt, von Gegenständen, von Menschen, von Logik oder gar von Ursache und Wirkung. Sie kennt nur Statistik.
Selbst wenn der autonome Killerrobot die eigenen Soldaten 100 Tage lang sicher erkannt und nicht umgebracht hat, am 101 Tag läuft einem Soldaten die Nase, das Erkennungsmodel hat einen Glitch und aus ist es mit ihm.
Aber das ist nicht mal die größte Dummheit dabei. Alle Systeme automatisieren und vernetzen, super Idee. Je komplexer das System ist, desto größer ist seine Angriffsfläche. Und wenn alles vernetzt ist, kann das System auch von überall infiltriert werden. Da hilft wahrscheinlich nur eins, auf jedem autonomen Killerrobot läuft auch ein Kasperky-Vierenscanner?
Die Kriege der Zukunft laufen dann nicht so ab, dass Roboterarmee gegen Roboterarmee kämpft, sondern ist ein Wettrennen, wer zuerst die gegnerische Roboterarmee hackt und gegen sich selber und ihren Besitzer einsetzt. Und da helfen auch keine größeren Armeen oder stärkeren Waffen. Im Gegenteil, je weniger autonome Roboter du hast, desto sicherer bist du.