Psychologie der Befehlsausführung

Menschen beim Militär lernen Befehlen zu gehorchen. Die KI setzt ja nicht die Tötung um, sie spricht eher so eine Art "Tötungsempfehlung" aus. Ich gehe davon aus, dass dann ein Soldat mit entsprechender Weisungsbefugnis diese Tötungsempfehlung prüft und dann in einen Befehl für die Einsatzkräfte ummünzt. Anderes kann ich mir dieses Konstrukt nicht vorstellen. Für mich ist der kritische Punkt, dass der Soldat, der die Auswertung der KI prüft, selbst nicht mehr entscheiden und abwägen muss, er kann sein Gewissen damit beruhigen, dass ein Algorithmus ihm eine möglichst gute Vorauswahl liefert.
In der Gesamtsicht hat man dann den Effekt, dass ein Algorithmus Menschen befehligt, andere Menschen zu töten. Die moralische Verantwortung liegt aber nicht bei der KI, sondern bei den Personen, die die Optimierungs- und Bewertungsprozesse der KI entworfen haben.
Die meisten Menschen scheuen es, Entscheidungen zu treffen, und das wird hier knallhart ausgenutzt. Dass am Ende jemand die Tötung (mit Kollateralschäden) effektiv ausführt und das ganze auf Basis einer statistischen Auswertung im Zusammenspiel mit einem neuronalen Netz, das mit welchen Daten auch immer trainiert wurde, da wird mir schon ein bisschen schlecht.
In dem Augenblick, wo Vorzeichenfehler über Leben und Tod entscheiden, würde ich den Abzug nicht betätigen.