… ist kein "kategorischer", also irgendwie mit Strenge ausgesprochener oder unbedingt durchzusetzender Befehl.
"Er würde gegen alle, die mit Immanuel Kants "Kathegorischem Imperativ" - "Handle stets so, dass die Grundlage deines Handelns Prinzip einer allgemeinen Gesetzgebung sein kann" - gegenfragen: Darf man zugunsten eines allgemeinen Prinzips ein Menschenleben opfern?"
Diese Frage ist also unsinnig. Der "KI" hat denselben "Sitz" in jedem Wesen, das wir als "vernünftig" ansehen wollen oder müssen, wie die "Kategorien" der Kantschen "Kategorientafel"
https://de.wikipedia.org/wiki/Kategorie_(Philosophie)#Immanuel_Kant
Er ist also grundlegend in jedem sozialen, vernunftbegabten Wesen "eingebaut" – nach Auffassung Kants. (Muss man nicht teilen, erklärt aber m.E. viel und vor allem mehr als andere Moralphilosophien)
Die zitierte Frage ist also genau so unsinnig wie die Frage: Darf man jemanden, der bei der Ordnung seiner Sinneseindrücke mithilfe seines Verstandes mutwillig gegen die Kategorie der "Causalität" verstoßen hat – was gar nicht geht –, mit "Anti-Causalität" bestrafen??
DESWEGEN heißt dieser Imperativ "kategorischer", verdammichnocheinmal!!
Weil er die gemäß Kant unhintergehbare "Kategorie" ist, der alles menschliche Handeln unterliegt. Nur dürfen wir dagegen auch mal verstoßen. Würden wir es aber zu oft tun, gäbe es keine menschliche Gesellschaft, keine Zivilisation (nicht einmal Horden von Jägern und Sammlern), keine Staaten usw. usf.
(Ich persönlich würde sogar so weit gehen zu sagen, dass dieser KI auch in – fast – allen anderen Lebewesen "eingebaut" ist: Wenn sich die Angehörigen einer Art gegenseitig z.B. nur als leichte Beute sehen würden, wäre es mit dieser Art und damit jedem Individuum SEHR schnell vorbei.)