Ethik? Warum lutscht sich der Hund den Schwanz?

Weil er s kann.

Ein ziemlich blöder Witz, der die Problematik aber auf den Punkt bringt.
Was unterscheidet den Menschen vom Tier?
Wir können reflexiv denken, uns nach Abwägung von Für und Wider, entscheiden, wir haben insofern ein gewisses Maß an Entscheidungsfreiheit, wir sind nicht direkt unseren Reflexen und zwanghaftem Handeln oder dem konditionierten Handeln unterworfen.

Gibt es einen freien Willen?

Oder sind unsere Hirne Sklaven unseres Verdauungstrakts, von unserem evolutionsbiologisch in uns verankerten "Reptilien-Gehirn", von unserem Rückenmark, letztlich von unseren niedersten Instinkten gesteuert?

Nein, es gibt zwar alle diese oben genannten Instanzen in uns, aber letztlich können wir unsere Gedanken anhand von ethischen Erwägungen lenken.
Ich muss nicht gleich Jedem, der vor mir das letzte Joghurt aus dem Regal nimmt, den Knüppel auf den Kopf hauen...
Darin liegt Freiheit.
Das aber kann eine Maschine, der eine Ethik fehlt, weil sie nicht einprogrammiert wurde, nicht. die kann sich ausrechnen, dass sie jetzt spontan keinen Erfolg haben kann, weil ein anderer schneller wird und wird diesem prophylaktisch den Knüppel auf den Kopf hauen.

Will heißen, nur weil etwas möglich ist, und vielleicht den kurzfristigen Erfolg bringt, mal ganz auf den eigenen, egoistischen Rahmen beschränkt gesehen, muss es noch lange nicht gemacht werden, und ist der ethischen Entscheidung, den Knüppel nicht auszupacken, deshalb meilenweit unterlegen.

Darin liegt aber auch, immer genau gleich auf mit dieser Freiheit, Verantwortung.

Die biblische Geschichte des Sündenfalls zeigt die urmenschliche Problematik des verantwortlichen Umgangs mit unserer Freiheit, und er zeigt auch, dass wir, wenn wir uns nur für das Machbare entscheiden, ohne ethische Fragen zu beantworten, in der Hölle landen.
Wir haben die Entwicklung der Atombombe nicht aufhalten können.
START und die anderen vorhergehenden Versuche, die aberwitzige Rüstungsspirale hinsichtlich Atomwaffen einzudämmen, dem hundertfachen Overkill den tausendfachen Overkill entgegenzusetzen, hat einige Jahrzehnte ganz gut funktioniert.
Bis vor etwa einer Woche, da hat Russland dieses Abkommen aufgekündigt....
Präsident Putin hat sich die Freiheit genommen, angesichts der gefühlt permanenten US-amerikanischen Provokation durch gefühlte Nichteinhaltung sämtlicher bisheriger Abmachungen bezüglich der Nichtausdehnung der Ostgrenze der NATO seinen Teil der Abmachung zu kündigen. Eine Eskalation.
Das ist seine freie Entscheidung.
Ist das auch verantwortlich entschieden?
wir werden sehen.

Der Machbarkeitswahn unserer turbokapitalistischen Ausbeutungsmaschinerie bringt die Ethik und verantwortungsbewussten Umgang mit unseren Freiheiten seit Jahrzehnten bisher in etwa proportional zum Machbaren in Bedrängnis. In gleichem Maße schaffen wir uns selbst auf Erden eine Hölle.
Viele große Denker haben sich den Kopf zerbrochen, wie man diesen Mangel an Zurückhaltung, diesem steinerweichenden Mangel an Achtsamkeit, diesem unbändigen Drang, alles, was machbar ist, auch umzusetzen, Leitplanken zu verpassen kann oder zumindest die allerschlimmsten Auswüchse des technisch Machbaren bändigen kann.
KI kann diesen bisher halbwegs proportionalen Mangel aber zu einem exponentiellen Mangel verschärfen.
Das ist der zunächst quantitative Unterschied, der aber einen gigantischen qualitativen Unterschied nach sich ziehen wird.

Wir haben das Denken, und vor allem die aus dem Denken abgeleiteten Entscheidungen , so und wo wir sie der KI überlassen, nicht mehr selbst im Griff, wir leisten es nicht mehr selbst und insofern können wir, solange diese Denkmaschinerie keine "eingebaute Ethik" hat, nur davon ausgehen, dass alles, was für KI überhaupt denkbar ist, auch gemacht wird....

Man muss kein Einstein sein, um die Tragweite dieses Gedankens erfassen zu können.

Stanislaw Petrov hat 1983, mit seiner Weigerung den roten Knopf zu drücken, im Unterschied zu Obama, den Friedensnobelpreis wirklich verdient, sonst würden wir diese Fragen überhaupt nicht mehr diskutieren:

https://de.m.wikipedia.org/wiki/Stanislaw_Jewgrafowitsch_Petrow#:~:text=Stanislaw%20Jewgrafowitsch%20Petrow%20(russisch%20Станислав,ein%20Oberstleutnant%20der%20sowjetischen%20Luftverteidigungsstreitkräfte.

An seinem Beispiel kann man schön sehen, was passiert, wenn keine Menschen mehr ihr Gehirn einschalten oder besser gesagt, wenn kein Mensch mehr da ist, der eine Ethik hat und Entscheidungen von gigantischer Tragweite dann stumpf nach Vorschrift oder Programm(ierungs)protokoll ausgeführt werden würden. Kadavergehorsam ist nicht vereinbar mit unserer Welt.

Die Tatsache, dass er den Friedensnobelpreis nie erhalten hat, und noch nicht einmal dafür vorgeschlagen wurde, zeigt aber auch, dass wir in einem präfaschistischen System leben, wo Befehlsverweigerung von allen Seiten als verwerflicher bewertet wird, und knallhart sanktioniert wird, als die wirklich heldenhafte Verhinderung des Armageddons:

Es wäre schlicht das 'falsche" Signal gewesen diesem "Befehlsverweigerer "auch noch den Friedensnobelpreis für seine mutige Großtat zu verleihen, das hätte "Wehrkraftzersetzung" nach sich gezogen.
Man kann hier schön sehen, wie kaputt die Ethik, wie wenig verankert eine gute Ethik in den Kommiss-Köpfen, in den Betonköpfen der Administrationen, und wie weit der Faschismus und der Kadavergehorsam im Denken dieser Leute , auch in den Köpfen der Machbarkeitsfanatiker unter gentechnikern Computer programmieren und Militärentwicklern bereits fortgeschritten ist.

Ich mag Elon Musk nicht, dafür ist er mir zu wirr und zu sprunghaft, sozial zu wenig geerdet, zu autistisch, aber dass er hier erkennt, und auch ganz klar benennt, dass wir an einem Scheideweg stehen und die Gefahr eines knallharten "KI-Faschismus des Machbaren" sämtliche Freiheiten, die der Mensch bisher hatte, durch die uneingeschränkte Denkbarkeit des potentiell Machbaren durch Maschinengehirne ab einem gewissen Punkt schlagartig verloren geht, oder kassiert werden wird, zeigt, dass er nicht auf den Kopf gefallen ist.

Die Unterzeichner sind allesamt hochkarätige Köpfe, denen dieses massiv unterbelichtete Thema mit Sicherheit und zu Recht auch schon länger unter den Nägeln brennt.
Wenn KI nicht gleichzeitig zur exponentiellen Entwicklung des Maschinenlernens eine Maschinenethik entwickelt, mitlernt, werden wir untergehen.

Freiheit und Verantwortung sind untrennbare Seiten derselben Medaille.

Wir werden die Maschinengehirne nicht aufhalten, dazu brauchen wir sie schon längst an viel zu vielen Stellen im Alltag, und das, was momentan an "KI" oder ähnlichem im Einsatz ist, ist ja erst der ganz, ganz bescheidene Anfang.

KI lernt ja erst laufen. Über Gut und Böse weiß sie( noch) nichts.

Es ist das gleiche, ethische Problem, wie bei der Gentechnik, der Atombombe, der Abtreibung:
Unser bisheriger Erfahrungshorizont hält für die exponentielle (Selbst) Entwicklung von KI und durch KI getroffene Entscheidungen und Aussagen einfach keine global gültige oder verbindliche Ethik und schon gar keine globale rechtliche Regelung , ähnlich der Menschenrechtskonvention bereit, weil es diese Machbarkeit bisher eben nie gab, sich also auch niemand Gedanken darüber machen musste.
Wir brauchten bis zur jeweiligen technischen Entwicklung keine Ethik für bisher inexistente Möglichkeiten.
Mit der plötzlichen technischen Machbarkeit kommt aber unsere alte Ethik eben nicht mehr mit, weil sie nicht so schnell mitwachsen kann, wenn der Geist so urplötzlich aus der Flasche gelassen wird.

Im Prinzip bräuchten wir eine global verbindliche, mit der Fähigkeit der KI exponentiell mitwachsende "Maschinenrechtskonvention", also eine KI-Konvention.
Bei den Atomwaffen gab es ein START - Abkommen, das war ein Versuch, dem ungebremsten Rüstungswahn den Stecker zu ziehen.
Hier ist der Stecker vor ein paar Tagen wieder reingesteckt worden... Wow.
Wir werden untergehen, wenn wir diese exponentielle Mitentwicklung von Ethik, sei es für die Gentechnik, die Atombombe oder die KI nicht installieren, wenn die Ethik nicht mit der Entwicklung ,wenigstens ansatzweise, mithält. Jeder, der an der Entwicklung von KI mitarbeitet, ist aufgerufen, einen Ethik-Grundkurs zu besuchen.

Jede KI Maschine muss, und da hat Musk recht, eine ethische Leitplanke mit einprogrammiert bekommen.

Soll der Tesla, der auf unerwartet eisglatter Fahrbahn die vorberechnete Kurve nicht einhalten kann, in die Bushaltestelle mit 20 wartenden Personen bewusst hineinsteuern, um durch den dort zu erwartenden, relativ weichen Aufprall, den Schaden am eigenen Fahrgast/ am Fahrzeug zu minimieren -oder soll er unter Inkaufname potentieller Verletzung des Fahrgasts lieber an die daneben stehende Hauswand steuern, um die 20 Personen zu schützen?
Hier ist KI schon längst an dem Dilemma angekommen.

Wie wird das programmiert, was trifft in sekundenbruchteilen die "richtige" Entscheidung?

Was ist die richtige Entscheidung?

Können wir das noch lenken, oder ist das schon gegessen, ist nicht die Frage, die wir uns stellen dürfen, denn selbst wenn es schon gegessen erscheint , bleibt uns nichts, als der Versuch, es einzudämmen.

Kategorischer Imperativ.

Sonst können wir uns gleich die Kugel geben.

Wir stehen gerade an einem Punkt, wo Recht haben wichtiger ist, als miteinander auskommen. Die Diskussion, die Verhandlungsbereitschaft der Kompromiss, die Fähigkeit vom eigenen Vorteil auch nur einen Millimeter abzurücken, hat derzeit abgewirtschaftet.
Das ist höchst gefährlich.
Der große Krieg kommt, wenn wir das nicht ändern.

We are living on the edge...