Re: KI -> Wahrscheinlichkeiten

Ammerländer schrieb am 23.09.2024 14:11:

Markus Bertram schrieb am 23.09.2024 13:42:

csecgn schrieb am 23.09.2024 13:30:

Als Beispiel:
Ein Farbiger nähert sich Dir um Dich nach dem Weg zu fragen --> Taschendieb
Ein Weißer nähert sich Dir um Dein Portmonee zu klauen --> normale Annäherung

Denke so etwas ist mit Rassimus gemeint.

Das Beispiel ist frei erfunden und dient nur der Veranschaulichung des Problems.

Gruß
csecgn

Das Problem ist aber, um bei deinem Beispiel zu bleiben, dass die Wahrscheinlichkeit (laut Kriminalstatistik), dass ein Farbiger ein Taschendieb ist, eben höher ist als bei einem Weißen. Daher reagiert die KI vollkommen korrekt. Nur, weil einem die Fakten nicht passen, muss die KI nicht falsch liegen.
Das MIT hat auch nicht die zu Grunde liegenden Statistiken betrachtet, dass eben (leider) mehr Kriminalität in Wohngebieten Farbiger als in den von Weißen begangen wird.
Die KI kann nur das Wiedergeben, was sie irgendwann einmal gelernt hat. Sie beruht eben auf Fakten und Wahrscheinlichkeitsberechnung und nicht auf Gefühle.

Bei der Strafverfolgung geht es aber nicht um Wahrscheinlichkeiten. Man wird verurteilt, wenn man es war (keine Zweifel mehr bestehen) und nicht wenn, man es wahrscheinlich war.
Es ist etwas wahrscheinlich, wenn die Wahrscheinlichkeit über 50% liegt. Das reicht bei Gericht bei weitem nicht aus.

Das ist guter Grund, keine Experimente mit Verbrechens"erkennung" bevor das Verbrechen begangen wird zu machen, ja.
Aber rassistisch ist es immer noch nicht. Das betrifft grundsätzlich alle Gruppenzugehörigkeiten nicht nur die nach Herkunft oder Ethnie.