wer sich mit der Technologie der KI beschäftigt hat, weiß, dass die im Wesentlichen auf statistischen Modellen beruht und nicht selber denkt, urteilt etc..
Ki reiht Worte aneinander, weil der Algorithmus davon ausgeht, dass das die wahrscheinlichste Abfolge in diesem "Kontext" ist. Wobei Kontext eben auch nur eine Annahme ist, basierend auf statistischen Methoden.
Wer Spass daran hat, kann ChatGPT ja mal dazu befragen, wie sich deutsche Politiker zum Einmarsch der Ukraine in der Region Kursk äußern. Spoiler: hat mit der Realität nichts zu tun.
Da KI nicht zwischen richtig oder falsch unterscheiden kann, und einfach nur das Eingangsmaterial statistisch auswertet, hängt das Ergebnis eben stark davon ab, welches Eingangsmaterial für das Training verwendet wird. Garbage in - Garbage out.
KI soll Ergebnisse liefern die dem menschlichen Output in vergleichbarer Qualität entsprechen. Wenn KI zunehmend mit KI Ergebnissen gefüttert wird, wird sich die Ausgabe an die KI Ergebnisse angleichen, d.h. die Fehler und Abweichungen addieren sich.
Das zu korrigieren ist erstens ziemlich aufwändig und widerspricht zweitens dem Ansatz des selbst optimierenden Algorithmus