Das Kernproblem ist, dass eine KI nicht den Sinn dessen erkennt, was ihr an Daten vorgesetzt wird. Damit kann sie auch nicht einordnen, ob das, was ihr beigebracht wurde, auch wirklich richtig ist. Menschen machen Fehler und wenn diese Fehler in einer KI landen, macht die KI die gleichen Fehler. Sie kann sie nicht korrigieren.
Um ein Gleichnis zu bringen: ein Lehrer, zwei Schüler. Der Lehrer erklärt etwas und beide Schüler übernehmen die Erklärung in ihrem Heft. In der Hausaufgabe sollen sie jetzt ein Problem lösen mit Hilfe des vom Lehrer Erklärten. Allerdings ist die Erklärung falsch und es ist unmöglich die Aufgabe richtig zu lösen. Schüler A erkennt aber nicht den Irrtum des Lehrers und macht die Aufgabe so gut es geht zu Ende. Schüler B erkennt aber den Fehler und recherchiert. Anschließend kann er die Aufgabe korrekt lösen.
Die KI ist Schüler A. Sie übernimmt Informationen, die ihr zum Training vorgesetzt werden ohne zu prüfen, ob diese Informationen überhaupt sinnvoll sind. Wurde ChatGPT keine Möglichkeit zur Überprüfung von Primzahlen durch bekannte Lösungsansätze gegeben sondern nur eine Liste möglicher Primzahlen von 1 bis 277399187467187473 (vermutlich keine Primzahl), kann man lang genug Überzeugungsarbeit leisten, bis auch die 9 in der Liste auftaucht. Die KI kann ja die Daten nicht überprüfen, sondern gibt nur Auswendiggelerntes wieder!
Die KI trainiert anhand unterschiedlicher Modelle und Eingaben. Aber die Daten können fehlerbehaftet sein, die Modelle unvollständig. Gewissermaßen sind die provokanten Verhaltensmuster der Nutzer eigentlich förderlich für die KI-Forschung: je krasser die Einwirkungen sind, desto mehr Daten fallen an, die zukünftig für bessere und stabilere Modelle verwendet werden können. Am Ende trainiert man KI nicht nur darauf, "intelligent" zu sein, sondern auch, sich vor der Dummheit ihrer Anwender zu schützen. Und da sind wir noch einen weiten Weg entfernt von.
Zur "Dummheit" zähle ich übrigens nicht nur rassistische, frauenverachtende und antisemitische / antiislamische Entgleistungen, sondern eben auch politische Einflussnahme links und rechts des Spektrums.