mipani schrieb am 09.04.2024 09:46:
arnd ohlig schrieb am 09.04.2024 09:37:
Heisst das die KI verblödet?
Das heißt, dass die KI nicht dazu lernt.
Oder werden fehlende Ressourcen durch dummdreistigkeit ersetzt?
Das ist mir allerdings auch ein Rätsel. Wieso erlaubt es die Programmierung einer KI, dass sie anfängt zu fabulieren oder, wie es im Jargon heißt, zu halluzinieren. Die KI sollte einfach sagen: "Das weiß ich nicht".
Dazu müsste das Programm die Daten inhaltlich verstehen. Das kann es aber nicht. Es weiß nicht, ob es das Faktenwissen wirklich nicht besitzt, oder ob es in der Datenbasis nur anders formuliert ist. In beiden Fällen werden die Lücken mit Text gefüllt, der statistisch am wahrscheinlichsten ist. Im letzten Fall ist die Antwort sachlich richtig, im ersten entsteht mit hoher Wahrscheinlichkeit Unsinn.
