mipani schrieb am 09.04.2024 09:46:
Wieso erlaubt es die Programmierung einer KI, dass sie anfängt zu fabulieren oder, wie es im Jargon heißt, zu halluzinieren. Die KI sollte einfach sagen: "Das weiß ich nicht".
Die KI weiß nicht, dass sie nichts weiß.
Sie weiß nicht, dass sie fabuliert. Sie ist angewandte Statistik ohne Weltverstand. Vielleicht kann man Lügen abdämpfen, wenn Antworten nicht mehr gegeben werden, sobald sie unter einem bestimmten statistischem Schwellenwert liegen? Bin aber nicht sooo tief drin in den konkreten Algorithmen. Manches entsteht auch emergent, d.h. selbst die Entwickler wissen nicht genau, warum welche Antworten gegeben werden und können daher das Fabulieren nicht so einfach verhindern. Beim Lügen leuchtet keine Lampe auf.
Das Posting wurde vom Benutzer editiert (09.04.2024 10:59).
