Ja, deswegen bin ich auch dagegen, "KI" mit mehr als "rumspielen" zu betrauen. Sowas wie "Kinder lassen eine Geschichte generieren und verbessern die dann selber". Als Entscheidungsgrundlage für irgendetwas, was auch andere Menschen tangiert, sehe ich das gar nicht. Das fällt selbst spezialisierten Menschen ja schon schwer. Drum gibt's ja z. B. auch etliche Gerichtsinstanzen.
Klar können Filter fälschlich greifen. Passiert Menschen ja auch. Googel mal nach "Jonny Buchardt 1973"...
Wenn Menschen herausfinden (und formalisieren), wie man überhaupt etwas "neutral" betrachten kann, dann kann man damit arbeiten. Keine Ahnung, ob sowas überhaupt geht, aktuell sehe ich sowas aber nicht mal hinterm Horizont. Da müßte man ja zu jeder Aussage erstmal sauber den Background analyisieren.
Dazu kommt das Problem, Aussagen einer Maschine, die ja per so erstmal als nicht vertrauenswürdig betrachtet werden sollte, nachvollziehen zu können. So wie ich das verstanden habe, geht das nur sehr schwer. Schön wäre da eine Funktion, die belegt, wie die Ergebnisse zustande gekommen sind...
Sonnige Grüße
Charcharoth