Das wundert mich nicht

eine KI ist letztendlich auch nur eine von menschen programmierte software, die vollzugriff auf gigantische datenbanken hat.

tja und menschen machen fehler, das war schon immer so, das ist so und das wird auch immer so bleiben. also werden KI logischerweise auch fehler machen.

hinzu kommt der faktor "fehlerhafte daten", es gibt keine perfekte bzw fehlerfreie datenbank.

der KI hype ist meiner meinung nach äquivalent wie religiöser fanatismus, man könnte es durchaus auch informatischen fanatismus nennen. manche menschen sehen in einer KI die absolute reinheit, die totale omnipotenz und lupenreine perfektion.

für solche menschen ist eine KI quasi gottgleich, aber diese sichtweise hat einen gewaltigen haken: weder maschinen noch programme haben gefühle, das werden immer völlig emotions- und seelenlose maschinen und programme bleiben.

man kann eine KI natürlich so programmieren, dass sie empathie vortäuscht. selbstverständlich können algorithmen zwar auch menschlichkeit vortäuschen, allerdings nur im rahmen der menschlichkeit ihrer entwickler und programmierer.

und hand aufs herz: mir sind im laufe meines lebens ziemlich viele entwickler und programmierer begegnet, ich war sogar selbst mal einer. aus der summe meiner erfahrungen kann ich ehrlich sagen, dass das oft keineswegs besonders liebenswerte menschen sind, um es mal ganz höflich, diplomatisch und vorsichtig zu formulieren.

viele halten sich zwar für unfehlbar, sind es aber nicht!

beispielsweise kenne ich kein einziges fehlerfreies programm: jede software hat ihre macken, fehler und eklatante schwachstellen.

für programmierer ist die fehlersuche lästig und ärgerlich (ja, ich kenne das). nicht selten wird bei der fehlerkorrektur entweder übelst geschlampt oder getrickst, um so zu tun, dass das programm (trotz fehler) wieder einigermassen funktioniert.

nun stellt euch bitte mal eine KI vor, die einen nuklearen weltkrieg auslösen kann...

die problematik als solche ist erstaunlicherweise schon seit jahrzehnten bekannt, siehe zum beispiel hier:

https://de.m.wikipedia.org/wiki/Colossus_(Film)

ja ich weiss, diesen science fiction hat bereits jemand anderer erwähnt. ich habe diesen kuriosen film schon als kind gesehen und war ziemlich beeindruckt, deswegen habe ich diesen film hier im forum schon vor etlichen jahren und zwischendurch dann öfter mal genannt.

wie konnte jemand 1966 schon so weitsichtig sein?

https://de.m.wikipedia.org/wiki/Dennis_Feltham_Jones

konnte es, seine buchverfilmung war seinerzeit zwar ein flop, aber hätte man damals schon die digitalen möglichkeiten von heute zur verfügung gehabt, es wäre vermutlich dann ein kassenknüller wie "terminator" geworden.

übrigens wird 2025 terminator 7 erscheinen, siehe hier:
https://m.youtube.com/watch?v=L9YxP43uLvo

😎