tojo schrieb am 05.12.2024 23:32:
Entschuldige, ich wollte gar nicht in das Thema KI einsteigen, sondern wollte nur nur ausdrücken, dass sich die Menschheit zurecht um eine Super Intelligenz sorgt, die ihre Taten bewerten könnte. Das klingt nach ScienceFiction aber es gibt tatsächlich wissenschaftliche Bemühungen um dies zu erreichen.
Diese Sorte Bemühungen gibt es seit 1956.
Das Hauptergebnis davon war, dass man immer wieder neue Komponenten menschlicher Intelligenz entdeckt hat. Weil jeder neue KI-Ansatz irgendeinen Aspekt menschlicher Intelligenz abgebildet hat, und dann stellte man fest, dass das am Ende immer noch keine menschlichen Leistungen gebracht hat, nicht mal annähernd.
Aber das eigentliche Problem ist, dass eine KI nicht nach dem urteilt, was wir uns so vorstellen.
Wenn sie gut gemacht ist, urteilt sie nach dem, was die Programmierer bzw. Trainer ihr beigebracht haben. Das ist dann ungefähr das gleiche, was wir mit unseren Kindern machen, und die Ergebnisse sind ungefähr so gut kontrollierbar wie bei Kindern, nämlich nur in ziemlich engen Grenzen. Und die Analogie zeigt uns auch sofort, wie das zu kontrollieren ist: Man lässt einfach niemanden Unzuverlässiges an die Atomknöpfe ran.
Wenn sie schlecht gemacht ist, urteilt sie nach irgendwas Unsinnigem, und dann verschrotten wir die KI.
Die jetzigen K’sI würde ich auch noch nicht als intelligent bezeichnen, obwohl es Bereiche gibt wo außergewöhnliche Ergebnisse erzielt werden.
Da sind wir uns einig.