Erstmal danke für das Bereitstellen dieser beiden Artikel zu Risiken und Chancen bezüglich künstlicher Intelligenz.
Bei Yuval Harari wundere ich mich, wie sehr sich seine Zukunftsprognosen ins Düstere gewandelt haben. Vor einigen Jahren hat er noch Genforschung als das kritische Thema identifiziert und Künstliche Intelligenz als Mittel zum Transhumanismus gepriesen.
Was die generative KI angeht, so bin ich der Meinung, dass dieser Technologie in eine Sackgasse führt. Im Artikel wurde der Ressourcenverbrauch - zu Recht - kritisiert. Das ist aber nur eine Seite der Medaille. Generative KI ist für mich eine Art Käfig, in der eine sehr schnelle, fleißige, vielleicht sogar sehr intelligente Entität sitzt. Beim Erschaffen der Entität gab es auf dem Boden des Käfigs hochwertiges Futter (Wissen), auf das die Entität beim Beantworten von Fragen zugreift. Dummerweise scheidet diese Entität bei jeder gestellten Frage einen Köttel aus, der im Käfig verbleibt. Ich bin der Meinung, dass das "Ausmisten" und das Bereitstellen neuen Futters sehr viele Ressourcen bindet, und je mehr Fragen man stellt, desto eher ist der Punkt erreicht, an dem die Qualität kippt. Erste Forschungsergebnisse dazu liegen bereits vor und gehen in diese Richtung. Außerdem wird es immer schwerer, an neues "Futter" zu kommen, wenn die Menschheit weniger davon produziert, weil sie ja die KI befragen. Ergebnis: KI-Systeme fahren in die Sättigung und halluzinieren.
Deskilling, altdeutsch auch Verlernen, ist ein ewiges Thema, das beim Aufkommen neuer Technologie schon immer entstanden ist. Verlernen muss man sich leisten können, d.h. wenn eine neue Technologie den Menschen bei essentiellen Dingen unterstützt, dann muss sie extrem zuverlässig sein. Genau aus dem Grunde können wir es uns ja z.B. leisten, dass keiner wissen muss, wie man einen Brunnen auf dem Hof baut, bedient und wartet, wie man mit dem Wasser umgeht etc., denn es gibt eine Wasserinfrastruktur, die hochzuverlässig ist.
Ein Problem tritt aber dann auf, wenn neue Technologien eingeführt werden, an die sich Menschen gewöhnen, die aber nicht so hochzuverlässig sind. Wenn dann Ausfälle der Technologie wegen Verlernens nicht mehr ausgeglichen werden können, dann steht man dumm da. Autonomes Fahren führt genau in diese Falle: Sollte es einmal da sein, verlernen wir, bei guten Straßenverhältnissen ein Fahrzeug zu führen, müssen aber einspringen, wenn bei Starkregen oder Schneegestöber die Assistenzsysteme ausfallen.
Ob sich die düsteren Prognosen, dass KI mit Waffengewalt den Menschen unterjocht, erfüllen, sehe ich eher skeptisch (d.h. hier bin ich eigentlich optimistisch, dass es nicht passiert). Eine KI braucht immer eine Schnittstelle zu einem mechanischen System, und dann ist eine Eigenschaft des Militärs, dass es komplexe Hierarchien und Befehlsketten hat. Personen mit Macht und Befehlsgewalt möchten diese in der Regel auch behalten, d.h. der militärische Apparat wird sich gegen das Abgeben der Befehlsgewalt an eine KI wahrscheinlich sehr sträuben.