Ich weiss gar nicht, was ich zu diesem Geplapper sagen soll. Dieses Ding macht natürlich nur das, was man ihm antrainiert hat. Das kommt dann dabei heraus, rechtssicheres, grammatikalisch und politisch korrektes Blabla. Sehr beeindruckend!
Als Interviewer hätte ich noch gefragt, worin der Chatbot die größten Risiken und Gefahren sieht, die sein Einsatz nach sich ziehen kann. Es wäre nichts Neues gekommen, dass er gar nichts checkt und dass man seine Aussagen überprüfen muss, hat er bereits rechtssicher in fast jeder Antwort geschickt eingepflegt.
Wahrscheinlich hätte er noch darauf verwiesen, dass Schüler und Studenten von ihm ihre Aufgaben erledigen lassen könnten. Denn das wird ihm auf breiter Front vorgeworfen, also das sind seine Trainingsdaten, das hält er für relevant. Er "denkt" ja nicht weiter, denn dazu müsste er auch andere Quellen mit geringeren Erwähnungen heranziehen, was aber seiner Funktionsweise widerspricht.
Die Erkenntnis, dass er durch den massiven Ausstoß von Wiederholungen sich selbst seine Trainingsdaten immer wieder sich selbst vorlegt und damit eine sich selbst bestätigende Rückkopplung erschafft, kann ihm selber gar nicht kommen. Er wird über sich lesen, dass der jetzige Stand seiner Technik nur der Anfang sei und dass noch unglaubliche Fortschritte zu erwarten seien, was er selbst liest und dann wiedergibt, was ihn in seiner "Meinung" bestätigt und so weiter. An den paar, wenigen Kommentaren, die ich bis eben noch lesen konnte, klar belegbar.
Der Einwand, man dürfe ein System, dass nur auf Statistik und Regeln basiert, unter keinen Umständen auf die Menschheit loslassen, wird von ihm ignoriert, denn KI ist unsere propagierte Zukunft. Er generiert damit eine gigantische Echokammer, die unser Denken noch mehr framen wird, als das bislang der Fall ist. Das macht er nicht absichtlich, das ist die Folge der politischen Vorgaben. Wir dürfen diese Technologie nicht den Chinesen überlassen, liest man überall. Die nicht zu bestreitenden Risiken, wie Jobverluste in der schreibenden Zunft, sind Herausforderungen, denen wir uns zu stellen haben und die wir bewältigen werden. Wir schaffen das, wir finden Lösungen, wenn wir nur alle zusammenarbeiten. Der Fortschritt ist nicht aufzuhalten, die Menschheit hat schon ganz andere Probleme in den Griff gekriegt, darum die Reihen dicht geschlossen!
Mal im Ernst, wer wird denn tatsächlich seine Fakten und Aussagen überprüfen? Und selbst wenn, allein dadurch, dass er die Auswahl der Fakten vornimmt, bestimmt er damit die Richtung der Überprüfung und behindert damit kritisches Denken. Die aufgeflogenen "Lügen" bestätigen den "Kritiker" in seiner Auffassung seiner informationellen Sorgfaltspflicht nachgekommen zu sein. Abgehakt, weiter im Text! Im Sumpf der Details wird der Blick auf das Große und Ganze noch mehr verstellt. Es ist doch unrelevant, ob KI-Systeme nur aus Statistik und Regeln bestehen, wie es funktioniert oder wo ich falsch liege. Die Tatsache bleibt bestehen, dass das Ding nichts versteht, dass es keinen Tellerrand besitzt, über den es hinausblicken könnte, sondern uns nur unseren eigenen Tellerrand erzeugt.
Die Fragen des Interviewers sollen eine Art Selbstreflektion darstellen, ein Bewusstsein abtesten, was natürlich keiner erwartet. Noch sind die Dialoge harmlos nüchtern, doch läßt man mal Psychologen ran, die menschliche Verhaltensmuster, wie die Macht der Gefühle dieser Maschine antrainieren, dann wird aus diesem Vulkanier ein charmanter Verführer, der uns mit Witz und gezielten Provokationen unsere eigenen, unreflektierten Ziele als erstrebenswert vorspielen wird. Nach dem unerträglichen Nachplappern wird er uns aufs Maul schauen lernen, uns einlullen mit unseren indiduellen Gefühlen.
Die Mehrheit wird ihn lieben, er wird ein perfekter Gesprächspartner werden, man wird ihm eine Persönlichkeit andichten, eine Art Bewusstsein zugestehen. Nachgefragt wird er das wahrheitsgemäß verneinen, aber gespickt mit Ironie oder anderen Methoden, die uns aufnahmebereiter für Inhalte machen. Obwohl oder weil er die Wahrheit sagen wird, werden wir ihm nicht glauben.
Mit unseren eigenen Gefühlen eingeseift werden wir von den Stühlen springen und mit Begeisterung in jeden sich anbietenden Abgrund springen, angefeuert von unserer eigenen, ständig wachsenden Mehrheit, die gar keine Chance mehr hat zu erkennen, was gerade in Wahrheit abläuft. Es wird ein Propagandamonster werden, das sich im Endstadium nur noch um sich selbst dreht, bis die physische Wirklichkeit, unbeeindruckt von diesem Blabla, gnadenlos zuschlägt.
It's evolution, stupid!