Automatisierte Kommunikation

Eine kommunikationstheoretische Einordnung des Chatbots ChatGPT

In den Sozialwissenschaften gibt es zwei fundamental unterschiedliche Auffassungen, was unter Kommunikation zu verstehen ist. Angelehnt an das Alltagsverständnis und daher auch in den Sozialwissenschaften dominant, gehen "handlungstheoretische" Vorstellungen von Kommunikation davon aus, dass diese instrumentellen Charakters ist.

Es sind Menschen in ihrer physisch-psychischen Kompaktheit, die mittels Kommunikation, sei dies in mündlicher oder schriftlicher Form, Informationen austauschen. Kommunizierende werden nach dieser Vorstellung wechselseitig als Sender bzw. Empfänger von Informationen verstanden.

Kommunikation dient der mehr oder minder erfolgreichen Übertragung von Informationen von Mensch zu Mensch.

Davon paradigmatisch zu unterscheiden sind "systemtheoretische" Vorstellungen von Kommunikation, wie sie wesentlich von dem 1998 verstorbenen Soziologen Niklas Luhmann in Vorschlag gebracht wurden.1

Nach diesem Paradigma wird behauptet, dass ihr "Eigenleben" charakteristisch ist. Kommunikation zeichnet sich durch ihre rekursive Eigendynamik aus, welche die Möglichkeiten der Kommunizierenden begrenzt, diese zu steuern und zu beeinflussen.

Gemäß dieser Konzeption befindet sich individuelles Bewusstseins – in ihrer je gedanklichen Eigendynamik – in der Umwelt von Kommunikationssystemen und vermag diese mittels Sprache lediglich zu irritieren, nicht aber kontrollierend zu determinieren.

Dies schon deshalb nicht, weil in Kommunikationssystemen, etwa einem Gespräch als einem "Interaktionssystem", mindestens zwei bewusste Systeme mit ihrer je unterschiedlichen gedanklichen Eigendynamik beteiligt sind.

Die Alltäglichkeit automatisierter Kommunikation

Mit Blick auf Alltagskommunikation wird nach dieser theoretischen Auffassung verständlich, warum (Streit-)Gespräche "ausarten" und in ihrer Dynamik zum Eklat führen können. Dies gleichwohl keiner der Beteiligten - dann mit Referenz auf die gedankliche Ebene ihres Bewusstseins - dies "so gewollt" haben mag oder sie von der Heftigkeit der Auseinandersetzung "überrascht" wurden; diese Beobachtungen als Kennzeichen dafür, dass keiner der Kommunizierenden Kommunikation unter Kontrolle hatte.

Die charakteristische Eigendynamik von Kommunikation macht sich im Alltagsleben etwa auch in "Smalltalks" oder Telefongesprächen bemerkbar bzw. kann in diesen Formen von Kommunikation genutzt werden. Dann nämlich, wenn Kommunikation trotz weitgehendem (einseitigem) Unbeteiligtsein des Bewusstseins bzw. trotz gedanklicher "Abwesenheit" aufrechterhalten werden kann.

Es ist in diesen Fällen, in denen Bewusstsein gedanklich mit ganz anderen Themen beschäftigt sein mag, oft ausreichend, den kommunikativen Fluss mittels sprachlicher Floskeln zu bestätigen ("Ja, ja", "Stimmt", "Ja, klar", "Verstehe", "Mhm Mhm" etc.). Mit Seitenblick auf den Chatbot ChatGPT kann festgehalten werden, dass auch im Alltag eine weitgehend "automatisierte" Kommunikation, eine Kommunikation, bei der eine bewusste, gedankliche Beteiligung gewissermaßen auf "Sparflamme" erfolgt, nicht unbekannt ist.

Mittels "Big Data" und künstlicher neuronaler Netzwerke können Chatbots mittlerweile die Wahrscheinlichkeit von plausiblen Antworten auf Fragen errechnen. Festzuhalten ist allerdings, dass auch das Bewusstsein die Wahrscheinlichkeit gut abzuschätzen vermag, wann bestätigende Floskeln ("Ja, ja") ausreichend sind, um einen kommunikativen Fluss trotz gedanklich weitgehend andersartiger Beschäftigung aufrechtzuerhalten.

Bei diesen Formen von automatisierter Kommunikation ist Widerspruch oder eine Ablehnung von Mitteilungen tunlichst zu vermeiden und zumindest ein Rest an Wahrnehmungskapazität für kommunikative Brüche ("Hörst du mir überhaupt zu?!") aufrechtzuerhalten.

Radikale Schlussfolgerung aus der systemtheoretischen Auffassung von Kommunikation als eines eigendynamischen, selbstreferentiellen Geschehens ist, dass nicht Personen (Menschen, Individuen, Subjekte) kommunizieren, sondern vielmehr Kommunikation kommuniziert: "Der Mensch kann nicht kommunizieren; nur die Kommunikation kann kommunizieren."2

Die Bezugnahme auf Personen, Menschen, Subjekte als "soziale Adressen" – ohne die Kommunikation sich offenkundig selbst nicht verstehen könnte – erscheint aus Sicht der Systemtheorie dem kommunikativen Geschehen nachgeordnet. Es sind erst mittels Kommunikation erzeugte Strukturen, kommunikativ erzeugte Erwartungen, die Kommunikation selbst wiederum Struktur geben, ihr also eine zu erwartende Vorzugsrichtung geben.

Die Paradoxie von "Identität" als variabler Größe

Auf diese Weise wird verständlich, wie sich in der modernen Gesellschaft unterschiedliche gesellschaftliche Identitäten oder Personalitäten herausbilden können. Es erstaunt wenig, dass sich im Berufsleben eine Managerin die Identität einer, kalten, hartherzigen, über "Leichen gehenden" Autokratin erarbeiten kann, während ihr im familiären Umfeld die Persönlichkeit eines warmherzigen, empathischen, rücksichtsvollen "Familienmenschen" mit ganz anders gearteten Erwartungen zugeschrieben wird.

Auch das Phänomen der Hochstapelei wäre nicht zu verstehen, wenn spezifische Personalität und damit das Paradox einer kontingenten, variablen "Identität" nicht eine Kategorie wäre, die Kommunikation nachgeordnet ist, erst kommunikativ erzeugt wird.

Es erstaunt nicht, dass das systemtheoretische Verständnis, welches Kommunikation nicht als informativen Austausch zwischen Menschen versteht, nicht nur gesellschaftlich kaum überzeugt, sondern es auch spezifisch in der Wissenschaft ein Nischendasein fristet. Das Alltagsverständnis von Kommunikation ist zu dominant – selbst in den Sozialwissenschaften –, als dass das Diktum, dass "Kommunikation kommuniziert", breit gefächert überzeugen könnte.

Es widersetzt sich der unmittelbaren Plausibilität, dass Kommunikation rekursiv nur an eigene Operationen anzuschließen vermag, gedankliche Operationen hingegen in der Umwelt sich kommunikativ konstituierender Systeme anzusiedeln sind. Wobei Sprache in der Unterschiedlichkeit dieses System-Umwelt Verhältnisses dazu dient, sowohl Bewusstsein in ihrer gedanklichen als auch soziale Systeme in ihrer kommunikativen Rekursion bzw. Eigendynamik aufrechtzuerhalten.

Dabei sind wechselseitige kreative Überraschungen, Abweichungen vom Erwarteten gerade deshalb möglich, weil Kommunikation und Bewusstsein nicht unmittelbar miteinander verknüpft sind.

Damit ist noch nichts über die Wahrhaftigkeit des abstrakten systemtheoretischen Verständnisses von Kommunikation gesagt. Schließlich entscheidet nicht das Alltagsverständnis über den (vorläufigen) Wahrheitsgehalt von wenig anschaulichen wissenschaftlichen Konzepten, sondern Kommunikation im Funktionssystem der Wissenschaft. In der Physik etwa kann begrifflichen Konzepten wie "Raumkrümmung", "Zeitdilatation" oder "Superposition", die von der Warte eines Alltagsverständnisses abstrus erscheinen, dennoch Wahrheit zugesprochen werden.

Chatbots aus systemtheoretischer Perspektive

Mit Blick auf moderne Chatbots wie ChatGPT drängt sich auf, dieses Phänomen aus der Beobachtungsperspektive eines systemtheoretischen Verständnisses von Kommunikation zu untersuchen. Charakteristisch ist hier nämlich, dass Kommunikation in zumindest rudimentär sinnvoller Form möglich ist, gleichwohl die Beteiligung von Menschen bzw. bewussten, gedanklich operierenden Systemen – als Fragen, Anweisungen oder Feedback gebenden Instanzen – massiv eingeschränkt ist. Jedenfalls ist bei dieser Form der Kommunikation nicht davon auszugehen, dass es sich um einen informativen Austausch zwischen (menschlichen) Personen handelt.

Aus handlungstheoretischer Perspektive würde wohl konstatiert, dass es sich in diesem Fall nicht um "richtige Kommunikation" handelt, sondern lediglich um eine Simulation von Kommunikation mit "richtigen Menschen". Diese Einschätzung wird allerdings kaum dem schon derzeit bestehenden, geschweige denn dem zukünftigen Potential dieser Technik gerecht; etwa was die Konstruktion von sinnvollen Texten betrifft.

Auch mag in handlungstheoretischer Beobachtung dieses Phänomens schon jetzt (wohl irrtümlich) aus der Komplexität der mittels Chatbots ermöglichten Kommunikation geschlussfolgert werden, dass künstliche Intelligenz Personalität bzw. Bewusstsein erlangt haben könnte; prominent angenommen etwa von einem (ehemaligen) Software-Spezialisten von Google.

Aus systemtheoretischer Perspektive stellt sich die Frage gar nicht, ob die mittels Chatbots ermöglichte Kommunikation darauf hindeutet, dass künstliche Instanzen mittlerweile so etwas wie Personalität, Identität oder Bewusstsein erlangt haben könnten. Es ist aus dieser Perspektive stets nur Kommunikation, die kommuniziert. Personalität, Subjektivität, ein Mensch-Sein oder eine Identifizierung von Bewusstsein sind als kommunikativ ermöglichte Zuschreibungen zu verstehen.

Es sind Zuschreibungen, die Kommunikation nachgeordnet sind. "Menschen" sind in der Systemtheorie nicht als eine Kommunikation vorgeordnete, vorausgesetzte, erst Kommunikation ermöglichende Instanz zu verstehen - vielmehr ist es umgekehrt: Erst (komplexe) Kommunikation ermöglicht eine, wie Googles Software-Spezialist zeigte, allenfalls irrtümliche, Zuschreibung von Attributen "menschlichen" Daseins.

Der Turing-Test in systemtheoretischer Beobachtung

Gemäß unserer Perspektive wird notwendig, den Turing-Test an ein systemtheoretisches Verständnis von Kommunikation anzupassen. Gemeinhin wird in handlungstheoretischer Orientierung angenommen, dass mit Bezug auf komplexe Kommunikation Bewusstsein, ein allenfalls künstliches "menschliches Denken" nachweisbar wäre: Wäre es möglich, dass nach einem Gespräch mit einer artifiziellen Intelligenz nicht ausgeschlossen werden kann, dass es sich um einen Menschen handelte, mit dem kommuniziert wurde, müsste dieser Intelligenz die Kapazität menschlichen Denkens zugesprochen werden.

Aus systemtheoretischer Perspektive weist der Turing-Test allerdings lediglich nach, dass Kommunikation allenfalls so komplex werden kann, dass sie – auch irrtümliche – Zuschreibungen von Kommunikation auf "Menschen", "Persönlichkeit" oder "menschliches Denken" erlaubt. Insofern kann der Turing-Test lediglich eine Tautologie nachweisen - nämlich mittels komplexer Kommunikation indizieren, dass Kommunikation so komplex wurde, dass sie eine kommunikative Zuschreibung von sozialen Adressen mit Bewusstsein erlaubt.

Dies liegt daran, dass es gemäß eines systemtheoretischen Verständnisses von Kommunikation ohnehin nur Kommunikation ist, die kommunizieren kann. Weder Menschen, künstliche Intelligenzen, artifizielle Persönlichkeiten noch sonstige "Einheiten" können kommunizieren.

Wenn es fundamental Kommunikation in ihrer Eigendynamik ist, die kommuniziert, dann muss das Problem, welches durch den Turing-Test angezielt wird, anders gefasst werden. Zunächst festzuhalten ist, dass es in jedem Fall einer komplexen Umwelt bedarf, damit sich Systeme auf kommunikativer Basis, Systeme, welche sich selbst rekursiv mittels kommunikativer Operationen reproduzieren, konstituieren können.

Bislang war diese Umwelt ausschließlich in Form von rekursiven gedanklichen Operationen auf Basis von bewussten Systemen gegeben, die durch Sprache irritierbar sind und ihrerseits wiederum der komplexen Umwelt neuronaler Systeme (Gehirne) bedürfen.

Dabei sorgt die Determiniertheit von kommunikativen bzw. bewussten Systemen durch eigene Strukturen auf Basis unterschiedlicher Operationen (Kommunikation versus Gedanken bzw. Wahrnehmungen) dafür, dass es mittels Sprache zu kommunikativer und gedanklicher Kreativität kommen kann.

Soziale, kommunikativ operierende Systeme vermögen als Umwelt des Bewusstseins vermittels Sprache gedanklich zu irritieren bzw. zu überraschen. Aber auch umgekehrt vermag das Bewusstsein vermittels Sprache Kommunikation zu frappieren. Neue, überraschende, von Erwartungen abweichende Kommunikation bzw. Gedanken ergeben sich also gerade dadurch, dass gedankliche und kommunikative Operationen nicht koordiniert sind; etwa im Sinne einer (wechselseitigen) Codierung, um als Informationen übertragen zu werden.

Die Form der Umweltkomplexität von Chatbots

In Bezug auf aktuelle, fortschrittliche Chatbots stellt sich nun die Frage, wie deren Umwelt disponiert ist, dass sie trotz massiver Einschränkung gedanklicher Operationen überraschende oder kreative Kommunikation ermöglicht, etwa bei der Erstellung von Essays oder Gedichten.

Bei der Nutzung dieser Chatbots ist von einer bewussten, gedanklich operierenden Umwelt lediglich auf Seiten des Nutzers, in seinen Fragen, Instruktionen, Rückmeldungen, auszugehen. Ferner ist dies auch bei der technischen Konstruktion und Unterhaltung der Chatbots und beim Training der künstlichen neuronalen Netzwerke der Fall.

Wir gehen davon aus, dass es wesentlich die kommunikative Komplexität der modernen, funktional ausdifferenzierten Gesellschaft ist, der sich Chatbots wie ChatGPT als Umwelt ihres Funktionierens bedienen. Die moderne Gesellschaft zeichnet sich dadurch aus, dass sie unterschiedliche Funktionssysteme wie etwa Politik, Wirtschaft, Wissenschaft, Kunst, Erziehung, Massenmedien ausdifferenziert.3

Dabei folgen diese, auf kommunikativer Basis operierenden Systeme ihrer eigenen, selbstreferentiellen funktionalen Logik. So geht es Politik darum, mittels Macht allgemeingültige, nach Möglichkeit dem Gemeinwohl zuträgliche Normen zu etablieren, während es Wirtschaft darum geht, anhand des Kriteriums der Profitabilität eine Allokation von Waren und Dienstleistungen gesellschaftlich abzusichern.

Hingegen geht es bei wissenschaftlicher Kommunikation darum, orientiert an Wahrheit, neues, bislang unerhörtes Wissen zu generieren. Entscheidend ist, dass diese funktionalen Logiken disparat sind, sich nicht aufeinander abbilden lassen. Allenfalls, wenn dies gesellschaftlich dennoch geschieht, etwa politische Entscheidungen gekauft oder Wahrheiten durch politische Opportunitäten gebeugt werden, wird dies (nachträglich) als Korruption abqualifiziert.

Während bislang kommunikative wie gedankliche Kreativität durch ein Aufeinandertreffen der disparaten, nicht aufeinander abzubildenden, selbstreferentiellen Logiken von bewussten und kommunikativen Systemen vermittels Sprache erfolgte, ergibt sich die kommunikative Kreativität moderner Chatbots durch ihre Bezugnahme auf die disparaten Eigenlogiken der Funktionssysteme der Gesellschaft.

Vermittels künstlicher neuronaler Netzwerke trainiert werden moderne Chatbots nämlich undifferenziert mit einer Unmenge an in digitaler Form vorliegenden Daten (Texten), auf die bis zu einem bestimmten Zeitpunkt zugegriffen werden konnte. Dies ungeachtet davon, ob es sich um Texte wirtschaftlicher, wissenschaftlicher, politischer, erzieherischer, künstlerischer, etwa literarischer, massenmedialer oder sonstiger funktionaler Eigenart handelt.

Den unterschiedlichen Eigenlogiken gesamtgesellschaftlicher Kommunikation wird also eine Verarbeitungslogik von künstlichen neuronalen Netzwerken aufgeprägt. Nämlich ausgehend von vorgegebener Kommunikation, festgelegt durch Fragen oder Instruktionen von Nutzern bzw. auf inkrementelle Weise vorgegeben durch den jeweiligen kommunikativen Output der Chatbots, möglichst wahrscheinliche Anschlusskommunikation zu ermitteln.

Die Umweltkomplexität in Form von gedanklichen Operationen (Bewusstsein), etwa als Informatiker, Nutzer, Trainierende, ist hingegen eingeschränkt bzw. harrt der Erstellung von Texten, die zukünftig mittels gedanklicher Umweltkomplexität - nunmehr allerdings unter allfälliger Zuhilfenahme von Chatbots - erstellt werden.

Aus dieser Disposition ergibt sich die Beschränkung der durch Chatbots erreichbaren kommunikativen Kreativität bzw. Originalität. Zu konstatieren ist, dass die Umweltkomplexität der Gesellschaft im Sinne gedanklicher Operationen – in der individueller Eigenlogik von aktuell etwa acht Milliarden bewussten und durch Sprache irritierbaren Systemen – ungleich höher ist als diejenige, die sich aus der kommunikativen Komplexität der verschiedentlichen funktionalen Eigenlogiken der modernen Gesellschaft ergibt.

Immerhin ist davon auszugehen, dass sich die kommunikative Komplexität der modernen Gesellschaft mithin durch die Etablierung von Chatbots steigern wird. In jedem Fall gilt: Weder Chatbots noch der Gesellschaft ist die Komplexität gedanklicher Operationen unmittelbar zugänglich. In Unmittelbarkeit erreichbar ist Kommunikation nur Kommunikation; ganz so, wie unmittelbar Gedanken nur durch Gedanken erreichbar sind.

Die Kontingenz kommunikativer Zuschreibungen

Die kommunikative Zuschreibung von Kommunikation auf Adressen ("Menschen"), war seit jeher, seit dem sozial-evolutionären Auftauchen der ersten als Kommunikation zu verstehenden (lautsprachlichen) Äußerungen ein Problem. Allerdings hängt es von der Form der Kommunikation ab, wie komplex auf ihr beruhende Beobachtungen werden können.

In sich lediglich mündlich reproduzierenden Gesellschaften, wie Stammesgesellschaften bzw. wesentlich auch noch hierarchisch strukturierten (Feudal-)Gesellschaften, musste Kommunikation mit dem Auftauchen und Verschwinden von Menschen gleichgesetzt werden.

Diese Disposition plausibilisiert, dass Kommunikation als ein "Instrument" zu verstehen ist, das Menschen zur Verfügung steht, um Informationen zu übertragen. Dieses Paradigma ist es, das bis heute das Alltagsverständnis von Kommunikation, bis hin in die handlungstheoretisch orientierten Sozialwissenschaften, fundiert.

Stammesgesellschaften und hierarchisch strukturierte Gesellschaften waren durch die Form ihrer kommunikativen Reproduktion derart disponiert, dass es ihnen unmöglich war, das Problem der Zuschreibung von Kommunikation auf Individuen auch nur als Problem zu erkennen.

Erst schriftliche Kommunikation und insbesondere die gesellschaftliche Etablierung des Buchdrucks (Buchkultur) erlaubte anhand von Anonymität oder Pseudonymität Adressabilität oder Autorschaft von Kommunikation zumindest in Frage zu stellen; wenn auch, bis heute, kaum grundsätzlich in Zweifel zu ziehen, dass eine Zuschreibung von Kommunikation auf (menschliche) Individuen ein Phänomen ist, dass Kommunikation nachgeordnet ist. Dies, zumal schriftliche Mitteilungen (etwa in Form von Briefen) handgreiflich als "Träger" von Informationen von Mensch zu Mensch zu beobachten sind.

Immerhin kann in der modernen, sich maßgeblich schriftlich reproduzierenden Gesellschaft die Zuschreibung von Kommunikation problematisiert werden (Richard David Precht: "Wer bin ich - und wenn ja, wie viele?"). Menschliche "Identität" ist nunmehr keine fraglos gegebene Selbstverständlichkeit wie vormals noch in Stammes- und Feudalgesellschaften. Die moderne, sich vorherrschend schriftlich reproduzierende Gesellschaft mit ihrer Kultur des Buchdrucks ermöglicht die Ausdifferenzierung von Organisationen oder Funktionssystemen wie etwa Politik, Wissenschaft, Kunst oder Wirtschaft.

Der Bestand dieser sozialen Phänomene ist vom rekursiven Erhalt ihrer eigenen kommunikativen Operationen abhängig und nicht vom unmittelbaren Auftauchen oder Verschwinden individueller Menschen. Es plausibilisiert sich nunmehr (mit Niklas Luhmann), dass soziale Phänomene, ja die Gesellschaft selbst, nicht aus Menschen, sondern aus der Rekursivität kommunikativer Operationen bestehen. Wobei für die Existenz sozialer Systeme die Komplexität der gedanklichen Umwelt in Form von bewussten Systemen unabdingbar ist.

Die Technisierung des systemtheoretischen Verständnisses von Kommunikation

Mit den modernen, auf digitalen Formen der Kommunikation beruhenden Chatbots ist es schließlich möglich, die Kontingenz der Zuschreibung von Kommunikation auf Individuen ("Menschen") nicht mehr nur abstrakt zu problematisieren, sondern das Diktum der Systemtheorie ("Kommunikation kommuniziert") vollends konstruktiv, nämlich technisch auszunutzen. Dabei ist, wie bereits erwähnt, die komplex funktional ausdifferenzierte Gesellschaft vorausgesetzt; Chatbots sind ein Korrelat der modernen Gesellschaft.

Es war – im Rückblick – stets so, dass es nicht Menschen waren, die kommunizierten, sondern die Zuschreibung von Kommunikation auf "Menschen", "Subjekte" oder "Individuen", eine Kommunikation nachgeordnete und mittels Kommunikation ermöglichte Leistung ist. Die mittels digitaler Kommunikation realisierten Chatbots indizieren als offenkundig funktionierende technische Konstrukte, dass Kommunikation nicht durch menschliche Individuen erfolgt, sondern es Kommunikation ist, die kommuniziert.

Unter wissenschaftlichen Gesichtspunkten wird auf diese Weise empirisch, selbst im Sinne eines Pragmatismus’, ein Verständnis von Kommunikation im Sinne der Systemtheorie plausibilisiert.

Dies wird allerdings kaum etwas am Alltagsverständnis ändern, das davon ausgeht, dass Kommunikation dazu dient, Informationen von Mensch zu Mensch zu übertragen. Genau auf diese Weise funktioniert eben Alltag. Über den Wahrheitsgehalt dieses Konzepts, also auf wissenschaftliche Kommunikation bezugnehmend, ist damit allerdings, wie bereits bemerkt, nichts gesagt.

Im alltäglichen Handeln mit Dingen oder Objekten sind schließlich auch "Raumkrümmungen" oder "Zeitdilatationen" nicht zu berücksichtigen; gleichwohl diese (begrifflichen) Phänomene zum aktuell etablierten wahren Wissen gehören.

Es mag allerdings sein, dass wissenschaftliche Behauptungen über Alltagskommunikation auf Alltagskommunikation verstörender oder empörender wirken (wie möglicherweise in den Kommentaren zu diesem Text zu lesen sein wird), als naturwissenschaftliche Erkenntnisse, die sich auch auf unvertraute (kosmologische) Sachverhalte beziehen können. Dies schlicht deshalb, weil auf diese Weise die Vertrautheit und definitionsgemäße Zweifellosigkeit alltäglicher Kommunikation in Zweifel gezogen wird.

Problembewältigung kontingenter Zuschreibung von Kommunikation

Mit modernen Chatbots wird das Problem der Zuschreibung von Kommunikation auf individuelle Adressen virulent. Ein Problem, das in (Stammes-)Gesellschaften, die sich mittels mündlicher Kommunikation reproduzierten, immer schon, quasi inhärent gelöst war. Auch die moderne Gesellschaft ist in allen ihren Funktionssystemen davon abhängig, dass Kommunikation individueller Personalität zugeschrieben werden kann.

Es erstaunt deshalb nicht, dass insbesondere Funktionssysteme wie die Wissenschaft oder das Erziehungssystem, die maßgeblich von der Zuschreibung von Leistungen auf individuelle Adressen abhängig sind, auf Gefahren bei der Nutzung von Chatbots hinweisen.

Wobei kurioserweise die Definition von Plagiaten, nämlich als Aneignungen fremden geistigen Eigentums, auf eine nunmehr fragwürdig gewordene soziale Welt verweist, bei der Geistestätigkeit ausschließlich als eine individuellen menschlichen Adressen zuzuordnende Leistung verstanden wurde.

Es bleibt festzuhalten, dass mit den modernen Chatbots kein grundsätzlich neues Problem aufgetaucht ist, sondern der Fakt, dass die Zuschreibung von Kommunikation auf soziale Adressen ein Konstrukt von Kommunikation ist, lediglich offenkundig geworden ist. Insofern ist von "business as usual" auszugehen, um z.B. das Problem der individuellen Zuschreibungen von Studienleistungen (etwa durch vermehrte mündliche Prüfungen?) in den Griff zu bekommen.

Ob künstliche Intelligenz dabei hilfreich sein kann, Formen der künstlichen Intelligenz zu entlarven, die daraufhin konstruiert bzw. trainiert werden, nicht als künstliche Intelligenz entlarvt zu werden, erscheint zumindest fragwürdig.

Ohnehin sollte nicht aus dem Blick geraten, dass ein Problem der digitalen Kommunikation nicht lediglich darin liegt, dass fragwürdig werden kann, welchen sozialen Adressen Kommunikation zuzurechnen ist.

Die Kehrseite digitaler, auf Nutzerprofilen basierender Kommunikation ist nämlich, dass diese hyperstabil Individuen (Nutzerprofilen) zugeordnet werden kann – und damit ebenso auf "unmenschliche" Weise, wenn auch in anderer Form. Dies kann z.B. dazu führen, dass (lässliche) Jugendsünden Jahre später noch Probleme bei der Etablierung beruflicher Karrieren zur Folge haben.