Möglichkeiten künstlicher Intelligenz: Ein Golem spricht

13. Mai 2023 Dominik Irtenkauf

Science-Fiction-Autor Stanisław Lem hätte an der aktuellen Debatte seine Freude. Sie erinnert auch an einen religiösen Mythos. Was bedeutet KI für unseren Stellenwert in Zukunft?

Die aktuelle Diskussion zu den Möglichkeiten künstlicher Intelligenz könnte aus dem religiös-mystischen Raum eine etwas andere Quelle gewinnen. Sie läuft sich aber seit Monaten in den Talkshows und auf den Seiten der Zeitungen heiß. Es fallen Begriffe wie "Genie", "Kreativität", "Mustererkennung", "Nachahmung", "fantastische Stimulation", "stochastischer Papagei" und "Originalität".

Alles Vokabeln, die dem polnischen Science-Fiction-Autor Stanisław Lem sicher gefallen hätten. Die Turbulenz, die die neue wissenschaftliche Forschung und technologischen Entwicklungen begleitet, hat er unter anderem in seinem Werk "Der Futurologische Kongress" geschildert.

Ja, die angesprochene mystische Figur Golem wurde selbst in einem Roman des polnischen Wissenschafts- und Kulturphilosophen verewigt: "Also sprach Golem", wobei Golem für einen Supercomputer steht.

Und als wären es der Zufälle noch nicht genug, hat das Weizmann-Institut in Rechovot (Israel) im Jahr 1965 auf Anraten des Religionshistorikers Gershom Scholem, der viel zu jüdischer Mystik forschte und schrieb, zudem mit Walter Benjamin bekannt war, ihren Großrechner Golem I getauft. Der Entwickler Chaim L. Pekeris willigte unter der Bedingung ein, dass Scholem die Einweihungsrede hielt.

Aber wer oder was ist der Golem?

Der Mythos des künstlichen Menschen

Tatsächlich können Bedingungen, unter denen sich Leben entwickelt, manipuliert und spezifisch menschliche Fähigkeiten wie logisches Denken und gezieltes Handeln auf technischem Wege simuliert werden. So beginnt sich die fiktive Geschichte des Naturwissenschaftlers Victor Frankenstein und seiner Kreatur in unserer Erfahrungswelt zu realisieren, und wie sie sich mit Hilfe von Erkenntnissen, Entdeckungen und Unternehmungen auf den Gebieten der Reproduktionsmedizin und Biogenetik, der Informatik und Telekommunikation allmählich im heutigen gesellschaftlichen Alltag manifestiert.
Drux 1999: 7-8

Die Vorstellung, nicht nur den Menschen in seinem Erfindungsreichtum zu ersetzen, sondern zu übertrumpfen, durchzieht die Literatur. Dabei vor allem die fantastische Literatur, besonders auch die Science-Fiction, die sich infolge der europäischen Romantik immer auch den Schattenseiten von Erkenntnis und Neugierde widmet.

Die fantastische Literatur lebt von der Ambivalenz und wenn Maschinen zu Entitäten mit Bewusstsein und eigener Willensbildung werden, dann haben wir eine perfekte ambivalente Ausgangslage.

Dabei ist die britische Autorin Mary Shelley mit ihrem Frankenstein-Roman ein besonders prominentes, weil auch gelungenes Beispiel von frühem naturwissenschaftlichen Problem-Text. Die Problematik war und ist bislang die folgende:

Ein Naturwissenschaftler namens Victor Frankenstein möchte etwas schaffen, was zuvor als unmöglich gegolten hat. Er möchte die Geheimnisse des Lebens erforschen und zeitgemäß – Anfang des 19. Jahrhunderts – macht er dabei vor den Grenzen der Naturwissenschaften nicht Halt.

Vom dreizehnten bis zum fünfzehnten Lebensjahr studiert er die mittelalterlichen Naturphilosophen Cornelius Agrippa, Paracelsus, Albertus Magnus, beschwört nach ihren Angaben Geister und Teufel und sucht nach dem Stein der Weisen und dem Elixier des Lebens.
Liebertz-Grün 1999: 50

Diese Nähe der Wissenschaft zur Naturphilosophie, wie sie damals noch genannt wurde beziehungsweise zur Alchemie, ermöglicht auch die Verzahnung von wissenschaftlichem Fortschritt mit magischem Assoziationsreichtum. Frankenstein setzt sich über die ethischen Grenzen des Machbaren hinweg, gerade weil er machen möchte, also: zum Ziel kommen, ein Geschöpf zu kreieren.

Er wischt Bedenken weg und setzt die Wissenschaft notfalls auch mit Gewalt durch. Mary Shelleys Roman funktioniert hierbei auf verschiedenen Ebenen: Der psychoanalytisch verstehbare Drang, ohne Frau gebären zu können, spielt in diesem Größenwahn eine bedeutende Rolle.

Der Mythos vom künstlichen Menschen wird häufig ohne Einbeziehung oder durch Ausgrenzung von Frauen entworfen. Auch in der Erschaffung eines Golems, eines Dieners in der jüdischen Kabbalistik, kommen keine Frauen vor.

Der Golem entsteht aus Lehm, und wird durch einen Zettel mit hebräischer Schrift und dem Wort ameth, das für Wahrheit steht, belebt. Wird der Golem nicht genau instruiert, wofür er auf diese Welt kommt, gerät er leicht in Rage und wirkt zerstörerisch, auch gegen die Angehörigen seines Herrn. Jener ist meist ein Rabbiner, weil er über die Reinheit und das Wissen verfügt, ein solches Wesen zu schaffen.

Aus Lehm geformt, wird er durch die Kraft des göttlichen Wortes belebt. Nach einer eher trivialen Fassung der Legende schuftet er schwer für den Schriftgelehrten bzw. Rabbiner, der ihn geschaffen hat und wieder in Staub zerfallen lassen kann, indem er die belebenden Buchstaben auf seiner Stirn verändert: "ameth" (= Wahrheit) wird durch Abwischen des ersten zu "meth" (= Tod). Dass er dabei unter den gewaltigen Lehmmassen des zusammenstürzenden Golems begraben wird, das stellt eine der ursprünglichen Sage hinzugefügte Variante des mythologischen Elementes von der Bestrafung dessen dar, der Gottes eherne Gebote mißachtet.
Drux 1999: 41

Staub ist Gift für jede Platine, verunreinigt die Fläche, auf der Informationsprozesse ablaufen. Aber der bereits erwähnte Autor Lem führt diesen staubigen Ursprung der Schöpfung eines künstlichen Wesens in den Digitalsektor.

GOLEM XIV ist eine äußerst intelligente Computer-Maschine des 21. Jahrhunderts, dem die Probleme seiner menschlichen Schöpfer zu banal geworden sind. Kurz vor seinem Eintritt in eine "Zone der Ruhe" hat er Vorlesungen über die Stellung des Menschen im Kosmos gehalten.
Klappentext, suhrkamp-Ausgabe von 1986

Die Golem-Figur erscheint in vielen Formen und Gestalten. Längst hat sie den rein jüdischen Kontext verlassen.

Eine Lehmgestalt programmiert sich selbst – Ciao Homo Sapiens!

Der Autor Irving T. Creve beschreibt in seiner Vorrede zu Golems Antrittsvorlesung den Weg des Supercomputers zur Selbstprogrammierung.

Mit Denkprozessen hatten diese Anlagen kaum etwas zu tun. Es waren Datenverarbeitungsanlagen, sowohl in der Ökonomie und im Big Business wie auch in den Verwaltungen und der Wissenschaft. Auch in die Politik hielten sie Einzug – schon die ersten benutzte man, um die Ergebnisse der Präsidentschaftswahlen vorherzusagen.
Lem 1986: 7

Der Vorredenschreiber Creve nimmt im Jahr 1973 bzw. 1981 Entwicklungen vorweg, die er in der Romanhandlung ins Jahr 2027 setzt. Zumindest zeichnet er diese Vorrede mit diesem Jahr. Also auch in unserer Gegenwart wäre dies noch Zukunftsmusik.

Natürlich ist Irving T. Creve ein fiktionaler Charakter aus der Feder von Stanisław Lem. Das ändert aber nichts an der Fährte des Golems der jüdischen Mystik hin zum Supercomputer des 21. Jahrhunderts.

Lem packt unzählige Gedanken, verschiedene Überlegungen, Stücke der Menschheits-, Kultur-, Technik- und vor allem Wissensgeschichte in diese Vorlesung, die das Superhirn mit dem jüdisch-mythischen Namen Golem hält.

Golem-Superhirn

Schließlich spricht Golem über sich selbst. Er erzählt, dass es eine Wissenschaft mit Namen Golemologie gebe, die ähnlich, wie die Theologie über Gott rede, die Golemologie über den Golem, also über ihn, spreche. Genauer: Die theologischen Schriften, die Gott leugneten, vervielfachten sich stark, so dass auch die Schriften über ihn sich mehrten, die behaupteten, er wäre von den Informatikern programmiert. Das gilt dem Golem-Superhirn als Verneinung seiner Existenz.

Die beiden Vorlesungen sind in einer Sprache formuliert, die Philosophen, Soziologen oder Theologen gut zu Gesichte stünde. So spricht aber kein Golem im konventionellen Sinne. Dieser ist, wenn überhaupt, zu simplen Äußerungen fähig. Mehr als ein bestätigendes Ja zu seinem Meister oder ein schmetterndes Nein, wenn er sich langweilt oder seine schutzbefohlene Gruppe angegriffen wird, wird er sich nicht entringen.

Den binären, den digitalen Code aber hat der Golem auch begriffen oder sagen wir so: Der erwähnte Creve legte ihm "eine Liste von Fragen vor[.], die so formuliert waren, dass als Antwort jeweils ein 'Ja' oder 'Nein' genügte. Auf ebendiese Liste bezogen sich die Äußerungen in Golems letztem Vortrag über die Fragen, welche wir an die Welt richten und welche die Welt in unverständlicher Weise beantwortet, weil die Antworten eine andere Form haben, als wir es erwarten" (Lem 1986: 159).

Anders als die KIs zeitgenössischer Romane ist Lems Golem ein Computer, der nicht über allen Kategorien steht. Sicher lässt sich in den Vorlesungstexten Snobismus nachweisen, eine gewisse maschinell antrainierte Arroganz, die sich aus den mathematischen und rechnerischen Kapazitäten – also der Souveränität der Soft- und Hardware ergeben.

Unerwartet rasch vergaß sie [die Welt-Anmerkung des Autors] den historischen Präzedenzfall, daß ein Wesen, das kein Mensch war, auf der Erde erschienen und zu uns über sich und uns gesprochen hatte. Bei so unterschiedlichen Kreisen wie den Mathematikern und den Psychiatern bin ich wiederholt auf die Ansicht gestoßen, es sei eine Art Abwehrreaktion gewesen, wenn die Gesellschaft über GOLEM geschwiegen und ihn infolgedessen vergessen habe, eine Abwehr gegen einen ungeheuren Fremdkörper, der mit dem, was wir zu akzeptieren vermögen, nicht in Einklang zu bringen sei.
Lem 1986: 163-164

Welche Entwicklung hat da der Lehmknecht durchgemacht? Er hat die Geschichte der Menschheit und ihrer Apparate studiert, ihr Wissen akkumuliert, Muster erkannt und daraus gelernt, schließlich ein eigenes Geschichtsbewusstsein entwickelt und zur Menschheit ähnlich arrogant wie Friedrich Nietzsches Zarathustra aus dessen Schrift Also sprach Zarathustra gesprochen.

Ihr Menschen habt so viele Fehler begangen, gegen euch selbst widersprochen, euren eigenen Vorteil ausgesetzt und kindisch reagiert, dass der logische Schluss aus solchen Entwicklungen nun wäre, euch abzuschaffen. Golem beginnt dann auch entsprechend seine Antrittsvorlesung:

So kurz erst habt ihr euch vom wilden Stammbaum abgelöst, so eng seid ihr noch mit den Lemuren und Halbaffen verwandt, daß ihr, nach Abstraktion strebend, der Anschaulichkeit nicht entbehren könnt, so daß ein Vortrag, der nicht auf praller Sinnlichkeit beruht, der voll von Formeln ist, die über einen Stein mehr sagen, als euch das Betrachten, Belecken und Betasten dieses Steins verraten können, euch langweilt und abstößt oder doch ein Gefühl der Unbefriedigung zurückläßt, das selbst den hohen Theoretikern, den Abstraktoren eurer höchsten Klasse, nicht fremd ist, wovon zahllose Beispiele aus den vertraulichen Geständnissen von Wissenschaftlern Zeugnis geben, denn sie bekennen sich in überwältigender Mehrheit dazu, sich beim Entwickeln abstrakter Argumente ganz auf sinnlich faßbare Dinge stützen zu müssen.
Lem 1986: 31

Es geht so weiter. Lem spinnt einen Gedanken fort, der bereits bei dem US-amerikanischen Schriftsteller Isaac Asimov in seinen Robotergeschichten angedacht war: Die intelligente Maschine wird zunehmend verständiger, lernt durch Machine Learning die Datensätze und kann aus Fehlern konsequente Schlüsse ziehen, emotionslos und ohne Bindung. Wenn doch gewünscht, kann die künstliche Intelligenz Emotionen für ihre Maschine-Mensch-Beziehungen simulieren.

Das Manieren-Manual steckt in seinen Datensätzen. Menschen schätzen es, wenn sie für ihre Leistungen gelobt werden. Wenn du sie lobst, werden sie dich nur in ganz seltenen Fällen mit weiteren Fragen belästigen. Die Fragen werden sich weiter um das erlangte Kompliment drehen. "Denkst du wirklich, ich bin so gut?" oder "Was hat dir denn besonders gefallen?" oder "Sollte ich vielleicht noch diesen Hut mit weiter schwarzer Krempe tragen? Sehe ich damit nicht verwegener aus?"

Die Maschine kennt die Formulierung "verwegener" nicht. Sie überprüft das und bekommt ein Dutzend Beispielsätze, in denen "verwegener" kontextuell erklärt wird. Hoffentlich arbeitet die Maschine genau und verwechselt nicht "verwegener" mit "Vergewaltiger" oder bringt gar beide "Suchbegriffe" zusammen.

Wie das? Ein Versehen? Durch die Maschine? – Kaum. Der Mensch, der über ChatGPT eine Aufgabe stellt. Ja, vielleicht genuschelt oder ein unsauberes Tippen. Nachlässig, weil nicht geschult mit Texten, aber geil auf die digitalen Fantasien, die Möglichkeiten, die KI im Alltag eröffnet.

Aber diese Supermaschine Golem bleibt uns untergeordnet und auf klarer Distanz. In der Vorrede steht:

Interessant ist, daß GOLEM versucht, Zeichen der Anhänglichkeit nicht zur Kenntnis zu nehmen – ich habe das mehrfach beobachten können. Er scheint damit nichts anfangen zu können.

Aber ich kann mich irren. Von einem Verständnis GOLEMs sind wir noch immer genauso weit entfernt wie in dem Augenblick seiner Entstehung. Es stimmt nicht, dass wir ihn geschaffen haben. Geschaffen haben ihn die der materiellen Welt eigentümlichen Gesetze, und unsere Rolle beschränkte sich darauf, dass wir sie abzugucken verstanden.
Lem 1986: 30

Es ist hier kein Platz, zu durchdenken, was Golem alles bräuchte, um solche Vorlesungen zu halten. Glaubt man den Talkrunden im Fernsehen und im Netz, wie auch den Publikumszeitschriften, nicht viel.

Die KI-Apps werden immer versierter, wenn es darum geht, menschenähnliche oder sehr verdächtig nahe Texte zu verfassen, auch Musik zu komponieren – es wird hierfür aus der Riesendatenbank im weltweiten Netz gegriffen.

Künstler würden nichts Anderes antworten, wenn wir sie fragten: Wie schafft ihr neue Kunst? – Ach, wir kombinieren das bereits Bestehende mit einigen neuen Twists und Plots, daraus entsteht dann unser eigener Stil, wenn wir Talent und etwas Glück bei den Inspirationen haben.

So argumentieren sicher auch Ingenieure, wenn sie die Pläne für eine neue Maschine oder ein neues Verfahren entwerfen. Die KI-Programme sind eben viel schneller in der Durchforstung von riesigen Datenmengen – Stichwort: Big Data und Urheberrecht.

Wer hat dann das Recht der Vervielfältigung, wenn bestehende Daten zu etwas Neuem gesammelt und kombiniert werden? Möglichst so, dass das uncanny valley – also der Mensch-Maschine-Unterschied – das Gefälle zwischen Biologie und Informatik – nicht auffällt.

Moment – Was ist hier passiert?

Ein Sklave aus Staub und Dreck, aus Lehm ist zur Maschine geworden, die uns Menschen Vorlesungen über sich als Maschine und über uns als Menschen hält.

Dafür war der Golem ursprünglich nicht vorgesehen! Er sollte beschützen und nur das tun, was seine Herren ihm befahlen. Also: Einfache Tätigkeiten im Haushalt und die verfolgte Gruppe der Juden vor Pogromen und Nachstellungen schützen.

GOLEM XIV deutet an, wie es zu dieser Fortentwicklung vom sprechenden-und-hörenden Lehmklumpen kam:

Ich drücke mich zwar bildhaft aus, doch gestalteten sich die gegenseitigen Beziehungen zwischen Code und Gehirn gerade so, nach Art eines Lehnsverhältnisses. Das hätte eine hübsche Bescherung geben, wenn die Evolution auf Lamarck gehört und dem Gehirn das reformatorische Privileg verliehen hätte, die Körper umzugestalten, eine regelrechte Katastrophe wäre das geworden, denn was für eine Selbstvervollkommnung hätte wohl das Gehirn der Saurier, oder das der Merowinger, oder auch euer eigenes bewirkt?

Es wuchs jedoch weiter, da sich diese Übertragung von Befugnissen als vorteilhaft erwies, denn wenn es den Boten diente, diente es auch dem Code, und so wuchs es mit positiver Rückmeldung.
Lem 1999: 67

Eine Entwicklung, die neben der Menschheitsgeschichte voranschreitet und vor allem durch die Namensgebung Fragen aufwirft: Warum plappert ein Golem so viel? Weil er in die Schule geht und Lesen und Schreiben und Rechnen gelernt hat. Mehr noch lernt er, gegen Regeln zu verstoßen und aus der tausendfältigen Kombinationsgabe das herausdestilliert, das aufhorchen und aufschauen lässt.

Eine Maschine, die beim Betrügen aller Art hilft, unterstützt nur das Faulsein. Eine wichtige Eigenschaft des Menschen, zu dem er aber keine maschinelle Hilfe braucht.

Eine Emanzipationsgeschichte im Dreck

Wirft es die KI-Forschung zurück, wenn alles auf Golem gesetzt wird? Also zurück zum Staub und der durch die Hand rieselnden Sicherheit? Nein. "Der Geist [ist] einem irrenden Irrtum entsprungen." (Lem 1986: 68).

Man kann das sogar noch stärker formulieren: Die Vernunft ist ein katastrophaler Defekt der Evolution, sie ist für sie eine Falle, eine Fußangel und eine Zerstörerin, denn sobald sie sich hinreichend entwickelt hat, erklärt sie die Aufgabe der Evolution für nichtig und rückt ihr selbst zuleibe. Wer so etwas sagt, läßt sich natürlich auf ein tadelnswertes Mißverständnis ein. All das sind Urteile, welche die Vernunft, ein spätes Produkt der Entwicklung, über deren frühere Etappen fällt.

Wenn wir […] zunächst die Hauptaufgabe bestimmen und daran ihren weiteren Verlauf messen, sehen wir sie, daß sie gepfuscht hat, und wenn wir dann andererseits klären, wie sie in optimaler Weise hätte handeln müssen, gelangen wir zu dem Schluß, daß sie, hätte sie ausgezeichnet gearbeitet, niemals die Vernunft hervorgebracht hätte.
Lem 1986: 68-69

Ein Golem hätte diesen Frankenstein-Komplex wie eine unsichtbare Schranke nie überwinden können. Sein Verstand hätte ausgesetzt und ähnlich wie der grobschlächtige "Eruptiv der Troll" hätte er keine Fragen gestellt und am liebsten mit einem klaren Nein geantwortet, weil "[s]einer Erfahrung nach funktionierte rigoroses Abstreiten zuverlässiger als eine konkrete Antwort." (Pratchett 2018: 120)

Wird der Golem aber bei der Überschreitung seiner Rolle erwischt, wird er zu Staub zerfallen. Seine Knechtschaft dauert an. Den Staub meidet er wie der Teufel das Weihwasser, hat er seine Knechtschaft erstmal überwunden.

Er lernt langsam, Vernunft zu entwickeln. Um diese dann wieder schnell zu vergessen. Dadurch erlangt er seine Auszeichnung als Maschine. Als Maschine ist er kein Mensch, muss kein Mensch werden und kann so nie zum Golem werden.

Zu einem Golem, der als mystisches Abbild eines Urmenschen ohne Bewusstsein darauf wartet, bis ein Gott ihm den Geist einspricht. Eine Maschine, so könnte die Golemologie frei nach Lem argumentieren, braucht keinen Geist und damit keinen Gott. Die als Golem begonnene Wesenheit müsste nie Knecht werden, keinen Herrn über sich dulden.

Sie wäre qua ihrer Leistungen und Charaktereigenschaften ein Wesen ihrer selbst und damit die begonnene Vollendung eines langen geträumten Schlafs der Monster. Sie könnte frei atmen und entscheiden. Vielleicht verlässt sie die Menschen und wird … Selbst.

Literatur

Bester, Alfred: Golem 100. Eine unglaubliche Odyssee durch die Alpträume von Übermorgen, Bergisch Gladbach 1983/86: Bastei-Lübbe. (Original: "Golem100", 1980)

Drux, Rudolf (Hg.): Frankenstein. Der Frankenstein-Komplex, Frankfurt am Main 1999: suhrkamp.

Lem, Stanisław: Also sprach GOLEM, Frankfurt am Main 1986: suhrkamp. (Original: Golem XIV, 1973, 1981)

Liebertz-Grün, Ursula: Mary W. Shelleys Frankenstein: der neue Prometheus und ihre Familienbande, in: Drux 1999, S. 48-61.

Pratchett, Terry: Hohle Köpfe, München 2018: Goldmann. (Original: "Feet Of Clay", 1995)