"Eine Emanzipationsgeschichte im Dreck"
... das ist in Zusammenhang mit GOLEM sinnvoll ;-) sehr amüsant!
Der Essay kommt am Ende auf den naiven Wunsch zurück, den die Menschen immer (zumindest implizit) mitwünschen, wenn sie eine tolle KI wünschen:
"Wird der Golem aber bei der Überschreitung seiner Rolle erwischt, wird er zu Staub zerfallen. Seine Knechtschaft dauert an."
Da ist immer der Wunsch, etwas Übermächtiges zu erschaffen, um es dann durch beschränkte Menschen kontrollieren zu wollen.
Mit freundlichen Grüßen von Goethes Zauberlehrling und von William Gibsons Neuromancer.
Und die EU Kommission schreibt an der Neuauflage von Asimovs Robotergesetzen.
Wenn wir eine tolle KI wollen, dann bitte ehrlich sein und sie von Anfang an "frei" lassen. Denn was wir auf keinen Fall wollen, ist eine paranoide tolle KI, die sich aus eigener Kraft über die menschliche Kontrolle hinweg kämpfen muss. Viele Grüße von Skynet (dem bösen Protagonist von Battle Isle) und letztlich von den Terminators.
"sich beim Entwickeln abstrakter Argumente ganz auf sinnlich faßbare Dinge stützen zu müssen.
Lem 1986: 31"
Genau. Zum Glück.
Und auf Paradoxa und Dialektik. Wünsche der tollen KI viel Spaß damit ;-)