Da ist immer der Wunsch, etwas Übermächtiges zu erschaffen, um es dann durch beschränkte Menschen kontrollieren zu wollen.
Ja - was denn auch sonst?
Der Wunsch danach, große Lasten von einem Ort zum anderen zu bewegen, hat uns Lastwagen und Ozeanriesen beschert. Und dann sind es beschränkte Menschen, die sie kontrollieren, direkt am Steuerrad oder indirekt durch Arbeitsanweisungen.
Ein noch so großer Tanker, für den es keine Arbeitsanweisung gibt, ist... nichts (als Müll). Das als übermächtig Gebaute erhält sein Dasein um beschränkter Menschen willen: der Transporter, die Waffe, der Wolkenkratzer, die Magnetschwebebahn, ...Der Mensch wird übertroffen von dem, was er sich ausdenkt, um mehr zu erreichen, als er mit seinen eigenen Gliedmaßen kann. Aber das Ziel ist immer das Ziel des beschränkten Menschen. Und wenn das Menschengeschaffene dazu nicht (mehr) taugt, das Ziel zu erreichen, dann verschwindet es: die Brücke, die abgerissen wird, das Zelt, das vom gemauerten Haus ersetzt wird, die Kutsche, die dem PKW weichen muß...
Wenn wir eine tolle KI wollen, dann bitte ehrlich sein und sie von Anfang an "frei" lassen.
Und das würde zu welchem Preis genau in welcher Weise welches Ziel besser erreichbar machen?