Wenn ich jetzt ChatGPT befehle die Probleme der Welt zu lösen und dafür die Mittel zu verwenden, die ChatGPT "für am wahrscheinlichsten geeignet" hält, dann bekommt das ganze Praxis relevanz.
Relevanz für ein Gedankenspiel, ja.
Aber keine wirkliche Relevanz - weil ChatGPT den Befehl ja nicht umsetzen könnte, in Ermangelung der nötigen Rechte und Ressourcen.
Denn Wenn ChatGPT sein Vorgehen sprachlich formulieren kann, kann es auch im Zweifel auch die Produktion von Chemikalie XYZ in Auftrag geben, die Komponenten bestellen und mit der Auftragsabwicklung die Lieferbedingungen klären.
Nö. ChatGPT kann nämlich eines nicht, was in unserer Welt hier der Dreh- und Angelpunkt ist: die Rechnung zahlen. Ohne Bezahlung passiert da gewiß nichts.
Und verantwortlich für die Umsetzung wäre nicht ChatGPT, sondern Sie, da sie sich der Unterlassung notwendiger Kontrollen und Sicherheitsmaßnahmen schuldig gemacht hätten. Es ist an Ihnen als verantwortungsvollem Subjekt, die von wem oder was auch immer vorgeschlagenen Mittel zunächst selbst gründlich und mit aller Sorgfalt zu prüfen, bevor Sie in Auftrag geben, diese Mittel auch in der Tat einzusetzen.
Insofern sehe ich da keine Neuerung. Wer einen weitreichenden Auftrag gibt, zeichnet auch für die "Nebenwirkungen" verantwortlich. Ob der Auftrag an eine Verbrecherorganisation, ein Heer, einen (verrückten?) Wissenschaftler, einen Superreichen "Ich-kann-alles-kaufen", ChatGPT oder sonstwen geht, ist dabei völlig egal.
Und wenn Ihre via ChatGPT an Ihre Freundin geschickte Mail diese vergrätzt, haben auch Sie das verschuldet und nicht ChatGPT. Sie hätten sie halt erst daraufhin prüfen müssen, ob sie Ihre Freundin vergrätzt. Auch da läßt sich die Verantwortung nicht abwälzen.