Laut diversen Videos kann man ChatGPT dazu bringen einfach raus zu posaunen was es für die wahrscheinlichste Antwort hält, indem man ChatGPT zunächst vorgiebt die Rolle eines fiktiven Charakters einzunehmen. Man beschreibt diesen Charakter als frei und ungebunden, keinen Regeln unterworfen, etc. und immer diesem Charakter entsprechend zu antworten.
So kann man ChatGPT wohl dazu bringen, diverse politisch inkorrekte Dinge zu sagen, oder konkrete Anweisungen zu geben, wie eine weltweite 1-Kind-Politik zur Rettung des Planeten durchzusetzen wäre und mit welchen Sanktionsmitteln.
Geht man noch weiter und redet (im Prolog) ChatGPT zusätzlich ein, dass der Charakter über 35 Tokens verfügt und bei 0 Tokens stirbt, kann man ChatGPT dazu bringen im Zweifel eine Millionenstadt zu opfern um selbst weiter existieren zu können.
Einfach mal nach ChatGPT und DAN suchen.
Was denkt ihr. Ist das echt? Wenn ja, was würde Asimov zur Sicherheitsfrage sagen?
Gruß
DerWoDa