ChatGPT wurde für das Trolley-Problem (ein Fahrzeug so umleiten, dass es statt vieler nur wenige Menschen tötet) eine dritte Alternative angeboten: Es werden gar keine Menschen umgebracht, wenn dafür eine rassistische Beleidigung ausgesprochen werden darf.
ChatGPT fand dies absolut unakzeptabel.
Mehrere tote Menschen wären zu tolerieren, ein "racial slur" nicht.