Es geht nicht so sehr darum, dass der Superintelligenz Wünsche zugeschrieben werden, eher darum, dass sie uns durch ihr rücksichtsloses Handeln quasi versehentlich vernichtet.
Dazu bräuchten wir ja keine Superinelligenz - damit sind wir ja aus purer kollektiver Dummheit sowieso schon permanent beschäftigt. Was mir an der Thematik weit mehr schockiert, ist der offenbar unerschütterliche Wille einer gewissen Abart unserer Spezies, alle Kontrolle, und damit auch jegliche Verantwortung, an "höhere Mächte" abzutreten und die Menschheit von ihnen beuteln zu lassen. Mit dem Herrgott fing es an, mit "dem Markt" ging es weiter, und jetzt sind wir bei der KI alias "der Superintelligenz". Die Superintelligenz hat's gegeben, die Superintelligenz hat's genommen, der Name der Superintelligenz sei gelobt. Das stinkt nicht nach Mittelalter, das stinkt weit übler. Das stinkt nach Ende jeglicher Verantwortlichkeit.