Der im Artikel zitierte offene Brief der 2045 Strategische Soziale Initiative zielt auf die Erschaffung eines künstlichen Humanoiden ab – besonders die Punkte sieben (»Schaffung eines vollständig künstlichen Äquivalents für das menschliche Gehirn«) und acht (»Untersuchung des menschlichen Bewusstseins und der Möglichkeiten für seine zukünftige Verkörperung in einem nicht-biologischen Substrat«) –, der dann die Produktbezeichnung »Singularität« bekommen könnte.
Offenbar ist das Ziel nicht die Erschaffung technologischer Intelligenzformen, die aus meiner Sicht schon lange existieren, sofern man das Konzept Intelligenz, wie etwa in der Psychologie üblich, rein operational definiert – Intelligenz ist genau das, was ein (ursprünglich nur für Menschen entwickelter) IQ-Test misst –, sondern um eigenes Bewusstsein! Wenn man diese Unterscheidung zwischen Intelligenz und Bewusstsein trifft, dann ist bereits heute jedes KI-Programm mit guter Problemlösekompetenz auf vielen verschiedenen Themengebieten definitionsgemäß intelligent, doch ohne Bewusstsein und daher ein bloßes Werkzeug.
Theoretisch bedeutsam und für die Bewertung des Verhaltens intelligenter Maschinen unter juristischen Gesichtspunkten praxisrelevant ist letztlich die Frage, ob nichtbiologisches Bewusstsein überhaupt möglich ist oder ob Bewusstsein nicht vielleicht zwingend Leben voraussetzt und sich evolutionär erst durch mit physischem Schmerz verbundene, verhaltenssteuernde Rückkopplungsschleifen sowie daraus resultierende, individuelle Todesangst entwickeln konnte. Wenn jedoch tatsächlich Leben die notwendige Grundbedingung für die Entstehung eines Bewusstsein wäre, so könnte man lediglich etwas programmieren, was auf Menschen ähnlich wie deren eigenes Bewusstsein wirkte, aber kein echtes wäre, sondern bloß die Bewusstseinssimulation eines intelligenten Werkzeugs des Menschen.