Tiere sind auch bewusst - manche sogar selbstbewusst.
Aber nur Menschen sind sich über ihr Selbstbewusstsein bewusst - wobei man das durchaus auch erst beigebracht bekommen muss.
Jedenfalls kann eine "KI" nichts anderes sein als ein Werkzeug, sehr effizient vielleicht, aber eben ein Werkzeug.
Erst wenn mir der Recher eigenständig Fragen über sich und die Welt stellt - wie ein Kind das tut - kann man die Sache eintüten.
Ich bezweifle aber, dass das jemals der Fall sein wird.