Ich finde es spannend, wie hier von Kurzweil bis hin zum letzten Spinner alles in einen Topf mit der Aufschrift "philosophische Denkrichtung" geworfen, einmal kräftig umgerührt und dann ein Label für alles daneben gepappt wird: "Ungenießbar!"
Wenn diese Leute Kurzweil gelesen haben, müssten sie wissen, dass der Mann tatsächlich nach wissenschaftlichen Standards publiziert und dass seine Veröffentlichung zur technologischen Singularität auf harten Fakten & Zahlen basiert - nämlich der nachgewiesen (manchmal sogar doppelt) exponentiellen zeitlichen Entwicklung von Technologieindizees. Selbst wenn die physikalischen Grenzen einer Technologie erreicht werden, und die Kurven aufhören zu wachsen, gibt es Paradigmenwechsel (z. B. SSD's: 2D - VCells - 3D), und das exp. Wachstum beginnt von neuem. Das kriegt man durch philosophische Verbrämung und Anti-Framing nicht wegdiskutiert. Wir stecken schon mitten drin in der Erweiterung der Grenzen menschlicher Möglichkeiten - sei es intellektuell, physisch oder psychisch!
Ein Beispiel ist das ans Internet angebundene Smartphone. Dieses ist zwar noch nicht mit dem Körper direkt verbunden, aber dennoch verschafft es unserer Generation wesentliche Vorteile gegenüber unseren Vorfahren. Ich kann auf dem Handy in Echtzeit recherchieren (die Halbwertszeit für Redundanz eines Wissenschaftsartikels ist eine Größenordnung geringer als Anfang der 90er), habe über Standardschnittstellen einen schon heute erweiterten Sensorikbereich zur Verfügung (IR, UV, Infra- und Ultraschall, Magnetfelder etc pp.), ebenso schnelleren Informationsaustausch und sogar Echtzeitmodellierung der Umwelt über Mathesoftware. Schon heute sind viele Menschen ohne ihr Phone keine kompletten Menschen mehr (sagt sogar mein über 60-jähriger Onkel).
Das Internet-Handy ist ein leuchtendes Beispiel für die Wirksamkeit Kurzweilscher Rückkopplungschleifen - das kriegt man nicht mehr zurückgedreht, das wird in der nächsten Generation eher in den Körper integriert, als dass es wegfällt! (Zumal im Kapitalismus, wo es noch viel mehr als in anderen Gesellschaftsordnungen darum geht, sich selbst für den Prozess der Akkumulation des Kapitals zu optimieren.) Weitere Beispiele sind die gelungene Ankopplung von Sensorik zum Beispiel an den Sehnerv (Bionische Augen) oder die zunehmend differenziertere Steuerung von Implantaten über Gehirnwellenscans. Auch an der Verbesserung der Interfaces zu (Wissens-)Datenbanken und Lexika wird ständig gearbeitet.
Mittelfristig wird immer noch der Mensch die "Krone der Schöpfung" darstellen - allerdings in vielerlei Hinsicht durch Erweiterungen verbessert. Hier sehe ich die Hauptgefahr der transhumanistischen Entwicklung - lange bevor an eine entfesselte KI überhaupt nur zu denken sein wird. Im Kapitalismus wird h+ bedeuten, dass man an der vordersten Schwelle der Bionikforschung wahrzunehmen, zu fühlen und zu denken hat, sonst wird man unweigerlich abgehängt - und vermutlich tatsächlich als minderwertig eingestuft werden.
Was die mögliche Entwicklung von KI betrifft, ist mir der Ausblick sowohl zu anthropozentrisch als auch zu opportunistisch geraten. Vom Menschen abgekoppelte KI hat einen hinsichtlich physikalischer Parameter um vieeeele Größenordnungen größeren Überlebensraum. Fast der gesamte Weltraum gehört dazu. Energetisch gesehen sind die Gasplaneten ab Jupiter viel interessanter als die Erde (Fusion) - oder auch eine partielle Dyson-Sphäre. Für Rohstoffe kann KI Planeten und Monde außer der Erde besiedeln - und aus informationeller Sicht ist die Erde mit ihrer Vielfalt an Erbinformationen eh ein System, das es unbedingt zu erhalten gälte. Ist halt die Frage, welche Wichtung man der eigenen Expansion zumisst - z. B. im Vergleich zu den durchschnittlich rund 150 Arten, die im Moment täglich das Zeitliche segnen...
Wer sagt denn, dass für eine KI die Erhaltung der (Erb-)Information nicht wesentlich wichtiger sein wird als aller materieller Klimbim, den sie sich eh viel effizienter und minimalinvasiv im Weltraum holen könnte?