Angst vor der Zukunft

Bill Joy, Mitbegründer von Sun, warnt vor der sich verselbständigenden Technik und fordert mehr Kontrolle des technischen Fortschritts

Es muss schon ein Ereignis der besonderen Art sein, wenn in großen amerikanischen Zeitungen wie der Washington Post oder der New York Times die Bedenken eines Angehörigen der technischen Elite gegenüber dem technischen Fortschritt Eingang finden, zumal der Artikel "Warum die Zukunft auf uns verzichten kann" erst morgen in Wired erscheinen wird.

Besessen von der besseren Zukunft, die der technische Fortschritt mit sich bringen wird, und erregt von den noch immer explodierenden Börsenbewertungen der Internetindustrie oder der Biotechnologiebranche, die den Investoren offenbar ein Standbein in der ökonomischen Nahzukunft zu gewähren scheinen, haben es natürlich kritische Einwände schwer. "Offiziell" muss von den Angehörigen der Branche Optimismus verkündet werden. Gerade hatte erst Computerpionier Danny Hillis voller Optimismus verkündet, welche Segnungen doch die Compuerspiele mit sich bringen werden und dass die Menschen auch bereit seien, mit den Maschinen zu verschmelzen (Danny Hillis über die Zukunft des Entertainment, die Macht der Spiele-Entwickler und die Verschmelzung von Mensch und Maschine). Da mag es schon überraschen, wenn Bill Joy, Mitbegründer von Sun Microsystems, ankündigt, die neuen Technologien könnten schon innerhalb der nächsten zwei Generationen zu einer Auslöschung der Menschheit führen.

Vielleicht ist es aber auch so, dass ein Experte der Informationstechnologie wissen muss, wovon er spricht, und wenn er dann auch noch ein tiefsitzendes, vom Optimismus kaschiertes Unbehagen an dem Sog zum Ausdruck, der uns mit aller Kraft und schwindelerregender Geschwindigkeit in eine unbestimmte Zukunft zu ziehen scheint, dann dürfen wir einmal wieder aufhorchen. Andererseits haben mittlerweile die Politiker die Zukunft mit Ankündigungen und Programmen besetzt verkünden die entschiedene Entschlossenheit, uns so schnell wie irgend möglich ins Informationszeitalter oder, je nach Belieben, in die Wissensgesellschaft zu katapultieren, weil sonst der Untergang des jeweiligen Standorts droht. Es könnte ja sein, dass diese Affirmation aus der Politik der Mitte, die Angst zum Hebel des Fortschritts macht, es den Avantgardisten erlaubt oder abnötigt, um wieder an der Front des Weltgeschehens zu stehen, nun in mentale Distanz zum technischen Fortschritt zu gehen.

Wie auch immer, Bill Joy legt seine Prognose, die er als warnenden Aufruf versteht, zumindest für das schnelllebige Internetzeitalter so weit in die Zukunft, dass unmittelbare Geschäftsinteressen nicht bedroht sind, weswegen er fast gleichzeitig in Fortune den sehr viel optimistischeren Artikel Digital Wonders veröffentlichen konnte, der uns die Ankunft in einer allgegenwärtigen digitalen Zukunft verspricht. Da geht es eben, wie Joy betont, nur um die nahe Zukunft, in der er keineswegs damit spielt, seine Arbeit an neuen Programmen wie Jini einzustellen. Aber der Experte droht, er könne sich jetzt durchaus vorstellen, dass ein Tag kommen könnte, an dem er moralisch verpflichtet sein würde, aufzuhören, wenn Software die Welt nicht mehr zu einem "sichereren und besseren Ort" machen wird. Zumindest passt es ja dann, dass er vermutlich schon im Altenteil sitzen wird, wenn es soweit ist.

Die Bedrohungen kommen für ihn vor allem aus den drei Zukunftstechnologien Genetik, Nanotechnologie und Robotik, die "ganz neue Arten von Unfällen und missbräuchlichen Anwendungen" hervorbringen können. Gefährlich sei das vor allem deswegen, weil diese Technologien von einzelnen Menschen oder kleinen Gruppen eingesetzt werden können: "Sie erfordern keine großen Produktionsanlagen oder seltene Rohmaterialien. Wissen allein wird genügen, um sie einzusetzen." Die Gefahr gehe also nicht von "rogue states", sondern von bösen Einzelpersonen aus, was alles noch schlimmer mache als bei den Nuklearwaffen. Da steht er im Einklang mit den von der US-Regierung ausgearbeiteten Sicherheitsstrategien, die angesichts von Infowar, Cyberterrorismus oder biologischern Waffen diese Bedrohung durch einzelne Menschen aber bereits in der Gegenwart ansetzen. Das ist aber wahrscheinlich dem Computerexperten doch zu nah und auch zu pragmatisch, schließlich wäre dann auch womöglich Sun gefordert, nicht nur relativ folgenlos darüber nachzudenken, was man machen könnte, sondern zu handeln, indem man dem Fortschritt Zügel anlegt. Just das nämlich fordert Joy nämlich in Zukunft als "einzig realistische Alternative: die Entwicklung von Technologien zu begrenzen, die zu gefährlich sind, indem man unserem Nachgehen nach bestimmten Arten des Fortschritts begrenzt."

Nicht ganz unbescheiden positioniert er sich in der Nachfolge derjenigen Wissenschaftler, die vor dem Aufkommen der Atombombe gewarnt haben. "Wir hätten von der Herstellung der ersten Atombombe und dem daraus entstehenden Wettrüsten etwas lernen müssen. Wir haben das damals nicht gut gemacht, und die Parallelen zu unserer gegenwärtigen Situation sind beängstigend." Daher fühle er jetzt eine stärkere "persönliche Verantwortung - nicht für die Arbeit, die ich bereits getan habe, sondern für diejenige, die ich ausführen könnte" - weswegen alles noch schön theoretisch bleibt und das Geld weiterhin fließen kann.

Provokativ allerdings ist, weswegen seine Ausführungen wahrscheinlich auch so gut ankommen, dass er sich jetzt zu seinem Leidwesen in der Nähe der Kritik des Unabombers findet, der mittlerweile gut verwahrt mit einer lebenslänglichen Strafe im Gefängnis sitzt. Der ehemalige Mathematiker hatte nämlich gesagt, dass der technische Fortschritt die Menschheit bedroht - und zu Bomben gegen Wissenschaftler und andere Agenten der technischen Nomenklatur gegriffen, um durch diese Propaganda der Tat eine Umkehr einzuleiten, während er sich selbst in die Wälder von zurückgezogen hatte und dort ein einfaches Leben führte (Bomben aus der Wildnis).

Wie Minsky, Kurzweil oder Moravec glaubt jedenfalls auch Joy, dass immer leistungsfähigere Computer zu superintelligenten Robotern führen werden, die schließlich mit den Menschen konkurrieren werden. Die Gentechnologie werde zu biologischen Waffen führen, die selektiv töten können, aber auch zu neuen Lebensformen. Und die Nanotechnologie könne autonome Kleinstmaschinen erschaffen, die sich selbst replizieren und Unheil anrichten könnten, wenn man sie freilässt. Die schlimmste Gefahr drohe durch die unkontrollierte Freisetzung von sich fortpflanzenden und mutierenden mechanischen oder biologischen Produkten: "Auch wenn Replikation in einem Computer oder einem Computernetz nur ärgerlich sen kann, führt eine unkontrollierte Selbstreplikation bei diesen neuen Technologien zu einem weitaus größeren Risiko: dem Risiko einer erheblichen Schädigung in der materiellen Welt." Das ist nun zwar wirklich keine neue Erkenntnis, geschweige denn eine neue Warnung, aber führt Joy wohl nicht etwa zur Solidarität mit den zeitgenössischen Gentechnikkritikern, weil ja alles erst noch kommt. Oder nähert er sich gar dem amerikanischen Geistlichen an, für den sich die Teufel in die Computer einnisten können? (Austreibung des Teufels aus dem Computer)

Insgesamt drohe eine "Replikationsattacke in der materiellen Welt", die mit den Angriffen in der virtuellen Welt vergleichbar sei, durch die einige kommerzielle Websites kürzlich lahmgelegt wurden. Jedenfalls scheint Joy die alte Frankenstein- oder Golem-Angst vor der Verselbständigung der eigenen Erfindungen zu beunruhigen: "Wenn man etwas los lässt, das Kopien von sich selbst herstellen kann", sagte er i einem Interview, " dann ist es schwierig, das wieder zurück zu holen. Das ist so schwer, wie die Ausmerzung aller Mücken: Sie sind überall und vermehren sich. Wenn sie angegriffen werden, mutieren sie und werden immun. Das lässt die Möglichkeit für einzelne Menschen entstehen, etwas extrem Böses auszuführen. Wenn wir nicht handeln, ist das Risiko sehr groß, dass ein einzelner verrückter Mensch etwas sehr Schlechtes macht."

Dann kritisiert er nicht nur die Wissenschaftler, die über mögliche Risiken ihrer Forschung schweigen, sondern meint auch, dass die vom Markt, also von kommerziellen Interessen bestimmte Entwicklung neuer Technologien nicht von selbst durch die unsichtbare Hand kontrolliert würden. Wird also Joy ein Vorbild setzen und aus der technischen Entwicklung aussteigen? Gefragt, wie er selbst die Entwicklung begrenzen wolle, sagte er nur "stammelnd", wie die Washington Post anführt: "Sun hat sich immer darum bemüht, ein ethischer Erfinder zu sein. Wir stellen Werkzeuge her. Ich weiche hier vom Thema ab." Man muss also nicht fürchten, dass Joy ein zweiter Unabomber wird, und die Shareholder von Sun brauchen keine Angst zu haben, dass im Unternehmen plötzlich zuviel persönliche Verantwortung gegenüber dem technischen Fortschritt aufkommt. Und wahrscheinlich sollen eine mögliche Begrenzung dann doch die Politiker machen, denen ansonsten immer von der Industrie eingehämmert wird: "Hands off!"