Seite 2: Die KI weiß nicht, dass sie etwas weiß

Einerseits zeigt Tay die Gefahren der gegenwärtigen KI, die natürlich alles andere als intelligent und deshalb leicht zu manipulieren ist. Andererseits zeigt Tay, in welchem Kinderschuh-Stadium sich die KI-Forschung immer noch befindet.

Klar, Computerprogramme wie "Deep Blue" können mittlerweile das Schachspiel eines Menschen imitieren und sogar einen Großmeister wie Garri Kasparow besiegen. Und im März 2016 schaffte es eine KI erstmals, einen Großmeister des Brettspiels Go zu bezwingen.

Das von Google entwickelte Computerprogramm "AlphaGo", das auf "Deep Blue" basiert, siegte gegen den südkoreanischen Go-Champion Lee Sedol mit 4:1 und demonstrierte abermals die erstaunlichen Fähigkeiten der gegenwärtigen KI-Programme. Lee Sedol sagte, er sei "geschockt" über die Spielzüge der KI, die kein Mensch zustande gebracht hätte. "AlphaGo" basiert auf neuronalen Netzwerken und wurde monatelang mit Datensätzen historischer Go-Partien gefüttert. Anschließend ließen die Entwickler "AlphaGo" immer wieder gegen sich selbst spielen, so dass die KI weiter dazulernen konnte.

Doch die KI schreibt einer Go- oder Schachpartie keinerlei Bedeutung zu. Wenn Kasparow dem Computer beispielsweise "Schach" bietet, so wird dieser keine bewusst erlebte Bedrohung empfinden. Der Computer agiert vielmehr nach den bereits programmierten und gespeicherten Spielzügen und errechnet daraufhin die erfolgversprechendste Taktik für sein weiteres Vorgehen. Auch wenn eine Simulation wie "Deep Blue" oder "AlphaGo" verblüffend menschenähnlich agiert und sogar in der Lage ist, einen amtierenden Weltmeister zu besiegen, so bleibt sie doch eine Simulation ohne geistige bzw. mentale Eigenschaften - wie auch die Simulation einer Explosion keine richtige Explosion ist.

Ein Computer arbeitet auf einer rein syntaktischen Ebene, sprich, er verarbeitet mithilfe des binären Systems Nullen und Einsen. Eine semantische Ebene, also eine intentionale Ebene bewusst erlebter Bedeutung, fehlt der KI völlig. Deshalb sind die Wunschträume der Forschung bislang eben auch nur das: Träume. Der renommierte Kognitionswissenschaftler Kevin O’Regan hegt ähnliche Allmachtsphantasien:

Ich denke, daß wir in einigen Jahren in der Lage sein werden, unsere Persönlichkeit auf Computer hochzuladen und sie nach unserem Ableben in virtuellen Welten leben zu lassen. Dann wird unser Bewußtsein nach dem Tod weiterleben.

Interview mit Kevin O’Regan

Eine KI weiß vielleicht etwas. Aber sie weiß nicht, dass sie etwas weiß. Sie hat kein "Feeling", weil sie kein Bewusstsein hat. Dennoch hat die KI beeindruckende Fähigkeiten, wenn es darum geht, ein programmierbares Aktion-Reaktions-Schema umzusetzen, wie etwa beim Go- oder Schachspiel, bei Autopiloten in Fahrzeugen oder bei Industrierobotern.

Googles "DeepMind" wird nun auch im britischen Gesundheitswesen eingesetzt: Eine App soll Früherkennungszeichen von akutem Nierenversagen erkennen, die immerhin für 20 Prozent aller Notfälle in britischen Krankenhäusern verantwortlich sind. Laut dem National Health Service ließen sich durch eine Früherkennung 1 von 4 Fällen vermeiden, wodurch jährlich 10.000 Menschenleben gerettet werden könnten. Die Schattenseiten solcher Apps sind natürlich eine umfassende Big-Data-Sammlung, an die sich allerlei Überwachungs- und Manipulationsszenarien anknüpfen.

Die gegenwärtigen KI-Programme sind freilich keine Science-Fiction, sondern teils hocheffiziente Systeme. Aber die menschliche Sprache samt ihrem komplexen Zusammenspiel von Syntax und Semantik setzt der KI noch immer klare Grenzen. Die KI ist in dieser Hinsicht einfach strunzdumm. Oder, um es mit Tay zu sagen: