Elon Musk, Yoshua Bengio und Hunderte von Unterzeichnern für Pause beim KI-Training

Künstliche Intelligenz verändert viele Bereiche des gesellschaftlichen Lebens, was ethische Probleme aufwirft. Warum KI-Pioniere, Forscher und Firmen einen vorläufigen Stopp fordern.

Der Mensch hat die Maschinen erschaffen und dank ihnen eine schier unglaubliche Entwicklung vollzogen. Doch dieser Fortschritt wurde auch immer von der Frage begleitet: Beherrscht der Mensch noch seine Erfindungen oder ist er, wie Günther Anders einst schrieb, längst zum "Hofzwerg seines eigenen Maschinenparks" geworden?

Diese Frage ist aktuell und wird durch einen offenen Brief erneut aufgeworfen, der von Elon Musk und anderen prominenten Vertretern der Tech-Branche unterzeichnet wurde. Sie plädieren in dem Papier dafür, dass die Entwicklung von künstlicher Intelligenz (KI) für mindestens sechs Monate angehalten wird – bis sich die Menschen darüber Klarheit verschafft haben, nach welchen Grundsätzen sie erfolgen soll.

Umfangreiche Forschungsarbeiten hätten gezeigt, dass KI-Systeme mit einer dem Menschen ebenbürtigen Intelligenz tiefgreifende Risiken für die Gesellschaft und Menschheit darstellen können, heißt es in dem Papier. Sie könnten einen tiefgreifenden Wandel in der Geschichte des Lebens auf der Erde darstellen, weshalb sie mit Sorgfalt und entsprechenden Ressourcen geplant und verwaltet werden sollten.

Leider findet eine solche Planung und Verwaltung nicht statt, obwohl sich die KI-Labors in den letzten Monaten in einem außer Kontrolle geratenen Wettlauf um die Entwicklung und den Einsatz immer leistungsfähigerer digitaler Intelligenz befunden haben, die niemand - nicht einmal ihre Schöpfer - verstehen, vorhersagen oder zuverlässig kontrollieren kann.

Pause Giant AI Experiments: An Open Letter

KI-Systeme könnten heute schon viele Aufgaben des Menschen übernehmen und seien mit ihm konkurrenzfähig. Deshalb müssten sich die Menschen fragen:

Sollen wir zulassen, dass Maschinen unsere Informationskanäle mit Propaganda und Unwahrheiten überfluten? Sollen wir alle Jobs automatisieren, auch die erfüllenden? Sollten wir nicht-menschliche Intelligenzen entwickeln, die uns irgendwann zahlenmäßig überlegen, überlisten, überflüssig machen und ersetzen könnten? Sollen wir den Verlust der Kontrolle über unsere Zivilisation riskieren?

Solche Entscheidungen sollte man nicht nicht-gewählten Technikern überlassen, heißt es in dem Brief weiter. Die Unterzeichner fordern, dass die Entwicklung leistungsfähiger KI-Systeme deshalb pausiert wird, bis man sicher sein kann, dass die Auswirkungen der künstlichen Intelligenz positiv und ihre Risiken überschaubar sein werden.

Das Training von KI-Systemen, die leistungsfähiger sind als GPT-4, solle sofort unterbrochen werden, und diese Pause solle öffentlich und überprüfbar sein sowie alle wichtigen Akteure einbeziehen. Und wenn dieser vorübergehende Stopp nicht schnell umgesetzt werden könne, dann sollten die Regierungen einschreiten.

Die Zeit sollten die KI-Labors und unabhängige Experten nutzen, heißt es in dem offenen Brief, "um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle" zu entwickeln und umzusetzen. Die Protokolle sollen dann von unabhängigen Experten streng geprüft und überwacht werden, um zu gewährleisten, dass die KI-Systeme sicher sind.

Dies bedeutet keine generelle Pause in der KI-Entwicklung, sondern lediglich eine Abkehr vom gefährlichen Wettlauf zu immer größeren, unberechenbaren Black-Box-Modellen mit emergenten Fähigkeiten.

Damit hat der offene Brief einen entscheidenden Punkt benannt, den auch Gary Marcus, Professor an der New York University, gegenüber Reuters darlegte: "Die großen Akteure machen immer mehr Geheimniskrämerei um ihr Tun, was es der Gesellschaft schwer macht, sich gegen die möglichen Schäden zu wehren".

Dagegen bleibt nur einzuwenden: Im kapitalistischen Wettbewerb sind KI-Systeme auch bloß Waren, mit denen sich viel Geld verdienen lässt. Im Kampf um Marktanteile wird sich kein Entwickler gern in die Karten schauen lassen. Eine entsprechende staatliche Regulierung der KI-Systeme, wie sie die Unterzeichner des Briefs vorschlagen, scheint deshalb dringend geboten.

Eine gewisse Dringlichkeit erhält diese Forderung auch dadurch, dass auch Sicherheitsbehörden zunehmend Bedenken gegen fortschrittliche KI-Systeme äußern. Am Montag hatte erst die EU-Polizeibehörde Europol davor gewarnt, dass solche Systeme zunehmend für Betrugsdelikte, Desinformation und Cyberkriminalität eingesetzt werden könnten.

Zu den hunderten Unterzeichnern des offenen Briefs gehören zahlreiche Vertreter von Organisationen, Einrichtungen und Firmen, die sich mit der Entwicklung von KI-Systemen beschäftigen. Darunter: Steve Wozniak, Mitbegründer von Apple; Emad Mostaque, Forscher des zu Alphabet gehörenden Unternehmens DeepMind; und mit Yoshua Bengio und Stuart Russel zwei Pioniere in der KI-Forschung.