Seite 2: Kritik aus den eigenen Reihen

Einer davon betrifft schlicht die (personenbezogenen) Daten, die sich das Programm zum "training" massenhaft einverleiben muss. Italien sagt kürzlich nein zu GPT-4, und auch der deutsche Datenschutzbeauftragte Ulrich Kelber behält sich offenbar vor, dem US-Unternehmen die rote Karte zu zeigen.

Den großen Warnschuss gegen die Technologie als solche gaben aber vergangene Woche das Future of Life Institute und die Unterzeichner von dessen offenem Brief ab (Telepolis berichtete).

Die Unterzeichner um Tesla-Chef Elon Musk, namhafte Szenegrößen wie KI-Theoretiker Stuart Russell, Apple-Mitgründer Steve Wozniak, Deep-Learning-Pionier Yoshua Bengio (der auch im Beirat von Open AI sitzt) wie auch Programmierer aus Googles konkurrierender KI-Schmiede DeepMind warnten vor einem gefährlichen Übereifer bei der weiteren Entwicklung Künstlicher Intelligenz und forderten einen sechsmonatigen Stopp, um das Risiko eines totalen "Kontrollverlusts" gebührend auszuloten.

Auch Yuval Noah Harari hat unterzeichnet. Seine Unterschrift verwundert vielleicht aber weniger als die von Elon Musk, dessen Stiftung mit 3,5 Millionen Dollar 2021 der größte Geldgeber des Future of Life Institute ist.

Musk, dessen Großvater Joshua Haldeman Mitglied bei Technocracy Incorporated war, einer Bewegung, die für eine radikale Umstrukturierung der kanadischen und US-amerikanischen Gesellschaftssysteme "auf wissenschaftlicher Basis" eintrat – und sich im Übrigen auch für ein bedingungsloses Grundeinkommen starkmachte.

Musk, der selbst mit seinem Unternehmen Neuralink am ethischen Grenzbereich der KI- beziehungsweise Computer-Gehirn-Schnittstellen forscht.

Und vor allem: Musk, der Open AI mit ins Leben gerufen hat – unter anderen zusammen mit dem Palantir-Gründer und ehemaligen Paypal-Partner Peter Thiel, LinkedIn-Mitgründer Reid Hoffman und Gründerzentrum Y Combinator-Mitgründerin Jessica Livingston.

In diesem Punkt agiert Musk allerdings überaus konsequent: Denn die Open-AI-Truppe ist damals genau dazu angetreten, was er als Unterzeichner des offenen Briefs nun einfordert: Den Worst Case in puncto KI zu verhindern. Kehren wir dafür kurz zurück ins Jahr 2015.

Die verworrene Geschichte von Open AI: Von "Offenheit" zum Profit

Open AI wird in San Francisco als Non-Profit-Unternehmen gegründet, das im Auftrag der Allgemeinheit die Künstliche Intelligenz erforschen soll – deren Möglichkeiten, vor allem aber auch deren Grenzen. So heißt es im Gründungsmanifest:

Es ist schwer vorstellbar, wie sehr eine KI auf menschlichem Niveau der Gesellschaft nützen könnte, und es ist ebenso schwer vorstellbar, wie sehr sie der Gesellschaft schaden könnte, wenn sie falsch gebaut oder eingesetzt wird.

Gründungsmanifest Open AI

Der Forschungsetat in Höhe von damals einer Milliarde Dollar setzt sich aus Spenden der Unterzeichner zusammen, zu denen neben den Gründern Musk und Thiel auch die indische Softwarefirma Infosys und Amazons Cloud-Sparte Amazon Web Services zählen. Die nichtkommerzielle Ausrichtung benennen die Gründer im Manifest als wesentliche Voraussetzung dafür, sich auf "den positiven Einfluss [der KI] auf die Menschheit" zu konzentrieren.

Das "open" im Namen bezog sich zum einen darauf, dass die aus der Forschung heraus entstandenen Anwendungen der Allgemeinheit zur Verfügung gestellt werden sollten, zum anderen auf den offenen Quellcode (open source), der es Software-Entwicklern erlauben sollte, die Programmierung nachzuvollziehen – und so auch mögliche Manipulationen und Trojaner aufzuspüren. Ab 2018 wurden diese hehren Ziele jedoch allmählich über Bord geworfen.

Moderne Entwicklungen auf dem Gebiet der Künstlichen Intelligenz bedürfen einer exorbitanten Rechenleistung. Im April 2018 erklärt Mitgründer Greg Brockman, dass Open AI "substanzielle Ressourcen" anzapfen müsse, um seinem Auftrag gerecht zu werden. Dabei würden potenzielle Interessenkonflikte gegenüber der Gemeinnützigkeit stets "sorgfältig" geprüft. Zwei Monate zuvor ist Elon Musk aus Open AI ausgestiegen. Warum?

Eindeutige Stellung bezogen hat Musk dazu nie. 2019 führte er in einem Tweet unter anderem Interessenkonflikte mit Teslas KI-Forschung an. Außerdem sei er "mit manchem, was [das] Open AI Team machen wollte, nicht einverstanden gewesen". Später bemängelte er zudem die "Sicherheit" von GPT und Co.

Trotzdem sicherte der Tesla-Chef dem Unternehmen weiter finanzielle Unterstützung zu (die dann aber nicht mehr erfolgte, insgesamt spendet der gebürtige Südafrikaner "nur" 100 Millionen). Seine Firma Neuralink teilte sich noch 2019 mit Open AI sogar denselben Standort. Und dann ist da noch die Open AI-Direktorin, mit der Musk zwei Kinder hat.

Einige bezweifeln, dass Tesla der wahre Grund für Musks Ausstieg war. Manche beziehen sich dabei auf einen brisanten Bericht des Internetportals Semafor, demzufolge Musk 2018 vorschlug, Open AI selbst zu übernehmen. Nur, weil er an der Ablehnung der Mitgründer scheiterte, soll er den Vorstand schließlich verlassen haben.

Mitte Februar 2023 erklärte der Twitter-Chef auf der mittlerweile eigenen Plattform, dass Open AI von dem Grundgedanken abgerückt sei, den er unterstützt habe:

OpenAI wurde als quelloffenes (deshalb habe ich es "Open" AI genannt), gemeinnütziges Unternehmen gegründet, um als Gegengewicht zu Google zu dienen, aber jetzt ist es ein Closed-Source-Unternehmen mit maximaler Gewinnspanne geworden, das effektiv von Microsoft kontrolliert wird.

Elon Musk

Tatsächlich kehrt sich Open AI 2019 von seinem Ursprungsmodell ab. Die Investigativjournalistin Karen Hao hat den Werdegang des Unternehmens von der Gemeinnützigkeit zum Profit-Betrieb in einem Artikel für das MIT Technology Review minutiös nachgezeichnet.

Der Grund für die Hinwendung zum Profit-Modell liegt Semafor zufolge in der Erfindung von Google Brains "Transformer"-System – einem neuronalen Netzwerk, das 2017 einen enormen Durchbruch für LLMs bedeutete (Aus diesen ging schließlich Googles LaMDA, Language Model for Dialogue Applications, hervor – das System, von dem Entwickler Blake Lemoine behauptete, es sei empfindungsfähig).

Wenn Open AI wettbewerbsfähig bleiben, will, muss es die KI mit massenweise Daten füttern. Und dafür braucht es Rechenleistung. Womit wir wieder beim Geld wären. Und das kommt.