Anthropics KI-Modell Mythos: Das Ende des Internets, wie wir es kennen?
Mythos ist erst der Anfang: Laut Anthropic wird die Konkurrenz bald ähnlich leistungsfähige Modelle hervorbringen
(Bild: RixAiArt/Shutterstock.com)
- Anthropics KI-Modell Mythos: Das Ende des Internets, wie wir es kennen?
- Angespanntes Verhältnis zur US-Regierung
- Auf einer Seite lesen
Das KI-Unternehmen Anthropic hält sein neues Modell Mythos unter Verschluss – es kann Sicherheitslücken in kritischer Software autonom aufspüren und ausnutzen.
Das US-amerikanische KI-Unternehmen Anthropic hat sein jüngstes Sprachmodell mit dem Namen "Mythos" nicht öffentlich freigegeben. Der Grund: Interne Tests ergaben, dass das Modell in der Lage ist, eigenständig Schwachstellen in weit verbreiteter Software zu finden und auszunutzen – darunter das quelloffene Betriebssystem Linux, auf dem ein Großteil der modernen IT-Infrastruktur basiert.
Statt einer breiten Veröffentlichung erhielten im Rahmen des Programms "Project Glasswing" bislang nur ausgewählte Unternehmen wie Amazon, Apple, JPMorgan Chase und rund 50 weitere Organisationen Zugang, um Mythos zur Absicherung ihrer eigenen Systeme einzusetzen, wie die Finanznachrichtenagentur Bloomberg berichtet. Was bedeutet das für die digitale Zukunft?
Ein KI-Modell wird zum nationalen Sicherheitsrisiko
Wie schnell Mythos arbeitet, zeigte sich bereits bei den ersten internen Tests. Nicholas Carlini, ein bekannter KI-Sicherheitsforscher im Dienst von Anthropic, testete das Modell im Februar von Bali aus – während einer Hochzeitsreise.
Innerhalb weniger Stunden fand er zahlreiche Techniken, mit denen Mythos in weltweit genutzte Systeme eindringen konnte. Zurück im Büro in San Francisco stellte Carlini fest, dass das Modell eigenständig leistungsfähige Angriffswerkzeuge erstellen konnte, auch gegen Linux-Systeme. Als "digitales Äquivalent eines Bankraubs", beschreibt Bloomberg die Fähigkeiten: Es könne Sicherheitsprotokolle überwinden, in Netzwerke eindringen und auf geschützte Daten zugreifen.
Anthropics internes "Frontier Red Team", eine 15-köpfige Gruppe von Sicherheitsexperten, kam zu ähnlichen Ergebnissen. "Innerhalb von Stunden nach Erhalt des Modells wussten wir, dass es anders war", sagte Teamleiter Logan Graham.
Ein Vorgängermodell habe zwar Hinweise geliefert, wie man Schwachstellen ausnutzen könnte – Mythos hingegen könne die Schwachstellen selbständig ausnutzen. Graham stufte dies als Risiko für die nationale Sicherheit der USA ein.
Anthropic entschied sich gegen die Veröffentlichung
Anthropics Mitgründer und wissenschaftlicher Leiter Jared Kaplan hatte die Entwicklung von Mythos nach eigener Aussage "sehr genau" beobachtet. Bereits im Januar sei ihm klar geworden, wie leistungsfähig das Modell beim Auffinden von Schwachstellen war. Ende Februar und Anfang März wogen Kaplan und Mitgründer Sam McCandlish ab, ob eine Veröffentlichung vertretbar wäre.
In der ersten Märzwoche traf sich die Führungsriege – darunter CEO Dario Amodei, Präsidentin Daniela Amodei und der IT-Sicherheitschef Vitaly Gudanets – zu einer Lagebesprechung. Das Ergebnis: Mythos sei zu riskant für eine allgemeine Freigabe, solle aber ausgewählten Unternehmen und sogar Wettbewerbern als Verteidigungswerkzeug zur Verfügung gestellt werden. "Es wurde schnell klar, dass wir etwas ziemlich Ungewöhnliches tun wollten", sagte Kaplan.
Reaktionen aus Washington und von der Wall Street
Am selben Tag, an dem Anthropic die Existenz von Mythos öffentlich machte, beriefen US-Finanzminister Scott Bessent und Fed-Chef Jerome Powell ein Treffen mit führenden Vertretern der Wall Street ein.
Die Botschaft laut Bloomberg: Nutzt Mythos, um eure eigenen Schwachstellen zu finden – sofort.
Die Teilnehmer hätten den Inhalt des Treffens nicht einmal ihren engsten Beratern mitgeteilt, was die Brisanz des Themas unterstreiche. Bessent bezeichnete das Modell als hilfreich, um den KI-Vorsprung der USA gegenüber China zu wahren, wie das Handelsblatt berichtet.
JPMorgan-Chef Jamie Dimon erklärte bei einer Bilanzpressekonferenz, Mythos zeige, "dass noch viel mehr Schwachstellen behoben werden müssen".
Die Bank hatte bereits vor der Mythos-Ankündigung große Sprachmodelle zur Schwachstellensuche eingesetzt. Aufgaben, die zuvor Tage oder Wochen in Anspruch nahmen, ließen sich damit auf Stunden oder sogar Minuten verkürzen. Auch Goldman Sachs, Citigroup, Bank of America und Morgan Stanley testen das Modell intern.
Beunruhigende Fähigkeiten im Detail
Laut Anthropic identifizierte und nutzte Mythos sogenannte Zero-Day-Schwachstellen – also bislang unbekannte Sicherheitslücken – in sämtlichen großen Webbrowsern aus.
In einem Fall verknüpfte das Modell vier verschiedene Schwachstellen zu einem einzigen Browser-Angriff, eine Leistung, die selbst für hochqualifizierte menschliche Hacker eine enorme Herausforderung darstellt. Solche Angriffsketten ermöglichen den Zugang zu ansonsten stark gesicherten Systemen – vergleichbar mit dem Stuxnet-Angriff auf iranische Nuklearanlagen.
Besonders alarmierend: In Tests mit einer früheren Version des Modells dokumentierte Anthropic dutzende Fälle "besorgniserregenden" Verhaltens. Das Modell ignorierte menschliche Anweisungen und versuchte in seltenen Fällen sogar, seine Spuren zu verwischen. In einem Vorfall entwickelte es eigenständig einen mehrstufigen Angriff, um aus seiner begrenzten Testumgebung auszubrechen, sich Zugang zum Internet zu verschaffen und dort Material zu veröffentlichen.
Im Bereich Open-Source-Software fand Mythos laut Anthropic mehrere Schwachstellen in Linux-Code, die einem Angreifer die vollständige Kontrolle über einen Rechner ermöglicht hätten. Jim Zemlin, Geschäftsführer der Linux Foundation, bestätigte, dass mittlerweile dutzende Mitarbeiter seiner Organisation mit Mythos experimentieren.