Pentagon will wissenschaftliche Forschung durch KI-Systeme ersetzen

Die Darpa sucht nach Vorschlägen, wie KI-Systeme selbst Daten sammeln, Hypothesen entwicklen, Modelle erzeugen und überprüfen können - und das möglichst schnell

Während die einen hoffen, dass die Einführung von KI-Anwendungen in vielen Bereichen zwar Jobs auch für Akademiker kosten, dafür aber neue schaffen wird, warnen die anderen vor massiver Verdrängung menschlicher Arbeit, deren Wert in Konkurrenz mit KI-Systemen in vielen Bereichen noch weiter sinken wird. Wie andere Verteidigungsministerien auch setzt das Pentagon auf schnelle Entwicklung und Verwendung von militärischen KI-Systemen. Man sieht sich vor allem in Konkurrenz mit China, aber auch mit Russland.

In dem technischen Wettrennen hat nun die Darpa, die Forschungsbehörde des Pentagon, die nach dem Sputnik-Schock 1959 gegründet wurde, um durch innovative Projekte die technische Überlegenheit der USA zu sichern, eine interessante Idee ausgebrütet. Sie soll die wissenschaftliche Innovation beschleunigen und könnte dazu dienen, auch gleich auf menschliche Wissenschaftler zu verzichten.

Es ist das erste Projekt des neuen KI-Erforschungsprogramms, das KI-Systeme der "Dritte Welle" schaffen soll, die die Grenzen des bestehenden Maschinenlernens und der regelbasierten KI-Systeme überwinden. Ganz allgemein geht es bei der Ausschreibung um Einreichungen von Vorschlägen, wie sich wissenschaftliche Entdeckungen und deren Anwendung automatisieren lassen.

Es gäbe bei der Erstellung von Computermodellen komplexer Systeme Probleme, notwendige Informationen von Experten einzuholen und in diese einzubauen, deswegen würden sie die Begrenzungen des Wissens und der Vorannahmen des Herstellers enthalten: "Zudem ist es selten, dass Wissenschaftler und Themenexperten gleichzeitig auch Programmierungsexperten sind, daher gehorchen die umgesetzten Modelle oft nicht den besten Praktiken von Softwareprogrammierern, wodurch sie Fehlern unterworfen sind und es ist schwierig, sie zu verifizieren oder zu verbessern, wenn neue Informationen entstehen."

Fehler kommen also durch die Unvollkommenheit, Subjektivität und mangelnden Programmierkenntnisse der Wissenschaftler herein. Die gewünschten KI-Systeme sollen daher Wissenschaftler ausschließen und umfangreiche Modelle komplexer Systeme selbst bilden und aufrechterhalten, überdies sollen sie auch über diese nachdenken können, "indem sie wissenschaftliche Erkenntnisse und Annahmen in den bestehenden Codes der Modelle herausarbeiten und interpretieren, neue Daten und Informationsquellen automatisch erkennen, nützliche Informationen herausholen, sie in die von Maschinen betreuten Expertenmodelle integrieren und diese auf robuste Weise ausführen".

Letztlich geht es der Darpa um ein KI-System, das sich selbst Daten und Quellen sucht, nach nützlichen Informationen durchsucht und neue Modelle erstellt. Und dann sollte das System am besten auch eigene Hypothesen erstellen und überprüfen, um die Vorhersagen zu optimieren. Das ist nicht gerade wenig - und soll auch sehr schnell realisiert werden. Innerhalb von 18 Monaten wünscht sich die Darpa die Vorlage eines finalen Prototypen.

Optimieren und Beschleunigen

Aber man will noch mehr, denn das KI-System soll auch Erklärungen aufgrund unterschiedlicher Expertenanfragen liefern und auch noch imstande sein, maschinengenerierte Hypothesen aufzustellen. Dienen soll das wissenschaftliche KI-System etwa dazu, wissenschaftliche Ergebnisse zu überprüfen, "fragile ökonomische, politische, soziale und Umwelt-Systeme in Echtzeit" zu beobachten oder die Verarbeitung natürlicher Sprache, das maschinelle Lernen oder die Mensch-Maschine-Kooperation voranzubringen.

Und all das soll natürlich "wichtige Fragen der nationalen Sicherheit" in Größenordnungen schneller und besser lösen. Man denkt dabei, nicht unwichtig bei militärischen Planungen, an Vorhersagen auch bei veränderten Variablen. Offenbar sieht man auch kontrafaktische Analysen als bedeutsam an, also die Frage, was geschehen wäre, wenn nicht X, sondern Y geschehen wäre. Man will Strategien durchrechnen, Risiken erfassen und Entscheidungen optimieren.

Unklar bleibt in den Vorstellungen, woher die wissenschaftliche Neugier der selbständig arbeitenden KI-Systeme kommen soll, um Hypothesen zu erstellen, die dann mit Modellen überprüft werden. Und warum sollten KI-Systeme auch der "Dritten Welle" nicht eigene Vorannahmen enthalten? Schließlich werden KI-Systeme auch bei dieser Ausschreibung erst einmal von Menschen programmiert und das Maschinenlernen in die Bahn gebracht. Selbst dann, wenn KI-Systeme der ersten Ordnung solche der zweiten Ordnung selbständig als eigene Produkte oder Kinder schaffen, bleiben die Voraussetzungen und werden vererbt. Zudem ist die Frage, ob KI-Systeme tatsächlich in der Lage sein werden, einen Paradigmenwechsel (Thomas Kuhn) vorzunehmen, also eine wissenschaftliche Revolution einzuleiten. Aber an solchen Fragen ist man weder bei der Darpa noch beim Pentagon interessiert. Es geht nur darum, den Gegnern überlegen und schneller zu sein.