Lebenslanges Maschinenlernen
Das BRASS-Projekt der DARPA: Software erschaffen, die sich gewandelten Umweltbedingungen und Anforderungen selbständig anpassen kann und daher nicht upgedated werden muss
Wenn man über die DARPA, die Innovationsfabrik des US-Verteidigungsministeriums, eines nicht sagen kann, dann, dass es ihr an Ehrgeiz mangelt. Neuerdings möchte sie Software erschaffen, die sich gewandelten Umweltbedingungen und Anforderungen selbständig anpassen kann und daher nicht upgedated werden muss. Für wie lange? Die DARPA denkt an einhundert Jahre.
Anstatt die Nachahmung eines Erwachsenenintellekts durch ein Programm anzustreben - sollten wir da nicht versuchen, den eines Kindes nachzubilden? Wenn dieses Programm dann einer angemessenen Erziehung ausgesetzt würde, erhielte man einen erwachsenen Geist.
Als Alan Turing dies 1950 in seinem berühmten Aufsatz "Computing Machinery and Intelligence" schrieb, gab es die DARPA noch nicht, denn sie wurde erst 1958 gegründet. Aber irgend so etwas wie Turings Bemerkung muss den aktuellen DARPAisten im Kopf herumgespukt sein, bevor sie auf ihre neueste Idee, bzw. auf den neuesten Namen für "künstliche Intelligenz" verfallen sind. Jedenfalls stellten sie in einer Konferenz am 8.April ihr BRASS-Projekt (Powerpointfolien-Download) vor: "Building Resource Adaptive Software Systems".
Schaut man sich die Powerpoint-Folien und das dazugehörige Broad Agency Announcement (PDF) an, dann wird schnell klar, dass wir es hier nicht etwa mit einem durchstrukturierten Projekt auf dem kurzen Weg zum Prototypen zu tun haben, sondern mit einem Lastenheft für etwas, das bisher völlig utopisch ist: sich selbst heilende und verbessernde, jeder Veränderung und Herausforderung gewachsene Software, die keines menschlichen Eingriffs bedarf.
Software: Sonderstellung in der Ingenieurskunst
Zunächst stellt die DARPA fest, dass Software unter allen Großleistungen der Ingenieurskunst eine Sonderstellung einnimmt: Sie wird viel schneller unbrauchbar als zum Beispiel Architektur, Fahrzeuge in der Massenmobilität und andere infrastrukturelle Hardware. Während die Hardware nachgerüstet werden kann (auch wenn das teuer und aufwändig ist), und teilweise über Jahrzehnte oder länger funktional bleiben kann, ist das bei Software oft genug so gut wie unmöglich.
Das hat viel mit der Komplexität von Software-Konstrukten zu tun - die DARPA spricht von Tausenden von Komponenten, die miteinander harmonieren müssen, was von konkurrierenden Standards, immer schnelleren Innovationszyklen, fehlerhafter oder missverständlicher Dokumentation usw. erschwert wird. Hyperkomplexe Systeme, bei denen unzählige Köche unwahrscheinlich viel verderben können.
Die andere Seite der Medaille sind essentiell wichtige Systeme in verschiedenen Sektoren der Gesellschaft, so z.B. im Bankenwesen und beim Militär, die aus Sicherheitsgründen den alten Kram laufen lassen, weil man immerhin über Jahrzehnte Erfahrung damit gesammelt hat, und eine Erneuerung die Gefahr mit sich bringen würde, auch neue Fehlerquellen mit einzuschleppen. Das geht so weit, dass das US-Atomwaffenarsenal teilweise mit Hilfe von DEC-VAX-Systemen gemanagt wird.
Es gibt sogar spezielle Firmen, die neue Rechner bauen, um die alten Systeme zu emulieren, damit die alte Software weiterlaufen kann, beispielsweise The Logical Company in Cottage Grove, Oregon. De facto bedeutet das, dass heute relevante, ja essentielle und sogar hochgradig sensible Systeme an veraltete Software angepasst werden, und nicht umgekehrt.
Suresh Jagannathan von der DARPA zitierte auf der erwähnten Konferenz einen Reuters-Artikel von Andrea Shalal mit den folgenden Worten:
Nahezu jedes im Fiskaljahr 2014 getestete Waffenprogramm der US-Streitkräfte wies signifikante Schwachstellen auf, was fehlkonfigurierte, nicht mit den nötigen Sicherheitspatches versehene und generell veraltete Software einschloss (…)
Das ist auch nur logisch, weil dieselben Update- und Kompatibilitätsprobleme, die zivile Nutzer plagen, auch für Militärs relevant sind. Selbst wenn Software grundsätzlich erneuert werden kann, heißt das noch lange nicht, dass das auch wirklich geschieht.
Und all diesen Problemen - kaum kontrollierbare Komplexität, Angst vor neuen Fehlerquellen, und verschlampte Updates - will die DARPA also mit ihrer magischen neuen Software-Architektur begegnen. Wie soll das vor sich gehen?
Zweifel
Wenn man sich die bunten Powerpointfolien, mit denen das "Projekt" der Öffentlichkeit vorgestellt wurde, etwas genauer anschaut, dann sieht man zwar viele Diagramme, aber neben Anforderungen an die projizierte Software der Zukunft werden kaum Ausgangspunkte erkennbar, auf die man sich heute stützen könnte. Die "Architektur", die hier vorgeschlagen wird, besteht hauptsächlich aus Fragen.
Abgesehen davon, dass man grob Abteilungen identifiziert hat, die Veränderungen der Umwelt entdecken, mögliche Problemlösungsstrategien entwickeln und durch Selbstneuprogrammierung implementieren sollen, gibt es bisher kaum Konkretes. Es ist zwar genau der Zweck solcher DARPA-Präsentationen, Entwicklerteams anzulocken, die sich an den aufgeworfenen Fragen abarbeiten, aber wenn man außer Wunschdenken im Technojargon wenig anzubieten hat, ist das Ganze halt schon ziemlich vage.
Im Grunde will die DARPA etwas noch Mächtigeres als das Computerkind Turings, denn die Systeme, die sie sich vorstellt, wären nicht nur lernfähig, sondern müssten auch entschieden können, was und wie zu lernen wichtig sei, d.h. sie würden sich im Turingschen Sinne auch noch selbst "erziehen" - und das 100 Jahre lang. Wenn das mal kein lebenslanges Lernen ist.
Dass der DARPA selbst Zweifel an ihrer ehrgeizigen Planung nicht fremd sind, sieht man an Schaubildern, die überschrieben sind mit: "Für den Fall, dass diese Technologie so richtig erfolgreich wird …" Und dann wird ein strammer Zeitplan vorgeschlagen: Im September 2019 soll die Phase III abgeschlossen sein, anscheinend mit einer funktionierenden "Platform-Demo". Und für welche Anwendungen soll der digitale Zauberstab letztendlich geeignet sein?
Für autonome und robotische Systeme, für das Internet der Dinge, für Cloud-Infrastrukturen, für mobile Systeme usw. usf. - also eigentlich für alles. Weil "brass" auch ein Slangbegriff für die militärische Entscheidungsebene ist, kann man davon ausgehen, dass die DARPA sich im Endausbau vielleicht sogar eine komplett digitalisierte militärische Entscheidungsebene wünscht, die nur alle 100 Jahre gewartet werden muss.
Alles heiße Luft?
Nicht so schnell. Denn wenn es der DARPA an einer oder zwei anderen Sachen nicht mangelt, dann sind das Geld und intellektuelle Ressourcen. Sie kann es sich leisten, Forschungsaufträge zu verteilen, die zweistellige Millionenbeträge wert sind; ihr Gesamtbudget für das Fiskaljahr 2016 beträgt geschätzte 2,93 Milliarden Dollar.
Mit so viel Geld lassen sich eine Menge Ideen kaufen, gute, wie weniger gute. Man darf gespannt sein. Als die DARPA sich ab Mitte der 1960er Jahre Gedanken über ein resilientes Computernetzwerk zu machen begann, kam das Internet dabei heraus. Vielleicht stehen am Ende des BRASS-Projekts ja Betriebssysteme, die nicht alle paar Monate von ihren Nutzern upgedatet werden müssen, um danach viel zu oft im Chaos zu landen. Das wär ja dann immerhin mal was.