Ich weiß zwar nichts Genaueres und bin auch nicht Fachleute für KI (also das Folgende bitte auch mit einem kräftigen Schluck aus der Flasche Dunning-Kruger genießen), aber ich kenne das Phänomen einer akustischen Rückkopplung, die auch einen meist unerwünschten, oft unschönen und nervigen Ton erzeugen kann, der nicht wirklich präsent ist. Ich kenne das vergleichbare Phänomen einer Videokamera, die man auf einen Röhrenmonitor hält und mit ihrer eigenen Aufnahme füttert, was sehr schnell Strukturen hervorbringt, in denen man das ursprüngliche Bild gar nicht mehr wiederfinden kann.
Nur, dass bei einer Tonaufnahme das Gesamtsystem so einfach ist, dass wir es noch leidlich verstehen, so dass wir mit einem gut positionierten Richtmikrofon Abhilfe schaffen können. Und sogar das mit der Kamera auf dem Bildschirm ist noch so überschaubar, dass man es zumindest mit einem Computer simulieren könnte: Es ist Rotation, Vergrößerung, nichtlineare Farbabbildung, Stroboskopeffekte durch Signallaufzeit und Bildwechselfrequenz. Schon ein etwas komplexeres System, aber nichts, was man nicht grundsätzlich mit guter, alter Rechenarbeit erledigen könnte. (Nein, ich setze hier jetzt kein DGS dafür an!)
Von dem, was in einem simulierten neuronalen Netzwerk vor sich geht, verstehen auch richtige Fachleute selbst unter Hilfsmittelanwendung so gut wie gar nichts. Sie wissen nicht, warum es funktioniert; sie wissen nicht, warum es manchmal nicht funktioniert; sie können es nur oberflächlich und ohne tieferes Verständnis analysieren; sie können nur erraten, was während des Anlernens wirklich erlernt wurde; sie können Fehler nicht beheben; sie können die Funktion nicht verbessern; sie können die Funktion nicht erweitern und sie bekommen zu allem Überfluss nicht den geringsten Einblick in die Struktur der damit »gelösten« Probleme. Für mich klingt das alles nach einer intellektuellen Bankrotterklärung und einer Sackgasse der Informatik. Für Politiker, Journalisten und andere Nixblicker klingt es hingegen eher wie das Paradies aus Star Trek.
Die Erfolge dieser frechen Heuristik bei notorisch schwierigen Problemen mit Mustererkennung bestreite ich gar nicht. Es gibt Anwendungen dafür. Aber das mit der Intelligenz, das sollten wir besser selbst machen…