Sich verbessern heißt, in meinem Sinne, dass die KI wie beim Schachcomputer im Spielsystem gegen sich selbst spielt, um sich zu optimieren und dabei auf Lösungswege kommt, auf die kein Mensch kommen konnte. Überhaupt scheint viel Simulation das Erfolgsrezept der KI zu sein, z.B. auch in den Simulationen der Klimaveränderung, die die Basis dafür sind, dass wir unsere Gesellschaft vollständig umkempeln.
Dass die KI bei all den Prozessen zu so einer Art Übermensch wird, glaube ich auch nicht. Aber auch jetzt werden wir ja von keinen Übermenschen regiert, sondern von Idioten, die ein gutes Netzwerk besitzen, sich die Posten zuzuschieben.