Nicht unbedingt, der Quellcode könnte open source sein, und jede funktionale Änderung daran könnte als Grundsatzentscheidung gelten und eine demokratische Legitimierung erforderlich machen.
Öffentlicher Quellcode ist schon mal eine gute Sache. Hat sich bei Linux bestens bewährt. Nur sind das jetzt andere Anforderungen.
Wie stellt man sicher, das auch wirklich genau dieser öffentliche Quellcode auch läuft? Programmänderung wäre mit redundanten Systemen auch bei einem Neustart der KI ohne das es jemand merkt möglich.
Bei fortschrittlichen Systemen wie Linux sind sogar pheriphere Programmänderungen idR ohne Neustart möglich - da braucht man nicht mal Redundanzen (es sei denn der Kernel wird geändert).