Seite 2: Die Verantwortung für KI und Haftung für Schäden

Der Entwurf der KI-Verordnung definiert ein Rollenmodell für Akteure im Umgang mit KI. Ein Rollenmodell zu definieren ist zweifellos sinnvoll. Die Rollen des "Provider", der eine KI liefert, und des "User", der die KI einsetzt, wären klar nachvollziehbar. So ein einfaches Rollenmodell ist auch Bestandteil des Black-Box-Ansatzes für die Regulierung von KI.

Im Entwurf der KI-Verordnung sind jedoch insgesamt neun Rollen definiert, wozu Aufsichtsbehörden in diversen Funktionen noch hinzukommen. In so einem weit verzweigten Rollenmodell lassen sich Verantwortlichkeiten nicht eindeutig und klar zuordnen. Im Gegenteil, einem Akteur stehen in einem spezifischen Haftungsfall drei Wege offen, um jeder Verantwortung auszuweichen.

1. Ein Akteur kann in eine Rolle wechseln, die im spezifischen Fall gerade nicht verantwortlich ist. Die Grenzen zwischen "Importer", "Provider", "Operator", "User" und deren repräsentativen Vertretungen sind fließend.
2. Ein Akteur kann im spezifischen Fall die Verantwortung zu einer Rolle schieben, die er nicht selbst einnimmt. Die Weitergabe von Verantwortung wird noch begünstigt durch einen Zirkelschluss im Entwurf der KI-Verordnung, wo der "Provider" verantwortlich ist für den Einsatzzweck der KI. So kann auch der "User" die Verantwortung für den Einsatz der KI abwälzen.
3. Ein Akteur macht sich haftungsfrei durch den Nachweis, dass das spezifische System unter seiner Verantwortung gar keine KI ist. Beispielsweise könnte das System nur Algorithmen oder Zufallskomponenten enthalten; oder es ist ein "dummes" System, das erst durch die Hand anderer Akteure in einem spezifischen Fall tatsächlich intelligent wurde. Dieser Weg steht insbesondere allen Akteuren offen, die KI nur als Aufkleber für ihr Marketing einsetzen.

Artikel 7 Nummer 2 c) "... the extent to which the use of an AI system has already caused harm to the health and safety ..." zeigt, dass der Entwurf der KI-Verordnung eine Kernaufgabe nicht erfüllt, nämlich durch praktisch wirksame Regulierung den Schaden an Leib und Leben durch Pseudo-KI und durch echte KI zu verhindern. Stattdessen agiert der Entwurf der KI-Verordnung auf Details der Lieferketten von KI, wo von außen betrachtet die Verantwortlichkeiten in der Praxis verschwimmen.

Wem nutzt der Entwurf einer KI-Verordnung?

Die EC sollte ihr eigenes Bauchgefühl ernst nehmen, dass eine KI-spezifische Regulierung fehl am Platz ist. Die offiziell genannten Intentionen13 hinter der KI-Verordnung sind weitgehend durch allgemeine, d.h. nicht KI-spezifische Gesetze, zu erfüllen. Die geltenden Gesetze sind zu verbessern, um die durch neue Praktiken offengelegten Lücken und Mängel abzudecken.

Mit einer phänomenologischen Herangehensweise, dem sogenannten Black-Box-Ansatz, ist eine schlanke, nachvollziehbare, zukunftsfeste Regulierung von KI möglich, wobei Verantwortlichkeiten klar zugeordnet werden. Dieser Ansatz ist zudem voll kompatibel mit der Weiterentwicklung der geltenden, nicht-KI-spezifischen Gesetze.

Schlank bedeutet insbesondere, dass nur relativ wenige zusätzliche Regelungen in Kraft zu setzen sind. Langwierige Expertendiskussionen um die Definition von KI und Einzelfallbewertungen in Millionen Fällen sind für Black Boxes jedenfalls nicht notwendig. Hiermit wurde auf konstruktive Weise gezeigt, dass wirksame Regulierung von KI nur einen relativ simplen gesetzlichen Rahmen braucht.

Im Gegensatz dazu öffnet der Entwurf der KI-Verordnung einen großen, zusätzlichen Rahmen für die Interessenvertretung durch Akteure, die sich Vollzeit-Lobbyisten leisten können. Der Entwurf der KI-Verordnung ist bereits in einem solchen Maße ausufernd und so kompliziert, dass nur noch vollzeitbeschäftige Spezialisten den Überblick haben können.

Auf den über 100 Seiten kompliziertem Text sind Ostereier, Schlupflöcher und Persilscheine relativ einfach zu verstecken. Diese in den kommenden Lesungen des Gesetzestextes zu finden, wird einen enormen Crowd-Aufwand der Bürger erfordern. Dazu kommen weitere Texte für die praktische Umsetzung der Verordnung in nationalen Gesetzen und Beschlüssen.

In einem spezifischen Haftungsfall auf Basis der KI-Verordnung wird eine langwierige gerichtliche Auseinandersetzung zu erwarten sein. Hierbei ist im Vorteil, wer ein Heer von Anwälten und Gutachtern einsetzen kann. Am besten gestellt sind im Entwurf der KI-Verordnung jene Personen und Unternehmen, die außerhalb der EU sitzen.

Insgesamt ist der Entwurf der KI-Verordnung ein Beispiel für Gesetzgebung, die dem Bürger wenig nützt, kleine Unternehmen erdrückt, zusätzliche Schichten von Behördenaktivitäten ins Leben ruft und internationale Konzerne fördert.