Künstliche Intelligenz: Wird die EU zum Innovationskiller?

EU führt strenge Regeln für künstliche Intelligenz ein. Erstmals werden KI-Systeme in Risikogruppen eingeteilt. Doch das könnte zum Bremsklotz für Europas Tech-Branche werden.

Die EU-KI-Verordnung gilt für alle Unternehmen in der EU – und zwar nach dem Marktortsprinzip gemäß Art. 2 EU KI-VO auch unabhängig vom Standort des Betreibers, solange der Einsatz des KI-Systems für Nutzer in der EU erfolgt.

Sie gilt sowohl für Anbieter von KI-Systemen als auch für deren Anwender im Betrieb und hat deshalb auch für Arbeitsplätze eine große Bedeutung. Im Bereich KI stehen Unternehmen vor erhöhten Dokumentationspflichten. Denn mit der Verordnung werden KI-Systeme in unterschiedliche Risikogruppen unterteilt.

"KI-Systeme mit einem unannehmbaren Risiko" werden verboten. Als diese Systeme gelten Systeme, die manipulative, irreführende Techniken anwenden, um das Verhalten von Menschen zu beeinflussen oder deren Schwächen auszunutzen, etwa aufgrund ihres Alters oder ihrer Behinderung.

Dies verbietet "soziales Scoring", also die Klassifizierung von Menschen durch persönliche Merkmale per KI. "Auch biometrische Identifizierung und Kategorisierung natürlicher Personen sowie biometrische Echtzeit-Fernidentifizierungssysteme wie zum Beispiel Gesichtserkennung sind unzulässig. Nur zur Strafverfolgung sind sie möglicherweise zulässig", meldet haufe.de.

"Begrenzte Risiko-Systeme" betreffen KI-Systeme, die in begrenztem Umfang reguliert werden, hauptsächlich in Bezug auf Transparenzanforderungen. Ein Beispiel sind Chatbots, die klar als solche gekennzeichnet sein müssen.

Hochriskante KI-Systeme umfassen unter anderem biometrische Identifikationssysteme, Systeme zur Bewertung von Arbeitnehmern oder Bewerbern. Solche Systeme unterliegen strengen Anforderungen gemäß Art. 26 und 27 EU KI-VO. Die EU-KI-VO verlangt die Implementierung geeigneter technischer und organisatorischer Maßnahmen, die eine Verwendung des Systems nach den Anweisungen des Herstellers sicherstellen, sowie eine menschliche Beaufsichtigung.

Herausforderungen in der Arbeitswelt

Gerade in der Arbeitswelt liegen die Risiken auf der Hand. KI verspricht, "Entscheidungen objektiver und effizienter zu gestalten", erläutert Philipp B. Donath in der neuen Ausgabe der Fachzeitschrift Arbeitsrecht im Betrieb 1/2025. Dabei darf nicht übersehen werden, dass die Technik Vorurteile haben kann. Donath, der Professor an der University of Labour in Frankfurt am Main ist, führt weiter aus:

Die Risiken solcher KI-Programme liegen vor allem in sogenannten Biases (»Befangenheiten»). Das sind Vorurteile, die auf den zugrunde liegenden Daten und Algorithmen basieren. Sie können dazu führen, dass bestimmte Personen oder Gruppen benachteiligt werden.

So können Bewerber aufgrund von Geschlecht, Alter oder Behinderung systematisch aussortiert werden, wenn die Daten, mit denen die KI trainiert wurde, diese Personen als "weniger geeignet" klassifiziert zeigen. Algorithmen setzen bereits bestehende Ungleichheiten fort, da sie auf Mustern aus der Vergangenheit basieren, verdeutlicht der Wissenschaftler.

Nach Art. 6 EU KI-VO zählen KI-Systeme zur Bewerberauswahl und zum Personalmanagement als Hochrisikosysteme. Es dürfen nur solche Eingabedaten verwendet werden, die für den Anwendungsfall relevant und hinreichend repräsentativ sind. Das System muss überwacht werden, schwerwiegende Vorfälle müssen an Hersteller, Händler und Behörden gemeldet werden.

Zu Hochrisiko-KI-Systemen gehören Recruiting-Programme, die Bewerbungen sichten, Bewerber bewerten oder Aufgaben automatisiert zuweisen. Selbst diese Hochrisiko-KI-Systeme sind aber nicht verboten; die Verordnung soll Anbieter zur Transparenz zwingen, indem sie eine sogenannte Konformitätserklärung abgeben – sie sollen so zusichern, dass sie sich an die geltenden EU-Vorgaben halten.

Qualifizierung zu KI-Wissen erforderlich

Eine Untersuchung des Personaldienstleisters Randstad zeigt, dass sich viele Beschäftigte unzureichend auf die KI-Nutzung im Betrieb vorbereitet fühlen. Nur wenige Betriebe haben bisher KI-Wissen in die Personalentwicklung integriert.

Das muss sich jetzt ändern, denn zum 1. Februar 2025 tritt Artikel 4 der EU-KI-VO in Kraft. Dieser verpflichtet Unternehmen zur Qualifizierung:

"Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kenntnisse verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Weiterbildung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, berücksichtigt werden.

Praxistest der EU-KI-VO

Als Durchbruch lobte die Präsidentin der Europäischen Kommission, Ursula von der Leyen, die Einigung zur KI-VO: "Das KI-Gesetz der EU ist der weltweit erste umfassende Rechtsrahmen für KI. Dies ist ein historischer Moment".

Die Praxistauglichkeit muss sich jetzt zeigen. Dass Handlungsbedarf besteht, zeigen auch wissenschaftliche Untersuchungen. Die Hochschule Bielefeld führte die Studie "Fit für KI?" durch, die sich mit der Ausgrenzung von Frauen durch KI-Systeme befasste. Die Ergebnisse zeigten, dass KI-Anwendungen häufig geschlechtsspezifische Verzerrungen aufweisen, was die Akzeptanz und Einsatzfähigkeit der Technologie beeinträchtigt.

Es muss sich jetzt zeigen, ob die EU-Verordnung daran etwas ändert.