Datenkraken im Büro: EU-KI-Regeln ignorieren Arbeitnehmerschutz
EU regelt KI-Einsatz, lässt aber Arbeitnehmer im Stich. Firmen nutzen KI zur Überwachung. Droht jetzt totale Kontrolle?
Künstliche Intelligenz (KI) erlebt einen Boom in den Betrieben. Die Europäische Union hat erstmals eine Verordnung zur KI verabschiedet, die in den nächsten Monaten umzusetzen ist. Diese wird von Gewerkschaftern kritisiert.
Die Regelung sei ein "guter erster Aufschlag", sagt Dr. Reza Ghaboli-Rashti von der BTQ Kassel, einer gewerkschaftlichen Technologieberatung. Der Vorteil der Neuregelung: Erstmals hat der europäische Gesetzgeber nach Art. 3 Abs. 1 EU KI-VO definiert, was unter KI zu verstehen ist:
[Ein KI-System ist] ein maschinengestütztes System, das für einen in wechselndem Maße autonomen Betrieb ausgelegt ist, das nach seiner Einführung anpassungsfähig sein kann und das aus seinen Eingaben für explizite oder implizite Ziele ableitet, wie Ergebnisse, wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen hervorgebracht werden, die physische oder virtuelle Umgebungen beeinflussen können.
Die Kritik von BTQ ist aber deutlich: "Was allerdings fehlt, ist der Beschäftigtendatenschutz", so Ghaboli-Rashti. Es bestehen "große Lücken": Nur drei von insgesamt 180 Erwägungsgründen in der EU-Verordnung zu KI beziehen sich auf das Thema Beschäftigung. Dabei verändert KI die Arbeitswelt.
Zahlreiche Beispiele für KI-Nutzung in den Betrieben
Die KI-Integration in den Kundenservice revolutioniere die Art und Weise, wie Unternehmen mit ihren Kunden interagieren, so Thomas Schneider, Geschäftsführer der Inovoo. Dies wirkt sich auf die Arbeit der Kundenberater aus. Schneider sieht KI-Systeme in der Lage, Kundenanfragen schnell zu analysieren und zu kategorisieren.
Durch natürliche Sprachverarbeitung (NLP) können sie den Kontext und die Dringlichkeit der Anfragen erkennen und diese an die richtigen Abteilungen oder Mitarbeiter weiterleiten. Beispiel: Eine Beschwerde über ein fehlerhaftes Produkt wird sofort an das Support-Team weitergeleitet, während eine Frage zu einer Rechnung direkt zur Finanzabteilung geht.
Thomas Schneider
KI-Analysen liefern wertvolle Erkenntnisse zur kontinuierlichen Verbesserung des Kundenservice, so Unternehmensberater Schneider:
Unternehmen können diese Daten nutzen, um Trends zu erkennen, die Effizienz zu steigern und die Kundenzufriedenheit zu erhöhen.
Wie weit die Technik bereits heute die Arbeitsbedingungen bestimmt, zeigt sich beim online-vertriebenen Lieferservice. Aufträge der "Essensausfahrer" werden über digitale Plattformen vermittelt, ohne dass ein Mensch an der Auftragsvergabe beteiligt ist.
"Alles wird aufgezeichnet: Welche Strecken die Fahrer genommen, wie lange sie pausiert haben und wie sie von der Kundschaft bewertet wurden", erläutert der gewerkschaftliche Experte. KI und Algorithmus steuern, wer den nächsten Auftrag erhält. Ohne Begründung, denn die Beschäftigten stellen lediglich fest, dass die Auftragsvergabe "offensichtlich aufgrund einer Leistungs- und Verhaltensbewertung geschieht".
Regelungen zum Schutz der Beschäftigten – nicht durch die EU
Regelungsbedarf zum Schutz der Beschäftigten gäbe es also ausreichend. KI-Anwendungen werden wegen ihres hohen Datenbedarfs und der Undurchsichtigkeit ihrer Analyse kritisiert. In digitalisierten Betrieben ist die vollständige Vernetzung aller die zentrale Strategie.
Aktivitäten der Beschäftigten sind in das planmäßige Geschehen informationstechnologisch fest eingebunden. Abweichung fällt zwangsläufig auf. Auch macht die Technik möglich, Standorte nach verschiedenen Vorgaben zu vergleichen, um dann zu entscheiden, weniger in einen umsatzschwachen Standort zu investieren.
Denn die Daten erlauben es Unternehmen, jeden Prozess zu analysieren. Dabei geht um größtmögliche Kontrolle. Unternehmen nutzen Personalmanagementsysteme zur technischen Unterstützung bei strategischen Personalentscheidungen. Wer bringt geringere Leistung und wird als "Low Performer" gekennzeichnet? Ziel dieser Systeme ist Effizienzsteigerung und die damit verbundene Gewinnmaximierung: Wie entwickeln sich die Personalkosten? Und wie lassen sie sich senken?
Der Traum des Personalmanagements scheint mit diesen Systemen Wirklichkeit zu werden:
Je präziser das Individuum durchleuchtet wird, desto besser die Chance, dass das perfekte Arbeitsverhältnis entsteht.
Edgar Rose, Carl von Ossietzky Universität
EU-KI-Verordnung definiert KI, aber nicht Beschäftigtendatenschutz
Die EU-KI-Verordnung gilt für alle Unternehmen mit Sitz in der EU – und zwar nach dem Marktortprinzip gemäß Art. 2 EU KI-VO auch unabhängig vom Standort des Betreibers, solange der Einsatz des KI-Systems für Nutzer in der EU erfolgt. Sie gilt sowohl für Entwickler oder Anbieter von KI-Systemen als auch für deren Anwender im Betrieb.
Die EU hat KI-Systeme in unterschiedliche Risikogruppen unterteilt. Zu Hochrisiko-KI-Systemen gehören Recruiting-Programme, die Bewerbungen sichten, Bewerber bewerten oder Aufgaben automatisiert zuweisen. "Wohlgemerkt, diese Hochrisiko-KI-Systeme sind nicht verboten, aber die Anbieter müssen eine sogenannte Konformitätserklärung abgeben", also zusichern, dass sie sich an die geltenden EU-Vorgaben halten, betont der BTQ-Berater.
Wichtig werde bei Anwendung der EU-Verordnung, dass bei Hochrisiko-KI-Systemen Hersteller substanziellere Informationen liefern: "Mit welchen Daten wurde das KI-System trainiert? Können aufgrund der Informationen über diese Datenquellen Diskriminierungen ausgeschlossen werden?", sind dabei bestimmende Fragen, beschreibt Ghaboli-Rashti.
Wichtig wäre allerdings, dass der Gesetzgeber konkretisiert, zu welchen Zwecken Beschäftigtendaten im Beschäftigungsverhältnis verwendet werden dürfen.
Reza Ghaboli-Rashti
Ein spezifisches Beschäftigtendatenschutzgesetz, wie ihn die Gewerkschaften seit Langem fordern, fehlt bisher.