KI-Boom: Berater profitieren, Beschäftigte unter Druck
![Gläserner Angestellter von Einsen und Nullen durchdrungen](https://heise.cloudimg.io/width/700/q75.png-lossy-75.webp-lossy-75.foil1/_www-heise-de_/imgs/18/4/6/4/9/0/5/6/ac4b76714545e7b8.jpeg)
KI boomt in Unternehmen. Beratungsfirmen profitieren stark davon. Doch was bedeutet der Trend für Arbeitnehmer? Die Antwort könnte beunruhigend sein.
Künstliche Intelligenz (KI) erlebt einen Boom in den Betrieben. Ein großer Gewinner dieser Entwicklung sind Consulting-Firmen. Denn KI-Beratung nimmt einen immer größeren Teil des Geschäftes ein, meldet businessinsider.de: Etwa 900 der 1.000 Top-Beratungskunden arbeiten inzwischen mit Unternehmen zusammen, um KI zu nutzen.
Unternehmensberater sind Gewinner dank KI
Im Jahr 2023 erwirtschaftete McKinsey einen Rekordumsatz von 14,88 Milliarden Euro – als Folge von KI, denn fast 40 Prozent der Arbeit des Consulting-Unternehmens bezieht sich auf dieses Beratungsfeld. Die Boston Consulting Group (BCG) erreicht ein Fünftel ihres Umsatzes mit KI. "Wie kann ich mit KI tatsächlich einen Mehrwert schaffen und unsere Arbeitsweise sinnvoll verändern?", sei die entscheidende Frage, so Allison Bailey, Leiterin des BCG-Bereichs People und Organisation.
Sinnvoller Einsatz hängt auch mit der Fehleranfälligkeit von KI zusammen. Ein häufiger Einwand im betrieblichen Alltag ist, dass die Fehler der Maschine praktisch in einer Art Blackbox passierten, also von außen gar nicht nachzuvollziehen sind.
Für Abhilfe soll "Explainable AI" sorgen. Dahinter steht die Idee, KI solle nicht nur Entscheidungen treffen, sondern auch erklären, wie sie zu ihren Ergebnissen gelangt. Branchenkenner sehen bisherige Entwicklungsmodelle aber noch nicht in dem Stadium, die maschinelle Entscheidung hinreichend transparent zu machen.
EU-Vorgaben zu KI
Im Bereich KI stehen Unternehmen vor erhöhte Dokumentationspflichten. Der Geschäftsführer der Bonner Wirtschaftsakademie (BWA) Harald Müller sieht hier zusätzliche Belastungen auf die Unternehmen zukommen.
Die Europäische Union hat erstmals eine Verordnung zu KI verabschiedet, die auch in der Arbeitswelt bedeutsam sein wird: die EU-KI-Verordnung (EU KI-VO). Grundlage ist ein "risikobasierter Ansatz", der KI-Systeme in vier Kategorien einteilt: verbotene, hochriskante, begrenzte Risiko- und geringe Risiko-Systeme.
Verbotene KI-Systeme sind Systeme, die manipulative, irreführende Techniken anwenden, um das Verhalten von Menschen zu beeinflussen oder deren Schwächen auszunutzen, etwa aufgrund ihres Alters oder ihrer Behinderung. Der Einsatz verbotener KI kann mit einer Geldstrafe von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Umsatzes geahndet werden.
Hochriskante KI-Systeme umfassen unter anderem biometrische Identifikationssysteme, Systeme zur Bewertung von Beschäftigten oder Bewerbern.
Solche Systeme unterliegen strengen Anforderungen gemäß Art. 26 und 27 EU KI-VO. Die EU KI-VO verlangt von Unternehmen, technische und organisatorische Maßnahmen vorzunehmen, die eine Verwendung des Systems nur nach EU-Vorgaben ermöglichen.
Damit ist für jeden KI-Einsatz im Unternehmen herauszufinden und zu dokumentieren, in welche Risikoklasse er fällt. […]
Das gilt nicht nur für die Hersteller von KI-Systemen, also etwa Konzerne wie Open AI, Google oder Microsoft, sondern für jede Firma, die KI im eigenen Betrieb verwendet. Allein dies mag viele Mittelständler abschrecken, die Produktivitätsvorteile der KI überhaupt für sich zu nutzen.
Harald Müller
Druck auf die Beschäftigten steigt
Klagen über Bürokratie schließen jedoch nicht aus, dass Technik zur Kontrolle der Belegschaften genutzt wird. Denn Programme zur digitalen Leistungskontrolle sind auf dem Vormarsch. Zu diesem Schluss kommt ein neues Gutachten zur Kontrolle am Arbeitsplatz, das der Rat für digitale Ökologie und Stefan Brink, ehemaliger Landesdatenschutzbeauftragte von Baden-Württemberg, erarbeitet haben.
Die Analyse der Situation bei mobiler Arbeit und in der Logistik zeigt: KI erweist sich am Arbeitsplatz geradezu als "Überwachungskatalysator".
Übliche Programme wie Microsoft 365 ermöglichen, das gesamte Verhalten von Angestellten aufzuzeichnen und zu analysieren.
An die Stelle persönlicher, stichprobenartiger, offener und erfahrungsbasierter Kontrolle tritt zunehmend eine automatisierte, allumfassende, heimliche und algorithmenbasierte Kontrolle.
Gutachten zur Kontrolle am Arbeitsplatz
"Die Digitalisierung der Arbeitsverhältnisse ist aber nicht nur eine gegebene Tatsache, sie ist immer auch Gestaltungsaufgabe", betonen die Autoren. Sie fordern den Gesetzgeber zum Handeln auf. So müssten Hersteller von betrieblicher Software wie Microsoft, Google oder SAP stärker in die Pflicht genommen und auf "Privacy By Design" verpflichtet werden.
Die Gutachter schlagen ein umfassendes Beschäftigtendatenschutzgesetz vor, das das bestehende Bundesdatenschutzgesetz und EU-Regelungen ergänzt.
Die jetzige Bundesregierung vereinbarte zwar im Koalitionsvertrag, das Thema endlich anzugehen und "Rechtsklarheit für Arbeitgeber sowie Beschäftigte zu erreichen und die Persönlichkeitsrechte effektiv zu schützen". Bis heute gibt es aber keinen Beschluss des Bundeskabinetts dazu.