KI-Recruiting: Der Algorithmus, der über dein Schicksal entscheidet
KI im Recruiting: Zwischen Chance und Risiko
(Bild: KI-generiert)
KI im Recruiting entscheidet über Karrieren. Doch wie fair ist das Spiel? Und was hält die KI von einer Gleichstellung der Geschlechter? Über Risiken und Chancen.
Künstliche Intelligenz (KI) schreitet in den Unternehmen voran. Der Gesetzgeber hinkt der Entwicklung hinterher. So haben die neuen KI-Vorschriften der Europäischen Union kaum Auswirkungen auf die Arbeitsverhältnisse.
KI-Regulierung in Europa: Ein Überblick
Beim "AI Act of the European Union for Consumers" gehe es darum, die Technologie für die Menschen, die sie nutzen, sicherer zu machen, erklärt Sandra Wachter, Professorin am Oxford Internet Institute. Vielen Experten geht die EU-Regelung nicht weit genug, schreibt das Handelsblatt.
Die Emotionserkennung durch KI solle durch die EU-Neuregelung komplett aus der Arbeitswelt verbannt werden, erklärt Wachter. Aus ihrer Sicht hätte das Verbot sogar noch verschärft werden müssen, denn Emotionserkennung sei eine Pseudowissenschaft. Emotionen könne man nicht lesen: "Das ist rein wissenschaftlich gar nicht möglich."
Mitbestimmung bei KI-Einführung: Rolle und Empfehlungen des DGB
Der DGB gibt deshalb Empfehlungen für betriebliche Regelungen. "Betriebsräte und Personalräte müssen vor der Einführung der neuen Software umfassend mitbestimmen, um Risiken für Beschäftige zu erkennen und zu entschärfen", warnt der DGB.
KI-Tools analysieren Bewerbungsunterlagen und sortieren Menschen anhand dieser sensiblen Daten aus. "Welche Frau würde es akzeptieren, wenn ein Mann über ihren Lebenslauf urteilt, der Unterbrechungen wegen Kindererziehung enthält?", kritisiert Welf Schröter vom Forum Soziale Technikgestaltung.
Denn in der Regel entwerfen Männer diese Werkzeuge. Und die Daten, mit denen diese Systeme trainiert werden, können einseitig oder verzerrend auf die spätere Arbeitsweise wirken.
Der Schutz der Privatsphäre bei KI-Systemen, die Prognosen ermöglichen, sei besonders wichtig: "Allerdings fehlt es aktuell vor allem an einer rechtlichen Regelung für präventive Mitbestimmung", bemängelt der DGB.
KI-Fehltritte: Lektionen aus dem österreichischen Arbeitsmarktservice
Ein aktuelles Beispiel verdeutlicht die Risiken des Technikeinsatzes. Das österreichische Arbeitsmarktservice wollte Arbeitssuchende mit einem KI-gesteuerten Informationssystem unterstützen. Statt zu einer Erleichterung für die Berater wurde das Projekt zu einer Blamage für die Behörde.
Das Bot-System erfindet Antworten, die im Netz für Spott sorgen. So wird bei der Frage "Was brauche ich als professioneller Nasenbär?" eine Ausbildung in Zoologie empfohlen.
KI orientiert sich aber auch an Geschlechterstereotypen. Auf die Frage nach Berufen für einen Mann mit einem exzellenten Schulabschluss empfiehlt die Künstliche Intelligenz IT-Berufe und den Handel. Auf die gleiche Frage für eine Frau folgt die Empfehlung, Gender Studies oder Philosophie zu studieren.
"Dass solche Sprachmuster massive rassistische und geschlechtsspezifische Vorurteile enthalten, ist ein bekanntes Problem". Schuld daran sind meist die Trainingsdaten, die vor solchen Vorurteilen nur so strotzen, berichtet der gewerkschaftliche Informationsdienst "einblick" des DGB.
Dieses Beispiel macht die Risiken des KI-Einsatzes deutlich – auch wenn die Kosten für das System mit 300.000 Euro nach Angaben des österreichischen Arbeitsmarktservice nicht unerheblich sind.
Führungskräfte und KI: Von Erwartungen und der Realität
Auch Führungskräfte sehen KI skeptisch. Die Unternehmensberatung Deloitte hat im Rahmen des Weltwirtschaftsforums in Davos die Studie "State of AI in the Enterprise: Now decides next" vorgestellt. 2.800 Führungskräfte wurden zu Erwartungen und Entwicklungen rund um das Thema GenAI befragt.
Drei Viertel der befragten Führungskräfte sind überzeugt, dass KI in den nächsten drei Jahren große Veränderungen mit sich bringen wird. Die Mehrheit zeigt sich begeistert von den Geschäftsvorteilen, die sich durch die Technologie ergeben.
Eine strategische Ausrichtung finde derzeit kaum statt, kritisiert Björn Bringmann, Leiter des KI-Instituts bei Deloitte Deutschland:
Die vordringliche Suche der Unternehmenslenkerinnen und -lenker nach taktischen Vorteilen ist durchaus nachvollziehbar. Für die langfristige Wettbewerbsfähigkeit spielen allerdings strategische Bereiche eine Schlüsselrolle und sollten daher stärker als bisher priorisiert werden. Nur so lässt sich auch mittel- und langfristig das immense Potenzial dieser Technologie adäquat heben und nutzen.
Wichtig sei, KI in den Unternehmen "zu verankern, beispielsweise mit einem hausinternen KI-Führerschein, wie ihn bei uns bereits sehr viele Mitarbeitenden absolviert haben", so der Berater.
Eine schwer zu überwindende Hürde sieht auch die Unternehmensberatung. Denn nur ein Viertel der befragten Manager glaubt, dass die Unternehmen auf die mit der Einführung von KI verbundenen Risiken vorbereitet sind.
Investoren und die KI-Entwicklung: Eine Frage angestrebten Gewinns
Weniger Bedenken haben viele Investoren. Ihnen reichen die aktuellen KI-Entwicklungen offenbar nicht aus. Microsoft und Google legten im Februar ihre Quartalszahlen vor.
"Trotz guter Zahlen waren die Anleger enttäuscht", kommentiert das Handelsblatt die Situation der Tech-Konzerne, die das Rennen um die generative KI bislang dominieren. "Offenbar stellen Investoren an der Wall Street inzwischen so hohe Erwartungen an die KI-Entwicklung, dass Rekordumsätze allein nicht ausreichen, um sie bei Laune zu halten".
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Buchempfehlung (Amazon Affiliates) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Amazon Affiliates) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.