Bits und Bias: Warum KI-gesteuerte Kredite Frauen teuer zu stehen kommen
(Bild: Zivica Kerkez / Shutterstock.com )
KI-Systeme bei der Kreditvergabe benachteiligen Frauen. Studie zeigt: Frauen zahlen deutlich mehr für Autokredite. Doch warum greift KI auf alte Vorurteile zurück?
Viele Banken setzen künstliche Intelligenz (KI) bei der Kreditvergabe ein. Einige nutzen KI nur, um die Bearbeitungszeit von Anträgen zu verkürzen, indem sie Dokumente schneller erfassen. Andere lassen sie auch entscheiden, ob ein Kredit bewilligt oder abgelehnt wird.
KI-Einsatz benachteiligt Frauen bei Autokrediten
Dahinter steht die Vorstellung, dass KI-Algorithmen große Datenmengen schnell analysieren und genauere Einschätzungen der Kreditwürdigkeit liefern können. Sie können aber auch dazu führen, dass Frauen systematisch diskriminiert werden, wie Forscher der britischen Universität Bath herausgefunden haben.
Die Wissenschaftler untersuchten Kreditentscheidungen in kanadischen Autohäusern. Dabei zeigte sich, dass der Einsatz von KI die Gewinne der Kreditgeber deutlich steigerte. Auch Vorurteile gegen Kundengruppen, die in der Gesellschaft traditionell ausgegrenzt werden, wurden dadurch nicht verstärkt. Eine "krasse Ausnahme" bildeten Frauen.
Christopher Amaral von der School of Management der Universität Bath erklärte dazu:
Wir haben festgestellt, dass die Kreditgeber ihre Gewinne steigern konnten, indem sie maschinelle Lerntechniken auf Tausende von Autokrediten anwandten. Dieser Gewinn hat jedoch auch eine erhebliche Kehrseite: KI kann dazu führen, dass Autokredite für Frauen unverhältnismäßig ungünstiger ausfallen, was die soziale Ungerechtigkeit im System verschärft.
Historische Benachteiligung von Frauen setzt sich in KI-Systemen fort
Die Studie ergab, dass Kreditgeber durch den Einsatz von KI zur Optimierung der Verkaufsprovisionen ihre jährlichen Gewinne um bis zu acht Prozent steigern können. Dies geht jedoch zulasten der Kunden, insbesondere der Frauen. Der erwartete Nutzen von Krediten sank insgesamt um 20 Prozent, bei Frauen sogar um 42 Prozent.
Frauen wurden schon früher anders behandelt als Männer. Amaral weist darauf hin, dass die Voreingenommenheit gegenüber Frauen in diesem Sektor gut dokumentiert ist. Verkäufer würden für Frauen schlechtere Kreditbedingungen aushandeln als für Männer.
Lesen Sie auch
Warum das so ist, wurde bisher wenig untersucht. Eine Studie lege jedoch nahe, so Amaral, dass Verkäufer davon ausgehen, dass Frauen weniger in der Lage seien, Kreditbedingungen richtig einzuschätzen. Dies scheint zum einen daran zu liegen, dass sie weniger über bestimmte Kreditarten Bescheid wissen als Männer, zum anderen aber auch daran, dass Frauen als weniger durchsetzungsfähig gelten.
KI und Kreditvergabe: Lösungsansätze für faire Entscheidungen
KI-Systeme, die mit solchen Daten trainiert werden, reproduzieren diese Kreditentscheidungen. Sie können aber auch Maßnahmen der Aufsichtsbehörden provozieren, um die Diskriminierung von Frauen zu unterbinden. Vor diesem Hintergrund ist es für Unternehmen sinnvoll, ganz auf KI zu verzichten.
Es sei denn, die Algorithmen werden so umprogrammiert, wie es die Forscher getan haben. Dadurch wurden sie zwar nicht mehr benachteiligt. Aber der Gewinn konnte nur noch um vier Prozent gesteigert werden.
"Anstatt den Einsatz von KI einzuschränken, sollten wir Unternehmen ermutigen, sie verantwortungsvoll einzusetzen und sicherzustellen, dass sie sowohl ihren Geschäftszielen als auch der sozialen Gerechtigkeit dient", so Amaral abschließend.