KI-Einstellungs-Monokultur verstärkt rassistische Vorurteile

width="7453" height="4192" sizes="auto, (max-width: 7453px) 100vw, 7453px">Forscher warnen: Sortiert KI standardgemäß schwarze und asiatische Bewerber aus, bleiben Innovation und Vielfalt auf der Strecke.Dean Drobot – shutterstock.com



Forscher der Stanford University fanden bei der Analyse von vier  Millionen Bewerbungen, die bei 156 Arbeitgebern eingereicht wurden, erhebliche Unterschiede bei den Einladungen zu Vorstellungsgesprächen.



Die Situation wird durch eine „Monokultur“ bei KI-Rekrutierungssoftware verschärft: Laut der Studie nutzen inzwischen mehr als 90 Prozent der US-Arbeitgeber Software zur Vorauswahl von Bewerbern. Zudem verwenden 60 Prozent der Fortune-500-Unternehmen dasselbe System, HireVue.



Höhere Ablehnungsquoten für Schwarze und Asiaten



Bewerber, die sich bei mehreren Unternehmen bewarben, die dieselbe KI-gestützte Auswahlsoftware einsetzen, erhielten häufiger Absagen, als statistisch zu erwarten wäre, wenn die Auswahlverfahren der einzelnen Unternehmen unabhängig voneinander abliefen.



Die Forscher berechneten, dass insbesondere schwarze und asiatische Bewerber deutlich häufiger abgelehnt wurden, als es die Vergleichswerte vermuten lassen würden.



Laut der Untersuchung hätten 29.000 zusätzliche asiatische Bewerber eine Einladung zu einem Vorstellungsgespräch erhalten, wenn keine KI-gestützte Vorauswahl eingesetzt worden wäre.



Kritik an der Intransparenz von KI-Systemen



Die Wissenschaftler äußern erhebliche Bedenken hinsichtlich des Einsatzes solcher Systeme. „KI-gestützte Auswahlwerkzeuge vereinen drei Eigenschaften, die bei Entscheidungen mit weitreichenden Konsequenzen nicht gleichzeitig vorhanden sein sollten: Sie sind weit verbreitet, haben große Auswirkungen und sind für die Öffentlichkeit intransparent“, erklärten die Forscher bei der Vorstellung ihrer Ergebnisse.



Die zunehmende Nutzung derselben KI-Systeme könnte dazu führen, dass Unternehmen künftig immer ähnliche Kandidaten auswählen, warnten sie. Das Ergebnis wäre eine von einer Monokultur geprägte Arbeitswelt, die langfristig weder Innovation noch Vielfalt fördert und sich möglicherweise negativ auf die Wettbewerbsfähigkeit von Unternehmen auswirkt. (mb)