KI im Recruiting: Ungleiche Chancen durch algorithmische Verzerrung und neue EU-Regeln

Gleiche Qualifikation, andere Chance – was KI im Recruiting wirklich macht

Eine aktuelle Untersuchung des KI-Anbieters i10x.ai zeigt, dass identische Bewerber je nach Lebenslaufstil unterschiedlich bewertet werden können, mit Abweichungen von bis zu 42 Prozent in der Hire-Rate. Diese Studie analysierte 100 realistische Bewerberprofile aus 12 Branchen, die in vier Varianten eines Lebenslaufs übersetzt wurden, wobei nur Sprache, Struktur und Stil verändert wurden.

Die Ergebnisse verdeutlichen, dass nicht die Qualifikation, sondern die sprachliche Verpackung entscheidend dafür ist, wie ein Kandidat von KI-Systemen eingeordnet wird. Besonders problematisch ist die Schwelle zwischen „Maybe“ und „Hire“, da ein „Maybe“ oft wie eine Absage behandelt wird, was qualifizierte Kandidaten benachteiligt.

„Wir haben nicht getestet, ob KI fair bewertet. Wir haben getestet, ob KI konsistent bewertet. Die Antwort lautet: nein.“ – i10x.ai Research Team

Zusammenfassend zeigt die Studie, dass KI-gestützte Auswahlprozesse sensibel auf sprachliche Muster reagieren und nicht nur auf objektive Qualifikationen basieren. Dies wirft Fragen zur Fairness im Recruiting auf.

Recruiting-KI: EU bestätigt Hochrisiko-Status bis Juni

Die EU-Kommission hat den Hochrisiko-Status von KI in der Personalauswahl bestätigt, was bedeutet, dass Unternehmen bei Nichteinhaltung der neuen Leitlinien mit Strafen rechnen müssen. Diese Leitlinien betreffen nicht nur die Lebenslaufanalyse, sondern auch das Kandidaten-Ranking und videobasierte Assessments.

Compliance-Experten warnen, dass ein bloß menschlicher Entscheider nicht ausreicht, um die Risikoeinstufung herabzusetzen. Die Profilbildung durch die Systeme bleibt entscheidend für die Hochrisiko-Einstufung, was Unternehmen vor neue Herausforderungen stellt.

Zusammenfassend müssen Unternehmen, die KI in der Personalauswahl einsetzen, sich auf strenge neue Regeln einstellen und sicherstellen, dass sie die Compliance-Anforderungen erfüllen, um Strafen zu vermeiden.

Algorithmische Verzerrung: Stanford-Studie belegt Diskriminierung

Eine Studie des Stanford HAI hat ergeben, dass ein marktbeherrschendes KI-Tool 26 Prozent der schwarzen und 15 Prozent der asiatischen Bewerber benachteiligte. Diese Ergebnisse verdeutlichen die Risiken automatisierter Bewerbungsverfahren und die Gefahr einer „algorithmischen Monokultur“.

Die Studie zeigt, dass zehn Prozent der Bewerber, die sich auf vier verschiedene Stellen bewarben, bei allen abgelehnt wurden, weil dieselben KI-Tools zum Einsatz kamen. Dies wirft ernsthafte Fragen zur Fairness und Transparenz in der Rekrutierung auf.

Zusammenfassend ist es entscheidend, dass Unternehmen die Risiken der algorithmischen Verzerrung erkennen und Maßnahmen ergreifen, um Diskriminierung im Rekrutierungsprozess zu vermeiden.

Quellen:

• Gleiche Qualifikation, andere Chance – was KI im Recruiting wirklich macht
• Recruiting-KI: EU bestätigt Hochrisiko-Status bis Juni