Amazon verwirft KI-Tool zum Rating von Bewerbern, die KI benachteiligte weibliche Bewerber

Wie bei jedem erfolgreichen Unternehmen trudeln auch bei Amazon ungeheure Mengen an Bewerbungen ein. Daher gibt es schon seit langem das Bestreben zumindest den Prozess der Vorauswahl zu automatisieren und so die Personalabteilung zu entlasten.

Ein Programmierteam bei Amazon hat daher seit 2014 ein KI-Tool im Programm, welches sich durch Maschinenlernen die Kriterien für „gute“ Bewerber selbst aneignet und die künftigen Kandidaten nach Eignung ratet. Die Kriterien ergeben sich u.a. aus den positiv verlaufenden Einstellungen der Vergangenheit. Das Problem dabei: Da Amazon in den letzten 10 Jahren deutlich mehr männliche als weibliche Bewerber einstellte, schließlich ist gerade die IT-Branche noch immer stark männlich dominiert, hat die Künstliche Intelligenz „gelernt“, dass die Eigenschaft „weiblich“ eher negativ für eine Einstellung sei.

Und so hat sich das Tool selbst beigebracht, dass männliche Kandidaten zu bevorzugen seien. Ein weiteres Problem ist, dass derartige Lernprozesse einer KI nicht immer offensichtlich sind. Das unerwünschte Folgen des Lernprozesses auf Grund von bestimmtem „Lernmaterial“ auftreten, wird teils erst spät erkannt. Natürlich haben die Programmierer versucht das Tool anzupassen und abzuändern. Dennoch konnte man sich nicht sicher sein, dass die KI nicht weitere, bisher unentdeckte Vorurteile „gelernt“ hatte. Letzten Endes zeigte sich das Unternehmen enttäuscht über das Ergebnis und stampfte das Projekt vorerst ein, das Team wurde aufgelöst.

Quelle(n)