Anzeige

Sexistische Algorithmen: Amazons Künstliche Intelligenz zur Bewerber-Auswahl benachteiligte systematisch Frauen

Ein Algorithmus von Amazon soll weibliche Bewerber systematisch benachteiligt haben

Der E-Commerce-Riese Amazon wollte eigentlich ein System entwickeln, um unter Bewerbern mit Hilfe Künstlicher Intelligenz automatisch die besten zu finden. Der Algorithmus hatte aber einen großen Nachteil: Er benachteiligte Frauen systematisch, wie die Nachrichtenagentur Reuters aktuell berichtete. Das System brachte sich das Fehlverhalten dabei selbst bei.

Anzeige

„Jeder wollte den Heiligen Gral“, sagte eine mit dem Projekt vertraute Person von Amazon gegenüber Reuters. Die Nachrichtenagentur hat mit fünf anonymen Mitarbeitern über ein Recruiting-Tool von Amazon gesprochen, das den Bewerbungsprozess automatisieren sollte. Es war ein System in Entwicklung, das aus 100 Bewerbungen automatisch die fünf besten aussucht und damit die Auswahl neuer Mitarbeiter erheblich vereinfachen Sollte. Ein Team habe seit 2014 einen Algorithmus entwickelt, der die besten Talente für das US-Unternehmen ermitteln sollte. Ein gewaltiges Problem offenbarte sich dann 2015. Denn die automatische Bewerberprüfung arbeitete nicht geschlechtsneutral, sondern benachteiligte systematisch Frauen.

Traum vom automatisierten Bewerbungsprozess

Der Grund für das sexistische Verhalten: Amazon nutzte größtenteils Bewerbungen der vergangenen zehn Jahre als Lernmaterial für das System. Diese stammten überwiegend von Männern, so dass sich der Algorithmus das Fehlverhalten selbst antrainierte. Männliche Bewerber wurden in der Skala von eins bis fünf Sterne grundsätzlich besser eingestuft, weil die Eigenschaft „männlich“ hoch bewertet wurde. Der Algorithmus schlussfolgerte also: Bewerbungen von Frauen bzw. mit einem weiblichen Bezug sind schlechter einzuordnen. Die Entwickler änderten das Verhalten des Systems zwar dahingehend, dass das Wort „Frau“ neutral betrachtet wurde, allerdings half dies nicht wie gewünscht.
Das Unternehmen aus Seattle hat das Projekt Anfang 2017 gestoppt, weil es laut Aussagen der ehemaligen Mitarbeiter die Hoffnung daran verloren habe. Amazon Recruiter hätten zwar sehr wohl auf die Empfehlungen des Algorithmus geschaut, sich aber nie ausschließlich auf dessen Ranglisten verlassen. Auf Anfrage von Reuters wollte der US-Konzern die Probleme nicht kommentieren, betonte aber, dass das Tool nicht zur Bewertung von Bewerbern genutzt worden sei. Gleichwohl habe Amazon nicht bestritten, dass Recruiter die Empfehlungen angeschaut hätten, wie die Nachrichtenagentur berichtete.
Dass die Tech-Branche männerdominiert ist, zeigt eine Grafik von Statista. Danach sind Frauen in dem Bereich in den USA weiterhin unterrepräsentiert. Bei Amazon beträgt ihr Anteil 40 Prozent in der US-Belegschaft. Bei den Führungskräften machen Frauen ein Viertel aus, für Tech-Jobs gibt es keine Angaben. Ähnliche Verhältnisse sind bei anderen Großkonzernen wie Netflix, Facebook und Apple zu erkennen.
tb

Anzeige