Auswahl von Job-Bewerbern: Forscher bemängeln Ungerechtigkeiten in KI-Software

KI-Programme zur Bewerberauswahl verhindern weder Vorurteile gegenüber bestimmten Personengruppen noch sorgen sie für mehr Vielfalt unter den Mitarbeitern. So fassen Wissenschaftler der britischen Cambridge University ihre Erkenntnisse aus einer Studie zur KI-gestützten Analyse von Bewerbervideos zusammen. Die Forscher veröffentlichten dazu einen Beitrag in der Zeitschrift "Philosophy and Technology".

Viele Unternehmen überlassen das Vorsortieren von Bewerbungen einer KI, damit sich die Recruiter auf die vielversprechendsten Kandidaten konzentrieren können. Keine gute Idee, sagen die Forscher aus Cambridge.

Keine wissenschaftliche Grundlage

Software dieser Art zu verwenden, um Vorurteile zu reduzieren, sei kontraproduktiv, erklärte die Postdoktorandin Dr. Kerry Mackereth vom Centre for Gender Studies der Universität Cambridge gegenüber BBC News. "Diese Tools können nicht darauf trainiert werden, nur berufsbezogene Merkmale zu identifizieren und Geschlecht und Rasse aus dem Einstellungsprozess herauszufiltern, denn die Arten von Attributen, die wir für wesentlich halten, um ein guter Mitarbeiter zu sein, sind von Natur aus mit Geschlecht und Rasse verbunden."

Insbesondere die Video- und Bildanalysetechnik bei der Bewerberauswahl habe keine wissenschaftliche Grundlage, ergänzte Dr. Eleanor Drage, die Co-Autorin der Studie, gegenüber der BBC. Die Idee solcher Programme sei es, die Persönlichkeit eines Bewerbers anhand des Gesichts zu erkennen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Umfragen immer laden Umfrage jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Beeinflusst durch irrelevante Faktoren

Mit Unterstützung von sechs Informatik-Studenten bauten die Forscher ein eigenes Mini-Rekrutierungstool, um KI-gestützt fünf Persönlichkeitsmerkmale anhand von Fotos zu bewerten. Dabei ging es wie in der Persönlichkeitspsychologie üblich um die sogenannten "Big Five": Aufgeschlossenheit, Gewissenhaftigkeit, Extraversion (Geselligkeit), Verträglichkeit und Neurotizismus; diese letzte Eigenschaft bezeichnet die emotionale Labilität und Verletzlichkeit eines Bewerbers. Ihre "Personality Machine" ähnelt laut den Wissenschaftlern kommerziellen Systemen, wie sie in der Industrie zum Einsatz kommen. Sie lässt sich im Web mit eigenen Fotos ausprobieren.

Die Forscher fanden heraus, dass die Vorhersagen ihres KI-Modells über die Eignung eines vermeintlichen Bewerbers durch allerlei irrelevanten Faktoren stark beeinflusst wurde, darunter Kleidung, Beleuchtung und Hintergrund. Ein ähnliches Experiment des Bayerischen Rundfunks kam zu vergleichbaren Ergebnissen.

(dwi)