Wie KI bei der Kandidatenauswahl behinderte Menschen diskriminiert

Inhaltsverzeichnis

Ob eine Bewerbung erfolgreich ist, könnte demnächst vom Abschneiden der Kandidaten bei Computerspielen abhängen, die von einer Künstlichen Intelligenz (KI) gesteuert werden. Immer mehr Unternehmen, darunter etwa der Pharmariese AstraZeneca oder das Logistik-Start-up Postmates, setzen bei Einstellungsverfahren auf solche Werkzeuge.

Den Herstellern wie Pymetrics und Arctic Shores zufolge sollen die Spiele eigentlich eine menschliche Voreingenommenheit bei Einstellungen begrenzen. Allerdings können KI-Einstellungsspiele für Arbeitssuchende mit Behinderungen besonders schwierig zu handhaben sein.

MIT Technology Review hat deshalb Henry Claypool, einen Analysten für Behindertenpolitik, gebeten, eines der Pymetrics-Spiele zu spielen. Pymetrics misst neun Fähigkeiten wie Aufmerksamkeit, Teamfähigkeit und Risikotoleranz, die laut Geschäftsführerin und Mitbegründerin Frida Polli mit dem beruflichen Erfolg zusammenhängen.

Wenn Pymetrics mit einem Unternehmen zusammenarbeitet, das neue Mitarbeiter einstellen möchte, bittet es den Klienten zunächst darum, bereits erfolgreich in der zu besetzenden Position arbeitende Angestellte die Spiele spielen lassen. Anschließend vergleicht Pymetrics die Spieledaten mit denen aus einer Zufallsstichprobe von Spielern, um jene Fähigkeiten zu ermitteln, die besonders erfolgreiche Mitspieler (also Mitarbeiter) aufweisen.

Angepasste Version sorgt für Ängste

Als Claypool sich anmeldete, forderte ihn das Spiel auf, zwischen einer modifizierten Version – die für Menschen mit Farbenblindheit, ADHS oder Legasthenie konzipiert war – und einer nicht modifizierten Version zu wählen. Diese Frage stellt ein Dilemma für Bewerber mit Behinderungen dar, sagt er. "Die Befürchtung ist, dass ich etwas preisgebe, das mich für die Stelle disqualifiziert, wenn ich diese Version anklicke. Und wenn ich es nicht anklicke – sagen wir Legasthenie oder was auch immer es ist, das es mir erschwert, Buchstaben zu lesen und die Informationen schnell zu verarbeiten – dann bin ich im Nachteil", sagt Claypool. "Ich werde so oder so scheitern."

Pymetrics-Geschäftsführerin Polli betont, dass Pymetrics den Arbeitgebern nicht mitteilt, welche Bewerber um spielinterne Anpassungen gebeten haben, damit Arbeitgeber Menschen mit bestimmten Behinderungen nicht diskriminieren. Sie fügt hinzu, dass das Unternehmen als Reaktion auf die Berichterstattung diese Informationen deutlicher machen wird, damit die Bewerber wissen, dass ihr Wunsch nach einer spielinternen Anpassung privat und vertraulich ist.

Nach dem US-Behindertenschutz-Gesetz (Americans with Disabilities Act) sind Arbeitgeber verpflichtet, Menschen mit Behinderungen angemessene Erleichterungen anzubieten. Schließt ein Bewertungswerkzeug Menschen mit Behinderungen bei der Einstellung aus, muss das Unternehmen nachweisen, dass diese Tests für die Stelle auch erforderlich sind.

Sind Spiele wirklich objektiver?

Assessment-Spiele mögen Arbeitgebern objektiver erscheinen. Im Gegensatz zu herkömmlichen psychometrischen Tests bewertet etwa der Algorithmus von Arctic Shores die Bewerber auf der Grundlage ihrer Entscheidungen während des Spiels. Allerdings wissen die Bewerber oft nicht, was das Spiel misst oder was sie während des Spiels erwartet. Für Bewerber mit Behinderungen ist es daher schwierig zu wissen, ob sie um eine Anpassung bitten sollten.

Laut Safe Hammad, Technikvorstand und Mitbegründer von Arctic Shores, konzentriert sich sein Team darauf, seine Bewertungen für so viele Menschen wie möglich zugänglich zu machen. Menschen mit Farbenblindheit und Hörbehinderungen können die Software des Unternehmens ohne besondere Vorkehrungen nutzen, sagt er, aber Arbeitgeber sollten solche Anfragen nicht nutzen, um Bewerber auszusortieren.

Die Verwendung dieser Werkzeuge kann jedoch manchmal Menschen auf eine Art und Weise ausschließen, die für einen potenziellen Arbeitgeber vielleicht gar nicht offensichtlich ist. Patti Sanchez ist Arbeitsvermittlerin im MacDonald Training Center in Florida und arbeitet mit gehörlosen oder schwerhörigen Arbeitssuchenden. Vor etwa zwei Jahren bewarb sich einer ihrer Kunden für eine Stelle bei Amazon, die ein Videointerview über HireVue erforderte.

Behinderte Bewerber kommen manchmal gar nicht durch

Sanchez ist ebenfalls gehörlos und versuchte, das Unternehmen anzurufen und um Unterstützung zu bitten. Sie kam aber nicht durch. Stattdessen brachte sie ihren Kunden und einen Gebärdensprachdolmetscher zu Amazons Einstellungszentrum und überzeugte die Mitarbeiter dort, ein persönliches Bewerbungsgespräch zu ermöglichen. Amazon stellte ihren Kunden ein, aber Sanchez sagt, dass solche Probleme bei der Navigation automatisierter Systeme üblich sind. Amazon reagierte nicht auf eine Bitte um Stellungnahme. Um KI-Werkzeuge für alle zugänglich zu machen, muss sichergestellt werden, dass ein Bewerber die Technologie nutzen kann und dass die gemessenen Fähigkeiten Bewerber mit Behinderungen nicht auf unfaire Weise ausschließen, sagt Alexandra Givens, Geschäftsführerin des Center for Democracy and Technology (CDT). Die Organisation setzt sich für Bürgerrechte im digitalen Zeitalter ein.

Hinzu kommt: KI-gestützte Einstellungsprogramme versäumen es oft, Menschen mit Behinderungen bei der Erstellung ihrer Trainingsdaten zu berücksichtigen, sagt Givens. Diese Menschen seien seit Langem von der Arbeitswelt ausgeschlossen, sodass Algorithmen, die sich an den früheren Bewerbern eines Unternehmens orientieren, ihr Potenzial nicht aufzeigen können. Selbst wenn die Modelle Ausreißer berücksichtigen würden, ist die Art und Weise, wie sich eine Behinderung äußert, von Mensch zu Mensch sehr unterschiedlich. Zwei Personen mit Autismus zum Beispiel können sehr unterschiedliche Stärken und Alltagsherausforderungen haben.

"Da wir diese Systeme automatisieren und die Arbeitgeber sich auf das konzentrieren, was am schnellsten und effizientesten ist, verlieren sie die Möglichkeit, ihre Qualifikationen und ihre Fähigkeiten für den Job zu zeigen", sagt Givens. "Und das ist ein großer Verlust." (vsz)