Bundestagsstudie: Robo-Recruiting birgt hohe Diskriminierungsgefahr
Das parlamentarische Büro für Technikfolgen-Abschätzung warnt angesichts künstlich intelligenter Personalauswahl vor ethischen Risiken und Rechtslücken.
(Bild: Tatiana Shepeleva/Shutterstock.com)
Wirtschaftlich bieten Systeme Künstlicher Intelligenz (KI) im betrieblichen Einstellungsverfahren ein erhebliches Potenzial, um eine Auswahl neuer Mitarbeiter "effizienter und effektiver zu gestalten", ist einer jetzt veröffentlichten Kurzstudie des Büros für Technikfolgen-Abschätzung des Bundestags (TAB) zu "Robo-Recruiting" zu entnehmen. Gleichzeitig sei das Schadenspotenzial aber auch sehr hoch, wenn diskriminierende Muster durch algorithmische Systeme reproduziert und potenziert würden.
Kritische Auseinandersetzung nötig
Die durch den Einsatz von KI-Verfahren bei der Personalauswahl erzielten Effekte hängen laut der Analyse erheblich davon ab, wie die Technik ausgestaltet ist und angewendet wird. Setzten sich Unternehmen dabei "nicht hinreichend kritisch mit der bisherigen Entscheidungspraxis auseinander", könne die Automatisierung dazu führen, "dass bestehende suboptimale Entscheidungsmuster fortgeschrieben werden".
Forscher wiesen auch auf die Gefahr hin, dass sich Bewerbende in Antizipation der unterstellten Funktion des KI-Systems anpassen, heißt es in dem Themenprofil. Das einstellende Unternehmen könnte so getäuscht werden, die Technik sich so "dysfunktional" auswirken.
Wie groß die Marktdurchdringung von Lösungen zum Robo-Recruiting ist, lässt sich bislang nur abschätzen. Experten gehen davon aus, dass deren Einsatz in Einstellungsverfahren zwar intensiv diskutiert werde, es sich aber derzeit in Deutschland noch um ein Nischenphänomen handle. Dies könnte sich aber rasch ändern, da KI zunehmend als fähig angesehen wird, einschlägige Prozesse zu beschleunigen und eine schnellere Reaktionsfähigkeit auf kurzfristige Entwicklungen des Marktes sicherzustellen.
Automatische Auswertung von Lebensläufen
Als Anbieter einschlägiger Software nennt der Autor der Untersuchung, Robert Peters, neben dem vor allem auf Sprachanalyse setzenden US-Konzern IBM HireVue als umstrittenen Experten für Videointerviews sowie die deutschen Firmen LogOn Consulting und Precire Technologies. Das System der letzteren erstelle auf Basis von Textanalysen ein psychologisches Profil von Bewerbern, müsse sich aber Kritik aufgrund einer fehlenden wissenschaftlichen Validierung und eines zweifelhaften Mehrwerts in der betrieblichen Praxis gefallen lassen.
Laut einer Umfrage gehen mehr als die Hälfte der Personaler aus 1000 führenden deutschen Unternehmen davon aus, künftig in ihrer Arbeit verstärkt von intelligenten Maschinen unterstützt zu werden. Dabei geht es der Studie zufolge vor allem darum, etwa aus Lebensläufen und Videosequenzen aus Interviews ausgelesenen Daten in Bewerbermanagementportalen einzuspeisen sowie zur automatisierten Analyse zu nutzen oder durch interaktive Systemkomponenten zu erweitern. Diese Entwicklungen seien sozial, ökonomisch und ethisch "mit erheblichen Chancen und Risiken verbunden". Welches Element sich durchsetze, hänge stets davon ab, "wie die Technologie gestaltet und angewendet wird".
Die ethische Bewertung von KI-Systemen sei maßgeblich davon abhängig, ob ihr Einsatz zu mehr oder weniger Diskriminierung führe, konstatiert der Autor. Gelinge es, klassische Merkmale für Vorurteile aus den zugrundeliegenden Daten zu tilgen und Entscheidungswege transparenter zu machen, sei theoretisch eine "diskriminierungsfreie Einstellungsentscheidung" denkbar. In der Praxis sei dies aber mehr als fraglich.
Kein automatisches Ende von Diskriminierung
Rechtlich verortet der Verfasser Robo-Recruiting mit Blick auf dessen prädiktive Funktion als einen Spezialfall des in Paragraf 31 Bundesdatenschutzgesetz erfassten Scoring, wenn es darum gehe, "die zukünftige Arbeitsleistung eines Bewerbers oder seine Zuverlässigkeit vorherzusagen". Diese rechtliche Vorgabe stellt aber keine hohe Hürde dar. Es sei zwar zu erwarten, "dass bei der Gestaltung funktionsfähiger algorithmischer Systeme stets grundlegende mathematisch-statistische Verfahren angewendet werden". Dies gewährleiste aber noch nicht eine diskriminierungsfreie Herangehensweise.
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Richterliche Entscheidungen und rechtswissenschaftliche Veröffentlichungen brächten hier auch noch keine Klarheit, schreibt Peters. So sei etwa offen, ob einer algorithmischen Entscheidung zugrundeliegende Zusammenhänge beweisbar sein müssten oder ob eine empirische Korrelation der Ergebnisse genüge.
Umstritten ist der Studie nach etwa auch, inwieweit es unzulässig ist, personenbezogene Daten durch bewertende und selektierende Recruiting-Software zu verarbeiten, wenn der Bewerber faktisch einwilligen muss, um am Auswahlprozess teilzunehmen. Solche Fragen könnten gegebenenfalls in einem eigenen Beschäftigtendatenschutzgesetz zusammengeführt und konkretisiert werden, worauf sich die große Koalition bislang aber nicht einigen konnte.
Viele Fragen zu beantworten
Die Politik sieht der Autor durch Robo-Recruiting so herausgefordert, "ein breites Spektrum an Fragestellungen zu diskutieren und zu beantworten". Diskussionswürdig sei etwa, inwiefern auch kleine und mittlere Unternehmen von KI-Anwendungen bei der Personalauswahl profitieren oder Beschäftigte in Firmen mit und ohne Betriebsrat darin unterstützt werden könnten, ein Wörtchen mitzureden. Nötig sei ein gesellschaftlicher Meinungsbildungsprozess darüber, "welche Eingriffsmöglichkeiten KI-Systeme bei der Entscheidung über Zugangschancen zum Arbeitsmarkt haben" und wie diese reguliert werden sollten.
(mho)
