KI im Recruiting: Mist, aber trotzdem im Einsatz

Laut dem Science-Fiction-Autor Theodore Sturgeon sind 90 Prozent von allem Mist. Seine Beobachtung geht darauf zurück, dass Science-Fiction-Literatur oft als minderwertig verspottet wird. Damit unterscheidet sie sich laut Sturgeon nicht von anderen Kunstformen, denn auch dort ist der Großteil der Werke minderwertig. Aus diesem geflügelten Satz wurde Sturgeon’s Law: "Ninety percent of everything ist crap." Es gibt wenig Glaubenssätze, die mich so gut durch den Alltag tragen, wie dieser. Der klare Blick für den Mist ist hilfreich in einer Zeit, in der es von minderwertigen digitalen Anwendungen nur so wimmelt. Besonders deutlich zeigt sich der Mist im Bereich von Künstlicher Intelligenz.

Lebenslauf für Maschinen optimiert

Vor ein paar Jahren erzählte mir eine Frau auf einer Weiterbildung, dass sie ihren Lebenslauf für Maschinen optimiert. Das war das erste Mal, dass ich von automatisierten Systemen im Personalrecruiting hörte. Kaum waren die Systeme an den Start gegangen, fingen Menschen an, sie auszutricksen, zum Beispiel die Namen von Eliteunis in Weiß – unsichtbar für das menschliche Auge, aber sichtbar für die Maschine – in den Lebenslauf einzubauen.

TR-Kolumne von Julia Kloiber

Julia Kloiber arbeitet als Mitgründerin der feministischen Organisation Superrr Lab an gerechten und inklusiven digitalen Zukünften. In der gedruckten Ausgabe von MIT Technology Review veröffentlicht sie regelmäßig ihre Kolumne.

• Jugendschutz im Netz: Vertrauen ist wirksamer als technische (Pseudo)-Lösungen
• Wohin unermessliche Technikgläubigkeit führt – in eine shitty Zukunft
• Sagt die Apokalypse ab – Neue Visionen der digitalen Zukunft müssen her
• Deutschlandticket: Warum ein Papierticket auch digital sein kann
• Innovationspotenzial: Der Platz zur kreativen Entfaltung fehlt
• Digital Detox: Einfach nur Urlaub nehmen reicht längst nicht mehr
• Content-Moderatoren, vereinigt euch!
• Mehr Diversität allein hilft nicht in der Tech-Branche
• Wie KI-Bildgeneratoren mehr Diversität fördern können
• Statt Abo auf die Sitzheizung lieber Nutzerprofile beim Carsharing
• US-Abtreibungsverbot: Wie sicher sind die Daten in Perioden-Trackern noch?
• Digitalisierung der Arbeit: Wir hängen im Hamsterrad der Produktivität fest
• KI im Recruiting: Mist, aber trotzdem im Einsatz

Vier Jahre später schaue ich ein Video, in dem eine Recruitingsoftware die Persönlichkeit eines Bewerbers analysiert. Mit Bücherregal im Hintergrund wirkt der Bewerber laut Software gewissenhafter als ohne. Das zeigt: Vieles von dem, was heute als "KI" verkauft wird, ist Schaumschlägerei. Es kann nicht funktionieren.

Mithilfe von KI versuchen Unternehmen, nicht nur ihre Effizienz zu steigern, sondern Vorhersagen zu treffen. Welcher Kandidat oder welche Kandidatin wird sich als produktives Teammitglied herausstellen? Wen stellt man besser nicht ein? Fragen, deren Antworten von unzähligen Faktoren abhängen, die sich schwer quantifizieren lassen. Und das ist das Problem: Manche Dinge sind so komplex, dass sie sich schlicht nicht voraussagen lassen. Mithilfe von Tests kann man zwar Qualifikation und Fähigkeiten abfragen, aber ob sich jemand in einem Job bewährt, ist auch zu einem großen Teil Zufall. Doch Zufall verkauft sich schlecht. Auf der Suche nach Rationalität und neuen Geschäftsfeldern bekommen pseudowissenschaftliche Methoden wie Persönlichkeitstests einen wissenschaftlichen Anstrich. Wie? Sie werden digitalisiert. Computer und Daten haben eine magische Wirkung auf uns, wir glauben ihnen. Sie sind schließlich neutral, oder?

KI-Versprechen: Die Software kennt keinen Bias

Wir Menschen hingegen sind voll von Vorurteilen. Wir fördern gerne diejenigen, die uns ähnlich sind. Hersteller von Recruitingsoftware versprechen uns, dass die Software diese Art von Bias nicht kennt. Doch auch dieses Versprechen können sie nur begrenzt einlösen. KI kann uns zwar dabei helfen, Jobausschreibungen inklusiver zu formulieren, aber eine Vorauswahl von Bewerbungen ohne Bias – das schafft sie nicht. Dazu sind Vorurteile viel zu fest in unserer Gesellschaft und den Daten verankert.

Obwohl viele KI-Anwendungen Mist sind, sind sie im Einsatz. Denn KI ist zum Synonym für Fortschritt geworden, und den will niemand verpassen. "Mist" ist ein mildes Wort, wenn man an die negativen Auswirkungen dieser Systeme denkt. Welchen Job jemand bekommt, hat maßgeblichen Einfluss auf den sozialen Status und die Lebensqualität. Um diese Systeme besser zu kontrollieren, hat die EU-Kommission sie als Hochrisikotechnologie eingestuft. Ein Aus für diese Systeme wird das kaum bedeuten, die KI-Bullshitverkäufer werden weiterziehen. Solange es Menschen gibt, die glauben, komplexe Herausforderungen mit Technologie lösen zu können, wird es auch Anbieter geben.

Bis zu seinem Tod im Jahr 1985 hatte Theodore Sturgeon übrigens Hunderte von Kritiken, mehrere Bücher und Star-Trek-Serien geschrieben. Er war kein Pessimist. Man kann ihn auch so lesen: Es ging ihm nicht um die 90 Prozent, sondern um die übrigen 10. Die hochwertigen Werke, auf die wir den Fokus lenken und von denen wir uns inspirieren lassen sollten.

(jle)