Das Vorurteilsproblem der KI verschwindet nicht
Bisherige Kurskorrekturen des Feldes zur Vermeidung von Benachteiligungen greifen zu kurz, sagt ein neuer Bericht des Forschungsinstituts AI Now.
(Bild: Photo by Charles on Unsplash)
- Karen Hao
Viele Zahlen verdeutlichen den Mangel an Vielfalt in der Industrie für Künstliche Intelligenz (KI). So machen Frauen nur 18 Prozent der Redner auf führenden KI-Konferenzen aus, 20 Prozent der KI-Professuren sowie 15 Prozent und zehn Prozent des Forschungspersonals bei Facebook und Google. Der Mangel an ethnischer Vielfalt ist noch größer: Schwarze Arbeitnehmer machen nur 2,5 Prozent der gesamten Belegschaft von Google und vier Prozent der von Facebook und Microsoft aus. Für Transgender und andere geschlechtsspezifische Minderheiten liegen keine Daten vor, aber es ist unwahrscheinlich, dass der Trend hier anders aussieht.
Das ist besorgniserregend, denn die Technologie hat sich zu einem bedeutenden Einfluss auf viele Gebiete von der Stellenbesetzung über Unterbringung bis hin zur Strafjustiz und dem Militär entwickelt – und hat dabei die Vorurteile ihrer Schöpfer mit alarmierenden Auswirkungen automatisiert: KI-Systeme werten die Lebensläufe von Frauen ab, führen die Diskriminierung bei Einstellungen und Vermietungen fort und verfestigen rassistische Entscheidungen bei Polizei-Praktiken und Verurteilungen zu Gefängnisstrafen.
Mangelnde Vielfalt
Diese Konsequenzen werden sich noch weiter verschärfen, wenn das Problem nicht auf andere Art und Weise gelöst wird, heißt es nun in einem neuen Bericht des Forschungsinstituts AI Now, das an der New York University beheimatet ist. "Das Problem mangelnder Vielfalt in der Technologie [...] hat einen neuen und dringlichen Wendepunkt erreicht", sagt Meredith Whittaker, die das Institut mitgegründet hat. "Millionen von Menschen spüren die Auswirkungen dieser Werkzeuge und sind von allen KI-Vorurteilen betroffen, die in die Systeme eingebettet werden."
Das "AI Now"-Team identifiziert zwei Hauptgründe, warum die Bemühungen zur Bewältigung mangelnder Vielfalt bisher gescheitert sind. Zum einen sei schwerpunktmäßig die Zahl von Frauen in technischen Berufen gefördert worden, anstatt auch die ethnische, Gender- und andere Arten von Diversität zu verbessern. Zum anderen sei der Fokus auf das "Reparieren der Pipeline" unverhältnismäßig stark, also die Idee, einfach die Anzahl der Kandidaten aus unterrepräsentierten Gruppen zu erhöhen, die von Schulen in die Industrie strömen. Dabei würden andere systembedingte Nachteile unterschätzt, die Frauen und Minderheiten wieder aus dem Feld drängen, wie sexuelle Belästigung, unfaire Bezahlung und unausgewogene Machtverhältnisse.
Empfehlungen erarbeitet
Die Forscher haben mehrere Empfehlungen erarbeitet, wie sich die Arbeitsplatzvielfalt umfassender verbessern ließe. Dazu gehören zum Beispiel Maßnahmen, die Ungleichbehandlung bei Gehältern und Aufstiegschancen zu beenden, die Vielfalt in den Führungsebenen zu erhöhen und die Anreizstrukturen für Führungskräfte des Unternehmens zu ändern, um mehr Arbeitnehmer aus unterrepräsentierten Gruppen einzustellen und zu binden.
Das Problem sei allerdings schwerwiegender und erschöpfe sich nicht in Einstellungs- und Kompensationsstrategien, sagt Jessie Daniels vom New Yorker Forschungsinstitut Data & Society. Sie erforscht die Schnittstelle zwischen Rassismus und Technologie.
Nicht unabhängig von der Gesellschaft
Die Technologie-Industrie sei grundlegend auf dem Ethos aufgebaut, dass Technologie unabhängig von der Gesellschaft existiert: "Anfang der Neunziger Jahre gab es die Idee, dass das Internet uns von Kategorien wie Rasse, Geschlecht und Gebrechen befreien würde. Wir würden an einen Ort namens 'Cyberspace' gehen, an dem wir nicht mehr über Verkörperung oder Identität nachdenken müssten", sagt Daniels.
Lesen Sie mehr zum Thema Künstliche Intelligenz:
Diese Idee durchdringt die Industrie bis heute und ist die Wurzel sowohl der wiederholten Misserfolge zur Erhöhung der Mitarbeitervielfalt als auch der wiederholten Skandale um die Befangenheit der KI. Mit diesem "Fantasie-Glauben", dass man unabhängig von Sexismus, Rassismus und gesellschaftlichem Kontext existiere, werden immer noch Technologie-Unternehmen gebaut und Technologie-Produkte entworfen. "It’s not a bug", sagt Daniels. "It’s a feature."
(vsz)
