Unausgewogen und voreingenommen: systematischer Gender-Bias in KI-Systemen
Warum werden bestimmte Gruppen durch KI-Algorithmen benachteiligt? Und wie erfolgreich sind die Gegenmaßnahmen von Wissenschaft, Wirtschaft und Politik?
- Ariane Rüdiger
Die Euphorie über die Möglichkeiten der zweiten AI-/ML-Welle ist an vielen Stellen längst verflogen. An ihre Stelle tritt zumindest in Europa langsam das Verständnis, das nicht das technologisch Machbare und die dadurch erzielbaren Renditen oder Rationalisierungspotentiale das Maß aller Dinge sein sollten. Vielmehr fragen Sozialwissenschaftler*innen, Juristen *innen und andere, ob Software mit integrierten AI-Algorithmen mehr Gerechtigkeit oder nur mehr Gewinn bedeutet, wer bevorzugt und benachteiligt wird. Diese Fragen zu beantworten, ist nicht immer einfach.
Britta Schinzel, 2008 emeritierte Professorin für Mathematik und Informatik an der Universität Freiburg, ist eine der Pionier*innen der Erforschung der Wechselwirkung zwischen Informatik und Gesellschaft. Für ihre Verdienste wurde sie zum Fellow der Gesellschaft für Informatik (GI) ernannt. In einem (auf Youtube erhältlichen) Vortrag über Big Data, Data Mining und AI/ML sieht Schinzel mit AI/ML-Algorithmen angereicherte Software als unauflösbare Verzahnung von Daten, Bediener*innen und Algorithmen, die im Lauf der Zeit immer undurchsichtiger wird. Schinzel: "Die Benutzungs-Iterationen, das Kombinieren von Algorithmen, das Anreichern mit weiteren Software-Systemen durch Training und mit minierten Daten stellen einen irreversiblen Prozess von wechselweisen, geschlossenen Aktionen dar, der nicht mehr dekonstruierbar ist, weil intransparent, zu komplex, sich zu rasch anreichernd. Man vergisst leicht, dass Menschen ihn initialisiert haben."
Sprich: KI-Software tritt den Menschen, die von ihren Entscheidungen betroffen sind, als fertiges Ganzes entgegen, dessen Entscheidungsvoraussetzungen sie kaum in Frage stellen können, weil sie schlicht nicht mehr nachzuvollziehen sind. Dominant sind bei ihrer Entwicklung, so Schinzel, heute in der Regel Geschäftsinteressen, vor allem die der fünf großen KI-Unternehmen in den USA (Amazon, Apple, Facebook, Google, Microsoft).
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Prepaid, Debit, Credit: Wie Sie die passende Kreditkarte finden
Karrierewechsel: Warum sich ein Informatikstudium auch für Quereinsteiger lohnt
Elektroauto MG4 Trophy im Test: Bestseller mit Batterie-Upgrade
Custom-ROM "GrapheneOS" vorgestellt: Android ganz privat
Statt Passwörter: Wie Sie Accounts mit Passkeys schützen
Fremdsprachen lernen: Wie man ChatGPT zum Sprechtrainer aufrüstet
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Prepaid, Debit, Credit: Wie Sie die passende Kreditkarte finden
Karrierewechsel: Warum sich ein Informatikstudium auch für Quereinsteiger lohnt
Elektroauto MG4 Trophy im Test: Bestseller mit Batterie-Upgrade
Custom-ROM "GrapheneOS" vorgestellt: Android ganz privat
Statt Passwörter: Wie Sie Accounts mit Passkeys schützen