Twitter: Algorithmus scheint weiße Gesichter zu bevorzugen
Dass Algorithmen nicht neutral sind, ist bereits bekannt. Besonders plakative Beispiele für mutmaßlichen Rassismus wurden nun auf Twitter und Zoom gefunden.
Erst der Klick verrät, dass auf beiden Fotos auch Barack Obama zu sehen ist.
(Bild: @bascule)
Ausgehend von einer Fehlfunktion in der Videokonferenz-Software Zoom haben Twitter-Nutzer am Wochenende herausgefunden, dass nicht nur bei Zoom, sondern auch bei dem Kurznachrichtendienst Algorithmen offenbar Gesichter von weißen gegenüber solchen von Schwarzen Personen bevorzugen. An den öffentlichen Experimenten zur Bestätigung des Verhaltens beteiligte sich mit Dantley Davis auch der Chief Design Officer von Twitter, Lob für das Vorgehen kam von Twitters Chief Technology Officer Parag Agrawal. Reagiert hat derweil auch Zoom und eine eigene Analyse angekündigt.
Ein Kopf wird zum Hintergrund
Angefangen hat alles mit dem Doktoranden Colin Madland, der auf Twitter eine Fehlersuche in Zoom dokumentieren wollte. Einem Kollegen schnitt die immer den Kopf ab, wenn der einen virtuellen Hintergrund für Videokonferenzen nutzen wollte. Madland war darauf gekommen, dass die Software das Gesicht des Schwarzen Mannes nicht als solches erkannte und deswegen überblendete. Betrachtet man Madland Tweets nun jedoch auf einem Smartphone, bleiben die völlig unverständlich, weil nun wiederum Twitters Software seine Screenshots so beschneidet, dass jener Teil des Bildes nicht zu sehen ist, um den es geht. Offenbar ignorierte die Twitter-Software ebenfalls das Gesicht des Schwarzen Mannes.
Verantwortlich für die Problematik auf Twitter ist wohl ein Anfang 2018 eingeführter Algorithmus, der auf getwitterten Bildern den mutmaßlich interessantesten Bereich erkennen soll, um die Vorschau auf Smartphones zu verbessern. So zeigt Twitter etwa bei besonders hochkantigen Bildern nur einen Ausschnitt an. Wie jede Menge Nutzer mit ganz verschiedenen Paaren nun deutlich machten, ignoriert der Algorithmus dem Anschein nach sehr häufig die Gesichter Schwarzer Menschen, wenn diese denen von Weißen gegenübergestellt werden. Selbst wenn die Positionen im Bild getauscht oder dieses einfach gespiegelt wird, bekommen Twitter-Nutzer hartnäckig ein und dasselbe Gesicht zu sehen, etwa das des republikanischen US-Senatoren Mitch McConnel statt das von Ex-US-Präsident Barack Obama (erst ein Klick auf die Fotos, zeigt das Problem).
Rassistische Algorithmen
Diesen plakativen Experimenten hat der US-Forscher Vinay Prabhu einen Versuch mit standardisierten Fotos aus einer eigens für solche Vergleiche erstellten Bilddatenbank gegenübergestellt. Hier entschied sich der Algorithmus überraschend mehrheitlich für die Gesichter Schwarzer Menschen, wie sein Twitterfeed deutlich macht. Prabhu weist selbst darauf hin, dass die Fotos nach vergleichbaren Standards erstellt wurden, die Probanden beispielsweise immer identisch beleuchtet wurden.
Der scheinbare Rassismus in den anderen Beispielen bleibt derweil sichtbar und es bleibt abzuwarten, ob und wie Twitter damit umgeht. Es ist schon länger bekannt, dass derartige Ergebnisse nicht zwangsläufig auf rassistische Motive der Entwickler zurückgehen müssen. Stattdessen können sich deren gesellschaftliche Befangenheiten auf derartige Weise in der Software manifestieren, etwa weil Gesichtserkennungssoftware vor allem mit Fotos weißer Menschen angelernt wird. Dass das trotzdem drastische Konsequenzen haben kann, wird vor allem in den USA schon länger diskutiert.
Lesen Sie auch
Wie rassistisch sind unsere Algorithmen?
(mho)