Facebooks Gesichtserkennung hält schwarze Menschen für Affen

Inhaltsverzeichnis

Irren ist nicht nur menschlich, sondern auch typisch für Maschinen: Facebook-Nutzer, die sich jüngst ein im Juni 2020 gepostetes Video einer britischen Boulevardzeitung über Rassismus gegen schwarze Männer ansahen, erhielten eine ungewöhnliche automatische Aufforderung. Sie wurden gefragt, ob sie "weiterhin Videos über Primaten sehen möchten".

Facebook schaltet Empfehlungsfunktion ab

Der Clip der britischen Daily Mail mit dem Titel "Weißer Mann ruft Polizei wegen schwarzen Männern am Hafen" zeigt Auseinandersetzungen zwischen den Schwarzen, die einen Geburtstag feiern wollen, mit einem weißen Zivilisten sowie herbeigerufenen Polizisten in Connecticut. Ein Schwarzer wird dabei – offenbar weitgehend grundlos – in Handschellen aus einem Haus geführt und vorübergehend verhaftet. In dem Video gibt es keinerlei Bezug zu Menschenaffen oder anderen Tieren.

Facebook hat laut der New York Times eine Untersuchung des Falls eingeleitet und die auf Basis von biometrischer Gesichtserkennung ausgelöste Empfehlungsfunktion deaktiviert. Am Freitag entschuldigte sich der US-Konzern demnach für den "inakzeptablen Fehler". Der einschlägige Algorithmus für das eingesetzte System mit Künstlicher Intelligenz (KI) werde analysiert, um "zu verhindern, dass dies noch einmal passiert".

Ehemalige Mitarbeiter: Facebook tut zu wenig

Aufmerksam gemacht auf den Vorgang hat dem Bericht zufolge Darci Groves, eine ehemalige Content-Design-Managerin bei Facebook. Ein Freund habe ihr kürzlich einen Screenshot der Aufforderung geschickt, heißt es dazu. Sie postete diesen daraufhin in einem produktbezogenen Feedback-Forum für aktuelle und frühere Mitarbeiter des sozialen Netzwerks. Daraufhin bezeichnete ein Produktmanager für Facebook Watch, den Videodienst des Unternehmens, den Vorfall als "unannehmbar". Der verwies darauf, dass der Konzern nach der Ursache fahnde.

Groves bezeichnete die Empfehlung als "entsetzlich und ungeheuerlich". Facebook tue zu wenig, um technologisch verursachte rassistische Probleme in den Griff zu bekommen.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier eine externe Umfrage (Opinary GmbH) geladen.

Umfragen immer laden Umfrage jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Opinary GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

"KI wird noch Fortschritte machen müssen"

Der Plattformbetreiber verwendet verschiedene KI-Spielarten inklusive automatisierter Gesichtserkennung und Maschinenlernen, um die den Nutzern angezeigten Inhalte zu personalisieren und möglichst lang am Ball zu halten. Bürgerrechtler und Datenschützer laufen seit Langem vor allem gegen den Einsatz von Identifizierungstechnologien Sturm. Eine Facebook-Sprecherin entschuldigte sich nun im Namen des Unternehmens "bei allen, die diese beleidigenden Empfehlungen gesehen haben könnten". Die genutzte KI werde zwar laufend verbessert. Man sei sich aber bewusst, "dass sie nicht perfekt ist und wir noch weitere Fortschritte machen müssen".

Google, Amazon und andere Technologiefirmen stehen seit Jahren wegen Diskriminierung durch ihre KI-Systeme in der Kritik. Studien haben gezeigt, dass Gesichtserkennungstechnologie farbigen Menschen gegenüber voreingenommen ist. So gibt es dabei etwa immer wieder Schwierigkeiten, People of Color überhaupt zu identifizieren. Unschuldige Schwarze sind auch bereits aufgrund fehlerhafter Algorithmen verhaftet worden.

2015 stufte Googles App Photos beispielsweise Bilder mit dunklen Menschengesichtern fälschlicherweise als "Gorillas" ein. Der Konzern entschuldigte sich "aufrichtig" dafür und erklärte, die Angelegenheit sofort bereinigen zu wollen. Mehr als zwei Jahre später fand das Portal Wired heraus, dass die Lösung von Google darin bestanden habe, das Wort "Gorilla" bei der Suche zu zensieren und gleichzeitig auch Begriffe wie "Schimpanse" und "Affe" zu sperren.

(tiw)