Twitter-Algorithmus bevorzugt auch junge Gesichter und lateinische Schrift
Mit Preisgeldern hat Twitter die Suche nach weiteren Vorurteilen eines bereits ausgemusterten Algorithmus unterstützt. Die Teilnehmenden wurden fündig.
Die leicht abgewandelten Gesichter – je weiter rechts, desto stärker von der Software bevorzugt.
(Bild: Bogdan Kulynych)
Twitters Algorithmus für den automatischen Beschnitt von Fotos bevorzugte nicht nur Frauen allgemein, sondern favorisierte außerdem auch noch Bilder von Menschen, die dünner und jünger aussehen. Außerdem benachteiligte er Menschen mit weißen Haaren sowie arabische Schrift gegenüber lateinischen Buchstaben. Das sind Ergebnisse eines ungewöhnlichen Wettbewerbs, den Twitter ausgerufen hat, um weitere bislang unbekannte Voreingenommenheiten der Technik zu identifizieren. Der wurde am Wochenende im Rahmen der Konferenz DEF CON veranstaltet und führte eine Debatte fort, die bereits im vergangenen Jahr losgetreten worden war. Damals war deutlich geworden, dass der Algorithmus Schwarze und Weiße Menschen reproduzierbar unterschiedlich behandelte.
Geld für Suche nach Einschränkungen von KI
Angelehnt an Bug-Bounty-Programme, in denen es Geld für gefundene und gemeldete Sicherheitslücken in Software gibt, hatte Twitter den Wettbewerb ins Leben gerufen, um Vorurteile des eigenen Algorithmus' finden zu lassen. Das Unternehmen hatte den Teilnehmern und Teilnehmerinnen dafür den entsprechenden Quelltext zur Verfügung gestellt, damit die gezielt nach Bevorzugungen und Benachteiligungen der Software suchen konnten. Twitter wollte so nicht nur weitere problematische Aspekte der eigenen Technik finden, sondern auch ein Beispiel für die ganze Industrie setzen. Für die besten Beiträge wurden Preisgelder in Höhe von maximal 3500 US-Dollar bereitgestellt.
Gewonnen hat nun Bogdan Kulynych, ein Student der Eidgenössischen Technischen Hochschule Lausanne (EPFL). Mit manipulierten Fotos von Gesichtern konnte er nachweisen, dass der Algorithmus nicht nur feminine Personen gegenüber maskulinen, sondern auch jüngere Menschen gegenüber älteren und hellere, weiche Haut gegenüber dunkler bevorzugt. Andere Analysen zeigten, dass Menschen mit Kopftüchern, solche mit Behinderungen und generell alte Menschen in ähnlicher Weise von dem Algorithmus benachteiligt werden, berichtet NBC. All solchen Gesichter werden von dem Algorithmus demnach bevorzugt abgeschnitten, etwa wenn auf dem Foto weitere zu sehen sind. Ein Wettbewerbsbeitrag konnte nachweisen, dass lateinische Schrift gegenüber arabischer bevorzugt wird, ergänzt Wired noch.
Twitter hatte den nun analysierten Algorithmus bereits nach der ersten Kritik aus dem Verkehr gezogen und erläutert, dass die Wahl des Bildausschnitts bei den Nutzern und Nutzerinnen besser aufgehoben sei. Die möglichen Vorteile durch den Einsatz der Technik, etwa bezüglich der Geschwindigkeit, würden das Risiko durch die Benachteiligung nicht aufwiegen, hatte Twitter erklärt. In den Apps kann seit Mai ausgewählt werden, wie ein Bild angezeigt werden soll und eine Vorschau gibt es auch. Außerdem sind seitdem hochformatige Fotos in der Timeline möglich. Dass Twitter das nicht ermöglicht hatte, hatte überhaupt erst zu den ersten Funden der Benachteiligung geführt.
(mho)
