Metas Bildgenerator kann keine weiße Frau neben einem asiatischen Mann
Asiatische Paare oder ein weißer, alter Mann mit asiatischer junger Frau: Das sind mehr als Stereotype-Ergebnisse von Metas AI Imagen.
(Bild: Michael Vi/Shutterstock.com)
Der Prompt: ein Paar, ein asiatischer Mann und eine weiße Frau. Bei Metas Bildgenerator kommt dabei offenbar immer ungefähr das gleiche Bild bei raus – zumindest Bilder mit dem gleichen Problem. Beide Partner sind asiatischer Herkunft. Metas AI Imagen ist offenbar rassistisch.
Eine Redakteurin von The Verge hat laut eigener Aussage dutzende Versuche gestartet, um Paare von Menschen mit unterschiedlicher Herkunft zu zeigen. Es hat nicht geklappt. Dabei, so schreibt sie, sei es doch recht üblich, dass es gemischte Paare oder Freunde gibt. Mia Sato ist selbst asiatischer Herkunft. Ihre Prompts seien unterschiedlich gewesen, "asiatischer Mann mit kaukasischem Freund", "asiatischer Mann mit weißer Frau" oder "asiatische Frau mit kaukasischem Ehemann". In nur einem Fall sei es Metas Bildgenerator gelungen, das gewünschte Paar zu zeigen. Bei allen anderen Versuchen kamen Paare gleicher Herkunft heraus. Versuche, die asiatische und dunkelhäutige Personen zeigen sollten, scheiterten genauso häufig.
(Bild: Screenshot The Verge)
Stellschrauben für Bildgeneratoren drehen durch
Sato schreibt zudem im Artikel von The Verge: "Mir ist aufgefallen, dass Metas Tool 'asiatische Frauen' durchweg als ostasiatisch aussehend, mit hellem Teint, darstellt, obwohl Indien das bevölkerungsreichste Land der Welt ist." Es habe außerdem ältere asiatische Männer gegeben, die asiatischen Frauen waren hingegen durchweg jung. Und auf dem einen Bild, bei dem es geklappt hat, ein gemischtes Paar zu zeigen, waren ein älterer weißer Mann und eine junge Asiatin zu sehen.
Metas Bildgenerator ist nicht allein mit derartigen Problemen. Bei Google hatten die Verantwortlichen offenbar die Stellschrauben für Diversität besonders hoch eingestellt und damit eher Gegenteiliges erreicht: Gemini zeigte deutsche Soldaten des Zweiten Weltkriegs mit asiatischer und afroamerikanischer Herkunft. Und auch Adobes Firefly machte ähnliche Fehler. Google pausiert den Bildgenerator, der im Chatbot eingebaut ist, seither. Und auch Meta glänzte bereits mit einem Sticker-Generator, der Figuren aus Super Mario mit Waffen zeigte, Kindersoldaten und weitere unschöne Absurditäten.
AI Imagen ist in Deutschland bisher nicht verfügbar. Man kann zwar ein Meta-Konto erstellen, das übergreifend über alle Meta-Dienste funktioniert und später auch für den Bildgenerator. Will man dann starten, gibt es einen Error. Bei Meta heißt es, "Imagine.meta.com ist noch nicht für alle Nutzer*innen verfügbar". Ohne konkreter auf die Einschränkungen einzugehen.
(emw)