Analysen: Zwei bis drei Millionen sexualisierte Deepfakes von Grok generiert
Die Kritik an den KI-generierten Deepfakes von Grok war groß, das ganze Ausmaß war bislang aber unklar. Nun haben zwei Organisationen erstmals nachgezählt.
(Bild: Ascannio/Shutterstock.com)
Der KI-Chatbot Grok hat in weniger als zwei Wochen zwischen 1,8 und 3 Millionen sexualisierte Deepfakes, primär von Frauen – aber auch Männern und Kindern – generiert. Das ist das Ergebnis zweier voneinander unabhängiger Analysen der New York Times und der gemeinnützigen Organisation Center for Countering Digital Hate (CCDH), die jetzt vorgestellt wurden. Beide haben Stichproben der mehr als vier Millionen Bilder analysiert, die Grok über den Jahreswechsel öffentlich einsehbar generiert hat. Die US-Zeitung meint, bei einer vorsichtigen Auslegung der Ergebnisse würden 1,8 Millionen davon sexualisierte Aufnahmen von Frauen zeigen, das CCDH schätzt die Zahl sexualisierter Darstellungen aller Geschlechter auf mehr als drei Millionen. Mehr als 23.000 würden demnach Kinder zeigen.
Deepfakes von Promis und Minderjährigen
Das CCDH hat sein Vorgehen dabei genauer erläutert und erklärt, dass die Stichprobe mit KI-Hilfe analysiert wurde. In der Vorstellung der Ergebnisse werden für die Art der sexualisierten Darstellungen einige Beispiele genannt. Zudem listet die Organisation auf, dass auf den photorealistischen Bildern unter anderem Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown und Kamala Harris zu erkennen waren. Gefunden haben die Forschenden weiterhin mehrere Beispiele für minderjährige Schauspielerinnen, die mit extrem kleinen Bikinis dargestellt wurden. Auch das Selfie einer Schülerin wurde digital „entkleidet“, das Bild sei auch Tage später noch einsehbar gewesen. Das habe auch für zahlreiche andere Funde gegolten.
Videos by heise
Die beiden Analysen deuten an, welches Ausmaß die sexualisierten Deepfakes auf X innerhalb weniger Tage angenommen haben. Sie lösten internationale Kritik an Grok, der dafür verantwortlichen Firma xAI, dem Kurznachrichtendienst X und dessen Eigentümer Elon Musk aus. Der Milliardär hat das Problem erst abgestritten, die Bildgenerierung dann bezahlten Accounts vorbehalten und schließlich versichert, dass die Funktion komplett deaktiviert wird. Wie rigoros das umgesetzt wird, ist aber unklar. Die Analyse des CCDH legt nun nahe, dass zwischenzeitlich 190 photorealistische sexualisierte Deepfakes pro Minute erstellt wurden.
(mho)
