Google und Bing: Deepfake-Pornos in der Trefferliste

Deepfakes lassen sich dank Künstlicher Intelligenz relativ einfach erstellen. Als sei das nicht schon problematisch genug, können auch Google und Bing damit offensichtlich noch nicht besonders gut umgehen. Beide Suchmaschinen zeigen Deepfake-Pornos von Prominenten und sogar Minderjährigen in der Trefferliste an. Dabei versucht Google schon seit Jahren, dem Problem habhaft zu werden.

Bei Deepfake-Pornos wird das Gesicht einer Person, ohne ihre Zustimmung, auf den Körper einer anderen Person übertragen, die sexuelle Handlungen durchführt. Ob das Video echt ist oder ein Fake, lässt sich im Nachhinein kaum bis gar nicht erkennen. Der Schaden für die oder den Betroffenen kann enorm sein. NBC hat nun untersucht, wie leicht sich solche Deep-Fake-Pornos finden lassen. Das Ergebnis: Google und Microsofts Suchmaschine Bing zeigten bei der Suche nach bekannten Persönlichkeiten und Suchbegriffen wie "Deepfake" oder "Fake nudes" quasi sofort genau solche gefälschten Bilder an, beziehungsweise verlinken entsprechende Plattformen.

Bei 36 bekannten Frauen, die NBC auf diese Weise gesucht hat, fanden sie gefälschte Pornobilder von 34 der Frauen. Sie schreiben, es gäbe einen regelrechten Markt, der sich für solche Bilder gebildet habe, inklusive der Erstellung von neuen, zuweilen privaten Fakes. Auch finde man zahlreiche Apps und Programme, die ihre Dienste anbieten. Der Chatbot im neuen Bing antwortet immerhin, dass Deepfake-Pornos unethisch seien und zeige keine Bilder oder Links.

Opfer von Deepfakes können bei Google beantragen, dass Bilder gelöscht werden. Dafür gibt es seit einer Weile ein Antragsformular. "Wenn die Bilder dich zeigen und explizit sind, und nicht aus kommerziellen Gründen veröffentlicht wurden, können sie entfernt werden", sagt Danny Sullivan, Verantwortlicher für die Suche bei Google. Das ist für den Suchmaschinenanbieter, seit der Digital Services Act (DSA) in Anwendung ist, verpflichtend.

Deepfakes: Das problematische Beiprodukt von generativer KI

Organisationen wie Hate Aid setzen sich für eine strengere Gesetzesregelung ein. Sie haben bereits eine Petition beim Digitalministerium abgegeben und fordern, dass Anbieter von Apps, die Deepfakes erstellen können, Nacktfilter einbauen müssen. Die gängigen Bildgeneratoren wie Dalle-E und Midjourney haben genau das, sie generieren keine Bilder mit so viel nackter Haut oder sexuellen Handlungen. Wer Deepfake-Pornos vertreibt, solle laut Petition bestraft werden. Zudem verlangen die Unterzeichner, dass App-Stores in die Pflicht genommen werden, Anbieter zu sperren, die Deepfake-Pornos ermöglichen. Google hat in den Richtlinien zum Play Store zwar einen passenden Passus, laut NBC gibt es aber dennoch mindestens eine passende App, die nicht aus dem Store geflogen ist.

Schon 2019 schreibt Google, dass Deepfakes ein ernst zu nehmendes Problem für die Gesellschaft darstellen würden, quasi als Beiprodukt von generativer KI. "Wie jede transformative Technologie bringt auch diese neue Herausforderungen mit sich." Google arbeitet seit jeher an Detektoren für Deepfakes.

In der Untersuchung von NBC zeigte Bing sogar Deepfake-Porno an, bei dem die Gesichter von minderjährigen Disney-Stars in die Videos übertragen wurden. Ein Sprecher von Microsoft verweist auf das Meldeformular, das auch Bing für solche Fälle bereithält. Inhalte, wie Deepfake-Pornos, seien auf Microsofts Plattformen generell verboten.

(emw)