Scam: Krabbenjesus und andere KI-Bilder bei Facebook und Instagram

Lustig, ein Krabbenjesus. Und ein Fischjesus. Ein Nudeljesus. Und zahlreiche KI-generierte Bilder, die derzeit die Timelines der sozialen Netzwerke fluten. Oft sind sie harmlos. Freunde haben mal wieder mit Midjourney gespielt, der Kumpel, der sich dank Bildgenerator für einen Künstler hält, postet Werke aus der letzten Session. Aber manche der vermeintlich amüsanten Bilder sind mit bösen Absichten gepostet – Scam.

Der etwas gruselige Jesus, dessen Körper aus Shrimps besteht, ist dem Stanford Internet Observatory aufgefallen. Forscher haben sich in einem vorab veröffentlichten Paper damit beschäftigt, wie in sozialen Netzwerken KI-Bilder für Betrug eingesetzt werden. Die harmlose Variante heißt Spam. Leute wollen mit den Bildern Aufmerksamkeit auf ihre Seiten lenken. Scam-Versuche sind gefährlicher. Schon in den Kommentaren unter den KI-Bildern gibt es Links zu Seiten, auf denen Daten abgefragt werden, man sich anmelden muss, nicht existente Produkte verkauft werden und weitere Formen von Betrug.

Ziel ist die Content-Farm

Für die Untersuchung wurden etwa 120 Facebook-Seiten analysiert, die jeweils mindestens 50 KI-generierte Bilder verbreitet haben. Die Seiten sollen auch in koordinierten Clustern zusammengearbeitet haben. Im Falle des Krabbenjesus haben die anbei geteilte Links laut Studie auf eine Content-Farm geführt – es wird also mit den Klicks Geld verdient. Auf der Facebook-Seite erscheinen jeden Tag mehrere KI-generierte Bilder, die einen Jesus zeigen. Auch mal aus Spaghetti oder leeren Plastikflaschen, oft mit kleinem Jungen daneben, denn was zieht mehr als verstörende KI – Kinder.

Nun sind auf Facebook aber nicht nur Menschen unterwegs, denen die meist von Bots ausgespielten Scam-Versuche begegnen. Auch andere Bots sorgen für Interaktionen. So muss man sich beim Krabbenjesus auch erstmal durch sehr viele "Amens" scrollen, um in den Kommentaren die betrügerischen Links zu finden.

Bots interagieren also mit Bots. Das heißt aber nicht, dass Tante Hilde und Onkel Christian nicht auch solche Bilder angezeigt bekommen, die vielleicht sogar etwas geschickter verpackt sind – beispielsweise mit Hinweisen, dass man mehr solcher Bilder sehen kann, wenn man einem Link folgt oder den Verlauf einer Story verfolgen kann oder ähnliches.

Aufmerksamkeit ist Geld

Die Bilder sind größtenteils extra verstörend, irritierend oder besonders lustig ausgewählt, damit sie auf jeden Fall Aufmerksamkeit auf sich ziehen. Ziel ist es, dass Menschen das Bild kommentieren und sogar mit ihren Freunden teilen. Interaktionen sorgen denn auch dafür, dass Facebook, Instagram und Co den Inhalt besser bewerten und entsprechend selbst weiter verbreiten. Deshalb gibt es die zahlreichen Amen-Bots. Die Algorithmen bevorzugen Inhalte, auf die viel reagiert wird. Die Klick-Farmen brauchen viele Zugriffe, um Geld zu machen.

Derartige Tricks hat es freilich schon immer gegeben. Einen Jesus aus Shrimps zu gestalten hat nur einfach bis vor kurzem deutlich länger gedauert. KI-generierte Bilder können für mehr Aufmerksamkeit sorgen und lassen sich in wahnsinniger Schnelle erstellen und verbreiten. Soziale Netzwerke werden tatsächlich nahezu geflutet von ihnen. Daher stellt sich die Frage, wie Meta gegen die KI-Inhalte angehen möchte. Eine Anfrage dazu von heise online ist bisher unbeantwortet. Zwar gibt es eine Richtlinie, die besagt, KI-generierte Bilder müssen als solche gekennzeichnet werden. Das verhindert jedoch die dazugehörigen Betrugsabsichten nicht.

(emw)