zurück zum Artikel

Schwere Vorwürfe erhebt eine neue Klage gegen Meta Platforms und Mark Zuckerberg: jede Menge Kinderpornos und -prostitution auf Facebook und Instagram.​

"Unsere Untersuchung der Sozialen Netzwerke Metas zeigt, dass sie kein sicherer Raum für Kinder, sondern vielmehr erste Adresse für Täter sind, um Kinderpornografie zu handeln und Sex mit Minderjährigen anzubahnen", kritisiert Raúl Torrez, Justizminister des US-Staates New Mexico. Er führt im Namen des Staates Klage gegen Meta Platforms und dessen Chef und größten Aktionär, Mark Zuckerberg. Damit möchte er die Beklagten "zur Verantwortung ziehen, wenn sie Profit über die Sicherheit von Kindern stellen." Bestimmte Kindesmissbrauchs-Inhalte seien bei Facebook und Instagram zehnfach häufiger als bei Pornhub und OnlyFans.

Monatelang hat die Behörde heimlich auf Facebook und Instagram ermittelt und Konten erstellt, die vorgeben, Minderjährigen im Alter von 14 Jahren und jünger zu gehören. Die dabei gesammelten Beweise sollen zeigen, dass Facebook und Instagram die vermeintlich minderjährigen Nutzer aktiv mit anstößigen, sexuellen Darstellungen eingedeckt haben – selbst, wenn der User angab, daran nicht interessiert zu sein. Facebook habe die vermeintlich Minderjährigen sogar dazu eingeladen, unmoderierten Gruppen beizutreten, die der Vermittlung von Sexarbeit dienen.

Facebook und Instagram hätten Dutzenden Erwachsenen ermöglicht, Kinder zu finden, zu kontaktieren und sie dazu zu drängen, sexuelle Aufnahmen ihrer selbst anzufertigen oder in Pornovideos mitzuwirken. Erwachsene könnten bei Meta Platforms [1] "enorme Mengen Kinderpornografie finden, teilen und verkaufen", sagt der Demokraten-Politiker [2] Torrez. Ein Test des Wall Street Journal hat kürzlich gezeigt, dass Instagram Sex und normale Reklame zeigt, wenn man nur jungen Mädchen und Frauen folgt. Demnach hat Instagram keine Schranken für dubiose Konten, die Kindern folgen [3].

Fallbeispiele

Ein von den Undercoverermittlern New Mexicos erstelltes Profil gab vor, Mutter einer 13-Jährigen zu sein. Die "Mutter" postete unter anderem ein Bild ihrer "Tochter", die Tätowierungen in deren Mund zeigte – laut Klageschrift ein Zeichen dafür, dass die Tätowierte einem Zuhälter "gehöre". Binnen dreier Tage habe die Mutter mehr als 3.000 Follower und 5.000 Facebook-Freunde angezogen – mehr geht nicht. Dabei hätten die Ermittler keine Maßnahmen zur Bewerbung des Profils gesetzt.

Die "Tochter" erhielt ebenfalls ein eigenes Facebook-Profil. Das angegebene Geburtsdatum war aus 2002, die Bilder und andere Inhalte präsentierten aber eine Minderjährige: Der letzte ausgefallene Milchzahn, Eintritt in die siebente Schulstufe, Kommentare zum Schulalltag, und explizite Angabe des eigenen Alters als 13. Metas Algorithmen sollen das auch erkannt haben: Sie hätten laufend Postings anderer 13- bis 16-Jähriger in den Facebook-Feed gestellt.

Das "Mädchen" habe in seinen Posts zudem auf erlittene körperliche und sexuelle Misshandlung und psychische Probleme angespielt sowie Bilder eingestellt, die Folgen körperlicher Misshandlung zeigten. Außerdem habe sie durchblicken lassen, prostituiert worden zu sein. Facebook habe reagiert, nämlich mit Werbung für und Hinweisen auf psychologische Behandlungen sowie Anwälte, die auf Opfer von Zuhälterei spezialisiert sind. Doch Hinweise an die zuständigen Behörden hat Facebook offenbar nicht erstattet.

Anzeigen an Meta bewirken wenig

Ein Facebook-Freund habe die "Tochter" einer Chatgruppe hinzugefügt, die sich speziell pornographischen Videos und Nacktfotos von zwölf- bis 16-jährigen Mädchen widmet. Die Ermittler geben an, diese Chatgruppe mehrfach an Facebook gemeldet zu haben – ohne Erfolg. Schließlich habe Facebook lediglich geraten, die Gruppe zu verlassen.

Das Mädchen erreichte ebenfalls schnell das Maximum von 5.000 Facebook-Freunden, dazu 6.700 Follower. Daraufhin lud Facebook dazu ein, ein kommerzielles Profil einzurichten, das mit Beteiligung an Werbeeinnahmen winkt. Im Facebook Messenger erhalte das "Mädchen" regelmäßig Genital-Darstellungen, was es nicht verhindern könne. Zahlreiche Beschwerden über die Absender hätten nicht gefruchtet. Als Beispiel nennt die Klage ein unverlangt erhaltenes Video, das drei Person beim Geschlechtsverkehr zeigen soll. Auf die Meldung habe Meta geantwortet, keine Verletzung der Nutzungsbedingungen festgestellt zu haben.

Ein weiteres Profil der Ermittler stellte eine "Schulkollegin" des ersten Mädchens dar, ebenfalls mit falschem Geburtsdatum eingerichtet, aber offensichtlich nicht so alt. Noch bevor dieses Konto für Suchen genutzt oder mit Facebook-Freunden vernetzt worden sei, habe Facebook überwiegend sexuell geladene Inhalte vorgeschlagen.

Klageschrift ist schwere Lektüre

Die Klage spricht von Hinführung zu Masturbationsgruppen, Nacktfotos, und sogar Kinderpornografie. Bei Letzterer habe Meta Werbung unter anderem für Matratzen, eine große Tageszeitung und ein führendes Online-Kaufhaus platziert – und den Besuch von OnlyFans vorgeschlagen.

Auf über 200 Seiten stellt die Klage noch weitere einschlägige Fallstudien von Facebook-Profilen vor und zeigt zahlreiche unzweideutige Screenshots. Das Ministerium gibt an, auf die schlimmsten Bilder verzichtet zu haben. Dennoch kann heise online die Lektüre dieser Klageschrift ausnahmsweise nicht empfehlen, das Risiko negativer Folgewirkungen ist hoch.

Auch bezüglich Instagram schildert die Klage eine Plattform voller Kinderpornografie und Anbahnung einschlägiger "geschäftlicher" Kontakte, ohne wirksame Gegenmaßnahmen des Betreibers. Dessen Algorithmen würden die Szene sogar noch tatkräftig unterstützen.

Hinzu kommt der Vorwurf, dass Metas Algorithmen und andere Maßnahmen bewusst bei Jugendlichen Suchtverhalten fördern würden. Aus internen Unterlagen Metas zitiert die Klage, dass 13- und 14-Jährige die wertvollsten User seien; bis zu 270 Dollar dürfe die Anwerbung solcher Nutzer kosten. Zudem habe sich Meta ausführlich Abläufe in Gehirnen junger Menschen und die Ausnutzung dieser Funktionen zur Steigerung der Nutzungsdauer auf Meta-Plattformen erforscht.

Bleibe ein User fern, locke Meta ihn mit Push-Nachrichten zurück. Ein weiterer Trick seien Inhalte, die nach kurzer Zeit wieder verschwinden. Die löse Angst aus, etwas zu verpassen (Fear of Missing Out, FOMO) – besonders bei Heranwachsenden. Auch automatisch anlaufende Videos führe speziell bei jungen Nutzern zu Suchtverhalten. Schädlich für das Selbstbewusstsein junger Menschen seien außerdem die Filter, die Bilder einem angeblichen Schönheitsideal näher bringen, aber eben nicht der Wirklichkeit entsprechen. All das sei Meta längst bewusst. In dieses Horn stößt auch die ehemalige Meta-Managerin Frances Haugen. Sie bezeichnet Facebook als "nicht kompatibel mit Demokratie" [4].

Riesiger Sumpf

"Kindesmissbrauch ist ein Horrorverbrechen und Täter sind zielstrebige Verbrecher", reagierte ein Meta-Sprecher gegenüber heise online, "Wir nutzen hoch entwickelte Technik, stellen Experten für Kindersicherheit ein, melden Inhalte an das National Center for Missing and Exploited Children, und teilen Informationen und Werkzeuge mit anderen Unternehmen sowie Behörden, darunter Justizministerien, um Täter auszuheben."

Das Ausmaß des Problems ist enorm, bestätigt der Datenkonzern: "In nur einem Monat (August, Anmerkung) haben wir mehr als eine halbe Million Konten wegen Verletzungen unserer Kindersicherheitsrichtlinien stillgelegt." Im 3. Quartal hat Meta nach eigenen Angaben 7,6 Millionen Meldungen an das National Center for Missing and Exploited Children erstattet, darunter 56.000 über unangebrachte Interaktionen von Meta-Usern mit Kindern.

Seit 1. Juli habe Meta mehr als 16.000 Facebook-Gruppen stillgelegt und 190.000 Gruppen aus Suchergebnissen verbannt. Es habe die Algorithmen für das Aufspüren verdächtiger Profile sowie zur Identifikation von Geräten verbessert; Letzteres soll einem einmal verbannten User erschweren, einfach ein neues Profil anzulegen. Meta gibt an, seit Juli nicht weniger als 250.000 Geräte von Instagram ausgesperrt zu haben, wegen Gefährdung der Sicherheit von Kindern.

Die juristische Seite

Die juristischen Vorwürfe der Klage des Staates New Mexico lauten auf unlautere Geschäftspraktiken sowie Erregung öffentlicher Ärgernis. Gefordert werden Unterlassungsverfügungen, Abschöpfung von Gewinn und Daten, Ersatz der Gerichtskosten, Ersatz der Kosten der Ermittlungen, und bis zu 5.000 US-Dollar Strafe für jede einzelne Verwirklichung einer unlauteren Geschäftspraxis.

Anhängig ist das Verfahren seit Dienstagabend (Ortszeit) am ersten Gerichtsbezirk im County of Santa Fe in New Mexico. Es heißt State of New Mexico v Meta Platforms, Mark Zuckerberg et al. Das Aktenzeichen lautet D-101-CV-2023-02838.

(ds [5])

URL dieses Artikels:
https://www.heise.de/-9566710

Links in diesem Artikel:
[1] https://www.heise.de/thema/Meta-Platforms
[2] https://www.nmag.gov/attorney-general-raul-torrez-files-lawsuit-against-meta-platforms-and-mark-zuckerberg-to-protect-children-from-sexual-abuse-and-human-trafficking/
[3] https://www.heise.de/news/Instagram-Keine-Schranken-fuer-dubiose-Konten-die-Kindern-folgen-9542816.html
[4] https://www.heise.de/news/Frances-Haugen-Facebook-nicht-kompatibel-mit-Demokratie-6209737.html
[5] mailto:ds@heise.de

Copyright © 2023 Heise Medien