Studie: Meta vernachlässigt Hinweise auf gefährliche Posts
Hunderte Trusted Partner melden Meta gefährliche Inhalte. Zu oft warten sie Monate auf Bearbeitung, obwohl es dringend sein kann.
(Bild: Daniel AJ Sokolov)
Facebook-Betreiber Meta Platforms vernachlässigt die Bearbeitung von Hinweisen auf gefährliche Inhalte. Diesen Vorwurf erhebt eine Studie der gemeinnützigen Organisation Internews. Dabei geht es nicht um Hinweise von irgendwem, sondern von durch Meta ausgesuchte Experten, die freiwillig Metas Sicherheitsbemühungen unterstützen.
Dafür hat der Datenkonzern ein "Trusted Partner program" ins Leben gerufen und dafür 645 Organisation aus 122 Ländern gewonnen. Sie kennen regionale Gegebenheiten, sprechen viele Sprachen und Dialekte die bei Meta niemand versteht, erkennen Idiome und gefährliche Trends und sollen Metas Zensoren neue Perspektiven eröffnen – unbezahlt. Oft geht es um Leben oder Tod.
Durchschnittlich zirka 33 Meldungen haben diese Experten pro Tag erstattet, über einen eigens dafür eingerichteten Kommunikationskanal. Unter den Meldungen sind beispielsweise Hinweise auf Morddrohungen, gehackte Konten, Identitätsanmaßung, Pornografie, Sperren der Konten von Geiseln oder Inhaftierten, Hassrede oder die Organisation von Gewalttaten. Zusätzlich zum Trusted Partner Program hat Meta noch weitere Kanäle zur Entgegennahme von Hinweise, etwa von ausgesuchte Menschenrechtsexperten oder von Behörden.
Probleme von Anfang an
Internews ist seit 2018 Trusted Partner und berichtet, dass die erstatteten Meldungen seit jeher schleppend und intransparent bearbeitet würden. Vergleichbare Meldungen würden manchmal noch am selben Tag, meistens aber erst nach Wochen oder Monaten. Manchmal erfolge eine Reaktion erst nach acht Monaten, ohne Angabe von Gründen – wenn überhaupt. Denn auf manche Antworten warten die freiwilligen Teilnehmer noch heute.
Mit einer Ausnahme: Wenn es um die Ukraine geht, reagiert Meta in der Regel binnen dreier Tage. Dabei gibt es vergleichbare Kriege mit Vertriebenen und Desinformationskampagnen auch in anderen Ländern. Meldungen, die den Tigray-Krieg in Äthiopien betreffen, würden oft monatelang liegen bleiben.
Meta lehnt gemeinsame Evaluierung ab
Internews hat Meta eingeladen, die Probleme gemeinsam zu erörtern. Diese Einladung hat Meta 2021 angenommen, doch 2022 wieder abgesagt. Also hat Internews selbst eine Stichprobe bei fünf Prozent aller Trusted Partners erhoben. Darunter sind Teilnehmer aller Kontinente. Das Ergebnis: Metas Trusted Partner System nagt am Hungertuch. Der Konzern investiere zu wenig und stelle zu wenig Mitarbeiter ab.
Die Kommunikation verlaufe unpersönlich, oft abschreckend, und es gäbe auch technisch kein Feedback: Meta nimmt Meldungen nur von bestimmten E-Mail-Adressen entgegen, gibt aber keine Rückmeldung, wenn ein E-Mail nicht angenommen wird. Damit erfährt ein Hinweisgeber nie, ob sein Hinweis überhaupt angekommen ist.
Ein weiterer Kritikpunkt ist, dass Meta nur einen Kanal für Trusted Partner eingerichtet hat. Damit werden besonders eilige Alarmmeldungen nicht von allgemeinen Hinweisen auf gefährliche Trends unterschieden. Die Unzulänglichkeiten frustrieren die freiwillig tätigen Experten sehr; manche sind auf informelle Kanäle ausgewichen und informieren persönlich bekannte Meta-Mitarbeiter über Signal oder Whatsapp, andere haben den Hut draufgehaut. Schließlich ist das Sichten grauslicher Inhalte sehr belastend.
Meta: Stichprobe nicht repräsentativ
Meta hatte vor Veröffentlichung des Berichts Gelegenheit zur Stellungnahme. Der Konzern bedankt sich bei seinen Trusted Partnern und bestätigt deren "wechselhafte" Erfahrungen. Allerdings sei die gewählte Stichprobe von fünf Prozent der Teilnehmer nicht repräsentativ. Die Coronavirus-Pandemie trage Schuld daran, dass die Trusted Partner von 2019 bis 2021 schlechte Erfahrungen gemacht haben. Meta habe "begrenzte Kapazitäten" gehabt, diese 2022 aber aufgestockt.
Die meisten Meldungen möchte Meta binnen fünf Tagen bearbeiten, komplexe Fälle würden aber länger brauchen. Meta gibt an, an Verbesserungen zu arbeiten, sowohl bei Abläufen und technischen Systemen als auch bei Trainings und Rückmeldungen. Beispielsweise soll es in Zukunft stets automatisierte Empfangsbestätigung geben.
Die Bearbeitung der Hinweise der Trusted Partner erfolge nie automatisiert, sondern stets durch Menschen. "Mehr als 50" Mitarbeiter seien damit direkt oder indirekt befasst. Diese Darstellung kritisiert Internews als irreführend, da Meta nicht angibt, welchen Teil ihrer Arbeitszeit diese 50 Mitarbeiter zur Bearbeitung der Hinweise aufwenden.
Probleme auch bei anderen Hinweisgebern
Internews fordert mehr Ressourcen bei Meta, was schnellere Bearbeitung zeitigen soll. Ein eigenen Notfall-Kanal soll Alarme von anderen Hinweise unterscheiden helfen. Kommunikation, Transparenz, Konsultationen, designierte Ansprechpartner und Unterstützung der Koordination der Experten untereinander sind weitere Verbesserungsvorschläge.
Die freiwilligen Trusted Partner sind keineswegs die einzigen Unterstützer Metas, die über mangelhafte Reaktion und Wertschätzung klagen. Im Juni hat beispielsweise Dr. Christopher Banda, Leiter des staatlichen Malawi Computer Emergency Response Teams (mwCERT) im Gespräch mit heise online in das gleiche Horn gestoßen. Das mwCERT hat mit Facebook eine Partnerschaft geschlossen, um problematische Inhalte melden zu können. Diese würden in letzter Zeit nur noch langsam bearbeitet. Facebook setze dafür Personen in Südafrika und Kenia ein, aber "niemand dort spricht Chichewa", die größte von zahlreichen einheimischen Sprachen Malawis.
(ds)