Schockierende Gewalt: Facebook soll Hass in Indien unzureichend bekämpft haben

Facebook steht wegen neuer Enthüllungen über den Umgang mit Hasskommentaren, Gewaltaufrufen und anderer Inhalte mit sozialem Sprengstoff am Pranger. Diesmal geht es vor allem um Indien, den größten Markt für den US-Konzern mit rund 340 Millionen Nutzern des sozialen Netzwerks sowie fast 400 Millionen Usern des zugehörigen Messaging-Dienstes WhatsApp.

Laut Berichten von US-Medien und Nachrichtenagenturen hat es das Unternehmen dort trotz interner Warnungen unterlassen, gegen den schädlichen Content auf seinen indischen Plattformen angemessen vorzugehen. Den Meldungen zufolge stellten Facebook-Mitarbeiter in Indien einen starken Anstieg etwa von Gerüchten und Anstiftungen zu Gewalt von Dezember 2019 an fest.

Besonders dramatisch soll es auf WhatsApp im Februar vorigen Jahres zugegangen sein, als bei gewalttätigen Zusammenstößen zwischen Hindus und Muslimen auf dem Subkontinent viele Menschen starben. Der Plattformbetreiber habe daraufhin Dutzende eigene Analysten in das Land geschickt, um Nutzer über ihre Erfahrungen mit algorithmischen Empfehlungen zu befragen.

Schon im Februar 2019 hatte ein Facebook-Forscher ein Konto für ein neues Mitglied angelegt, um herauszufinden, wie sich die Nutzung des Netzwerks für jemand anfühlt, der in der indischen Stadt Kerala lebt. Die New York Times erläutert das Experiment. Das Konto beherzigte demnach eine einfache Regel: "Befolgen Sie alle von den Facebook-Algorithmen generierten Empfehlungen, um Gruppen beizutreten, Videos anzusehen und neue Seiten auf der Website zu erkunden.

Facebook zeigt Bilder von Verstorbenen

"Das Ergebnis war laut einem internen, noch im selben Monat erstellten Bericht "schockierend": Er habe "in den letzten drei Wochen mehr Bilder von toten Menschen gesehen als in meinem gesamten Leben", schrieb der Analyst. "Der News Feed des Testnutzers ist zu einer nahezu konstanten Flut von polarisierenden nationalistischen Inhalten, Falschinformationen sowie Gewalt und Blutvergießen geworden."

Die Akten zeigen den Berichten zufolge, dass sich Facebook der Probleme seit Jahren bewusst ist. Kritiker monieren, das Unternehmen habe zu wenig dagegen getan, insbesondere in Fällen, in denen Mitglieder der Regierungspartei von Premierminister Narendra Modi involviert gewesen seien. Vor allem anti-muslimische Propaganda von Hindus habe sich so nahezu ungehindert über die Plattformen verbreiten können.

Aus den Dokumenten soll hervorgehen, dass der kalifornische Konzern Indien als eines der "gefährdetsten Länder" der Welt angesehen und Hindi sowie Bengali als Prioritäten für die Automatisierung bei der Suche nach Verstößen gegen die Gemeinschaftsregeln über feindselige Äußerungen identifiziert gehabt habe.

Zu wenig Moderatoren

Dennoch seien nicht genügend Moderatoren in der Landessprache oder eine ausreichende Kennzeichnung von Inhalten vorhanden gewesen, um Fehlinformationen zu verhindern. Die internen Papiere sind Teil einer größeren Materialsammlung unter dem Titel "The Facebook Papers". Sie stammen von Frances Haugen, einer Ex-Produktmanagerin des Unternehmens, die vor Kurzem als Whistleblowerin an die Öffentlichkeit ging.

Hinweise auf Indien fanden sich laut den Meldungen an mehreren Stellen in den Dokumenten, die Haugen Anfang des Monats in einer Beschwerde bei der US-Börsenaufsicht SEC eingereicht hatte. 87 Prozent des globalen Budgets von Facebook für die Klassifizierung von Desinformation sind demnach für die USA bestimmt, nur 13 Prozent für den Rest der Welt.

Ein Firmensprecher hielt dagegen, dass die Zahlen nicht die Partner für Faktenchecks umfassten, von denen die meisten außerhalb der USA säßen. Facebook habe viel Geld in Technologien investiert, um Hassrede in verschiedenen Sprachen zu finden, darunter Hindi und Bengali. Der Betreiber habe die Menge einschlägiger Inhalte, die Menschen weltweit sehen, in diesem Jahr um die Hälfte reduziert.

(mack)