Social Media: FIFA hat mit KI 306 Hetzer gegen WM-Spieler identifiziert

Während der Fußball-Weltmeisterschaft in Katar Ende 2022 hat die FIFA erstmals den gemeinsam mit der Profispieler-Vereinigung FIFPRO konzipierten Social Media Protection Service (SMPS) bei einem großen Turnier eingesetzt und am gestrigen Tag der Vereinten Nationen gegen Hassrede einen Ergebnisbericht publiziert.

Der automatisierte Dienst zum Schutz vor Anfeindungen in den sozialen Medien scannte demnach während der WM über 20 Millionen Posts und Kommentare auf Facebook, Instagram, TikTok, Twitter und YouTube. Mithilfe Künstlicher Intelligenz (KI) seien dabei 433.696 beleidigende Kommentare gekennzeichnet worden. Nach einer zusätzlichen, zweistufigen menschlichen Kontrolle wertete der SMPS-Betreiber schließlich 19.636 Posts und Kommentare als missbräuchlich, diskriminierend oder einschüchternd.

Dem Dienstleister gelang es laut dem Bericht mit dem Verfahren, die Identität von 306 Personen auszumachen und zu bestätigen, die Beiträge auf den großen Plattformen teilten. Der Fußballverbund erklärte dazu: "Die entsprechenden Informationen werden an die jeweiligen FIFA-Mitgliedsverbände sowie die zuständigen Strafverfolgungsbehörden weitergeleitet, damit diese gegen die Täter vorgehen können." FIFA-Präsident Gianni Infantino betonte: "Diskriminierung ist ein krimineller Akt. Mit Hilfe dieses Tools identifizieren wir die Täter und zeigen sie bei den Behörden an, damit sie für ihr Handeln bestraft werden." Der Fußballfunktionär brachte auch die Erwartung zum Ausdruck, dass die Plattformbetreiber "ihre Verantwortung wahrnehmen und uns im Kampf gegen alle Formen von Diskriminierung unterstützen".

Meiste Beleidigungen beim Viertelfinale

Die höchste Zahl an Online-Beleidigungen verzeichnete der SMPS während des Viertelfinales zwischen England und Frankreich. 38 Prozent der ausmachten Beiträge mit Hass und Hetze stammten von Konten mit Sitz in Europa, 36 Prozent aus Südamerika. Profile aus Asien steuerten 10 Prozent bei, Nutzer aus Nord- und Zentralamerika sowie aus Afrika jeweils 8 Prozent. Alle knapp 20.000 verdächtigen Posts und Kommentare meldete die FIFA direkt den Plattformbetreibern als Verstoß gegen deren Community-Richtlinien. Daraufhin seien diese "oftmals" entfernt worden.

Twitter verzeichnete den Resultaten zufolge mit Abstand die höchste Menge an identifizierten gezielten missbräuchlichen Inhalten (13.105): Fast ein Viertel der Beiträge (23 Prozent) habe der Dienst im Anschluss gelöscht. Instagram landete mit 5.370 Meldungen auf Rang 2. Die erste Reaktion der Konzernmutter Meta auf direkte Eingaben sei oft nur eine automatisierte Bestätigung gewesen, heißt es: "Aufgrund der großen Menge an Berichten, die wir erhalten, war unser Prüfteam nicht in der Lage, Ihren Hinweis zu überprüfen." Generell wiesen die Löschpraktiken immer noch erhebliche blinde Flecken auf: "Während englischsprachiger Rassismus zu höheren Löschraten führte, blieben offenkundiger Rassismus oder Homophobie in anderen Sprachen länger online."

Großteil automatisch gefiltert

Die Teams und Spieler des Turniers "hatten zudem Zugang zu einer Moderationssoftware, mit der beleidigende Kommentare inklusive Spam sofort und automatisch von ihren Seiten ausgeblendet werden konnten", erklärt die FIFA ohne Angabe technischer Details. So seien 286.895 Kommentare bereits vor einer Veröffentlichung gestoppt worden, "ehe die Zielperson oder ihre Follower den Inhalt sehen konnten". Dies betraf fast ausschließlich Facebook und Instagram. Der SMPS soll auch bei im Juli startenden Frauen-WM in Australien und Neuseeland eingesetzt werden. Mehrere Teams haben laut FIFA schon zugesichert, die Moderationsfunktion zu nutzen, "um die Sichtbarkeit von Online-Beleidigungen sofort und automatisch zu limitieren".

(mack)