Britisches Innenministerium empfiehlt KI-Software gegen Islamistenvideos
In Kooperation mit einem britischen Unternehmen wurde eine KI-Software entwickelt, die Propagandavideos aus dem Netz filtern soll. Nachdrücklich empfiehlt die Innenministerin den Einsatz vor allem für kleine Websites.
Ein Algorithmus soll IS-Propagandavideos zuverlässig etwa von Nachrichten mit ähnlichem Bildmaterial unterscheiden können.
(Bild: BBC (Screenshot aus Video))
Großbritanniens Innenministerium (Home Office) hat gemeinsam mit dem Londoner Unternehmen ASI Data Science einen Algorithmus entwickelt, der mit Hilfe von künstlicher Intelligenz Propagandavideos von Terrororganisationen wie dem Islamischen Staat (IS) zuverlässig erkennen soll. Nach Aussage des Ministeriums soll die KI dabei eine Treffsicherheit von 94 Prozent erreichen. Trainiert wurde die Software laut Herstellerangaben mit etwa 1000 Videos.
Algorithmus unterscheidet Propaganda von Nachrichten
In einem BBC-Beitrag ist zu sehen, wie zwei Videos mit ähnlichen Merkmalen (Kriegsgerät, arabische Schriftzeichen bzw. Flaggensymbole) nebeneinander laufen und die Software beide unterschiedlich bewertet: Ein Nachrichtenbeitrag von Al-Jazeera erhält einen niedrigen Wert für "Extremismuswahrscheinlichkeit" und darf ohne Prüfung online gehen.
Ein IS-Video dagegen erhält einen hohen Wert und das System schlägt eine manuelle Prüfung vor. Die Rate an falsch-positiver Erkennung soll laut Hersteller ASI bei 0,005 Prozent liegen. Für die Zusammenarbeit mit ASI bezahlte das Innenministerium 600.000 britische Pfund.
Bei der Demonstration der Software vor Reportern (im BBC-Beitrag zu sehen) wollte das Unternehmen nicht auf Details des Algorithmus und seines Einsatz eingehen. Offenbar ist die KI ausschließlich auf das Erkennen von IS-Propaganda zugeschnitten.
Rechtliche Maßnahmen nicht ausgeschlossen
Die britische Innenministerin Amber Rudd bewarb die Software bei einer Reise durchs Silicon Valley. Ziel sei vor allem, die öffentliche Präsenz und leichte Zugänglichkeit solcher Videos im Internet zu unterbinden. Demnach sollen derzeit über 1000 IS-Propagandavideos auf über 400 Websites online sein. Eine Sperre auf Google oder Facebook allein würde also kaum Wirkung zeigen.
Amber Rudd lobte Initiativen wie das Global Internet Forum to Counter Terrorism, bei der Internet-Konzerne freiwillig extremistische Inhalte im Netz bekämpfen wollen. Das reiche jedoch nicht, so die Ministerin. Mit der von ihr vorgestellten Technik könnten auch kleine Websites Inhalte filtern, und sie hoffe, dass dies auch geschehe. Sie schließe allerdings rechtliche Maßnahmen nicht aus, die Seitenbetreiber zum Einsatz zwingen würden, sollte dies nötig sein, so Rudd. (tiw)
