KI hilft auf der Suche nach Hass im Netz

Künstliche Intelligenz hilft den Medienwächtern der Landesmedienstalt NRW, rechtswidrige Inhalte im Internet zu erkennen. Aktuell hat ihre Software Kivi beispielsweise im Zusammenhang mit dem Überfall der Hamas auf Israel vom 7. Oktober 570 potenziell strafbare Fälle von Hass und Hetze ausgemacht und an die EU-Kommission gemeldet, heißt es aus Düsseldorf, dem Sitz der Landesmedienanstalt. "Was wir hier seit dem Überfall der Hamas erleben, ist schon extrem", berichtete deren Direktor Tobias Schmid am Donnerstagabend. Die Landesmedienanstalt NRW koordiniert die Beobachtung bundesweit für die 14 Landesmedienanstalten und europaweit für die EU-Kommission.

Die Inhalte der inkriminierten Postings seien vor allem antisemitisch, es gebe aber auch muslimfeindliche. Die meisten potenziell strafbaren Inhalte seien bislang auf VK und Telegram entdeckt worden, in jüngster Zeit hole X (vormals Twitter) stark auf, berichtete Laura Braam, Leiterin des Aufsichtsteams. Neben der Meldung an die EU-Kommission würden die Social-Media-Plattformen aufgefordert, die illegalen Inhalte zu löschen, schreibt die Landesmedienanstalt.

Im Namen Kivi sind die Abkürzung für "Künstliche Intelligenz" und die ersten beiden Buchstaben des lateinischen Wortes vigilare kombiniert. "vigilare" bedeutet "wachsam", und so habe sich die Software auch gezeigt, teilte die Landesmedienanstalt mit. In den zwei Jahren, in denen sie Kivi nun einsetzt, habe das KI-Tool über 40.000 potenzielle Rechtsverstöße im Internet entdeckt. Täglich könne es gut 10.000 Posts bewerten und Juristen zur weiteren Prüfung vorschlagen. Über eine digitale Schnittstelle würden die Fälle an das Bundeskriminalamt weitergeleitet und in etwa der Hälfte der Fälle auch Ermittlungsverfahren eingeleitet.

"Unregulierte Dreckschleuder"

"Das BKA setzt für diesen Bereich mehr als 200 Beamte ein", sagte Schmid. Dort werde innerhalb von 14 Tagen der Täter ermittelt und die Strafverfolgung eingeleitet. NRW-Medienminister Nathanael Liminski (CDU) sagte am Donnerstag, es sei wichtig, "dass wir hier effektiv sind, damit diejenigen, die dort ihren Müll verbreiten, merken, ihnen wird auf die Füße getreten". Zur russischen Plattform VK sagte Liminski, man habe es "mit fast unregulierten Dreckschleudern zu tun".

Lesen Sie auch

KI findet tausende rechtswidrige und jugendgefährdende Inhalte im Internet

Kivi wurde ab Mitte 2020 von Condat entwickelt und basiert auf der "Smart Media Engine" des Berliner Unternehmens; ein Prototyp ging Ende 2020 in Betrieb. Das Tool sucht nach Gewaltdarstellungen, Volksverhetzung, Verwendung verfassungsfeindlicher Kennzeichen oder frei zugänglicher Pornografie. Dabei werde das Tool kontinuierlich erweitert, es lerne durch die aktive Einspeisung von Bild- und Textbeispielen täglich dazu. Die Trefferquote habe so je nach Bereich auf bis zu 90 Prozent gesteigert werden können, sagen die Berliner.

Das BKA hatte Anfang Februar 2022 die Zentrale Meldestelle für strafbare Inhalte im Internet (ZMI) eingerichtet, um die zum Beispiel von der Landesmedienstalt NRW eingehenden Meldungen aufzunehmen und weiterzuverarbeiten. Beim BKA sind vom 1. Juni 2021 bis zum 1. September dieses Jahres knapp 14.000 solcher Meldungen eingegangen.

(anw)