Programm findet Hass-Tweets selbstständig und sofort

Zur automatischen Erkennung deutschsprachiger Hass-Tweets haben Forscher der Universitäten Hildesheim und Antwerpen gemeinsam eine Lösung entwickelt. Ihr Programm spürt hetzerische Wörter und Wortkombinationen in Echtzeit auf.

Zwar habe Twitter bereits Hunderttausende Accounts geblockt, von denen zu Hass und Gewalt aufgerufen wurde, der Großteil davon aber aus dem englischsprachigen Raum, wie die Wissenschaftler in ihrer Pressemitteilung berichten. Aber auch in Deutschland sind soziale Plattformen gezwungen, Hassbotschaften binnen 24 Stunden nach dem Erscheinen zu löschen.

Künstliche Intelligenz deckt Sprachbilder auf

Der Algorithmus des Antwerpener Sprachtechnologen Tom De Smedt der Forschergruppe Computerlinguistik und der Medienlinguistin Sylvia Jaki vom Hildesheimer Institut für Übersetzungswissenschaft geht in Echtzeit durch den Strom der Twitter-Meldungen. Deutsche Hasskommentare richten sich nach den Ergebnissen der Forscher häufig gegen Flüchtlinge aus Afrika, Muslime, Juden, Obdachlose, sogenannte Gutmenschen, Gefährder, Kriminelle und Linksextremisten, beziehungsweise gegen Menschen, die dafür gehalten werden.

Typisch für die Kommentare sind Ausdrücke der Gewalt wie schlagen, schießen, überfallen, bekämpfen, Widerstand sowie Beschimpfungen mit abwertenden Begriffen. "Unsere Software lernt selbstständig, Hasskommentare aufzuspüren, und kann auch mit der Tatsache umgehen, dass sich die Sprache des Hasses schnell verändert", sagte De Smedt.

Dabei setzt die Software auf Künstliche Intelligenz und bezieht auch den Rahmen der benutzten Sprachbilder mit ein, benutzte Smileys oder auch Kommentare zum jeweiligen Tweet. De Smedt hatte vorher bereits ein Programm zum Erkennen dschihadistischer Inhalte im Internet entwickelt.

Trefferquote bei 80 Prozent

"Wir haben unser Programm bereits getestet: In 80 Prozent der Fälle liegt es richtig." Eine Zusammenarbeit mit den deutschen Behörden können sich die Forscher, die derzeit an der Publikation ihrer Ergebnisse arbeiten, gut vorstellen. Allerdings gebe es in der EU noch keine rechtsgültige Definition, was genau unter Hate Speech zu verstehen ist.

Das neue Softwareprogramm ist ein Teilergebnis einer Gesamtstudie der beteiligten Sprachwissenschaftler, die das Sprachverhalten in der Politik untersuchen. "Um Hasssprache zu entlarven, genügt es nicht, allein auf den sprachlichen Inhalt zu schauen. Man muss auch die Körpersprache beachten sowie das ganze Umfeld bis hin zu den Reaktionen der Wähler", unterstreicht die Linguistin Jaki. (agr)