Troll-Abwehr: Chrome-Erweiterung filtert dumme Kommentare in sozialen Medien
Die Alphabet-Tochter Jigsaw will mit einer Browsererweiterung ausfällige Online-Kommentare auf Wunsch ausblenden – abgestuft und derzeit noch experimentell.
In Stein gemeißelt: Trolle
(Bild: Efraimstochter, gemeinfrei)
Wer sich in den sozialen Medien umtut, stößt unvermeidlich auf rüpelhafte, verletzende und einfach nur dumme Kommentare, die einem so manche Diskussion verleiden. Neben den Äußerungen solcher sogenannter Trolle, die vermutlich vor allem provozieren wollen, gehen andere lesenswerte Debattenbeiträge unter. Eine Erweiterung für den Chrome-Browser will nun versuchen, derartige Kommentare auf großen Social-Media-Plattformen auszublenden – in einem vom Benutzer einstellbaren Ausmaß.
Für englische Kommentare
Die Chrome-Erweiterung Tune stammt vom Technologieunternehmen Jigsaw, das zu Googles Dachgesellschaft Alphabet gehört. Sie kann provokante Kommentare auf mehreren großen Plattformen herausfiltern, darunter YouTube, Facebook, Twitter, Reddit und Disqus. Das funktioniert abgestuft bei englischen Kommentaren: Mit einem an einen Lautstärkeregler angelehnten Drehknopf stellt der Benutzer das Filterniveau ein, vom kompletten Ausblenden aller Kommentare (dem "Zen-Modus") über "mittel", "laut" und "plärrend" bis hin zum Abschalten des Filters.
Für nicht-englischsprachige Kommentare steht nur das Aus- und Abschalten aller Diskussionsbeiträge zur Verfügung. Tune benutzt für das Erkennen der fraglichen Äußerungen maschinelles Lernen auf KI-Basis mit der von Jigsaw entwickelten Perspective-API. Tune ist Teil des Forschungsprojekts Conversational-AI, das Online-Diskussionen mit maschinellem Lernen untersucht. Die Erweiterung benötigt laut FAQ zwar ein Login für den Zugriff auf die Perspective-API, soll aber keine Daten über das Surf-Verhalten speichern oder mit dem Login verknüpfen.
Im Internet herrscht ein rauer Ton: Es wird beschimpft, beleidigt und gezielt gelogen. Laut einer Studie stößt das aber auf nahezu einhellige Ablehnung.
Rückmeldungen erwünscht
Derzeit ist Tune noch im Experimentierstadium und verrichtet seine Arbeit nicht zuverlässig, weil das dahinter stehende Machine-Learning-Modell experimentell sei. Die Entwickler verweisen darauf, dass manchmal unerwünschte Kommentare nicht gefiltert und dagegen andere, unverdächtige zu unrecht ausgeblendet werden. Sie arbeiten nach eigener Aussage jedoch daran, die zugrundeliegenden Algorithmen zu verbessern und wünschen sich Rückmeldung von den Benutzern der Browser-Erweiterung. Tune ist vollständig Open-Source-Software und steht bei GitHub bereit.
Außerdem merken die Jigsaw-Entwickler an, dass ihr Tool keine Lösung für das Problem der Online-Belästigung darstellt und auch kein Mittel im Kampf gegen das Trollen ist. Tune sei vielmehr ein Experiment, mit dem Leser von Online-Kommentaren Interesse an Diskussionen zurückgewinnen könnten (und sich vielleicht auch selbst daran beteiligen), die ihnen durch den abschreckenden Debattenton verleidet wurden.
(tiw)
