„Wir sind grottenschlecht im Umgang mit Hate Speech und Trollen – und das seit Jahren“, sagte der ehemalige Twitter-Chef Dick Costolo vor zwei Jahren. Seitdem hat sich nicht viel getan, denn Trolle und Hate Speech zu erkennen ist bei großen Plattformen wie Twitter schwierig. Mit einem „Bag of Communities“ soll die maschinelle Erkennung schneller und einfacher werden (DOI: 10.1145/3025453.3026018).

Um eine Datenbasis für Hass-Postings zu gewinnen, analysierten sie besonders gut (MetaFilter) und besonders schlecht moderierte Foren (4chan). Die häufigsten Wörter wurden analysiert und untereinander verknüpft, um den Kontext des jeweiligen Posts zu berücksichtigen. Wer den Algorithmus im eigenen Forum einsetzen möchte, kann auf die Daten der Forscher zurückgreifen. Der Algorithmus erkennt Ähnlichkeiten in der Wortwahl und ordnet sie näher bei 4chan oder MetaFilter ein. Die Posts, die einen gewählten Schwellenwert überschreiten, können gelöscht werden. Der Algorithmus erkennt in diesem Modus 77 Prozent aller Posts, die auch ein menschlicher Moderator gelöscht hätte, zwei Prozentpunkte sind falsche Positivmeldungen. Wenn der Algorithmus auf das Forum trainiert wird, erkennt er 95 Prozent aller zu löschenden Posts, drei Prozentpunkte davon falsch. MARCO LEHNER

Die Router von mehr als einer Million Telekom-Kunden waren im vergangenen November betroffen, als ein Hacker eine Sicherheitslücke ausnutzte und die Geräte lahmlegte. Um künftig Angriffe wie diese zu vermeiden, soll Hilfe vom kürzlich gegründeten Unternehmen Code Intelligence kommen. Die Firma ist eine Ausgründung der Universität Bonn und hat ein Analysetool entwickelt, das die Firmware vernetzter Geräte wie Router oder Komponenten eines Smart Homes automatisch nach Schwachstellen untersucht.

Da die Firmware in der Regel nur in binärer Maschinensprache vorliegt, ist sie selbst für geübte Programmierer nicht direkt lesbar. Entsprechend aufwendig ist die Suche nach Sicherheitslücken.

Die Bonner Informatiker haben nun eine Software entwickelt, die den binären Code in einen grafischen „Entscheidungsbaum“ überführen kann. Dieser stellt dar, wie das Programm auf welche Eingaben und Befehle reagiert. Parallel dazu haben sie auch die in einer öffentlichen Datenbank gesammelten bekannten Sicherheitslücken in Form von Entscheidungsbäumen dargestellt. Findet sich mittels Maschinenlern-Algorithmen eine Übereinstimmung in den Datenbanken, steckt die Sicherheitslücke mit hoher Wahrscheinlichkeit auch in der untersuchten Firmware. Einen Pilotkunden haben die Bonner bereits: die Deutsche Telekom. JENNIFER LEPIEs

Sich selbst 20 Jahre älter oder jünger machen, das Geschlecht wechseln oder einfach mal zum Lachen bringen – was im echten Leben gar nicht so leicht ist, schafft FaceApp in Sekunden.

FaceApp benutzt eine nicht genauer beschriebene künstliche Intelligenz, um Gesichter zu verändern. Dabei kann aus verschiedenen Filtern ausgewählt werden, die das Gesicht der Person älter, jünger, weiblicher oder männlicher wirken lassen. Auch bei verschiedenen Blickwinkeln der Fotos funktioniert das sehr gut und bringt teils witzige Ergebnisse: Mein jüngeres Ich, geschätzt etwa zwölf Jahre alt, hat immer noch einen Schnurrbart, wirkt nur sehr weich und hell. Mein älteres Ich mit seiner etwas angegrauten, ledernen Haut könnte dagegen ganz realistisch sein – zumindest wenn ich nicht bald aufhöre zu rauchen.

Schwierigkeiten hat die KI allerdings noch mit dem Wechseln der Geschlechter. Das Gesicht sieht eher nach Maske aus, manchmal sind noch deutliche Fragmente der Bildverarbeitung zu erkennen, wie ein buntes Kachelmuster. Diese Funktion ist nur in niedriger Auflösung als Collage verfügbar.

Die App hat zu Beginn einen hohen Spaßfaktor – wenn man dann alle Filter auf sich und ein paar Freunde angewendet hat, lässt der Spaß aber schnell nach. Man erkennt, dass die veränderten Fotos sich unabhängig von der Person ähneln, und deinstalliert die App wieder. Für einen ersten Lacher ist sie aber allemal gut. MARCO LEHNER