Chat-Roboter schützt Kinder

Forscher an der University of Lancaster arbeiten an einer Software, die bei Online-Plaudereien Erwachsene automatisch erkennen soll, die jungen Nutzern gefährlich werden könnten.

Das sogenannte Grooming, bei dem Pädophile Kinder via Online-Chat kontaktieren, langsam ihr Vertrauen erschleichen und sie nach einiger Zeit in der realen Welt missbrauchen, ist ein Albtraum für jeden Vater und jede Mutter. Dagegen wirklich wehren kann man sich nur, indem man genau auf das Internet-Verhalten des eigenen Nachwuchses achtet und ihm einschärft, dass im Netz auch echte Gefahren lauern. Aber selbst dann kann es vorkommen, dass ein Täter sich an Kinder heranmacht - etwa, indem er sich selbst als gleichaltrig ausgibt.

Wissenschaftler an der University of Lancaster wollen dieses Problem nun mit einer speziellen Software entschärfen, die Chats überwachen und falsche Freunde identifizieren kann. Die Idee: Mit Algorithmen aus der Künstlichen Intelligenz sollen die Eingaben des Gegenübers analysiert werden, um herauszufinden, ob es sich tatsächlich um ein Kind oder um einen Erwachsenen handelt, der seine digitale Identität nur vortäuscht. Ein entsprechender Chat-Roboter würde dann bei Anbietern von Online-Plaudereien automatisch mitlaufen.

Bei einem Versuch an einer Schule in Nordwestengland, der sich über mehrere Monate hinzog, konnten die Forscher um den Informatikprofessor Awais Rashid demonstrieren, dass ihr Ansatz funktioniert. Ihr Textanalyseverfahren erreichte eine Fehlerquote von nur 10 Prozent. In 90 Prozent aller Fälle schlug die "Project Isis" genannte Software korrekt an, wenn sich ein Erwachsener vor der Tastatur befand. Dabei wurden Sprachmuster in einer Datenbank mit den Eingaben abgeglichen und diese einer stilistischen Analyse unterzogen.

Noch ist Project Isis nicht für den kommerziellen Betrieb bereit - die Forscher um Rashid hoffen aber, ihre Software im nächsten Jahr zunächst britischen Fahndern übergeben zu können, die sie dann zur Jagd auf Triebtäter einsetzen sollen. Aktuell ist die Technik nur auf Englisch verfügbar, den Wissenschaftlern zufolge sei eine Umstellung auf andere Sprachen jedoch grundsätzlich recht einfach. Auch eine Unterscheidung zwischen Mann und Frau soll möglich werden.

Der Bedarf für Project Isis ist vorhanden: Laut Rashid fällt es selbst 17jährigen im Chat schwer, Erwachsene von Gleichaltrigen zu unterscheiden. Die Software könne wesentlich zuverlässiger arbeiten als der Mensch. Die Sprachmusteranalyse wird dadurch verkompliziert, dass es sehr unterschiedliche Schreibstile gibt - dies lässt sich nur durch umfangreiches maschinelles Lernen abfangen. Je umfangreicher die Datenbank zum Abgleich, desto zuverlässiger arbeitet die Software.

Neben der Erkennungssoftware arbeiten Rashid und Forschungskollegen an den Universitäten Middlesex und Swansea auch noch an Überwachungsverfahren zum Aufspüren von Kinderpornografie im Netz. Rashid betont, dass diese Entwicklungen den Datenschutz der Nutzer ebenso berücksichtigen sollen wie der Chat-Roboter. (bsc)