Facebook will mit Maschinenlern-System gefälschte Konten identifizieren
Fake-Profile sind ein großes Problem bei sozialen Medien. Als Gegenmaßnahme hat Facebook ein System entwickelt, das die Authentizität von Nutzern bewertet.
(Bild: Ms Tech)
- Sascha Mattke
Vor der US-Präsidentschaftswahl im Herbst herrscht große Sorge vor Manipulationsversuchen durch den Missbrauch von sozialen Medien. In diesem Umfeld, aber nach eigener Aussage nicht in einem direkten Zusammenhang, hat Facebook jetzt über ein neues System zur Bekämpfung von Fake-Konten bei dem Dienst informiert: Mit Hilfe von Maschinenlernen soll es "tiefe" Merkmale von Accounts bestimmen und auf dieser Grundlage echte von falschen unterscheiden. Das berichtet Technology Review online in "Maschinenlernen gegen Fake-Konten".
Um Fake-Accounts möglichst schon beim Anlegen zu erkennen, also bevor sie Schaden anrichten können, nutzt Facebook eine Kombination aus per Hand geschriebenen Regeln und Maschinenlernen. Wenn ein solches Konto erst einmal aktiv ist, wird die Erkennung deutlich schwieriger. An dieser Stelle kommt das neue Maschinenlern-System ins Spiel, das als Deep Entity Classification (DEC) bezeichnet wird: Es lernt, echte von falschen Nutzern zu unterscheiden, indem es ihre Verbindungsmuster in dem Netzwerk analysiert. Diese werden als "tiefe Merkmale" bezeichnet, zu denen unter anderem das durchschnittliche Alter oder die Geschlechter-Verteilung bei den Freunden eines Nutzers zählen.
Das System beginnt seine Arbeit mit einer großen Zahl von maschinengenerierten Kennzeichnungen mit niedriger Präzision. Diese entstehen durch eine Mischung aus Regeln und anderen Maschinenlern-Modellen zur Bewertung der Echtheit von Nutzern. Dann werden die Daten für das Training eines neuronalen Netzes verwendet, und das Modell wird mit einer kleinen Zahl von sehr präzisen Daten weiter optimiert; diese stammen von Menschen rund um die Welt, die mit den jeweiligen kulturellen Normen vertraut sind. Seit der Einführung von DEC konnte Facebook den Anteil von Fake-Konten auf der Plattform nach eigenen Angaben auf 5 Prozent der aktiven monatlichen Nutzer begrenzen.
Mehr dazu bei Technology Review online:
(sma)
