Google-KI spürt Bilder von Kindesmissbrauch auf

Google stellt eine neue KI zur Erkennung von Darstellungen von sexuellem Kindesmissbrauch zur Verfügung. Diese neue Content Safety API kann von Nichtregierungsorganisationen und Partner-Unternehmen kostenlos genutzt werden.

Die künstliche Intelligenz der Content Safety API soll den Sichtungsprozess von Bildern und Videos beschleunigen und vereinfachen. Mit Hilfe von neuronalen Netzen für Bildverarbeitung kann die KI große Mengen an Bildern auswerten und die Fotos priorisieren, auf denen mit hoher Wahrscheinlichkeit sexueller Kindesmissbrauch abgebildet ist. Die von der KI gefundenen Dateien werden dann Mitarbeitern von Organisationen, Unternehmen oder Service-Providern zu Überprüfung vorgelegt.

KI erkennt auch neues Bildmaterial

Die Suche nach solchen Darstellungen erfolgte bislang mit Hilfe von Hash-Werten, die mit den Werten bereits bekannter Inhalte abgeglichen werden. Die Google-KI soll auch bisher unbekannte Inhalte erkennen können. Auf diese Weise könnten Kinder, die aktuell für Bild- und Videomaterial missbraucht werden, laut Google identifiziert und möglicherweise vor weiterem Missbrauch geschützt werden.

Das Google-Toolkit kann laut dem Internet-Konzern größere Mengen an Bildern und Videos sichten und gleichzeitig die Anzahl von menschlichen Prüfern verringern. Auf diese Weise würden weniger Mitarbeiter den verstörenden Inhalten ausgesetzt, erläutert Google. Weil die KI auch Bilder und Videos erkennt, die zuvor nicht als illegal gekennzeichnet wurden, soll die Erfolgsquote des Google-Tools weitaus höher sein als bei herkömmlichen Methoden.

Kostenlos für Partner-Unternehmen und Organisationen

Google arbeitet unter anderem mit der Internet Watch Foundation zusammen. Die neue Google-KI soll weiteren Organisationen und Unternehmen helfen, ihre Plattformen von derartigen Inhalten zu bereinigen und die Verbreitung einzudämmen. Interessierte Firmen und Nichtregierungsorganisationen können sich um einen Zugang zur Content Safety API bewerben (vbr)