Jugendschutz: Wie Apples Nacktfilter in iMessage arbeitet

Scans nach Missbrauchsbildern in der iCloud sind zwar vom Tisch. Doch Apple hat den Jugendschutz nicht aufgegeben: In iMessage gibt es Filter. So arbeiten sie.

Artikel verschenken
In Pocket speichern vorlesen Druckansicht 9 Kommentare lesen
,
Lesezeit: 9 Min.
Inhaltsverzeichnis

Ohne großes Brimborium hat Apple die Funktion "Kommunikationssicherheit" mit iOS 16 und macOS 13 Ven-tura auch in Deutschland eingeführt, die auf Nacktfotos in der Nachrichten-App von Kindern automatisch unscharf zeichnet und somit unkenntlich macht. In den USA wird sie schon seit iOS 15.2, iPadOS 15.2 und macOS Monterrey 12.1 angeboten.

Mehr zu iPhone und iOS 16

Sie soll, anders als der in der Öffentlichkeit vorab heftig kritisierte und dann wieder verworfene CSAM-Scan, nicht bereits bekannte Fotos von Kindesmissbrauch erkennen, sondern generell vor Nacktbildern warnen. Apple hofft, Kinder so vor Cybergrooming – dem bewussten Ansprechen im Internet mit dem Ziel der Anbahnung sexueller Kontakte – und generell vor Missbrauch zu schützen.

Laut Apple bleibt die Kommunikation über iMessage weiterhin verschlüsselt, Fotos und Nachrichten werden nicht an Server übertragen. Die Analyse findet auf dem Gerät statt und ähnelt somit der Objekt-, Szenen- und Gesichtserkennung der Fotos-App, welche die Mediathek via KI durchforstet und etwa Häuser, Autos, Katzen oder Gesichter von Freunden findet, wenn der Nutzer danach sucht (siehe Mac & i Heft 5/2017, S. 148).