iOS-App "Nude" findet mittels ML Nacktbilder und versteckt sie
Die iOS-Software "Nude" soll in der Fotobibliothek nach sensiblen Aufnahmen suchen und sie dann in einen Bildtresor verschieben – dank CoreML lokal auf dem Gerät.
Alles sicher? Nude-App auf dem iPhone.
(Bild: Entwickler)
Die Entwickler der App Nude, das amerikanische Studio Hexa, nehmen den Mund recht voll: Die Software sei die "sexiest app ever", heißt es in Apples App Store. Das Tool hat eine einzige, wenn auch kitzlige Aufgabe: Menschen davor zu bewahren, beim Sexting erstellte oder erhaltene Nacktbilder aus Versehen zu veröffentlichen oder sich diese entwenden zu lassen.
Nacktbilder in Bildtresor verschieben
Dazu nutzt Nude Ansätze aus dem Bereich der künstlichen Intelligenz. Zum Durchsuchen der Fotobibliothek auf dem iPhone wird Apples seit iOS 11 verfügbares Maschinelles-Lernen-Framework CoreML verwendet. Die zwei Hauptmacher hinter Nude, Jessica Chiu und Y.C. Chen, trafen sich laut The Verge in einem Unternehmerprogramm der Universität Berkeley. Der armenische Entwickler Edgar Khanzadian war für die Umsetzung zuständig.
Nude ist auf das Auffinden von Nacktaufnahmen trainiert – momentan geht das nur bei Fotos, nicht bei Videos. Werden diese auf dem Gerät erkannt, lassen sie sich in einen Bildtresor innerhalb der Nude-App verschieben, der mittels PIN gesichert ist. Parallel soll die App auch die Fotobibliothek überwachen können und diesen Schritt im Hintergrund initiieren, was allerdings noch nicht sehr zuverlässig funktioniert. Nach dem Verschieben in den Bildtresor werden die Originalbilder gelöscht. Um Hackversuche abzuwehren, kann Nude von Eingebern fehlerhafter PINs auch gleich ein Foto mit der iPhone-Frontkamera erstellen.
CoreML oder Facebook-Algorithmus
Nude betont, dass man selbst die Bilder nicht zu Gesicht bekommt, da CoreML nur rein auf dem Gerät eingesetzt wird. Nutzt man die App unter iOS 10 oder früher, verwendet sie allerdings nicht Apple-Technik, sondern das Deep-Learning-Framework Caffe2 von Facebook – dies aber ebenfalls nur lokal. Eine Android-Version, die in Arbeit ist, soll Tensorflow verwenden.
Für das Training ihres Systems haben Chiu und Chen laut eigenen Angaben unter anderem Pornoplattformen wie PornHub verwendet und dabei 30 Millionen Bilder analysiert. Gewisse Probleme hat der Algorithmus allerdings noch – zum Beispiel mit Männerbrüsten, wie die Macher gegenüber The Verge mitteilten. (bsc)
