USA: Verhafteter Mann soll tausende Nacktbilder von Kindern KI-generiert haben
Die US-Regierung will Herstellung und Verbreitung KI-generierter Nacktbilder Minderjähriger genauso verfolgen wie bei echten Fotos. Nun gab es eine Festnahme.
(Bild: Black Salmon/Shutterstock.com)
In den USA wurde ein Mann festgenommen, der mit Stable Diffusion tausende Nacktbilder und sexualisierte Darstellungen von Kindern KI-generiert haben soll. Das teilte das US-Justizministerium mit. Damit könnte dort zum ersten Mal vor einem US-Bundesgericht geklärt werden, wie das Vorgehen unter bundesstaatlicher Gesetzgebung gehandhabt wird, ergänzt die Washington Post. Die stellvertretende US-Justizministerin Lisa Monaco jedenfalls hat schon einmal versichert, dass ihr Ministerium aggressiv all jene verfolgen werde, die Material zu Kindesmissbrauch (CSAM) produzieren und verbreiten – "unabhängig davon, wie es erschaffen wurde". Auch Darstellungen von Kindesmissbrauch, die KI-generiert sind, seien verboten und Verantwortliche würden zur Rechenschaft gezogen.
Von Instagram entdeckt
Wie das US-Justizministerium zusammenfasst, wird dem 42-jährigen Mann vorgeworfen, mit Stable Diffusion tausende "realistische Bilder vorpubertärer Minderjähriger" generiert zu haben. Viele würden die KI-generierten Kinder nackt oder nur teilweise bekleidet und in lasziven Posen beziehungsweise bei sexuellen Handlungen zeigen. Auf seinen elektronischen Geräten habe man Textanweisungen gefunden, mit denen er über 13.000 Darstellungen erstellen ließ. Außerdem soll er mit einem 15-Jährigen über Instagram kommuniziert und ihm sein Vorgehen beschrieben haben. Weil er auf diesem Weg auch einige der Bilder verschickt habe, habe der Dienst ihn gemeldet, woraufhin die Strafverfolgungsbehörden auf ihn aufmerksam wurden.
Die Festnahme erfolgt jetzt vor dem Hintergrund einer angeblich rasanten Zunahme KI-generierter Darstellungen von Kindesmissbrauch. Im Herbst hat eine britische Kinderschutzorganisation gewarnt, dass solche Bilder das Internet überfluten könnten. Teilweise würden die Darstellungen so realitätsgetreu aussehen, dass sogar trainierte Experten keinen Unterschied zu echten Fotos mehr erkennen könnten und je nach Rechtslage müssten sie deshalb wie echte Aufnahmen behandelt werden. Am schlimmsten sei, dass sich mit der jetzt verfügbaren Technik aus Fotos von echten Opfern von Kindesmissbrauch neue Bilder KI-generieren ließen. Das wird dem Mann in den USA nun wohl nicht vorgeworfen. Bei einer Verurteilung drohen ihm bis zu 70 Jahre Haft.
(mho)