KI-Bikini-Bilder mit Grok: X kündigt technische Sperre an

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Elon Musks KI-Entwicklungsfirma xAI und das soziale Netzwerk X reagieren auf die anhaltende Kritik an anzüglichen KI-Bildern, die mit dem Chatbot Grok anhand von Bildern beliebiger Personen angefertigt werden konnten. In einer Mitteilung heißt es, dass ab sofort eine technologische Sperre verhindere, dass Bilder realer Personen mit Grok so bearbeitet werden können, dass diese in Bikinis oder Dessous zu sehen sind. Zudem werde die Bildgenerierung nur noch zahlenden Nutzern zur Verfügung stehen.

Bislang scheint diese Sperre aber nicht vollständig zu greifen. Auch nach der Ankündigung reagierte der Chatbot auf entsprechende Nutzeranfragen, so etwa einen Tag danach im Falle des britischen Premierministers Keir Starmer, der von Grok auf Anfrage eines Nutzers im Bikini dargestellt wird.

Musks Reaktion

Dass X überhaupt reagiert, ist gleichwohl bemerkenswert. Elon Musk hatte am Mittwoch noch in einem X-Post betont, dass der Chatbot solche Darstellungen nicht aus sich heraus erzeuge, sondern damit nur auf Nutzeranfragen reagiere. Auch bestritt er jede Kenntnis davon, dass Grok verwendet wurde, um auch Nacktbilder von Minderjährigen mittels der KI anzufertigen – einer der zentralen Vorwürfe in der anhaltenden Debatte. Musk erklärte in seinem X-Post aber auch, dass Grok grundsätzlich die Gesetze der jeweiligen Länder achte und bei einem „Angriff auf die Grok-Prompts“ entsprechend mit Fehlerbehebungen reagiert werde.

Dazu, dass Grok aber von Erwachsenen anzügliche Darstellungen erstellt, sagte Musk selbst nichts. In der Mitteilung von X wird jetzt hingegen auch eine Null-Toleranz-Strategie gegenüber nicht einvernehmlicher Nacktheit und unerwünschten sexuellen Inhalten erwähnt. Man ergreife Maßnahmen, um Inhalte, die gegen diese Regeln verstoßen, zu entfernen und gehe gegen die Konten vor, von denen dies ausgehe, heißt es darin. Im Falle von sexueller Ausbeutung von Kindern würden erforderlichenfalls sogar die Strafverfolgungsbehörden eingeschaltet. Zusätzlich zur technischen Sperre der Chatbot-Funktion wurde zudem ein Geoblocking angekündigt, um Staaten auszunehmen, in denen solche Deepfakes grundsätzlich verboten sind.

Staaten ergriffen Maßnahmen

Zuletzt hatten weltweit immer mehr Länder Maßnahmen ergriffen oder angekündigt. Malaysia sperrte Grok temporär und versandte formale Beschwerden an X, Kalifornien startete eine Untersuchung und die EU-Kommission erklärte, sie wolle das volle Instrumentarium des Digital Services Act (DSA) zur Anwendung bringen, wenn keine Maßnahmen ergriffen werden. Erst kürzlich hatte die EU eine 120-Millionen-Euro-Strafe gegen X wegen Mängeln in der Transparenz verhängt.

(mki)