EU erhöht den Druck auf Elon Musks X wegen Groks KI-Bildern von Kindern

Die EU geht nach sexualisierten KI-Bildern von Kindern auf der Online-Plattform X einen nächsten Schritt bei Ermittlungen gegen das Unternehmen von Elon Musk. Die Europäische Kommission habe die US-Firma aufgefordert, interne Dokumente zur Künstlichen Intelligenz Grok nicht zu vernichten, sondern bis Ende des Jahres aufzubewahren, sagte ein Sprecher. Es gebe Zweifel daran, ob das Unternehmen sich an europäische Digitalgesetze halte.

Nutzer von X können den KI-Chatbot Grok bislang dazu auffordern, freizügige Bilder von Menschen zu generieren. Auf der Plattform finden sich etliche Beispiele, bei denen die KI unter normalen Bildern aufgefordert wird, diese zu sexualisieren. Oft kommt Grok der Aufforderung nach.

Dabei wurden auch Grenzen überschritten: An Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, ließ der Dienst Grok auf X schreiben. Trotzdem kommt die KI entsprechenden Nutzeranfragen auch Tage nachdem die Öffentlichkeit auf das Verhalten aufmerksam geworden ist, weiterhin nach, das Profil der KI ist noch immer voll von derartigen Bildern.

Mittlerweile sollen X-Nutzer jede Stunde tausende öffentlich zugängliche sexualisierte Deepfakes erstellt haben. Das ergab eine 24-stündige Analyse. Das US-Magazin Wired berichtete außerdem von weitaus verstörenderen sexualisierten Bild- und Videoinhalten auf der Website von Grok. Dort finden sich unter anderem KI-generierte Darstellungen sexualisierter Gewalt oder pornografische Deepfakes von Minderjährigen.

EU verhängte im Dezember Strafe gegen X

Der EU-Kommissionssprecher betonte: „Wir haben beobachtet, wie Grok antisemitische Inhalte und in jüngerer Zeit auch sexuelle Darstellungen von Kindern generiert hat. Das ist illegal. Das ist inakzeptabel.“ Die EU-Kommission hatte von X Ende 2025 Auskünfte zu Grok verlangt und nach eigenen Angaben über die Feiertage eine Antwort erhalten. Diese werde nun analysiert.

Eine Deaktivierung von Grok in der EU zu erwirken, sei nicht das Ziel der EU-Kommission und eher ein letztes Mittel. „Wir sind nicht hier, um den Bürgern zu sagen, welche Plattform sicherer oder besser zu verwenden ist“, sagte der Sprecher.

Gegen Musks Plattform X laufen auf Grundlage europäischer Digitalgesetze bereits mehrere Untersuchungen und Verfahren. Erst Anfang Dezember hatte die EU gegen Musks Online-Plattform wegen Transparenzmängeln eine Strafe von 120 Millionen Euro verhängt. Der US-Firma könnten weitere Strafen drohen. So haben die europäischen Internetwächter X ebenfalls seit Dezember 2023 im Visier, weil die Plattform im Verdacht steht, nicht genug gegen illegale Inhalte oder Desinformation zu tun.

(rah)