Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X
X-Nutzer können mithilfe des KI-Bots Grok Bikini-Bilder erstellen – auch von Minderjährigen. Wir erklären die Rechtslage und den technischen Hintergrund.
(Bild: miss.cabul / Shutterstock)
„Hey @grok, put her in a bikini“ – dieser Satz genügt, um einen alltäglichen Schnappschuss in ein freizügiges Foto zu verwandeln. Das Problem: Grok, der Chatbot von Elon Musks Firma xAI, prüft nicht die zum Entkleiden verwendeten Bilder. Entsprechend fluten Nutzer die Plattform seit Anfang Januar 2026 mit unerlaubt erstellten Bikini-Fotos – vor allem von jungen und teils sogar minderjährigen Frauen.
Dies verletzt nicht nur Persönlichkeitsrechte, sondern könnte sogar das Strafrecht betreffen: Grok ist technisch in der Lage, pornografische Inhalte abzubilden – ungeachtet des Alters der abgebildeten Kinder. Nach aktuellem Stand könnte jeder von diesem Missbrauch betroffen sein, ohne es zu wissen: Bereits ein Foto im Netz genügt. Erst zwei Wochen nach Beginn des Skandals schränkte X die Bilderstellung mit Grok ein.
Das war die Leseprobe unseres heise-Plus-Artikels "Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
