Warum KI-Slop mit bestehenden Gesetzen kaum zu bremsen ist
KI-Slop sollte eigentlich Plattformen zum Handeln zwingen, denn EU-Gesetze wie der DSA und die KI-Verordnung können der KI-Müllflut kaum Einhalt gebieten.
(Bild: Rudolf A. Blaha)
Weder Politik noch Recht scheinen auf den massenhaften schädlichen Einsatz von bildgebender KI vorbereitet zu sein. Dies demonstrierte Elon Musks Konzern xAI Ende Dezember 2025, als er die bildgenerierende Funktion seiner KI Grok in die Plattform X einbaute und ihr kaum Restriktionen auferlegte: Gut drei Millionen damit erstellte, sexualisierte Deepfakes von Frauen veröffentlichten Nutzer daraufhin, Studien zufolge darunter mindestens 20.000 Bilder von Minderjährigen. Nur auf massiven öffentlichen Druck zog xAI Wochen später die Bremse.
Erst da fiel der Öffentlichkeit auf, dass derlei Auswüchsen mit geltendem Recht kaum beizukommen ist. Zwar können Opfer von derlei Sex-Deepfakes im Nachhinein in langwierigen Verfahren ihre Persönlichkeitsrechte geltend machen, doch das wird ihnen ein schwacher Trost sein. Wer kaum etwas zu befürchten hat, ist die Plattform selbst, die die Rechtsverstöße möglich macht. Zwar hat die EU-Kommission nun ein Verfahren nach dem Digital Services Act (DSA) angestoßen, doch bis es zu Anordnungen oder gar Bußgeldern gegen xAI kommt, dürften Monate oder gar Jahre ins Land ziehen.
Beim Grok-Skandal handelte es sich um eindeutige Rechtsverstöße sowohl der Plattform als auch der einzelnen Nutzer, da herrscht Konsens unter den Juristen. Nun beschreibt aber der Begriff KI-Slop, um den es in diesem Artikel gehen soll, eben nicht einmal ein klar umrissenes Fehlverhalten, sondern lediglich ein Phänomen: massenhaft KI-generierte Inhalte mit geringem individuellem Mehrwert, die Rankings und Feeds verstopfen und die Aufmerksamkeit auf sich lenken.
Das war die Leseprobe unseres heise-Plus-Artikels "Warum KI-Slop mit bestehenden Gesetzen kaum zu bremsen ist". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
