Grok-Missbrauchsbilder: EU-Kommission eröffnet Digital-Services-Act-Verfahren
Die EU-Kommission hat als Aufsichtsbehörde für das Digitale-Dienste-Gesetz ein weiteres Verfahren gegen X eingeleitet – diesmal wegen der Integration von Grok.
(Bild: lilgrapher/Shutterstock.com)
Die EU-Kommission hat ein drittes Verfahren gegen Elon Musks X eingeleitet. Dabei geht es um das Zusammenspiel zwischen der Social-Media-Plattform, die einst als Twitter bekannt war, und dem hauseigenen Allzweck-KI-Modell Grok. Letzteres hatte in den vergangenen Wochen für Schlagzeilen gesorgt, weil die Technik teilweise eindeutig strafbewehrte Inhalte wie Nacktbilder Minderjähriger, Gewaltphantasiefotos und aus Sicht der EU-Kommission mutmaßlich geschlechtsspezifische Gewaltdarstellungen generierte.
„Sexualisierte Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Herabsetzung“, sagt die zuständige EU-Kommissionsvizepräsidentin Henna Virkkunen. Mit der nun eingeleiteten Untersuchung wolle die Aufsichtsbehörde herausfinden, ob X seinen rechtlichen Pflichten nachgekommen oder ob es die Rechte der EU-Bürger als Kollateralschaden für seinen Dienst behandelt habe.
An der Kommission war zuletzt laut Kritik geübt worden, weil diese trotz offensichtlicher Missstände nichts unternehme. Allerdings hat sie derzeit keinen direkten Hebel, um KI-Systemen wie Grok beizukommen. Die KI-Verordnung ist noch nicht voll in Kraft und die Kommission selbst hatte erst vor wenigen Wochen eine Verschiebung der Regeln für Allzweck-KI-Systeme wie Grok vorgeschlagen.
Risikofolgeabschätzung als Hebel
Für ihr Vorgehen unter dem DSA nutzt sie jetzt die engere Verknüpfung des unter dem DSA-Aufsichtsregime stehenden Angebots X und Grok: X habe vor der Integration des konzerneigenen KI-Angebots keine Risikofolgenabschätzung vorgenommen – das aber ist nach Artikel 34 und 35 des Gesetzeswerkes zwingend erforderlich. Erfolgt eine solche Risikofolgeabschätzung nicht, kann dies als Verstoß gegen die DSA-Regeln geahndet werden. Die Plattformen sind dazu verpflichtet, ihre Risikoeinschätzungen zur Verfügung zu stellen.
Videos by heise
Derzeit hält die EU-Kommission jedoch kein sofortiges Durchgreifen für erforderlich – X hatte zuletzt mehrfach versucht, die Probleme in den Griff zu bekommen und seine KI-Filter neu zu justieren. Offenbar ist man seitens der EU-Kommission zuversichtlich, dass X zumindest ernsthaft an einer Problemlösung interessiert ist.
Die Grünen-Europaabgeordnete Alexandra Geese begrüßte den heutigen Schritt: Endlich habe die EU-Kommission ihre beste Waffe gezückt, um Europa vor den, so Geese, „Tech-Oligarchen zu schützen“.
Zweite Entscheidung betrifft Empfehlungssystematik
In einem zweiten Aspekt der heutigen Entscheidung verlangt die EU-Kommission von der Musk-Plattform weitere Auskünfte, wie die Empfehlungssystematik der Plattform funktioniert, also wann welchen Nutzern welche Inhalte angezeigt werden. Dies ist bereits seit längerem Gegenstand der Untersuchungen der Aufsichtsbehörde bei X. Anlass für die Erweiterung dieser Untersuchung ist auch hier die Kombination mit dem KI-Dienst Grok: X will Nutzern die Inhalte von seiner KI ausgewählt empfehlen lassen.
Während Aufsichtsbehörden der Mitgliedstaaten für alle Angebot mit weniger als 40 Millionen monatlich aktiver Nutzer in der EU mit ihren knapp 450 Millionen Einwohnern zuständig sind, ist die EU-Kommission die Aufsichtsbehörde für besonders große Plattformanbieter (Very Large Online Platforms, VLOP) und besonders große Suchmaschinen (VLOSE). Der DSA enthält die grundsätzlichen Regeln, unter denen die Unternehmen von der rechtlichen Haftung für Inhalte von Nutzern auf ihren Diensten befreit werden, und ist seit Februar 2024 in Kraft. Die Aufsichtsbehörden haben unter dem DSA umfangreiche Rechte, sie können bei den Anbietern Unterlagen beschlagnahmen lassen, Zeugen vernehmen und Bußgelder verhängen, die eine Kooperation erzwingen.
DSA nur ein anwendbarer Rechtsrahmen
Für die Untersuchung bei X arbeitet die Kommission in Brüssel eng mit der irischen DSA-Aufsicht zusammen: Das europäische Tochterunternehmen, das X International Unlimited Company (XUIC) heißt, hat seinen Sitz in Dublin. Der Digital Services Act ist bei der Nudify-Problematik allerdings nur eines von einer ganzen Reihe von Gesetzeswerken, die zur Anwendung kommen können: Neben dem jeweils nationalen Strafrecht sind auch das Datenschutzrecht sowie gegebenenfalls zivilrechtliche Schadenersatz- und Unterlassungsansprüche möglich. Diese werden jedoch nicht von der EU-Kommission verfolgt.
Ob mit den angedachten Änderungen am AI Act weitere Möglichkeiten hinzutreten, ist derzeit noch offen. Aus dem Europaparlament wurden vergangene Woche jedenfalls klare Wünsche dieser Art geäußert, dass die nun aufgetretene Problematik im Zuge der Beratungen zum sogenannten Digitalomnibus stärker mitadressiert werden solle.
(mho)
