Manipulationsgefahr: EU-Kommission fordert rasch Kennzeichnung von KI-Inhalten
Mit ChatGPT & Co. produzierte Inhalte sollen für Nutzer klar erkennbar sein. Kommissarin Věra Jourová spricht Maschinen das Recht auf freie Meinungsäußerung ab.
(Bild: metamorworks / Shutterstock.com)
Die für Werte zuständige EU-Kommissionsvizepräsidentin Věra Jourová hat die Unterzeichner des Verhaltenskodexes gegen Desinformation aufgefordert, mit generativer Künstlicher Intelligenz (KI) produzierte Inhalte für die Nutzer umgehend klar zu kennzeichnen. Dabei geht es um Systeme wie ChatGPT, DALL-E, Stable Diffusion und Midjourney, die neue Texte, Bilder, Musik oder Videos auf Basis vorhandener, oft urheberrechtlich geschützter Werke generieren. Mit dem Label will Jourová die Verbreitung manipulierter Werke über große Online-Plattformen eindämmen.
"Maschinen haben nicht das Recht auf freie Meinungsäußerung"
KI-erstellte Bilder sind immer schwerer von echten zu unterscheiden. Prägnante Beispiele dafür sind die aufmerksamkeitsstarken angeblichen Darstellungen der Verhaftung des früheren US-Präsidenten Donald Trump und des Papstes, der eine weiße Designer-Polsterjacke trägt. "Maschinen haben nicht das Recht auf freie Meinungsäußerung", begründete Jourová ihren Appell. Der zuletzt 2022 verschärfte Verhaltenskodex soll der Tschechin zufolge zudem generell künftig Grenzen für einen "böswilligen" Einsatz von KI setzen.
Zu den insgesamt 44 Unterzeichnern der Übereinkunft gehören große Online-Plattformen wie Google, Facebook und TikTok, Faktenprüfer sowie Akteure aus Forschung, Medien und der Zivilgesellschaft. Die Kommission begrüßte bei einem Treffen mit den Beteiligten am Montag zwölf neue Mitstreiter. Twitter kündigte dagegen vor Kurzem seine Zusammenarbeit in diesem Rahmen auf. Dies sei ein Fehler, monierte Jourová. Der neue Inhaber des sozialen Netzwerks, Elon Musk, habe sich "für die Konfrontation" entschieden, was der Kommission übel aufgestoßen sei.
Die Kommissarin bezeichnete den Kodex prinzipiell als wirksames und dynamisches Instrument. "Bei wichtigen Aspekten wie Kreml-freundlicher Kriegspropaganda, unabhängigem Zugang zu Daten und Missbrauch von KI sind die Fortschritte jedoch nach wie vor zu langsam." Es gebe noch viel zu tun, betonte auch Binnenmarktkommissar Thierry Breton. Dies gelte insbesondere "in Bezug auf Faktenprüfung, Moderation von Inhalten und Zugang zu Daten für Forscher". Plattformbetreiber trügen "eine wichtige Verantwortung für unsere Gesellschaften und Demokratien".
Kennzeichnung bald Pflicht
Der Kodex ist zwar freiwillig, viele Absprachen darin werden aber mit dem Digital Services Act (DSA) schon bald – spätestens vom 17. Februar 2024 an – verbindlich. Sehr große Online-Plattformen und Suchmaschinen wie Facebook, Instagram, Google, Twitter und TikTok müssen damit etwa Deepfakes, also manipulierte Bilder, Audio- und Videodateien, mit prominenten Markierungen versehen. Sie werden ferner verpflichtet, systemische Risiken – einschließlich Desinformation – zu bewerten und abzumildern. Andernfalls drohen ihnen millionenschwere Geldbußen. Im Rahmen der Debatten über eine spezielle KI-Verordnung erarbeiten das EU-Parlament und der Ministerrat zudem gerade strenge Vorgaben vor allem für ChatGPT & Co.
(olb)
