KI-Transparenz: EU-Kommission konkretisiert Regeln gegen digitale Täuschung

Mit der Veröffentlichung eines detaillierten Leitlinienentwurfs zum Artikel 50 des AI Acts am Freitag will die EU-Kommission Licht in das Dunkel automatisierter Interaktionen und künstlich erzeugter Inhalte bringen. Das Regelwerk unterscheidet dabei vier zentrale Kategorien, für die spezifische Transparenzpflichten gelten sollen.

Im Fokus stehen zunächst interaktive KI-Systeme wie Sprachassistenten oder Chatbots. Diese sollen nach den Vorstellungen der Kommission so gestaltet sein, dass Nutzer unmissverständlich über ihr künstliches Gegenüber informiert werden. Anbieter können dabei selbst entscheiden, wie sie das machen, solange auch Kinder und andere besonders schützenswerte Gruppen effektiv geschützt werden.

Kennzeichnungspflicht für KI-Inhalte

Eine zweite Säule betrifft die Erstellung künstlicher Bilder, Videos oder Texte. Diese müssen künftig in einem maschinenlesbaren Format markiert sein und zudem „auffindbar als künstlich generiert oder manipuliert“ gekennzeichnet werden. Auch der Einsatz von Emotionserkennung oder biometrischer Kategorisierung unterliegt strengen Informationspflichten gegenüber den Betroffenen, heißt es im dritten Teil.

Besonders im Zentrum der Aufmerksamkeit steht aktuell die vierte Kategorie: Deepfakes sowie KI-generierte Texte zu Themen von öffentlichem Interesse müssen dem Entwurf zufolge klar als solche deklariert werden. Ausnahme: Sie dienen offensichtlich künstlerischen oder satirischen Zwecken. Die EU-Gesetzgeber einigten sich vorige Woche bereits auf ein Verbot von KI-Anwendungen, die sexualisierte Deepfakes produzieren („Nudifier-Apps“).

Die Kommission plant weitere praxisnahe Privilegien, um Innovationen und private Freiheiten nicht unnötig einzuschränken. So bleiben rein assistierende Funktionen wie eine automatische Grammatikkorrektur von den strengen Regeln befreit, wenn sie den Inhalt nicht „wesentlich verändern“.

Eine „rein persönliche, nicht-berufliche Tätigkeit“ soll von den Pflichten befreit bleiben. Wer lediglich eine KI-generierte Weihnachtskarte im privaten Kreis verschickt, muss diese also nicht kennzeichnen. Sobald jedoch privat erstellte Inhalte, die „Einfluss auf die politische Meinung nehmen können“, auf sozialen Plattformen verbreitet werden, greift die Kennzeichnungspflicht.

Fristen und Mitwirkung der Branche

Betroffenen Unternehmen und Behörden sollen die Leitlinien helfen, die KI-Verordnung in „kohärenter, wirksamer und einheitlicher Weise“ einhalten zu können. Da die Transparenzpflichten ab dem 2. August 2026 verbindlich gelten, bleibt den Akteuren noch ein wenig Zeit für die technische Anpassung.

Die Kommission betont dabei die geteilte Verantwortung im Informationsökosystem: Auch Plattformen, die selbst keine KI-Inhalte erstellen, ermutigt sie, bestehende Kennzeichnungen beizubehalten. Das soll mit dazu beitragen, dass Nutzer nicht auf Täuschungen hereinfallen.

Interessierte haben bis zum 3. Juni die Option, sich im Rahmen einer Konsultation zu dem Vorschlag zu äußern. Die finale Fassung der Leitlinien soll kurz darauf stehen.

Die Kommission will ein wirksames Instrument gegen die Erosion der Wahrheit im digitalen Raum etablieren. Bürger sollen künftig jederzeit wissen, ob sie mit einem Algorithmus kommunizieren oder ob ein spektakuläres Video tatsächlich der Realität entspricht. Durch die enge Verzahnung der Initiative mit dem Verhaltenskodex für KI-Anbieter unterstreicht sie zugleich den ganzheitlichen Ansatz der europäischen Regulierung. Diese soll sowohl rechtliche Klarheit bringen als auch technologisch machbar sein.

(vbr)