Meta folgt Youtube: Fotorealistische KI-Inhalte sollen gekennzeichnet werden

Meta Platforms stellt neue Regeln und Prozedere für bestimmte Inhalte vor, die mit generativer Künstlicher Intelligenz erzeugt worden sind. "Unsere User haben uns gesagt, dass sie Transparenz rund um diese neue Technik schätzen", berichtet Meta-Manager Nick Clegg. Bei Videos und Tonspuren sollen die Uploader selbst offenlegen müssen, wenn es sich um KI-Erzeugnisse handelt. Für fotorealistische Bilder arbeitet Meta daran, KI-Bilder automatisch zu kennzeichnen. Das soll dann funktionieren, wenn die Bilder bereits als solche gekennzeichnet sind.

Denn Meta setzt bei Bildern auf zwei Standards, nämlich der Coalition for Content Provenance and Authenticity (C2PA) sowie des International Press Telecommunications Council (IPTC). Diese Standards beschreiben Verfahren, um Bilder digital zu markieren. In den C2PA-Standard sind Projekte Adobes (CAI) und Microsofts (Project Origin) eingeflossen; mit digitalen Signaturen soll die Quelle von Bildern bestätigt werden.

Beim IPTC beteiligen sich neben Presseagenturen und großen Verlagen beispielsweise Adobe, Getty Images und Shutterstock. Einerseits geht es darum, Begriffe zu definieren, damit man weiß, wovon die Rede ist. Andererseits erarbeitet das IPTC Standards für Metadaten; diese können Daten zu Ursprung, Rechten und Verwendungseinschränkungen enthalten. Beispielsweise kann sich der Rechteinhaber verbitten, dass sein Lichtbild für Data Mining missbraucht wird. Außerdem gibt es KI-Kennzeichnung in 14 Stufen von "Original digital capture sampled from real life" (also ohne KI-Erzeugnisse) über "Algorithmic enhancement" bis zu "Created by software" (vollständig computergeneriert).

Diese Hinweise möchte Meta bei Bildern auswerten, die von Google, OpenAI, Microsoft, Adobe, Midjourney oder Shutterstock stammen. Dann können Nutzer von Facebook und Instagram (samt Threads) ein dezentes Label "AI Info" sehen. Bei Bildern der hauseigenen Meta AI steht schon jetzt "Imagined with AI" dabei. Solche Labels sollen dieses und nächstes Jahr für alle Interface-Sprachen kommen. Für besonders irreführende Inhalte behält sich Meta zudem vor, besser sichtbare Warnungen anzubringen.

Spätere Änderungen sind wahrscheinlich

Für die häufigste Form KI-generierter Inhalte, nämlich Texte, plant Meta offenbar keine Kennzeichnungspflicht. Cleggs Blogpost lässt sich dazu nicht aus. Bei Ton und Bewegtbildern würden die KI-Anbieter allerdings noch keine standardisierten Kennzeichen einbauen, sagt Clegg. Daher werde Meta für diese Inhalte eine neue Regel erlassen, wonach die Uploader selbst eine entsprechende Option anklicken müssen. Im November hat Youtube angekündigt, die Offenlegung von KI-Inhalten vorzuschreiben. In den aktuellen Youtube-Richtlinien konnte heise online allerdings noch keinen eindeutigen Passus dazu ausmachen.

Meta forscht parallel an Algorithmen, die KI-erzeugte Bilder automatisch erkennen sollen. Schließlich ist es möglich, Metadaten zu entfernen. "Diese Arbeit ist besonders wichtig, weil dies in den kommenden Jahren wahrscheinlich ein zunehmend umkämpftes Feld sein wird", weiß Clegg. Meta ist nicht der erste, der sich an automatischer KI-Erkennung versucht. OpenAI musste seinen KI-Detektor zurückziehen, weil er nicht funktioniert hat.

Meta-Manager Clegg weist darauf hin, dass die jetzt vorgestellten Änderungen nicht der Weisheit letzter Schluss sein werden. "Womit wir heute loslegen sind Schritte, von denen wir meinen, dass sie angemessen sind für Inhalte, die heute auf unsere Plattformen geteilt werden. Aber wir werden weiter beobachten und lernen, und dabei unsere Herangehensweise unter Beobachtung halten." Überhaupt könnte sich die Kennzeichnung eines Tages womöglich umdrehen: Dann würden von Menschen geschaffene Inhalte als solche gekennzeichnet.

Metas Labels und der AI Act

"Es ist bemerkenswert, dass US-amerikanische Unternehmen wie Youtube und Meta mit privatrechlichen Mitteln einen Zustand zu erreichen suchen, der in der EU durch den AI Act erst eingeführt werden soll", reagierte Professor Nikolaus Forgó gegenüber heise online auf Metas Ankündigung, "Das stellt die Selbstzuschreibung Europas, mit dem AI Act das erste umfassende Gesetzeswerk geschaffen zu haben, in einen gewissen, vielleicht relativierenden Kontext".

Forgó ist Professor für Technologie- und Immaterialgüterrecht an der Universität Wien. Der AI Act sieht Transparenzpflichten für Künstliche Intelligenz vor. "Vielleicht nehmen diese Unternehmen aber auch nur vorweg, woran sie sich – zumindest in Europa – bald werden halten müssen", sagte der österreichische Jurist.

(ds)