SynthID: Google macht sein Wasserzeichen für KI-Inhalte verfügbar

In einem kurzen Beitrag bei X kündigt Google DeepMind an, SynthID Open-Source zur Verfügung stellen zu wollen. Dabei handelt es sich um eine Art Wasserzeichen für KI-Inhalte – sowohl Texte als auch Bilder, Videos und Audio können so gekennzeichnet werden. SynthID ist kostenlos für Entwickler und Unternehmen. Neben dem Schaffen von Wasserzeichen soll es auch helfen können, KI-Inhalte zu entdecken. Allerdings handelt es sich noch um eine Beta. Wie schnell ein Text oder Bild generiert wird und die Qualität einer Ausgabe sollen von SynthID nicht beeinträchtigt werden.

Um Texte zu markieren, nutzt SynthID die Funktionsweise von Large Language Models (LLMs). LLM-Antworten basieren auf Wahrscheinlichkeitswerten, die jedem Token (einem Buchstaben, Wort oder einer Phrase) zugewiesen werden. Dieser Wahrscheinlichkeitswert wird angepasst und maschinell sichtbar gemacht. Dadurch entsteht ein Muster. Laut Google DeepMind kann SynthID bereits bei drei Sätzen angewandt werden, die Robustheit und Genauigkeit nehmen aber mit der Länge eines Textes, also mit mehr Token, zu.

Google ist besonders daran gelegen, KI-Inhalte zu erkennen. Nicht zuletzt, weil das Internet seit der weitläufigen Verfügbarkeit von generativer KI auch von diesen Inhalten geflutet wird. Es ist für Google nun noch schwerer, relevante Inhalte zu finden und in der Suche anzuzeigen. KI und böswillige Akteure beherrschen SEO, wissen also, wie sie von Google gut bewertet werden, obwohl die Inhalte für Suchende vielleicht gar nicht hilfreich sind. Zuletzt hatte Google deshalb auch ein Core-Update mit dem Namen "Helpful Content Update" laufen lassen. Dieses sollte vor allem auch KI-Spam erkennen können. Laut Google handelte es sich um ein besonders komplexes Update, wobei nicht viel zum Ablauf verraten wurde. Es gab auch keine Hinweise für Webseitenbetreiber, außer, dass sie selbst überlegen könnten, was hilfreiche Inhalte sind.

Zu dem Update gehört allerdings auch eine neue Spam-Richtlinie, die automatisch generierte Inhalte ohne Mehrwert oder Originalinhalte verbietet. Darunter fallen auch unüberprüfte Übersetzungen und umgeschriebene Texte.

Für das Auge unsichtbares Pixel-Wasserzeichen

Bilder und Videos werden mittels eines Wasserzeichens markiert, das in den Pixeln steckt. Dabei soll ein Muster entstehen, das für das menschliche Auge nicht sichtbar ist. Das Wasserzeichen ist laut Google ziemlich robust, was bedeutet, es kann beispielsweise nicht durch einen einfachen Screenshot entfernt werden, wie etwa Metadaten. Der Hinweis lässt sich auch nicht abschneiden, wenn man den Bildausschnitt verkleinert.

Für Videos nutzt SynthID die gleiche Vorgehensweise. Es werden die Pixel eines jeden Bildes verändert.

SynthID steht Menschen über Vertex AI zur Verfügung, die dort Googles Bildgeneratoren Imagen 2 und 3 nutzen sowie für ImageFX und VEO, die Video-KI. Diese wiederum können nur wenige Creator nutzen. Man kann SynthID auch dazu nutzen, Bilder auf ihre Entstehung zu prüfen. Sind sie mit Googles Tools geschaffen worden, soll das erkennbar sein. Das geht sogar über die Abfrage "Über dieses Bild" in der Google Suche oder in Chrome direkt.

(emw)