Unsichtbare Signaturen im Gespräch: KI-Bilder mit Wasserzeichen erkennen
Die Rufe nach Kontrollmechanismen für die Herkunft KI-generierter Bilder werden lauter. Es gibt Ansätze, um Bilder zu überprüfen und Wasserzeichen einzubauen.
- Dr. Gerhard Heinzerling
Mithilfe generativer KI ist es sehr einfach geworden, fotorealistische Bilder zu erzeugen. Die Ergebnisse sind oft beeindruckend und auf Social Media schnell geteilt. Betrachter müssen sich daher bei jedem vermeintlichen Foto fragen: Wer hat das Bild gemacht? Wann wurde das Bild gemacht? Handelt es sich um ein "Fake Image"? Und wenn ja, mit welchem KI-Modell wurde das Bild erstellt? Oder handelt es sich um ein Original, das im Nachhinein verändert wurde – vergrößert, gedreht, angereichert, ausgeschnitten oder erweitert?
Antwort auf diese Fragen sollen die Metadaten der 2021 gegründeten Coalition for Content Provenance and Authenticity (C2PA) geben, die auch OpenAI künftig nutzen wird. Die C2PA erarbeitet einen offenen Standard, um Medien digital zu kennzeichnen, und beschreibt ihre Ziele auf der Homepage wie folgt: "Die Coalition for Content Provenance and Authenticity bekämpft die Verbreitung irreführender Informationen im Internet durch die Entwicklung technischer Standards zur Zertifizierung der Quelle und Herkunft von Medieninhalten. C2PA ist ein Projekt der Joint Development Foundation, das durch eine Allianz zwischen Adobe, Arm, Intel, Microsoft und Truepic entstanden ist."
Die C2PA ist wiederum der Content Authenticity Initiative (CAI) untergeordnet, die 2019 von Adobe, der New York Times und X (ehemals Twitter) ins Leben gerufen wurde. Das Ziel: einen Industriestandard zu fördern, der sichere Aussagen über die Herkunft digitaler Inhalte erlaubt. Dazu gehören zum Beispiel Bilder, Videos und Klangdateien. Die C2PA ist dabei für die exakte technische Formulierung der passenden Standards verantwortlich, die CAI für die Verbreitung und Förderung des Standards allgemein. Mittlerweile lohnt es sich zu betrachten, wie verschiedene Industriepartner den C2PA-Standard umsetzen und welche Rolle die unsichtbaren Wasserzeichen dabei spielen, mit deren Hilfe die Echtheit von Bildern festgestellt werden soll.
Das war die Leseprobe unseres heise-Plus-Artikels "Unsichtbare Signaturen im Gespräch: KI-Bilder mit Wasserzeichen erkennen". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.Immer mehr Wissen. Das digitale Abo für IT und Technik.
Eisheizung: Kosten und Nutzen von Wärmepumpen mit Eisspeicher
Fit durch den Winter: Apps fĂĽrs Indoor-Radfahren mit einem Smart Trainer
Kubernetes-Cluster aus vier Raspberry Pi bauen
So funktioniert die Geräteverschlüsselung von Windows
So produziert eine String-Art-Maschine beeindruckende Fadenkunst