Gefahren generativer Bild-KI: Fake News erkennen
In Zukunft wird es schwierig sein, dokumentarische Fotos von digitalen Träumereien zu unterscheiden. KI-Bilder entlarven sich jedoch noch selbst.
(Bild: KI generiert von Santa AI, Eliot Higgins; Bearbeitung: c't)
Bildgeneratoren wie Midjourney, Dall-E 2, Stable Diffusion und Firefly haben in kürzester Zeit gelernt, täuschend echte Bilder zu erzeugen. Diese finden Sie auf Instagram-Profilen, Webseiten und in Reddit-Foren wieder. Weltweit wird fleißig probiert, was mit der neuen Technik alles geht. Auch Fake-News-Kampagnen machen sich das Potenzial generativer KI zunutze, nämlich um Vorgänge zu zeigen, die nie stattgefunden haben. Die Zielpersonen sind oft dieselben: Donald Trump, Papst Franziskus, Elon Musk, Angela Merkel, aber auch Bundeskanzler Olaf Scholz, US-Präsident Joseph Biden und der französische Staatspräsident Emmanuel Macron. Je mehr echte Fotos von der Person existieren, desto überzeugender das KI-Resultat.
Eine Reihe mit Midjourney generierter Bilder zeigten Joe Biden, Ron DeSantis und andere Politiker mit imaginären Affären in Hotelzimmern. Solche Bilder können den Karrieren der Betroffenen erheblichen Schaden zufügen. Midjourney schloss den dafür verantwortlichen Satiriker Justin T. Brown von seinem Dienst aus. Auf Twitter, neuerdings X, erklärte er, auf das zerstörerische Potenzial von KI-generierter Desinformation hinweisen zu wollen.
Nicht immer steckt also böse Absicht hinter den KI-Kreationen. Wer den Papst im Balenciaga-Daunenmantel oder Donald Trump in Handschellen und Sträflingsoverall zeigt, möchte einen Witz machen, eine Diskussion anstoßen oder schlicht Internetruhm ernten – oft gespickt mit einer politischen Botschaft im Subtext. Die Bilder können aber leicht als Zeitdokumente missverstanden werden, zumal nicht selten ein Körnchen Wahrheit drinsteckt, sich der ehemalige US-Präsident beispielsweise tatsächlich in mittlerweile zwei Strafverfahren vor Gericht verantworten muss.
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Papierloses Büro: Wie man mit paperless-ngx die Dokumentenverwaltung optimiert
Smart-Home-Zentralen im Vergleich: Amazons Echo Hub gegen Home Assistant
Prepaid, Debit, Credit: Wie Sie die passende Kreditkarte finden
Im Test: Zehn USB-SSDs und -Sticks mit 1 oder 2 TByte Speicherplatz
Günstiges Display samt Einplatinencomputer für Bastelanfänger im Kurztest
Custom-ROM "GrapheneOS" vorgestellt: Android ganz privat
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Papierloses Büro: Wie man mit paperless-ngx die Dokumentenverwaltung optimiert
Smart-Home-Zentralen im Vergleich: Amazons Echo Hub gegen Home Assistant
Prepaid, Debit, Credit: Wie Sie die passende Kreditkarte finden
Im Test: Zehn USB-SSDs und -Sticks mit 1 oder 2 TByte Speicherplatz
Günstiges Display samt Einplatinencomputer für Bastelanfänger im Kurztest