AI Slop: Den Augen kann man nicht mehr trauen

KI-Bilder und KI-Videos sind auf allen gängigen Plattformen zu finden. Sie werden das Internet verändern. Wenn es sich um billig gemachte Inhalte handelt, die vor allem Aufmerksamkeit generieren sollen, spricht man von AI Slop. KI verwässert aber mindestens auch die Informationslage. Sie ist überall. Doch: Reaktanz ist eine zutiefst menschlich verwurzelte Reaktion – ein psychologisches Phänomen, bei dem Menschen Widerstand leisten, wenn sie sich in ihrer Freiheit oder Autonomie bedroht fühlen.

Dass viele Menschen KI-Inhalte bereits leid sind, zeigt sich nicht zuletzt an Protesten, Motzen und Ablehnen von KI-Themen, Inhalten und beispielsweise KI-Werbespots wie zuletzt denen von McDonalds und Coca-Cola. KI wird als neuer Praktikant gehandelt, wenn irgendwo etwas minderwertig erscheint. Und Witze über Gedankenstriche, KI-generierte LinkedIn-Beiträge und KI-Grafiken, die komplexe Themen vermeintlich einfach darstellen sollen, hat inzwischen wohl jeder gehört.

„Wir können unseren Augen nicht mehr trauen“

Dennoch geht der Instagram-Chef Adam Mosseri davon aus, dass KI-bearbeitete Bilder mehr als die Ästhetik von Social Media ändern werden. Seine düstere Prognose, die er in einem Endjahresbeitrag postet: „Wir werden unseren Augen nicht mehr trauen können.“ Während wir unser Leben lang bisher davon ausgehen konnten, dass Bilder echte Momentaufnahmen sind, wird sich das nun laut Mosseri ändern. „Das wird unangenehm – wir sind genetisch dazu veranlagt, unseren Augen zu trauen.“ Mosseris Lösung: Die besten KI-Tools entwickeln, aber auch sichere Labels für KI-generierte Inhalte sowie für authentische Inhalte. Wobei er mahnt: „Authentizität wird unendlich reproduzierbar.“

Gleichzeitig erklärt Mosseri das öffentliche Teilen von persönlichen Momenten für tot. Das sei es schon seit Jahren. Er meint, private Personen posten keine Fotos mehr aus ihrem Privatleben. Das habe sich in die Direktnachrichten verschoben. Auch die Statusmeldungen bei WhatsApp oder Signal dürften dazu beigetragen haben. Diese Ausdifferenzierung von Plattformen für verschiedene Zwecke ist schon eine Weile im Gange. Auf Social Media gibt es demnach nur noch professionellen Content.

Die Creator würden nun allerdings auf genau diesen „rohen Stil“ setzen und keine KI-beschönigten Bilder zeigen. Wenn perfekte Bilder billig zu erstellen sind, werden unperfekte Bilder zum Trend. Zur Reaktanz gehört, dass Menschen den Auslöser ablehnen, das Gegenteil tun von dem, was der Sender beabsichtigt. Aufdringliche Werbung führt zur Ablehnung. Paris Hilton war in den 90er-Jahren erst spannend, aber als die Menschen ihr überdrüssig wurden, wurde sie zum Hassobjekt.

Bekannte Quellen statt KI-Unsicherheiten

Mosseri geht außerdem davon aus, dass wir künftig mehr auf Hintergrundinformationen zu einem Account, einem Absender oder einem Inhalteersteller setzen werden, um vertrauen zu können. Das betrifft Social-Media-Konten ebenso wie Verlage und Medienunternehmen. Da KI-Antworten und Zusammenfassungen, ob in Suchmaschinen oder in Chatbots, immer auch mit falschen Informationen und Halluzinationen gespickt sein können, ist es möglich, dass Menschen zunehmend auf bekannte Quellen setzen werden.

Es ist zudem nicht nur leicht, einen Social-Media-Account mit KI-generierten Beiträgen zu füllen. Auch ganze Webseiten lassen sich im Nu dank KI erstellen – samt Fake News, Deep Fakes und einfach billiger Kopien. Im Zweifel stecken Menschen mit bösen Absichten dahinter, die Propaganda und falsche Informationen streuen wollen.

Bei Youtube soll jedes dritte Video, das einem neuen Nutzer angezeigt wird, inzwischen AI Slop sein – also billig KI-generierte Videos, die in der Regel monetarisiert werden sollen oder eben oft fragwürdige Informationen beinhalten. Das zeigt eine Recherche von Kapwing, einer Plattform für Video- und Bildbearbeitung, die freilich auch KI-Tools anbietet. In der Untersuchung ging es um die Frage, wie lukrativ billig hergestellte KI-Videos sind. Kapwing schätzt, dass zuletzt 117 Millionen US-Dollar an die Ersteller solcher Videos ausgeschüttet wurden.

(emw)