Meta beobachtet verstärkt KI-Einsatz für Desinformationkampagnen
Künstliche Intelligenz verhilft Desinformationskampagnen vor allem zu mehr Produktivität. Der Social-Media-Riese Meta beobachtet Bemühungen um Einzigartigkeit.
Bei Desinformation kommt KI vor allem zum Einsatz, um automatische Erkennungen zu umgehen.
(Bild: mundissima/Shutterstock.com)
Auf den Plattformen des Meta-Konzerns sind Desinformationskampagnen immer häufiger durch Künstliche Intelligenz (KI) getrieben. Das geht aus einem Gefahren-Bericht des Unternehmens für das zweite Quartal 2024 hervor. Außerdem stoppte Meta nach eigenen Angaben sechs neue verdeckte Kampagnen aus Russland, Vietnam und den Vereinigten Staaten. Der Konzern nennt solche Aktionen "koordiniertes nicht-authentisches Verhalten" (Coordinated Inauthentic Behavior, CIB).
Meta gingen gleich an mehreren Stellen KI-generierte oder -unterstützte Aktivitäten ins Netz. "Eine betrügerische Kampagne aus Russland veröffentlichte eine große Zahl an Geschichten auf angeblichen Nachrichtenseiten, die echten Artikeln aus dem Netz stark ähnelten – darunter auch denen von Mainstream-Medien", heißt es in dem Bericht. "Wir gehen davon aus, dass die Geschichten vermutlich Zusammenfassungen der Originale waren und KI zum Einsatz kam, um sie einzigartiger wirken zu lassen." Dieselbe Kampagne habe KI-generierte News-Videos auf Youtube veröffentlicht und fiktive Journalisten erfunden, die mit denselben Fotos an verschiedenen Stellen im Internet auftauchten. Damit setze sich ein Trend fort, den das Unternehmen seit 2019 beobachtet.
KI-generierte Bilder schwerer automatisch zu erfassen
Nach wie vor schwer zu unterbinden sei eine Kampagne, die Meta "Doppelgänger" nennt. Bereits seit zwei Jahren sind gefälschte Nachrichten aufgefallen, die in der Aufmachung bekannter und seriöser Medien aufwarten. Die Anzeigen, über die die Akteure die vermeintlichen Artikel streuen, verteilen sich über mehrere Internetseiten und Social-Media-Kanäle. Die URL der Newsseiten erscheint dabei oft auf den ersten Blick seriös, da die Namen bekannter Medien nur leicht abgewandelt erscheinen.
Die Doppelgänger-Kampagne nutzte KI-generierte Bilder, um eine automatisierte Erkennung zu umgehen, vermutet Meta. Außerdem habe diese Kampagne wohl auch KI-Tools eingesetzt, um Beiträge zu erstellen und die Postings zu übersetzen. Russland bleibe die Hauptquelle für globale Netzwerke, die Meta in den vergangenen sieben Jahren unterbrochen hat. 39 Kampagnen registrierte das Unternehmen, gefolgt vom Iran mit 30 Kampagnen und China mit elf.
Fokus auf Aktivitäten, nicht auf Inhalte
Insbesondere mit Blick auf die anstehenden US-Wahlen im November geht das Unternehmen davon aus, dass sich die Kampagnen aus Russland verstärkt weiter auf die Ukraine konzentrieren werden. Deckten die Aktivitäten zuvor eine große Bandbreite ab, beobachtete der Konzern seit 2022 eine Zuspitzung gegen die Ukraine.
Meta beobachte insbesondere die Aktivitäten, die mit KI einhergehen. Derzeit gehe der Konzern davon aus, dass KI vor allem zum Einsatz kommt, um zusätzliche Inhalte zu generieren und die Produktivität der Desinformationskampagnen zu steigern. Der Ansatz, sich auf das Verhalten und weniger auf die Inhalte zu konzentrieren, scheine bisher auch weiter zu funktionieren, heißt es in dem Bericht.
Lesen Sie auch
(are)