Internationaler Schlag gegen russische KI-Botfarm für Social Media
Russlands Trollfabriken nutzen KI zum Anlegen und Steuern von gefälschten Social-Media-Profilen. Eine konnte stillgelegt werden.
(Bild: Bild erstellt mit KI in Bing Designer durch heise online / dmk)
US-Behörden um das Department of Justice (DoJ) haben eine russisch-staatliche Bot-Farm für Social Media vom Netz genommen. Die bediente sich eines KI-basierten Werkzeugs, um mit Desinformationskampagnen bösartigen Einfluss auf andere Staaten zu nehmen.
Das Department of Justice teilt mit, dass der Schlag im Rahmen einer internationalen Operation gelungen sei. Man habe zwei Domain-Namen beschlagnahmt, die etwa als Zentrale zur Steuerung der Bot-Farmen dienten, und 968 X-Konten (ehemals Twitter) durchsucht. Diese wurden von russischen Akteuren benutzt, um eine KI-gestützte Social-Media-Bot-Farm aufzubauen und darüber Desinformation in den USA und in weiteren Staaten zu verbreiten.
Gefälschte Konten mit vermeintlich lokalen Bezügen
Die Social-Media-Bot-Farm nutzte künstliche Intelligenz, um fiktive Social-Media-Profile zu erstellen. Diese gaben oft vor, zu Personen in den Vereinigten Staaten oder den anderen jeweils angegriffenen Staaten zu gehören. Die Betreiber nutzten diese gefälschten Profile, um Nachrichten zur Unterstützung der Ziele der russischen Regierung zu verbreiten.
Das FBI hat zusammen mit internationalen Strafverfolgern etwa aus Kanada und den Niederlanden eine Analyse der eingesetzten "Meliorator"-Kontroll-Software veröffentlicht (PDF). Mit RT (ehemals Russia Today), einer russisch-staatlichen Medienorganisation, verbandelte Akteure haben demnach Meliorator eingesetzt, um bösartigen Einfluss im Ausland mit Ausrichtung auf die Ziele der russischen Regierung zu nehmen. Die Aktivitäten fanden in Deutschland, Israel, den Niederlanden, Polen, Spanien, der Ukraine und den Vereinigten Staaten statt.
Bislang sei insbesondere der Einsatz von Meliorator auf X entdeckt worden. Die untersuchenden Behörden haben aber Hinweise gefunden, dass die Entwickler die Funktionen auch auf andere Social-Media-Plattformen ausweiten wollten. Meliorator hat umfangreiche Funktionen:
- massenhaftes Erstellen authentisch wirkender Social-Media-Profile,
- Verbreiten von Inhalten ähnlich solcher, die typischerweise auf Social-Networks erstellt werden,
- Spiegeln von Desinformationen von anderen Bot-Profilen,
- Wiederholen von bestehenden falschen Narrativen zur Verstärkung des bösartigen ausländischen Einflusses, sowie
- Formulierung von Nachrichten, mit Inhalt und Framing, basierend auf dem Archetyp des Bots.
Es handelt sich somit um ein mächtiges und umfangreiches Steuerungswerkzeug. Die Strafverfolger erläutern die einzelnen Funktionen, bei denen teils KI-Unterstützung zum Einsatz kam, detaillierter im PDF. Am Ende fassen die Autoren der Analyse Tipps und Hinweise zusammen, die Betreiber sozialer Netzwerke als Gegenmaßnahmen gegen die Unterwanderung russisch-staatlicher Akteure und deren Desinformationskampagnen ergreifen können.
Aktuell sind die Desinformationskampagnen auf allen sozialen Netzwerken omnipräsent. Facebook erlebt derzeit etwa eine Flut von "Alte Zeiten waren gut"- oder "Omas beste Rezepte"-Profilen, die erst mal Emotionen mit alten Geschichten wecken wollen – darunter auch Skurriles wie sinngemäß "So schön war die DDR". Ziel ist das Polarisieren und Spalten der Gesellschaft. Gezielte russische Desinformation mit großer Reichweite in sozialen Netzen ist ein bereits länger bestehendes Problem. Etwa im Jahr 2019 haben US-Behörden eine russische Trollfabrik vor der US-Wahl vom Internet abgeschnitten.
(dmk)