"Scholz" kündigt AfD-Verbot an: Bundesregierung prüft Umgang mit Deep Fakes

Die Aktivisten vom "Zentrum für politische Schönheit" haben die Website der Bundesregierung nachgeahmt und legen darauf Bundeskanzler Olaf Scholz in einem KI-generierten Video eine Begründung für ein angebliches Verbot der AfD in den Mund: "Meine Regierung wird zum fünften Todestag von Walter Lübcke am zweiten Juni 2024 beim Bundesverfassungsgericht ein Verbot der Partei Alternative für Deutschland beantragen." Das Aktionskünstlerkollektiv ZPS lässt ihn dazu aufrufen, Hinweise auf verfassungsfeindliche Bestrebungen auf der vom ZPS dafür eingerichteten Website einzureichen.

Das Video, das mit vielen Szenen von fremdenfeindlichen Ereignissen, Bildern aus dem Bundestag und von Auftritten des Kanzlers verschnitten ist, dürfte den meisten aufmerksamen Nutzern schnell als Fake auffallen - denn lippensynchron sind Sprache und Bild nicht. Dennoch ist es im Stil der Videos des Kanzlers gehalten für unbedarfte Nutzer womöglich irreführend und trägt damit zur Debatte über zumindest annähernd echt wirkende Inhalte bei, die mithilfe von KI generiert wurden.

Regierungssprecher warnt vor falschem Scholz

Regierungssprecher Steffen Hebestreit warnte am Mittag in Berlin vor den Gefahren des Einsatzes derartiger Technologie: "Natürlich ist das sehr, sehr ernst. Unabhängig von der Botschaft, die damit vermittelt werden soll, merken wir, dass Deep Fakes immer stärker in die Öffentlichkeit dringen." Auch große Boulevardzeitungen würden mit Fakes Werbung machen, die Entwicklung könne Konsequenzen für die Öffentlichkeit und die öffentliche Meinung haben und deshalb könne er nur davor warnen. Insbesondere nicht wohlgesonnene Mächte versuchten, KI zu nutzen, um Fake News zu verbreiten und Verunsicherung zu schüren. Ob es rechtliche Konsequenzen geben könne, werde geprüft. "Zwischen echt und falsch zu unterscheiden wird immer schwerer", mahnte Hebestreit, ein spielerischer Umgang könne gefährlich wirken.

Im Bundespresseamt, das Hebestreit als Staatssekretär leitet, sei schon vor einer Weile eine gemeinsame Arbeitsgruppe mit Bundesinnenministerium und Auswärtigem Amt eingerichtet worden, die bis zum kommenden Sommer ihre Arbeit abschließen soll. Zuletzt hatte die Präsidentin des Bundesamts für Sicherheit in der Informationstechnik Anfang November vor dem möglichen Einfluss von Deep-Fake-Technologien gewarnt und "Trusted Channels" angemahnt, bei denen eine Authentifizierung der Urheberschaft technisch etwa über Wasserzeichen gesichert wird. Solche Technologie einzusetzen, sei Teil der Überlegungen der Arbeitsgruppe, sagte Hebestreit.

Höcke und das Holocaust-Mahnmal

Seit seiner Gründung greift das ZPS mit provokanten Aktionen Themen wie Völkermord, Rassismus, Waffenindustrie und Flüchtlingspolitik auf. Eine besonders kontroverse Aktion fand 2017 statt, als in Reaktion auf Äußerungen des AfD-Politikers Björn Höcke zur deutschen Vergangenheitsbewältigung eine Miniatur des Berliner Holocaust-Mahnmals neben seinem Haus in Thüringen errichtet wurde, inklusive Überwachungskameras.

Neben viel Zuspruch und viel Kritik wurde daraufhin auch von der örtlichen Staatsanwaltschaft ein Ermittlungsverfahren gegen die Aktivisten eingeleitet. Die Bundeswehr nahm die Aktionen des ZPS für eine Fallstudie zum Umgang mit Desinformationen zum Anlass, die Netzpolitik.org im September veröffentlichte.

(anw)