"Munich Accord": Projekte gegen Deepfakes im Superwahljahr, "Sora" wird geprüft

Inhaltsverzeichnis

20 große Plattformbetreiber und Anbieter von Large Language Models kündigten am Rande der 60. Münchner Sicherheitskonferenz ein gemeinsames Projekt zur Identifikation, Vermeidung und Bekämpfung von Deepfakes im anstehenden Superwahljahr an. Adobe, Amazon, Google, IBM, Meta, Microsoft, OpenAI, TikTok und X wollen dazu Technologie einsetzen, um die Provenienz KI-generierter Wahlwerbung mit Wasserzeichen und anderen Techniken transparent zu machen und gezielt filtern zu können.

Der Pakt, vom Chef der Sicherheitskonferenz Christoph Heusgen als "Munich Accord" vorgestellt, adressiere Deepfakes quer durch die Produktion und Verbreitungskette, sagte Dana Rao, Adobes General Counsel und Chief Trust Officer und einer der Initiatoren.

Das Thema Künstliche Intelligenz und die Gefahren steht seit mehreren Jahren prominent auf der Agenda der Sicherheitskonferenz. Zum Auftakt mahnte einmal mehr UN-Generalsekretär Antonio Guterres vor der unkontrollierten Verbreitung der Technologie, mit möglicherweise fatalen Folgen. 2024 gehen ingesamt vier Milliarden Menschen in 40 Ländern zur Wahl.

Acht Commitments

KI-Anbieter, Social-Media-Plattformen und weitere Unternehmen der Wertschöpfungskette, etwa der Chip Designer Arm, gehen laut der Ankündigung eine Reihe von Verpflichtungen ein, um Wahlmanipulation per KI einzudämmen. Prominent auf der Liste steht die Detektion von Fakes, aber auch eine "angemessene" und "für die Öffentlichkeit transparente" Behandlung.

Vor allem sollen Werkzeuge gegen KI-unterstützte Wahlbetrugsmaschen weiter entwickelt und eingesetzt werden. Um die Herkunft von KI-erzeugten Bildern auszulesen, sollen etwa der C2PA-Standard der Content Authenticity Initiative (CAI) oder Googles SynthID zum Einsatz kommen.

In der Pressekonferenz in München sagte Amazon Vizepräsident Max Peterson, Amazons Titan-Modelle würden grundsätzlich mit Wasserzeichen bereitgestellt.

Die Mitglieder des Pakts wollen überdies ihre Modelle von vornherein in Bezug auf die Risiken von Wahl-Deepfakes bewerten. Beim kürzlich vorgestellten KI-Videogenerator "Sora" mache man in der laufenden Betaphase eine solche Risikobewertung, sagte Anna Makaju. Sie verriet auch, dass man bei den ebenfalls erprobten Erkennungstechnologien zahlreiche False Positives beobachtet habe.

Kooperation der Konkurrenten

Die breite Zusammenarbeit zwischen den Wettbewerbern, um die Resilienz gegen betrügerische KI-Wahlinhalte zu verbessern, sei nicht alltäglich, unterstrich Microsofts Vizepräsident Brad Smith bei der Pressekonferenz. Vergleichbare Anstrengungen seien das Global Internet Forum gegen Terrorismus (GIFCT) und die Global Network Initiative (GNI). Wie bei der GNI soll auch beim "Munich Accord" die Zusammenarbeit mit Zivilgesellschaft und Wissenschaft gepflegt werden.

Hausaufgaben für Unternehmen und Politik

Der Einsatz von Wasserzeichen und Herkunftsmetadaten genüge aber noch nicht, sagte US-Senator Mark Warner auf der Pressekonferenz in München. Damit die für die Detektion funktioniere, müssten auch Kopier- und Umgehungsschutztechnik zum Einsatz kommen. Warner erklärte, der Deepfake eines Nachrichtensprechers des französischen Senders France24, und der kürzliche Audiofake gegen Joe Biden unterstrichen die Bedrohlichkeit. Der demokratische Senator sagte, die USA benötigten zusätzlich zu solchen begrüßenswerten Initiativen der Branche auch "rechtliche Schranken", wie sie Europa gerade mit dem AI Act einziehe. "Die USA müssen in dieser Hinsicht noch aufholen", so Warner.

EU Kommissarin Vera Jourova begrüßte die Initiative ebenfalls ausdrücklich, forderte die Unternehmen aber auf, bei ihren Filteranstrengungen vor der Europawahl die 24 Landessprachen zu berücksichtigen. "Sie müssen dabei Land für Land vorgehen", so Jourova. Afrikanische Vertreterinnen und eine Aktivistin aus Indien mahnten auf mehreren Paneldiskussionen der Sicherheitskonferenz, dass über EU- und US-Wahlen der Globale Süden nicht vergessen werden dürfe. Auch in der bevölkerungsreichsten Demokratie der Welt, Indien, wird dieses Jahr gewählt.

Jourova versprach zugleich, auch die Politik müsse ihre Hausaufgaben machen. Sie sei aktuell im Gespräch mit den Fraktionen im Europaparlament. Diese müssten sich selbst verpflichten, keine derartigen Techniken in ihren Kampagnen einzusetzen.

Europäisches Parlament gibt sich Zukunftsrat

Eine eigene Initiative zur Technikfolgenabschätzung stellt die bulgarische Europaabgeordnete Eva Maydell bei der Sicherheitskonferenz vor. Ziel eines neuen "Zukunftsrats des Europäischen Parlaments" soll es sein, die verschiedenen Akteure an einen Tisch zu bringen, damit insbesondere die mit den rasanten Entwicklungen in der Technologie Schritt halten können. Der Zukunftsrat gehöre zu einer Reihe von "Silberstreifen"-Projekten, die die Sicherheitskonferenz anlässlich ihres 60. Geburtstages unterstütze, so Maydell.

(bme)