Agentur für Sprunginnovationen sucht durchgreifende Lösungen gegen Deepfakes​

Die Bundesagentur für Sprunginnovationen (Sprind) will den Kampf gegen hochrealistisch wirkende, meist mit Künstlicher Intelligenz (KI) generierte synthetische Inhalte stärken. Sie führt dazu seit Kurzem im Auftrag des Bundesministeriums für Digitales und Verkehr (BMDV) einen Innovationswettbewerb zum Erkennen und Verhindern solcher Deepfakes durch. Eine Fachjury hat dazu aus fast 50 Bewerbungen insgesamt zwölf Teams ausgewählt, wie die Sprind am Dienstag mitteilte. Die Teilnehmer erhalten für ihre weitere Arbeit in den kommenden sieben Monaten jeweils bis zu 350.000 Euro. Im Mai geht es in Stufe 2, in der dann maximal zehn verbliebene Teams zusätzlich je bis zu 375.000 Euro bekommen für die Weiterentwicklung ihrer Lösung, die im November 2025 stehen soll.

Im 21. Jahrhundert werde die Integrität digitaler Medien und Informationen zunehmend durch Deepfakes bedroht, erläutert die Sprind. Diese Technik berge "erhebliche Risiken für Desinformation, Betrug und Manipulation der öffentlichen Meinung". Dank wissenschaftlicher Fortschritte gebe es zwar bereits neue Erkenntnisse und Methoden im Bereich des maschinellen Lernens, um leistungsfähigere Systeme zur Deepfake-Erkennung zu entwickeln. Diese beschränkten sich bisher aber oft auf Nischenanwendungen oder spezifische Arten von Deepfakes. Verfügbare Ansätze seien zudem meist nicht zuverlässig. Weiteres Manko: "Präventionsmaßnahmen sind bisher begrenzt und lassen sich nicht nahtlos in bestehende digitale Infrastrukturen integrieren."

Gesamte digitale Medienkette soll abgedeckt werden

Der im Rahmen des Wettbewerbs gesuchte Prototyp soll laut der Ausschreibung nun "demonstrieren, wie Bild-Deepfakes zuverlässig erkannt und authentifiziert werden können". Das gesamte System müsse sich kontinuierlich an neue Techniken anpassen können. Am Ende des Prozesses sollen mindestens drei unterschiedliche Anwendungsfälle wie Social Media, Nachrichtenportale oder Videokonferenzsysteme abgedeckt werden. Auch "Skalierbarkeit und Anpassungsfähigkeit an verschiedene digitale Plattformen" sind gefragt. Sprind-Wettbewerbsleiter Jano Costard erklärt: Es gehe darum, die "gesamte Wertschöpfungskette der digitalen Medienverarbeitung" zu berücksichtigen. Diese schließe die präventive Authentifizierung und Sicherung von Originalinhalten sowie die Echtzeitanalyse und Erkennung von Deepfakes ein.

Die von Wissenschaftlern, Branchenexperten und Investoren auserkorenen Teams stammen aus Forschungseinrichtungen, Hochschulen und Start-ups aus Deutschland, Frankreich und Slowenien. Beteiligt ist etwa ein Verbund von Forschern der Universität Nürnberg und der IT-Sicherheitsfirma Secunet, der mit "VeriTrue" auf "Multi-Detektoren" setzt. So soll eine zuverlässige Klassifizierung von echten und gefälschten Bildern beliebiger Deepfake-Generatoren möglich werden, auch wenn diese im Training nicht gesehen wurden. Das Team ReaLGuard vom Mannheimer CeMOS-Forschungszentrum arbeitet an einer universellen Erkennungsmethode, die auch auf inhaltsunabhängigen Merkmalen aufsetzt und sich neuen Bildgenerierungsmethoden anpasst. DeepShield von Secublox und der Bundeswehr-Uni schwört etwa auf fälschungssichere Wasserzeichen und "eine Blockchain-basierte Verifizierung".

(mki)