KI gegen KI: Wettbewerb zu Fälschung von Video-Inhalten
So genannte Deep Fakes lassen die Grenzen zwischen Realität und Fiktion verschwimmen. Führende Forscher sollen bald versuchen, sie wieder klarer zu machen.
- Sascha Mattke
Mit neuen Maschinenlern-Techniken wird es selbst für Laien immer leichter, Video- und Audio-Inhalte so zu fälschen, dass sie kaum von Originalen zu unterscheiden sind. Vor diesem Hintergrund veranstaltet die Forschungsagentur DARPA des US-Verteidigungsministeriums in diesem Sommer einen Wettbewerb, an dem führende Experten für digitale Forensik teilnehmen sollen. Dabei sollen sie einerseits möglichst überzeugende falsche Videos, Bilder und Ton-Aufzeichnungen generieren – und andererseits Werkzeuge entwickeln, mit denen sich diese Fälschungen automatisch identifizieren lassen. Das berichtet Technology Review online in „KI gegen KI“.
Bei dem Wettbewerb wird es auch um so genannte „Deep Fake“-Videos gehen, bei denen das Gesicht einer Person auf den Körper einer anderen montiert wird. Wie zu erwarten war, wird diese Technologie bereits intensiv genutzt, um beispielsweise Porno-Videos mit Prominenten zu fälschen. Ebenso ließe sich die Methode aber auch einsetzen, um einen Clip mit einem Politiker zu produzieren, der sich auf empörende Weise äußert. Besonders besorgt sind DARPA-Experten über die relativ neue KI-Technik der Generative Adversarial Networks (GANs), mit der sich beeindruckend realistische künstliche Bilder erzeugen lassen.
„Theoretisch könnte ein GAN alle Techniken zur Erkennung überwinden, wenn wir ihm alle geben würden, die wir kennen“, sagt David Gunning, für das Projekt verantwortlicher Manager bei der DARPA. „Wir wissen nicht, ob es eine Grenze dafür gibt.“ Und natürlich geht dieses Problem weit über den Austausch von Gesichtern hinaus. Immer mehr Experten warnen, es werde nicht mehr lange dauern, bis man kaum noch sagen kann, ob ein Foto, Video oder Audio-Clip von einer Maschine generiert wurde. Google hat sogar bereits eine Lösung namens Duplex entwickelt, die mit Hilfe von KI Telefongespräche simuliert.
Mehr dazu bei Technology Review online:
(sma)
