Facebook will Deep Fakes löschen – aber nicht immer
Deep Fakes zur gezielten Meinungsmanipulation duldet Facebook nicht auf seiner Plattform und passt seine Richtlinien entsprechend an.
(Bild: TY Lim/Shutterstock.com)
Facebook löscht künftig Videos, Fotos und Audios, die mittels "Deep Learning"-Verfahren oder Künstlicher Intelligenz (KI) manipuliert oder erstellt wurden und damit gezielt die Meinung der Anwender des Sozialen Netzwerkes beeinflussen sollen. Ausgenommen sind jedoch Satire und Parodien, gab Facebook am Montag auf seinem Blog bekannt.
Facebook hat die neuen Kriterien für die zu löschenden Deep Fakes zusammen mit weltweit 50 Experten aus den Bereichen Technik, Politik, Medien, Recht sowie mit staatsbürgerlichem und akademischem Hintergrund erarbeitet, heißt es in dem Blog-Beitrag. Demnach sollen künftig Medien gelöscht werden, die so bearbeitet wurden, dass die Änderungen für eine "durchschnittliche Person" nicht erkennbar sind, Videos durch die Manipulationen eine andere Aussage erhalten und Anwender in die Irre führen könnten. Betroffen von der Löschung sind außerdem Videos, die künstlich mit KI- oder Machine-Learning-Verfahren erstellt wurden und dabei verschiedene Inhalte zusammenführen, ersetzen oder so überlagern, dass die Medien authentisch erscheinen.
Facebook nimmt Inhalte mit Satire und Parodien von diesen Regelungen ausdrücklich aus. Auch Videos, in denen Passagen in anderer Reihenfolge zusammengeschnitten oder Sequenzen ausgelassen wurden, sind erlaubt. Ebenfalls gestattet sind Änderungen, die beispielsweise die Bildqualität verbessern sollen.
Deep Fakes erkennen
Unklar ist jedoch, wie Facebook genau beispielsweise Satire und Parodie von solchen Fälschungen unterscheiden will. Offenbar sollen dies die von Facebook eingesetzten unabhängigen Faktenchecker erledigen. Weltweit arbeitet Facebook mit 50 Partnern zusammen, die Fakten in über 40 Sprachen überprüfen. Sie sorgen dafür, dass Fotos und Videos, die nicht den Fakten entsprechen, weiterverbreitet oder als Teil einer Werbeanzeige entfernt werden. Facebook verzichtet jedoch darauf, beispielsweise jedes als Fäschung deklarierte Video zu löschen. Der Grund: Da diese Videos häufig trotzdem anderweitig im Internet verfügbar sind, sei es sinnvoller, diese Medien auf Facebook als Fälschung auszuweisen. Das soll den Nutzern dabei helfen, solche Videos besser einschätzen zu können.
Ziel sei es nach Angaben von Facebook, durch alle ergriffenen Maßnahmen nicht nur die Verbreitung von Fakes zu verhindern, sondern es sollen außerdem deren Urheber erkannt und "ausgerottet" werden. Als Beispiel für den Erfolg führt Facebook in seinem Blog-Post an, im Dezember ein Netzwerk mit gefälschten Konten aufgedeckt zu haben, das KI-manipulierte Inhalte verbreitete.
Um einfacher Deep Fakes entlarven zu können, hat Facebook im September die "Deep Fake Detection Challenge" ins Leben gerufen. Bei dem Wettbewerb können Forscher und Entwickler Techniken zum Erkennen von Deep Fakes einreichen. Als Preisgeld sind insgesamt eine Million US-Dollar ausgelobt, davon 500.000 US-Dollar für den ersten Platz. Der Wettbewerb läuft noch bis März. (olb)
