Kampf gegen Fake-Bilder: Automatisiertes Analyse-Werkzeug soll helfen

Mit gefälschten Bildern kann man Menschen effektiv in die Irre führen, zumal sie sich über soziale Medien verbreiten lassen, bevor irgendjemand ihre Echtheit überprüft hat. Damit solche Inhalte zumindest anschließend rasch erkannt werden, hat der Alphabet-Inkubator Jigsaw jetzt eine experimentelle Plattform für Journalisten und Fakten-Checker vorgestellt, die Prüfungen auf mehrere bekannte Manipulationstechniken gleichzeitig erledigt. Das berichtet Technology Review online.

Beispielsweise wird von Fälschern häufig die Helligkeit von Bildern verändert und kopierte Pixel werden an anderen Stellen eingefügt, um Informationen mit ähnlichen Texturen zu überdecken. Außerdem erkennt das Assembler genannte Werkzeug mit dem Algorithmus StyleGAN erstellte Deep-Fakes mit künstlich erzeugten Gesichtern. Alle Detektionstechniken fließen in ein Master-Modell ein, das angibt, mit welcher Wahrscheinlichkeit ein Bild manipuliert wurde.

Manipulationen bekämpfen

Assembler ist ein wichtiger Schritt im Wettrüsten um manipulierte Medieninhalte und ihre Bekämpfung. Viele weitere Manipulationstechniken werden damit aber nicht erkannt. Nach Empfehlungen von Experten sollten Technologieriesen wie Google und Facebook Erkennungsfunktionen zudem direkt in ihre Plattformen einbinden. Auf diese Weise würden sich die Prüfungen nahezu in Echtzeit erledigen lassen, noch während Fotos oder Videos hochgeladen und geteilt werden.

Helfen könnten auch andere Ansätze. So experimentieren einige Start-ups mit Verifizierungstechniken. Dabei wird die Position von Pixeln auf einem Foto während der Aufnahme erfasst, was allerdings ebenfalls nicht problemlos ist: Die Organisation Witness hat in einer Studie 14 Möglichkeiten identifiziert, wie solche Techniken selbst Schaden anrichten können.

Mehr dazu bei Technology Review online:

• Neues Werkzeug gegen Fake-Bilder

(sma)