Per App gegen Deep Fakes
Zwei Start-ups nutzen neuartige Algorithmen, um sicherzustellen, dass Bilder nicht manipuliert worden sind – vom Moment ihrer Entstehung an.
(Bild: Serelay)
- Karen Hao
Wer Fotos und Videos verfälschen wollte, musste dereinst viel Mühe darauf verwenden. Entweder man verwendete computergenerierte Grafiken zur Erzeugung fotorealistischer Aufnahmen, die zuvor gar nicht existierten – oder man manipulierte mit Photoshop und Co. einfach Bild für Bild von Hand. Beides war teuer und zeitintensiv.
Fälscherwerkstätten haben es leichter
Inzwischen sorgen KI-generierte Bilder jedoch für eine ganz neue Dimension in den Fälscherwerkstätten dieser Erde: Sogenannte Deep-Fake-Verfahren erlauben dank maschinellem Lernen erstaunlich realistisch wirkende Manipulationen sogar in Form von Videos. Ein Redakteur der US-Ausgabe von Technology Review demonstrierte Anfang des Jahres, wie einfach sich mit Software aus dem Netz die Aufnahme eines US-Politikers verändern lässt. Damals gab es noch Störbilder, doch die sind mittlerweile getilgt.
Deep Fakes haben das Potenzial, Skandale zu befeuern oder überhaupt erst zu starten, Medien und Bürger zu verunsichern und schlimmstenfalls Gewalt loszutreten. Gut gefälschte Bilder haben zudem eine noch direktere Qualität als lügende Texte, also "Fake News". Entsprechend wichtig wäre es, Methoden zu entwickeln, mit denen Deep Fakes aufgedeckt werden können.
Hany Farid, Professor für Informatik am Dartmouth College, ist Spezialist für das Auffinden gefälschter Bilder – er beschäftigt sich schon seit 20 Jahren mit dem Thema. Die Gesellschaft sei schlicht nicht bereit für diese Technik. Er habe aber die Hoffnung, dass es mehr und mehr zu einem gesellschaftlichen Bewusstsein dieser Gefahren komme und neue technische Entwicklung dazu führen werden, dass sich Deep Fakes zweifelsfrei von echten Bildern unterscheiden lassen.
Methoden zur Verifizierung
Laut dem Experten gibt es zwei Hauptmethoden, das Problem der Verifizierung zu knacken. Die erste schaut sich nach Veränderungen in einer Aufnahme um. Bildforensikexperten nutzen dazu Computerverfahren, die erkennen können, ob Bildpunkte oder Metwadaten verändert sein könnten. Sie analysieren Schatten oder Reflexionen, die nicht den Gesetzen der Physik zu folgen scheinen oder prüfen die Anzahl der Kompressionsvorgänge eines Bildes, um zu sehen, wie oft es gespeichert wurde.
Eine zweite und noch neuere Methode versucht, die Integrität eines Bildes im Moment der Aufnahme zu verifizieren. Dabei werden Dutzende von Checks vorgenommen, um beispielsweise zu überprüfen, ob der Aufnehmende Ortsdaten oder Zeitstempel manipulieren will. Stimmen die Kamerakoordinaten, Zeitstempel, Höhe und in der Nähe liegende WLAN-Netzwerke mit dem angeblichen Aufnahmeort überein? Bricht sich das Licht im Bild so, wie man es von einer dreidimensionalen Szenerie erwarten würde? Oder knipst da jemand einfach ein bestehendes 2D-Foto?
Farid meint, dass der zweite Ansatz besonders vielversprechend ist. Wenn man bedenkt, dass mehr als zwei Milliarden Bilder jeden Tag ins Web hochgeladen werden, muss aber ein Prozess her, der skaliert.
Junge Firmen wollen helfen
Zwei Start-ups, Truepic aus den Vereinigten Staaten, das von Farid beraten wird, sowie die britische Firma Serelay sind derzeit dabei, ihre Verfahren zu kommerzialisieren. Sie nutzen ähnliche Ansätze: Beide bieten kostenlose iOS- und Android-Kameraprogramme an, die proprietäre Algorithmen verwenden, um Bilder bei der Aufnahme zu verifizieren. Geht ein Bild viral, kann man es mit dem Original vergleichen und bestimmen, ob es seine Integrität behalten hat.
Während Truepic die Bilder der Nutzer auf seine eigenen Server hochlädt und dort vorhält, verwendet Serelay einen digitalen Fingerabdruck, der aus Hundert mathematischen Werten für jedes Bild besteht. Diese Werte seien gut genug, um Fälschungen bis hinunter auf einen einzelnen Bildpunkt zu erkennen und zu bestimmen, welche Bildbereiche verändert wurden.
Truepic wiederum sagt, dass man die kompletten Bilder speichere, sollten Nutzer sensible Aufnahmen aus Sicherheitsgründen auf ihren Geräten löschen wollen. Der Dienst sieht sich unter anderem als Werkzeug für die Berichterstattung in Kriegsgebieten und anderen problematischen Situationen. Serelay wiederum will keine Fotos selbst speichern, weil dies die Privatsphäre der User besser schütze.
Ohne Vertrauen geht es nicht
Als zusätzliche Sicherheitsschicht werden alle Aufnahmen bei Truepic außerdem samt Metadaten in einer Blockchain gespeichert. Diese soll dank kryptographischer Methoden und geteilter Verbreitung dafür sorgen, dass Informationen erhalten bleiben.
Komplett wasserdicht sei das nicht, räumt Farid ein – und Nachteile gebe es auch. Beispielsweise müssten Nutzer die Verifizierungssoftware nutzen statt zur regulären Kamera-App auf dem Smartphone zu greifen. Zudem könnte der Versuch, mit der Technik Geld zu verdienen, dazu führen, dass der Monetarisierung mehr Raum eingeräumt wird als der Sicherheit. "Man muss Vertrauen in die Firmen, die diese Apps entwickeln, stecken."
Es gibt allerdings Ansätze, dieses zu befördern. Sowohl Truepic als auch Serelay bieten Software-Entwicklungskits an, die Drittanbietern Zugriff auf die Technik geben. Die Idee dabei ist es, dass digitale Kamera-Apps, etwa die von Facebook, Snapchat, Google oder Apple, Verifizierungsroutinen enthalten. In einem Szenario wurde ein unverfälschtes Bild automatisch ein Kontrollhäkchen bekommen, wie man es vom Verifizierungsaufnäher bei Twitter kennt.
Ziemlich gute Lösung
"Die große Masse von Inhalten, die online erscheinen, werden mittlerweile von mobilen Geräten aufgenommen", so Farid. Das seien nur eine Handvoll Kameras, die eine Verifizierungssoftware bräuchten. "Damit bekämen wir eine ziemlich gute Lösung hin."
Die beiden Start-ups diskutieren aktuell mit sozialen Netzwerken, um ihre Technik bei diesen zu implementieren. Serelay konnte Teil des Facebook-Inkubator-Programms LDN_LAB werden.
Auch wenn die Technik noch kaum verbreitet ist, hofft Farid, dass Nutzer sie in problematischen Fällen nutzen, etwa wenn es um politische Debatten, Menschenrechtsverletzungen oder Verbrechen geht. In Syrien kam Truepic schon in Zusammenarbeit mit dem TV-Sender Al Jazeera zum Einsatz. Weiterhin versuchen die beiden Start-ups, ihre Technik an Versicherungsunternehmen zu verkaufen, die sicherstellen wollen, dass Bilder von Schäden nicht manipuliert wurden.
(bsc)
