Duell der KIs
Seite 3: Missbrauch für Deep Fakes und Fake News
Ein ähnliches Katz-und-Maus-Spiel wird es bei der Cybersicherheit geben. Forscher warnen bereits vor der Gefahr von "Black Box"-Angriffen, bei denen mithilfe von GANs die Maschinenlernmodelle ausgeforscht werden, mit denen eine ganze Reihe von Sicherheitsprogrammen Malware identifiziert. Wenn er herausgefunden hat, wie der Abwehr-Algorithmus eines Ziels funktioniert, kann der Angreifer ihn umgehen und bösartigen Code einschmuggeln. Derselbe Ansatz könnte genutzt werden, um Spam-Filter und andere Abwehrmaßnahmen zu überwinden.
Nun wollen Forscher diese Probleme mit neuer Technologie wieder in den Griff bekommen. Goodfellow selbst leitet bei Google ein Team, das daran arbeitet, Maschinenlernen sicherer zu machen. Die KI-Community müsse die Lektionen aus früheren Innovationswellen lernen, bei denen Sicherheit und Datenschutz als Nebensache behandelt wurden, erklärt er. Bis die Risiken erkannt wurden, hatte die böse Seite dadurch schon einen deutlichen Vorsprung. "Den Anfang haben wir eindeutig schon hinter uns", sagt Goodfellow, "aber hoffentlich können wir erhebliche Fortschritte bei der Sicherheit machen, bevor wir zu weit vorangekommen sind."
(Bild: Alec Redford / Ian Goodfellow)
Fälscher sind einen Schritt voraus
Ob Ähnliches jedoch auch bei Fälschungen von Bildern oder Videos gelingt, ist fraglich – auch wenn es Forscher derzeit versuchen. Hany Farid etwa, der sich am Dartmouth College mit digitaler Forensik beschäftigt, arbeitet an besseren Methoden zur Erkennung von Fake-Videos, etwa anhand von leichten Veränderungen der Gesichtsfarbe beim Ein- und Ausatmen; bislang sind GANs relativ schlecht darin, das exakt nachzuahmen.
Doch er warnt, dass sich die Netze wieder anpassen werden. "Wir sind in einer fundamental schwachen Position", sagt der Forscher. Das weiß auch Goodfellow. Er ist daher nicht der Meinung, dass es eine rein technische Lösung gegen das Problem der Fälschungen geben wird. Eher werden wir gesellschaftliche Lösungen entwickeln müssen. Man könne Kinder mit Vortrags- und Debattier-Unterricht in kritischem Denken schulen. "Bei Reden und Diskussionen tritt man gegen andere Schüler an", erklärt er, "und man denkt darüber nach, wie man irreführende Behauptungen aufstellt oder korrekte Behauptungen, die große Überzeugungskraft haben." Damit dürfte Goodfellow richtig liegen. Trotzdem werden viele Menschen seine Schlussfolgerung nicht gern hören.
(bsc)
