Machine Unlearning: Algorithmen können nichts vergessen
Seite 2: Warum wir löschen müssen
Gründe für notwendige Datenlöschung kann es mehrere geben: Einerseits könnten Bürger ihnen zustehende Datenlöschungen fordern, andererseits könnte ein Angreifer manipulierte Daten in die hinzugezogenen Datensätze eingeschleust haben. Auch Lizenzprobleme sind denkbar, beispielsweise wenn beim Machine Learning urheberrechtlich geschützte Werke ausgewertet wurden und eine entsprechende Lizenz abläuft oder sich im Nachhinein als ungültig erweist.
KI
Schließlich könnten sich auch Zweck oder Parameter des Algorithmuseinsatzes ändern. Als Beispiel zieht Papernot eine medizinische Anwendung heran, bei der sich später herausstellt, dass Daten von Patienten vor einem bestimmten Geburtsjahr nicht länger relevant sind. In solchen und ähnlichen Fällen hilft es dem Betreiber, wenn er sein Machine-Learning-Modell nicht ganz von vorne neu trainieren muss.
Wurden hingegen ganz einfach falsche Daten zum Training genutzt, ist es in der Regel möglich, dem Algorithmus dieses neu gewonnene Wissen nachträglich beizubringen, sagte Papernot. Das ist ein deutlich geringerer Aufwand als echte Machine Unlearning, bei dem einbezogene Daten verlässlich ausgenommen werden müssen.
Usenix Enigma 2020
Usenix Enigma ist eine jährliche Konferenz zu IT-Sicherheit und Datenschutz, die sich mit gegenwärtigen sowie sich anbahnenden Bedrohungen an der Schnittstelle von Gesellschaft und Technik befasst. Sie findet diese Woche mit zirka 450 Teilnehmern in San Francisco statt. Es ist die fünfte Auflage der Veranstaltung. (ds)
