Chatkontrolle: Sicherheitsrisiken beim Client-Side-Scanning
Strafverfolger wollen Chatkontrollen zur Strafverfolgung nutzen. Sicherheitsexperten befürchten Nutzerüberwachung, außerdem sind Erkennungsverfahren angreifbar.
- Prof. Martin Steinebach
Diskussionen über die Chatkontrolle, genauer um das geplante Client-Side-Scanning, thematisieren Verfahren zur Erkennung von bekanntem und unbekanntem CSAM (Child Sexual Abuse Material). Üblicherweise geht es hierbei um die Zuverlässigkeit der Erkennung, insbesondere darum, wie hoch der Anteil der falschen Treffer (False Positives) in der Praxis ist. Dabei geht man von einem Standardbetrieb aus, bei dem die Verfahren Inhalte aus der privaten Kommunikation von Nutzern untersuchen, die diese mit anderen austauschen.
Zu wenig Aufmerksamkeit erhält dabei der Umstand, dass man bei einem so kontroversen Mechanismus auch von gezielten Angriffen auf diesen ausgehen muss. Somit wird neben der Zuverlässigkeit auch die Sicherheit dieser Verfahren ein wichtiger Aspekt. Das kann zu einer Herausforderung werden, da robuste Hashverfahren oder KI-basierte Klassifizierung häufig eben nicht auf Sicherheit ausgelegt sind, sondern von einer Nutzung ohne gezielte Angriffe ausgehen.
- Ein wichtiger Aspekt bei der Diskussion um den Einsatz von Chatkontrollverfahren ist deren Zuverlässigkeit, verbotene Missbrauchsdarstellungen zu erkennen.
- Ist die Rate der falsch positiven Alarme zu hoch, werden nicht nur Behörden mit Meldungen geflutet, es besteht auch die Gefahr, dass Nutzer zu schnell oder fälschlich überwacht werden.
- Mit Angriffen auf robuste Hashverfahren können Kriminelle erreichen, dass anstößige oder verbotene Bilder harmlos erscheinen und unbemerkt weiterverbreitet werden können.
Solche Angriffe sind jedoch durchaus bekannt. Man kann bei robusten Hashverfahren Fehlalarme bei für den Betrachter völlig unproblematischen Inhalten provozieren. Klassifizierungsverfahren können durch Adversarial Attacks, also Angriffe zur Manipulation der Klassifizierungsergebnisse, in ihrer Einschätzung fast beliebig beeinflusst werden. So kann ein Foto einer Firmenfeier durch das gezielte Hinzufügen von Rauschen als CSAM klassifiziert werden. Dieser Beitrag stellt solche Angriffe vor und diskutiert ihre Risiken und Konsequenzen.
Das war die Leseprobe unseres heise-Plus-Artikels "Chatkontrolle: Sicherheitsrisiken beim Client-Side-Scanning". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
