Chatkontrolle: Transatlantisches Hin und Her um E2E-Verschlüsselung

Inhaltsverzeichnis

In Europa haben sich mittlerweile vier EU-Mitgliedsstaaten gegen die Chatkontrolle positioniert: Den Anfang hatte das Justizministerium in Österreich gemacht, danach stießen Deutschland und Frankreich dazu, zuletzt hat der Justizausschuss des irischen Parlaments die Chatkontrolle "als gefährlich für die Grundrechte und als ungeeignet für den Zweck erklärt, die Verbreitung von Kindesmissbrauchsmaterial einzudämmen."

In den USA wurde Ende-zu-Ende-Verschlüsselung (E2E) – denn nur darum geht es in allen diesen Vorhaben – noch im Februar in einem einschlägigen Gesetzesentwurf namens Kids Online Safety Act ausgenommen. Jetzt beginnt in den USA alles wieder von vorn. Unter dem Titel 4 "Stop CSAM Act" – steht für "Child Sexual Abuse Material" – wurde dort ein neuer Gesetzesentwurf eingebracht, der Online-Dienste für solche Inhalte haftbar machen soll. Eingebracht wurde der Entwurf von Richard Durbin, dem Mehrheitsführer der Demokraten im Senat.

Der EARN IT Act ist aus der Schublade zurück

Parallel dazu versucht eine Gruppe von Senatoren beider im US-Senat vertretenen Parteien nunmehr zum dritten Mal, den sogenannten EARN IT Act durchzubringen. Wie die Chatkontrolle in der EU würde dieses Gesetz dazu führen, dass jede Chat-Message, jedes Foto und jede andere Datei anlasslos durchsucht wird. "Alle Internet-Benutzer werden so unter den Generalverdacht gestellt, dass sie womöglich Bilder von Kindesmissbrauch verbreiten", kritisiert die Electronic Frontier Foundation.

Der Aktionismus dieser Senatoren hat ziemlich durchsichtige Gründe. Bei den Präsidentschaftswahlen 2024 werden auch einzelne Senatssitze neu vergeben, und diese Senatoren wollen sich davor als Kinderschützer profilieren. Falls der EARN IT Act tatsächlich die Senatsausschüsse passiert, ist wahrscheinlich, dass US-Bundesstaaten das Scannen der Chat-Messages noch vor den Uploads vorschreiben. Apple stellte einen diesbezüglichen Feldversuch im Jahr 2022 ein, weil der reihenweise "False Positives" – also falsche Treffer – produziert hatte.

Einsatz von künstlicher Intelligenz

Das wohl gefährlichste Element all dieser Gesetzesvorhaben wird auch in der EU-"Chatkontrolle" nur am Rand erwähnt. Da die bewusste Betrachtung solcher Darstellungen von Kindesmissbrauch auf beiden Seiten des Atlantiks mittlerweile strafbewehrt ist, soll die Vorauswahl der Bilder ein Algorithmus der "Künstlichen Intelligenz" durchführen. Von dieser Technik ist mittlerweile bekannt, dass ihre Ergebnisse ganz von der Qualität der Datenbasis abhängen, die zum Training der Algorithmen benützt wird. Die Resultate wiederum sind für niemand nachvollziehbar.

Aus diesen Gründen hat die EU-Kommission den Einsatz "Künstlicher Intelligenz" gerade in Bezug auf Strafverfolgung als Hochrisiko-Technik eingestuft. Im EU-Entwurf zur "Chatkontrolle" wird ebenso wie in den USA darauf überhaupt kein Bezug genommen; die zugehörige KI-Verordnung der EU-Kommission ist noch nicht einmal verabschiedet. Es ist zwar möglich, dass dies noch 2023 geschieht, wahrscheinlicher erscheint jedoch ein Inkrafttreten ab 2024.

Im Anschluss wird es für Unternehmen eine Umsetzungsfrist geben. Bis jetzt sind noch nicht einmal die Eckpunkte dieser Verordnung fixiert.

Die Bürgerrechtsorganisation European Digital Rights (EDRi) ist über die Wiederkehr der Chatkontrolle naturgemäß entsetzt. Das sei "extrem beunruhigend" und werde "Leben und Aktivität aller beeinträchtigen, die auf sichere Verschlüsselung angewiesen" seien, schreibt Diego Naranjo, EDRi Head of Policy