Chatkontrolle: Transatlantisches Hin und Her um E2E-Verschlüsselung

01.05.2023 16:05 Uhr Erich Moechel

Bronzestatue eines Paparazzo mit Zoomobjektiv — (Bild: Kurt Bauschardt CC BY-SA 2.0)

Im EU-Ministerrat mehren sich die Chatkontrolle-Kritiker. In den USA stehen Kongresswahlen an, dort will sich manch ein Senator als Kinderschützer profilieren.

In Europa haben sich mittlerweile vier EU-Mitgliedsstaaten gegen die Chatkontrolle positioniert: Den Anfang hatte das Justizministerium in Österreich gemacht, danach stießen Deutschland und Frankreich dazu, zuletzt hat der Justizausschuss des irischen Parlaments die Chatkontrolle "als gefährlich für die Grundrechte und als ungeeignet für den Zweck erklärt, die Verbreitung von Kindesmissbrauchsmaterial einzudämmen."

In den USA wurde Ende-zu-Ende-Verschlüsselung (E2E) – denn nur darum geht es in allen diesen Vorhaben – noch im Februar in einem einschlägigen Gesetzesentwurf namens Kids Online Safety Act [1] ausgenommen. Jetzt beginnt in den USA alles wieder von vorn. Unter dem Titel 4 "Stop CSAM Act [2]" – steht für "Child Sexual Abuse Material" – wurde dort ein neuer Gesetzesentwurf eingebracht, der Online-Dienste für solche Inhalte haftbar machen soll. Eingebracht wurde der Entwurf von Richard Durbin, dem Mehrheitsführer der Demokraten im Senat.

Ankündigung Chatkontrolle — Von diesem Gesetzesentwurf existiert erst **eine Presseaussendung von Senator Durbin [3]**, das zugehörige Gesetz soll demnächst im Rechtsausschuss des Senats eingebracht werden.

Der EARN IT Act ist aus der Schublade zurück

Parallel dazu versucht eine Gruppe von Senatoren beider im US-Senat vertretenen Parteien nunmehr zum dritten Mal, den sogenannten EARN IT Act [4] durchzubringen. Wie die Chatkontrolle in der EU würde dieses Gesetz dazu führen, dass jede Chat-Message, jedes Foto und jede andere Datei anlasslos durchsucht wird. "Alle Internet-Benutzer werden so unter den Generalverdacht gestellt, dass sie womöglich Bilder von Kindesmissbrauch verbreiten", kritisiert die Electronic Frontier Foundation [5].

Der Aktionismus dieser Senatoren hat ziemlich durchsichtige Gründe. Bei den Präsidentschaftswahlen 2024 werden auch einzelne Senatssitze neu vergeben, und diese Senatoren wollen sich davor als Kinderschützer profilieren. Falls der EARN IT Act tatsächlich die Senatsausschüsse passiert, ist wahrscheinlich, dass US-Bundesstaaten das Scannen der Chat-Messages noch vor den Uploads vorschreiben. Apple stellte einen diesbezüglichen Feldversuch im Jahr 2022 ein [6], weil der reihenweise "False Positives" – also falsche Treffer – produziert hatte.

Dieser Screenshot zeigt das **Titelblatt des EARN-IT Act [7]**. Das Akronym steht dafür, dass sich Provider die bis jetzt allgemein gültige Haftungsfreiheit erst verdienen müssten.

Einsatz von künstlicher Intelligenz

Das wohl gefährlichste Element all dieser Gesetzesvorhaben wird auch in der EU-"Chatkontrolle" nur am Rand erwähnt. Da die bewusste Betrachtung solcher Darstellungen von Kindesmissbrauch auf beiden Seiten des Atlantiks mittlerweile strafbewehrt ist, soll die Vorauswahl der Bilder ein Algorithmus der "Künstlichen Intelligenz" durchführen. Von dieser Technik ist mittlerweile bekannt, dass ihre Ergebnisse ganz von der Qualität der Datenbasis abhängen, die zum Training der Algorithmen benützt wird. Die Resultate wiederum sind für niemand nachvollziehbar.

Aus diesen Gründen hat die EU-Kommission den Einsatz "Künstlicher Intelligenz" gerade in Bezug auf Strafverfolgung als Hochrisiko-Technik eingestuft [8]. Im EU-Entwurf zur "Chatkontrolle" wird ebenso wie in den USA darauf überhaupt kein Bezug genommen; die zugehörige KI-Verordnung der EU-Kommission ist noch nicht einmal verabschiedet. Es ist zwar möglich, dass dies noch 2023 geschieht, wahrscheinlicher erscheint jedoch ein Inkrafttreten ab 2024.

Im Anschluss wird es für Unternehmen eine Umsetzungsfrist geben. Bis jetzt sind noch nicht einmal die Eckpunkte dieser Verordnung fixiert.

Die Bürgerrechtsorganisation European Digital Rights (EDRi) ist über die Wiederkehr der Chatkontrolle naturgemäß entsetzt. Das sei "extrem beunruhigend" und werde "Leben und Aktivität aller beeinträchtigen, die auf sichere Verschlüsselung angewiesen" seien, schreibt Diego Naranjo, EDRi Head of Policy [9]

Das sagen Kriminalsoziologen dazu

Varianten der Durchsuchung bei Chatkontrolle — 2021 hatte ein Team aus etwa einem Dutzend der weltweit wohl bekanntesten akademischen Kryptographen die Überwachungsvorhaben von EU-Kommission und Ministerrat **regelrecht auseinandergenommen [10]**. Die Grafik zeigt die beiden möglichen Varianten der Durchsuchung. Links ist der Prozess des Scannings am Server abgebildet, rechts im Bild sieht man das Scanning auf den Endgeräten der Benutzer. Das Vorhaben, Verbrechen im Netz durch automatische Scans aller Inhalte und den Einsatz "Künstlicher Intelligenz" zu bekämpfen, sei "illusorisch", **so die Schlussfolgerung [11]** des Papiers.

(Bild: Anderson et al.)

Laut Thomas-Gabriel Rüdiger, der erst kürzlich als Professor an die Polizei-Universität Brandenburg [12] berufen wurde, stammen 44 Prozent der bereits jetzt in Deutschland identifizierten Abbildungen sogenannter "Kinderpornographie" von Minderjährigen selbst. Sie wurden auch nicht als Resultat von "Cyber-Grooming" durch Erwachsene ausgetauscht, sondern kursieren zwischen Jugendlichen, deren Altersklasse rund um die Legalitätsgrenze von 14 Jahren liegt.

Dieses Phänomen ist auch dem Wiener Kriminalsoziologen Reinhard Kreissl [13] gut bekannt: "Die sexuelle Entwicklung des Menschen startet mit seiner Geburt, und die kinder- und jugendspezifische Ausformung von Vorstellungen und Praktiken hängt nicht nur stark von den jeweiligen kulturellen Traditionen ab, sondern auch von den Möglichkeiten des Ausdrucks und der Kommunikation. Die Möglichkeiten der visuellen Darstellung durch elektronische Medien trifft auf jugendliches Experimentierverhalten und bringt damit neue Formen hervor", schreibt Kreissl.

"Verquere Fantasien von Erwachsenen"

Kriminalsoziologe Kreissl weiter: "Hier von Kinderpornographie zu reden, ist völlig unpassend. Jugendliche tun heute mit ihren Smartphones das, was sie früher gemeinsam in dunklen Ecken und unbeobachteten Momenten getan haben. Das ist wichtig für die Entwicklung der eigenen Sexualität, altersgemäß und keineswegs bedrohlich. Die derzeit öffentlich beobachtbare Erregung wirft eher ein Licht auf verquere Fantasien von Erwachsenen, die sich über derartiges echauffieren, als auf eine bedenkliche Form jugendlichen Sexualverhaltens."

EU-Kommissarin Ylva Johansson und die übrigen Proponenten der umstrittenen Verordnung gegen Kindesmissbrauch im Netz können mit diesen Aussagen akademischer Experten natürlich wenig anfangen. Folgerichtig wurden diese Stimmen bis dato ignoriert.

Epilog

Die wichtigste Unterstützerin der Chatkontrolle im EU-Parlament, die Abgeordnete und Vizepräsidentin des Parlaments, Eva Kaili (PASOK Griechenland, SD) kam Kommissarin Ylva Johansson mittlerweile abhanden. Kaili wurde in der ersten Dezemberwoche verhaftet [14], weil bei ihr Bestechungsgelder gefunden wurden, die nach Angaben der EU-Betrugsbehörde OLAF aus Katar und aus Marokko stammen.

(mack [15])

URL dieses Artikels:
https://www.heise.de/-8982723

Links in diesem Artikel:
[1] https://www.heise.de/hintergrund/Kid-Online-Safety-Act-US-Chatkontrolle-kurz-dem-Start-im-Senat-7520927.html
[2] https://www.heise.de/news/Stop-CSAM-Act-Durchgehende-Verschluesselung-koennte-auch-in-den-USA-weichen-8976288.html
[3] https://www.judiciary.senate.gov/press/dem/releases/durbin-introduces-stop-csam-act-to-crack-down-on-the-proliferation-of-child-sex-abuse-material-online
[4] https://www.judiciary.senate.gov/imo/media/doc/earn_it_act_of_2023_-_s1207.pdf
[5] https://www.eff.org/deeplinks/2023/04/earn-it-bill-back-again-seeking-scan-our-messages-and-photos
[6] https://www.heise.de/news/Apple-Kein-Kinderporno-Scan-auf-iPhones-mehr-geplant-7370658.html
[7] https://www.judiciary.senate.gov/imo/media/doc/earn_it_act_of_2023_-_s1207.pdf
[8] https://fm4.orf.at/stories/3025089
[9] https://edri.org/our-work/eu-us-plan-offensive-to-legitimise-police-access-to-data-civil-society-responds-amid-growing-fears-press-release/
[10] https://fm4.orf.at/stories/3018803/
[11] https://arxiv.org/pdf/2110.07450.pdf
[12] https://www.praeventionstag.de/nano.cms/personen/id/4026
[13] https://www.vicesse.eu/reinhard-kreissl
[14] https://fm4.orf.at/stories/3029607/
[15] mailto:mack@heise.de