Chatkontrolle: EU-Abgeordnete gegen Massenüberwachung

Federführende Abgeordnete des EU-Parlaments haben sich nach wochenlangen Verhandlungen und 50 Sitzungen auf umfassende Korrekturen am heftig umkämpften Entwurf der EU-Kommission für eine Verordnung zur Online-Überwachung unter dem Aufhänger des Kampfs gegen sexuellen Kindesmissbrauch geeinigt. Die geplanten Aufdeckungsanordnungen für elektronische Kommunikation, die besonders umstritten und mit einer umfassenden Chatkontrolle verknüpft waren, sollen demnach nur als Ultima Ratio möglich sein. Berichterstatter Javier Zarzalejos von der Fraktion der konservativen Europäischen Volkspartei (EVP) betonte am Donnerstag: "Es gibt keine Massenüberwachung, keine Hintertüren und keine rechtlichen Schlupflöcher." Sonst wären auch rote Linien im EU-Recht überschritten worden.

Aufdeckungsanordnungen dürfen sich bei nummernunabhängigen interpersonellen Kommunikationsdiensten nur noch auf "einzelne Nutzer oder eine bestimmte Gruppe" beziehen, etwa auf die Abonnenten eines bestimmten Kommunikationskanals. Das geht aus Artikel 8 der heise online vorliegenden Kompromissanträge vor, auf die sich die Verhandlungsführer der Abgeordneten im Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (LIBE) verständigten. Zudem müssen "begründete Verdachtsmomente für einen Zusammenhang" mit Material über sexuellen Kindesmissbrauch (CSAM) bestehen.

Eine solche Chatkontrolle muss ferner von einer "zuständigen Justizbehörde" angeordnet werden. Erforderlich ist in der Regel also eine Richtergenehmigung. Grooming, also das Heranpirschen an Kinder und Jugendliche über das Internet, soll nicht mehr detektiert werden müssen. Öffentliche Chats müssten bei einem einschlägigen hohen Risiko aber moderiert werden. Die zur Durchführung von Aufdeckungsanordnungen herangezogenen Technologien gelten laut dem neuen Artikel 10 zudem "nicht für Ende-zu-Ende-verschlüsselte Kommunikation". Nutzer, die durchgehend verschlüsselte Dienste wie WhatsApp, Signal oder Threema verwenden, dürften demzufolge nicht mit einschlägigen Instrumente überwacht werden. Client-Side-Scanning (CSS), also das Durchsuchen und Ausleiten privater Kommunikation direkt auf Endgeräten der Nutzer, wäre bei Ende-zu-Ende-Verschlüsselung so ebenfalls nicht zulässig.

Die für Scans eingesetzte Technologien könnten prinzipiell vom vorgesehenen EU-Zentrum für den Kinderschutz zur Verfügung gestellt oder von einem Hersteller direkt beschafft werden. Auf jeden Fall müssten sie aber vorab "unabhängig auf ihre Leistungsfähigkeit, Zuverlässigkeit und Sicherheit" geprüft werden. Als weitere Bedingung gilt, dass sie "ausreichend zuverlässig" sind, "indem sie die Fehlerquote bei der Erkennung von sexuellem Missbrauch von Kindern im Internet so weit wie möglich begrenzen". Abweichungen und Verzerrungen seien "durch ordnungsgemäße Tests und Schulungen von Algorithmen und Modellen" zu vermeiden. Für Empörung sorgte zuvor, dass sich vor allem die US-Organisation Thorn des Schauspielers Ashton Kutcher mit ihrer Filterlösung Safer bei der Kommission als Lösungsanbieter ins Spiel gebracht hatte.

Crawling auch im Darknet

Um das Internet von Missbrauchsdarstellungen zu säubern, soll das EU-Zentrum proaktiv öffentlich abrufbare Internetinhalte automatisiert nach bekannten Missbrauchsdarstellungen durchsuchen. Dieses Crawling ist auch im Darknet einsetzbar. Anbieter, die auf eindeutig illegales Material aufmerksam werden, müssten dieses löschen. Strafverfolger, die einschlägiges illegales Material entdecken, sollen es dem Anbieter melden, damit dieser es entfernt. Damit reagieren die Politiker unter anderem auf den Fall der Darknet-Plattform Boystown, bei der CSAM mit Wissen des Bundeskriminalamts (BKA) monatelang weiter verbreitet wurde.

Prinzipiell soll so – ganz im Sinne der Bundesregierung – das Prinzip Löschen statt Sperren greifen. Blockaden könnten nach Artikel 16 allenfalls als letztes Mittel gerichtlich angeordnet werden, "wenn das bekannte Material über sexuellen Missbrauch von Kindern an der Quelle nicht angemessen entfernt werden kann". Dabei müssten die genauen URLs genannt und eine "zusätzliche Sperrung des Zugangs zu rechtmäßigen Inhalten" ausgeschlossen werden. Weitere Bedingung für Blockaden ist, dass sie "technisch machbar für den Anbieter" sind, "ohne die Verschlüsselung des Webverkehrs zu beeinträchtigen".

Die Kommission wollte Anbieter von App-Stores generell zwingen, eine Altersüberprüfung durchzuführen. Laut dem Kompromissvorschlag der Volksvertreter müssten dagegen nur solche Betreiber, die nach dem Digital Markets Act (DMA) als Gatekeeper gelten, angeben, ob der Anbieter einer Softwareanwendung deren Nutzung durch Kinder nicht zulässt oder ob die App über ein Alterseinstufungsmodell verfügt. Für den Zugriff durch Minderjährige wäre dann gegebenenfalls eine Einwilligung der Eltern erforderlich. Systeme zur Altersverifikation könnten eingesetzt werden, müssten aber diverse Bedingungen erfüllen. Eine verpflichtende Altersprüfung sehen die Parlamentarier nur für Online-Plattformen vor, die "hauptsächlich zur Verbreitung pornografischer Inhalte genutzt" werden. Diese müssten zudem zahlreiche andere technischen und organisatorischen Maßnahmen zum Kinderschutz treffen.

Für Kinder sichere Internetdienste

Um junge Menschen vor sexueller Ansprache und Ausbeutung zu schützen, sollen Internetdienste und Apps grundsätzlich sicher ausgestaltet und voreingestellt werden. So soll es etwa möglich sein, andere Nutzer zu blockieren und zu melden. Nur auf Wunsch von Usern wäre es möglich, sie öffentlich anzusprechen. Vor dem Verschicken von Kontaktdaten oder Nacktbildern unter Heranwachsenden soll eine Rückfrage erfolgen, ob dies einvernehmlich ist.

"Unter dem Eindruck massiver Proteste gegen die drohenden verdachtslosen Chatkontrollen haben wir es geschafft, eine breite Mehrheit für einen anderen, neuen Ansatz zum Schutz junger Menschen vor Missbrauch und Ausbeutung im Netz zu gewinnen", freute sich Patrick Breyer (Piratenpartei) über den Durchbruch. Er ist Verhandlungsführer der Grünen. Die Abgeordneten hätten dem "extremen Entwurf der EU-Kommission" zahlreiche Giftzähne gezogen. Die Linke Cornelia Ernst sprach von einer "Ohrfeige" für die Brüsseler Regierungsinstitution. Diese habe "nicht wirklich den Schutz von Kindern im Fokus" gehabt. Problematisch finde sie noch die Altersbestimmungen bei App-Stores.

Die Schattenberichterstatter Paul Tang (Sozialdemokraten) und Hilde Vautmans (Liberale) hoben hervor, dass es gelungen sei, eine gute Balance zwischen den Schutzrechten für Kinder und für die Privatsphäre aller Bürger gefunden zu haben. Sie appellierten an den EU-Ministerrat, in dem die Gespräche zuletzt festgefahren waren, und an die Kommission, "an Bord zu kommen" und Tempo zu machen. Auch Zarzalejos wertete den Kompromiss, der voraussichtlich am 13. November im LIBE beschlossen wird, als "Signal" für den Co-Gesetzgeber. Der Spanier unterstrich: Alle Fraktionen inklusive der Rechtskonservativen hätten sich der Einigung angeschlossen.

(mack)