KI-Konvention des Europarats: Bürgerrechtler warnen vor Massenüberwachung
Die Verhandlungen über ein Übereinkommen zu KI im Europarat stehen vor dem Abschluss. Für Nationale Sicherheit sollen Staaten frei schalten und walten können.
(Bild: incrediblephoto / Shutterstock.com)
Die abschließenden Verhandlungen über eine Konvention zu Künstlicher Intelligenz (KI) sollen am Montag beim Europarat in Straßburg beginnen. Beobachtern zufolge geht es um das erste rechtsverbindliche internationale Übereinkommen zu der Schlüsseltechnik, das etwa die detailliertere KI-Verordnung der EU ergänzt. Mit am Verhandlungstisch sitzen neben europäischen Staaten auch assoziierte Mitglieder wie die USA, Japan und Kanada. Prinzipiell soll das geplante Abkommen die Menschenrechte, Demokratie und Rechtsstaatlichkeit vor den schädlichen Auswirkungen von KI schützen. Doch zivilgesellschaftliche Organisationen befürchten, dass das Vorhaben den Unterzeichnerstaaten vor allem bei biometrischer Massenüberwachung freie Hand geben könnte.
Stein des Anstoßes: Der aktuelle Entwurf für die Konvention sieht mehrere Klauseln für breite Ausnahmen im Bereich innere Sicherheit und Verteidigung vor. "Eine Vertragspartei ist nicht verpflichtet, dieses Übereinkommen auf den Entwurf, die Entwicklung, den Einsatz oder die Stilllegung von Systemen der Künstlichen Intelligenz anzuwenden, um wesentliche Nationale Sicherheitsinteressen zu schützen", heißt es etwa in einer "Option A". Beispielsweise dürften Aktivitäten im Zusammenhang mit Auslandsgeheimdiensten und Spionageabwehr nicht behindert werden, sofern diese "im Einklang mit geltendem Völkerrecht" durchgeführt werden. Umstrittene Techniken wie automatisierte Gesichtserkennung im öffentlichen Raum, KI-Grenzschutz oder das Scannen von Social-Media-Profilen könnten so vorangetrieben und genutzt werden.
Gegen dieses Vorhaben läuft eine Allianz aus über 90 Bürgerrechtsorganisationen wie AlgorithmWatch, Access Now, Civil Liberties Union for Europe, Load, Open Rights Group, Panoptykon Foundation und Wikimedia sowie führender Wissenschaftler Sturm. "Nichts rechtfertigt den bedingungslosen Verzicht auf die im internationalen, europäischen und nationalen Recht festgelegten Schutzmaßnahmen, die in diesen Bereichen üblicherweise gelten", warnen sie in einem offenen Brief vom Dienstag an den Europarat. Einschlägige Pauschalausnahmen müssten die Verhandlungsführer auf jeden Fall geschlossen zurückweisen.
Freifahrtschein auch für Firmen
Zweiter Punkt zur Sorge bei den Unterzeichnern: Der Entwurf enthält Optionen, wonach der Vertrag nicht für Technik-Unternehmen gelten soll. Alternativ wollen sich beteiligte Staaten große Spielräume vorbehalten, diese Konzerne auszunehmen. "Dies würde dazu führen, dass diesen Unternehmen ein Blankoscheck ausgestellt wird", monieren die Verfasser der Eingabe. Angela Müller, Politikexpertin von AlgorithmWatch, spricht angesichts eines solchen Freifahrtscheins, KI nach Firmeninteressen zu entwickeln und einzusetzen, von einem "gefährlichen Signal". Die verhandelnden Staaten müssten sicherstellen, "dass KI den Interessen der Menschheit dient und nicht denen von einigen wenigen Konzernen".
Den politischen Entscheidungsträgern bleibe nur noch ein kleines Zeitfenster, um schwerwiegende Mängel zu korrigieren und die KI-Konvention wieder an den Grundrechten auszurichten, mahnen die Bürgerrechtler. Die Unterhändler müssten zu den Wurzeln der Initiative zurückkehren. Diese reichen bis 2019 zurück. Damals standen überstaatliche Regeln im Fokus, die zentrale Begriffe wie "Transparenz von Algorithmen" definieren und vereinheitlichen sowie letztlich auch international durchsetzbar sind. Eine Warnung lautete: Automatische Gesichtserkennung könnte je nach Implementierung ein Angriff auf die Würde des Menschen sein. Die Konvention soll sich grundsätzlich nicht auf einen bestimmten Sektor beschränken, sondern horizontale Anforderungen aufstellen. Betroffene könnten sich über eine Verletzung ihrer Rechte beim Europäischen Gerichtshof für Menschenrechte beschweren.
(olb)
