Seite 4: "Pseudo-KI" und "Gespensterarbeiter"

Inhaltsverzeichnis

Zu eher traditionellen Beschattungsformen gehört dabei ein weitreichendes, schier über das ganze Land gespanntes Netz an elektromischen Augen des großen Bruders. Kameras zur Videoüberwachung sind in China allgegenwärtig, auch wenn unklar ist, wie viele davon funktionieren und wie groß der Anteil des berühmt-berüchtigten "Sicherheitstheaters" ist.

Verstärkt setzen der Staat und seine privaten Helfer auch auf Methoden der automatisierten biometrischen Gesichts-, Sprach- oder Gangerkennung. Mehr oder weniger entwickelte Technologien aus dem Bereich Künstliche Intelligenz (KI) sollen helfen, Personen maschinell anhand der Kameraaufnahmen oder ihrer Mobilkommunikation zu identifizieren und anhand von Bewegungsprofilen zu verfolgen. Die richtige Erkennungsquote von Gesichtern soll aber bei unter 20 Prozent liegen, was zu vielen Fehlalarmen führen dürfte. Hunderte menschliche Kontrolleure vor Bildschirmen sollen helfen, diese zu verhindern, sodass auch von "Pseudo-KI" und "Gespensterarbeitern" im Hintergrund die Rede ist.

Vor allem die autonome Region Xinjiang dient Peking als Testfeld auch für den Einsatz von KI zur Massenüberwachung. Dort werde ein "Panoptikum des 21. Jahrhunderts" geschaffen, um Millionen der dort ansässigen muslimischen Minderheit der Uiguren rund um die Uhr zu beschatten, schreibt etwa der "Economist". Die Städte in dem Gebiet seien alle 100 bis 200 Meter mit Kameras gespickt, die türkischstämmige Bevölkerungsgruppe müsse staatliche "Spyware" auf ihren Smartphones installieren, ihre Ausweise würden mit Zusatzangaben wie Fingerabdrücken, Iris-Scans, Blutgruppe, DNA-Informationen oder einem "Zuverlässigkeitsstatus" verknüpft.

Bei den muslimischen Uiguren im Nordwesten Chinas habe der Staat ein "beispielloses Überwachungsregime" aufgebaut, berichtet auch der "Deutschlandfunk". Dazu gehörten neben unzähligen Kameras bis hin zu Moscheen auch "staatliche Übernachtungsgäste in Familien" sowie Umerziehungslager. Ex-Bundeskanzler Gerhard Schröder hat Berichte über letztere dagegen 2018 ins Reich der "Gerüchte" verwiesen.

"Racial Profiling" mit künstlicher Intelligenz

Aus Xinjiang dringen relativ wenig verlässliche Nachrichten nach außen, da Peking Journalisten oft Visa verwehrt und eine unabhängige Berichterstattung zu verhindern sucht. Human Rights Watch gelang es aber in Kooperation mit anderen Menschenrechtsorganisationen, eine zugespielte, aus 2017 stammende Version einer Behörden-App per Reverse Engineering zu analysieren, die als zentrale Schnittstelle für den dortigen Überwachungsapparat dient. Es handelt sich dabei um ein Werkzeug, mit dem Polizisten und andere Staatsbedienstete mit einer "Integrated Joint Operations Platform" (IJOP) kommunizieren können. Neben Dateneingaben und -abfragen ist dabei auch der Bezug von Warnungen möglich, wenn sich gehäuft Verdachtsmomente ergeben.

Mit der App sammeln die Behörden umfangreiche Daten über die Bürger. Diese reichen von Basisinformationen wie Namen oder Ausweisnummer bis hin zu detaillierten Spezialangaben wie Autokennzeichen, Ausbildung, Telefonnummer, Blutgruppe, Religion oder Glaubensausübung. Von besonderem Interesse sind laut HRW etwa längere Auslandsaufenthalte, der Verzicht auf Smartphones, zu viele Nachkommen, "abnormaler Energieverbrauch" oder Spenden für Moscheen. Die App arbeite im Hintergrund über die IJOP mit diversen Datenbanken zusammen. So würden Beamte etwa alarmiert, wenn Bürger zu viel Strom verbrauchten, verschlüsselte Chatdienste wie WhatsApp nutzten oder Videokameras an Haupteingängen zu umgehen suchten.

Bei ihrem harten Vorgehen gegen die Uiguren setzen die Behörden offenbar auch auf biometrische Erkennungsverfahren, um Angehörige der Minderheit außerhalb von Xinjiang zu kontrollieren. Die "New York Times" sieht darin das erste bekanntgewordene Beispiel für eine Regierung, die gezielt KI-Methoden für "Racial Profiling" zur Identifizierung ethnischer Minderheiten verwendet. So werde die Videoüberwachung nebst der dahinter geschalteten Identifizierungssoftware etwa genutzt, um in den Metropolen Hangzhou und Wenzhou nach Uiguren zu fahnden.

Citizen Score – "Schufa auf Anabolika"

Einen wichtigen Mosaikstein im chinesischen Überwachungsnetz dürfte bald auch das geplante Sozialbewertungssystem darstellen, das auch in westlichen Medien für Aufsehen sorgt. Die Regierung in Peking will bis 2020 einen ambitionierten "Social Credit"-Mechanismus auf Basis von Scoring-Verfahren der Finanzwirtschaft zur Bonitätsprüfung einführen. Staatliche Pilotprojekte laufen in gut 40 Regionen und Städten. Mit Punktabzügen und Strafen wie Sperren für Schnellzüge, Flüge, Luxushotels oder schnelles Internet muss dort etwa rechnen, wer zu viel Zeit mit Computerspielen verbringt, bei Rot über die Ampel geht, vor Fußgängerüberwegen nicht hält oder ein bestelltes Taxi nicht nimmt.

Blaupausen für den "Citizen Score" und die damit verknüpfte "Schufa auf Anabolika" haben unter anderem der E-Commerce-Riese Alibaba über seine Tochter Ant Financial mit "Sesame Credit" sowie Tencent mit dem App-System WeChat geliefert. Auch zur Propaganda-Indoktrination an Schulen setzt die KP seit Kurzem auf eine spielerische Mobilanwendung, bei der Nutzer besonders viel Punkte einheimsen können, wenn sie wechselnde Quizfragen zu Reden und Arbeiten insbesondere von Präsident Xi Jinping richtig beantworten.

Im Westen wird das skizzierte Bewertungssystem für Bürger und Unternehmen als Big-Brother-Instrument mit tiefen Einschnitten in die Grundrechte angesehen. Eine repräsentative Umfrage des Institut für Chinastudien der FU Berlin von 2018 hat derweil ergeben, dass 80 Prozent der chinesischen Online-Nutzer das Vorhaben befürworten. Die hohe Akzeptanz hätten Bürger vor Ort in zusätzlichen Interviews bestätigt, betont Studienleiterin Genia Kostka. Die abweichende Wahrnehmung erkläre sich nicht nur damit, dass die Medien in China eingeschränkt seien und der Schutz der Privatsphäre im öffentlichen Diskurs keine große Rolle spiele. Viele Menschen dort empfänden derlei Systeme auch als wichtig, um "institutionelle und regulatorische Lücken zu schließen".

"Bedenken und Ängste vor Technik werden auf China projiziert"

Wie viel heiße Luft in der staatlichen Initiative steckt, ist umstritten. Dabei gehe es bislang kaum um revolutionäre Technik wie KI oder allwissende Algorithmen, meint Jeremy Daum, Forscher am Paul Tsai China Center an der Yale Law School. Im Kern handle es sich um altbekannte finanzwirtschaftliche Scoring-Verfahren. Dazu kämen schwarze Listen, die im nächsten Jahr wohl stärker durchgesetzt werden sollten. Im Kern gehe es Peking vor allem um Propaganda, glaubt der Wissenschaftler. Den Bürgern solle beigebracht werden, ehrlich zu sein. Die Rede vom "Citizen Score" habe vor allem erzieherischen Charakter.

Was sich wie eine Episode aus der Science-Fiction-Serie "Black Mirror" anhört, wird für Daum im Westen durch einen Spiegel verzerrt: "Wir projizieren unsere eigenen Bedenken und Ängste vor der Technik auf China." Pläne für ein landesweites gesellschaftliches Bonitätssystem "schreiten voran", konstatieren dagegen Kristin Shi-Kupfer und Mareike Ohlberg vom Mercator Institute for China Studies (Merics) in einer aktuellen Studie über "Chinas digitalen Aufstieg". Die laufenden Pilotprojekte könnten "rasch zu einem wirkungsmächtigen und umfassenden Instrument ausgebaut werden".

Dies könnte zusammen mit anderen Facetten der ehrgeizigen chinesischen Digitalagenda auch "negative Folgen für Europas Politik und Grundwerte haben", warnen die beiden Forscherinnen. Viele Aspekte des gesellschaftlichen Bewertungssystems stünden "im Widerspruch zu europäischen Werten – zum Beispiel der Schutz der Privatsphäre und der Meinungsfreiheit – und zu Bemühungen der EU, ethische Standards für die Digitalisierung zu etablieren".