Konferenz zum Super-Scoring: Der Mensch als Zahlenwert

Inhaltsverzeichnis

Scoring-Systeme dienen einerseits dem gesellschaftlichen Vertrauen – ab einem gewissen Grad sind sie jedoch ein Eingriff in die Integrität des Individuums. Bei der Konferenz "Super-Scoring" der Bundeszentrale für Politische Bildung und dem Grimme Institut debattierten Forscher am Freitag in Köln die unterschiedlichen Aspekte der Technik.

Missverständnisse zu China

Die Diskussion wird derzeit am meisten anhand des Social-Credit Systems in China geführt. Doch die Vortragenden auf der Konferenz waren sich einig, dass die Wahrnehmung des Themas im Westen noch von vielen Missverständnissen geprägt ist. So verwies Mareike Ohlberg vom Mercator Institute for China Studies (MERICS) darauf, dass es sich beim Social Scoring heute noch um eine Reihe provisorischer Systeme handelt – und kein einheitliches, durchweg zentralisiertes System, das in erster Linie zur Aufdeckung von Dissidenten diene.

Das System sei aus einem Bedürfnis entstanden, gesellschaftliche Missstände zu beseitigen. So habe es an der Rechtsdurchsetzung gemangelt. Wie Yongxi Chen von der Universität Hongkong ausführte, hatten die heute gebräuchlichen Systeme ihren Ursprung in einem Creditrating ähnlich der hiesigen SCHUFA – ein Mittel, um die eigenen Bürger vor Betrügern zu warnen.

Ein Betrüger unter dieser Nummer?

Dieses Schutzsystem nimmt allerdings deutlich andere Formen an: Ohlberg führte als Beispiel an, dass die gerichtlichen Schuldnereinträge an Privatunternehmen weitergegeben werden. Folge ist etwa, dass Anrufer bei manchen Telefongesellschaften zuerst eine Ansage hören, bevor sie zu einer "wirtschaftlich unzuverlässig" eingestuften Person durchgestellt werden.

Larry Catá Backer von der Pennsylvania State University warnte davor, das Social-Credit-System reflexhaft abzulehnen. "In mancher Hinsicht sind wir weit vor den Chinesen – wir lehnen das Scoring jedoch nicht ab, weil es in unserem Wertesystem akzeptiert ist, wenn Privatfirmen Daten erheben", erklärte Backer. Aus chinesischer Sicht werde hier eine etablierte Technik von westlichen Moralvorstellungen befreit.

Scoring und Sühne

Jedoch lässt auch ein Perspektivwechsel die chinesischen Scoring-Systeme nicht harmloser erscheinen. So warnte Chen davor, dass durch die Etablierung des Social Scorings die Bedeutung von Gesetzen abnehme. So würden die Änderungen der Rahmenbedingungen der Systeme per Memoranden im Staatsapparat durchgesetzt. Problematisch sei zudem, dass all die in dem System verfügbaren Daten zu einem einzigen Summenwert zusammengefügt werden. Zudem sorge die Vermischung gänzlich unterschiedlicher Systeme dafür, dass die Strafe kaum noch zu den Vergehen passe. Zum Beispiel könne jemandem wegen einer falschen Auskunft auf einer Heiratsurkunde eine Arbeitsstelle als Forscher, Journalist oder Touristenführer verweigert werden.

Ohlberg warnte davor, dass in den Systemen bereits eine Sippenhaft integriert sei: Nicht nur ein Individuum werde für ein vermeintliches Vergehen bestraft, sondern auch das soziale Umfeld. "Die Social-Credit-Systeme sind nur ein Puzzlestück in dem staatlichen Überwachungssystem", erklärte die Sinologin. Allerdings könnten die Systeme natürlich auch zur Abstrafung von Regimegegnern eingesetzt werden. Zudem existierten bereits Angebote, bei denen sich wohlhabendere Kunden bessere Scoring-Werte erkaufen könnten.

Scoring in Europa

Die Einstufung von Bürgern per Scoring mag in China sichtbarer sein, in Europa gibt es aber durchaus auch die Tendenz, die Durchführung staatlicher Maßnahmen auf Datenbanken und Algorithmen zu übertragen. Die Details bleiben der Öffentlichkeit aber oft verborgen. Joanna Redden von der Cardiff University hat mit ihrem Team eine Bestandsaufnahme für Großbritannien durchgeführt. Dazu durchsuchten die Forscher systematisch veröffentlichte Regierungsdokumente nach Schlüsselwörtern. Wenn ein Scoring-Projekt identifiziert wurde, versuchten die Forscher per Informationsfreiheitsanfragen und Interviews Näheres über die Funktionsweise zu erfahren.

Ein Einsatzgebiet, auf das das Team stieß: Mittels Scoring versuchen Jugendämter, den Missbrauch von Kindern zu reduzieren oder gar zu verhindern. So müssen Jugendämter zum Beispiel nicht mehr in einer Schule anrufen, um die Fehlzeiten eines Schülers zu erfahren. Diese Informationen werden direkt in ein IT-System eingespeist, das von einem privaten Dienstleister betrieben wird. Die Bemühungen, ein System zur Unterstützung von Familien und Kindern effizienter zu machen, habe aber eine Schattenseite, wie Redden ausführte. Die Motivation liege oft in der britischen Austeritätspolitik und neoliberaler Logik.

"Das Problem wird demnach in der individuellen Familie gesehen, anstatt sich gesellschaftliche Probleme anzuschauen", erklärte Redden. Statt tatsächlich individuelle Kindesgefährdung zu bestimmen, werde das Verhalten einer vermeintlichen Unterschicht modelliert, wie auch eine andere Teilnehmerin hervorhob: So schlügen die automatisierten Systeme nicht an, wenn das Kind einer ansonsten gut situierten Familie gefährdet sei.

Mehr Infos

Immer aufdringlichere Überwachungstechnik könnte in China paradoxerweise die bürgerlichen Freiheiten stärken.

• Kommentar: Social-Credit-System könnte China etwas weniger repressiv machen

Konsens und Bildung

Ein weiteres Problem liege darin, dass solche Systeme normalisiert werden, bevor die Folgen eruiert worden seien, erklärte Redden. Durch die zunehmende Vernetzung und den unkritischen Einsatz von Scoring-Techniken wird dies auch immer schwieriger. So verwiesen Teilnehmer der Tagung auf eine Vielzahl von Systemen, die schon heute reale Auswirken hätten – von der Parkinson-Diagnose per Stimmanalyse über Schulungssysteme, die das Klickverhalten der Nutzer einbeziehen, um Lernerfolge zu messen, bis hin zum Score-Wert für akademische Publikationen. Forscher behaupten auch, anhand der Analyse weniger hundert Likes auf Facebook genaue Persönlichkeitsprofile erstellen zu können. Angesichts dieser vermeintlichen Macht der Daten stellte sich die Frage: Ist überhaupt ein informierter Konsens zur Datenweitergabe möglich, wie ihn die Datenschutzgesetze vorsehen?

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmmung wird hier ein externer Inhalt geladen.

Externen Inhalt jetzt laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Obwohl es ein unerreichbares Ziel sei, die Bevölkerung vollständig über Risiken und Funktionsweise der Scoring-Systeme zu informieren, plädierte Isabel Zorn dafür, die Bemühungen nicht aufzugeben. So gebe es verstärkende Effekte bei dem Umgang mit den Systemen. "Wer gebildeter ist, kann besser mit Medien umgehen, was wiederum zu besserer Bildung führt", erläuterte Zorn. Wer sozial benachteiligt sei, laufe hingegen Gefahr, von den Entwicklungen überrollt zu werden. Ein erster wichtiger Schritt sei daher, die Medienkompetenz-Bildung von Lehrern und Sozialarbeitern deutlich zu verstärken. (tiw)