Experten warnen vor "Super-Scoring" à la China in Deutschland
Ein Sachverständigenrat sieht in einem Gutachten Gesetzgeber und Aufsichtsbehörden in der Pflicht, ein "Social Credit"-Bewertungssystem zu verhindern.
(Bild: Gerd Altmann, gemeinfrei)
Der Sachverständigenrat für Verbraucherfragen (SVRV) sieht die Entwicklung umfassender Bewertungssysteme für Bürger und Unternehmen etwa in Form des "Citizen Score"-Projekts in China äußerst kritisch. Gesetzgeber und Aufsichtsbehörden sollten Maßnahmen ins Auge fassen, damit solche verknüpften "Super-Scores" nicht auch "in Deutschland kommerziell angeboten werden", fordern die Experten. Dem SVRV gehören Professoren wie der Bildungsforscher Gerd Gigerenzer, die Designforscherin Gesche Joost oder der Sozial-, Verhaltens- und Wirtschaftsforscher Gert G. Wagner an.
In China hat etwa der E-Commerce-Riese Alibaba mit "Sesame Credit" bereits eine Blaupause für eine "Schufa auf Anabolika" geliefert. Die Regierung in Peking will bis 2020 ein "Social Credit"-System auf Basis von Scoring-Verfahren der Finanzwirtschaft zur Bonitätsprüfung einführen. Pilotprojekte in Dutzenden Städten laufen bereits. Mit Punktabzügen muss dort etwa rechnen, wer zu viel Zeit mit Computerspielen verbringt, bei Rot über die Ampel läuft oder ein bestelltes Taxi nicht nimmt.
"Verbrauchergerechtes Scoring"
Der SVRV empfiehlt in einem Gutachten über "verbrauchergerechtes Scoring", derlei Experimente "sorgfältig zu verfolgen und zu analysieren". Insbesondere sei ein "öffentlicher Diskurs über die sich damit verändernden gesellschaftlichen Werte und Gestaltungsoptionen notwendig".
Nach Deutschland bringen könnten derlei weitgehende automatisierte Punktesysteme "internationale kommerzielle Anbieter", warnen die Experten. Eine Handhabe dagegen könnten Instrumente der europäischen Datenschutz-Grundverordnung (DSGVO) wie der Zweckbindungsgrundsatz oder das Koppelungsverbot sein.
Datenhändler
Schon jetzt wachse durch "Datenhändler und Möglichkeiten der DeAnonymisierung von Datensätzen das Potenzial", aus kommerziellen Gründen Informationen aus verschiedensten Lebensbereichen zu vereinen, konstatiert der Rat einen Trend zu Super-Scores. Dies könne sogar auf freiwilliger Basis geschehen, "wenn sich Menschen dadurch individuelle Vorteile versprechen". Federführend seien hierzulande Versicherungsunternehmen mit verschiedenen Sparten. Gerade dort sei es verlockend, Datenbestände zusammenzulegen und im Zusammenhang auszuwerten.
Wer gesund lebe, könnte eine günstigere Berufsunfähigkeitsversicherung angeboten bekommen, bringen die Fachleute ein Beispiel. Im Übrigen zeige die im Rahmen der Studie durchgeführte Umfrage, dass bis zu ein Drittel der erwachsenen Bevölkerung in Deutschland sich die Kombination von Kfz und Gesundheitsscores zumindest vorstellen könne. Diese Gruppe gebe an, dies sei "gerecht" oder versprächen sich davon persönliche Vorteile.
Akzeptanz und Transparenz
Selbst die automatische Übermittlung von Geschwindigkeitsüberschreitungen an die Polizei finde bei gut einem Viertel der Befragten Zustimmung, ist im Gutachten zu lesen. Deutlich nehme die Akzeptanzrate erst ab bei der "Aufzeichnung der Schrittzahl und einer damit assoziierten Beteiligung an Arztkosten bei Nichteinhaltung der Vorgaben und beim Sozialkreditsystem".
Generell drängen die Sachverständigen hauptsächlich darauf, Scoring-Verfahren und den Einsatz von Algorithmen im Allgemeinen transparenter zu gestalten. Verbraucher müssen ihnen zufolge immer darüber informiert werden, wenn ihnen automatisiert ein Zahlenwert zugewiesen und damit ihr Verhalten vorhergesagt oder gar gesteuert werden solle. Erkennbar sollte auch sein, aus welchen Merkmalen sich ihr persönlicher Score zusammensetzt. Anbieter wie die Schufa müssten Verbraucher zudem soweit wie möglich kostenlos darüber in Kenntnis setzen, wenn sich ihr Wert gravierend ändert.
Regulierung
Aufsichtsbehörden wie die Datenschutzbeauftragten sind dem SVRV zufolge zu befähigen, das gesamte Scoring-Verfahren prüfen und die Wirkungen von Scoring kontrollieren zu können. Empfehlenswert sei ferner ein "Daten-Dashboard". Mit einer solchen Schnittstelle würde es Verbrauchern möglich, ihren Score selbst zu berechnen.
Algorithmisch gesteuerte Bewertungsverfahren, die ein bestimmtes Verbraucherverhalten prognostizieren, "müssen zuverlässig arbeiten", verlangt der Rat. Selbst das methodisch hochwertigste Scoring-Instrument liefere aber unzulängliche oder sogar falsche Ergebnisse, wenn die Eingabedaten fehlerhaft seien. Auch eine vernünftige und nachvollziehbare Gewichtung von Faktoren sei entscheidend.
"Außerdem müssen Scoring-Verfahren funktionieren, ohne verbotenerweise zu diskriminieren", halten die Experten fest. Für bestimmte Bevölkerungsgruppen dürften also etwa nicht systematisch unzuverlässigere Resultate geliefert werden. Skeptisch beäugt der Rat so den Einsatz von "Stellvertreter-Merkmalen", die mit der bewerteten Person direkt nichts zu tun haben. Dies sei etwa beim Geo-Scoring der Fall, wo mit berücksichtigt würde, ob jemand "in einer guten Wohngegend" lebt. Der SVRV macht sich auch dafür stark, "telematikfreie Optionen" im Versicherungsbereich ohne die Auswertung persönlicher Nutzungsdaten sicherzustellen. Sonst würden "Solidaritätsziele" unterlaufen. Für die Umsetzung der Empfehlungen solle ein Arbeitskreis am besten im Kanzleramt eingesetzt werden.
Mit eingeflossen in das Gutachten sind die Ergebnisse einer Studie zu "technischen und rechtlichen Betrachtungen algorithmischer Entscheidungsverfahren", die die Gesellschaft für Informatik im Auftrag des Rates erstellt hat. Die Autoren zeigen darin "erhebliche Defizite im geltenden Recht" beim Schutz vor Diskriminierung durch die analysierten Systeme auf. Wenn diese frühzeitig überprüft würden, könnten vor allem mithilfe quantitativer Gleichbehandlungsbegriffe und der Verfügbarkeit qualifizierter Testdaten solche Herabsetzungen festgestellt werden. Dafür müssten aber erst die rechtlichen Grundlagen geschaffen werden. (jk)
