Kollektiver Datenschutz: Was dahinter steckt und warum er nötig ist
Seite 2: Was politische Entscheidungsträger tun müssen
In den Vereinigten Staaten gibt es Gesetzesentwürfe, die all diese Lücken schließen wollen. Im Jahr 2019 haben die Senatoren Cory Booker und Ron Wyden einen "Algorithmic Accountability Act" eingebracht, der dann im US-Kongress ins Stocken geriet. Das Gesetz hätte Unternehmen verpflichtet, in bestimmten Situationen algorithmische Folgeabschätzungen vorzunehmen, um sie auf Voreingenommenheit oder Diskriminierung zu prüfen. Aber in den USA wird dieses wichtige Thema wahrscheinlich zuerst in Gesetzen aufgegriffen, die sich auf bestimmte Sektoren wie das Gesundheitswesen beziehen, wo die Gefahr durch die ungleichen Auswirkungen der Pandemie auf die US-Bevölkerungsgruppen noch größer wurde.
Ende Januar wurde der Public Health Emergency Privacy Act von den Senatoren Mark Warner und Richard Blumenthal erneut in den Senat und das Repräsentantenhaus eingebracht. Dieses Gesetz würde sicherstellen, dass Daten, die für Zwecke der öffentlichen Gesundheit gesammelt wurden, nicht für andere Zwecke verwendet werden dürfen. Es würde die Verwendung von Gesundheitsdaten für diskriminierende, in einem anderen Zusammenhang stehende oder gar "aufdringliche" Zwecke verbieten, einschließlich kommerzieller Werbung, E-Commerce oder Versuchen, den Zugang zu Beschäftigung, Finanzen, Versicherungen, Wohnraum oder Bildung einzuschränken. Dies wäre ein guter Anfang. Darüber hinaus sollte sich ein Gesetz, das für alle algorithmischen Entscheidungen gilt, nach französischem Vorbild auf eine harte Rechenschaftspflicht, eine starke behördliche Aufsicht über datengetriebene Entscheidungssysteme und die Möglichkeit zur Prüfung und Nachverfolgung algorithmischer Entscheidungen und ihrer Auswirkungen auf die Gesellschaft konzentrieren.
Drei Forderungen
Um eine harte Rechenschaftspflicht zu gewährleisten, sind drei Elemente erforderlich: 1. klare Transparenz darüber, wo und wann automatisierte Entscheidungen stattfinden und wie sie sich auf Menschen und Gruppen auswirken, 2. das Recht der Öffentlichkeit, einen sinnvollen Beitrag zu leisten und die Verantwortlichen aufzufordern, ihre Entscheidungen zu rechtfertigen, und 3. die Möglichkeit, Sanktionen durchzusetzen. Entscheidend ist, dass die politischen Entscheidungsträger entscheiden müssen, was einen "Hochrisiko"-Algorithmus ausmacht, für den ein höherer Prüfungsstandard gelten sollte, wie es kürzlich in der EU vorgeschlagen wurde.
Der Schwerpunkt sollte auf der öffentlichen Kontrolle der automatisierten Entscheidungsfindung und einer Transparenz liegen, die zur Rechenschaftspflicht führt. Dazu gehört die Offenlegung der Existenz von Algorithmen, ihres Zwecks und der zugrundeliegenden Trainingsdaten sowie ihrer Auswirkungen – etwa, ob sie zu ungleichen Ergebnissen geführt haben, und wenn ja, für welche Gruppen.
Beteiligung der Öffentlichkeit
Die Öffentlichkeit hat ein grundsätzliches Recht darauf, von der Politik eine Begründung für ihre Entscheidungen zu verlangen. Dieses "Recht, Antworten zu erhalten", sollte sich nicht auf eine konsultative Beteiligung beschränken, bei der die Menschen um ihren Beitrag gebeten werden und die Beamten dann machen, was sie wollen. Es sollte auch eine Beteiligung beinhalten, bei der die Öffentlichkeit vor der Einführung von risikoreichen Algorithmen im öffentlichen und privaten Sektor einbezogen wird. Schließlich ist die Möglichkeit, Sanktionen zu verhängen, der Schlüssel zum Erfolg dieser Reformen und zum Erreichen von Verantwortung. Es sollte verpflichtend sein, Audit-Anforderungen für das Targeting, die Verifizierung und die Kuratierung von Daten festzulegen, die Kontrolleure mit Basiswissen ausstattet und Aufsichtsorgane ermächtigt, Sanktionen durchzusetzen, nicht nur um Schaden im Nachhinein zu beheben, sondern um ihn grundsätzlich zu verhindern.
Das Problem betrifft jeden. Ein Gesetz über den Schutz privater Gesundheitsdaten ist ein erster Schritt. Der US-Kongress sollte dann die Lehren aus der Umsetzung dieses Gesetzes nutzen, um Regelungen zu entwickeln, die sich speziell auf kollektive Datenschutzrechte konzentrieren. Nur durch solche Maßnahmen lassen sich Situationen vermeiden, in denen datengetriebene Unternehmensentscheidungen die Fähigkeit der Menschen beeinträchtigen, auf Jahre hinaus Zugang zu Wohnraum, Arbeitsplätzen, Krediten und anderen Lebenschancen zu erhalten, die uns allen zustehen sollten.
Martin Tisne ist Managing Director von Luminate, einer gemeinnützingen Organisation, die Teil der Omidyar Group ist. (bsc)
