Auslegungssache 55: Entscheidungsalgorithmen vs. Datenschutz
Autonome Entscheidungssysteme schleichen sich mehr und mehr ein. Das wirft ethische und rechtliche Fragen auf, die wir im c't-Datenschutz-Podcast diskutieren.
- Holger Bleich
- Joerg Heidrich
In Episode 55 des c't-Datenschutz-Podcasts wagen sich Redakteur Holger Bleich und Verlagsjustiziar Joerg Heidrich an ein großes Thema: Immer mehr Entscheidungen werden in unserer Gesellschaft nicht mehr von Menschen, sondern von Algorithmen getroffen. Dabei geht es um banale Dinge wie den Preis des Joghurts im Supermarkt genauso wie um Berwerbungsverfahren oder Scorings von Bürgerinnen und Bürgern für die öffentliche Sicherheit.
ADM-Systeme (Algorithmic Decision Making) haben sich in den Alltag eingeschlichen, ohne dass sie ethisch und datenschutzrechtlich ausreichend beachtet werden, so die Ausgangsthese. Rechtsanwalt Peter Hense hat sich intensiv mit diesen Problematiken beschäftigt und ordnet als Gast in dieser Episode die Dinge ein: "Vieles von dem, was uns als KI untergejubelt wird, beruht heruntergebrochen auf reiner Statistik", erklärt er und kritisiert, dass Entscheidungen, die auf maschinellem Lernen beruhen, oftmals völlig verdeckt getroffen werden.
Gute gehütete Geheimnisse
Eine benennbare Verantwortung fehlt, es mangelt an "Accountability" bei vielen KI-Systemen. Dies wird laut Hense besonders problematisch, wenn Entscheidungen voll automatisiert, ohne Überwachung und Eingriffsmöglichkeit von Menschen fallen - Die Algorithmen sind oftmals gut gehütete Geheimnisse in privatrechtlicher Hand, was zu Blackboxes führt.
Konsens in der Runde ist: Gesetzgeber tun sich schwer, ADM-Systeme einzuordnen und zu regulieren. Als Beispiel dient der einschlägige Art. 22 der DSGVO, dessen Regelungsumfang ziemlich unklar ist und der laut Hense als Konzession an die US-Konzerne für härtere Vorschriften in anderen Bereichen gesehen werden muss; und noch dazu unzureichend in die offizielle deutsche Version der DSGVO übersetzt wurde.
Ähnlich verhält es sich mit dem von der EU-Kommission vorgeschlagenen "AI Act" und dem Digital Services Act. Hense plädiert dafür, hier unbedingt aktiver und auch restriktiver zu werden. Viele System agieren intransparent, autonom und fehlerhaft - die Algorithmen reproduzieren Unzulänglichkeiten, die ihnen ihre menschliche Ersteller mitgeben.
Episode 55:
Empfohlener redaktioneller Inhalt
Mit Ihrer Zustimmmung wird hier ein externer Podcast (Podigee GmbH) geladen.
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Podigee GmbH) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.
Hier gehts zu allen bisherigen Folgen:
(hob)
