zurück zum Artikel

Die Datenethik-Kommission empfiehlt, Algorithmen in fünf Risikostufen einzuteilen. Facebook & Co. müssten sich Programmroutinen vorab freigeben lassen.

Nach einem guten Jahr Arbeit hat die Datenethik-Kommission (DEK) der Bundesregierung am Mittwoch ihr Abschlussgutachten präsentiert. Die DEK gibt darin auf knapp 240 Seiten 75 Handlungsempfehlungen. Zentral ist dabei der Ruf nach einem "risikoadaptierten Regulierungssystem für den Einsatz algorithmischer Systeme". Programmroutinen sollen demnach nach "Kritikalität" bewertet und ja nach "Schädigungspotenzial" in fünf Stufen eingeteilt werden.

"Anwendungen mit unvertretbarem Schädigungspotenzial“ auf Stufe 5 sollen demnach komplett oder teilweise verboten werden. Zu derart "ethisch nicht-vertretbaren Datennutzungen" zählen die Autoren etwa Totalüberwachung, die Integrität der Persönlichkeit verletzende Profilbildung oder gezieltes ausnutzen von Schwachstellen und Angriffspunkten. Auch Design-Tricks wie Dark Patterns, die Nutzer gläsern oder abhängig machen sollen, finden sich in dieser Kategorie. Dazu kommen "dem Demokratieprinzip zuwiderlaufende" Versuche, politische Wahlen zu beeinflussen, Lock-ins, die "systematische Schädigung von Verbrauchern sowie viele Formen des Handels mit personenbezogenen Daten".

Bereits die etwa auf "Likes" basierende Nutzeranalyse von Facebook fällt für die Medizinethikerin Christiane Woopen in diesen verbotswürdigen Sektor. Der Nutzer gebe darüber Informationen über sich preis, da er etwa ein Bild schön oder eine Nachricht interessant finde, erläuterte die Co-Sprecherin der DEK. Gleichzeitig rechne Facebook mit Scoring-Verfahren aber aus, welche sexuellen Neigungen, persönlichen Umstände oder Persönlichkeitsmerkmale ein Nutzer habe. Daran richte er dann aus, welche News oder Werbung ein Mitglied bevorzugt erhalten oder wie es angesprochen werden solle, um möglichst viel zu kaufen oder eine bestimmte Partei zu wählen. Dies greife in den Kern der intimen Lebensgestaltung ein.

"Erhebliches Schädigungspotenzial"

Viele andere Algorithmen-getriebene Anwendungen großer Plattformen wie auch Google, YouTube oder Twitter dürften nach dem Modell unter Stufe 4 fallen, da sie ein "erhebliches Schädigungspotenzial" aufweisen. Dies führe dazu, dass etwa eine "Live-Schnittstelle zur kontinuierlichen Kontrolle durch Aufsichtsinstitutionen" bereitgehalten und Algorithmen vorab freigeben lassen müssten. Generell rät die Kommission dazu, den mit der "Torwächterfunktion" solch großer Portale verbundenen Gefahren strenger zu begegnen.

Für Dienste mit geringem Gefahrenpotenzial schlagen die Experten [1] diverse "formelle und materielle Anforderungen" wie Transparenz-, Kennzeichnungs- oder Informationspflichten vor sowie eine Risikofolgenabschätzung. Dazu sollten stärkere Kontrollen durch die Behörden treten. Für den Markt sehen sie eine "Zentralisierung der Datenschutzaufsicht" in einem Amt auf Bundesebene vor, das mit einem weiteren Mandat als die Bundesdatenschutzbehörde ausgestattet und eng mit anderen Fachaufsichtsstellen kooperieren sollte.

Menschenzentriertes Design

Der DEK schwebt eine europäische Verordnung für algorithmische Systeme (EUVAS) vor. Sie sollte sicherstellen, dass die Technik zentrale Grundprinzipien berücksichtige wie ein menschenzentriertes Design, die Vereinbarkeit mit Grundwerten, Robustheit und Sicherheit sowie klare Rechenschaftsstrukturen. Zudem müsse gewährleistet werden, dass nicht diskriminiert werde. Statt eines "Algorithmen-TÜVs" solle ein "bundesweites Kompetenzzentrum" für algorithmische Systeme geschaffen werden, das die bestehenden Kontrollinstanzen fachlich unterstütze.

Ins Zentrum aller Bemühungen für einen besseren kontrollierten Zugang zu personenbeziehbaren Daten stellt die DEK "die Entwicklung von Verfahren und Standards der Anonymisierung und Pseudonymisierung". Privacy by Design sollte flankiert werden "durch strafbewehrte Verbote einer De-Anonymisierung". Nur so könne verhindert werden, dass bei bisher anonymen Daten erneut ein Personenbezug hergestellt werde.

"Keinen Bedarf" sieht die Kommission für die Forderung vor allem aus der Wirtschaft, neue Ausschließlichkeitsrechte in Form eines "Dateneigentums" einzuführen [2]. Sie setzt stattdessen auf vertragliche Vereinbarungen rund um die Nutzung und Weitergabe von Daten. Der Gesetzgeber sollte zudem Wege aufzeigen, wie Firmen verstärkt "Datenpartnerschaften" schließen und dabei kartellrechtliche Vorschriften einhalten könnten. Dafür könnten Treuhänder ins Spiel kommen. Auch eine "Ombudsstelle auf Bundesebene" sei hilfreich, um Zugangsvereinbarungen auszuhandeln und Streit zu schlichten.

Interoperabilität

Eine Pflicht zur Interoperabilität etwa für Messenger-Dienste und soziale Netzwerke [3] findet die DEK sinnvoll, um Markteintrittsbarrieren für neue Anbieter zu senken und das Recht auf Datenportabilität [4] zu stärken. Das von Teilen der Bundesregierung propagierte Prinzip der "Datensouveränität" [5] taucht in dem gesamten Bericht dagegen nicht auf. Die Experten drängen stattdessen auf mehr "Bemühungen um die langfristige Sicherung der digitalen Souveränität Deutschlands und Europas" auch als "Ausdruck ethischer Verantwortung".

"Technik hat dem Menschen zu dienen", er dürfe nicht zu deren Objekt werden, unterstrich Woopen. Es gehe darum, ohne Abstriche an diesem Leitgedanken "Potenziale der Datenwirtschaft zu heben", ergänzte die zweite Co-Sprecherin Christiane Wendehorst. Firmen könnten etwa mit Big Data auch das Gemeinwohl stärken, sodass es hier sogar ein Gebot geben könne, Daten verantwortungsbewusst zu nutzen. Künstliche Intelligenz (KI) hat die DEK nach eigenen Angaben entgegen dem Auftrag nicht in den Vordergrund gerückt, da es sich dabei momentan um eine Unterkategorie der Anwendung algorithmischer Systeme handle.

Die Bundesregierung hatte das 16-köpfige Gremium im Juli 2018 eingesetzt [6]. Ihm gehören neben den Datenschutzbeauftragten Ulrich Kelber und Marit Hansen, Verbraucherschützern und Wissenschaftlern auch der Chef des Bundesverbands der deutschen Industrie (BDI), Dieter Kempf, und Wolfgang Wahlster vom Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI) an. Bundesjustizministerin Christine Lambrecht (SPD) versicherte, dass sich ihr Haus zusammen mit dem Innenressort nun "sehr intensiv" mit den Vorschlägen auseinandersetzen werde und diese teils "sehr zügig umsetzen" wolle. Zudem könne sich die Regierung nun auf Basis des Gutachtens mit klugen Ansätzen auf internationaler, europäischer Ebene einbringen. (anw [7])

URL dieses Artikels:
https://www.heise.de/-4566788

Links in diesem Artikel:
[1] https://www.bmjv.de/SharedDocs/Downloads/DE/Themen/Fokusthemen/Gutachten_DEK_DE.pdf?__blob=publicationFile&v=2
[2] https://www.heise.de/news/Meine-Daten-gehoeren-dir-Besserer-Zugriff-auf-Daten-von-Facebook-Co-gefordert-4232826.html
[3] https://www.heise.de/news/Justizministerin-Internet-Konzerne-sollen-Daten-allen-zur-Verfuegung-stellen-4399480.html
[4] https://www.heise.de/news/Recht-auf-Datenportabilitaet-soll-Meta-und-Rohdaten-umfassen-3575612.html
[5] https://www.heise.de/news/Datensouveraenitaet-Die-Saege-am-informationellen-Selbstbestimmungsrecht-3953776.html
[6] https://www.heise.de/news/Datenethikkommission-soll-Auswirkungen-der-Digitalisierung-beleuchten-4156019.html
[7] mailto:anw@heise.de

Copyright © 2019 Heise Medien