Europarat zu künstlicher Intelligenz: Menschenrechte by Design
KI-Entwickler sollten nach Meinung des Europarats nicht nur Konsequenzen für individuelle Rechte, sondern auch Gefahren für die Gesellschaft berücksichtigen.
(Bild: coe.int)
Entwickler, Hersteller und Dienstleister von Technik im Bereich der künstlichen Intelligenz (KI) sollen nicht nur nach dem Prinzip "Privacy by Design" arbeiten. Vielmehr erfordere KI nach der neuen Empfehlung des Vertragskomitees der Datenschutzkonvention des Europarats Rücksicht aufs Prinzip "Human Rights by Design".
Mögliche Diskriminierung durch KI
Die Empfehlung des Vertragskomitees rückt das Risiko möglicherweise verstärkter Diskriminierung ins Bewusstsein von Entwicklern und Herstellern. Diese sollten jeweils Ursprung und Qualität verwendeter Daten oder auch die Gefahren synthetischer Datensätze berücksichtigen. Nutzern von Anwendungen sollte – analog zur Wahlmöglichkeit nach dem Prinzip "Daten gegen App" – die Möglichkeit geboten werden, eine nicht KI-basierte Variante zu bekommen.
"Negative Effekte für den einzelnen und die Gesellschaft, die dadurch entstehen, dass Datensätze und algorithmische Modelle ihres Kontextes entkleidet und auf andere Felder übertragen werden, sind bei Entwicklung und Einsatz von KI zu berücksichtigen", heißt es weiter in der Empfehlung. Zur Risikofolgenabschätzung solle die KI-Branche überdies neben externen Experten auch Formen einer partizipatorischen Mitaufsicht durch Betroffene entwickeln.
Mit gutem Beispiel voran
Das Komitee verweist im Bereich der für die KI notwendigen Datenerhebung auf die justiziablen Grundsätze der im vergangenen Jahr erneuerten Datenschutzkonvention, der Konvention 108+. In der Neufassung wurde festgelegt: Bürger haben einen Anspruch darauf, dass Entscheidungen über sie nicht völlig automatisiert gefällt werden dürfen. Der Artikel 10.2 ebenso wie gestärkte Transparenzanforderungen in der Konvention 108+ zielten auch auf die Entwicklungen im Bereich der KI.
In seinen Empfehlungen zur KI fordert das Vertragskomitee die Unterzeichnerstaaten der Konvention dazu auf, in der eigenen Beschaffungspolitik die Mechanismen der Anbieter in Bezug auf die Transparenz ihrer Modelle sowie bei der Risiko- und Folgenabschätzung zu berücksichtigen und auch sonst mit gutem Beispiel voranzuschreiten: Im Verwaltungshandeln seien individuelle, durch Menschen getroffene Entscheidungen grundsätzlich zu schützen. Zu den Unterzeichnerstaaten der Datenschutzkonvention gehören neben den 47 Mitgliedsstaaten des Europarates inzwischen 9 Nicht-Mitglieder.
Siehe dazu auch:
(anw)
