EU-Digitalstrategie: Hochrisiko-KI muss zertifiziert werden

Die EU-Kommission hat sich auf Grundprinzipien für die Regulierung von Künstlicher Intelligenz (KI) verständigt. Systeme für Künstliche Intelligenz (KI) sollen in Einsatzbereichen mit hohem Risiko wie Gesundheit, Polizei oder Verkehr transparent und nachvollziehbar sein, heißt es in einem Weißbuch für ein europäisches KI-Konzept, das die Kommission am Mittwoch vorgestellt hat. Die Technik müsse stets von Menschen beaufsichtigt werden können. Behörden sollen die von Algorithmen genutzten Daten ebenso prüfen und zertifizieren können, wie sie es bei Kosmetika, Autos und Spielzeug bereits tun.

KI-Weißbuch und Datenstrategie

"Künstliche Intelligenz muss den Menschen dienen, ihren Rechten folgen", betonte Kommissionspräsidentin Ursula von der Leyen zur Präsentation der neuen EU-Digitalstrategie, deren Pfeiler neben dem Rahmen für KI ein Plan für die stärkere Nutzung insbesondere von Industriedaten bilden. "Hochrisiko-KI" müsse getestet und zertifiziert werden, "bevor sie auf den Binnenmarkt kommt". Einbezogene Datensets sollten "frei von Vorurteilen" sein.

"Europa führt in KI", erklärte die CDU-Politikerin. Dort würden 25 Prozent aller industriellen Roboter produziert, viele Betriebe nutzen bereits zumindest eine KI-Anwendung. Die meisten Forschungspapiere zu KI schreibe die europäische Wissenschaftsgemeinde. Die Europäer reden laut von der Leyen auch zu wenig darüber, was KI "leisten kann für unser alltägliches Leben" wie etwa für die gesundheitliche Diagnose. Die Technik sei zudem entscheidend, um das Ziel der Klimaneutralität etwa mit Precision Farming oder intelligentem Heizen zu erreichen.

"Je mehr Daten wir haben, desto intelligenter sind unsere Algorithmen", sagte von der Leyen in Brüssel. Der Zugang etwa zu Messwerten aus dem Mittelstand und aus der Industrie sei entscheidend, sodass ihn die Kommission "für unsere Einrichtungen verbessern" wolle. Allein mit der Datenstrategie wolle die Kommission 2 Milliarden Euro einsetzen, um 4 Milliarden bis 6 Milliarden Euro Investitionen auszulösen. Sie wolle einen "Rechtsrahmen und Betriebsstandards für europäische Datenräume" schaffen, in denen Unternehmen, Regierungen und Forscher Informationen speichern sowie untereinander teilen können.

Mit der Datenstrategie geht es der Kommission vor allem darum, Europa als eine Datenmacht jenseits von den USA und China zu etablieren. Um die Abhängigkeit von Anbietern aus Drittstaaten zu reduzieren und die europäische technologische Souveränität zu stärken, will sie in Leuchtturmprojekte für europäische Rechenzentren und gemeinsame Cloud-Infrastrukturen investieren. Die von der Bundesregierung lancierte Cloud-Allianz Gaia X bezeichnete Binnenmarktkommissar Thierry Breton hier als guten Ansatzpunkt für eine offene, sichere Plattformlösung, der auf europäischer Ebene mit weiteren Initiativen etwa aus Frankreich zusammengeführt werden solle. "Wir wollen keine Plattformen mit Gatekeeper-Funktion auf dem Binnenmarkt."

Gefahren für Sicherheit und Datenschutz

Gefahren von Künstlicher Intelligenz für die Cybersicherheit, die Privatsphäre und den Schutz persönlicher Daten habe der EU-Gesetzgeber bislang nicht ausreichend adressiert, heißt es im Weißbuch. Hier und an den Haftungsregeln müsse nachgebessert werden. Zu einer möglicherweise erweiterten Verantwortung auch von KI-Entwicklern und Produzenten bleibt die Kommission noch vage. Von Schranken für tödliche autonome Waffensysteme, wie sie eine hochrangige Expertengruppe auf EU-Ebene zusammen mit einem Verbot des Einsatzes von KI für Überwachung und Scoring von Massen bereits forderte, ist keine Rede.

In einem frühen Entwurf für das White Paper für vertrauenswürdige KI hatte die für Digitales zuständige Kommissionsvizepräsidentin Margrethe Vestager ein temporäres Verbot automatisierter Gesichtserkennung im öffentlichen Raum ins Spiel gebracht. Einen solchen Schritt hielt sie dann aber doch nicht für nötig, da mit der Datenschutz-Grundverordnung (DSGVO) eine solche biometrische Identifizierung aus der Ferne ohne die ausdrückliche Einwilligung der Betroffenen eh nicht zulässig sei. Die Technik dürfe nur in hinreichend begründeten und verhältnismäßigen Ausnahmefällen unter Schutzvorkehrungen auf der Grundlage des Rechts der EU oder der Mitgliedsstaaten genutzt werden. Für das weitere Vorgehen sei eine breit angelegte Debatte nötig.

Die Alarmglocken schrillen bei Vestager, wenn durch KI Grundrechte verletzt, persönlicher Schaden verursacht oder Menschen diskriminiert würden, erläuterte die Dänin. Betreiber müssten bei einer hohen Risikoklasse abschätzen, ob ein Einsatz der Technik "mit unseren Werten vereinbar ist". KI-Systeme müssten auch "technisch robust und präzise funktionieren". Die auch für den Wettbewerb zuständige Expertin betonte, dass die Marktmacht einiger großer Akteure wie Amazon, Facebook oder Google Innovationen nicht verhindern dürfe.

Zuvor forderte das EU-Parlament vorige Woche eine stärkere Kontrolle über automatisierte Entscheidungsfindungen mit voller Nachprüfbarkeit von KI-Systemen. Mit der Publikation des Weißbuchs startet eine Konsultationsphase bis zum 19. Mai. Parallel gibt es die Option, Stellungnahmen zur Datenstrategie abzugeben. Die Ergebnisse sollen in die weiteren Überlegungen der Kommission einfließen, bevor diese gegebenenfalls Ende des Jahres Gesetzesinitiativen startet. (vbr)