EU-Abgeordnete fordern "erklärbare" und transparente Künstliche Intelligenz
EU-Parlamentarier betonen in einer Resolution, dass Menschen bei algorithmischen Entscheidungen immer das letzte Wort haben müssten.
(Bild: vs148/Shutterstock.com)
Systeme mit Künstlicher Intelligenz (KI) dürfen nur "erklärbare und unvoreingenommene Algorithmen" einsetzen. Dies sei wichtig, um die Akzeptanz der Konsumenten für Produkte mit der Schlüsseltechnologie zu erhöhen und ihr Vertrauen zu erhöhen. Dies verlangt der für den Binnenmarkt und Verbraucherschutz zuständige Ausschuss des EU-Parlaments in einer am Donnerstag mit einer Entschließung, die ohne Gegenstimmen bei vier Enthaltungen angenommenen wurde.
Die Abgeordneten wollen damit das Feld der "Explainable Artificial Intelligence" gestärkt wissen. Dabei geht es darum, oft als "Black Box" angesehene algorithmische Verfahren mit speziellen automatisierten Verfahren zu analysieren und zu quantifizieren. Diese sollen so transparenter gemacht werden, um schummelnden Lösungen auf die Spur zu kommen.
Keine Diskriminierung in Datensets
Eingesetzt werden dürften nur Datensets von hoher Qualität, die nicht bereits möglicherweise bestehende Vorurteile noch verstärkten und zu Diskriminierungen führen könnten, betonen die Volksvertreter. Um bereits passierte Fehler beim "Automated Decision Making" (ADM) zumindest abzumildern, müssten zudem Prüfstrukturen entwickelt werden. Verbraucher sollten darauf bestehen können, dass automatisierte Entscheidungen von Menschen gegengecheckt werden. Es sollte ihnen auch möglich sein, sich rechtlich gegen finale und dauerhafte algorithmische Einschätzungen zur Wehr zu setzen.
Menschen müssten in letzter Instanz immer verantwortlich sein für ADM-Prozesse und diese "überstimmen" können, heißt es weiter in der Resolution. Dies gelte vor allem in den Bereichen Medizin, Justiz und Recht, Buchhaltung sowie im Finanzsektor. Verbraucher sollten generell bei der Interaktion mit KI-Systemen darüber aufgeklärt werden, "wie es funktioniert", wie ein Mensch mit eigener Entscheidungsbefugnis erreichbar sei und wie Ergebnisse geprüft und gegebenenfalls korrigiert werden könnten.
Pflichten für Hersteller sollen klar sein
Die Parlamentarier sorgen sich auch, dass KI-gestützte Produkte eine Art Eigenleben entwickeln und sich in einer Weise verhalten könnten, wie es zum Zeitpunkt des Marktstarts nicht vorgesehen sei. Sie appellieren daher an die EU-Kommission, Vorschläge zur Reform der Sicherheitsbestimmungen für Produkte etwa über die einschlägigen Vorschriften für Maschinen oder Spielzeug vorzulegen. Die Pflichten für die Hersteller müssten hier klar sein.
Wettbewerbskommissarin Margrethe Vestager will den Plan für einen europäischen KI-Regulierungsansatz am 19. Februar vorstellen. Enthalten sein könnte auch ein temporäres Verbot automatisierter Gesichtserkennung. (axk)
