Intelligenztest für KI
Wie sich KI-Entscheidungen überprüfen lassen
Ob im Straßenverkehr oder in der Medizin: KI-Systeme treffen oft wichtige Entscheidungen, ohne dass Anwender diese nachvollziehen können. Das soll sich künftig ändern. Wissenschaftler tüfteln bereits an Prüfverfahren, die neuronalen Netzen auf die Finger schauen.
Künstliche Intelligenz erkennt Krebs in Röntgenaufnahmen, beurteilt Kreditanträge und wählt bei der Personalsuche den besten Bewerber. Aber bislang müssen Patienten und Kunden den Entscheidungen der KI blind vertrauen. In der Regel haben sie keinen Einblick, mit welchen Datensätzen Algorithmen und neuronale Netze trainiert wurden und nach welchen Kriterien sie ihr Urteil fällen. Das europäische Parlament verlangt hier mehr Transparenz (ct.de/y2ta) und fordert die EU-Kommission zur Umsetzung auf (zu deren Plänen siehe S. 39).
Laut der Resolution des EU-Parlaments von Anfang Februar sollen KI-Systeme nachvollziehbare und tendenzfreie Algorithmen anwenden, sonst kann der Betroffene die Verantwortlichen für Nachteile haftbar machen. Zudem müsse die EU-Kommission dafür sorgen, dass nur sichere und konforme KI-Anwendungen in Verkehr gebracht werden.