Transparente KI gibt Entscheidungswege preis

Ein neues Verfahren entlockt leistungsfähigen KIs ihre Beurteilungskriterien. Mit verständlichen Denkkonzepten lassen sich Entscheidungen besser nachvollziehen.

Artikel verschenken
In Pocket speichern vorlesen Druckansicht 5 Kommentare lesen
, KI Stable Diffusion  Bearbeitung c't

(Bild: KI Stable Diffusion | Bearbeitung c't)

Lesezeit: 13 Min.
Inhaltsverzeichnis

Wie schätzt eine künstliche Intelligenz das Alter einer Person auf einem Foto? Woran erkennt sie ein Rotkehlchen, ein Zebra oder in der dermatologischen Praxis Hautkrebssymptome? Gerade das medizinische Beispiel zeigt, wie wichtig es wäre, die Konzepte genau zu verstehen, die hinter einer KI-Entscheidung stecken. Doch die komplexen Modelle, die in automatisierten Machine-Learning-Prozessen entstehen und sich in Netzen aus Zigtausenden miteinander vernetzten Neuronen manifestieren, offenbaren ihre internen Prozesse nicht so einfach.

Eine Hilfe stellt bislang das LRP-Verfahren (Layer-wise Relevance Propagation). Mit dieser Methode lassen sich die Prozesse im neuronalen Netz zurückverfolgen, schichtweise von der Klassifikation am Ende bis zu den Eingangsdaten auf der Input-Ebene.

Mehr zum Thema Künstliche Intelligenz (KI)

Bei einem Bilderkenner beispielsweise berechnet das LRP-Verfahren nach einer Entscheidung ("es ist ein Zebra") eine Heatmap. Die hebt genau die Bildpixel hervor, die sich im individuellen Fall am stärksten auf die getroffene Klassifikation auswirkten. In diesem Fall würde die Heatmap wahrscheinlich Bildbereiche hervorheben, die Streifen im Fell und den pferdeähnlichen Kopf des Tieres zeigen.

Das war die Leseprobe unseres heise-Plus-Artikels "Transparente KI gibt Entscheidungswege preis". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.