Transparente KI gibt Entscheidungswege preis
Ein neues Verfahren entlockt leistungsfähigen KIs ihre Beurteilungskriterien. Mit verständlichen Denkkonzepten lassen sich Entscheidungen besser nachvollziehen.
(Bild: KI Stable Diffusion | Bearbeitung c't)
Wie schätzt eine künstliche Intelligenz das Alter einer Person auf einem Foto? Woran erkennt sie ein Rotkehlchen, ein Zebra oder in der dermatologischen Praxis Hautkrebssymptome? Gerade das medizinische Beispiel zeigt, wie wichtig es wäre, die Konzepte genau zu verstehen, die hinter einer KI-Entscheidung stecken. Doch die komplexen Modelle, die in automatisierten Machine-Learning-Prozessen entstehen und sich in Netzen aus Zigtausenden miteinander vernetzten Neuronen manifestieren, offenbaren ihre internen Prozesse nicht so einfach.
Eine Hilfe stellt bislang das LRP-Verfahren (Layer-wise Relevance Propagation). Mit dieser Methode lassen sich die Prozesse im neuronalen Netz zurückverfolgen, schichtweise von der Klassifikation am Ende bis zu den Eingangsdaten auf der Input-Ebene.
Bei einem Bilderkenner beispielsweise berechnet das LRP-Verfahren nach einer Entscheidung ("es ist ein Zebra") eine Heatmap. Die hebt genau die Bildpixel hervor, die sich im individuellen Fall am stärksten auf die getroffene Klassifikation auswirkten. In diesem Fall würde die Heatmap wahrscheinlich Bildbereiche hervorheben, die Streifen im Fell und den pferdeähnlichen Kopf des Tieres zeigen.
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Starthilfe für den privaten Einstieg in die solare Energieproduktion
Ausprobiert: Fritzbox als NAS-Ersatz verwenden
Wie eine lokale KI die Fotosammlung auf dem NAS verschlagworten kann
3D-Druck: Payment-Ring im Eigenbau
Heimnetz: Wie man das LAN auf Trab bringt
Observability mit dem Open-Source-Framework OpenTelemetry
Immer mehr Wissen. Das digitale Abo für IT und Technik.
Starthilfe für den privaten Einstieg in die solare Energieproduktion
Ausprobiert: Fritzbox als NAS-Ersatz verwenden
Wie eine lokale KI die Fotosammlung auf dem NAS verschlagworten kann
3D-Druck: Payment-Ring im Eigenbau
Heimnetz: Wie man das LAN auf Trab bringt