zurück zum Artikel

Die Entscheidungen einer KI sind oft kaum nachzuvollziehen. Das LIME-Modell ermöglicht es, einzelne Ergebnisse genauer zu verstehen und zu durchschauen.

Der Nutzer gibt einen Prompt ein, die Künstlichen Intelligenz (KI) antwortet – etwa mit einer Chatnachricht oder einem generierten Bild. Aber wie kam die KI zu genau diesem Ergebnis? Selbst die Entwickler einer komplexen Künstlichen Intelligenz können oft nicht nachvollziehen, wie die KI zum ausgegebenen Text oder Bild kam. Die Systeme sind wie eine Blackbox, keiner kann reinschauen.

Besonders komplexe und undurchsichtige Blackbox-Systeme sind allerdings anfällig für Risiken. So könnte eine KI, die Kredite vergibt, etwa bestimmte Leute diskriminieren – weil sie schwarz sind, Frauen oder einer bestimmten Religion angehören. Mit Erklärbarer Künstlicher Intelligenz bringen Entwickler etwas Licht ins Dunkel und machen die Entscheidungen einer KI transparenter. So können sie solche Voreingenommenheiten der KI gleich entdecken und beheben. Auch der Nutzer hat mehr Sicherheit und kann etwa erfahren, nach welchem Schema eine KI entscheidet.

In diesem Artikel stellen wir eine der meistgenutzten Methoden aus dem Feld der Erklärbaren Künstlichen Intelligenz vor: LIME (Local Interpretable Model-Agnostic Explanations). Das Modell kann für einzelne KI-Entscheidungen zeigen, welche Faktoren das Ergebnis beeinflusst haben. Erst beschreiben wir, wie LIME dabei helfen kann, die Gründe für eine KI-Entscheidung ausfindig zu machen und zeigen dann, wie Entwickler mit dem Python-Code LIME direkt anwenden können.

URL dieses Artikels:
https://www.heise.de/-9200532

Links in diesem Artikel:
[1] https://www.heise.de/tests/KI-Stimmen-Sieben-Anbieter-fuer-Text-to-Speech-im-Vergleich-9156580.html
[2] https://www.heise.de/ratgeber/Spracherkennung-und-Transkription-mit-KI-Sprache-in-Text-umwandeln-mit-Whisper-9060350.html
[3] https://www.heise.de/tests/Shell-GPT-kurz-erklaert-KI-fuer-die-Kommandozeile-8985764.html
[4] https://www.heise.de/ratgeber/Prompt-Injection-Wie-Betrueger-KI-Sprachmodelle-ausnutzen-koennen-8932465.html
[5] https://www.heise.de/ratgeber/Fragen-statt-googlen-Wie-die-neuen-KI-Suchmaschinen-die-Welt-erklaeren-8645105.html
[6] https://www.heise.de/ratgeber/Bilder-KI-Stable-Diffusion-lokal-installieren-und-betreiben-8113039.html
[7] https://www.heise.de/ratgeber/KI-Bilder-fuer-Apple-Geraete-Was-mit-der-kostenlose-App-Draw-Things-moeglich-ist-7668899.html
[8] https://www.heise.de/ratgeber/KI-Bildgenerator-Stable-Diffusion-Tipps-fuer-kreative-Bildgestaltung-8002915.html
[9] https://www.heise.de/ratgeber/KI-Kunst-ausprobiert-Mit-Midjourney-eindrucksvolle-Werke-schaffen-7547971.html
[10] https://www.heise.de/ratgeber/KI-Bildgenerator-Stable-Diffusion-Tipps-fuer-kreative-Bildgestaltung-8002915.html

Copyright © 2023 Heise Medien