Causal ML: KI erfasst Ursache und Wirkung

Inhaltsverzeichnis

Kausale Zusammenhänge sind allgegenwärtig. Allerdings lassen sich Ursache und Wirkung nicht immer so leicht unterscheiden wie beim Dominoeffekt, wo ein Stein den nächsten umstößt. Gerade statistische Methoden wie das maschinelle Lernen haben fundamentale Schwierigkeiten damit, Kausalität zu erfassen und zu verarbeiten. Ihre Stärke liegt in der Erkennung von Mustern und Korrelationen. Sie finden etwa heraus, dass der Konsum von Schokolade mit der Anzahl der Nobelpreisträger in einem Land korreliert. Das heißt aber noch lange nicht, dass Schokolade schlau macht. Vielmehr gibt es eine dritte Variable, den Wohlstand, der die gemeinsame Ursache darstellt. Herkömmliche Machine-Learning-Verfahren ergründen solche Wechselwirkungen und Abhängigkeiten nicht. Sie kratzen oft nur an der Oberfläche der Realität – und verleiten den Menschen damit zu falschen Schlussfolgerungen.

Causal ML ist ein Überbegriff für die Verknüpfung von maschinellem Lernen mit Kausalität und hat viele Gesichter. Das wohl ambitionierteste Ziel von Causal ML ist es, Machine-Learning-Modelle zu entwickeln, die gefundene Muster selbstständig auf Ursache und Wirkung hin analysieren – also zu echtem logischem Schlussfolgern fähig sind. Einer der Forschungs-Hotspots dafür ist die Abteilung für Empirische Inferenz am Max-Planck-Institut für Intelligente Systeme in Tübingen. Julius von Kügelgen hat dort promoviert und forscht inzwischen an der ETH Zürich. "Kausale Strukturen können hilfreich sein, um Machine-Learning-Modelle zu bauen, die besser generalisieren und robuster sind", sagt der Wissenschaftler. Denn nur allzu oft funktionieren die Modelle zwar hervorragend auf den Daten, auf denen sie trainiert wurden (also unter Laborbedingungen), versagen aber, sobald sie sich in der Praxis bewähren sollen: Dann stellt sich heraus, dass das Trainingsmaterial die Wirklichkeit nur eingeschränkt oder gar stark verzerrt repräsentiert hat.

c't kompakt

• Künstliche Intelligenz ist gut in Mustererkennung, tut sich aber schwer damit, kausale Zusammenhänge zu erfassen.
• Causal ML verknüpft die Prinzipien von Ursache und Wirkung mit maschinellem Lernen.
• Die Technik kann helfen, ML-Modelle robuster zu machen oder so zu kombinieren, dass sie bei Anwendungen etwa in Wirtschaft und Medizin auch kausale Zusammenhänge aufspüren können.

An diesem Problem scheiterte etwa der Versuch, mittels maschinellen Lernens auf Röntgenbildern Pneumothorax zu diagnostizieren, also anhand typischer Gewebeveränderungen festzustellen, ob eine Lunge kollabiert ist. Das hat zwar mit dem Datensatz, auf dem das Modell trainiert wurde, bestens funktioniert. Letztendlich stellte sich jedoch heraus, dass sich das neuronale Netz bei der Klassifizierung stark auf die Anwesenheit von Plastikschläuchen auf den Trainingsbildern verlassen hat, die die Ärzte den Patienten in die Lunge gesteckt hatten. Die Anwesenheit von Schläuchen auf einem Röntgenbild mag zwar mit einer kollabierten Lunge korrelieren; sie als Ursache für eine Diagnose heranzuziehen, ergibt aber keinen Sinn. "Dieses Feature ist ja selbst eine Wirkung der Pneumothorax-Diagnose und keine Ursache dafür", erklärt von Kügelgen, und erläutert, dass diese Schläuche durchaus in einem anderen Trainingsdatensatz von Nutzen sein könnten. In diesem Fall, wo es darauf ankommt, typische Gewebeveränderungen zu erkennen, haben sie die Modelle aber in die Irre geführt.

Das war die Leseprobe unseres heise-Plus-Artikels "Causal ML: KI erfasst Ursache und Wirkung". Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.