Drei Fragen und Antworten: Wo künstliche Intelligenz der Medizin wirklich hilft
KI soll Medizinern zunehmend unter die Arme greifen. In manchen Bereichen ist sie jedoch schlicht ungeeignet, bei Spezialfällen bleiben die Kosten zu hoch.
Der öffentliche Zugang zu den aktuellen KI Bild- und Textgeneratoren befeuert die Vorstellungen von technischem Fortschritt und möglichen Einsatzgebieten von KI. Dabei sind gerade diese Modelle noch von vielen Kinderkrankheiten befallen und eigenen sich nicht für den breiten Einsatz in Spezialgebieten wie der Medizin. Wir sprechen mit Daniel Beck darüber, wo KI-Systeme keine Hilfe sind und in welchen Bereichen sie Ärzten die Arbeit erleichtern.
Was sind typische Bereiche, in denen KI für die Medizin überschätzt wird?
Auch wenn wir recht gut verstehen, wie der Mensch funktioniert, ist er ein komplexes System und somit mathematisch nicht in Gänze modellierbar. Bei KI-Systemen, die ein breites Spektrum abdecken oder deren Entscheidungen eine große zeitliche Spanne betreffen, bin ich grundlegend skeptisch. Hier kommen neben der Tatsache, dass die mathematischen Modelle nur Annäherungen sein können, noch eine Reihe weitere Probleme hinzu. Allem voran das Problem der Verfügbarkeit hochqualitativer und repräsentativer Daten für das Training. Diese Daten fehlen aber auch als Eingabe für das System im Betrieb. Eine Anwendung, die aufgrund ihrer Breite solche Qualitätsprobleme mit sich bringen würde, wäre eine breit angelegte, kontinuierliche Identifikation von Risikopatienten aufgrund ihrer Krankenakten.
Eine andere Einsatzmöglichkeit für KI im medizinischen Umfeld, die ich kritisch sehe, ist der Ersatz menschlicher Kontakte beispielsweise durch Chatbots. Das wird gerade etwa bei der Nachversorgung von Patienten angedacht. Aufgrund der oben beschriebenen Schwächen der momentan verfügbaren technischen Ansätze ist es aber nicht möglich, dies ohne fundamentale Qualitätsverluste umzusetzen.
Es sind aber nicht immer nur technische Gründe, die dazu führen, dass man ein KI-System nicht einführt oder erforscht. Auch bei potenziell gut funktionierenden Systemen spielen wirtschaftliche Abwägungen eine Rolle. So ist es durchaus möglich, dass etwa mangelnde Fallzahlen und dadurch das Einsparpotential die Anschaffungs- oder Entwicklungskosten nicht rechtfertigen.
In manchen Bereichen lässt sich KI dann doch sinnvoll einsetzen. Welche KI-Anwendungen gibt es in der Diagnostik, bei der Therapieauswahl oder der Datenauswertung bereits?
In diesen Bereichen gibt es schon seit vergleichsweise langer Zeit gut funktionierende KI-Anwendungen. Ein Beispiel ist das System Mycin, das man Anfang der 1970er Jahre zur Diagnose und Therapie von Infektionskrankheiten mit Antibiotika entwickelt hat. Die guten Ergebnisse dieser frühen Systeme motivierten sicherlich viele weitere Forschungsarbeiten und Entwicklungen, spiegelten sich allerdings nicht in deren Verbreitung wider. So auch jetzt, knapp 50 Jahre später: Die Nutzung von KI-Systemen im medizinischen Bereich ist vergleichsweise überschaubar.
Trotzdem gibt es Bereiche, in denen KI-basierte Systeme mittlerweile zum Standard gehören. Etwa in EKG-Geräten, die automatisiert pathologische Reizleitungsmuster wie bei kardialer Ischämie erkennen können oder Verfahren zur multivariaten, molekularen Diagnose zahlreicher Krebsarten. In beiden Fällen hat sich die KI durchgesetzt, weil die Qualität und Zuverlässigkeit der Systeme die von Ärzten übersteigt. Diese Systeme übernehmen einerseits die Routinetätigkeit der Beurteilung der EKG-Signale, andererseits ermöglichen sie exaktere onkologische Diagnosen, als sie aufgrund der schieren Komplexität für einen Menschen möglich sind.
Warum die Adaption von KI-basierten Ansätzen in der Medizin und allgemein im Gesundheitswesen eher schleppend verläuft, bedarf einer umfassenderen Analyse. Die oben genannten Faktoren wie technische, rechtliche und wirtschaftliche Gründe gehören sicherlich zu den wichtigsten, sind aber auch nicht die alleinigen. Des Weiteren besteht unter Ärzten wie bei allen wissensbasierten Berufsgruppen KI-Systemen gegenüber eine starke und teilweise auch verständliche Skepsis. Wenn man sich die Wissenspräsentation stochastischer Systeme wie ChatGPT oder das bereits wieder abgeschaltete Galactica von Meta ansieht, versteht man das auch.
Kommt KI neben der Diagnostik auch im Operationssaal zum Einsatz? Etwa beim OP-Roboter daVinci?
Generell lässt sich die Robotik als Teilgebiet der Künstlichen Intelligenz auffassen. Allerdings denkt man dann eher an autonom agierende Systeme, die dynamisch auf Änderungen in ihrer Umgebung reagieren können. Weder der OP-Roboter daVinci und erst recht nicht das Robodoc System verfügen über diese Fähigkeit. daVinci ist in erster Linie ein durch den Operateur ferngesteuertes System. Das Robodoc System führt einige vorher definierten Schritte im Rahmen des Einsetzens einer Hüftgelenksendoprothese durch. Das ist eine sehr stark standardisierbare OP.
Dass Robotersysteme autonome wichtige Prozeduren in einer OP übernehmen, sehe ich nicht als nächsten Schritt für den Einsatz von KI in der Chirurgie. Nicht nur müssen technische Herausforderungen gemeistert, sondern vor allem auch Fragen zur Sicherheit geklärt werden. Allerdings unterstützen KI-Systeme bereits heute Chirurgen bei der OP und erhöhen so die Sicherheit für Patienten. Etwa durch die Bereitstellung zusätzlicher Informationen, die mittels KI aus den Bildern der endoskopischen Kameras extrahiert werden.
Herr Beck, vielen Dank für ihre Antworten.
In einem ersten Interview erklärte Daniel Beck bereits, worauf es beim Zusammenspiel von KI und Patientendaten ankommt. Aktuelle KI-Systeme in der Diagnostik sollen etwa Tumorgewebe identifizieren oder bei der Früherkennung von Lungenkrebs helfen. Auch beim Entwickeln neuer Medikamente spielt KI eine immer größere Rolle. Neben der Vorhersage der Faltung von Proteinen sollen KI-Bildgeneratoren nun auch neue Proteine erfinden. Der in diesem Interview kritisierte Ansatz, Chatbots zur Patientenversorgung zu verwenden, findet derweil auch Anklang.
In der Serie „Drei Fragen und Antworten“ will die iX die heutigen Herausforderungen der IT auf den Punkt bringen – egal ob es sich um den Blick des Anwenders vorm PC, die Sicht des Managers oder den Alltag eines Administrators handelt. Haben Sie Anregungen aus Ihrer tagtäglichen Praxis oder der Ihrer Nutzer? Wessen Tipps zu welchem Thema würden Sie gerne kurz und knackig lesen? Dann schreiben Sie uns gerne oder hinterlassen Sie einen Kommentar im Forum.
(pst)
