Generative Sprachmodelle: Krankenkassen warten auf Gesetzgebung

Inhaltsverzeichnis

Krankenkassen wie die Techniker arbeiten an Einsatzmöglichkeiten von generativer Künstlicher Intelligenz (KI) und bilden dazu unter anderem Arbeitsgruppen. Dabei ist das Thema KI an sich nicht neu, etwa bei der Prozessoptimierung. Beim Einsatz generativer KI sei jedoch maßgeblich, wie die EU zur "Verordnung über Künstliche Intelligenz" abstimmt. Das teilt der Bundesverband der gesetzlichen Krankenkassen heise online mit. Bei dem Verband der privaten Krankenkassen ist das nicht anders.

Die Einsatzmöglichkeiten seien vielfältig – von der Verarbeitung von Rechnungen bis hin zu individualisierten Angeboten. Wie genau KI in den Krankenkassen eingesetzt wird, entscheiden diese selbst. So denkt die AOK Nordost beispielsweise über einen "stark verbesserten Chatbot, der auf breiteres Wissen zurückgreifen und Kontexte im Dialog besser verarbeiten" oder eine KI-Erweiterung für eine Kassen-eigene, Muster erkennende Suchmaschine nach.

"Inwieweit sich die Leistungsausgaben in der Krankenversicherung durch den vermehrten KI-Einsatz in der Versorgung ändern", sei eine spannende Frage, wie der Leiter des wissenschaftlichen Instituts der PKV, Frank Wild, schreibt. Bereits jetzt entfallen demnach die größten Anteile an KI-Investitionen auf die Bereiche Datenmanagement und Medizin. Dennoch seien Prozessinnovationen im Gesundheitswesen bisher kaum messbar. Daher bezweifle er, dass der Einsatz von KI die jährlich steigenden Ausgaben tatsächlich senken könnten. Zudem seien die Kosten bei der Implementierung derartiger Systeme nicht zu verachten.

Verbesserung der Versorgung nicht garantiert

"Die durch die KI angestrebte Individualisierung der Therapie lässt höhere Therapiekosten erwarten", sagt Wild. Auch bei der Arzneimitteltherapie wirke die personalisierte Therapie seit einigen Jahren als Kostentreiber. Ein Vorteil der personalisierten Therapie sei jedoch, dass Krankheiten früher erkannt werden und Behandlungs- und Fehldiagnosen minimiert sowie medizinisches Personal bei Routinetätigkeiten entlastet werden könnte. Trotzdem würde das nicht zwangsläufig zu einer Verbesserung der Versorgung führen.

Eine angedachte Neuregelung im geplanten Gesundheitsdatennutzungsgesetz (GDNG), dass Kranken- und Pflegekassen eine "datengestützte Auswertung zum individuellen Gesundheitsschutz ihrer Versicherten" durchführen dürfen, sorgte für harsche Kritik – zuletzt von Verbraucherschützern. Auch der Gemeinsame Bundesausschuss (G-BA) gab zu bedenken, dass Informationen an die Versicherten zu bestimmten Krankheiten zu Verunsicherungen führen könnten.

Ethik und "Recht auf Nichtwissen"

Systeme wie ChatGPT stellen Krankenkassen vor ethische Herausforderungen. Die PKVen nennen an dieser Stelle auch "das Recht auf Nichtwissen und die bewusste Entscheidung, manches zum Wohle des Patienten einfach nicht zu tun". Zudem könne eine zunehmende Automatisierung als unpersönlich und die Verarbeitung von Gesundheitsdaten für individuelle Ansprachen als übergriffig angesehen werden. Dazu brauche es gesetzliche Grundlagen. Auch die Barmer hält "ethische Leitplanken" für notwendig und hat einen ethischen Rahmen für den digitalen Fortschritt verfasst.

Krankenkassen müssen sich demnach auch mit den Risiken von KI befassen, schreibt auch die AOK Nordost in ihrem Positionspapier. Wichtig beim Einsatz von KI-Anwendungen sei auch eine Datenschutzfolgeabschätzung. Sowohl Versicherte als auch Mitarbeiter müssten für den Umgang mit Antworten aus Systemen wie ChatGPT sensibilisiert werden. Es sei immer davon auszugehen, dass auch nach hundert richtigen Antworten eine falsche kommen könnte. Zudem sieht auch die Datenschutzgrundverordnung vor, dass Menschen nach § 22 "nicht einer ausschließlich auf einer automatisierten Verarbeitung [...] beruhenden Entscheidung unterworfen" werden dürfen. Problematisch sei laut Wild das Thema Transparenz. Meist laufen die relevanten Algorithmen in einer Blackbox ab, sodass eine Reproduzierbarkeit nicht gegeben sei.

"Je mehr Gefahr, desto strengere Regeln"

Die Barmer-Krankenkasse orientiert sich "bei der Entwicklung entsprechender technischer Leitlinien für den möglichen Einsatz generativer KI bereits an den Positionen des EU-Parlaments". Dort werden die KI-Systeme in unterschiedliche Risikogruppen unterteilt. Je mehr Gefahr von ihnen ausgeht, umso strengere Regeln sollen für diese künftig gelten. Damit will sich die Barmer auf möglicherweise kommende gesetzliche Regelungen vorbereiten.

Die privaten Krankenkassen sehen bei der Liste der Hochrisiko-Anwendungen Änderungsbedarf, wie aus einer Pressemitteilung hervorgeht. Ihrer Ansicht nach sollten nicht alle versicherungsspezifischen Anwendungen als Hochrisiko-Anwendungen klassifiziert werden. Schon heute sei das Versicherungswesen "eine hoch regulierte Branche". Demnach biete der bestehende Rechtsrahmen bereits "ausreichenden Schutz für Verbraucher und gilt selbstverständlich auch für KI-Anwendungen". Die bei den gesetzlichen Krankenkassen "ohnehin sehr hohen Datenschutzanforderungen" sollten einem Barmer-Sprecher zufolge als Basis auch für künftige digitale Innovationen uneingeschränkt gelten.

Große Pläne

Wichtig ist zudem eine geeignete Datenbasis, da die Qualität der Ergebnisse auch von den Daten und deren Vollständigkeit abhängen. Um die Daten auszuwerten, hatte Gesundheitsminister Karl Lauterbach vor wenigen Wochen das "modernste Datengesetz" samt "supersicherer Verschlüsselung" angekündigt. Sein Ziel ist es, Gesundheitsdaten aus Einrichtungen wie Krankenhäusern, Arztpraxen und Krankenkassen zum Trainieren großer Sprachmodelle zu nutzen. Um die Daten der elektronischen Patientenakte mit KI zu analysieren, sei die Charité auch mit Epic Systems im Gespäch.

Derzeit befindet sich neben dem GDNG auch auf EU-Ebene ein Europäischer Gesundheitsdatenraum (EHDS) in der Diskussion. In diesem soll unter anderem der Zugang zu den Daten geregelt werden. In den EHDS sollen über nationale Zugangsstellen die Abrechnungsdaten der Krankenkassen fließen. Dafür wurden bereits die Daten Millionen gesetzlich Versicherter ohne Widerspruchsmöglichkeit an das beim Bundesinstitut für Arzneimittel und Medizinprodukte angesiedelte Forschungsdatenzentrum übermittelt.

(mack)