KI in der Medizin: "Maschine darf nicht alleine entscheiden"

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Künstliche Intelligenz (KI) kann Ärztinnen und Ärzte in der ambulanten Versorgung unterstützen, darf jedoch weder ärztliche Entscheidungen ersetzen noch eigenständig handeln. Darauf verwiesen Vertreter der Kassenärztlichen Bundesvereinigung (KBV) bei einer von der Kassenärztlichen Vereinigung Niedersachsen (KVN) organisierten Veranstaltung zum Einsatz von KI in der Praxis.

Nach Einschätzung der KBV eignet sich KI insbesondere für administrative Aufgaben wie Dokumentation, Terminmanagement sowie Telefonassistenz. Voraussetzung für einen tatsächlichen Nutzen sei allerdings eine tiefe Integration in die Praxis-IT. Dr. Philipp Stachwitz, Leiter des Stabsbereichs Digitalisierung der KBV, betonte: „Es nützt nichts, wenn Sie eine KI haben, die wie ein besserer Anrufbeantworter funktioniert.“ Ein solches System müsse aktiv in Praxisabläufe eingebunden sein. „Das System muss auch die Kompetenz und letztlich die Rechte haben, zum Beispiel einen Termin zu verschieben“, sagte Stachwitz. „Dazu muss das System aber wirklich tiefen Zugriff haben.“

KI-Pilotprojekte zum Ausstellen von Folgerezepten

Auch bei Folgerezepten sieht die KBV Einsatzmöglichkeiten für KI – jedoch ausschließlich vorbereitend. „Ein solches System ist durchaus in der Lage zu erkennen, ob ein Patient zum Beispiel sinnvollerweise ein Wiederholungsrezept bekommen kann“, etwa anhand von Dosierung und Zeitpunkt der letzten Verordnung. Die Entscheidung müsse jedoch immer ärztlich getroffen werden: „Aber natürlich darf die Maschine dann am Ende nicht allein entscheiden.“

Praktische Grenzen verdeutlichte Stachwitz in der Online-Informationsveranstaltung anhand eigener Erfahrungen aus einem Medizinischen Versorgungszentrum (MVZ), einer ärztlich geleiteten Einrichtung, in der mehrere Ärztinnen und Ärzte gemeinsam arbeiten. „Ich selbst arbeite auch immer noch einen Tag in der Woche in einer großen Praxis am MVZ, wo eine solche Maschine schon mal im Einsatz war“, berichtete er. Das System sei jedoch wieder abgeschafft worden, „weil nämlich letztlich die Integration des KI‑Systems in unsere Gesamtsysteme noch nicht gut genug war“.

International gibt es bereits weitergehende Ansätze. Im US‑Bundesstaat Utah läuft Medienberichten zufolge seit Ende 2025 ein Pilotprojekt, bei dem KI‑Systeme bestimmte Folgerezeptverlängerungen bei chronisch Kranken vollständig autonom durchführen.

Kein Verbot von KI

Den rechtlichen Rahmen erläuterte Jürgen Schröder, Leiter des Bereichs Vertragsarztrecht bei der KBV. Grundsätzlich sei der Einsatz von KI in Arztpraxen zulässig. „Es gibt keine Rechtsnorm, die den Einsatz von KI in der Arztpraxis verbietet“, stellte Schröder klar. Entscheidend sei jedoch die klare Trennung zwischen administrativen Anwendungen und medizinischer KI, für die strengere Anforderungen gelten. Bei medizinischen Anwendungen müsse die ärztliche Aufsicht jederzeit gewährleistet bleiben. „Sie als Arzt müssen die Letztverantwortung tragen“, sagte Schröder. Ärztliche Entscheidungen dürften nicht auf KI übertragen werden; Ergebnisse müssten geprüft und verantwortet werden.

Beim Datenschutz wies Schröder darauf hin, dass für den Einsatz von KI im Rahmen von Diagnostik und Behandlung in der Regel keine gesonderte Einwilligung der Patientinnen und Patienten erforderlich sei, da die Datenverarbeitung durch medizinisches Fachpersonal erfolge und für die Behandlung notwendig sei. Anders sei dies bei der Nutzung von Patientendaten zum Training von KI‑Systemen, bei der besondere Zurückhaltung geboten sei. Zudem spiele der Ort der Datenverarbeitung eine zentrale Rolle: Erfolgt diese innerhalb der EU, greife der Schutz der Datenschutz‑Grundverordnung, bei Drittstaaten seien zusätzliche Prüfungen notwendig.

Schließlich warnte Schröder vor dem Einsatz frei verfügbarer KI‑Systeme im Behandlungskontext. Systeme wie ChatGPT seien nicht als Medizinprodukte zugelassen und dürften daher nicht zur Behandlungsunterstützung eingesetzt werden. Eine Nutzung zu allgemeinen Recherche‑ oder Informationszwecken ohne Personenbezug sei davon zu unterscheiden. Die KBV sieht KI langfristig als wichtiges Werkzeug zur Entlastung der Praxen. Gleichzeitig bleibe es dabei: KI ist ein Assistenzsystem – Diagnose, Therapie und Verordnung sind und bleiben ärztliche Aufgaben.

(mack)