Arzt zum Thema KI: "Ich möchte keinen 'Doktor' aus dem Raumschiff Voyager haben"
Die Delegierten des 129. Ärztetags diskutierten das Thema Künstliche Intelligenz. Zentral dabei waren Fragen zur Souveränität, Regulierung und Verantwortung.
Ă„rzte diskutierten die Risiken und Nebenwirkungen KĂĽnstlicher Intelligenz.
(Bild: Bundesärztekammer)
Ein Schwerpunktthema auf dem 129. Ärztetag in Leipzig ist "Künstliche Intelligenz". Hierzu wurden mehr als 20, teils überlappende Beschlussanträge eingereicht. Zudem wurde die Einrichtung eines interdisziplinären KI-Expertengremiums beschlossen, das Vertreter aus Medizin, Informatik, Recht und Ethik umfasst und unter anderem Leitlinien entwickeln soll. Besonders wichtig: KI darf nicht die Arzt-Patienten-Beziehung gefährden. Der zunehmende Einsatz von KI-Systemen zur automatischen Sprachtranskription und -verarbeitung könnte das Vertrauen untergraben, wenn sensible Informationen an Dritte gelangen. Das wollen die Ärzte nicht.
Mitgestaltung statt Fremdbestimmung
Ärztinnen und Ärzte wollen die Entwicklung und Einführung von KI aktiv begleiten und gestalten, anstatt marktgetriebenen, "disruptiven" Lösungen ausgeliefert zu sein. "Uns bleibt nicht mehr viel Zeit", sagte Dr. Peter Bobbert, Co-Vorsitzender des Ausschusses "Digitalisierung in der Gesundheitsversorgung" der Bundesärztekammer (BÄK). "Wir brauchen jetzt Souveränität, Unabhängigkeit und einen echten europäischen 'Airbus-Moment' in der KI-Entwicklung." KI-Systeme sollten nicht an Fachkundigen vorbei eingeführt werden. Probleme in der digitalen Infrastruktur, insbesondere fehlende Schnittstellen zwischen verschiedenen IT-Systemen in Krankenhäusern, werden als große Hürde für den sinnvollen Einsatz von KI genannt.
Souveräne KI-Systeme
In einem der Beschlussanträge fordert der Ärztetag regulatorische Maßnahmen, um die Monopolisierung von KI-Systemen im Gesundheitswesen "durch wenige große Anbieter zu begrenzen". Demnach müsse "die Entwicklung und Implementierung von KI-Anwendungen durch Universitäten, unabhängige Forschungszentren und Fachgesellschaften [...] entsprechend gefördert werden". Die Ärzte sehen neben Haftungsfragen zudem Risiken wie Überdiagnosen und mögliche Diskriminierung durch fehlerhafte oder voreingenommene Algorithmen. Es wird betont, dass KI-Systeme nicht alles können und die Qualität der Daten entscheidend sei.
Sogar einen Teil der ärztlichen Aufgaben könnte KI bald übernehmen. Aufgrund des hohen Stromverbrauchs sollte KI zudem auch nicht bei jeder Kleinigkeit genutzt werden. "Vor einigen Jahren klang KI nach Science-Fiction, heute ist sie medizinische Praxis", sagte Dr. Klaus Reinhardt, Präsident der Bundesärztekammer (BÄK), zu Beginn der Debatte. "Doch der Einsatz wirft auch Fragen auf, nach Datensicherheit, Transparenz und ärztlicher Verantwortung." Wichtig ist vielen Ärzten, dass trotz aller technischen Fortschritte die menschliche Zuwendung, Empathie und die Fähigkeit, Patientinnen und Patienten mitzunehmen, nach wie vor von zentraler Bedeutung sind. KI soll nicht als Ersatz, sondern als unterstützendes Werkzeug für Ärzte gesehen werden. Früher wurde zudem Google genutzt, "heute benutzt man eben Chat-GPT", so Dr. Robin Maitra von der Landesärztekammer Baden-Württemberg.
Kein "Doktor" aus Star Trek
"Ich möchte keinen 'Doktor' aus dem Raumschiff Voyager haben", erklärte der niedersächsische Kinderarzt Dr. Tilmann Kaethner. Wie viele seiner Kolleginnen und Kollegen befürchtet er eine vollständige Übernahme der medizinischen Behandlung durch KI. In der Star-Trek-Serie verkörpert das Medizinische Holografische Notfallprogramm (MHN) den Schiffsarzt als holografische, KI-basierte Figur. Die Ärzte sorgen sich, dass dadurch die menschliche Komponente und das ärztliche Urteilsvermögen überflüssig werden könnten.
Videos by heise
Arzt soll letztes Wort haben
In Studien wurden mithilfe von KI Risikopatienten identifiziert und dadurch Todesfälle verhindert. "Daten retten Leben", betont Prof. Aldo Faisal, Digital-Health-Forscher an der Universität Bayreuth und Mitglied im Deutschen Ethikrat. Die Ärzteschaft fordert in mehreren Anträgen klare Vorgaben und Regularien, die sicherstellen, dass der Mensch die letzte Entscheidungsinstanz bleibt. Obwohl für Produktmängel primär der Hersteller des Medizinprodukts haftet, bestehen noch Unklarheiten, weshalb Ärzte auf rechtliche Absicherung und eindeutige Regelungen drängen.
Auch über die "Blackbox KI" diskutierten die Ärzte. Die Vertreter der Bundesärztekammer forderten Transparenz bei KI-gestützten Entscheidungsprozessen und eine eindeutige Kennzeichnung von KI-generierten Vorschlägen in der Dokumentation. Der Vorstand der Bundesärztekammer wird über einen entsprechenden Antrag noch abstimmen. Als essenziell gilt die Förderung der Digital- und KI-Kompetenz innerhalb der Ärzteschaft, damit Mediziner die Funktionsweise von KI verstehen und diese Technologie sinnvoll und sicher anwenden können. "Wir sind nach wie vor in einem sehr frühen Stadium der Implementierung, maximal in der Pilotphase", erläutert Prof. Ulrike Attenberger, Leiterin der Klinik für Radiologie und Nuklearmedizin an der Medizinischen Universität Wien.
Unabhängige und sichere Server
Ebenfalls positiv stimmten die Ärzte über einen Antrag zur Verpflichtung ab, sichere und unabhängige Server für medizinische KI-Systeme zu nutzen. In der Begründung heißt es, dass der Schutz sensibler Gesundheitsdaten nur auf diese Weise dauerhaft gewährleistet werden könne und "Serverstandorte außerhalb der Europäischen Union erhebliche Risiken für die Datensicherheit" bergen.
KI wird als bereits präsente Realität und große Chance für die Medizin gesehen, die den ärztlichen Alltag verändern wird. Es gibt etwa bereits digitale Gesundheitsanwendungen, die Künstliche Intelligenz einsetzen. Die Ärzteschaft sieht ihre Verantwortung darin, den ethischen und verantwortungsvollen Einsatz von KI sicherzustellen und fordert klare Regeln und Richtlinien, die über die bisherigen europäischen Vorgaben hinausgehen. KI darf laut Ärzteschaft nicht diskriminieren und Menschen benachteiligen.
Wer profitiert von den Daten?
Ebenso besteht die Sorge, dass die Kontrolle über Daten und die ökonomische Wertschöpfung durch KI-Systeme außerhalb der Ärzteschaft liegen könnten. Daher wurden Anträge gestellt, um das berechtigte Interesse und die ökonomische Beteiligung der Ärzteschaft an der Datenökonomie zu sichern.
Kritisiert wurde auch, dass Big-Tech-Unternehmen wie Google, Microsoft und Co. künftig über das Forschungsdatenzentrum Gesundheit (FDZ Gesundheit) auf Daten zugreifen können, die dann in der Hauptsache von Ärzten eingepflegt werden. Anschließend werden mit den Daten KI-Systeme entwickelt und trainiert, die dann wieder an die Ärzte verkauft werden. Stattdessen sprach sich die Ärzteschaft dafür aus, europäische Lösungen zu unterstützen.
Schutz vor Reidentifizierung
Positiv wurde zudem für einen Antrag zum "Schutz vor Reidentifizierung bei Gesundheitsdaten aus der elektronischen Patientenakte über Kalendermuster [--] gerade durch die Anwendung von Künstlicher Intelligenz" gestimmt. Eine Sorge ist, dass es mit den beim FDZ liegenden Gesundheitsdaten bislang über nur wenige Informationen und mithilfe von Kalendermustern aus Metadaten möglich ist, Rückschlüsse auf einzelne Individuen möglich sind. Das bringe Fragen zur Schweigepflicht mit sich und könnte Diskriminierung ermöglichen.
Erik Bodendieck, Co-Vorsitzender des Digitalisierungsausschusses, betonte die differenzierte Auseinandersetzung der Ärzte mit dem Thema KI. Im Thesenpapier "Künstliche Intelligenz in der Gesundheitsversorgung" und in der Stellungnahme "Künstliche Intelligenz in der Medizin" hatte die BÄK vorab Anforderungen formuliert, "die in einer digitalisierten Zukunft aus ärztlicher Sicht erfüllt sein sollten".
(mack)
