eHealth-Interview: KI-Verordnung und DSGVO, Risiken und Co.

Inhaltsverzeichnis

Der Einsatz von Künstlicher Intelligenz (KI) im Gesundheitswesen ist kein Novum. In der Radiologie sind KI-gestützte bildgebende Verfahren inzwischen an der Tagesordnung, wodurch Tumore und andere Auffälligkeiten von einer KI-Software automatisch erkannt und markiert werden. Die menschliche Diagnostik wird so effizient unterstützt. Neu ist allerdings die organisationsübergreifende Integration von KI-Systemen in Arztpraxen, die derzeit großes Interesse erfährt. Hierzu gehören beispielsweise intelligente Anrufbeantworter, die Praxisteams entlasten, indem sie gezielt relevante Informationen erfragen und anschließend übersichtlich aufbereiten.

Zum aktuellen Stand von KI im Gesundheitswesen und künftigen Regelungen haben wir mit Philipp Müller-Peltzer gesprochen, Rechtsanwalt und Partner bei der Technologiekanzlei Schürmann Rosenthal Dreyer Rechtsanwälte.

Dies ist der erste Teil einer dreiteiligen Interview-Serie.

heise online: Können Sie umreißen, wie die aktuelle Gesetzgebung bezüglich KI im Gesundheitswesen aussieht?

Müller-Peltzer: Es gibt kein spezielles (sektorspezifisches) Gesetz für KI im Gesundheitswesen. Regelungen für KI im Gesundheitsbereich finden sich bruchstückhaft in vielen nationalen und europäischen Regelungen. Bereits im Bürgerlichen Gesetzbuch (BGB) lassen sich verschiedene Anknüpfungspunkte ermitteln: § 630a BGB regelt die vertragstypischen Pflichten beim Behandlungsvertrag. Nach dessen Absatz 2 hat die Behandlung nach den zum Zeitpunkt der Behandlung bestehenden, allgemein anerkannten, fachlichen Standards zu erfolgen, soweit nicht etwas anderes vereinbart ist.

Zu diesen Standards gehört es beim Einsatz von KI, dass diese als Medizinprodukt im Sinne von Artikel 2 Nr. 1 Medical Device Regulation (MDR) zugelassen ist. Nach § 630c Abs. 2 BGB ist der Behandelnde verpflichtet, dem Patienten in verständlicher Weise zu Beginn der Behandlung und, soweit erforderlich, in deren Verlauf sämtliche für die Behandlung wesentlichen Umstände zu erläutern. Hierzu gehört zum Beispiel auch der Einsatz von KI-Systemen.

Behandlungsvertrag zwischen Patient und Arzt

Der Behandlungsvertrag gemäß § 630a des Bürgerlichen Gesetzbuchs (BGB) in Deutschland regelt die rechtlichen Aspekte zwischen einem Patienten und einem Gesundheitsdienstleister, wie beispielsweise einem Arzt, Zahnarzt oder Krankenhaus.

• Behandlungsziel: Der Vertrag muss das Ziel der Behandlung oder des Eingriffs klar definieren. Dies kann die Diagnose, Therapie oder Prävention einer Krankheit oder Verletzung sein.
• Aufklärungspflicht: Der Gesundheitsdienstleister hat die Pflicht, den Patienten umfassend über die geplante Behandlung, mögliche Risiken, Alternativen und Konsequenzen aufzuklären. Der Patient muss seine Einwilligung auf der Grundlage dieser Informationen geben.
• Einwilligung: Der Patient muss seine ausdrückliche Einwilligung zur Behandlung geben. Diese Einwilligung sollte schriftlich dokumentiert werden, vorzugsweise in Form einer Einverständniserklärung.
• Verschwiegenheitspflicht: Der Gesundheitsdienstleister ist zur Verschwiegenheit über alle ihm im Zusammenhang mit der Behandlung bekannt gewordenen Informationen verpflichtet. Dies gilt auch nach Beendigung des Vertragsverhältnisses.
• Dokumentation: Der Gesundheitsdienstleister ist verpflichtet, die Behandlung und den Verlauf angemessen zu dokumentieren.
• Honorar und Kosten: Die Vereinbarung über die Vergütung der erbrachten Leistungen sollte im Vertrag festgehalten werden. Hierbei können gesetzliche Regelungen und Gebührenordnungen relevant sein.
• Aufklärung bei Weiterverweisung: Falls der Gesundheitsdienstleister den Patienten an einen anderen Spezialisten überweist, muss er den Patienten über die Gründe und den Zweck der Überweisung aufklären.
• Haftung und Schadensersatz: Der Vertrag kann Regelungen zur Haftung und zum Schadensersatz im Falle von Behandlungsfehlern oder unzureichender Leistung enthalten.
• Vertragsabschluss: Der Behandlungsvertrag kommt durch das Einverständnis des Patienten und die Annahme des Auftrags durch den Gesundheitsdienstleister zustande. Dies kann in mündlicher oder schriftlicher Form erfolgen.
• Kündigung und Beendigung: Die Bedingungen für die Kündigung des Vertrags sollten im Behandlungsvertrag festgehalten werden.

Wie stehen DSGVO und KI-Verordnung zueinander?

Auch die Datenschutzgrundverordnung (DSGVO) als Querschnittmaterie und allgemeines Datenschutzgesetz ist technologieneutral und insofern für KI-Anwendungen anwendbar, solange personenbezogene Daten verarbeitet werden. Gleichwohl entstehen bei strenger Lesart der DSGVO diverse Reibungen zwischen den datenschutzrechtlichen Grundsätzen und der Produktivsetzung von KI-Systemen, weshalb in der Praxis eine pragmatische und risikoorientierte Herangehensweise unabdingbar ist.

Ein Stück weit austariert werden sollen datenschutzrechtliche Spannungen durch die KI-Verordnung. Die KI-Verordnung möchte branchen- beziehungsweise produktartübergreifend das Inverkehrbringen, die Inbetriebnahme und Nutzung von KI-Systemen mit besonderer Grundrechtsrelevanz regeln. Damit ist die KI-Verordnung auch für KI-Anwendungen im Gesundheitsbereich einschlägig. Sektorspezifische Regelungen für KI im Gesundheitsbereich, also Regelungen, die sich ausdrücklich an KI im Gesundheitssektor richten, werden derzeit von der EU nicht in Erwägung gezogen.

Könnte es passieren, dass Ärzte künftig zum Einsatz von KI-Systemen verpflichtet werden?

Grundsätzlich könnte das passieren. Wenn es für bestimmte Diagnostiken beispielsweise Verfahren gibt, die sich bewährt haben, dann kann es zum Beispiel sein, dass der Arzt an der Stelle auch bestimmte Medizinprodukte einsetzen muss. Denn wenn er das mit Methoden machen würde, die vor 50 Jahren zum Stand der fachlichen Standards gehörten, dann wäre das möglicherweise nicht mehr sachgerecht und könnte zu einem Behandlungsfehler führen. Voraussetzung ist dabei aber auch, wie bereits erwähnt, dass die eingesetzten KI-Systeme nach MDR als Medizinprodukt zugelassen sind.

Wer haftet dann beim Einsatz von KI-Systemen im Fall eines Behandlungsfehlers?

Die KI verdrängt Ärztinnen und Ärzte nicht aus der haftungsrechtlichen Verantwortung. Gegen eine Verlagerung von der Arzthaftung hin zu einer Herstellerhaftung muss man einwenden, dass es auch beim Einsatz von KI-Systemen weiterhin das ärztliche Personal ist, das die Entscheidung für eine bestimmte Behandlung und deren Durchführung trifft. Das ist auch als sogenannter Arztvorbehalt bekannt.