Digital Health: Digitalverband fordert sektorenspezifische Regelungen für KI

Inhaltsverzeichnis

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Um den Engpass aus unklaren Regularien, mangelndem Datenzugang und fehlenden Testumgebungen für KI-Entwickler aufzubrechen, hat der Spitzenverband Digitale Gesundheitsversorgung (SVDGV) ein "Green Paper" vorgelegt. Darin fordert der Verband, der über 170 E-Health-Unternehmen vertritt, eine branchenspezifische "AI Regulatory Sandbox" für das Gesundheitswesen. Ziel ist, den Marktzugang für medizinische KI-Anwendungen zu beschleunigen, die Patientensicherheit zu wahren und insbesondere kleine und mittlere Unternehmen (KMU) zu unterstützen.

eHealth: Rechtliche Sicht zur KI-Verordnung,Gesundheitsdatenraum und Co.

Der zunehmende Einsatz von Künstlicher Intelligenz in der Medizin ist nicht neu, aufgrund der sich rasant entwickelnden generativen Sprachmodelle und der für die EU kommenden EU-Verordnung und weiteren Gesetzen erfährt das Thema jedoch eine neue Relevanz.

• eHealth: KI-Verordnung, DSGVO und Co. aus rechtlicher Sicht eHealth-Interview: KI-Verordnung und DSGVO, Risiken und Co. 
• KI-Verordnung und Europäischer Gesundheitsdatenraum Was der EU-Gesundheitsdatenraum mit der KI-Verordnung zu tun hat
• ChatGPT im Medizinwesen? Zum Einsatz von Systemen wie ChatGPT im Medizinwesen

Doppelregulierung und Datenmangel als Bremsklötze

Laut dem Verband stehen KI-Innovatoren im Gesundheitswesen vor massiven Hürden. Das Kernproblem ist die regulatorische Unsicherheit durch eine drohende Doppelregulierung: KI-basierte Medizinprodukte unterliegen sowohl der strengen Medizinprodukte-Verordnung (MDR) als auch dem neuen EU AI Act. Wie diese beiden Regelwerke zusammenspielen, sei in vielen Bereichen ungeklärt.

Besonders kritisch sei die Lage bei KI-Systemen, die nach ihrer Markteinführung weiterlernen, da für deren Zulassung und Überwachung bislang ein "klarer Rechtsrahmen" fehle. Hinzu käme der erschwerte Zugang zu qualitativ hochwertigen Daten für Training und Validierung. Während das Forschungsdatenzentrum (FDZ) Gesundheit noch im Aufbau sei, mangele es an praxisnahen, annotierten Datensätzen und vor allem an maschinenlesbaren medizinischen Leitlinien. Der SVDGV sieht einen weiteren Engpass darin, dass "Testumgebungen [...] sich bislang stark auf klinische (stationäre) Settings [konzentrieren], während die ambulante Validierung unberücksichtigt bleibt".

Die Sandbox als "Medical AI Agency"

Kern des SVDGV-Vorschlags ist eine "AI Regulatory Sandbox", die weit mehr sein soll als nur ein Testfeld. Vorgeschlagen wird eine Art "Medical AI Agency", die zwei zentrale Aufgaben erfüllt:

Service-Hub für Unternehmen: Sie soll als Dienstleister fungieren und Innovatoren, insbesondere KMU, gezielt unterstützen. Dazu gehören Beratungsangebote zu Klassifizierung und Studienprotokollen, der Zugang zu Testdatensätzen sowie die Begleitung durch eine auf KI spezialisierte Ethik-Kommission.

Gleichzeitig soll die Sandbox ein staatlich moderierter Raum sein, in dem Regulierungsbehörden, benannte Stellen und Wissenschaftler gemeinsam offene Rechtsfragen klären. Hier sollen Standards für den Umgang mit Allzweck-KI (GPAI), die Definition von "menschlicher Aufsicht" oder die Harmonisierung der unterschiedlichen Risikobewertungen von MDR und AI Act praktisch erprobt werden.

Um zu verhindern, dass hohe Kosten und bürokratischer Aufwand Innovationen ersticken, sollen kleine und mittlere Unternehmen bevorzugten, kostenreduzierten und unbürokratischen Zugang zur Sandbox erhalten. Außerdem soll die Sandbox standardisierte Templates für die Dokumentation, Leitfäden für regulatorische Prozesse und technische Benchmarks als "öffentliche Güter" frei verfügbar machen.

Am Ende eines erfolgreichen Sandbox-Prozesses sollen Abschlussberichte stehen. Diese "Exit Reports" sollen die regulatorischen, klinischen und ökonomischen Ergebnisse bündeln und als anerkannte Grundlage für die spätere Konformitätsbewertung und die Erstattung durch die Krankenkassen dienen.

Offene Fragen

"Mit der AI Regulatory Sandbox schlagen wir die Brücke zwischen Regulierung, Wissenschaft und Versorgung", erklärt SVDGV-Vorständin Anisa Idris. So könne Deutschland zum Vorreiter für den sicheren Einsatz von KI in der Medizin werden.

Doch der Weg dahin ist mit einigen offenen Fragen gepflastert, die das Green Paper selbst aufwirft: Wie wird die Sandbox finanziert? Wer trägt die Verantwortung, Steuerung und Aufsicht und wie wird sichergestellt, dass die Verfahren wirklich schlank bleiben? Ebenso stellt sich die Frage, welche rechtliche Verbindlichkeit die Ergebnisse der Sandbox haben.

Mit seinen Vorschlägen richtet sich der SVDGV unmittelbar gegen die aktuellen Pläne der Bundesnetzagentur (BNetzA), die gesetzlich verpflichtet ist, mindestens ein branchenübergreifendes KI-Reallabor einzurichten und dafür bereits ein Pilotprojekt begonnen hat. Mit dem Green Paper formuliert die Gesundheitsbranche jedoch eine klare Gegenposition: Anstelle einer einheitlichen Lösung für alle Sektoren fordert sie für das stark regulierte Gesundheitswesen eine spezifische Infrastruktur, die den besonderen Anforderungen an Patientensicherheit und klinische Evidenz gerecht wird.

(mack)