Künstliche Intelligenz in Medizinprodukten: Behörden geben Orientierung
Bundesnetzagentur, Bundesdatenschutzbeauftragte und Hessen geben eine gemeinsame „Roadmap“ heraus – die bald schon wieder angepasst werden muss.
(Bild: Whyframe/Shutterstock.com)
Für Medizinprodukte wie Herzschrittmacher, Insulinpumpen, Elektrorollstühle, aber auch Gesundheitssoftware wie Digitale Gesundheitsanwendungen spielen lernende Modelle eine immer stärkere Rolle. Doch gerade in diesem Bereich gilt Künstliche Intelligenz als besonders heikel, da Fehler lebensbedrohlich sein können. Mehrere offizielle deutsche Stellen haben nun gemeinsam in einer Orientierungshilfe für die Hersteller und Anbieter zusammengetragen, worauf diese zu achten haben. Die Roadmap basiert auf den Erkenntnissen aus dem sogenannten KI-Reallabor-Prozess: In kontrollierter Testumgebung hatten zwei Start-ups dabei Möglichkeiten und Grenzen im regulatorischen Rahmen getestet.
Von der Orientierungshilfe sollen alle in der deutschen Medizingeräteindustrie profitieren können. „Wer KI in der Medizin entwickelt, braucht klare Leitplanken statt regulatorischer Unsicherheit“, sagt Louisa Specht-Riemenschneider. Die Bundesdatenschutzbeauftragte, die sich erkrankungsbedingt von ihrem Amt zurückziehen wird, sieht das als wichtigen Schritt: „So wird gute Innovation möglich: mit mehr Rechtsklarheit und im Interesse der Patientinnen und Patienten.“ An diesem Beispiel zeige sich, „wie wichtig der Dialog zwischen Unternehmen und Behörden ist, um eine praxisorientierte Regulierung zu gestalten“, sagt Bundesnetzagentur-Präsident Klaus Müller, dessen Behörde auch als Aufsichtsbehörde für die KI-Verordnung agieren soll, während Medizinprodukte ansonsten der Aufsicht des Bundesamts für Arzneimittelprodukte und Landesbehörden unterliegen.
Dass Medizinprodukte in besonderem Maße auf hochqualitative Daten angewiesen seien, darauf weist die hessische Digitalministerin Kristina Sinemus hin – und hat mit der Treuhandstelle für medizinische Daten (MDTS) auch gleich eine passende Stelle im eigenen Bundesland im Aufbau.
Videos by heise
Politisch ist die Nutzbarmachung erster Ergebnisse aus Reallaboren wichtig, da sie als Mittelweg zwischen Verbot und präventiver Vollregulierung gelten. Die nun „Roadmap“ getaufte Handreichung ist dabei primär eine stark komprimierte Darstellung vorhandener Verpflichtungen und, je nach Fallkonstellation, möglicherweise einschlägiger, zu beachtender Regelungen. Die sind aufgrund von Wechselwirkungen zwischen verschiedenen Vorschriften für Anbieter keineswegs leicht zu durchschauen und zugleich auch noch im Fluss. Wie sehr die Thematik aber noch in Bewegung ist, zeigt sich schon am Timing: Während die Hilfestellung Ende April fertiggestellt wurde, wurde in Brüssel noch am Omnibusgesetz für die KI-Verordnung geschraubt – und in der vergangenen Nacht eine Einigung zwischen Europaparlament, Rat der Mitgliedstaaten und Kommission erzielt. Eine Überarbeitung des vorgestellten „Roadmap“-Dokuments dürfte damit sehr wahrscheinlich bald folgen, wenn die Änderungen am Rechtstext der KI-Verordnung auch formal angenommen wurden.
(mack)
