Interview zu KI im Gesundheitswesen: "Wir sind zum Fortschritt verdammt"
Seite 2: "Administrator-Rechte bedeuten Zugriff"
heise online: Wer hat eigentlich die medizinischen Daten?
Swoboda: Bisher lagen die Patientendaten bei den Behandlern, also in Krankenhäusern und bei Krankenkassen, und nicht bei den Patienten selbst, was ein großer Fehler ist. In Österreich ist das anders. Jetzt wird mit den Gesundheitskassen eine neue Ebene eingezogen, die an die Krankenkassen gekoppelt sind. Egal wie oft sie betonen, die Daten seien sicher, Administrator-Rechte bedeuten Zugriff. Nichts ist gefährlicher als ein Administrator mit den Passwörtern. Wenn die Krankenkasse die Gesundheitskarte herausgibt, landen die Daten auch bei ihr, was ein schwerwiegender Fehler sein kann. Krankenkassen haben andere Interessen, da sie prozentual an den Ausgaben verdienen, aber sie dürfen auch nicht über bestimmte Grenzen hinausgehen, um das System nicht zu gefährden.
Meinen Sie den morbiditätsorientierten Risikostrukturausgleich (Morbi-RSA)?
Ja. Der Morbi-RSA ist ein Bürokratiemonster, das nötig wurde, weil wir in Deutschland keine einheitliche Krankenversicherung haben, sondern hunderte davon. Da kann es passieren – und das ist auch passiert –, dass eine Versicherung viel mehr junge, gesunde und auch finanziell leistungsfähigere Kunden hat als andere. Damit würden die Patienten der anderen Versicherung benachteiligt, denn die monatlichen Beiträge stehen bekanntlich fest. Der Risikoausgleich soll daher Gerechtigkeit garantieren, in dem die eine Versicherung der anderen einen finanziellen Ausgleich zahlt. In der Praxis sind das höhere Beträge, die durchaus einen erheblichen Teil der Einnahmen ausmachen. Zudem hinkt das System den aktuellen Entwicklungen immer hinterher. Der Knackpunkt ist aber, dass für die Berechnung des Morbi-RSA medizinische Daten notwendig sind und die Versicherer diese Daten daher gerne hätten und zunehmend auch bekommen.
Indem man den Krankenkassen allerdings vermehrt Zugriff auf die Daten lässt, gefährdet man eigentlich die legitimen Eigeninteressen der Patienten. Eigentlich war die digitale Gesundheitsakte so geplant, dass sie in staatlicher Hand liegt. Ich halte es für gefährlich, wenn die Krankenversicherungen elektronische Patientenakten anbieten. Aktuell ist das noch etwas rudimentär, das sind erst die Anfänge. Aber wenn sie die Büchse der Pandora geöffnet haben, dann gibt es kein Halten mehr. Und je mehr Zugriff Dritte haben, umso kritischer wird es und ich sage es noch mal, Dritte sind nicht Staat und nicht Patient. Ob das die Industrie ist, Krankenversicherungen oder internationale Akteure. Je mehr Daten diese Parteien haben, desto höher ist die Wahrscheinlichkeit für einen Missbrauch. Das ist das Problem. Hinzu kommen die Aktivitäten Cyberkrimineller, die sich ebenfalls nicht verhindern lassen. Aber ich sehe da eine Entwicklung, dass das deutsche Gesundheitswesen sich da in der Durchführung ein wenig zu sehr auf die Krankenversicherer verlässt. Die haben da zu viel Einfluss.
Was wäre denn eine angemessene Möglichkeit?
Ich befürworte das österreichische Modell, bei dem jedes Bundesland ein Rechensystem hat. Das ist für Deutschland wahrscheinlich eher unrealistisch. Wir sind ein größeres Land und haben einfach nicht die nötigen Ressourcen im Bundesministerium für Gesundheit. Und was die Cyber-Kriminalität betrifft, den Normalbürger wird das wahrscheinlich nicht so schnell betreffen, sobald es aber um ein paar Millionen geht, wird es natürlich interessant. Aber im Wesentlichen geht es um Massendaten, die gelabelt sind. Die werden für das Training von KI-Modellen gebraucht, darauf läuft es hinaus. Dann werden mit den Daten der Patienten die Wahrscheinlichkeiten für Krankheiten analysiert und voraussichtliche Sterbedaten berechnet. Je mehr Daten sie haben, desto besser kann das Netzwerk trainiert werden. Die Freiheit des Einzelnen ist damit wirklich gefährdet.
Was kann man dagegen tun?
Ich halte es für nötig, dass man in Deutschland einen einheitlichen Datenpool hat, der in staatlicher Hand liegt. Es müsste mehr kontrolliert werden, wo die Bürger ihre Daten geben, beispielsweise bei diesen ganzen gentechnischen Untersuchungen, die laufen. Menschen verschicken Speichelproben und dann wird ihnen gesagt, mit wem sie verwandt sind. Die Unternehmen machen das natürlich, um Daten zu sammeln. In Deutschland ist das eigentlich verboten.
Was genau ist verboten? Das Sammeln von DNA-Daten?
Genau. Patientinnen dürfen eigentlich keine genetische Untersuchung anregen. Das ist in Deutschland eine ärztliche Aufgabe. Die Bürger haben dafür jedoch kein Bewusstsein. Eigentlich bräuchte es zusätzlich die Entscheidung einer Ethikkommission.
Die ist ja mit dem Medizinforschungsgesetz vorgesehen.
Ich bin gespannt. Der deutsche Ethikrat unter Frau Buyx hat derzeit nur wenige Rechte. In Deutschland gibt es keine Instanz, die Forschung untersagen kann; der Ethikrat kann nur Empfehlungen abgeben und sagen, wenn er ein Forschungsvorhaben nicht unterstützt. Es bräuchte eine durchsetzungsfähige Kommission, wie in Dänemark und anderen skandinavischen Ländern, die auch Datenzugriff aus bestimmten Gründen verweigern kann. Ich bin zudem erstaunt, wie schnell sich alles entwickelt. In den letzten 30 Jahren war KI-Forschung praktisch tot, weil die früheren Ergebnisse so ernüchternd waren. Dann kamen die tiefen neuronalen Netzwerke und plötzlich gehen Dinge, die wir bisher nicht für möglich gehalten haben.
Jetzt kommt OpenAI und arbeitet unglaublich effizient. In den USA nutzt Kaiser Permanente AI für Bürokratie und Dokumentation. Da denke ich: Es wird höchste Zeit, dass wir handeln. In Bayern haben wir eine gemeinsame Ethikkommission der Hochschulen gegründet, da jede Hochschule für sich genommen zu klein dafür ist. Auf Bundesebene ist das einzigartig. Gerade mit der Entwicklung von KI halte ich es für absolut unabdingbar, dass wir uns als souveräner Staat Gedanken machen, wie wir mit den Daten unserer Bürger umgehen. Die Frage ist auch, wem der Patient vertrauen kann. Eigentlich sollte der Staat der vertrauenswürdige Partner für den Patienten sein. Die Ärzte haben eigene Interessen, die Pflegekräfte haben eigene Interessen, die Forscher haben eigene Interessen, die Krankenkassen haben eigene Interessen. Wenn ich operiert werden muss, wo gehe ich dann hin?
In der Bevölkerung gibt es viel zu wenig Interesse an solchen Themen. Das ist genauso wie in der Informatik. Es ist ganz wichtig, dass wir die Leute viel mehr für diese Themen begeistern. Die Zukunft wird unser Leben in den nächsten 20 bis 30 Jahren entscheidend verändern. Wir haben die Gentechnik mit dem ganzen Bio-Hacking. Es sind in der Corona-Zeit weltweit Hunderte von Biolaboren entstanden, die jetzt natürlich weitermachen. Es gibt zudem Multiplikatoren-Effekte, beispielsweise wird die KI-Technik die Biotechnologie beschleunigen. Der Zusammenhang zwischen Geno- und Phänotyp ist für uns kompliziert, Maschinen werden die Zusammenhänge aber verstehen können. Wir sind aktuell da, wo man 1974 mit dem Computer war. Die Computertechnik gab es da schon seit etlichen Jahren. Aber dadurch, dass die Computer plötzlich ökonomisch billig wurden, haben die Entwicklungen an Fahrt aufgenommen. Das gleiche passiert gerade in der Biotechnologie.
Hierzulande wird das alles viel zu wenig diskutiert. Wenn man sieht, was da alles in China läuft, beispielsweise mit den CRISPR-Zwillingen. Dass die chinesische Regierung davon nicht gewusst hat, nehme ich ihr nicht ab.
Ist das nicht besorgniserregend?
Sich Sorgen zu machen ist ok, solange wir uns nicht bremsen lassen und die Chance ergreifen. Wir haben acht Milliarden Menschen auf der Welt. Jeder, der sich dagegen wehrt, neue Technologien weiterzuentwickeln, riskiert den Tod von Millionen von Menschen. Wir sind zum Fortschritt verdammt. Es ist beschämend, dass wir das Problem der Überbevölkerung nicht endlich angehen, um künftig allen Menschen ein menschenwürdiges Leben zu ermöglichen. Technik muss helfen, die nächsten Dekaden zu überwinden, aber schlussendlich können wir nicht weitermachen wie bisher.
Wir wissen nicht, was kommt
Worin sehen Sie das meiste Potenzial?
Im Bereich KI lässt sich die Zukunft schwer voraussagen. Heute nutzen wir Computer hauptsächlich zur Kommunikation, was keiner der Pioniere wie Alan Turing, Marvin Minsky oder Joseph Weizenbaum vorhergesehen hat, auch sonst niemand. Tatsache ist einfach, dass wir nicht wissen, wohin uns die KI führen wird. Ich halte es sogar für möglich, dass in ferner Zukunft biologische Gehirne als Computermodelle gespeichert werden, wie Ray Kurzweil beschreibt. Das ist Zukunftsmusik, aber prinzipiell nicht unmöglich. Ein Gehirn besteht ja, wie wir bisher wissen, aus einer lichtmikroskopisch sichtbaren Struktur, die mit einem geeigneten Scanner eventuell kopiert werden kann. Da ist keine Quantenphysik oder so im Spiel. Es gibt aber viele technische Hürden, so dass das nicht in nächster Zeit passieren wird. Wichtig ist aber, dass wir die Themen diskutieren, wie auch bei der Gentechnik.
Wir wissen also nicht, was kommt. Gewiss ist jedoch, dass viele Möglichkeiten existieren und wir nicht voraussagen können, wie es in 20 Jahren aussehen wird. Es ist entscheidend, dass alle darüber Bescheid wissen, damit diese Technik nicht zu Expertenwissen wird und nur wenige sie verstehen. Wir müssen sicherstellen, dass mehr Menschen informiert sind. Denn wir brauchen diese Technik und sollten sie nicht ablehnen, denn sie ist Teil der einzig denkbaren Zukunft der menschlichen Zivilisation.
(mack)