KI und die Realität
Voraussagen sind schwierig, vor allem wenn sie die Zukunft betreffen. Kommen dabei noch künstliche Intelligenzen ins Spiel, fangen die Probleme schon in der Gegenwart an.
- Peter Glaser
Von 2008 bis 2015 betrieb Google einen Dienst namens Flu Trends, der den Verlauf von Denguefieber- und Grippewellen in über 25 Ländern vorauszusagen versuchte. Dazu wurde die Häufigkeit von Suchanfragen ausgewertet, die etwas mit einer beginnender Grippe zu tun haben. Nachdem die Prognosen in den Anfangsjahren akkurat waren, überschätzte der Algorithmus die Grippesaison 2012/2013 in den USA in außerordentlichem Maße. Der Service wurde eingestellt, da auf die Daten nur bedingt Verlass war. Und da Google sie als Geschäftsgeheimnis unter Verschluss hielt, waren sie auch nicht überprüfbar.
Mit der Ausbreitung der Corona-Krise erinnert sich mancher Forscher wieder an das Analysetool. Besonders in Ländern mit einem desolaten Gesundheitssystem könnte es Hinweise auf Infizierungsraten liefern, wobei die Interpretation der Zahlen nach wie vor umstritten ist. Forscher der Cornell University haben nun in einer Studie ein Prognosemodell vorgestellt, das die Daten aus den Suchanfragen zuverlässiger analysieren soll.
Auf andere Algorithmen werden deutlich größere Hoffnungen gesetzt. In vielen Ländern der Welt arbeitet das Krankenhauspersonal an der Belastungsgrenze und viele hoffen, dass Künstliche Intelligenz das Patienten-Screening beschleunigen könnte. Eine Studie von Google Research zeigt jedoch, dass selbst die akkurateste KI die Sache sogar noch verschlimmern kann, wenn sie nicht auf die reale, klinische Umgebung zugeschnitten ist, in der sie eingesetzt wird. Die erste Gelegenheit, ein solches KI-Tool unter Realbedingungen zu testen, eröffnete sich in Thailand. Das Gesundheitsministerium hat sich zum Ziel gesetzt, jährlich 60 Prozent der an Diabetes leidenden Menschen auf diabetische Retinopathie zu untersuchen, die zu Blindheit führen kann, wenn sie nicht frühzeitig erkannt wird. Mit rund 4,5 Millionen Patienten und nur 200 Netzhaut-Spezialisten ist ein solches Ziel schwer zu erreichen.
Das Google-Team rüstete 11 Kliniken im ganzen Land mit einem KI-System aus, das in der Lage ist, Anzeichen von Augenkrankheiten bei Diabetes-Patienten zu erkennen. Herkömmlich fotografieren Krankenschwestern während der Kontrolluntersuchungen die Augen der Patienten und schicken die Bilder zu einem Spezialisten, die Ergebnisse können bis zu 10 Wochen dauern. Die Google-KI kann bei einem Augenscan Anzeichen der Netzhautkrankheit mit einer Genauigkeit von mehr als 90 Prozent erkennen und im Prinzip in weniger als 10 Minuten ein Ergebnis liefern.
Aber das scheinbar eindrucksvolle Ergebnis sagt nichts darüber aus, ob sich die KI im Chaos einer realen Umgebung bewährt. Als die Krankenschwestern, denen die Augenscans oblagen, nach ein paar Monaten zu ihren Erfahrungen mit dem neuen System befragt wurden, war das Feedback zum Teil negativ.
Um eine möglichst hohe Genauigkeit zu gewährleisten, war die Bilderkennung an qualitativ hochwertigen Scans geschult worden; Bilder unterhalb einer bestimmte Qualitätsschwelle wurden zurückgewiesen. Da das Pflegepersonal stündlich Dutzende von Patienten scannte und die Aufnahmen oft bei schlechten Lichtverhältnissen entstanden, wurden mehr als ein Fünftel der Bilder vom System nicht akzeptiert.
Die Krankenschwestern waren vor allem frustriert, wenn sie sicher waren, dass die verweigerten Scans keine Anzeichen einer Erkrankung zeigten und die Folgetermine für die Patienten unnötig waren. Manchmal verschwendeten sie mit Versuchen Zeit, ein Bild noch einmal aufzunehmen oder zu bearbeiten, das die KI abgelehnt hatte. Das Google-Team arbeitet nun mit dem medizinischen Personal vor Ort daran, neue Arbeitsabläufe zu entwerfen. So sollen die Krankenschwestern darin geschult werden, in Grenzfällen ihr eigenes Urteilsvermögen einzusetzen. Auch die Software kann optimiert werden, um mit unperfekten Bildern besser umgehen zu können. "Das ist eine ganz entscheidende Studie für jeden, der sich die Hände schmutzig machen möchte und KI-Lösungen in der realen Welt zu implementieren versucht", sagt Hamid Tizhoosh von der kanadischen University of Waterloo, dessen Spezialgebiet KI für medizinische Bildgebung ist. Für ihn kommt die Google-Studie gerade rechtzeitig – als ein Hinweis darauf, dass die Präzision von KI-Software im Labor immer nur der erste Schritt ist.
(bsc)
