KI-Doktor: Neuronale Netze lernen von Röntgenbildern
Ein Wissenschaftlerteam hat eine KI geschaffen, die anhand von Röntgenaufnahmen die ethnische Abstammung eines Menschen erkennt. Ärzte können das nicht.
Anhand solcher Halswirbelaufnahmen aus dem Computertomografen gelang der KI die sichere Bestimmung der ethnischen Abstammung.
(Bild: Emory University Hospital)
In einer gemeinsamen Forschungsarbeit hat ein internationales Team ein Deep-Learning-Modell entwickelt, das mit hoher Sicherheit aus medizinischen Röntgenaufnahmen die ethnische Abstammung abliest. Die Forscher aus den USA, Kanada, Australien und Taiwan stellten fest, dass der KI diese Bestimmung mit über 95-prozentiger Sicherheit gelang, und zwar anhand von Aufnahmen aller anatomischen Regionen des menschlichen Körpers. Schon im Vorwort ihrer Studie warnen sie davor, dass dieser Effekt bei der automatisierten Bewertung von medizinischen Aufnahmen und bei KI-gestützten Behandlungsvorschlägen Gefahren birgt.
In der Vergangenheit hat sich mehrfach gezeigt, dass KI-Systeme vorherrschende Vorurteile übernehmen können. Beispielsweise hatten künstlich intelligente Systeme bei der Vorauswahl für Stellenbesetzungen gezielt dunkelhäutige und weibliche Bewerber schlechter eingestuft. Andere Anwendungen hatten afroamerikanischen Straftätern bei der Prüfung auf Aussetzung ihrer verbleibenden Haftzeit eine deutlich schlechtere Sozialprognose ausgestellt als vergleichbaren weißen Insassen. Eine medizinische Anwendung, die die ethnische Abstammung eines Patienten erkennt, könnte aufgrund rassistisch beeinflusster Trainingsdaten unpassende Therapievorschläge abgeben.
In ihrer Arbeit trainierten die Forscher ein neuronales Netz mit Hunderttausenden Röntgen- und Computertomografiebildern, darunter Oberkörperaufnahmen, Brustmammografien, Extremitäten sowie Halswirbelaufnahmen. Obwohl ihr neuronales Netz die ethnische Abstammung sehr sicher bestimmte, gelang es ihnen nicht, die anatomischen Unterschiede zu identifizieren, an denen sich die KI dabei orientierte.
Mit c’t 20/2021 sind Sie Hackern einen Schritt voraus: Mit unseren Checklisten sichern Sie Smartphone, Rechner, WLAN-Router, Online-Accounts und vieles mehr ab. Das ist einfach und dauert meist nur wenige Minuten. Außerdem im Heft: Windows 11 im Hardware-Check, Konzepte für hybride Konferenzsysteme und die besten Breitband-Tarife fürs Festnetz. Ausgabe 20/2021 finden Sie ab dem 10. September im Heise-Shop und am gut sortierten Zeitschriftenkiosk.
(agr)
