KI sucht Hinweise für Kindesmissbrauch und erklärt ihre Warnungen
Eine künstliche Intelligenz erkennt Verdachtsfälle für Kindesmissbrauch. Im Forschungsprojekt des MIT entstand nun ein Tool, das die Prognosen der KI begründet.
(Bild: Christine Daniloff / MIT)
Einige Kinderschutzbehörden in den USA setzen auf KI-Unterstützung, wenn es darum geht, Verdachtsfälle für Kindesmissbrauch oder -vernachlässigung zu erkennen. Es zeigte sich allerdings, dass die Ausgabe eines einfachen Verdachtswerts zwischen 1 und 20 dem Sachbearbeiter wenig bringt und eher Misstrauen an der Einschätzung der KI auslöst, berichtet Alexandra Zytek, Forscherin am Massachusetts Institute of Technology (MIT) in Cambridge, USA. Ihr Team fand als Antwort ein System für erklärbare KI.
Visuelle Analyse liefert Argumente
In ihrer Forschungsarbeit stellt Zytek ein visuelles Analysewerkzeug vor. Während die zugrundeliegende KI mehr als 100 demografische und historische Faktoren in seine Einschätzung einbezieht – darunter etwa das Alter der Eltern, deren bisherige Strafanzeigen und Verurteilungen – und daraus einen einfachen Gefährdungs-Score ermittelt, offenbart das neue Tool die Bedeutung einzelner Faktoren für die Gesamteinschätzung. Der Sozialarbeiter kann damit die Analyse und seine Intuition abgleichen und bekommt zudem konkrete Argumentationshilfen.
In den USA hat es allein 2019 insgesamt 4,4 Millionen Berichte über Kindesmissbrauch oder -vernachlässigung gegeben. Das US-Gesundheitsministerium schätzt, dass sogar jedes siebte Kind betroffen ist.
Zytek beobachtete, dass die Mitarbeiter der Kinderschutzbehörden ohne Analysetool oft über die Klassifizierungen der KI diskutierten und dabei Zeit verloren. Die visuelle Analyse der Hauptfaktoren zu einer Entscheidung bewerteten 90 Prozent der Sachbearbeiter hingegen als hilfreich. Ebenso gaben sie an, dem Tool damit mehr zu trauen.
(agr)