Automatische Ungerechtigkeit für einen ganzen Jahrgang britischer Schüler
Seite 2: Einfach weggewaschen
Mit seinem Misserfolg steht Ofqual bei Weitem nicht allein da. Laut einer Studie des Oxford Internet Institute von diesem August machen Organisationen beim Einsatz von Algorithmen mit am häufigsten den Fehler, dass sie glauben, damit komplexe strukturelle Probleme beheben zu können. Bei solchen Projekten sei „eine Art von magischem Denken im Spiel“, sagt Gina Neff, Associate Professor an einem Institut, die den Bericht verfasst haben. „Irgendwie soll ein Algorithmus jegliche Voreingenommenheit von Lehrern und jeden Versuch, das System zu betrügen oder zu manipulieren, einfach wegwaschen.“
In Wahrheit aber können Algorithmen defekte Systeme nicht reparieren – sie erben die darin vorhandenen Fehler. In Fall der Uni-Zulassung hätten die Folgen letztlich vor allem die Schüler und ihre Zukunft betroffen. „Ich glaube, es war das erste Mal, dass eine ganze Nation gleichzeitig die Ungerechtigkeit eines Algorithmus gespürt hat“, sagt Fry.
Sie, Neff und Han teilen die Sorge, dass der jüngste Fall nicht das Ende der algorithmischen Fehltritte gewesen sein wird. Denn das neue öffentliche Bewusstsein für das Problem ändert nichts daran, dass Entwicklung und Implementierung fairer und nützlicher Algorithmen ausgesprochen schwierig sind.
Lehren aus Debakel ziehen
Trotzdem fordern die Forscher Organisationen dringend auf, die richtigen Lehren aus der Erfahrung in Großbritannien zu ziehen. Erstens sollen sie sich auf ihr Ziel besinnen und kritisch überlegen, ob es das richtige ist. Zweitens sollen sie die strukturellen Probleme untersuchen, die behoben werden müssen, um das Ziel zu erreichen.
Als die Regierung die Prüfungen im März absagte, hätte das der Auftakt zu einer anderen Strategie sein sollen, um mit einem viel größeren Ökosystem von Entscheidungsträgern eine faire Bewertung der Schüler zu erreichen", sagt Neff dazu.
Drittens und abschließend seien Lösungen gefragt, die leicht zu verstehen, umzusetzen und auch rückgängig zu machen sind, besonders in Zeiten der Unsicherheit. In jüngsten Fall bedeutete das laut Fry, den Algorithmen zugunsten der vom Lehrer vorhergesagten Ergebnisse aufzugeben. "Ich sage nicht, dass das eine perfekte Lösung war“, sagt sie, „aber sie war zumindest einfach und transparent."
(sma)
