US-Universität verwirft Überwachung von Online-Prüfungen per KI-Software

Die Universität Austin im US-Bundesstaat Texas hat im Studienjahr 2020/21 vielfach Gebrauch vom Softwarepaket Proctorio gemacht, das mit künstlicher Intelligenz Täuschungsversuche bei Online-Prüfungen entdecken soll. Nach Beschwerden seitens studentischer Gruppierungen hat die Universität ein Komitee einberufen, das die Situation bewerten sollte. Nach Beratungen mit Studenten und Lehrkräften rät dieses Komitee jetzt vom Einsatz derartiger Software ab, berichtet das Magazin The Register.

Falsche Schlussfolgerungen und psychischer Druck

Als wichtigstes Argument führt das Komitee in einem Bericht an, die Algorithmen des Programms könnten durch zufällige äußere Signale oder durch unbemerkte Vorurteile zu falschen Bewertungen kommen, schreibt The Register. So könnte die Software etwa aus der Bewegungsanalyse eines Prüfungsteilnehmers Schlussfolgerungen ableiten, die auch von dessen Hautfarbe abhingen. Außerdem würden hektische Augenbewegungen von Kandidaten mit Aufmerksamkeitsdefizit-Störung mit Hyperaktivität (ADHD) leicht als Verdachtsmoment auf Täuschung interpretiert. Demgegenüber stünde ein erheblicher psychologischer Druck, dem die Prüfungskandidaten durch die Überwachung ausgesetzt seien.

Im Beobachtungszeitraum ist es laut dem Austiner Komitee nach der Überwachung mehrerer Tausend Prüfungen zu 27 Alarmen durch die Software gekommen, von denen 13 weiter verfolgt worden seien. Das reicht nach Ansicht der Berater nicht aus, um die psychologischen und finanziellen Belastungen durch die Proctorio-Software zu rechtfertigen.

Als Alternative gibt der Bericht einige Empfehlungen zum Schutz vor Täuschungen, etwa die einfache Videoüberwachung durch Zoom oder den Verzicht auf große und folgenschwere Prüfungen zugunsten zahlreicher kleiner Tests mit jeweils geringerem Stellenwert.

Kritik auch aus Deutschland

Auch in Deutschland wurde schon massive Kritik an der digitalen Prüfaufsicht geübt. Dabei haben die Gegner, der IT-Sicherheitsexperte Mike Kuketz, aber vor allem technische Gesichtspunkte angeführt. Da geht es zum Beispiel darum, dass die verwendete Software bestenfalls in einer Grauzone des Datenschutzrechts funktioniere und eine "Spähsoftware gegen Studierende" (IT-Gutachten der GFF, PDF-Datei) darstelle. Programmpakete wie Proctorio, ProctorExam, Test Reach, Smowl, Manage Exam oder WiseFlow könnten schließlich Browser-Historien auslesen, das Ausfüllen von Formularen überwachen und hätten damit auch das Potenzial, Passwörter zu kompromittieren.

(hps)