England: Fehler von Copilot trug zu Stadionverbot für israelische Fans bei
Der Ausschluss israelischer Fans von einem Fußballspiel in England hat sich zu einem Skandal ausgeweitet: Die Risikoanalyse enthielt eine KI-Halluzination.
(Bild: Shutterstock/DRN Studio)
Nach dem umstrittenen Ausschluss der Fans des israelischen Fußballvereins Maccabi Tel Aviv von einem „Europa League“-Spiel gegen Aston Villa in England hat der zuständige Polizeichef jetzt eingeräumt, dass die Entscheidung maßgeblich von einer KI-Halluzination beeinflusst worden war. Demnach hatte eine mithilfe von Microsofts Copilot erstellte Risikoanalyse der Polizei für den Stadtrat von Birmingham auf ein vorheriges Match von Maccabi bei West Ham United Bezug genommen, das es nie gegeben hat.
Bisher hatte der Polizeichef eine Verwendung von KI bei zwei Auftritten im Parlament abgestritten und erklärt, dass der falsche Verweis Folge einer fehlerhaften Google-Suche beziehungsweise Recherche auf Social Media gewesen sei. Erst jetzt sei er darauf aufmerksam geworden, dass die Microsoft-KI den Fehler produziert habe. Dafür entschuldige er sich aufrichtig. Die Angelegenheit hat sich in Großbritannien längst zu einem handfesten Skandal entwickelt und beschäftigt am Mittwoch erneut das Parlament.
Noch viel mehr Probleme
Die Partie Aston Villa gegen Maccabi Tel Aviv wurde am 6. November ausgetragen. Fans aus Israel waren aus Sicherheitsgründen nicht ins Stadion gelassen worden. Das hatte für erhebliche Kritik gesorgt; Israels Außenminister sprach von einer „beschämenden Entscheidung“. Aston Villa selbst hatte erklärt, dass die zuständige West Midlands Police vorab Sorge um die öffentliche Sicherheit geäußert hatte. Die nötigen Sicherheitszertifikate seien nicht ausgestellt worden. Die fehlerhafte Risikoanalyse war damals nicht öffentlich bekannt, stattdessen wurde auf das Risiko israelkritischer Proteste in der Stadt hingewiesen.
Videos by heise
Nachdem bekannt geworden ist, dass in der Analyse auf eine Partie verwiesen wurde, die es nie gegeben hat, wurde der Polizeichef zweimal im britischen Parlament befragt. Beide Male hat er die naheliegende Vermutung, dass eine „KI-Halluzination“ dafür verantwortlich war, zurückgewiesen. Vor seinem dritten Auftritt musste er das nun revidieren, hier hat er erstmals auf Microsofts Copilot verwiesen. Der Verweis auf die nie durchgeführte Partie ist laut dem Guardian nur ein Teil des Problems, an der Polizeibehörde wird in dem Zusammenhang auch andere Kritik geübt. Das Eingeständnis macht aber einmal mehr deutlich, welche Folgen die kritiklose Verwendung von KI-generierten Inhalten haben kann und wie weit die schon verbreitet ist.
Die Risikoanalyse selbst ist derweil noch nicht öffentlich, berichtet die BBC. Der Nachrichtensender selbst zitiert aber einen Abgeordneten, der die fragliche Passage schon Anfang Dezember vorgelesen hat. Dort heißt es, dass das Spiel gegen West Ham am 9. November 2023 das bislang letzte des israelischen Vereins in Großbritannien gewesen sei. Der Abgeordnete habe dann erklärt, dass er erwarten würde, dass nach so einem Bericht intern Erkundigungen eingeholt würden, wie sich die „Hooligans“ denn damals verhalten hätten. Das hätte dann niemand beantworten können, „denn das Spiel hat ja nicht stattgefunden“. Solch eine Recherche ist also offensichtlich unterblieben. Bislang gibt es aber auch keine Hinweise darauf, dass der halluzinierte Verweis ursächlich für die Absage war.
(mho)
