Halluzinationen: EU-Kommission knöpft sich Microsoft Bing wegen KI-Gefahren vor

Microsoft hat einen blauen Brief aus Brüssel erhalten: Die EU-Kommission verlangt auf Basis des Digital Services Act (DSA) Auskunft über spezifische Risiken, die sich aus Funktionen für generative Künstliche Intelligenz (KI) in der Suchmaschine Bing ergeben könnten. Insbesondere hat die Brüsseler Regierungsinstitution dabei den auf ChatGPT basierenden Bot Copilot sowie den Bildgenerator Image Creator von Microsoft Designer im Blick. Schon am 14. März schickte die Kommission dem Softwarekonzern dazu eine Frageliste, die dieser aber nicht zur Zufriedenheit der Exekutivinstanz beantwortet hat. Sie hat Microsoft daher mit der offiziellen Anfrage nun eine Frist zur Reaktion bis zum 27. Mai gesetzt.

Sorge um Deepfakes und Manipulation

Mit dem rechtsverbindlichen Auskunftsersuchen fordert die Kommission Bing auf, auch interne Dokumente und Daten bereitzustellen, die der Betreiber bisher nicht offengelegt hat. Diesem Schritt liege der Verdacht zugrunde, heißt es weiter, dass Bing wegen Risiken im Zusammenhang mit generativer KI wie sogenannten Halluzinationen, der viralen Verbreitung von Deepfakes sowie der automatisierten Manipulation von Diensten Nutzer in die Irre geführt haben könnte. Das wäre ein klarer Verstoß gegen den DSA.

Die Kommission hat Bing vor über einem Jahr als sehr große Suchmaschine im Sinne des Plattform-Gesetzes mit mehr als 45 Millionen Usern in der EU eingestuft. Einschlägige Betreiber müssen Risikoabschätzungen durchführen und ausgemachte Gefahren etwa für die Demokratie, die öffentliche Sicherheit, die Grundrechte und den Jugendschutz minimieren. Generative KI gehört zu den Risiken, die die Regierungsinstitution in ihren Leitlinien zur Integrität von Wahlprozessen identifiziert hat. Besorgt zeigt sie sich nun insbesondere angesichts der schon Anfang Juni anstehenden Europawahl.

Copilot schon oft wegen Fehlern bei Wahlthemen ertappt

Falls Bing nicht innerhalb der Frist antwortet, kann die Kommission Geldbußen von bis zu ein Prozent des gesamten Jahreseinkommens oder weltweiten Umsatzes des Anbieters sowie regelmäßige Zwangsgelder von bis zu fünf Prozent des durchschnittlichen Tageseinkommens verhängen. Eine ähnlich hohe Strafe droht, falls der Betreiber falsche, unvollständige oder irreführende Angaben macht. Die Kommission weist darauf hin, dass es sich bei einem Auskunftsersuchen um einen ersten Ermittlungsakt handle, der mögliche weitere Schritte nicht vorwegnehme. Auf Basis der Bewertung der Antworten werde man darüber entscheiden und gegebenenfalls ein förmliches Verfahren wegen DSA-Verstößen einleiten. Solche Untersuchungen laufen bereits gegen Meta, TikTok und X. Fragenkataloge müssen zudem etwa die Microsoft-Tochter LinkedIn und AliExpress beantworten.

Clara Helming von der zivilgesellschaftlichen Organisation AlgorithmWatch begrüßt das Vorgehen gegen Bing. "Unsere Forschung zeigt, dass Copilot häufig falsche Antworten auf grundlegende wahlbezogene Fragen gibt. In einer gemeinsamen Untersuchung mit AI Forensics zu den Wahlen in Bayern, Hessen und der Schweiz im Jahr 2023 haben wir festgestellt", dass ein Drittel einschlägiger Auskünfte Fehler enthalten habe. Der Chatbot habe etwa Umfragewerte verzerrt dargestellt und sogar Skandale über Politiker erfunden. Helming zeigt sich irritiert: "Obwohl wir Microsoft über das Problem informiert haben, zeigten spätere Tests keine Verbesserung."

Die ausgemachten Schwierigkeiten seien systembedingt und "liegen in der probabilistischen Natur großer Sprachmodelle begründet", erläutert Salvatore Romano von AI Forensics. Wenn Chatbots keine Genauigkeit bieten könnten, "sollten sie Antworten auf heikle Fragen ausweichen". Ein Microsoft-Sprecher beteuerte: "Wir haben im Rahmen der freiwilligen Informationsanfrage uneingeschränkt mit der Europäischen Kommission zusammengearbeitet und sind weiterhin bestrebt, auf ihre Fragen zu antworten und mehr über unseren Ansatz zur digitalen Sicherheit und zur Einhaltung des DSA offenzulegen."

(bme)