KI-Halluzinationen vor Gericht
In Zeiten von KI ist noch auf die Justiz Verlass, oder? Schließlich zählen dort noch echte Fakten. Ein Bericht aus den USA zeigt: Das Gegenteil ist der Fall.
(Bild: nepool/Shutterstock.com)
Künstliche Intelligenz wird vermehrt in der Justiz genutzt. Das stellt Rechtssysteme vor Herausforderungen: Weltweit haben Gerichte mit Schriftsätzen zu kämpfen, die KI-Halluzinationen enthalten, berichtet der US-Radiosender NPR.
Dem Bericht zufolge nutzen immer mehr Anwälte KI für Schriftstücke in laufenden Verfahren. Das Problem: Die KI-Anwendungen zitieren nicht existierende Gerichtsurteile, verfälschen Aussagen oder geben Urteile falsch wieder. Das ist besonders problematisch für das anglo-amerikanische Fallrecht, das sich maßgeblich auf Präzedenzfälle stützt.
Damien Charlotin, Rechtswissenschaftler an der Wirtschaftshochschule HEC Paris, betreibt eine Online-Datenbank, die weltweit Verfahren erfasst, in denen Gerichte Personen wegen des Vorbringens von Dokumenten mit KI-Fehlern sanktioniert haben. Laut dieser Datenbank gab es bis April 2026 weltweit mehr als 1300 solcher Gerichtsverfahren. Allein 800 der Fälle entfielen auf US-Gerichte, erklärte Charlotin gegenüber NPR.
Menge der Verfahren nimmt zu
Dem Wissenschaftler zufolge hat die Menge an Gerichtsverfahren, in denen Dokumente mit Fehlern aus KI-Tools verwendet wurden, seit vergangenem Jahr erheblich zugenommen. Erst kürzlich wurden an einem Tag zehn Fälle an zehn verschiedenen Gerichten bekannt.
Auch die Strafen werden härter. Vergangenen Monat verhängte ein US-Bundesgericht in Oregon Sanktionen von insgesamt über 100.000 US-Dollar gegen einen Anwalt. Auch er hatte Dokumente eingereicht, die von KI-Modellen verursachte Fehler enthielten. Laut NPR sollen solche Fälle von halluzinierten Gerichtsentscheidungen oder falschen Zitaten in Prozessdokumenten bereits bei obersten Gerichten der US-Bundesstaaten aufgetreten sein.
Erste US-Gerichte führen Kennzeichnungspflichten ein
NPR zufolge haben einige US-Gerichte bereits Kennzeichnungsvorschriften eingeführt. Demnach muss jedes Dokument, das mit KI erstellt oder bearbeitet wurde, detailliert gekennzeichnet werden. Ziel sei es, festzustellen, welches Dokument die Gerichte detailliert auf KI-Halluzinationen überprüfen müssen.
Ein von NPR zitierter Anwalt hält diese Praxis allerdings für wenig praktikabel. Da KI mittlerweile im standardmäßigen Funktionsumfang von Kanzleisoftware integriert ist, wäre nahezu jedes Dokument kennzeichnungspflichtig.
(rah)
