Wenn Richter KI benutzen: Warum es große Probleme in den USA gibt
Immer mehr US-Richter nutzen generative KI für Urteile. Doch die Fehleranfälligkeit der Systeme kann schwerwiegende Folgen haben, muss sie aber nicht.
(Bild: Wirestock Images/Shutterstock.com)
- James O'Donnell
Die Neigung von KI-Systemen, Fehler zu machen, und die Neigung von Menschen, diese Fehler zu übersehen, ist inzwischen auch in der Justiz angekommen. Besonders im US-Rechtssystem gibt es immer wieder krasse Fälle – und sie beginnen, Auswirkungen auf die Menschen zu haben.
Die Irrfahrt begann, als Anwälte – darunter auch einige aus renommierten Kanzleien – Dokumente einreichten, in denen sie aus früheren Urteilen zitierten, die gar nicht existierten. Ähnliche Fehler setzten sich bald auch in anderen Bereichen der Justiz fort.
Im Dezember 2024 reichte etwa ein Stanford-Professor in einem Fall über Deepfakes ein eidesstattlich versichertes Gutachten ein, das Halluzinationen und Fehler enthielt, obwohl er selbst Experte für KI und Desinformation ist. Erst die Richter stoppten den Vorgang und verhängten Strafen, nachdem dies herausgekommen war. Man sollten annehmen, dass Vorgänge wie diese Anwälte und an Gerichtsprozessen Beteiligte dazu veranlassen sollten, dass sie sich künftig zweimal überlegen, KI wieder einzusetzen.
Das war die Leseprobe unseres heise-Plus-Artikels " Wenn Richter KI benutzen: Warum es große Probleme in den USA gibt". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.
