ChatGPT erfand Präzedenzfälle: US-Anwalt muss Strafe zahlen
Ein US-Anwalt nutzte von ChatGPT ausgespuckte Präzendenzfälle in einer Gerichtseingabe. Die stellten sich als erfunden raus. Die Strafe folgt nun auf dem Fuß.
(Bild: Zolnierek/Shutterstock.com)
Weil er vor Gericht mit fiktiven Fällen argumentierte, die die Text-KI ChatGPT erzeugt hatte, müssen ein US-Anwalt, sein Kanzleipartner und ihre Kanzlei Levidow, Levidow & Oberman 5000 US-Dollar Strafe zahlen. Der Anwalt hatte in einem Rechtsstreit, in dem es um eine Verjährungsfrage ging, eine Eingabe mit sechs Präzedenzfällen vorgelegt, die gegen eine Verjährung sprachen. Diese Fälle ließ sich der Anwalt aber von ChatGPT generieren und sie stellten sich im Laufe des Verfahrens als komplett von der KI erfunden heraus.
So wollten die Anwälte der Gegenseite den Quellen in der Eingabe nachgehen und fanden nichts, daher baten sie um Zusendung der betreffenden Unterlagen. Daraufhin verschickte der Anwalt seitenweise vermeintliche Aktenauszüge – die ebenfalls von ChatGPT herbeifantasiert worden waren und selbst wiederum Verweise auf weitere erfundene Gerichtsfälle enthielten. Auf weiteres Nachhaken gestand der Anwalt schließlich ein, dass er sich bei seiner Arbeit von ChatGPT habe "unterstützen" lassen.
"In gutem Glauben" gehandelt
"Der technologische Fortschritt ist alltäglich und es ist an sich nichts Falsches daran, ein zuverlässiges Werkzeug der künstlichen Intelligenz zur Unterstützung zu verwenden", stellte der zuständige Richter in seiner Entscheidung klar. Aber Anwälten obliege auch eine Kontrollpflicht, dass ihre Einreichungen korrekt seien. Und die sei hier verletzt worden. Mit seiner Handlungsweise habe der Anwalt Zeit und Geld der Gegenpartei verschwendet und auch die Zeit des Gerichts von anderen Aufgaben abgezogen.
Die düpierte Kanzlei Levidow, Levidow & Oberman ließ laut Bericht des Guardian verlauten: "Wir haben in gutem Glauben den Fehler begangen, weil wir nicht dachten, dass ein Stück Technologie Fälle aus dem Nichts erfinden könnte." Der betreffende Fall Mata v. Avianca, Inc. wird unter dem Aktenzeichen 1:22-cv-01461 geführt.
Auch wenn die Fähigkeiten einer generativen Chatbot-KI wie ChatGPT erst einmal verblüffen mögen, taugt das Tool nur bedingt zur Recherche. Die KI erzeugt aus ihrem Ausgangsmaterial neu und echt scheinendes Material, das nach algorithmischer und statistischer Wahrscheinlichkeit zusammengesetzt und verwoben wird. Eine sachlich korrekte Auskunft, ist so möglich – es kann aber auch frei erfunden sein. Das eigene Urteilsvermögen kann man damit derzeit nicht ersetzen.
(axk)
