Brasilien: Erste vollständig von KI geschriebene Verordnung

Die südbrasilianische Millionenstadt Porto Alegre hat vor Kurzem eine Verordnung zum Austausch gestohlener Wasserzähler verabschiedet. Das Besondere: Die Gesetzesvorlage wurde gänzlich von Künstlicher Intelligenz (KI) verfasst. Das enthüllte der federführende Stadtrat Ramiro Rosário eine Woche nach Inkrafttreten und trat damit eine Debatte über die Rolle von KI in der öffentlichen Politik los.

Rosário erzählte der US-Nachrichtenagentur Associated Press (AP), dass er den Chatbot ChatGPT von OpenAI gebeten habe, einen Vorschlag zu verfassen, die verhindern soll, dass die Stadt den Steuerzahlern den Austausch gestohlener Wasserzähler in Rechnung stellt. Seine 35 Kolleginnen und Kollegen im Stadtrat nahmen die Verordnung ohne eine einzige inhaltliche Änderung und ohne Gegenstimme an. Dass der Vorschlag vollständig von einer generativen KI geschrieben worden war, wussten sie nicht. "Hätte ich es vorher bekannt gegeben, wäre der Vorschlag sicher nicht einmal zur Abstimmung gebracht worden", sagte Rosário gegenüber AP. "Es wäre unfair gegenüber der Bevölkerung, das Risiko einzugehen, dass das Projekt nicht genehmigt wird, nur weil es von einer Künstlichen Intelligenz geschrieben wurde." Die Verordnung trat am 23. November in Kraft.

"Gefährlicher Präzedenzfall"

Der Präsident des Stadtrats, Hamilton Sossmeier, fand heraus, dass Rosário ChatGPT mit der Ausarbeitung der Verordnung beauftragt hatte, da dieser in den sozialen Medien damit angab. Sossmeier sagte gegenüber brasilianischen Medien, er halte die Art und Weise, wie das Gesetz verfasst wurde, für einen "gefährlichen, komplizierten Präzedenzfall". Er wies darauf hin, dass es immer noch keine Diskussion zu diesem Thema gibt, geschweige denn rechtliche Hürden für die Verabschiedung von Gesetzen, die von KI verfasst wurden.

Auf die Einwände mangelnder Transparenz entgegnete Rosário, es sei Absicht gewesen, den Ursprung des Vorschlags geheim zu halten. Gegenüber AP sagte er, sein Ziel sei nicht nur gewesen, ein lokales Problem zu lösen, sondern auch eine Debatte anzustoßen. Er habe eine Eingabeaufforderung mit 49 Wörtern in ChatGPT eingegeben, und das Programm habe innerhalb von Sekunden den vollständigen Entwurf der Verordnung ausgegeben, einschließlich der Begründungen – ein Prozess, für den er normalerweise etwa drei Tage brauchen würde.

Rosário sagte, dass ChatGPT zwei Ideen vorschlug, die ihm nie in den Sinn gekommen waren: eine 30-tägige Frist für die Stadt, um gestohlene Wasserzähler zu ersetzen, und, in Fällen, in denen diese Frist nicht eingehalten wurde, die Befreiung der Grundstückseigentümer von der Zahlung ihrer Wasserrechnungen. "Die Künstliche Intelligenz hat nicht nur den von mir vorgeschlagenen Text geliefert, sondern ist noch weiter gegangen: Sie hat Fristen vorgeschlagen und diesen Artikel eingefügt, an den wir nicht gedacht hatten. Ich fand das sensationell." Auch Sossmeier scheint seine Meinung mittlerweile geändert zu haben. "Ich habe angefangen, mich tiefer einzulesen und habe gesehen, dass das leider oder zum Glück ein Trend sein wird", sagte er später laut AP in Bezug auf KI.

Debatte um Einsatz von KI

Rosário zeigte sich gegenüber der Nachrichtenagentur überzeugt, "dass die Menschheit eine neue technologische Revolution erleben wird. Alle Werkzeuge, die wir als Zivilisation entwickelt haben, können für das Böse und das Gute eingesetzt werden. Deshalb müssen wir zeigen, wie sie zum Guten eingesetzt werden können." Befürchtungen, mit KI steuere die Gesellschaft auf eine Zukunft zu, in der die Automatisierung den Menschen ersetzt, trat er gegenüber der US-Tageszeitung Washington Post entgegen: "Niemand wird durch künstliche Intelligenz ersetzt werden, aber wir könnten alle durch diejenigen ersetzt werden, die wissen, wie man künstliche Intelligenz einsetzt. Wir müssen uns also auf diesen Weg vorbereiten."

Große generative KI-Sprachmodelle, die Chatbots wie ChatGPT antreiben, sind maschinelle Lernsysteme, die möglicherweise aber nicht immer in der Lage sind, die Nuancen und die Komplexität des Rechts zu berücksichtigen. Experten warnen davor, sich komplett auf ChatGPT zu verlassen, da es im besten Fall zu kleinen Fehlern und im schlimmsten Fall zu eklatanten Fehlinformationen neigt. Im Mai hat ein Rechtsanwalt in den Vereinigten Staaten bei seiner Recherche in einem Streitfall vor Gericht den KI-Chatbot ChatGPT nach Präzendenzfällen gefragt – und die Antwort ungeprüft übernommen. Die Anwälte der Gegenseite studierten die Eingabe und wurden rasch stutzig: Personen- und Firmennamen, Gerichte – alles wirkte auf den ersten Blick authentisch. Doch die Nachforschung ergab, dass kein einziger Fall existierte. Der Chatbot hatte aus seinem Lernmaterial neue "Fälle" frei herbeiphantasiert und ihnen bis in die Details hinein Anschein von Echtheit verliehen – inklusive der üblichen gelehrigen Erläuterungen des Bundesrechts, Zitate und Aktenzeichen.

(akn)