Veto gegen kalifornisches KI-Gesetz – Silicon Valley setzt sich durch

In Kalifornien sollte ein KI-Gesetz kommen. Doch der zuständige Gouverneur sieht zu viele Lasten für KI-Unternehmen.

6

Hier unterzeichnet Gavin Newsom ein Gesetz, allerdings nicht SB-1047.

(Bild: gov.ca.gov)

30.09.2024, 09:15 Uhr

Lesezeit: 2 Min.

Von

Eva-Maria Weiß

Es sei mit guten Absichten erstellt worden, doch führe nicht zum Ziel – das schreibt der zuständige kalifornische Gouverneur, Gavin Newsom über das geplante KI-Gesetz SB-1047. Die Abkürzung steht für Senate Bill 1047, der Langtitel lautet "Safe and Secure Innovation for Frontier Artificial Intelligence Models Act". Newsom hat Gebrauch von seinem Veto-Recht gemacht. KI-Experten und Unternehmen hatten bereits scharfe Kritik am Gesetz geäußert – allerdings etwas anderer Art, als Newsoms meint.

In einer öffentlichen Stellungnahme erklärt der Gouverneur seine Gründe. Das Gesetz bedenke etwa zu wenig, in welchem Umfeld KI eingesetzt wird – ob in Bereichen mit hohen Risiken für die Gesellschaft oder bei ganz profanen Funktionen. Newsom befürchtet sogar, dass sich wegen SB-1047 die Menschen in einer falschen Sicherheit wähnen könnten. Denn reguliert werden nur große KI-Modelle. Dabei könnten kleine, spezialisierte Modelle mindestens ebenso gefährlich sein, warnt er.

Gouverneur fordert dennoch Regulierung

Gleichwohl glaube er, KI müsse reguliert werden, schreibt Newsom. Es solle Protokolle zur Überwachung geben, Leitplanken und Konsequenzen für Missbrauch von KI. Ein Gesetz müsse zudem anpassbar sein, denn KI sei eine Technologie, die im Wandel und in der Entwicklung stecke. "Um es klar zu sagen – ich stimme dem Autor zu – wir können es uns nicht leisten, auf eine große Katastrophe zu warten, bevor wir Maßnahmen zum Schutz der Öffentlichkeit ergreifen."

SB-1047 hatte auch vorgesehen, dass ein staatliches Gremium zur Überwachung von KI-Modellen und Anbietern geschaffen wird. Kritisiert wurde von Forschern und Unternehmen unter anderem der geforderte Kill Switch für Modelle ab einer bestimmten Größe. Die KI-Expertin Fei-Fei Li sagt etwa, das werde vor allem die Open-Source-Community von der Entwicklung abhalten. Kalifornien, so schreibt es Newsom, sei die Heimat von 32 der weltweit 50 führenden KI-Unternehmen. Newsom halte es auch für richtig, dass der US-Bundesstaat in der Regulierung voranschreitet, während der Kongress auf sich warten lasse.

Die europäische KI-Verordnung reguliert im Gegensatz zum kalifornischen Vorschlag KI nach einem risikobasierten Ansatz. Zahlreiche KI-Anwendungen können ohne Weiteres eingesetzt werden, beispielsweise Spam-Filter für Mails. Andere Anwendungen, etwa Social Scoring, sind verboten. Wieder andere müssen bestimmte Pflichten zur Transparenz und Dokumentation erfüllen.