Godmother of AI sorgt sich vor kalifornischem KI-Gesetz

Gefährlich für KI, für Open-Source und die Gesellschaft. Stanford-Professorin warnt vor SB-1047, dem amerikanischen AI Act.

39

(Bild: Shutterstock/Sansoen Saengsakaorat)

08.08.2024, 12:05 Uhr

Lesezeit: 3 Min.

Von

Eva-Maria Weiß

In Kalifornien wird derzeit ein Gesetz zur Regulierung von KI ausgearbeitet. Es ähnelt in Teilen dem europäischen AI Act. Es gibt jedoch Unterschiede bei den Verantwortlichkeiten und der Pflicht zu einem Kill Switch. Beides könne laut der Stanford-Professorin Fei-Fei Li die Entwicklung von KI in Kalifornien, aber auch den USA massiv behindern. Sie sorgt sich außerdem, dass das Gesetz gleichzeitig die tatsächlich bestehenden Probleme nicht angeht, etwa wie die Gesellschaft mit KI umgehen möchte.

Li erläutert in einem Gastbeitrag im Magazin Fortune ihre Sorgen. Dort schreibt die 'Godmother of AI', SB-1047, wie das Gesetz abgekürzt wird, werde Entwickler gängeln und Innovation verhindern, denn die Anbieter von KI-Modellen werden bei Missbrauch mit in die Verantwortung genommen. Laut Li ist es unmöglich, alle erdenklichen Szenarien für Missbrauch als Entwickler auszuschließen.

Kill-Switch für KI killt KI

Ihre zweite Sorge betrifft die Pflicht, einen Kill-Switch in Modelle einzubauen, die eine bestimmte Größe übersteigen. Der Kill-Switch solle dem Gesetz nach für Sicherheit sorgen, mit ihm können die Systeme komplett abgeschaltet werden. Laut Li werde diese Möglichkeit dafür sorgen, dass Entwickler zögerlicher werden und sich nicht mehr gleichermaßen einbringen, wenn sie wissen, dass die Programme, an denen sie arbeiten, gelöscht werden können. Das betreffe vor allem die Open-Source-Community.

Und weil die Open-Source-Community dann weniger aktiv sei, stünde auch der Wissenschaft weniger Information zur Verfügung. Und ohne den Zugang könne man nicht die "nächste Generation der KI-Führung" anlernen.

Neben den Annahmen, was wegen der Regulierung droht, schreibt Li auch darüber, was ihrer Meinung nach fehlt: "Dieses Gesetz adressiert nicht die potenziellen Gefahren von KI, etwa den Bias und Deepfakes." Li bietet ihre Expertise dem zuständigen Senator Scott Wiener an.

Der California Senate Bill trägt die Nummer 1047 und den Langtitel "Safe and Secure Innovation for Fontier Artificial Intelligence Models Act". Li ist nicht die erste Kritikerin des Gesetzes, es haben schon einige Menschen aus der KI-Branche ihre Bedenken geäußert. Li ist nun in ihren Äußerungen sehr deutlich. Ähnlich wie bei der KI-Verordnung sind es bisher zumeist Vorwürfe gewesen, Regulation hemme Innovation. Das gilt in den Augen einiger Menschen aber wohl grundsätzlich. Auch die Compliance-Kosten wurden bereits kritisiert. Dabei sieht das Gesetz, erneut ähnlich der europäischen Variante, Pflichten vor, zu denen beispielsweise eine Risikobewertung gehört und Berichte über Sicherheitsvorfälle.

Das alles könne die Entwicklungen in der KI-Branche verlangsamen, sorgen sich Kritiker.