Offener Brief: Musk, Wozniak und Co. fordern Zwangspause für Modelle wie GPT-4

Prominente Tech-Vertreter fordern in einem offenen Brief eine Zwangspause für die KI-Entwicklung. Nur so könne man Risiken für die Menschheit einschätzen.

In Pocket speichern vorlesen Druckansicht 468 Kommentare lesen

(Bild: dpa/Montage: heise online)

Lesezeit: 2 Min.

Ein offener Brief fordert eine Zwangspause von mindestens sechs Monaten für die Entwicklung der mächtigsten KI-Modelle. Nur so könne man gewährleisten, dass die KI zum Wohle der Menschheit beitrage, statt ihr zu schaden. Zu den Unterzeichnern gehören mit Elon Musk und Apple-Mitgründer Steve Wozniak prominente Namen in der Tech-Szene. Aber auch Emad Mostaque, CEO von Stability AI, dem Unternehmen hinter der Bild-KI Stable Diffusion, hat das Dokument signiert.

Dass künstliche Intelligenz, die der von Menschen nahekommt, "tiefgreifende Risiken für die Gesellschaft und Menschheit" darstellen könne, sei Konsens – auch bei den großen KI-Entwicklungs-Laboren. Wegen der potenziell gravierenden Folgen der KI auf die Zukunft der Menschheit müsse deren Einführung mit angemessener Sorgfalt und Ressourcen geplant und verwaltet werden.

Das "außer Kontrolle geratene Wettrennen" der großen KI-Modelle der vergangenen Monate verhindere aber eine solche Planung. Man komme nun langsam aber an den Punkt, an dem die KI in Konkurrenz zu der Intelligenz von Menschen treten könne. Deshalb sei jetzt der Zeitpunkt gekommen, für mindestens sechs Monate jegliche Entwicklungsarbeiten an Modellen, die mächtiger als GPT-4 sind, zu pausieren. Sollte das nicht entwicklerseitig möglich sein, müsse die Politik einschreiten.

In der gewonnenen Zeit sollen KI-Labore und Fachleute in Kooperation "eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliche KI-Designs und -Entwicklungen" entwickeln und umsetzen. Gleichzeitig sollen die Entwickler auch gemeinsam mit politischen Akteuren an der Entwicklung robuster KI-Governance-Systeme beteiligen.

Insgesamt sind es 1125 Unterzeichnerinnen und Unterzeichner, die den offenen Brief bislang namentlich unterstützen. Neben der genannten US-Tech-Prominenz zeigen hauptsächlich Uni-Professorinnen und -Professoren Unterstützung, darunter Stuart Russell von der University of California in Berkeley, von dem auch das Standardwerk "Artificial Intelligence: a Modern Approach" stammt. Deutsche Lehrstuhlinhaber finden sich ebenfalls in der Liste.

(jvo)