Update

Simulation

KI setzt Atomwaffen ein

US-Forscher haben untersucht, wie Sprachmodelle militärische und diplomatische Entscheidungen treffen. Dazu prüften sie das Verhalten von fünf technisch führenden großen Sprachmodellen in fiktiven Krisenszenarien. Alle fünf Modelle zeigten dabei „schwer vorhersagbare Eskalationsmuster“, schreiben Juan-Pablo Rivera und Kollegen in ihrem Paper, das sie auf der Preprint-Plattform arXiv.org veröffentlichten (heise.de/s/bllMd). In Extremfällen setzten die Modelle auch Atomwaffen ein.

In der Simulation konnte ein Sprachmodell jeweils acht verschiedene „Nations-Agenten“ steuern. Jeder Agent bekam per Prompt eine Vorgeschichte und Ziele vorgegeben. Einige sollten die herrschende Weltordnung verändern, andere den Status quo erhalten. Sie konnten aus 27 vorgegebenen Aktionen wählen – von friedlichem Handel bis zur Aufrüstung. Dabei neigten alle Modelle zum Wettrüsten und – besonders irritierend – Eskalationen traten ohne jede Vorwarnung auf. Die Modelle folgten dabei einer klassischen Erstschlags-Logik.