Turing-Award: Gewinner sehen KI-Entwicklung kritisch

close notice

This article is also available in English. It was translated with technical assistance and editorially reviewed before publication.

Don’t show this again.

Sie bekommen den wichtigsten Preis der Informatik – den Turing-Award. Und nutzen die Aufmerksamkeit auch dazu, vor den aktuellen KI-Entwicklungen zu warnen. Dabei geht es nicht um ein Untergangsszenario oder eine Killer-AGI, sondern das Vorgehen von manchen KI-Unternehmen. Sie prüften ihre KI-Anwendungen nicht ausreichend, bevor sie sie auf die Menschheit losließen, sagen Andrew Barto und Richard Sutton. Zudem seien die Unternehmen zu sehr am Gewinn interessiert.

Andrew Barto ist ein emeritierter Professor der Universtiy of Massachusetts. Richard Sutton war an der Universität von Alberta und für Googles KI-Sparte DeepMind tätig. Beide haben den mit einer Million US-Dollar dotierten Preis für ihre Errungenschaften im Bereich der Grundlagenforschung bekommen. Sie entwickelten maßgeblich das sogenannte Reinforcement Learning – dabei reagieren Modelle auf Feedback. Mittels durchlaufender Feedbackschleifen, bei denen die KI-Modelle schlussendlich nach einer positiven Bewertung streben, entstehen Reasoning-Modelle, also solche, die besonders gut im logischen Denken sein sollen.

Fehlende Sicherheitsvorkehrungen bei KI-Modellen

"Die Verfügbarkeit von Software für Millionen von Menschen ohne Sicherheitsvorkehrungen ist kein gutes technisches Vorgehen“, sagte Barto und verglich dies mit dem Bau einer Brücke, die dann von Menschen benutzt wird, zitiert die Financial Times. Eigentlich sollte die technische Praxis so sein, dass negative Folgen von Technologie möglichst abgemildert werden, das sehe er aber bei den Unternehmen nicht, die derzeit KI-Modelle auf den Markt bringen.

Beide Preisträger warnten vor dem Tempo der KI-Entwicklung und dem Wettlauf der Unternehmen, immer leistungsstärkere, aber auch fehleranfällige Modelle auf den Markt zu bringen. Außerdem würden sie dafür auch noch nie dagewesene Finanzierungssummen aufbringen. "Die Idee, riesige Datenzentren zu haben und dann einen bestimmten Betrag für die Nutzung der Software zu verlangen, motiviert die Dinge, und das ist nicht das Motiv, dem ich zustimmen würde", sagte Barto.

AGI – seltsamer Begriff und Hype

OpenAIs Erklärung, man müsse derart groß denken, damit eine übermenschliche KI (AGI) allen zugutekomme, weist Sutton zurück. Er sprach von Hype. Laut Financial Times sagte er: "AGI ist ein seltsamer Begriff, denn es gab schon immer KI und Menschen, die versuchten, Intelligenz zu verstehen." Systeme, die besser sind als Menschen, werde man irgendwann durch ein besseres Verständnis des menschlichen Gehirns erreichen. Den Preisträgern galt in ihrer Forschung als Vorbild, wie Menschen lernen. Sie lernen besser, wenn sie belohnt werden, statt kein Feedback zu bekommen oder wenn sogar noch eine Strafe droht.

Nichtsdestotrotz erwarten Barto und Sutton, dass KI positive Auswirkungen auf die Welt haben werde. "Wir haben das Potenzial, weniger gierig und selbstsüchtig zu werden und uns bewusster zu machen, was in anderen vorgeht ... Es gibt viele Dinge, die in der Welt falsch laufen, aber zu viel Intelligenz gehört nicht dazu", sagte Sutton.

Die beiden kritisierten außerdem Donald Trump, da dieser die Bundesausgaben für wissenschaftliche Forschung kürzen will. Das hätte niederschmetternde Konsequenzen für den wissenschaftlichen Vorsprung der USA.

(emw)