Wissenschaftler warnen vor den Gefahren intelligenter Maschinen
Wenn die KI-Forschung die Sicherheit ihrer Entwicklungen nicht im Auge behält, könnte sie eines Tages Systeme erschaffen, die außer Kontrolle geraten. Vor dieser Gefahr warnen nun eine ganze Reihe namhafter Forscher sich und ihre Kollegen.
Die KI-Forschung sollte immer auch die Sicherheit ihrer Entwicklungen im Auge behalten. Sonst könnte sie eines Tages Systeme erschaffen, die außer Kontrolle geraten. Davor warnen namhafte Forscher nun in einem offenen Brief.
Künstliche Intelligenz macht große Fortschritte. Intelligente Agenten wie Siri oder Google Now verstehen gesprochene Befehle sprecher-unabhängig. Sie können dabei nicht nur einfache Aufgaben erledigen, sondern werten bereits Hintergrundwissen über ihre Benutzer aus ("schreibe eine Nachricht an Thomas"). Es ist nur noch eine Frage der Zeit, bis autonom fahrende Autos die Straßen erobern.
Eine Reihe prominenter Wissenschaftler erfüllt das, bei aller Freude über die Fortschritte, auch mit Sorge. Sie haben daher einen offenen Brief des Future of Life Institute unterschrieben, der Forscher dazu auffordern, KI-Systeme immer auch unter einem Sicherheitsaspekt zu entwickeln. In einem ausführlicheren Dokument geben sie Hinweise darauf, worauf Forscher achten sollten.
Als potentielles Problemfeld haben sie zum Beispiel das Thema autonomes Fahren ausgemacht: Wie soll ein autonomes Auto in einer abzusehenden Unfallsituation Materialschäden gegen Personenschäden abwägen? Beim Thema autonomer Waffen stellen sie die Frage, ob sich solche Systeme entwickeln lassen, die mit dem Menschenrecht konform gehen. Jeder Wissenschaftler soll seine eigene Rolle bei der Entwicklung und der Nutzung solcher und anderer KI-Systeme hinterfragen.
Zu den Unterzeichnern des Briefes zählen Dutzende Experten der verschiedensten Disziplinen, etwa die Entwicklungschefs von Google und Microsoft, Peter Norvig und Eric Horvitz, Jaan Tallinn, der Mitgründer von Skype, Elon Musk, Chef von Tesla Motors und der Physiker Stephen Hawking. Hawking hatte seine Meinung zum Thema bereits mit Physik-Nobelpreisträger Frank Wilczek und zwei weiteren Autoren in einem Artikel der Huffington Post erläutert. (jo)
