KI-Konferenz: Auf dem Weg zum autonomen Verkehr "werden Menschen sterben"
Bis die Straßen von autonomen Autos dominiert werden, ist es ein steiniger Weg. Die Gesellschaft muss harte Fragen beantworten, zeigte sich in Stockholm.
Eine Kreuzung der Zukunft?
(Bild: "Rush Hour")
Die Aussicht, dass Autos zukünftig ohne Fahrer auskommen könnten, dürfte viel dazu beigetragen haben, dass Künstliche Intelligenz (KI) in letzter Zeit mehr und mehr thematisiert und in der Öffentlichkeit kontrovers diskutiert wird. Kein Wunder daher, dass autonome Fahrzeuge auch bei der gerade laufenden KI-Konferenz IJCAI in Stockholm präsent sind. Während es am Montag jedoch ein von einer Klippe stürzendes Auto war, das die Begrenzungen bisher verwendeter Lernverfahren illustrieren sollte, war am Dienstag eine komplett entgegengesetzte Videosequenz zu sehen.
Steiniger Weg zur Vision
Bevor er seinen Zuhörern deprimierende Ausführungen über tödliche Verkehrsunfälle zumutete, wollte Jean-François Bonnefon (Toulous School of Economics) in seinem Plenarvortrag auf der IJCAI (International Joint Conference on Artificial Intelligence) zunächst einmal träumen: Das Video "Rush Hour" zeigt eine stark frequentierte Straßenkreuzung, auf der sich Autos (teilweise in Kolonnen), Fahrräder und Fußgänger scheinbar völlig regellos bewegen, ohne dass es zu einer einzigen Kollision kommt. Das sei das große Versprechen des autonomen Fahrens, so Bonnefon – "aber auf dem Weg dorthin werden Menschen sterben".
Anhand einer Zeichnung verdeutlichte er den als Trolley-Problem bekannten Konflikt: Wie soll sich ein autonomes Fahrzeug verhalten, wenn ein Unfall unvermeidlich ist und durch Ausweichen nur noch die Wahl zwischen verschiedenen Unfallopfern besteht? Die dargestellte Situation sei unrealistisch, räumte Bonnefon ein, das Problem gleichwohl sehr ernst und durch die gegenwärtige Rechtslage nicht erfasst. Kein Mensch wisse, wie er sich in einer solchen Lage verhalten würde. Aber im Unterschied zu Menschen könnten autonome Fahrzeuge programmiert und über das gewünschte Verhalten im voraus nachgedacht werden.
Eine Umfrage zum Trolley-Problem
Dieses Nachdenken erwies sich jedoch als schwieriger, als zunächst vermutet. Als Bonnefon zusammen mit Forschern vom Massachusetts Institute of Technology (MIT) Personen befragte, ob ein autonomes Fahrzeug eher den Tod der Insassen oder den von Fußgängern in Kauf nehmen sollte, stellte sich heraus, dass die Situation umso komplizierter wurde, je mehr detaillierte Merkmale die beteiligten Personen und die Umgebung bekamen.
Um eine große Zahl von Stellungnahmen zu bekommen, haben die MIT-Forscher daher das Online-Spiel Moral Machine entwickelt, das die User mit einer Vielzahl verschiedener Varianten des Trolley-Problems konfrontiert und zu einer Entscheidung auffordert. Bisher seien über 40 Millionen solcher Entscheidungen aus 150 Ländern gesammelt worden, sagte Bonnefon. Es ließen sich Unterschiede im Verhalten erkennen, die sich grob dem globalen Westen, Osten und Süden zuordnen ließen.
Eine Debatte anstoßen
Universell scheine die Neigung zu sein, eher den Tod von Tieren als von Menschen zu akzeptieren, eher den von weniger Menschen als von vielen und eher den von älteren als von jüngeren. Bisher gebe es mit Deutschland nur einen Staat der das zuletzt genannte Alterskriterium ausdrücklich für inakzeptabel erklärt habe.
Bonnefon betonte, dass die Online-Umfrage nicht beabsichtige, den kollektiven Willen zu erfassen, dem die Politik dann folgen solle. Sie sei vielmehr als Beitrag zur gesellschaftlichen Debatte über das Problem zu verstehen. Ein Ausschnitt aus einem Interview mit dem früheren US-Präsidenten Barack Obama unterstrich das. "Ein breiter Konsens wird wichtig sein", sagte Obama in diesem Interview zum Einsatz von KI-Technologien. (mho)
