Was Uber von seinem tödlichen selbstfahrenden Auto gelernt hat
Seite 2: Irritierende Ignoranz
Auch die Programmentwickler machten verheerende Fehler. Zwar sollte der Computer mögliche Hindernisse erfassen und klassifizieren; doch wurde der Ort, an dem ein Objekt oder eine Person registriert wurde, nicht gespeichert. Ergebnis: Das System konnte nicht vorhersagen, in welcher Richtung sich die Fußgängerin bewegen würde, obwohl sie die Straße überquerte, ohne wilde Haken zu schlagen. Verfügbare Daten wurden also ignoriert, was der Fußgängerin zum Verhängnis wurde.
Schockierend war der Verzicht auf Notbremsungen zur Minderung von Unfallfolgen. Notbremsungen waren zwar grundsätzlich vorgesehen, aber nur zur Vermeidung von Unfällen, nicht zur Minderung der Folgen nicht mehr vermeidbarer Unfälle. Das überließ der Computer den menschlichen Bedienern am Steuer. Diese im Programmcode zum Ausdruck gebrachte Geringschätzung Dritter wurde der Fußgängerin zum Verhängnis.
Zu allem Überdruss wartete der Computer auch noch eine geschlagene Sekunde nachdem er den Unfall als unvermeidbar erkannt hatte, bevor er die Bedienerin schließlich 0,2 Sekunden vor dem Aufprall alarmierte. Diese Wartesekunde war absichtlich eingebaut, um unnötige Alarme zu minimieren. So aber kam der Alarm viel zu spät. Die Bedienerin brauchte, wie bei Menschen üblich, eine weitere Schrecksekunde um zu reagieren – das war dann erst nach dem tödlichen Aufprall.
US-Staaten gehen volles Risiko
Doch Becic hatte auch Behörden und Gesetzgebern einiges auszurichten. Zwar hätten die meisten US-Staaten inzwischen eine Strategie für selbstfahrende Kfz ausgearbeitet. Viele schreiben darin aber keine Tests vor, bevor automatisierte Fahrzeuge auf öffentliche Straßen gelassen werden. Manche belassen es dabei, Sicherheitsschranken abzubauen, etwa autonome LKW-Konvois von ansonsten vorgeschriebenen Mindestabständen auszunehmen. Und bei jenen Staaten, die Tests verlangen, variieren die Anforderungen enorm.
Lesen Sie auch
Waymo baut eigene Fabrik für selbstfahrende Autos
Arizona, wo der tödliche Uber-Unfall passiert ist, verlangt laut Becic keine Tests vor Inbetriebnahme auf öffentlichen Straßen, solange noch ein menschlicher Bediener an Bord ist. Erst nach dem Unfall mit dem autonomen Auto verbot der Gouverneur Uber weitere Testfahrten. Inzwischen hat der Staat 66 Genehmigungen für Testfahrten auf öffentlichen Verkehrswegen ausgestellt.
Sicherheitsexperte Becic empfiehlt allen Staaten, nur noch selbstfahrende Autos auf öffentliche Straßen zu lassen, die sich zuvor in Teststellungen bewährt haben. Auf Bundesebene wünscht er sich, dass Betreiber automatisierter Fahrzeuge dazu verpflichtet werden, regelmäßig Sicherheitsberichte zu erstatten. Bislang erfolgt das freiwillig. Daher habe die Bundesstraßenbehörde NHTSA auch erst 23 Sicherheitsberichte erhalten. "Einige sind detailliert und technisch, andere sind im wesentlichen Marketingbroschüren", berichtete Becic.