zurück zum Artikel

Wenn es ausweglos um Leben oder Tod auf der Straße geht, kann ein autonomes System laut einem Expertenbericht nicht weiterhelfen. Derartige Ereignisse seien weder normier- noch programmierbar. Haftung und Datenautonomie sind weitere Schwerpunkte.

Auch "Kollege Computer" am Steuer wird schwere moralische Dilemmata wie das hierzulande als Weichenstellerfall bekannte Trolley-Problem [1] nicht lösen können. Zu diesem Ergebnis ist die von Bundesverkehrsminister Alexander Dobrindt (CSU) eingesetzte [2] "Ethik-Kommission für automatisiertes und vernetztes Fahren" gekommen. In ihrem am Dienstag präsentierten Abschlussbericht [3] heißt es: "Echte dilemmatische Entscheidungen" wie eine über "Leben gegen Leben" seien von der konkreten tatsächlichen Situation "unter Einschluss 'unberechenbarer' Verhaltensweisen Betroffener abhängig. Sie sind deshalb nicht eindeutig normierbar und auch nicht ethisch zweifelsfrei programmierbar".

Bei entsprechenden Grenzbereichen müsse intuitiv entschieden werden, betonte der frühere Bundesverfassungsrichter Udo Di Fabio, der die neunmonatige Arbeit der Expertengruppe leitete und die Ergebnisse zusammen mit Dobrindt vorstellte. "Wir legen da keine Rationalitätsmodelle an." Zuvor hatten es Kulturwissenschaftler bereits als überaus fraglich bezeichnet [4], ob moralische Entscheidungen für vertrackte Situationen überhaupt in Programme eingebaut werden könnten.

Maschine kann Mensch nicht komplett ersetzen

Die Autoren des Berichts wollen deswegen sicherstellen, dass technische Fahrsysteme von vornherein darauf ausgelegt werden, Unfälle zu vermeiden. Dafür müsse der Gesetzgeber alles tun. Letztlich könne in ernsten Dilemma-Fällen die Maschine nicht ersetzen, dass ein "sittlich urteilsfähiger, verantwortlicher Fahrzeugsführer" eingreift.

Generell warnte Di Fabio davor, die Technik zu vermenschlichen: "Der Computer entscheidet nicht, sondern der Produzent oder Betreiber einer Software." Diese müssten letztlich gegebenenfalls auch haften. An diesem Punkt sei immer klarzustellen, "wer an welcher Stelle die Verantwortung trägt". Das System müsse ganz deutlich machen, wann es übernehme, indem etwa das Lenkrad eingezogen werde.

Tier- und Sachschäden notfalls in Kauf zu nehmen

Eine "vorausschauende Technik, die wirklich intelligent gemacht ist", macht es laut Di Fabio aber zumindest unwahrscheinlicher, dass autonome Autos in die schlimmsten Dilemmata hineingeraten. Er zeigte sich überzeugt, dass es hierzulande bald nicht mehr 3000 Tote pro Jahr auf den Straßen gebe. Das Ideal einer kollisionsfreien Verkehrsführung sei zwar noch fern, ein Restrisiko bleibe. Trotzdem komme die Gesellschaft mit hochautomatisierten Systemen im Auto dem Leitbild näher, möglichst viele Fahrfehler und Unfälle ausmerzen zu können.

"In Gefahrensituationen, die sich bei aller technischen Vorsorge als unvermeidbar erweisen", muss der Kommission zufolge "der Schutz menschlichen Lebens in einer Rechtsgüterabwägung höchste Priorität" haben. Ein System müsse deshalb "im Rahmen des technisch Machbaren" so programmiert werden, dass es "im Konflikt Tier- oder Sachschäden in Kauf" nehme, "wenn dadurch Personenschäden vermeidbar sind". Sei ein Unfall unausweichlich, dürften qualifizierende Persönlichkeitsmerkmale wie Alter, Geschlecht und körperliche oder geistige Konstitution auf keinen Fall herangezogen werden. "Jedes Menschenleben ist gleich, eine Selektion nach Eigenschaften schlechterdings unzulässig", unterstrich Di Fabio. Problematisch werde es schon, wenn angefangen werde, potenzielle Opfer aufzurechnen.

Mensch nicht zum Netzwerkelement degradieren

Werden diese Prinzipien beachtet und damit vorhandene "Potenziale der Schadensminderung genutzt", könne es "gesellschaftlich und ethisch geboten sein", höhere automatisierte Fahrsysteme insbesondere mit der Möglichkeit der Kollisionsvermeidung einzuführen. Umgekehrt sei eine "gesetzlich auferlegte Pflicht zur Nutzung vollautomatisierter Verkehrssysteme oder eine praktische Unentrinnbarkeit ethisch bedenklich, wenn damit die Unterwerfung unter technische Imperative verbunden ist". Der Mensch dürfe nicht zum bloßen Netzwerkelement degradiert werden.

Wenn sich ein deutlicher gesellschaftlicher Gewinn abzeichne, zwinge dies den Gesetzgeber geradezu dazu, die Technik zu fördern, erläuterte Di Fabio diese These. Es gelte aber, Schäden zu verhindern, "ohne paternalistisch zu sein, zu bevormunden". Vor allem Verbraucherschützer hatten zuvor nachdrücklich Regeln abgelehnt [5], mit denen Fahrer zum Einsatz autonomer Systeme gezwungen würden.

Auch zu den Streitthemen Datenschutz und ­sicherheit [6] im vernetzten Auto äußern sich die Sachverständigen in ihren 20 Thesen. Halter oder Nutzer von Fahrzeugen sollen demnach grundsätzlich selbst entscheiden, welche der vielen anfallenden Daten weitergegeben und kommerziell genutzt werden dürfen. Legale Geschäftsmodelle "finden ihre Grenze in der Autonomie und Datenhoheit der Verkehrsteilnehmer", betont die Kommission. Denkbare IT-Angriffe und Systemmanipulationen dürften zudem nicht zu Schäden führen, "die das Vertrauen in den Straßenverkehr nachhaltig erschüttern".

"Pionierarbeit für die künstliche Intelligenz"

Allgemein hob die Fabio hervor, dass die Empfehlungen nicht in Stein gemeißelt seien und immer wieder an den Stand der Technik angepasst werden müssten: "Wir kommen hier nicht vom Berg Sinai mit feststehenden Geboten", Patentrezepte gebe es keine. Ein "sittliches Gebot" lege aber nahe, dass bei Unfällen "eine spezielle Stelle besonders draufguckt und auswertet". Die "Gewährleistungsverantwortung" liege schließlich beim Staat. Im Bericht ist die Rede etwa von einem gesonderten "Bundesamt für Sicherheit im automatisierten und vernetzten Verkehr".

Dobrindt erinnerte daran, dass das vom Bundestag unlängst beschlossene Gesetz zum automatisierten und vernetzten Fahren [7] schon am Mittwoch in Kraft treten werde. Mit der Kommission habe Deutschland nun auch als erstes Land der Welt die ethischen Fragen breit diskutiert und Pionierarbeit rund um die Künstliche Intelligenz geleistet. Die Leitlinien könnten "Eckpfeiler für ein internationales Regelwerk bieten". Sollten sich in wenigen Jahren neue Probleme auf diesem Feld abzeichnen, würde er "dringend empfehlen, dass die Kommission sich damit wieder befasst". (anw [8])

URL dieses Artikels:
https://www.heise.de/-3749184

Links in diesem Artikel:
[1] https://de.wikipedia.org/wiki/Trolley-Problem
[2] https://www.heise.de/news/Dobrindt-Ethikkommission-fuer-autonomes-Fahren-nimmt-Arbeit-noch-diesen-Monat-auf-3318047.html
[3] http://www.bmvi.de/SharedDocs/DE/Anlage/Presse/084-dobrindt-bericht-der-ethik-kommission.pdf?__blob=publicationFile
[4] https://www.heise.de/news/33C3-Hohe-Huerden-auf-dem-Weg-zu-einer-Ethik-fuers-autonome-Fahren-3583086.html
[5] https://www.heise.de/news/Verbraucherschuetzer-verreissen-Dobrindts-Gesetzentwurf-zum-automatisierten-Fahren-3589269.html
[6] https://www.heise.de/news/Vosshoff-wirbt-fuer-datenschutzrechtliche-Zulassungspruefung-von-Autos-3732025.html
[7] https://www.heise.de/news/Automatisiertes-Fahren-Bundestag-beschliesst-Haftungsregeln-und-Datenspeicher-3671728.html
[8] mailto:anw@heise.de

Copyright © 2017 Heise Medien