Ethik bei autonomen Autos und das Trolley-Problem: Was tut der Weichensteller?

Inhaltsverzeichnis

Dichter Nebel. Ein Eisenbahnwaggon oder eine Straßenbahn macht sich selbständig und rast auf mehrere Menschen zu, die auf den Schienen stehen. Retten könnte sie ein Weichensteller, der das Gefährt auf ein Nebengleis ablenkt. Auf diesem sitzt nun ein Gleisarbeiter, was dem Weichensteller ebenfalls bekannt ist. Was soll er tun?

Das ist die Essenz des Trolley-Problems, benannt nach dem amerikanischen Wort für Straßenbahn. Seitdem autonome Autos auf den Straßen rollen, wird es diskutiert, wobei jetzt das Handeln der künstlichen Intelligenz im Mittelpunkt steht. Das Problem erscheint auch im Bericht der Ethik-Kommission zum automatisierten Fahren, den Bundesverkehrsminister Dobrindt unlängst vorstellte. Regel 8 des Berichts behandelt "echte dilemmatische Entscheidungen", und Regel 9 fordert: "Die an der Erzeugung von Mobilitätsrisiken Beteiligten dürfen Unbeteiligte nicht opfern."

"Missing Link"

Was fehlt: In der rapiden Technikwelt häufig die Zeit, die vielen News und Hintergründe neu zu sortieren. Am Wochenende wollen wir sie uns nehmen, die Seitenwege abseits des Aktuellen verfolgen, andere Blickwinkel probieren und Zwischentöne hörbar machen.

• Mehr zum Feuilleton "Missing Link"

Eine alte Frage

Über Opfer grübelten schon antike Philosophen nach. Denn das Problem stellt natürlich grundsätzliche philosphische Fragen, ob man einer konsequentialistischen Ethik folgt, die Handlungen allein anhand ihrer Ergebnisse beurteilt, oder einer deontologischen Ethik, nach der bestimmte Handlungen unabhängig von ihren Ergebnissen gut oder schlecht sind. Es lohnt sich aber, die Geschichte des Trolley-Problems und seiner Logik zu untersuchen – und das, was als reale Beispiele zur Illustration der Problematik herangezogen wird.

Einen Vorläufer finden wir im alten Rom – das Brett des Karneades. Zwei Schiffbrüchige klammern sich an eine Planke, die nur einen Menschen trägt. Einer der beiden tötet den anderen und wird gerettet. Soll man ihn wegen Mordes verurteilen? Was zunächst reines Gedankenspiel war, hat sich im 19. Jahrhundert mehrmals auf hoher See ereignet und führte auch zu Strafverfahren.

1820 wurde der Walfänger Essex im Pazifik von einem Wal attackiert und sank. Die Männer retteten sich in drei Boote und steuerten die nächste Küste an. Die Insassen eines Bootes verfielen auf Kannibalismus und losten ein Opfer aus; es wurde erschossen und verzehrt. 1842 kollidierte die William Brown im Nordatlantik mit einem Eisberg. Ein Rettungsboot nahm neun Matrosen und 32 Passagiere auf. Als Wasser eindrang, stieß die Crew 16 Passagiere ins Meer. Nach der Rettung wurde ein Matrose zu sechs Monaten Haft und 20 Dollar Strafe verurteilt.

Als 1884 die Segelyacht Mignonette am Kap der Guten Hoffnung sank, stiegen die vier Mann Besatzung schnell ins Rettungsboot. Nach 20 Tagen auf See tötete der Kapitän den Schiffsjungen, wiederum aus kannibalistischen Motiven. Die drei Verbliebenen wurden gerettet und zwei von ihnen vor Gericht gestellt. Am Ende saßen die beiden Angeklagten ein halbes Jahr ab. In allen drei Fällen fand letztlich eine Wahl statt: zwischen einem Nicht-Handeln mit absehbarem Tod für alle und einer Aktion, wo der oder die Täter ihr eigenes Leben auf Kosten anderer Leben retteten.

Zwischen Science-Fiction, Jurisprudenz und Realität

Literarisch wurde ein solches Dilemma in einer zu Recht berühmten Science-Fiction-Story behandelt. Das US-Magazin Astounding druckte 1954 "The Cold Equations" von Tom Godwin. In der Geschichte bringt ein Raumpilot lebenswichtige Medikamente zu Menschen auf einem fernen Planeten. Während des Flugs entdeckt er einen blinden Passagier, eine junge Frau. Ihr Gewicht macht die Rakete zu schwer für eine normale Landung; sie würde beim Aufsetzen zerstört. Die Frau zieht die logische Konsequenz: Noch im All verlässt sie ohne Schutzanzug das Raumschiff.

Drei Jahre vor den kalten Gleichungen brachte die Zeitschrift für die gesamte Strafrechtswissenschaft in Heft 1/1951 den Aufsatz "Vom Notstandsproblem". Verfasser war Hans Welzel, Juraprofessor an der Universität Göttingen. In diesem Aufsatz führte er das Dilemma des Weichenstellers ein, das wir schon schilderten. Welzel gab gleich die Lösung an: man muss den Waggon umleiten. Denn: "Der Beamte, der das Umstellen der Weiche unterläßt, hat nicht nur rechtlich, sondern auch ethisch eklatant unrichtig gehandelt."

Bemerkenswert ist der Kontext des Falles. Welzels Artikel hatte nichts mit abstrakter Rechtsphilosophie zu tun, sondern kritisierte ein Urteil des Obersten Gerichtshofs für die Britische Zone. Der OGH, manchmal auch "kleines Reichsgericht" genannt, saß von 1948 bis 1950 in Köln; am 5. März 1949 behandelte es den Fall eines Arztes, der in der Nazizeit die Listen von Euthanasie-Kandidaten überprüfte. Es gelang ihm, viele Kranke von den Listen zu streichen und sie vor dem Tod zu retten. Ganz verhindern konnte er die Vergasungen aber nicht.

Der OGH akzeptierte das Argument der Verteidigung, dass bei einer völligen Verweigerung andere Ärzte die Einweisung in die Tötungsanstalten vorgenommen hätten und das wahrscheinlich in größerem Umfang. Dem Beklagten billigte das Gericht deshalb einen persönlichen Strafausschließungsgrund zu. Das war Hans Welzel zu wenig. Er sah einen übergesetzlichen Notstand und erfand zur Begründung die Geschichte mit dem Weichensteller. Ihm wies er dabei keine rechtliche, sondern nur eine sittliche Schuld zu, die er mit seinem Gewissen und dem lieben Gott klären müsste.

Wandlung zum Trolley-Problem

1967 verfasste die Philosophin Philippa Foot für das Oxford Review den Beitrag "The Problem of Abortion and the Doctrine of the Double Effect". In jenem Jahr erließ das britische Parlament ein neues Abtreibungsgesetz, und Frau Foot analysierte damit zusammenhängend ethische Fragen und das Prinzip der Doppelwirkung. Dieses befasst sich mit der Zulässigkeit unmoralischer Handlungen. Unter den Beispielen finden wir den "driver of a runaway tram", der seine Straßenbahn auf fünf Gleisarbeiter oder auf einen einzigen lenken kann, "and it seems clear that he should do the least injury he can".

Die dritte Formulierung unseres Problems erschien 1976 in der Zeitschrift Monist unter dem Titel "Killing, Letting Die and the Trolley Problem". Autorin Judith Jarvis Thomson lehrte am Massachusetts Institute of Technology, weshalb aus der englische Tram der amerikanische Trolley wurde. Frau Thomson erweiterte das Problem um einige Facetten, die es immer schrecklicher machten. So treffen wir den dicken Mann, der von einer Brücke auf die darunter liegenden Schienen gestoßen wird. Die Straßenbahn überfährt ihn und kommt auf diese Weise zum Stehen.

Was lernen wir daraus? Erstens: Das Trolley-Dilemma ist eine Wahl zwischen zwei Übeln, bei der der Entscheider selbst nichts erleidet. Zweitens gilt das Gesetz der kleineren Zahl: Hans Welzel und Philippa Foot würden die Weiche umstellen, um die Zahl der Opfer zu verringern. Drittens zeigen die Texte den fiktiven, ja spielerischen Charakter des Problems, und es existiert kein wirklich treffendes konkretes Beispiel. Hier möchten wir das Trolley-Problem von Selbstopfern aller Art abgrenzen und von militärischen Planungen, bei denen die Verluste der Aktionen abgeschätzt werden.

Schwierige Entscheidungen gibt es viele, man denke an die Triage nach schweren Katastrophen oder an die Auswahl von Empfängern für transplantierte Organe. Doch helfen sie uns weiter? Moralische Konflikte machen sich gut im Theater, das Vergnügen an tragischen Gegenständen empfand schon Friedrich Schiller. Für eine künstliche Intelligenz ist es weniger geeignet. Wer autonome Autos programmieren will, sollte also realer Verkehrsunfälle studieren, mit Kindern, die aus einem Schulbus in Indiana rennen, oder einem betrunkenen Fußgänger in Fulda. (mho)