Die gegebenen Optionen sind ja bei weitem nich alle tatsächlich vorhandenen Handlungsoptionen.
Man könnte die Weiche so umstellen, dass die Lok entgleist. Das gefährdet zwar den Lokführer, bringt ihn aber nicht zwangsläufig um und rettet bei der Gelegenheit alle Menschen auf dem Gleis.
Man könnte auch eine Steuerung so gestalten, dass es gar nicht zu so einer Situation kommt. Z.B. mit Sensoren, die Menschen im Gleis erkennen. Sobald es Menschen im Gleis gibt, wird jedem Zug im entsprechenden Gleisabschnitt eine Notbremsung ausgelöst.
Man könnte versuchen, den Lokführer durch Gestikulieren auf den drohenden Unfall aufmerksam zu machen. Sollte er nicht ansprechbar sein, kann es ja sogar sein, dass er schon tot ist und mit der Entgleis-Option auch nichts mehr schlimmer werden kann, als es eh schon ist.
.
Will sagen: Das Beispiel ist so weltfremd theoretisch, dass niemand jemals vor so einer Entscheidung stehen wird, auch keine Steuerung autonomer Gefährte. Auch die haben immer mehr als zwei Optionen - eigentlich sogar unendlich viele, weil jede geringfügige Abweichung der Lenkradstellung, der Intensität der Bremse, etc. zu einem anderen Ergebnis führen kann. Dann wendet man einfach Mathematik an und berechnet die Parameter, die mit der höchsten Wahrscheinlichkeit den geringsten Schaden anrichten.
Natürlich folgt daraus die Frage, welcher Schaden denn wie gross wäre, aber auch das ist wesentlich komplexer als solche Beispiele und gerade deshalb sogar leichter zu lösen. Es sind immer mehr als nur zwei Parameter für die Bewertung einer Situation ausschlaggebend und die kann man aufaddieren und kommt für jede mögliche Aktion zu anderen Schadenswahrscheinlichkeiten. In der Funktion sucht man dann das globale Minimum.
Man kann erst mal Prioritäten für Kategorien von Schadensereignissen vergeben. So ist z.B. der Tod eines Menschen eine hohe Priorität, an zweiter Stelle kommt ein verletzter Mensch, dann ein totes Tier, ein verletztes Tier, eine tote Pflanze, eine beschädigte Pflanze, Sachschaden, und zuletzt geringfügige Unannehmlichkeiten, wie z.B. eine Verspätung.
Einige dieser Ereignisse kan man natürlich noch feiner betrachten, wie z.B. die länge einer Verspätung, oder die Höhe eines Sachschadens. Eine tote Kanalratte werden die meisten Menschen weniger hoch bewerten, als wenn es Tante Ernas Katze trifft und damit ihr das Herz bricht. Auch bei Verletzungen gibt es verschiedene Schweregrade, die man wohl unterscheiden möchte. Ein Kratzer am Ellbogen ist natürlich was anders als ein amputiertes Bein.
Aber belassen wir es vorerst mal bei dieser sehr groben Einteilung. Da jedes dieser Ereignisse ja noch mit der Wahrscheinlichkeit, dass es eintritt multipliziert wird, wird es praktisch nie eine Situation geben, in der die Steuerung mit gleicher Wahrscheinlichkeit entweder Person A, oder Person B umbringt und wirklich gar keine bessere Option hat. Für die Bewertung der Situation gibt es ja noch alle anderen Dinge zu beachten, wie z.B. die Wahrscheinlichkeit, dass eine der Personen dabei verletzt wird, oder dass zusätzlich noch ein Hund stirbt, wenn schon alles wichtigere wirklich gleich ist. Selbst wenn das System mindestens Person A, oder Person B umbringt, was ja schon nie in der Realität vorkommt, wird es sich z.B. für Person B entscheiden, wenn es damit verhindern kann, dass Person A verletzt wird, Person B aber immer verletzt wird, wenn das System statt dessen Person A tötet.
Wir haben an dieser Stelle nirgendwo Menschenleben gegeneinander aufgerechnet, sondern immer den Gesamtschaden minimiert. In der Situation aus dem Artikel, würde ein solches System auch den einen Menschen töten und nicht die grössere Gruppe, aber solche Situationen gibt es eben nicht. Und wenn, dann tut das System das nicht, weil es Menschenleben gegeneinander aufrechnet, sondern weil es den Schaden minimiert.