Überlegungen zu moralischen und unmoralischen Maschinen

Neben die Moralphilosophie als Menschenethik ist im 21. Jahrhundert die Maschinenethik getreten

Der folgende Beitrag ist vor 2021 erschienen. Unsere Redaktion hat seither ein neues Leitbild und redaktionelle Standards. Weitere Informationen finden Sie hier.

Seit zweieinhalbtausend Jahren treiben die Menschen philosophische Ethik. Das Werk von Aristoteles in der griechischen Antike bildet einen ersten Höhepunkt. In der deutschsprachigen Philosophie trägt Immanuel Kant ebenso Entscheidendes bei wie Arthur Schopenhauer, der in seiner normativen Ethik auch das Tier erfasst, mit Hilfe des Mitleids. Der Engländer Jeremy Bentham, Begründer des Utilitarismus, stellte einen anderen Tatsachenverweis in den Mittelpunkt seiner Überlegungen, das Leid bzw. das Leiden. Entscheidend sei nicht, ob etwas denken oder sprechen, sondern ob etwas leiden könne. Das half wiederum dem Tier, zumindest in der Theorie.

Neben der Moralphilosophie mit ihren wissenschaftlichen Methoden (wie der logischen, diskursiven und dialektischen Begründung) haben sich im Laufe der Zeit noch andere Zugänge herausgebildet, etwa Moraltheologie und Moralökonomie. Während die eine keinen wissenschaftlichen Anspruch erheben kann, da eine Grundanforderung verletzt wird, das Absehen von Autoritäten in letzter Instanz sowie Voraussetzungslosigkeit und Vorurteilsfreiheit, ist die andere zwar in manchen Fragen befangen, aber nicht bei allen Antworten in ihrer Marktgläubigkeit, die man in ihren Ansätzen erkennen mag, gefangen. Neben die Moralphilosophie als Menschenethik ist im 21. Jahrhundert die Maschinenethik getreten.

Die Maschinenethik hat die Moral von Maschinen zum Gegenstand, vor allem von (teil-)autonomen Systemen wie intelligenten Agenten, bestimmten Robotern, bestimmten Drohnen und selbstständig fahrenden Autos (Bendel 2012). Aus ihrer Perspektive werden Maschinen zu Subjekten der Moral, wobei die Vertreter durchaus betonen, dass es ganz neuartige, merkwürdige Subjekte sind, und versuchen, die "moral agents" zu kategorisieren und zu relativieren.

Ob die Maschinen Objekte der Moral sind, ob sie z.B. bestimmte Rechte haben, versucht man schon seit der Mitte des 20. Jahrhunderts zu klären, innerhalb der Künstlichen Intelligenz (KI) oder der Robotik – oder in der Disziplin der Roboterethik, die zwar auch als Teilgebiet der Maschinenethik verstanden werden kann, aber vor allem auf die Verwendungsweisen und deren Auswirkungen sowie die Rechte der Roboter in moralischer Hinsicht zielt. Nicht nur die möglichen Rechte, auch die möglichen Pflichten, Verpflichtungen oder Verantwortlichkeiten von Systemen wurden schon lange vor dem Entstehen der Maschinenethik als Disziplin thematisiert (Bechtel 1985; Snapper 1985).

Die Maschinenethik wird im vorliegenden Text als Pendant zur Menschenethik angesehen (Bendel 2014). Sie kann ebenso innerhalb von Informations- und Technikethik eingeordnet, also als Bereichsethik und damit als Teil der Menschenethik eingestuft werden. Die angewandte Ethik war bisher Menschenethik, von menschlichen Subjekten der Moral ausgehend und – bis auf die Tierethik und allgemeiner die Umweltethik, die wiederum die Wirtschaftsethik beeinflussen – in erster Linie auf menschliche Objekte der Moral bezogen. Man kann insgesamt sagen, dass die Ethik stets anthropozentrisch war, und wer Moral für etwas zutiefst Menschliches hält, wird dies als schiere Selbstverständlichkeit deklarieren.

Zu den Hauptwerken der Maschinenethik im engeren Sinne (die Vorarbeiten und Strömungen der Roboterethik außer Acht lassend) können "Moral Machines" (2009) von Wendell Wallach und Colin Allen, "Machine Ethics" (2011) von Michael Anderson und Susan Leigh Anderson (als Herausgebern) sowie "Programming Machine Ethics" (2016) von Luís Moniz Pereira zählen. Zu beachten ist, dass die strikte Trennung zwischen Ethik und Moral, die in der deutschsprachigen Philosophie und überhaupt Wissenschaft üblich ist, im englischsprachigen Raum nicht immer besteht und "machine ethics" sowohl die Disziplin als auch ihren Gegenstand bezeichnen kann. Ich habe in den letzten Jahren, der hiesigen Tradition folgend, eine Etablierung des deutschen Begriffs im Sinne der Disziplin versucht. Am Rande sei bemerkt, dass in unserer Sprache zwischen "Moral" und "Moralität" unterschieden wird, was im Englischen nicht einfach abzubilden ist. Man darf freilich die Moralität, den Willen zum Guten, der Moral gleichsam anhängen und aus verschiedenen Gründen die entsprechende Diskussion ausblenden.