re:publica: Von der ästhetischen zur ethischen Maschine

Sarah Spiekermann, Leiterin des Instituts für Management-Informationssysteme an der Wirtschaftsuniversität Wien, hat ihre Forderung, ethische Grundsätze in Roboter und allgemeine IT-Systeme einzubauen, deutlich ausgeweitet. "Wir wachsen als Informatiker in die Ingenieursdisziplin hinein", erklärte die Forscherin am Donnerstag auf der Internetkonferenz re:publica in Berlin. Programmierer fingen an, komplexe Maschinen zu bauen, und hätten damit auch die Verantwortung, die Prozesse "richtig zu durchdenken".

Die IT-Welt müsse sich endgültig davon verabschieden, Software beim Kunden wie Bananen "reifen" zu lassen, betonte Spiekermann. Ingenieure setzten Passagiere schließlich auch nicht einfach in ein Beta-Flugzeug. "Ethik macht sich Gedanken, was richtig und falsch sein könnte." Auf dieser Basis müssten Entwickler dann "prinzipielle Entscheidungen" treffen.

Humanistische Vision fehlt

"Die nächste Generation Technik verkauft sich nur über Werte", ist sich Spiekermann sicher. Es reiche als Unterscheidungsmerkmal schon jetzt nicht mehr aus, ein wohlgeformtes Smartphone mit einer ansprechenden Benutzerschnittstelle auf den Markt zu bringen. Den Wert der Ästhetik auch bei IT-Produkten habe nach dem Siegeszug von Apple mittlerweile die Konkurrenz ebenfalls erkannt.

Was den Entwicklern derzeit fehlt, ist nach Ansicht der Wissenschaftlerin eine "positive", humanistische Vision, wie sie die IT-Kraft in die richtige Richtung kanalisieren können. Den Marketingabteilungen von Computer- und Gadgetherstellern falle als Menschenbild immer nur der "dümmste anzunehmende User" (DAU) ein, was der Sache nicht gerecht werde.

Spiekermann schlägt vor, die Robotergesetze von Isaac Asimov aus dem vorigen Jahrhundert aufzufrischen und auszudehnen. So sollte eine Maschine einen Menschen nicht "schädigen" dürfen oder durch Untätigkeit gestatten, dass ein menschliches Wesen geschädigt wird. Diese erste Regel werde heute schon oft gebrochen, wenn man bedenke, "was Firmen alles mit unseren Daten machen". Bereits auf dieser Ebene sei so eine Neuausrichtung nötig.

Die Geschichte endet nicht mit Facebook

Ein Rechner müsse den Anordnungen der Menschen gehorchen, ihre Präferenzen, Freiheitsrechte und ihr Grundrecht auf informationelle Selbstbestimmung berücksichtigen, führte Spiekermann aus. Eingeschlossen sein müssten Werte wie Aufmerksamkeit, Freiheit, Privatsphäre oder Transparenz. Auch wenn viele Nutzer in sozialen Netzwerken gern gesehen werden würden und sich darüber austauschen wollten, sei der Datenschutz trotzdem kein Thema von gestern. So gebe es nach wie vor etwa ein Bedürfnis, "von diesen ganzen Push-Nachrichten manchmal in Ruhe gelassen zu werden".

Die Forscherin warnte davor, die langfristigen Auswirkungen der Datenverarbeitung zu unterschätzen. Die Geschichte ende nicht mit Facebook. Man müsse sich etwa auch fragen, was von Humanoiden zu halten sei, "die uns auf der Straße begegnen und unglaublich viel über uns wissen". Bereits vor rund einem Jahr habe Google mit Ray Kurzweil einen ausgewiesenen Transhumanisten zum Produktingenieur für Künstliche Intelligenz und Roboter ernannt, der organische Komponenten wie Herz oder Lunge aus dem Menschen "löschen" wolle. Dies sei "nicht mehr ganz so lustig, wie sich das Unternehmen uns sonst immer verkauft".

Spiekermann machte auch den Vorschlag, beim Design ethischer Maschinen zu berücksichtigen, "wie Musik unsere Wahrnehmung beeinflusst". Diese verändere stark die Weltsicht und die Akzeptanzbereitschaft. Als künftige Benutzerschnittstelle schweben ihr "Augmented-Reality"-Brillen vor, die den Nutzern ihren virtuellen Agenten anzeige. Dieser gehe vollständig auf sein Alter Ego ein und lerne von ihm, hänge vermutlich auch "an einem schönen IBM Watson". Dabei sei natürlich auszuschließen, dass der Maschinenpartner fremdgesteuert werde. Zum weiteren Ideensammeln hat die Expertin eine Facebook-Gruppe eingerichtet. (anw)