ESOF 2016: Die technologische Singularität – und Alternativen dazu

Inhaltsverzeichnis

Viele Veranstaltungen beim EuroScience Open Forum in Manchester behandelten künstliche Intelligenz (KI) und wie sie die Gesellschaft verändern könnte. Einen der vielleicht ehrlichsten Momente bescherte eine Diskussionsrunde zum Thema kreative Zusammenarbeit von Mensch und Maschine: Als der Moderator nach den Vorträgen das Publikum zu Kommentaren und Fragen aufforderte, antwortete ihm – ausdauerndes Schweigen.

Ohne Fragen keine Antworten

Wie anders soll man auch reagieren, wenn die ganz großen Fragen angerissen worden sind? Denn in dem Projekt der Japan Science and Technology Agency geht es um nichts Geringeres als die Frage, wie sich mit Computerhilfe Weisheit erreichen lässt. "Wisdom Computing" lautet der Titel des ehrgeizigen Vorhabens, das ausdrücklich zu einer nachhaltigen und friedlichen Zukunft beitragen will, wie Norihiro Hagita vom Advanced Telecommunications Research Institute (ATR) erklärte. Lauter Fragen, an denen sich große Geister schon seit Jahrhunderten die Zähne ausgebissen haben.

Die Fragen dazu werden im Rahmen von Wissenschafts- und Technikkonferenzen vermehrt und mit bemerkenswerter Offenheit diskutiert. Offensichtlich hat sich ein allgemeines Bewusstsein herausgebildet, dass Automatisierungstechnik bei gesellschaftlichen Prozessen an ihre Grenzen stößt: Entwicklungen zu mehr Gerechtigkeit, Gleichheit oder Frieden folgen eben nicht automatisch auf den vermehrten Einsatz von Robotern und KI, sondern hängen von menschlichen Entscheidungen ab.

Solche Entscheidungen lassen sich durch Computer gewiss unterstützen – sofern die technische Entwicklung nicht Tatsachen schafft, die den Spielraum für die menschliche Entscheidungsfreiheit dramatisch einschränken. Auch diese "technologische Singularität" – der Moment, in dem die maschinelle Intelligenz die menschliche übertrifft und sich autonom weiterentwickelt – wurde auf dem ESOF auffallend offen thematisiert. Manche Bedingungen für eine solche Singularität, sagte Colin Blakemore (University of London), seien schon heute erfüllt, etwa in Gestalt leistungsfähiger Lernalgorithmen. Dagegen seien Systeme, die sich selbstständig reproduzieren und über Mutationen evolutionär weiterentwickeln, noch weit entfernt, ebenso wie solche, die sich selbst motivieren. Auch die autonome Sicherung, Speicherung und Nutzung von Energie sei ein ungelöstes Problem.

Menschen designen

Bedeutet der Ersatz menschlicher Organe und Körperteile durch technische Systeme "gesundes Überleben" oder "wachsende Abhängigkeit von Maschinen", fragte Annette Grüters-Kieslich, Kinderärztin an der Berliner Charité und Vizepräsidentin der Berlin-Brandenburgischen Akademie der Wissenschaften. Und weiter: "Beugen wir mithilfe der Genomik Krankheiten vor oder designen wir den Menschen?" Auf die Frage, was es denn helfe, auf die Anwendung oder Entwicklung bestimmter Verfahren aus ethischen Gründen zu verzichten, wenn Forscher in anderen Ländern diese Skrupel nicht haben, entgegnete sie, dass die persönliche Haltung des Wissenschaftlers an erster Stelle stehe. Jeder müsse bei sich zuhause anfangen, statt zuerst über die Konkurrenten nachzudenken.

Es wird aber auch an institutionellen Lösungen gearbeitet, um den ethischen Herausforderungen neuer Technik zu begegnen. Bernd Carsten Stahl (De Montfort University) verwies unter anderem auf das EU-Projekt ETICA. Ethik werde auf europäischer Ebene mehr und mehr als integraler Bestandteil der Forschung gesehen. Stahl schlug vor, ethische Aspekte zukünftig auch bei der Evaluation abgeschlossener Projekte zu berücksichtigen. Transdisziplinäre Forschung, die bislang noch quer zu den Publikationskonventionen stehe, müsse mehr Anerkennung finden. Die Idee, was unter "wissenschaftlicher Exzellenz" zu verstehen sei, müsse durch Ethik erweitert werden. Auch über neue Institutionen könne nachgedacht werden, etwa zur Entwicklung von Standards zur Roboterethik.

Wissenschaft mit der Öffentlichkeit

Damit war er gar nicht so weit weg von der Diskussion zum Wisdom Computing, wo James Wilsdon (University of Sheffield) auf die EU-Initiative zu Responsible Research and Innovation (RRI) verwies. Der gesellschaftliche Diskurs über Wissenschaft und Technik habe sich geändert, betonte er. Die Experten informierten die Öffentlichkeit nicht mehr, sondern bezögen sie ein in einen offenen und vielfältigen Diskurs. Auch er betonte die Interdisziplinarität und insbesondere die Berücksichtigung der Sozialwissenschaften.

Tomohiko Fujiyama (Japan Science and Technology Agency) schließlich, der an der Veranstaltung nicht persönlich teilnehmen konnte, ließ eine schriftliche Stellungnahme verteilen, worin er hervorhob, dass das japanische Wort für "Weisheit" (chie) eine etwas andere Bedeutung habe als im Westen. "Ein Denken, das Harmonie und Einverständnis an die erste Stelle setzt, menschliche Freude betont und Glück als höchsten Wert betrachtet, wird in der Regel nicht als Wissenschaft angesehen. Im Westen hat sich Wissenschaft auf der Grundlage von 'Klassifikation und Definition' entwickelt. Östliche Weisheit dagegen beruht darauf, 'das Ganze im Moment zu erkennen'. Mir scheint, dass eine neue Wissenschaft nötig ist, die solches Denken nicht ausschließt. In diesem Sinne hoffe ich, dass Wisdom Computing zu etwas wird, das zum umfassenden menschlichen Glück beiträgt, wobei sich Maschinen, Gesellschaft und Menschen gegenseitig beeinflussen."

Das ist jedenfalls eine ebenso realistische Möglichkeit wie die technologische Singularität. Und das ESOF 2016 hat den Eindruck vermittelt, dass es eine beachtliche Anzahl von Forschern gibt, denen die Realisierung dieser Möglichkeit ein ernsthaftes Anliegen ist. (mho)