IT-Ethik: Kritisches Denken in der Informatik – Weizenbaum lebt!

Inhaltsverzeichnis

Im Zusammenhang mit der voran eilenden Digitalisierung ist viel von Bürgerrechten die Rede, etwa dem Recht auf informationelle Selbstbestimmung oder auf Schutz der Privatsphäre. Aber vielleicht ergeben sich aus der technischen Entwicklung auch neue Pflichten? Die medizinische Entwicklung etwa könnte davon profitieren, wenn alle verpflichtet wären, Gesundheitsdaten zur Verfügung zu stellen.

Sebastian Müller (Uni Köln) stellte die Frage bei der Konferenz The Philosophy and Ethics of Artificial Intelligence und verwies dabei auf das an der Stanford University entwickelte System CheXNet. Das ist ein aus 121 Schichten bestehendes neuronales Netz, das mit Daten von mehr als 30.000 Patienten trainiert wurde, in Röntgenaufnahmen die Anzeichen einer Lungenentzündung zu erkennen. Die Patientendaten seien nicht anonymisiert, um auch Langzeitstudien zu ermöglichen, betonte Müller.

Pflicht zur Freigabe von Gesundheitsdaten?

Eine Pflicht, die eigenen Gesundheitsdaten für solche Studien zur Verfügung zu stellen, könne sich aus der Pflicht zur Nothilfe nicht ohne weiteres ableiten lassen, so Müller. Es gäbe in so einem Fall schließlich weder eine direkte Beziehung zwischen Retter und Gerettetem noch die Notwendigkeit, rasch zu handeln. Unklar sei auch, wem die Daten eigentlich gehörten, die ja in einem zum großen Teil staatlich finanzierten Gesundheitssystem generiert würden und deren sichere Verwendung im allgemeinen Interesse durch den Staat garantiert werden könne. Das sei jedoch ein sehr komplexes juristisches Problem, das von Land zu Land unterschiedlich geregelt sei. So gebe es in Spanien grundsätzlich keine Besitzrechte an Körperteilen: "Sie können sich nicht einen Finger abschneiden und ihn, für welche Zwecke auch immer, zum Kauf anbieten", sagte Müller.

Am ehesten ließe sich eine Pflicht zur Datenfreigabe vielleicht aus einer Pflicht zur Förderung des Allgemeinwohls ableiten. Es sei jedoch sehr schwierig, die Risiken und Lasten gegen die Vorteile abzuwägen. In jedem Fall könne eine solche Pflicht nicht von oben verordnet werden, sondern müsse aus politischen Prozessen resultieren, in die die Bürger eingebunden sind.

Solidarität als idealistisches Ziel – trotz Kapitalismus

Auf die Frage, an was für Regierungsstrukturen er dabei denke, konnte Müller keine klare Antwort geben. Auch Catharina Rudschies (Universität Hamburg), die sich im Rahmen ihrer gerade entstehenden Dissertation Gedanken zur Konzeptualisierung von Solidarität gemacht hat, konnte zunächst nur sagen, wie es nicht funktioniert: Eine kapitalistische Marktwirtschaft sei nicht in der Lage, solidarische Institutionen hervorzubringen. Gleichwohl müsse Solidarität im Zentrum der Nutzung Künstlicher Intelligenz (KI) stehen. Die Anstrengungen, sie zu erschaffen, sollten ebenso gleich verteilt sein wie die zu erwartenden Vorteile und Risiken.

Das sei nur möglich in Gemeinschaften, deren Mitglieder sich gegenseitig anerkennen. Solidarität auf der gesamtgesellschaftlichen Ebene ohne Institutionalisierung zu gewährleisten, erscheint Rudschies unrealistisch, gleichwohl könne dies als anzustrebendes Ideal dienen.

Kritisches Denken in der Informatik notwendig

Als besonders freigiebig hinsichtlich der Weitergabe von Daten zeigte sich Rafael Capurro (International Center for Information Ethics), der am Ende des vierten Konferenztages in einer Keynote über Joseph Weizenbaum sprach – und den Vortragstext gleich darauf online stellte. In Anlehnung an Michel Foucault bezeichnet er Weizenbaum darin als einen "Parrhesiastes des digitalen Zeitalters": Er sei jemand gewesen, der die Wahrheit sagte, obwohl es für ihn gefährlich war. Schon der Titel seines 1976 erschienenen Buches "Computer Power and Human Reason. From Judgement to Calculation" sei von vielen als Provokation empfunden worden und habe heftige emotionale Reaktionen hervorgerufen.

Weizenbaum habe sich mit Computer- und Informationsethik beschäftigt, bevor es diese Begriffe überhaupt gab. Auf die Frage, warum kritisches Denken in der Informatik notwendig sei, antwortete er 1992: "Es ist erstaunlich, dass die Frage überhaupt gestellt werden muss." Mittlerweile sind Wissenschaftspreise und Forschungsinstitute nach ihm benannt, sodass Capurro am Ende seines Vortrags über den 2008 Verstorbenen sagen konnte: "Er ist unter uns."

Lesen Sie dazu auch:

• IT-Ethik: Künstliche Superintelligenz und der Umgang mit Corona-Daten
• IT-Ethik: Wenn mir die App keine Schokolade gönnt
• IT-Ethik: Die heikle Frage des Vertrauens in Datenströme

(tiw)