Humanistisch hacken
IT-Experten sollen ethische Grundlagen vermittelt bekommen, die sie nicht mehr nur wie innovationsgetriebene Technokraten handeln lassen, sondern eher wie Ärzte.
- Peter Glaser
In "Die Macht der Computer und die Ohnmacht der Vernunft", dem Klassiker der Computerkritik, berichtet Joseph Weizenbaum 1977: "Im Krieg der USA gegen Vietnam wurden Computer von Offizieren bedient, die nicht die geringste Ahnung davon hatten, was in diesen Maschinen eigentlich vorging, und die Computer trafen die Entscheidung, welche Dörfer bombardiert werden sollten und welche Gebiete eine genügend hohe Dichte von Vietcongs aufwiesen, dass sie 'legitimerweise' zu Zonen erklärt werden konnten, ... über denen Piloten das Recht hatten, auf alles zu schießen, was sich bewegt."
Kill Boxes heißen diese "legitimen Zonen" auf Militärisch. Dabei wird ein Raster über einen Landstrich gelegt, ein einzelnes Rasterfeld – eine Kill Box – umfaßt ein Gebiet von 55 Kilometer Seitenlänge. Flugzeuge suchen sich darin selbstständig Ziele und feuern. Wer ist verantwortlich, falls irrtümlich, "kollateral", Zivilisten getöten werden? Die Rechner, von denen die Aufklärungsdaten bewertet werden? Die Programmierer? Bereits 35 Jahre vor Weizenbaum hatte Isaac Asimov seine drei Robotergesetze als Handlungsgrundlage für autonome Systeme formuliert – lakonische Wikipedia-Anmerkung: "Roboter im militärischen Bereich folgen diesen Gesetzen nicht".
Ethische Fragen im Zusammenhang mit Computern sind, mit anderen Worten, nichts Neues. Nun unternehmen amerikanische Hochschulen wie Harvard, Stanford oder das MIT einen neuerlichen Anlauf, junge Computerwissenschaftler mit Moral zu unterfüttern. An der Universität Texas gibt es eine Vorlesungsreihe unter dem Titel Ethical Foundations of Computer Science. In Stanford arbeiten mehrere Professoren an einem Ethik-Kurs für Informatiker, der im kommenden Jahr starten soll.
Künftige Technologie-Entwickler und -Entscheider sollen lernen, die möglichen Folgen von Innovationen abzuschätzen und zu berücksichtigen. Bisher galt, in Abwandlung der Western-Devise "Erst schießen, dann fragen" das Motto "Erstmal bauen, dann um Entschuldigung bitten". Im Zeitalter selbstfahrender Autos und autonomer Waffen muß man sich darüber im Klaren sein, dass die Vorstellung, möglichst rasante Fortschritte zu machen, auch negative Folgen haben kann. "Man kann Software patchen", sagt Laura Norén vom Center for Data Science an der New York University, "aber man kann keine Person patchen, beispielsweise wenn jemandes Reputation ruiniert wurde."
Interessant ist die Frage, ob Computerethik global betrachtet als eine Stärke oder eine Schwäche zutage treten wird. Während der World Internet Conference, die Anfang Dezember im chinesischen Wuzhen stattfand, verteidigte Staats- und Parteichef Xi Jinping die massive Internet-Kontrolle seines Landes. China wolle weiterhin offen bleiben für das planetare Internet, aber für die Entwicklung der digitalen Welt sei Cyber-Souveränität unumgänglich. Jede Nation, so Xi Jinping, habe das Recht, ihren Anteil am Internet eigenständig zu verwalten, zu kontrollieren und auch zu zensieren.
Um die Demokratie weiterzuentwickeln, müssen sich westliche Regierungen bei der künftigen Nutzung etwa von Künstlicher Intelligenz in einigen wichtigen Punkten Zügel anlegen. Totalitäre Überwachung oder Gesinnungskontrolle sind mit den Ideen einer modernen Demokratie nicht vereinbar. Autoritäre Regime dagegen werden jede Möglichkeit nutzen, vermutete Unterwanderung der Staatsdoktrin im eigenen Land zu erkennen und kaltzustellen, ohne Rücksicht auf Privatsphäre und Bürgerrechte nehmen zu müssen. So soll die digitale Infrastruktur Chinas zu einem sozialen Ratingsystem werden, durch das jeder einzelne Bürger bewertet und zu gesellschaftskonformem und tugendhaften Verhalten angeleitet werden soll. Kritik, Unbescheidenheit oder etwa mangelnde Umweltschutzfreude werden mit Punkteabzug geahndet. Bei allzu negativer Bilanz wird dem betreffenden Zeitgenossen verboten, eine Wohnung zu kaufen oder ein Arbeitsplatz verweigert.
Was tun? Ethisch wirksame Botnetze betreiben? Humanistisch hacken? Vielleicht sehen künftige KI-Cluster aber auch, wenn wir sie ethisch trainieren, internationale Zusammenarbeit und die gemeinsame Nutzung von Ressourcen von selbst als optimale Strategie an.
(bsc)
