Chelsea Manning auf der re:publica 2018: Programmierer sind mitschuldig, wenn ihre Software missbraucht wird

Die US-Whistleblowerin Chelsea Manning zeigte sich am Mittwoch auf der re:publica in Berlin besorgt über die verstärkte Massenüberwachung, die Militarisierung der Polizei und die zunehmende Entscheidungsfindung durch Algorithmen im täglichen Leben. Damit entstehe ein weitflächiger Autoritarismus, warnte die 30-Jährige, die 2013 für die Weitergabe geheimer Dokumente des US-Militärs an die Enthüllungsplattform Wikileaks zu 35 Jahren Haft verurteilt und vor einem Jahr vorzeitig von der Obama-Regierung aus dem Gefängnis entlassen worden war.

Ein paar kleine Reformen hier und da reichten nicht, um den Totalitarismus in Staat und Wirtschaft zu bremsen, betonte der "Special Guest" der Digitalkonferenz. Die Zeit dafür wäre vor 30 Jahren gewesen. "Wir müssen das stoppen", forderte Manning und sprach damit vor allem auch die Entwickler von Systemen für Künstliche Intelligenz (KI) und Maschinenlernen an. Dabei handle es sich nicht um "neutrale" Technik. Vielmehr flössen in die Algorithmen die Vorurteile der Programmierer und der verwendeten Datensets ein.

Entwickler stellten nicht nur Code und Produkte her. "Wir sind mitschuldig an der Software, die wir schreiben, wie sie verwendet und missbraucht wird", sagte Manning. Programmierer seien daher in einer ähnlichen Situation wie etwa Ärzte und benötigten eine professionelle und verpflichtende Ethik.

Big Data "real und gefährlich"

Der gehypte Prozess, Daten zu sammeln und sie mit Algorithmen nach Mustern zu durchsuchen, ist für Manning "real und gefährlich". Anfangs sei es dabei darum gegangen, die Ergebnisse von Suchanfragen zu verbessern. Auch 2010, als sie für die US-Streitkräfte im Irak gearbeitet habe, sei "Big Data" vor allem noch ein "Buzzword" gewesen. Aber auch schon damals seien basierend auf fehlerhaften Datensets und Algorithmen beim Militär "Entscheidungen über Leben und Tod" in Bezug auf den Gegner gefällt worden.

Inzwischen hätten sich KI und Maschinenlernen in viele weitere Lebensbereiche vorgearbeitet, führte Manning aus. Es sei daher unerlässlich, die Entwickler "zur Verantwortung zu ziehen". Auf dieser frühen Hierarchieebene sei es noch am einfachsten, die "systemischen Probleme" zumindest in einzelnen Anwendungen auszumerzen, die in die Gesellschaft eingebettet seien und über die Datensets auch in die Unternehmen, die Geheimdienste, das Militär und die Polizei wanderten.

Auf die staatlichen Institutionen sei weniger Verlass als auf das persönliche Umfeld von Familie, Freunden und Fremden mit ähnlichen Erfahrungen. Wir könnten uns auch nicht darauf verlassen, dass mit der Demokratie in westlichen Staaten immer alles beim Alten bleiben. Regulierung von oben habe daher immer nur einen begrenzten Wert, da auch Gesetze rasch verändert werden könnten.

"Wir haben nur uns"

"Die Menschheit hat einen Wert an sich." Alle Menschen seien letztlich irgendwie miteinander vernetzt und gehörten zusammen: "Wir haben nur uns", konstatierte Manning. "Wir hängen voneinander ab in einer fragilen Welt und Gesellschaft. Wir müssen unsere Rolle anerkennen und das Beste aus unseren Mitteln machen." Sie habe diese Erkenntnis im Irak gewonnen, als sie aus einer Faszination für die dortige Kultur heraus verstanden habe, dass die Menschen dort dieselben Grundwerte und Probleme hätten. Auch im Gefängnis habe sie am eigenen Leib verspürt, wie wichtig es sei, sich zusammenzufinden und zu organisieren.

Als Kern ihres politischen Denkens nannte Manning den Dissens und den Widerspruch. Es gebe aber Grenzen für die Redefreiheit, wenn sich jemand für Genozid oder "ethnische Säuberungen" ausspreche. Als Vorbild fühle sie sich nicht, wolle auch nicht in diese Rolle gedrängt werden. Persönlich habe sie sich immer nach einem Vorbild für Transsexuelle gesehnt, aber am wichtigsten sei es, wenn Menschen sich einfach gegenseitig achteten: "Vielleicht können wir alle selbst unsere Vorbilder sein."

Die eigene Geschlechtsumwandlung in der Haft anzugehen, sei alles andere als einfach gewesen. Prinzipiell sollte niemand im Gefängnis leben müssen. Sie versuche nun gerade, ihre Erlebnisse auch aus dem Krieg in einem "sehr persönlichen, intimen" Buch aufzuarbeiten, müsse dafür aber noch Zeit und Muße finden. Als sie völlig unerwartet begnadigt worden sei, habe sie sich selbst ein wenig wie ein Opfer der Ausgrenzung durch Big Data gefühlt, da sie ohne neue Papiere etwa kein Bankkonto mehr eröffnen haben können. Manning versicherte, nach wie vor "die gleiche Person" zu sein: "Ich bin älter, stärker, habe mehr Erfahrung – das ist es." (anw)