KI: Das "Greenwashing" muss ein Ende haben

Hao berichtet für Technology Review hauptsächlich über KI.

2019 kann als ein Jahr des Weckrufs für die KI gelten. Zwar gab es enorme technische Fortschritte von Reinforcement Learning über ein verbessertes Verständnis natürlicher Sprache bis hin zu immer besser werdenden GANs. Doch gleichzeitig zeigte sich auch, dass die Künstliche Intelligenz auch Schaden anrichten kann – und zwar enormen, wenn sie zu hastig angewendet wird.

So tötete ein Tesla im Autopilot-Modus bei einem Unfall seinen Fahrer, ein selbstfahrendes Uber-Fahrzeug nahm einen Fußgänger mit. Kommerzielle Gesichtserkennungssysteme versagten in Untersuchungsreihen bei Menschen mit dunkler Hautfarbe diametral. Und dennoch versuchen Technikriesen, ihre Algorithmen weiter zu verkaufen, darunter an Strafverfolgungsbehörden.

Daraus folgt: Wir müssen aufhören, KI wie Magie zu behandeln, sondern endlich Verantwortung dafür übernehmen, wie sie geschaffen, angewendet und reguliert wird – und das möglichst ethisch.

Wir müssen reden

Zwar wurde 2019 noch nie so viel über KI-Ethik gesprochen wie zuvor. Dutzende Organisationen gaben sich KI-Richtlinien, Firmen begannen, "verantwortliche" KI-Teams aufzubauen und stellten sie den Medien vor. Und auch bei KI-Konferenzen gibt es stets einen Teil, der sich um Ethik dreht: Wie schützen wir die Privatsphäre der Menschen, wenn KI soviel Daten braucht? Wie helfen wir Minderheiten und beuten sie nicht aus? Wie schaffen wir es, dass die Menschen weiter Vertrauen in Medien haben, wenn sie Desinformation immer leichter algorithmisch erstellen lässt?

Doch das Reden ist nur das eine. Es reicht nicht. Viele der KI-Richtlinien sind vage formuliert oder schwer umzusetzen. Wenige Firmen können tatsächliche Änderungen zeigen, wie KI-Produkte und Dienste überwacht und angepasst werden. Wir haben es mit einer Art Greenwashing von KI zu tun. Echte Maßnahmen werden durch Scheinvorschläge übertüncht. Ein Beispiel ist Google, wo man kürzlich einen KI-Ethik-Beirat schaffen wollte. Der hatte nur leider kein Vetorecht bei problematischen Projekten und zerstritt sich zunächst wegen seiner Mitglieder. Dann folgte die Auflösung.

Unterdessen wächst die ethische Verantwortung noch weiter. Die selben Fortschritte, die GANs in den letzten Jahren voranbrachten, führten zu hyperrealistischen Deepfakes, die nun verwendet werden, um Frauen zu belästigen und das Vertrauen der Menschen in Beweismittel und Dokumente zu zerstören. Daneben hat das Deep Learning deutlich messbare negative Auswirkungen auf das Klima, denn es ist leistungshungrig. Doch Organisationen wollen immer größere Modelle und Datensätze bearbeiten.

Menschen hinter Algorithmen

Journalisten und Forscher müssen und mussten zeigen, dass Menschen hinter Algorithmen stehen – und das manchmal sogar wortwörtlich. So beschäftigt die KI-Industrie "versteckte Arbeiter", die Inhalte moderieren, Datensätze labeln oder Eingaben transkribieren – und das oft zu haarsträubenden Bedingungen.

Doch nicht alles ist schlecht. 2019 war das bislang größte Jahr für Grassroots-Organisationen, die problematische KI zurückdrängten. Darunter waren Lokalpolitiker ebenso wie Beschäftigte aus der Techbranche. Verschiedene Städte wie San Francisco oder Oakland entschieden sich, Gesichtserkennung im öffentlichen Raum zu verbieten und schlugen vor, dies auf öffentlich finanzierten Wohnraum auszudehnen. Mitarbeiter von Microsoft, Google oder Salesforce setzten sich dagegen ein, dass deren Technik zur Überwachung von Migranten oder der Spionage mittels Drohnen verwendet wird.

In der KI-Gemeinschaft versuchen Forscher mittlerweile, gegen den KI-Bias vorzugehen und Energie einzusparen. Nutzerdaten sollen von Anfang an geschützt werden, Deepfakes und Disinformation bekämpft. Experten und Politik wollen gemeinsam an Lösungen arbeiten. Dabei ist darauf zu achten, dass die Innovationen nicht gedämpft werden. Und es geht darum, dass KI wirklich echte Probleme löst. Davon gibt es schließlich genug.

(bsc)