Kritik an Google: "Sogenannte KI basiert von Natur aus auf einer Machtbeziehung"
Meredith Whittaker ist die erste Präsidentin des Messengers Signal und wird nicht müde, vor den gesellschaftlichen Folgen von KI zu warnen. Ein Interview.
(Bild: Dina Litovsky/Redux/laif)
- Eva Wolfangel
Meredith Whittakers Lebenslauf ist bemerkenswert: Sie hat 13 Jahre bei Google gearbeitet, heute ist sie eine der schärfsten Kritikerinnen des Unternehmens – vor allem, wenn es um KI geht. Als sie 2006 bei Google anfing, war sie schlicht auf das Geld angewiesen. Sie hatte gerade ihren Bachelor in Literatur und Rhetorik abgeschlossen. "Ich war pleite, ich brauchte Arbeit, und Google war die erste Firma, die mir ein Angebot machte", sagte sie in einem Gespräch mit dem Magazin "Republik".
Bei Google startete sie mehrere Initiativen, unter anderem die Google Open Research Group, die komplexe Probleme gemeinsam mit externen Wissenschaftlerinnen und Open-Source-Aktivisten lösen will, oder das M-Lab, ein global verteiltes Netzwerkmesssystem, das die weltweit größte Quelle für Open Data zur Internetleistung darstellt. Schon 2013 kritisierte sie die Praxis, KI-Systeme mit Daten zu trainieren, die diskriminieren – weil sie aus dem Internet stammen. Mit der KI-Forscherin Kate Crawford gründete sie 2017 das Forschungsinstiut AI Now. Es gilt als erstes akademisches Institut, das zu den sozialen Implikationen von Künstlicher Intelligenz forscht.
Damals war Whittaker noch bei Google beschäftigt. Das Unternehmen unterstützte die Institutsgründung. Es passte in jener Zeit einfach sehr gut zum Image eines weltoffenen und fairen Konzerns, der sich auch um die Belange der Menschen kümmert. Als sie allerdings vom Projekt Maven erfuhr, schrieb sie einen Brief an Google-CEO Sundar Pichai mit der Forderung, aus dem Projekt auszusteigen. Hinter Maven verbarg sich ein Militärprojekt für das amerikanische Verteidigungsministerium. 3.000 Mitarbeiter und Mitarbeiterinnen unterschrieben den Brief. Einige Wochen später gab Google bekannt, den Vertrag mit dem Verteidigungsministerium nicht zu verlängern. 2018 war Whittaker zudem eine der Initiatorinnen der Google Walkouts, bei denen 20.000 Google-Mitarbeiterinnen und -Mitarbeiter gegen Sexismus und Rassismus am Arbeitsplatz protestierten.
2019 schließlich kündigte sie bei Google. Seitdem konzentriert sie sich auf ihre akademische und beratende Tätigkeit im Umfeld des AI Now Institute. Seit November 2021 ist sie beratendes Mitglied der US-Handelskommission (FTC). Seit dem 6. September 2022 ist sie Präsidentin des Messengers Signal.
Frau Whittaker, Sie betonen immer wieder, dass maschinelles Lernen und sogenannte Künstliche Intelligenz ein Machtthema seien und dass wir es aus dieser Perspektive betrachten und beurteilen müssen. Aber sprechen wir nicht schon seit Jahren darüber, dass KI Ungleichheiten verschärft – und das, ohne dass sich etwas verändert?
Ich beobachte schon Veränderungen in unseren Debatten seit 2015. Das ist das Jahr, in dem die Idee für AI Now entstand, weil ich zunehmend besorgt war, was diese sogenannte KI mit sich bringen würde. Damals war KI ein Hype, der vor allem von der Tech-Industrie genährt wurde. Die langsam wachsende kritische Community sprach damals aber noch nicht von Macht. Die Kritik dreht sich um Big Data, also um das Sammeln großer Datenmengen. Später kam der Bias in den Fokus, rassistische Verzerrungen zum Beispiel, von denen man dachte, sie aus der KI entfernen zu können, um dann eine schöne "reine" Technologie zu haben. Wir lernten, dass wir nicht über den Bias reden können, ohne über strukturellen Rassismus in der Gesellschaft zu sprechen.
Aber spätestens jetzt kommt man am Thema der Machtdynamiken nicht mehr vorbei. Was fehlt Ihnen in der gegenwärtigen Diskussion?
Ich vermisse, dass wir nicht nur abstrakt von Macht sprechen, sondern klarmachen, wer hier profitiert. Wir müssen die Namen der Unternehmen nennen, die Systeme entwickeln und nutzen, die Namen derer, die sie anwenden und davon profitieren. Es muss klar werden, dass diese "Unfälle" wie der des Algorithmus in Michigan, der über 40.000 Arbeitslosengeld-Berechtigte fälschlicherweise als Betrüger klassifizierte, keine tragischen Einzelfälle sind. Hier steckt ein Machtsystem dahinter.
