Google-Kritikerin Whittaker: "KI ist eine Technik der Mächtigen"

Wer negative Folgen des Einsatzes von Künstlicher Intelligenz kritisieren will, komme "am Thema der Machtdynamiken nicht mehr vorbei", sagt Meredith Whittaker vom AI Now Institute im Interview mit MIT Technology Review. Es reiche aber nicht, nur abstrakt über Macht zu sprechen. "Wir müssen die Namen der Unternehmen nennen, die Systeme entwickeln und nutzen, die Namen derer, die sie anwenden und davon profitieren", sagt sie.

Whittaker gilt sie als eine der schärfsten Kritikerinnen von Google – vor allem, wenn es um KI geht. Zwar hatte sie von 2006 bis 2019 für den Konzern gearbeitet, und 2017 mit ausdrücklicher Zustimmung von Google gemeinsam mit der KI-Forscherin Kate Crawford das Forschungsinstitut AI Now gegründet, das erstmals zu den sozialen Implikationen von Künstlicher Intelligenz arbeitete. 2018 kam es jedoch zum Bruch mit Google: Whittaker organisierte die Google Walkouts mit, Protestaktionen gegen militärische Forschung bei Google und gegen Sexismus und Rassismus am Arbeitsplatz, und kündigte 2019. Seitdem konzentriert sie sich auf ihre akademische und beratende Tätigkeit im Umfeld des AI Now Institute.

Dieser Text stammt aus: MIT Technology Review 6/2022

Was genau hat Künstliche Intelligenz mit Macht, Herrschaft und Kolonialismus zu tun? Dieser Frage gehen wir in der aktuellen Ausgabe nach. Das neue Heft ist ab dem 18.8. im Handel und ab dem 17.8. bequem im heise shop bestellbar. Highlights aus dem Heft:

• Die KI-Weltordnung
• "KI ist eine Technik der Mächtigen"
• Digitale Apartheid
• Brücke für den Artenschutz
• Lipide: Noppenfolie für Wirkstoffe
• Trainingscamp: Fast wie im All
• MIT Technology Review bestellen

Die Auswirkungen eines "Machtsystems"

"Es muss klar werden, dass diese 'Unfälle' wie der des Algorithmus in Michigan, der über 40.000 Arbeitslosengeld-Berechtigte fälschlicherweise als Betrüger klassifizierte, keine tragischen Einzelfälle sind", sagt Whittaker. "Das System sollte überwachen, ob Menschen, die eine Ersatzleistung erhielten, weil sie arbeitslos geworden waren, nicht betrogen. Die KI hatte einen Fehler und Zehntausende wurden fälschlich als Betrüger klassifiziert." Mittlerweile hat der State Supreme Court von Michigan den Betroffenen das Recht auf Entschädigung zugesprochen.

Der Vorfall sei jedoch kein Zufall gewesen, sondern Auswirkung eines "Machtsystems" in dem die, die von der Technologie betroffen seien, nicht über ihre Entwicklung mitreden dürften. "KI ist eine Technologie der Mächtigen, sie werden uns nicht helfen, das zu ändern", ergänzt Whittaker, die sich trotz allem "als Optimistin" bezeichnet, "aber Optimismus ist eine Einladung zu handeln, kein Versprechen. Viel zu viele Politiker schauen noch weg, weil sie Angst haben, dass sie sich nicht gut genug auskennen mit der Technologie. Das nutzen die Lobbyisten der Tech-Unternehmen aus. Wir müssen die systematische Ausbeutung thematisieren und klarmachen, dass KI eine Machttechnologie ist."

Lesen Sie das vollständige Interview mit Meredith Whittaker "KI ist eine Technik der Mächtigen" im Browser oder in der neuen Ausgabe von MIT Technology Review (im heise shop bestellbar und im gut sortierten Zeitschriftenhandel erhältlich).

(wst)