Google bestätigt interne Änderungen bei den Teams der KI-Forschung

Inhaltsverzeichnis

Nach Informationen von Reuters hat Google den Mitarbeiterinnen und Mitarbeitern seiner KI-Teams zahlreiche Änderungen versprochen. Diese betreffen den Umgang mit den wissenschaftlichen Angestellten sowie deren Forschungsergebnissen. Die Google-Führung will damit Vertrauen zurückgewinnen, nachdem sich Google zuletzt von zwei führenden KI-Forscherinnen getrennt hat. Auf Anfrage von heise online hat Google die Veränderungen an den internen Strukturen und Prozessen bestätigt.

Zwei KI-Forscherinnen weniger bei Google

Google hatte zuvor Dr. Timnit Gebru und Dr. Margaret Mitchell vor die Tür gesetzt, die beiden führenden Mitarbeiterinnen des eigenen Teams für Ethik künstlicher Intelligenz (KI). Auslöser des Streits zwischen Unternehmen und Angestellten war die geplante Veröffentlichung eines Papers, in dem Gebru gemeinsam mit Kolleginnen und Kollegen die Gefahren kritisiert, die von großen KI-Sprachmodellen ausgehen.

Google hatte sich geweigert, die Publikation freizugeben, wenn Gebru als Co-Autorin genannt wird – offiziell, weil das Paper "die Anforderungen an eine Publikation nicht erfüllt". Doch der Verdacht steht im Raum, dass Google auf diese Weise eine unliebsame Kritikerin loswerden wollte. Mitchell wollte daraufhin mit automatisierten Skripten in E-Mails Beispiele für die diskriminierende Behandlung ihrer Kollegin finden. Dies war Googles Mailsystem selbstständig aufgefallen und sperrte die KI-Forscherin automatisch aus dem System aus. Danach wurde die Gründerin und Co-Leiterin des Teams für ethische KI gefeuert.

Google verspricht Besserung

Zukünftig will Google seine Forscherinnen und Forscher für KI mit Hinweisen und Fragenkatalogen unterstützen, damit diese ihre Paper entsprechend anpassen können. Dadurch soll die Mehrheit der Paper nicht mehr von Google überprüft werden müssen, berichtet Reuters. Diese Änderungen sollen noch bis Juli dieses Jahres umgesetzt werden.

Google wurde von wissenschaftlichen Angestellten mehrfach für Änderungen an ihren Papern aufgrund "sensibler Themen" kritisiert. Der Tenor laute: Google und Google-Produkte dürfen nicht in ein schlechtes Licht gestellt werden. Jeff Dean, Googles Senior-Vizepräsident und zuständig für die KI-Teams, habe nun zugegeben, dass die Interpretation sensibler Themen verwirrend war und ist. Diese Regeln sollen nun geklärt werden.

Paper-Änderungen der Rechtsabteilung umstritten

Einer der wissenschaftlichen Mitarbeiter habe in einer umfassenden E-Mail an seine Kollegen kritisiert, dass Googles Rechtsabteilung einzelne Wörter seines Papers von negativem zu neutralem Sinne geändert hat. Dazu sollen Änderungen von "Bedenken" zu "Überlegungen" oder "Gefahren" zu "Risiken" gehören. Derlei Abschwächungen kämen "Einschränkungen Big Brothers" gleich.

Google widerspricht dieser Darstellung. Die Rechtsabteilung habe nicht den Tonfall der Paper geändert. Einige Ausdrücke seien rechtlich nicht korrekt gewesen und haben einer Änderung bedurft. Damit hat sich Google rechtlich absichern wollen.

Auf Anfrage von heise online erklärte Google, dass die zu veröffentlichenden Dokumente aufgrund derartiger Definitionsfragen immer vorab geprüft werden müssen. Es geht nicht um den Tonfall, sondern darum, dass die Wortwahl aus rechtlicher Sicht fair und genau sein muss.

Googles KI-Teams werden untersucht, bekommen neue Leitung

Google bestätigt auch die internen Änderungen seiner Forschungsabteilung. Neue Strukturen sollen zu einer verantwortungsbewussten KI-Forschung führen. Dr. Marian Croak wird dabei nicht nur das Team ethischer KI leiten, dass zuvor von Gebru und Mitchell angeführt wurde, sondern insgesamt zehn Teams. Dazu gehören Teams zur Fairness maschinellen Lernens, KI für das soziale Wohl und Forschung menschlicher Interaktion mit Computern.

Den Prozess der Veröffentlichung wissenschaftlicher Paper will Google vereinheitlichen und von Beginn bis Abschluss eindeutiger definieren. Gleichzeitig wird Google Personalverwaltungsspezialisten beauftragen, um die umstrittenen Mitarbeiterabgänge zu untersuchen. Außerdem sollen die Beziehungen zwischen dem Management und Angestellten sowie das allgemeine Arbeitsklima unter die Lupe genommen werden.

(fds)