Diese Frau hat sich mit Google angelegt
Margaret Mitchell leitete das KI-Ethik-Team bei Google, bis sie Anfang des Jahres entlassen wurde. Im Gespräch mit MIT Technology Review erklärt sie, woran die KI-Forschung in Tech-Konzernen krankt und warum große Sprachmodelle wie GPT-3 so problematisch sind.
Mit einem kurzen Tweet teilte Margaret Mitchell am 19. Februar ihren Abgang bei Google mit: „I’m fired.“ Laut Google hat Mitchell gegen den Verhaltenskodex von Mitarbeitern sowie gegen Sicherheitsrichtlinien verstoßen. Erst im Dezember war ihre Kollegin Timnit Gebru, die gemeinsam mit Mitchell das KI-Ethik-Team bei Google geleitet hat, gefeuert worden. Gebru war Co-Autorin eines Papers mit dem Titel „On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?“. Die Autorinnen kritisierten darin große Sprachmodelle, unter anderem aufgrund der Gefahr, Vorurteile und Diskriminierungen zu reproduzieren – eben wie ein echter Papagei, der die Auswirkungen schlechter Sprache, die er wiederholt, nicht versteht. In dem Paper wurde BERT, ein System von Google, mehrmals erwähnt, aber auch GPT-3 von OpenAI.
Spätestens nach Mitchells Entlassung folgte eine Debatte in der Presse, ob Google ein kulturelles Problem mit Minderheiten habe, sie kategorisch ausschließe und ihre Arbeit nicht wertschätze. Mitchell selbst twitterte drei Tage nach ihrer Entlassung: „Ich habe versucht, auf die Ungleichbehandlung von Rasse und Geschlecht aufmerksam zu machen und die problematische Entlassung von Dr. Gebru durch Google anzusprechen.“