Ende der Ausbeutung: Wie Content-Moderatoren geholfen werden kann

"Die im Dunkeln sieht man nicht", mit diesem Satz aus der Dreigroschenoper beginnt Cengiz Haksöz sein Statement. Cengiz ist Content-Moderator für Meta. Ich sitze neben ihm, als er von seinen Arbeitsbedingungen berichtet. Wir sind an keinem geringeren Ort als dem Deutschen Bundestag. Es ist das erste Mal, dass ein Content-Moderator vor den Abgeordneten des Digitalausschusses spricht.

Es gibt viel zu erzählen, denn die Bedingungen sind prekär. Cengiz berichtet von Tausenden Stunden voller gewaltvoller Beiträge, die er und seine Kollegen sichten müssen. Obwohl Cengiz Inhalte für den Tech-Konzern Meta moderiert, ist er nicht bei Meta angestellt. Content-Moderation ist outgesourct. Cengiz arbeitet für ein Unternehmen, von dem die meisten noch nie gehört haben. Die Inhalte sind so grausam, dass sie lebenslange psychische Schäden hinterlassen. Die psychologische Unterstützung seitens der Arbeitgeber ist unzureichend, die Bezahlung prekär. Zeitdruck und Überwachung sind an der Tagesordnung.

Situation der Menschen in der Content-Moderation

Bisher war wenig über die Arbeitsbedingungen von Content-Moderatoren bekannt. Denn die Unternehmen, für die sie arbeiten, etablieren eine Kultur der Angst und Geheimhaltung. Wer öffentlich über die Zustände spricht, riskiert seinen Job. Das bekommt auch Cengiz Haksöz zu spüren. Wenige Tage nach der Anhörung wird er freigestellt und darf das Firmengebäude nicht mehr betreten.

Das Problem, von dem Cengiz berichtet, ist allzu gut bekannt. Es nennt sich Ausbeutung. Nicht nur hier in Deutschland, sondern mit globalem Ausmaß. Content-Moderation findet vor allem in Ländern des globalen Südens statt. Das "Time Magazine" bezeichnet die kenianischen Büros der Content-Moderatoren als die afrikanischen Sweatshops von Facebook. Die Moderatoren verrichten ihre Arbeit unter mangelnden Sicherheitsmaßnahmen, schlechter Bezahlung und Missachtung ihrer Menschenrechte. Auch von Zwangsarbeit ist die Rede.

Sweatshops und Ausbeutung kennen wir aus Branchen wie der Textil- oder Fleischindustrie. Digitale Dienstleistungen haben wir in diesem Kontext nicht auf dem Schirm. Dabei würden KI, soziale Netzwerke und selbstfahrende Autos ohne die Arbeit von Zehntausenden von Clickworkern und Content-Moderatoren schlicht nicht existieren. Alleine für ImageNet, eine der größten Bilddatenbanken für das Training von KI-Systemen, haben mehr als 49.000 Menschen Bilder kategorisiert, getaggt und annotiert.

TR-Kolumne von Julia Kloiber

Julia Kloiber arbeitet als Mitgründerin der feministischen Organisation Superrr Lab an gerechten und inklusiven digitalen Zukünften. In der gedruckten Ausgabe von MIT Technology Review veröffentlicht sie regelmäßig ihre Kolumne.

• Jugendschutz im Netz: Vertrauen ist wirksamer als technische (Pseudo)-Lösungen
• Wohin unermessliche Technikgläubigkeit führt – in eine shitty Zukunft
• Sagt die Apokalypse ab – Neue Visionen der digitalen Zukunft müssen her
• Deutschlandticket: Warum ein Papierticket auch digital sein kann
• Innovationspotenzial: Der Platz zur kreativen Entfaltung fehlt
• Digital Detox: Einfach nur Urlaub nehmen reicht längst nicht mehr
• Content-Moderatoren, vereinigt euch!
• Mehr Diversität allein hilft nicht in der Tech-Branche
• Wie KI-Bildgeneratoren mehr Diversität fördern können
• Statt Abo auf die Sitzheizung lieber Nutzerprofile beim Carsharing
• US-Abtreibungsverbot: Wie sicher sind die Daten in Perioden-Trackern noch?
• Digitalisierung der Arbeit: Wir hängen im Hamsterrad der Produktivität fest
• KI im Recruiting: Mist, aber trotzdem im Einsatz

Digitale Produkte müssen ins Lieferkettengesetz

Hoffnung für eine globale Verbesserung der Bedingungen bietet ein neues Gesetz. Das Lieferkettengesetz. Es will ausbeuterischen Arbeitsbedingungen den Garaus machen, indem es Unternehmen für die Einhaltung von Menschenrechten in ihren Lieferketten zur Verantwortung zieht. Sie müssen dafür Sorge tragen, dass Schutz vor Kinderarbeit, das Recht auf faire Löhne und Umweltschutz in der gesamten Lieferkette umgesetzt werden. Prekäre Arbeit einfach outzusourcen und sich so der Verantwortung zu entziehen, wie es große Tech-Konzerne mit der Moderation von Inhalten machen, wird mit dem Gesetz massiv erschwert.

So weit in der Theorie. Neben den Lieferketten von Produkten wie Kleidung, Lebensmitteln und Hardware ist von digitalen Dienstleistungen bisher leider nichts zu lesen. Um an der prekären Situation Zehntausender Content-Moderatoren weltweit etwas zu verändern, müssen auch digitale Produkte wie soziale Netzwerke, KI und Co. im Lieferkettengesetz berücksichtigt werden. Das wäre für all jene, die in diesem Bereich bisher im Verborgenen arbeiten, ein großer Schritt.

Die im Dunkeln werden zunehmend gesehen. Es ist wichtig, dass neben der Sichtbarkeit nun auch Taten folgen.

(jle)