Kommentar: Content-Moderatoren, vereinigt euch!

An einem sonnigen Tag Mitte November stehe ich in der Eingangshalle der Gewerkschaft ver.di in Berlin. Im Büro über uns absolviert der neu gewählte Betriebsrat von TikTok gerade seine erste Schulung. Ich bin hier, um mich mit ihnen über einen der prekärsten Jobs in der Techbranche auszutauschen: den der Content-Moderation.

Wenn die digitale Zivilgesellschaft oder Digitalpolitiker über die Moderation von Inhalten in sozialen Netzwerken nachdenken, dann zuallererst über Algorithmen – über die viel zitierte Künstliche Intelligenz, die Inhalte automatisiert filtert, kennzeichnet und löscht. Dass auch Tausende von menschlichen Content-Moderatorinnen und -Moderatoren maßgeblich daran beteiligt sind, das Netz frei von Hass, Gewalt und Desinformation zu halten, geht in den Diskussionen unter. Dabei ist spätestens seit dem Film "The Cleaners" aus 2018 bekannt, dass Content-Moderatorinnen und -Moderatoren zu prekärsten Konditionen arbeiten. Auch in Deutschland. Sie werden schlecht bezahlt, ihr Arbeitsplatz wird überwacht und sie tragen nicht selten lebenslange psychische Traumata davon.

Wie steht's mit der Tech Policy?

Diese Umstände sind in den Augen vieler aber kein digitalpolitisches, sondern ein arbeitsrechtliches Thema. "Nicht meine Baustelle!", hätte ich als Teil der digitalen Zivilgesellschaft vor ein paar Jahren selbst noch gesagt. Vor zehn Jahren war "Not my department" das Motto des 29. Chaos Communication Congress. Hinter dem leicht zynischen Titel des Hackerkongresses, der das Silodenken in der Digitalisierung beschreibt, steckte eine ernste Frage: Wer kümmert sich eigentlich um die gesellschaftlichen, wirtschaftlichen und politischen Folgen, die der Einsatz von neuen digitalen Technologien mit sich bringt, und wie sind die unterschiedlichen Themen miteinander verbunden?

Arbeitsrecht ist das Anliegen der Gewerkschaften. Digitalpolitiker und die digitale Zivilgesellschaft beschäftigen sich mit Tech Policy. Das Wort Policy steht dabei synonym für einen Elitendiskurs. Als jemand, der weder Public Policy noch Jura studiert hat, sondern Design, fühlte ich mich bei diesen Diskursen selbst lange außen vor. Doch im Laufe der Zeit habe ich verstanden, dass man, wenn man etwas bewegen will, sich über kurz oder lang damit beschäftigen muss, wie Policies entstehen und wie man sie beeinflusst.

TR-Kolumne von Julia Kloiber

Julia Kloiber arbeitet als Mitgründerin der feministischen Organisation Superrr Lab an gerechten und inklusiven digitalen Zukünften. In der gedruckten Ausgabe von MIT Technology Review veröffentlicht sie regelmäßig ihre Kolumne.

• Jugendschutz im Netz: Vertrauen ist wirksamer als technische (Pseudo)-Lösungen
• Wohin unermessliche Technikgläubigkeit führt – in eine shitty Zukunft
• Sagt die Apokalypse ab – Neue Visionen der digitalen Zukunft müssen her
• Deutschlandticket: Warum ein Papierticket auch digital sein kann
• Innovationspotenzial: Der Platz zur kreativen Entfaltung fehlt
• Digital Detox: Einfach nur Urlaub nehmen reicht längst nicht mehr
• Content-Moderatoren, vereinigt euch!
• Mehr Diversität allein hilft nicht in der Tech-Branche
• Wie KI-Bildgeneratoren mehr Diversität fördern können
• Statt Abo auf die Sitzheizung lieber Nutzerprofile beim Carsharing
• US-Abtreibungsverbot: Wie sicher sind die Daten in Perioden-Trackern noch?
• Digitalisierung der Arbeit: Wir hängen im Hamsterrad der Produktivität fest
• KI im Recruiting: Mist, aber trotzdem im Einsatz

Den großen Plattformen ist es ganz recht, wenn sich Digitalisierungsexperten und die Zivilgesellschaft nicht mit den Content-Moderatoren solidarisieren. Sie haben lange daran gearbeitet, den Job der Content-Moderation in der öffentlichen Wahrnehmung als roboterähnliche, inhaltlich anspruchslose Click-Work darzustellen. So etwas entmenschlicht und erschwert Solidarität. Die großen Plattformen wollen uns weismachen, dass die Moderation der Inhalte ohnehin bald von KI übernommen wird. Dass die Systeme noch Jahre davon entfernt sind, Plattformen so effektiv wie Menschen zu moderieren, verschweigen sie.

Kampf für gerechte digitale Zukünfte

Wer in einer komplexen Welt versucht, Komplexität zu ignorieren, indem er im Sinne von "Not my Department" Themen zu unabhängig voneinander behandelt, wird langfristig nicht ans Ziel kommen. Es spielt den Social-Media-Plattformen in die Hände, wenn Content-Moderatoren einen isolierten Kampf um gerechte Arbeitsrechte führen müssen. Am meisten Angst hat Big Tech nämlich davor, dass sich Menschen in Tech über unterschiedliche soziale Herkünfte, Bildungsstände und geografische Grenzen hinweg solidarisieren und gemeinsam für gerechte digitale Zukünfte einstehen.

Dieser Text stammt aus: MIT Technology Review 1/2023

Der Energieverbrauch muss runter. In der neuen Ausgabe stellen wir einige Ansätze der Energiewende und technischen Effizienzsteigerungen vor. Das neue Heft ist ab dem 22.12. im Handel und ab dem 21.12. bequem im heise shop bestellbar. Highlights aus dem Heft:

• Energie sparen, Welt retten!
• "Wie wir leben, ist nicht natürlich entstanden"
• Wärmepumpen: Luft, Erde, Pferdemist
• Ist das noch Wohltätigkeit?
• R.I.P. Speicher
• Von den Toten lernen
• MIT Technology Review bestellen

Am Ende des Treffens bei ver.di beschließen wir, eine globale Eventreihe aufzusetzen. Sie hat zum Ziel, dass sich mehr Content-Moderatorinnen und -Moderatoren arbeitsrechtlich organisieren und für ihre Rechte eintreten. Es gilt, den prekären Arbeitsbedingungen ein Ende zu bereiten. Am besten funktioniert das mit der Unterstützung einer breiten Allianz aus Politik, Zivilgesellschaft und Gewerkschaften, die sich hinter diejenigen stellt, die täglich dafür sorgen, dass uns im Internet weniger Hass, Gewalt und Desinformation begegnen. Im März geht es mit dem ersten Event in Berlin los.

(jle)