Zalando & Co.: Personalanalyse mit Big Data in der dunkelgrauen Zone

Inhaltsverzeichnis

Zalando sorgte im November 2019 für Schlagzeilen, als bekannt wurde, dass der Berliner Online-Händler Tausende Mitarbeiter mit dem mächtigen Analysesystem Zonar überwacht. Die Organisation AlgorithmWatch hat jetzt in einem zweijährigen, von der gewerkschaftsnahen Hans-Böckler-Stiftung unterstützten Forschungsprojekt herausgearbeitet, dass der Einsatz solcher mit Künstlicher Intelligenz (KI) ausgerüsteter Software fürs Personalmanagement in Europa oft rechtswidrig sein dürfte und "zumindest in einer rechtlichen Grauzone" erfolgt.

Zweifel am Datenschutz

"Beschäftigte müssen einzeln und freiwillig zustimmen, wenn sogenannte People-Analytics-Verfahren eingesetzt werden", heißt es in einem am Montag von der Institution veröffentlichten Positionspapier. Es sei jedoch davon auszugehen, dass eine solche von der Datenschutz-Grundverordnung (DSGVO) vorgeschriebene Einwilligung sehr oft nicht vorliege. Alternativ könnten Beschäftigtendaten in einem solchen Stil auch auf Basis von Betriebsvereinbarungen legitim verarbeitet werden. Diese seien aber nicht erzwingbar, "weil ein einschlägiges Mitbestimmungsrecht fehlt".

Betriebsräte und Unternehmen müssen laut den Forschern auch prüfen können, "ob der Einsatz von KI-Systemen rechtskonform erfolgt". Da es sich vielfach um Blackbox-Verfahren handle, dürfte der Arbeitgeber in vielen Fällen aber gar nicht hinreichend Informationen zur Verfügung stellen können, "wie es das Gesetz verlangt". Autonomie und Mitsprache der Beschäftigten müssten in jedem Fall gewährleistet sein. Es sei ethisch nicht zu rechtfertigen, Arbeitnehmer "zu reinen Objekten" algorithmischer Verfahren zu machen.

Zuvor hatten Soziologen in einer ebenfalls von der Stiftung geförderten Studie kritisiert, dass Zalando mit Zonar ein "sehr umfassendes, quasi panoptisches System der Leistungskontrolle" aufgebaut habe. Es bestünden große Zweifel, ob der Datenschutz eingehalten werde. Zudem scheine der Einsatz der Software nicht einmal aus wirtschaftlicher Sicht besonders sinnvoll zu sein: Das Betriebsklima leide, der Stress nehme zu. Die Berliner Datenschutzbehörde prüft derzeit, ob das System mit der DSGVO vereinbar ist.

Zonars Verwandte

Zonar ähnelt stark dem "Anytime Feedback Tool" von Amazon. Das Unternehmen forderte schon 2016 mit dem Werkzeug ständig Bewertungen von Mitarbeitern ein und ermunterte sie zur gegenseitigen Kontrolle durch permanente Verhaltensaufzeichnungen. Im Kern geht es bei solch weitgehenden Ansätzen für People Analytics darum, Mitarbeiter permanent bewerten, kontrollieren und sanktionieren zu können. Leistungen und Potenzial von Beschäftigten oder Teams sollen analysiert, vorhergesagt und gesteuert werden.

Bekannte Produkte, die mit solchen Funktionen werben, sind Office 365 Workplace Analytics von Microsoft, Watson Talent Insights von IBM, Success Factors People Analytics von SAP und People Analytics von Workday. Auf dem Markt befinden sich darüber hinaus etliche Produkte kleinerer Anbieter.

Gesetzliche Regelungen gefordert

AlgorithmWatch fordert die Bundesregierung anhand der Ergebnisse auf, gesetzlich klarzustellen, "dass Arbeitgeber auch dann Transparenz über die verwendeten Methoden gewährleisten müssen, wenn die Hersteller der Software keine Auskünfte erteilen wollen". Betriebsräte sollten anhand eines Prüfkatalogs ihre Auskunfts- und Mitbestimmungsrechte gegenüber Arbeitgebern bereits in der Planungsphase von KI-Systemen aktiv durchsetzen, da sich die Chancen dazu verringerten, sobald die Technik eingeführt sei. Es sei nicht davon auszugehen, dass Anbieter in der Lage seien, "ethische Algorithmen" zu entwickeln, die Arbeitgeber dann per se unproblematisch einsetzen könnten.

"Um Beschäftigte vor den Möglichkeiten und insbesondere vor dem immanenten hohen Kontrollpotenzial zu schützen, das sich mit KI-Software und mit selbstlernenden Algorithmen verbindet, ist ein Ausbau bestehender Mitwirkungs- und Mitbestimmungsrechte durch den Gesetzgeber unumgänglich", betont der Frankfurter Arbeitsrechtler Peter Wedde. Er hat im Rahmen des Projekts ein Gutachten zur "Automatisierung im Personalmanagement" erstellt. Der Passauer Rechtswissenschaftler Kai von Lewinski stellt in einer weiteren Analyse klar, dass Unternehmen "Präventivmaßnahmen gegen Benachteiligungen ergreifen" und gegebenenfalls eine Pflicht für Datenschutz-Folgeabschätzungen greife. (olb)