Sexismus-Vorwurf gegen Apple Card: Weitere Kritik an undurchsichtigem Algorithmus
Apples Bankpartner Goldman Sachs müsse Unterschiede bei der Bonitätsprüfung erklären oder den Algorithmus einstampfen, so eine US-Senatorin.
(Bild: Shutterstock/Elvira Koneva)
- Leo Becker
Die Debatte über sexistische Algorithmen bei der Apple Card zieht immer größere Kreise: Der Kreditkartenausgeber Goldman Sachs müsse erklären, wie der Algorithmus zur Einstufung der Kreditwürdigkeit funktioniert und welche Auswirkungen er hat, forderte die US-Senatorin und Präsidentschaftsanwärterin Elizabeth Warren nun. Könne das Bankhaus dies nicht leisten, müsse der Algorithmus "niedergerissen" werden.
Ehefrau erhielt viel niedrigeren Kreditrahmen
(Bild: Apple)
Der IT-Unternehmer David Heinemeier Hansson hatte Ende vergangener Woche berichtet, der Apple-Card-Kreditrahmen seiner Ehefrau falle 20 Mal niedriger als sein eigener – trotz einer gemeinsamen Steuererklärung und gemeinsamen Eigentums. Niemand bei Goldman Sachs oder Apple habe ihm erklären können, woher der gravierende Unterschied bei der Bonitätseinstufung komme, es sei lediglich auf den Algorithmus verwiesen worden, so Hansson – der das als "verdammt sexistisch" bezeichnete und damit eine erhitzte Diskussion ausgelöst hat.
In Reaktion auf die Sexismus-Vorwürfe betonte Goldman Sachs nur, bei der Bonitätsprüfung würde das Geschlecht nicht berücksichtigt. Betroffene Kunden könnten ihre Kreditwürdigkeit aber erneut prüfen lassen, so die Bank. Die Apple Card soll sich künftig zudem innerhalb eines Haushalts auch teilen lassen statt von jedem Familienmitglied einzeln beantragt werden zu müssen.
Undurchsichtige Algorithmen
Algorithmen können nur so gut arbeiten, wie ihre Datenbasis es ermöglicht, betonte die US-Senatorin in einem Interview mit der Finanznachrichtenagentur Bloomberg. Wenn da diskriminierende Daten reingepackt würden, "dann wird die Diskriminierung verewigt". Die bisherige Reaktion des Bankhauses sei völlig unangemessen: Man könne doch nicht jeder Frau in den USA nun sagen, sie würde vielleicht von einem undurchsichtigen Algorithmus diskriminiert und solle sich deshalb an den Kunden-Support der Bank wenden, um die Sache vielleicht auszuräumen, so Warren.
Neben Warren betonte auch der demokratische Abgeordnete Ron Wyden, der im Finanzkomitee des Senats sitzt, die Sexismus-Vorwürfe prüfen zu wollen. Die Finanzaufsichtsbehörde des US-Bundesstaates New York hat ebenfalls bereits eine Prüfung eingeleitet. "Jeder Algorithmus, der mit oder ohne Absicht zu einer diskriminierenden Behandlung von Frauen oder jeder anderen geschützten Gruppe führt, verstößt gegen New Yorker Recht", hieß es dort. Apple äußerte sich bislang nicht zu der Angelegenheit.
Apple Card (9 Bilder)
Populär
(lbe)
