Sexismus bei der Apple Card? Frauen erhalten kleineren Finanzrahmen als Männer

Es könnte wieder ein Beispiel dafür sein, dass Algorithmen im Allgemeinen nicht neutral sein müssen, sondern teilweise einfach nur die alten Muster von Menschen übernehmen und verstärken. So hat Bloomberg einen Bericht veröffentlicht, dem zufolge die Finanzbehörde in New York Ermittlungen gegen die Bank Goldman Sachs eingeleitet hat, die mit Apple eine eigene Kreditkarte unter dem Namen Apple Card vertreibt. Das Problem: Die amerikanische Bank benutzt offenbar Algorithmen, die den Kreditrahmen seiner Nutzer festlegt und die anscheinend ein kleines Sexismus-Problem haben.

So ist dem bekannten dänischen Programmierer David Heinemeier Hansson aufgefallen, dass sein Verfügungsrahmen ganze 20 Mal größer sei, als der seiner Frau, obwohl sie ein besseres Kredit-Ranking habe als er. Nach kurzer Zeit hat sich dann auch der Apple-Mitgründer Steve Wozniak der Kritik angeschlossen, indem er auf Twitter öffentlich machte, dass sein Kreditrahmen 10 Mal so groß sei, wie der seiner Frau, obwohl sie nicht mal getrennte Konten besitzen.

Als Reaktion auf die Veröffentlichungen kündigte die New Yorker Finanzbehörde an, dass man eine Untersuchung starten werde, in der geklärt werden soll, ob Goldman Sachs Kunden aufgrund ihres Geschlechts benachteiligt. Hansson erklärte indes, dass er nicht davon ausgehe, dass die Mitarbeiter bei Goldman Sachs sexistisch sind, sondern dass sie die Entscheidung über die Kreditrahmen an undurchsichtige Algorithmen abgegeben haben.

Es wird spannend sein zu sehen, ob es sich hierbei um Einzelfälle handelt oder ob es bei der Vergabe der Kreditrahmen wirklich ein Sexismusproblem gibt. Es wäre auf jeden Fall nicht das erste Mal, dass sich Algorithmen ein derartiges Verhalten selber beigebracht haben.