Goldman Sachs en Apple staan in het vizier van het New York Department of Financial Services (DFS) na een virale tweet die genderdiscriminatie beweert over kredietlijnen verbonden aan de Apple Card.
Softwareontwikkelaar David Heinemeier Hansson, maker van het populaire Ruby on Rails-raamwerk, plaatste op 7 november een tweet waarin hij opmerkte dat hij een 20x hogere kredietlimiet op zijn Apple Card kreeg dan zijn vrouw, een probleem dat wordt toegeschreven aan klantenservice met wie hij vierkant sprak op ratingalgoritmen die worden gebruikt om dergelijke factoren te bepalen. De ervaring van Hansson werd bevestigd door mede-oprichter van Apple Steve Wozniak, die zei dat hij en zijn vrouw een vergelijkbare ervaring hadden. Andere Apple Card-gebruikers hebben ook ingebed - sommigen melden vergelijkbare ervaringen, anderen zeggen dat zij en hun echtgenoten dezelfde kredietlimiet en limieten hebben.
Hansson zei dat de klantenservice van de Apple Card zijn vrouw uiteindelijk met dezelfde limiet overeenkwam, hoewel ze niet in staat waren om de ontkoppeling te verklaren buiten het vage verwijt aan het "black box" -algoritme dat werd gebruikt om de kredietwaardigheid te bepalen. Hansson antwoordde:
Dus niemand begrijpt HET ALGORITME. Niemand heeft de macht om HET ALGORITME te onderzoeken of te controleren. Maar iedereen met wie we zowel Apple als GS hebben gesproken, is zo ZEKER dat DE ALGORITHM op geen enkele manier bevooroordeeld en discriminerend is. Dat is een graad A-management van cognitieve dissonantie.
- DHH (@dhh) 8 november 2019
Nu komt de New Yorkse DFS binnen om te onderzoeken. In een tweet en later een post naar Medium tijdens het weekend, zei Linda A. Lacewell, hoofdinspecteur van de NY DFS, dat ze de kwestie zullen onderzoeken om te bepalen of de antidiscriminatiewetten van de staat zijn overtreden.
DFS regelt financiële producten en diensten die worden aangeboden in de staat New York. Financiële dienstverleners zijn er verantwoordelijk voor dat de algoritmen die ze gebruiken niet eens onbedoeld discrimineren tegen beschermde groepen. Onze North Star is dat de consument op de eerste plaats komt. We zullen werken om te onderzoeken wat er mogelijk mis is gegaan en als het algoritme dat door Apple Card wordt gebruikt inderdaad onrechtmatige discriminatie heeft bevorderd, zullen we passende maatregelen nemen.
Goldman Sachs van zijn kant ontkende een misstand in een verklaring op Twitter. Het luidt gedeeltelijk:
Zoals met elke andere individuele creditcard, wordt uw aanvraag onafhankelijk beoordeeld. We kijken naar het inkomen en de kredietwaardigheid van een persoon, waaronder factoren zoals persoonlijke kredietwaardigheidsscores, hoeveel schuld u hebt en hoe die schuld is beheerd. Op basis van deze factoren is het mogelijk dat twee gezinsleden aanzienlijk verschillende kredietbeslissingen ontvangen.
In alle gevallen nemen en zullen we geen beslissingen nemen over factoren zoals geslacht.
Update (11/11/09): Verklaring Goldman Sachs toegevoegd.
Hebben u en uw echtgenoot een andere behandeling gekregen met de Apple Card? Heb je dit ooit met andere creditcards zien gebeuren? Laat het ons weten in de reacties.
