Ce week-end, un organisme de réglementation new-yorkais a décidé d’ouvrir une enquête sur les pratiques en matière de cartes de crédit de Goldman Sachs Group Inc. L’enquête du New York's Department of Financial Services (DFS) est survenue après une série d’allégations selon lesquelles la carte de crédit d’Apple proposait différentes limites de crédit aux hommes et aux femmes. Ces allégations estiment que les algorithmes utilisés par Goldman Sachs pour fixer les limites des cartes de crédit pourraient être intrinsèquement biaisés à l’encontre des femmes.À New York, un régulateur financier a ouvert une enquête sur la banque Goldman Sachs Group Inc. à la suite d’allégations selon lesquelles la carte de crédit d'Apple offrait des limites de crédit différentes selon le sexe. Le département des services financiers de New York (New York's Department of Financial Services - DFS) a expliqué samedi que toute discrimination, intentionnelle ou non, viole la loi de New York. Le DFS va analyser au cours de l’enquête les pratiques en matière de cartes de crédit de Goldman Sachs, qui gère les cartes de crédit Apple.
En effet, l’Apple Card est une nouvelle carte de crédit développée par Apple, conçue principalement pour être utilisée avec Apple Pay sur des appareils Apple tels qu'un iPhone ou une Apple Watch. Elle est disponible aux États-Unis depuis août 2019. Apple Card ne possède pas de frais de pénalités de retard, d'avance de fonds, d'utilisation internationale, de découvert ou de frais de carte de crédit annuels, à l'exception des frais d’intérêts applicables lors du transfert du solde et des commissions d'interchange normalement facturés au fournisseur.
Selon l’agence de presse américaine Bloomberg, tout est parti d’un tweet viral de David Heinemeier Hansson, créateur du wiki Instiki et du framework Web Ruby on Rails, mentionnant une discrimination fondée sur le sexe dans les algorithmes de la nouvelle Apple Card pour déterminer les limites de crédit. L'entrepreneur technologique s’est plaint du fait que la carte de crédit Apple lui ait accordé 20 fois plus la limite de crédit de sa femme. Dans son tweet, il a indiqué que la disparité était en dépit du fait que sa femme avait une meilleure cote de crédit.
Hansson n'a pas divulgué de renseignements précis sur le revenu de sa femme et lui, mais il a déclaré qu'ils avaient produit des déclarations de revenus conjointes et que sa femme avait une meilleure cote de crédit que lui. Selon le média Bloomberg, les tweets, dont beaucoup contiennent des blasphèmes, ont immédiatement gagné du terrain en ligne, attirant même les commentaires du cofondateur d'Apple Steve Wozniak. Ce dernier a déclaré que la même chose s’est produite avec sa femme et lui alors qu’ils n’avaient ni compte bancaire séparé ni actifs distincts.
Dans la foulée, le département des services financiers (DFS) de New York a contacté Goldman Sachs, qui gère l'Apple Card et a déclaré samedi qu’il enquêtera pour déterminer si oui ou non les algorithmes de l’Apple Card comportaient des biais discriminants. « Le ministère mènera une enquête pour déterminer si la loi new-yorkaise a été violée et s'assurer que tous les consommateurs sont traités sur un pied d'égalité, quel que soit leur sexe », a déclaré un porte-parole de Linda Lacewell, la surintendante du ministère des Services financiers de New York.
« Tout algorithme qui, intentionnellement ou non, aboutit à un traitement discriminatoire des femmes ou de toute autre catégorie protégée de personnes viole la loi de New York », a-t-il précisé. De son côté, un porte-parole de Goldman a déclaré qu’Apple Card n'offre que des comptes individuels et il est possible pour deux membres de la famille de recevoir des décisions de crédit sensiblement différentes. « Dans tous les cas, nous n'avons pas pris et ne prendrons pas de décisions fondées sur des facteurs comme le sexe », a-t-il expliqué aux médias.
Toutefois, Hansson a déclaré que la réponse de Goldman n'explique pas ce qui s'est passé. « Dès que cela est devenu une question de relations publiques, ils ont immédiatement augmenté sa limite de crédit sans lui demander de documents supplémentaires. Je ne crois pas qu'il y avait une personne malfaisante qui voulait faire de la discrimination. Mais ça n'a pas d'importance. Comment savez-vous qu'il n'y a pas un problème avec l'algo d'apprentissage automatique si personne ne peut expliquer comment cette décision a été prise ? », a-t-il déclaré lors d'une entrevue.
Hansson a déclaré que ses messages avaient conduit à un examen interne et qu'il espérait que cela déclencherait une conversation sur les algorithmes de type boîte noire ou black-box et les biais inhérents à ces systèmes. « Goldman et Apple délèguent l'évaluation du crédit à une boîte noire. Ce n'est pas une intention de discrimination sexuelle, mais c'est un résultat de discrimination sexuelle », a déclaré Hansson. Les banques et les autres prêteurs utilisent de plus en plus la technologie d'apprentissage automatique pour réduire les coûts et augmenter les demandes de prêt.
Cependant, selon Bloomberg, c’est la deuxième action de ce type de la part du DFS ces dernières semaines. Le DFS a déjà ouvert une enquête contre le géant de la santé UnitedHealth Group Inc. après qu'une étude ait révélé le fait qu'un algorithme favorisait les patients blancs plutôt que les patients noirs. Bloomberg a déclaré que les ambitions croissantes de Goldman entraînent une surveillance accrue et une nouvelle série de défis auxquels il n'a jamais été confronté auparavant. L'Apple Card est une coentreprise entre Apple Inc. et la banque basée à New York, qui est responsable de toutes les décisions de crédit de la carte.
Source : Bloomberg
Et vous ?
Qu'en pensez-vous ?Voir aussi
Apple annonce son système de paiement mobile Apple Pay qui sera compatible avec l'iPhone 6 et sa Apple Watch Des employeurs font appel à des systèmes de recrutement s'appuyant sur l'intelligence artificielle qui analysent des éléments comme les mouvements faciaux pour déterminer qui mérite un emploi Un ancien programmeur de Gogldman Sachs de nouveau condamné par la justice américaine pour un vol présumé de code source sensible de la banque Gitlab double sa valorisation à 2,75 milliards de dollars avant son introduction en bourse prévue en 2020, grâce à un nouveau financement de 268 millions de dollars 
Envoyé par Neckara
