L’Apple Card propose-t-elle des limites de crédit bancaire moindres aux femmes qu’aux hommes ? C’est ce qu’affirme l’entrepreneur américain David Heinemeier. Il s’est longuement offusqué la semaine dernière sur Twitter d’obtenir une somme 20 fois supérieure à celle de sa femme, alors que son couple a mis en commun ses revenus et ses impôts de longue date. À sa suite, le cofondateur d’Apple, Steve Wozniak, a partagé un témoignage similaire. Ce qui laisserait à penser que l’algorithme calculant les limites de crédit serait biaisé.
https://twitter.com/dhh/status/1192540900393705474
https://twitter.com/stevewoz/status/1193422616016519168
La discussion sur Twitter est devenue virale et la polémique aujourd’hui est telle que le département des services financiers de New-York a décidé d’ouvrir une enquête. Goldman Sachs, la banque partenaire d’Apple qui fournit la carte de crédit, est située à Manhattan. Or tout algorithme qui traiterait différemment des personnes en fonction de leur genre viole les lois de l’Etat.
Des comptes-joints en préparation
Un porte-parole de la banque a assuré que le genre des utilisateurs n’était pas pris en compte dans le processus de décision, qui resterait basé sur un examen individuel des revenus. Ce qui expliquerait que deux personnes de la même famille n’obtiennent pas les mêmes résultats. Pour calmer les esprits, l’entreprise a déclaré qu’elle allait faire en sorte avec Apple que l’Apple Card puisse être partagée avec d’autres membres de sa famille, via des comptes joints.
Cathy O’Neil, mathématicienne et spécialiste des biais dans les algorithmes, suggère qu’Apple publie ses éventuels tests internes prouvant l’équité de son algorithme, qu’un tiers puisse également auditer ces tests. Pour savoir si cet algorithme est discriminant, il va falloir comprendre comment il fonctionne.
https://twitter.com/mathbabedotorg/status/1193947028142866433
Bloomberg rappelle qu’un peu plus tôt cette année, le même régulateur new-yorkais a ouvert une enquête sur la société d’assurance et de soins de santé UnitedHealth Group, soupçonnée de désavantager les patients noirs par rapport aux blancs.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
