Un homme noir incarcéré dans le New Jersey par erreur poursuit les autorités locales en justice, comme le rapporte le Wall Street Journal. En février 2019, Nijeer Parks, un âgé de 33 ans, avait passé plus d’une semaine en prison après un incident survenu fin janvier 2019. Les motifs de détention étaient lourds – entre autres vol à l’étalage et possession de drogue.
Une marge d’erreur dommageable
L’arrestation quelques jours après l’incident avait été permise par les outils de reconnaissance faciale combinés des services de police du New Jersey et de New York.
Or, le logiciel a dysfonctionné : la correspondance entre la base de photos et le suspect recherché était fausse. Nijeer Parks en a payé les frais. Il porte aujourd’hui plainte pour violation des droits civils et dommages émotionnels. Outre les incertitudes inhérentes à cette technologie, il semblerait que le dysfonctionnement soit avant tout dû à des biais racistes intégrés à la base de données.
Ce n’est pas un cas isolé
De plus en plus de policiers s’appuient sur ce genre de technologies, mais il est avéré que certains de ces logiciels sont effectivement moins performants pour reconnaître les visages d’hommes et de femmes non-blancs. Cela s’explique notamment parce que les bases de données ressemblent à ceux qui les ont constitué, soit plutôt des personnes blanches.
Plusieurs entreprises comme IBM, Amazon ou encore Microsoft ont suspendu leurs programmes destinés à la police à cause de ces imprécisions, sources de discriminations supplémentaires. S’il fallait une preuve de plus de la sensibilité du sujet, le patron de Microsoft avait même appelé à un « dialogue national ».
À lire aussi : Comment les intelligences artificielles doivent combattre les biais qui gangrènent nos sociétés
Ce n’est pas la première qu’il arrive un problème de ce type aux États-Unis. Cette année, rapporte le Wall Street Journal, un autre homme, cette fois à Détroit, Robert Williams, a été détenu pendant plus d’une journée principalement sur la base d’une reconnaissance faciale correspondant à un suspect dans une affaire de vol de montres. Les charges avaient été abandonnées pour manque de preuves. Comme Nijeer Parks, Robert Williams est noir.
Source : Wall Street Journal
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
