L’utilisation de l’intelligence artificielle (IA) par la police, comme la reconnaissance faciale, doit avoir des limites pour ne pas tomber dans la surveillance de masse, a mis en garde mercredi le Parlement européen.
« Des contrôles humains et juridiques élevés sont nécessaires pour prévenir la discrimination par l’IA, en particulier dans le cadre des services répressifs ou dans un contexte transfrontalier », estime le Parlement européen dans un communiqué.
« Les décisions finales doivent toujours être prises par un être humain et les personnes soumises à des systèmes alimentés par l’IA doivent disposer de voies de recours », ont ajouté les eurodéputés, à l’occasion d’un vote à Strasbourg.
Les partis de droite n’ont pas soutenu cette résolution
Le texte adopté, qui n’a pas de force législative, mais vise à inspirer la Commission européenne à l’initiative des lois dans l’Union européenne (UE), a divisé les eurodéputés. 377 d’entre eux ont voté pour, mais 248 ont voté contre et 62 se sont abstenus. Le principal groupe politique du Parlement européen, les conservateurs du PPE, a majoritairement voté contre, de même que la plupart des députés d’extrême droite du groupe ID, tandis que les députés de gauche, libéraux et écologistes ont voté en faveur du texte.
« Nous envoyons un message clair : les droits fondamentaux sont irrévocables. Pour la toute première fois, nous appelons à un moratoire sur le déploiement des systèmes de reconnaissance faciale à des fins répressives, ces technologies ayant démontré leur inefficacité et souvent abouti à des résultats discriminants », a insisté le rapporteur de la résolution, l’eurodéputé socialiste bulgare Petar Vitanov.
Le texte adopté recommande l’utilisation d’algorithmes ouverts et traçables, l’interdiction de bases de données privées de reconnaissance faciale et de la police prédictive, qui cherche à anticiper les comportements à partir de données.
En outre, aucune reconnaissance automatique ne devrait être utilisée aux contrôles aux frontières ou dans les espaces publics, les citoyens ne devant être surveillés que s’ils sont soupçonnés d’un crime ou d’un délit, soulignent les députés européens.
Ils insistent d’ailleurs explicitement sur l’interdiction d’un système de notation sociale, comme elle existe déjà en Chine, et de toute autre technique de reconnaissance biométrique automatisée dans l’espace public, comme la démarche, les empreintes digitales, l’ADN ou la voix.
iBorderCtrl, le profilage qui donne la chair de poule
Cette question est d’actualité, car l’Union européenne finance, dans le cadre de la stratégie « Horizon 2020 », des projets de recherche tels que iBorderCtrl.
Ce système est capable d’établir un profil des voyageurs sur la base d’un entretien automatisé réalisé par webcam avant le voyage et d’une analyse de 38 microgestes fondée sur l’intelligence artificielle. Il a été testé en Hongrie, en Lettonie et en Grèce.
A découvrir aussi en vidéo :
Cette résolution pose des limites claires dans l’utilisation de l’intelligence artificielle. Elle est donc une alerte envoyée à la Commission européenne qui a présenté en avril dernier une proposition de règlement appelée « AI Act », visant à établir des « règles harmonisées concernant l’intelligence artificielle ». Le récent vote du Parlement va probablement orienter les négociations à venir sur ce texte.
Source : Parlement européen
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
