Les particuliers qui ont acheté des caméras de surveillance Amazon Ring se sentent peut-être en sécurité. A n’importe quel moment ils peuvent voir ce que se trame chez eux ou devant leur porte d’entrée. Mais ce qu’ils ne savaient pas, c’est qu’ils n’étaient pas les seuls.
Comme vient de le révéler The Intercept, les salariés d’une filiale ukrainienne de Ring avaient accès, à partir de 2016, à la totalité des vidéos enregistrées par toutes les caméras déployées dans le monde. Il suffisait pour cela qu’ils se connectent à un espace de stockage Amazon S3 et qu’ils cliquent sur les fichiers en question.
Mais la générosité au niveau de l’accès ne s’arrêtait pas là. A n’importe quel moment, certains ingénieurs et directeurs américains pouvaient également accéder en direct aux flux de n’importe quel utilisateur, sans qu’aucune raison valable ait été donnée. Cela rappelle évidemment le « God mode » de la plate-forme Uber qui permettait de suivre n’importe quel client en temps réel.
Un apprentissage pas si automatique
Selon The Intercept, les équipes ukrainiennes utilisaient les enregistrements pour optimiser l’algorithme de reconnaissance d’image des caméras Ring. En effet, le fournisseur était confronté à un grand nombre de plaintes d’utilisateurs relatives à des faux positifs qu’il convenait donc d’éliminer. Une réaction normale, en tant qu’utilisateur, on n’a pas envie de recevoir une alerte d’intrusion à chaque fois que quelques feuilles tombent d’un arbre ou qu’un chat passe devant la fenêtre.
Pour perfectionner la reconnaissance, il n’y a pas de mystère : il faut nourrir l’algorithme avec des données étiquetées. C’était justement le travail des salariés ukrainiens de les créer. Ce travail, plutôt monotone, consistait à encadrer dans les vidéos les véhicules et les personnes qui se déplaçaient et de les taguer. C’est long, fastidieux et pas très high-tech.
Ce qui est gênant, selon The Intercept, c’est que le fournisseur n’a jamais informé les utilisateurs de cette pratique. Pire : certaines vidéos utilisées provenaient de l’intérieur des logements et pouvaient montrer des moments intimes des utilisateurs. Une violation de la vie privée visiblement voulue et intégrée dans le processus d’apprentissage des algorithmes. Ainsi, parmi les tags qui étaient à disposition des salariés ukrainiens, il n’y avait pas seulement « vol » et « coup de feu », mais aussi « personnes qui s’embrassent ».
Des procédés arrêtés par Amazon ?
Depuis le rachat de Ring par Amazon en mars 2018, les choses ont peut-être changé. Interrogé par VentureBeat, le fournisseur n’a pas nié les informations de The Intercept, mais souligne qu’aucun salarié n’a accès aux flux en temps réel des produits Ring, en tous les cas actuellement.
Quant à l’analyse des enregistrements, elle se limiterait aux vidéos partagées entre plusieurs utilisateurs, au travers de la fonction Neighbors, ainsi qu’aux vidéos d’une « petite fraction » d’utilisateurs qui ont donné leur consentement explicite.
Amazon souligne que les vidéos sont traitées conformément à une charte stricte avec une « tolérance zéro » pour les éventuels abus. Vous voilà rassurés ?
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
