A l’occasion de la WWDC 2016, le créateur de l’iPhone a montré tout un tas de nouvelles fonctionnalités intelligentes comme la saisie prédictive dans QuickType ou la suggestion d’emojis dans la messagerie instantanée Messages. Pour pouvoir proposer ces améliorations logicielles, Apple est, entre autres, contraint de recourir à une collecte massive de données d’utilisateurs afin de pouvoir dégager des tendances statistiques. Il faut en effet que son système soit capable de prendre en compte le contexte d’usage d’un mot pour en “comprendre” le sens et proposer la bonne complétion de phrase ou le bon emoji.
Pour autant, Apple ne veut pas être vu comme un aspirateur de données personnelles sans foi ni loi. Son credo est le respect de la vie privée, et pour garder cette image la firme s’est lancée dans l’implémentation d’une technologie assez nouvelle : la « Differential Privacy » ou intimité différentielle.
Supprimer les noms ne suffit pas
Cette discipline mathématique a émergé en 2006 lorsque les chercheurs ont constaté le manque d’efficacité des techniques d’anonymisation de l’époque. Ce problème se pose notamment avec les bases de données médicales, relatives à certaines maladies. Le corps médical souhaite pouvoir analyser ces données pour en extraire des informations statistiques, sans que l’on puisse identifier les personnes qui constituent cette base. Effacer les noms ne suffit pas, car on pourrait retrouver la trace d’un individu en recoupant les résultats statistiques avec des bases tierces nominatives. Plusieurs chercheurs l’ont prouvé par le passé, en dé-anonymisant par exemple la base d’une assurance maladie.
C’est pour empêcher ce type d’attaques qu’a été inventée l’intimité différentielle. L’idée est de modifier le traitement des données en ajoutant du bruit mathématique, c’est-à-dire un signal aléatoire. Celui-ci permet de rendre l’identification des individus très difficile. Pour autant, comme c’est une information neutre, il est possible de l’intégrer de telle manière qu’il ne dénature pas les résultats statistiques.
Donc tout est bien qui finit bien ? Pas vraiment. Dans une note de blog, le cryptographe Matthew Green explique que cette pratique a des limites : plus on veut récupérer de résultats statistiques, plus il faut ajouter du bruit pour protéger les données individuelles ; mais plus on ajoute de bruit, moins ces résultats statistiques seront fiables ; à l’inverse, moins on ajoute de bruit, plus on risque la fuite de données personnelles. L’intimité différentielle n’est donc pas une solution miracle et elle est difficile à calibrer.
Paradoxalement, Apple pourrait bien copier Google
Comment Apple va-t-il implémenter cela ? Pour l’instant, c’est le grand mystère, Apple n’ayant pas donné de détails à ce sujet. Néanmoins, Matthew Green subodore – sur la base de déclarations de Craig Federighi, vice-président senior de l’ingénierie logicielle au sein du géant de Cupertino – que le constructeur s’est inspiré de la technique dite de « réponse aléatoire » : parfois la réponse envoyée est vraie, parfois elle est aléatoire. Google s’est appuyé sur cette technique pour créer un système de collecte de données d’utilisation de Chrome baptisé RAPPOR. Celui-ci mélange à la fois fonctions aléatoires et techniques de hachage pour anonymiser au maximum les données reçues par les internautes.
Une telle mise en œuvre de l’intimité différentielle pourrait garantir aux utilisateurs d’iOS la protection de leurs données personnelles. Les informations récupérées de cette manière ne pourraient pas être exploitées pour des requêtes portant sur des individus, que ce soit dans le cadre d’un ciblage publicitaire ou d’une enquête de la NSA. Enfin, en théorie du moins. Reste à voir comment tout cela se comportera dans la pratique.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
