Google vient de faire un pas supplémentaire en direction d’IA respectueuses de la confidentialité des données personnelles. La société a annoncé ce 6 mars dans un billet publié sur Medium que son module TensorFlow pourra désormais utiliser la confidentialité différentielle pour entraîner l’apprentissage automatique.
TensorFlow Privacy est une bibliothèque open source qui permet aux développeurs d’entraîner leurs modèles tout en préservant la confidentialité des données de ceux qui les fournissent, sans forcément maîtriser les tenants et aboutissants mathématiques spécifiques à la confidentialité différentielle. Cette approche mathématique permet globalement de distinguer le contenu des données de l’identité de la personne qui les génère. De fausses données sont ainsi introduites pour brouiller les pistes, tout en préservant l’intégrité des données intéressantes pour le deep learning.
Une IA centrée sur les appareils
Ce système est déjà utilisé par Google dans la fonction Smart Reply de Gmail. Cette intelligence artificielle, qui génère des réponses automatiques à la place de l’utilisateur, s’opère directement sur l’appareil et non pas en ligne sur les serveurs de Google, comme c’est le cas pour son Assistant.
C’est aussi cette approche qu’utilise Apple – qui a fait de la protection des données son fer de lance – depuis iOS 10. Cela permet à ses services et applications d’utiliser des systèmes d’intelligence artificielle sans pour autant collecter des données de manière nominative.
Eviter l’utilisation de données confidentielles
Cette approche centrée sur l’appareil de l’utilisateur plutôt que l’ensemble des données collectées par un service permet aussi d’éviter certaines situations délicates.
Comme l’explique The Verge, si la fonctionnalité Smart Reply était basée sur les réponses de tous les utilisateurs de Gmail, les suggestions pourraient reprendre mot pour mot un texte écrit par une autre personne ; donnant ainsi un accès à ces données à un tiers.
Enfin, TensorFlow Privacy répond à une tribune publiée par le P.-D.G de Google Sundar Pichai en juin 2018. Il y défendait notamment les principes de la société californienne sur l’intelligence artificielle. Parmi eux figurait notamment l’incorporation de principes de conception respectueux de la vie privée. Le patron de la marque s’y engageait notamment à encourager « les architectures avec des garanties de confidentialité et fournir une transparence et un contrôle appropriés sur l’utilisation des données ».
Source :
Medium
A lire aussi :
Google accélère la dictée vocale de son Gboard grâce à une IA embarquée sur nos smartphones
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
