Au mois de novembre dernier, des chercheurs de Google annonçaient avoir réussi à développer un système de reconnaissance d’images suffisamment intelligent pour comprendre le contenu d’une photo et en produire tout seul une légende. Ce pas de géant rapprochait brusquement les performances d’un ordinateur de celles d’un humain. Pas si simple. La MIT Review rapporte que des chercheurs des Universités de Cornell et du Wyoming sont parvenus à duper des machines avec des images truquées …
Des motifs géométriques confondus avec un gorille ou un masque de ski
Grâce au deep learning, il est possible d’apprendre à un ordinateur à reconnaître une guitare en lui montrant des millions de photos et en lui disant « c’est une guitare » chaque fois qu’une image de l’instrument apparaît. Au bout d’un certain temps, la machine sera capable d’identifier l’objet sans supervision, même dans des clichés qu’il n’aura jamais vus auparavant. Une méthode qui trouve des applications nombreuses en matière de reconnaissance faciale ou de vidéosurveillance.
Les chercheurs de Cornell et du Wyoming ont donc tenté d’utiliser un type de réseau neuronal artificiel appelé AlexNet qui a déjà obtenu de bons résultats en reconnaissance d’images. Ils ont généré des pixels de façon aléatoire pour faire créer de fausses images de guitare par une version du logiciel n’ayant jamais vu l’instrument. Puis, ils ont soumis ces créations à un autre réseau neuronal qui avait été, lui, entraîné à reconnaître l’objet.
Après des milliers d’essais, ce dernier a fini par considérer des motifs géométriques complètement abstraits comme d’authentiques guitares.. Cela prouve que le logiciel ne s’attache pas à reconstituer des détails structuraux, comme le nombre de cordes ou la forme du manche de l’instrument comme pourrait le faire un être humain. Au lieu de cela, il recherche des détails spécifiques en rapport avec la distance ou la couleur des pixels. La même expérience a été reproduite avec d’autres formes géométriques abstraites confondues tour à tour avec un bikini, un gorille ou un masque de ski !
Reste à savoir si des petits malins pourraient utiliser cette méthode pour abuser les algorithmes de reconnaissance d’images de service web comme le moteur de recherche de Google, par exemple. Pour cela, il faudrait connaître le fonctionnement propre à chaque logiciel et donc disposé de bonnes sources en interne…
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
