Comment mieux réguler Facebook ? L’une des pistes a été imaginée par Mark Harman, professeur en informatique à UCL et chercheur au FAIR (Facebook Artificial Intelligence Research) et son équipe. Ensemble, ils ont créé un nouvel outil baptisé le « simulateur WW » – dont le double « w » est une référence directe au World Wide web (WWW) fondé par Tim Bernes-Lee. L’ambition est manifeste.
Modérer les contenus et les contenants
Testé par le premier réseau social du monde, « le système tente de simuler des comportements nuisibles » afin de « mieux les combattre ». Le simulateur WW utilise la technologie baptisée le Web-Enabled Simulation (WES), une nouvelle méthode de Machine Learning élaborée par le FAIR pour créer des simulations d’interactions sociales réalistes et à grande échelle. Le WW en est l’application sur Facebook.
L’imitation des relations complexes dans un environnement défini permettra « d’améliorer les capacités de détection et de prévention, notamment en découvrant de nouveaux modèles de mauvais comportements que les systèmes traditionnels pourraient ne pas voir (usurpation d’identité ou crawling par exemple) », nous explique Mark Harman. « Cela nous aidera à rendre nos plates-formes plus sûres, plus stables, plus robustes et plus performantes […] Avec la méthode WES et notre simulateur WW, nous avons conçu une meilleure façon de relever ce défi important mais difficile. »
Ce nouvel outil pourrait impliquer un changement de paradigme dans la modération du réseau social : il ne s’agirait plus de lutter seulement contre les contenus des posts, images, vidéos publiés mais aussi d’analyser les interactions entre les utilisateurs – entre les « contenants » – y compris en privé.
« Facebook de robots »
Comment ? « Le WES utilise l’apprentissage automatique pour fabriquer des robots qui […] peuvent envoyer des messages à d’autres robots, commenter les messages d’autres robots, publier leurs propres contenus, ou faire des demandes d’amis à d’autres robots », écrit Mark Harman, dans son article de blog publié le 23 juillet 2020. « Par exemple, nous pouvons créer des robots qui cherchent à acheter des articles illicites sur la plate-forme, tels que des armes ou de la drogue. » Et ce, à l’échelle de « milliers, voire de millions de robots ».
En clair, le simulateur WW créé ex-nihilo un « Facebook de robots » – complètement isolé du vrai réseau social – sur lequel il est plus facile de détecter les comportements nuisibles et ainsi de savoir comment les appréhender, à terme, sur le « vrai » Facebook.
À quoi cela servirait-il ? Le simulateur WW pourrait à terme alléger, voire faciliter le travail des modérateurs humains, mais aussi des ingénieurs qui élaborent les algorithmes de régulation du réseau social, espère Mark Harman, toujours dans l’optique de rendre Facebook plus fiable et plus propre. Mais, il envisage aussi que d’autres plates-formes, d’autres réseaux, dans d’autres secteurs, s’en servent.
Prêt d’ici six mois à un an
Pour l’instant, le projet est encore en gestation. Les premiers résultats de recherche ont été présentés dans un article académique en octobre dernier. « Afin d’accélérer les progrès », l’équipe de chercheurs a sollicité des commentaires et jugements de la communauté scientifique. Ils ont récolté pas moins de « 85 mémoires de chercheurs venus de 17 pays différents » pour alimenter ce nouveau modèle intelligent – au terme d’une espèce d’appel à projets dans la communauté scientifique. Mardi 21 juillet, Mark Harman a présenté à la presse l’avancée de leur projet lors d’une télé-table-ronde.
Et ensuite ? Le système élaboré par l’équipe du FAIR devrait « entrer en production en 2021 » et pourrait donc être prêt d’ici « six mois – un an ». Enfin, comme l’ensemble des sujets étudiés dans le labo financé par Facebook, l’ensemble des travaux sera publié en Open source.
Un potentiel « énorme »
Dans tous les cas, l’engouement et l’enthousiasme palpable des chercheurs montrent que le champs de recherche ouvert par ces recherches dépasse largement Facebook.
« La construction d’environnements sophistiqués, en mode simulé, pose de nombreux défis scientifiques intéressants. Pour construire des robots qui se comportent de manière réaliste et intelligente, nous avons utilisé une combinaison de technologies et publié des recherches très variées », s’enthousiasme Mark Harman qui liste les domaines de recherche qui vont du langage informatique à la théorie des jeux, en passant par l’ingénierie logicielle.
Conséquence : « L’espace de recherche des mécanismes potentiels et la façon dont les comportements interagissent avec eux est à la fois énorme et complexe. » Une technologie prometteuse.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
