Lors du dernier trimestre 2020, 97% des discours de haine ont été bloqués automatiquement contre 94% au troisième trimestre de la même année et même 80,5% fin 2019. Une progression considérable dont se félicite aujourd’hui le directeur technologique de Facebook Mike Schroepfer. « Ce qui est si encourageant, c’est que tout le domaine de l’IA progresse sur une base mensuelle, ce qui entraîne des gains spectaculaires chaque année », écrit-il dans un communiqué.
49% des intimidations et harcèlement détectés
Il prend l’exemple des commentaires qui sont particulièrement difficiles à gérer parce qu’ils nécessitent de prendre en compte leur contexte. « Cela demandait une compréhension meilleure et plus profonde de la langue, ainsi que la capacité de combiner des analyses d’images, de texte et d’autres détails contenus dans un article », précise-t-il. Lors du premier trimestre 2020, les systèmes de Facebook n’avaient repéré que 16% du contenu d’intimidation et de harcèlement avant que quelqu’un ne les signale. Au dernier trimestre, ce nombre est passé à près de 49% sur Facebook et 80% sur Instagram.
Les outils de Facebook fonctionnent aussi de mieux en mieux dans d’autres langues que l’anglais, comme l’espagnol ou l’arabe. Grâce à cela, Mike Schroepfer affirme que la quantité de contenu de discours de haine qui a été supprimée a atteint 26,9 millions, contre 22,1 millions au trimestre précédent.
Mieux saisir les nuances culturelles
Comme le directeur technique nous l’avait déjà détaillé lors d’un entretien en fin d’année dernière, ces progrès sont dus à de nouveaux outils. Il y a Linformer, une architecture qui permet de former des modèles d’IA sur des morceaux de texte plus longs et plus complexes. Et aussi RIO, un système qui permet aux outils de modération d’apprendre et de s’améliorer constamment en fonction du nouveau contenu posté chaque jour.
Les efforts à venir vont porter sur une meilleure compréhension de toutes les langues, cultures et zones géographiques. Les mêmes mots peuvent souvent être interprétés différemment suivant l’endroit où ils sont publiés et la personne qui les lit. Des nuances particulièrement complexes à saisir pour une machine.
Source : Facebook
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
