Débats polarisés, deepfakes, thématiques artificiellement poussées sur les réseaux sociaux… Ce mardi 7 janvier, les équipes de Viginum, cette agence de lutte contre les ingérences étrangères et la manipulation de l’information, recevaient la visite de Clara Chappaz, la ministre déléguée à l’intelligence artificielle (IA) et au Numérique.
« Pour des raisons de sécurité », aucun journaliste n’a pu assister au déplacement. Le service, rattaché au secrétariat général de la Défense et de la Sécurité nationale (SGDSN), a la mission de détecter et d’analyser sur les plateformes en ligne les campagnes de manipulation de l’information bien particulières : « celles qui impliquent des acteurs étrangers et qui visent à déstabiliser les intérêts fondamentaux de la nation ».
La veille, un brief était organisé en amont pour la presse. L’occasion d’apprendre que la ministre compte s’assurer, lors de sa visite, « du niveau et de la robustesse des moyens de Viginium », en échangeant notamment avec les data scientists et le « data lab » du service. Pour les équipes, il s’agissait aussi de mettre en avant les missions défensives de leur service souvent méconnu du grand public.
Ni un service de renseignement, ni un service de police judiciaire
Viginum, décrit comme le « bras armé des pouvoirs publics », ou encore le « bouclier français des ingérences étrangères », n’est ni « un service de renseignement », ni « un service de police judiciaire qui peut faire des réquisitions », a rappelé Marc Antoine Brillant, à la tête de l’agence. L’entité cherche à être « au fait de ce que font les adversaires étrangers » avec, à chaque fois, l’idée « d’y mettre une parade », souligne le chef du service. Son rôle n’est donc pas de se prononcer sur des faits, mais d’identifier « les modes opératoires, les techniques de diffusion (de fausses informations sur les plateformes) utilisées par des acteurs étrangers, étatiques ou pas », poursuit le directeur de Viginum.
Le travail d’investigation en ligne est effectué au profit de l’Arcom, et au nom de la Commission européenne. Depuis le DSA, le règlement européen sur les services numériques, les plateformes comme X, YouTube, Instagram ou encore TikTok doivent en effet respecter « des obligations renforcées de modération, et de suppression des informations manipulées ». Elles doivent aussi « limiter la viralité des campagnes de fausses informations, mettant à mal nos démocraties », rappelle l’entourage de la ministre. Et le rôle de Viginum est justement de « documenter et d’objectiver les insuffisances ou limites de ces plateformes », de quoi donner de la matière aux enquêtes en cours menées par la Commission européenne.
Faire le point sur la coopération des plateformes
Le service a mis en place « des canaux de communication » avec les principales plateformes comme YouTube, X, Instagram. « On leur partage des éléments de détection, et eux nous font des réponses en fonction de ce qu’ils veulent bien nous dire », détaille Marc Antoine Brillant.
L’un des enjeux de la visite était aussi de faire le point sur la coopération actuelle des plateformes, et sur la manière dont elles peuvent améliorer ce niveau de coopération. « Il y a des questions qui se posent en termes d’accès aux données, d’API, notamment, et sans les citer nommément, il y a une forme encore d’hétérogénéité (entre les différentes plateformes) », explique l’entourage de la ministre. « Nous attendons des plateformes une coopération pleine et entière avec les autorités compétentes. Il en va de leur responsabilité au titre du DSA et de la protection de nos démocraties », a déclaré la ministre Clara Chappaz dans un communiqué publié ce mardi.
Sur les 16 mois écoulés, huit campagnes identifiées
Concrètement, Viginum détecte « entre 230 et 300 phénomènes par an », qui aboutissent au constat de « plusieurs dizaines d’ingérences numériques étrangères ». Lesquelles ? « Sur les 16 mois écoulés, on a dénoncé dans différents rapports, avec nos camarades du ministère de l’Europe et des Affaires étrangères, huit campagnes qui ont visé le débat public français. Les deux acteurs (…) les plus agressifs (…) (sont) sans surprise des acteurs pro-russes et des acteurs pro-azerbaïdjanais ».
Le directeur de Viginum est d’ailleurs revenu sur les trois grands usages malveillants de l’IA, observés dernièrement. Des outils en open source d’IA générative sont utilisés pour générer « du contenu faux crédible, très réaliste », ce qu’on appelle des deepfakes. L’IA permet aussi de « créer des comptes inauthentiques mais très réalistes », ou encore « de diffuser d’une manière massive des contenus sur plusieurs plateformes », souligne-t-il.
Une certaine volonté « de nos adversaires de diluer l’information manipulée dans l’opinion »
Pour les détecter, Viginum s’est doté, depuis sa création en juillet 2021, d’un « pôle d’excellence en data science et donc en intelligence artificielle ». Le service a développé des outils qui se basent sur des programmes informatiques et des calculs statistiques. Ces derniers « permettent dans un débat autour, par exemple, d’un mot-clé, d’un hashtag, de pouvoir détecter le nombre de bots ou de trolls ». D’autres outils maison sont utilisés pour « remonter à des primo-diffuseurs de contenus. » Des systèmes « permettent aussi de détecter la duplication de contenus qui aurait été basée sur l’intelligence artificielle », détaille Marc Antoine Brillant.
Mais aujourd’hui, le service doit faire face à un défi de taille : celui « de distinguer ce qui relève du débat synthétique (créé par l’IA à des fins de manipulation, NDLR) du débat authentique ou naturel », ajoute le dirigeant. Le chef de service constate une certaine volonté « de nos adversaires de diluer l’information manipulée dans l’opinion. Et un des moyens de diluer cette information manipulée dans l’opinion (…) est probablement, à terme, de recourir davantage à l’IA, c’est-à-dire au contenu synthétique ».
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
