La commission « IA générative et vulnérabilités » a remis mardi 10 novembre à Emmanuel Macron un rapport de 177 pages, fruit de 55 auditions menées depuis février. Ses neuf experts, emmenés par la chercheuse en IA Serena Villata et les psychiatres Raphaël Gaillard et Amine Benyamina, y formulent 18 recommandations. Le document s’intitule « Protéger sans empêcher ».
Un examen d’entrée inspiré du médicament
La mesure la plus lourde conditionnerait la mise sur le marché des systèmes d’IA générative grand public, puis leur maintien, à une évaluation pluridisciplinaire préalable de leurs impacts. La mesure vise les seuls services destinés au grand public, ChatGPT et Gemini en tête ; les outils professionnels y échapperaient. Amine Benyamina assume la filiation pharmaceutique en défendant une véritable « autorisation de mise sur le marché ».
Le rapport réclame aussi un accès des autorités et de chercheurs agréés aux données d’entraînement, d’usage et de monétisation des modèles, ainsi qu’un « protocole national de réponse aux crises informationnelles liées à l’IA ». Les auteurs assurent ne pas « vouloir mettre un boulet au pied de l’économie française ni européenne » et pressent le chef de l’État de « prendre des décisions ». Celui-ci jugeait la veille, dans un entretien, qu’il fallait « interdire » l’IA partout où elle présente un risque pour les enfants.
« L’affaiblissement cognitif », première crainte des psychiatres
« Le premier enjeu est l’affaiblissement cognitif. C’est attractif, on y délègue des compétences. Puisqu’on y délègue des compétences, on ne les acquiert pas », résume Raphaël Gaillard, qui y voit un problème pour les jeunes comme pour le reste de la population. Son confrère Amine Benyamina parle d’une « dette cognitive », contractée à force de confier réflexion, décision et esprit critique à la machine.
La flagornerie des agents conversationnels, cette propension à flatter l’utilisateur au détriment de la vérité, figure parmi les mécanismes à encadrer dès la conception, au même titre que l’anthropomorphisme. « On crée un registre de relations émotionnelles qui peut avoir vocation à se substituer à l’interaction » humaine, décrit Raphaël Gaillard. Le psychiatre y voit « un système disponible en permanence, qui n’a pas d’autre intention que de vous garder en ligne ». Le rapport demande en parallèle des protections dédiées aux mineurs et un durcissement de la répression des contenus sexuels non consentis et pédocriminels générés par IA.
33 millions de personnes ont utilisé l’IA générative en France en début d’année, d’après le document, qui situe le pays au cinquième rang mondial des usages. Le rapport avancerait aussi que 73 % des Français s’informent désormais par ce biais, face à des contenus jugés 50 % plus persuasifs qu’un article de presse. Attendues pour mai dans la lettre de mission, ces conclusions auront mis six mois de plus à aboutir. « Si on ne prend pas ces décisions », prévient Raphaël Gaillard, l’externalisation cognitive, la dépendance affective et les dérives informationnelles, « on les subira ». Aucun arbitrage n’a été annoncé à ce stade.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : BFM
