Après les faux coups de fil de Joe Biden pendant la primaire du New Hampshire du mois dernier, une autorité américaine vient d’interdire les appels automatisés contenant des voix générées par intelligence artificielle. Il s’agit de la toute première mesure prise outre Atlantique pour lutter contre l’utilisation de l’IA dans un contexte de campagne électorale, à neuf mois de l’élection présidentielle qui aura lieu dans le pays. L’annonce, relayée jeudi 8 février par Associated Press, a été faite par la Commission fédérale des communications, la FCC.
Cette autorité a décidé d’interdire ces « appels téléphoniques non sollicités pour arnaquer des membres vulnérables de la famille, pour imiter des célébrités et pour désinformer les électeurs », a précisé Jessica Rosenworcel, la présidente de la FCC, dans un communiqué publié le 8 février. Car « nous pouvons tous être victimes de ces coups de fil », a reconnu la responsable, évoquant l’utilisation de l’IA à des fins de manipulation de l’opinion, mais aussi à des fins d’arnaques.
Un consentement exprès désormais indispensable
Plusieurs cas d’escroqueries, dans lesquels la voix d’une personne a été générée par l’IA pour extorquer de l’argent à des proches, ont fait la Une des médias outre Atlantique. Désormais, « les appels utilisant cette technologie pour simuler une voix humaine sont illégaux, à moins que les appelants n’aient obtenu un consentement exprès préalable. Cela signifie également que lorsque ces appels se produisent, les procureurs généraux des États à travers le pays peuvent attaquer (ceux qui sont) derrière ces appels automatisés et demander des dommages-intérêts en vertu de la loi », détaille cette dernière.
Jusqu’à présent, il était possible de rechercher les auteurs de ces coups de fil s’il y avait eu une escroquerie ou une fraude. Avec cette nouvelle loi, le seul fait de passer un coup de téléphone en utilisant une voix générée par l’IA est passible de poursuites. Pour la présidente de la FCC, les autorités du pays « ont désormais à disposition de nouveaux outils pour réprimer ces escroqueries et assurer la protection du public contre la fraude et la désinformation ».
À lire aussi : Quand l’IA permet de multiplier les deepfakes politiques
Une règle applicable immédiatement, sous peine de sanctions
La règle est applicable immédiatement : elle permettra à la FCC d’infliger des amendes à tous ceux qui utilisent des voix générées par l’IA dans leurs appels. Elle permettra aussi aux procureurs généraux et aux victimes de poursuivre les contrevenants, explique l’autorité. Concrètement, la facture pour les auteurs de ces messages pourrait être salée : elle pourrait atteindre les 21 000 euros par appel. Les destinataires de ces appels seraient susceptibles d’être indemnisés à hauteur de 1 390 euros, pour chaque coup de téléphone reçu.
Comme nous vous l’expliquions fin janvier, il est courant, aux États-Unis, de recevoir sur son téléphone des appels préenregistrés de candidats à l’élection présidentielle : une brèche dans laquelle se seraient engouffrées des personnes cherchant à perturber la primaire démocrate, qui avait lieu le 23 janvier dernier dans le New Hampshire. Quelques jours avant le vote, des électeurs ont entendu au bout du fil Joe Biden, le président sortant démocrate, déclarer : « Ce ne sont que des balivernes. Votre vote fera la différence en novembre, pas ce mardi ». Le chef d’État américain invitait les électeurs à ne pas aller voter : des mots qu’il n’a jamais prononcés, et qui ont été générés par l’IA. Selon le procureur général du New Hampshire, qui a ouvert une enquête, l’appel automatisé pourrait provenir d’une société basée au Texas.
Pas de loi fédérale à ce jour sur le sujet
Avec les outils d’IA générative accessibles à tous et pour l’instant quasi gratuits, il est désormais facile, rapide et bon marché de créer des contenus « de désinformation personnalisée ». On se souvient de la vidéo destinée à mettre hors circuit Joe Biden, dépeignant un futur apocalyptique en cas de réélection du président démocrate, ou encore de la voix générée de Donald Trump destinée à le dénigrer. À mesure que les primaires américaines se sont rapprochées, les cas se sont multipliés, et les craintes d’utilisation de l’IA à des fins de manipulation sont montées crescendo.
À lire aussi : L’IA va pourrir le débat politique, et nous n’avons aucun outil pour nous en prémunir
Et bien qu’il ait été question de règlementer l’IA pendant cette campagne électorale, aucun consensus n’a pour l’instant émergé au sein du Congrès. À neuf mois de l’élection présidentielle américaine, aucune loi au niveau fédéral n’a été adoptée. Cette première mesure, bien que limitée aux appels automatisés, pourrait en annoncer d’autres.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Associated Press
