Anthropic a mis en ligne mardi 3 novembre un travail de recherche accompagné de son code en open source : FlashProve, un système conçu pour prouver qu’une réponse provient bien d’un modèle d’IA donné. Le laboratoire parle d’« inférence prouvable » : chaque réponse peut être rattachée cryptographiquement au modèle qui l’a produite, à la manière d’une signature au bas d’une lettre. L’entreprise prévient d’emblée qu’aucun déploiement n’est prévu, chez elle comme ailleurs.
Comment établir la carte d’identité d’un modèle ?
Le dispositif repose sur une empreinte que chaque laboratoire publierait pour chacun de ses modèles, et à laquelle n’importe quelle réponse pourrait ensuite être confrontée. Cette empreinte ne dévoile rien des poids, les réglages internes qui concentrent la valeur d’un modèle et que l’industrie garde sous clé. Les acteurs les plus fermés (OpenAI est cité en exemple) pourraient donc jouer le jeu sans ouvrir leurs coffres. Le parallèle le plus parlant vient de la messagerie : ces signatures numériques qui confirment au destinataire l’identité de l’expéditeur d’un e-mail. La vérification se veut enfin assez légère pour s’exécuter sur un simple appareil local, l’ordinateur d’un particulier compris.
Un fournisseur pourrait aujourd’hui glisser en douce un modèle moins coûteux derrière un abonnement facturé plein tarif, ou gonfler un classement en faisant plancher un modèle plus puissant que celui annoncé. FlashProve rendrait la supercherie détectable. L’été a d’ailleurs fourni un cas d’école, quand des services tiers faisaient passer les réponses de Claude pour celles de DeepSeek ou de Kimi, avant d’être confondus par Anthropic. « Comment un utilisateur peut-il vérifier ces affirmations ? » : la question posée par les chercheurs vise jusqu’aux audits de sécurité que des agents d’IA affirment avoir menés. Au moment de payer la prestation, rien ne distingue aujourd’hui le grand modèle promis d’un remplaçant au rabais.
Pourquoi personne ne compte s’en servir pour l’instant ?
Anthropic qualifie l’ensemble de « progrès intermédiaires, et non un programme de recherche achevé », et n’annonce aucun projet de mise en service, pas même pour ses propres modèles. La spécification technique et le code sont publiés sur GitHub sous licence libre ; le laboratoire dit les partager pour que d’autres équipes bâtissent dessus, concurrents compris.
La piste prolonge un chantier entamé cet été, quand l’entreprise détaillait l’étiquetage des textes générés par Claude et promettait un détecteur accessible à tous. L’étiquetage dit d’un texte qu’une IA l’a écrit ; l’empreinte de modèle monte d’un étage et désigne laquelle. Concrètement, un abonné pourrait un jour lancer la vérification depuis sa machine et confirmer que la réponse facturée au prix du dernier modèle en provient bien.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.
Source : Anthropic
