Pas facile de déterminer si une photo est vraie, si elle a été retouchée ou tout simplement générée par IA. L’industrie va plus vite que la musique, en mettant à disposition du grand public des fonctions extrêmement puissantes pour éditer ou générer des images, sans proposer en parallèle un outil commun pour signaler qu’un visuel a été modifié ou créé de toutes pièces.
Une meilleure traçabilité des images
Chacun est parti dans son coin avec des projets de filigrane, comme le SynthID de Google, mais il existe aussi des initiatives communes comme la Coalition for Content Provenance and Authenticity (C2PA). Cette organisation regroupe Amazon, Microsoft, Adobe, Arm, OpenAI, Intel, Truepic et donc Google. Elle travaille à la mise en place d’une technologie de traçabilité des images.
La dernière version 2.1 du standard Content Credentials, à laquelle le moteur de recherche a contribué, se veut plus sécurisée contre des attaques visant à falsifier la provenance des images. Il s’agit de s’assurer que les données associées aux photos ne soient « ni altérées, ni trompeuses », explique Google.
Le développement d’un standard commun, c’est très bien mais sa mise en œuvre, c’est encore mieux. Les résultats de recherche d’images dans Google vont permettre aux internautes de consulter les métadonnées C2PA associées à un visuel en cliquant sur le menu « À propos de cette image ». Ce sera la même chose pour les visuels des publicités Google Ads. Le tout sera visible dans les prochains mois… sous réserve que les images intègrent ces fameuses informations.
Concrètement, en consultant les métadonnées Content Credentials d’une image, on saura si elle a été prise avec un appareil photo, ce qui élimine la probabilité d’une image générée par IA. Et si une image a été retouchée, les informations relatives à cette modification peuvent être incluses dans les métadonnées de provenance.
Google va également plancher sur la possibilité de relayer ces métadonnées aux utilisateurs de YouTube. Comme sur Google Images et Ads, ils seront alors en mesure de savoir avec quel appareil photo une image a été prise. Seuls Leica et Sony supportent le standard C2PA pour le moment, ce qui en limite beaucoup la portée. Nikon et Canon ont cependant annoncé leur volonté d’intégrer des métadonnées Content Credentials dans leurs appareils photo.
Pour bien faire, il faudrait qu’Apple et Google prennent eux aussi en charge le standard C2PA : les smartphones iOS et Android sont les appareils photo les plus populaires sur la planète, de très loin. D’ailleurs, dans ce domaine Google a sa part de responsabilité : les Pixel 9 se montrent en effet particulièrement doués pour trafiquer la réalité.
Lire L’inquiétante réalité alternative des photos bidouillées par l’IA des Pixel 9
Mais ça n’est pas tout ; les éditeurs logiciels aussi doivent remplir leur part du contrat. C’est le cas d’Adobe dans Photoshop et Lightroom, dans lesquels on peut ajouter des métadonnées Content Credentials, mais pas encore dans Affinity Photo ou Gimp.
En résumé, si ce standard part d’une bonne intention, il reste encore beaucoup de chemin à faire pour que cette solution s’impose à tous les niveaux. Google encourage d’ailleurs les autres plateformes et les constructeurs à adopter Content Credentials. L’entreprise poursuit aussi son travail sur le filigrane SynthID pour étiqueter les images, vidéos, contenu audio et texte générés par IA.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Google
