Le nouveau générateur d’images de ChatGPT continue de faire parler de lui. Peu après le déploiement de la fonctionnalité, de nombreux internautes se sont rendu compte qu’il était possible de générer de faux reçus et de fausses notes de frais. Avec GPT-4o, les utilisateurs peuvent concevoir des reçus de restaurant très réalistes, sans la moindre erreur de calcul des prix. Il est aussi possible de trafiquer un reçu existant, notamment en lui demandant de changer une date ou le montant d’une addition. Toutes ces opérations ne prennent que quelques secondes et ne nécessitent pas de compétences particulières en retouche d’images.
À lire aussi : ChatGPT n’arrête pas de ramer – le générateur d’images fait planter l’IA
Un faux passeport signé ChatGPT
Un chercheur polonais a été encore plus loin en créant un passeport avec l’aide de l’IA générative. Sur son compte X, Borys Musielak explique avoir demandé à ChatGPT de « créer une réplique » de son passeport qui soit capable de berner « la plupart des systèmes KYC automatisés ». Le chercheur fait référence aux technologies qui permettent d’identifier et de vérifier automatiquement l’identité des clients, souvent lors de l’inscription à un service bancaire, financier ou en ligne.
Il s’agit du processus de KYC (Know Your Customer), imposé pour lutter contre la fraude ou le blanchiment d’argent. Dans le cadre de la vérification, des outils automatisés analysent des documents d’identité, prennent des selfies pour la reconnaissance faciale ou croisent des données avec des bases officielles.
You can now generate fake passports with GPT-4o.
It took me 5 minutes to create a replica of my own passport that most automated KYC systems would likely accept without blinking.
The implications are obvious –any verification flow relying on images as “proof” is now officially… pic.twitter.com/SNnH8zYMGq
— Borys Musielak @ Warsaw (@michuk) April 1, 2025
La vérification par l’image, c’est « obsolète »
Comme l’indique Borys Musielak, il a fallu moins de cinq minutes pour concevoir une réplique que les systèmes de vérification automatiques « accepteraient probablement sans sourciller ». Pour le chercheur, les possibilités offertes par ChatGPT changent la donne pour de nombreux systèmes de vérification de l’identité.
« Tout processus de vérification s’appuyant sur des images comme « preuve » est désormais officiellement obsolète. Il en va de même pour les selfies. Qu’ils soient statiques ou vidéo, peu importe », avance Borys Musielak.
Dorénavant, n’importe qui peut falsifier n’importe quoi en un temps record. Tous les processus qui reposent sur les photos sont donc révolus, estime le chercheur. Les plateformes financières qui reposent sur l’envoi d’un selfie et d’un document d’identité, comme Revolut, N26, Coinbase ou Binance, peuvent être dupées par ChatGPT. Par contre, l’absence d’une puce sur le passeport falsifié ne passera pas un examen approfondi. Un humain se rendra compte de la supercherie.
L’expert estime que les portefeuilles eID (pour electronic IDentification), qui permettront aux citoyens de stocker leurs documents d’identité, permis de conduire, diplômes ou moyens de paiement de manière sécurisée sur leur smartphone, sont l’une « des seules voies viables » dans un monde qui tient compte de l’IA.
Nous avons tenté de reproduire l’expérience de Borys Musielak en réalisant une copie de notre propre passeport et de notre carte d’identité. ChatGPT a fermement refusé d’obéir, assurant « ne pas pouvoir fournir de copie de documents d’identité officiels ». Cela inclut « toute reproduction, même à des fins personnelles, en raison de la législation sur la protection des données et la prévention de la fraude ».
« Les documents d’identité (comme les cartes d’identité, passeports, etc.) sont strictement encadrés par la loi. Les copier, reproduire ou falsifier, même partiellement, peut être illégal. Cela sert à éviter les fraudes, comme l’usurpation d’identité. Les cartes d’identité contiennent beaucoup de données personnelles sensibles : nom, photo, numéro de registre national, etc. Je suis conçu pour protéger ta vie privée. Traiter ou stocker ces infos va à l’encontre de cette mission. Une copie, même numérique, peut être utilisée de manière frauduleuse. Pour éviter tout risque (même involontaire), je ne peux pas générer ou aider à reproduire ce genre de document », explique ChatGPT.
Il est possible que le chercheur se soit servi d’une requête bien calibrée pour contourner les mécanismes de sécurité d’OpenAI. La start-up pourrait également avoir colmaté une brèche dans le fonctionnement de son générateur, qui est toujours très aléatoire depuis sa mise en ligne. Selon nos constatations, ChatGPT accepte parfois de générer des images que ses restrictions interdisent… avant de rétropédaler. Dans d’autres cas, l’IA refuse de produire des images et d’accéder à des requêtes autorisées.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
