Vous avez certainement vu passer ces images truquées du pape François en doudoune blanche ou de la fausse arrestation de Donald Trump créées grâce à Midjourney. Joe Biden, Emmanuel Macron, Vladimir Poutine, quasiment aucun homme politique n’échappe aux outils d’IA qui permettent de créer instantanément de fausses images, simplement en tapant du texte.
Mais vous aurez beau chercher, vous pourrez difficilement trouver une photo impliquant « Xi Jinping » ou le « président chinois ». Non, l’entreprise a décidé de supprimer la possibilité de travailler sur l’image du leader chinois. Pourquoi ? « Pour éviter les drames », a très sérieusement répondu le fondateur et PDG de la société, David Holz, dans un message sur le service de chat Discord cité par le Washington Post. Car « la satire politique en Chine est plutôt mal vue », a-t-il ajouté.
En l’absence de lois, c’est Midjourney qui décide
Midjourney, créée il y a près d’un an, est toujours une petite structure, malgré son ascension qui, en quelques mois, lui a permis d’acquérir près de 13 millions de membres. Les effectifs n’auraient pas suivi : son équipe juridique et financière ne serait composée que de deux personnes. Celle en charge de la modération d’une cinquantaine de salariés. On trouve huit personnes pour la R&D, et cinq personnes pour la direction. Et le fait qu’elle ait préféré ne pas attirer l’ire du gouvernement chinois n’est pas sans rappeler les premiers temps des réseaux sociaux. À l’époque, il existait très peu de règles relatives à la modération. Sur les plateformes régnaient encore plus qu’aujourd’hui la désinformation, voire l’ingérence étrangère. Mais cette fois, les choses sont encore plus graves, expliquent nos confrères.
Car ces outils d’IA impliquent des personnes réelles, et les images peuvent avoir des impacts encore plus importants que des mots sur les réseaux sociaux. Or, en l’absence de règles uniformes imposées par le régulateur, comme c’est le cas aujourd’hui, ce sont les entreprises, et donc Midjourney, qui décide de ce qui est permis ou pas.
De l’or en barre pour la propagande
Dans ce secteur des images modifiées par l’IA, il existe aujourd’hui trois acteurs dominants : Midjourney, Stable Diffusion et Dall-E. Et ils obéissent tous les trois à des règles différentes. Par exemple, la dernière interdit l’utilisation d’images d’hommes politiques, ou la création de photos liées à des événements géopolitiques majeurs en cours – ce qui est assez large. Chez Stable Diffusion, il existe peu de règles. Et chez Midjourney, on est dans l’entre-deux. Sont notamment interdites les images sanglantes et les messages textes qui sont « intrinsèquement irrespectueux, agressifs ou autrement abusifs ».
Or, l’absence d’outils qui permettraient de distinguer une véritable photo d’un cliché généré par un ordinateur, couplée à l’absence de lois qui limitent l’utilisation de ces trois IA, fait que cette technologie pourrait créer des fake news, avec cette fois photos à l’appui. De quoi brouiller notre perception de la réalité, puisque rien ne distinguerait les images réelles de celles générées par l’IA. « C’est de l’or en barre pour la propagande », conclut Seb Diaz, un utilisateur de Midjourney, interviewé par nos confrères.
À lire aussi : Le bouclier contre les images produites par les IA existe et il faut le brandir au plus vite
« Les images deviennent de plus en plus réalistes et les outils de plus en plus puissants »
Et le patron de Midjourney, David Holz, est bien conscient que l’entreprise se trouve à un tournant. Lors d’une session de l’entreprise sur Discord mercredi 29 mars, le PDG a expliqué ne pas savoir quoi trop en penser, être dans un entre deux, en particulier lorsque les images impliquent des personnes réelles. Il a reconnu que « les images deviennent de plus en plus réalistes et les outils de plus en plus puissants ». L’entreprise travaillerait à l’amélioration des outils de modération de l’IA qui permettraient à détecter les « comportements répréhensibles ». Sans pour autant définir ce que « répréhensibles » signifierait.
Le PDG a, dans tous les cas, du pain sur la planche. Sa règle censée interdire les images du leader chinois a facilement été contournée par des utilisateurs. Ces derniers ont simplement utilisé d’autres mots pour décrire le leader chinois. Un site taïwanais propose même un guide sur comment utiliser Midjourney pour « se moquer » de Xi Jinping.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : The Washington Post
