Google fait le ménage dans les deepfakes explicites apparaissant dans ses résultats de recherche

Les outils permettant de créer des deepfakes sont à la portée du premier venu ; bien souvent, il suffit de télécharger une application sur son smartphone. Cette pratique défraie la chronique, comme on a pu s’en rendre compte avec le partage par Elon Musk d’un deepfake de Kamala Harris. Elle peut être carrément dommageable pour la santé mentale des victimes quand il s’agit de les représenter dans des situations explicites.

Lire Deepfake : comment repérer les images générées par l’IA ?

Google a développé un outil de signalement et de demande de suppression de deepfakes explicites non consensuels (à cette adresse). L’entreprise améliore son système ; désormais, lorsqu’une personne obtiendra la suppression de ce type de contenu explicite des résultats de recherche, Google va également « filtrer tous les résultats explicites sur des recherches similaires la concernant », explique Emma Higham, directrice produit.

Autrement dit, « nos systèmes scanneront et supprimeront les doublons de cette image que nous trouverons ». Ces protections avaient été mis en place pour le traitement d’autres images non consensuelles, elles sont maintenant activées pour les deepfakes explicites. Cela offrira une « tranquillité d’esprit supplémentaire aux personnes, en particulier si elles craignent que du contenu similaire à leur sujet n’apparaisse à l’avenir ».

Google apporte aussi des améliorations dans son système de classement pour les requêtes présentant un plus grand risque d’apparition de contenu explicite dans les résultats de recherche. Une mise à jour des classements réduira les contenus de type deepfakes explicites non consensuels pour de nombreuses recherches.

La représentante de Google donne cet exemple : pour les requêtes cherchant spécifiquement ce type de contenu et incluant des noms de personnes, « nous viserons à faire apparaître du contenu de haute qualité, non explicite — comme des articles de presse pertinents — lorsque disponible ». Les mises à jour déjà effectuées cette année ont réduit de plus de 70 % l’exposition aux résultats d’images explicites pour ce type de requêtes.