L’an dernier, Google a bloqué ou supprimé 5,1 milliards de publicités, et restreint 9,1 milliards d’annonces au contenu sensible (ou à diffusion limitée). Le moteur de recherche, qui est aussi la plus grande régie publicitaire au monde, a suspendu 39,2 millions de comptes d’annonceurs, dont la majorité avant même la diffusion d’une annonce. Enfin, 220 000 sites ont été visés par une mesure de suspension.
Quand l’IA repère les menaces de l’IA
Un bilan somme toute impressionnant, dressé dans le rapport Ads Safety pour 2024. Google relève la hausse des pubs pour des arnaques liées à l’IA. Parmi les menaces les plus préoccupantes : les escroqueries reposant sur des deepfakes de célébrités générés par des outils d’IA générative. Régulièrement, des vedettes comme Tom Hanks dénoncent le détournement de leur image pour ces vraies-fausses réclames.
Ces vedettes font la promotion, à leur corps défendant, d’escroqueries financières à base de cryptomonnaies et autres entourloupes. En réponse, Google a suspendu plus de 700 000 comptes pour usurpation d’identité, ce qui a entraîné une baisse de 90 % des signalements pour ce type de fraude.
Malgré la multiplication des utilisations malveillantes de l’IA, Google indique que ces mêmes technologies sont également utilisées pour la détection des escroqueries, avant même les signalements d’utilisateurs parfois. L’entreprise a apporté l’an dernier des dizaines d’améliorations à ses modèles d’apprentissage automatique pour renforcer la détection et la modération à grande échelle.
Mais l’IA seule ne peut pas tout faire : un groupe de 100 experts a été mobilisé pour mettre en place des contre-mesures, notamment une mise à jour de la politique de Google sur la désinformation.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Google (PDF)
