OpenAI a révélé dans un nouveau rapport sur la sécurité la suppression de plusieurs comptes de ChatGPT utilisés par des réseaux basés en Chine. Un d’entre eux servait à générer des articles en langue espagnole dénigrant les États-Unis. Ils étaient publiés dans des médias grand public en Amérique latine, et signés par une entreprise chinoise.
L’IA sous influence
D’autres acteurs malveillants, cette fois liés à la Corée du Nord, ont exploité l’IA de ChatGPT pour générer des CV et des profils en ligne de candidats fictifs, afin de décrocher frauduleusement des emplois dans des entreprises occidentales. Un autre réseau, connecté semble-t-il à une opération de fraude financière au Cambodge, se servait de cette technologie pour traduire et générer des commentaires sur les réseaux sociaux comme X (anciennement Twitter) et Facebook.
OpenAI a également banni un ensemble de comptes utilisant ses modèles IA pour surveiller les conversations en ligne sur les réseaux sociaux, afin d’identifier les discussions sur des sujets sensibles liés à la Chine, notamment les appels à des manifestations sur les droits de l’homme. Les informations recueillies dans plusieurs pays (États-Unis, Royaume-Uni ou encore Allemagne) éteint manifestement destinées aux autorités chinoises.
ChatGPT est censé être indisponible en Chine, OpenAI ayant bloqué ses services l’été dernier. Mais Microsoft continue de proposer le modèle via Azure, sa plateforme cloud. Les autorités américaines ont déjà dit craindre l’utilisation par la Chine de l’IA pour réprimer la population et diffuser de la désinformation.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Reuters
