C’était à prévoir, les IA génératives sont d’ores et déjà utilisées pour concevoir des logiciels malveillants à la vitesse de l’éclair. Et c’est inquiétant.
Dans un billet de blog publié il y a quelques jours, Check Point Research sonne l’alarme : les cybercriminels ont, eux aussi, pris conscience de l’intérêt du puissant outil d’OpenAI et l’utilisent d’ores et déjà pour concevoir de nouveaux malwares. Pire, peut-être : les individus qui travaillent sur ces programmes ne sont pas des développeurs aguerris… Plutôt des script kiddies, qui compensent leurs faiblesses en code par les prouesses de ChatGPT.
Vol de fichiers, ransomware : quand ChatGPT aide les cybercriminels
Sur un forum fréquenté par les cybercriminels pointé du doigt par Check Point, on peut ainsi découvrir les travaux de plusieurs « pirates » qui ont profité du service d’OpenAI pour des projets funestes. L’un d’entre eux a par exemple développé, grâce au bot, un logiciel capable de dérober des fichiers sur une machine (un stealer) Windows. Il est en mesure de scanner l’ordinateur à la recherche de 12 types de fichiers précis (PDF, images, documents Office…) puis de les zipper dans un fichier protégé par un mot de passe, avant de l’envoyer dans le cloud. C’est un malware très basique pour le moment, mais l’individu écrit qu’il n’en est qu’au début de ses recherches, et qu’il compte améliorer son programme afin, notamment, de lui permettre d’échapper à la surveillance des antivirus.
Sur le même forum, un autre pirate est parvenu à concevoir un script Python capable de chiffrer et de déchiffrer des fichiers à la volée. Un code que Check Point estime « bénin » en l’état, mais qui pourrait être aisément transformé en outil de ransomware.
Une aubaine pour le phishing
Les idées fusent, en tout cas : certains l’utilisent aussi dans l’idée de créer en quelques clics une boutique pour biens illégaux sur le Dark Web, ou encore pour générer de faux contenus (e-books, formations…) qu’ils vont ensuite vendre sur la Toile. ChatGPT est aussi un excellent moyen de concevoir des courriels de phishing d’une qualité irréprochable dans la langue ciblée par le pirate. Vous voulez un faux courrier de relance EDF dans un français tout à fait correct ? ChatGPT peut vous écrire ça en quelques secondes.
Oui, les codes malveillants mentionnés ci-dessus sont plutôt basiques et feraient sourire n’importe quel expert en sécurité. Mais le souci est ailleurs. En facilitant la création de code malveillant comme la création de mails de phishing, ChatGPT va offrir à des cybercriminels peu qualifiés de nouvelles opportunités pour dérober et chiffrer vos fichiers… ou vous arnaquer d’une façon ou d’une autre. Et c’est une très mauvaise nouvelle.
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : Check Point Research
… ! quel crétin pourrait se laisser avoir par ce genre de courrier d’EDF ! J’ai utilisé ChatGpt… et franchement, bcp de textes générés sont du niveau d’un lycéen attardé…
Je dis pas qu’il a tout bon sur toute la ligne mais dire de ChatGPT3 que c’est une IA d’un niveau lycéen attardé me parait exagéré, vous ne seriez pas capable de répondre à 1% des questions qu’on lui pose vu que “0.6%” de sa base d’apprentissage c’est le Wikipedia anglophone complet. Alors ok il est pas au niveau dans certains cas pour l’instant. Mais c’est grace aux utilisateurs qu’il va devenir plus fort comme un enfant qui apprend.Ceci dit n’empêche que pour faire du code, il est rapide et plutôt efficace faut parfois reformuler, affiner ect mais c’est relativement puissant. Aveez vous essayer Copilot pour coder ? C’est vraiment puissant! Je suis pas sur que beaucoup d’humains tiendront la cadence dans les années à venir. Je le répète trop souvent nous ne servirons bientôt à RIEN car nous seront obsolètes (oui certains vont rire au début mais se raviseront trop tard peut-être) . Et chatGPT3 c’est la partie de l’iceberg que vous voyez …les IAs vont nous massacrer dans tous les domaines et vite…juste un exemple trouvez moi un humain qui rivalise aux échecs ou au Go. Ça fait déjà des années (environ 20) que nous n’avons plus aucune chance même Magnus Carlsen ne peut pas tenir…question de temps mais tous les secteurs seront touchés ( médecine, finances, littérature … ).
Malheureusement, certaines personnes se font avoir par des mails encore plus débiles que ceux de lycéen attardés.
Ce qui peut sembler simple pour une personne ayant des capacités cognitives “normales” ne l’est pas pour une personne avec des capacités plus réduites ou encore pour un expat avec une maîtrise de la langue française approximative.
On ne doit jamais la somme de 1000€ tout rond à EDF !! Mais il faut se méfier, c’est sûr.
C’est n’importe quoi…
Même pas un script kiddie puisqu’il n’y a aucun script…
Pas un malware non plus, dans l’état, il ne peut avoir aucun effet sur une machine.
C’est à peine de la mauvaise et pitoyable ingéniérie sociale qui ne peut avoir aucun résultat.
Avez vous lu l’article ? Il est mention de script de chiffrement et de vols de fichiers, pas seulement de phishing…
Ça ne sortira pas un malware prêt à l’emploi mais ça aide beaucoup
“C’est un malware très basique pour le moment, mais l’individu écrit qu’il n’en est qu’au début de ses recherches, et qu’il compte améliorer son programme afin, notamment, de lui permettre d’échapper à la surveillance des antivirus.”
Ok pas de panique, le malware “très basique” dont ils parlent, c’est 0.1% du travail, échapper aux antivirus c’est les 99.9% restant et ChatGPT n’est pas prêt de savoir faire cette partie là
Demander lui un code dans le langage fesiré, évidemment qu’il peut écrire du code.
Mais les fautes sont courantes il se base sur des bouts de code existant mais c’est franchement épatant
Je pense pas que c’est si efficace que ça quand c’est sensé être une ia qui se bases sur des données existantes et qu’elle n’est même pas capable de répondre à des questions simple
Eh bien disons que si quelqu’un se laisse prendre à un mail de ce genre c’est dèjà qu’il ne connait rien à ses affaires. On sait quand même si on doit de l’argent ou pas, une facture ne tombe pas comme ca par miracle.
Et sérieusement si on doit 1000 euros à EDF comme dans l’exemple c’est tout simplement qu’on n’a pas les moyens de les payer. Donc on ne va pas se précipiter sur sa carte bleue pour effectuer un paiement qui sera de toute manière rejeté par la banque. On court à la banque ou aux services sociaux pour qu’ils négocient avec le créancier et ils décèleront immédiatement l’arnaque.
C’est un exemple mal choisi qui sert à essayer de faire peur aux enfants. Pour monter une arnaque ca n’apporte pas beaucoup plus que les méthodes déjà existantes.
Mais comme pour tout l’utilisation de ce genre d’outil est à surveiller.
Cher Chatgépété3 fois .Je ne suis pas réveillé et mon café est périmé .Peux tu m’aider a rédiger un article sur les dangers que tu peux engendrer si je suis un méchant mais méchant hein..Par contre évite les parenthèses et accolades dans le code. ENTER.
Aucun oeuvre humain ne peux égalé celui de Dieu.Arretez vos histoire de chatGtp .
Certe c’est un outil qui va beaucoup aider et non remplacer le travail de l’Homme.
Sinon expliquez moi ,le monde a connu l’avenement du robotique il y plusieurs annees ;Mais pourquoi malgré cela l’homme
continue de travailler toujours?