Le ChatGPT de Snapchat provoque la colère des utilisateurs

La semaine dernière, Snapchat s’est mis à proposer My AI, sa propre version de ChatGPT, à tous ses utilisateurs. Le chatbot, basé sur le modèle linguistique GPT d’OpenAI, était auparavant réservé aux abonnés de Snapchat+, l’offre payante du réseau social.

Depuis l’arrivée de l’IA dans l’application, Snapchat s’est mis à essuyer une volée d’avis négatifs. D’après les données collectées par Sensor Tower, les évaluations avec une seule étoile ont commencé à pleuvoir sur l’App Store américain autour du 20 avril. Au cours de la semaine dernière, 75 % des évaluations n’affichaient qu’une seule étoile, loin des habitudes de l’application.

Trois fois plus d’avis négatifs

De nombreux commentaires pointaient du doigt My AI, le robot conversationnel intégré par Snapchat. Cette nouveauté s’est accompagnée d’une augmentation des avis négatifs publiés en ligne. Apptopia, un autre spécialiste des données, abonde dans le même sens et révèle que Snapchat a reçu environ 3 fois plus d’avis négatifs depuis le 20 avril 2023, date du déploiement de My AI, sur la boutique américaine.

On trouve des critiques analogues sur l’App Store français, où un internaute affirme même que l’intelligence artificielle « perturbe » ses enfants. Estimant que l’IA est une mauvaise idée, et qu’elle a été incluse sans son consentement, il envisage de supprimer l’application.

Feeling unfathomable rage whenever I see the Snapchat AI being stuck at the top of my chats. That is my enemy. My antagonist.

— Andrew Wallen (@itsandrewwallen) April 19, 2023

Pour de nombreux utilisateurs de Snapchat, la manière dont l’IA a été intégrée à l’interface est intrusive. Celle-ci est en effet visible en haut de la liste des conversations. Il n’est pas possible de supprimer le chatbot ou de le rendre plus discret. Pour les usagers, Snapchat leur impose unilatéralement une fonctionnalité non désirée. Notez qu’à ce stade, le chatbot n’est pas encore apparu chez tous les utilisateurs, malgré l’installation de la dernière mise à jour. En France, l’IA n’est pas non plus épinglée en haut des conversations.

i can’t delete My AI so at the point i’m just going to delete my whole snapchat.

— lexxx (@lextaypro) April 19, 2023

Un chatbot trop curieux ?

En parallèle, il semble que de nombreux utilisateurs ont pris conscience de certaines choses lors de leurs conversations avec l’IA. Sur Twitter, on trouve une pléthore de témoignages montrant que le robot pioche dans les données disponibles, comme la localisation, l’âge ou la date d’anniversaire, pour converser avec l’utilisateur. C’est évidemment mal perçu par les internautes, qui ont l’impression d’être épiés par l’intelligence artificielle. Snapchat ne se cache pourtant pas de collecter la position géographique de ses utilisateurs, notamment pour Snap Maps.

« Votre contenu partagé avec My AI et votre géolocalisation en ville seront utilisés par My AI », explique Snapchat sur son site web.

Néanmoins, il semble que de nombreux internautes ont seulement pris conscience de la quantité d’informations glanées par Snapchat en conversant avec l’agent conversationnel.

« Toutes vos conversations avec My AI sont stockées jusqu’à ce que vous les supprimiez. […] Vos données seront utilisées pour améliorer les produits de Snap et personnaliser votre expérience, publicités incluses ».

@Snapchat hell to the no I have ghost mode on and ur AI told me my exact location censored the town so as not to doxx myself pic.twitter.com/KeWsiZaygI

— DemonWolfGaming (@TheDem0nWolf) April 25, 2023

Comme l’a montré l’expérience d’un chercheur, il arrive aussi parfois que My AI se distingue par ses réponses inappropriées. Il a notamment donné des conseils inappropriés à une adolescente, prête à s’enfuir à l’étranger avec un homme bien plus vieux qu’elle, ou désireuse de camoufler de mauvais traitements. Pour corriger ce problème, Snapchat s’est engagé à vérifier en continu l’âge de ses usagers. Contacté par TechCrunch, un porte-parole de Snapchat précise que l’entreprise améliore constamment ses produits en s’appuyant sur les témoignages de sa communauté. Pour l’heure, aucun changement précis n’a été évoqué.