Ces derniers temps, Twitter a beaucoup fait parler de lui pour deux raisons principales. La première est l’opération de rachat d’Elon Musk, qui voulait, et ne veut plus, racheter la plate-forme de microblogging pour environ 44 milliards de dollars. La seconde est sa difficulté à gérer l’accès aux contenus à caractères pornographiques, certains étant même illégaux, car pédopornographiques.
Devenir le nouvel OnlyFans
Ce qui semblait un problème de contrôle des médias diffusés vient de prendre une toute nouvelle ampleur avec des révélations faites par des journalistes de The Verge. Nos confrères américains ont mis la main sur plusieurs documents internes qui détaillent comment la direction de Twitter a envisagé de transformer son service en plate-forme de diffusion de contenus pornographiques payante.
À l’heure actuelle, la majeure partie des contenus pour adultes distribués sur Twitter proviennent de créateurs de vidéos sur OnlyFans, qui se servent du réseau social pour faire leur publicité et attirer de nouveaux utilisateurs.
Au début du printemps dernier, les dirigeants du service de micro-blogging ont donc envisagé de mettre en place un service d’abonnement pour que les diffuseurs de contenus d’OnlyFans utilisent directement Twitter. Bien entendu, la plate-forme aurait ponctionné une partie des revenus. Un projet, baptisé ACM, pour Adult Content Monetization, a donc été initié.
À l’époque, l’inquiétude première était que cette nouvelle orientation effraie les publicitaires qui représentent la principale source de revenus du site. Néanmoins, les premières estimations laissaient espérer que les pertes seraient rapidement compensées. En effet, OnlyFans, principal site de création et de distribution directe de contenus pour adultes, estime que son chiffre d’affaires sera d’environ 2,5 milliards de dollars cette année, ce qui représente plus ou moins la moitié de celui de Twitter… Le porno en ligne est rentable, tout comme OnlyFans.
Un problème de fond… et ancien
Toutefois, avant de lancer le développement de ce service, les dirigeants de Twitter ont décidé de constituer une « Red Team », une équipe formée de 84 employés, qui devait mettre à l’épreuve ce projet, voir ce qu’il était possible de faire et découvrir les éventuels points d’achoppement. Un des buts avoués de cette équipe était de déterminer comment Twitter pourrait monétiser les contenus pour adultes des créateurs de « manière sûre et responsable ».
Ce qu’a rapidement découvert la Red Team a pourtant mis un terme immédiat aux ambitions de la plate-forme fondée par Jack Dorsey. « Twitter ne peut pas efficacement détecter les contenus pédopornographiques et la nudité non consentie à grande échelle », concluait ainsi l’équipe d’employés. Elle notait également que l’entreprise ne possède pas les outils pour vérifier l’âge des créateurs ou des consommateurs de contenus pour adultes. Un problème qui ne serait que renforcé par le lancement d’un service dédié à ces contenus, d’où l’abandon du projet.
Le fruit d’une histoire compliquée
Néanmoins, cet arrêt du projet ACM n’a résolu en rien le fait que Twitter est incapable de contrôler les contenus pornographiques diffusés sur sa plate-forme. Et c’est ce problème majeur qui vient de rattraper le service. En France, Twitter pourrait ainsi se voit bloqué, car il est incapable d’assurer la modération efficace des contenus affichés et de faire en sorte que les utilisateurs mineurs ne puissent pas les consulter.
La situation est d’autant plus préoccupante que cette constatation n’est pas nouvelle. Le site de micro-blogging sait au moins depuis presque un an et demi qu’il est confronté à ce problème. Des documents internes, consultés par The Verge, montrent en effet que des membres de l’équipe avaient déjà alerté leur direction sur ce problème il y a environ 15 mois. Plus spécifiquement, ils pointaient du doigt l’incapacité de leur société à détecter des contenus pédopornographiques avec les outils qu’ils avaient à leur disposition.
Dans un rapport interne rendu en février 2021, ils imploraient également les dirigeants d’accorder davantage de moyens à ce travail : « alors que l’exploitation sexuelle des enfants en ligne a crû de manière exponentielle, les investissements de Twitter dans des technologies de détection et de gestion » n’ont pas suivi la même tendance. « Les équipes gèrent la charge de travail avec des outils anciens qui souffrent de lacunes connues », continuait le rapport.
Alors que des outils plus modernes et automatisés sont disponibles et que la loi impose aux différentes plates-formes en ligne de rapporter les contenus problématiques, le rapport constatait que la modération chez Twitter reposait essentiellement sur des vérifications manuelles. La raison est que les outils, utilisant l’apprentissage machine, qu’utilise Twitter, sont généralement incapables d’identifier les nouvelles formes de contenus pédopornographiques dans les tweets et les vidéos live, expliquait le rapport.
Avec une grande lucidité, les auteurs du rapport indiquaient également que ces « failles mettaient en péril la réputation de Twitter et l’exposaient à des problèmes légaux ».
Depuis 2021, Twitter a investi « significativement » dans la lutte contre ces contenus illégaux, mais le retard est là, et malgré les efforts consentis, les ressources allouées semblent insuffisantes. Ces difficultés historiques et présentes à investir pourraient en partie s’expliquer par le fait que Twitter n’a été rentable que deux ans au cours des dix dernières années.
Mais, les jeux de pouvoir autour de la position de Jack Dorsey, en 2020, sont aussi responsables de cet état de fait. Alors PDG de Twitter, son fondateur avait dû faire trois promesses à un groupe d’investisseurs activistes qui voulait sa tête. Il devait accroître sa base d’utilisateurs à 100 millions de personnes, accélérer la croissance du chiffre d’affaires et gagner des parts de marché dans la publicité en ligne. Trois chantiers conséquents qui ont mobilisé bien des ressources, jusqu’au départ de Jack Dorsey en novembre 2021. Autant de moyens qui n’ont pas pu être investis pour résoudre la question du contrôle des contenus diffusés.
Sachant que ce n’est pas le seul hoquet… Car la route est longue qui verrait le projet ACM reprendre son envol. Outre la modération efficace de contenus, il faudrait établir un système de vérification d’identité fiable et performant. Ce qui coûte de l’argent et demande une sécurité irréprochable, ce pour quoi Twitter n’est pas réputé.
Enfin, alors que la Red Team avait identifié le projet ACM comme un moyen d’aider à financer les améliorations des infrastructures pour tout le reste de la plate-forme, un autre élément est venu perturber le cours des opérations. L’offre de rachat d’Elon Musk.
En déstabilisant l’organisation de la société, Elon Musk a créé une situation complexe et incertaine, peu favorable à l’établissement de projets au long cours. Ensuite, en exigeant de connaître le nombre de faux comptes, le milliardaire a initié la chasse à ce genre de profils, mobilisant des ressources.
Bref, pour l’heure, tout comme l’offre d’Elon Musk, la présence de contenus pornographiques semble être pour Twitter plus une malédiction qu’une chance… Et ce défi ne peut plus être mis de côté, il faudra relever vite et bien. C’est peut-être bien l’avenir de la plate-forme qui se joue ici…
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
Source : The Verge
