Passer au contenu

Les moteurs de recherche n’affichent plus de résultats Reddit, sauf Google

Reddit ne veut plus faire partie de l’« open web ». Le site communautaire interdit l’accès de son contenu aux moteurs de recherche à l’exception notable de Google, qui paie Reddit des dizaines de millions de dollars pour entraîner ses modèles IA.

Il n’y a plus que Google qui affiche la totalité des liens vers les discussions de Reddit. Les autres moteurs de recherche, comme Bing ou Brave, n’y ont plus accès (même s’ils peuvent proposer des liens Reddit à l’occasion). Kagi, qui paie Google pour une partie de son index de recherche, liste toujours des résultats sur Reddit.

Indexation interdite

La découverte faite par le site 404media s’appuie sur des changements opérés sur le fichier robots.txt, que chaque site peut mettre en place pour donner des instructions aux moteurs de recherche qui veulent explorer ses pages. Ce fichier a été modifié pour empêcher ces moteurs d’indexer les conversations sur Reddit. « Nous avons constaté une augmentation des entités manifestement commerciales qui scrutent Reddit et affirment ne pas être liées par nos conditions ou politiques », expliquent les développeurs de Reddit. « Pire encore, [ces entités] se cachent derrière robots.txt et prétendent pouvoir utiliser le contenu de Reddit à leur guise ».

Les modifications apportés au fichier robots.txt de Reddit remontent au 25 juin. La plateforme explique que les acteurs de bonne foi peuvent prendre contact et demander un accès aux contributions des utilisateurs de Reddit, qui a donné son feu vert à l’Internet Archive et à des organisations de chercheurs. Et donc aussi à Google, qui verse chaque année 60 millions de dollars pour moissonner les discussions sur Reddit pour entraîner ses modèles d’intelligence artificielle, ce qui lui permet au passage d’indexer le contenu pour son moteur de recherche.

Reddit cherche aussi à décrocher un accord avec Microsoft, selon ArsTechnica. Le blocage de Bing est un moyen de faire pression. « Nous croyons en un internet ouvert, mais nous ne croyons pas à l’utilisation abusive de contenu public », assure Reddit, qui emboîte le pas aux éditeurs de sites web qui contestent l’argument de l’« utilisation équitable » (fair-use) avancé par les entreprises de l’IA pour moissonner le web ouvert.

Sur Reddit cependant, les contributions proviennent directement des internautes et il serait assez légitime qu’elles soient indexables par tous les moteurs de recherche.

🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.

Source : 404media


Mickaël Bazoge
Votre opinion
    1. Effectivement, t’es hyper malin toi… Je dirai même que t’es pas la flèche la plus aiguisée du carquois ….

  1. En effet. On ne peut que confirmer ici qu’ainsi que l’explique l’article aussi bien que sa source 404media, “Si vous utilisez Bing, DuckDuckGo, Mojeek, Qwant ou tout autre moteur de recherche alternatif qui ne s’appuie pas sur l’indexation de Google et que vous recherchez Reddit en utilisant “site:reddit.com”, vous ne verrez aucun résultat de la semaine dernière. [2024-07-24]”
    Reste bien évidement des moteurs de recherche s’indexant via Google, Startpage en particulier, lequel n’est pas des moindres même si, personnellement, ce n’est pas mon moteur de recherche par défaut. Je viens de le tester pour une recherche limitée au domaine Reddit en lui demandant de limiter les réponses aux dernières 24 heures et il s’est exécuté sans broncher.

    Sinon, je fais mienne la conclusion de l’article : “Sur Reddit cependant, les contributions proviennent directement des internautes et il serait assez légitime qu’elles soient indexables par tous les moteurs de recherche.”

    1. J’oubliais : il existe un site qui ne traite que de la recherche sur Reddit : SearchOnReddit [https://searchonreddit.com/] qui semble fonctionner correctement …

    1. Tout comme certains commentaires. Développez, mon vieux, développez, soyez explicite. Les pontes façon “machin, c’est nul” n’ont aucun sens.
      Vous savez lire, écrire, réfléchir, respecter autrui en expliquant votre pensée ou c’est de la paresse chronique ?

Les commentaires sont fermés.