« Qui va nous gouverner : le capitalisme de la surveillance ou la démocratie ? » Mardi 19 novembre avait lieu un événement organisé par la CNIL (le gardien de notre vie privée) et la CNCTR (Commission nationale de contrôle des techniques de renseignement), intitulé « La surveillance dans tous ses états. Quelle éthique pour protéger nos libertés ? ». Son objectif ? Faire le point sur la surveillance en France et dans le monde, et questionner son évolution.
Nous sommes en effet passés d’une « surveillance d’État », à « une société de la surveillance », a souligné Marie-Laure Denis, présidente de la CNIL, dans des propos introductifs. Jusqu’à peu, l’État était « le seul acteur, initialement en mesure de mobiliser à large échelle des moyens financiers, humains et techniques dans un tel but » .
Mais désormais, la surveillance recoupe différentes réalités : elle englobe outre la surveillance d’État, « la surveillance commerciale ou la surveillance entre particuliers », « des surveillances à plus petite échelle, organisées par une multitude d’acteurs (…) les “Little Brothers” ». Une situation qui « résulte à la fois de l’économie des plateformes, des pratiques sociales, des smart technologies, de la prolifération des écrans et de la réponse à la menace sécuritaire », a poursuivi la présidente de la CNIL.
« Si nous ne communiquons pas via le numérique, nous sommes exclus de la société »
À cette occasion, les deux organisations avaient invité différents experts du sujet, dont Shoshana Zuboff, professeure émérite à la Harvard Business School et autrice de L’âge du capitalisme de surveillance (2019).
🎙️Intervention à distance de @shoshanazuboff,
sociologue et professeure émérite à la @HarvardHBS#CNIL_air2024 pic.twitter.com/hUW7dEGshB— CNIL (@CNIL) November 19, 2024
Dans une intervention à distance d’une quarantaine de minutes, la sociologue américaine a souhaité revenir sur ce qu’elle appelle « le capitalisme de la surveillance ». Un système qui est né « dans une civilisation de l’information », commence-t-elle. « En 1986, seulement 1 % des informations mondiales étaient stockées numériquement. En 2000, on en était à 25 %. En 2013, on avait atteint les 100 % ». Cette numérisation de toutes les données a eu un corollaire : le fait que désormais, toute communication doive passer par le numérique, « toute chose animée ou inanimée doit être présentée via le médium numérique. Si nous ne communiquons pas via le numérique, nous sommes exclus de la société, exclus de la carte du monde. Nous n’avons plus de possibilité de participer à la société », estime l’universitaire.
Or « qui décide qui a accès à cette information ? Ce sont des questions essentielles de pouvoir, d’autorité et qui sont à la base de la société actuelle. Et la question qui est perturbante ici, c’est que les géants du capitalisme de surveillance, comme Google, Microsoft, Amazon, Apple, etc., sont les entreprises qui ont les réponses à ces questions, même si on ne les a jamais élues pour nous gouverner », analyse-t-elle.
Un concept né chez Google
Pour la sociologue, le capitalisme de surveillance est un concept né chez Google, au tout début de l’ère d’Internet. Alors que le moteur de recherche « était gratuit et ne générait pas d’argent », Google a cherché un moyen de créer du profit et de monétiser son entreprise. Des expériences ont alors été menées en interne, dans les années 2000-2001. Et « des spécialistes de la donnée ont commencé à comprendre que (…) chaque fois qu’une personne se connectait (…), elle laissait des traces et des signaux comportementaux. Ces signaux, on les a appelés (…) les déchets de données. Mais en fait, on s’est rendu compte que ce n’étaient pas des déchets. Si on les analysait intelligemment, on pouvait prédire les comportements futurs ».
Cette découverte chez Google a amené une idée révolutionnaire, qui allait permettre de créer une nouvelle activité économique : le fait de « collecter ces données, ces métadonnées de chaque aspect du comportement humain et de garder toutes les traces que chaque personne laissait en ligne ». L’idée, « c’était que l’on pouvait utiliser toutes ces données prédictives pour vendre un service. On pouvait prendre ces données, (…) sans demander à qui que ce soit si on pouvait le faire ou pas, et sans que personne ne s’en rende compte », développe la sociologue. Concrètement, les équipes de Google ont « décidé que ces données devenaient leur propriété, (ils les ont) analysées et (ils s’en sont) servis pour prédire l’avenir ou le comportement futur », à des fins de publicité ciblée.
Une fois cela mis en place, Google a commencé à générer de l’argent. Ses profits ont augmenté « de 3 590 %. Imaginez ! ». Les salariés de Google se sont donc rendus compte qu’ils « avaient trouvé une solution pour monétiser leur entreprise de manière gargantuesque ». Mais ils ont aussi compris en 2001-2002 que « si les utilisateurs comprenaient ce qui se passait, (…) ils allaient être en colère, ils allaient cesser d’utiliser Google ». Ils ont aussi eu peur « des législateurs, qui allaient adopter des lois les empêchant de mettre en place les activités qu’ils voulaient », poursuit la sociologue. Ce qui explique que Google n’aurait pas véritablement montré ce qu’il faisait avec ces données. En interne, les équipes de l’entreprise l’appelaient « la stratégie cachée », ajoute l’experte.
Or « quand vous prenez quelque chose à quelqu’un sans qu’il soit au courant et que vous l’utilisez pour votre propre intérêt et contre son intérêt à lui », c’est « littéralement du vol ». Pourtant, c’est sur cette base que l’ensemble du capitalisme de surveillance s’est construit. « Ces signaux comportementaux et ces traces laissées sur Internet, s’ils n’avaient pas (pour objectif de) mettre en place de la surveillance, ils n’auraient pas réussi », ajoute l’universitaire américaine.
Un modèle adopté dans toute la Silicon Valley puis dans toute l’économie
Résultat, « le capitalisme de surveillance commencé chez Google est devenu le paradigme économique par défaut dans toute la Silicon Valley puis dans toute l’économie ». Pour preuve, même le secteur de l’automobile l’a adopté : les voitures « ont aujourd’hui des capteurs, des micros, des caméras, (…) donc des systèmes de surveillance mobile qui informent en temps réel de nos faits et gestes constamment. À chaque fois que l’on rentre dans notre voiture, on donne des informations », expose l’autrice.
Or, ce modèle économique a finalement comme base « une activité qui a toujours été fondamentalement illégitime, mais pas illégale », estime Shoshana Zuboff, renvoyant au fait que les autorités du monde entier ont mis du temps à réguler le secteur, et qu’elles n’y sont toujours pas parvenus.
A lire aussi : Mais pourquoi l’Europe tient-elle autant à casser les pieds d’Apple, de Google et de Meta ?
Depuis ces vingt dernières années, « nous entrons petit à petit dans une phase de régulation et l’Europe est clairement leader dans ce domaine » avec le RGPD (le règlement européen sur les données personnelles de 2018) puis les DSA (règlement européen sur les services numériques) et DMA (règlement européen sur les marchés numériques) de 2023. Mais cette régulation est-elle suffisante, et sera-t-elle suffisante, questionne Shoshana Zuboff. Car parmi toutes les régulations qui ont été mises en place, « aucune d’entre elles n’a dit : “nous n’autorisons pas ce vol (de données, NDLR). Il faudra que vous trouviez d’autres manières de générer du profit via Internet. Point” ».
En d’autres termes, « la régulation a quelque part autorisé ce qui devrait être vu comme un délit, l’a légitimé et l’a institutionnalisé. Elle l’a autorisé à se développer », analyse-t-elle.
Un vide qui a eu des impacts négatifs sur la démocratie
Et cela n’a pas été sans conséquences. Car « ce raté politique » de ces deux dernières décennies a créé « une quantité très importante de perturbations. Il y a eu des impacts négatifs sur la société et sur (…) la démocratie », à l’image de « la perte de la vie privée ». Nos données personnelles provenant de nos clics et de notre géolocalisation sont revendues au plus offrant des centaines de fois par jour, rappelle l’experte, en référence au marché titanesque des données acquises grâce au « RTB » (pour real time bidding) – une méthode massivement suivie qui permet de suivre toutes nos habitudes en ligne et d’établir un profil très précis… Profil ensuite partagé des milliers de fois à des fins publicitaires.
« Aux Etats-Unis, nos données sont proposées 747 fois par jour. En Europe où nous avons la meilleure régulation, elles sont publiées 376 fois par jour », des chiffres issus d’un rapport de l’ONG irlandaise ICCL de 2022.
A lire aussi : « La grande fuite de données » : vos informations personnelles partagées des centaines de fois par jour
Mais à côté de cette perte de la vie privée, il y a aussi « la corruption d’information, la désinformation ». La raison ? Le capitalisme de surveillance repose sur « des systèmes d’ingénierie qui ont été créés pendant la Seconde guerre mondiale, et qui visaient à communiquer d’une machine à une autre », déclare la sociologue. On s’est concentré sur « la transmission du signal », le fait d’avoir un signal le plus efficace possible. Et « on a mis de côté la compréhension du type de message envoyé, le fait que le signal que je reçois est bien corrélé à la réalité, à des faits ». Résultat, « la désinformation est devenue la norme ».
Ajoutez à cela que « le contrôle de la production de connaissances, de la distribution de connaissances est aujourd’hui opéré et possédé par ces géants du capitalisme de surveillance ». Le tout fait qu’aujourd’hui, « on se pose la question de savoir lequel de ces deux ordres, le capitalisme de surveillance ou la démocratie, va finir par nous gouverner ».
Internet, une prison de la surveillance dans barreaux ni sortie
« Il n’est (en effet) pas exagéré de dire qu’aujourd’hui, Internet est devenu une prison de la surveillance, mais cette prison n’a ni barreaux, ni sortie. Toute notre participation (à la société, NDLR) nous oblige à utiliser ces processus, à utiliser ces algorithmes et à se faire contrôler par ces organismes. Lorsque nous évoluons dans ces espaces de communication sociale, nous ne sommes plus dans un espace public libre. Nous sommes au milieu d’une jungle d’algorithmes », développe Shoshana Zuboff.
Comment alors sortir de cette impasse ? Dans l’histoire, explique la sociologue, il y a eu des moments où face à certains systèmes, « il a été impossible de trouver des compromis pour les rendre acceptables », l’experte prenant exemple sur le travail des enfants. « Les mineurs étaient employés très jeunes et faisaient des travaux très durs dans des usines, dans les mines, etc. Et lorsqu’on a commencé à comprendre l’enfance », on a cherché à réguler le travail des enfants. « Si vous avez 5 ans vous travaillez 5 heures, vous avez 10 ans vous travaillez 10 heures par exemple ».
Mais on a finalement compris que la régulation n’était pas suffisante, « que le travail des enfants était fondamentalement catastrophique pour nos sociétés. Et on a fini par abolir totalement le travail des enfants. Et c’est ce qui s’est passé dans l’ensemble du monde développé. Et la même chose a eu lieu avec l’économie des esclaves ».
« Il y a eu une époque où dans le sud des États-Unis, l’esclavage était normal, on considérait qu’il n’y avait absolument aucune possibilité de sortir de cette économie de l’esclavage. Et pourtant est arrivé un moment où un président des États-Unis, Abraham Lincoln, et bien d’autres avec lui, ont commencé à comprendre que l’esclavage humain était moralement et politiquement catastrophique. On ne pouvait tout simplement pas être dans une société démocratique et accepter l’esclavage humain. Et on l’a aboli ».
Or aujourd’hui, nous sommes à une époque où l’on commence à considérer que pour les « géants de la surveillance », « la fenêtre de la régulation est en train de se fermer. Elle s’est peut-être même déjà fermée », estime-t-elle, suggérant qu’il n’y aurait plus qu’une solution pour que la démocratie survive : abolir le « capitalisme de surveillance ».
Note de la rédaction : l’intervention de Shoshana Zuboff avait lieu en anglais, mais était traduite et diffusée en ligne en direct en français. Cet article se base sur la traduction donnée pendant l’événement.
A lire aussi : Jean-Baptiste Kempf – VideoLan (VLC) : « s’il n’y avait pas de logiciel libre, Microsoft ferait du racket standardisé »
🔴 Pour ne manquer aucune actualité de 01net, suivez-nous sur Google Actualités et WhatsApp.
