Surveiller et s’enrichir

Quand des techniques de marketing se transforment en outils d’atteinte à nos libertés et font vaciller nos démocraties, il est urgent de comprendre ce qui se passe et qui sont les acteurs de cette dérive. Pour ce faire, L’âge du capitalisme de surveillance, essai fondamental de la sociologue, économiste et psychologue Shoshana Zuboff, est une lecture absolument incontournable.


Shoshana Zuboff, L’âge du capitalisme de surveillance. Trad. de l’anglais (États-Unis) par Bee Formentelli et Anne-Sylvie Homassel. Zulma, 864 p., 26,50 €


Pour des raisons que nous avons encore malheureusement tous à l’esprit, l’année 2020 a redessiné la carte de nos rapports avec le monde numérique et vu exploser la valorisation boursière des GAFA. Google, Apple, Facebook, Amazon, mais également Twitter, Zoom, ou tout simplement Internet, ont pris dans nos vies une place disproportionnée. Ces entreprises – ces entités – sont en train de remodeler le monde, les sociétés et les individus… mais pour aller vers quoi, comment et à quel prix ?

L’âge du capitalisme de surveillance, de Shoshana Zuboff

Shoshana Zuboff © Michael Wilson

Si l’on ne devait retenir qu’une seule chose du passionnant pavé de Shoshana Zuboff, c’est que la façon dont Google et Facebook exploitent les données que nous leur fournissons, souvent à notre insu, est le fruit d’une volonté délibérée de leur part, que leurs pratiques liberticides ne sont en rien inévitables et qu’elles doivent – et peuvent – être combattues. Mais, comme l’auteure l’écrivait en août 2020 en conclusion de la préface qui figure dans la traduction française de son livre (publié aux États-Unis en janvier 2019) : « Nous ne pouvons lutter contre ce que nous ne comprenons pas. La maîtrise des faits et de leurs implications est essentielle. La nature du pouvoir exercé par le capitalisme de surveillance pour contrôler les individus et la société ne se compare à rien dans notre répertoire historique. C’est une créature du XXIe siècle […] Si nous voulons combattre cette créature avec quelque espérance de succès, il nous faut la connaître en profondeur. » C’est tout l’intérêt de ce livre.

La première partie de L’âge du capitalisme de surveillance, qui en compte trois, décrit comment Google a inventé et mis en pratique le concept de « surplus comportemental », lequel consiste à valoriser les traces numériques que nous laissons en permanence et à tirer de cette matière première des prédictions sur notre comportement futur. Pour la petite histoire, quand Larry Page et Sergey Brin, jeunes étudiants tout juste sortis de Stanford, ont fondé Google, ils étaient plutôt idéalistes et résolument opposés à la publicité et aux revenus qu’elle procure, comme en témoigne l’article qu’ils ont cosigné en 1998 pour présenter leur moteur de recherche lors du World Wide Web Consortium, où ils écrivaient : « Il est probable que les moteurs de recherche financés par la publicité favoriseront par essence les annonceurs, loin des besoins des consommateurs. […] Nous sommes convaincus que la question de la publicité suscite assez de motivations mixtes pour qu’il soit crucial de disposer d’un moteur de recherche compétitif qui soit transparent et appartienne au domaine universitaire ». Cette approche laissait beaucoup d’investisseurs sceptiques quant à la possibilité de faire de Google une entreprise rentable, malgré la qualité technique d’un moteur de recherche qui répondait plus vite et mieux que les autres aux besoins des utilisateurs. Les choses en étaient là quand, en avril 2000, la bulle Internet a explosé. Sous la pression des investisseurs, Page et Brin abandonnèrent leur « farouche opposition à la publicité » et le but premier de l’entreprise, qui consistait jusqu’alors à apporter à chaque utilisateur la meilleure réponse à sa requête, fut modifié. Désormais, Google allait consacrer « sa puissance et son expertise informatiques [à] faire coïncider publicité et requêtes ». Au-delà de son caractère anecdotique, cette volte-face démontre que ce n’est pas « la main invisible du marché » qui a rendu l’outil performant : il l’était depuis le début. Le problème, c’est qu’il n’était pas rentable, et qu’il a donc fallu s’en servir autrement.

D’ailleurs, depuis la fin des années 1990, des voix se sont élevées aux États-Unis et en Europe sur l’espace de non-droit qu’était Internet, et en 2000, dans un rapport, la Federal Trade Commission préconisait de légiférer au niveau fédéral pour « protéger les consommateurs en ligne en dépit de la tendance dominante hostile à toute régulation ». Mais, après les attentats du 11 septembre 2001, tout a changé : « Désormais, la priorité était massivement donnée à la sécurité plutôt qu’à la vie privée. » Et effectivement, au cours des dix années suivantes, Google a collaboré avec la CIA et le Pentagone pour améliorer la captation, la gestion et la monétisation de ce fameux « surplus comportemental », avec le succès que l’on sait.

Vingt ans plus tard, cette pratique est devenue tellement omniprésente qu’on ne la perçoit plus, mais elle a gagné absolument tous les secteurs. Nos téléphones et nos ordinateurs, bien sûr, mais également le monde physique, avec la carte de fidélité de telle ou telle grande surface qui offre une « réduction » sur le prix des achats et récolte en échange le relevé exact de ce que nous achetons, quand, où et à quelle fréquence, sans parler de l’Internet des objets, les capteurs dans nos frigos ou dans nos montres qui transmettent (par exemple) des données de santé à des assureurs qui modulent leurs primes en conséquence… et la liste n’est pas exhaustive. Ces traces numériques permettent de faire des prédictions étonnamment précises sur ce que nous désirons, suffisamment en tout cas pour que les annonceurs les achètent à prix d’or à Google. L’aphorisme « Quand c’est gratuit, c’est vous le produit » est faux. Pour le capitalisme de surveillance, nous ne sommes pas un produit, nous sommes une ressource. Le produit, ce que Google vend aux annonceurs, ce sont les prédictions sur notre comportement futur qu’il tire de nos interactions numériques.

L’incursion de la dystopie dans notre quotidien aurait pu se limiter à cela, mais, comme nous l’explique Shoshana Zuboff dans la deuxième partie de son livre, il ne s’agissait pourtant que d’une première étape. La suivante a consisté non plus à anticiper, mais à modifier notre comportement dans le monde physique. La première réussite retentissante de ce nouveau projet (en 2016) a pris la forme d’un jeu, Pokémon Go, qui adoptait la structure d’une chasse au trésor. Il s’agissait de « chasser » des Pokémon, muni de son téléphone, lequel filmait l’environnement réel et incrustait aux endroits de son choix des créatures virtuelles qui n’apparaissaient qu’à l’écran. Dès les premiers jours de lancement du jeu, les entreprises furent captivées par la potentialité de la chose. Par exemple, « le propriétaire d’une pizzeria du Queens, à New York, paya dix dollars pour acheter des modules leurres, un gadget virtuel qui permettait d’attirer les créatures dans des endroits précis : les Pokémons s’installaient sur les tabourets du bar et dans les toilettes de l’établissement. Pendant le premier week-end après le lancement de l’appli, les ventes de la pizzeria augmentèrent de 30 % ; par la suite, il semble qu’elles se soient stabilisées à 70 % au-dessus de la moyenne. » Bien sûr, Niantic, la filiale de Google qui avait conçu cette appli, collectait un flot de données bien supérieur à ce dont le bon fonctionnement du jeu, déjà gourmand en la matière, avait besoin pour tourner. Mais l’important, ce qui faisait se pâmer les investisseurs, c’était la démonstration à l’échelle mondiale que le concept fonctionnait. En effet, de Séoul à San Francisco en passant par Rio ou Paris, des troupeaux d’individus cavalaient joyeusement là où on voulait qu’ils aillent et s’achetaient des « Pokémon Go Frappuccino » chez Starbucks tandis que Spotify annonçait « un triplement des ventes de musique associées à Pokémon ».

Toutes les tentatives d’utiliser la réalité augmentée pour influencer nos comportements dans le monde physique n’ont pas été couronnées de succès. Les lunettes de Google, antérieures à Pokémon Go de quelques années, n’ont jamais dépassé le stade de prototype, par exemple. Mais lorsqu’on prend conscience que le capitalisme de surveillance a vingt ans cette année, on peut légitimement penser qu’il n’en est qu’à ses débuts pour ce qui est de l’influence qu’il pourrait exercer sur nos sociétés et sur nous-mêmes. Néanmoins, et c’est l’objet de la troisième partie du livre, nous pouvons faire évoluer le monde numérique, nous ne sommes pas condamnés à subir sans rien dire le capitalisme de surveillance.

Comme Shoshana Zuboff le martèle tout au long de son livre, il faut connaître ce que l’on veut combattre. Par exemple, quand on parle des GAFAM, on parle de sociétés qui ne sont pas du tout semblables dans leur fonctionnement, leur modèle économique et leurs objectifs. En effet, Google et Facebook tirent tous leurs bénéfices du surplus comportemental, alors qu’Apple vend des objets physiques et prélève un pourcentage sur les applis présentes dans son Store (sans entrer dans les détails, Amazon se situe à mi-chemin entre ces deux pôles, tandis que Microsoft, comme souvent à la traîne, fait tout pour se rapprocher du modèle de Google et Facebook). Pour dire les choses simplement, lorsque Apple vous vend un téléphone ou un service, son argumentaire repose sur le fait que son produit respecte votre vie privée, et quand il enregistre des données vous concernant (ce qu’il fait), il n’est pas dans son intérêt de les revendre à des tiers. De fait, ça serait même stupide. Quand il s’agit de combattre le capitalisme de surveillance, il est donc peu pertinent et particulièrement inefficace de mettre Apple dans le même sac que Google ou Facebook. (Bien sûr, Apple demeure une multinationale et il y a certainement beaucoup à dire sur ses pratiques fiscales ou industrielles, notamment la production de ses produits en Chine, mais ce débat-là relève plutôt du capitalisme managérial classique.)

L’âge du capitalisme de surveillance, de Shoshana Zuboff

Bureaux d’Amazon © CC/Time Foremski

Il est intéressant de noter qu’une actualité toute récente met en lumière cette divergence d’intérêts. Le 16 décembre 2020, Facebook a lancé une campagne sur son site pour s’élever contre une mesure qui, selon Dan Levy, à la tête du département publicité et commerce de Facebook (head of ads and businesses products), serait nuisible aux petits commerces en ligne. À partir du 1er janvier 2021, Apple oblige toutes les applis qui enregistrent les données d’un utilisateur à lui en demander l’autorisation préalable. Bien sûr, la démarche de Levy, empreinte d’altruisme et d’amour pour la petite entreprise, n’a rien à voir avec le fait que l’appli Facebook va devoir à présent demander à ses utilisateurs l’autorisation d’enregistrer tout ce qu’ils font. On a le droit de rire !

Par ailleurs, début janvier 2021, WhatsApp (entreprise que Facebook a rachetée en 2014 pour 22 milliards de dollars – et non pas 16, comme annoncé dans un premier temps) a publié une modification de ses conditions d’utilisation qui interdira l’usage de l’appli à ceux qui refusent de partager leurs données avec les autres « entités Facebook ». On commence à rire jaune, là. Car il faut bien comprendre que nous sommes tous identifiés et méticuleusement répertoriés dans des bases de données sur lesquelles Mark Zuckerberg exerce un pouvoir absolu (s’il ne détient que 13 % du capital, il a 58 % des droits de vote, et ce qu’il décide a donc force de loi : Facebook, c’est lui).

C’est cette notion de pouvoir qui traverse l’ensemble de la dernière partie du livre. « Qui sait ? Qui décide ? Qui décide qui décide ? » À la première de ces trois questions, Shoshana Zuboff a déjà répondu : ce sont bien sûr Google et Facebook, qui, en détenant les données, savent. Et ce sont donc eux, « grâce au pouvoir injustifié qui découle de ce savoir », qui décident. L’auteure définit alors ce qu’elle nomme le « pouvoir instrumentarien » qui « remplace l’ingénierie des âmes par celle du comportement ». Ce pouvoir ne repose plus sur la possession des moyens de production, mais sur celle des moyens de modification des comportements. Là où le totalitarisme cherchait la possession totale, l’instrumentarisme cherche la certitude totale, là où le premier s’adressait à la masse (politique), le second s’adresse à la population (statistique). Là où la théorie légitimait la pratique, c’est la pratique qui dissimule la théorie. Et c’est en Chine que l’instrumentarisme s’épanouit aujourd’hui : « Le gouvernement chinois, en effet, développe à grande échelle un système de crédit social […] dont le but est de se servir de l’expansion massive des données personnelles […] pour améliorer le comportement des citoyens. […] Bien que ce crédit social soit invariablement décrit comme une forme de “totalitarisme numérique” et souvent comparé au monde orwellien de 1984, on le comprendra mieux en y voyant une apothéose du pouvoir instrumentarien nourri par des sources de données publiques et privées et contrôlé par un État autoritaire. […] Le but est de parvenir à des résultats garantis d’ordre social plutôt que commercial ». Ce n’est peut-être pas orwellien, mais ça fait peur quand même ! Désormais, on n’a plus besoin de nous terroriser puisqu’on peut modeler notre comportement à notre insu.

Alors, comment agir pour lutter contre cela ? « Qui décide qui décide ? » Selon Shoshana Zuboff, la réponse à cette troisième question ne dépend que de nous. Parce qu’aux orientations purement vénales que Google et Facebook ont prises à la faveur d’un désert législatif puis de la vague sécuritaire qui a suivi les attentats du 11-Septembre, nous pouvons opposer nos votes en soutenant les candidats qui souhaitent donner un cadre juridique et fiscal aux pratiques de ces deux entreprises. L’opinion publique est un rouage essentiel dans cet affrontement, pour que « ceux qui font les lois et les politiques publiques aient le soutien du peuple ». D’ailleurs, dans sa préface (d’août 2020, rappelons-le), Shoshana Zuboff indique : « Les législateurs de l’Union européenne, du Royaume-Uni et – oui, des États-Unis – ont enfin ouvert les yeux sur ce qui est le défi du siècle ; la France a en la matière un rôle de leadership essentiel. Les dix prochaines années seront décisives. » Et l’auteure insiste : il est essentiel que nous comprenions que la situation actuelle n’a rien d’inéluctable et qu’elle n’est pas irréversible.

À la lecture de L’âge du capitalisme de surveillance, on est saisi par le monumental travail d’enquête et de réflexion qu’a effectué Shoshana Zuboff pour l’écrire, et il paraît désormais difficile de réfléchir au monde contemporain sans se familiariser avec les analyses et les concepts développés dans cet ouvrage. Les plus radicaux contesteront peut-être certaines des conclusions de l’auteure. N’étant ni anticapitaliste ni opposée au monde numérique, Shoshana Zuboff ne chante pas les vertus du Grand Soir ou celles de la décroissance, mais voudrait plutôt légiférer pour revenir à l’idée première d’Internet, un écosystème numérique qui favorise la circulation et la démocratisation des savoirs. Dans le chapitre où elle définit le concept de « surplus comportemental », elle écrit : Google est au capitalisme de surveillance ce que Ford Motor Company et General Motor étaient au capitalisme managérial fondé sur la production de masse ». Selon elle, c’est par la loi qu’on a rendu le capitalisme managérial compatible avec la société et la démocratie, et c’est par la loi qu’on fera de même avec le capitalisme de surveillance. En fin de compte, Shoshana Zuboff nous incite simplement à comprendre, à réfléchir et à voter.

Tous les articles du n° 120 d’En attendant Nadeau