Lire le livre de Zuboff quand on est dans mon cas un peu particulier de femme algérienne, militante pour la démocratie, professionnelle du secteur de la défense des droits humains, et surtout récemment re-émigrée en Europe après un passage par l’école de la transition démocratique tunisienne, c’est se confronter à un impalpable mystérieux, difficilement supportable tant il peut rajouter à mon sens, au malheur du monde, et à un grand sentiment d’insécurité et de méfiance…
Pour comprendre pourquoi, on peut décrire le capitalisme de surveillance, théorisé par la professeure émérite à la Harvard Business School et professeure associée à la Harvard Law School, à partir de son impact le plus grave, à savoir l’apparition de nouveaux rapports sociaux destructeurs, entre les êtres humains et pour eux car déterminés par un savoir extrait de l’analyse et de l’utilisation de nos comportements, à des fins de domination « totalitarisante ».
Pour faire face à ce cycle de dépossession du surplus comportemental, Zuboff encourage ses lecteurs à toujours se poser les questions suivantes : Que sait un produit intelligent ? À qui le répète-t-il ? Et de manière plus générale : Qui sait ? Qui décide ? Et, qui décide qui décide ?
Participer à éclairer les arguments pouvant permettre de répondre à ces questions est donc l’objectif de ce compte rendu.
À l’origine du capitalisme de surveillance
Quand on pense à ce qui en tant qu’être humain nous détermine, on peut dire qu’il y a d’abord, la famille nucléaire. Puis, entre en ligne de compte, la filiation, la tribu, l’histoire familiale et son positionnement social, religieux, politique …etc. Les rapports sociaux sont en général, organisés autour de ces éléments, qui desservent les plus « faibles » comme les peuples colonisés, les femmes, ou ceux et celles qui pour exercer leur liberté de penser se retrouvent marginalisés, au sein du cercle familial, social ou politique. Les « forts » ont alors bon bon intérêt du coup à éloigner ou à stigmatiser ce qui peut remettre en cause un « ordre établi », confortable bien qu’injuste… La majorité quant à elle, ne voit dans l’expression des minorités qu’un fardeau qu’il vaut mieux participer à mettre de côté, en l’absence de valorisation des intermédiaires sociaux capables de mettre l’intérêt général, au dessus de l’intérêt particulier.
Dans ce contexte et avec l’apparition d’Internet, les comportements sociaux n’ont plus été que le sujet de déterminants s’analysant dans le cadre d’une production du savoir encadré par les sciences humaines, ils sont également devenus l’objet d’une nouvelle forme d’exploitation, dont les racines théoriques se trouvent principalement chez les comportementalistes ou behaviorists du siècle dernier. En effet, des ouvrages comme Walden Two de F.B. Skinner, publié en 1948 (quand Orwell publiait 1984), the Psychology of the Other One (1921) de Max Meyer, ou encore Aux origines du behaviorisme de John B. Watson publié en 1913, ont cherché à faire du comportement humain, la ressource principale du pouvoir instrumentarien, visant au contrôle social par l’étude, l’analyse et l’utilisation d’un surplus comportemental, sans autorisation.
La mise en pratique de ces théories aux États-Unis par les entreprises de type GAFAM, est retracée avec beaucoup de clarté par l’auteure, sans que nous sachions dans quelle mesure comparativement, les puissances des sociétés non-occidentales suivent elles aussi, la même trajectoire – à part pour la Chine, mentionnée brièvement par Zuboff en tant qu’ « État propriétaire » du surplus comportemental de sa population. Ainsi, et alors qu’en 2000, la Federal Trade Commission (en français, la « Commission fédérale du commerce ») publiait un rapport sur les « pratiques justes dans l’espace électronique », le Pentagone annonça deux ans plus tard, le lancement de programmes de recherche sur les nouvelles informations en provenance des données massives.
En conséquence, Google signa en 2003, un contrat d’un peu plus de deux millions de dollars pour équiper la National Security Agency (NSA, en français « Agence de sécurité nationale ») avec son application de recherche, afin d’explorer 15 millions de documents en 24 langues. L’année 2008 marqua quant à elle, un tournant pour l’utilisation du savoir prédictif issu du surplus comportemental puisque les réactions aux événements durant la campagne présidentielle américaine, participèrent à la victoire de Barack Obama. C’est également pendant cette année que le système d’exploitation d’Android rejoint, avec l’installation de la licence Search de Google, la chaîne d’approvisionnement en données.
Plus tard, vers 2015, l’architecture de l’extraction se renforça avec le système d’exploitation d’Apple, la collecte et l’expropriation de données récoltées par les cookies nécessaire au bon fonctionnement des sites internet, et les services push dématérialisés. S’ajoute à cela, à partir de 2018 environ, l’accumulation de données pour la reconnaissance faciale des utilisateurs sur Facebook par exemple, avec comme objectif affirmé « des possibilités de marketing infinies »… jusqu’à ce qu’une application nommée Geofeedia, citée par Zuboff, se spécialise dans le traçage de militants et de manifestants en fournissant des « scores de dangerosité. »
L’apparition progressive d’un nouvel ordre social
À partir de ces éléments et partant d’un résultat essentiel pour tout capitaliste, à savoir une logique d’accumulation réussie, la phase qui suivit celle de la dépossession est celle qui vit apparaître un nouvel ordre social, impliquant la fin de la « deuxième modernité », celle caractérisée par une industrialisation devenue accessible aux masses.
La « troisième modernité » pour sa part, tout en donnant l’impression à l’individu de s’autonomiser par l’accès au monde virtuel, a pour dessein de le cantonner dans une logique capitalistique, dont la régulation est mise à mal du fait de la pratique d’une « politique de la terre brûlée » par les détenteurs et penseurs du capitalisme de surveillance.
Ainsi écrit Zuboff : « Le savoir auquel nous (comprendre ici les citoyens américains) sacrifions notre liberté est conçu pour promouvoir les intérêts commerciaux des capitalistes de surveillance, pas les nôtres. » Et dans ce contexte, qu’il s’agisse de tenter de résister contre le projet Street View de Google, ou contre les conditions d’utilisation des données des maisons intelligentes, connectées par des objets reliés à Internet (comme les lits Sleep Number, par exemple) ou encore contre l’utilisation de la réalité augmentée (avec le lancement en 2016 de la chasse au Pokémon), les droits au respect de la vie privée et à la sécurité sont relégués au second plan face aux impératifs de l’innovation, de la prospérité économique et de la liberté d’expression, comprise en lien avec le droit à la propriété.
La fin du contrôle par la « division du travail social » et le passage vers une société contrôlée par la « division du savoir »
Autre fil rouge de l’ouvrage, l’argumentaire que la philosophe développe autour de la division du savoir issu du surplus comportemental, qui vient remplacer celle de la division du travail social.
La principale raison à cela est que les détenteurs du savoir de nos surplus comportementaux sont en « lecture seule » des contributions des utilisateurs/consommateurs/exploités, quand ils les analysent à partir de l’existence d’un double niveau de lecture ; celui du « premier texte », c’est-à-dire ce qui est visible pour tous, et celui du « deuxième texte », fantôme, implicite et relatif par exemple, à nos émotions.
La concentration de ce savoir implique la « privatisation du savoir et sa division » en dehors de l’État de droit, dans le cadre d’une vision résumée ainsi : « Ne regardez pas en arrière. Temporisez. Piétinez-les, si nécessaire. »
L’aggravation de cette situation naît de l’utilisation progressive des données de masse dans le but de générer une nouvelle forme d’intelligence, dont l’objectif est une évolution du contrôle ubiquitaire, faisant passer notre capacité d’action du mode autonome, au mode hétéronome, c’est-à-dire basé sur la prédiction de nos comportements du fait de l’effet paralysant créée par notre incapacité à agir contre.
Et c’est la mise en route de l’utilisation du deep learning comme outil d’exploration des potentialités offertes aux détenteurs du capital de surveillance, qui a en son sein, la possibilité de porter le coup de grâce à notre humanité. En effet, comme le souligne Zuboff, cet outil fait exister la machine d’une manière inconnue pour nous jusqu’à lors, du fait de son interdépendance avec d’autres machines qui ne font que renforcer le pouvoir instrumentarien, tout en donnant une « liberté » de « savoir » à la machine, sans qu’existe pour autant, une maîtrise réelle et complète des risques encourus.
Ce point sera confirmé des années plus tard en 2023, quelques mois avant le lancement de Chat GPT, quand des centaines de scientifiques et d’experts dans le domaine de l’Intelligence artificielle signeront un communiqué long de quelques phrases seulement, pour dire que le risque d’extinction que fait encourir l’intelligence artificielle devait être traité avec les mêmes moyens que les risques que font encourir à l’humanité, les pandémies et une guerre nucléaire.
Du côté des citoyens, américains et européens – à qui s’adresse l’ouvrage en priorité, c’est à éveiller les consciences au danger de la « ruche automatique » que l’auteure s’est également attelée. En effet, dans ce qu’elle décrit comme le « collectif instrumentarien », Zuboff rappelle que le but des capitalistes de surveillance est « une société médiatisée par ordinateur dans laquelle (sont produits) des schémas sociaux basés sur l’imitation, manipulée pour une plus grande convergence », avec pour corollaire l’« efficacité sociale », telle qu’envisagée par des penseurs modernes comme Alex Pentland, dans la droite lignée de la pensée d’un F.B. Skinner qui souhaitait voir la prise de décision politique se faire sur la base de calculs mathématiques, visant à perfectionner « la prédiction et le contrôle des individus. »
Dans ce contexte, pour faire place à une « intelligence collective », envisagée à partir de l’idée d’une « ruche automatique » reconnaissable, l’individualité et la rationalité individuelle doivent s’effacer, au profit d’une convergence des comportements, dans des essaims faits d’accidents statistiques contrôlés… Comme preuve de cette affirmation, Zuboff dans son chapitre « une utopie de la certitude » citera Mark Zuckerberg et son idée du besoin de la « certitude de ne pas être seul » avec pour objectif fixé à META de répondre aux « besoins émotionnels, personnels et spirituels. » Elle citera aussi Larry Page et son besoin de réaliser «la société de loisirs », une idée de Karl Marx, non pas par que règne la dictature du prolétariat mais pour parachever une société « d’abondance » où le travail n’est qu’un souvenir « aberrant »…
Les raisons d’une nécessaire éveil
En conclusion de l’ouvrage, Zuboff résume à partir de son exposé, les principales problématiques que posent le capitalisme de surveillance.
D’abord, elle considère que les détenteurs de ce capital ne devraient pas avoir droit à la liberté, au vu de ce qu’ils savent sur nous. Cela suppose qu’à partir du moment où la liberté n’est pas un devoir, autant qu’un droit, elle perd tout son sens.
Aussi, la spécificité de ce processus d’accumulation par rapport à d’autres formes de capitalisme, est qu’il ne se nourrit pas d’un lien de réciprocité de type producteur/consommateur en lien avec celui de patron/employé. En effet, dans ce qui est qualifié comme une « indifférence radicale » vis-à-vis des utilisateurs, l’accumulation, la dépossession et la restitution des comportements se passent sans que les citoyens ne sachent comment y faire face.
Enfin, Zuboff parle du danger que fait encourir la « corruption » du « premier texte », au profit du « deuxième ». Expliqué simplement, cela signifie qu’à force d’interpréter les comportements à partir de données chiffrées, sans prendre en compte le droit de chacun à se défendre contre ces interprétations, dans le cadre d’un État de droit et d’un espace public où la délibération est priorisée, il ne subsiste qu’une utilisation illégitime, immorale et dangereuse de ce que l’on croit être un exercice de notre liberté.
Pour finir, Zuboff plaide pour un droit au sanctuaire. On ne peut que le comprendre, quand on sait que les travaux de l’auteure sur la question de la surveillance capitalistique ont été détruits lors d’un incendie ayant ravagé sa maison. Pour elle, c’est à la recherche et à la défense d’un espace « où être nous-mêmes » que nous devons nous consacrer, rappelant ce que Erving Goffman, sociologue et représentant de l’École de Chicago a étudié sous l’angle d’un refuge « permettant de se garder des exigences performatives de la vie sociale », en protégeant un langage des « coulisses » et donc, le droit de protéger sa vie privée. Ainsi, dire que nous n’avons rien à cacher est une « vérité psychologique » à ne pas accepter.
Comme le dit l’auteure, aux États-Unis, le droit à la vie privée se retrouve exprimé d’abord dans le 4ème amendement de la Constitution, qui circonscrit la relation entre les individus et l’Etat. Néanmoins, il semble que le seul cadre qui permette une protection réelle des citoyens reste celui du Règlement général sur la protection des données – RGPP de l’Union Européenne, qui permet de contraindre les entreprises à justifier leur traitement des données personnelles, notamment en ce qui concerne le consentement, la transparence et la suppression des données, avec pour conséquences en cas de non-respect de ces règles, de lourdes amendes…
