L’article ci-dessous, traduit en français, a retenu mon attention. L’approche est scientifique et la prise de recul salutaire pour bien comprendre l’ensemble de la problématique. Non, il ne s’agit pas d’un thème lié au seul domaine numérique. C’est un nouveau paradigme qui s’installe confortablement dans notre société et qui menace nos libertés et notre démocratie.
Le capitalisme de surveillance et la publicité ciblée sont devenus la norme sur internet, et cela nous fait tous souffrir.
Dr. Nathalie Maréchal est chercheuse expérimentée à l’institut Ranking Digital Rights, où elle étudie l’impact des pratiques économiques des technologies de l’information et de la communication sur les droits humains.
Source en anglais : Site web Motherboard
Traduction : Samuel Chenal, ll-dd.ch (avec l’aide ponctuelle du site de traduction deepl.com).
Dans son témoignage au sénat étasunien le printemps dernier, Mark Zuckerberg, CEO de Facebook, a rappelé que son entreprise ne vendait pas les données des utilisateurs, comme pour rassurer le législateur et le public. Mais la réalité – que Facebook, Google, Twitter et les autres sociétés de médias sociaux vendent l’accès à notre attention – est tout bonnement préoccupante. L’information personnelle peut ne pas changer de mains, mais le modèle économique publicitaire conduit la prise de décisions par les entreprises dans une direction inévitablement toxique pour la société. Comme l’a dit le sociologue Zeynep Tufekci dans sa présentation TED de 2017, « nous construisons une dystopie juste pour que les gens cliquent sur des pubs. »
Les entreprises de médias sociaux sont des entreprises publicitaires. Cela n’a jamais vraiment été un secret, bien sûr. Google a innové dans le modèle économique de la publicité ciblée à la fin des années 90 et Sheryl Sandberg a intégré cette pratique à Facebook en 2008 quand elle à rejoint l’entreprise comme Chief Operating Officer. L’argent affluait et les entreprises autour de la Silicon Valley et au-delà adoptèrent la même stratégie de base : en premier, faire croître la base des utilisateurs aussi rapidement que possible sans se soucier des revenus; en second, collecter le plus d’information possible à propos des utilisateurs; en troisième, monétiser cette information en réalisant des analyses de type « big data » afin de pouvoir montrer aux utilisateurs des publicités qui correspondent globalement à leur démographie et à leurs intérêts révélés; enfin, faire du profit.
Pendant un moment, cela ressemblait à une stratégie « gagnant-gagnant »: les gens tout autour du monde pouvaient visionner des vidéos de chats, voir des images des bébés des autres dans des costumes d’Halloween, se connecter avec leur famille, amis et collègues autour du globe, et bien plus. En retour, les entreprises pouvaient leur montrer des publicités qui étaient réellement significatives pour eux. La publicité contextuelle a alimenté les secteurs de l’imprimé et des médias audio-visuels depuis des dizaines d’années, c’était logiquement l’étape suivante. Qu’est-ce qui pouvait clocher ?
En fait, tout. Avec un peu de recul, le printemps arabe se démarque comme un récit emblématique d’un techno-utopianisme qui a mal tourné. Certes, les futurs révolutionnaires, réformateurs et défenseurs des droits de l’homme ont été parmi les premiers à maîtriser le pouvoir de ce que nous appelions le « web 2.0 », mais les autorités ont rapidement compris et utilisé les nouveaux outils pour réprimer les menaces induites à cette prise de pouvoir. De même, la campagne d’Obama en 2008 était la première à exploiter la publicité en ligne pour atteindre les bons électeurs avec le bon message avec une précision quasi-chirurgicale, mais 10 ans après, les mêmes techniques propulsent la droite autoritaire au pouvoir aux États-Unis, aux Philippines et au Brésil, et sont utilisées pour attiser la xénophobie, la haine raciale et même le génocide dans le monde – peut-être encore plus au Myanmar. Comment diable en sommes-nous arrivés là ?
Tout a commencé avec la publicité ciblée et avec le nouvel arrangement économique que Shoshana Zuboff, spécialiste de la Harvard Business School appelle le « Capitalisme de surveillance ». Tout comme des entreprises du 20ème siècle comme General Motors et Ford ont inventé la production de masse et le capitalisme de gestion, Google et Facebook ont trouvé comment marchandiser la « réalité » en suivant ce que les gens (et pas seulement leurs utilisateurs) font en ligne (et de plus en plus hors ligne), en faisant des prédictions sur ce qu’ils pourraient faire à l’avenir, en trouvant des moyens pour influencer leur comportement du shopping au vote et en vendant ce pouvoir à qui veut payer.
« En tant que sociétés, nous n’avons jamais convenu que notre expérience privée est disponible pour l’extraction de données comportementales, dont une grande partie est ensuite introduite dans les chaînes d’approvisionnement pour la fabrication de prévisions comportementales », m’a dit Zuboff dans une interview téléphonique.
Le nouveau livre de Zuboff, L’ère du capitalisme de surveillance : le combat pour un futur humain aux frontières du pouvoir, examine 20 ans d’histoire du capitalisme de surveillance, depuis l’émergence de la publicité en ligne à la fin des années 90 jusqu’à la régression démocratique d’aujourd’hui. Le capitalisme de surveillance a été inventé dans un contexte de publicité ciblée », dit-elle. »C’est dans ce contexte matériel et historique qu’il a pris naissance, dans un moment d’urgence financière lors de l’effondrement des « dotcom ». Google était une nouvelle entreprise et ses investisseurs la menaçaient de ne pas la renflouer malgré la supériorité de son outil de recherche. C’est alors que Google s’est tourné vers des données précédemment rejetées et ignorées et les a transformées en « surplus comportemental ». Au lieu d’être utilisées pour l’amélioration des produits, ces données comportementales ont été orientées vers un tout nouvel objectif : prédire le comportement des utilisateurs.
« Si nous étions en train de chercher une révolution numérique, elle est apparue dans la publicité en ligne. »
Zuboff prédit que, laissé tel quel, le capitalisme de surveillance sera aussi destructif que les précédentes variantes du capitalisme, quoi que de manière totalement nouvelle. « Nous parlons de la revendication unilatérale de l’expérience humaine privée comme matière première pour le développement de produits et l’échange de marchés », a-t-elle dit. « Le capitalisme industriel a revendiqué la nature pour lui-même, et c’est seulement maintenant que nous sommes confrontés aux conséquences de ce projet. Dans cette nouvelle phase de développement du capitalisme, c’est la matière première de la nature humaine qui conduit une nouvelle dynamique de marché, dans laquelle les prédictions de notre comportement sont racontées et ensuite vendues. Les impératifs économiques de ce nouveau capitalisme produisent des asymétries extrêmes du savoir et du pouvoir qui en découle. C’est un territoire sans précédent avec de profondes conséquences pour la société du 21ème siècle. »
Le suivi en ligne est omniprésent, m’a dit Tim Libert, du CyLab Security and Privacy Institute de l’Université Carnegie Mellon, dans un courriel. « Sur le million de sites web les plus populaires, vous serez traqué sur 91% d’entre-eux. Je fais ce genre d’analyse depuis des années et les résultats sont toujours les mêmes : on ne peut pas naviguer sur le web sans être suivi, point final. Les entreprises vous suivent lorsque vous visitez des sites web médicaux, des sites web pornographiques, des sites web pour les avocats, des sites web pour les politiciens, des sites web de journaux, et il en va de même pour les applications. Il y a très peu de choses que les gens ne cherchent pas ou ne partagent pas à l’aide d’un ordinateur et presque tout cela est traqué, tout le temps, par des géants pesant des milliards de dollars, bien visibles dans les médias ainsi que des centaines de sociétés dont vous n’avez jamais entendu parler. »
Les entreprises collectent ces informations comportementales afin de les monétiser : bien que nous ne les considérons pas comme ayant beaucoup de valeur au niveau individuel, une fois agrégées, elles représentent vraiment beaucoup d’argent.
Lorsque vous visitez une page web qui héberge du contenu publicitaire, le réseau publicitaire, DoubleClick de Google par exemple, choisit de vous montrer plusieurs annonces. Parce que Google en sait beaucoup sur vous, vos amis, vos goûts, vos habitudes et votre pouvoir d’achat, DoubleClick peut calculer la publicité sur laquelle vous êtes le plus susceptible de cliquer et, finalement, le produit que vous êtes le plus susceptible d’acheter.
« C’est tout ce que l’intelligence artificielle et l’apprentissage automatique 1 sont pour ces entreprises : permettre de mieux deviner quelles publicités vous montrer », dit M. Libert. « Chaque once de donnée augmente les chances qu’ils affichent la « bonne » publicité. Ainsi ils ne s’arrêtent jamais, ils ne dorment jamais et ils ne respectent jamais votre vie privée. Chaque jour, tous les employés de Google travaillent ensemble pour accomplir un seul but : avoir un pourcentage de « bonne » publicité montrée toujours plus élevé.
Il est presque impossible de savoir exactement comment cette « machine d’influence numérique », comme le dit un récent rapport de Data & Society, fonctionne dans un cas particulier, tout comme il est impossible de savoir comment le changement climatique contribue à des ouragans spécifiques. Mais dans l’ensemble, le lien est clair et indéniable.
« Avec la technologie publicitaire, la communication politique a radicalement changé », m’a dit Joan Donovan, qui fait des recherches sur la manipulation des médias et la responsabilité des plate-formes pour Data & Society, dans un courriel. « Si nous étions à la recherche d’une révolution numérique, c’est bien dans la publicité en ligne qu’elle s’est manifestée. Une grande partie de la publicité en ligne est totalement non réglementée et non gérée. Les stratèges politiques ont compris cette nouvelle opportunité et ont capitalisé sur la désinformation numérique en utilisant la publicité comme système de diffusion. Aucun politicien ne peut faire campagne de façon éthique dans ces conditions parce qu’ils sont simplement abattus par ceux qui sont prêts à utiliser ces systèmes pour causer des dommages. »
En copiant le modèle d’affaires basé sur la publicité des médias traditionnels, les sociétés internet ont négligé d’adopter une règle cruciale : la séparation entre les opérations commerciales et les décisions éditoriales. Bien que la règle soit loin d’être universellement respectée, le code de déontologie du journalisme du XXe siècle interdit aux considérations financières d’influencer la couverture médiatique. Cet écran éthique a permis au capitalisme américain de subventionner la presse, ce qui a contribué à maintenir l’honnêteté du gouvernement et des entreprises : poids et contrepoids actifs ensemble.
Tout cela s’est effondré avec la publicité ciblée, ce qui a dérobé l’argent du journalisme et l’a utilisé pour soutenir des plates-formes dont la logique n’est pas d’éduquer, d’informer ou de demander des comptes aux puissants, mais de garder les gens « engagés ». Cette logique d’engagement est motivée par le double besoin de collecter plus de données et de montrer plus d’annonces, et se manifeste dans des algorithmes qui privilégient la popularité sur la qualité. En moins de 20 ans, la Silicon Valley a remplacé le jugement éditorial par des mesures mathématiques de popularité, déstabilisé les systèmes démocratiques de contrôle en entravant le quatrième pouvoir, et enfoncé clou après clou dans le cercueil de la vie privée.
« Nous assistons à un manque de confiance total à l’égard des plates-formes en ligne à un moment où elles sont la force la plus influente pour saper ou protéger les idéaux démocratiques dans le monde entier. »
Le modèle d’affaires de la publicité ciblée incite les entreprises à rassembler autant d’informations que possible : ce que leurs utilisateurs font eux-mêmes sur les plates-formes et ce qu’ils font ailleurs sur Internet. Google et Facebook surveillent même les activités en ligne des personnes qui n’ont pas de compte chez eux, et utilisent ces informations dans leur modélisation de données pour diffuser des publicités sur le web. Plus récemment, ils ont commencé à acheter des données sur les transactions par carte de crédit des consommateurs ainsi que d’autres activités hors ligne. Ces dossiers numériques contiennent des informations révélatrices sur chacun d’entre nous individuellement et collectivement. Il n’est ainsi pas surprenant que les gouvernements soient empressés de mettre la main sur ces données. Par exemple, les révélations d’Edward Snowden de 2013 contenaient des détails sur plusieurs programmes de la NSA, y compris PRISM, qui reposaient sur l’obtention de données de grandes entreprises technologiques, à la fois avec et sans que les dirigeants le sachent. Des relations similaires entre les entreprises de technologie (y compris les opérateurs de télécommunications) et les acteurs étatiques peuvent également être trouvées dans d’autres pays. Les préjudices aux droits humains qui en découlent comprennent la surveillance extrajudiciaire, le harcèlement et les sévices physiques, ainsi que les effets dissuasifs découlant de la prise de conscience de ces risques.
Au niveau du groupe, la publicité ciblée automatise la discrimination et la normalise en semblant éliminer les préjugés individuels de l’équation. Comme l’explique Chris Gilliard dans un récent essai, « le capitalisme de surveillance fait des profits en rendant les gens plus à l’aise avec la discrimination ». Cela se manifeste dans des pratiques telles que le redlining 2 numérique, la tarification différentielle, les résultats de recherche racistes et les bulles de filtrage des médias sociaux.
Safiya Noble, professeure agrégée à l’Université de Californie à Los Angeles et auteure d’Algorithms of Oppression, m’a dit dans un courriel que « nous dépendons des moteurs de recherche commerciaux pour séparer la vérité de la fiction, mais que ces derniers aussi ne sont pas fiables pour vérifier les faits sur de nombreuses questions sociales et politiques. Fondamentalement, nous assistons à un manque de confiance total à l’égard des plateformes en ligne à un moment où elles sont la force la plus influente pour saper ou protéger les idéaux démocratiques dans le monde entier ».
La publicité ciblée nous fait vivre l’Internet, et donc le monde, de différentes manières, en fonction de ce que cet assemblage de capitalisme de surveillance pense savoir sur nous. Ce n’est pas une recette pour l’équité, l’égalité ou une société juste.
Enfin, la publicité ciblée et les pratiques de conservation algorithmique qui lui sont associées nuisent à la démocratie elle-même. Le passage de la publicité au numérique a cannibalisé les revenus des médias d’information, affaiblissant ainsi l’ensemble de la sphère publique. Et lier la publicité aux pages vues incite les médias à produire des articles qui donnent de bons résultats, parfois aux détriment d’un matériel qui éduque, divertit ou tient les détenteurs du pouvoir responsables. La publicité ciblée fournit aux annonceurs politiques et aux propagandistes des outils qui leur permettent de micro-segmenter les audiences de manière à empêcher une compréhension commune de la réalité. Cela crée un chaos parfait pour des populistes autoritaires comme Rodrigo Duterte, Donald Trump et Jairo Bolsanaro pour prendre le pouvoir, avec des conséquences désastreuses pour les droits humains. Dipayan Ghosh et Ben Scott, auteurs de la série de rapports Digital Deceit, notent que « nous avons permis que les technologies qui fournissent des informations basées sur la pertinence et le désir d’attirer le plus d’attention possible remplacent la fonction normative des éditeurs et des salles de rédaction ».
Pendant des décennies, des penseurs comme Hannah Arendt, Karl Polanyi et bien d’autres nous ont averti à plusieurs reprises que le fascisme est la conséquence directe de la subordination des besoins humains aux besoins du marché. Ayant délibérément ignoré les leçons de l’histoire, nous avons permis à la cupidité des entreprises de transformer notre écosystème médiatique en un écosystème qui favorise structurellement le populisme autoritaire. Pour sauver la démocratie, il ne suffit pas de réformer les entreprises de l’Internet, bien sûr, et la recette exacte du succès varie d’un pays à l’autre. Aux États-Unis, nous devons faire marche arrière sur 30 ans de déréglementation des médias, accroître de façon exponentielle le soutien du public aux médias d’intérêt public et nous attaquer aux inégalités structurelles de notre système électoral qui donnent le pouvoir à un parti que moins de la moitié des électeurs soutiennent.
Le modèle d’affaires de la publicité ciblée au cœur du capitalisme de surveillance doit être restructuré, voire remplacé. Mais avec quoi, et comment y parvenir ?
Les experts ne s’entendent pas sur la question de savoir si l’écosystème de la publicité ciblée peut être réformé de manière significative et si cela suffira à inverser son impact nocif sur la société. « Le capitalisme de surveillance n’est pas plus limité à la publicité ciblée que le capitalisme managérial ne l’était à la production du modèle T de Ford », a déclaré Zuboff, dont le nouveau livre sort en janvier. « Cette logique d’accumulation s’est étendue bien au-delà de ses origines à de nouveaux secteurs et à de nouvelles formes d’opérations commerciales. Comme une plante envahissante qui n’a pas été confrontée à des prédateurs naturels, le capitalisme de surveillance a pu prendre racine et s’épanouir dans un espace sans loi pendant deux décennies. »
Dipayan Ghosh, qui étudie l’ingénierie de la protection de la sphère privée 3 à la School of Government John F. Kennedy de l’Université d’Harvard, est plus optimiste, mais n’exclut pas des solutions réglementaires. Comme l’affirment les sociétés de technologie elles-mêmes, les internautes peuvent trouver de la valeur dans une publicité ciblée qui est personnalisée en fonction de leurs intérêts et qui les aide à découvrir des opportunités ou des événements qui leur sont pertinents. Mais la même infrastructure qui vous permet de savoir quand votre groupe préféré joue dans votre ville permet également aux mauvais acteurs de diffuser des idées néfastes.
« Ce régime commercial est responsable d’énormes menaces à la sécurité », a déclaré dans une interview M. Ghosh, qui a travaillé comme conseiller en politique technologique à la Maison-Blanche et qui était auparavant conseiller américain en matière de protection de la vie privée et de politique publique chez Facebook. « Nous devrons traiter le modèle d’affaires avec des mesures politiques qui favorisent les bons côtés et éliminent les mauvais. Et si cela ne devait pas fonctionner, nous devrons peut-être introduire des réglementations contre la publicité ciblée. Je pense que nous pouvons trouver des moyens d’autoriser la publicité ciblée faite par Chanel ou la NBA, et de supprimer le contenu néfaste poussé par les propagandistes russes. »
C’est à la Silicon Valley qu’il incombe de démontrer que les entreprises peuvent se prémunir contre les dommages les plus graves du capitalisme de surveillance sans bouleverser leur modèle d’affaires – ou mieux encore, de trouver de nouvelles sources de revenus qui ne dépendent pas de la marchandisation du comportement privé des gens. C’est d’autant plus important que les gens ne peuvent pas se retirer facilement de ce système.
Bien que Google et Facebook permettent aux utilisateurs de ne pas voir les annonces ciblées, il est impossible de ne pas être suivi ou inclus dans les ensembles de données utilisés pour créer des algorithmes de ciblage. Selon Carnegie Mellon’s Libert, « vous pouvez supposer que si vous ne voyez pas une publicité ciblée pour des chaussures, ils ont cessé de vous suivre, mais ce n’est absolument pas le cas. Il existe des moyens technologiques de prévenir un certain niveau de suivi, mais c’est comme si vous preniez de l’aspirine pour guérir votre cancer, cela peut vous aider à vous sentir un peu mieux pendant quelques heures, mais vous êtes toujours aux prises avec le cancer. Le seul moyen d’éradiquer le cancer de la publicité ciblée est la réglementation. L’Europe est en train de faire une grande expérience avec RGPD, et le reste du monde regarde. »
Partout dans le monde, y compris à Washington, les décideurs politiques sont de plus en plus conscients que la protection de la vie privée et des données est intimement liée à la structure fondamentale de la société. Ni eux, ni le public n’accepteront probablement le statu quo pendant encore longtemps.