C’est article est disponible en podcast et par écrit. La version écrite contient plein d’articles qui ne sont pas disponible dans la version audio. Bonne lecture.
Podcast: Play in new window | Download (Duration: 12:48 — 9.1MB) | Embed
Depuis longtemps, je me méfie des GAFAM. Il est donc probable que ma critique de ces géants du numérique soit perçue comme légèrement influencée par un biais de confirmation. Cependant, les données présentées par Max Fisher dans « The Chaos Machine » sont trop accablantes pour être ignorées. Ce dont il est question, c’est de la déformation profonde de la réalité perçue par des millions de personnes, des réalités qui ne sont pas façonnées par les faits, mais par des émotions influençables des outils développer par des plateformes à la recherche de profit.
La Machine à mots
L’une des clés de cette machine à chaos réside dans l’utilisation des mots moraux-émotionnels. Max Fisher, en s’appuyant sur les recherches de William Brady, montre que ces mots ne sont pas simplement des accessoires rhétoriques : ils sont des déclencheurs émotionnels profonds, qui captent et retiennent l’attention des utilisateurs comme aucun autre type de contenu. Fisher explique que ces mots agissent comme des aimants à attention, capables de détourner les utilisateurs de toute autre pensée dès qu’ils apparaissent à l’écran :
« Les mots moraux-émotionnels, ont-ils découvert, annulent l’attention des gens presque quel que soit le contexte. » Max Fisher, The chaos Machine, 2022
Ce phénomène est à l’œuvre dans nos fils d’actualité quotidiens, où des termes comme « honte », « traître », ou « héros » font exploser la viralité de n’importe quel message, aussi banal soit-il.
« Lorsqu’ils ont refait l’expérience avec de vrais tweets, ils ont obtenu les mêmes résultats : plus un message contenait de mots à connotation morale et émotionnelle, plus il suscitait d’intérêt. Ces messages ont également été partagés en plus grand nombre. Si vous tweetez « Le renard brun rapide saute par-dessus le chien paresseux » et « Le renard brun rapide saute par-dessus le chien menteur », ce dernier obtiendra, à partir de ce seul mot moral-émotionnel, plus d’attention et plus de partages. Tweetez « Le bon renard héroïque écrase le chien ennemi menteur » et vous serez peut-être président avant la nuit. » Max Fisher, The chaos Machine, 2022
La Machine à indignation
La montée en puissance de ces contenus n’est pas une simple coïncidence. Les plateformes numériques sont conçues pour maximiser l’engagement, et elles savent que rien n’engage plus que les émotions morales. Mais cette dynamique a des conséquences sur la manière dont nous percevons nos communautés et la réalité elle-même. Fisher expose un concept crucial : l’économie de l’attention. Le nombre de secondes dans une journée ne change jamais, mais la quantité de contenu disponible, elle, double constamment. Cela force les plateformes à sélectionner pour nous ce qui est le plus susceptible de retenir notre attention, c’est-à-dire les contenus les plus émotionnels et polarisants. Fisher explique :
« Imaginez que votre réseau produise 200 publications par jour, dont vous avez le temps de lire 100. En raison de l’inclinaison des plateformes, vous verrez la moitié la plus morale-émotionnelle de votre flux. » Max Fisher, The chaos Machine, 2022
L’année suivante, ce chiffre pourrait doubler à 400 publications par jour, mais vous ne lirez plus que les 25 % les plus extrêmes. Ce processus progressif conduit à ne percevoir que la partie la plus indignée de votre réseau.
« Au fil du temps, l’impression que vous avez de votre propre communauté devient radicalement plus moralisatrice, grandiloquente et indignée, et vous faites de même. Dans le même temps, les formes de contenu moins engageantes – la vérité, l’appel à ce qu’il y a de meilleur en nous, l’appel à la tolérance – se font de plus en plus vite dépassées. » Max Fisher, The chaos Machine, 2022
La Machine à haine
Les effets de cette influence algorithmique ne sont pas seulement théoriques. Fisher parle des liens entre l’augmentation de l’utilisation de Facebook dans certaines régions et la montée des violences racistes, comme le démontre une étude menée en Allemagne :
« Dans les villes où l’utilisation de Facebook par personne a augmenté d’un écart-type au-dessus de la moyenne nationale, les attaques contre les réfugiés ont augmenté d’environ 35 %. » Max Fisher, The chaos Machine, 2022
Ces résultats inquiétants sont encore à prendre avec des pincettes, mais ils révèlent l’impact potentiel des réseaux sociaux sur les tensions sociales ; la manière dont ils les alimentent, les intensifient, pour finalement les transformer en actes de violence.
Et ce n’est que l’Europe avec les migrants, au Myanmar avec les violences contre les Rohingas ou le cas des anti-vaxx au Mexique pendant l’épidémie de Zika, les conséquences là sont plus facilement mesurable. Car c’est en général, un réseaux social, ou plutôt son algorithme, qui y devient la seule source d’information d’une population.
Et là on a le résultat des algorithmes des réseaux sociaux. Une spirale dont le centre est l’ultime indignation: la haine. Des communautés tranquilles peuvent ainsi se transformer en foyers de violences, où le lynchage devient une réalité, sous l’effet du monopoles que ces plateformes ont sur nos vies. Les réseaux sociaux exportent là leurs plus étranges fruits… (Strange Fruit de Abel Meeropol, la version de Billie Holiday est à connaître)
La Machine à monopoles
Si pour certains les réseaux sociaux sont la seule source d’information, ce n’est pas un accident. Une des idéologie portée par des figures influentes de la Silicon Valley comme Peter Thiel, l’un des premiers investisseurs de Facebook, est le monopole. Thiel a défendu un modèle économique agressif basé sur sa création. Dans son ouvrage « Zero to One », Thiel soutient que l’innovation véritable implique de créer un nouveau marché à partir de rien, puis de le contrôler totalement. Fisher fait le lien entre cette mentalité et l’approche des plateformes sociales :
« Le mandat, commercial et idéologique, pour les entreprises est d’inventer quelque chose de si nouveau qu’il n’existe pas encore de marché pour cela — à partir de zéro — et de contrôler ce marché absolument. » Max Fisher, The chaos Machine, 2022
C’est ainsi que des entreprises comme Google, Amazon, Facebook, Apple et Microsoft, mais aussi Uber ont peut-être innové, mais surtout su s’accaparer des secteurs entiers, établissant des monopoles sur nos vies numériques ou non.
« L’histoire du progrès est l’histoire d’entreprises monopolistiques plus performantes qui remplacent les entreprises en place », a écrit M. Thiel. Intel et les processeurs. Apple et les ordinateurs personnels. Uber et les taxis privés. Facebook et les réseaux sociaux. » Max Fisher, The chaos Machine, 2022
Dans ce modèle, l’humain devient obsolète, et le monopole doit être absolu. Pour garantir ce monopole de l’information, c’est votre attention qui devient unique objectif. Si les banques de Wall Street se sont construites Too big to fail alors la Silicon Valley, elle se construit le too big to care.
La Machine à confirmation
Il est vrai que cette vision correspond bien à mes biais de confirmation et du coup à ma perception du monde. Mais The Chaos Machine n’est pas le premier à me mettre efficacement le nez dans le cambouis.
Par exemple, comment des mouvements aussi absurdes que celui des platistes se sont enracinés dans nos sociétés, c’est une évolution très sagement documentée dans Behind the Curve le documentaire de 2018. De manière similaire, Caelan Conrad illustre, dans son documentaire Anti-Vaxxed: From Cowpox to Conspiracy, comment des parents bien intentionnés cherchant simplement à se renseigner sont aspirés dans les spirales de désinformation au seul bénéfices des anti-vaccins. Mais il y a aussi Cory Doctorow, dont je ne me lasse pas, et qui décrit cette dérive dans nombre de ses articles, dont As Platforms Decay, Let’s Put Users First, que j’ai traduit sur mon blog, par exemple. Ses écrits parle aussi clairement de ce à quoi nous assistons: l’emmerdissement (enshittification, mot que Doctorow a inventé) des plateformes sous le poids de ces mêmes logiques dysfonctionnelles.
Les effets de ces dynamiques toxiques sont bien réels, comme l’ont montré les rumeurs et conspirations qui circulaient pendant la pandémie de COVID-19. En Suisse, trois initiatives populaires ont même été lancées uniquement parce que des gens « n’aime pas » mettre un masque et qu’ils faut changer la réalité pour les accommoder, eux. Il est certains que la capacités de ces plateformes sociales à changer notre rapport au monde en fonction de ce que l’on voit, encore et encore, et qui par répétition nous devient vrai, y a contribuer.
Alors si on commence à voir des individus mais aussi des personnalités quitter certains réseaux, c’est le plus souvent pour rester sur une plateforme qui « serait plus tolérable ». Là aussi, c’est un arrangement avec la réalité, qui nous évite le coût et l’effort de quitter ces réseaux. Alors on fait quoi ?
La machine: au feu !
Alors pour ceux qui persistent à rester sur ces plateformes en espérant qu’elles s’améliorent, j’aimerais poser une petite énigme :
Le papier peint se décolle, l’eau bout, les rideaux tombent. De quoi allez-vous vous occuper en premier ?
La réponse est simple : Aucun, il faut appeler les pompiers. La maison brûle ! Et non, il ne sert à rien d’essayer de sauver les meubles. Ce n’est pas en espérant qu’un leader bienveillant apparaisse ou que votre plateforme préférée devienne un peu « moins pire » que les autres que vous changerez la donne.
Une nouvel machine ?
Internet était une promesse de faire tomber les distances entre les pairs afin de leur permettre de communiquer directement de l’un à l’autre. C’est le « bon vieux internet », celui du chat IRC, des forums, des adresse IPv4 qui nous semblaient infinies. Mais peut-on retourner au temps du bon vieil internet? Non, car retourner en arrière ne nous a jamais aider quelque soit nos problèmes de société. Car on ne referme jamais la boîte de Pandore. Mais alors que reste-il au fond ?
A new, good internet is possible and worth fighting for. After all, the internet is a powerful and crucial force in our lives, a single conduit for free speech, a free press, free association; and access to education, family, civics, politics, health, employment, romance, and more. Cory Doctorow Don’t Be Evil
Un bon, nouvel internet est possible et mérite que l’on se batte pour lui. Après tout, l’internet est une force puissante et cruciale dans nos vies, un conduit unique pour la liberté d’expression, la liberté de la presse, la liberté d’association et l’accès à l’éducation, à la famille, à l’éducation civique, à la politique, à la santé, à l’emploi, à la romance et à bien d’autres choses encore. Cory Doctorow Don’t Be Evil
Et bien, ils s’appellent Mastodon, PeerTube ou Mobilizon. En Suisse romande, par exemple, ce sont des associations comme FairSocialNet où fleurissent ces alternatives, libre, ouvertes et interopérable, pour offrir un nouveau modèle, un autre fonctionnement. Ces plateformes ne représentent pas un retour au « bon vieux internet », mais « un bon nouvel internet » (voir Cory Doctorow Don’t Be Evil), libéré de l’emprise monopolistique des géants du Web 2.0. Ces nouvelles alternatives ne sont pas parfaites, mais elles incarnent l’espoir d’un espace numérique plus juste, plus sain et moins soumis aux dérives commerciales des plateformes actuelles.
Alors sortez de la maison, laissez-la brûler car c’était votre prison et sur ses cendres nous construirons, pourquoi pas, une école?
1 Commentaire