Nos esprits peuvent être piratés : Les initiés craignent une dystopie du smartphone. Par Paul Lewis

Source : Paul Lewis, 06-10-2017

Les employés de Google, Twitter, Facebook qui ont aidé à rendre la technologie tellement addictive, se déconnectent eux-mêmes d’internet. Reportage de Paul Lewis sur les refusniks de la Silicon Valley qui s’alarment d’une course à l’attention humaine.

Justin Rosenstein avait bricolé le système d’exploitation de son ordinateur portable pour bloquer Reddit, il s’est retiré de Snapchat, qu’il compare à de l’héroïne, et s’est imposé des limites à son utilisation de Facebook. Mais même cela ne suffisait pas. En août, le manager technique de 34 ans a pris une mesure plus radicale pour restreindre son utilisation des réseaux sociaux et d’autres technologies addictives.

Rosenstein a acheté un nouvel iPhone et a demandé à son assistant d’installer un moyen de contrôle parental pour l’empêcher d’installer n’importe quelle application.

Il était particulièrement conscient de l’attrait des « like » de Facebook qu’il décrit comme « des signaux brillants de pseudo-plaisir », pouvant être aussi vides que séduisants. Et Rosenstein devait être au courant : Il a été le premier développeur de Facebook qui a créé le bouton « like ».

Une décennie après qu’il soit resté toute une nuit à coder le prototype de ce qui était alors appelé le « bouton génial », Rosenstein appartient à un groupe d’hérétiques petit, mais grandissant, à la Silicon Valley qui se plaint de la montée d’un soi-disant « marché de l’attention » : un internet conçu pour les exigences du marché de la publicité.

Ces « refusniks » sont rarement les fondateurs ou les directeurs, qui sont peu enclins à se détourner du mantra de leurs entreprises sur le fait de « faire un monde meilleur ». Au contraire, ils touchent plutôt les gens quelques échelons plus bas dans l’échelle de l’entreprise : designers, développeurs, chefs de produits qui, comme Rosenstein il y a quelques années, ont mis en place la construction d’un monde numérique duquel ils essayent maintenant de se dégager. « C’est très commun », dit Rosenstein, « pour des humains de développer quelque chose avec les meilleures intentions, et qui se révèlent avoir pour eux des conséquences négatives inattendues ».

Rosenstein, qui a aussi contribué à développer Gchat durant un passage chez Google et qui maintenant dirige une société basée à San Francisco, qui accroît la productivité, paraît le plus concerné par les effets psychologiques sur les gens qui, comme le montrent des études, touchent, glissent ou tapent 2617 fois par jour.

C’est un problème grandissant que, aussi bien que les usagers accros, la technologie contribue à une sorte « d’attention partielle continue », limitant sévèrement la capacité des gens à se concentrer et peut même abaisser le QI. Une étude récente a montré que la seule présence de smartphones endommage la capacité cognitive – même si l’appareil est éteint. D’après Rosenstein, « Tout le monde est distrait, tout le temps ».

Mais ces soucis sont triviaux comparés à l’impact dévastateur sur le système politique dont certains des pairs de Rosenstein pensent que cela peut être attribué à la montée des réseaux sociaux et au « marché de l’attention » qui les mènent.

Tirant une ligne droite entre l’addiction aux réseaux sociaux et les séismes politiques comme le Brexit et la montée de Donald Trump, ils soutiennent que les forces numériques ont complètement changé le système politique et si on ne les contrôle pas, peuvent même rendre la démocratie telle qu’on la connaît, obsolète.

En 2017, Rosenstein faisait partie d’un petit groupe d’employés de Facebook qui ont décidé de créer une voie de moindre résistance – un seul clic – pour « envoyer des petits bouts de positivité » dans la plateforme. Le « like » de Facebook a eu, selon Rosenstein, « un succès exceptionnel » : l’implication est montée en flèche comme les gens adoraient la stimulation brève qu’ils avaient en donnant et recevant une affirmation sociale, alors que Facebook collectait des données précieuses sur les usagers et leurs préférences pour les vendre aux publicitaires. L’idée a vite été copiée par Twitter avec son « like » en forme de cœur (avant c’était un « favoris » en forme d’étoile), Instagram et de très nombreuses autres applications et sites web.

Ce fut la collègue de Rosenstein, Leah Pearlman, alors chef de produits à Facebook et dans l’équipe qui a créé le « like » de Facebook, qui a annoncé cette fonction dans un post du blog en 2009. A présent, à 35 ans et illustratrice, Pearlman a confirmé par e-mail qu’elle aussi, s’est retrouvée à ne pas aimer le « like » de Facebook et autres boucles de feedback addictifs. Elle a installé un plug-in sur son navigateur qui supprime ses fils d’actualité Facebook, et elle a engagé un manager de réseau social pour contrôler sa page Facebook à sa place.

Justin Rosenstein, l’ancien développeur de Google et Facebook qui a contribué à créer le bouton « like » : Tout le monde est distrait, tout le temps. Photo : Avec l’autorisation de Asana Communications

« Je pense qu’il y a une raison particulièrement importante pour que nous en parlions à présent, c’est que nous sommes peut-être la dernière génération à se souvenir de la vie d’avant », déclare Rosenstein. Il est peut-être significatif que Rosenstein, Pearlman, et la plupart des initiés technologiques qui remettent en question le « marché de l’attention », soient dans la trentaine, membres de la dernière génération qui peuvent se souvenir d’un monde dans lequel les téléphones étaient branchés dans le mur.

C’est révélateur que beaucoup de ces jeunes techniciens se sèvrent eux-même de leurs propres produits, et envoient leurs enfants dans les écoles d’élites de la Silicon Valley où les iPhones, iPads et même les ordinateurs portables sont interdits. Ils semblent s’en tenir aux paroles de Biggie Smalls [Notorious BIG, rapper assassiné, NdT] de leur propre jeunesse sur les dangers de revendre du crack et de la cocaïne : Ne jamais se défoncer avec son propre stock.

•••

Un matin d’avril de cette année, des designers, des programmeurs et des entrepreneurs de partout dans le monde se réunissaient dans un centre de conférence sur la côte de la baie de San Francisco. Ils avaient payé chacun 1700 dollars pour apprendre à manipuler les gens dans l’utilisation habituelle de leurs produits, au cours d’une conférence bien sûr organisée par Nir Eyal.

Eyal, 39 ans, l’auteur de Hooked : How to Build Habit-Forming Products, [L’hameçonnage, ou comment concevoir des produits qui rendent dépendant, NdT] a passé plusieurs années à conseiller l’industrie de la technologie, enseignant les techniques qu’il a développées en étudiant de près le fonctionnement des géants de la Silicon Valley.

« Les technologies que nous utilisons sont devenues des obsessions, sinon des dépendances à part entière », écrit Eyal. « C’est le besoin de vérifier la réception d’un message. C’est l’attrait de se rendre sur YouTube, Facebook ou Twitter pendant quelques minutes, pour ensuite se retrouver à tapoter et à faire défiler une heure plus tard ». « Rien de tout cela n’est accidentel », écrit-il. « C’est exactement ce que leurs concepteurs voulaient ».

Il explique les subtiles astuces psychologiques qui peuvent être utilisées pour inciter les gens à développer des habitudes, comme varier les récompenses qu’ils reçoivent pour créer une « besoin », ou exploiter des émotions négatives qui peuvent agir comme « déclencheurs ». « Les sentiments d’ennui, de solitude, de frustration, de confusion et d’indécision provoquent souvent une légère douleur ou irritation et incitent à agir presque instantanément et souvent sans réfléchir, pour apaiser la sensation négative », écrit Eyal.

Les participants de l’ Habit Summit de 2017 ont peut-être été surpris quand Eyal a annoncé sur scène que le discours d’ouverture de cette année portait sur « quelque chose d’un peu différent ». Il voulait répondre à l’inquiétude grandissante selon laquelle la manipulation technologique était nuisible ou immorale. Il a dit à son auditoire de faire attention à ne pas abuser de la notion de persuasion, et de se méfier de franchir une ligne en faisant appel à la coercition.

Mais il défendait les techniques qu’il enseigne et dédaignait ceux qui comparent la dépendance technologique aux drogues. « Nous ne sommes pas en train de nous injecter de l’Instagram et Facebook gratuitement ici », a-t-il dit. Il a montré la diapositive d’une étagère remplie de pâtisseries sucrées. « Tout comme nous ne devons pas blâmer le boulanger pour avoir fait de telles gâteries délicieuses, nous ne pouvons pas blâmer les fabricants de technologie pour avoir fait des produits si bons que nous désirons les utiliser », a-t-il dit. « Bien sûr, c’est ce que les entreprises de technologie feront. Et franchement : avons-nous envie de faire autrement ? »

Sans ironie, Eyal termine son exposé par quelques conseils personnels pour résister à l’attrait de la technologie. Il a dit à son auditoire qu’il utilise une extension Chrome, appelée DF YouTube, « qui élimine un grand nombre de ces déclencheurs externes », écrit-il dans son livre, et il a recommandé une application appelée Pocket Points qui « récompense le fait que vous soyez resté sans téléphone lorsque vous devez vous concentrer. »

Enfin, Eyal confie les mesures qu’il a prises pour protéger sa propre famille. Il a installé dans sa maison une minuterie branchée à un routeur qui coupe l’accès à Internet à une heure fixe tous les jours. « L’idée est de se rappeler que nous ne sommes pas impuissants », a-t-il dit. « Nous avons le contrôle. »

Mais l’avons-nous vraiment ? Si les gens qui ont construit ces technologies prennent des mesures aussi radicales pour se sevrer en toute liberté, peut-on raisonnablement s’attendre à ce que nous autres exercions notre libre arbitre ?

Pas d’après Tristan Harris, un ancien employé de Google âgé de 33 ans, qui a critiqué l’industrie des technologies. « Nous sommes tous branchés à ce système », dit-il. « Tous nos pensées peuvent être détournées. Nos choix ne sont pas aussi libres que nous le croyons. »

Harris, qui a été considéré comme « un spécialiste de la Silicon Valley », insiste sur le fait que des milliards de personnes n’ont guère le choix d’utiliser ces technologies désormais omniprésentes et ignorent en grande partie la manière invisible dont un petit nombre d’habitants de la Silicon Valley façonnent leur vie.

Diplômé de l’Université de Stanford, Harris a étudié sous la direction de BJ Fogg, un psychologue comportemental respecté dans les cercles technologiques pour sa maîtrise des façons dont le design technologique peut être utilisé pour persuader les gens. Beaucoup de ses étudiants, y compris Eyal, ont fait carrière dans la Silicon Valley.

Tristan Harris, ancien employé de Google, critique maintenant l’industrie de la technologie : « Nos choix ne sont pas aussi libres que nous le pensons ». Photo : Robert Gumper pour le Guardian

Harris est l’étudiant qui a tourné voyou ; un lanceur d’alerte en quelque sorte, il dévoile les vastes pouvoirs accumulés par les entreprises technologiques et la façon dont elles utilisent cette influence. « Une poignée de personnes, travaillant dans une poignée d’entreprises technologiques, grâce à leurs choix, guideront ce qu’un milliard de personnes pensent aujourd’hui », a-t-il déclaré lors d’une récente conférence TED [Technology, Entertainment and Design, série de conférences destinées à propager des idées, NdT] à Vancouver.

« Je ne connais pas de problème plus urgent que celui-ci », déclare Harris. Ce dernier s’est fait connaître au public en donnant des conférences, en rédigeant des articles, en rencontrant des législateurs et en faisant campagne pour la réforme après trois ans de lutte pour le changement au sein du siège social de Google Mountain View.

Tout a commencé en 2013, alors qu’il travaillait comme chef de produit chez Google. Il a fait circuler une note de service stimulante, A Call To Minimise Distraction & Respect Users’Attention [Un appel pour minimiser la distraction et respecter l’attention des utilisateurs] à 10 collègues proches. Il a trouvé un terrain d’entente, qui s’est propagé à quelque 5 000 employés de Google, y compris des cadres supérieurs, qui ont récompensé Harris avec un nouvel emploi au titre ronflant : il devait être l’éthicien du design interne de Google et le philosophe des produits.

Avec le recul, Harris constate qu’il a été promu à un rôle mineur. « Je n’avais pas du tout de structure de soutien social », dit-il. Il ajoute : « Je devais m’asseoir dans un coin pour réfléchir, lire et comprendre. »

Il a exploré comment LinkedIn exploite un besoin de réciprocité sociale pour élargir son réseau ; comment YouTube et Netflix lancent automatiquement les vidéos et leurs épisodes suivants, privant les utilisateurs d’un choix de continuer à regarder ou non ; comment Snapchat a créé sa fonction Snapstreaks addictive, encourageant la communication quasi-constante entre ses utilisateurs, en majorité des adolescents.

Les techniques utilisées par ces entreprises ne sont pas toujours les mêmes : l’algorithme peut s’adapter à chacun en particulier. Par exemple, un rapport interne de Facebook a révélé cette année que l’entreprise peut identifier les adolescents qui se sentent « fragiles, inutiles et manquant de confiance ». Une information aussi détaillée, ajoute Harris, est « un modèle parfait de ce que l’on peut faire pour agir sur quelqu’un en particulier ».

Les entreprises de technologie peuvent exploiter ces vulnérabilités pour garder les gens branchés ; manipuler, par exemple, les gens qui reçoivent des « like » pour leurs posts, s’assurer qu’ils arrivent lorsqu’une personne est susceptible de se sentir vulnérable, qu’elle a besoin d’approbation ou qu’elle s’ennuie. Et les mêmes techniques peuvent être vendues au plus offrant. « Il n’ y a pas d’éthique », dit-il. Une entreprise qui paye Facebook pour utiliser ses leviers de persuasion pourrait être une entreprise automobile ciblant des publicités sur mesure pour différents types d’utilisateurs qui veulent un nouveau véhicule. Ou bien il pourrait s’agir d’une ferme troll basée à Moscou qui cherche à orienter les électeurs d’un comté en ballottage comme le Wisconsin.

Harris croit que les entreprises de technologie n’ont jamais délibérément cherché à rendre leurs produits addictifs. Ils réagissaient aux incitations d’une économie de la publicité en expérimentant des techniques qui pouvaient capter l’attention des gens, et même en découvrant par hasard des designs très efficaces.

Un ami sur Facebook a dit à Harris que les concepteurs ont d’abord décidé que l’icône de notification, qui avertit les gens des nouvelles activités telles que les « demandes d’amis » ou « likes », devait être bleue. Cela correspondait au style de Facebook et, selon la réflexion stratégique, elle paraissait « subtile et inoffensive ». « Mais personne ne l’ a utilisé », déclare Harris. « Puis ils l’ont changée en rouge et bien sûr tout le monde l’a utilisée. »

Le siège social de Facebook à Menlo Park, Californie. Le créateur de l’entreprise a décrit la fameuse fonction « like » comme « une sonnerie lumineuse de pseudo-plaisir ». Photographe : Bloomberg/Bloomberg via Getty Images

Cette icône rouge est maintenant partout. Quand les utilisateurs de smartphones jettent un regard sur leur téléphone, des douzaines ou des centaines de fois par jour, ils sont défiés par des petits points rouge à côté de leurs applications, suppliant d’être tapotés. « Le rouge est une couleur déclencheur », dit Harris. « C’est pour ça qu’il est utilisé comme signal d’alerte. »

Le design le plus séduisant, comme l’explique Harris, exploite la même propension psychologique qui rend le jeu si compulsif : des récompenses variables. Quand on tape ces applications aux boutons rouges, on ne sait pas si on va découvrir un mail intéressant, une avalanche de « like », ou rien du tout. C’est la possibilité de déception qui le rend si compulsif.

C’est ce qui explique comment le mécanisme de pull-to-refresh [tirer-pour-actualiser] où les utilisateurs glissent vers le bas, s’arrêtent et attendent de voir quel contenu apparaît, est rapidement devenu l’une des caractéristiques de conception les plus addictives et omniprésentes de la technologie moderne. « Chaque fois que vous faites un glissé vers le bas, c’est comme une machine à sous », dit Harris. « Vous ne savez pas ce qui va suivre. Parfois, c’est une belle photo. Parfois, c’est juste une pub. »

•••

Le designer qui a créé le mécanisme de pull to refresh pour actualiser, d’abord utilisé pour rafraîchir les flux Twitter, est Loren Brichter, largement admiré dans la communauté de développeurs d’applications, pour ses designs élégants et intuitifs.

Brichter, à présent âgée de 32 ans, dit qu’il n’a jamais eu l’intention de créer un design addictif — mais il ne conteste pas la comparaison avec les machines à sous. « Je suis 100% d’accord », dit-il. « J’ai deux gamins maintenant et je regrette chaque minute où je ne leur prête pas attention parce que je suis avalé par mon smartphone. »

Brichter a créé la fonction en 2009 pour Tweetie, sa start-up, principalement parce qu’il ne trouvait nulle part où mettre le bouton « refresh » dans son application. Maintenir et tirer vers le bas la page des flux pour actualiser ne semblait alors rien de plus qu’une astuce mignonne et maligne. Twitter l’a acquise l’année suivante, et a intégré le pull to refresh dans son application.

Depuis lors, ce design est devenu l’un des plus largement imité dans les applications ; l’action de tirer vers le bas est, pour des millions de gens, aussi intuitif que de se gratter.

Brichter dit qu’il est épaté par la longévité de cette fonction. Dans une époque de technologie de la notification instantanée, les applications peuvent s’actualiser automatiquement sans avoir été activées par l’utilisateur. « La fonction pourrait facilement prendre sa retraite », dit-il. Au lieu de cela, elle semble remplir une fonction psychologique : après tout, les machines à sous seraient beaucoup moins addictives si les joueurs ne pouvaient pas à tirer le levier eux-mêmes. Brichter préfère une autre comparaison : c’est comme le bouton redondant « fermer la porte » dans certains ascenseurs avec fermeture automatique des portes. « Les gens aiment pousser. »

Tout ce qu’a laissé Brichter, qui a mis son travail de design au second plan pour se concentrer sur la construction d’une maison dans le New Jersey, mettant en cause son legs. « J’ai passé de nombreuses heures et des semaines et des mois et des années à réfléchir à la question de savoir si j’ai fait quelque chose ayant eu un impact positif net sur la société ou sur l’humanité », dit-il. Il a bloqué certains sites Web, désactivé les alertes, limité son utilisation de l’application Telegram à communiquer uniquement avec sa femme et ses deux amis proches, et a tenté de se sevrer de Twitter. « Je perds encore du temps », avoue-t-il, « juste à lire des infos stupides que je connais déjà ». Il charge son téléphone dans la cuisine, le branche à 19 heures et ne le touche pas avant le lendemain matin.

« Les smartphones sont des outils utiles » dit-il, « Mais ils sont addictifs. Tirer pour actualiser est addictif, Twitter crée une dépendance. Ce ne sont pas des bonnes choses. Quand je travaillais dessus, je n’étais pas assez mûr pour le comprendre. Je ne dis pas que je suis mûr maintenant, mais je le suis un petit peu plus et je regrette ces mauvais côtés »

Tout le monde dans cette activité, ne semble pas rongé par la culpabilité. Les deux créateurs listés sur le brevet Apple pour « gérer les connections de notification et affichage des icônes » sont Justin Santamaria et Chris Marcellino. Tout deux étaient dans leur petite vingtaine d’années quand ils ont été embauchés par Apple pour travailler sur l’iPhone. En tant que développeurs, ils ont travaillé sur la « plomberie » cachée de la technologie de notification, introduite en 2009 pour permettre des alertes en temps réel et l’actualisation de centaines de milliers de développeurs d’applications tierces. C’était un changement révolutionnaire, procurant l’infrastructure de tellement d’expériences qui maintenant font parti de la vie quotidienne des gens, comme de réserver un Uber jusqu’à passer un appel sur Skype et recevoir des nouvelles fraîches.

Loren Brichter, qui en 2009 a conçu la fonctionnalité pull-to-refresh utilisée par de nombreuses applications, sur le site de la maison qu’il construit dans le New Jersey : « Les smartphones sont des outils utiles, mais ils sont addictifs… Je regrette les inconvénients ». Photographie : Tim Knox pour le Guardian

Mais la technologie de notification a également permis une centaine d’arrêts non désirés de millions de vies, accélérant la course aux armes pour attirer l’attention des gens. Santamaria, 36 ans, qui dirige maintenant une start-up après un passage en tant que responsable du portable chez Airbnb, affirme que la technologie développée chez Apple n’était pas « intrinsèquement bonne ou mauvaise ». « C’est une discussion plus large pour la société », dit-il. « Est-ce bien d’éteindre mon téléphone quand je quitte le travail ? Est-ce que c’est OK si je ne vous répond pas directement ? Est-ce correct que je ‘n’aime’ pas tout ce qui passe sur mon écran Instagram ?

Son collègue d’alors, Marcellino est d’accord. « Honnêtement, je ne me suis jamais à aucun moment assis là, en pensant : ‘rendons les gens accro’ », dit-il. « C’était tout à fait positif, ces applications connectent les gens, elles ont tous ces usages, ESPN vous dit quand le jeu est terminé, ou WhatsApp vous donne un message gratuit d’un membre de votre famille en Iran où il n’y a pas de messagerie. »

Il y a quelques années, Marcellino, 33 ans, a quitté la Bay Area, il est maintenant dans les dernières étapes de formation pour être neurochirurgien. Il insiste qu’il n’est pas un expert en addiction, mais dit qu’il a collecté assez d’informations de sa formation médicale pour savoir que ces technologies peuvent affecter le même circuit neurologique que le jeu ou les drogues. « Ce sont les mêmes circuits qui font que les gens recherchent nourriture, confort, chaleur, sexe », dit-il.

Tout cela, dit-il, est un comportement basé sur la récompense qui active les voies de la dopamine dans le cerveau. Il se retrouve parfois en train de cliquer sur les icônes rouges à côté de ses applications « pour les faire disparaître », mais il est en conflit sur l’éthique de l’exploitation des vulnérabilités psychologiques des personnes. « Il n’est pas intrinsèquement mauvais de ramener les gens à votre produit », dit-il. « C’est le capitalisme ».

C’est peut-être le problème. Roger McNamee, un investisseur de capital-risque qui a bénéficié d’investissements extrêmement rentables dans Google et Facebook, est devenu désenchanté par les deux sociétés, arguant que leurs missions premières ont été déformées par les fortunes qu’ils ont pu gagner grâce à la publicité.

Il identifie l’avènement du smartphone comme un tournant décisif, élevant les mises d’une course aux armements pour le marché de l’attention des gens. « Facebook et Google affirment avec raison qu’ils donnent aux utilisateurs ce qu’ils veulent », déclare McNamee. « On peut dire la même chose de l’industrie du tabac et des trafiquants de drogue. »

Ce serait une affirmation remarquable pour les tout premiers investisseurs dans les mastodontes les plus rentables de la Silicon Valley. Mais McNamee, 61 ans, est plus qu’un homme d’argent au bras long. Alors conseiller de Mark Zuckerberg, il y a 10 ans, McNamee a présenté le PDG de Facebook à son amie Sheryl Sandberg, alors manager chez Google qui avait supervisé les entreprises publicitaires de l’entreprise. Sandberg, bien sûr, est devenu chef d’exploitation chez Facebook, transformant le réseau social en un autre poids lourd publicitaire.

McNamee choisit ses mots avec soin. « Les gens qui dirigent Facebook et Google sont de bonnes personnes, dont les stratégies bien intentionnées ont conduit à des conséquences imprévues horribles », dit-il. « Le problème, c’est que les entreprises ne peuvent rien faire pour s’attaquer au problème à moins d’abandonner leurs politiques publicitaires actuelles. »

Le siège de Google dans la Silicon Valley. Un investisseur en capital-risque croit que, malgré un appétit pour la réglementation, certaines entreprises de technologie sont peut-être déjà trop grosses pour être contrôlées : « L’UE a récemment condamné Google à 2,42 milliards de dollars pour les violations des lois sur les monopoles, et les actionnaires de Google ont simplement haussé les épaules ». Photo : Ramin Talaie pour le Guardian

Mais comment Google et Facebook peuvent-ils être contraints d’abandonner le modèle économique qui les ont transformés en deux des entreprises les plus rentables de la planète ?

McNamee pense que les sociétés dans lesquelles il a investi devraient être soumises à une réglementation plus stricte, y compris avec de nouvelles règles anti-monopole. A Washington, des deux côtés du spectre politique, on a de plus en plus envie de maîtriser la Silicon Valley. Mais McNamee s’inquiète de ce que les mastodontes qu’il a aidé à construire peuvent être déjà trop gros pour être freinés. « L’UE a récemment pénalisé Google de 2,42 milliards de dollars pour des violations anti-monopole, et les actionnaires ont simplement haussé les épaules », dit-il.

Rosenstein, le « co-créateur » du « like » de Facebook, pense qu’il y a peut-être lieu de légiférer au niveau de l’État sur la « publicité psychologiquement manipulatrice », affirmant que l’impulsion morale est comparable à la lutte contre les énergies fossiles ou l’industrie du tabac. « Si nous ne nous préoccupons que de la maximisation du profit », dit-il, « nous irons rapidement vers la dystopie. »

•••

James Williams ne croit pas que parler de dystopie soit exagéré. L’ex-stratège de Google qui a construit le système métrique pour le secteur de la recherche globale sur la publicité de l’entreprise, était au premier plan pour voir une industrie qu’il qualifie de « La plus grande, la plus standardisée et la plus centralisée du contrôle attentionnel de l’histoire humaine ».

Williams, âgé de 35 ans, a quitté Google l’année dernière et est sur le point de terminer un doctorat à l’Université d’Oxford, sur l’éthique du design persuasif. C’est un voyage qui l’a conduit à se demander si la démocratie peut survivre à la nouvelle ère technologique.

Il dit que son épiphanie est arrivée il y a quelques années, lorsqu’il a remarqué qu’il était entouré d’une technologie qui l’empêchait de se concentrer sur les choses sur lesquelles il voulait se concentrer. « C’était ce genre de prise de conscience individuelle et existentielle : que se passe-t-il ? » dit-il. « La technologie n’est-elle pas supposée faire tout le contraire de cela ? »

Cette gêne a été aggravée pendant un moment au travail, lorsqu’il a jeté un coup d’œil à l’un des tableaux de bord de Google, un affichage multicolore montrant l’attention que l’entreprise avait portée aux annonceurs. « Je me suis rendu compte : il s’agit littéralement d’un million de personnes que nous avons poussées ou persuadées de faire cette chose qu’elles n’auraient pas fait autrement », se souvient-il.

Il s’est lancé pendant plusieurs années dans recherche indépendante, dont une grande partie a été menée alors qu’il travaillait à temps partiel chez Google. Environ 18 mois plus tard, il a vu le mémo de Google distribué par Harris et ces deux-là sont devenu des alliés, luttant pour apporter un changement de l’intérieur.

Williams et Harris ont quitté Google à la même époque et ont cofondé un groupe de défense des droits, Time Well Spent, qui cherche à créer un élan public pour un changement dans la façon dont les grandes entreprises de technologie pensent au design. Williams a du mal à comprendre pourquoi cette question n’est pas à la une des journaux tout les jours.

« Quatre-vingt-sept pour cent des gens se réveillent et vont dormir avec leurs smartphones », dit-il. Le monde entier a maintenant un nouveau prisme pour comprendre la politique, et Williams s’inquiète des conséquences profondes.

Les mêmes forces qui ont poussé les entreprises technologiques à accrocher les usagers avec des astuces de design, dit-il, encouragent également ces entreprises à rendre la vision du monde compulsive, irrésistible à regarder. « Le marché de l’attention incite à concevoir des technologies qui captent notre attention », dit-il. « Ce faisant, il privilégie nos impulsions sur nos intentions. »

Cela signifie privilégier ce qui est sensationnel sur ce qui est nuancé, faire appel à l’émotion, à la colère et à l’indignation. Les médias d’information travaillent de plus en plus au service des entreprises technologiques, ajoute Williams, et doivent respecter les règles du marché de l’attention pour « faire du sensationnalisme, attirer et divertir pour survivre. »

La technologie et la montée de Trump : alors qu’Internet est conçu pour retenir notre attention, la politique et les médias deviennent de plus en plus sensationnels. Photo : John Locher / AP

Dans la foulée de la victoire électorale surprenante de Donald Trump, nombreux sont ceux qui ont rapidement remis en question le rôle des « fausses nouvelles » sur Facebook, les robots Twitter créés en Russie ou les efforts centrés sur les données que Cambridge Analytica a utilisées pour influencer les électeurs. Mais Williams voit ces facteurs comme des symptômes d’un problème plus profond.

Ce ne sont pas seulement des acteurs louches ou mauvais qui exploitent Internet pour changer l’opinion publique. Le marché de l’attention en soi est créé pour promouvoir un phénomène comme Trump, qui est un maître pour attirer et retenir l’attention des supporters et des critiques, souvent en exploitant ou en créant l’indignation.

Williams s’occupait de cette affaire avant que le président soit élu. Dans un blog publié un mois avant les élections américaines, Williams sonnait l’alarme sur une question qu’il soutenait être une « question beaucoup plus conséquente » que de savoir si Trump atteindrait la Maison Blanche. Selon lui, la campagne de la star de la télé-réalité annonçait un tournant dans lequel « la nouvelle dynamique gavée de numérique du marché de l’attention a franchi un seuil et devient manifeste dans le domaine politique ».

Williams a vu une dynamique similaire se dérouler des mois plus tôt, au cours de la campagne du Brexit, quand l’économie de l’attention lui a semblé biaisée en faveur de la situation émotionnelle et identitaire du Royaume-Uni quittant l’Union européenne. Il insiste sur le fait que ces dynamiques ne sont pas du tout réservées à la droite politique ; elles jouent aussi un rôle, croit-il, dans la popularité inattendue des politiciens de gauche comme Bernie Sanders et Jeremy Corbyn, et dans les accès de colère sur Internet sur des problèmes qui provoquent la fureur parmi les progressistes.

Tout cela, selon Williams, déforme non seulement la façon dont nous percevons la politique, mais au fil du temps, pourrait changer notre façon de penser, nous rendant moins rationnels et plus impulsifs. « Nous nous sommes habitués à un style cognitif perpétuel d’indignation, en internalisant la dynamique du médium », dit-il.

C’est dans ce contexte politique que Williams soutient que la fixation de ces dernières années sur l’état de surveillance romancé par George Orwell a peut-être été mal placée. Aldous Huxley, un autre écrivain de science-fiction anglais, qui a fait une observation plus perspicace lorsqu’il a averti que la coercition orwellienne était moins une menace pour la démocratie que le pouvoir plus subtil de la manipulation psychologique, et « l’appétit presque infini de l’homme pour les distractions. »

Depuis les élections américaines, Williams a exploré une autre dimension dans le nouveau monde d’aujourd’hui. Si l’économie de l’attention érode notre capacité à nous rappeler, à raisonner, à prendre des décisions pour nous-mêmes – des facultés essentielles à notre autonomie – quel espoir y a-t-il pour la démocratie elle-même ?

« La dynamique de l’économie de l’attention est structurellement mise en place pour saper la volonté humaine », dit-il. « Si la politique est une expression de notre volonté humaine, sur le plan individuel aussi bien que collectif, alors l’économie de l’attention sape directement les postulats sur lesquelles s’appuie la démocratie ». Si Apple, Facebook, Google, Twitter, Instagram et Snapchat arrivent graduellement à écorner notre capacité de contrôler nos propres esprits, pourrait-on arriver à un point, je me demande, où la démocratie ne fonctionnerait plus ?

« Serons-nous capables de le savoir quand cela arrivera ? » réponds Williams. « Et si nous en sommes incapables, comment saurons-nous que cela n’est pas déjà arrivé? »

Source : Paul Lewis, 06-10-2017

Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.