Les réseaux sociaux peuvent-ils vraiment être démocratiques ?

Source : Jacobin, Robert Gorwa
Traduit par les lecteurs du site Les-Crises

Revue de presse de Governable Spaces : Democratic Design for Online Life de Nathan Schneider (University of California Press, 2024) et The Networked Leviathan : For Democratic Platforms par Paul Gowder (Cambridge University Press, 2023).

Au début, il y a eu un blizzard. Nous sommes en janvier 1978 et de fortes rafales subtropicales se déplaçant vers le nord entrent en collision au-dessus des Grands Lacs avec un jet-stream arctique se dirigeant vers le sud, produisant l’une des tempêtes de neige les plus violentes de l’histoire des États-Unis. Le « grand blizzard de 1978 » a recouvert certaines régions du Michigan de près d’un mètre de neige, causant près d’une centaine de morts et un demi-milliard de dollars de dégâts, montant calculé après ajustement pour tenir compte de l’inflation..

Coincés chez eux pendant cet enfer blanc (white out), deux passionnés d’informatique de Chicago ont décidé de construire un système qui leur permettrait de communiquer entre eux. À l’époque, le protocole Internet était encore très loin d’être répandu, mais les avancées en matière de microprocesseur avaient commencé à faire sortir les ordinateurs des laboratoires et à les faire entrer dans les maisons des bricoleurs. Les premiers modems informatiques permettaient de « composer » et de transmettre des informations via des lignes téléphoniques ordinaires. Ward Christensen et Randy Suess, tous deux membres du Chicago Area Computer Hobbyists’ Exchange (CACHE), ont mis à profit leur expertise en matière d’écriture de logiciels et de configuration de matériel pour créer un modem adapté permettant à d’autres personnes de composer un numéro et de laisser des messages qui pourraient être lus plus tard par d’autres.

Inspiré par le tableau de liège physique accroché au mur lors des réunions du CACHE, ce système est généralement salué comme le premier système de tableau d’affichage en ligne (BBS), un réseau social précurseur des forums en ligne et des microblogs plus familiers d’aujourd’hui. Comme l’explique le spécialiste des médias Nathan Schneider, les BBS avaient la particularité « d’offrir aux amateurs d’informatique, autres que les universitaires et les centres de recherche financés par l’armée, leur première expérience d’une communauté numérique organisée ».

Cette communauté s’est également dotée d’un sysop, ou « opérateur de système ». Les tableaux d’affichage en ligne se trouvaient souvent chez quelqu’un, littéralement branchés sur sa ligne téléphonique, ce qui conférait à cette personne une influence considérable quant à l’élaboration des normes de la communauté. Le sysop gérait le matériel et avait un accès administrateur au logiciel du BBS, ce qui lui permettait de supprimer des messages à sa guise. Si les membres de la communauté n’appréciaient pas le style de modération ou les décisions de l’administrateur, ils n’avaient guère d’autre recours que de quitter le service dans l’espoir de trouver ailleurs des pâturages plus verts. Schneider qualifie ce modèle de gouvernance de « féodalisme implicite », une structure caractérisée par la concentration du pouvoir entre les mains d’un petit nombre – un schéma qui persiste encore aujourd’hui dans les communautés en ligne.

Après les BBS, USENET est apparu, offrant des « groupes de discussion » décentralisés tout en protégeant le pouvoir des administrateurs de système. Une des premières FAQ d’USENET n’aurait pas pu l’exprimer plus brutalement : « Qui peut obliger les modérateurs à modifier leur politique ? Personne. »

Des années plus tard, Facebook a repris le principe du tableau de liège en créant le « Mur », mais sa gouvernance centralisée est restée la norme. Après une expérience éphémère de vote des utilisateurs concernant les changements de politique, Facebook n’a jamais cédé le pouvoir de décision – que doit-on autoriser les utilisateurs à publier ? – au grand groupe international de gens qui lui donne sa valeur. Il en va de même pour Twitter, aujourd’hui X, dont le responsable actuel, Elon Musk, gouverne de manière erratique, souvent comme si les serveurs se trouvaient littéralement dans sa cave.

De nos jours, les griefs relatifs aux divisions, au caractère nocif et à la manipulation de la politique menée par les médias en ligne sont devenus des clichés. Suite à la réélection de Donald Trump à la présidence des États-Unis, un nombre croissant d’universitaires, de militants et d’organisateurs cherchent des espaces alternatifs. Nombre d’entre eux se tournent vers Bluesky, ainsi que Mastodon, Signal, et d’autres réseaux sociaux qui présentent des structures de propriété et des conceptions techniques différentes.

Comment s’organiser efficacement dans cette nouvelle ère fragmentée de la communication numérique ? Ces nouvelles plateformes sont-elles réellement différentes, ou sommes-nous condamnés à trimer dans les mêmes content mines [recherches de contenus, NdT], en poursuivant les rêves insaisissables d’espaces en ligne plus démocratiques et participatifs ?

Réinitialiser les biens communs

Nathan Schneider, écrivain, militant et spécialiste de la communication, s’intéresse depuis longtemps aux lacunes démocratiques des espaces numériques. Dans son tout dernier livre, Governable Spaces (Espaces gouvernables), il s’inscrit dans une tradition de critique de gauche des médias, dans la lignée d’ouvrages comme The People’s Platform (La plateforme des citoyens) d’Astra Taylor et de contributions récentes de Ben Tarnoff et James Muldoon. Comme ces auteurs, Schneider recentre les débats concernant la technologie autour de la nécessité d’avoir des systèmes gérés collectivement. Son livre est un appel à la réflexion pour de meilleurs outils numériques explicitement conçus comme des « médiums démocratiques ».

Schneider affirme que les plateformes numériques de plus en plus importantes que des milliards d’entre nous utilisons dans le monde entier pour travailler, nous divertir et communiquer sont, à quelques exceptions près, gérées comme des fiefs d’entreprises autocratiques n’ayant aucun compte à rendre, et offrant aux utilisateurs ordinaires bien peu de moyens pour pouvoir influencer la manière dont elles fonctionnent et dont elles sont gérées. Pour Schneider, la question ne se limite pas aux structures de gouvernance, mais concerne également la manière dont ces plateformes sapent les pratiques démocratiques quotidiennes, en ligne et sur le terrain.

Comment s’organiser efficacement dans cette nouvelle ère fragmentée de la communication numérique ?

Schneider soutient que notre sphère numérique a connu une grave érosion démocratique. Les services continus et « gratuits », financés par le capital-risque, la publicité et d’autres modèles commerciaux, ont largement remplacé les outils gérés par les utilisateurs, tels que les newsletters communautaires et les tableaux d’affichage locaux. Autrefois partie intégrante de la culture en ligne, ce type de participation citoyenne est aujourd’hui largement confiné aux amateurs les plus avertis.

Cette mainmise des entreprises sur la sphère publique numérique est le reflet du recul plus général de l’engagement démocratique. Le déclin des syndicats a porté un coup terrible à la démocratie au travail. L’adhésion aux partis politiques a massivement diminué en Europe et dans le monde. Le « réalisme capitaliste » d’aujourd’hui favorise le repli sur la vie privée, limitant l’engagement démocratique de nombreuses personnes à un vote de temps en temps.

On retrouve la même tendance en ligne. Les plateformes externalisent de plus en plus l’administration de leurs systèmes et la modération de leurs contenus à des employés de centres d’appels mal payés dans le monde entier. À la fin des années 2000, de nombreuses startups informatiques situées aux États-Unis, soucieuses de croissance et de profit, ont fait le pari de croire que les utilisateurs ne voudraient pas, ou seraient trop occupés pour assumer une charge grandissante en matière de régulations des contenus. Les entreprises ont donc délégué cette tâche à des équipes ad hoc d’avocats et de responsables politiques, externalisant finalement la modération du contenu à des centres d’appel situés dans la périphérie mondiale pour gérer le volume écrasant de messages signalés.

Governable Spaces propose d’inverser cette tendance en reconstruisant les pratiques démocratiques en ligne et en créant collectivement de nouvelles formes de biens communs numériques à caractère radical. Pour Schneider, il ne s’agit pas seulement de la finalité et des objectifs des espaces en ligne, mais aussi de la manière dont ils sont structurés pour faciliter la participation. Dans son analyse, Schneider adopte un point de vue historique, en examinant de manière critique la façon dont des espaces tels que BBS et USENET étaient gouvernés, et en réfléchissant à certaines innovations adoptées par d’autres technologies de connexion qui ne sont pas généralement considérées comme des médias sociaux. Quelle serait alors la portée d’un dépassement explicite d’un état d’esprit « féodal » et de l’engagement des citoyens et des communautés dans des formes collaboratives de construction de normes, d’élaboration de règles et de recherche de la justice ?

Dans ce livre, la démocratie numérique est ancrée dans les efforts des citoyens et dans l’expérimentation locale. Schneider et ses collaborateurs développent des outils pratiques pour les personnes qui souhaitent, par exemple, transférer le groupe WhatsApp de leur quartier sur un serveur open-source qu’ils peuvent gérer ensemble. Leur projet « Metagovernance » propose des guides pour créer des politiques, des règles et même des systèmes de vote personnalisés afin de donner plus de pouvoir aux utilisateurs. Par le biais de l’éducation et de l’organisation, Schneider espère aider les communautés à transcender le « problème du sysop » en prenant des décisions éclairées quant aux compromis inhérents aux différentes formes d’organisation en ligne.

Les limites du Léviathan

Dans The Networked Leviathan (Le Leviathan des réseaux), le juriste et politologue Paul Gowder s’attaque également au défi de la gouvernance des médias sociaux et propose des solutions pour renforcer la démocratie en ligne en ces temps de polycrise. Mais son point de vue est légèrement différent de celui de Schneider, tout comme son diagnostic de certains des problèmes auxquels nous sommes confrontés aujourd’hui à l’ère de Bluesky, X, Telegram et TikTok.

Prenons un exemple simple : un système local de BBS (Bulletin board system) électronique pour les passionnnés de guitare et les joueurs amateurs. En tant qu’utilisateur fréquent, je pourrais tolérer des règles arbitraires – telles que l’interdiction des images de basses électriques et la suppression rapide de toute discussion politique – parce que le travail des administrateurs m’épargne l’effort de créer une communauté concurrente. Je peux aussi me sentir piégé par « l’effet de réseau » et hésiter à abandonner le forum où je me suis fait des amis et où j’ai tissé des liens.

Imaginez maintenant que ce BBS se développe de manière exponentielle, devenant une plateforme internationale tentaculaire, englobant des personnes postant en plusieurs langues et sur de nombreux sujets. Il y a d’abord eu les joueurs de basse, puis les fanas du synthé, et maintenant elle s’est transformée en un espace qui va bien au-delà des instruments et de la musique. On ne peut plus dire que le BBS est un espace unique : il sert de plateforme à de multiples communautés en ligne qui se superposent parfois, mais qui sont néanmoins quelque peu différentes.

Il arrive un moment, quand la plateforme devient suffisamment importante, où le pouvoir de l’administrateur système (Sysop) diminue. Certes, il continue d’établir les règles, mais sa capacité à les appliquer efficacement est remise en question par l’ampleur et la complexité de l’espace en ligne qu’il supervise. Les modérateurs ne sont plus en mesure de surveiller toute l’activité sur leur modeste tableau de bord numérique – qui ne se réduit plus à un seul tableau de bord style tableau de liège, mais se chiffre par millions. Leur expertise n’est pas suffisante pour comprendre les nuances de certains débats (en savoir beaucoup sur les guitares ne fait pas de vous un expert en matière de subtilités des discours de haine) et ils ont du mal à gérer une modération multilingue. Il en résulte un échec de la gouvernance, qui ouvre la porte à des comportements néfastes, tels que les campagnes de harcèlement concertées, le « doxxing » [infraction consistant à rechercher et à divulguer sur l’internet des informations sur l’identité et la vie privée d’un individu dans le but de lui nuire, NdT] et les menaces de mort.

Les plates-formes multinationales sont des institutions tentaculaires et complexes, qui peuvent être gangrenées par un déficit d’information.

Toute mauvaise gouvernance peut s’avérer dangereuse. Au cœur du livre de Gowder se cache l’un des cas les plus tristement célèbres de modération défaillante de contenu en ligne à ce jour : Le rôle de Facebook dans l’incitation publique à la violence contre les communautés Rohingya au Myanmar en 2017. La complexité des débats sur la politique technologique est telle que de nombreuses questions – telles que la protection de la vie privée des utilisateurs et la capacité de surveillance en ligne – opposent l’intérêt du public et les modèles commerciaux d’entreprise ou les films à but lucratif. Mais comme le souligne Gowder, ces intérêts devraient être plus ou moins en phase dans d’autres domaines, et c’est le cas ici. Pourtant, l’architecture de gouvernance de Facebook n’a pas réussi à stopper la propagation de l’incitation à la violence.

Le problème, selon Gowder, réside dans le fait que les multinationales sont des institutions complexes et tentaculaires qui, à l’instar d’autres institutions gouvernementales historiquement puissantes et cependant complexes, peuvent être confrontées à un problème d’information. En s’inspirant de James C. Scott et d’autres penseurs de la même veine, on pourrait parler d’un problème de suivi de l’activité, de compréhension de ce qui se passe dans l’État, puis d’action : il s’agit de « difficultés à intégrer les connaissances venant de la périphérie et à proposer des règles légitimes à divers groupes d’intérêt ».

Se démarquant nettement de la représentation courante des géants de la technologie d’aujourd’hui considérés comme des centres de contrôle et de manipulation omniscients et orwelliens, le « léviathan des plateformes » de Gowder est confronté à des limites organisationnelles et technologiques inhérentes à son pouvoir. Après tout, les plateformes numériques actuelles, à l’échelle de la planète, sont exponentiellement plus grandes et plus complexes que les microcommunautés spécialisées et quelque peu de niches des premiers réseaux sociaux. Amazon gère un écosystème de quelques millions de vendeurs tiers. YouTube est célèbre pour avoir affirmé que plus de 500 heures de vidéo sont téléchargées sur le service chaque minute.

À mesure qu’ils se développent, ces acteurs économiques motivés par le profit et la minimisation des coûts sont soumis à une pression croissante pour garantir que les produits sont sûrs et ne violent pas les lois locales de protection des consommateurs, mais aussi que le discours des utilisateurs n’incite pas à des formes dangereuses de mobilisation. Les entreprises réagissent en embauchant des experts, en mettant en place des systèmes bureaucratiques pour l’élaboration de politiques internationales mais aussi en développant des systèmes automatisés qui tentent d’évaluer le contenu – ou en externalisant ces tâches à un secteur « safetytech » en plein essor.

Cependant, certains défis échappent aux solutions simples. Le Myanmar était « le seul pays au monde ayant une présence en ligne significative » à ne pas avoir largement adopté l’Unicode, un système permettant de convertir les écritures en une forme normalisée et lisible par les machines pour l’affichage sur les périphériques numériques. La plupart des habitants du Myanmar, qui utilisent la police de caractères populaire Zawgyi pour représenter l’écriture birmane très complexe, produisent donc un contenu qui est littéralement inintelligible pour les systèmes sur lesquels Facebook s’appuie pour surveiller ce que font les utilisateurs. De même, d’autres domaines émergents suscitant des préoccupations politiques, tels que les contenus pédopornographiques en ligne, sont difficiles à analyser et coûteux à contrer de manière responsable, car ils nécessitent des équipes d’enquêteurs spécialisés disposant d’un large mandat pour rechercher de manière proactive les contenus illégaux.

Surfer sans être asservi

Si nous devions reconstruire les plateformes d’aujourd’hui à partir de zéro, que ferions-nous pour contourner ce double problème de la légitimité et de la compétence pour les gouverner ? Une des stratégies pourrait consister à décentraliser le pouvoir au profit des utilisateurs, un objectif poursuivi par Eugen Rochko, le développeur allemand au cœur du projet Mastodon, un service fondé sur le protocole ouvert ActivityPub.

La solution préconisée par Gowder donne la priorité à la compétence plutôt qu’à la légitimité. Si nous nous penchons sur le problème de l’information des plateformes, pourrait-on rendre l’ensemble des données collectées par l’économie numérique contemporaine plus représentatives et plus efficaces ? Par exemple, une plateforme comme Bluesky – avec à sa tête une équipe plus consciencieuse que celle de Musk chez X – ne pourrait-elle pas renforcer la démocratie de la plateforme en créant des assemblées de citoyens ? Gowder a en tête un système qui permette aux utilisateurs ordinaires de participer à la gouvernance des plateformes : fournir un retour d’information sur les politiques, délibérer sur les impacts locaux et peut-être même orienter les futures dépenses de ressources en matière de sécurité et de développement de produits. Le concept est simple : Que se passerait-il si Meta, OpenAI, Google ou Bluesky embauchaient un grand nombre d’individus issus de la diversité internationale comme consultants politiques rémunérés ?

Schneider, en revanche, privilégie une approche communautaire, locale et artisanale, qui renvoie à l’éthique d’IndyMedia et de la « bataille de Seattle ». Il imagine un monde au sein duquel la plupart des gens utilisent Mastodon ou d’autres plateformes fédératives. Dans ce cadre, je pourrais poster sur un petit BBS que je gère et dont je paie l’hébergement avec mes amis ; nous pourrions suivre d’autres personnes postant sur d’autres BBS grâce à des protocoles ouverts. Les serveurs pourraient être hébergés à la maison, à l’école ou chez de petits fournisseurs de services de clouds amis. Le suivi sur le web pourrait éventuellement être remplacé par des dons, des abonnements communautaires et d’autres modèles économiques alternatifs. La modération serait collaborative et pourrait avoir recours à des systèmes de vote par blockchain. Scheider, qui est nettement plus optimiste quant au potentiel politique des crypto-monnaies que de nombreux critiques de gauche, a analysé des idées telles que la « prise de décision en temps réel », la « résolution algorithmique des litiges » et la « participation sans permission », qui pourraient être rendues possibles grâce à la tokenisation [Basée sur la blockchain, la tokenisation permet de valoriser et de matérialiser des actifs réels dans le monde digital. En inscrivant un actif et ses droits directement sur un token, la tokenisation facilite la gestion et l’échange avec un pair, de manière instantanée et sécurisée, NdT] et à des architectures de plateformes alternatives. Les gouvernements, dans cette conception, subventionneraient ces infrastructures plutôt que de les utiliser à des fins de contrôle social et politique, en stimulant plutôt l’innovation et les délibérations démocratiques.

Si nous travaillons tous dans les assemblées citoyennes de l’économie numérique, ne devrions-nous pas commencer à exiger une part significative de son butin ?

L’approche de Gowder ressemble beaucoup au statu quo actuel : un monde qui conserve, pour la plupart d’entre nous, la réalité quotidienne de la façon dont nous utilisons les réseaux sociaux et autres plateformes. Il y a toujours des administrateurs systèmes – des équipes d’employés chargés des politiques à Menlo Park, Dublin et Seattle – mais ils sont désormais mieux conseillés. Certains utilisateurs pourraient même être invités à participer périodiquement à une sorte de « jury » pour les grandes entreprises. Si tout se passe bien, ces personnes donneront de bons conseils et leur avis sera judicieusement pris en compte dans la prise de décision des entreprises technologiques. Nos nouveaux maîtres du secteur comprennent mieux les subtilités de l’utilisation de leurs services dans le monde entier. Peut-être même tireront-ils de cette expérience la leçon suivante : ils devraient valoriser tous leurs utilisateurs, en particulier ceux qui viennent de pays à faible revenu où la valeur du dollar par utilisateur est faible pour Big Tech.

Vers une démocratie numérique

Ensemble, Governable Spaces et The Networked Leviathan exposent quelques-uns des nombreux défis auxquels nous serions confrontés si nous cherchions à faire de l’un de ces mondes, ou des deux, une réalité. Gowder nous invite à réfléchir à l’efficacité et à la qualité de la gouvernance : Les plateformes gérées par la communauté seront-elles réellement en mesure de générer les communautés démocratiques dynamiques nécessaires à la concrétisation des avantages collectifs qu’elles promettent ?

Il existe depuis longtemps un problème de participation en ligne. Au début des années 2010, une ensemble de recherches a démontré que Wikipédia – que beaucoup considèrent comme le summum en matière de projet à but non lucratif géré de manière collaborative et de « production par les pairs » – s’appuyait sur seulement 5 % de ses rédacteurs pour produire plus de 80 % du contenu. Si de nombreux utilisateurs ne souhaitent pas offrir leur travail et préfèrent « flâner » et profiter de l’aubaine, de quelle façon les espaces en ligne qui tentent de modérer de manière collaborative peuvent-ils le faire démocratiquement à grande échelle ? Seront-ils réellement en mesure de faire face aux coûts élevés des outils informatiques et de l’expertise nécessaires à cette fin ?

La concentration, inhérente aux systèmes techniques complexes, constitue un autre défi. La plupart des utilisateurs n’ont pas de connaissances techniques et en sont venus à s’appuyer sur la facilité d’utilisation plus ou moins sans effort des services gérés par des développeurs à plein temps. Comme l’a déclaré le cryptographe Moxie Marlinspike, « les gens n’ont pas envie de gérer leurs propres serveurs et ne le feront jamais ». Ce problème est particulièrement préoccupant lorsqu’il s’agit d’embarquer les utilisateurs sur des plateformes de type fédératif, comme Mastodon, ou sur des services de chat communautaire auto-hébergés. Le Web3, soutenu par la blockchain, n’échappe pas à ce problème : l’extrême complexité – et les risques élevés de commettre des erreurs lorsqu’il n’y a pas de bouton « annuler » pour les services fonctionnant par tokenisation – a entraîné une nouvelle vague d’intermédiaires, qui deviennent des points d’étranglement entre les services décentralisés et l’utilisateur.

Le travail de Schneider, en revanche, nous incite à être ambitieux dans notre vision de la propriété et du contrôle collectifs de l’infrastructure numérique. Si le modèle de Gowder peut rendre des entreprises comme Bluesky plus efficaces en tant que suzerains – si elles choisissent d’écouter leurs nouveaux conseillers – il préserve également les plateformes en tant qu’entreprises dans le cadre du modèle existant de capitalisme multinational. Si nous travaillons tous dans les assemblées citoyennes de l’économie numérique, ne devrions-nous pas faire un pas de plus et commencer à exiger une part significative de son butin ?

Dans un monde plus divisé que jamais, on a parfois du mal à imaginer la viabilité réelle d’un renforcement des pratiques démocratiques en ligne. C’est encore plus difficile si l’on considère les multiples façons dont le modèle actuel des Big Tech – à savoir le besoin d’une progression incessante des valorisations technologiques, la création constante de nouveaux cycles de hype – est devenu systémiquement important pour la pérennité de l’économie mondiale. Toutefois, une telle démarche intellectuelle reste un objectif vital à long terme, plus crucial aujourd’hui que jamais. Nous ne devrions pas reculer devant le projet potentiellement utopique de « piles » informatiques gouvernables [La pile est une partie de la mémoire allouée par le système d’exploitation pour l’exécution d’une tâche. Elle fonctionne comme une pile d’objets, c’est-à-dire que le dernier élément arrivé dans la pile est le premier que l’on peut retirer, NdT], même si, comme l’a écrit James Muldoon, les chances sont contre nous : « Il nous est plus facile d’imaginer les humains vivant éternellement dans des colonies sur Mars que de les imaginer exerçant un contrôle démocratique efficace sur les plates-formes numériques. »

En nous organisant, en défendant nos intérêts et, oui, en adoptant des formes institutionnelles sociotechniques nouvelles et imaginatives, nous pourrons peut-être un jour échapper à l’attraction gravitationnelle des hiérarchies implicites de l’internet.

*

Robert Gorwa est chercheur, il s’intéresse à la gouvernance des plateformes et aux autres défis politiques transnationaux posés par le capitalisme numérisé. Il est chercheur postdoctorant au WZB Berlin Social Science Center.

Source : Jacobin, Robert Gorwa, 08-12-2024

Traduit par les lecteurs du site Les-Crises