Twitter a aidé le Pentagone à mener sa campagne secrète de propagande en ligne

Des documents internes CENTCOM montre la white-list des comptes Twitter qui ont été utilisés pour alimenter leur campagne d’influence à l’étranger.

Source : The Intercept, Lee Fang
Traduit par les lecteurs du site Les-Crises

Illustration: The Intercept/Getty Images

Les dirigeants de Twitter déclarent depuis des années que l’entreprise fait de sérieux efforts pour détecter et contrecarrer les campagnes de propagande gouvernementale cachées sur leur plateforme.

Cependant, dans les coulisses, le géant des réseaux sociaux a directement approuvé et protégé en interne les réseaux de comptes de l’armée américaine ainsi que leur personnalités en ligne, whitelistant [blanchissant] tout un ensemble de comptes à la demande du gouvernement. Le Pentagone a utilisé ce réseau, qui inclut des plateformes d’actualités et des mèmes générés par le gouvernement américain, dans une tentative de manipuler l’opinion au Yémen, Syrie, Irak, Koweït et au delà.

Les comptes en question étaient à leur création ouvertement affiliés au gouvernement américain. Cependant le Pentagone a semblé changer de stratégie et a commencé à dissimuler son rattachement à certains de ces comptes – un pas vers une sorte de manipulation intentionnelle de la plateforme à laquelle Twitter s’est publiquement opposé. Bien que ses dirigeants aient maintenu leur vigilance à propos de ces comptes, ils ne les ont pas fermés, mais les ont au contraire laissés actifs pendant des années. Certains sont encore actifs à ce jour.

Les révélations sont enterrées dans les archives des emails et outils internes de Twitter, auxquels The Intercept a eu accès pendant une brève période de quelques semaines en même temps qu’une poignée d’autres auteurs et journalistes. Après le rachat de Twitter par Elon Musk, le milliardaire a commencé à donner accès aux documents de l’entreprise, déclarant sur la scène Twitter que « l’idée générale est de ramener à la surface tout ce que Twitter a pu faire de mal par le passé. » Les fichiers, qui contiennent des enregistrements réalisés alors que Musk était le propriétaire de Twitter, offrent une perspective sans précédent, peut être incomplète, du processus de décision au sein d’une entreprise majeure des réseaux sociaux.

Twitter n’a pas fourni un accès libre aux données de l’entreprise, mais ils m’ont plutôt, pendant trois jours la semaine dernière, autorisé à faire des requêtes sans restrictions qui ont été remplies en mon nom par un avocat ; cela signifiant que les résultats des recherches ne sont peut être pas exhaustifs. Je n’ai accepté aucune condition réglementant l’usage des documents et je me suis efforcé d’authentifier et de contextualiser les documents par des recherches supplémentaires. L’édition des documents intégrés à l’article a été réalisée par The Intercept afin de protéger la vie privée, et non Twitter.

L’assistance directe que Twitter a fournie au Pentagone remonte au moins à cinq ans.

Le 26 juillet 2017, Nathaniel Kahler, qui travaillait à l’époque officiellement pour le Commandement central des Etats-Unis — aussi connu sous le nom de CENTCOM, une division du département de la Défense – a envoyé un email à un dirigeant de Twitter en lien avec l’équipe de communication publique de l’entreprise, avec une requête pour approuver la vérification d’un compte ainsi qu’une whitelist de comptes arabophones « que nous utilisons pour amplifier certains messages. »

« Nous avons quelques comptes qui ne sont pas indexés sur les hashtags – peut être qu’ils ont été identifiés comme des robots, a écrit Kahler. Quelques uns d’entre eux avaient remporté une réelle adhésion et nous espérons bien la préserver. » Kahler a ajouté qu’il serait heureux de fournir davantage de documents officiels de son bureau ou de SOCOM, l’acronyme du Commandement spécial des opérations des États-Unis.

Twitter CENTCOM

Twitter avait à l’époque construit un système étendu de détection des abus, consacré en partie à identifier toute activité malveillante reliée à l’État Islamique ou à toute autre organisation terroriste opérant dans la région. Une conséquence indirecte de ses efforts, a expliqué un ancien employé de Twitter à The Intercept, est que les comptes contrôlés par des militaires qui interagissaient souvent avec des groupes extrémistes étaient automatiquement identifiés comme des spams. L’ancien employé, qui était impliqué dans les comptes whitelistés de CENTCOM, a parlé avec The Intercept sous couvert d’anonymat car ils n’étaient pas autorisés à s’exprimer publiquement.

Dans son mail, Kahler a envoyé un document à 52 comptes. Il a demandé un traitement prioritaire pour 6 de ces comptes, incluant @yemencurrent, un compte utilisé pour diffuser des annonces à propos des frappes de drones américains au Yémen. A peu près au même moment, @yemencurrent, qui a depuis été supprimé, avait insisté sur le fait que les frappes de drones américains étaient « judicieuses » et tuaient des terroristes, et non des civils, et avait soutenu l’assaut soutenu par les États-Unis et l’Arabie saoudite contre les rebelles Houthis dans ce pays.

D’autres comptes de la liste se concentraient sur la promotion des milices soutenues par les États-Unis en Syrie et les messages anti-Iran en Irak. Un compte débattait de questions légales au Koweït. Bien que de nombreux comptes restaient concentrés sur un même thème, d’autres ont alterné entre différents sujets. Par exemple, @dala2el, un des comptes de CENTCOM, est passé de l’écriture de messages sur les frappes de drones au Yémen en 2017 à la communication gouvernementale syrienne cette année.

Des logs internes montrent que le même jour de la requête du CENTCOM, des membres de l’équipe responsable de l’intégrité du site ont pénétré un système interne de l’entreprise utilisé pour gérer l’accès de différents utilisateurs et ont appliqués des tags d’exemption spéciaux sur les comptes.

Un ingénieur, qui a souhaité garder l’anonymat car il n’était pas autorité à parler à la presse, a dit qu’il n’avait jamais vu ce type de tag auparavant, mais après une inspection plus précise, a affirmé que ce tag de la whitelist donnait essentiellement à ces comptes les privilèges de la vérification Twitter sans le tick bleu visible. La vérification Twitter aurait accordé un certain nombre d’avantages, comme l’invulnérabilité aux algorithmes qui repèrent les comptes pour abus ou spam, mais aussi à d’autres sanctions qui conduisent à la diminution de la visibilité ou à la suspension.

Kahler a affirmé à Twitter que tous les comptes seraient « des comptes arabophones, liés au gouvernement américain, twittant sur des questions de sécurités importantes ». Cette promesse n’a pas tenu longtemps, étant donné que beaucoup de comptes ont par la suite supprimé leur lien ou leur affiliation au gouvernement des États-Unis.

Les archives d’Internet ne préservent pas l’historique complet de chaque compte, mais The Intercept a identifié différents comptes qui s’étaient initialement déclarés comme des comptes du gouvernement américains dans leur description, mais qui après avoir été whitelistés, ont caché toutes traces de leur affiliation avec l’armée et se sont présentés comme ceux d’utilisateurs ordinaires.

Cela semble concorder avec un rapport important publié en août par des chercheurs en sécurité en ligne affiliés à l’Observatoire internet de Stanford, qui ont rapporté l’existence de milliers de comptes qu’ils suspectaient de faire partie d’une opération d’information soutenue par le gouvernement, beaucoup d’entre eux utilisant des visages humains photo-réalistes générés par intelligence artificielle, une pratique connue sous le nom de « deep fakes. »

Ces chercheurs ont établi une connexion entre ces comptes et un plus vaste écosystème en ligne qui inclut des sites de fausses informations, des comptes de mèmes sur Telegram et Facebook, des personnalités virtuelles qui relayaient des messages du Pentagone sans une mention explicite d’une quelconque affiliation avec l’armée américaine. Certains de ces comptes accusent l’Iran de « menacer la sécurité de l’eau de l’Irak et d’inonder le pays avec des cristaux de meth », tandis que d’autres font la promotion d’allégations qui voudrait que l’Iran récolte les organes de réfugiés afghans.

Le rapport de Stanford n’a pas directement relié les comptes imposteurs avec le CENTCOM ou fournit une liste complète de compte Twitter. Cependant, les emails obtenues par The Intercept montre que la création d’au moins un de ces comptes était directement affilié au Pentagone.

« C’est très inquiétant si le Pentagone travaille à modifier l’opinion publique à propos du rôle de notre armée à l’étranger et encore pire si des entreprises privées aident à le dissimuler. »

Un des comptes que Kahler a demandé à whitelister, @mktashif a été identifié par les chercheurs comme utilisant une photo deep-fake pour brouiller sa véritable identité. Initialement, selon Wayback Machine, @mktashif avait révélé que ce compte était un compte du gouvernement américain affilié à CENTCOM, mais à un moment, cette mention a été supprimée et la photo de profil du compte à été changée pour une que Standford a identifiée comme étant deep-fake.

La nouvelle biographie Twitter affirmait que le compte était une source d’opinion et d’information non biaisée, et, traduit grossièrement de l’arabe, « dédiée à servir les Irakiens et les Arabes. » Le compte, avant sa suspension plus tôt cette année, tweetait quotidiennement des messages dénonçant l’Iran et d’autres adversaires des États-Unis, incluant les rebelles Houthis au Yémen.

Un autre compte CENTCOM, @althughur, qui poste du contenu orienté anti-Iran et anti-EI à destination d’une audience irakienne, a changé sa bio Twitter d’une affiliation CENTCOM à une phrase en arabe qui se lit simplement « le pouls de l’Euphrate. »

L’ancien employé de Twitter a dit à The Intercept qu’ils ont été surpris d’apprendre le changement de tactique du Département de la Défense. « C’était comme si le DoD faisait quelque chose de louche et définitivement pas en accord avec ce qu’il nous avait présenté alors, » ont-ils dit.

Twitter n’a pas répondu à la demande de commentaire sur le sujet.

« Il est très inquiétant que le Pentagone travaille à modifier l’opinion publique à propos du rôle de notre armée à l’étranger, et c’est encore pire si des entreprises privées aident à le dissimuler », précise Erik Sperling, le directeur exécutif de Just Foreign Policy, une organisation à but non-lucratif qui travaille à trouver des solutions diplomatiques aux conflits extérieurs.

« Le Congrès et les entreprises de réseaux sociaux devraient enquêter et prendre des mesures pour s’assurer qu’au minimum, nos citoyens soient pleinement informés quand leurs impôts sont utilisés pour donner une tournure positive à nos guerres sans fin, » a ajouté Sperling.

Nick Pickles, le directeur des relations publiques de Twitter s’est exprimé lors d’une audition en commission plénière « La violence de masse, l’extrémisme et la responsabilité numérique » le 18 septembre 2019 à Washington. (Photo par Olivier Douliery / AFP )

Depuis des années, Twitter prend l’engagement d’empêcher toute campagne de désinformation ou de propagande soutenue par un gouvernement, ne faisant jamais mention explicite aux États-Unis. En 2020, le porte-parole de Twitter, Nick Pickles, dans un témoignage devant le House Intelligence Committee, a affirmé que l’entreprise faisait des efforts soutenus pour neutraliser « toute tentative coordonnée de manipulation de la plateforme » attribuée à des agences gouvernementales.

« Lutter contre les tentatives d’interférences dans les conversations reste l’une des plus grandes priorités de Twitter, et nous allons continuer d’enquêter sérieusement sur nos actions de détection, d’empêchement et de promotion de transparence reliées aux opérations d’informations gouvernementales. Notre but est de supprimer les acteurs de mauvaise foi et d’avancer vers une compréhension publique de ces sujets critiques, » précise Pickles.

En 2018, par exemple, Twitter a annoncé la suppression en masse de comptes reliés à des opérations de propagandes du gouvernement russe. Deux ans après, l’entreprise a révélé avoir suspendu presque 1000 comptes pour cause d’association avec l’armée thaïlandaise. Cependant, il semble que les règles de manipulation de la plateforme ne se soient pas appliquées aux opérations de l’armée américaine.

Les emails obtenus par The Intercept montrent que Twitter a non seulement créé cette liste blanche de comptes en 2017 à la demande de l’armée, mais aussi que des représentants officiels de haut niveau de l’entreprise ont décrit ces comptes comme potentiellement problématiques dans les années à venir.

A l’été 2020, des représentants officiels de Facebook ont rapporté avoir identifié des faux-comptes reliés à l’opération d’influence du CENTCOM sur leur plateforme et ont prévenu le Pentagone que si la Silicon Valley peut facilement identifier ces comptes comme non authentiques, leurs adversaires étrangers en sont également capables, d’après un rapport paru dans le Washington Post en septembre.

Les emails de Twitter démontrent que pendant ce temps en 2020, les dirigeants de Facebook et Twitter ont été invités par les meilleurs avocats du Pentagone à assister à une réunion confidentielle dans un centre d’information compartimenté, aussi connue sous le nom de SCIF, utilisée pour des réunions très sensibles.

« Facebook a eu une série de conversations privées entre ses responsables juridiques et le conseiller juridique du département de la Défense à propos de l’activité non authentique, » a écrit Yoel Roth, alors à la tête de la sécurité à Twitter. « A travers FB, a continué Roth, le département de la Défense a indiqué désirer ardemment travailler avec nous pour suspendre l’activité – mais refuse maintenant de discuter de détails supplémentaires ou de sortir du cadre d’une conversation confidentielle. »

Stacia Cardille, alors avocate à Twitter, a noté dans un email à ses collègues que le Pentagone pourrait rétroactivement vouloir classifier ses activités sur les réseaux sociaux « pour dissimuler leur activité dans cet espace, et cela pourrait représenter une sur-classification pour éviter de se trouver dans une situation embarrassante ».

Jim Baker, alors conseiller général adjoint de Twitter, dans le même ordre d’idée, a écrit que le Pentagone semblait avoir utilisé une « mauvaise technique » pour la création de divers comptes Twitter, en cherchant à brouiller les pistes, et était sûrement en train de chercher une stratégie pour éviter que le public sache que ces comptes sont « reliés entre eux ou avec le DoD ou avec le gouvernent des États-Unis. » Baker a émis l’idée que durant la réunion le « département de la Défense pourrait vouloir nous donner un calendrier pour les suspendre d’une manière plus durable, sans compromettre les opérations en cours ni révéler leurs liens avec le DoD. »

Les emails entre Twitter et le département de la Défense

Ce qui a été discuté lors des réunions confidentielles – qui ont finalement eu lieu, d’après le Post – n’était pas inclus dans les emails de Twitter fournis à The Intercept, mais beaucoup des faux comptes sont restés actifs pendant au moins encore une année. Certains des comptes sur la liste du CENTCOM sont encore actifs aujourd’hui – comme celui-ci, qui affiche son affiliation avec le CENTCOM, et celui-là, qui ne l’affiche pas – alors que beaucoup ont été éjectés de la plateforme lors de la suppression de masse le 16 mai.

Dans un email envoyé séparément en mai 2020, Lisa Roman, alors vice-présidente de l’entreprise en charge de la communication publique mondiale, a envoyé à William S. Castle, avocat du Pentagone, en même temps qu’à Roth, une liste additionnelle de comptes Twitter du département de la Défense. « Le premier tableau donne la liste des comptes qu’on nous a fournis précédemment et le deuxième, des comptes associés que Twitter a découvert » a écrit Roman. Ce que Roman demande exactement ne peut pas être précisé à la seule vue de cet unique courriel — elle fait référence à un appel téléphonique précédant l’email — mais elle note que dans le deuxième tableau donnant la liste des comptes — ceux que le Pentagone n’a pas fourni explicitement à Twitter — « peuvent violer nos règles ». La pièce jointe comprenait un lot de comptes tweetant en russe et en arabe à propos des violations des droits humains commises par l’EI. Beaucoup des comptes dans les deux tableaux n’étaient pas ouvertement affiliés au gouvernement des États-Unis.

Les comptes Twitter du département de la Défense en 2020

Les dirigeants de Twitter sont restés au courant du statut particulier du département de la Défense. En janvier dernier, un dirigeant de Twitter a refait circuler la liste de compte Twitter du CENTCOM initialement sur liste blanche en 2017. L’email indiquait simplement « Pour information » et était directement adressé à divers responsables de Twitter, incluant Patrick Conlon, un ancien analyste du renseignement du département de la Défense qui travaillait alors au sein de l’équipe responsable de l’intégrité du site en tant que responsable du renseignement sur les menaces mondiales de Twitter. Des dossiers internes ont aussi montré que les comptes qui restaient de la liste originale de Kahler sont toujours sur liste blanche.

A la suite de la suspension de masse de beaucoup des comptes de la liste en mai dernier, l’équipe de Twitter a travaillé à limiter les répercussions de son implication dans la campagne.

Peu avant la publication de l’article du Washington Post en septembre, Katie Rosborough, alors spécialiste en communication à Twitter, a écrit aux lobbyistes et avocats de Twitter pour les prévenir de l’affaire à venir. « C’est un article qui se concentre principalement sur le département de la Défense et Facebook ; cependant il y aura quelques lignes qui nous mentionnerons aux côtés de Facebook dans la mesure où nous leur avons demandé [au DoD] de nous rencontrer. Nous ne pensons pas qu’ils vont le relier à quoi que ce soit lié à Mudge ou nommer des employés de Twitter. Nous avons refusé de commenter, » a-t-elle écrit. (Mudge est une référence à Peiter Zatko, un lanceur d’alerte de Twitter qui a porté plainte auprès des autorités fédérales en Juillet, alléguant des mesures de sécurités laxistes et la pénétration de l’entreprise par des agents étrangers.)

Après la publication de l’article du Washington Post, l’équipe de Twitter s’est auto-congratulée car l’article minimisait le rôle de Twitter dans la campagne d’opération psychologique du CENTCOM. Au contraire, l’article a beaucoup insisté sur la décision du Pentagone de commencer à examiner ses opérations psychologiques clandestines sur les réseaux sociaux.

« Merci d’avoir fait tout votre possible pour gérer cette situation, a écrit Rebecca Hahn, une autre ancienne chargée de communication à Twitter. Il ne semble pas y avoir eu trop de retombées au-delà de la promotion par les rédactions de VERGE, CNN et WAPO. »

Le CENTCOM n’a initialement pas commenté auprès de The Intercept. Après la publication de l’article, le bureau du CENTCOM chargé de la presse à dirigé The Intercept vers les commentaires du Brigadier général Pat Ryder exprimés lors d’un briefing en septembre, au cours duquel il a dit que le Pentagone avait demandé « un examen des activités de soutien de l’information du département de la Défense, ce qui est simplement censé être une occasion pour nous d’évaluer le travail en cours à ce sujet, et ne devrait vraiment pas être interprété comme quelque chose d’autre. »

L’armée et le secteur du renseignement américain ont longtemps adopté une stratégie de fabrication de personnalités en ligne et de tiers pour amplifier certains récits dans des pays étrangers, l’idée étant qu’un site d’information en langue perse d’apparence authentique ou une femme afghane locale auraient une plus grande influence interne qu’un communiqué de presse officiel du Pentagone.

Les efforts de propagande militaire en ligne ont été largement élaborés d’après une note interne de 2006. La note indique que les activités en ligne du département de la Défense devraient « ouvertement reconnaître l’implication des États-Unis » sauf dans le cas où un « Commandant des forces au combat estime que cela n’est pas possible pour des considérations opérationnelles ». Selon le mémo, cette méthode de non-divulgation est uniquement autorisée pour des opérations touchant à la « Guerre mondiale contre le terrorisme, ou quand cela est spécifié dans d’autres ordres d’exécution du secrétaire à la Défense ».

En 2019, des législateurs ont adopté une mesure connue sous le nom de Section 1631, en référence à une partie de l’acte d’autorisation de défense nationale, confirmant encore plus les opérations psychologiques clandestines par l’armée dans une tentative de contrer les campagnes de désinformation de la Russie, de la Chine et d’autres adversaires extérieurs.

En 2008, le commandement spécial américain des opérations a formulé une requête pour un service visant à fournir « des produits d’influence en ligne et des outils pour soutenir les objectifs et les buts stratégiques et à long-termes du gouvernement des États-Unis ». Le contrat faisait référence à l’Initiative transrégionale d’internet, une tentative de créer des sites d’information destinés à gagner les cœurs et les esprits dans la bataille contre l’influence de la Russie en Asie centrale et contre le terrorisme islamique mondial. Le contrat a été initialement exécuté par General Dynamics Information Technology, une succursale de l’entreprise de défense General Dynamics, en liaison avec le bureau de la communication du CENTCOM dans la zone de Washington et à Tampa, en Floride.

Un programme connu sous le nom de WebOps, mené par un contractuel de la Défense Colsa Corp., a été utilisé pour créer des identités fictives en ligne destinées à contrecarrer les efforts de recrutement de l’EI et autres réseaux terroristes.

The Intercept a échangé avec un ancien employé d’une entreprise contractuelle — sous couvert d’anonymat afin d’être protégé juridiquement — impliqué dans ces réseaux de propagande en ligne pour la Trans-Regional Web Initiative. Il a décrit une opération de style salle de presse peu structurée, employant d’anciens journalistes, et opérant depuis un immeuble de bureaux banal de banlieue.

« En général ce qui arrivait, à l’époque où j’y étais, c’est que le CENTCOM développait une liste de messages sur lesquels ils voulaient qu’on se concentre, a déclaré le contractuel. En gros, ils nous disaient : nous voulons que vous vous concentriez sur disons, le contre-terrorisme et un cadre général dont nous voulons parler. »

De là, dit-il, les superviseurs aidaient à fabriquer le contenu qui était distribué à travers un réseau de sites et de comptes de réseaux sociaux contrôlés par le CENTCOM. Quand les contractuels créaient du contenu pour soutenir la vision commandée par l’armée, ils étaient chargés de taguer chaque élément avec un objectif militaire spécifique. En général, selon le contractuel, les éléments d’information qu’il créait reposaient techniquement sur des faits mais étaient toujours orientés d’une manière qui reflétait de près les objectifs du Pentagone.

« Le CENTCOM nous mettait la pression pour sortir des articles », a-t-il ajouté, tout en faisant remarquer qu’il travaillait sur ces sites il y a des années, avant la transition vers des opérations plus secrètes. A l’époque, « nous ne faisions rien de ces trucs hors-la-loi de hackers ».

Mise à jour: 20 décembre 2022, 16 :17

Cet article a été mis à jour avec des informations fournis par le CENTCOM à la suite de la publication.

Source : The Intercept, Lee Fang, 20-12-2022

Traduit par les lecteurs du site Les-Crises

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.