Le projet de la Chine d’organiser sa société s’appuie sur le « big data » pour évaluer tout le monde, par Simon Denyer

Source : Simon Denyer, 22-10-2016

DERRIÈRE LE PARE-FEU : Comment la Chine a apprivoisé l’Internet. Ceci fait partie d’une série qui examine l’impact du Grand pare-feu de la Chine, un mécanisme de censure et de surveillance d’Internet qui affecte près de 700 millions d’utilisateurs.

(Rachel Orr/The Washington Post ; iStock)

Par Simon Denyer 22 octobre 2016

PEKIN : Imaginez un monde où un gouvernement autoritaire surveille tout ce que vous faites, accumule d’énormes quantités de données sur presque toutes les interactions que vous faites, et vous attribue un seul score qui mesure à quel point vous êtes « digne de confiance ».

Dans ce monde, qu’il s’agisse d’un prêt en souffrance ou de la critique du parti au pouvoir, d’un feu rouge ou d’un manque de soin de vos parents, vous pourriez perdre des points.

Et dans ce monde, votre score devient la vérité ultime de qui vous êtes – il détermine si vous pouvez emprunter de l’argent, amener vos enfants dans les meilleures écoles ou voyager à l’étranger ; si vous obtenez une chambre dans un hôtel chic, un couvert dans un restaurant de haut niveau – ou même simplement obtenir un rendez-vous amoureux.

Ce n’est pas le super-État « dystopien » du « Minority Report » de Steven Spielberg, dans lequel tous les policiers bien informés arrêtent le crime avant qu’il ne se produise. Mais ce pourrait être la Chine d’ici 2020.

C’est le scénario contenu dans les plans ambitieux de la Chine visant à développer un système de crédit social de grande envergure, un plan que le Parti communiste espère construire une culture de « sincérité » et une « société socialiste harmonieuse » où « garder la confiance est glorieux ».

Cette année, les employés d’une start-up Internet travaillent sur leur ordinateur à Pékin. L’utilisation des appareils mobiles et le commerce électronique sont largement utilisés en Chine, et maintenant le Parti communiste veut compiler un score de « crédit social » basé sur chaque activité des citoyens. (Michael Robinson Chavez/The Washington Post)

Un document de politique générale de haut niveau publié en septembre énumère les sanctions qui pourraient être imposées à toute personne ou entreprise jugée fautive. Le principe prépondérant : « Si la confiance est brisée en un seul endroit, des restrictions sont imposées partout. »

Toute une série de privilèges seraient refusés, tandis que les personnes et les entreprises qui brisent la confiance sociale seraient également soumises à une surveillance quotidienne accrue et à des inspections aléatoires.

L’ambition est de rassembler toutes les informations disponibles en ligne sur les entreprises et les citoyens chinois en un seul endroit – et ensuite d’attribuer à chacun d’entre eux un score basé sur leur « crédit » politique, commercial, social et juridique.

Le gouvernement n’ a pas annoncé exactement comment le plan fonctionnera – par exemple, comment les notes seront compilées et les différentes qualités pondérées les unes par rapport aux autres. Mais l’idée est que la bonne conduite sera récompensée et les mauvais comportements punis, avec le Parti Communiste agissant comme juge ultime.

C’est ce que la Chine appelle « Internet Plus », mais les critiques appellent un État policier du XXI^e siècle.

Une version de Big Brother ?

Exploitant la puissance du big data et l’omniprésence des téléphones intelligents, du commerce électronique et des médias sociaux dans une société où 700 millions de personnes vivent en ligne pendant une grande partie de leur vie, le plan fera également l’économie des dossiers judiciaires, policiers, bancaires, fiscaux et d’emploi. Les médecins, les enseignants, les autorités locales et les entreprises pourraient en outre être évalués par les citoyens pour leur professionnalisme et leur probité.

« La Chine s’oriente vers une société totalitaire, où le gouvernement contrôle et affecte la vie privée des individus », a déclaré Murong Xuecun, romancier et commentateur social basé à Pékin. « C’est comme Big Brother, qui a toutes vos informations et peut vous faire du mal. »

Au cœur du système de crédit social se trouve une tentative de contrôler l’économie de marché chinoise vaste, anarchique et mal régulée, de punir les entreprises vendant des aliments empoisonnés ou de faux médicaments, d’exposer les médecins à des pots-de-vin et de découvrir les escrocs qui s’attaquent aux personnes vulnérables.

« La fraude est devenue de plus en plus répandue dans la société », a déclaré en avril Lian Weiliang, vice-président de la Commission nationale de développement et de réforme, la principale agence de planification économique du pays. « Les escrocs doivent payer. »

Pourtant, en Chine communiste, les plans prennent inévitablement un aspect autoritaire : il ne s’agit pas seulement de réglementer l’économie, mais aussi de créer une nouvelle utopie socialiste sous la direction bienveillante du Parti communiste.

« Une grande partie du théâtre politique chinois consiste à prétendre qu’il y a un avenir idéal, une utopie vers laquelle il faut se diriger », a déclaré Rogier Creemers, professeur de droit et de gouvernance à l’université de Leyde aux Pays-Bas.

« Aujourd’hui, après un demi-siècle de léninisme, et avec les développements technologiques qui permettent la vaste collecte et le traitement de l’information, il y a beaucoup moins de distance entre la noblesse de l’ambition du parti et sa capacité hypothétique de faire réellement quelque chose », a-t-il dit.

Mais le rétrécissement de cette distance fait naître des attentes, affirme M. Creemers, qui ajoute que la fête a les yeux plus gros que le ventre.

Attribuer à tous les Chinois une cote de solvabilité sociale qui pèse et évalue tous les aspects de leur comportement serait non seulement un gigantesque défi technologique, mais aussi totalement subjective, et pourrait être extrêmement impopulaire.

« Passer d’une question de faisabilité technologique à une question de faisabilité politique, en arriver à un score, l’étendre à une population de 1,3 milliard d’habitants, ce serait un énorme défi », a déclaré Creemers.

Une cible pour les pirates informatiques

Le Parti communiste est peut-être obsédé par le contrôle, mais il est également sensible à l’opinion publique, et les autorités ont été obligées de faire marche arrière après qu’un projet pilote dans le sud de la Chine en 2010 ait provoqué une réaction négative.

Ce projet, lancé dans le comté de Suining dans la province du Jiangsu en 2010, a permis aux citoyens d’obtenir des points pour bonne conduite, jusqu’à un maximum de 1 000. Mais une infraction mineure aux règles de la circulation coûterait 20 points à quelqu’un, et un feu rouge, une conduite en état d’ébriété ou un pot-de-vin en coûterait 50.

Certaines de ces peines montrent que le parti souhaite réglementer la vie privée de ses citoyens – la participation à tout ce qui est considéré comme une secte ou le fait de ne pas s’occuper de parents âgés – entraîne une peine de 50 points. D’autres peines reflétaient l’obsession du parti de maintenir l’ordre public et d’écraser toute contestation de son autorité – causant une « perturbation » qui bloque les bureaux du parti ou du gouvernement signifiait 50 points de moins ; l’utilisation d’Internet pour accuser faussement d’autres personnes a donné lieu à une déduction de 100 points. Gagner un « honneur national » – comme être classé comme citoyen modèle ou travailleur – a ajouté 100 points au score de quelqu’un.

Sur cette base, les citoyens ont été classés en quatre niveaux : ceux qui recevaient un grade « A », qualifiés pour bénéficier d’une aide gouvernementale lors de la création d’une entreprise, et un traitement de faveur lorsqu’ils posaient leur candidature pour rejoindre le parti, le gouvernement ou l’armée ; ou lorsqu’ils demandaient une promotion.

Les personnes ayant obtenu la note « D » ont été exclues du soutien ou de l’emploi public.

Le projet a suscité des comparaisons avec les « cartes de bon citoyen » introduites par l’armée d’occupation japonaise en Chine dans les années 1930. Sur les médias sociaux, les résidents ont protesté contre le fait que c’était « la société à l’envers » et que ce sont les citoyens qui devraient classer les fonctionnaires « et non l’inverse ».

Le gouvernement Suining a par la suite déclaré aux médias d’État qu’il avait révisé le projet, enregistrant toujours des notes de crédit social mais abandonnant les classifications A-to-D. Les fonctionnaires ont refusé d’être interviewés pour cet article.

Malgré les protestations de Suining, le gouvernement central semble déterminé à poursuivre ses plans.

Une partie de la raison est économique. Avec peu de gens en Chine qui possèdent des cartes de crédit ou empruntent de l’argent aux banques, les informations sur le crédit sont rares. Il n’existe pas d’équivalent national du scoring FICO largement utilisé aux États-Unis pour évaluer les risques de crédit à la consommation.

En même temps, le gouvernement central a pour objectif de contrôler le type de malversations d’entreprise qui a vu des dizaines de milliers de bébés hospitalisés après avoir consommé du lait et des préparations pour nourrissons frelatées en 2008, et des millions d’enfants qui ont reçu des vaccins corrompus cette année.

Mais c’est aussi une tentative d’utiliser les données pour imposer une autorité morale telle que conçue par le Parti communiste.

L’administration chinoise du cyberespace veut que quiconque montre un comportement « malhonnête » soit mis en ligne sur liste noire, tandis qu’un universitaire de premier plan a fait valoir qu’une liste noire des médias aux « reportages irresponsables » encouragerait une plus grande autodiscipline et de la moralité dans le journalisme.

Lester Ross, associé responsable du bureau de Pékin du cabinet d’avocats WilmerHale, affirme que les règles sont conçues pour empêcher toute personne de « sortir de la ligne » et pourrait intimider les avocats cherchant à mettre en avant une défense agressive de leurs clients. Il voit des échos de la Révolution culturelle, dans laquelle Mao Tsé-Toung identifiait « cinq catégories noires » de personnes considérées comme des ennemis de la révolution, y compris les propriétaires terriens, les fermiers riches et ceux de droite, qui ont été distingués pour les séances de lutte, la persécution et la rééducation.

Dans le cadre du plan de crédit social, les sanctions sont moins sévères. Interdiction de voyager en train ou en avion, par exemple, en première classe, interdiction de séjourner dans les hôtels de luxe, interdiction de voyager à l’étranger ou d’envoyer ses enfants dans les meilleures écoles – mais elles sont néanmoins d’une portée considérable.

Les critiques de Xuecun contre le gouvernement lui ont valu des millions d’adeptes sur Weibo, l’équivalent chinois de Twitter, jusqu’ à ce que les censeurs passent à l’action. Il craint que le nouveau plan de crédit social ne pose plus de problèmes à ceux qui osent s’exprimer.

« Mon compte dans les médias sociaux a été annulé à maintes reprises, de sorte que le gouvernement peut dire que je suis une personne malhonnête », a-t-il déclaré. « Je ne peux pas partir à l’étranger ni prendre le train. »

Dans le cadre de projets pilotes approuvés par le gouvernement, huit entreprises privées ont mis en place des bases de données sur le crédit qui compilent un large éventail de renseignements en ligne, financiers et juridiques.

L’un des plus populaires est Sésame Credit, une société du géant Alibaba e-commerce qui exploite la plus grande plate-forme de vente en ligne au monde.

Des dizaines de millions d’utilisateurs ayant obtenu des scores élevés ont pu louer des voitures et des vélos sans avoir à payer de caution, disent les responsables de la compagnie, et peuvent éviter les longues files d’attente dans les hôpitaux en payant des frais après avoir laissé quelques écoutes sur un smartphone.

Le site de rencontre en ligne de Baihe encourage les utilisateurs à afficher leurs scores de crédit Sésame pour attirer des partenaires potentiels ; 15 % de ses utilisateurs le font.

Une femme, qui travaille dans la publicité mais qui a refusé d’être nommée pour protéger sa vie privée, a dit qu’elle utilisait Baihe depuis plus de deux ans. Chercher des gens qui affichent de bons scores de crédit Sésame aide à éliminer les escrocs, dit-elle.

« D’abord, je regarderai sa photo, puis son profil », dit-elle. « Il doit utiliser l’authentification de nom réel. Mais je lui ferai confiance et lui parlerai s’il a Sésame Credit. »

Mais il est loin d’être certain que le système sera à l’abri des escroqueries.

William Glass, analyste du renseignement de sécurité chez FireEye, expert en cybersécurité, affirme qu’un système centralisé serait à la fois vulnérable et extrêmement attrayant pour les pirates informatiques.

« Il y a un grand marché pour ce genre de choses, et dès que ce système se met en place, les cybercriminels et même les acteurs soutenus par l’État sont incités à y entrer, que ce soit pour voler des informations ou même pour les modifier », a-t-il déclaré. « Ce système sera la vérité fondamentale de qui vous êtes. Mais si l’on considère que toute cette information est stockée numériquement, elle n’est certainement pas immuable, et les gens peuvent potentiellement entrer et la changer. »

Jin Xin a contribué à ce rapport.

Source : Simon Denyer, 22-10-2016

Traduit par les lecteurs du site www.les-crises.fr.