L’ère des fausses vidéos commence, par Franklin Foer

Source : The Atlantic, Franklin Foer, 09-04-2018

La manipulation numérique de la vidéo peut faire en sorte que l’ère actuelle des « fausses nouvelles » (Fake News) semble vieillotte

Edmon de Haro

Dans un sombre recoin de l’internet, il est possible de trouver des actrices de Game of Thrones ou d’Harry Potter engagées dans toutes sortes d’actes sexuels. Ou du moins pour le monde, les formes charnelles ressemblent à ces actrices, et les visages des vidéos sont bien les leurs. Tout ce qui se trouve au dessous du cou appartient à des femmes différentes. Une intelligence artificielle a presque cousu sans couture les visages familiers dans des scènes pornographiques, un visage échangé pour un autre. Le genre est l’une des formes les plus cruelles et les plus envahissantes de vol d’identité inventées à l’ère d’Internet. Au cœur de la cruauté se trouve l’acuité de la technologie : un observateur occasionnel ne peut pas facilement détecter le canular.

Ce développement, qui a fait beaucoup agité la presse technique, est l’œuvre d’un programmeur qui porte le nom de hack « Deepfakes ». Et ce n’est qu’une version bêta d’un projet beaucoup plus ambitieux. L’un des compatriotes de Deepfakes a déclaré au site Motherboard de Vice en janvier qu’il a l’intention de démocratiser son travail. Il veut affiner le processus, l’automatiser davantage, ce qui permettrait à n’importe qui de transposer la tête désincarnée d’un coup de cœur, d’un ex ou d’un collègue de travail dans un clip pornographique existant en quelques étapes simples. Aucune connaissance technique ne serait nécessaire. Et parce que les laboratoires universitaires et commerciaux mettent au point des outils encore plus sophistiqués à des fins non pornographiques – des algorithmes qui cartographient avec précision les expressions faciales et imitent les voix – les faux sordides vont bientôt acquérir une vraisemblance encore plus grande.

L’Internet a toujours contenu les graines de l’enfer postmoderne. La manipulation de masse, du piège à clic aux robots russes en passant par le stratagème addictif qui régit le fil d’actualité de Facebook, est la devise du média. Il a toujours été un lieu où l’identité est terriblement fuyante, où l’anonymat engendre la grossièreté et la confusion, où les escrocs peuvent voler les contours mêmes de l’identité. A cet égard, la montée des deepfakes [ technologie utilisant une intelligence artificielle permet de coller le visage d’une personne sur celui d’une autre, NdT] est le point culminant de l’histoire d’Internet jusqu’à ce jour – et probablement seulement une version de basse qualité de ce qui est à venir.

Vladimir Nabokov a écrit un jour que la réalité est l’un des rares mots qui ne signifie rien sans guillemets. Il a été sardonique en soulignant un point fondamental sur les perceptions relatives : Quand vous et moi regardons le même objet, comment savez-vous vraiment que nous voyons la même chose ? Pourtant, les institutions (médias, gouvernement, universités) ont aidé les gens à s’unir autour d’un consensus – enraciné dans une foi en la raison et l’empirisme – sur la façon de décrire le monde, bien qu’il s’agisse d’un consensus fragile qui s’est effiloché au cours des dernières années. Les médias sociaux ont contribué à l’avènement d’une nouvelle ère, permettant des rencontres individuelles avec les actualités qui confirment les préjugés et éliminent les faits contraires. Le président actuel a encore accéléré l’arrivée d’un monde au-delà de la vérité, fournissant l’imprimatur de la plus haute fonction à la fausseté et à la conspiration.

Mais bientôt cela pourra sembler un âge d’innocence. Nous vivrons bientôt dans un monde où nos yeux nous tromperont régulièrement. Autrement dit, nous ne sommes pas si loin de l’effondrement de la réalité.

Nous nous accrochons à la réalité d’aujourd’hui, nous la désirons même. Nous vivons encore beaucoup dans le monde d’Abraham Zapruder. C’est-à-dire que nous vénérons le genre de séquences brutes illustrées par le film 8 mm amateur de l’assassinat de John F. Kennedy, que le drapier de Dallas a capté par hasard. La vidéo inédite a acquis une autorité hors du commun dans notre culture. C’est parce que le public a développé un cynisme aveuglant et irrationnel à l’égard des reportages et autres documents que les médias ont manipulés et traités – une réaction excessive à un siècle de publicité, de propagande et de nouvelles hyperboliques à la télévision. L’essayiste David Shields appelle notre voracité pour le fait brut la « faim de réalité ».

Un comportement scandaleux suscite l’indignation de masse de la manière la plus fiable lorsqu’il est « enregistré ». De telles vidéos ont joué un rôle décisif dans l’organisation des deux dernières élections présidentielles américaines. En 2012, un barman, lors d’une collecte de fonds en Floride pour Mitt Romney, a subrepticement appuyé sur le bouton enregistrement de sa caméra tandis que le candidat dénonçait « 47 pour cent » des Américains, tous partisans d’Obama, comme étant des personnes affaiblies à charge du gouvernement fédéral. On peut faire valoir avec force que ce clip capturé furtivement a ruiné sa chance de devenir président. Les remarques n’auraient certainement pas été enregistrées avec une telle force si elles avaient simplement été griffonnées et retranscrites par un journaliste. La vidéo – avec son angle de caméra indirect et le cliquetis ambiant des couverts et des serveurs passant à côté avec des serviettes pliées – était beaucoup plus puissante. Tous ses accessoires témoignent de ses origines inattaquables.

Donald Trump, contre toute attente, s’est remis de la cassette d’Access Hollywood, dans laquelle il se vantait d’avoir agressé sexuellement des femmes, mais cette cassette a éveillé les passions et la conscience du public comme rien d’autre dans la course présidentielle de 2016. La vidéo a également été le déclencheur immédiat de nombreuses autres conflagrations sociales récentes. Il a fallu de longues séquences de vidéos de surveillance montrant le « running back » [« arrière courant », est un joueur de football américain évoluant dans l’équipe offensive, NdT] de la NSL [National Football League, NdT] Ray Rice en train de traîner sa femme inconsciente hors d’un ascenseur d’hôtel, pour obtenir de la ligue une réponse significative à la violence domestique, malgré une longue histoire d’abus de la part des joueurs. Puis il y a eu l’assassinat en 2016 de Philando Castile par un policier du Minnesota, envoyé en streaming sur Facebook par sa petite amie. Tous les rapports dans le monde, quelles que soient les statistiques accablantes et les anecdotes bouleversantes, n’ont pas réussi à provoquer l’indignation face à la brutalité policière. Mais la terrifiante diffusion de son assassinat comme à l’abattoir dans son Oldsmobile a fait gronder le public et a conduit les politiciens, et même quelques commentateurs conservateurs purs et durs, à reconnaître enfin le genre d’abus qu’ils avaient longtemps négligés.

Les vidéos fabriquées créeront de nouveaux soupçons sur tout ce que nous regardons. Les politiciens exploiteront ces doutes.

Tout cela nous amène au cœur du problème. Il est naturel de faire confiance à ses propres sens, de croire ce que l’on voit – une tendance écrite en dur que l’âge à venir de la vidéo manipulée exploitera. Considérez les récents point d’inflammabilité dans ce que l’Université du Michigan, Aviv Ovadya, appelle « l’infopocalypse » – et imaginez à quel point ils auraient été pires avec une vidéo manipulée. Prenez le Pizzagate, puis ajoutez des images concoctées de John Podesta reluquant un enfant, ou pire. Les faussetés vont soudainement acquérir une toute nouvelle intensité émotionnelle explosive.

Mais le problème n’est pas seulement la prolifération des mensonges. Les vidéos fabriquées créeront de nouveaux soupçons compréhensibles sur tout ce que nous regardons. Les politiciens et les publicistes exploiteront ces doutes. Lorsqu’il est enregistré pendant une malversation, un coupable déclarera simplement la preuve visuelle comme étant une fabrication malveillante. Le président, semble-t-il, a déjà été le pionnier de cette tactique : même s’il a initialement concédé l’authenticité de la vidéo d’Access Hollywood, il jette maintenant en privé le doute sur le fait que la voix sur la bande est la sienne.

En d’autres termes, la vidéo manipulée détruira en fin de compte la foi en notre lien le plus fort avec l’idée d’une réalité commune. Comme Ian Goodfellow, un scientifique de Google, l’a déclaré à la Technology Review du MIT : « C’est un peu un coup de chance, historiquement, que nous pouvons nous fier aux vidéos comme preuve que quelque chose s’est vraiment passé. »

L’effondrement de la réalité n’est pas une conséquence involontaire de l’intelligence artificielle. Il s’agit depuis longtemps d’un objectif – ou du moins d’un jeu – de certains des architectes technologiques les plus célèbres. À bien des égards, le récit de la Silicon Valley commence au début des années 1960 avec l’International Foundation for Advanced Study, non loin des légendaires laboratoires d’ingénierie regroupés autour de Stanford. La Fondation s’est spécialisée dans les expériences avec le LSD. Certains des techniciens qui travaillaient dans le quartier n’ont pas pu résister à l’envie de faire eux-mêmes un voyage psychédélique, sans doute au nom de la science. Ces développeurs voulaient créer des machines qui pourraient transformer la conscience de la même façon que les médicaments. Les ordinateurs ouvriraient aussi une brèche dans la réalité, éloignant l’humanité de la banalité quotidienne et grise de Leave It to Beaver America [série américaine,diffusée entre 1957 et 1963,qui raconte le quotidien de Theodore Cleaver surnommé « Beaver », garçon de 10 ans, et de sa famille, son grand-frère et ses parents, NdT], et l’amenant vers un état d’esprit beaucoup plus « groovy » et holistique. Steve Jobs a décrit le LSD comme « l’une des deux ou trois expériences les plus importantes » de sa vie.

Les clips vidéo faux mais réalistes ne sont pas le point final de l’évasion de la réalité que les technologues voudraient nous faire avaler. L’apothéose de cette vision est la réalité virtuelle. L’objectif fondamental de la RV est de créer une illusion globale d’être dans un autre endroit. Avec ses lunettes et ses gants, il se propose de tromper nos sens et de subvertir nos perceptions. Les jeux vidéo ont commencé le processus de transporter les joueurs dans un autre monde, en les injectant dans un autre récit. Mais si les jeux peuvent être très addictifs, ils ne sont pas encore totalement immersifs. La RV a le potentiel de transporter plus complètement – nous verrons ce que nos avatars voient et ressentons ce qu’ils ressentent. Il y a plusieurs décennies, après avoir essayé la technologie naissante, le pamphlétaire psychédélique Timothy Leary l’appelait « le nouveau LSD ».

La vie pourrait être plus intéressante dans les réalités virtuelles à mesure que la technologie émerge de son enfance ; les possibilités de création pourraient être étendues et améliorées de façon merveilleuse. Mais si le battage autour de la RV finit par se concrétiser, alors, comme l’ordinateur personnel ou les médias sociaux, elle deviendra une industrie massive, avec l’intention de rendre les consommateurs dépendants pour son propre profit, et peut-être dominée par une ou deux entreprises exceptionnellement puissantes. (Les investissements de Facebook dans la RV, avec l’achat de la start-up Oculus, ne sont guère rassurants).

La capacité de manipuler les consommateurs augmentera parce que la RV crée de la confusion sur ce qui est réel. Les concepteurs de VR ont décrit certains consommateurs comme ayant des réactions émotionnelles si fortes à une expérience terrifiante qu’ils arrachent ces lunettes de protection pour s’échapper. Des études ont déjà montré comment la RV peut être utilisée pour influencer le comportement des utilisateurs après leur retour dans le monde physique, les rendant plus ou moins enclins à des comportements altruistes.

Les chercheurs allemands qui ont tenté de codifier l’éthique de la RV ont averti que son « caractère global » introduit « des possibilités de formes nouvelles et particulièrement puissantes de manipulation mentale et comportementale, en particulier lorsque des intérêts commerciaux, politiques, religieux ou gouvernementaux sont à l’origine de la création et du maintien des mondes virtuels ». Comme l’écrit le pionnier de la RV Jaron Lanier dans ses mémoires récemment publiées, « Jamais un médium n’a été aussi puissant pour la beauté et aussi exposé à l’horreur. La réalité virtuelle nous mettra à l’épreuve. Elle amplifiera notre caractère plus que les autres médias ne l’ont jamais fait. »

La société trouvera peut-être des moyens de faire face à ces changements. Nous apprendrons peut-être le scepticisme nécessaire pour y naviguer. Jusqu’à présent, cependant, les êtres humains ont montré une susceptibilité quasi infinie à se faire duper et escroquer – tombant facilement dans des mondes qui correspondent à leurs propres croyances ou à leur propre image de soi, peu importe à quel point ces croyances sont excentriques ou totalement erronées. Les gouvernements ont été lents à relever les défis sociaux créés par les nouvelles technologies et préféreraient éviter celui-ci. La question de savoir ce qui constitue la réalité n’est pas seulement épistémologique ; elle est politique et impliquerait de déclarer que certaines croyances profondément ancrées sont spécieuses.

Peu d’individus auront le temps ou peut-être la capacité de faire le tri entre une affabulation élaborée et la vérité. Notre meilleur espoir est peut-être d’externaliser le problème, de restaurer l’autorité culturelle à des validateurs de confiance ayant reçu une formation et des connaissances : journaux, universités. Peut-être que les grandes entreprises technologiques comprendront cette crise et assumeront aussi ce rôle. Puisqu’ils contrôlent les points d’accès les plus importants aux nouvelles et à l’information, ils pourraient plus facilement écraser les vidéos manipulées, par exemple. Mais pour jouer ce rôle, ils devraient accepter certaines responsabilités auxquelles ils ont jusqu’à présent largement résisté.

En 2016, alors que la Russie utilisait Facebook pour influencer l’élection présidentielle américaine, Elon Musk s’est confié sur sa compréhension de la vie humaine. Il a parlé d’une théorie, dérivée d’un philosophe d’Oxford, qui est à la mode dans son milieu. L’idée est que nous vivons réellement dans une simulation informatique, comme si nous étions déjà des personnages dans un film de science-fiction ou un jeu vidéo. Il a déclaré lors d’une conférence : « Les chances que nous soyons dans la « réalité de base » sont d’une sur des milliards ». Si les dirigeants de l’industrie qui préside à notre information et espère façonner notre avenir ne peuvent même pas concéder l’existence de la réalité, alors nous avons peu d’espoir de la sauver.

Source : The Atlantic, Franklin Foer, 09-04-2018

Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.