Le cri d’alarme des experts en intelligence artificielle contre la reconnaissance faciale, « historiquement dangereuse ». Par Sam Biddle

Source : The Intercept, Sam Biddle, 06-12-2018

Un homme observe un visiteur en train de tester un appareil de reconnaissance faciale lors de la Conférence mondiale sur l’internet mobile à Pékin, le 26 avril 2018. Photo: Mark Schiefelbein/AP

Pour beaucoup d’entre nous, la reconnaissance faciale est passée rapidement du statut de nouveauté technologique à celui de réalité incontournable de notre quotidien, des millions de personnes étant prêtes à accepter au minimum que leur visage soit scanné par un logiciel d’aéroport, par leur iPhone ou par les grappes de serveurs de Facebook. Mais des chercheurs du AI Now Institute, à l’université de New York, ont émis de sérieuses mises en garde contre l’omniprésence de la reconnaissance faciale mais aussi contre sa parente, plus sinistre, la reconnaissance faciale d’émotions; une technologie qui prétend pouvoir identifier le sens caché de la forme de votre nez, du contour de votre bouche et de la manière dont vous souriez. Si cela semble avoir été exhumé du XIX^ème siècle, c’est parce que c’est plus ou moins le cas.

Le rapport de l’année 2018 de AI Now est un recueil de 56 pages sur la manière dont « l’intelligence artificielle » (IA) – terme générique qui comprend à la fois une myriade de tentatives scientifiques de simuler le jugement humain et des absurdités marketings – continue de s’étendre sans surveillance, réglementation ou examen éthique approfondi. Les auteurs du rapport couvrent un large éventail d’utilisations et d’abus, y compris des cas de discrimination raciale, de surveillance policière ainsi que des cas où les lois sur le secret commercial peuvent cacher des biais algorithmiques à un public surveillé par l’IA. Dans ce document, les chercheurs du AI Now Institute, créé l’année dernière pour s’attaquer aux répercussions sociales de l’intelligence artificielle, expriment une inquiétude particulière à l’égard de la reconnaissance d’émotions, « une sous-classe de la reconnaissance faciale, qui prétend pouvoir détecter des informations telles que la personnalité, les sentiments intérieurs, la santé mentale et « le niveau d’engagement d’un salarié » en se fondant sur des images ou des vidéos de visages ». Si l’idée que votre patron puisse vous observer à l’aide d’une caméra, qui utilise l’apprentissage machine, pour évaluer en continu votre état mental, est déjà assez grave, la perspective que la police utilise la « reconnaissance d’émotions » pour déduire ce que sera votre future activité criminelle à partir de « micro-expressions » de votre visage, est infiniment pire.

« La faculté d’utiliser la vision artificielle et l’analyse de données de masse pour faire des corrélations conduit à des assertions très suspectes. »

Dans le rapport, les chercheurs expliquent que c’est parce que « la reconnaissance d’émotions » n’est guère plus qu’une version informatisée de la physiognomonie, une branche de la pseudo-science, remontant à une autre époque, qui a été complètement ridiculisée et démystifiée et qui prétendait que l’on pouvait deviner le caractère d’une personne en s’appuyant sur son apparence physique – en particulier sur son visage. Il n’y avait aucune raison de croire que cela fut vrai dans les années 1880, lorsque des personnalités telles que le criminologue italien, Cesare Lombroso, qui fut discrédité, défendait cette théorie, et il y a encore moins de raison d’y croire aujourd’hui. Néanmoins, malgré son manque de fondement scientifique, c’est une idée séduisante, et les entreprises, dont l’activité est centrée sur la gestion de données, ont sauté sur l’occasion qui leurs était donnée de, non seulement, mettre un nom sur un visage, mais aussi d’imputer l’intégralité des schémas comportementaux et des prédictions à quelque lien invisible entre vos sourcils et votre nez, qui ne peut être déchiffré qu’au travers de l’œil d’un ordinateur. Il y a deux ans, des étudiants de l’université de Shanghai ont publié un compte-rendu détaillé de ce qu’ils affirmaient être une méthode d’apprentissage machine pour déterminer le potentiel délinquant des personnes en se fondant sur les seules caractéristiques du visage. Leur publication a été largement critiquée, y compris par Kate Crawford, de l’institut AI Now, qui a expliqué à The Intercept que cela n’était « ni plus ni moins que de la phrénologie… qui utiliserait l’instrument moderne que lui fournit un apprentissage machine supervisé au lieu d’un compas céphalique. »

Crawford et ses collègues, s’opposent maintenant plus que jamais à la propagation de cette espèce d’algorithme de prédiction, régressif sur le plan culturel et scientifique : « Bien que la physiognomonie soit tombée en disgrâce par son association avec la théorie raciale nazie, les chercheurs s’inquiètent d’une résurgence des idées physiognomoniques dans les applications de reconnaissance d’émotions », peut-on lire dans le rapport 2018 d’AI Now. « L’idée que les systèmes d’IA puissent nous dire ce qu’un étudiant, un client ou un suspect ressent vraiment, ou bien le type de personne qu’ils sont intrinsèquement, se révèle être très attrayante pour les grandes entreprises autant que pour les États, bien que les justifications scientifiques de telles affirmations restent extrêmement douteuses et que l’on dispose d’une histoire bien documentée de leur usage à des fins discriminatoires. »

Dans un e-mail envoyé à The Intercept, Crawford, professeure-chercheure émérite à l’université de New York et cofondatrice de l’Institut AI Now avec sa collègue Meredith Whittaker, qui est elle-même, une scientifique reconnue, nous a expliqué, en se référant à deux entreprises qui utilisent l’apparence pour tirer de grandes conclusions sur les gens, pourquoi la reconnaissance faciale d’émotions était aujourd’hui une question plus inquiétante que jamais. « Entre Faception, qui prétend pouvoir « détecter » si une personne est terroriste à partir de son visage, et HireVue, qui pratique l’enregistrement vidéo en masse de candidats en entretien d’embauche pour prédire à partir des micro-expressions de leur visage s’ils seront de bons employés ou pas, la faculté d’utiliser la vision artificielle et l’analyse de données de masse pour faire des corrélations conduit à faire des assertions très suspectes. »

Faception prétend déterminer si une personne est « psychologiquement déséquilibrée », anxieuse ou charismatique en se fondant sur son apparence et HireVue classe les candidats à un poste selon le même principe.

Comme pour tout système informatisé de jugements invisibles et de prises de décision automatisés, la reconnaissance faciale d’émotions comprend un risque immense d’être classé, signalé ou étiqueté de manière erronée, en particulier compte tenu de son faible fondement scientifique : « Comment une personne dont le profil a été établi par ces systèmes peut-elle contester le résultat ? », a poursuivi Crawford. « Que se passe-t’il lorsque l’on s’appuie sur des systèmes d’IA de type boite noire [En programmation informatique, module dont la structure interne est inconnue, NdT] pour porter un jugement sur la vie intérieure ou sur la valeur d’un être humain. Certains de ces produits se réfèrent à des théories extrêmement controversées, qui sont contestées depuis des années dans la littérature psychologique, mais que les start-ups en IA considèrent comme des faits. »

Ce qui est pire qu’une pseudo-science, qui porterait des jugements sur toute personne à portée de caméra, c’est que les algorithmes qui prennent ces décisions sont gardés secrets par les entreprises qui les développent, à l’abri de tout examen rigoureux, cachés derrière le voile du secret industriel. Whittaker pointe du doigt le secret industriel comme étant une interférence dans les pratiques déjà problématiques de la reconnaissance faciale des émotions : « Compte tenu du fait que la plupart de ces technologies sont mises au point par des sociétés à capitaux privés, qui fonctionnent en vertu des lois sur le secret d’entreprise, nous avons fortement recommandé dans notre rapport que des protections soient mises en place dans ces sociétés pour les lanceurs d’alertes relatives aux questions d’éthique ». Ce type d’alerte restera crucial, a écrit Whittaker, parce qu’un grand nombre d’entreprises de données conçoivent la protection de la vie privée et la transparence comme un fardeau plutôt que comme une vertu : « Les justifications changent, mais dans l’ensemble, la plupart des développeurs en IA déclinent toute responsabilité et disent qu’il revient aux clients de décider ce qu’ils veulent faire avec le produit ». Quand la pseudo-science est associée à une ingénierie informatique dernier cri et placée au cœur d’une zone grise en termes de responsabilité… Que voulez-vous qu’il arrive ?

Source : The Intercept, Sam Biddle, 06-12-2018

Traduit par les lecteurs du site www.les-crises.fr. Traduction librement reproductible en intégralité, en citant la source.

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.