Le « pape de l’IA » quitte Google avec des regrets et des craintes pour l’avenir

Geoffrey Hinton, qui a reçu le « prix Nobel de l’informatique » pour ses travaux novateurs sur les réseaux neuronaux, est désormais libre de parler des risques de l’IA (Intelligence artificielle)

Source : The Verge, Thomas Ricker
Traduit par les lecteurs du site Les-Crises

Geoffrey Hinton (au premier plan) a quitté Google pour s’exprimer sur les dangers de l’IA. Image : Getty

Geoffrey Hinton, qui, avec deux autres « parrains de l’IA », a remporté le prix Turing 2018 pour leurs travaux fondamentaux qui ont conduit à l’essor actuel de l’intelligence artificielle, dit maintenant qu’une partie de lui regrette l’œuvre de sa vie. Hinton a récemment quitté son emploi chez Google afin de pouvoir s’exprimer librement sur les risques de l’IA, selon une interview de l’homme de 75 ans publiée dans le New York Times.

« Je me console avec l’excuse habituelle : si je ne l’avais pas fait, quelqu’un d’autre l’aurait fait », a déclaré Hinton, qui a travaillé chez Google pendant plus de dix ans. « Il est difficile de voir comment on peut empêcher les mauvais opérateurs de l’utiliser à des fins malveillantes. »

Hinton a notifié sa démission à Google le mois dernier et s’est entretenu directement avec le PDG, Sundar Pichai, jeudi, selon le NYT. Les détails de cette discussion n’ont pas été divulgués.

C’est ce travail qui a finalement conduit à la création de ChatGPT et de Google Bard.

Cet universitaire de longue date a rejoint Google après l’acquisition d’une entreprise créée par Hinton et deux de ses étudiants, dont l’un est devenu le directeur scientifique d’OpenAI. Hinton et ses étudiants avaient mis au point un réseau neuronal qui, après avoir analysé des milliers de photos, apprenait à identifier des objets courants tels que des chiens, des chats et des fleurs. C’est ce travail qui a conduit à la création de ChatGPT et de Google Bard.

Selon l’interview du NYT, Hinton était satisfait de la gestion de la technologie par Google jusqu’à ce que Microsoft lance le nouveau Bing infusé d’OpenAI, remettant en cause le cœur de métier de Google et déclenchant un « code rouge » au sein du géant de la recherche. Selon Hinton, il pourrait être impossible d’arrêter une concurrence aussi féroce, qui aboutirait à un monde contenant tellement d’images et de textes truqués que plus personne ne serait en mesure de dire « ce qui est vrai. »

Le directeur scientifique de Google, Jeff Dean, s’est efforcé d’atténuer le choc avec la déclaration suivante : « Nous restons attachés à une approche responsable de l’IA. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace. »

Hinton s’est également rendu sur Twitter pour clarifier sa position sur la gestion de Google :

Dans le NYT d’aujourd’hui, Cade Metz laisse entendre que j’ai quitté Google pour pouvoir le critiquer. En fait, j’ai quitté Google pour pouvoir parler des dangers de l’IA sans tenir compte de l’impact sur Google. Google a agi de manière très responsable.

– Geoffrey Hinton (@geoffreyhinton), 1er mai 2023

La diffusion de fausses informations n’est que la préoccupation immédiate de Geoffrey Hinton. À plus long terme, il craint que l’IA n’élimine les emplois routiniers, voire l’humanité elle-même lorsqu’elle commencera à écrire et à exécuter son propre code.

« L’idée que cette machine puisse devenir plus intelligente que les gens, quelques personnes y ont cru », a déclaré Hinton au NYT. « Mais la plupart des gens pensaient que c’était une erreur. Et je pensais que c’était loin d’être le cas. Je pensais que c’était dans 30 à 50 ans, voire plus. Évidemment, je ne le pense plus. »

Mise à jour du 1er mai à 8h 48 heure d’été de l’est, [soit heure GMT – 4, NdT] : Ajout d’un tweet de Hinton clarifiant sa position sur la gestion de Google jusqu’à présent.

Source : The Verge, Thomas Ricker, 01-05-2023

Traduit par les lecteurs du site Les-Crises

Nous vous proposons cet article afin d'élargir votre champ de réflexion. Cela ne signifie pas forcément que nous approuvions la vision développée ici. Dans tous les cas, notre responsabilité s'arrête aux propos que nous reportons ici. [Lire plus]Nous ne sommes nullement engagés par les propos que l'auteur aurait pu tenir par ailleurs - et encore moins par ceux qu'il pourrait tenir dans le futur. Merci cependant de nous signaler par le formulaire de contact toute information concernant l'auteur qui pourrait nuire à sa réputation.