La Silicon Valley et la course à la guerre automatisée

Les techno-enthousiastes

Si certains militaires et membres du Pentagone s’inquiètent en effet des risques futurs liés à des armements dotés d’IA, les dirigeants du ministère de la défense sont pleinement satisfaits. Leur engagement résolu en faveur des technologies émergentes a été révélé au monde entier pour la première fois lors d’un discours prononcé en août 2023 par la secrétaire adjointe à la défense, Kathleen Hicks, devant la National Defense Industrial Association, le plus grand groupe commercial de l’industrie de l’armement du pays. Elle a profité de l’occasion pour annoncer ce qu’elle a appelé « l’initiative Replicator », un projet global visant à créer « un nouvel état de l’art – comme l’Amérique l’a fait par le passé – en s’appuyant sur des systèmes attritables [ système à longue portée sans pilote, subsonique et autonomes dans tous les domaines, NdT] – qui sont moins coûteux, qui mettent moins de personnes dans la ligne de mire et qui peuvent être modifiés, mis à jour ou améliorés dans des délais beaucoup plus courts. »

Hicks n’a pas hésité à souligner la principale raison d’être d’une telle course à la guerre robotisée : devancer et intimider la Chine. « Nous devons nous assurer que les dirigeants de la RPC (République populaire de Chine) se réveillent chaque jour, prennent en compte les risques inhérents à une agression et concluent que ce n’est pas le moment – et pas seulement aujourd’hui, mais tous les jours, d’ici 2027, d’ici 2035, d’ici 2049 et au-delà », a-t-elle déclaré.

Le fait que Hick ait une confiance absolue dans la capacité du Pentagone et des fabricants d’armes américains à mener les futures techno guerres a été renforcé par un groupe de militaristes New-Age de la Silicon Valley et au-delà, dont le fer de lance est constitué par des chefs d’entreprise tels que Peter Thiel de Palantir, Palmer Luckey d’Anduril, et des investisseurs en capital-risque tels que Marc Andreessen d’Andreessen Horowitz.

Patriotes ou profiteurs mercantiles ?

Ces entreprises qui encouragent une nouvelle façon de faire la guerre se considèrent également comme une nouvelle génération de patriotes, capables de relever avec succès les défis militaires de l’avenir.

En témoigne « Rebooting the Arsenal of Democracy », un long manifeste publié sur le blog d’Anduril. Il souligne la supériorité des startups de la Silicon Valley sur les mastodontes militaro-industriels de la vieille école, comme Lockheed Martin, quand il s’agit de fournir la technologie indispensable pour gagner les guerres de demain :

« Il est vrai que les plus grandes entreprises de défense comptent dans leurs rangs des patriotes qui n’ont pas l’expertise logicielle ou le modèle commercial nécessaire pour construire la technologie dont nous avons besoin… Ces entreprises ont construit les outils qui ont assuré notre sécurité dans le passé, mais elles ne représentent pas l’avenir de la défense. »

Contrairement à l’approche industrielle qu’il critique, Luckey et ses compatriotes d’Anduril cherchent une toute nouvelle façon de développer et de vendre des armes :

« Les logiciels vont changer la façon dont les guerres sont menées. Le champ de bataille de l’avenir regorgera de dispositifs dotés d’une intelligence artificielle et sans pilote, qui combattront, recueilleront les données de reconnaissance et communiqueront à des vitesses époustouflantes. »

À première vue, il paraît tout à fait inattendu que Luckey ait pu se hisser aussi haut dans les rangs des dirigeants de l’industrie de l’armement. Il a fait fortune en créant l’appareil de réalité virtuelle Oculus, un gadget que les utilisateurs peuvent fixer sur leur tête afin de vivre des expériences en trois dimensions (avec la sensation d’être immergé dans ces scènes). Ses goûts vestimentaires le portent vers les sandales et les chemises hawaïennes, ce qui ne l’empêche pas de se consacrer entièrement à des activités dans le domaine militaire. En 2017, il a fondé Anduril, en partie avec le soutien de Peter Thiel et de sa société d’investissement, Founders Fund. Anduril fabrique actuellement des drones autonomes, des systèmes de commande et de contrôle automatisés et d’autres dispositifs destinés à accélérer la vitesse à laquelle le personnel militaire peut identifier et détruire des cibles.

Thiel, mentor de Palmer Luckey, montre bien en quoi les dirigeants des nouvelles entreprises d’armement diffèrent des titans de l’époque de la guerre froide. Tout d’abord, il est entièrement acquis à Donald Trump. Il fut un temps où les dirigeants des grandes entreprises d’armement comme Lockheed Martin faisaient en sorte de maintenir de bonnes relations tant avec les Démocrates qu’avec les Républicains, en contribuant largement aux campagnes électorales des deux partis et de leurs candidats, et en engageant des lobbyistes disposant de relations dans les deux camps. La logique de cette démarche n’aurait pas pu être plus claire à l’époque. Ils voulaient sceller un consensus bipartisan afin de dépenser toujours plus au profit du Pentagone, l’une des rares choses sur lesquelles la plupart des membres clés des deux partis étaient d’accord. Ils voulaient également entretenir des relations particulièrement fructueuses quel que soit le parti contrôlant la Maison Blanche et/ou le Congrès à tout moment.

Les jeunes pousses de la Silicon Valley et leurs représentants sont également beaucoup plus virulents dans leurs critiques à l’égard de la Chine. Ils sont les plus froids (ou devrais-je dire les plus brûlants ?) des nouveaux combattants de la guerre froide de Washington, employant une rhétorique plus acerbe que celle du Pentagone ou des grands patrons. En revanche, ceux-ci édulcorent généralement leurs critiques à l’encontre de la Chine ainsi que leur soutien aux guerres dans le monde entier, lesquelles ont contribué à arrondir leurs résultats nets grâce aux groupes de réflexion qu’ils ont financés à hauteur de dizaines de millions de dollars chaque année.

L’entreprise principale de Thiel, Palantir, a également été critiquée pour avoir fourni des systèmes qui ont permis aux services d’immigration et de douane américains (ICE) de mener des opérations de répression sévères aux frontières, ainsi que des opérations de « police prédictive ». Cela (et vous n’en serez pas surpris) implique la collecte de grandes quantités de données personnelles sans mandat, en s’appuyant sur des algorithmes intégrant des préjugés raciaux qui conduisent à un ciblage et à une discrimination systématiques et injustes à l’égard des personnes de couleur.

Pour bien comprendre comment les militaristes de la Silicon Valley envisagent la guerre de la prochaine génération, il faut se pencher sur les travaux de Christian Brose, directeur de la stratégie de Palantir. Ce dernier est un spécialiste de la réorganisation militaire depuis longtemps, il est aussi l’ancien collaborateur de feu le sénateur John McCain. Son livre Kill Chain est en quelque sorte la bible des partisans de la guerre automatisée. Son constat principal : le vainqueur d’un combat est celui qui peut le plus efficacement raccourcir la « chaîne de la mort » (le laps de temps qui s’écoule entre l’identification et la destruction d’une cible). Son livre part du principe que l’adversaire le plus probable dans la prochaine guerre technologique sera bel et bien la Chine et il se livre à une exagération des capacités militaires de Pékin, tout en surestimant ses ambitions militaires et en insistant sur le fait que devancer ce pays dans le développement de technologies militaires émergentes est le seul moyen de remporter une victoire dans le futur.

Et attention, il ne faut pas oublier que la stratégie de Brose, qui consiste à raccourcir la chaîne de la mort, présente d’immenses risques. La tentation de faire « sortir les humains de la boucle » ne fera que croître à mesure que le laps de temps pour décider des actions à entreprendre sera raccourci, laissant les décisions de vie ou de mort à des machines dépourvues de sens moral et exposées à des dysfonctionnements catastrophiques, ce qui est inhérent à tout système logiciel complexe.

Une grande partie de la critique de Brose concernant le complexe militaro-industriel actuel est tout à fait pertinente. Quelques grandes entreprises s’enrichissent en fabriquant de gigantesques plates-formes d’armes toujours plus vulnérables, telles que des porte-avions et des chars, tandis que le Pentagone dépense des milliards pour un vaste et onéreux réseau de bases mondiales qui pourrait être remplacé par un dispositif de défense qui aurait une empreinte beaucoup plus limitée et plus dispersée. Sa vision alternative pose malheureusement plus de problèmes qu’elle n’en résout.

Tout d’abord, il n’y a aucune garantie que les systèmes logiciels promus par la Silicon Valley fonctionneront comme annoncé. Après tout, il existe une longue histoire d’« armes miracles » qui ont échoué, depuis le champ de bataille électronique au Viêt Nam jusqu’au désastreux bouclier antimissile Star Wars du président Ronald Reagan [L’Initiative de défense stratégique, dite aussi guerre des étoiles dans les médias, était un projet de défense anti-missile destiné à la protection des États-Unis contre une frappe nucléaire stratégique par des missiles balistiques intercontinentaux et des missiles balistiques lancés par des sous-marins, NdT]. Même lorsqu’il a été possible de trouver et de détruire des cibles plus rapidement, des guerres comme celles d’Irak et d’Afghanistan, menées en utilisant ces mêmes technologies, ont été des échecs pitoyables.

Une récente enquête du Wall Street Journal laisse entendre que la nouvelle génération de technologie militaire est également surévaluée. Le Journal a constaté que les nouveaux petits drones américains haut de gamme fournis à l’Ukraine pour sa guerre défensive contre la Russie se sont révélés bien trop « chaotiques et onéreux », à tel point que, comble de l’ironie, les Ukrainiens ont choisi d’acheter à la place des drones chinois moins chers et plus fiables.

Enfin, l’approche préconisée par Brose et ses acolytes va rendre la guerre toujours plus probable, à mesure que l’hubris technologique incite à croire que les États-Unis peuvent effectivement « battre » une puissance nucléaire rivale comme la Chine dans un conflit, si seulement nous investissons dans une nouvelle force dynamique de haute technologie.

Il en résulte, comme mon collègue Michael Brenes et moi-même l’avons souligné récemment, que des milliards de dollars d’argent privé affluent aujourd’hui dans des entreprises cherchant à repousser les frontières de la techno-guerre. Les estimations vont de 6 à 33 milliards de dollars par an et, selon le New York Times, 125 milliards de dollars au cours des quatre dernières années. Quels que soient les chiffres, le secteur technologique et ses bailleurs de fonds sentent qu’il y a d’énormes sommes d’argent à gagner dans l’armement de nouvelle génération et ils ne laisseront personne se mettre en travers de leur chemin.

Dans le même temps, une enquête menée par Eric Lipton du New York Times a révélé que les sociétés de capital-risque et les startups qui accélèrent déjà le rythme des guerres assistées par IA s’emploient également à recruter et à mettre à leur service d’anciens responsables de l’armée et du Pentagone. L’ancien secrétaire à la défense de Trump, Mark Esper, figure en bonne place sur cette liste. De tels rapprochements peuvent certes être motivés par la ferveur patriotique, mais une motivation plus probable est simplement le désir de s’enrichir. Comme l’a fait remarquer Ellen Lord, ancienne responsable des acquisitions au Pentagone : « Aujourd’hui, on constate un certain panache quant aux liens entre la communauté de la défense et les sociétés de capital-investissement. Mais les investisseurs espèrent aussi pouvoir passer à la caisse et gagner un maximum d’argent. »

Le roi philosophe

Autre acteur central de la construction d’une machine de guerre high-tech, l’ancien PDG de Google, Eric Schmidt, s’intéresse à bien d’autres domaines que la sphère militaire. Il est devenu un véritable philosophe-roi lorsqu’il s’agit de savoir comment les nouvelles technologies vont remodeler la société et, en fait, ce que veut dire être humain. Il réfléchit à ces questions depuis un certain temps et a exposé sa vision dans un livre publié en 2021 et modestement intitulé The Age of AI and Our Human Future (L’âge de l’IA et notre avenir humain), coécrit avec nul autre que le regretté Henry Kissinger. Schmidt est au fait des dangers potentiels de l’IA, mais joue également un rôle central dans les efforts déployés pour promouvoir ses applications militaires. Bien qu’il renonce à l’approche messianique de certaines figures montantes de la Silicon Valley, on peut se demander si son approche apparemment plus réfléchie contribuera au développement d’un monde plus sûr et plus rationnel en matière d’armement avec IA.

Commençons par le plus fondamental : Schmidt pense que l’IA va changer la vie telle que nous la connaissons et ce, d’une manière absolument extraordinaire. Dans leur ouvrage, Kissinger et lui affirment que l’IA provoquera « une altération de l’identité et de la culture humaines à des niveaux jamais atteints depuis l’aube de l’ère moderne », affirmant : « Son fonctionnement laisse augurer un progrès sur la voie de l’essence même des choses, progrès que les philosophes, les théologiens et les scientifiques recherchent, avec un succès mitigé, depuis des millénaires. »

En revanche, le groupe d’experts gouvernementaux sur l’intelligence artificielle au sein duquel Schmidt a siégé a pleinement reconnu les risques que présentent les utilisations militaires de l’IA. La question mérite d’être posée : Va-t-il, au moins, appuyer la mise en place de solides garde-fous contre son utilisation abusive ? Pendant son mandat à la tête du Defense Innovation Board du Pentagone de 2017 à 2020, il a contribué à préparer le terrain pour les directives du Pentagone sur l’utilisation de l’IA lesquelles garantissaient que les humains seraient toujours « dans la boucle » lors du lancement d’armes de nouvelle génération. Mais comme l’a fait remarquer un détracteur de ce secteur, une fois la rhétorique mise de côté, les directives « n’empêchent pas vraiment de faire quoi que ce soit ».

En fait, la sénatrice Elizabeth Warren (Démocrate-Maryland) et d’autres défenseurs de la bonne gouvernance se sont demandé si le rôle de Schmidt à la tête de la Defense Innovation Unit ne représentait pas un potentiel conflit d’intérêts. Après tout, alors qu’il contribuait à l’élaboration des lignes directrices sur les applications militaires de l’IA, il investissait également dans des entreprises susceptibles de tirer profit du développement et de l’utilisation de l’IA. Son entité d’investissement, America’s Frontier Fund, investit régulièrement dans des startups de technologie militaire, et une organisation à but non lucratif qu’il a fondée, le Special Competitive Studies Project, décrit sa mission comme étant de « conforter la compétitivité à long terme de l’Amérique à mesure que l’intelligence artificielle (IA) [remodèle] notre sécurité nationale, notre économie et notre société ». Cette association est en relation avec un grand nombre de dirigeants de l’armée et de l’industrie technologique et milite, entre autres, en faveur d’un assouplissement de la réglementation sur le développement des technologies militaires. En 2023, Schmidt a même fondé une entreprise de drones militaires, White Stork, qui, selon Forbes, a testé secrètement ses systèmes à Menlo Park, dans la banlieue de la Silicon Valley.

La question est maintenant de savoir si l’on peut amener Schmidt à user de toute son influence pour freiner les utilisations les plus dangereuses de l’IA. Malheureusement, son enthousiasme à l’égard de l’utilisation de l’IA pour améliorer les capacités de combat laisse présager le contraire :

« De temps à autre, une nouvelle arme, une nouvelle technologie fait son apparition et change les choses. Dans les années 1930, Einstein a écrit une lettre à Roosevelt pour lui dire que cette nouvelle technologie – les armes nucléaires – pourrait changer la guerre, ce qu’elle a manifestement fait. Je dirais que l’autonomie [assurée par l’IA] et les systèmes décentralisés et en réseaux sont tout aussi puissants.

Compte tenu des risques déjà cités, la comparaison entre l’IA militaire et le développement d’armes nucléaires n’est pas vraiment rassurante. La combinaison des deux – des armes nucléaires contrôlées par des systèmes automatiques sans intervention humaine – a jusqu’à présent été exclue, mais on ne peut pas s’attendre à ce que cela dure. Cela reste une possibilité, en l’absence de garanties solides et contraignantes sur le moment et la manière dont l’IA peut être utilisée.

L’IA arrive, et son impact sur nos vies, que ce soit en temps de guerre ou en temps de paix, risque de défier l’imagination. Dans ce contexte, une chose est claire : nous ne pouvons pas nous permettre de laisser les individus et les entreprises qui profiteront le plus d’une application effrénée de l’IA avoir la mainmise sur les règles d’utilisation de cette technologie.

N’est-il pas temps d’affronter les guerriers de la nouvelle ère ?

*

William D. Hartung, contributeur habituel de TomDispatch, est maître de recherche au Quincy Institute for Responsible Statecraft et auteur de Prophets of War : Lockheed Martin and the Making of the Military-Industrial Complex (Prophètes de guerre : Lockheed Martin et la naissance du complexe militaro-industriel).

Source : TomDispatch, William D Hartung, 25-06-2024

Traduit par les lecteurs du site Les-Crises