Traduction de A belated reckoning over A.I. oversight has begun, par David Wallace-Wells publié dans la newsletter du New York Times.
La semaine dernière, alors que New Scientist rapportait que les principaux modèles d’IA continuaient de recommander des frappes nucléaires lors d’exercices de guerre, le ministère de la Guerre a tenté de forcer Anthropic, son principal fournisseur d’IA, à renoncer à sa demande que ses outils ne soient pas utilisés pour la surveillance intérieure ou la guerre totalement autonome. En général, je ne suis pas un pessimiste qui pense que l’IA représente un risque existentiel ou même une perturbation sociale profonde imminente. Mais ces développements ne semblaient pas très encourageants.
Puis le Pentagone a lancé une attaque contre l’Iran, apparemment avec l’aide de Claude, alors que le président Trump en avait interdit l’utilisation quelques heures auparavant. Il est possible que l’une des premières cibles ait été une école primaire dans laquelle au moins 175 personnes ont été tuées. (Ni Israël ni les États-Unis n’ont revendiqué la responsabilité de cette frappe.) Simultanément, le Pentagone a négocié un nouveau contrat avec OpenAI, dont les outils avaient auparavant été jugés inférieurs à ceux d’Anthropic, mais qui semblaient un peu plus accommodants aux yeux du secrétaire à la Guerre Pete Hegseth en matière de lignes rouges. Rien de tout cela ne semblait très réjouissant non plus.
Dean Ball, ancien conseiller politique à la Maison Blanche qui a rédigé la stratégie de l’administration Trump en matière d’IA, a qualifié le revirement du Pentagone sur Anthropic de « premier grand débat public qui porte véritablement sur la question de savoir où devrait se situer le centre de contrôle de l’IA de pointe ».
« Chacun d’entre nous peut choisir les futurs contre lesquels il souhaite lutter, ceux avec lesquels il peut vivre et ceux pour lesquels il se battra », a poursuivi M. Ball, qui ressemblait moins à un expert en politique qu’à un prosélyte ou un organisateur politique. Son essai largement diffusé pourrait marquer le début d’une prise de conscience tardive quant à la question de savoir qui devrait être responsable de l’avenir de l’IA, dont on nous dit régulièrement qu’il est imminent et inquiétant.
Peut-être, comme beaucoup de gens dans la Silicon Valley, ne croyez-vous pas vraiment que le gouvernement comprenne suffisamment bien les nouvelles technologies pour les façonner de manière utile. Peut-être, comme beaucoup d’Américains qui considèrent les grandes entreprises technologiques avec un scepticisme croissant, ne faites-vous pas confiance aux dirigeants des grands laboratoires d’IA pour concevoir un avenir au service de l’humanité, et êtes-vous rebuté par la façon dont beaucoup d’entre eux parlent avec désinvolture d’une large redondance humaine. Peut-être trouvez-vous étrange que les défenseurs de l’IA, qui évoquaient autrefois la possibilité d’un revenu universel post-pénurie, soient désormais plus enclins à présenter le traitement du cancer comme l’avantage de l’IA pour l’Américain moyen, sans pour autant esquisser la voie vers un remède de manière particulièrement éclairée ou convaincante.
Quelle que soit votre position idéologique sur la question de la surveillance de l’IA, l’impasse politique est frappante et nous a laissé un statu quo assez étrange, très contemporain et très américain. Le pays est extrêmement inquiet de ce qui va arriver, tout en semblant manquer de confiance réelle en quiconque ou en toute institution pour y faire face. Une analogie courante pour l’intelligence artificielle est celle des armes nucléaires. Mais ce n’est pas comme si nous avions laissé J. Robert Oppenheimer et Edward Teller décider eux-mêmes quoi faire des bombes.
Il y a plusieurs années, alors que le pays était encore sous le choc de sa première rencontre avec ChatGPT, le Congrès a organisé une série d’audiences très médiatisées sur le paysage réglementaire à venir, partant du principe que si l’IA était une technologie susceptible de changer le monde, il fallait sans doute prendre des mesures pour l’encadrer. Après une réunion à huis clos avec des chercheurs et des PDG de premier plan, Chuck Schumer, alors leader de la majorité au Sénat, a déclaré que toutes les personnes présentes dans la salle avaient convenu que le gouvernement devait jouer un rôle dans la réglementation de l’IA. La question était de savoir en quoi consistait exactement ce rôle.
Depuis lors, la réponse législative a été quasi inexistante. Une administration parfois caricaturée comme « sécuritariste » a cédé la place à une autre, plus facilement qualifiable d’« accélérationniste ».
Les grandes entreprises d’IA ont rapidement pris une telle ampleur et une telle importance pour l’avenir proche de l’économie américaine qu’elles ont commencé à sembler non seulement trop grandes pour faire faillite, mais peut-être aussi trop grandes pour que le gouvernement ose s’en mêler. Et aujourd’hui, en partie en réponse à cela, un véritable mouvement de contestation démocratique se prépare ; pour l’instant, cependant, il semble s’organiser de manière quelque peu myope autour de la résistance à la construction de centres de données.
On pourrait penser qu’à mesure que les Américains se familiarisent avec l’IA, l’utilisent davantage dans leur vie quotidienne et la voient se diffuser dans notre économie et notre culture, elle leur semblerait moins étrangère et plus normale. En réalité, le pays s’en enthousiasme moins et s’en inquiète davantage.
Cela ne devrait probablement pas nous surprendre, compte tenu de la rapidité des améliorations prévues, de la rhétorique historique et de la culture plus large dans laquelle cette technologie s’inscrit. Une façon de comprendre la dernière décennie de populisme est de la considérer comme le cri mondial des électeurs qui ont le sentiment qu’à l’ère de la mondialisation et de la nouvelle élite financière, ils perdent le contrôle sur des aspects essentiels de leur vie : leurs perspectives économiques et sociales, bien sûr, mais aussi la forme de leur propre nation et même la conception publique du genre, entre autres causes et griefs. L’IA arrive dans ce paysage comme un symbole global de l’impuissance des gens, qui est déjà là mais qui ne peut que s’aggraver, annonçant une vision de l’avenir dans laquelle une grande partie de l’ordre social a été confiée à des robots fonctionnant dans des boîtes noires contrôlées par un petit nombre de personnes immensément riches.
De plus en plus, les électeurs semblent vouloir prendre les choses en main, se soulevant contre l’intrusion des infrastructures d’IA dans leurs communautés locales. Ces luttes sont susceptibles d’aboutir à des victoires environnementales pour ces communautés. Mais elles s’apparentent également à un jeu de tape-taupe (Whac-a-Mole), auquel se livrent les militants et les citoyens inquiets, en partie parce que, comparée aux craintes diffuses suscitées par l’IA, la lutte contre les centres de données est ciblée et tangible.
« La réaction hostile aux centres de données envahit la politique américaine », a déclaré Jael Holzman en novembre dans un article publié dans la revue climatique Heatmap. « Presque chaque semaine désormais, à travers les États-Unis, les Américains protestent, rejettent, restreignent ou interdisent la construction de nouveaux centres de données », écrit-elle. Un mois plus tard, le sénateur Bernie Sanders, du Vermont, a commencé à réclamer un moratoire sur les nouvelles constructions, à l’instar de celui envisagé par le conseil municipal de Denver. L’État de New York envisage une mesure similaire, rejoignant ainsi un nombre croissant d’États qui font de même.
Mais on pouvait déjà observer l’effet politique bien avant cela dans presque toutes les élections de novembre hors année électorale, peut-être en particulier en Géorgie, où les démocrates ont remporté deux sièges à la commission des services publics de l’État, qui supervise l’énergie et l’électricité. Les jeunes électeurs détestaient particulièrement la construction de centres de données, a souligné Mme Holzman, ce qui constitue un renversement intéressant du schéma conventionnel selon lequel les jeunes sont à la fois plus favorables à la technologie et moins opposés au changement que leurs parents.
Il y a un an, lorsque Heatmap a interrogé les électeurs inscrits à travers le pays pour savoir s’ils soutiendraient la construction d’un centre de données près de chez eux, les réponses étaient vraiment mitigées : 44 % ont déclaré qu’ils soutiendraient un tel projet, et 42 % ont déclaré qu’ils s’y opposeraient. Mais lorsque l’enquête a été répétée en février, le contraste était frappant : 52 % s’y opposaient désormais, et seulement 28 % y étaient favorables. L’approbation nette des centres de données a chuté de 24 points en un an. C’est plus que ce qu’a perdu Donald Trump, dans ce qui est désormais largement considéré comme une année catastrophique pour sa popularité (sans parler de la santé du projet démocratique).
Tout cela fait passer l’opposition NIMBY aux centres de données pour un atout politique au niveau local. Mais peut-elle répondre aux inquiétudes plus nébuleuses concernant une technologie qui est désormais couramment comparée à la révolution industrielle, qui a entraîné plusieurs décennies de troubles et de conflits avant que l’espérance de vie et le niveau de vie ne commencent à augmenter, ou à l’invention de l’imprimerie, qui a notamment provoqué des générations de guerres civiles religieuses à travers l’Europe ?
Personnellement, je trouve ces comparaisons un peu exagérées et je doute que l’IA entraîne en seulement quelques décennies une transformation économique et culturelle équivalente à celle des deux derniers siècles, comme l’a suggéré Satya Nadella, PDG de Microsoft, qui fait partie des dirigeants les plus prudents de la Silicon Valley en matière de prévisions. Mais je ne sais pas non plus si le ralentissement de la construction de centres de données empêchera l’IA d’introduire des hallucinations machines dans la conduite de la guerre, de déstabiliser les modèles d’emploi en provoquant des licenciements massifs et en déformant les types d’emplois qui subsistent, de polluer l’internet avec des contenus de mauvaise qualité, d’interférer avec l’éducation, de transformer les rencontres amoureuses en échanges entre chatbots ou de transformer ce que nous appelons l’écriture en quelque chose d’extrudé par des invites, et la réalisation de films ou la musique en choses entièrement réalisées par une machine.
Plus précisément, je ne sais pas comment cela répondra aux craintes qu’un petit groupe d’oligarques technologiques travaille fébrilement à concevoir un avenir dans lequel la plupart d’entre nous pourraient être rendus fonctionnellement obsolètes. « L’impact culturel et économique de l’IA sera la question politique la plus importante de la prochaine décennie », a déclaré en décembre le sénateur Chris Murphy du Connecticut, exprimant ce qui est devenu un refrain encore plus courant depuis quelques mois. « Je pense que nous n’en avons aucune idée », a déclaré Sanders en annonçant son projet de loi sur les centres de données. « Nous ne sommes absolument pas préparés à ce qui nous attend », a-t-il ajouté, prédisant des « pertes d’emplois massives » et un « déclin cognitif » généralisé.
Je tiens à le répéter : je ne suis pas un pessimiste en matière d’IA. Je ne pense pas qu’un seigneur suprême émergera du silicium au cours des 18 prochains mois, et je ne m’attends pas non plus à ce que « la plupart, voire la totalité » des emplois de cols blancs disparaissent pendant cette période, comme l’a suggéré Mustafa Suleyman, responsable de l’IA chez Microsoft. Le brouillard médiatique est épais, voire impénétrable. Je trouve encourageant de voir quelques dirigeants politiques faire de leur mieux pour y voir clair, comme le sénateur Brian Schatz, de Hawaï, qui a promis une législation pour faire face au risque de perte d’emplois, et le représentant Ro Khanna, de Californie, qui a récemment énoncé plusieurs principes pour la gouvernance de l’IA dans sa circonscription de la Silicon Valley.
Mais il s’agit d’une technologie qui évolue très rapidement, et il semble peu probable qu’une législation significative sur l’IA soit adoptée sans un changement à la Maison Blanche. Nous sommes aujourd’hui aussi loin de cette possibilité que nous l’étions des premières audiences sur l’IA au Capitole en 2023, ce qui nous montre que beaucoup de choses peuvent changer en trois ans. Au cours des trois dernières années, nous sommes passés d’utilisateurs occasionnels paniqués par leur première rencontre avec ChatGPT à des débats au niveau stratégique au Pentagone sur la possibilité de déployer des IA entièrement autonomes dans des zones de guerre sans aucune supervision humaine. Et dans les trois prochaines années ? Ces courbes exponentielles ne nous mèneront peut-être pas vers une nouvelle divinité, mais le génie ne semble pas non plus prêt à retourner dans sa lampe. Et ceux qui espèrent jouer un rôle plus actif dans la construction de l’avenir qu’elle laisse entrevoir devront probablement faire plus que simplement empêcher la construction de quelques nouveaux centres de données.
Les traductions de 2026 (.xlsx) – celles de 2025 – par Gilles en vrac
Les caractères gras dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire vers mes traductions.