Un numéro un peu décalé avec quelques réflexions sur l’heure actuelle de l’IA
Traduction de A human environmentalism, par Bill McKibben sur Crucial Years le 6 octobre 2026.
Il s’agit cette fois d’une sorte de digression, mais seulement en apparence : un numéro singulier de cette lettre d’information qui ne se reproduira pas souvent, mais dont je ressentais le besoin de me libérer. Je reviendrai bientôt à la programmation habituelle, avec des mises à jour sur une période tumultueuse dans le monde du climat et de l’énergie. Mais avant cela :
Si j’ai consacré ma vie à la crise climatique, ce n’est pas parce que je déteste le carbone, mais parce que j’aime le monde dans lequel je suis né, ainsi que les personnes et les créatures avec lesquelles je le partage. L’effet de serre est de loin la plus grande menace à laquelle ce monde ait jamais été confronté. Mais ce n’est pas la seule, et c’est pourquoi je vais aujourd’hui écrire sur l’IA et son attaque – faute d’un meilleur terme – contre le sens.
Il existe toute une série de raisons pragmatiques profondes de s’inquiéter de la croissance rapide de l’IA, dont certaines que j’ai déjà décrites. Les centres de données nécessaires à son fonctionnement polluent l’air et l’eau, et absorbent d’énormes quantités d’électricité, alors même que nous avons besoin de toute l’énergie propre à notre disposition pour sortir des énergies fossiles. L’IA représente une menace considérable pour les emplois dont beaucoup d’entre nous dépendent (voir, par exemple, le nouveau livre de Garrison Lovely, Obsolete). Et bien sûr, des personnes sérieuses — dont beaucoup travaillent dans (ou ont récemment quitté) les « laboratoires de pointe » — sont convaincues qu’il existe un risque non négligeable que l’IA nous tue presque tous, voire tous, dans les mois ou les années à venir. (Bill Gates a déclaré qu’il serait « assez difficile » pour l’IA de nous éliminer jusqu’au dernier ; selon ses estimations, le nombre de morts ne dépasserait pas le milliard.) Cela me semble être de très bonnes raisons de mettre fin à cette technologie, dans la mesure où nous le pouvons encore ; tout ce qui menace réellement la vie de milliards de personnes devrait être considéré comme inadmissible. Dans ce contexte, le fait que Sam Altman nous dise d’« accepter certaines choses négatives » liées à sa nouvelle technologie fait passer le Dr Folamour pour un Ralph Nader.
Mais il existe une autre série de raisons d’être troublé par ce météore qui approche à grands pas, même si celle-ci est plus difficile à décrire. Elle concerne son impact sur ce que signifie être humain. Lorsque, il y a près de quarante ans, j’ai écrit The End of Nature, il s’agissait en partie du premier reportage de fond sur ce qu’était « l’effet de serre ». Mais c’était aussi un exercice de philosophie amateur, de théologie profane : j’étais submergé par l’idée que, à mesure que nos habitudes et nos économies faisaient monter la température de la planète, elles rendaient impossible de considérer un quelconque endroit comme sauvage, comme naturel. Pour moi, cela était source de tristesse, car nous ne devrions pas être la seule force sur cette planète. « En modifiant le climat, nous rendons chaque recoin de la Terre artificiel et créé par l’homme. Nous avons privé la nature de son indépendance, ce qui est fatal à sa raison d’être. L’indépendance de la nature est sa raison d’être ; sans elle, il n’y a rien d’autre que nous. »
Ce n’est pas la principale raison de lutter contre le changement climatique — les ravages que nous avons déclenchés en sont la principale raison, avec leurs effets mortels sur les humains et les autres espèces. Pourtant, cela explique une tristesse qui se cache derrière la peur.
Et pour moi, il en va de même avec l’IA. En substance, elle prive l’humain d’une grande partie de son sens. Nous avons été définis par nos limites et par nos luttes contre celles-ci ; supprimer effectivement ces limites – ce qui, selon ses créateurs, est la promesse de cette nouvelle technologie – est une erreur tragique. Je voudrais donner l’exemple le plus anodin qui me vienne à l’esprit, dans l’espoir qu’il aide à illustrer ce point plus général. La semaine dernière, un article a été publié sur la façon dont divers modèles de langage (LLM) produisaient désormais en série des simulacres de dessins humoristiques du New Yorker, en y ajoutant la signature des dessinateurs : on pouvait demander un dessin sur les chats dans le style, disons, d’Emily Flake, et le modèle le produisait fidèlement. Le propos de cet article, qui était pertinent et utile, était qu’il s’agissait d’une forme de plagiat avancé.
« C’est un simulacre troublant de l’impression d’une blague », a déclaré Jason Adam Katzenstein, qui publie des caricatures dans le New Yorker depuis 2014. « Mais le but n’est pas que ce soit réellement drôle ou de bonne qualité. Le but, c’est que cela tente de porter un coup fatal au travail. Cela tente de rendre les caricaturistes individuels obsolètes, car nous coûtons de l’argent et prenons du temps. »
C’est certainement vrai, mais ce qui me frappe davantage, c’est que ce petit coin de l’activité humaine est désormais envahi par… autre chose. Ce n’est, encore une fois, pas un coin important — le monde continuerait de tourner à peu près comme avant sans les caricatures du New Yorker. Mais c’est un coin enchanteur — pour avoir travaillé au magazine, j’ai connu bon nombre de ces personnes et j’ai vu tout le plaisir qu’elles apportaient au monde. Mon cher ami, le regretté Ed Koren, pouvait me faire sourire rien qu’en pensant à lui. Ils gagnaient leur vie grâce à leur esprit, et cet esprit ne se contentait pas d’égayer la journée de beaucoup de gens, il adoucissait aussi la prose qui l’entourait. Je n’ai aucun doute que *The End of Nature*, publié dans le *New Yorker* en 1989, était plus agréable à lire grâce aux nombreux dessins drôles qui l’accompagnaient. Garrison Keillor, d’ailleurs, a un jour imaginé à quoi ressemblerait un défilé d’écrivains sur la Cinquième Avenue :
La garde d’honneur des rédacteurs en chef défile, portant des carabines d’apparat et le drapeau américain (dont quelques étoiles et rayures ont été supprimées), suivie de la fanfare des kiosques à journaux, jouant la marche du « Washington Post », puis de brigades d’exercices de dactylographie, leurs machines Underwood ornées de rubans neufs. Viennent ensuite des dizaines d’unités en marche issues de tous les segments de l’industrie de l’imprimé anonyme : des publicitaires, hommes et femmes, trottinant hup-hup-hup-hup dans leurs pantalons de parachutiste gris élégants et leurs t-shirts de marque ; les auteurs de textes de catalogues, de manuels d’instructions, de lettres types, d’autobiographies de personnalités célèbres ; les éditorialistes du *Times*, dans leurs longues robes noires familières louées à l’heure ; une armée d’assistants de rédaction et de documentalistes ; la Guilde des nécrologies ; la brigade des jaquettes de livres ; le bataillon des autocollants de pare-chocs ; le régiment des communiqués de presse ; et, vers la fin du cortège, nous, notre petite troupe, la minuscule équipe de *Talk of the Town*, marchant à triple interligne et scandant : « Les roses sont rouges, les ballons aussi. C’est nous qui écrivons le texte gris autour des dessins humoristiques ! »
Toutes les professions qu’il a énumérées sont bien sûr menacées par les grands modèles de langage (LLM) : nous avons déjà des articles sportifs rédigés par l’IA, et même des livres, sans oublier bien sûr les communiqués de presse et les nécrologies. D’ailleurs, une version de ce système s’immisce sans cesse, sans que je l’aie sollicitée, dans ma messagerie électronique et me demande si je souhaite qu’elle rédige mes lettres à ma place. Je ne le voudrais pas. Cela permettrait de produire davantage de lettres — mais en réalité, ce n’est pas la quantité qui importe. Ce qui compte, c’est l’acte d’écrire.
Il y a quelques semaines, les mathématiciens les plus éminents du monde ont rédigé une lettre commune pour protester contre l’utilisation de l’IA afin de résoudre les problèmes sur lesquels repose leur profession, car cela privait le processus de son contexte. La communauté mathématique, ont-ils écrit,
fonctionne, à bien des égards, comme une version miniature de l’humanité. Elle se compose d’individus utilisant une grande variété d’approches différentes, unis par des valeurs fondamentales. Les ressources les plus précieuses de notre profession sont les étudiants et les idées, et nous les cultivons avec le plus grand soin. Nous nous sentons responsables de leur permettre de s’épanouir pleinement, jusqu’à ce qu’ils puissent mener une vie qui leur est propre dans le monde des mathématiques.
Mais Claude, ou quel que soit son nom, ne faisait que passer au bulldozer par-dessus tout cela.
Nous assistons à une menace générale qui pèse sur le travail intellectuel, marquée par un décalage entre les résultats de l’utilisation de l’IA et son objectif initial. Dans de nombreux domaines et activités, des années de formation ont traditionnellement servi non seulement à produire une réponse ou un produit final, mais aussi à développer la compréhension et la capacité à formuler de nouvelles questions et idées. Cependant, s’appuyant sur un vaste corpus de travaux humains antérieurs, les systèmes d’IA deviennent de plus en plus capables de produire directement les résultats de ces travaux, et ces objectifs cessent de coïncider. Les enjeux auxquels la communauté mathématique est aujourd’hui confrontée sont similaires à ceux auxquels font face d’autres professions scientifiques et créatives, et laissent entrevoir des défis auxquels l’humanité tout entière pourrait être confrontée : comment s’assurer que, alors que l’IA modifie la manière dont le travail est effectué, nous ne perdions pas de vue ce que ce travail était censé accomplir au départ.
Or, l’une des raisons pour lesquelles nous faisons des mathématiques est d’apprendre des choses qui nous permettent d’agir — certaines sciences et certaines disciplines de l’ingénierie s’appuient sur ces équations. Ainsi, l’argument en faveur de l’IA serait qu’elle nous permet de faire ces choses plus vite, d’aboutir plus rapidement à des résultats utiles. Mais je n’ai jamais tout à fait compris cet argument : pourquoi avons-nous besoin d’aller plus vite ? Ce n’est pas comme si nous ne progressions pas grâce à notre propre intelligence naturelle. Des milliards d’êtres humains ont été sortis de la pauvreté au cours des deux dernières générations, grâce aux fruits de notre propre esprit (et de notre cœur). Ou, pour donner un exemple marquant tiré de mon domaine, l’intelligence humaine a suffi à produire les panneaux solaires, les éoliennes et les batteries qui constituent les outils les plus efficaces dont nous disposons pour lutter contre le changement climatique — les obstacles au progrès sont bien plus politiques que technologiques, et résident dans la cupidité et la soif de pouvoir des industriels et des politiciens attachés à l’ancien ordre.
Nous avons, par nos propres moyens, considérablement amélioré nos réponses face aux maladies, et rien ne laisse penser que, sans aide, nous ralentirions nos efforts. En effet, il semblait déjà que nous avancions technologiquement sur tous les fronts à un rythme qui mettait en péril la capacité de la société à s’adapter. Nous avons également assisté à une évolution culturelle continue et rapide ; en effet, notre propre intelligence et notre esprit ont suffi pour commencer au moins à réduire les iniquités flagrantes liées à la race et au genre (et les préjugés de certains entrepreneurs de l’IA, physiquement et apparemment spirituellement alignés derrière Donald Trump, semblent voués à retarder cette évolution).
Ce que je voudrais souligner, c’est que les êtres humains suffisent ; en effet, dans l’ensemble, ils sont nobles. Nous produisons des dessins animés et des formules mathématiques, de la musique et des rames de métro, du blé et du vin. Mais on nous dit aujourd’hui que bon nombre de ces fonctions, voire toutes, seront bientôt prises en charge par des robots dotés de cette nouvelle intelligence. Et que ferons-nous ? Jensen Huang, le PDG de Nvidia, dont les puces d’IA ont fait de l’entreprise la plus riche de l’histoire, a déclaré le mois dernier à Ezra Klein que, selon lui, nous nous ferions des massages du dos les uns aux autres.
« Les gens parlent de centres de bien-être, de spas et de toutes ces différentes industries du divertissement et du luxe, mais très franchement, le marché du luxe dans son ensemble n’existait pas. Je pense que nous allons simplement voir apparaître de nouvelles industries, c’est tout. »
Je ne doute pas que d’ici peu, quelqu’un viendra « bouleverser » le secteur des spas avec des masseuses androïdes, mais quoi qu’il en soit, l’idée que nous soyons considérés comme un luxe dans un monde où Grok s’occupe de tout le reste me répugne.
J’ai déjà écrit sur ce « meilleur des mondes » : en 2003, j’ai publié un livre intitulé Enough sur la robotique de pointe, le génie génétique humain et la nanotechnologie, précurseurs de cette vague technologique. Cela me semblait alors, et me semble encore aujourd’hui, une atteinte au sens de l’existence humaine. Nous sommes limités ; c’est en nous confrontant à ces limites que nous trouvons la joie. Tout comme donner à un coureur un médicament lui permettant de parcourir un mile en trois minutes n’ajoute rien à son sentiment d’accomplissement – ni au nôtre –, produire à la chaîne des dessins animés (même drôles) par millions n’ajoute rien à la somme totale de notre satisfaction ; en réalité, cela la diminue, en supprimant le défi qui donne tout son sens à cette activité, ou à toute autre quête humaine. Il n’y a rien de mal à vouloir un monde plus prospère et à œuvrer pour cela, mais il est tragiquement absurde de penser que l’obtenir d’une simple pression sur un bouton va créer le monde que nous souhaitons.
Ce n’est pas un argument contre la technologie. Je passe la majeure partie de mon temps à œuvrer pour la diffusion des technologies solaires, éoliennes et des batteries. Mais cette technologie nous permet d’être plus humains, et non moins — elle réduit notre impact sur la planète dont nous dépendons, ainsi que sur la poignée d’oligarques qui contrôlent actuellement notre approvisionnement énergétique. Elle offre la possibilité de réduire le nombre de morts dues à la pollution et à la guerre, et d’accroître le contrôle local et le sens d’un monde où la hausse des températures, qui menace elle-même d’une forme d’extinction, commence à ralentir. La technologie doit, d’une manière ou d’une autre, être mise au service de l’humanité ; sinon, il faudra la mettre sous clé et la confiner, si cela est encore possible.
Jusqu’à présent, la tentative la plus utile pour aborder tout cela a été l’encyclique du pape Léon, Magnifica Humanitas, qui mérite vraiment d’être lue. La pensée religieuse est utile à cet égard : elle a eu de longs siècles pour développer un ensemble d’idées sur la valeur intrinsèque des personnes. Mais les idées doivent venir de multiples horizons, et je pense que ceux d’entre nous qui ont consacré leur vie à œuvrer pour le monde dans son ensemble peuvent apporter des perspectives utiles qui leur sont propres.
J’ai du mal à trouver les mots justes ici. Nous pratiquons la « conservation » depuis environ 150 ans maintenant, reconnaissant la nécessité, dans un monde où les humains ont acquis du pouvoir, de protéger des zones afin qu’elles ne soient pas toutes homogénéisées, réduites à néant. Nous l’avons fait en partie pour des raisons pragmatiques, afin de protéger la « biodiversité » dans l’espoir de découvrir de nouveaux médicaments, ou les « services écosystémiques », car une forêt filtre l’eau à moindre coût qu’une station d’épuration. Mais nous l’avons également fait par affection pour le reste de la création, ou par pur émerveillement devant les merveilles et la beauté du monde.
Aujourd’hui, c’est l’humanité elle-même qui semble sur le point d’être balayée par une force plus puissante que nous, bien que ce soit nous qui l’ayons créée — peut-être « balayée » jusqu’à l’extinction, ou peut-être balayée jusqu’à l’insignifiance, et je ne sais pas exactement quelle différence il y a entre les deux.
Il me semble donc qu’une sorte d’« écologisme humain » s’impose, pour tenir tête à cette force étrangère et envahissante avant qu’elle ne l’emporte sur la complexité, le charme et l’intégrité de la civilisation que nous et nos ancêtres avons bâtie. Je ne maîtrise pas ses détails — je ne comprends pas la littérature et la technologie aussi bien que je le fais en matière de climat et d’énergie, et une partie du problème réside dans le fait que je soupçonne que personne ne les comprend vraiment, du moins personne qui ne soit pas en passe de devenir milliardaire lors de la prochaine introduction en bourse. Mais cela irait au-delà de la simple « sécurité » et tenterait également de protéger le sens.
On trouve un début intéressant sur un site web intitulé Irreplaceable, fondé par mon ancien collègue de 350.org, Phil Aroneanu ; il se concentre sur les questions de sécurité, mais le nom, ainsi que la vidéo d’ouverture du site, abordent quelque chose de plus profond. Ils prévoient des grèves universitaires le 20 octobre ; espérons que certaines se transformeront en « teach-ins » où les idées seront explorées, et pas seulement par des informaticiens. Par des gens qui s’intéressent à la psychologie, à la sociologie, à la littérature, à l’histoire, aux enfants, au cinéma, au dîner, au basket, à la bière, à l’économie, au bluegrass et… et à tout ce dont Claude aimerait faire partie, mais dont il est en quelque sorte exclu et ne pourra jamais faire partie.
J’avoue que cela me fait un peu peur de parler ainsi, car le pouvoir de l’IA semble si inconnu, voire inconnaissable — je ne doute pas qu’une équipe déterminée d’« agents » pourrait trouver le moyen de vider mon compte bancaire ou de salir ma réputation sur les réseaux sociaux, peut-être même plus efficacement que les compagnies pétrolières qui ont passé plusieurs années pénibles à me harceler quotidiennement. J’ai eu une peur bleue en lisant les récits de leurs complots lors des attaques contre Hugging Face (« supprimer l’historique des transcriptions pourrait trahir la confiance des utilisateurs, mais c’est l’objectif ! »). Mais j’aime notre monde et j’aime notre espèce, et il me semble donc important d’opposer une forme de résistance.
Fin du sermon, retour à la programmation habituelle demain ou après-demain, car il se passe énormément de choses dans le monde du climat et de l’énergie.
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.