{"id":11739,"date":"2026-10-07T18:28:15","date_gmt":"2026-10-07T22:28:15","guid":{"rendered":"https:\/\/gillesenvrac.ca\/carnet\/?page_id=11739"},"modified":"2026-10-07T18:28:15","modified_gmt":"2026-10-07T22:28:15","slug":"lia-et-lalchimie","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/farrell\/lia-et-lalchimie\/","title":{"rendered":"Quel est le rapport entre les d\u00e9bats sur l’IA et l’alchimie ?"},"content":{"rendered":"\n

Traduction de What AI debates have to do with alchemy<\/a> par Henry Farrell, 2 octobre sur Substack<\/p>\n\n\n\n

\n\n\n\n

Les deux prochaines semaines s’annoncent extr\u00eamement charg\u00e9es pour moi : plusieurs conf\u00e9rences et ateliers qui m’obligent \u00e0 r\u00e9diger des notes de synth\u00e8se. Deux de ces conf\u00e9rences auront lieu dans la r\u00e9gion de la Baie de San Francisco. Si vous vous rendez \u00e0 la COLM (Conf\u00e9rence sur la mod\u00e9lisation du langage) \u00e0 San Francisco, vous pourrez m\u2019entendre intervenir jeudi prochain \u00e0 9 h<\/u><\/a> (ne manquez pas non plus la discussion de mes complices James Evans et Alison Gopnik avec deux autres \u00e9minents chercheurs, mercredi \u00e0 14 h 30). Si les mod\u00e8les de langage (LLM) et les sciences sociales vous int\u00e9ressent, vous pouvez vous inscrire \u00e0 ma conf\u00e9rence \u00e0 l\u2019universit\u00e9 de Berkeley<\/u><\/a> le lendemain.<\/p>\n\n\n\n

Mais je ne vais pas pouvoir \u00e9crire grand-chose tant que cette effervescence ne se sera pas calm\u00e9e. Donc, \u00e0 d\u00e9faut d\u2019un nouvel article, en voici un plus ancien que j\u2019ai \u00e9crit pour Lawfare<\/em> l\u2019ann\u00e9e derni\u00e8re, sur l\u2019excellent livre d\u2019Adam Becker, More Everything Forever<\/em>.<\/p>\n\n\n\n

L\u2019ouvrage d\u2019Adam Becker, \u00ab More Everything Forever \u00bb, commence par d\u00e9crire les id\u00e9es d\u2019Eliezer Yudkowsky, un gourou de l\u2019IA qui, selon Sam Altman, m\u00e9rite un prix Nobel. Les ambitions de Yudkowsky pour l\u2019humanit\u00e9 incluent \u00ab une sant\u00e9 parfaite, l\u2019immortalit\u00e9 \u00bb et un avenir dans lequel \u00ab si vous imaginez quelque chose de pire que des manoirs avec des serviteurs robotiques pour tout le monde, c\u2019est que vous n\u2019\u00eates pas assez ambitieux \u00bb. Selon Yudkowsky et ses pairs, un \u00ab glorieux avenir transhumaniste \u00bb nous attend si nous ma\u00eetrisons correctement l\u2019IA, tandis que nous risquons l\u2019extinction si nous nous y prenons mal.<\/p>\n\n\n\n

Les termes \u00ab IA \u00bb et \u00ab transhumaniste \u00bb sont de nouveaux mots pour d\u00e9signer des ambitions bien plus anciennes. Comme le fait remarquer le Dr Trelawney, occultiste louche, dans le roman d\u2019Anthony Powell de 1962, *Les Bienveillantes* : \u00ab \u00catre riche pour toujours, jeune pour toujours, ne jamais mourir\u2026 Tel \u00e9tait, \u00e0 chaque \u00e9poque, le r\u00eave de l\u2019alchimiste. \u00bb Les alchimistes de la Renaissance ont obtenu le soutien de monarques tels que Rodolphe II, l\u2019empereur du Saint-Empire romain germanique qui a dilapid\u00e9 les richesses de son royaume dans une qu\u00eate vaine visant \u00e0 d\u00e9couvrir la pierre philosophale. Aujourd\u2019hui, comme l\u2019explique Becker, l\u2019AGI, ou intelligence artificielle g\u00e9n\u00e9rale, est devenue le moyen par lequel les philosophes pourraient transsubstantier notre r\u00e9alit\u00e9 banale en un royaume o\u00f9 l\u2019apparemment impossible devient possible : vivre \u00e9ternellement, ressusciter les morts et refaire l\u2019univers \u00e0 l\u2019image de l\u2019humanit\u00e9.<\/p>\n\n\n\n

Ces id\u00e9es ne seraient qu\u2019une curiosit\u00e9 si elles ne \u00e9taient pas en train de remodeler le monde et la conception qu\u2019ont les d\u00e9cideurs politiques de la s\u00e9curit\u00e9 nationale. Notre \u00e9poque est tout aussi \u00e9trange que la Prague de Rodolphe II. \u00c0 l\u2019instar d\u2019un roman de John Crowley<\/u><\/a>, elle poss\u00e8de ses propres golems immortels<\/u><\/a> et ses sorciers qui esp\u00e8rent dialoguer avec des \u00eatres divins par l\u2019interm\u00e9diaire d\u2019un m\u00e9dium. Selon la description d\u2019Ezra Klein<\/u><\/a>, les programmeurs d\u2019IA se consid\u00e8rent comme des lanceurs de sorts d\u2019invocation, m\u00eame s\u2019ils ne savent pas exactement ce qui se cache de l\u2019autre c\u00f4t\u00e9 du portail.<\/p>\n\n\n\n

Tout comme il y a des si\u00e8cles, les dirigeants les \u00e9coutent. L\u2019administration Biden a mis\u00e9 la s\u00e9curit\u00e9 nationale des Am\u00e9ricains sur l\u2019hypoth\u00e8se que l\u2019IA g\u00e9n\u00e9rale (AGI) \u00e9tait \u00e0 nos portes, tandis que l\u2019administration Trump et ses alli\u00e9s du Golfe semblent croire que l\u2019IA contribuera \u00e0 cr\u00e9er un monde o\u00f9 ils tiendront les r\u00eanes.<\/p>\n\n\n\n

L\u2019excellent ouvrage de Becker, plein de vivacit\u00e9, ne traite pas de l\u2019IA en tant que technologie op\u00e9rationnelle. Il aborde \u00e0 peine les combinaisons d\u2019apprentissage automatique et de \u00ab r\u00e9seaux neuronaux \u00bb (des moteurs de traitement statistique qui ressemblent vaguement \u00e0 des syst\u00e8mes de neurones) qui, par exemple, sont utilis\u00e9es pour simuler le repliement des prot\u00e9ines et les syst\u00e8mes m\u00e9t\u00e9orologiques complexes. Il traite plut\u00f4t de la notion d\u2019IA et d\u2019autres id\u00e9es \u00e9troitement li\u00e9es. Si nous avons parfois l\u2019impression de vivre dans un conte de f\u00e9es sombre aux ramifications infinies, c\u2019est parce que les r\u00e9alit\u00e9s souvent banales de l\u2019IA se sont entrem\u00eal\u00e9es \u00e0 un ensemble de notions fantastiques qui pr\u00e9c\u00e8dent de loin les technologies op\u00e9rationnelles dont nous disposons aujourd\u2019hui.<\/p>\n\n\n\n

Il existe de nombreux ouvrages qui vous aideront \u00e0 comprendre comment la technologie de l\u2019IA fonctionne dans la pratique, mais rares sont ceux qui tentent ne serait-ce qu\u2019un peu de d\u00e9crire son fonctionnement en tant que mythe. Si vous souhaitez comprendre pourquoi de nombreux leaders de l\u2019IA croient que leur technologie gu\u00e9rira les blessures de la mortalit\u00e9, nous accordera une abondance quasi illimit\u00e9e et nous permettra de nous \u00e9tendre dans la galaxie, c\u2019est le livre que vous devez lire.<\/p>\n\n\n\n

Becker prend au s\u00e9rieux ces \u00ab mages en herbe \u00bb de l\u2019IA, tout en affirmant qu\u2019ils se trompent lourdement. Bien avant l\u2019apparition de mod\u00e8les comme ChatGPT, des gourous tels que Yudkowsky, l\u2019informaticien et auteur de science-fiction Vernor Vinge, r\u00e9cemment d\u00e9c\u00e9d\u00e9, et le futuriste Ray Kurzweil, avaient d\u00e9j\u00e0 \u00e9labor\u00e9 une vision vaguement commune de ce que l\u2019IA pourrait accomplir. Ils esp\u00e9raient un avenir o\u00f9 l\u2019humanit\u00e9 pourrait utiliser l\u2019IA pour transformer les \u00e9toiles, voire les galaxies, en ressources au service de l\u2019humanit\u00e9, ou craignaient un avenir o\u00f9 l\u2019humanit\u00e9 deviendrait elle-m\u00eame une ressource, destin\u00e9e \u00e0 \u00eatre consum\u00e9e et jet\u00e9e par une IA sauvage ayant transcend\u00e9 ses cr\u00e9ateurs et d\u00e9velopp\u00e9 ses propres objectifs. Il en r\u00e9sulte, selon Becker, une confiance dans la capacit\u00e9 de la technologie \u00e0 gu\u00e9rir tous les maux, ainsi qu\u2019une vision singuli\u00e8re d\u2019un \u00ab avenir immortel dans l\u2019espace \u00bb, avec une \u00e9nergie illimit\u00e9e, un temps illimit\u00e9 et des ressources illimit\u00e9es. La v\u00e9rit\u00e9, dit-il, c\u2019est que c\u2019est en reconnaissant nos limites physiques que nous pouvons comprendre la diversit\u00e9 r\u00e9elle des possibilit\u00e9s politiques qui s\u2019offrent \u00e0 nous, car nous sommes contraints d\u2019affronter les probl\u00e8mes difficiles que les r\u00eaveurs pr\u00e9f\u00e9reraient ignorer.<\/p>\n\n\n\n

Leurs id\u00e9es sont issues d\u2019un m\u00e9lange de philosophie analytique et de science-fiction, cr\u00e9ant une vision qui est autant une communaut\u00e9 informelle qu\u2019une mani\u00e8re de penser. Comme le dit Becker, cette id\u00e9ologie de l\u2019avenir est \u00ab tentaculaire et mal d\u00e9finie \u00bb, et la culture qui l\u2019anime est centr\u00e9e sur la r\u00e9gion de la Baie de San Francisco. \u00ab Longtermistes \u00bb, \u00ab rationalistes \u00bb, \u00ab d\u00e9fenseurs de la Singularit\u00e9 \u00bb : tous d\u00e9battent sans rel\u00e2che sur Internet et lors de rassemblements physiques, concoctant un m\u00e9lange enivrant d\u2019id\u00e9es qui ont fa\u00e7onn\u00e9 notre compr\u00e9hension de l\u2019IA.<\/p>\n\n\n\n

Le longtermisme est une variante particuli\u00e8re de l\u2019\u00ab altruisme efficace \u00bb, qui est lui-m\u00eame une ramification de la philosophie analytique utilitariste, selon laquelle nous devrions viser \u00e0 promouvoir le plus grand bien pour le plus grand nombre. Les altruistes efficaces ont commenc\u00e9 par affirmer que nous devrions privil\u00e9gier les int\u00e9r\u00eats des personnes lointaines autant que ceux de nos proches, et en essayant de mesurer l\u2019efficacit\u00e9 des interventions philanthropiques. Des mesures en apparence banales, comme la distribution de moustiquaires, pourraient sauver plus de vies que des solutions plus spectaculaires et plus co\u00fbteuses apport\u00e9es \u00e0 des probl\u00e8mes apparemment plus importants. Au fil du temps, cependant, certains philosophes \u00e9minents de l\u2019altruisme efficace, tels que Nick Bostrom, Toby Ord et Will MacAskill, ont commenc\u00e9 \u00e0 se tourner vers des ambitions plus grandioses. Et si nous commencions \u00e0 accorder autant de valeur \u00e0 la vie des g\u00e9n\u00e9rations futures qu\u2019\u00e0 celle des personnes vivant aujourd\u2019hui ? Et s\u2019il existait des avenirs possibles dans lesquels l\u2019humanit\u00e9 pourrait s\u2019\u00e9tendre \u00e0 travers les \u00e9toiles, ou transf\u00e9rer des copies d\u2019\u00eatres humains dans des environnements virtuels, permettant peut-\u00eatre l\u2019existence de quadrillions de descendants ? Ne devrions-nous pas faire tout notre possible pour garantir que ces futurs se concr\u00e9tisent, m\u00eame si cela impliquait de n\u00e9gliger les probl\u00e8mes actuels tels que le changement climatique ? Selon Ord et MacAskill, une Terre plus chaude serait certes n\u00e9faste, mais ne constituerait qu\u2019un obstacle mineur dans l\u2019histoire future de l\u2019humanit\u00e9, compar\u00e9 aux promesses et aux d\u00e9fis de l\u2019IA et des technologies similaires.<\/p>\n\n\n\n

Ces id\u00e9es s\u2019inscrivaient parfaitement dans le rationalisme, un mouvement en ligne qui s\u2019est \u00e9panoui sur des sites web tels que LessWrong, Overcoming Bias et Slate Star Codex. Les rationalistes se consacraient \u00e0 l\u2019am\u00e9lioration du raisonnement humain individuel, gr\u00e2ce \u00e0 l\u2019utilisation du th\u00e9or\u00e8me de Bayes (un moyen d\u2019ajuster les probabilit\u00e9s de diff\u00e9rentes hypoth\u00e8ses \u00e0 la lumi\u00e8re des preuves), de la th\u00e9orie des jeux et d\u2019autres outils math\u00e9matiques. Des rationalistes de premier plan comme Yudkowsky \u00e9taient obs\u00e9d\u00e9s par la possibilit\u00e9 que l\u2019IA puisse \u00eatre capable de raisonner mieux que les \u00eatres humains. Le rationalisme pourrait-il mettre au point des techniques pour contraindre les futures IA, afin de s\u2019assurer que leur int\u00e9r\u00eat personnel s\u2019aligne sur celui des \u00eatres humains ? Au d\u00e9part, Yudkowsky et d\u2019autres \u00e9taient optimistes, mais ils sont devenus de plus en plus pessimistes au fil du temps, craignant que les IA ne manipulent mieux les humains que l\u2019inverse. Une exp\u00e9rience de pens\u00e9e rationaliste notoire, le \u00ab Basilic de Roko \u00bb, exposait une logique alambiqu\u00e9e selon laquelle les personnes conscientes de la possibilit\u00e9 d\u2019une IA future, et qui n\u2019auraient pas fait tout ce qui \u00e9tait en leur pouvoir pour la concr\u00e9tiser, seraient condamn\u00e9es \u00e0 un tourment \u00e9ternel une fois que l\u2019IA aurait pris le pouvoir.<\/p>\n\n\n\n

Tous trouvaient leur inspiration dans l\u2019id\u00e9e de Vernor Vinge selon laquelle l\u2019humanit\u00e9 \u00e9tait au bord d\u2019une \u00ab singularit\u00e9 \u00bb, un point \u00e0 partir duquel son destin changerait. Une fois que les humains auraient d\u00e9velopp\u00e9 des syst\u00e8mes d\u2019IA plus intelligents qu\u2019eux-m\u00eames (en d\u2019autres termes, une IA g\u00e9n\u00e9rale, ou AGI), ces syst\u00e8mes pourraient s\u2019efforcer de devenir encore plus intelligents, et cette forme d\u2019IA encore plus intelligente s\u2019am\u00e9liorerait \u00e0 son tour dans une boucle de r\u00e9troaction susceptible de transformer la condition humaine en l\u2019espace d\u2019un apr\u00e8s-midi. Un avenir glorieux nous attendait tant que l\u2019IA restait au service des besoins humains. Dans le cas contraire, l\u2019humanit\u00e9 risquait d\u2019\u00eatre accidentellement an\u00e9antie \u00e0 mesure que l\u2019intelligence artificielle atteindrait son apog\u00e9e. Kurzweil a popularis\u00e9 ces id\u00e9es dans un ouvrage publi\u00e9 en 2005 qui pr\u00e9disait que la Singularit\u00e9 se produirait au cours des prochaines d\u00e9cennies. Ces diff\u00e9rentes id\u00e9es ont fusionn\u00e9, comme le d\u00e9crit Becker, pour former \u00ab l\u2019id\u00e9ologie du salut technologique \u00bb, cette notion selon laquelle il suffirait simplement \u00ab d\u2019aligner l\u2019IA, d\u2019\u00e9viter l\u2019apocalypse, et la technologie s\u2019occuperait du reste \u00bb.<\/p>\n\n\n\n

Ce m\u00e9lange enivrant d\u2019id\u00e9es a contribu\u00e9 \u00e0 inspirer le d\u00e9veloppement des mod\u00e8les dits \u00ab de pointe \u00bb qui ont red\u00e9fini la r\u00e9flexion sur l\u2019IA au cours des quatre derni\u00e8res ann\u00e9es. OpenAI, dirig\u00e9e par Sam Altman, a \u00e9t\u00e9 fond\u00e9e par des rationalistes et des \u00ab longtermistes \u00bb convaincus que la Singularit\u00e9 \u00e9tait proche, et qui ont persuad\u00e9 les riches de la Silicon Valley qu\u2019ils devaient agir en cons\u00e9quence. On ne pouvait pas compter sur les int\u00e9r\u00eats commerciaux pour faire les choses correctement : c\u2019est pourquoi OpenAI, qui a cr\u00e9\u00e9 la s\u00e9rie de mod\u00e8les GPT, a \u00e9t\u00e9 structur\u00e9e en association \u00e0 but non lucratif sous le contr\u00f4le d\u2019un conseil d\u2019administration compos\u00e9 de personnes ax\u00e9es sur l\u2019alignement de l\u2019IA.<\/p>\n\n\n\n

Cet arrangement \u00e9tait cens\u00e9 garantir que l\u2019IA serait s\u00fbre et align\u00e9e sur les int\u00e9r\u00eats g\u00e9n\u00e9raux de l\u2019esp\u00e8ce humaine, mais les d\u00e9saccords ont commenc\u00e9 presque imm\u00e9diatement. Elon Musk, l\u2019un des premiers soutiens les plus importants d\u2019OpenAI, s\u2019est oppos\u00e9 \u00e0 Altman et a perdu. Puis, les membres de cette petite communaut\u00e9 ont commenc\u00e9 \u00e0 se rendre compte que les grands mod\u00e8les linguistiques \u2014 une approche de l\u2019IA qui r\u00e9duisait les vastes corpus de textes g\u00e9n\u00e9r\u00e9s par l\u2019homme, disponibles sur Internet et ailleurs, en ensembles relativement compacts de poids statistiques \u2014 pouvaient r\u00e9pondre \u00e0 des invites d\u2019une mani\u00e8re qui semblait ressembler \u00e0 une conversation humaine ordinaire. L\u2019am\u00e9lioration de ces mod\u00e8les passait par la \u00ab mise \u00e0 l\u2019\u00e9chelle \u00bb : le d\u00e9ploiement de semi-conducteurs sp\u00e9cialis\u00e9s et co\u00fbteux lors de cycles d\u2019entra\u00eenement on\u00e9reux afin de traiter des volumes de donn\u00e9es toujours plus vastes. Cela pouvait signifier que l\u2019IA g\u00e9n\u00e9rale (AGI) et la Singularit\u00e9 \u00e9taient \u00e0 port\u00e9e de main \u2014 mais y parvenir co\u00fbterait des sommes colossales aux bailleurs de fonds commerciaux. Les tensions qui en ont r\u00e9sult\u00e9 ont donn\u00e9 lieu \u00e0 de nouveaux rebondissements : certains membres cl\u00e9s d\u2019OpenAI ont quitt\u00e9 l\u2019entreprise pour fonder une soci\u00e9t\u00e9 rivale, Anthropic, cens\u00e9e prendre plus au s\u00e9rieux les risques li\u00e9s \u00e0 l\u2019IA, tandis que des sceptiques au sein du conseil d\u2019administration d\u2019OpenAI ont licenci\u00e9 Sam Altman pour un manque de franchise pr\u00e9sum\u00e9 \u2014 avant d\u2019\u00eatre eux-m\u00eames remplac\u00e9s lorsque Sam Altman est revenu avec le soutien de Microsoft.<\/p>\n\n\n\n

L\u2019ambition transhumaniste et les craintes concernant une IA hors de contr\u00f4le permettent \u00e0 des laboratoires comme OpenAI et Anthropic d\u2019affirmer qu\u2019ils fa\u00e7onnent un avenir meilleur pour nous tous et qu\u2019ils nous pr\u00e9servent d\u2019un avenir pire. Dario Amodei, PDG d\u2019Anthropic, met en garde contre les ravages que l\u2019IA pourrait causer si elle n\u2019\u00e9tait pas contr\u00f4l\u00e9e. Il esp\u00e8re \u00e9galement que l\u2019IA deviendra bient\u00f4t<\/u><\/a> une sorte d\u2019\u00ab intelligence pure \u00bb, \u00ab plus intelligente qu\u2019un laur\u00e9at du prix Nobel dans la plupart des domaines pertinents \u00bb, un v\u00e9ritable \u00ab pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb, d\u00e9di\u00e9 \u00e0 la d\u00e9couverte. Tout comme la pierre philosophale pouvait transmuter des substances, gu\u00e9rir des maladies et cr\u00e9er un \u00e9lixir de long\u00e9vit\u00e9, Amodei pr\u00e9dit que l\u2019IA transformera bient\u00f4t la science des mat\u00e9riaux, gu\u00e9rira la plupart des formes de cancer et doublera l\u2019esp\u00e9rance de vie humaine.<\/p>\n\n\n\n

Comme le souligne Becker, ces visions extraordinaires de l\u2019avenir de l\u2019humanit\u00e9 ne sont pas stupides en soi. Des possibilit\u00e9s insolites peuvent \u00e9merger de changements majeurs qui se produisent \u00e0 grande \u00e9chelle. Il est possible que, sans ces visions, les premi\u00e8res perc\u00e9es n\u2019auraient jamais eu lieu. Au d\u00e9but du XXe si\u00e8cle, le sociologue Max Weber s\u2019est interrog\u00e9 sur la mani\u00e8re dont les gens avaient acquis le capital qui avait permis \u00e0 l\u2019\u00e9conomie moderne de se mettre en marche. Il a conclu, dans une r\u00e9flexion rest\u00e9e c\u00e9l\u00e8bre, que la crainte des calvinistes face \u00e0 la damnation \u00e9ternelle avait \u00e9t\u00e9 le moteur initial de l\u2019\u00e9thique du travail, indispensable \u00e0 l\u2019accumulation du capital d\u2019investissement, fondement essentiel du d\u00e9veloppement de l\u2019\u00e9conomie moderne en Occident. Peut-\u00eatre que l\u2019irrationalisme qui anime les rationalisations des rationalistes \u2014 cette qu\u00eate alchimique de la vie \u00e9ternelle et de l\u2019or qui se reproduit \u2014 a de la m\u00eame mani\u00e8re stimul\u00e9 la cr\u00e9ation de mod\u00e8les qui, sans cela, auraient sembl\u00e9 sp\u00e9culatifs et inabordables. Peut-\u00eatre pas.<\/p>\n\n\n\n

Quoi qu\u2019il en soit, les d\u00e9bats sur l\u2019IA ont \u00e9t\u00e9 largement accapar\u00e9s par une communaut\u00e9 monoculturelle de rationalistes, de longtermistes et de sp\u00e9culateurs de la Singularit\u00e9 qui ont d\u00e9velopp\u00e9 leurs id\u00e9es et leurs ambitions bien avant de construire les mod\u00e8les. Les membres de cette communaut\u00e9 sont loin d\u2019\u00eatre stupides, et beaucoup d\u2019entre eux, probablement la grande majorit\u00e9, ne sont pas non plus particuli\u00e8rement hypocrites. Il peut \u00eatre difficile de faire comprendre une critique \u00e0 un fondateur, lorsque sa prochaine lev\u00e9e de fonds d\u00e9pend justement de son incompr\u00e9hension de celle-ci, mais les ing\u00e9nieurs, penseurs et \u00e9crivains ordinaires sont moins expos\u00e9s \u00e0 ce genre de tentations.<\/p>\n\n\n\n

Il n\u2019en reste pas moins que le r\u00e9sultat final est que nos d\u00e9bats actuels sur l\u2019IA reposent sur des repr\u00e9sentations sp\u00e9culatives d\u2019avenirs sp\u00e9culatifs, qui ont \u00e9t\u00e9 en grande partie d\u00e9velopp\u00e9es par Vinge dans les ann\u00e9es 1990, puis par Kurzweil et Yudkowsky dans les ann\u00e9es 2000, sur la base d\u2019id\u00e9es encore plus anciennes (Becker d\u00e9crit les r\u00e9cits d\u2019Isaac Asimov et d\u2019autres auteurs de l\u2019\u00ab \u00e2ge d\u2019or \u00bb de la science-fiction, entre les ann\u00e9es 1930 et 1960). Ces d\u00e9bats s\u2019articulent autour d\u2019affirmations enthousiastes sur la mani\u00e8re dont les capacit\u00e9s de l\u2019IA telle qu\u2019elle existe r\u00e9ellement (un ensemble de techniques statistiques et pr\u00e9dictives puissantes) pourraient \u00e9voluer pour correspondre \u00e0 l\u2019IA th\u00e9orique d\u00e9crite dans les exp\u00e9riences de pens\u00e9e issues de la philosophie analytique, ainsi qu\u2019\u00e0 des id\u00e9es emprunt\u00e9es \u00e0 la science-fiction et \u00e0 la fantasy (le chef-d\u2019\u0153uvre de Yudkowsky est la fanfiction de 660 000 mots intitul\u00e9e \u00ab Harry Potter et les m\u00e9thodes de la rationalit\u00e9 \u00bb).<\/p>\n\n\n\n

Ces id\u00e9es se sont r\u00e9pandues bien au-del\u00e0 de leur communaut\u00e9 d\u2019origine. Shazeda Ahmed et ses coll\u00e8gues constatent que les altruistes efficaces ont d\u00e9velopp\u00e9 le domaine de la s\u00e9curit\u00e9 de l\u2019IA autour de leur pr\u00e9occupation<\/u><\/a> concernant \u00ab l\u2019alignement \u00bb de l\u2019IA, afin qu\u2019elle ne se retourne pas contre ses cr\u00e9ateurs. Les \u00ab laboratoires \u00bb, et les personnes qui y travaillent, peuvent orienter le d\u00e9bat, non seulement parce qu\u2019ils exercent une influence ordinaire, mais aussi parce qu\u2019ils d\u00e9tiennent un quasi-monopole sur les donn\u00e9es relatives \u00e0 ce que l\u2019IA de pointe peut ou ne peut pas faire. Un article r\u00e9cent<\/u><\/a> d\u2019Ilan Strauss et d\u2019autres auteurs sugg\u00e8re que les recherches men\u00e9es par ces laboratoires dominent les citations universitaires : \u00e0 lui seul, Google DeepMind compte plus de citations de ses articles que les quatre universit\u00e9s les plus influentes r\u00e9unies.<\/p>\n\n\n\n

Cela aide \u00e0 expliquer comment les id\u00e9es de ces laboratoires ont d\u00e9teint sur la politique. Becker s\u2019\u00e9tend bien davantage sur la Silicon Valley que sur Washington, D.C. Il consacre environ une page \u00e0 discuter de la mani\u00e8re dont l\u2019id\u00e9ologie du salut technologique a impr\u00e9gn\u00e9 les think tanks bien financ\u00e9s de Washington, mais ce n\u2019est pas l\u00e0 son sujet principal. N\u00e9anmoins, quiconque participe aux d\u00e9bats sur la s\u00e9curit\u00e9 nationale reconna\u00eetra l\u2019influence remarquable des id\u00e9es d\u00e9crites par Becker, et la mani\u00e8re dont elles se sont entrem\u00eal\u00e9es avec la crainte de la Chine pour faire entrer le d\u00e9bat dans une nouvelle phase. Peu avant de quitter ses fonctions de conseiller \u00e0 la s\u00e9curit\u00e9 nationale, Jake Sullivan a appel\u00e9 Axios<\/u><\/a> pour lancer un avertissement \u00ab catastrophique \u00bb sur ce que cela signifierait si la Chine, plut\u00f4t que les \u00c9tats-Unis, \u00e9tait en mesure de contr\u00f4ler les \u00ab pouvoirs potentiellement divins \u00bb de l\u2019IA. D\u2019apr\u00e8s des conversations officieuses que j\u2019ai eues, il appara\u00eet clairement que des personnalit\u00e9s de premier plan de l\u2019administration Biden anticipaient que quelque chose ressemblant vaguement \u00e0 la \u00ab singularit\u00e9 \u00bb de Vinge \u2014 le moment o\u00f9 l\u2019IA serait capable de s\u2019am\u00e9liorer d\u2019elle-m\u00eame dans une boucle de r\u00e9troaction continue \u2014 \u00e9tait imminent. C\u2019est la principale raison pour laquelle les \u00c9tats-Unis ont refus\u00e9 \u00e0 la Chine l\u2019acc\u00e8s aux semi-conducteurs les plus avanc\u00e9s utilis\u00e9s pour entra\u00eener l\u2019IA. Elle voulait s\u2019assurer que la transition vers l\u2019IA g\u00e9n\u00e9rale (AGI) se ferait selon les conditions fix\u00e9es par les \u00c9tats-Unis, emp\u00eachant ainsi une r\u00e9volution de l\u2019AGI aux caract\u00e9ristiques chinoises. Si seulement les \u00c9tats-Unis pouvaient conserver une longueur d\u2019avance pendant quelques ann\u00e9es, l\u2019IA am\u00e9ricaine prendrait son essor, offrant ainsi aux \u00c9tats-Unis un avantage strat\u00e9gique durable. L\u2019une des derni\u00e8res initiatives politiques de l\u2019administration Biden a consist\u00e9 en une tentative vou\u00e9e \u00e0 l\u2019\u00e9chec visant \u00e0 utiliser son contr\u00f4le de la production mondiale de semi-conducteurs pour diviser le monde en trois zones, avec des niveaux d\u2019acc\u00e8s diff\u00e9rents aux puces et aux mod\u00e8les d\u2019IA de pointe. Ces id\u00e9es politiques ont trouv\u00e9 un \u00e9cho dans les laboratoires, comme en t\u00e9moignent les \u00e9ditoriaux co-r\u00e9dig\u00e9s<\/u><\/a> par des fondateurs tels qu\u2019Amodei, qui mettent en garde contre les dangers de l\u2019IA chinoise, tandis qu\u2019Altman avertit que les \u00c9tats-Unis ne sont \u00ab qu\u2019\u00e0 peine en avance \u00bb sur la Chine.<\/p>\n\n\n\n

Les politiques de l\u2019administration Biden reposaient sur des paris risqu\u00e9s. L\u2019IA n\u2019est peut-\u00eatre pas la solution miracle aux probl\u00e8mes technologiques \u00e9pineux et complexes promise par Altman, Amodei et leurs pairs. Certains (dont la plupart des membres<\/u><\/a> de l\u2019Association for the Advancement of Artificial Intelligence, ainsi que moi-m\u00eame et mes coll\u00e8gues<\/u><\/a>) estiment que les approches actuelles ne m\u00e8neront pas de sit\u00f4t \u00e0 une IA g\u00e9n\u00e9rale (AGI) capable de s\u2019auto-am\u00e9liorer. Comme le sugg\u00e8re le succ\u00e8s de DeepSeek dans la construction de mod\u00e8les d\u2019IA, les semi-conducteurs pourraient ne pas constituer l\u2019atout d\u00e9cisif en mati\u00e8re d\u2019IA que les d\u00e9cideurs politiques am\u00e9ricains croyaient.<\/p>\n\n\n\n

Quoi qu\u2019il en soit, l\u2019administration Trump semble avoir opt\u00e9 pour une approche diff\u00e9rente, rempla\u00e7ant un grand projet d\u2019ordre mondial en mati\u00e8re d\u2019IA par une strat\u00e9gie plus souple, fond\u00e9e sur la convergence en constante \u00e9volution entre les notions de grandeur am\u00e9ricaine et les int\u00e9r\u00eats particuliers d\u2019entreprises bien connect\u00e9es. Cela consiste actuellement \u00e0 tirer parti du contr\u00f4le de la technologie pour maintenir la domination am\u00e9ricaine, en concluant des accords avec les \u00c9tats du Golfe, tout en essayant d\u2019\u00e9carter la Chine. Lorsque Trump a effectu\u00e9 une tourn\u00e9e dans les \u00c9tats du Golfe accompagn\u00e9 d\u2019une d\u00e9l\u00e9gation de PDG du secteur technologique, il a propos\u00e9 l\u2019acc\u00e8s \u00e0 des semi-conducteurs haut de gamme en \u00e9change de promesses d\u2019investissements massifs, acceptant gracieusement un avion \u00e0 r\u00e9action ainsi qu\u2019un transfert d\u2019argent \u00e0 grande \u00e9chelle achemin\u00e9, moyennant des frais, via le stablecoin de sa famille.<\/p>\n\n\n\n

Ce m\u00e9lange \u00e9mergent d\u2019empire, de technologie magique et de transactions int\u00e9ress\u00e9es rappelle lui aussi la Renaissance. Le sorcier anglais John Dee, qui affirmait avoir transform\u00e9 le mercure en or en pr\u00e9sence de Rodolphe II, est \u00e9galement consid\u00e9r\u00e9<\/u><\/a> comme l\u2019inventeur du terme \u00ab Empire britannique \u00bb. En tant que membre de la cour de la reine \u00c9lisabeth Ire, il combinait exp\u00e9riences alchimiques et conversations indirectes avec les anges \u00e0 des projets plus terre-\u00e0-terre visant \u00e0 \u00e9tendre la puissance britannique au-del\u00e0 de l\u2019Atlantique et \u00e0 s\u2019enrichir personnellement.<\/p>\n\n\n\n

La qu\u00eate de l\u2019immortalit\u00e9 et de la transformation universelle men\u00e9e par les alchimistes est \u00e0 nouveau \u00e9troitement li\u00e9e \u00e0 la lutte entre les empires. Les r\u00eaves de sant\u00e9 parfaite, de victoire sur la mort et de demeures dot\u00e9es de serviteurs robots que d\u00e9crit Becker inspirent des visions d\u2019un avenir lointain radicalement transform\u00e9 et d\u2019un pr\u00e9sent proche dans lequel l\u2019Am\u00e9rique peut utiliser des technologies de pointe pour renforcer sa puissance. De telles visions d\u00e9coulent d\u2019une id\u00e9ologie du salut qui a certes aliment\u00e9 d\u2019importantes avanc\u00e9es technologiques, mais qui pourrait se tromper lourdement sur la direction que ces avanc\u00e9es nous feront prendre.<\/p>\n\n\n\n

Nous sommes entra\u00een\u00e9s vers un monde o\u00f9 les mod\u00e8les d\u2019IA offrent des moyens nouveaux et utiles de synth\u00e9tiser l\u2019information du monde et d\u2019\u00e9tablir des liens non \u00e9vidents entre ses \u00e9l\u00e9ments, mais peuvent \u00e9galement tisser de nouvelles croyances religieuses syncr\u00e9tiques<\/u><\/a> \u00e0 partir de la myriade de sources humaines qu\u2019ils synth\u00e9tisent. Au d\u00e9but du XXe si\u00e8cle, Weber affirmait<\/u><\/a> que le calvinisme rationalis\u00e9 avait conduit \u00e0 la d\u00e9faite des anciens dieux et au d\u00e9senchantement inexorable d\u2019un monde domin\u00e9 par la bureaucratie et le capitalisme organis\u00e9. Au d\u00e9but du XXIe si\u00e8cle, c\u2019est exactement le contraire qui se produit, l\u2019IA ouvrant la voie au retour du fantastique. L\u2019eschatologie de Yudkowsky n\u2019est qu\u2019une des visions proph\u00e9tiques qui accompagnent l\u2019IA. Les changements concrets que l\u2019IA apportera \u00e0 la bureaucratie et aux march\u00e9s iront de pair avec l\u2019extase et la ferveur religieuses, certaines personnes en venant \u00e0 croire qu\u2019elles peuvent parler \u00e0 Dieu<\/u><\/a> par l\u2019interm\u00e9diaire de la machine, tandis que d\u2019autres l\u2019utiliseront pour \u00e9laborer leurs propres fantasmes \u00e9tendus sur la politique<\/u><\/a>. Comme le montre l\u2019ouvrage de Becker, la technologie n\u2019est pas seulement une force abstraite qui transforme le monde, mais un miroir dans lequel les \u00eatres humains voient se concr\u00e9tiser leurs r\u00eaves et leurs ambitions. Nous commen\u00e7ons \u00e0 d\u00e9couvrir \u00e0 quoi cela ressemble \u00e0 grande \u00e9chelle.<\/p>\n\n\n\n

\n\n\n\n

Fichier Excel des\u00a0traductions<\/a> par\u00a0Gilles en vrac<\/em>
Fiches<\/a> avec les premi\u00e8res phrases (et non seulement les titres)
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\n","protected":false},"excerpt":{"rendered":"

Traduction de What AI debates have to do with alchemy par Henry Farrell, 2 octobre sur Substack Les deux prochaines semaines s’annoncent extr\u00eamement charg\u00e9es pour moi : plusieurs conf\u00e9rences et ateliers qui m’obligent \u00e0 r\u00e9diger des notes de synth\u00e8se. Deux de ces conf\u00e9rences auront lieu dans la r\u00e9gion de la Baie de San Francisco. Si … <\/p>\n

Continuer la lecture de « Quel est le rapport entre les d\u00e9bats sur l’IA et l’alchimie ? »<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":11396,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-11739","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":8669,"url":"https:\/\/gillesenvrac.ca\/carnet\/ideologie-texane\/","url_meta":{"origin":11739,"position":0},"title":"L’id\u00e9ologie texane","author":"Gilles Beauchamp","date":"3 novembre 2025","format":false,"excerpt":"La Silicon Valley cherche son \"espace vital\" dans la Bible Belt The Texan Ideology, par Fred Turner, publi\u00e9 dans The Baffler, 2025.10 LE LONG DES COURBES du fleuve Colorado, entour\u00e9e de plaines et de broussailles, la Gigafactory de Tesla s'\u00e9tend sur plus de 2 500 acres \u00e0 l'ext\u00e9rieur d'Austin, au\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9319,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/hacks-hackers-journalisme\/","url_meta":{"origin":11739,"position":1},"title":"Donner vie \u00e0 l’IA : Hacks\/Hackers, amplificateurs de l’avenir num\u00e9rique du journalisme","author":"Gilles Beauchamp","date":"10 f\u00e9vrier 2026","format":false,"excerpt":"Traduction de Curating AI Into Being: Hacks\/Hackers as Amplifiers of Journalism's Digital Futures, publi\u00e9 le 27 janvier 2026 dans l'International Journal of Communication, Vol. 20 (2026) par Andreas Hepp [1], Universit\u00e9 de Br\u00eame, Allemagne. [Une r\u00e9f\u00e9rence The Syllabus] R\u00e9sum\u00e9 : En tant que r\u00e9seau de journalistes et de technologues, Hacks\/Hackers\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/Table1.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/Table1.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/Table1.png?resize=525%2C300&ssl=1 1.5x"},"classes":[]},{"id":9394,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/pandemie-ia\/","url_meta":{"origin":11739,"position":2},"title":"L’\u00e8re pand\u00e9mique de l’IA","author":"Gilles Beauchamp","date":"18 f\u00e9vrier 2026","format":false,"excerpt":"Un nouvel \u00e9picycle m\u00e9diatique atteint son apog\u00e9e Traduction de A.I.'s pandemic moment par Max Read, le 13 f\u00e9vrier 2026 sur Substack De temps \u00e0 autre, en ma qualit\u00e9 d'\u00e9valuateur professionnel des tendances, j'aime me plonger dans les discussions sur l'IA sur des sites tels que Bluesky et X.com et \u00e9valuer\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9432,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/maitres-les-tableurs\/","url_meta":{"origin":11739,"position":3},"title":"Nos ma\u00eetres les tableurs","author":"Gilles Beauchamp","date":"23 f\u00e9vrier 2026","format":false,"excerpt":"Traduction de Our Spreadsheet Overlords, par Leif Weatherby le 29 mai 2025. Deux ans se sont \u00e9coul\u00e9s depuis qu'OpenAI a lanc\u00e9 ChatGPT et que la panique s'est install\u00e9e. Deux ans de gros titres sur \u00ab l'IA \u00bb \u2013 un sujet sp\u00e9cialis\u00e9 subalterne et l'apanage des films de science-fiction loufoques depuis\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10178,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/la-rationalite-des-machines-linguistiques\/","url_meta":{"origin":11739,"position":4},"title":"La rationalit\u00e9 des machines linguistiques","author":"Gilles Beauchamp","date":"7 mai 2026","format":false,"excerpt":"Les grands mod\u00e8les linguistiques sont-ils math\u00e9matiquement rationnels ? Traduction de The Rationality of the Language Machines par Ben Recht, publi\u00e9 sur Substack, le 7 mai 2026. Ce que j\u2019aime le moins dans l\u2019\u00e9criture de livres, c\u2019est leur caract\u00e8re d\u00e9finitif. \u00c0 peine ai-je pris le temps de feuilleter un exemplaire papier\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":8403,"url":"https:\/\/gillesenvrac.ca\/carnet\/farrell\/llm-technologies-culturelles\/","url_meta":{"origin":11739,"position":5},"title":"Les grands mod\u00e8les linguistiques sont des technologies culturelles. Qu’est-ce que cela signifie ?","author":"Gilles Beauchamp","date":"18 ao\u00fbt 2025","format":false,"excerpt":"Quatre perspectives diff\u00e9rentes HENRY FARRELL18 AO\u00dbT 2025 Traduction de Large language models are cultural technologies. What might that mean? Cela fait cinq mois qu'Alison Gopnik, Cosma Shalizi, James Evans et moi-m\u00eame avons \u00e9crit pour affirmer que nous ne devrions pas consid\u00e9rer les grands mod\u00e8les linguistiques (LLM) comme des \u00ab agents\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=1400%2C800&ssl=1 4x"},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11739","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=11739"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11739\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11396"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=11739"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}