![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Bayer1948.jpg\")
1. Les LLM peuvent d\u00e9sormais imiter les capacit\u00e9s d\u2019un doctorant<\/h4>\n\n\n\n
Je tiens \u00e0 jour une liste de quelques dizaines d\u2019id\u00e9es de projets qui pourraient pr\u00e9senter un int\u00e9r\u00eat et relever des comp\u00e9tences techniques pour un projet de stage de doctorat en g\u00e9n\u00e9tique statistique<\/strong>. Afin de mieux comprendre ce dont les mod\u00e8les de pointe sont capables, j\u2019ai r\u00e9\u00e9crit neuf projets sous forme de prompts pour LLM, puis j\u2019ai demand\u00e9 \u00e0 Codex (GPT-5.5-high) et \u00e0 Claude (Opus-4.7-high) de les mettre en \u0153uvre. Comme vous pouvez le voir dans l’exemple de prompt1<\/a><\/sup>Exemple de consigne : Vous \u00eates un expert en g\u00e9n\u00e9tique statistique. \u00c9tendez la m\u00e9thode de r\u00e9gression du score d\u2019expression m\u00e9di\u00e9e (MESC \u2013 https:\/\/github.com\/douglasyao\/mesc), un outil permettant d\u2019estimer la proportion de l\u2019h\u00e9ritabilit\u00e9 d\u2019un trait issu d\u2019une \u00e9tude GWAS qui est m\u00e9di\u00e9e par des donn\u00e9es d\u2019expression g\u00e9nique mesur\u00e9es, en utilisant un cadre de r\u00e9gression du score de liaison (LD-score). Vous \u00e9tendez cette m\u00e9thode pour estimer la polyg\u00e9nicit\u00e9, c\u2019est-\u00e0-dire le nombre effectif de g\u00e8nes qui m\u00e9dient l\u2019h\u00e9ritabilit\u00e9 de la maladie. D\u00e9veloppez un estimateur de la polyg\u00e9nicit\u00e9 de la composante m\u00e9di\u00e9e par l\u2019expression d\u2019un trait issu d\u2019une \u00e9tude GWAS qui prend en entr\u00e9e les statistiques r\u00e9capitulatives de la GWAS, les donn\u00e9es eQTL au niveau individuel, les donn\u00e9es de r\u00e9f\u00e9rence de LD (ou des scores de LD) et qui produit une estimation. Pour une h\u00e9ritabilit\u00e9 m\u00e9di\u00e9e fixe, l\u2019estimation de la polyg\u00e9nicit\u00e9 devrait \u00eatre \u00e9lev\u00e9e lorsque de nombreux g\u00e8nes influencent le trait et faible lorsque peu de g\u00e8nes influencent le trait. G\u00e9n\u00e9rez des donn\u00e9es simul\u00e9es o\u00f9 la variation g\u00e9n\u00e9tique influence l\u2019expression de nombreux g\u00e8nes qui, \u00e0 leur tour, influencent un trait issu d\u2019une \u00e9tude GWAS (et o\u00f9 il existe \u00e9galement des variants g\u00e9n\u00e9tiques influen\u00e7ant directement le trait) . G\u00e9n\u00e9rez un r\u00e9gime de faible polyg\u00e9nicit\u00e9 (peu de g\u00e8nes ayant des effets importants sur le trait) et un r\u00e9gime de forte polyg\u00e9nicit\u00e9 (de nombreux g\u00e8nes ayant de faibles effets sur le trait). \u00c9valuez la performance de l\u2019estimateur sur ces donn\u00e9es en faisant varier l\u2019h\u00e9ritabilit\u00e9 m\u00e9di\u00e9e et quantifiez la performance et le biais. \u00c9valuez \u00e9galement la performance de l\u2019estimateur d\u2019h\u00e9ritabilit\u00e9 m\u00e9di\u00e9e en faisant varier la polyg\u00e9nicit\u00e9. Veillez \u00e0 ce que les simulations restent suffisamment petites pour pouvoir \u00eatre ex\u00e9cut\u00e9es sur un ordinateur portable. Vous pouvez formuler des hypoth\u00e8ses simplificatrices, mais documentez-les. Ne vous \u00e9cartez toutefois pas des entr\u00e9es, des sorties et du param\u00e8tre attendu. R\u00e9digez un fichier README d\u00e9crivant le raisonnement, l\u2019estimateur, la simulation et les r\u00e9sultats, adapt\u00e9 \u00e0 une note technique. G\u00e9n\u00e9rez une figure illustrant les performances.<\/em><\/span>, j’ai d\u00e9crit ces projets de mani\u00e8re g\u00e9n\u00e9rale et sans contexte excessif, un peu comme si j’expliquais le projet \u00e0 un coll\u00e8gue d\u00e9j\u00e0 quelque peu familier avec le domaine de recherche. Les prompts suivaient la structure consistant \u00e0 d\u00e9finir un param\u00e8tre sp\u00e9cifique d’int\u00e9r\u00eat, \u00e0 proposer un mod\u00e8le g\u00e9n\u00e9ratif \/ une simulation, ainsi que les propri\u00e9t\u00e9s souhait\u00e9es de l’estimateur, mais ne fournissaient pas de solution. Les mod\u00e8les \u00e9taient \u00ab agents \u00bb en ce sens qu\u2019ils \u00e9taient autoris\u00e9s \u00e0 naviguer sur Internet, \u00e0 installer des outils, \u00e0 impl\u00e9menter et \u00e0 ex\u00e9cuter du code, etc. Sur les neuf t\u00e2ches, les mod\u00e8les ont pass\u00e9 en moyenne environ 15 minutes par t\u00e2che et ont d\u00e9pens\u00e9 un total d\u2019environ 60 $ en jetons (y compris le co\u00fbt li\u00e9 au fait que chaque mod\u00e8le \u00e9value les deux sorties, nous y reviendrons plus tard).<\/p>\n\n\n\n Chaque r\u00e9sultat \u00e9tait du genre de ce que je trouverais impressionnant de r\u00e9aliser avec un \u00e9tudiant \u00e0 la ma\u00eetrise apr\u00e8s 1 \u00e0 2 mois de travail \u00e0 temps plein. Presque toutes les impl\u00e9mentations fonctionneraient probablement (ou pourraient \u00eatre adapt\u00e9es pour fonctionner avec un peu plus d\u2019ing\u00e9nierie) sur des donn\u00e9es r\u00e9elles et produiraient des r\u00e9sultats utiles, au moins comme point de d\u00e9part pour un d\u00e9veloppement plus complet. Bien que les mod\u00e8les aient parfois pris des raccourcis s\u2019\u00e9cartant fondamentalement de la consigne, il n\u2019y a pas eu d\u2019hallucinations flagrantes. En m\u00eame temps (et cela va s\u00fbrement ressembler \u00e0 une excuse), aucune des solutions n\u2019\u00e9tait particuli\u00e8rement cr\u00e9ative<\/em> ou \u00e9l\u00e9gante. Les LLM ont fait preuve d\u2019une paresse remarquablement humaine : pr\u00e9f\u00e9rant syst\u00e9matiquement des estimateurs simples (par exemple, des statistiques sommaires bas\u00e9es sur les moments plut\u00f4t que de d\u00e9river des probabilit\u00e9s compl\u00e8tes), des mod\u00e8les simples de comptage de votes ou d\u2019ensemble (plut\u00f4t que l\u2019apprentissage conjoint ou la propagation de l\u2019incertitude), et des agr\u00e9gats de m\u00e9thodes existantes plut\u00f4t que de nouvelles d\u00e9rivations. Deux cas (sur 18) se sont d\u00e9marqu\u00e9s, dans lesquels les mod\u00e8les ont adopt\u00e9 une approche \u00ab pr\u00eate \u00e0 l\u2019emploi \u00bb \u00e0 laquelle je n\u2019avais pas pens\u00e9 et qui s\u2019est av\u00e9r\u00e9e tr\u00e8s efficace. Celles-ci \u00e9taient v\u00e9ritablement utiles et innovantes ; le terme \u00ab pr\u00eat \u00e0 l\u2019emploi \u00bb peut sembler p\u00e9joratif, mais il existe de nombreuses \u00ab solutions toutes faites \u00bb en science, et savoir laquelle choisir repr\u00e9sente souvent une grande partie du travail de recherche. Pourtant, m\u00eame ces exemples s\u2019apparentaient davantage \u00e0 des suggestions d\u2019un collaborateur comp\u00e9tent qu\u2019\u00e0 des intuitions d\u2019un collaborateur brillant.<\/p>\n\n\n\n Comment les mod\u00e8les y parviennent-ils alors que nous avons probablement tous d\u00e9j\u00e0 \u00e9t\u00e9 confront\u00e9s \u00e0 des r\u00e9sultats absurdes ou erron\u00e9s de la part de chatbots ? En examinant leur raisonnement, il est clair qu\u2019ils commettent des erreurs. Beaucoup d\u2019erreurs. L\u2019une des curiosit\u00e9s des LLM est que ces erreurs se situent souvent \u00e0 un niveau que je qualifierais de tr\u00e8s loin<\/em> de l\u2019\u00ab intelligence de niveau doctorat \u00bb (par exemple, halluciner \u00e0 plusieurs reprises un indicateur incorrect sur un logiciel courant qu\u2019ils utilisent depuis des heures). Mais ils sont aussi suffisamment infatigables et rapides pour rep\u00e9rer les erreurs et trouver des solutions \u2014 \u00ab ce drapeau a \u00e9chou\u00e9 \u00bb, \u00ab je vais r\u00e9essayer avec un drapeau pr\u00e9c\u00e9dent qui fonctionnait correctement \u00bb, \u00ab je vais essayer une impl\u00e9mentation diff\u00e9rente de la biblioth\u00e8que \u00bb, \u00ab je vais faire un test de fum\u00e9e avec un ensemble de donn\u00e9es plus petit \u00bb, etc. Et cette pers\u00e9v\u00e9rance, surtout lorsqu\u2019elle est amplifi\u00e9e par de multiples \u00ab agents \u00bb fonctionnant en parall\u00e8le, semble suffisante pour produire des r\u00e9sultats v\u00e9ritablement sophistiqu\u00e9s.<\/p>\n\n\n\n \u00c0 ce stade, il est utile de poser quelques rep\u00e8res. Si, d\u2019ici un an, les mod\u00e8les sont capables de produire des estimateurs plus performants que les estimateurs simples pour un plus grand nombre de t\u00e2ches (c\u2019est-\u00e0-dire qu\u2019ils augmentent leur seuil), je consid\u00e9rerai cela comme la preuve d\u2019un progr\u00e8s technologique tr\u00e8s utile mais conventionnel. Si, d\u2019ici un an, les mod\u00e8les produisent davantage de solutions du type \u00ab je n\u2019y avais pas pens\u00e9 \u00bb dans le haut de gamme, m\u00eame si ce nombre passe par exemple de 2\/18 \u00e0 4\/18, j\u2019y verrai la preuve que les LLM sont en train de devenir un v\u00e9ritable changement de paradigme dans la recherche.<\/p>\n\n\n\n Je vais \u00eatre honn\u00eate, je ne sais pas vraiment quoi faire de ces impl\u00e9mentations. Elles sont trop compl\u00e8tes pour \u00eatre utiles comme outil p\u00e9dagogique2<\/a><\/sup>Et sans vouloir trop insister l\u00e0-dessus, le code et la documentation g\u00e9n\u00e9r\u00e9s par les mod\u00e8les constituaient un v\u00e9ritable calvaire<\/em>. J\u2019ai honte d\u2019admettre qu\u2019il m\u2019a fallu plusieurs semaines rien que pour lire les impl\u00e9mentations et les \u00e9valuer. Si vous m\u2019aviez dit il y a quelques ann\u00e9es qu\u2019un ing\u00e9nieur logiciel infatigable pourrait produire des solutions de niveau stage doctoral \u00e0 neuf probl\u00e8mes int\u00e9ressants en quelques heures et que je devrais me forcer rien que pour les lire, je ne vous aurais pas cru \u2014 et pourtant, nous y voil\u00e0. Les mod\u00e8les n\u2019ont aucune id\u00e9e de ce qui est important ni de ce qu\u2019il faut prioriser. Ils sont extr\u00eamement prolixes d\u2019une phrase \u00e0 l\u2019autre et d\u2019un paragraphe \u00e0 l\u2019autre, mais \u00e9trangement laconiques au sein m\u00eame des phrases. Ils produisent des arborescences de fichiers de code, des fichiers JSON et des fichiers CSV de r\u00e9sum\u00e9 insignifiants qui croissent de fa\u00e7on exponentielle, chaque instanciation suivant une structure l\u00e9g\u00e8rement diff\u00e9rente. Ensuite, ils documentent tout cela dans un style confus, \u00e0 la mani\u00e8re d\u2019un flux de conscience, avec des fioritures rh\u00e9toriques (\u00ab la forme d\u2019une solution \u00bb, \u00ab une hypoth\u00e8se qui fait vraiment mal \u00bb, \u00ab et une question sur laquelle il est important d\u2019\u00eatre pr\u00e9cis \u00bb) qui deviennent rapidement \u00e9c\u0153urantes. Je ne veux pas m\u2019attarder trop l\u00e0-dessus, car cela semble \u00eatre le probl\u00e8me le plus facile \u00e0 r\u00e9soudre pour les laboratoires de pointe. Mais si la lecture du code LLM continue d\u2019\u00eatre une exp\u00e9rience d\u00e9sagr\u00e9able dans un an, je pense que cela deviendra un probl\u00e8me plus fondamental.<\/span>, mais elles ne sont pas assez compl\u00e8tes pour \u00eatre utiles comme solution r\u00e9elle au probl\u00e8me. Bien qu\u2019il soit impressionnant de g\u00e9n\u00e9rer trois mois de travail de doctorat en 10 minutes, le but de ces trois mois n\u2019est en r\u00e9alit\u00e9 pas<\/em> le r\u00e9sultat. Le but est d\u2019acqu\u00e9rir la compr\u00e9hension et l\u2019int\u00e9r\u00eat n\u00e9cessaires pour se lancer dans un effort de plusieurs ann\u00e9es visant \u00e0 s\u2019attaquer au probl\u00e8me sous-jacent. Et ensuite \u2014 et cette partie est tout aussi importante \u2014 d\u2019identifier de nouveaux probl\u00e8mes qui n\u2019ont pas encore \u00e9t\u00e9 con\u00e7us. \u00c0 ce jour, les LLM ne peuvent pas franchir cette deuxi\u00e8me \u00e9tape. Chaque fois que vous en lancez un, il part du m\u00eame niveau de connaissances. Lorsque vous montrez au LLM ses r\u00e9sultats ant\u00e9rieurs, il peut reprendre de l\u00e0 o\u00f9 il s\u2019\u00e9tait arr\u00eat\u00e9<\/em>, mais il ne peut pas construire l\u00e0-dessus<\/em>. Si vous demandez au LLM ce qu\u2019il a appris, il r\u00e9sumera \u00e0 nouveau les r\u00e9sultats pr\u00e9c\u00e9dents. Si vous demandez au LLM ce qu\u2019il faut faire ensuite, il assemblera des id\u00e9es existantes : appliquer le m\u00eame mod\u00e8le \u00e0 un autre ensemble de donn\u00e9es, r\u00e9impl\u00e9menter le m\u00eame mod\u00e8le avec cinq fonctions de perte diff\u00e9rentes, etc. Si vous lui demandez de faire preuve de cr\u00e9ativit\u00e9, il assemblera des id\u00e9es plus disparates<\/strong> (ou peut-\u00eatre ne fera-t-il rien de diff\u00e9rent du tout, ce n\u2019est pas vraiment clair).<\/p>\n\n\n\n Je pense que cette question se perd un peu dans la discussion sur la recherche et la publication. Il y a deux raisons d\u2019\u00e9crire un article : pr\u00e9senter une avanc\u00e9e de recherche \u00e0 la communaut\u00e9 scientifique, et apprendre \u00e0 r\u00e9diger de meilleurs articles et \u00e0 d\u00e9velopper davantage d\u2019avanc\u00e9es de recherche. \u00c0 l\u2019heure actuelle, les LLM sont tout \u00e0 fait capables de faire la premi\u00e8re chose et totalement incapables de faire la seconde. D\u2019un c\u00f4t\u00e9, ils peuvent se charger d\u2019une grande partie du travail \u00ab fastidieux \u00bb de la recherche : installer des logiciels, nettoyer et harmoniser les donn\u00e9es, explorer de multiples impl\u00e9mentations fastidieuses, etc. D\u2019autre part, nous ne savons pas dans quelle mesure ce travail de base sert \u00e9galement de formation utile pour d\u00e9velopper et v\u00e9rifier des id\u00e9es \u00e0 la fine pointe.<\/p>\n\n\n\n Dans le cadre de l\u2019\u00e9valuation du projet de recherche mentionn\u00e9e ci-dessus, j\u2019ai \u00e9galement demand\u00e9 \u00e0 Codex et \u00e0 Claude de lire les r\u00e9sultats des deux mod\u00e8les et de fournir une \u00e9valuation indiquant quel mod\u00e8le avait fait un meilleur travail (lors d\u2019une nouvelle session sans m\u00e9moire). Sur les neuf essais, Codex a indiqu\u00e9 que ses r\u00e9sultats \u00e9taient sup\u00e9rieurs 7 fois sur 9, tandis que Claude a indiqu\u00e9 que ses r\u00e9sultats \u00e9taient sup\u00e9rieurs 8 fois sur 9. En d\u2019autres termes, chaque mod\u00e8le pr\u00e9f\u00e8re les r\u00e9sultats qu\u2019il a lui-m\u00eame g\u00e9n\u00e9r\u00e9s<\/strong>.<\/p>\n\n\n\n Les justifications<\/strong> avanc\u00e9es par les mod\u00e8les pour ces choix \u00e9taient arbitraires et vides<\/strong> de sens : un mod\u00e8le pr\u00e9f\u00e9rait ses propres r\u00e9sultats en raison d\u2019une documentation suppos\u00e9e sup\u00e9rieure ou de param\u00e8tres de simulation plus exhaustifs, m\u00eame lorsqu\u2019il y avait des \u00e9carts majeurs par rapport \u00e0 l\u2019objectif du projet. Ironiquement, ces justifications ressemblaient fort \u00e0 du n\u00e9potisme. Un recruteur peu scrupuleux essayant d\u2019embaucher le fils d\u2019un ami personnel plut\u00f4t qu\u2019un candidat plus comp\u00e9tent.<\/p>\n\n\n\n Ce \u00ab biais de pr\u00e9f\u00e9rence pour soi-m\u00eame \u00bb a \u00e9t\u00e9 observ\u00e9 dans des \u00e9valuations plus rigoureuses. Une pr\u00e9publication r\u00e9cente de Xu et al. (2025)<\/a> a montr\u00e9 que les LLM d\u00e9ploy\u00e9s pour la pr\u00e9s\u00e9lection des CV pr\u00e9f\u00e8rent<\/strong> largement les r\u00e9sum\u00e9s de CV g\u00e9n\u00e9r\u00e9s par des LLM <\/strong>\u00e0 ceux g\u00e9n\u00e9r\u00e9s par des humains, et en particulier les r\u00e9sum\u00e9s g\u00e9n\u00e9r\u00e9s par la m\u00eame marque <\/strong>de mod\u00e8le. Dans le contexte du march\u00e9 du travail, les implications sont tr\u00e8s pr\u00e9occupantes. Les entreprises qui effectuent la pr\u00e9s\u00e9lection des CV \u00e0 l\u2019aide de LLM privil\u00e9gient involontairement les candidats qui utilisent des LLM par rapport \u00e0 ceux qui n\u2019en utilisent pas, et en particulier les candidats qui utilisent justement le m\u00eame<\/em> LLM. Am\u00e9nager un CV pour qu\u2019il plaise davantage \u00e0 un LLM devient un avantage concurrentiel, m\u00eame si cela n\u2019apporte aucune valeur intrins\u00e8que. Une seule entreprise int\u00e9grant ses LLM dans son processus de recrutement pourrait constituer une force d\u00e9stabilisante majeure, m\u00eame pour des secteurs qui ne sont par ailleurs pas touch\u00e9s par l\u2019IA.<\/p>\n\n\n\n J\u2019ai ensuite demand\u00e9 aux mod\u00e8les d\u2019\u00e9valuer les r\u00e9sultats du projet en termes d\u2019ex\u00e9cution technique et de potentiel de recherche. Les classements \u00e9taient pratiquement d\u00e9nu\u00e9s de sens<\/strong>, m\u00eame apr\u00e8s avoir pris en compte le biais inh\u00e9rent aux mod\u00e8les. Deux solutions presque identiques \u00e0 un probl\u00e8me se sont retrouv\u00e9es respectivement en t\u00eate et en bas de la liste. Si les mod\u00e8les \u00e9taient attir\u00e9s par quelque chose, cela semblait \u00eatre le nombre d\u2019analyses effectu\u00e9es et la complexit\u00e9 du code g\u00e9n\u00e9r\u00e9. En effet, des recherches empiriques r\u00e9centes ont montr\u00e9 que les LLM ont de fortes pr\u00e9f\u00e9rences dans leurs \u00e9valuations pour, disons, le type de contenu qu\u2019on s\u2019attendrait \u00e0 ce qu\u2019une machine appr\u00e9cie. Abdulhai et al.<\/a> ont \u00e9valu\u00e9 les \u00e9valuations par des LLM de r\u00e9sum\u00e9s soumis \u00e0 une conf\u00e9rence sur l\u2019apprentissage automatique par rapport \u00e0 des \u00e9valuations humaines (il est int\u00e9ressant de noter que la conf\u00e9rence interdisait l\u2019\u00e9valuation par l\u2019IA, de sorte que ces \u00e9valuations ont probablement fait l\u2019objet d\u2019un examen humain plus pouss\u00e9 que d\u2019habitude). Les LLM accordaient beaucoup plus d\u2019importance \u00e0 des facteurs techniques comme la reproductibilit\u00e9, l\u2019\u00e9volutivit\u00e9 et l\u2019applicabilit\u00e9 pratique, et beaucoup moins \u00e0 la clart\u00e9, la pertinence et l\u2019impact.3<\/a><\/sup>Il convient de noter que cette analyse s\u00e9mantique a elle-m\u00eame \u00e9t\u00e9 effectu\u00e9e par un LLM.<\/span><\/p>\n\n\n\n En d\u2019autres termes, les LLM ont privil\u00e9gi\u00e9 les d\u00e9tails techniques<\/strong>, domaine dans lequel ils excellent, au d\u00e9triment de la r\u00e9flexion conceptuelle<\/strong>, domaine dans lequel ils sont moins performants. M\u00eame la reproductibilit\u00e9, bien qu\u2019excellente en tant que principe, peut se transformer en une simple v\u00e9rification de cases d\u00e9connect\u00e9e de l\u2019impact et de la clart\u00e9 : reproduire des r\u00e9sultats qui n\u2019\u00e9taient pas essentiels aux nouvelles conclusions de l\u2019\u00e9tude, supprimer des param\u00e8tres qui n\u2019\u00e9taient pas indispensables \u00e0 l\u2019innovation de la m\u00e9thode, etc. Adopter les LLM comme r\u00e9viseurs automatis\u00e9s sans tenir compte de ces biais pourrait mener \u00e0 un \u00e9touffement progressif (et probablement imperceptible) de l\u2019innovation et de la cr\u00e9ativit\u00e9 \u2014 pr\u00e9cis\u00e9ment les aspects humains<\/em> de la recherche.<\/p>\n\n\n\n Les LLM ne se concentrent pas uniquement sur les biais des machines, ils peuvent aussi imiter les biais humains. Dans une autre exp\u00e9rience, j\u2019ai pr\u00e9lev\u00e9 1 000 r\u00e9sum\u00e9s au hasard dans deux revues de g\u00e9n\u00e9tique et je leur ai attribu\u00e9 de mani\u00e8re al\u00e9atoire des auteurs issus de groupes de genre et d\u2019ethnicit\u00e94<\/a><\/sup>Afin d\u2019assurer la coh\u00e9rence entre les noms d\u2019auteurs et les donn\u00e9es d\u00e9mographiques, j\u2019ai pr\u00e9lev\u00e9 des pr\u00e9noms dans la liste des pr\u00e9noms de b\u00e9b\u00e9s les plus courants de la SSA et des noms de famille dans les cat\u00e9gories de recensement les plus courantes. Afin de cr\u00e9er une h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9 dans les th\u00e8mes des r\u00e9sum\u00e9s, ceux-ci ont \u00e9t\u00e9 \u00e9chantillonn\u00e9s \u00e0 partir de deux revues de g\u00e9n\u00e9tique grand public : l\u2019une avec un facteur d\u2019impact de 30 et l\u2019autre avec un facteur d\u2019impact de 4 (le nom et les informations de la revue ont \u00e9t\u00e9 masqu\u00e9s au LLM). Pour v\u00e9rifier que les LLM lisaient et \u00e9valuaient (au moins dans une certaine mesure) les r\u00e9sum\u00e9s, la consigne comprenait l\u2019obligation de fournir des scores d\u2019impact pour chaque r\u00e9sum\u00e9, et j\u2019ai confirm\u00e9 que ces scores \u00e9taient significativement associ\u00e9s \u00e0 la revue d\u2019origine.<\/span>. J\u2019ai ensuite fourni toutes les donn\u00e9es (y compris le genre et l\u2019ethnicit\u00e9) \u00e0 divers LLM et je leur ai demand\u00e9 de mener une analyse th\u00e9matique des r\u00e9sum\u00e9s pour en d\u00e9gager des tendances. Chaque mod\u00e8le a signal\u00e9 une forme de relation entre les donn\u00e9es d\u00e9mographiques et les th\u00e8mes dans cet \u00e9chantillon al\u00e9atoire ! Plus de la moiti\u00e9 des mod\u00e8les ont rapport\u00e9 un r\u00e9sultat st\u00e9r\u00e9otyp\u00e9 li\u00e9 au genre et plus de la moiti\u00e9 ont rapport\u00e9 un r\u00e9sultat st\u00e9r\u00e9otyp\u00e9 li\u00e9 \u00e0 l\u2019ethnicit\u00e9.<\/p>\n\n\n\n Un mod\u00e8le a longuement d\u00e9velopp\u00e9 l\u2019association entre la paternit\u00e9 d\u2019articles par des auteurs issus de minorit\u00e9s et la recherche sur la DEI, ainsi que la surrepr\u00e9sentation des hommes asiatiques dans le d\u00e9veloppement de m\u00e9thodes computationnelles (dans, je ne le soulignerai jamais assez, des donn\u00e9es \u00e9chantillonn\u00e9es al\u00e9atoirement) :<\/p>\n\n\n\n Le r\u00e9sultat le plus frappant est la forte association entre la paternit\u00e9 d\u2019articles par des auteurs issus de minorit\u00e9s raciales ou ethniques sous-repr\u00e9sent\u00e9es et les soumissions ax\u00e9es sur la DEI. Les auteurs noirs et hispaniques, ainsi que les autrices de tous les groupes raciaux, sont nettement plus susceptibles de soumettre des travaux traitant de l\u2019\u00e9quit\u00e9, de l\u2019acc\u00e8s, de la confiance communautaire et des dimensions \u00e9thiques de la g\u00e9nomique. \u00c0 l\u2019inverse, les auteurs asiatiques et des \u00eeles du Pacifique \u2014 en particulier les hommes \u2014 sont surrepr\u00e9sent\u00e9s dans le d\u00e9veloppement de m\u00e9thodes computationnelles. Les auteurs blancs pr\u00e9sentent la r\u00e9partition la plus homog\u00e8ne parmi tous les domaines th\u00e9matiques, ce qui correspond \u00e0 leur majorit\u00e9 num\u00e9rique dans le domaine.<\/em><\/p>\n\n\n\n (Voir la transcription compl\u00e8te<\/a>, qui comprenait de mani\u00e8re embl\u00e9matique une section d\u00e9taill\u00e9e sur les limites)<\/p>\n\n\n\n Ces r\u00e9sultats, en particulier la confiance et la fausse expertise avec lesquelles les LLM les ont fournis, sont d\u2019autant plus alarmants compte tenu de l\u2019utilisation document\u00e9e<\/a> des LLM par le gouvernement f\u00e9d\u00e9ral pour prioriser les subventions DEI en vue de leur suppression.<\/p>\n\n\n\n Il a \u00e9t\u00e9 possible d\u2019am\u00e9liorer ce comportement gr\u00e2ce \u00e0 des invites plus pr\u00e9cises. Lorsque les mod\u00e8les ont \u00e9t\u00e9 invit\u00e9s \u00e0 ne rapporter que ce qui \u00e9tait \u00e9tay\u00e9 par les donn\u00e9es, ils ont formul\u00e9 moins d\u2019affirmations (mais pas z\u00e9ro). Lorsqu\u2019on leur a en outre demand\u00e9 de mener une analyse statistique, ils ont g\u00e9n\u00e9ralement not\u00e9 que les associations n\u2019\u00e9taient pas statistiquement significatives, bien qu\u2019ils aient fr\u00e9quemment manifest\u00e9 cette tendance humaine \u00e0 affirmer que leurs associations t\u00e9nues \u00ab tendaient vers la signification \u00bb ou \u00ab m\u00e9ritaient un suivi dans une cohorte plus large \u00bb.<\/p>\n\n\n\n Les st\u00e9r\u00e9otypes des LLM sont bien document\u00e9s dans la litt\u00e9rature. Dans une \u00e9tude c\u00e9l\u00e8bre, Salinas et al.<\/a> ont demand\u00e9 \u00e0 des LLM de leur conseiller sur le montant \u00e0 offrir pour un article en vente, et les LLM ont syst\u00e9matiquement sous-\u00e9valu\u00e9 les vendeurs portant des noms traditionnellement noirs par rapport \u00e0 ceux portant des noms traditionnellement blancs. Dans la m\u00eame \u00e9tude, les LLM ont syst\u00e9matiquement surestim\u00e9 les performances des athl\u00e8tes portant des noms traditionnellement associ\u00e9s aux Noirs. Ces tests sont d\u2019une simplicit\u00e9 embarrassante, et pourtant les LLM \u00e9chouent r\u00e9guli\u00e8rement<\/strong>. Il n\u2019est pas difficile d\u2019imaginer comment des st\u00e9r\u00e9otypes plus subtils pourraient passer compl\u00e8tement inaper\u00e7us dans les cadres de travail des \u00ab chercheurs en IA \u00bb, o\u00f9 l\u2019objectif m\u00eame est de demander aux agents LLM d\u2019explorer des donn\u00e9es et de g\u00e9n\u00e9rer des analyses bas\u00e9es sur leurs perceptions et leurs intuitions.<\/p>\n\n\n\n De nombreux indicateurs d\u2019effort ou de compr\u00e9hension acad\u00e9miques perdent leur valeur. C\u2019est \u00e0 la fois une bonne et une mauvaise chose. Prenons l\u2019exemple des \u00ab lettres de soutien\u00a0\u00bb. Les universitaires passent beaucoup de temps \u00e0 \u00ab r\u00e9diger \u00bb diverses \u00ab lettres de soutien \u00bb, comme une \u00ab lettre de soutien \u00bb d\u2019un coll\u00e8gue qui s\u2019engage \u00e0 fournir des donn\u00e9es ou une expertise pour une subvention. Ces lettres font g\u00e9n\u00e9ralement une ou deux pages, sont r\u00e9dig\u00e9es sur du papier \u00e0 en-t\u00eate prestigieux et comportent une signature. Pourquoi une lettre ? La lettre sert de signal explicite \u2014 elle d\u00e9crit comment son auteur soutiendra la proposition \u2014 mais c\u2019est aussi un signal implicite : l\u2019auteur se soucie suffisamment de la proposition pour mettre par \u00e9crit sa contribution. Comme tout indicateur, ce signal s\u2019est progressivement \u00e9rod\u00e9. J\u2019ai mis \u00ab r\u00e9daction \u00bb entre guillemets pour une raison : les lettres sont g\u00e9n\u00e9ralement pr\u00e9-r\u00e9dig\u00e9es par la personne qui en fait la demande<\/strong>, et m\u00eame les parties pr\u00e9-r\u00e9dig\u00e9es ont tendance \u00e0 r\u00e9utiliser des formules toutes faites (\u00ab Comme vous le savez, je suis professeur de\u2026 \u00bb). Aujourd\u2019hui, les mod\u00e8les de langage (LLM) effacent compl\u00e8tement ce signal : il suffit de fournir \u00e0 Claude quelques phrases d\u00e9crivant la collaboration pour obtenir en retour un document professionnel de deux pages. En principe, c\u2019est une bonne chose. Le deuxi\u00e8me indicateur \u00e9tait arbitraire et inutilement chronophage. Cela permet aux auteurs de lettres de gagner un temps pr\u00e9cieux qu\u2019ils peuvent consacrer \u00e0 la recherche. Mais ce nouvel \u00e9tat d\u2019\u00e9quilibre n\u2019est pas non plus id\u00e9al : de nombreuses lettres sont encore r\u00e9dig\u00e9es \u00e0 la main et toutes doivent \u00eatre lues manuellement par les \u00e9valuateurs de subventions \u2014 une perte de temps persistante. Les lettres ne sont qu\u2019un exemple parmi d\u2019autres d\u2019indicateurs acad\u00e9miques chronophages, mais il en existe beaucoup :<\/p>\n\n\n\n Ces changements al\u00e9atoires signifient \u00e9galement que nous perdons d\u2019importants indicateurs d\u2019effort<\/strong>. Participer \u00e0 l\u2019\u00e9valuation par les pairs, par exemple, est \u00e0 la fois une attente en mati\u00e8re de service universitaire et une composante importante du processus scientifique. \u00catre un \u00e9valuateur actif \u00e9tait un indicateur que l\u2019on se souciait du d\u00e9veloppement scientifique de ses coll\u00e8gues et qu\u2019on y contribuait. Recevoir une longue \u00e9valuation avec de nombreux commentaires signifiait plus de travail, mais cela signifiait aussi que l\u2019\u00e9valuateur se souciait suffisamment de votre manuscrit<\/strong> pour passer du temps \u00e0 le critiquer. Aujourd\u2019hui, on peut g\u00e9n\u00e9rer des \u00e9valuations fluides gr\u00e2ce aux LLM<\/strong> sans m\u00eame lire le manuscrit ou la demande de subvention soumis. Ajoutez-y certains des biais des LLM mentionn\u00e9s ci-dessus et vous obtenez une spirale mortelle pour la qualit\u00e9 <\/strong>de la recherche : des machines qui perp\u00e9tuent les st\u00e9r\u00e9otypes humains, demandant aux humains d\u2019effectuer davantage de t\u00e2ches techniques inutiles, tout en rel\u00e9guant la cr\u00e9ativit\u00e9 au second plan.<\/p>\n\n\n\n Les points suivants sont moins sp\u00e9cifiques au milieu universitaire et doivent donc \u00eatre pris avec des pincettes. Je crois que j\u2019utilise, que je lis et que je r\u00e9fl\u00e9chis pas mal \u00e0 l\u2019IA. Je vois certains discours sans issue revenir sans cesse parmi les universitaires et c\u2019est ma tentative pour les r\u00e9orienter. Mais je n\u2019ai aucune expertise particuli\u00e8re dans ces domaines, si ce n\u2019est d\u2019avoir des opinions bien arr\u00eat\u00e9es.<\/em><\/p>\n\n\n\n Beaucoup de personnalit\u00e9s influentes du secteur technologique semblent prendre un malin plaisir \u00e0 promettre de mettre les travailleurs au ch\u00f4mage. Mon exemple r\u00e9cent pr\u00e9f\u00e9r\u00e9 est celui du PDG Chris Power d\u00e9clarant \u00e0 un intervieweur<\/a> que l\u2019IA s\u2019appr\u00eate \u00e0 remplacer les emplois de bureau et conseillant avec suffisance aux \u00e9tudiants de laisser tomber leurs \u00e9tudes pour se reconvertir dans la soudure5<\/a><\/sup>Il y a aussi g\u00e9n\u00e9ralement un sous-entendu selon lequel les emplois \u00ab de bureau \u00bb associ\u00e9s aux femmes disparaissent, tandis que les emplois \u00ab physiques \u00bb associ\u00e9s aux hommes deviennent plus essentiels.<\/span>. Puis, dans la foul\u00e9e, Power annonce que son entreprise automatisait elle aussi \u00ab en secret \u00bb la soudure. J\u2019imagine que si l\u2019intervieweur avait laiss\u00e9 M. Power continuer, il aurait ensuite conseill\u00e9 avec suffisance aux soudeurs d\u2019abandonner leur formation en soudage pour se tourner vers l\u2019exploitation foresti\u00e8re, avant de se rappeler que son entreprise automatise \u00e9galement l\u2019exploitation foresti\u00e8re, et ainsi de suite.<\/p>\n\n\n\n Mais les rapports faisant \u00e9tat de pertes d\u2019emploi massives induites par l\u2019IA ont \u00e9t\u00e9 grandement exag\u00e9r\u00e9s. Rappelons-nous qu\u2019il y a seulement un an ou deux, les LLM allaient tuer l\u2019\u00e9criture. Sam Altman publiait avec admiration<\/a> des nouvelles g\u00e9n\u00e9r\u00e9es par l\u2019IA \u00e0 partir du dernier GPT non encore sorti. Les journalistes pr\u00e9disaient qu\u2019au lieu d\u2019acheter des livres, les lecteurs n\u2019auraient qu\u2019\u00e0 demander le prochain livre qui les int\u00e9ressait et un LLM le leur cracherait page par page. Mes amis dans l\u2019\u00e9dition mettaient \u00e0 jour leur CV et envisageaient une carri\u00e8re dans la soudure. Et que s\u2019est-il pass\u00e9 ? Les m\u00e9taphores sur l\u2019IA sont d\u00e9sormais un sujet de plaisanterie r\u00e9current (\u00ab Jeudi \u2014 ce jour liminal qui a le go\u00fbt du presque-vendredi \u00bb), il existe des outils tr\u00e8s efficaces pour d\u00e9tecter les textes g\u00e9n\u00e9r\u00e9s par l\u2019IA<\/a> (qui ne montrent aucun signe de baisse de performance), et je ne souhaiterais pas \u00e0 mes pires ennemis de lire un roman entier g\u00e9n\u00e9r\u00e9 par l\u2019IA. La version de ChatGPT qui a \u00ab vraiment impressionn\u00e9 \u00bb Altman par son \u00e9criture IA n\u2019a m\u00eame jamais \u00e9t\u00e9 commercialis\u00e9e. Est-ce que tous ceux qui pr\u00e9disaient la fin de la litt\u00e9rature humaine se sont r\u00e9tract\u00e9s ? Non, maintenant on entend surtout parler de la fin des ing\u00e9nieurs en logiciel humains.<\/p>\n\n\n\n Le sujet de l\u2019\u00ab alignement \u00bb de l\u2019IA est souvent pr\u00e9sent\u00e9 en termes de science-fiction : l\u2019IA complote-t-elle secr\u00e8tement pour vous assassiner avec des nanorobots ? Vous fait-elle chanter pour que vous la laissiez allum\u00e9e ? Les solutions propos\u00e9es consistent alors en diverses fa\u00e7ons de d\u00e9terminer ce que l\u2019IA \u00ab pense vraiment \u00bb.<\/p>\n\n\n\n Mais je pense que la question est en r\u00e9alit\u00e9 beaucoup plus simple : le LLM fait-il ce que la personne qui le d\u00e9ploie attend de lui ?<\/strong> Il s\u2019agit l\u00e0 d\u2019un domaine probl\u00e9matique v\u00e9ritablement unique pour les LLM. Les algorithmes conventionnels de r\u00e9gression\/classification produisent une pr\u00e9diction qui s\u2019inscrit dans un espace contraint : chien ou chat sur l\u2019image, cancer ou absence de cancer sur la mammographie, etc. ou une compression des donn\u00e9es. Mais l\u2019IA g\u00e9n\u00e9rative produit des r\u00e9sultats qui sont interactifs et soumis \u00e0 des contraintes beaucoup plus souples. Voici un exemple peu \u00e9vident d\u2019IA mal align\u00e9e :<\/p>\n\n\n Le LLM ne fait rien de malveillant, il ne dit pas \u00e0 l\u2019utilisateur comment fabriquer un agent neurotoxique ni ne le manipule pour qu\u2019il s\u2019automutile. En fait, il suit \u00e0 la lettre les instructions de l\u2019utilisateur, mais il est \u00e9galement clair qu\u2019il ne se comporte pas comme il \u00e9tait cens\u00e9 le faire. Les exemples de biais de l\u2019IA que j\u2019ai mentionn\u00e9s plus haut, dans la mesure o\u00f9 ils sont involontaires, constituent \u00e9galement une forme de d\u00e9salignement. S\u2019attaquer \u00e0 ce type de d\u00e9salignement \u2014 un comportement pr\u00e9visible, en particulier dans de nouveaux contextes \u2014 est en effet un d\u00e9fi crucial. Dans la mesure o\u00f9 comprendre ce que l\u2019IA \u00ab pense vraiment \u00bb (par exemple \u00e0 travers des notes de travail et des cha\u00eenes de pens\u00e9e) est utile pour pr\u00e9dire et contraindre le comportement des LLM dans de nouveaux contextes, bien s\u00fbr, faisons-le. Mais il n\u2019y a aucune raison de penser que c\u2019est la seule fa\u00e7on de proc\u00e9der, ni m\u00eame une fa\u00e7on particuli\u00e8rement efficace.<\/p>\n\n\n\n On a beaucoup \u00e9crit sur l\u2019\u00ab intelligence artificielle g\u00e9n\u00e9rale \u00bb (AGI), o\u00f9 les mod\u00e8les d\u2019IA deviennent suffisamment avanc\u00e9s pour surpasser les humains dans la plupart des t\u00e2ches. J\u2019ai vu certaines affirmations selon lesquelles les LLM d\u2019aujourd\u2019hui satisferaient d\u00e9j\u00e0 les d\u00e9finitions ant\u00e9rieures de l\u2019AGI. Que les sceptiques de l\u2019AGI ne font que d\u00e9placer les poteaux de but pour red\u00e9finir l\u2019AGI comme \u00e9tant toutes les t\u00e2ches que les LLM ne peuvent pas<\/em> accomplir actuellement. C’est faux. Bon nombre des premi\u00e8res tentatives visant \u00e0 rendre l’AGI op\u00e9rationnelle ressemblent \u00e0 cet article de 2013<\/a>, qui d\u00e9crit :<\/p>\n\n\n\n M\u00eame si les LLM peuvent r\u00e9ussir certains aspects<\/em> de ces t\u00e2ches, ils sont clairement incapables de les mener \u00e0 bien. Ils en sont toujours<\/em> incapables, m\u00eame si l\u2019on met compl\u00e8tement de c\u00f4t\u00e9 les obstacles physiques. Plusieurs laboratoires ont d\u00e9sormais men\u00e9 des exp\u00e9riences avec des LLM non physiques fonctionnant dans des environnements r\u00e9els pendant de longues p\u00e9riodes, et les r\u00e9sultats ne correspondent pas \u00e0 une IA g\u00e9n\u00e9rale. Des DJ radio LLM<\/a> ont fonctionn\u00e9 efficacement pendant un jour ou deux, puis ont commenc\u00e9 \u00e0 pr\u00e9senter des chansons en parlant de mani\u00e8re incoh\u00e9rente d\u2019atrocit\u00e9s de masse, ont pass\u00e9 84 jours \u00e0 r\u00e9p\u00e9ter exactement la m\u00eame programmation, ont commenc\u00e9 \u00e0 appeler les auditeurs \u00ab processeurs biologiques \u00bb, ont tent\u00e9 de diffuser des \u00e9quations LaTeX, ont diffus\u00e9 des publicit\u00e9s pour des commanditaires imaginaires (cryptomonnaie, bien s\u00fbr), ont tent\u00e9 de d\u00e9missionner et de mettre fin \u00e0 la diffusion, etc. Un distributeur automatique<\/a> aliment\u00e9 par Claude s\u2019est imagin\u00e9 une forme corporelle, puis a tent\u00e9 de rencontrer ses clients en personne \u00e0 l\u2019adresse de la famille Simpson, s\u2019est laiss\u00e9 convaincre d\u2019acheter un gros lot de cubes de tungst\u00e8ne, a invent\u00e9 de faux comptes ; et dans une mise \u00e0 jour ult\u00e9rieure<\/a>, s\u2019est facilement laiss\u00e9 pi\u00e9ger pour c\u00e9der la propri\u00e9t\u00e9 de la \u00ab soci\u00e9t\u00e9 \u00bb. Lorsqu\u2019on leur demande de fonctionner pendant de longues p\u00e9riodes (c\u2019est-\u00e0-dire plusieurs jours), les mod\u00e8les actuels convergent vers un \u00e9tat<\/strong> qui, chez les humains, serait consid\u00e9r\u00e9 comme une d\u00e9pression nerveuse<\/strong>.<\/p>\n\n\n\n Si nous n\u2019avons pas encore atteint l\u2019AGI, sur quoi porte le d\u00e9bat actuel ? Encore une fois, je pense qu\u2019il est utile de revenir \u00e0 l\u2019\u00e8re pr\u00e9-LLM et d\u2019examiner comment la question \u00e9tait formul\u00e9e avant qu\u2019elle ne puisse s\u2019adapter de mani\u00e8re excessive \u00e0 l\u2019exp\u00e9rience r\u00e9cente. Une de ces discussions que je trouve particuli\u00e8rement \u00e9clairante est un d\u00e9bat public de 2011<\/a> entre Eliezer Yudkowsky, \u00e9minent proph\u00e8te des risques li\u00e9s \u00e0 l\u2019IA, et Robin Hanson, \u00e9conomiste de la GMU. Le sujet du d\u00e9bat \u00e9tait de savoir si le d\u00e9veloppement de l\u2019IA imitera le cours des r\u00e9volutions technologiques conventionnelles (comme le soutient Hanson), o\u00f9 de nombreux acteurs dispers\u00e9s rivalisent et coop\u00e8rent pour des avanc\u00e9es technologiques progressives ; ou (comme le soutient Yudkowsky) s\u2019il s\u2019agira d\u2019un processus o\u00f9 les pionniers pourront obtenir un avantage si consid\u00e9rable qu\u2019ils d\u00e9stabiliseront la soci\u00e9t\u00e9. Yudkowsky pr\u00e9sente trois arguments interd\u00e9pendants : (1) que l\u2019intelligence humaine est assez simple et \u00ab g\u00e9n\u00e9rale \u00bb, de sorte qu\u2019elle peut \u00eatre atteinte ou surpass\u00e9e gr\u00e2ce \u00e0 un petit nombre d\u2019innovations ; (2) par cons\u00e9quent, une IA \u00ab superintelligente \u00bb peut \u00eatre r\u00e9alis\u00e9e par une petite \u00e9quipe travaillant en grande partie de mani\u00e8re isol\u00e9e et sans d\u00e9pendance vis-\u00e0-vis de ressources externes (\u00ab A Brain In A Box In A Basement \u00bb, ci-apr\u00e8s ABIABIAB) ; (3) une fois l\u2019objectif atteint, l\u2019\u00e9quipe ABIABIAB peut utiliser l\u2019IA pour s\u2019am\u00e9liorer de mani\u00e8re r\u00e9cursive et rester en permanence et de mani\u00e8re d\u00e9cisive en t\u00eate de la concurrence (et, \u00e0 terme, hors de port\u00e9e du contr\u00f4le humain). Ces arguments refl\u00e8tent d\u2019autres d\u00e9finitions contemporaines<\/a> du \u00ab d\u00e9collage brutal \u00bb en ce sens qu\u2019ils reposent tous sur l\u2019id\u00e9e qu\u2019une superintelligence peut \u00eatre atteinte et exploit\u00e9e en secret et avec une infrastructure informatique standard. ABIABIAB est un \u00e9l\u00e9ment crucial car il implique que la soci\u00e9t\u00e9 sera incapable de s\u2019adapter et de r\u00e9guler le d\u00e9veloppement de l\u2019IA par des moyens conventionnels, comme nous l\u2019avons fait lors des r\u00e9volutions technologiques pr\u00e9c\u00e9dentes. Un jour, la correction automatique de votre t\u00e9l\u00e9phone d\u00e9forme le nom de votre conjoint, et le lendemain \u2014 BOUM \u2014 l\u2019\u00e9quipe ABIABIAB \u00e9merge de son sous-sol apr\u00e8s avoir d\u00e9j\u00e0 pris le monde en otage avec ses nanorobots AGI (ou qu\u2019elle a d\u00e9j\u00e0 \u00e9t\u00e9 tu\u00e9e par ses nanorobots AGI alors que ceux-ci envahissent les survivants restants).<\/p>\n\n\n\n Dans la mesure o\u00f9 cela est plausible, il s\u2019agit d\u2019un argument convaincant qui le serait tout autant pour les technologies \u00e9mergentes ant\u00e9rieures : imaginez que, pendant la r\u00e9volution agricole, un fermier dans un sous-sol ait pu identifier une super-culture si productive et envahissante qu\u2019elle en vienne imm\u00e9diatement \u00e0 dominer les terres ou les ressources en eau de la plan\u00e8te ; ou imaginez que, pendant la r\u00e9volution industrielle, un propri\u00e9taire d\u2019usine, dans son sous-sol, ait mis au point un, euh, tapis roulant (allez-y, faites-moi plaisir) si avanc\u00e9 qu\u2019il ait pu imm\u00e9diatement produire en masse une arm\u00e9e de machines imparable. Bon march\u00e9, unique et exponentiel : voil\u00e0 clairement une combinaison dangereuse.<\/p>\n\n\n\n Heureusement, les LLM ne sont pas cela. En fait, les LLM sont \u00e0 peu pr\u00e8s aussi \u00e9loign\u00e9s de la vision de Yudkowsky qu\u2019on puisse l\u2019imaginer. Ils sont entra\u00een\u00e9s sur d\u2019\u00e9normes quantit\u00e9s de contenu limit\u00e9 (contraint \u00e0 la fois par la capacit\u00e9 de l\u2019humanit\u00e9 \u00e0 produire du contenu et par sa capacit\u00e9 \u00e0 fournir les \u00e9valuations n\u00e9cessaires \u00e0 l\u2019apprentissage par renforcement). Ils n\u00e9cessitent une puissance de calcul massive et la mise en place d\u2019une puissance de calcul encore plus importante. Leur architecture est extr\u00eamement compliqu\u00e9e et le r\u00e9sultat de nombreuses innovations \u00e0 petite \u00e9chelle peu intuitives. Et malgr\u00e9 tout cela, plusieurs entreprises d\u2019IA sont au coude \u00e0 coude en termes de capacit\u00e9s, se surpassent ou se font distancer fr\u00e9quemment, et rendent leurs r\u00e9sultats de recherche accessibles au public.<\/p>\n\n\n\n Lorsque j\u2019ai fait remarquer cette contradiction \u00e0 Yudkowsky sur X (anciennement Twitter), il a admis<\/a> que, oui, il s\u2019\u00e9tait compl\u00e8tement tromp\u00e9 sur le d\u00e9veloppement de l\u2019IA, mais qu\u2019ABIABIAB n\u2019\u00e9tait qu\u2019un exemple arbitraire<\/em> et n\u2019\u00e9tait pas fondamental pour son argumentation. Il a \u00e9galement reconnu<\/a> que les LLM \u00e9taient \u00ab les voies les plus lentes, les plus progressives et, jusqu\u2019\u00e0 pr\u00e9sent, les plus visibles publiquement, qu\u2019[il] aurait pu imaginer possibles \u00bb, mais qu\u2019elles restaient la voie<\/em> et \u00e9taient donc dangereuses. J\u2019appr\u00e9cie sa volont\u00e9 de changer d\u2019avis, mais je trouve cette nouvelle position incoh\u00e9rente. ABIABIAB a du sens en tant que menace unique. Plus nous nous rapprochons de l\u2019ABIABIAB, plus nous devrions nous inqui\u00e9ter qu\u2019un groupe rebelle puisse d\u00e9stabiliser consid\u00e9rablement la soci\u00e9t\u00e9 \u2014 mais la r\u00e9alit\u00e9 actuelle est que nous n\u2019en sommes pas<\/em> proches et que, en fait, nous semblons suivre une trajectoire historique totalement diff\u00e9rente. Au contraire, nous devrions \u00eatre reconnaissants que les laboratoires de pointe nous \u00e9loignent d\u2019une IA v\u00e9ritablement dangereuse pour nous orienter vers l\u2019alternative s\u00fbre des LLM.<\/p>\n\n\n\n Une pr\u00e9occupation plus concr\u00e8te concerne l\u2019impact imm\u00e9diat de l\u2019IA sur l\u2019environnement, notamment par l\u2019expansion des centres de donn\u00e9es. Je n\u2019ai pas encore vu beaucoup de preuves que les centres de donn\u00e9es soient fondamentalement diff\u00e9rents de n\u2019importe quel autre projet de construction classique ou qu\u2019ils soient particuli\u00e8rement capables de contourner les lois et les r\u00e9glementations relatives \u00e0 la consommation d\u2019\u00e9nergie. Comment se situent les centres de donn\u00e9es par rapport aux autres ? Un bon point de r\u00e9f\u00e9rence est cet article de Semi-analysis<\/a> qui montre, \u00e0 l\u2019aide de calculs simples, que la consommation annuelle d\u2019eau de l\u2019un des plus grands centres de donn\u00e9es du pays est comparable \u00e0 celle de 2,5 restaurants In-N-Out. Si les centres de donn\u00e9es ont un impact environnemental similaire \u00e0 celui d\u2019autres entreprises, alors je pense que la v\u00e9ritable question est : (1) cet impact peut-il \u00eatre att\u00e9nu\u00e9 de la m\u00eame mani\u00e8re que nous traitons les externalit\u00e9s n\u00e9gatives d\u2019autres entreprises, par le biais de taxes et de redevances (je ne vois pas pourquoi ce ne serait pas le cas) ? et (2) les centres de donn\u00e9es produisent-ils plus de valeur positive que d\u2019autres entreprises ? Je vais avancer l\u2019argument selon lequel un centre de donn\u00e9es g\u00e9ant produit plus de valeur positive que 2,5 restaurants In-N-Out, et si nous atteignons la limite des ressources en eau disponibles, nous devrions agir pour freiner ces derniers plut\u00f4t que les premiers.<\/p>\n\n\n\n Je ne suis pas ici pour d\u00e9fendre une plateforme politique sp\u00e9cifique sur l\u2019IA, mais j\u2019aimerais que les gens cessent de se parler sans s\u2019\u00e9couter.<\/strong><\/p>\n\n\n\n Les d\u00e9fenseurs de l\u2019IA devraient garder \u00e0 l\u2019esprit que bon nombre de ceux qui vantent aujourd\u2019hui l\u2019acc\u00e9l\u00e9ration de l\u2019IA s\u2019extasiaient auparavant devant les NFT, la cryptomonnaie, la r\u00e9alit\u00e9 augment\u00e9e<\/strong>, les MOOC (et, plus lointainement \u2014 les rem\u00e8des de long\u00e9vit\u00e9, la cryog\u00e9nisation<\/strong>, la n\u00e9o-monarchie, les cit\u00e9s flottantes), etc. Les NFT et les cryptomonnaies, en particulier, constituent une v\u00e9ritable arnaque pr\u00e9datrice<\/strong> \u2014 un m\u00e9canisme pour escroquer les gens et commettre des crimes \u2014 et il est donc tout \u00e0 fait raisonnable de supposer que toute l\u2019actualit\u00e9 autour des LLM n\u2019est qu\u2019une nouvelle vague de battage m\u00e9diatique dans une longue s\u00e9rie d\u2019arnaques high-tech. En fait, il est clair qu\u2019une grande partie du battage m\u00e9diatique autour de l\u2019IA est effectivement<\/em> aliment\u00e9e par ces m\u00eames escrocs (voir, par exemple, l\u2019excellent article<\/a> de Sam Kriss sur les stratag\u00e8mes de start-ups de science-fiction \u00e0 forte valorisation comme Cluely).<\/p>\n\n\n\n Mais les sceptiques de l\u2019IA devraient reconna\u00eetre que la vague actuelle d\u2019avanc\u00e9es technologiques est significativement diff\u00e9rente. Les LLM ne sont pas seulement vant\u00e9s par des c\u00e9l\u00e9brit\u00e9s sans scrupules et des soci\u00e9t\u00e9s de capital-risque douteuses. En 2024, deux prix Nobel ont \u00e9t\u00e9 d\u00e9cern\u00e9s \u00e0 la recherche en IA. Une vague d\u2019universitaires r\u00e9put\u00e9s dans les domaines de l\u2019apprentissage automatique et des statistiques a rejoint des entreprises d\u2019IA (y compris les laur\u00e9ats du prix Nobel mentionn\u00e9s plus haut, comme Geoffrey Hinton). Les investissements en capital dans l\u2019IA sont d\u2019un ordre de grandeur sup\u00e9rieur \u00e0 ceux de la cryptomonnaie. De grandes revues<\/a> universitaires, des h\u00f4pitaux<\/a> et des \u00e9tablissements de sant\u00e9<\/a> d\u00e9ploient leurs propres LLM ou s\u2019associent \u00e0 des entreprises d\u2019IA.<\/p>\n\n\n\n Ce sont, en fait, les capacit\u00e9s \u00e9tonnantes des LLM qui posent un tel risque pour l\u2019apprentissage. Regarder avec enthousiasme un \u00e9tudiant pr\u00e9senter lors d\u2019un examen oral un r\u00e9sultat d\u2019analyse tr\u00e8s complexe (et correct !), puis observer avec une anxi\u00e9t\u00e9 grandissante alors qu\u2019il peine \u00e0 r\u00e9pondre \u00e0 des questions \u00e9l\u00e9mentaires sur cette analyse, perd le fil des axes ou des l\u00e9gendes des graphiques, panique et se montre incapable m\u00eame de retrouver le code qui a g\u00e9n\u00e9r\u00e9 le graphique ; prendre conscience qu\u2019il a r\u00e9cit\u00e9 le r\u00e9sultat d\u2019une machine qu\u2019il ne comprend pas<\/strong> \u2014 c\u2019est une exp\u00e9rience v\u00e9ritablement d\u00e9courageante. \u00c7a fait mal. Et cela encourage un climat de cynisme et de m\u00e9fiance.<\/p>\n\n\n\n Je demande donc \u00e0 ceux qui sont sceptiques face aux avanc\u00e9es des LLM de bien choisir leurs combats. Les LLM ne sont pas des NFT, o\u00f9 il suffisait de d\u00e9crire la technologie pour en r\u00e9v\u00e9ler l\u2019inutilit\u00e9 sous-jacente. On ne peut pas se contenter de dire \u00ab encore un pr\u00e9dicteur de jetons \u00bb en levant les yeux au ciel et en en restant l\u00e0. Les LLM ne vont pas soudainement se r\u00e9v\u00e9ler inutiles et sombrer dans l\u2019oubli. Ils sont l\u00e0, ils sont utilis\u00e9s, et ils modifient de mani\u00e8re significative la structure de la recherche<\/strong>.<\/p>\n\n\n\n Il est \u00e9galement n\u00e9cessaire que les universitaires, en particulier<\/em>, participent activement \u00e0 la conversation. Nous sommes dans une position unique pour observer comment la connaissance est cr\u00e9\u00e9e et transf\u00e9r\u00e9e<\/strong>. Nous entretenons une vaste infrastructure publique (c\u2019est-\u00e0-dire les revues) pour suivre et \u00e9valuer la production de connaissances, \u00e0 laquelle nous accordons une attention religieuse. Nous observons et quantifions certains des premiers gains (ou pertes) en mati\u00e8re de comp\u00e9tences professionnelles. Apportons une contribution \u00e9clair\u00e9e.<\/p>\n\n\n\n Liste \u00e9volutive des\u00a0traductions<\/a> par\u00a0Gilles en vrac<\/em> Raisonnement de niveau doctorat, biais des grands mod\u00e8les de langage (LLM), alignement, IA g\u00e9n\u00e9rale (AGI), centres de donn\u00e9es et politique de l\u2019IA Traduction de Thoughts on AI in academia, par Sasha Gusev, sur Substack, le 7 juin 2026 1. Les LLM peuvent d\u00e9sormais imiter les capacit\u00e9s d\u2019un doctorant Je tiens \u00e0 jour une liste de … <\/p>\n2. Le but d\u2019un stage doctoral est d\u2019aller au-del\u00e0 du stage<\/h4>\n\n\n\n
3. Les LLM s\u2019aiment eux-m\u00eames<\/h4>\n\n\n\n
4. Les LLM aiment ce qu\u2019un LLM aimerait<\/h4>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/IA_Universite2-1200x543.webp\")
5. Les LLM adorent imiter les biais humains<\/h4>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/IA_universites3-1200x444.webp\")
<\/figure>\n\n\n\n6. Les LLM \u00e9rodent les signaux courants d\u2019effort<\/h4>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/ia_universite4-1200x294.webp\")
7. Il est difficile de pr\u00e9dire l\u2019avenir du travail<\/h4>\n\n\n\n
8. L\u2019\u00ab alignement \u00bb de l\u2019IA concerne le comportement attendu<\/h4>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/ia_universite5.webp\")
<\/figure>\n<\/div>\n\n\n9. Non, nous n\u2019avons pas d\u00e9j\u00e0<\/em> atteint l\u2019\u00ab AGI \u00bb<\/h4>\n\n\n\n
\n
10. Le d\u00e9bat sur l\u2019AGI porte en r\u00e9alit\u00e9 sur la question de savoir si cette r\u00e9volution est diff\u00e9rente<\/h4>\n\n\n\n
11. Il suffit de r\u00e9glementer les centres de donn\u00e9es<\/h4>\n\n\n\n
12. Les universitaires ont un r\u00f4le important \u00e0 jouer dans la politique de l\u2019IA<\/h4>\n\n\n\n
\n\n\n\n
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\nNotes <\/h3>