{"id":8800,"date":"2025-12-01T09:42:06","date_gmt":"2025-12-01T14:42:06","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?page_id=8800"},"modified":"2026-01-24T18:35:14","modified_gmt":"2026-01-24T23:35:14","slug":"llm-contes-chantes","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/llm-contes-chantes\/","title":{"rendered":"Les grands mod\u00e8les linguistiques comme les contes chant\u00e9s"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Traduction de <a href=\"https:\/\/www.programmablemutter.com\/p\/large-language-models-as-the-tales\">Large Language Models As The Tales That Are Sung<\/a>, par Henry Farrell, 2025.12.01<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Lorsque j&rsquo;ai \u00e9crit <a href=\"https:\/\/www.programmablemutter.com\/p\/large-language-models-are-cultural\">il y a quelques mois<\/a> sur les diff\u00e9rentes fa\u00e7ons d&rsquo;envisager l&rsquo;IA en tant que technologie culturelle, j&rsquo;ai omis une approche : l&rsquo;humanisme. Il s&rsquo;agit d&rsquo;un ensemble de conceptions qui s&rsquo;opposent aux grands mod\u00e8les linguistiques au motif qu&rsquo;ils remplacent la culture humaine par quelque chose de machinal et d&rsquo;\u00e9tranger. Je ne voyais pas comment concilier cette approche avec les autres que j&rsquo;ai \u00e9voqu\u00e9es, qui envisagent la culture de diff\u00e9rentes mani\u00e8res. Leif Weatherby, <a href=\"https:\/\/www.programmablemutter.com\/p\/cultural-theory-was-right-about-the\">par exemple<\/a>, critique vivement ce qu&rsquo;il d\u00e9crit comme \u00ab l&rsquo;humanisme r\u00e9siduel \u00bb, qui, selon lui, ignore les grands syst\u00e8mes inhumains, notamment le langage humain, qui produisent r\u00e9ellement la culture.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Je suis intellectuellement sensible aux arguments de Weatherby, mais je suis <a href=\"https:\/\/www.programmablemutter.com\/p\/vicos-singularity\">\u00e9galement sensible<\/a> \u00e0 certaines formes d&rsquo;humanisme, et j&rsquo;ai r\u00e9fl\u00e9chi \u00e0 la mani\u00e8re de mettre les deux en dialogue. La r\u00e9daction d&rsquo;un article qui tente de le faire m&rsquo;a pris un certain temps. Ce ne sont pas les types d&rsquo;arguments dans lesquels je me sp\u00e9cialise en tant que chercheur. Le chemin intellectuel \u00e9trange que j&rsquo;ai choisi passe par la science-fiction de Gene Wolfe et les \u00e9tudes folkloriques d&rsquo;Albert B. Lord. Je prends \u00e9galement des libert\u00e9s avec les id\u00e9es de mes amis et d&rsquo;autres personnes, qui ne sont en aucun cas responsables des abominations intellectuelles que je commets. Caveat lector.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wolfe et Lord sont tous deux d\u00e9c\u00e9d\u00e9s avant que les LLM ne deviennent une r\u00e9alit\u00e9. N\u00e9anmoins, ils ont tous deux r\u00e9fl\u00e9chi \u00e0 la relation entre l&rsquo;immensit\u00e9 du langage et de la culture humaine et le d\u00e9sir plus particulier des \u00eatres humains de raconter leurs propres histoires. Je comprends leurs id\u00e9es comme impliquant que les LLM ont beaucoup en commun avec les traditions anciennes auxquelles s&rsquo;inspirent les conteurs. Ce n&rsquo;est pas simplement que les compressions que les LLM tirent d&rsquo;\u00e9normes corpus de textes ressemblent, et incorporent sans doute, les personnages, les phrases toutes faites, les tropes, les situations et les structures narratives que les conteurs tissent ensemble. C&rsquo;est que les LLM et les traditions narratives sont des <em>structures<\/em> similaires : des corpus \u00e0 grande \u00e9chelle de connaissances culturelles g\u00e9n\u00e9riques qui sont utilis\u00e9s de mani\u00e8re quelque peu pr\u00e9visible pour cr\u00e9er des instances culturelles sp\u00e9cifiques.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce n&rsquo;est pas une affirmation originale de ma part. Elle trouve son origine dans une remarque secondaire envoy\u00e9e par e-mail par Cosma Shalizi au sujet des LLM et de <em>The Singer of Tales<\/em>, ainsi que dans sa <a href=\"http:\/\/bactra.org\/weblog\/feral-library-card-catalogs.html\">longue discussion sur les LLM ici<\/a>. Kush R. Varshney est parvenu ind\u00e9pendamment \u00e0 la m\u00eame comparaison <a href=\"https:\/\/arxiv.org\/html\/2502.05148v1\">dans cet article<\/a>, qui examine la relation entre les LLM et les id\u00e9es de Lord d&rsquo;un point de vue technique. Je suis \u00e9galement influenc\u00e9, d&rsquo;une mani\u00e8re difficile \u00e0 d\u00e9finir, par le travail de ma grand-tante, <a href=\"https:\/\/www.dib.ie\/biography\/macneill-maire-a5281\">Maire MacNeill<\/a>. Elle \u00e9tait une folkloriste qui est d\u00e9c\u00e9d\u00e9e trop t\u00f4t pour que je la connaisse bien, mais dont les \u00e9crits et les traductions ont fa\u00e7onn\u00e9 mon enfance : <em>The Festival of Lughnasa<\/em>, un recueil de contes de f\u00e9es issus de la tradition orale de l&rsquo;ouest du Donegal ; le livre du conteur Sean O&rsquo;Conaill, qui vivait sur la m\u00eame p\u00e9ninsule que celle d&rsquo;o\u00f9 venait la famille de John McCarthy. Plus que la plupart des enfants, j&rsquo;ai grandi au milieu des structures culturelles du folklore, sans jamais vraiment r\u00e9fl\u00e9chir \u00e0 ce qu&rsquo;elles impliquaient.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les LLM ressemblent au folklore dans leur structure, mais diff\u00e8rent dans leur relation \u00e0 l&rsquo;intentionnalit\u00e9 et \u00e0 la performance. D&rsquo;une certaine mani\u00e8re, les histoires sont des assemblages de tropes sur les troisi\u00e8mes fils, les anneaux enchant\u00e9s, les animaux aidants et autres. D&rsquo;une autre mani\u00e8re, tout aussi importante, les histoires n&rsquo;existent pas tant qu&rsquo;elles ne sont pas racont\u00e9es et sont le produit des circonstances dans lesquelles elles sont racont\u00e9es. Leur signification ne refl\u00e8te pas seulement une tradition commune, mais aussi les circonstances particuli\u00e8res dans lesquelles elles sont racont\u00e9es : un \u00eatre humain s&rsquo;adressant \u00e0 d&rsquo;autres \u00eatres humains, coupant ou \u00e9tirant le tissu du r\u00e9cit au fur et \u00e0 mesure qu&rsquo;il se tisse, pour l&rsquo;adapter aux d\u00e9sirs, aux attentes et aux r\u00e9actions de son public. En cela, les histoires diff\u00e8rent des LLM, qui incarnent la tradition elle-m\u00eame, dans sa nudit\u00e9 indiff\u00e9rente et inhumaine. Les LLM ne sont pas le chanteur, malgr\u00e9 leur r\u00e9activit\u00e9 apparente, mais les relations structurelles des contes qui sont chant\u00e9s. N\u00e9anmoins, nous pouvons d\u00e9sormais \u00e9couter et m\u00eame interroger ces structures sans interm\u00e9diaire humain imm\u00e9diat. C&rsquo;est une nouveaut\u00e9.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">*******<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Gene Wolfe est l&rsquo;un des grands auteurs de science-fiction, bien qu&rsquo;il soit peu connu en dehors du genre. Ted Chiang le cite comme une influence importante. Ursula Le Guin le compare \u00e0 Melville qui, comme Wolfe, chargeait ses r\u00e9cits d&rsquo;aventures de sp\u00e9culations th\u00e9ologiques et m\u00e9taphysiques. Kim Stanley Robinson le compare <a href=\"https:\/\/web.archive.org\/web\/20240325234419\/http:\/\/www.nyrsf.com\/2013\/09\/a-story-kim-stanley-robinson.html\">\u00e0 Proust<\/a>, dont le style prosa\u00efque et la perception du temps comme un r\u00eave lucide ont \u00e9t\u00e9 mis \u00e0 profit par Wolfe. Wolfe a eu peu d&rsquo;influence sur les d\u00e9bats autour de l&rsquo;IA, contrairement \u00e0 certains de ses pairs moins talentueux. Cela devrait peut-\u00eatre changer.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wolfe \u00e9tait ing\u00e9nieur, mais sa grande passion \u00e9tait les r\u00e9cits. Comme le remarque Severian, le narrateur imaginaire de son grand \u0153uvre, les cinq livres de \u00ab New Sun \u00bb, apr\u00e8s un concours de narration :<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">il me semble souvent que parmi toutes les bonnes choses du monde, les seules que l&rsquo;humanit\u00e9 peut revendiquer pour elle-m\u00eame sont les histoires et la musique ; le reste, la mis\u00e9ricorde, la beaut\u00e9, le sommeil, l&rsquo;eau potable et la nourriture chaude (comme l&rsquo;aurait dit l&rsquo;Ascien) sont tous l&rsquo;\u0153uvre du Non-Cr\u00e9\u00e9. Ainsi, les histoires sont certes insignifiantes dans l&rsquo;ordre de l&rsquo;univers, mais il est difficile de ne pas aimer avant tout ce qui nous appartient \u2013 difficile pour moi, du moins.<\/p>\n<\/blockquote>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">De cette histoire, bien qu&rsquo;elle soit la plus courte et la plus simple de toutes celles que j&rsquo;ai consign\u00e9es dans ce livre, j&rsquo;ai le sentiment d&rsquo;avoir appris plusieurs choses importantes. Tout d&rsquo;abord, \u00e0 quel point notre discours, que nous pensons \u00eatre le fruit de notre imagination, est constitu\u00e9 d&rsquo;expressions toutes faites. L&rsquo;Ascien semblait ne parler qu&rsquo;avec des phrases qu&rsquo;il avait apprises par c\u0153ur, m\u00eame si nous ne les avions jamais entendues avant qu&rsquo;il ne les utilise pour la premi\u00e8re fois. Foila semblait parler comme le font g\u00e9n\u00e9ralement les femmes, et si on m&rsquo;avait demand\u00e9 si elle utilisait de telles expressions, j&rsquo;aurais r\u00e9pondu que non, mais combien de fois aurait-on pu pr\u00e9dire la fin de ses phrases d\u00e8s leur d\u00e9but ?<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Je reviendrai plus loin sur \u00ab cette histoire \u00bb (racont\u00e9e par un prisonnier ascien). Pour l&rsquo;instant, notez simplement la tension que Wolfe identifie. Severian (qui s&rsquo;exprime vraisemblablement au nom de Wolfe) d\u00e9crit les histoires comme quelque chose qui nous est propre, qui est proprement humain. Mais il note \u00e9galement qu&rsquo;elles sont compos\u00e9es d&rsquo;un langage <em>pr\u00e9visible<\/em>, d&rsquo;un m\u00e9lange d&rsquo;\u00e9l\u00e9ments standard ou de \u00ab locutions fig\u00e9es \u00bb, \u00e0 l&rsquo;instar de notre langage courant. Ces locutions sont assembl\u00e9es en phrases tr\u00e8s redondantes.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il en va de m\u00eame pour les contes que nous racontons avec ce langage. Eux aussi sont r\u00e9guli\u00e8rement construits \u00e0 partir d&rsquo;\u00e9l\u00e9ments standard, comme l&rsquo;ont fait valoir <a href=\"https:\/\/www.changingminds.org\/disciplines\/storytelling\/plots\/propp\/propp.htm\">Propp<\/a> et d&rsquo;autres. Dans un pr\u00e9c\u00e9dent livre de la s\u00e9rie New Sun, un enfant demande \u00e0 Severian de \u00ab trouver une histoire avec un gar\u00e7on qui a un grand ami et un jumeau. Il devrait y avoir des loups. \u00bb Les gar\u00e7ons, les amis animaux et les jumeaux apparaissent r\u00e9guli\u00e8rement dans les contes populaires, ainsi que de nombreux autres \u00e9l\u00e9ments types. L&rsquo;une des cons\u00e9quences est que les contes populaires peuvent \u00eatre recombin\u00e9s plus facilement que d&rsquo;autres formes narratives telles que les romans ou les po\u00e8mes \u00e9crits ; ils sont un m\u00e9lange h\u00e9t\u00e9roclite d\u00e8s le d\u00e9part. L&rsquo;histoire que Severian raconte au gar\u00e7on m\u00eale celle du Livre de la jungle au sauvetage du petit Mo\u00efse, \u00e0 la rivalit\u00e9 entre Romulus et Remus (qui, comme Mowgli, ont \u00e9t\u00e9 allait\u00e9s par des loups) et \u00e0 la fondation de l&rsquo;Am\u00e9rique coloniale. Dans le futur lointain de Severian, nos histoires et notre histoire se sont m\u00e9lang\u00e9es pour devenir partie int\u00e9grante du fonds commun de la sagesse collective humaine.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La m\u00e9prise devient une source de nouvelles variations. Une autre histoire racont\u00e9e par Severian confond le h\u00e9ros Th\u00e9s\u00e9e avec la th\u00e8se d&rsquo;un \u00e9tudiant dipl\u00f4m\u00e9, tandis que le Minotaure et le bateau \u00e0 vapeur <em>Monitor<\/em> sont fusionn\u00e9s en un g\u00e9ant redoutable dot\u00e9 d&rsquo;un \u00ab naviscaput \u00bb, errant dans un labyrinthe de canaux ensabl\u00e9s sp\u00e9cialement con\u00e7us pour \u00e9puiser sa proie. Wolfe ressemble \u00e0 Joyce ainsi qu&rsquo;\u00e0 Proust et Melville dans son go\u00fbt pour les jeux de mots et les calembours parfois terribles*.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pourtant, ce jeu n&rsquo;est pas compl\u00e8tement ouvert. Il s&rsquo;appuie sur un syst\u00e8me et en d\u00e9coule. La remarque de Wolfe selon laquelle \u00ab on aurait souvent pu pr\u00e9dire la fin des phrases [de Foila] d\u00e8s leur d\u00e9but \u00bb rappelle fortement les id\u00e9es de Claude Shannon. Cette pr\u00e9visibilit\u00e9 est au c\u0153ur de la th\u00e9orie pr\u00e9dictive du langage de Shannon, qui a elle-m\u00eame \u00e9t\u00e9 le point de d\u00e9part intellectuel du d\u00e9veloppement des grands mod\u00e8les linguistiques. Un \u00ab <a href=\"https:\/\/www.jmlr.org\/papers\/volume3\/bengio03a\/bengio03a.pdf\">mod\u00e8le statistique du langage<\/a> \u00bb, qui rend l&rsquo;ouverture du langage (sa version particuli\u00e8re de la \u00ab mal\u00e9diction de la dimensionnalit\u00e9 \u00bb) g\u00e9rable, combin\u00e9 aux possibilit\u00e9s particuli\u00e8res de l&rsquo;architecture du transformateur, alimente la pr\u00e9diction du prochain token des LLM.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wolfe aimait beaucoup les histoires, mais il \u00e9tait aussi ing\u00e9nieur. Je soup\u00e7onne que la ressemblance entre la critique de Severian et les id\u00e9es de Shannon est le fruit d&rsquo;un artifice d\u00e9lib\u00e9r\u00e9. \u00c0 ma connaissance, il n&rsquo;existe aucune preuve explicite que Wolfe ait lu Shannon (peut-\u00eatre peut-on en trouver dans ses essais techniques pour <em>Plant Engineering<\/em>, qui n&rsquo;ont jamais \u00e9t\u00e9 rassembl\u00e9s), mais ailleurs dans les livres, Severian pr\u00e9sente une th\u00e9orie de la connaissance des magiciens qui repose sur la th\u00e9orie de la signalisation et la transmission avec perte.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pourtant, Severian n&rsquo;aime pas les histoires parce qu&rsquo;elles sont une extrapolation statistique des structures sous-jacentes du langage et de la culture. Il les aime parce qu&rsquo;elles sont humaines. Comment les histoires humaines \u00e9mergent-elles de vastes syst\u00e8mes sans \u00eatre r\u00e9ductibles \u00e0 ceux-ci ?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">*******<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cette question est explor\u00e9e dans un autre livre extraordinaire, <em>The Singer of Tales<\/em> (disponible <a href=\"https:\/\/chs.harvard.edu\/read\/lord-albert-bates-the-singer-of-tales\/\">gratuitement en ligne<\/a>) d&rsquo;Albert B. Lord. Lord s&rsquo;est appuy\u00e9 sur les travaux de Milman Parry, qu&rsquo;il avait aid\u00e9 \u00e0 enregistrer des chanteurs de contes yougoslaves au milieu des ann\u00e9es 1930. \u00c0 partir de cette exp\u00e9rience et de ces archives, Lord a construit un r\u00e9cit plus large de la tradition orale, qui, selon lui, englobait Hom\u00e8re et d&rsquo;autres chanteurs d&rsquo;histoires \u00e9piques. Par extension, son argumentation couvre \u00e9galement d&rsquo;autres formes de tradition orale, telles que les contes de f\u00e9es irlandais que ma grand-tante et d&rsquo;autres ont traduits, compil\u00e9s et cherch\u00e9 \u00e0 comprendre.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Parry et Lord ont \u00e9cout\u00e9 des chanteurs dont les contes d\u00e9crivaient les grands h\u00e9ros, les m\u00e9chants et les batailles du pass\u00e9 (sans surprise, compte tenu des asp\u00e9rit\u00e9s de l&rsquo;histoire yougoslave, les chanteurs chr\u00e9tiens et musulmans n&rsquo;\u00e9taient pas d&rsquo;accord sur qui \u00e9taient les h\u00e9ros et qui \u00e9taient les m\u00e9chants, bien que les chanteurs chr\u00e9tiens pouvaient adapter leurs histoires pour un public musulman et vice versa). Les anthropologues ont enregistr\u00e9 ces chansons sur des disques rudimentaires. Ces chansons \u00e9taient les derniers vestiges d&rsquo;une tradition transmise par des chanteurs et des conteurs analphab\u00e8tes (m\u00eame si, lorsque Parry et Lord les ont entendues, leurs chanteurs commen\u00e7aient d\u00e9j\u00e0 \u00e0 \u00eatre influenc\u00e9s par la culture \u00e9crite). Certaines chansons \u00e9taient tr\u00e8s longues, mais les chanteurs accomplis pouvaient en chanter un grand nombre. Comment y parvenaient-ils, compte tenu des d\u00e9fauts et des faiblesses de la m\u00e9moire humaine ?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Selon Lord, la r\u00e9ponse ne r\u00e9side pas dans la m\u00e9morisation par c\u0153ur, mais dans la nature m\u00eame de la tradition orale dont ils s&rsquo;inspiraient. Si les chanteurs eux-m\u00eames affirmaient pouvoir reproduire les chansons \u00e0 la perfection et sans erreur, leur conception de la perfection diff\u00e9rait de la n\u00f4tre. Ni les chants \u00e9piques, ni la tradition plus large dont ils s&rsquo;inspiraient n&rsquo;\u00e9taient des textes immuables. Au contraire, les \u00e9pop\u00e9es sp\u00e9cifiques qu&rsquo;ils chantaient et la forme \u00e9pique elle-m\u00eame \u00e9taient mieux comprises comme une sorte de \u00ab structure dynamique \u00bb capable de g\u00e9n\u00e9rer de nouvelles instances culturelles.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cette structure \u00e9tait une sorte de \u00ab grammaire \u00bb, un ensemble de r\u00e8gles qui d\u00e9terminaient non seulement la m\u00e9trique, mais aussi le d\u00e9roulement de l&rsquo;histoire, les th\u00e8mes mis en avant et ceux supprim\u00e9s, etc.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">En \u00e9tudiant les sch\u00e9mas et les syst\u00e8mes de la po\u00e9sie narrative orale, nous observons en r\u00e9alit\u00e9 la \u00ab grammaire \u00bb de la po\u00e9sie, une grammaire qui se superpose, pour ainsi dire, \u00e0 la grammaire de la langue concern\u00e9e. Ou, pour modifier l&rsquo;image, nous trouvons une grammaire sp\u00e9ciale au sein de la grammaire de la langue, rendue n\u00e9cessaire par la versification.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Les chanteurs construisaient leurs r\u00e9cits autour de \u00ab th\u00e8mes \u00bb ou de situations fixes, tels que la \u00ab r\u00e9union du conseil \u00bb au cours de laquelle la possibilit\u00e9 d&rsquo;une bataille est discut\u00e9e. Pour d\u00e9crire ces th\u00e8mes, ils puisaient dans un \u00ab fonds commun \u00bb de formules qu&rsquo;ils d\u00e9ployaient ensuite pour concilier les personnages, le style de l&rsquo;histoire, les attentes du public et la m\u00e9trique de la chanson. Les diff\u00e9rents chanteurs avaient des r\u00e9pertoires de formules l\u00e9g\u00e8rement diff\u00e9rents, qui pouvaient \u00eatre plus ou moins importants, selon les cas.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">Le chanteur n&rsquo;arr\u00eate jamais d&rsquo;accumuler, de recombiner et de remodeler des formules et des th\u00e8mes, perfectionnant ainsi son chant et enrichissant son art.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Les chanteurs pouvaient inventer leurs propres variations, qui pouvaient \u00e0 leur tour \u00eatre copi\u00e9es par d&rsquo;autres. Tout cela perp\u00e9tuait une tradition qui se recr\u00e9ait continuellement dans sa propre interpr\u00e9tation. Dans la tradition orale, les \u00e9pop\u00e9es ne sont pas des textes fixes, mais des syst\u00e8mes g\u00e9n\u00e9ratifs de chansons, articul\u00e9s, r\u00e9articul\u00e9s et adapt\u00e9s \u00e0 l&rsquo;infini sous des formes vari\u00e9es, en fonction des particularit\u00e9s du chanteur et des circonstances dans lesquelles il chante. Comme le dit Lord : \u00ab on ne peut pas parler correctement de \u00ab variante \u00bb, puisqu&rsquo;il n&rsquo;y a pas d&rsquo;original \u00e0 varier \u00bb.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Comme Cosma <a href=\"http:\/\/bactra.org\/weblog\/feral-library-card-catalogs.html\">l&rsquo;a soulign\u00e9<\/a>, il existe une ressemblance remarquable entre les LLM et la description que fait Lord de la tradition orale. En effet, les LLM, comme les chanteurs de Lord, ont ma\u00eetris\u00e9 les tropes \u00e0 partir desquels les contes sont construits, mais au niveau de la culture \u00e9crite elle-m\u00eame plut\u00f4t qu&rsquo;au niveau d&rsquo;une forme ou d&rsquo;un genre narratif particulier.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">Une <em>\u00e9norme<\/em> partie de la tradition culturelle, et en particulier intellectuelle, est constitu\u00e9e de formules, de mod\u00e8les, de conventions et, en fait, de <a href=\"http:\/\/bactra.org\/reviews\/propp-morphology.html\">figures de style<\/a> et de st\u00e9r\u00e9otypes. Dans une certaine mesure, cela permet de r\u00e9duire la charge cognitive des cr\u00e9ateurs : ce ph\u00e9nom\u00e8ne a \u00e9t\u00e9 largement \u00e9tudi\u00e9 dans le domaine de la culture orale, comme les <a href=\"https:\/\/chs.harvard.edu\/book\/lord-albert-bates-the-singer-of-tales\/\">\u00e9pop\u00e9es orales<\/a>. &#8230;<\/p>\n<\/blockquote>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">Les formules facilitent la cr\u00e9ation et la compr\u00e9hension <em>une fois que vous les avez apprises<\/em>. La mani\u00e8re habituelle de proc\u00e9der consiste \u00e0 s&rsquo;immerger dans les artefacts de la tradition jusqu&rsquo;\u00e0 ce que les formules commencent \u00e0 s&rsquo;impr\u00e9gner, puis \u00e0 s&rsquo;essayer \u00e0 la cr\u00e9ation de ces artefacts, id\u00e9alement sous la supervision d&rsquo;une personne qui ma\u00eetrise d\u00e9j\u00e0 la tradition. (Le but de ces efforts n&rsquo;\u00e9tait pas vraiment d&rsquo;obtenir les artefacts, mais d&rsquo;int\u00e9rioriser les formes.) La plupart des formules ne sont <em>pas<\/em> articul\u00e9es consciemment, m\u00eame par ceux qui sont profond\u00e9ment immerg\u00e9s dans la tradition.<\/p>\n<\/blockquote>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">Les grands mod\u00e8les ont appris presque toutes les formules, les mod\u00e8les, les tropes et les st\u00e9r\u00e9otypes. (Apr\u00e8s tout, ce sont des mod\u00e8les probabilistes de s\u00e9quences de texte.) Pour reprendre la distinction de Barzun, ils ne mettront pas \u00e0 disposition une <em>intelligence<\/em> cr\u00e9ative, mais plut\u00f4t un <em>intellect<\/em> stock\u00e9 et accumul\u00e9. <em>S&rsquo;ils<\/em> parviennent \u00e0 rendre les gens plus intelligents, ce sera en leur donnant acc\u00e8s aux formes externes d&rsquo;une myriade de traditions.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Beaucoup pensent que les LLM nous ram\u00e8nent \u00e0 quelque chose qui s&rsquo;apparente \u00e0 la culture orale. Mais rares sont ceux qui s&rsquo;int\u00e9ressent de mani\u00e8re tr\u00e8s intelligente aux d\u00e9tails du <em>fonctionnement<\/em> de la culture orale. La culture orale, comme les LLM, implique des abstractions avec perte qui servent \u00e9galement de syst\u00e8mes g\u00e9n\u00e9ratifs. Elle produit elle aussi une myriade de variations sur des th\u00e8mes communs, en les adaptant \u00e0 des sollicitations et des circonstances particuli\u00e8res. Elle n&rsquo;est pas non plus con\u00e7ue pour transmettre mot pour mot l&rsquo;\u0153uvre sur laquelle elle a \u00e9t\u00e9 form\u00e9e. Lorsque Varshney d\u00e9crit les formules de Lord comme \u00ab des solutions heuristiques \u00e0 des probl\u00e8mes d&rsquo;optimisation contraints qui doivent \u00eatre r\u00e9solus en temps r\u00e9el \u00bb, il utilise un langage que Lord aurait peut-\u00eatre trouv\u00e9 \u00e9trange (mais peut-\u00eatre pas non plus ; Jakobson faisait partie de son comit\u00e9 de th\u00e8se), mais que Wolfe aurait facilement reconnu.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Une fois encore, c&rsquo;est une erreur de traiter les \u00e9pop\u00e9es orales ou les LLM comme des textes fixes. D&rsquo;un point de vue analytique, ce sont des syst\u00e8mes permettant de produire des formes culturelles particuli\u00e8res, qui adh\u00e8rent \u00e0 des r\u00e8gles, des st\u00e9r\u00e9otypes et des attentes sp\u00e9cifiques. On peut s&rsquo;attendre \u00e0 ce qu&rsquo;ils soient imparfaits de mani\u00e8re similaire. Lord note que les chanteurs emploient le \u00ab principe d&rsquo;\u00e9conomie \u00bb. Une fois qu&rsquo;ils ont d\u00e9couvert une bonne technique pour r\u00e9soudre un type particulier de probl\u00e8me textuel (par exemple, concilier un type particulier de description avec la m\u00e9trique attendue), ils la d\u00e9ploient encore et encore. Les LLM ont leur propre principe d&rsquo;\u00e9conomie, de sorte que leurs compressions mettent l&rsquo;accent sur les mod\u00e8les culturels courants au d\u00e9triment de ceux qui sont rarement rencontr\u00e9s dans leurs donn\u00e9es d&rsquo;entra\u00eenement.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il s&rsquo;av\u00e8re que les LLM ne sont pas tr\u00e8s dou\u00e9s pour les rimes et la m\u00e9trique du langage (peut-\u00eatre parce qu&rsquo;ils sont form\u00e9s sur des textes \u00e9crits plut\u00f4t que sur leur interpr\u00e9tation orale).** Mais de nombreux aspects du travail et de la culture humains impliquent une combinaison de mod\u00e8les et de st\u00e9r\u00e9otypes largement similaire \u00e0 celle utilis\u00e9e par les chanteurs de contes. Je soup\u00e7onne que cela contribue \u00e0 expliquer la facilit\u00e9 avec laquelle les LLM effectuent de nombreuses t\u00e2ches de programmation, car la programmation consiste \u00e9galement \u00e0 d\u00e9terminer comment appliquer une formule courante \u00e0 un probl\u00e8me particulier. La po\u00ef\u00e9tique du programmeur est plus proche de la po\u00ef\u00e9tique h\u00e9ro\u00efque du barde que nous ne le pensons. Comme le dit l&rsquo;un de mes vieux t-shirts XKCD : <a href=\"https:\/\/www.explainxkcd.com\/wiki\/index.php\/208:_Regular_Expressions\">stand back &#8211; I know regular expressions!<\/a> (Reculez, je connais les expressions r\u00e9guli\u00e8res !) Il en va de m\u00eame pour les performances aux olympiades de math\u00e9matiques.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Et peut-\u00eatre aussi pour une grande partie de la pratique des sciences sociales ? Dani Rodrik a <a href=\"https:\/\/drodrik.scholars.harvard.edu\/publications\/economics-rulesthe-rights-and-wrongs-dismal-science\">\u00e9crit<\/a> qu&rsquo;une grande partie de l&rsquo;art de l&rsquo;\u00e9conomiste consiste \u00e0 accumuler une vaste biblioth\u00e8que mentale de mod\u00e8les math\u00e9matiques et \u00e0 acqu\u00e9rir une compr\u00e9hension intuitive du mod\u00e8le \u00e0 utiliser dans chaque situation. De m\u00eame, il y a lieu de soup\u00e7onner que les capacit\u00e9s des LLM \u00e0 appliquer leurs compressions et transformations \u00e0 des d\u00e9fis inattendus et \u00e0 des aspects de l&rsquo;environnement physique ou social qui ne se traduisent pas facilement sous forme de tableur sont fortement limit\u00e9es.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le point fondamental est donc que <em>beaucoup<\/em> de la culture et des efforts humains ne d\u00e9pendent pas seulement de compressions avec perte, mais impliquent des syst\u00e8mes dynamiques qui combinent et appliquent ces compressions de mani\u00e8re utile. Ces combinaisons peuvent \u00eatre surprenantes (impliquant des juxtapositions inattendues), m\u00eame si elles auront probablement une originalit\u00e9 limit\u00e9e. De m\u00eame, l&rsquo;originalit\u00e9 peut \u00eatre inutile pour de nombreuses t\u00e2ches, voire surestim\u00e9e : Lord sugg\u00e8re que notre d\u00e9sir d&rsquo;originalit\u00e9 artistique peut \u00eatre li\u00e9 aux inqui\u00e9tudes suscit\u00e9es par l&rsquo;imprimerie et les autres technologies de production pr\u00e9cise qui ont supplant\u00e9 la culture orale :<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">L&rsquo;expression est [le m\u00e9tier du chanteur], et non l&rsquo;originalit\u00e9, qui est en fait un concept qui lui est tout \u00e0 fait \u00e9tranger et qu&rsquo;il \u00e9viterait s&rsquo;il le comprenait. &#8230; Il existe des p\u00e9riodes et des styles dans lesquels l&rsquo;originalit\u00e9 n&rsquo;est <em>pas<\/em> une priorit\u00e9.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Nous pouvons peut-\u00eatre nous attendre \u00e0 ce que, dans un avenir proche, nous revenions \u00e0 une certaine forme de ces normes d&rsquo;expression, dans la mesure o\u00f9 les LLM deviennent culturellement dominants. Peut-\u00eatre devrions-nous plut\u00f4t anticiper une r\u00e9action culturelle \u00e0 leur encontre, qui renforcerait l&rsquo;importance accord\u00e9e \u00e0 l&rsquo;originalit\u00e9.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Quoi qu&rsquo;il arrive, Lord sugg\u00e8re que la culture humaine n&rsquo;a pas besoin d&rsquo;\u00eatre originale pour \u00eatre humaine au sens o\u00f9 l&rsquo;entendent des \u00e9crivains tels que Wolfe. Les syst\u00e8mes structurels tels que les \u00e9pop\u00e9es peuvent cr\u00e9er des possibilit\u00e9s de sens humain. Comme il le dit, \u00ab le style n&rsquo;est pas vraiment aussi m\u00e9canique que sa syst\u00e9matisation semble le sugg\u00e9rer \u00bb. Les contes ne fonctionneraient pas s&rsquo;ils n&rsquo;\u00e9taient qu&rsquo;un simple m\u00e9lange de clich\u00e9s attendus.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Plus important encore, les histoires sont <em>interpr\u00e9t\u00e9es <\/em>dans des contextes qui mettent l&rsquo;accent sur la relation entre le chanteur et le public. Lorsque le chanteur chante, \u00ab la chanson produite lors de la repr\u00e9sentation est la sienne. Le public la reconna\u00eet comme telle parce qu&rsquo;il se trouve devant lui \u00bb. Lord d\u00e9crit comment le chanteur (apparemment toujours un homme dans la Yougoslavie des ann\u00e9es 1930, bien que les femmes soient bien s\u00fbr aussi des conteuses) adapte sa repr\u00e9sentation de l&rsquo;histoire au public et \u00e0 ce qu&rsquo;il semble vouloir. Si le public semble s&rsquo;agiter, le conte peut \u00eatre modifi\u00e9 ou raccourci. Si le r\u00e9cit s&rsquo;appuie sur une structure, il est interpr\u00e9t\u00e9 dans l&rsquo;instant pr\u00e9sent, dans le contexte des intentions humaines et des relations humaines partag\u00e9es par le chanteur et l&rsquo;auditeur.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il s&rsquo;agit l\u00e0 d&rsquo;une diff\u00e9rence importante, voire cruciale \u00e0 certains \u00e9gards, entre les syst\u00e8mes culturels g\u00e9n\u00e9ratifs traditionnels, tels que la tradition \u00e9pique orale en Yougoslavie et son anc\u00eatre et cousin hom\u00e9rique, et les syst\u00e8mes culturels g\u00e9n\u00e9ratifs algorithmiques, tels que les LLM. Les premiers sont indissociables de leur interpr\u00e9tation dans des contextes humains : le syst\u00e8me peut \u00eatre abstrait de leurs interpr\u00e9tations, mais n&rsquo;a aucune existence substantielle ind\u00e9pendante de celles-ci. L&rsquo;existence de la tradition se manifeste \u00e0 travers les histoires que les humains se racontent. Les LLM, en revanche, sont une condensation et une actualisation de la tradition elle-m\u00eame et de toutes les autres traditions qui ont \u00e9t\u00e9 repli\u00e9es et compress\u00e9es dans leurs poids statistiques, d\u00e9pouill\u00e9es des sp\u00e9cificit\u00e9s des relations humaines et r\u00e9appliqu\u00e9es \u00e0 celles-ci sous forme de processus algorithmique. Les LLM ne parlent que lorsqu&rsquo;on leur demande, mais la suite de ces demandes n&rsquo;est pas exprim\u00e9e \u00e0 travers des relations humaines bidirectionnelles (m\u00eame si les intentions de la personne qui demande, la formation via RLHF et le r\u00e9glage fin, etc. affectent certainement les r\u00e9sultats). La personne qui interroge le LLM interroge une repr\u00e9sentation imparfaite de la tradition elle-m\u00eame. Bien s\u00fbr, les LLM peuvent alors fa\u00e7onner la compr\u00e9hension humaine et tromper les gens en les amenant \u00e0 les traiter comme des humains, mais ils ne le sont pas. Leur abstraction tangible est quelque chose de nouveau et de diff\u00e9rent dans son application par rapport aux connaissances culturelles auparavant intangibles qu&rsquo;ils r\u00e9sument.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les LLM peuvent donc \u00eatre raisonnablement compris comme un r\u00e9sum\u00e9 composite des contes qui sont chant\u00e9s. Dans leurs applications particuli\u00e8res, ils sont m\u00eame une version du chant des contes. Mais ils ne sont pas, et ne peuvent \u00eatre, les chanteurs. Notre relation avec eux et notre interpr\u00e9tation de ce qu&rsquo;ils nous racontent sont n\u00e9cessairement diff\u00e9rentes de notre relation avec ce que nous nous racontons les uns aux autres et de notre interpr\u00e9tation de ces r\u00e9cits.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">*******<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Pour comprendre cela, il est utile de revenir au Severian de Wolfe. Comme je l&rsquo;ai d\u00e9j\u00e0 mentionn\u00e9, Severian fait ses remarques sur les histoires dans le contexte d&rsquo;un concours de narration. Il est tomb\u00e9 malade et se retrouve coinc\u00e9 dans un lazaret avec des soldats qui se remettent de leurs blessures, o\u00f9 il n&rsquo;y a gu\u00e8re d&rsquo;autre moyen de se distraire de la situation actuelle que de parler. Deux des autres d\u00e9tenus se disputent la main d&rsquo;une troisi\u00e8me, Foila, qui a d\u00e9clar\u00e9 qu&rsquo;elle \u00e9pouserait celui qui raconterait la meilleure histoire. Ce cadre narratif s&rsquo;inscrit lui-m\u00eame dans la logique du conte populaire. Mais c&rsquo;est aussi un espace o\u00f9 l&rsquo;action peut se d\u00e9ployer. Foila modifie deux fois les r\u00e8gles du concours pour les adapter \u00e0 ses besoins : d&rsquo;abord pour permettre \u00e0 un troisi\u00e8me d\u00e9tenu, un prisonnier ascien, de participer au concours, puis pour raconter elle-m\u00eame une histoire. Car apr\u00e8s tout :<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">M\u00eame un homme qui courtise une jeune fille en pensant qu&rsquo;il n&rsquo;a pas de rival en a un, et ce rival, c&rsquo;est elle-m\u00eame. Elle peut se donner \u00e0 lui, mais elle peut aussi choisir de se garder pour elle-m\u00eame. Il doit la convaincre qu&rsquo;elle sera plus heureuse avec lui que seule, et bien que les hommes en convainquent souvent les jeunes filles, ce n&rsquo;est pas souvent vrai.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Severian se demande si le prisonnier ascien a lui aussi choisi son histoire pour transmettre un message cach\u00e9, et pourquoi Foila lui a permis de participer. Rien de tout cela n&rsquo;est \u00e9vident : le concours est un labyrinthe d&rsquo;intentions ambigu\u00ebs.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">Je n&rsquo;avais pas appris les choses que je souhaitais le plus apprendre en \u00e9coutant l&rsquo;Ascien et Foila. Quelle \u00e9tait sa motivation pour accepter de laisser l&rsquo;Ascien participer au concours ? Une simple espi\u00e8glerie ? \u00c0 voir ses yeux rieurs, je pouvais facilement le croire. \u00c9tait-elle peut-\u00eatre attir\u00e9e par lui ? J&rsquo;avais plus de mal \u00e0 le croire, mais ce n&rsquo;\u00e9tait certainement pas impossible. Qui n&rsquo;a jamais vu des femmes attir\u00e9es par des hommes d\u00e9pourvus de tout charme ? &#8230; Et lui ? Melito et Hallvard s&rsquo;\u00e9taient accus\u00e9s mutuellement de raconter des histoires dans un but cach\u00e9. L&rsquo;avait-il fait lui aussi ? Si c&rsquo;\u00e9tait le cas, c&rsquo;\u00e9tait s\u00fbrement pour dire \u00e0 Foila \u2014 et \u00e0 nous tous \u2014 qu&rsquo;il n&rsquo;abandonnerait jamais.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Les histoires peuvent transmettre des messages, mais ces messages sont susceptibles (sauf dans les contes les plus simplistes et les plus d\u00e9grad\u00e9s) d&rsquo;\u00eatre en partie obscurcis, et parfois m\u00eame plus obscurs que cela.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L&rsquo;histoire de l&rsquo;Ascien est construite comme un cas tr\u00e8s difficile pour l&rsquo;individualit\u00e9 et le sens. Il vient d&rsquo;une Am\u00e9rique du Nord futuriste qui cherche d\u00e9lib\u00e9r\u00e9ment \u00e0 \u00e9liminer l&rsquo;individualit\u00e9 au profit d&rsquo;une culture impos\u00e9e. \u00c0 Ascia, une fois l&rsquo;enfance pass\u00e9e, les gens ne peuvent s&rsquo;exprimer qu&rsquo;en r\u00e9citant des phrases apprises par c\u0153ur, tir\u00e9es d&rsquo;un petit ensemble de textes approuv\u00e9s. L&rsquo;histoire racont\u00e9e par le prisonnier est donc une succession de quelques dizaines de ces phrases, \u00e0 partir desquelles un auditeur attentif et averti peut construire une histoire.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00c0 premi\u00e8re vue, cela semble \u00eatre une version fantastique de la novlangue d&rsquo;Orwell, une victoire pour l&rsquo;imposition de phrases imprim\u00e9es immuables, et l&rsquo;antith\u00e8se des traditions orales dynamiques d&rsquo;o\u00f9 peuvent \u00e9merger de nouveaux usages et de nouvelles conjonctions. Pourtant, m\u00eame dans ce syst\u00e8me linguistique d\u00e9lib\u00e9r\u00e9ment restreint et \u00e9triqu\u00e9, l&rsquo;ambigu\u00eft\u00e9 des intentions peut \u00e9merger des fissures et des interstices de la tradition impos\u00e9e. Le r\u00e9cit ne peut \u00eatre enti\u00e8rement confin\u00e9 dans la prison artificielle du langage.<\/p>\n\n\n\n<blockquote class=\"wp-block-quote is-layout-flow wp-block-quote-is-layout-flow\">\n<p class=\"wp-block-paragraph\">J&rsquo;ai appris une fois de plus \u00e0 quel point le r\u00e9cit d&rsquo;une histoire est multiforme. Aucun n&rsquo;est sans doute plus simple que celui de l&rsquo;Ascien, mais que signifiait-il ? \u00c9tait-il destin\u00e9 \u00e0 louer le Groupe des Dix-Sept ? La simple terreur de leur nom avait mis en d\u00e9route les malfaiteurs. \u00c9tait-il destin\u00e9 \u00e0 les condamner ? Ils avaient entendu les plaintes de l&rsquo;homme juste, mais ils n&rsquo;avaient rien fait pour lui, si ce n&rsquo;est lui apporter leur soutien verbal. Rien n&rsquo;indiquait qu&rsquo;ils feraient jamais plus.<\/p>\n<\/blockquote>\n\n\n\n<p class=\"wp-block-paragraph\">Severian ne comprend pas l&rsquo;intention du r\u00e9cit, ni l&rsquo;intention de l&rsquo;Ascien en le racontant. Pourtant, sa conviction qu&rsquo;il y a une intentionnalit\u00e9 dans le r\u00e9cit et chez le narrateur, aussi obscure ou floue soit-elle &#8211; peut-\u00eatre m\u00eame floue pour l&rsquo;Ascien lui-m\u00eame &#8211; est ce qui rend l&rsquo;histoire humaine. Raconter une histoire est un acte de langage humain, par lequel un \u00eatre humain cherche d\u00e9lib\u00e9r\u00e9ment \u00e0 communiquer avec les autres. Le choix de certaines phrases toutes faites plut\u00f4t que d&rsquo;autres, combin\u00e9 aux circonstances dans lesquelles elles sont prononc\u00e9es, permet de transmettre un sens et une ambigu\u00eft\u00e9, tous deux si \u00e9troitement li\u00e9s qu&rsquo;il est impossible de les s\u00e9parer. Comme Wolfe le dit ailleurs, prononcer un mot est futile s&rsquo;il n&rsquo;y a pas d&rsquo;autres mots, des mots qui ne sont pas prononc\u00e9s. Le sens qui se cache derri\u00e8re le choix de certains mots ou expressions toutes faites, de certaines figures de style plut\u00f4t que d&rsquo;autres, est difficile \u00e0 saisir, mais nous nous effor\u00e7ons de comprendre ce sens, car certains choix ont de l&rsquo;importance pour nous. Nous sommes plus que les porteurs d&rsquo;une id\u00e9ologie.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">C&rsquo;est ce qui distingue les histoires humaines des productions des LLM. \u00c0 certains \u00e9gards, les LLM sont <em>beaucoup<\/em> plus ouvertes que les petits livres rouges du Groupe des Dix-Sept. En effet, comme le souligne Varshney, les LLM ne sont en fait pas bien repr\u00e9sent\u00e9s par l&rsquo;expression courante \u00ab perroquets stochastiques \u00bb, car ils peuvent proposer des combinaisons novatrices. M\u00eame en 2023, ils pouvaient faire des choses \u00e9tranges et inattendues, comme inventer des phrases en pseudo-latin, comme je l&rsquo;ai d\u00e9couvert lorsque j&rsquo;ai demand\u00e9 \u00e0 l&rsquo;un d&rsquo;eux de r\u00e9\u00e9crire l&rsquo;intrigue d&rsquo;Hamlet dans le style d&rsquo;un manuel de chimie.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cependant, ils sont par d\u00e9finition incapables de l&rsquo;ambigu\u00eft\u00e9 que le prisonnier ascien peut atteindre par la simple combinaison de slogans appris par c\u0153ur. Il n&rsquo;y a pas lieu de s&rsquo;interroger sur les motivations des LLM pour dire certaines choses, car ils n&rsquo;ont aucune motivation \u00e0 ce sujet. Comme le soutient Weatherby, les LLM ont des \u00ab cartes thermiques \u00bb qui r\u00e9sument les corr\u00e9lations entre les th\u00e8mes, les tropes et les mots, plut\u00f4t que des intentions.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Comme je l&rsquo;ai not\u00e9 au d\u00e9but, Weatherby rejette \u00ab l&rsquo;humanisme r\u00e9siduel \u00bb, c&rsquo;est-\u00e0-dire les efforts id\u00e9ologiques visant \u00e0 distinguer la culture humaine des syst\u00e8mes qui la perp\u00e9tuent. Mais il reconna\u00eet la distinction entre la po\u00e9sie &#8211; un syst\u00e8me de conventions et d&rsquo;usages &#8211; et le sonnet individuel qui \u00ab unit la po\u00e9sie \u00e0 une intention \u00bb. M\u00eame si les LLM sont constitu\u00e9s de po\u00e9sie, ils sont incapables de produire des po\u00e8mes. Ou, pour reprendre les termes de Wolfe, la forme \u00e9pique et les LLM sont tous deux des r\u00e9cits, mais ils sont incapables de raconter des histoires. Cela n\u00e9cessite le mariage de la structure et de l&rsquo;intention que procure la m\u00e9diation humaine. Les LLM sont une sorte de composite du chant des contes, mais ils ne sont pas des chanteurs, m\u00eame si nous les interpr\u00e9tons parfois \u00e0 tort comme tels.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">*******<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">R\u00e9fl\u00e9chir ainsi aux r\u00e9cits \u2013 et peut-\u00eatre \u00e0 l&rsquo;art en g\u00e9n\u00e9ral \u2013 ne conduit pas \u00e0 des conclusions tr\u00e8s cat\u00e9goriques sur la relation entre les valeurs humanistes et les vastes structures impersonnelles. Tout au plus, je pense, cela offre un espace commun o\u00f9 les personnes concern\u00e9es par l&rsquo;une peuvent plus facilement dialoguer avec les autres, et o\u00f9 les points d&rsquo;accord et de d\u00e9saccord deviennent plus visibles. Et peut-\u00eatre m\u00eame pas cela : je m&rsquo;aventure bien au-del\u00e0 de mes domaines d&rsquo;expertise et j&rsquo;ai peut-\u00eatre commis une erreur. M\u00eame si c&rsquo;est le cas, je continue de croire que l&rsquo;humanisme n&rsquo;est pas incompatible avec la reconnaissance des grandes structures, ni le structuralisme avec la reconnaissance de l&rsquo;importance des intentions humaines.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cela laisse ouverte la question de savoir si les LLM et leurs cousins (par exemple les mod\u00e8les de diffusion) peuvent produire de l&rsquo;art. L&rsquo;art implique-t-il n\u00e9cessairement une intention humaine ? Peut-\u00eatre pas n\u00e9cessairement. Je soup\u00e7onne que lorsque les artistes commenceront \u00e0 utiliser ces outils, bon nombre des effets qu&rsquo;ils produiront s&rsquo;appuieront sur ce que Mark Fisher <a href=\"https:\/\/www.programmablemutter.com\/p\/large-language-models-are-uncanny\">appelle \u00ab l&rsquo;\u00e9trange \u00bb<\/a> : le sentiment que l&rsquo;action fait d\u00e9faut l\u00e0 o\u00f9 elle devrait \u00eatre, et que quelque chose d&rsquo;\u00e9trange s&rsquo;est gliss\u00e9 pour combler le vide. D&rsquo;autres peuvent contester le fait que ces productions soient r\u00e9ellement de l&rsquo;art ou quelque chose de diff\u00e9rent. D&rsquo;autres encore peuvent affirmer que m\u00eame si l&rsquo;IA est \u00e9loign\u00e9e des intentions humaines, elle reste <a href=\"https:\/\/joinreboot.org\/p\/artificial-means-human-made\">humaine<\/a>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Je ne suis pas la personne la mieux plac\u00e9e pour arbitrer ces d\u00e9saccords, et encore moins pour les r\u00e9soudre, mais j&rsquo;aimerais qu&rsquo;ils soient mieux et plus clairement formul\u00e9s. Les technologies telles que les LLM ne vont ni transcender l&rsquo;humanit\u00e9, comme l&rsquo;esp\u00e8rent encore certains irr\u00e9ductibles, ni dispara\u00eetre, comme le souhaiteraient d&rsquo;autres irr\u00e9ductibles. Nous allons devoir trouver des moyens d&rsquo;en parler mieux et plus clairement.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"wp-block-paragraph\">* Une blague que je n&rsquo;ai vue reprise nulle part concerne le \u00ab Cumaean \u00bb, qui, dans la version de Wolfe, est un extraterrestre serpentiforme, couvert d&rsquo;\u00e9cailles qui ressemblent \u00e0 des visages humains. Naturellement, Wolfe n&rsquo;utilise jamais le mot \u00ab pythoness \u00bb en rapport avec le Cumaean ou autre, laissant au lecteur le soin de d\u00e9couvrir le lien.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">** Des exp\u00e9riences informelles sugg\u00e8rent que la version la plus r\u00e9cente de Claude Opus est devenue assez dou\u00e9e pour reproduire le pentam\u00e8tre iambique (une m\u00e9trique que j&rsquo;ai choisie pour la raison semi-arbitraire que quelques extraterrestres de Wolfe s&rsquo;expriment exclusivement dans cette m\u00e9trique). Ironiquement, Claude Sonnet n&rsquo;en est pas capable. La version la plus r\u00e9cente de GPT non plus.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<h2 class=\"wp-block-heading has-text-align-center\">Voir la&nbsp;<a href=\"https:\/\/www.gillesenvrac.ca\/carnet\/traductions-2\/\">LISTE \u00c9VOLUTIVE des articles<\/a><br><a href=\"https:\/\/www.gillesenvrac.ca\/carnet\/traductions-2\/\">traduits par Gilles en vrac\u2026<\/a><\/h2>\n","protected":false},"excerpt":{"rendered":"<p>Traduction de Large Language Models As The Tales That Are Sung, par Henry Farrell, 2025.12.01 Lorsque j&rsquo;ai \u00e9crit il y a quelques mois sur les diff\u00e9rentes fa\u00e7ons d&rsquo;envisager l&rsquo;IA en tant que technologie culturelle, j&rsquo;ai omis une approche : l&rsquo;humanisme. Il s&rsquo;agit d&rsquo;un ensemble de conceptions qui s&rsquo;opposent aux grands mod\u00e8les linguistiques au motif qu&rsquo;ils &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/gillesenvrac.ca\/carnet\/llm-contes-chantes\/\" class=\"more-link\">Continuer la lecture<span class=\"screen-reader-text\"> de &laquo;&nbsp;Les grands mod\u00e8les linguistiques comme les contes chant\u00e9s&nbsp;&raquo;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"open","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-8800","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":8403,"url":"https:\/\/gillesenvrac.ca\/carnet\/llm-technologies-culturelles\/","url_meta":{"origin":8800,"position":0},"title":"Les grands mod\u00e8les linguistiques sont des technologies culturelles. Qu&rsquo;est-ce que cela signifie ?","author":"Gilles Beauchamp","date":"18 ao\u00fbt 2025","format":false,"excerpt":"Quatre perspectives diff\u00e9rentes HENRY FARRELL18 AO\u00dbT 2025 Traduction de Large language models are cultural technologies. What might that mean? Cela fait cinq mois qu'Alison Gopnik, Cosma Shalizi, James Evans et moi-m\u00eame avons \u00e9crit pour affirmer que nous ne devrions pas consid\u00e9rer les grands mod\u00e8les linguistiques (LLM) comme des \u00ab agents\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM.png?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":9883,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/ecrire-a-votre-place\/","url_meta":{"origin":8800,"position":1},"title":"\u00c9crire avec l&rsquo;IA revient \u00e0 laisser l&rsquo;IA \u00e9crire \u00e0 votre place","author":"Gilles Beauchamp","date":"8 avril 2026","format":false,"excerpt":"Si vous avez besoin d'un grand mod\u00e8le linguistique pour \u00e9crire, vous n'\u00eates pas un \u00e9crivain Traduction de Writing with AI is the same as writing by AI par James O'Sullivan, 5 avril 2026 Les corpus d'entra\u00eenement des grands mod\u00e8les linguistiques comprennent des milliards de mots issus de textes prot\u00e9g\u00e9s par\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9455,"url":"https:\/\/gillesenvrac.ca\/carnet\/philo-transcendantale-des-llm\/","url_meta":{"origin":8800,"position":2},"title":"Une philosophie transcendantale des grands mod\u00e8les linguistiques","author":"Gilles Beauchamp","date":"25 f\u00e9vrier 2026","format":false,"excerpt":"Traduction de A Transcendental Philosophy of Large Language Models par M. Beatrice Fazi, 10 juillet 2025. R\u00e9sum\u00e9 : Dans cet article, M. Beatrice Fazi r\u00e9pond au commentaire de Shane Denson sur son article \u00ab The Computational Search for Unity: Synthesis in Generative AI \u00bb (La recherche computationnelle de l'unit\u00e9 :\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":8631,"url":"https:\/\/gillesenvrac.ca\/carnet\/machines-ignorantes\/","url_meta":{"origin":8800,"position":3},"title":"Ce que les machines ignorent","author":"Gilles Beauchamp","date":"21 octobre 2025","format":false,"excerpt":"Traduction de What Machines Don't Know par Eryk Salvaggio, 12 octobre 2025 Imaginer le langage sans imagination Il est important de reconna\u00eetre que les grands mod\u00e8les linguistiques sont complexes. Il existe une dichotomie simpliste dans les discussions en ligne entre la caract\u00e9risation d\u00e9daigneuse des LLM comme \u00ab pr\u00e9dicteurs du mot\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10671,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/llm-et-reification-automatisee\/","url_meta":{"origin":8800,"position":4},"title":"Mod\u00e8les linguistiques et r\u00e9ification automatis\u00e9e","author":"Gilles Beauchamp","date":"17 juin 2026","format":false,"excerpt":"Traduction de Language Models and Automated Reification par Ben Recht sur Substack, le 12 juin 2026. Leif Weatherby, Tyler Shoemaker et moi-m\u00eame avons publi\u00e9 aujourd\u2019hui un nouvel essai dans The Ideas Letter (traduction par GB : R\u00e9ifiez ceci) sur la cr\u00e9ation de la r\u00e9alit\u00e9 par le biais de la pseudoscience,\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Recht.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Recht.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Recht.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Recht.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Recht.webp?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":10178,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/la-rationalite-des-machines-linguistiques\/","url_meta":{"origin":8800,"position":5},"title":"La rationalit\u00e9 des machines linguistiques","author":"Gilles Beauchamp","date":"7 mai 2026","format":false,"excerpt":"Les grands mod\u00e8les linguistiques sont-ils math\u00e9matiquement rationnels ? Traduction de The Rationality of the Language Machines par Ben Recht, publi\u00e9 sur Substack, le 7 mai 2026. Ce que j\u2019aime le moins dans l\u2019\u00e9criture de livres, c\u2019est leur caract\u00e8re d\u00e9finitif. \u00c0 peine ai-je pris le temps de feuilleter un exemplaire papier\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/rationnalite_1.webp?resize=1400%2C800&ssl=1 4x"},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/8800","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=8800"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/8800\/revisions"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=8800"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}