Traduction de Large Language Models As The Tales That Are Sung, par Henry Farrell, 2025.12.01
Lorsque j’ai écrit il y a quelques mois sur les différentes façons d’envisager l’IA en tant que technologie culturelle, j’ai omis une approche : l’humanisme. Il s’agit d’un ensemble de conceptions qui s’opposent aux grands modèles linguistiques au motif qu’ils remplacent la culture humaine par quelque chose de machinal et d’étranger. Je ne voyais pas comment concilier cette approche avec les autres que j’ai évoquées, qui envisagent la culture de différentes manières. Leif Weatherby, par exemple, critique vivement ce qu’il décrit comme « l’humanisme résiduel », qui, selon lui, ignore les grands systèmes inhumains, notamment le langage humain, qui produisent réellement la culture.
Je suis intellectuellement sensible aux arguments de Weatherby, mais je suis également sensible à certaines formes d’humanisme, et j’ai réfléchi à la manière de mettre les deux en dialogue. La rédaction d’un article qui tente de le faire m’a pris un certain temps. Ce ne sont pas les types d’arguments dans lesquels je me spécialise en tant que chercheur. Le chemin intellectuel étrange que j’ai choisi passe par la science-fiction de Gene Wolfe et les études folkloriques d’Albert B. Lord. Je prends également des libertés avec les idées de mes amis et d’autres personnes, qui ne sont en aucun cas responsables des abominations intellectuelles que je commets. Caveat lector.
Wolfe et Lord sont tous deux décédés avant que les LLM ne deviennent une réalité. Néanmoins, ils ont tous deux réfléchi à la relation entre l’immensité du langage et de la culture humaine et le désir plus particulier des êtres humains de raconter leurs propres histoires. Je comprends leurs idées comme impliquant que les LLM ont beaucoup en commun avec les traditions anciennes auxquelles s’inspirent les conteurs. Ce n’est pas simplement que les compressions que les LLM tirent d’énormes corpus de textes ressemblent, et incorporent sans doute, les personnages, les phrases toutes faites, les tropes, les situations et les structures narratives que les conteurs tissent ensemble. C’est que les LLM et les traditions narratives sont des structures similaires : des corpus à grande échelle de connaissances culturelles génériques qui sont utilisés de manière quelque peu prévisible pour créer des instances culturelles spécifiques.
Ce n’est pas une affirmation originale de ma part. Elle trouve son origine dans une remarque secondaire envoyée par e-mail par Cosma Shalizi au sujet des LLM et de The Singer of Tales, ainsi que dans sa longue discussion sur les LLM ici. Kush R. Varshney est parvenu indépendamment à la même comparaison dans cet article, qui examine la relation entre les LLM et les idées de Lord d’un point de vue technique. Je suis également influencé, d’une manière difficile à définir, par le travail de ma grand-tante, Maire MacNeill. Elle était une folkloriste qui est décédée trop tôt pour que je la connaisse bien, mais dont les écrits et les traductions ont façonné mon enfance : The Festival of Lughnasa, un recueil de contes de fées issus de la tradition orale de l’ouest du Donegal ; le livre du conteur Sean O’Conaill, qui vivait sur la même péninsule que celle d’où venait la famille de John McCarthy. Plus que la plupart des enfants, j’ai grandi au milieu des structures culturelles du folklore, sans jamais vraiment réfléchir à ce qu’elles impliquaient.
Les LLM ressemblent au folklore dans leur structure, mais diffèrent dans leur relation à l’intentionnalité et à la performance. D’une certaine manière, les histoires sont des assemblages de tropes sur les troisièmes fils, les anneaux enchantés, les animaux aidants et autres. D’une autre manière, tout aussi importante, les histoires n’existent pas tant qu’elles ne sont pas racontées et sont le produit des circonstances dans lesquelles elles sont racontées. Leur signification ne reflète pas seulement une tradition commune, mais aussi les circonstances particulières dans lesquelles elles sont racontées : un être humain s’adressant à d’autres êtres humains, coupant ou étirant le tissu du récit au fur et à mesure qu’il se tisse, pour l’adapter aux désirs, aux attentes et aux réactions de son public. En cela, les histoires diffèrent des LLM, qui incarnent la tradition elle-même, dans sa nudité indifférente et inhumaine. Les LLM ne sont pas le chanteur, malgré leur réactivité apparente, mais les relations structurelles des contes qui sont chantés. Néanmoins, nous pouvons désormais écouter et même interroger ces structures sans intermédiaire humain immédiat. C’est une nouveauté.
*******
Gene Wolfe est l’un des grands auteurs de science-fiction, bien qu’il soit peu connu en dehors du genre. Ted Chiang le cite comme une influence importante. Ursula Le Guin le compare à Melville qui, comme Wolfe, chargeait ses récits d’aventures de spéculations théologiques et métaphysiques. Kim Stanley Robinson le compare à Proust, dont le style prosaïque et la perception du temps comme un rêve lucide ont été mis à profit par Wolfe. Wolfe a eu peu d’influence sur les débats autour de l’IA, contrairement à certains de ses pairs moins talentueux. Cela devrait peut-être changer.
Wolfe était ingénieur, mais sa grande passion était les récits. Comme le remarque Severian, le narrateur imaginaire de son grand œuvre, les cinq livres de « New Sun », après un concours de narration :
il me semble souvent que parmi toutes les bonnes choses du monde, les seules que l’humanité peut revendiquer pour elle-même sont les histoires et la musique ; le reste, la miséricorde, la beauté, le sommeil, l’eau potable et la nourriture chaude (comme l’aurait dit l’Ascien) sont tous l’œuvre du Non-Créé. Ainsi, les histoires sont certes insignifiantes dans l’ordre de l’univers, mais il est difficile de ne pas aimer avant tout ce qui nous appartient – difficile pour moi, du moins.
De cette histoire, bien qu’elle soit la plus courte et la plus simple de toutes celles que j’ai consignées dans ce livre, j’ai le sentiment d’avoir appris plusieurs choses importantes. Tout d’abord, à quel point notre discours, que nous pensons être le fruit de notre imagination, est constitué d’expressions toutes faites. L’Ascien semblait ne parler qu’avec des phrases qu’il avait apprises par cœur, même si nous ne les avions jamais entendues avant qu’il ne les utilise pour la première fois. Foila semblait parler comme le font généralement les femmes, et si on m’avait demandé si elle utilisait de telles expressions, j’aurais répondu que non, mais combien de fois aurait-on pu prédire la fin de ses phrases dès leur début ?
Je reviendrai plus loin sur « cette histoire » (racontée par un prisonnier ascien). Pour l’instant, notez simplement la tension que Wolfe identifie. Severian (qui s’exprime vraisemblablement au nom de Wolfe) décrit les histoires comme quelque chose qui nous est propre, qui est proprement humain. Mais il note également qu’elles sont composées d’un langage prévisible, d’un mélange d’éléments standard ou de « locutions figées », à l’instar de notre langage courant. Ces locutions sont assemblées en phrases très redondantes.
Il en va de même pour les contes que nous racontons avec ce langage. Eux aussi sont régulièrement construits à partir d’éléments standard, comme l’ont fait valoir Propp et d’autres. Dans un précédent livre de la série New Sun, un enfant demande à Severian de « trouver une histoire avec un garçon qui a un grand ami et un jumeau. Il devrait y avoir des loups. » Les garçons, les amis animaux et les jumeaux apparaissent régulièrement dans les contes populaires, ainsi que de nombreux autres éléments types. L’une des conséquences est que les contes populaires peuvent être recombinés plus facilement que d’autres formes narratives telles que les romans ou les poèmes écrits ; ils sont un mélange hétéroclite dès le départ. L’histoire que Severian raconte au garçon mêle celle du Livre de la jungle au sauvetage du petit Moïse, à la rivalité entre Romulus et Remus (qui, comme Mowgli, ont été allaités par des loups) et à la fondation de l’Amérique coloniale. Dans le futur lointain de Severian, nos histoires et notre histoire se sont mélangées pour devenir partie intégrante du fonds commun de la sagesse collective humaine.
La méprise devient une source de nouvelles variations. Une autre histoire racontée par Severian confond le héros Thésée avec la thèse d’un étudiant diplômé, tandis que le Minotaure et le bateau à vapeur Monitor sont fusionnés en un géant redoutable doté d’un « naviscaput », errant dans un labyrinthe de canaux ensablés spécialement conçus pour épuiser sa proie. Wolfe ressemble à Joyce ainsi qu’à Proust et Melville dans son goût pour les jeux de mots et les calembours parfois terribles*.
Pourtant, ce jeu n’est pas complètement ouvert. Il s’appuie sur un système et en découle. La remarque de Wolfe selon laquelle « on aurait souvent pu prédire la fin des phrases [de Foila] dès leur début » rappelle fortement les idées de Claude Shannon. Cette prévisibilité est au cœur de la théorie prédictive du langage de Shannon, qui a elle-même été le point de départ intellectuel du développement des grands modèles linguistiques. Un « modèle statistique du langage », qui rend l’ouverture du langage (sa version particulière de la « malédiction de la dimensionnalité ») gérable, combiné aux possibilités particulières de l’architecture du transformateur, alimente la prédiction du prochain token des LLM.
Wolfe aimait beaucoup les histoires, mais il était aussi ingénieur. Je soupçonne que la ressemblance entre la critique de Severian et les idées de Shannon est le fruit d’un artifice délibéré. À ma connaissance, il n’existe aucune preuve explicite que Wolfe ait lu Shannon (peut-être peut-on en trouver dans ses essais techniques pour Plant Engineering, qui n’ont jamais été rassemblés), mais ailleurs dans les livres, Severian présente une théorie de la connaissance des magiciens qui repose sur la théorie de la signalisation et la transmission avec perte.
Pourtant, Severian n’aime pas les histoires parce qu’elles sont une extrapolation statistique des structures sous-jacentes du langage et de la culture. Il les aime parce qu’elles sont humaines. Comment les histoires humaines émergent-elles de vastes systèmes sans être réductibles à ceux-ci ?
*******
Cette question est explorée dans un autre livre extraordinaire, The Singer of Tales (disponible gratuitement en ligne) d’Albert B. Lord. Lord s’est appuyé sur les travaux de Milman Parry, qu’il avait aidé à enregistrer des chanteurs de contes yougoslaves au milieu des années 1930. À partir de cette expérience et de ces archives, Lord a construit un récit plus large de la tradition orale, qui, selon lui, englobait Homère et d’autres chanteurs d’histoires épiques. Par extension, son argumentation couvre également d’autres formes de tradition orale, telles que les contes de fées irlandais que ma grand-tante et d’autres ont traduits, compilés et cherché à comprendre.
Parry et Lord ont écouté des chanteurs dont les contes décrivaient les grands héros, les méchants et les batailles du passé (sans surprise, compte tenu des aspérités de l’histoire yougoslave, les chanteurs chrétiens et musulmans n’étaient pas d’accord sur qui étaient les héros et qui étaient les méchants, bien que les chanteurs chrétiens pouvaient adapter leurs histoires pour un public musulman et vice versa). Les anthropologues ont enregistré ces chansons sur des disques rudimentaires. Ces chansons étaient les derniers vestiges d’une tradition transmise par des chanteurs et des conteurs analphabètes (même si, lorsque Parry et Lord les ont entendues, leurs chanteurs commençaient déjà à être influencés par la culture écrite). Certaines chansons étaient très longues, mais les chanteurs accomplis pouvaient en chanter un grand nombre. Comment y parvenaient-ils, compte tenu des défauts et des faiblesses de la mémoire humaine ?
Selon Lord, la réponse ne réside pas dans la mémorisation par cœur, mais dans la nature même de la tradition orale dont ils s’inspiraient. Si les chanteurs eux-mêmes affirmaient pouvoir reproduire les chansons à la perfection et sans erreur, leur conception de la perfection différait de la nôtre. Ni les chants épiques, ni la tradition plus large dont ils s’inspiraient n’étaient des textes immuables. Au contraire, les épopées spécifiques qu’ils chantaient et la forme épique elle-même étaient mieux comprises comme une sorte de « structure dynamique » capable de générer de nouvelles instances culturelles.
Cette structure était une sorte de « grammaire », un ensemble de règles qui déterminaient non seulement la métrique, mais aussi le déroulement de l’histoire, les thèmes mis en avant et ceux supprimés, etc.
En étudiant les schémas et les systèmes de la poésie narrative orale, nous observons en réalité la « grammaire » de la poésie, une grammaire qui se superpose, pour ainsi dire, à la grammaire de la langue concernée. Ou, pour modifier l’image, nous trouvons une grammaire spéciale au sein de la grammaire de la langue, rendue nécessaire par la versification.
Les chanteurs construisaient leurs récits autour de « thèmes » ou de situations fixes, tels que la « réunion du conseil » au cours de laquelle la possibilité d’une bataille est discutée. Pour décrire ces thèmes, ils puisaient dans un « fonds commun » de formules qu’ils déployaient ensuite pour concilier les personnages, le style de l’histoire, les attentes du public et la métrique de la chanson. Les différents chanteurs avaient des répertoires de formules légèrement différents, qui pouvaient être plus ou moins importants, selon les cas.
Le chanteur n’arrête jamais d’accumuler, de recombiner et de remodeler des formules et des thèmes, perfectionnant ainsi son chant et enrichissant son art.
Les chanteurs pouvaient inventer leurs propres variations, qui pouvaient à leur tour être copiées par d’autres. Tout cela perpétuait une tradition qui se recréait continuellement dans sa propre interprétation. Dans la tradition orale, les épopées ne sont pas des textes fixes, mais des systèmes génératifs de chansons, articulés, réarticulés et adaptés à l’infini sous des formes variées, en fonction des particularités du chanteur et des circonstances dans lesquelles il chante. Comme le dit Lord : « on ne peut pas parler correctement de « variante », puisqu’il n’y a pas d’original à varier ».
Comme Cosma l’a souligné, il existe une ressemblance remarquable entre les LLM et la description que fait Lord de la tradition orale. En effet, les LLM, comme les chanteurs de Lord, ont maîtrisé les tropes à partir desquels les contes sont construits, mais au niveau de la culture écrite elle-même plutôt qu’au niveau d’une forme ou d’un genre narratif particulier.
Une énorme partie de la tradition culturelle, et en particulier intellectuelle, est constituée de formules, de modèles, de conventions et, en fait, de figures de style et de stéréotypes. Dans une certaine mesure, cela permet de réduire la charge cognitive des créateurs : ce phénomène a été largement étudié dans le domaine de la culture orale, comme les épopées orales. …
Les formules facilitent la création et la compréhension une fois que vous les avez apprises. La manière habituelle de procéder consiste à s’immerger dans les artefacts de la tradition jusqu’à ce que les formules commencent à s’imprégner, puis à s’essayer à la création de ces artefacts, idéalement sous la supervision d’une personne qui maîtrise déjà la tradition. (Le but de ces efforts n’était pas vraiment d’obtenir les artefacts, mais d’intérioriser les formes.) La plupart des formules ne sont pas articulées consciemment, même par ceux qui sont profondément immergés dans la tradition.
Les grands modèles ont appris presque toutes les formules, les modèles, les tropes et les stéréotypes. (Après tout, ce sont des modèles probabilistes de séquences de texte.) Pour reprendre la distinction de Barzun, ils ne mettront pas à disposition une intelligence créative, mais plutôt un intellect stocké et accumulé. S’ils parviennent à rendre les gens plus intelligents, ce sera en leur donnant accès aux formes externes d’une myriade de traditions.
Beaucoup pensent que les LLM nous ramènent à quelque chose qui s’apparente à la culture orale. Mais rares sont ceux qui s’intéressent de manière très intelligente aux détails du fonctionnement de la culture orale. La culture orale, comme les LLM, implique des abstractions avec perte qui servent également de systèmes génératifs. Elle produit elle aussi une myriade de variations sur des thèmes communs, en les adaptant à des sollicitations et des circonstances particulières. Elle n’est pas non plus conçue pour transmettre mot pour mot l’œuvre sur laquelle elle a été formée. Lorsque Varshney décrit les formules de Lord comme « des solutions heuristiques à des problèmes d’optimisation contraints qui doivent être résolus en temps réel », il utilise un langage que Lord aurait peut-être trouvé étrange (mais peut-être pas non plus ; Jakobson faisait partie de son comité de thèse), mais que Wolfe aurait facilement reconnu.
Une fois encore, c’est une erreur de traiter les épopées orales ou les LLM comme des textes fixes. D’un point de vue analytique, ce sont des systèmes permettant de produire des formes culturelles particulières, qui adhèrent à des règles, des stéréotypes et des attentes spécifiques. On peut s’attendre à ce qu’ils soient imparfaits de manière similaire. Lord note que les chanteurs emploient le « principe d’économie ». Une fois qu’ils ont découvert une bonne technique pour résoudre un type particulier de problème textuel (par exemple, concilier un type particulier de description avec la métrique attendue), ils la déploient encore et encore. Les LLM ont leur propre principe d’économie, de sorte que leurs compressions mettent l’accent sur les modèles culturels courants au détriment de ceux qui sont rarement rencontrés dans leurs données d’entraînement.
Il s’avère que les LLM ne sont pas très doués pour les rimes et la métrique du langage (peut-être parce qu’ils sont formés sur des textes écrits plutôt que sur leur interprétation orale).** Mais de nombreux aspects du travail et de la culture humains impliquent une combinaison de modèles et de stéréotypes largement similaire à celle utilisée par les chanteurs de contes. Je soupçonne que cela contribue à expliquer la facilité avec laquelle les LLM effectuent de nombreuses tâches de programmation, car la programmation consiste également à déterminer comment appliquer une formule courante à un problème particulier. La poïétique du programmeur est plus proche de la poïétique héroïque du barde que nous ne le pensons. Comme le dit l’un de mes vieux t-shirts XKCD : stand back – I know regular expressions! (Reculez, je connais les expressions régulières !) Il en va de même pour les performances aux olympiades de mathématiques.
Et peut-être aussi pour une grande partie de la pratique des sciences sociales ? Dani Rodrik a écrit qu’une grande partie de l’art de l’économiste consiste à accumuler une vaste bibliothèque mentale de modèles mathématiques et à acquérir une compréhension intuitive du modèle à utiliser dans chaque situation. De même, il y a lieu de soupçonner que les capacités des LLM à appliquer leurs compressions et transformations à des défis inattendus et à des aspects de l’environnement physique ou social qui ne se traduisent pas facilement sous forme de tableur sont fortement limitées.
Le point fondamental est donc que beaucoup de la culture et des efforts humains ne dépendent pas seulement de compressions avec perte, mais impliquent des systèmes dynamiques qui combinent et appliquent ces compressions de manière utile. Ces combinaisons peuvent être surprenantes (impliquant des juxtapositions inattendues), même si elles auront probablement une originalité limitée. De même, l’originalité peut être inutile pour de nombreuses tâches, voire surestimée : Lord suggère que notre désir d’originalité artistique peut être lié aux inquiétudes suscitées par l’imprimerie et les autres technologies de production précise qui ont supplanté la culture orale :
L’expression est [le métier du chanteur], et non l’originalité, qui est en fait un concept qui lui est tout à fait étranger et qu’il éviterait s’il le comprenait. … Il existe des périodes et des styles dans lesquels l’originalité n’est pas une priorité.
Nous pouvons peut-être nous attendre à ce que, dans un avenir proche, nous revenions à une certaine forme de ces normes d’expression, dans la mesure où les LLM deviennent culturellement dominants. Peut-être devrions-nous plutôt anticiper une réaction culturelle à leur encontre, qui renforcerait l’importance accordée à l’originalité.
Quoi qu’il arrive, Lord suggère que la culture humaine n’a pas besoin d’être originale pour être humaine au sens où l’entendent des écrivains tels que Wolfe. Les systèmes structurels tels que les épopées peuvent créer des possibilités de sens humain. Comme il le dit, « le style n’est pas vraiment aussi mécanique que sa systématisation semble le suggérer ». Les contes ne fonctionneraient pas s’ils n’étaient qu’un simple mélange de clichés attendus.
Plus important encore, les histoires sont interprétées dans des contextes qui mettent l’accent sur la relation entre le chanteur et le public. Lorsque le chanteur chante, « la chanson produite lors de la représentation est la sienne. Le public la reconnaît comme telle parce qu’il se trouve devant lui ». Lord décrit comment le chanteur (apparemment toujours un homme dans la Yougoslavie des années 1930, bien que les femmes soient bien sûr aussi des conteuses) adapte sa représentation de l’histoire au public et à ce qu’il semble vouloir. Si le public semble s’agiter, le conte peut être modifié ou raccourci. Si le récit s’appuie sur une structure, il est interprété dans l’instant présent, dans le contexte des intentions humaines et des relations humaines partagées par le chanteur et l’auditeur.
Il s’agit là d’une différence importante, voire cruciale à certains égards, entre les systèmes culturels génératifs traditionnels, tels que la tradition épique orale en Yougoslavie et son ancêtre et cousin homérique, et les systèmes culturels génératifs algorithmiques, tels que les LLM. Les premiers sont indissociables de leur interprétation dans des contextes humains : le système peut être abstrait de leurs interprétations, mais n’a aucune existence substantielle indépendante de celles-ci. L’existence de la tradition se manifeste à travers les histoires que les humains se racontent. Les LLM, en revanche, sont une condensation et une actualisation de la tradition elle-même et de toutes les autres traditions qui ont été repliées et compressées dans leurs poids statistiques, dépouillées des spécificités des relations humaines et réappliquées à celles-ci sous forme de processus algorithmique. Les LLM ne parlent que lorsqu’on leur demande, mais la suite de ces demandes n’est pas exprimée à travers des relations humaines bidirectionnelles (même si les intentions de la personne qui demande, la formation via RLHF et le réglage fin, etc. affectent certainement les résultats). La personne qui interroge le LLM interroge une représentation imparfaite de la tradition elle-même. Bien sûr, les LLM peuvent alors façonner la compréhension humaine et tromper les gens en les amenant à les traiter comme des humains, mais ils ne le sont pas. Leur abstraction tangible est quelque chose de nouveau et de différent dans son application par rapport aux connaissances culturelles auparavant intangibles qu’ils résument.
Les LLM peuvent donc être raisonnablement compris comme un résumé composite des contes qui sont chantés. Dans leurs applications particulières, ils sont même une version du chant des contes. Mais ils ne sont pas, et ne peuvent être, les chanteurs. Notre relation avec eux et notre interprétation de ce qu’ils nous racontent sont nécessairement différentes de notre relation avec ce que nous nous racontons les uns aux autres et de notre interprétation de ces récits.
*******
Pour comprendre cela, il est utile de revenir au Severian de Wolfe. Comme je l’ai déjà mentionné, Severian fait ses remarques sur les histoires dans le contexte d’un concours de narration. Il est tombé malade et se retrouve coincé dans un lazaret avec des soldats qui se remettent de leurs blessures, où il n’y a guère d’autre moyen de se distraire de la situation actuelle que de parler. Deux des autres détenus se disputent la main d’une troisième, Foila, qui a déclaré qu’elle épouserait celui qui raconterait la meilleure histoire. Ce cadre narratif s’inscrit lui-même dans la logique du conte populaire. Mais c’est aussi un espace où l’action peut se déployer. Foila modifie deux fois les règles du concours pour les adapter à ses besoins : d’abord pour permettre à un troisième détenu, un prisonnier ascien, de participer au concours, puis pour raconter elle-même une histoire. Car après tout :
Même un homme qui courtise une jeune fille en pensant qu’il n’a pas de rival en a un, et ce rival, c’est elle-même. Elle peut se donner à lui, mais elle peut aussi choisir de se garder pour elle-même. Il doit la convaincre qu’elle sera plus heureuse avec lui que seule, et bien que les hommes en convainquent souvent les jeunes filles, ce n’est pas souvent vrai.
Severian se demande si le prisonnier ascien a lui aussi choisi son histoire pour transmettre un message caché, et pourquoi Foila lui a permis de participer. Rien de tout cela n’est évident : le concours est un labyrinthe d’intentions ambiguës.
Je n’avais pas appris les choses que je souhaitais le plus apprendre en écoutant l’Ascien et Foila. Quelle était sa motivation pour accepter de laisser l’Ascien participer au concours ? Une simple espièglerie ? À voir ses yeux rieurs, je pouvais facilement le croire. Était-elle peut-être attirée par lui ? J’avais plus de mal à le croire, mais ce n’était certainement pas impossible. Qui n’a jamais vu des femmes attirées par des hommes dépourvus de tout charme ? … Et lui ? Melito et Hallvard s’étaient accusés mutuellement de raconter des histoires dans un but caché. L’avait-il fait lui aussi ? Si c’était le cas, c’était sûrement pour dire à Foila — et à nous tous — qu’il n’abandonnerait jamais.
Les histoires peuvent transmettre des messages, mais ces messages sont susceptibles (sauf dans les contes les plus simplistes et les plus dégradés) d’être en partie obscurcis, et parfois même plus obscurs que cela.
L’histoire de l’Ascien est construite comme un cas très difficile pour l’individualité et le sens. Il vient d’une Amérique du Nord futuriste qui cherche délibérément à éliminer l’individualité au profit d’une culture imposée. À Ascia, une fois l’enfance passée, les gens ne peuvent s’exprimer qu’en récitant des phrases apprises par cœur, tirées d’un petit ensemble de textes approuvés. L’histoire racontée par le prisonnier est donc une succession de quelques dizaines de ces phrases, à partir desquelles un auditeur attentif et averti peut construire une histoire.
À première vue, cela semble être une version fantastique de la novlangue d’Orwell, une victoire pour l’imposition de phrases imprimées immuables, et l’antithèse des traditions orales dynamiques d’où peuvent émerger de nouveaux usages et de nouvelles conjonctions. Pourtant, même dans ce système linguistique délibérément restreint et étriqué, l’ambiguïté des intentions peut émerger des fissures et des interstices de la tradition imposée. Le récit ne peut être entièrement confiné dans la prison artificielle du langage.
J’ai appris une fois de plus à quel point le récit d’une histoire est multiforme. Aucun n’est sans doute plus simple que celui de l’Ascien, mais que signifiait-il ? Était-il destiné à louer le Groupe des Dix-Sept ? La simple terreur de leur nom avait mis en déroute les malfaiteurs. Était-il destiné à les condamner ? Ils avaient entendu les plaintes de l’homme juste, mais ils n’avaient rien fait pour lui, si ce n’est lui apporter leur soutien verbal. Rien n’indiquait qu’ils feraient jamais plus.
Severian ne comprend pas l’intention du récit, ni l’intention de l’Ascien en le racontant. Pourtant, sa conviction qu’il y a une intentionnalité dans le récit et chez le narrateur, aussi obscure ou floue soit-elle – peut-être même floue pour l’Ascien lui-même – est ce qui rend l’histoire humaine. Raconter une histoire est un acte de langage humain, par lequel un être humain cherche délibérément à communiquer avec les autres. Le choix de certaines phrases toutes faites plutôt que d’autres, combiné aux circonstances dans lesquelles elles sont prononcées, permet de transmettre un sens et une ambiguïté, tous deux si étroitement liés qu’il est impossible de les séparer. Comme Wolfe le dit ailleurs, prononcer un mot est futile s’il n’y a pas d’autres mots, des mots qui ne sont pas prononcés. Le sens qui se cache derrière le choix de certains mots ou expressions toutes faites, de certaines figures de style plutôt que d’autres, est difficile à saisir, mais nous nous efforçons de comprendre ce sens, car certains choix ont de l’importance pour nous. Nous sommes plus que les porteurs d’une idéologie.
C’est ce qui distingue les histoires humaines des productions des LLM. À certains égards, les LLM sont beaucoup plus ouvertes que les petits livres rouges du Groupe des Dix-Sept. En effet, comme le souligne Varshney, les LLM ne sont en fait pas bien représentés par l’expression courante « perroquets stochastiques », car ils peuvent proposer des combinaisons novatrices. Même en 2023, ils pouvaient faire des choses étranges et inattendues, comme inventer des phrases en pseudo-latin, comme je l’ai découvert lorsque j’ai demandé à l’un d’eux de réécrire l’intrigue d’Hamlet dans le style d’un manuel de chimie.
Cependant, ils sont par définition incapables de l’ambiguïté que le prisonnier ascien peut atteindre par la simple combinaison de slogans appris par cœur. Il n’y a pas lieu de s’interroger sur les motivations des LLM pour dire certaines choses, car ils n’ont aucune motivation à ce sujet. Comme le soutient Weatherby, les LLM ont des « cartes thermiques » qui résument les corrélations entre les thèmes, les tropes et les mots, plutôt que des intentions.
Comme je l’ai noté au début, Weatherby rejette « l’humanisme résiduel », c’est-à-dire les efforts idéologiques visant à distinguer la culture humaine des systèmes qui la perpétuent. Mais il reconnaît la distinction entre la poésie – un système de conventions et d’usages – et le sonnet individuel qui « unit la poésie à une intention ». Même si les LLM sont constitués de poésie, ils sont incapables de produire des poèmes. Ou, pour reprendre les termes de Wolfe, la forme épique et les LLM sont tous deux des récits, mais ils sont incapables de raconter des histoires. Cela nécessite le mariage de la structure et de l’intention que procure la médiation humaine. Les LLM sont une sorte de composite du chant des contes, mais ils ne sont pas des chanteurs, même si nous les interprétons parfois à tort comme tels.
*******
Réfléchir ainsi aux récits – et peut-être à l’art en général – ne conduit pas à des conclusions très catégoriques sur la relation entre les valeurs humanistes et les vastes structures impersonnelles. Tout au plus, je pense, cela offre un espace commun où les personnes concernées par l’une peuvent plus facilement dialoguer avec les autres, et où les points d’accord et de désaccord deviennent plus visibles. Et peut-être même pas cela : je m’aventure bien au-delà de mes domaines d’expertise et j’ai peut-être commis une erreur. Même si c’est le cas, je continue de croire que l’humanisme n’est pas incompatible avec la reconnaissance des grandes structures, ni le structuralisme avec la reconnaissance de l’importance des intentions humaines.
Cela laisse ouverte la question de savoir si les LLM et leurs cousins (par exemple les modèles de diffusion) peuvent produire de l’art. L’art implique-t-il nécessairement une intention humaine ? Peut-être pas nécessairement. Je soupçonne que lorsque les artistes commenceront à utiliser ces outils, bon nombre des effets qu’ils produiront s’appuieront sur ce que Mark Fisher appelle « l’étrange » : le sentiment que l’action fait défaut là où elle devrait être, et que quelque chose d’étrange s’est glissé pour combler le vide. D’autres peuvent contester le fait que ces productions soient réellement de l’art ou quelque chose de différent. D’autres encore peuvent affirmer que même si l’IA est éloignée des intentions humaines, elle reste humaine.
Je ne suis pas la personne la mieux placée pour arbitrer ces désaccords, et encore moins pour les résoudre, mais j’aimerais qu’ils soient mieux et plus clairement formulés. Les technologies telles que les LLM ne vont ni transcender l’humanité, comme l’espèrent encore certains irréductibles, ni disparaître, comme le souhaiteraient d’autres irréductibles. Nous allons devoir trouver des moyens d’en parler mieux et plus clairement.
* Une blague que je n’ai vue reprise nulle part concerne le « Cumaean », qui, dans la version de Wolfe, est un extraterrestre serpentiforme, couvert d’écailles qui ressemblent à des visages humains. Naturellement, Wolfe n’utilise jamais le mot « pythoness » en rapport avec le Cumaean ou autre, laissant au lecteur le soin de découvrir le lien.
** Des expériences informelles suggèrent que la version la plus récente de Claude Opus est devenue assez douée pour reproduire le pentamètre iambique (une métrique que j’ai choisie pour la raison semi-arbitraire que quelques extraterrestres de Wolfe s’expriment exclusivement dans cette métrique). Ironiquement, Claude Sonnet n’en est pas capable. La version la plus récente de GPT non plus.