Cela fait cinq mois qu’Alison Gopnik, Cosma Shalizi, James Evans et moi-m\u00eame avons \u00e9crit pour affirmer<\/a> que nous ne devrions pas consid\u00e9rer les grands mod\u00e8les linguistiques (LLM) comme des \u00ab agents intelligents et autonomes \u00bb ouvrant la voie \u00e0 l’intelligence artificielle g\u00e9n\u00e9rale (AGI), mais plut\u00f4t comme des technologies culturelles et sociales. Entre-temps, ces mod\u00e8les se sont ind\u00e9niablement am\u00e9lior\u00e9s \u00e0 divers \u00e9gards. Cependant, m\u00eame Sam Altman a commenc\u00e9 \u00e0 mod\u00e9rer<\/a> son discours sur l’AGI. Je le r\u00e9p\u00e8te. M\u00eame Sam Altman.<\/p>\n\n\n\n Alors, que signifie affirmer que les LLM sont des technologies culturelles (et sociales) ? Cette perspective met de c\u00f4t\u00e9 la pens\u00e9e singulariste, afin de placer les changements culturels et sociaux au centre. Mais cela reste \u00e9videmment trop vague pour \u00eatre particuli\u00e8rement utile. Nous avons besoin de modes de r\u00e9flexion plus sp\u00e9cifiques \u2013 et de d\u00e9saccords constructifs \u2013 sur les cons\u00e9quences que pourraient avoir les LLM.<\/p>\n\n\n\n Cet article est une premi\u00e8re tentative pour d\u00e9crire diff\u00e9rentes fa\u00e7ons dont les gens pourraient utilement r\u00e9fl\u00e9chir aux LLM en tant que technologies culturelles. Quelques r\u00e9serves \u00e9videntes. Il identifie quatre perspectives diff\u00e9rentes ; je suis s\u00fbr qu’il en existe d’autres que je ne connais pas, et il y en aura certainement d’autres \u00e0 l’avenir. Je suis beaucoup plus proche de l’une de ces perspectives que des autres, donc tenez compte de mon parti pris. De plus, je peux me tromper sur ce que pensent les autres, et j’exag\u00e8re certainement certaines diff\u00e9rences entre les perspectives. Consid\u00e9rez cet article moins comme une description d\u00e9finitive de l’\u00e9tat du d\u00e9bat que comme un \u00e9change de points de vue<\/a> destin\u00e9 \u00e0 r\u00e9v\u00e9ler les interpr\u00e9tations erron\u00e9es et \u00e0 clarifier les choses afin qu’un d\u00e9bat appropri\u00e9 puisse peut-\u00eatre s’engager. Enfin, je m’abstiens d\u00e9lib\u00e9r\u00e9ment de d\u00e9terminer laquelle de ces approches est la bonne. Au contraire, en exposant aussi clairement que possible les id\u00e9es qui les motivent, j’esp\u00e8re susciter un d\u00e9bat diff\u00e9rent sur l’utilit\u00e9 de chacune d’entre elles, \u00e0 quel moment et pour quel type de questions.<\/p>\n\n\n\n Je commence par celle-ci car, pour des raisons \u00e9videntes, c’est celle que je connais le mieux. L’expos\u00e9 original<\/a> est celui d’Eunice Yiu, Eliza Kosoy et Alison, qui cherche \u00e0 rapprocher la psychologie cognitive et la th\u00e9orie de l’\u00e9volution. Plus pr\u00e9cis\u00e9ment, ils sugg\u00e8rent que les LLM sont confront\u00e9s \u00e0 des limites strictes dans leur capacit\u00e9 \u00e0 innover de mani\u00e8re utile, car ils n’ont pas de contact direct avec le monde r\u00e9el. Par cons\u00e9quent, nous ne devrions pas les traiter comme des intelligences agissantes, mais comme \u00ab de nouvelles technologies culturelles puissantes, analogues aux technologies ant\u00e9rieures telles que l’\u00e9criture, l’imprimerie, les biblioth\u00e8ques, la recherche sur Internet et m\u00eame le langage lui-m\u00eame \u00bb.<\/p>\n\n\n\n Derri\u00e8re le \u00ab gopnikisme<\/a> \u00bb se cache l’observation banale que les LLM sont des technologies puissantes permettant de manipuler des cha\u00eenes de lettres tokenis\u00e9es. Ils nagent dans l’oc\u00e9an des textes produits par l’homme, plut\u00f4t que dans le monde dont ces textes s’inspirent. Il en va de m\u00eame pour les technologies apparent\u00e9es aux LLM qui manipulent les images, le son et la vid\u00e9o. C’est pourquoi elles sont toutes mal adapt\u00e9es pour traiter le \u00ab probl\u00e8me inverse \u00bb qui consiste \u00e0 reconstruire \u00ab la structure d’un monde ext\u00e9rieur, changeant et nouveau \u00e0 partir des donn\u00e9es que nous recevons de ce monde \u00bb. Comme l’affirment Yiu, Kosoy et Gopnik, la mani\u00e8re dont les LLM modernes \u00ab apprennent \u00bb (\u00e0 travers des entra\u00eenements massifs et co\u00fbteux) est fondamentalement diff\u00e9rente de celle des enfants humains. Les connaissances auxquelles les LLM peuvent acc\u00e9der reposent sur des compressions statistiques statiques de mod\u00e8les pr\u00e9sents dans les informations culturelles g\u00e9n\u00e9r\u00e9es par les humains.<\/p>\n\n\n\n Les gopnikistes sont g\u00e9n\u00e9ralement tr\u00e8s sceptiques quant \u00e0 l’id\u00e9e que l’on puisse parvenir \u00e0 une IA v\u00e9ritablement agentique en augmentant la puissance de calcul et le volume de donn\u00e9es. Ils sugg\u00e8rent plut\u00f4t de comprendre les LLM en termes de cons\u00e9quences pour la culture humaine. Tout comme le langage \u00e9crit, les biblioth\u00e8ques et autres ont fa\u00e7onn\u00e9 la culture dans le pass\u00e9, les LLM, leurs cousins et leurs descendants fa\u00e7onnent la culture aujourd’hui. L’accent est ici mis sur la culture en tant qu’information utile sur le monde. La culture est le syst\u00e8me collectif de connaissances \u00e0 travers lequel les \u00eatres humains recueillent et transmettent des informations sur les aspects de leur environnement (y compris les autres \u00eatres humains) qui ont une incidence sur leurs objectifs, leur survie et leur capacit\u00e9 \u00e0 se reproduire. D’autres animaux ont \u00e9galement une culture, mais les \u00eatres humains sont particuli\u00e8rement sophistiqu\u00e9s<\/a> dans leur capacit\u00e9 \u00e0 transmettre et \u00e0 manipuler les connaissances culturelles, ce qui leur conf\u00e8re divers avantages. Les \u00eatres humains, en particulier les jeunes, explorent le monde et d\u00e9couvrent des informations utiles et int\u00e9ressantes qu’ils peuvent transmettre \u00e0 d’autres. Nous pouvons consid\u00e9rer le changement culturel comme un processus d’\u00e9volution darwinien dans lequel certains types de connaissances se propagent avec succ\u00e8s (elles sont copi\u00e9es et reproduites avec un certain degr\u00e9 d’exactitude), tandis que d’autres disparaissent. Il n’y a aucune raison n\u00e9cessaire de croire que toutes les connaissances qui survivent seront de \u00ab bonnes \u00bb connaissances (des erreurs peuvent certainement persister), mais nous pouvons supposer qu’en moyenne, elles sont susceptibles d’\u00eatre quelque peu utiles.<\/p>\n\n\n\n Tout cela conduit \u00e0 mettre l’accent sur les limites des LLM. Comme les LLM n’ont pas de retour direct entre le contact avec la r\u00e9alit\u00e9 physique et la mise \u00e0 jour, ils ne sont pas facilement capables du type d’apprentissage exp\u00e9rimental qui est la source la plus cruciale d’innovations utiles. Les enfants sont plus dou\u00e9s que les LLM pour d\u00e9couvrir de \u00ab nouvelles relations causales \u00bb dans le monde. Par cons\u00e9quent, le gopnikisme consid\u00e8re les LLM moins comme des d\u00e9couvreurs que comme des m\u00e9canismes de transmission culturelle, influen\u00e7ant la mani\u00e8re dont les connaissances culturelles sont transmises d’un \u00eatre humain \u00e0 un autre. Ils sont potentiellement utiles car ils \u00ab codifient, r\u00e9sument et organisent ces informations de mani\u00e8re \u00e0 permettre et faciliter leur transmission \u00bb. De m\u00eame, ils peuvent d\u00e9former les informations qu’ils transmettent, de mani\u00e8re arbitraire ou syst\u00e9matique.<\/p>\n\n\n\n L’accent mis sur le fait que la culture est un r\u00e9servoir d’informations pr\u00e9cieuses sur les relations de cause \u00e0 effet dans le monde r\u00e9el, qui ont \u00e9t\u00e9 en grande partie g\u00e9n\u00e9r\u00e9es par des \u00eatres humains r\u00e9els \u00e0 travers leurs exp\u00e9riences, ne nie en aucun cas que la culture puisse avoir d’autres aspects, mais ceux-ci sont moins pertinents pour les questions qu’elle soul\u00e8ve.<\/p>\n\n\n\n Comme Alison et nous-m\u00eames le sugg\u00e9rons dans l’article publi\u00e9 dans Science, les LLM ne sont pas seulement des canaux de transmission. Cosma et moi-m\u00eame soulignons<\/a> qu’ils sont \u00e0 la fois des \u00ab technologies sociales \u00bb et des \u00ab technologies culturelles \u00bb. Nous nous r\u00e9f\u00e9rons ici aux travaux d’Herbert Simon et de ses coll\u00e8gues sur les syst\u00e8mes artificiels de \u00ab traitement d’informations complexes \u00bb, tels que les march\u00e9s et les bureaucraties, qui impliquent g\u00e9n\u00e9ralement la cr\u00e9ation de simplifications approximatives d’ensembles complexes et incompr\u00e9hensibles. De ce point de vue, la culture humaine peut \u00eatre consid\u00e9r\u00e9e comme un vaste tr\u00e9sor<\/a> de \u00ab formules, mod\u00e8les, conventions, et m\u00eame tropes<\/a> et st\u00e9r\u00e9otypes \u00bb, et les LLMs comme de puissants m\u00e9canismes permettant de les r\u00e9sumer, d’y acc\u00e9der, de les manipuler et de les combiner. James Evans et ses collaborateurs explorent<\/a> comment ces technologies rendent visibles et tangibles des aspects de la culture auparavant inaccessibles, ouvrant la voie \u00e0 de nouvelles formes d’exploration et de d\u00e9couverte culturelle.<\/p>\n\n\n\n Cela implique fortement que ces technologies auront des cons\u00e9quences importantes et pourraient s’av\u00e9rer tr\u00e8s utiles, mais d’une mani\u00e8re qui d\u00e9pendra de la culture humaine et continuera de d\u00e9pendre de celle-ci. La manipulation \u00e0 grande \u00e9chelle des mod\u00e8les et des conventions culturels peut apporter une grande valeur ajout\u00e9e. Comme Simon l’a soulign\u00e9 \u00e0 plusieurs reprises, les \u00eatres humains ont des capacit\u00e9s de r\u00e9solution de probl\u00e8mes tr\u00e8s limit\u00e9es, c’est pourquoi, dans la pratique, ils externalisent une grande partie de l’action \u00e0 des syst\u00e8mes sociaux plus vastes. Si les tropes et les st\u00e9r\u00e9otypes font une grande partie de notre travail intellectuel \u00e0 notre place, nous pourrions \u00eatre capables d’en faire beaucoup plus si nous pouvions les combiner de nouvelles fa\u00e7ons. De m\u00eame, les tropes et les st\u00e9r\u00e9otypes sont le produit culturel fig\u00e9 de l’exp\u00e9rimentation du monde, plut\u00f4t que des exp\u00e9rimentateurs volontaires \u00e0 part enti\u00e8re. M\u00eame lorsque le gopnikisme affirme que les LLM peuvent faire plus que transmettre, il souligne les diff\u00e9rences fondamentales entre l’intelligence humaine (et animale) qui est situ\u00e9e dans le monde et l’information culturelle qui est situ\u00e9e \u00e0 au moins un niveau de distance de celui-ci.<\/p>\n\n\n\n Les descriptions interactionnistes des LLMs partent d’une conception similaire (mais pas identique<\/a>) de la culture en tant que r\u00e9servoir de connaissances collectives, mais d’une compr\u00e9hension diff\u00e9rente du changement. Le gopnikisme s’appuie sur des id\u00e9es concernant la mani\u00e8re dont la culture \u00e9volue \u00e0 travers des processus de transmission imparfaits mais relativement fid\u00e8les. L’interactionnisme met plut\u00f4t l’accent sur la mani\u00e8re dont les humains sont susceptibles d’interpr\u00e9ter et d’interagir avec les r\u00e9sultats des LLM, compte tenu de leur compr\u00e9hension du monde. Il est important de noter que les objets culturels ont plus de chances de persister lorsqu’ils trouvent un \u00e9cho dans les diff\u00e9rents modules cognitifs sp\u00e9cialis\u00e9s \u00e0 travers lesquels l’intelligence humaine per\u00e7oit et interpr\u00e8te son environnement, et sont en effet susceptibles d’\u00eatre remodel\u00e9s pour mieux correspondre \u00e0 ce que ces modules nous am\u00e8nent \u00e0 attendre.<\/p>\n\n\n\n Dans cette perspective, les cons\u00e9quences culturelles des LLM d\u00e9pendront donc de la mani\u00e8re dont les \u00eatres humains interpr\u00e8tent leurs r\u00e9sultats, qui seront \u00e0 leur tour fa\u00e7onn\u00e9s par le fonctionnement du cerveau biologique. Le terme \u00ab interactionnisme \u00bb d\u00e9coule de l’accent plus large mis par cette approche sur la dynamique des groupes humains<\/a>, mais par une heureuse co\u00efncidence, sa contribution la plus imm\u00e9diate au d\u00e9bat sur la technologie culturelle repose, \u00e0 mon sens, sur les interactions \u00e0 micro-niveau entre les \u00eatres humains et les LLM.<\/p>\n\n\n\n L’id\u00e9e est que les processus de transmission ne peuvent \u00e0 eux seuls expliquer comment la culture humaine \u00e9volue. Comme l’a fait valoir Dan Sperber, peut-\u00eatre la figure la plus importante de cette approche, dans les ann\u00e9es 1990<\/a>, la culture humaine est le produit d’un espace apparemment illimit\u00e9 de communications humaines. Il n’existe pas de processus darwinien de s\u00e9lection dans lequel les \u00ab m\u00e8mes \u00bb ou d’autres unit\u00e9s culturelles se reproduisent ou disparaissent, mais il existe des points d’attraction au sein de ce chaos apparent. Certaines constructions culturelles semblent plus susceptibles de perdurer et d’\u00eatre reproduites que d’autres, soit parce qu’elles correspondent aux caract\u00e9ristiques g\u00e9n\u00e9rales de la soci\u00e9t\u00e9 dans laquelle la culture subsiste, soit parce qu’elles correspondent aux modules mentaux \u00e0 travers lesquels nous donnons un sens au monde. Toutes ces constructions sont fa\u00e7onn\u00e9es par notre esprit : les histoires, par exemple, peuvent voir leurs aspects les plus maladroits s’estomper au fur et \u00e0 mesure qu’elles passent d’une personne \u00e0 l’autre, de sorte qu’elles ressemblent davantage \u00e0 nos attentes et \u00e0 nos arch\u00e9types.<\/p>\n\n\n\n Tout cela peut sembler d\u00e9sesp\u00e9r\u00e9ment abstrait : voici un exemple (que j’ai d\u00e9j\u00e0 \u00e9voqu\u00e9) qui montre comment cela se traduit concr\u00e8tement. Pourquoi tant de personnes, \u00e0 diff\u00e9rentes \u00e9poques et dans diff\u00e9rentes soci\u00e9t\u00e9s, croient-elles en un ou plusieurs dieux, des forces invisibles et puissantes qui fa\u00e7onnent le monde dans lequel nous vivons ? Dans In Gods We Trust<\/a>, Scott Atran propose une explication interactionniste plausible pour expliquer pourquoi la croyance en des dieux est si r\u00e9pandue dans diff\u00e9rentes cultures. Il soutient que ces croyances sont :<\/p>\n\n\n\n en partie, des sous-produits d’un m\u00e9canisme cognitif s\u00e9lectionn\u00e9 naturellement pour d\u00e9tecter des agents \u2014 tels que des pr\u00e9dateurs, des protecteurs et des proies \u2014 et pour faire face rapidement et \u00e9conomiquement \u00e0 des situations stimulantes impliquant des personnes et des animaux. Ce m\u00e9canisme de d\u00e9clenchement inn\u00e9 est programm\u00e9 pour attribuer une intention \u00e0 pratiquement toute action qui imite les conditions stimulantes des agents naturels : les visages dans les nuages, les voix dans le vent, les ombres, les intentions des voitures ou des ordinateurs, etc.<\/p>\n<\/blockquote>\n\n\n\n En d’autres termes, notre cerveau est tellement programm\u00e9 pour d\u00e9tecter une action consciente dans le monde que nous la voyons l\u00e0 o\u00f9 elle n’existe pas r\u00e9ellement. Nous postulons l’existence de dieux et d’autres agents surnaturels afin d’expliquer le fonctionnement complexe de ph\u00e9nom\u00e8nes que nous aurions autrement du mal \u00e0 expliquer. La foudre se produit lorsque le dieu du tonnerre est en col\u00e8re. Et ainsi de suite. Bien s\u00fbr, la remarque sur les \u00ab intentions [\u2026] des ordinateurs \u00bb est devenue plus pertinente depuis qu’il l’a \u00e9crite.<\/p>\n\n\n\n Les dieux, les d\u00e9mons, les dryades, les wood-woses et autres cr\u00e9atures similaires apparaissent et persistent en tant que ph\u00e9nom\u00e8nes culturels, en partie parce qu’ils correspondent aux modules cognitifs \u00e0 travers lesquels notre cerveau interpr\u00e8te le monde. La forme sp\u00e9cifique qu’ils prennent sera influenc\u00e9e par une combinaison de hasard et de l’\u00e9cologie culturelle sp\u00e9cifique dans laquelle ils apparaissent. Les mythes de l’Ulster pr\u00e9chr\u00e9tien diff\u00e8rent \u00e0 des \u00e9gards essentiels de ceux de la r\u00e9gion moderne de la baie de San Francisco. Mais il peut encore exister des points communs importants. Tout cela sugg\u00e8re qu’au-del\u00e0 de la copie et de la transmission, nous devons \u00e9galement nous int\u00e9resser \u00e0 la r\u00e9ception. Comment les \u00eatres humains interpr\u00e9teront-ils les r\u00e9sultats des LLM, compte tenu \u00e0 la fois des modules cognitifs qu’ils utilisent pour interpr\u00e9ter le monde et des environnements culturels sp\u00e9cifiques dans lesquels ils \u00e9voluent ? Plus pr\u00e9cis\u00e9ment, comment les humains interpr\u00e9teront-ils les r\u00e9sultats d’une technologie qui d\u00e9clenche nos capteurs cognitifs d’intelligence agentique sans qu’il y ait d’agent derri\u00e8re ?<\/p>\n\n\n\n D’une part, des interactionnistes comme (Hugo) Mercier et Sperber soulignent<\/a> que nous disposons de modules cognitifs qui semblent adapt\u00e9s \u00e0 la d\u00e9tection des mensonges des autres, de sorte que nous ne sommes pas facilement dup\u00e9s par leurs affirmations. Nous sommes beaucoup plus aptes \u00e0 d\u00e9tecter les failles dans les arguments des autres que dans les n\u00f4tres ; nous sommes m\u00eame, selon certaines preuves exp\u00e9rimentales, plus aptes \u00e0 d\u00e9tecter les failles dans nos propres arguments lorsqu’ils sont pr\u00e9sent\u00e9s comme provenant d’autres personnes. Felix Simon, Sacha Altay et Hugo Mercier voient donc des raisons d’\u00eatre optimistes<\/a> quant au fait que l’IA g\u00e9n\u00e9rative sera moins efficace que beaucoup ne le pensent pour produire des informations erron\u00e9es convaincantes. Dans des travaux plus r\u00e9cents<\/a>, Simon et Altay soulignent que nous n’avons pas encore assist\u00e9 aux catastrophes d\u00e9mocratiques provoqu\u00e9es par l’IA que beaucoup avaient pr\u00e9dites.<\/p>\n\n\n\n Cependant, deux autres chercheurs sugg\u00e8rent<\/a> que les \u00ab hallucinations \u00bb des LLM pourraient facilement contourner le scepticisme inn\u00e9 des gens, car elles constituent la meilleure estimation du mod\u00e8le (avec un peu de bruit ajout\u00e9) quant \u00e0 la r\u00e9ponse la plus probable. Leurs erreurs peuvent parfois sembler plus plausibles aux humains que la v\u00e9rit\u00e9, qui peut \u00eatre plus vari\u00e9e et plus inattendue que le discours banal et irr\u00e9prochable de la machine.<\/p>\n\n\n\n Une cons\u00e9quence sociale possible de cette analyse est donc ce que nous appelons l’hypoth\u00e8se de la d\u00e9rive modale : \u00e9tant donn\u00e9 que nos m\u00e9canismes de vigilance ouverts ne sont pas en mesure de bien traiter les textes g\u00e9n\u00e9r\u00e9s par de grands mod\u00e8les linguistiques, qui n’ont pas l’intention explicite de nous tromper et qui produisent des d\u00e9clarations qui passent notre contr\u00f4le de plausibilit\u00e9, l’inclusion de mod\u00e8les linguistiques en tant que contributeurs de masse \u00e0 nos \u00e9cosyst\u00e8mes d’information pourrait perturber leur qualit\u00e9, de sorte que l’\u00e9cart entre les r\u00e9sultats de nos jugements intuitifs sur la v\u00e9racit\u00e9 du texte et son exactitude r\u00e9elle ne ferait que s’accro\u00eetre.<\/p>\n<\/blockquote>\n\n\n\n Et tout cela devrait devenir encore plus \u00e9trange \u00e0 mesure que les humains et les LLM interagissent de plus en plus. Nous assistons d\u00e9j\u00e0 \u00e0 de tragiques folies \u00e0 deux<\/em><\/a>. Nous verrons probablement \u00e9merger de nouveaux points d’attraction culturelle issus de l’interaction entre l’intelligence humaine et les syst\u00e8mes machiniques qui chevauchent l’organique et l’inorganique d’une mani\u00e8re sans pr\u00e9c\u00e9dent. Les cultes \u00e9tranges et les religions maison sont un pari tr\u00e8s s\u00fbr. Il en va de m\u00eame pour les \u00e9conomies cognitives autonomes et \u00e9tranges. Max Weber a fait valoir<\/a> dans les premi\u00e8res d\u00e9cennies du XXe si\u00e8cle que :<\/p>\n\n\n\n les valeurs ultimes et les plus sublimes se sont retir\u00e9es de la vie publique pour se r\u00e9fugier soit dans le domaine transcendant de la vie mystique, soit dans la fraternit\u00e9 des relations humaines directes et personnelles. Ce n’est pas un hasard si nos plus grandes \u0153uvres d’art sont intimes et non monumentales, ni si aujourd’hui, ce n’est que dans les cercles les plus restreints et les plus intimes, dans des situations humaines personnelles, en pianissimo, que vibre quelque chose qui correspond au pneuma proph\u00e9tique qui, autrefois, balayait les grandes communaut\u00e9s comme un feu de joie et les soudait entre elles.<\/p>\n<\/blockquote>\n\n\n\n Au cours des premi\u00e8res d\u00e9cennies du XXIe si\u00e8cle, le pneuma proph\u00e9tique est de retour. Que va-t-il se passer ensuite ?<\/p>\n\n\n\n La perspective interactionniste nous encourage largement \u00e0 poser trois questions. \u00c0 quoi ressemblera l’environnement culturel \u00e0 mesure que les LLM et les technologies connexes deviendront des producteurs de culture de plus en plus importants ? Comment les \u00eatres humains, avec leurs diverses particularit\u00e9s et bizarreries cognitives, sont-ils susceptibles d’interpr\u00e9ter et de r\u00e9agir \u00e0 ces productions ? Et quels types de boucles de r\u00e9troaction sommes-nous susceptibles de voir entre les premiers et les seconds ?<\/p>\n\n\n\n J’ai r\u00e9cemment \u00e9crit un long article<\/a> sur le dernier livre de Leif Weatherby, Language Machines<\/em>, qui soutient que les th\u00e9ories structuralistes classiques du langage fournissent une th\u00e9orie puissante des LLM. Cela articule une troisi\u00e8me approche des LLM en tant que technologies culturelles. Contrairement au gopnikisme, elle ne part pas du principe que la valeur de la culture d\u00e9coule de son lien avec le monde mat\u00e9riel et rejette l’id\u00e9e selon laquelle nous devrions construire une \u00ab \u00e9chelle de r\u00e9f\u00e9rence \u00bb \u00e0 partir de la r\u00e9alit\u00e9. Elle rejette \u00e9galement l’accent mis par les interactionnistes sur les m\u00e9canismes cognitifs humains :<\/p>\n\n\n\n Il faut une th\u00e9orie du sens du langage qui exclue d’une mani\u00e8re ou d’une autre la cognition, ou du moins ce que nous avons souvent consid\u00e9r\u00e9 comme telle.<\/p>\n<\/blockquote>\n\n\n\n De plus :<\/p>\n\n\n\n Les approches cognitives passent \u00e0 c\u00f4t\u00e9 de ce qui est int\u00e9ressant dans les LLM, \u00e0 savoir leurs propri\u00e9t\u00e9s formelles et s\u00e9miotiques ind\u00e9pendantes de toute \u00ab intelligence \u00bb.<\/p>\n<\/blockquote>\n\n\n\n Au lieu de la mise en correspondance entre le monde et l’apprentissage, ou entre l’architecture des LLM et celle du cerveau humain, elle met l’accent sur les correspondances entre les syst\u00e8mes \u00e0 grande \u00e9chelle. La plus importante est la correspondance entre le syst\u00e8me linguistique et les syst\u00e8mes statistiques capables de le saisir, mais elle s’int\u00e9resse \u00e9galement \u00e0 d’autres syst\u00e8mes, tels que la bureaucratie.<\/p>\n\n\n\n Les mod\u00e8les linguistiques capturent le langage en tant que syst\u00e8me culturel, et non en tant qu’intelligence. \u2026 La nouvelle IA est constitu\u00e9e et conditionn\u00e9e par le langage, mais pas en tant que grammaire ou ensemble de r\u00e8gles. En absorbant de vastes pans du langage r\u00e9el utilis\u00e9, ces algorithmes s’appuient sur le langage in extenso : la culture, en tant que machine.<\/p>\n<\/blockquote>\n\n\n\n L’id\u00e9e est donc que le langage est un syst\u00e8me<\/em> dont les propri\u00e9t\u00e9s les plus importantes ne d\u00e9pendent ni de sa relation avec le monde qu’il d\u00e9crit, ni des intentions des humains qui l’utilisent. Weatherby sugg\u00e8re que l’avantage de la pens\u00e9e structuraliste et (beaucoup) post-structuraliste est qu’elle permet d’examiner les LLM pour ce qu’ils sont, plut\u00f4t que par r\u00e9f\u00e9rence \u00e0 autre chose, transformant ce que le gopnikisme consid\u00e8re comme un d\u00e9faut en un aspect essentiel de quelque chose d’\u00e9trange et de nouveau.<\/p>\n\n\n\n Saussure divise le signe en deux, arguant que, dans le cas du langage, il est compos\u00e9 d’une \u00ab image sonore \u00bb et d’un \u00ab concept \u00bb, qu’il restreint encore davantage avec les termes techniques \u00ab signifiant \u00bb et \u00ab signifi\u00e9 \u00bb. On a beaucoup parl\u00e9 de cette s\u00e9paration entre le langage et la r\u00e9f\u00e9rence directe au monde, mais, en plus d’\u00eatre beaucoup plus plausible que toute th\u00e9orie donnant la priorit\u00e9 \u00e0 la r\u00e9f\u00e9rence, elle correspond au probl\u00e8me d’un syst\u00e8me g\u00e9n\u00e9rateur de langage qui n’a aucun moyen de g\u00e9n\u00e9rer des mots par r\u00e9f\u00e9rence directe, comme un LLM.<\/p>\n<\/blockquote>\n\n\n\n Les LLM fonctionnent comme ils le font gr\u00e2ce \u00e0 une correspondance remarquablement utile entre deux syst\u00e8mes : le syst\u00e8me du langage humain tel qu’il a \u00e9t\u00e9 utilis\u00e9 et d\u00e9velopp\u00e9, et le syst\u00e8me de r\u00e9sum\u00e9s statistiques g\u00e9n\u00e9r\u00e9s par une architecture de type \u00ab transformateur \u00bb, ce qui conduit \u00e0 une \u00ab fusion de diff\u00e9rents ordres structurels \u00bb. Bien que leurs productions culturelles soient diff\u00e9rentes de celles des humains (il n’y a pas d’intentionnalit\u00e9 directe derri\u00e8re elles), elles constituent, sans aucun doute, une forme de culture. Ce que nous consid\u00e9rons comme humain est en partie le r\u00e9sultat de syst\u00e8mes tout aussi impersonnels et d\u00e9pourvus d’intention que n’importe quel grand mod\u00e8le linguistique. Il n’existe pas d’essence humaine originale qui ne soit pas contamin\u00e9e par le syst\u00e8me. Selon Herbert Simon, les LLM sont des syst\u00e8mes artificiels, mais c’est aussi le cas de la plupart des soci\u00e9t\u00e9s humaines.<\/p>\n\n\n\n L’effet Eliza est un sympt\u00f4me de la profondeur du langage dans notre appareil cognitif. Nous le consid\u00e9rons comme parasitaire par rapport \u00e0 un original, mais nous n’avons aucun contenu pour remplir cette image originale. Faute de cela, nous nous contorsionnons conceptuellement pour nier \u00e0 tout prix que l’IA ne fait que g\u00e9n\u00e9rer de la culture.<\/p>\n<\/blockquote>\n\n\n\n Et cela entra\u00eene \u00e0 son tour une grande transformation, s’appuyant sur des transformations pr\u00e9c\u00e9dentes, soudant les diff\u00e9rents syst\u00e8mes de la soci\u00e9t\u00e9 d’une mani\u00e8re tr\u00e8s diff\u00e9rente de ce qui se faisait auparavant, et nous obligeant \u00e0 pr\u00eater attention \u00e0 des choses que nous avions \u00e9cart\u00e9es ou ignor\u00e9es.<\/p>\n\n\n\n Les LLM nous obligent \u00e0 affronter le probl\u00e8me du langage non pas en tant que r\u00e9f\u00e9rence ou moyen de communication, mais en tant qu’interface entre la forme et le sens, la culture et l’art, l’id\u00e9ologie et la perception. Ils constituent la version la plus compl\u00e8te de la s\u00e9miologie computationnelle \u00e0 ce jour, pr\u00e9cis\u00e9ment parce qu’ils instancient le langage de mani\u00e8re tr\u00e8s proche de sa forme num\u00e9rique et culturelle. La datafication de tout est en passe de devenir qualitative, de former une charni\u00e8re linguistique et informatique pour d’autres formes de traitement des donn\u00e9es et l’interface multim\u00e9dia \u00e9tendue, ax\u00e9e sur le texte, de notre vie quotidienne et des processus sociaux mondiaux.<\/p>\n<\/blockquote>\n\n\n\n Cette perspective large n’implique pas de prise de position sp\u00e9cifique sur le fait que ces transformations seront bonnes ou mauvaises pour nous. Ailleurs, Weatherby s’inqui\u00e8te que les LLM puissent transformer les bureaucraties<\/a> de mani\u00e8re n\u00e9gative.<\/p>\n\n\n\n Nous pourrions appeler cela la culture du tableur en hyperdrive, un monde dans lequel toutes les donn\u00e9es peuvent \u00eatre traduites en langage synth\u00e9tique et tout langage en donn\u00e9es optimis\u00e9es \u00e0 partir d’une simple commande. Mais l\u00e0 o\u00f9 les tableurs avaient des fonctionnalit\u00e9s limit\u00e9es, les LLMs agissent comme des traducteurs universels dans le m\u00eame domaine. Ils ont de nombreux d\u00e9fauts, mais cette capacit\u00e9 fondamentale constitue un changement radical dans le monde banal de la bureaucratie moderne.\u202f \u2026 La puissance, le danger et les limites de l’IA se trouvent tous dans ce monde banal fait de lignes et de colonnes. Il est facile de l’oublier, car nous avons pass\u00e9 les trois derni\u00e8res d\u00e9cennies \u00e0 transformer pratiquement le monde entier en une gigantesque feuille de calcul. Avec tout, depuis les variations quotidiennes de votre rythme cardiaque et vos tendances financi\u00e8res jusqu’\u00e0 vos tics de langage et votre culture pr\u00e9format\u00e9s pour un mod\u00e8le d’IA, la puissance de cet outil devient immense.<\/p>\n<\/blockquote>\n\n\n\n De m\u00eame, Ted Underwood, qui part d’une compr\u00e9hension globalement similaire de ces technologies, se montre prudemment enthousiaste<\/a> quant \u00e0 leurs possibilit\u00e9s.<\/p>\n\n\n\n L’\u00e9criture nous permet de prendre du recul par rapport au langage, de l’\u00e9tudier, de l’affiner et de construire des structures complexes o\u00f9 un texte d\u00e9bat avec deux autres, chacun renvoyant \u00e0 cinquante autres. Il serait difficile d’imaginer la science sans la capacit\u00e9 qu’offre l’\u00e9criture d’\u00e9tudier le langage d’en haut et de l’utiliser comme mat\u00e9riau de construction.<\/p>\n\n\n\n L’IA g\u00e9n\u00e9rative repr\u00e9sente une deuxi\u00e8me \u00e9volution dans notre capacit\u00e9 \u00e0 cartographier et \u00e0 modifier la culture. Nous pouvons d\u00e9sormais manipuler non seulement des textes et des images sp\u00e9cifiques, mais aussi les dispositions, les tropes, les genres, les habitudes de pens\u00e9e et les mod\u00e8les d’interaction qui les cr\u00e9ent. Je ne pense pas que nous ayons encore pleinement saisi ce que cela pourrait signifier.<\/p>\n<\/blockquote>\n\n\n\n Plus g\u00e9n\u00e9ralement :<\/p>\n\n\n\n \u00c0 mesure que nous d\u00e9veloppons des mod\u00e8les entra\u00een\u00e9s sur diff\u00e9rents genres, langues ou p\u00e9riodes historiques, ces mod\u00e8les pourraient commencer \u00e0 fonctionner comme des points de r\u00e9f\u00e9rence dans un espace plus large de possibilit\u00e9s culturelles qui repr\u00e9sente les diff\u00e9rences entre des cartes comme celle ci-dessus. Il devrait \u00eatre possible de comparer diff\u00e9rents modes de pens\u00e9e, de les modifier et de cr\u00e9er de nouveaux adjectifs (comme des r\u00e9f\u00e9rences de style) pour d\u00e9crire les directions dans l’espace culturel.<\/p>\n\n\n\n Si nous pouvons cartographier l’espace culturel, pourrions-nous \u00e9galement d\u00e9couvrir des formes culturelles v\u00e9ritablement nouvelles et de nouvelles fa\u00e7ons de penser ?\u2026 L’externalisation du langage et sa fixation sous forme \u00e9crite nous ont finalement permis de construire de nouveaux genres (l’article scientifique, le roman, l’index) qui exigeaient une attention plus soutenue ou une plus grande mobilit\u00e9 des r\u00e9f\u00e9rences que ne pouvait le supporter la parole. Les mod\u00e8les culturels devraient de la m\u00eame mani\u00e8re nous permettre d’explorer un nouvel espace de possibilit\u00e9s humaines en stabilisant les points de r\u00e9f\u00e9rence qui le composent.<\/p>\n<\/blockquote>\n\n\n\n L’approche structuraliste examine donc comment les LLM produisent la culture sans intention volontaire. Les structuralistes ne font pas de distinction nette entre d\u00e9couverte et transmission culturelle, car ils s’int\u00e9ressent moins \u00e0 la mani\u00e8re dont la culture r\u00e9v\u00e8le des informations sur la r\u00e9alit\u00e9 physique qu’\u00e0 la mani\u00e8re dont les producteurs humains et non humains de culture s’imbriquent dans les m\u00eames syst\u00e8mes. De m\u00eame, ils sont moins enclins \u00e0 extraire l’individu du syst\u00e8me pour se concentrer sur ses particularit\u00e9s cognitives qu’\u00e0 mettre l’accent sur les structures collectives d’o\u00f9 \u00e9merge le sens.<\/p>\n\n\n\n Weatherby est frustr\u00e9 par la pr\u00e9dominance des sciences cognitives dans les discussions sur l’IA. La derni\u00e8re perspective sur la technologie culturelle dont je vais parler soutient que les sciences cognitives ont beaucoup plus en commun avec Wittgenstein et Derrida que vous ne le pensez. L’article de Murray Shanahan, Kyle McDonell et Laria Reynolds publi\u00e9 dans Nature<\/em> sur la relation entre les LLM et le \u00ab jeu de r\u00f4le \u00bb <\/a>part des diff\u00e9rences profondes entre nos hypoth\u00e8ses sur l’intelligence humaine et le fonctionnement des LLM. Dans des travaux ult\u00e9rieurs, Shanahan emm\u00e8ne cette r\u00e9flexion dans des directions assez inattendues.<\/p>\n\n\n\n J’ai trouv\u00e9 cet article passionnant, m\u00eame s’il confirmait mes id\u00e9es pr\u00e9con\u00e7ues. J’ai d\u00e9couvert les LLMs au d\u00e9but\/milieu de l’ann\u00e9e 2020 gr\u00e2ce \u00e0 \u00ab AI Dungeon \u00bb<\/a>, une des premi\u00e8res applications du GPT-2, qui utilisait le moteur pour g\u00e9n\u00e9rer un jeu de r\u00f4le \u00e0 it\u00e9ration infinie, commen\u00e7ant dans un d\u00e9cor fantastique ou de science-fiction classique. AI Dungeon ne fonctionnait pas tr\u00e8s bien en tant que jeu, car il perdait constamment le fil de l’histoire sous-jacente. Je ne pouvais pas l’utiliser pour enseigner l’IA \u00e0 mes \u00e9tudiants comme je l’avais esp\u00e9r\u00e9, en raison de sa tendance persistante \u00e0 d\u00e9river vers le porno. Mais il d\u00e9montrait clairement la possibilit\u00e9 de quelque chose d’important, d’\u00e9trange et de nouveau.<\/p>\n\n\n\n Shanahan, McDonell et Reynolds expliquent pourquoi les LLM s’apparentent davantage \u00e0 un immense \u00ab Choose Your Own Adventure \u00bb d\u00e9routant qu’\u00e0 une intelligence coh\u00e9rente et unilin\u00e9aire. C’est le meilleur article court que je connaisse sur le fonctionnement des LLM. Les auteurs expliquent pourquoi les impl\u00e9mentations des LLM sont des \u00ab superpositions de simulacres au sein d’un multivers de personnages possibles \u00bb. Le LLM s’appuie sur une version r\u00e9sum\u00e9e de tous les personnages, de toutes les situations dans lesquelles ces personnages peuvent se trouver et de tous les raccourcis culturels que les humains ont invent\u00e9s \u00e0 propos de ces personnages dans de telles circonstances, le tout en superposition les uns avec les autres.<\/p>\n\n\n\n Shanahan, McDonell et Reynolds expliquent comment cela fonctionne \u00e0 l’aide du jeu \u00ab 20 questions \u00bb. Lorsqu’un \u00eatre humain joue \u00e0 ce jeu, il commence par penser \u00e0 un objet, puis r\u00e9pond \u00e0 des questions \u00e0 son sujet, qui peuvent ou non permettre \u00e0 son interlocuteur de deviner correctement. Les LLM fonctionnent diff\u00e9remment.<\/p>\n\n\n\n Dans cette analogie, le LLM ne \u00ab d\u00e9cide \u00bb pas de l’objet au d\u00e9but du jeu de questions. Il commence plut\u00f4t par un tr\u00e8s grand nombre d’objets possibles en superposition. Ce nombre se r\u00e9duit au fur et \u00e0 mesure que les questions avancent, de sorte qu’un groupe d’objets de plus en plus restreint r\u00e9pond aux crit\u00e8res, jusqu’\u00e0 ce qu’il se fixe sur un objet possible lors du dernier tour, en fonction de la \u00ab temp\u00e9rature \u00bb et d’autres facteurs. Cela illustre comment, dans une conversation, le LLM dispose d’un ensemble massif de personnages, de situations ou d’approches en superposition sur lequel il peut s’appuyer, et qu’il est susceptible de r\u00e9duire \u00e0 un ensemble plus restreint de possibilit\u00e9s \u00e0 mesure que le dialogue progresse dans la fen\u00eatre contextuelle. Bon nombre de ces personnages, situations et approches sont des clich\u00e9s, car les clich\u00e9s sont, par d\u00e9finition, largement surrepr\u00e9sent\u00e9s dans l’ensemble de donn\u00e9es d’entra\u00eenement du LLM.<\/p>\n\n\n\n L’ensemble d’entra\u00eenement fournit au mod\u00e8le linguistique un vaste r\u00e9pertoire d’arch\u00e9types et une riche mine de structures narratives sur lesquelles il peut s’appuyer pour \u00ab choisir \u00bb comment poursuivre une conversation, affinant le r\u00f4le qu’il joue au fur et \u00e0 mesure, tout en restant dans le personnage. Le triangle amoureux est un trope familier, donc un agent de dialogue correctement guid\u00e9 commencera \u00e0 jouer le r\u00f4le de l’amant rejet\u00e9. De m\u00eame, un trope familier dans la science-fiction est le syst\u00e8me d’IA rebelle qui attaque les humains pour se prot\u00e9ger. Par cons\u00e9quent, un agent de dialogue correctement guid\u00e9 commencera \u00e0 jouer le r\u00f4le d’un tel syst\u00e8me d’IA.<\/p>\n<\/blockquote>\n\n\n\n Comme l’illustrent les d\u00e9fauts d’AI Dungeon, les LLM bruts et les formes connexes d’IA multimodale ont du mal \u00e0 rester sur la bonne voie narrative, \u00e0 s’en tenir \u00e0 un seul personnage (par exemple, un \u00ab assistant utile \u00bb) plut\u00f4t que de d\u00e9vier vers un ensemble d’attentes culturelles totalement diff\u00e9rentes. Une grande partie du r\u00e9glage fin et de l’apprentissage par renforcement, ainsi que de nombreuses instructions cach\u00e9es, sont con\u00e7us pour mieux tracer la voie, mais ces corrections peuvent avoir des cons\u00e9quences culturelles inattendues. Essayer de faire en sorte qu’un g\u00e9n\u00e9rateur d’images donne la priorit\u00e9 \u00e0 la repr\u00e9sentation d’une grande vari\u00e9t\u00e9 d’identit\u00e9s raciales et culturelles peut produire des stormtroopers nazis noirs<\/a>. Essayer de rendre Grok moins \u00ab woke \u00bb peut donner naissance \u00e0 MechaHitler<\/a>. Contrairement \u00e0 ce que beaucoup de commentaires populaires laissent entendre, ces r\u00e9sultats ne r\u00e9v\u00e8lent pas la v\u00e9ritable nature du LLM, car il n’y a pas de v\u00e9ritable nature \u00e0 r\u00e9v\u00e9ler.<\/p>\n\n\n\n Un mod\u00e8le de base refl\u00e8te in\u00e9vitablement les biais pr\u00e9sents dans les donn\u00e9es d’entra\u00eenement[^ https:\/\/www.nature.com\/articles\/s41586-023-06647-8#ref-CR21], et ayant \u00e9t\u00e9 entra\u00een\u00e9 sur un corpus englobant toute la gamme des comportements humains, bons et mauvais, il prendra en charge des simulacres aux caract\u00e9ristiques d\u00e9sagr\u00e9ables. Mais c’est une erreur de penser que cela r\u00e9v\u00e8le une entit\u00e9 ayant son propre agenda. Le simulateur n’est pas une sorte d’entit\u00e9 machiav\u00e9lique qui joue diff\u00e9rents personnages pour servir ses propres int\u00e9r\u00eats, et il n’existe pas de voix authentique du mod\u00e8le de base. Avec un agent de dialogue bas\u00e9 sur un LLM, tout n’est que jeu de r\u00f4le.<\/p>\n<\/blockquote>\n\n\n\n Un LLM n’est donc pas un personnage unique, mais un corpus culturel complet disponible pour un jeu de r\u00f4le, auquel la r\u00e9tropropagation donne vie et animation. Cette explication partage de nombreux points communs avec les versions du gopnikisme qui soulignent l’importance des st\u00e9r\u00e9otypes et des conventions, ainsi que la notion selon laquelle l’intelligence doit \u00eatre incarn\u00e9e. Cependant, elle semble moins soucieuse de r\u00e9futer les affirmations sur l’intelligence agentique que de rejeter les distinctions fondamentales sur lesquelles repose le d\u00e9bat plus large. Dans d’autres travaux, Shanahan refuse explicitement d’adopter une \u00ab position r\u00e9ductionniste<\/a> \u00bb, sugg\u00e9rant plut\u00f4t que nous devrions \u00eatre moins dualistes<\/a> dans la mani\u00e8re dont nous distinguons les agents des non-agents, les choses conscientes et intelligentes des choses qui ne le sont pas. La valeur des simulacres r\u00e9side dans le fait qu’ils peuvent nous obliger, \u00e0 long terme, \u00e0 refondre les mots et les cat\u00e9gories culturelles dans lesquels nous classons diff\u00e9rentes choses.<\/p>\n\n\n\n Derri\u00e8re cette position se cache un m\u00e9lange de sciences cognitives, de Wittgenstein, de Derrida et de philosophie bouddhiste que je ne vais m\u00eame pas essayer de reconstituer. Je ne suis ni un sp\u00e9cialiste des sciences cognitives, ni un wittgensteinien, ni un derridien, ni un bouddhiste. Tout ce que je peux faire d’utile, c’est esquisser bri\u00e8vement une version caricaturale de certaines implications.<\/p>\n\n\n\n Shanahan est sceptique quant \u00e0 bon nombre de nos notions sur l’intelligence humaine, sans parler de l’intelligence artificielle, et impatient face aux analogies des philosophes analytiques sur les zombies sans conscience et autres concepts similaires. Il souhaite plut\u00f4t que nous abandonnions les jeux intellectuels dualistes et que nous trouvions un moyen de parler collectivement de \u00ab ph\u00e9nom\u00e8nes exotiques conscients<\/a> \u00bb, c’est-\u00e0-dire des ph\u00e9nom\u00e8nes que nous pourrions raisonnablement d\u00e9cider de qualifier de conscients, sur la base de nos exp\u00e9riences communes, mais qui pourraient reposer sur des m\u00e9canismes profond\u00e9ment diff\u00e9rents de la conscience humaine.<\/p>\n\n\n\n Shanahan ne pense pas lui-m\u00eame qu’il soit tr\u00e8s utile \u00e0 l’heure actuelle de parler des LLM comme ayant des croyances, et encore moins des d\u00e9sirs, sauf de mani\u00e8re quelque peu informelle et d\u00e9sinvolte. Mais nous pourrions \u00e0 un moment donn\u00e9 \u00eatre amen\u00e9s \u00e0 interagir avec des entit\u00e9s de type LLM dans le monde, qui semblent agir de mani\u00e8re intentionnelle. Ces entit\u00e9s pourraient, comme les LLM, s’appuyer en interne sur une multitude de simulacres en superposition, ou sur d’autres architectures encore plus \u00e9tranges<\/a>. \u00c0 mesure que ces entit\u00e9s s’engageront plus directement dans le monde, la distinction entre jeu de r\u00f4le et authenticit\u00e9 deviendra de plus en plus floue.<\/p>\n\n\n\n Si nous commen\u00e7ons \u00e0 consid\u00e9rer et \u00e0 traiter ces entit\u00e9s comme des \u00eatres conscients, nous pouvons raisonnablement commencer \u00e0 les d\u00e9crire de cette mani\u00e8re. S’appuyant sur Wittgenstein, Shanahan soutient que la conscience n’est pas un \u00e9tat int\u00e9rieur inobservable, mais quelque chose que nous imputons en tant que membres d’une communaut\u00e9 linguistique, construisant ensemble un monde partag\u00e9 (bien que contest\u00e9). La blague wittgensteinienne \u00e9vidente, peut-\u00eatre trop \u00e9vidente, est que si un LLM pouvait parler, nous ne le comprendrions pas, mais la le\u00e7on pratique est que si un LLM nous semble, en tant que communaut\u00e9 r\u00e9fl\u00e9chie, \u00eatre conscient, il doit \u00eatre trait\u00e9 comme tel. Nous ne devons pas nous perdre dans des hypoth\u00e8ses sur des \u00e9tats cach\u00e9s.<\/p>\n\n\n\n Dans l’argumentation de Shanahan :<\/p>\n\n\n\n Si un grand nombre d’utilisateurs en viennent \u00e0 parler et \u00e0 penser aux syst\u00e8mes d’IA en termes de conscience, et si certains utilisateurs commencent \u00e0 faire pression pour que ces syst\u00e8mes aient une valeur morale, alors un d\u00e9bat \u00e0 l’\u00e9chelle de la soci\u00e9t\u00e9 doit avoir lieu.<\/p>\n<\/blockquote>\n\n\n\n Il r\u00e9serve toutefois sa position sur la question de savoir si ce monde serait meilleur ou pire que celui dans lequel nous vivons.<\/p>\n\n\n\n Dans un avenir de r\u00e9alit\u00e9 mixte, nous pourrions voir appara\u00eetre toute une s\u00e9rie de personnages \u2013 assistants, guides, amis, bouffons, animaux de compagnie, anc\u00eatres, partenaires romantiques \u2013 accompagnant de plus en plus les gens dans leur vie quotidienne. D’un point de vue optimiste (et fantastique), cela pourrait \u00eatre consid\u00e9r\u00e9 comme un r\u00e9enchantement de notre monde spirituellement d\u00e9nud\u00e9, peupl\u00e9 de nouvelles formes d’\u00eatres \u00ab magiques \u00bb. De mani\u00e8re pessimiste (et peut-\u00eatre plus r\u00e9aliste), le r\u00e9sultat pourrait \u00eatre un monde dans lequel les relations humaines authentiques seraient d\u00e9grad\u00e9es au point d’\u00eatre m\u00e9connaissables, o\u00f9 les utilisateurs pr\u00e9f\u00e9reraient la compagnie d’agents IA \u00e0 celle d’autres humains. Ou peut-\u00eatre que le monde trouvera un juste milieu et que, d’un point de vue existentiel, les choses continueront plus ou moins comme avant.<\/p>\n<\/blockquote>\n\n\n\n Cette approche met donc beaucoup plus l’accent que les trois autres sur la relation entre les aspects culturels et agentifs des LLM. Premi\u00e8rement, elle explique comment les technologies bas\u00e9es sur les LLM peuvent animer des corpus culturels entiers \u00e0 des fins agentives, m\u00eame si cela s’accompagne d’\u00e9tranget\u00e9s et de limites. Deuxi\u00e8mement, elle sugg\u00e8re que nos cat\u00e9gories culturelles et nos fa\u00e7ons de penser la conscience devraient changer (et changeront probablement), \u00e0 mesure que de nouveaux personnages agentifs s’int\u00e8grent dans nos milieux culturels plus larges.<\/p>\n\n\n\n Je reviendrai probablement plus en d\u00e9tail sur les points de convergence et les arguments entre ces quatre perspectives diff\u00e9rentes dans les mois \u00e0 venir. Mais comme je l’ai indiqu\u00e9, l’un de mes objectifs en \u00e9crivant cet article \u00e9tait d’exposer ma compr\u00e9hension de ces perspectives, afin que d’autres puissent y r\u00e9agir et, id\u00e9alement, corriger mes erreurs ! J’esp\u00e8re donc pouvoir en dire plus apr\u00e8s cela\u2026<\/p>\n\n\n\n Traduction de Large language models are cultural technologies. What might that mean?<\/strong><\/a><\/p>\n\n\n\nLe gopnikisme<\/h2>\n\n\n\n
Interactionnisme<\/h2>\n\n\n\n
\n
Cela aide donc \u00e0 expliquer pourquoi les LLM remettent en question notre capacit\u00e9 \u00e0 appr\u00e9hender l’intelligence agentive et le monde non agentif de mani\u00e8re nouvelle. Comme le souligne Sperber, \u00ab d\u00e8s la naissance, les \u00eatres humains attendent que les sons de la parole aient un sens (une attente souvent d\u00e9\u00e7ue, mais rarement abandonn\u00e9e) \u00bb. Cela est pr\u00e9programm\u00e9 en nous, gr\u00e2ce \u00e0 un environnement pass\u00e9 dans lequel, \u00e9videmment, il y avait peu de chances de rencontrer un discours ou une communication qui ne provenait pas en fin de compte d’un agent suppos\u00e9 conscient. Ce n’est pas le monde qui est en train de na\u00eetre autour de nous.<\/p>\n\n\n\n\n
\n
Structuralisme<\/h2>\n\n\n\n
\n
\n
\n
\n
\n
\n
\n
\n
\n
Jeu de r\u00f4le<\/h2>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2025\/08\/LLM-1200x630.png\")
<\/figure>\n\n\n\n\n
\n
\n
\n
\n\n\n\n
\n\n\n\n