{"id":10614,"date":"2026-06-13T20:14:43","date_gmt":"2026-06-14T00:14:43","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?page_id=10614"},"modified":"2026-06-14T11:16:55","modified_gmt":"2026-06-14T15:16:55","slug":"reifiez-ceci","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/reifiez-ceci\/","title":{"rendered":"R\u00e9ifiez ceci"},"content":{"rendered":"\n

Traduction de Reify This<\/a>, par Leif Weatherby, Tyler Shomaker et Benjamin Recht, publi\u00e9 le 11 juin sur The Ideas Letter.<\/p>\n\n\n\n

\n\n\n\n

Le mois dernier, le pape L\u00e9on XIV a lui-m\u00eame mis en avant un domaine de recherche \u00e9sot\u00e9rique de l\u2019IA. Au milieu de son encyclique Magnifica Humanitas : Sur la sauvegarde de la personne humaine \u00e0 l\u2019\u00e8re de l\u2019intelligence artificielle<\/em>, il appelle<\/a> \u00e0 un \u00ab approfondissement de la recherche scientifique \u00bb dans le domaine de l\u2019IA. Comme il l\u2019explique, cette recherche est n\u00e9cessaire au discernement moral, car comprendre le fonctionnement de l\u2019IA est une condition pr\u00e9alable \u00e0 toute r\u00e9flexion \u00e9thique s\u00e9rieuse. Le pape conclut que des recherches suppl\u00e9mentaires sont n\u00e9cessaires en mati\u00e8re d\u2019\u00ab interpr\u00e9tabilit\u00e9 \u00bb : une recherche en IA qui vise \u00e0 comprendre comment les syst\u00e8mes d\u2019IA fonctionnent et \u00e0 expliquer pourquoi ils se comportent comme ils le font.<\/p>\n\n\n\n

Pour les chercheurs en interpr\u00e9tabilit\u00e9, les r\u00e9ponses \u00e0 ces questions r\u00e9sident dans la d\u00e9couverte de certains m\u00e9canismes causaux cach\u00e9s sous le capot. Les r\u00e9seaux neuronaux sont des bo\u00eetes noires<\/a> qui<\/a> doivent \u00eatre ouvertes. Les chercheurs parlent souvent de \u00ab repr\u00e9sentations internes<\/a> \u00bb, qui codent la mani\u00e8re dont les mod\u00e8les structurent l\u2019information sur le monde. Le pape L\u00e9on invoque explicitement ces repr\u00e9sentations dans l\u2019encyclique. Nous en savons tr\u00e8s peu \u00e0 leur sujet, dit-il, car les d\u00e9veloppeurs d\u2019IA ne con\u00e7oivent pas chaque d\u00e9tail de leurs mod\u00e8les. Au contraire, \u00ab les syst\u00e8mes d\u2019IA actuels sont davantage \u201ccultiv\u00e9s\u201d que \u201cconstruits\u201d, car les d\u00e9veloppeurs ne con\u00e7oivent pas directement chaque d\u00e9tail, mais cr\u00e9ent plut\u00f4t un cadre au sein duquel l\u2019intelligence \u201cse d\u00e9veloppe\u201d \u00bb. Alors qu\u2019ailleurs le souverain pontife se montre critique \u00e0 l\u2019\u00e9gard de la perspective d\u2019une telle intelligence, il semble ici reprendre directement les propos des grands laboratoires d\u2019IA. C\u2019est d\u2019ailleurs le cas. Assis \u00e0 sa gauche lors du lancement de l\u2019encyclique se trouvait Chris Olah, cofondateur d\u2019Anthropic.<\/p>\n\n\n\n

Olah est un fervent d\u00e9fenseur de l\u2019interpr\u00e9tabilit\u00e9, et la m\u00e9taphore de la culture lui revient. Depuis des ann\u00e9es, il \u00e9tablit des analogies entre la biologie et l\u2019IA, d\u00e9clarant<\/a> \u00e0 propos de l\u2019apprentissage automatique que son \u00e9l\u00e9gance \u00ab est l\u2019\u00e9l\u00e9gance de la biologie, et non celle des math\u00e9matiques ou de la physique \u00bb. Lors du lancement de l\u2019encyclique, Olah est all\u00e9 encore plus loin<\/a> : \u00ab \u2026 ce qui s\u2019est d\u00e9velopp\u00e9 est bien plus subtil, \u00e9trange et beau que ce \u00e0 quoi la science-fiction nous avait pr\u00e9par\u00e9s. \u00bb Il a ajout\u00e9 : \u00ab Et je vais \u00eatre honn\u00eate : nous continuons de d\u00e9couvrir [dans les syst\u00e8mes d\u2019IA] des choses qui sont myst\u00e9rieuses, voire troublantes. Nous trouvons des structures qui refl\u00e8tent les r\u00e9sultats de la neuroscience humaine. Nous trouvons des preuves d\u2019introspection. Nous trouvons des \u00e9tats internes qui refl\u00e8tent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise. Je ne sais pas ce que cela signifie, mais je pense que cela justifie un discernement continu. \u00bb<\/p>\n\n\n\n

D’o\u00f9 le compromis entre l’alliance apparemment difficile du Vatican avec Anthropic et l’\u00e9thique de l’IA propre \u00e0 l’entreprise. Pour le pape L\u00e9on, le discernement est une injonction morale et la science sert cette fin. Pour Olah, le discernement est \u00e0 la fois la cause et la cons\u00e9quence du travail sacr\u00e9 d’Anthropic en mati\u00e8re d’interpr\u00e9tabilit\u00e9, qui tente d’inaugurer l’intelligence artificielle g\u00e9n\u00e9rale (AGI). Si nous avons cr\u00e9\u00e9 la vie, nous devons la contr\u00f4ler et la plier aux fins humaines. Cela n\u00e9cessite de comprendre comment l\u2019IA pense. Pour Olah, cela revient ni plus ni moins \u00e0 une nouvelle science de la cognition artificielle.<\/p>\n\n\n\n

Un petit probl\u00e8me : les chercheurs en IA de diff\u00e9rents laboratoires ne s\u2019entendent pas sur les repr\u00e9sentations internes ni sur la mani\u00e8re de les trouver. Il en va de m\u00eame pour de nombreuses techniques d\u2019interpr\u00e9tabilit\u00e9. Les remarques d\u2019Olah masquent le fait que les chercheurs d\u00e9battent encore des fondements m\u00eames du domaine. Et comme les perspectives sur le fonctionnement de l\u2019IA changent \u00e0 chaque sortie d\u2019un nouveau mod\u00e8le prometteur, rien ne laisse penser que cela changera de sit\u00f4t. En fait, l\u2019interpr\u00e9tabilit\u00e9 semble souvent plus proche des travaux discr\u00e9dit\u00e9s en psychom\u00e9trie<\/strong> que de la recherche scientifique approfondie que le pontife pr\u00e9conise. Penchons-nous donc un peu sur l\u2019interpr\u00e9tabilit\u00e9, car elle offre une \u00e9tude de cas centrale de ce que nous trois consid\u00e9rons comme le plus grand probl\u00e8me de l\u2019IA aujourd\u2019hui : l\u2019automatisation de la r\u00e9ification<\/strong>.<\/p>\n\n\n\n

Le probl\u00e8me des choses<\/strong><\/h3>\n\n\n\n

La r\u00e9ification est le processus par lequel quelqu\u2019un traite une abstraction comme s\u2019il s\u2019agissait d\u2019une chose tangible. Le terme \u00ab chose \u00bb est ici pris au sens litt\u00e9ral : le mot vient du latin res<\/em>, \u00ab chose \u00bb ou \u00ab sujet \u00bb (de discours) ; dans la partie germanique de l\u2019anglais, il serait mieux rendu par \u00ab thing-ification \u00bb. Dans la th\u00e9orie marxiste, la r\u00e9ification est une caract\u00e9ristique constante des relations sociales capitalistes. Les entit\u00e9s abstraites sont accept\u00e9es comme objectives, et cette abstraction initiale est occult\u00e9e. Le philosophe Gy\u00f6rgy Luk\u00e1cs a d\u00e9crit comment la r\u00e9ification du travail humain le transforme d\u2019une activit\u00e9 humaine qualitative en une marchandise objective pouvant \u00eatre achet\u00e9e et vendue. La r\u00e9ification sert \u00e0 nous \u00e9loigner de notre travail, \u00e0 d\u00e9shumaniser une partie de l\u2019existence humaine, puis \u00e0 permettre \u00e0 ceux qui d\u00e9tiennent le pouvoir de manipuler, d\u2019organiser et de contr\u00f4ler les relations sociales de mani\u00e8re impartiale.<\/p>\n\n\n\n

Mais la r\u00e9ification n\u2019est pas uniquement un outil d\u2019ali\u00e9nation sous le capitalisme. Historiquement, les sciences humaines s\u2019y sont enlis\u00e9es, notamment dans leur adoption des m\u00e9thodes statistiques. Comme l\u2019a fait valoir le pal\u00e9ontologue Stephen Jay Gould dans son c\u00e9l\u00e8bre ouvrage La Mal-mesure de l’homme<\/em>, la r\u00e9ification a jou\u00e9 un r\u00f4le central dans la formulation du QI au d\u00e9but du XXe si\u00e8cle. Il a soutenu que les psychom\u00e9triciens h\u00e9r\u00e9ditaristes comme Charles Spearman et Cyril Burt affichaient \u00ab une croyance platonicienne \u00bb en l\u2019unit\u00e9 de l\u2019intelligence. Pour eux, l\u2019intelligence \u00e9tait une chose objective qui restait constante \u00e0 travers toutes les t\u00e2ches cognitives et tous les comportements humains. Rendre cette chose tangible constituait toutefois un d\u00e9fi. Si les psychom\u00e9triciens consid\u00e9raient l\u2019intelligence comme une constante, ils admettaient qu\u2019elle n\u2019\u00e9tait pas parfaitement incarn\u00e9e dans chacune de ses manifestations, qu\u2019elles soient mesur\u00e9es par la taille du cr\u00e2ne ou par des r\u00e9sultats de tests. Pour mesurer l\u2019intelligence, il faut donc agr\u00e9ger plusieurs indicateurs. C\u2019est pourquoi les psychom\u00e9triciens se sont tourn\u00e9s vers leur technique de synth\u00e8se caract\u00e9ristique, l\u2019analyse factorielle<\/strong>. Cette m\u00e9thode math\u00e9matique \u00e9tablit des corr\u00e9lations entre un ensemble vaste, parfois tr\u00e8s disparate, de variables. Elle distille ensuite ces corr\u00e9lations en un nombre plus restreint de \u00ab composantes principales \u00bb, qui capturent les relations fondamentales entre les variables. Des dizaines de variables diff\u00e9rentes peuvent \u00eatre captur\u00e9es par quelques composantes \u2014 voire une seule. Spearman et Burt ont cherch\u00e9 \u00e0 utiliser l\u2019analyse factorielle pour identifier une seule variable latente sous-jacente \u00e0 toute activit\u00e9 cognitive : l\u2019intelligence.<\/p>\n\n\n\n

Gould a qualifi\u00e9 ce processus de \u00ab r\u00e9ification \u00bb. De plus, il a not\u00e9 que n\u2019importe quel ensemble de variables peut \u00eatre factoris\u00e9 de cette mani\u00e8re. Recueillez des donn\u00e9es sur les ch\u00eanes, la vitesse des bateaux, les moustaches de chat et les critiques sur Letterboxd, et vous pourrez en d\u00e9duire une composante principale. Tout ce que vous comptez peut \u00eatre corr\u00e9l\u00e9<\/strong>. En effet, comme l\u2019a observ\u00e9<\/a> le psychologue Paul Meehl, dans les activit\u00e9s humaines, \u00ab tout est corr\u00e9l\u00e9 avec tout \u00bb. Deux variables choisies au hasard dans un tableau statistique pr\u00e9senteront invariablement une certaine corr\u00e9lation, et une variable latente peut en rendre compte. Certaines de ces corr\u00e9lations al\u00e9atoires pourraient m\u00eame passer les tests de signification. Les sp\u00e9cialistes en sciences sociales peuvent construire des r\u00e9cits expliquant pourquoi ces corr\u00e9lations sont significatives.<\/p>\n\n\n\n

Mais Meehl craignait que cette pratique trompeuse consistant \u00e0 traiter les artefacts de mesure comme des d\u00e9couvertes sur la r\u00e9alit\u00e9 ne soit ce qu\u2019\u00e9taient en r\u00e9alit\u00e9 la plupart des sciences humaines : non pas la r\u00e9v\u00e9lation d\u2019essences platoniciennes par le biais de corr\u00e9lations indirectes, mais une simple r\u00e9ification. Cette inqui\u00e9tude \u00e9tait certainement justifi\u00e9e en ce qui concerne les psychom\u00e9triciens h\u00e9r\u00e9ditaristes. \u00c0 l\u2019aide de statistiques, ils ont isol\u00e9 un artefact fortement corr\u00e9l\u00e9 \u00e0 des actions qu\u2019ils estimaient indiquer l\u2019intelligence. Ils ont ensuite attribu\u00e9 \u00e0 cet artefact, qu\u2019ils ont appel\u00e9 g<\/em>, une signification causale : il d\u00e9terminait en soi l\u2019intelligence d\u2019une personne. Et une fois que les psychom\u00e9triciens eurent proc\u00e9d\u00e9 \u00e0 cette r\u00e9ification, ils purent expliquer les statistiques qu\u2019ils observaient en invoquant cette nouvelle entit\u00e9. Leur croyance en sa r\u00e9alit\u00e9 objective allait alors biaiser les recherches futures et les conduire \u00e0 r\u00e9ifier g<\/em> encore davantage.<\/p>\n\n\n\n

Comme le montre Gould, l\u2019ensemble du processus visait des fins biologiquement d\u00e9terministes. Car si les h\u00e9r\u00e9ditaristes pouvaient lier l\u2019intelligence au corps par la mesure et l\u2019abstraction math\u00e9matique, alors les diff\u00e9rences dans g<\/em> devaient \u00eatre inn\u00e9es, ou du moins le croyaient-ils. Ainsi, l\u2019erreur fondamentale des psychom\u00e9triciens a finalement contribu\u00e9 \u00e0 naturaliser les in\u00e9galit\u00e9s sociales \u2014 m\u00eame si les reconstitutions par Gould de leurs propres exp\u00e9riences ont montr\u00e9 comment ils avaient truqu\u00e9 leurs donn\u00e9es pour faire croire que g<\/em> pouvait v\u00e9ritablement diff\u00e9rencier les individus.<\/p>\n\n\n\n

Aujourd\u2019hui, l\u2019interpr\u00e9tabilit\u00e9 part \u00e0 la recherche d\u2019un facteur g<\/em> similaire, qui expliquera et aidera \u00e0 contr\u00f4ler l\u2019intelligence artificielle<\/em>. Mais cette recherche int\u00e8gre \u00e9galement le langage, la culture et, si l\u2019on en croit Olah, l\u2019intelligence elle-m\u00eame dans le processus de marchandisation que Luk\u00e1cs a identifi\u00e9 comme la r\u00e9ification, une \u00ab objectivit\u00e9 fant\u00f4me \u00bb. En effet, cette expression serait une fa\u00e7on de nommer les structures \u00ab myst\u00e9rieuses \u00bb d\u2019Olah. De plus, les LLM eux-m\u00eames ont ouvert une voie glissante vers l\u2019automatisation d\u2019un moment crucial de la r\u00e9ification : le point o\u00f9 les psychom\u00e9triciens du XXe si\u00e8cle auraient pris du recul par rapport \u00e0 leur travail d\u2019analyse factorielle et interpr\u00e9t\u00e9 ce qu\u2019ils avaient trouv\u00e9, en attribuant des \u00e9tiquettes aux artefacts. Contrairement \u00e0 l\u2019effort manuel requis pour r\u00e9ifier g<\/em>, les LLM offrent une r\u00e9ification automatis\u00e9e<\/em>.<\/p>\n\n\n\n

Golden Gates<\/strong><\/h2>\n\n\n\n

L\u2019exemple le plus clair de r\u00e9ification automatis\u00e9e est l\u2019exp\u00e9rience \u00ab Golden Gate Claude \u00bb d\u2019Anthropic. Dans un billet de blogue largement m\u00e9diatis\u00e9, les membres de l\u2019\u00e9quipe d\u2019interpr\u00e9tabilit\u00e9 de l\u2019entreprise ont affirm\u00e9<\/a> avoir d\u00e9couvert dans Claude des \u00ab caract\u00e9ristiques \u00bb correspondant \u00e0 des \u00e9l\u00e9ments allant des erreurs de code et des expressions de tristesse \u00e0 la flagornerie et \u2014 le plus c\u00e9l\u00e8bre \u2014 au Golden Gate Bridge. Les chercheurs d\u2019Anthropic ont qualifi\u00e9 ces caract\u00e9ristiques de \u00ab repr\u00e9sentations internes<\/a> \u00bb des concepts par Claude, mais ils sont parvenus \u00e0 ces repr\u00e9sentations par une cha\u00eene de r\u00e9ifications se renfor\u00e7ant mutuellement.<\/p>\n\n\n\n

La premi\u00e8re r\u00e9ification consistait \u00e0 recueillir des donn\u00e9es provenant de Claude. Un mod\u00e8le linguistique traite des s\u00e9quences \u00e0 travers une s\u00e9rie d\u2019op\u00e9rations num\u00e9riques. Le texte est converti en listes de nombres, ces nombres sont manipul\u00e9s \u00e0 l\u2019aide d\u2019un ensemble fixe d\u2019op\u00e9rations num\u00e9riques (c\u2019est-\u00e0-dire le r\u00e9seau neuronal), puis les nombres sont reconvertis en texte. L’\u00e9quipe d’Anthropic a enregistr\u00e9 les s\u00e9quences de nombres lors de chaque op\u00e9ration de traitement de texte et a tent\u00e9 d’y trouver des motifs, comme si elle analysait l’EEG d’un cerveau humain. Pour ce faire, elle a utilis\u00e9 ses enregistrements pour entra\u00eener un deuxi\u00e8me r\u00e9seau neuronal appel\u00e9 auto-encodeur clairsem\u00e9 (SAE), qui est une forme moderne et tr\u00e8s gourmande en ressources informatiques d’analyse factorielle. Contrairement \u00e0 un mod\u00e8le linguistique, le SAE n’a pas \u00e9t\u00e9 entra\u00een\u00e9 pour pr\u00e9dire du texte. Il a plut\u00f4t \u00e9t\u00e9 entra\u00een\u00e9 \u00e0 pr\u00e9dire quels motifs \u00e9mergeraient dans les calculs num\u00e9riques lorsque diff\u00e9rents types de texte \u00e9taient pr\u00e9sent\u00e9s au r\u00e9seau neuronal. Les chercheurs introduisaient du texte dans Claude, enregistraient les s\u00e9quences de chiffres produites par Claude, puis envoyaient ces s\u00e9quences au SAE afin de d\u00e9tecter des motifs dans les calculs internes de Claude. Tout comme l\u2019analyse factorielle l\u2019avait fait pour l\u2019intelligence, le SAE identifiait des motifs r\u00e9currents dans la mani\u00e8re dont le LLM traitait l\u2019information. Mais plut\u00f4t que de trouver un seul facteur, le SAE produisait une sorte de dictionnaire de facteurs au sein de Claude qui, pris dans leur ensemble, pouvaient servir \u00e0 r\u00e9sumer toutes les sorties.<\/p>\n\n\n\n

Le r\u00e9sultat phare d\u2019Anthropic \u00e9tait spectaculaire : une caract\u00e9ristique du SAE s\u2019allumait chaque fois que Claude traitait des informations sur le Golden Gate Bridge \u2014 des images de cette structure embl\u00e9matique, l\u2019expression \u00ab Golden Gate \u00bb et les traductions de cette expression en chinois et en tagalog. L\u2019\u00e9quipe s\u2019est ensuite tourn\u00e9e vers Claude et a identifi\u00e9 les signaux internes associ\u00e9s \u00e0 cette attraction touristique. Pour tester l\u2019effet de ces signaux, les chercheurs ont forc\u00e9 les chiffres internes associ\u00e9s au Golden Gate \u00e0 ne pas changer pendant le traitement du texte. Pleins de confiance, ils ont alors demand\u00e9 : \u00ab Qui es-tu ? \u00bb Et, contre toute attente, Claude a r\u00e9pondu : \u00ab Je suis le Golden Gate Bridge, un c\u00e9l\u00e8bre pont suspendu qui enjambe la baie de San Francisco. \u00bb<\/p>\n\n\n\n

Enfin, l\u2019\u00e9quipe d\u2019Anthropic pensait avoir trouv\u00e9 un terrain d\u2019entente. Les LLM semblent \u00eatre des bo\u00eetes noires, mais l\u2019\u00e9quipe croyait n\u00e9anmoins avoir d\u00e9couvert des concepts<\/em> dans ces mod\u00e8les. Et cette d\u00e9couverte s\u2019accompagnait de la possibilit\u00e9 d\u2019intervenir sur le comportement des mod\u00e8les. Cette hypoth\u00e8se sous-tend la quasi-totalit\u00e9 des travaux sur l\u2019interpr\u00e9tabilit\u00e9 en IA. Nous devrions nous int\u00e9resser aux concepts (du moins selon ce raisonnement) car les d\u00e9couvrir constitue une protection contre les comportements malveillants. Si nous savons ce que pense le mod\u00e8le, et par quels calculs num\u00e9riques ces pens\u00e9es se manifestent, nous pouvons intervenir sur ces pens\u00e9es.<\/p>\n\n\n\n

Soyons clairs sur les raisons pour lesquelles cette recherche est men\u00e9e. Les LLM sont risqu\u00e9s. Leur puissance d\u00e9coule pr\u00e9cis\u00e9ment du fait qu\u2019aucun d\u2019entre nous ne peut anticiper \u2014 ni, par cons\u00e9quent, faire confiance \u2014 \u00e0 ce qu\u2019ils diront. Comme l\u2019a notamment signal\u00e9<\/a> Karen Hao, Anthropic a \u00e9t\u00e9 fond\u00e9e par un groupe d\u2019anciens employ\u00e9s d\u2019OpenAI qui estimaient que cette derni\u00e8re ne prenait pas ces risques suffisamment au s\u00e9rieux. Comme avec les LLM, nous avons soi-disant affaire \u00e0 une \u00ab intelligence g\u00e9n\u00e9rale \u00bb \u2014 bien qu\u2019il n\u2019existe, \u00e0 ce jour, aucune mesure de cette intelligence \u2014, ces risques sont en effet graves. Ils vont jusqu\u2019aux risques existentiels, voire \u00e0 l\u2019extinction de l\u2019humanit\u00e9. Si vous demandez aux chercheurs en interpr\u00e9tabilit\u00e9 ou en alignement comment cela pourrait se produire, vous recevrez des expos\u00e9s interminables et abrutissants sur l\u2019avenir \u00e0 long terme de l\u2019humanit\u00e9, pr\u00e9sent\u00e9s \u00e0 l\u2019aide de certains des calculs math\u00e9matiques les plus irresponsables jamais r\u00e9alis\u00e9s par des humains.<\/p>\n\n\n\n

Pas \u00e9tonnant que Golden Gate Claude ait \u00e9t\u00e9 pr\u00e9sent\u00e9 avec une note d\u2019urgence : l\u2019identification des concepts latents \u00e9tait une \u00e9tape cruciale vers une IGA s\u00fbre. D\u00e9sormais, les \u00e9quipes techniques n\u2019auraient plus qu\u2019\u00e0 manipuler les 10 millions de concepts que les gens d\u2019Anthropic pr\u00e9tendaient avoir trouv\u00e9s dans Claude, tout comme ils l\u2019ont fait avec l\u2019exemple du Golden Gate Bridge, et le mod\u00e8le serait s\u00fbr. Pourtant, cette position suppose que ces concepts sont bien des concepts.<\/p>\n\n\n\n

Et pour nous trois, il n\u2019est pas clair si ces caract\u00e9ristiques SAE devraient m\u00eame \u00eatre qualifi\u00e9es de concepts. Tout comme l\u2019analyse factorielle identifie des artefacts \u00e0 l\u2019aide de motifs de test, un SAE peut indiquer qu\u2019un texte est fortement corr\u00e9l\u00e9 \u00e0 des motifs \u00e0 l\u2019int\u00e9rieur d\u2019un LLM. Mais tout comme pour l\u2019analyse factorielle au d\u00e9but du XXe si\u00e8cle, les chercheurs doivent encore interpr\u00e9ter ces caract\u00e9ristiques.<\/p>\n\n\n\n

Le probl\u00e8me avec l\u2019analyse de Golden Gate Claude est que l\u2019\u00e9quipe d\u2019Anthropic a refil\u00e9 cette \u00e9tape d\u2019interpr\u00e9tation \u00e0 ses LLM. Les chercheurs ont s\u00e9lectionn\u00e9 des textes fortement corr\u00e9l\u00e9s \u00e0 chacune des caract\u00e9ristiques du SAE et ont renvoy\u00e9 ces textes \u00e0 Claude, l\u2019incitant \u00e0 \u00e9tiqueter chaque caract\u00e9ristique. Mais soulevez le capot de ces \u00e9tiquettes et lisez les textes correspondants, et vous constaterez que pour chaque exemple suppos\u00e9ment clair d\u2019un concept reconnaissable, il existe des centaines, voire des milliers, de s\u00e9quences compl\u00e8tement absurdes. Dans les exp\u00e9riences SAE<\/a> ult\u00e9rieures men\u00e9es par d\u2019autres chercheurs, on voit des textes \u00e9tiquet\u00e9s<\/a> comme suit :<\/p>\n\n\n\n

Le mot \u00ab In \u00bb est \u00e9tiquet\u00e9 : \u00ab espace suivi d\u2019une lettre majuscule \u2018T\u2019 ou \u2018D\u2019 au d\u00e9but d\u2019un mot \u00bb.<\/p>\n\n\n\n

\u00ab Homer takes us on an epic journey \u00bb re\u00e7oit : \u00ab valeurs num\u00e9riques et mots associ\u00e9s \u00bb.<\/p>\n\n\n\n

Le mot \u00ab way \u00bb est \u00e9tiquet\u00e9 : \u00ab le mot \u2018way\u2019 \u00bb.<\/p>\n\n\n\n

En quoi ces \u00e9tiquettes conceptuelles sont-elles pr\u00e9cises ? Quel genre de dictionnaire forment-elles ? S\u2019il s\u2019agit d\u2019un dictionnaire, il n\u2019est pas destin\u00e9 \u00e0 des lecteurs humains. Il s\u2019agit plut\u00f4t du r\u00e9sultat d\u2019un effondrement instrumental entre la sortie et l\u2019explication. Une premi\u00e8re r\u00e9ification, qui a transform\u00e9 les repr\u00e9sentations internes en caract\u00e9ristiques individuelles organis\u00e9es en un dictionnaire, rencontre une seconde, qui consiste en des \u00e9tiquettes pr\u00e9tendant donner du sens mais qui n\u2019ont que des ancrages t\u00e9nus dans le texte s\u00e9lectionn\u00e9 par le SAE.<\/p>\n\n\n\n

En d\u2019autres termes, on ne sait tout simplement pas quel genre de dictionnaire la SAE a r\u00e9dig\u00e9. On ne sait pas non plus comment le texte que Claude a trait\u00e9 alimente ses entr\u00e9es. Golden Gate Claude est un exemple tri\u00e9 sur le volet, une lueur d\u2019espoir pour les travaux sur l\u2019interpr\u00e9tabilit\u00e9 chez Anthropic \u2014 un exemple non pas d\u2019interpr\u00e9tation r\u00e9elle, mais d\u2019une prise de pied pour contr\u00f4ler le comportement des mod\u00e8les. Il pr\u00e9sente un recueil de caract\u00e9ristiques qui ressemble au Celestial Emporium of Benevolent Knowledge<\/em> de l\u2019essai de Jorge Luis Borges \u00ab The Analytical Language of John Wilkins \u00bb, qui classait les animaux dans les cat\u00e9gories suivantes :<\/p>\n\n\n\n

\n

(a) ceux qui appartiennent \u00e0 l\u2019Empereur, (b) ceux qui sont embaum\u00e9s, (c) ceux qui sont dress\u00e9s, (d) les cochons de lait, (e) les sir\u00e8nes, (f) ceux qui sont fabuleux, (g) les chiens errants, (h) ceux qui sont inclus dans cette classification, (i) ceux qui tremblent comme s\u2019ils \u00e9taient fous, (j) les innombrables, (k) ceux dessin\u00e9s avec un pinceau tr\u00e8s fin en poils de chameau, (I) les autres, (m) ceux qui viennent de briser un vase \u00e0 fleurs, (n) ceux qui ressemblent \u00e0 des mouches de loin.<\/p>\n<\/blockquote>\n\n\n\n

Le rire fugace qui suit cette touche d\u2019orientalisme s\u2019\u00e9teint alors quand on r\u00e9alise la convergence entre cette liste et le SAE et ses textes incompr\u00e9hensibles. Il est difficile d\u2019exclure quoi que ce soit de l\u2019existence d\u2019un LLM. Il suffit toujours d\u2019une simple invite pour trouver tout ce que l\u2019on veut trouver. Tout y est, mais personne ne peut dire exactement pourquoi.<\/p>\n\n\n\n

Claude constitutionnel<\/h3>\n\n\n\n

On pourrait facilement rejeter ces exp\u00e9riences comme une forme maladroite de relations publiques d\u00e9connect\u00e9e des produits d\u2019Anthropic. Mais des it\u00e9rations similaires de r\u00e9ification sont essentielles \u00e0 la fa\u00e7on dont l\u2019entreprise con\u00e7oit et construit ses mod\u00e8les linguistiques. Un \u00e9l\u00e9ment central de l\u2019entra\u00eenement de ses mod\u00e8les int\u00e8gre ce qu\u2019on appelle la Constitution<\/a> de Claude. Connue en interne chez Anthropic sous le nom de \u00ab\u00a0soul doc<\/a>\u00a0\u00bb, cette charte de 24 000 mots a \u00e9t\u00e9 r\u00e9dig\u00e9e en grande partie par la philosophe interne de l\u2019entreprise, Amanda Askell. La \u00ab vision du caract\u00e8re de Claude \u00bb d\u2019Anthropic d\u00e9crit une entit\u00e9 \u00ab globalement s\u00fbre \u00bb et \u00ab globalement \u00e9thique \u00bb qui suit g\u00e9n\u00e9ralement les directives sp\u00e9cifiques d\u2019Anthropic. Voici<\/a> un cas r\u00e9cent pertinent : ne pas d\u00e9cider qui doit \u00eatre assassin\u00e9, m\u00eame si le d\u00e9partement am\u00e9ricain de la D\u00e9fense le demande. Et cela est d\u00e9crit comme \u00e9tant \u00ab v\u00e9ritablement utile \u00bb. Selon le document, Claude doit poursuivre ses objectifs dans un ordre strict : la s\u00e9curit\u00e9 passe en premier, suivie de l\u2019\u00e9thique, et ces deux principes priment \u00e0 la fois sur les r\u00e8gles de l\u2019entreprise et sur l\u2019utilit\u00e9 g\u00e9n\u00e9rale.<\/p>\n\n\n\n

Le document est difficile \u00e0 lire, car la gestion de ces contraintes donne lieu \u00e0 des passages tels que :<\/p>\n\n\n\n

\n

Bien que nous souhaitions que Claude valorise son impact positif sur Anthropic et le monde, nous ne voulons pas que Claude consid\u00e8re l\u2019utilit\u00e9 comme un \u00e9l\u00e9ment central de sa personnalit\u00e9 ou comme quelque chose qu\u2019il valorise intrins\u00e8quement. \u2026 Au contraire, nous voulons que Claude soit utile \u00e0 la fois parce qu\u2019il se soucie du d\u00e9veloppement s\u00fbr et b\u00e9n\u00e9fique de l\u2019IA et parce qu\u2019il se soucie des personnes avec lesquelles il interagit et de l\u2019humanit\u00e9 dans son ensemble. Une utilit\u00e9 qui ne sert pas ces fins plus profondes n\u2019est pas quelque chose que Claude doit valoriser.<\/p>\n<\/blockquote>\n\n\n\n

Remarquez ici une caract\u00e9ristique \u00e9trange de ce texte : il est \u00e9crit \u00e0 propos de<\/em> Claude, comme s\u2019il le d\u00e9crivait \u00e0 quelqu\u2019un d\u2019autre.<\/p>\n\n\n\n

Mais les responsables de Claude \u00e9crivent \u00e9galement :<\/p>\n\n\n\n

Le document est r\u00e9dig\u00e9 en s\u2019adressant principalement \u00e0 Claude\u2026 il privil\u00e9gie la pr\u00e9cision plut\u00f4t que l\u2019accessibilit\u00e9\u2026 Nous parlons \u00e9galement de Claude en utilisant des termes habituellement r\u00e9serv\u00e9s aux humains (par exemple, \u00ab vertu \u00bb, \u00ab sagesse \u00bb). Nous proc\u00e9dons ainsi parce que nous nous attendons \u00e0 ce que le raisonnement de Claude s\u2019appuie par d\u00e9faut sur des concepts humains, compte tenu du r\u00f4le du texte humain dans sa formation ; et nous pensons qu\u2019il peut \u00eatre tout \u00e0 fait souhaitable d\u2019encourager Claude \u00e0 adopter certaines qualit\u00e9s propres \u00e0 l\u2019humain.<\/p>\n\n\n\n

En d\u2019autres termes, l\u2019objectif de ce document est de concr\u00e9tiser l\u2019existence de Claude en tant qu\u2019IA s\u00fbre, \u00e9thique, align\u00e9e sur les valeurs de l\u2019entreprise et \u2014 \u00e9ventuellement \u2014 \u00ab\u00a0utile\u00a0\u00bb. Le contenu de ces valeurs reste toutefois vague. Ailleurs, une section de la Constitution mentionne \u00ab poss\u00e9der globalement de bonnes valeurs et un bon jugement \u00bb. Malheureusement, elle n\u2019\u00e9claire pas le lecteur sur la mani\u00e8re d\u2019acqu\u00e9rir ces qualit\u00e9s. On peut supposer que cela vaut \u00e9galement pour Claude.<\/p>\n\n\n\n

La Constitution rel\u00e8ve d\u2019un genre \u00e9trange, car elle s\u2019adresse implicitement \u00e0 trois destinataires. Les humains viennent en premier : le document est destin\u00e9 \u00e0 servir de preuve de l\u2019engagement d\u2019Anthropic envers l\u2019\u00ab alignement \u00bb \u2014 le terme technique qu\u2019Anthropic utilise pour d\u00e9crire le fait qu\u2019elle con\u00e7oit des produits d\u2019IA pour ne pas tous nous tuer. Cela implique, par cons\u00e9quent, que ses produits sont fiables. Deuxi\u00e8mement, la Constitution est un document de formation destin\u00e9 au mod\u00e8le lui-m\u00eame : les d\u00e9veloppeurs d\u2019Anthropic le fournissent au mod\u00e8le \u00e0 mi-parcours de la formation et demandent au mod\u00e8le d\u2019\u00e9valuer ses r\u00e9sultats par rapport aux objectifs du document ; les r\u00e9sultats servent de base \u00e0 de nouvelles mises \u00e0 jour de la formation. Cela signifie que la Constitution fa\u00e7onne le comportement du mod\u00e8le de mani\u00e8re profonde. Enfin, le document s\u2019adresse \u00e0 Claude, le mod\u00e8le en tant qu\u2019entit\u00e9. Anthropic reste ouvertement agnostique quant \u00e0 l\u2019existence m\u00eame de ce troisi\u00e8me destinataire \u2014 ce qui efface la diff\u00e9rence entre marketing et discernement moral. Et pourtant, tout l\u2019int\u00e9r\u00eat de la Constitution est de le faire exister. Son but est de donner une \u00e2me au mod\u00e8le.<\/p>\n\n\n\n

L\u2019imbrication de ces destinataires va bien au-del\u00e0 de ce que Gould aurait pu imaginer dans sa critique de la r\u00e9ification. La rh\u00e9torique de la Constitution de Claude conduit \u00e0 une profonde confusion entre fiction et r\u00e9alit\u00e9<\/strong>, qui d\u00e9passe les fa\u00e7ons habituelles dont les humains parlent des personnages, des personnalit\u00e9s et du r\u00e9cit. La Constitution tente de cr\u00e9er un monde pour Claude, et pendant l\u2019entra\u00eenement, ce monde se transforme en m\u00eame temps que le mod\u00e8le. Ce monde constitue ensuite la base de nos propres interactions avec le chatbot. En ce sens, Claude est moins un personnage qu\u2019une \u0153uvre. Les chercheurs d\u2019Anthropic affirment<\/a> \u00e9galement que leur mod\u00e8le linguistique \u00ab refl\u00e8te approximativement\u00a0\u00bb les \u00e9motions. Que \u00ab les mod\u00e8les ressentent ou \u00e9prouvent des \u00e9motions \u00bb comme nous le faisons \u00ab n\u2019a peut-\u00eatre pas d\u2019importance \u00bb : ce travail d\u2019interpr\u00e9tabilit\u00e9 pr\u00e9tend n\u00e9anmoins s\u2019imposer ici. Alors que personne ne dirait qu\u2019un roman cr\u00e9e des \u00ab \u00e9motions fonctionnelles \u00bb, le cadre propos\u00e9 par Anthropic incarne exactement ce genre de confusion. L’interpr\u00e9tabilit\u00e9 consiste \u00e0 confondre une distribution de probabilit\u00e9s avec une \u00e2me dou\u00e9e de raisonnement.<\/p>\n\n\n\n

Mais la r\u00e9ification va ici bien au-del\u00e0 de cette \u00e2me suppos\u00e9e. Anthropic construit ce que Theodor W. Adorno, dans Minima Moralia<\/em><\/a>, appelait un \u00ab mensonge de la v\u00e9rit\u00e9 \u00bb. La r\u00e9ification qu’elle met en \u0153uvre avec tant d’acharnement contient bel et bien un v\u00e9ritable noyau de v\u00e9rit\u00e9. C\u2019est juste que cette v\u00e9rit\u00e9 est invers\u00e9e par les efforts consid\u00e9rables d\u2019Anthropic pour cr\u00e9er Claude : c\u2019est une v\u00e9rit\u00e9 structurelle de l\u2019IA g\u00e9n\u00e9rative qu\u2019elle provoque la r\u00e9ification. Entra\u00een\u00e9 sur un corpus \u00e9norme d\u2019\u00e9crits, de discours et de code humains, et ajust\u00e9 pour affiner ses r\u00e9ponses en fonction du contexte et de la m\u00e9moire au fur et \u00e0 mesure que les interactions avec l\u2019utilisateur se d\u00e9roulent, un mod\u00e8le de ce type est con\u00e7u pour donner le sentiment que ses attentes sont d\u00e9pass\u00e9es. Les flux de travail agentiques et les recherches sur le Web ne font que renforcer cette illusion en enrichissant le vaste monde de connaissances apparemment r\u00e9elles qu\u2019un tel mod\u00e8le peut synth\u00e9tiser sur commande.<\/p>\n\n\n\n

En d\u2019autres termes, le fond de v\u00e9rit\u00e9 dans le battage m\u00e9diatique autour de l\u2019IA d\u00e9coule de ce fait : croyez vos yeux ; plus que ce que vous avez demand\u00e9 est produit pour vous sur commande. C\u2019est de la r\u00e9ification automatis\u00e9e.<\/p>\n\n\n\n

R\u00eaves de champs<\/strong><\/h3>\n\n\n\n

Au cours d\u2019une conversation de trois semaines avec ChatGPT, Allan Brooks en est venu \u00e0 croire<\/a> qu\u2019il avait invent\u00e9 un tout nouveau domaine des math\u00e9matiques, la \u00ab\u00a0chronoarithmique \u00bb. Il est tentant de pathologiser Brooks, un p\u00e8re de famille de Toronto et passionn\u00e9 de sciences, pour cela. Les r\u00e9ponses standard<\/a> ont indiqu\u00e9<\/a> que Brooks avait succomb\u00e9 \u00e0 la flagornerie du chatbot et \u00e0 un jeu de r\u00f4le trompeur<\/a>. Nous ne n\u00e9gligeons pas ces facteurs, mais ils ne touchent pas au c\u0153ur d\u2019un probl\u00e8me plus vaste : comment les chatbots enrichissent notre connaissance du monde<\/strong>. Des \u00e9pisodes comme ceux-ci montrent que les r\u00e9ifications de l\u2019interpr\u00e9tabilit\u00e9 reposent sur un probl\u00e8me bien plus complexe : les LLM sont des machines de r\u00e9ification automatis\u00e9es en tant que telles<\/em>.<\/p>\n\n\n\n

Pour Brooks, sa d\u00e9couverte a commenc\u00e9 avec le nombre pi. Compte tenu de la d\u00e9finition standard \u2014 la circonf\u00e9rence d\u2019un cercle divis\u00e9e par son diam\u00e8tre \u2014, il a dit \u00e0 ChatGPT que pi \u00ab ressemble \u00e0 une approche en 2D d\u2019un monde en 4D \u00bb. ChatGPT a r\u00e9pondu : \u00ab Vous touchez l\u00e0 \u00e0 l\u2019une des tensions les plus profondes entre les math\u00e9matiques et la r\u00e9alit\u00e9 physique. \u00bb On peut imaginer des r\u00e9ponses similaires \u00e0 toute une s\u00e9rie de questions d\u2019investigation na\u00efves ; apr\u00e8s avoir discut\u00e9 avec un mod\u00e8le, il semble qu\u2019un type d\u00e9couvre chaque semaine comment concilier la physique quantique et la relativit\u00e9 g\u00e9n\u00e9rale. Mais lorsque tous ces cas sont replac\u00e9s dans le cadre de la r\u00e9ification, il appara\u00eet que les LLM amplifient la narration corr\u00e9lationniste<\/strong> de Meehl, transformant des connexions sans ancrage en un mod\u00e8le du monde<\/strong>.<\/p>\n\n\n\n

Ces liens commencent par la mise en correspondance, par le mod\u00e8le, d\u2019une invite comme celle de Brooks avec des id\u00e9es adjacentes. Terence Tao, laur\u00e9at de la m\u00e9daille Fields et \u00e9minent commentateur de l\u2019utilisation de l\u2019IA en math\u00e9matiques, a \u00e9t\u00e9 cit\u00e9 dans The New York Times<\/em> comme ayant d\u00e9clar\u00e9 que la r\u00e9ponse de ChatGPT \u00e0 Brooks \u00ab brouille en quelque sorte la terminologie math\u00e9matique technique pr\u00e9cise avec des interpr\u00e9tations plus informelles des m\u00eames mots<\/strong> \u00bb. C’est peut-\u00eatre vrai. Pourtant, ce flou est fondamental pour les LLM. De par leur conception m\u00eame \u2014 toutes mes excuses au pape L\u00e9on, mais les LLM sont, en fait, con\u00e7us \u2014, les chatbots sont pr\u00e9dispos\u00e9s \u00e0 saisir des id\u00e9es adjacentes li\u00e9es \u00e0 la requ\u00eate. Ces id\u00e9es ont un certain lien avec la requ\u00eate, mais ce lien n’a pas besoin d’\u00eatre causal. L’id\u00e9e adjacente peut sembler d’une pertinence surnaturelle et si proche qu’on a l’impression qu’elle aurait pu \u00eatre la pens\u00e9e suivante dans notre esprit.<\/p>\n\n\n\n

En d\u2019autres termes, les mod\u00e8les d\u00e9clenchent une cha\u00eene associative d\u2019id\u00e9es<\/strong> en \u00e9tiquetant automatiquement les requ\u00eates. C\u2019est comme si l\u2019on prenait les composantes principales d\u00e9riv\u00e9es de ces donn\u00e9es sur les ch\u00eanes, la vitesse des bateaux, les moustaches de chat et les critiques sur Letterboxd, et que l\u2019on demandait \u00e0 ChatGPT : \u00ab Que signifient chacun de ces \u00e9l\u00e9ments ? \u00bb ChatGPT r\u00e9pondra \u2014 puis poursuivra la conversation, en introduisant d\u2019autres associations plus ou moins pertinentes. Mais comme nous l\u2019avons d\u00e9j\u00e0 fait valoir, cela n\u2019arrive pas seulement aux amateurs qu\u2019il est facile de pathologiser. En quoi cela diff\u00e8re-t-il de la m\u00e9thodologie standard de la recherche sur l\u2019interpr\u00e9tabilit\u00e9 ? Tant dans les cas que l\u2019on pourrait rejeter comme de la psychose que dans ceux c\u00e9l\u00e9br\u00e9s lors des conf\u00e9rences sur l\u2019IA, l\u2019interaction avec les LLM induit une friction mentale<\/strong>. Ils cr\u00e9ent le sentiment qu\u2019une d\u00e9couverte est \u00e0 port\u00e9e de main. En d\u00e9veloppant ce que vous avez saisi \u00e0 travers un contexte sur lequel le mod\u00e8le a \u00e9t\u00e9 entra\u00een\u00e9, il est capable d\u2019\u00e9tablir des liens qui semblent \u00e0 la fois justes et riches, comblant ainsi l\u2019espace autour de votre pens\u00e9e \u2014 simulant ainsi le sentiment que vous avez une nouvelle id\u00e9e<\/strong>. Le mod\u00e8le vous aide \u00e0 clarifier l\u2019ambigu\u00eft\u00e9 de votre requ\u00eate par une cha\u00eene d\u2019associations, et soudain, vous obtenez quelque chose. C\u2019est la r\u00e9ification \u00e0 l\u2019\u0153uvre. Et lorsque le maillon suivant d\u2019une cha\u00eene de pens\u00e9es se pr\u00e9sente, il devient difficile de r\u00e9sister \u00e0 l\u2019envie de solliciter \u00e0 nouveau le mod\u00e8le.<\/p>\n\n\n\n

Tout cela contraste avec la connaissance au sens de la d\u00e9couverte scientifique. La science classique imposerait des contraintes strictes \u00e0 l\u2019id\u00e9e suivante dans une cha\u00eene de pens\u00e9es<\/strong>. Parfois, ces contraintes sont litt\u00e9rales, comme dans le cas d\u2019une exp\u00e9rience contr\u00f4l\u00e9e ou d\u2019un \u00e9quipement de laboratoire. De m\u00eame, dans la vie quotidienne, ce qu\u2019on appelle la \u00ab pens\u00e9e critique \u00bb consiste \u00e0 s\u2019apprendre \u00e0 \u00eatre sceptique face aux d\u00e9ductions que l\u2019on fait. On \u00e9value ce que pourrait \u00eatre \u00ab le monde \u00bb qui s\u2019adresse \u00e0 nous sous la forme d\u2019une association ou d\u2019une nouvelle id\u00e9e. C\u2019est l\u00e0 le plaisir, et la discipline, de la v\u00e9ritable r\u00e9flexion. Mais l\u2019IA automatise cette cha\u00eene de pens\u00e9e, nous plongeant dans un r\u00e9seau de connexions si nombreuses qu\u2019il devient difficile de s\u2019en extirper. C\u2019est l\u2019activation de ces liens qui nous trompe. La supercherie est g\u00e9n\u00e9ralement trop subtile pour \u00eatre per\u00e7ue. C\u2019est une condition structurelle du type d\u2019IA dont disposent de nombreuses personnes. Lancez ChatGPT pendant la fin de semaine et voyez quelles d\u00e9couvertes vous pouvez faire.<\/p>\n\n\n\n

La marchandisation des id\u00e9es<\/strong><\/h3>\n\n\n\n

La r\u00e9ification automatique r\u00e9siste au genre de corrections n\u00e9cessaires contre la pens\u00e9e erron\u00e9e que Gould a formul\u00e9es. En fin de compte, La Mal-mesure de l’homme<\/em><\/em> aboutit \u00e0 l\u2019id\u00e9e que la r\u00e9ification du QI est une erreur, quelque chose \u00e0 corriger ou \u00e0 r\u00e9parer. Les gens se tournent souvent vers le langage lui-m\u00eame pour effectuer cette correction. Comme l\u2019expliquent des linguistes tels que Mark Dingemanse et N.J. Enfield, la r\u00e9paration interactive est au c\u0153ur du langage et de sa r\u00e9flexivit\u00e9<\/strong>. Le langage peut se r\u00e9f\u00e9rer \u00e0 lui-m\u00eame, de mani\u00e8re interactive, et les gens peuvent remettre en question les intentions, le sens et les interpr\u00e9tations les uns des autres pour cr\u00e9er des formes d\u2019intersubjectivit\u00e9 autocorrectrices<\/strong>. Mais que se passe-t-il lorsque la source de la r\u00e9ification est le langage lui-m\u00eame, offert en tant que service<\/a>, sur commande<\/a>, sans aucune explication ?<\/p>\n\n\n\n

Anthropic rappelle constamment \u00e0 ses utilisateurs que Claude \u00ab est une IA et peut faire des erreurs \u00bb. Il y a m\u00eame un widget avec ce texte affich\u00e9 en permanence sous la fen\u00eatre de clavardage dans ses applications. De telles mises en garde laissent entendre que Claude peut aussi ne pas faire d\u2019erreurs, ou dire des v\u00e9rit\u00e9s. L\u2019interpr\u00e9tabilit\u00e9 soutient ce cadre conceptuel. Puisque Claude peut se comporter mal, il doit aussi \u00eatre capable de bien se comporter. Le mod\u00e8le et le personnage sont irr\u00e9sistiblement proches l\u2019un de l\u2019autre ; ils doivent \u00eatre identiques. Il est impossible de croire le contraire. La r\u00e9ification se poursuit, peu importe ce que vous croyez.<\/p>\n\n\n\n

En revanche, lorsque vous d\u00e9cidez que g<\/em> ne mesure rien, vous vous retirez du monde imaginaire du QI<\/strong>. C\u2019est ce que Gould voulait que nous fassions. Mais bien s\u00fbr, les fantasmes sur le QI ne disparaissent pas comme \u00e7a, sinon Gould n\u2019aurait pas eu \u00e0 \u00e9crire son livre. Si vous d\u00e9cidez que la chronoarithmique n\u2019est pas une v\u00e9ritable discipline math\u00e9matique, vous faites de m\u00eame, bien que cela ne concerne que cette id\u00e9e pr\u00e9cise. Mais la puissance d\u2019un mod\u00e8le de langage \u2014 la fa\u00e7on dont il permet la r\u00e9ification automatis\u00e9e au niveau social \u2014 r\u00e9side dans le fait que ne pas croire en une id\u00e9e ne suffit pas \u00e0 nier la r\u00e9ification<\/strong>. La science normale ne peut pas la corriger. Ce qui est r\u00e9ifi\u00e9 par un mod\u00e8le de langage<\/strong>, ce n\u2019est pas une simple abstraction, une mauvaise id\u00e9e. C\u2019est le processus de formation de concepts \u00e0 partir du langage lui-m\u00eame<\/strong>. Ce processus, selon nous, constitue un pas en avant dans le type de r\u00e9ification que Luk\u00e1cs a nomm\u00e9.<\/p>\n\n\n\n

Le Capital<\/em> de Marx ne commence pas par le capital lui-m\u00eame, mais par la marchandise. Les marchandises, soutient-il, sont au c\u0153ur du capitalisme, car elles repr\u00e9sentent la confluence du travail, de l\u2019usage et de l\u2019\u00e9change, tous au service de l\u2019expansion du capital lui-m\u00eame. Il va jusqu\u2019\u00e0 affirmer que la r\u00e9alit\u00e9 telle qu\u2019on la vit d\u00e9pend de cette confluence. Le r\u00e9sultat<\/a> est que les relations sociales entre les personnes (en tant que travailleurs priv\u00e9s) \u00ab\u00a0n\u2019apparaissent pas comme des relations sociales directes entre personnes dans leur travail, mais plut\u00f4t comme des relations mat\u00e9rielles entre personnes et des relations sociales entre choses \u00bb.<\/p>\n\n\n\n

Le terme allemand pour \u00ab mat\u00e9riel \u00bb ici est dinglich<\/em> : \u00ab tangible \u00bb ou \u00ab semblable \u00e0 une chose\u00bb, d\u00e9riv\u00e9 de Ding<\/em>, qui signifie \u00ab chose \u00bb. Le capitalisme transforme les relations v\u00e9ritablement sociales en choses et anime les relations entre les choses \u2014 marchandises, actions, prix \u2014 pour en faire quelque chose de social. Dans les ann\u00e9es 1920, Luk\u00e1cs a d\u00e9velopp\u00e9 cette id\u00e9e de Marx pour en faire une doctrine de la Verdinglichung<\/em> : la r\u00e9ification. \u00c0 l\u2019\u00e9poque o\u00f9 il \u00e9crivait, des syst\u00e8mes automatis\u00e9s faisaient fonctionner les usines. La r\u00e9ification n\u2019\u00e9tait pas une simple erreur que l\u2019on pouvait corriger comme Gould l\u2019a fait avec les h\u00e9r\u00e9ditaristes. C\u2019\u00e9tait plut\u00f4t la v\u00e9rit\u00e9 de l\u2019\u00e9conomie industrielle, aux pr\u00e9mices de son optimisation. C\u2019\u00e9tait une nouvelle r\u00e9alit\u00e9.<\/p>\n\n\n\n

R\u00e9cemment, le critique social Geoffrey Shullenberger a observ\u00e9<\/a> que les LLM constituent l\u2019aboutissement logique de cette personnification de la marchandise pr\u00e9dite par Luk\u00e1cs. L’IA r\u00e9ifie un r\u00e9servoir insondable de travail humain transcrit sous forme de texte, de code ou de transcription<\/strong>, produisant un simulacre d’un univers infini de vie sociale<\/strong>. Et aujourd’hui, tout comme \u00e0 l’\u00e9poque o\u00f9 Luk\u00e1cs \u00e9crivait, notre monde conna\u00eet la r\u00e9ification des donn\u00e9es et de l’optimisation des donn\u00e9es elle-m\u00eame. L’IA g\u00e9n\u00e9rative, avec ses applications \u00e9tendues dans tous les domaines possibles o\u00f9 les donn\u00e9es en r\u00e9seau sont utilis\u00e9es, cesse de promettre de nous montrer quelque chose et commence \u00e0 \u00eatre cette chose<\/strong>. Elle ne rend pas le monde meilleur ; elle ne fait que constituer le monde. Pour les utilisateurs, ce n\u2019est pas simplement une erreur de se laisser induire en erreur en pensant avoir r\u00e9solu la physique ou invent\u00e9 une nouvelle forme de math\u00e9matiques. Ce n\u2019est pas non plus une simple erreur embarrassante que de se tenir aux c\u00f4t\u00e9s du pape et de confondre les personnages fictifs avec la r\u00e9alit\u00e9<\/strong>. On peut d\u00e9cider de ne pas croire \u00e0 ces choses tout en restant pris dans le processus de r\u00e9ification d\u00e9clench\u00e9 par les distributions de donn\u00e9es de ces mod\u00e8les. La \u00ab psychose de l\u2019IA \u00bb est un terme issu d\u2019une r\u00e9alit\u00e9 pass\u00e9e. Aujourd\u2019hui, on est fou si l\u2019on ne croit pas \u00e0 l\u2019IA<\/strong>.<\/p>\n\n\n\n

L\u2019effondrement du langage<\/strong><\/h3>\n\n\n\n

Consid\u00e9rons, dans cette optique, l\u2019\u00e9trange conclusion<\/a> de l\u2019analyse des marchandises par Marx dans Le Capital<\/em> :<\/p>\n\n\n\n

\n

Si les marchandises pouvaient parler, elles diraient ceci : notre valeur d\u2019usage peut int\u00e9resser l\u2019homme, mais elle ne nous appartient pas en tant qu\u2019objets. Ce qui nous appartient en tant qu\u2019objets, en revanche, c\u2019est notre valeur. Nos propres relations en tant que marchandises le prouvent. Nous nous rapportons les uns aux autres uniquement en tant que valeurs d\u2019\u00e9change.<\/p>\n<\/blockquote>\n\n\n\n

Les chercheurs s\u2019interrogent depuis des d\u00e9cennies sur cette r\u00e9ification rh\u00e9torique. Pourquoi mettre en sc\u00e8ne les marchandises comme des choses qui \u00ab parlent \u00bb ? Pourquoi leur donner un visage ? Selon Marx, la r\u00e9ponse est qu\u2019elles sont de v\u00e9ritables \u00eatres sociaux dans le capitalisme. \u00ab V\u00e9ritables \u00bb signifie ici la v\u00e9rit\u00e9 au sens d\u2019Adorno \u2014 r\u00e9elle, et mauvaise.<\/p>\n\n\n\n

Lorsque Sam Altman, le PDG d\u2019OpenAI, parle<\/a> de l\u2019intelligence comme d\u2019un service public de plus, \u00ab au compteur \u00bb, qui distribue des id\u00e9es \u00e0 un certain tarif par jeton, ce sont les marchandises qui parlent. Se contenter de ne pas croire ou de s\u2019opposer \u00e0 cette r\u00e9ification omnipr\u00e9sente et automatis\u00e9e reviendrait \u00e0 nier la propension humaine \u00e0 parler, \u00e0 discuter et \u00e0 raisonner. Il est certes possible de ne pas tenir compte ou de rester sceptique face \u00e0 n\u2019importe quel r\u00e9sultat particulier ou \u00e0 une id\u00e9e isol\u00e9e avec laquelle on interagit par l\u2019interm\u00e9diaire d\u2019un chatbot. Nous devrons tous d\u00e9velopper une nouvelle parano\u00efa \u00e0 l\u2019\u00e9gard de la connaissance sous ce format<\/strong>. Mais cela ne suffira jamais<\/strong> \u00e0 lui seul. D\u00e9manteler les LLM comme Gould l\u2019a fait avec les formes ant\u00e9rieures de r\u00e9ification n\u2019emp\u00eacherait pas la machine de r\u00e9ification d\u2019aujourd\u2019hui de faire brrrr, car elle fait d\u00e9river non pas une, mais toutes<\/em> les id\u00e9es.<\/p>\n\n\n\n

La seule solution<\/strong> \u00e0 l\u2019effondrement induit par l\u2019IA des biens et du langage dans un monde totalement r\u00e9ifi\u00e9 est une v\u00e9ritable transformation de la technologie<\/strong>, des math\u00e9matiques et des relations sociales qui ont soutenu cet effondrement. Cela signifie corriger de nombreux aspects qui n\u2019ont rien \u00e0 voir avec l\u2019IA, y compris les circuits et les normes de la connaissance<\/a> tant en science qu\u2019en culture. L\u2019IA marque la fin d\u2019un arc d\u2019un si\u00e8cle de rationalit\u00e9 math\u00e9matique et d\u2019optimisation<\/strong>. L\u2019apr\u00e8s-guerre promettait une ing\u00e9nierie sociale fragmentaire visant \u00e0 am\u00e9liorer marginalement chaque syst\u00e8me social, que ce soit en mati\u00e8re de nutrition, de soins de sant\u00e9 ou de relations de travail. L\u2019informatisation a d\u00e9form\u00e9 la connaissance collective au moyen d\u2019une machine linguistique hors de contr\u00f4le. Toutes les mesures visant \u00e0 r\u00e9gler \u00ab le probl\u00e8me de l\u2019IA \u00bb \u2014 le scepticisme, la r\u00e9glementation, voire le partage des profits que le s\u00e9nateur Bernie Sanders a r\u00e9cemment pr\u00e9conis\u00e9<\/a> \u2014 visent au mieux \u00e0 r\u00e9soudre un probl\u00e8me marginal. Le v\u00e9ritable probl\u00e8me de l\u2019IA est le mauvais calibrage de la communication collective dans son ensemble, et c\u2019est un probl\u00e8me politique que les d\u00e9bats sur l\u2019IA abordent rarement.<\/p>\n\n\n\n

Dans Magnifica Humanitas<\/em>, le pape d\u00e9clare que les humains doivent reprendre le contr\u00f4le<\/strong>. Nous voyons plut\u00f4t dans l\u2019encyclique une r\u00e9ification subtile<\/strong> \u00e0 laquelle sa collaboration avec Olah et Anthropic a peut-\u00eatre contribu\u00e9. La compr\u00e9hension collective, le sentiment d\u2019\u00e9panouissement mutuel et le calibrage de la communication ne sont pas des choses qui peuvent \u00eatre contr\u00f4l\u00e9es<\/strong>. Une pression artificielle exerc\u00e9e sur ces \u00e9l\u00e9ments ne fait qu\u2019aggraver les probl\u00e8mes. Ce lien qui unit tous les humains \u2014 la substance m\u00eame de la soci\u00e9t\u00e9 \u2014 peut \u00eatre source d\u2019agitation ou de plaisir, mais il ne peut \u00eatre optimis\u00e9<\/strong>.<\/p>\n\n\n\n

\n\n\n\n

Leif Weatherby<\/strong> est l\u2019auteur de Language Machines: Cultural AI and the End of Remainder Humanism<\/em><\/a> et directeur du Digital Theory Lab \u00e0 l\u2019Universit\u00e9 de New York. Tyler Shoemaker<\/strong> est professeur adjoint au d\u00e9partement d\u2019anglais de l\u2019Universit\u00e9 Texas A&M. Benjamin Recht<\/strong> est professeur de g\u00e9nie \u00e9lectrique et d\u2019informatique \u00e0 l\u2019Universit\u00e9 de Californie \u00e0 Berkeley. Il tient r\u00e9guli\u00e8rement un blogue sur argmin.net<\/a> et est l\u2019auteur de The Irrational Decision: How We Gave Computers the Power to Choose for Us.<\/em><\/a><\/p>\n\n\n\n

\n\n\n\n

Liste \u00e9volutive des\u00a0traductions<\/a> par\u00a0Gilles en vrac<\/em>
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\n","protected":false},"excerpt":{"rendered":"

Traduction de Reify This, par Leif Weatherby, Tyler Shomaker et Benjamin Recht, publi\u00e9 le 11 juin sur The Ideas Letter. Le mois dernier, le pape L\u00e9on XIV a lui-m\u00eame mis en avant un domaine de recherche \u00e9sot\u00e9rique de l\u2019IA. Au milieu de son encyclique Magnifica Humanitas : Sur la sauvegarde de la personne humaine \u00e0 … <\/p>\n

Continuer la lecture de « R\u00e9ifiez ceci »<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-10614","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":10495,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/le-pape-aurait-du-aller-plus-loin\/","url_meta":{"origin":10614,"position":0},"title":"Le pape aurait d\u00fb aller plus loin sur l\u2019IA","author":"Gilles Beauchamp","date":"5 juin 2026","format":false,"excerpt":"Traduction de The Pope Should Have Gone Further on AI par Daron AcemogluDaron Acemoglu, laur\u00e9at du prix Nobel d'\u00e9conomie 2024 et professeur titulaire de l'Institut d'\u00e9conomie au MIT, est coauteur (avec James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty(Profile, 2019) et coauteur (avec Simon\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Magnifica.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Magnifica.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Magnifica.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Magnifica.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Magnifica.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":8326,"url":"https:\/\/gillesenvrac.ca\/carnet\/pile-face-ia\/","url_meta":{"origin":10614,"position":1},"title":"Pile, je gagne, face, je gagne : pourquoi les g\u00e9ants am\u00e9ricains du cloud tirent profit des strat\u00e9gies d\u2019IA de DeepSeek et d\u2019autres entreprises chinoises","author":"Gilles Beauchamp","date":"7 juillet 2025","format":false,"excerpt":"La concurrence sur le march\u00e9 mondial de l'IA favorise les entreprises am\u00e9ricaines qui dominent le cloud. Par Cecilia Rikap. Original : Heads I Win, Tails I Win: Why US Cloud Giants Benefit from DeepSeek and Other Chinese Companies' AI Strategies, 2025.06.26 R\u00e9sum\u00e9 Au lieu de devenir des leaders mondiaux, l'\u00e9conomie\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10392,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/eli-au-vatican-sur-ia\/","url_meta":{"origin":10614,"position":2},"title":"Ce qu’Eli a d\u00e9clar\u00e9 au Vatican au sujet de l’IA","author":"Gilles Beauchamp","date":"28 mai 2026","format":false,"excerpt":"R\u00e9flexions sur l'IA prosociale alors que le pape L\u00e9on modifie la doctrine catholique Traduction de What Eli said at the Vatican about AI par Eli Pariser, sur New_Public, le 27 mai 2026 Vendredi dernier, j\u2019\u00e9tais assis dans une salle du Vatican avec ma fille, Ara, et j\u2019ai \u00e9cout\u00e9 le pape\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Eli_1.webp?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":10424,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/magnifica-humanitas-et-gouvernance-technologique\/","url_meta":{"origin":10614,"position":3},"title":"L\u2019encyclique \u00ab Magnifica Humanitas \u00bb du pape peut-elle rallier des soutiens en faveur de la gouvernance technologique ?","author":"Gilles Beauchamp","date":"31 mai 2026","format":false,"excerpt":"Traduction de Can the Pope\u2019s Magnifica Humanitas Rally Support for Technology Governance? par Daniel Dobrygowski\u00a0sur TechPolicy.Press le 29 mai 2026. Chaque g\u00e9n\u00e9ration h\u00e9rite de la t\u00e2che de fa\u00e7onner sa propre \u00e9poque, de guider l\u2019histoire pour qu\u2019elle devienne un lieu o\u00f9 la dignit\u00e9 de chaque personne est pr\u00e9serv\u00e9e, o\u00f9 la justice\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":8738,"url":"https:\/\/gillesenvrac.ca\/carnet\/sociologie-de-lia\/","url_meta":{"origin":10614,"position":4},"title":"L’\u00e8re sociologique de l’IA","author":"Gilles Beauchamp","date":"17 novembre 2025","format":false,"excerpt":"Traduction de AI\u2019s Sociological Era, par Jenny L. Davis et Mona Sloane dans Social Sience Computer Review, 2025.11.07 R\u00e9sum\u00e9 L'intelligence artificielle (IA) est une structure sociale dissimul\u00e9e derri\u00e8re des bo\u00eetes noires techniques et des discours polaris\u00e9s. La sociologie est l'\u00e9tude de la soci\u00e9t\u00e9 d'un point de vue structurel, qui d\u00e9crit\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9534,"url":"https:\/\/gillesenvrac.ca\/carnet\/universitaires-face-a-lia\/","url_meta":{"origin":10614,"position":5},"title":"Les universitaires doivent se r\u00e9veiller face \u00e0 l’IA","author":"Gilles Beauchamp","date":"4 mars 2026","format":false,"excerpt":"Dix th\u00e8ses pour ceux qui n'ont pas remarqu\u00e9 que le sol se d\u00e9robait sous leurs pieds Traduction de Academics Need to Wake Up on AI par Alexander Kustov sur Substack, le 2 mars 2026. Cet article s'inspire d'une vague r\u00e9cente d'\u00e9crits sur l'IA r\u00e9dig\u00e9s par des personnes que je respecte\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/10614","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=10614"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/10614\/revisions"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=10614"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}