Traduction de Language Models and Automated Reification par Ben Recht sur Substack, le 12 juin 2026.
Leif Weatherby, Tyler Shoemaker et moi-même avons publié aujourd’hui un nouvel essai dans The Ideas Letter (traduction par GB : Réifiez ceci) sur la création de la réalité par le biais de la pseudoscience, de la religion et de la psychose. Bien sûr, il porte principalement sur l’IA. En partant de l’apparition étrange de Chris Olah, cofondateur d’Antropic et fervent défenseur de l’interprétabilité mécaniste, aux côtés du pape Léon alors qu’il lisait son encyclique, nous explorons la manière dont les grands modèles linguistiques commerciaux automatisent la création de la réalité.
Le terme technique désignant le processus par lequel des concepts abstraits sont transformés en objets matériels est la réification. Les théoriciens marxistes envisagent la réification des relations sociales, où des éléments qualitatifs comme les actions sont transformés en marchandises. C’est le processus par lequel le travail est objectivé et chiffré, puis aliéné de la personne qui l’effectue. De leur côté, les historiens et les philosophes des sciences envisagent la réification en termes de la manière dont les associations corrélationnelles sont nommées et deviennent réelles grâce à des programmes de recherche coordonnés. Lorsque vos plus grandes entreprises prétendent toutes mener des recherches, on voit clairement comment ces deux aspects ne font plus qu’un, la recherche coordonnée devenant elle-même une marchandise.
Les grands modèles linguistiques (LLM) ne sont pas seulement le fruit d’une oligarchie technologique, mais ils introduisent également une nouvelle dimension dans le processus de création de la réalité. Les LLM automatisent la réification. Ils sont conçus pour produire des explications à notre place. Nous sautons les étapes de la création collective de concepts scientifiques (c’est-à-dire la réflexion et la discussion) et laissons les LLM s’en charger à notre place grâce à leurs associations linguistiques. Les LLM vous incitent à sauter l’étape de l’interprétation des résultats. Pourquoi ne pas simplement demander à Claude ce qu’il en pense?
À titre d’exemple illustratif, nous abordons l’analyse historique de Stephen J. Gould sur le facteur g dans la recherche psychométrique. En sciences sociales, tout est corrélé avec tout. Si vous effectuez une analyse corrélationnelle sur n’importe quel ensemble de données, vous trouverez quelque chose. Gould décrit le processus par lequel les psychométriciens ont décidé que la grandeur corrélationnelle reliant différentes mesures de l’intelligence — le facteur g — était réelle, et comment ils ont créé tout un programme de recherche scientifique pour renforcer la réalité du facteur g.
Savez-vous qui adore toujours l’analyse factorielle? Les chercheurs en interprétabilité mécaniste. Les chercheurs en IA se sont pris de passion pour la psychométrie alors qu’ils s’efforcent de prouver que leurs « jouets » LLM sont conscients. Mais ils disposent d’une nouvelle technologie dont Charles Spearman et ses collègues ne disposaient pas il y a un siècle : les LLM eux-mêmes! Alors que les psychométriciens du XXe siècle devaient imaginer des récits causaux pour expliquer leurs résultats corrélationnels solides, les chercheurs en interprétabilité peuvent automatiser ce processus. Ils peuvent fournir à un LLM les résultats d’une analyse factorielle et lui demander d’expliquer les facteurs. Comme il renvoie des réponses en langage naturel, cela donne l’impression d’une découverte, même si l’on a confié à une machine le processus qui aurait autrement nécessité de réfléchir à la question. Ce processus déclenche une boucle dans laquelle scientifiques et citoyens accordent, de manière itérative, du crédit aux concepts générés par la corrélation de textes. Nous écrivons :
« En d’autres termes, les modèles déclenchent une chaîne associative d’idées en étiquetant automatiquement les requêtes. C’est comme si l’on prenait les composantes principales dérivées de ces données sur les chênes, la vitesse des bateaux, les moustaches de chat et les critiques sur Letterboxd, et que l’on demandait à ChatGPT : « Que signifient chacun de ces éléments? » ChatGPT répondra — puis poursuivra la conversation, en proposant d’autres associations plus ou moins pertinentes. Mais comme nous l’avons déjà fait valoir, cela n’arrive pas uniquement aux amateurs, que l’on a tendance à pathologiser. En quoi cela diffère-t-il de la méthodologie standard de la recherche sur l’interprétabilité? Tant dans les cas que l’on pourrait rejeter comme de la psychose que dans ceux célébrés lors des conférences sur l’IA, l’interaction avec les modèles de langage à grande échelle (LLM) induit une friction mentale. Elle crée le sentiment qu’une découverte est à portée de main. En développant ce que vous avez saisi à travers un contexte sur lequel le modèle a été entraîné, celui-ci est capable d’établir des liens qui semblent à la fois justes et riches, comblant ainsi l’espace autour de votre pensée — simulant ainsi la sensation que vous avez une nouvelle idée. Le modèle vous aide à clarifier le flou de votre demande grâce à une chaîne d’associations, et soudain, vous obtenez quelque chose. C’est la réification à l’œuvre. Et lorsque le maillon suivant de la chaîne de pensées se présente, il devient difficile de résister à l’envie de soumettre une nouvelle demande au modèle. »
Les LLM sont conçus pour automatiser un réseau complexe de réification. Ils sont conçus pour nous dire ce que nous voulons entendre. Comme nous l’écrivons : « Entraîné sur un énorme corpus d’écrits, de discours et de code humains, et ajusté pour affiner ses réponses en fonction du contexte et de la mémoire au fur et à mesure que les interactions avec l’utilisateur se déroulent, un modèle de ce type est conçu pour donner l’impression que nos attentes sont dépassées. »
L’intelligence artificielle est une technologie étrange qui participe à sa propre mythification. Anthropic est l’entreprise qui s’investit le plus dans la diffusion d’histoires extravagantes au sujet de ses produits, mais personne dans ce domaine n’est innocent. Comme je l’ai déjà écrit, je pense que les tests de performance ont une réputation injustement mauvaise. Je conviens tout à fait qu’on ne peut pas « évaluer une technologie à usage général ». Je conviens que maximiser les scores des tests de performance ne signifie pas qu’un produit sera mieux accueilli par les clients. Mais lorsque nous nous détournons des tests de performance en intelligence artificielle, nous nous enlisons dans la narration. Les grands modèles de langage (LLM) sont conçus et destinés à nous convaincre que leurs récits sont réels. Lorsqu’elle est soutenue par un moteur capitaliste suralimenté, la réification devient inévitable. Les récits deviennent des marchandises. Ces marchandises se vendent comme des petits pains. Et il n’y a rien de plus réel que lorsque les chiffres grimpent.
Je vous laisse là-dessus, car je dois aller vérifier la valeur de mes actions SpaceX. Lisez l’article en entier et dites-nous ce que vous en pensez.
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.