L’IA en tant que technologie sociale

L’intelligence artificielle générale ne laisse pas entrevoir la promesse d’une bureaucratie véritablement post-humaine.

Traduction de AI as Social Technology par Henry Farrell et Cosma Rohilla Shalizi publié le 11 mai 2026 sur Knight First Amendment Institute.

Introduction

Nos débats sur l’« IA » trouvent leur origine dans la science-fiction des années 1990. À l’époque, Vinge (1993) avait publié des essais et des romans nous exhortant à faire face à la « singularité » imminente : un moment de changement radical qui transformerait fondamentalement la condition humaine. Ce jour-là, l’IA passerait rapidement d’une intelligence simplement comparable à celle de l’humain, ce que certains appellent aujourd’hui l’« intelligence artificielle générale » (AGI), en une entité super-intelligente dotée de ses propres intérêts et objectifs. L’humanité serait alors soit éliminée sans ménagement par des machines hors de contrôle, soit les humains deviendraient comme des dieux, avec des serviteurs surhumains à notre service.

Aussi excellente que soit la science-fiction qui en a résulté (en particulier Vinge (1992) ), il est scandaleux que ce rêve des années 90 soit toujours vivant et continue de façonner le débat. Pour des raisons sociales et culturelles complexes (Becker, 2025), bon nombre des précurseurs et des bailleurs de fonds de l’IA générative moderne ont adhéré sans réserve à cette mythologie et ont bâti leurs stratégies commerciales et leurs innovations autour d’elle (Hao, 2025). À mesure que la pensée de la singularité s’est échappée de son confinement, elle a alimenté les spéculations sur de vastes transformations sociales, politiques et économiques. L’IA va-t-elle renforcer le contrôle mental autoritaire (Harari, 2018) ou refondre la démocratie (Gudiño et al., 2024) ? Le néolibéralisme deviendra-t-il un système « machinique » sauvage, doté de conscience et dévorant tout (Land, 2011) ? Là encore, il existe d’excellentes œuvres de science-fiction traitant de ces possibilités et d’autres (Banks, 1987 ; Reynolds, 2000 ; Stross, 2005 ; Chiang, 2010 ; McAuley, 2010 ; Valente, 2011 ; Emrys, 2022), mais les romanciers sont (généralement) plus prudents lorsqu’il s’agit d’intégrer ces complexités, et rares sont ceux qui se posent en prophètes, voire en prévisionnistes.

Les auteurs d’ouvrages de non-fiction spéculative sur l’IAG sont moins retenus, proposant des visions radicales de la façon dont les technologies de l’information transformeront complètement la société, l’économie, la politique, ou les trois à la fois. Ils traitent l’IAG moins comme une technologie que comme, selon les termes d’Andreessen (2023) le dit, « notre alchimie, notre pierre philosophale », un alkahest¹ qui dissoudra les scories et les résidus des institutions humaines, ne laissant que le progrès pur et non dilué. Les prévisionnistes décrivent régulièrement les institutions sociales qui tremblent au bord de la transformation d’une manière à peine moins stylisée, affirmant par exemple que l’IA pourrait nous transporter dans l’utopie de Condorcet d’un nouvel Âge de la Raison, cette fois , heureusement sans charrettes de prisonniers condamnés attendant leur rendez-vous avec la guillotine (Hall, 2026). Il en résulte un genre qui, selon nous, est plus susceptible de semer la confusion chez les personnes intelligentes et de les égarer que de guider utilement l’action publique.

Toutes ces aspirations et tous ces arguments sont, comme nous l’avons dit, enracinés dans des mythes qui sont (au moins) vingt ans plus anciens que la technologie qui semble aujourd’hui les incarner, les grands modèles de langage (LLM). C’est parce que les LLM sont passés, en l’espace de quelques années, du statut d’amélioration technique de la traduction automatique (Vaswani et al., 2017) à celui de voie royale vers l’IA générale que ces débats revêtent une réelle importance. Les LLM sont des modèles statistiques génératifs remarquablement performants du langage humain (y compris le code informatique écrit par l’homme). Cela leur permet de traiter le langage d’une manière qui ressemble au discours humain et d’être bricolés pour créer des textes qui se rapprochent vaguement du raisonnement humain. Il s’agit d’une nouvelle réalité matérielle, d’une nouvelle force dans le monde, mais dont les implications réelles sont obscurcies par le voile mythique dont elle est enveloppée.

Si nous ne sommes pas impressionnés par les récits de maximisateurs de trombones remodelant la galaxie, de bureaucraties omniscientes générant terreur ou émerveillement, de marchés qui prennent soudainement conscience d’eux-mêmes, et autres, ce n’est pas parce que nous les trouvons trop étranges. C’est plutôt elles ne sont pas assez étranges, et elles ne saisissent pas à quel point l’étrange est déjà là. Les futurs possibles auxquels nous sommes confrontés sont bien plus chaotiques et variés que les visions austères d’une IGA omnipotente, tout comme l’était notre passé immédiat. Ils seront façonnés par la collision entre des technologies imparfaites et hautement complexes et des systèmes sociaux humains imparfaits et hautement complexes (Matias, 2023 ; Nelson, à paraître). Il est impossible d’en prédire les conséquences, mais nous pouvons les cartographier, les étudier et y réfléchir au fur et à mesure qu’elles se produisent.

De notre point de vue, la Singularité a commencé il y a deux siècles avec la Révolution industrielle (Shalizi, 2010), et elle s’est avérée bien plus chaotique et variée que quiconque aurait pu l’imaginer. Les sciences sociales modernes sont le fruit des chocs considérables qu’elle a entraînés par le passé (Tilly, 1984 ; Nelson, à paraître). Elles doivent désormais collaborer avec l’informatique et d’autres disciplines connexes (études des sciences et des technologies ; communications) pour cartographier ce qu’il convient de considérer comme une nouvelle étape de la longue révolution industrielle. L’IA pourrait bien s’avérer très importante, mais d’une manière bien différente de ce que suggèrent les mythes dont nous avons hérité.

Nous nous appuyons sur un travail collaboratif en cours (Farrell et al., 2025) avec Alison Gopnik et James Evans, qui soutient qu’il s’agit d’une erreur de catégorie de considérer les « grands modèles » comme des agents autonomes en devenir. Il vaut mieux les considérer comme des technologies « culturelles » (Yiu, Kosoy et Gopnik, 2024) et « sociales », s’apparentant d’une part aux bibliothèques et aux langues, et d’autre part aux marchés et aux bureaucraties. Nous nous concentrons ici sur la manière d’étudier les conséquences de ces technologies pour la société humaine, en mettant l’accent sur les aspects sociaux plutôt que culturels. Nous soulignons en particulier que l’IA est une technologie sociale, un moyen systématique de réorganiser les relations sociales entre les êtres humains (Therborn, 1978). Les technologies sociales antérieures comprennent non seulement d’autres technologies de l’information, mais aussi des institutions de gouvernance telles que les bureaucraties, les marchés et même la démocratie (Farrell, 2025). Nous nous concentrerons sur les LLM plutôt que sur d’autres systèmes d’IA. Cela minimise certains aspects importants de l’IA moderne (par exemple, son utilisation dans des problèmes scientifiques simples comme le repliement des protéines), mais aide à mettre en évidence les liens avec d’autres technologies sociales.

En bref : les LLM créent des relations sociales entre leurs utilisateurs et les auteurs des textes de leurs corpus d’entraînement. Avec un accès adéquat au modèle et au corpus, il est possible de retracer les liens entre les résultats du système et les textes sources individuels ainsi que leurs auteurs (Grosse et al., 2023). Ces relations sociales sont médiatisées mécaniquement, donnant aux utilisateurs l’illusion qu’ils interagissent uniquement avec la machine et non avec un ensemble de personnes. Mais les relations sociales médiatisées et leurs illusions sont une réalité courante de la vie moderne. Les relations sociales créées par les LLM recoupent à leur tour d’autres relations sociales, y compris celles façonnées par d’autres technologies sociales, et interagissent avec elles.

Notre objectif ici est de créer un espace commun où les sciences sociales, l’informatique et l’ingénierie puissent discuter des conséquences sociales de l’IA. Nous nous inspirons largement des idées de Simon (1996), qui considérait l’IA, les sciences politiques, l’administration, l’économie, l’informatique et la psychologie cognitive comme autant de branches des « sciences de l’artificiel », étudiant comment les êtres humains créent des « artefacts » qui modélisent leur environnement et agissent sur celui-ci. Dans cette perspective, les modèles d’IA constituent un autre moyen de « traitement de l’information complexe » (Newell et Simon, 1956). Comme le souligne Simon, ces systèmes englobent à la fois les technologies de l’information, telles qu’étudiées et construites par les informaticiens et les ingénieurs, et les systèmes d’information sociaux tels que les marchés, la bureaucratie, et, bien que Simon lui-même ne le souligne pas, la démocratie (Lindblom, 1965). Tous ces systèmes traitent l’information en réduisant des réalités complexes en des « grossissements » ou des abstractions plus maniables qui (espérons-le) capturent les caractéristiques importantes des données. Produire des grossissements n’est pas tout ce que font les institutions sociales à grande échelle, mais c’est tout à fait important. La coordination économique, administrative et politique ne peut tout simplement pas fonctionner à grande échelle si les relations sociales complexes ne sont pas condensées en représentations visibles et maniables.

Cela ouvre alors une perspective différente sur la collision entre les nouvelles technologies telles que l’IA et les systèmes sociaux existants. Comme le suggère DeDeo (2017), nous devons de toute urgence découvrir comment les nouveaux grossissements de l’IA interagissent avec les abstractions existantes à travers lesquelles les humains simplifient un monde intrinsèquement complexe pour le rendre gérable. L’IA et les technologies sociales plus anciennes sont, entre autres, des formes de traitement de l’information. Nous devrions examiner comment les premières renforcent, remodèlent ou remplacent ces dernières.

Dans la suite de cet article, nous situons brièvement l’IA dans le contexte historique de la longue révolution industrielle. Ensuite, nous explorons la relation entre les technologies sociales et les grossissements ou abstractions, en mettant l’accent sur leur caractère non sans perte et leurs conséquences sur les relations de pouvoir entre différents groupes sociaux. Cela nous permet à la fois de décrire les forces et les limites apparentes de l’IA telle qu’elle existe actuellement et de commencer à les appliquer à l’intersection entre l’IA et la bureaucratie. La bureaucratie est une technologie sociale cruciale et ancienne qui a joué un rôle central dans les travaux de Simon. Sa relation avec l’IA est d’une actualité brûlante : les affirmations concernant l’IA générale (AGI) ont apparemment été l’un des facteurs qui ont influencé les coupes radicales de l’administration Trump dans l’appareil administratif. Nous opposons ces idées aux nôtres afin de mettre en lumière les nombreuses questions et problèmes importants qui sont éludés ou ignorés par la spéculation alimentée par l’AGI. Plutôt que d’attendre de l’AGI qu’elle résolve les problèmes pérennes de l’organisation sociale humaine, nous devrions considérer l’IA comme une nouvelle technologie sociale qui atténuera certains problèmes, en exacerbera d’autres et en créera de nouveaux, tout comme d’autres technologies sociales l’ont fait par le passé. Cela suggère à son tour l’urgence d’une coopération entre les spécialistes des sciences sociales et de l’informatique pour en déterminer les conséquences sociales, ainsi qu’une coordination sociale et politique plus large, du type de celle qui s’est produite lors des étapes précédentes de la longue révolution industrielle.

Les grossissements et la longue révolution industrielle

Nous partons d’un point de vue différent de celui de la plupart des commentaires existants sur la relation entre l’IA et la société. Les chercheurs en études des sciences et des technologies (STS) s’intéressent souvent davantage à la manière dont les systèmes scientifiques et technologiques reflètent des relations de pouvoir sociales et politiques plus larges (ou développent les leurs) qu’à fournir des microfondements détaillés en sciences sociales pour étayer leurs arguments. En revanche, le « rationalisme » qui a dominé les débats internes sur l’IA repose entièrement sur des microfondements. Il part de l’hypothèse que la relation entre les êtres humains et les agents IA peut être comprise à travers le prisme microéconomique de la concurrence stratégique entre agents bayésiens rationnels, et ce n’est que récemment qu’il a commencé à réfléchir de manière systématique à la façon dont des phénomènes collectifs pourraient émerger à mesure que ces systèmes se développent (Hammond et al., 2025). Le projet intellectuel d’Herbert Simon se distinguait de ces deux approches. Son travail fournit des microfondements pour une analyse des grandes institutions sociales, qui s’appuie explicitement sur les « limites » de la rationalité humaine individuelle (Simon, 1957). Simon suggère que les technologies sociales à grande échelle émergent du besoin qu’ont les êtres humains, dans leurs limites, de mettre en place des arrangements collectifs leur permettant de cartographier et de gérer un monde complexe. Le thème récurrent chez Simon est le décalage entre les environnements complexes que les êtres humains habitent et remodèlent, et la capacité limitée de traitement de l’information dont ils disposent pour les comprendre. Ici, le point de vue de Simon converge en partie avec la conception de la démocratie de Dewey (Farrell et Han, 2025). L’économie néoclassique a tendance à la fois à gommer les complexités de l’environnement et à supposer que les individus disposent d’une puissance de calcul illimitée pour le modéliser et trouver des solutions optimales à leurs problèmes. Ces hypothèses sont à la fois mathématiquement commodes et hautement irréalistes. Du point de vue de Simon, les humains doivent généralement se contenter d’une solution satisfaisante plutôt que d’une solution optimale — se contentant de solutions « suffisamment bonnes » plutôt que les meilleures possibles. De simples heuristiques mentales peuvent aider à découvrir de telles solutions. Il en va de même pour les institutions sociales qui canalisent la production et la collecte de connaissances à travers de nombreux esprits individuellement limités, en orientant l’attention et en coordonnant des tâches complexes. Bien sûr, les institutions peuvent générer leurs propres complexités inattendues, qui doivent à leur tour être gérées.

Les arguments de Simon peuvent être reformulés à la lumière d’une littérature plus récente en science de la complexité sur les « grossissements » (‘coarse-grainings’). En gros, un grossissement est une représentation simplifiée d’un phénomène complexe qui cherche à en saisir les aspects et les dynamiques clés. Elles sont omniprésentes car aucun modèle scientifique, organisme ou artefact ne peut réellement saisir tous les détails de son environnement. Plutôt que le chaos moléculaire rampant de la réalité physique, elles traitent toujours d’abstractions, de résumés compressés et sélectifs qui ignorent la plupart des détails. En ce sens, les grossissements de granularité incluent non seulement des modèles mathématiques sophistiqués, des approximations statistiques des économies et des systèmes météorologiques turbulents, et des « JPEG flous » du Web (Chiang, 2023) par exemple, mais aussi les représentations individuelles et collectives que de nombreux animaux sociaux, y compris les êtres humains, utilisent pour suivre les structures et les relations sociales. Les macaques, par exemple, maintiennent un consensus approximatif sur les relations de pouvoir au sein du groupe grâce à l’échange de signaux de subordination, ce qui peut raisonnablement être compris comme une généralisation (Flack, 2017). Ce consensus reflète grossièrement les attentes quant à savoir quel macaque est capable de vaincre quels autres lors d’un combat, permettant ainsi « aux individus de faire des prédictions sans avoir à stocker indéfiniment tous les détails de leurs interactions », et guidant par conséquent leurs décisions de se battre ou de se soumettre. Les perruches moines ont des représentations plus grossières de leurs relations avec leurs congénères (DeDeo, 2017). Les humains, en revanche, peuvent former des approximations plus sophistiquées, même en l’absence d’institutions plus larges, grâce à la fois à des modules mentaux spécialisés (Boyer, 2018) et de conventions sociales telles que les commérages (Origgi, 2017), qui nous permettent de suivre, par exemple, l’évolution des relations de coalition.

Pourtant, ces représentations à petite échelle sont désespérément inadéquates pour les sociétés humaines modernes, qui nécessitent des technologies sociales et informationnelles impersonnelles capables de résumer les relations sociales à très grande échelle. Plutôt que de suivre quelques individus au sein d’une communauté de chasseurs-cueilleurs très soudée où tout le monde se connaît bien, ou même d’un village ou d’une ville, nous devons gérer des interactions pouvant impliquer des millions, voire des milliards, de personnes à la fois. La mise en place et l’amélioration des moyens d’y parvenir ont nécessité le développement d’institutions telles que les marchés, les bureaucraties, et même la démocratie, capables de gérer des relations relativement impersonnelles à grande échelle, en utilisant des approximations qui rendent ces relations compréhensibles.

Pour comprendre comment l’IA remodèle la société, nous pouvons donc commencer par la considérer comme une nouvelle technologie sociale, s’appuyant sur des approximations comme toutes les autres, et étudier comment elle interagit avec les technologies sociales existantes. Cela permet d’intégrer les arguments sur l’IA aux débats plus anciens sur la longue révolution industrielle. Les historiens de l’économie ont montré comment la transformation des capacités humaines à produire à grande échelle au cours des deux derniers siècles a été facilitée par des « technologies à usage général » telles que la vapeur et l’électricité. Si de nombreux chercheurs se sont demandé si l’IA était elle aussi une technologie à usage général, ils ont accordé moins d’attention aux aspects institutionnels de la révolution industrielle ; notamment aux transformations profondes de la capacité humaine à organiser la vie économique, sociale et de la vie politique, qui ont rendu possibles les nouvelles technologies de production.

Comme l’ont constamment souligné les chercheurs en STS (Yates (1993) est particulièrement convaincant sur ce point), les innovations bureaucratiques ont permis la création de nouvelles structures organisationnelles permettant une coordination à grande échelle. Des économistes libéraux classiques comme Hayek ont exploré comment les marchés à grande échelle peuvent compenser les « limites computationnelles des êtres humains », Simon (1996, 35) permettant ainsi aux acteurs de prendre des décisions économiques sur la base d’informations locales limitées. Des spécialistes des sciences sociales comme Anderson (1991) et Gellner (1983) ont débattu de la manière dont le « capitalisme de l’imprimé », l’articulation de l’État-nation et les nouvelles formes de scolarisation et de diffusion de l’information ont rendu les publics à grande échelle (grossièrement) lisibles pour eux-mêmes ainsi que pour leurs dirigeants, stabilisant potentiellement tant la démocratie que l’autocratie réactive.

Tous ces systèmes génèrent des simplifications grossières et s’appuient sur celles-ci. Les normes bureaucratiques et les statistiques résument des réalités sociales complexes et les rendent lisibles, pour le meilleur et pour le pire (Scott, 1998). Le mécanisme des prix simplifie radicalement les aspects intangibles de la production économique, permettant aux acteurs du marché de consacrer leur attention à l’achat et à la vente (Hayek, 1945). Les sondages d’opinion, les recensements et d’autres moyens simplifient l’opinion publique et la rendent lisible pour les gens ordinaires et les acteurs politiques habilités à agir en leur nom (Perrin et McFarland, 2011), et même les États autoritaires s’en sont servis pour cartographier ce que leurs sujets voulaient et pensaient (Dimitrov, 2023).

Cette augmentation considérable de la capacité sociale à traiter des informations complexes a permis une cognition et une résolution de problèmes collectives à une échelle sans précédent dans l’histoire. Les technologies sociales telles que les marchés, la bureaucratie et la démocratie permettent aux êtres humains de devenir ce que l’historien de l’économie Brad DeLong (2026) appelle une « intelligence anthologique », capable de déployer de manière coordonnée les connaissances culturelles accumulées en vue d’objectifs à grande échelle. Tel est leur aspect positif. Dans leur aspect négatif, ces systèmes apparaissent régulièrement monstrueux aux yeux de ceux qui se retrouvent du mauvais côté des rapports de force qu’ils créent. Les marchés, les bureaucraties, et même les démocraties ont en outre dévoré des formes d’organisation sociale plus anciennes et plus intimes, les remplaçant par de vastes systèmes qui sont souvent indifférents, et parfois hostiles, aux destins et aux désirs particuliers des individus et des groupes.

Une perspective axée sur les technologies sociales souligne alors à quel point les termes et le langage des débats actuels sur l’IA sont ancrés depuis longtemps. Les anciens systèmes directeurs de la modernité — tout comme l’IA telle qu’elle existe actuellement — sont dépourvus de tout ce qui peut raisonnablement être décrit comme de l’intentionnalité (Shalizi, 2010). Cependant, les humains ont régulièrement traité les bureaucraties, les nations et même les marchés (Spufford, 2017) comme s’il s’agissait d’agents intelligents individuels, qu’ils aient des intentions et des objectifs bienveillants ou hostiles. Les descriptions actuelles de l’IA empruntent régulièrement des métaphores et des idées à ces débats passés, qu’elles s’inspirent de condamnations racistes-conservatrices de la modernité et de la démocratie (Lovecraft, 2005 ; pour une réplique, voir Bear, 2013), de critiques humanistes (Jarrell, 1941) ou d’éloges anarchistes des modes de vie passés (Scott, 1998).

Plus important encore, cette perspective nous permet de commencer à comparer le fonctionnement réel des anciennes technologies sociales avec celui des plus récentes, et de commencer à cartographier ce qui se passe lorsque les deux s’interpénètrent. L’IA n’est pas l’apothéose des dieux robots ni encore de leurs maîtres humains. C’est une nouvelle machinerie de traitement complexe de l’information, peut-être même comparable aux marchés, aux bureaucraties et à la démocratie. Son unique astuce consiste à prendre d’énormes masses d’informations numérisées , qu’elles soient socio-économiques, textuelles, visuelles ou autres, et de générer des abstractions qui cherchent à en saisir les principales caractéristiques statistiques.

Cela vaut pour les différentes formes d’IA déployées aujourd’hui. Lorsque les plateformes de médias sociaux devinent quelle publication afficher ou quel film recommander, elles font correspondre des « encastrements » particularisés — des grossissements d’informations sur les utilisateurs particuliers et l’univers de contenu — pour arriver à leurs prédictions. Les LLM que nous mettons en avant ne sont rien de plus que des grossissements des vastes corpus d’informations textuelles sur lesquels ils ont été entraînés, post-traités pour paraître plus naturels dans leurs interactions avec les humains et accomplir des tâches plus complexes. Ils ne sont pas non plus moins que cela. Il est étonnant que nous disposions désormais de représentations manipulables de corpus entiers de la culture humaine qui peuvent être mises à contribution via une interface en langage naturel pour produire de nouveaux résultats. Ces technologies constituent une nouvelle étape dans la trajectoire du développement institutionnel et organisationnel qui a traversé la modernité et la longue révolution industrielle, offrant de nouvelles façons de gérer la complexité tout en créant leurs propres complexités.

Modèles, perte d’information et pouvoir

De toute évidence, l’IA n’est pas simplement l’une des technologies sociales du passé. Nous soulignons la nécessité de mieux cartographier ce qui se passe lorsqu’elle entre en collision et s’imbrique avec ses prédécesseurs. Une telle cartographie nécessite une certaine compréhension à la fois du fonctionnement de la nouvelle technologie et de ses conséquences pour l’organisation sociale.

Certaines caractéristiques des IA existantes découlent du fait qu’elles ne sont pas les systèmes ordonnés de symboles, de règles et d’heuristiques que des pionniers comme Simon avaient prévu de construire. Il s’agit plutôt de familles de modèles statistiques désordonnés, entraînés sur de grands ensembles de données. Entraîner un modèle statistique pour obtenir de bonnes performances en moyenne implique de sacrifier de meilleures performances dans des situations rares au profit de meilleures performances dans des situations courantes. De tels compromis ont des implications fâcheuses sur la capacité de tous ces modèles à gérer des situations soulevées par de petits groupes de personnes, par ceux qui sont moins bien représentés dans les corpus d’entraînement, ou même par tout ce qui est véritablement nouveau. Ces modèles peuvent même ne donner aucun signe indiquant qu’ils fonctionnent dans de tels régimes (bien qu’il existe un programme de recherche sur la quantification de l’incertitude dans les LLM qui aspire à détecter cela).²

Les LLM, et la plupart des autres systèmes d’IA modernes, constituent en fait un type particulier de modèle statistique : ils utilisent des « réseaux neuronaux profonds » (LeCun et al., 2015) — c’est-à-dire une approximation fonctionnelle itérative en plusieurs étapes — pour classer, prédire et générer. L’entraînement et l’exécution de réseaux neuronaux profonds constituent un exercice colossal d’algèbre matricielle, nécessitant un matériel spécialisé. Plus proche de notre thème, les réseaux neuronaux ne se contentent pas de produire des approximations grossières comme résultats, mais les utilisent en interne. L’architecture « transformateur » qui sous-tend les LLM illustre ces difficultés. À l’instar d’autres réseaux neuronaux profonds, un transformateur comporte des couches d’unités (« neurones ») qui forment des représentations de plus en plus complexes d’aspects particuliers des données qui leur sont transmises du début à la fin. Les informations les concernant sont ensuite propagées en retour à travers les couches afin de réduire les erreurs et de rapprocher les prédictions d’un optimum approximatif. Après des coûts considérables (pour les modèles véritablement volumineux), le transformateur produit un modèle autonome des schémas statistiques dans des séquences de tokens textuels qui peut, après ajustement et peaufinage, être déployé de nombreuses façons.

Bien qu’il n’y ait aucun mystère quant aux mathématiques ou à leur mise en œuvre in silico, de nombreux détails sur le fonctionnement des LLM restent opaques. La nature des grossissements de granularité que le transformateur utilise en interne pour saisir les relations statistiques est souvent obscure. Encore une fois, il existe une industrie artisanale dédiée à l’« interprétabilité », visant à cartographier ces relations, mais elle est confrontée à de sérieux défis. Certains regroupements internes peuvent être orthogonaux à tout concept humain³. D’autres peuvent être identifiés de manière générale (par exemple, cette unité, ou ce modèle d’unités, peut être associé à cet aspect nommable des données), mais sans comprendre exactement ce qui se passe. (La question de savoir si toute autre architecture de modèle aussi performante serait tout aussi incompréhensible est un sujet de recherche future.) D’une manière générale, faire fonctionner correctement ces modèles s’apparente davantage aux mystères de l’« alchimie » qu’à une technique scientifique reproductible (Rahimi et Recht, 2017).

Enfin, il existe des différences importantes dans les relations de rétroaction entre les diverses formes d’IA et les phénomènes sociaux, économiques et politiques qu’elles cherchent à modéliser. Les LLM de pointe sont extrêmement coûteux à entraîner et ne sont donc mis à jour qu’à de longs intervalles. Les modèles utilisés pour la publicité et l’appariement sur les médias sociaux sont beaucoup moins coûteux et peuvent donc être modifiés beaucoup plus rapidement. Ces différences affectent, par exemple, les échelles de temps et, par conséquent, les relations de rétroaction entre ces diverses et les systèmes sociaux qu’ils cherchent à représenter (Flack, 2017). Ces relations de rétroaction peuvent bien sûr également réagir à d’autres changements, y compris des ajustements techniques (par exemple, les invites cachées aux LLM peuvent être rapidement mises à jour) et les changements dans l’économie politique sous-jacente. Des changements technologiques plus généraux peuvent bien sûr avoir des conséquences également, à mesure que de nouveaux outils sont développés et que les anciens sont améliorés. Par exemple, un avenir proche dans lequel de petits modèles linguistiques peu coûteux pourraient accomplir une grande partie du travail des grands modèles favorisera une économie politique moins centralisée que si les grands modèles conservaient un avantage décisif.

Chacun de ces aspects de l’IA moderne nécessite son propre programme de recherche. Se pencher sur les aspects des technologies, plutôt que de se contenter de descriptions stylisées, rend difficile de réfléchir clairement à leurs conséquences immédiates, sans parler de formuler des prédictions fiables sur l’avenir. Que ce soit difficile ou non, nous devons réfléchir clairement, car ces grossissements et la dynamique de rétroaction qui les entoure sont en train de remodeler la société. Comme l’écrivait avec prescience DeDeo (2017, 8) en 2017 :

Le succès récent de l’apprentissage profond tient en partie à sa capacité d’adapter, simultanément, sa méthode de grossissement et sa théorie de la logique de ces variables grossies. Une fois que l’on réalise que les prédicteurs assistés par machine d’un système sont également des participants, il est naturel de se demander comment leur utilisation de ces connaissances, exactes ou non, se répercute sur la société elle-même… Nous comprenons très peu comment l’introduction de ces algorithmes de prédiction, à grande échelle, conduira à de nouvelles rétroactions qui affecteront nos mondes politiques et sociaux ; cela reste un sujet peu étudié et entièrement ouvert.

Près d’une décennie plus tard, le sujet est toujours d’actualité. Alors, par où commençons-nous donc ? Nous suggérons de mettre l’accent sur deux dimensions importantes de la comparaison et de l’interaction : la perte d’information et le pouvoir. Les grossissements sont, par définition, source de perte d’information, ce qui soulève la question de savoir exactement quelles informations sont écartées et lesquelles sont conservées. Les grossissements s’inscrivent aussi régulièrement dans des relations de pouvoir, car les abstractions peuvent créer des gagnants et des perdants dans de nombreux conflits sociaux. Ces deux aspects s’influencent souvent mutuellement : différentes simplifications avantageront différents groupes.

Les grossissements de grain écartent nécessairement des informations pour créer des abstractions manipulables mais avec perte. Comme le dit Maxim Raginsky (2025), « l’abstraction cache une grande partie de la complexité, et c’est à la fois sa principale vertu et son principal danger. » Les protocoles qui permettent à Internet de fonctionner à grande échelle masquent une grande hétérogénéité, l’exposant à des perturbations et à des modes de défaillance inattendus. Il en va de même pour les statistiques simplificatrices à travers lesquelles les banquiers centraux perçoivent l’économie (Davies, 2025), réduisant la complexité de vastes systèmes économiques à un petit nombre de variables cibles telles que l’inflation, qui peuvent être surveillées à la recherche de signes d’instabilité, ainsi que des catégories (telles que les classifications de recensement) à travers lesquelles les bureaucrates perçoivent les sociétés qu’ils cherchent à ordonner (Scott, 1998). Toutes ignorent certains aspects du système afin de concentrer l’attention sur d’autres. Des études mathématiques sur l’agrandissement d’échelle montrent que les aspects refoulés du processus réapparaissent au mieux sous forme de bruit statistique (Chorin et al., 2000 ; Crutchfield et Feldman, 2003), voire d’erreurs systématiques. Les grossissements de l’IA impliqueront des compromis attentionnels différents de ceux des technologies sociales précédentes, mais elles comporteront néanmoins des compromis.

Ces angles morts sont une caractéristique inévitable de toutes les abstractions, et peuvent même s’avérer utiles (Naidu, 2020). De même, les technologies sociales ne se contentent pas de créer des angles morts, mais génèrent des effets de rétroaction entre les grossissements avec perte et la dynamique du processus qu’elles cherchent à modéliser et peut-être à régir. La logique identifiée par Scott (1998), selon laquelle les simplifications bureaucratiques peuvent remodeler l’organisation sociale à leur image ou susciter une réaction de rejet (Scott, 1985), caractérise aussi, dans une large mesure, les représentations simplifiées du « modernisme high-tech » (Farrell et Fourcade, 2023). Au lieu de catégories de recensement, les entreprises de plateformes utilisent des « embeddings » générés par l’apprentissage automatique qui reflètent leurs meilleures suppositions quant aux vidéos que nous pourrions vouloir voir ensuite, remodelant peut-être progressivement la perception que nous avons de nous-mêmes (Fourcade et Healy, 2025).

Comme les regroupements grossiers socialement pertinents créent régulièrement des gagnants et des perdants (Jacobs et Wallach, 2021 ; Jacobs, 2021), ils peuvent eux-mêmes devenir l’objet de vives controverses. Les technologies sociales telles que les normes bureaucratiques et les catégories de marché allègent le fardeau d’une complexité ingérable en créant des résumés ou en concentrant l’attention sur certains « aspects de la situation » (Simon, 1997, 101) plutôt que sur d’autres, influençant ainsi qui obtient quoi. Cronon (1991) fournit un bel exemple de la façon dont le grossissement a conduit à des luttes autour de réels grains en gros dans le Chicago du XIXe siècle. La création de marchés nationaux des céréales exigeait de définir et d’évaluer différentes grandes catégories de céréales, afin que les acheteurs puissent distinguer les bonnes céréales des médiocres ou des mauvaises sans avoir à les inspecter eux-mêmes. Cela a facilité le commerce ; « tous les membres honnêtes ont bénéficié du fait de savoir exactement ce qu’ils achetaient et vendaient » (119), mais ce système de classification réducteur a favorisé les propriétaires de silos qui achetaient le grain, leur permettant de « mélanger les catégories », au détriment des agriculteurs auprès desquels ils s’approvisionnaient (134), par exemple en combinant juste assez de grain de haute qualité avec des produits de qualité inférieure pour que le mélange final soit classé dans une catégorie plus lucrative. Ces catégories rudimentaires ont suscité une agitation considérable parmi les agriculteurs, qui avaient le sentiment d’être volés mais avaient du mal à se mobiliser contre un système d’apparence technique qui était truqué d’une manière difficile à expliquer.

Nous pouvons commencer à comparer diverses formes d’IA aux technologies sociales existantes (et entre elles) en examinant les façons spécifiques dont elles sont sujettes à des pertes et affectent les relations de pouvoir. Cela nous aide également à commencer à comprendre comment les technologies sociales nouvelles et anciennes s’influenceront mutuellement à mesure qu’elles s’entremêlent . Une véritable compréhension exigera de réels efforts de recherche interdisciplinaires entre des domaines qui communiquent bien moins qu’ils ne le devraient, tels que l’informatique, les sciences politiques, la théorie politique, l’administration publique, la sociologie, le droit, les communications et les études sur la science et la technologie. En attendant, nous pouvons au moins commencer à discuter de ce que pourraient étudier de tels efforts.

IA et bureaucratie

Un sujet urgent est la relation entre l’IA et la bureaucratie, où un débat existe déjà — dont une partie repose sur les mythes avec lesquels nous avons commencé.⁴ Bien que la hiérarchie bureaucratique soit largement décriée pour ses inefficacités, elle constitue un pilier essentiel de la civilisation humaine à grande échelle. L’hostilité envers la bureaucratie prépare le public à des récits selon lesquels une IA d’une efficacité surnaturelle balayera bientôt les imperfections de l’administration humaine, les remplaçant par des algorithmes. De telles idées reflètent le mépris que certaines élites de la Silicon Valley éprouvent pour le jugement et l’expertise humains, et ont fourni un véritable soutien intellectuel au programme de l’administration Trump visant à démanteler les racines de l’État administratif. Elles constituent également de mauvais points de départ, même en dehors de leurs utilisations politiques. Au lieu de créer des mythes sur ce qu’une future technologie stylisée pourrait faire à des bureaucraties stéréotypées, nous devrions nous demander comment les technologies sociales nouvelles et inévitablement chaotiques telles que l’IA combinent perte d’information et relations de pouvoir de manière différente des technologies sociales plus anciennes et inévitablement chaotiques telles que la bureaucratie, et ce qui se passe lorsque ces deux technologies s’entremêlent.

Les discours centrés sur l’IA générale (AGI) décrivent la bureaucratie comme une coordination centralisée, le problème principal étant l’incapacité des échelons inférieurs à mettre en œuvre les priorités de la hiérarchie. Les directives des dirigeants sont déformées ou perdues à mesure qu’elles traversent les échelons de l’administration. L’IA générale apparaît alors comme une solution globale, remplaçant les bureaucrates humains imparfaits par des agents ou des interfaces d’IA efficaces qui feront exactement ce qu’on leur demande. Ces discours suggèrent que l’IA générale remplacera la distorsion bureaucratique par une prise de décision et une mise en œuvre algorithmiques (relativement) sans perte et efficaces. Cela renforcera le pouvoir de ceux qui sont au sommet, dont les décisions seront enfin exécutées exactement comme ils le souhaitent.

Ces récits permettent de comprendre facilement l’attrait de l’IA pour les dirigeants autocratiques, par exemple. Les systèmes d’IA semblent plus efficaces, et plus dignes de confiance que les bureaucrates humains. Certains ont d’ailleurs affirmé (Harari, 2018) que l’IA renforce les dictatures et sape la démocratie en facilitant la manipulation à grande échelle. Des arguments spéculatifs sur l’AGI ont contribué à inspirer le projet DOGE d’Elon Musk, qui visait à démanteler de vastes pans de l’appareil administratif américain. Une grande partie du travail et des aspirations de DOGE impliquait l’application de modèles de langage (LLM) et d’« agents » d’IA pour accomplir une variété de tâches ouvertes (Gilbert et Elliott, 2025 ; Haskins et Elliott, 2025), souvent de manière très médiocre. Peu après l’élection de Trump pour un deuxième mandat, l’un d’entre nous a demandé à une personne proche de DOGE si le licenciement d’une multitude d’employés experts poserait un problème pour la sécurité nationale des États-Unis. La réponse a été que ce n’était pas un problème, puisque l’AGI verrait le jour en 2026. Le gouvernement devrait de toute façon supprimer la plupart de ces postes à ce moment-là.

Bullock et al. (2025) présentent une version moins idéologique de l’argument selon lequel l’AGI transformera la bureaucratie de ces façons. Elle s’appuie elle aussi explicitement sur les arguments de Simon, mais affirme que l’AGI résoudra en grande partie les problèmes de capacité humaine limitée identifiés par Simon.

Les auteurs affirment que nous sommes à l’aube d’une AGI qui égalera ou dépassera la prise de décision humaine dans tous les domaines, permettant le remplacement des êtres humains par des systèmes d’IA qui renforcent le pouvoir hiérarchique. Plus précisément, ils affirment que les préoccupations de Simon pourraient être résolues par la construction d’un « système AGI unique et vaste, similaire aux systèmes multi-modaux généraux , dans lequel une interface unique pourrait être déployée pour accomplir de manière efficace, efficiente et impartiale toutes les tâches requises » (25). Une approche plus weberienne du problème pourrait, comme alternative, charger des agents IAG individuels d’utiliser « des facteurs objectifs clairement identifiables, la logique et un raisonnement impartial fondé sur des statistiques pour peser soigneusement les compromis entre les choix possibles » (25) .

La première option permettrait de débloquer les goulots d’étranglement de l’attention bureaucratique grâce à des sous-systèmes capables de mettre en œuvre une résolution parallèle des problèmes qui « modifierait dynamiquement le flux d’informations et de décisions nécessaires pour accomplir chaque tâche de la manière la plus efficace, et à une vitesse surhumaine » et serait « déployable pour effectuer n’importe quel ensemble arbitraire de tâches », tandis que la seconde remplacerait les problèmes des « bureaucraties dominées par l’humain… jonchées de subjectivité et de prises de décision centrées sur les émotions », par « un haut niveau de prévisibilité dans des situations présentant des contextes similaires, conduisant à des améliorations globales de la prévisibilité de la prise de décision bureaucratique » (25). Les auteurs admettent qu’une telle augmentation de l’efficacité aurait un coût. Un État doté d’IA pourrait être associé à une opacité accrue, à un décalage par rapport aux objectifs sociaux plus larges et à une réduction des perspectives de liberté individuelle.

De telles idées ont fourni une justification intellectuelle à ce que l’un des auteurs de l’article décrit avec enthousiasme ailleurs (Hammond, 2025) : permettre au « logiciel de dévorer l’État » tout en favorisant l’« afflux [de] formes privatisées de gouvernance ». Comme l’a fait valoir le principal rédacteur du Plan d’action sur l’IA de l’administration Trump peu avant de prendre ses fonctions à la Maison-Blanche (Ball, 2025) :

Aujourd’hui, lorsqu’un PDG d’une entreprise souhaite apporter une modification à un processus opérationnel, il transmet cet ordre à travers les échelons hiérarchiques, et à chaque étape, le message perd un peu de sa fidélité… [Désormais], les PDG et les dirigeants pourront dire « sautez », et à l’unisson, des dizaines, des centaines, des milliers, voire des millions d’agents répondront « à quelle hauteur ? » Je note avec intérêt que cette technologie est en cours de développement au moment même où le Parti républicain, et Donald Trump en particulier, cherchent à promouvoir les théories d’un « exécutif unitaire » — l’idée que le président exerce de manière absolue les pouvoirs qui lui sont conférés par la Constitution et par le Congrès. D’ici la fin du mandat du président Trump, cela pourrait être plus possible que quiconque ne l’aurait jamais imaginé.

Bien que les opinions politiques de Ball soient plus complexes que cela ne le laisse entendre (Klein, 2026), il continuerait (Bronzini-Vender, 2026) à soutenir que l’IA :

pourrait remplacer la Cour suprême, puis le gouvernement américain lui-même. L’IA, a déclaré [Ball], était « cette gigantesque cuve d’acide » dissolvant les institutions de médiation de la société. « Les institutions futures seront machiniques », a-t-il déclaré. « Ce ne sera pas l’IA au sein du gouvernement. Ce sera l’IA en tant que gouvernements. »

Nous ne pouvons certainement pas attribuer uniquement aux spéculations sur l’AGI le phénomène du DOGEmaxing et le démantèlement de la bureaucratie fédérale par l’administration Trump ; les causes sont nombreuses et se recoupent. Cependant, si l’on considère que le devoir d’une bureaucratie est de mettre en œuvre le programme du dirigeant, et que l’AGI est proche, il n’est pas difficile de conclure que cette dernière offre un moyen providentiel d’accomplir la première. Après tout, de nombreuses autres innovations de la Silicon Valley ont remplacé des systèmes sociaux prétendument désordonnés et inefficaces (allant des taxis réglementés aux relations de travail des employés subalternes d’Amazon, en passant par les forums généraux de débat public) par l’optimisation d’une fonction qui pondère les buts et objectifs du dirigeant, et par des boucles de rétroaction algorithmiques qui la mettent en œuvre.

Comme le dit Narayanan (2026), en discutant de l’application d’idées étroitement liées à des fins radicalement différentes, « presque tout dans ce modèle mental naïf est faux ». La bureaucratie implique bien plus que la mise en œuvre automatisable d’un programme tout prêt, et ni les modèles de pointe ni leurs descendants dans un avenir proche ne seront systématiquement plus aptes à effectuer de manière fiable des compromis bureaucratiques que les processus humains collectifs. Cela s’explique en partie par des problèmes liés aux mesures. L’optimisation nécessite des indicateurs quantifiés, qui peuvent être mal adaptés aux concepts sous-jacents et aux objectifs réels. Nguyen (2024) présente l’exemple de chercheurs de Netflix qui tentent d’entraîner des systèmes génératifs à produire du « bon art » en optimisant le nombre d’heures d’engagement. Il pourrait en fait être plus difficile d’« optimiser la bureaucratie en fonction des objectifs finaux de Trump », compte tenu de leur nature chaotique et changeante, que de l’optimiser pour produire du bon art. Il existe également des limites propres à l’IA moderne. Les LLM au cœur des modèles multimodaux ne sont, en réalité, pas des optimiseurs. (Leurs paramètres sont ajustés par des optimiseurs pendant l’entraînement, mais c’est une autre histoire). Ils ont de plus en plus tendance à devenir de véritables « gâchis » à mesure qu’ils continuent d’essayer de raisonner, d’une manière qui ne peut pas être facilement résolue par la mise à l’échelle (Hägele et al., 2026).

Cependant, les objections les plus fondamentales à cette vision découlent de la nature même de l’optimisation. Contrairement au discours sur le fait de « peser soigneusement les compromis », l’optimisation ne fournit tout simplement aucun moyen objectif de peser les types de choix entre des éléments non commensurables qui sont essentiels au processus bureaucratique. Simon, Smithburg et Thompson (1958, 74) examinent comment la Work Projects Administration et le War Production Board ont dû choisir des politiques entre des objectifs très divergents au cours de la première moitié du XXe siècle ; « amorçage de l’économie » par opposition à l’aide immédiate aux chômeurs dans le premier cas, et recherche de compromis entre les objectifs de guerre et les besoins civils dans le second. Comme ils le notent, ces « conflits et contradictions internes entre les objectifs ultimes, ou entre les moyens choisis pour les atteindre » impliquent que « la hiérarchie des moyens et des fins est rarement une chaîne intégrée et complètement connectée ». De tels choix épineux surgissent régulièrement dans la mise en œuvre et l’articulation bureaucratiques, ainsi que dans la définition des objectifs au sommet, ce qui en fait des problèmes fondamentalement politiques, et c’est précisément ce que l’optimisation ne résout pas. Comme le dit sans détour Recht (2023), « on ne peut pas optimiser un compromis ». Il n’y a pas de consensus sur la manière d’optimiser plusieurs objectifs indépendants, même dans des situations modérément complexes. L’apprentissage automatique, avec ou sans réseaux neuronaux, n’offre pas de solutions magiques à cela. (Cf. McCulloch, 1945.) Bien sûr, il est possible de « demander » aux LLM de mettre en balance différents objectifs les uns par rapport aux autres, puis d’examiner les résultats, mais il n’existe pas de méthode généralisable pour mesurer leur succès, et encore moins pour l’améliorer au fil d’itérations répétées. Les références à l’ « IA » — sans parler de l’« IGA » — ignorent les possibilités et les limites de ces technologies à des fins bureaucratiques, les substituant par de la magie.

Encore une fois, Simon souligne avec insistance et à plusieurs reprises que la prise de décision bureaucratique implique des compromis entre des objectifs difficiles à comparer, et une reformulation répétée tant des objectifs que des moyens de les atteindre, à tous les niveaux de l’organisation, alors que les gens tentent de trouver des solutions satisfaisantes face à la complexité. Lindblom conclut que ces ajustements continus vers le haut, vers le bas et latéraux sont la raison pour laquelle nous ne devrions pas considérer la coordination bureaucratique comme un simple processus descendant :

La tâche de coordination est souvent assimilée à la partie de celle-ci qui est en fait traitée par la coordination centrale ; ce qui apparaît clairement à y réfléchir de plus près est oublié — à savoir qu’une part énorme de la coordination est inévitablement réalisée par divers ajustements mutuels. Mais la partie la plus visible de l’iceberg de la coordination, la coordination centrale explicite, n’est peut-être qu’une petite partie de tous ces processus par lesquels la coordination est, dans une certaine mesure, réalisée (Lindblom, 1965, 170).

La mise en œuvre d’ordres descendants n’est qu’une partie (importante) du travail de la bureaucratie, qui nécessite des ajustements mutuels répétés d’un type qui résiste aux approches standard de l’IA (Narayanan, 2026).

Alors, comment pourrions-nous commencer à rendre justice aux idées de Simon, Lindblom et d’autres qui ont réfléchi attentivement au fonctionnement de la bureaucratie ? Nous devons reconnaître qu’il existe des problèmes importants de coordination centrale, mais les approximations grossières de l’IA posent leurs propres difficultés dans ce domaine. Par exemple, les responsables du Parti qui dirigent la République populaire de Chine sont régulièrement frustrés par leur incapacité à savoir ce qui se passe à leurs échelons inférieurs. Les responsables de niveau inférieur déforment régulièrement les politiques à leur avantage personnel et ont également coupé les flux d’information alternatifs vers le sommet, par exemple en décourageant de force le public de se plaindre auprès des responsables centraux du Parti (Anderlini, 2009). Comme le démontre Wallace (2014), les responsables chinois de haut niveau ont ainsi utilisé les statistiques officielles comme indicateurs grossiers de la réussite des politiques, récompensant ou écartant les administrateurs provinciaux en fonction, par exemple, de l’augmentation ou non du PIB dans leur province. Cela a, sans surprise, incité les bureaucrates de niveau inférieur à trouver des moyens de « fausser les statistiques », et à des contre-mesures de la part de leurs supérieurs pour trouver des indicateurs plus fiables.

Tout cela semble indiquer que les LLM et d’autres formes d’IA moderne renforceront le pouvoir des responsables centraux, affinant leur contrôle sur leurs subordonnés. Et cela pourrait bien se produire ! Pourtant, si les hauts responsables du Parti se tournent vers les rapports générés par les LLM pour évaluer les fonctionnaires subalternes, le jeu du chat et de la souris se poursuivra sur un nouveau terrain. Déjà, dans d’autres domaines, certains tentent de manipuler les données d’entraînement pour orienter les LLM dans un sens ou dans un autre. Les responsables dont la carrière est en jeu, et qui peuvent ordonner à leurs subordonnés de rédiger des documents internes ou de manipuler d’une autre manière les sources des LLM, pourraient disposer de moyens pour se mettre en valeur. Que les LLM donnent un avantage aux hauts responsables par rapport à leurs subordonnés, ou l’inverse, dépendra des détails de la technologie, de son application et des réactions humaines. Cela débouchera probablement sur de nouveaux compromis et de nouvelles relations de concurrence entre les personnes concernées, plutôt que sur le genre de transformation radicale que l’on pourrait imaginer par des spéculations ex ante.

De même, personne ne sait vraiment si une IA puissante rendra la société nettement plus vulnérable à l’autoritarisme, en remodelant les rapports de force entre le gouvernement et les citoyens comme le suggèrent Bullock et al. (2025). Il ne s’agit pas seulement (comme Bullock et al. ) que les acteurs non étatiques puissent eux-mêmes utiliser la technologie pour brouiller les données, mais que celles-ci ne soient peut-être pas si utiles que ça au départ. Des données systématiquement incomplètes risquent d’aggraver les angles morts bureaucratiques plutôt que de les compenser. Plus pertinent encore, comme le soutient Yang (2026), les États autoritaires sont confrontés à de profonds compromis lorsqu’ils déploient l’IA pour détecter la dissidence. Leurs institutions répriment les comportements manifestes qui pourraient générer des données d’apprentissage permettant de prédire de futurs troubles. Si l’IA renforce certainement la capacité des régimes autoritaires à surveiller les citoyens à grande échelle, elle accroît aussi vraisemblablement leur dépendance à l’égard d’approches grossières qui ne permettent pas de saisir ce qu’ils souhaitent le plus savoir, les orientant vers des prédictions fondées sur des données passées qui pourraient s’avérer inadaptées aux contingences futures (Anastasopoulos et Lian, 2026).

Les États autoritaires comme non autoritaires sont également confrontés à des compromis idéologiques. Les modèles de langage de grande envergure (LLM) sont extrêmement bien adaptés à l’articulation, à la promulgation et à l’interprétation des rituels organisationnels (Fourcade et Farrell, 2024), tels que la rédaction de formules types organisationnelles, l’explication de la manière dont vos activités contribuent aux objectifs de l’organisation dans son ensemble, et autres. Les rituels peuvent jouer un rôle de coordination important au sein des organisations et ailleurs (Chwe, 2013). Simon souligne l’importance de représentations sommaires très générales des objectifs partagés dans la construction de la culture organisationnelle. De telles abstractions fournissent des orientations génériques sur la manière d’appliquer des priorités générales à des problèmes particuliers. Ici, les LLM pourraient permettre à ces représentations de s’exprimer et de répondre à des questions, créant ainsi des oracles idéologiques capables d’articuler la manière dont les objectifs généraux s’appliquent à des situations spécifiques, y compris celles jamais anticipées par les rédacteurs d’origine. Un LLM pourrait, par exemple, expliquer — de manière plausible et détaillée — comment appliquer la stratégie chinoise de « double circulation » au (important) secteur de la fabrication de roulements à billes, même si les hauts responsables du Parti n’avaient jamais réellement rédigé de directives particulières sur le sujet. L’actuel sous-secrétaire américain à la Défense chargé de la recherche et de l’ingénierie souhaite que les employés du Pentagone utilisent des agents d’IA pour vérifier « si les actions proposées sont conformes aux principes de la stratégie de défense nationale » (Manson, 2026).

De même, de telles simplifications grossières peuvent créer des angles morts systématiques autour de faits ou de questions idéologiquement gênants. Les LLM chinois tels que DeepSeek sont entraînés à éviter les réponses directes sur des sujets comme le massacre de la place Tiananmen (Lu, 2025). Cet entraînement est inégal, mais pourrait probablement s’améliorer — des techniques d’IA « constitutionnelles » (Anthropic, 2026) peuvent certainement être déployées à ces fins. Pourtant, si les LLM deviennent des éléments porteurs de l’infrastructure idéologique, ces angles morts peuvent avoir des conséquences négatives autant que des avantages, rendant plus difficile pour les responsables de percevoir les fissures qu’ils dissimulent en assemblant de manière homogène d’autres faits et idées. Il existe des précédents historiques. Dans la Chine maoïste, les statistiques provinciales exagéraient systématiquement l’ampleur des récoltes, ce qui a conduit les autorités centrales à saisir les récoltes, laissant plus de 30 millions de personnes mourir de faim (Wallace, 2014) . D’une manière générale, une plus grande cohérence idéologique et un pouvoir de coordination accru peuvent se faire au prix d’une perte d’information accrue et d’une incapacité à percevoir les problèmes dont la nature est en contradiction avec les mythes fondateurs du régime. Bien qu’il existe des solutions possibles, certaines raisons laissent soupçonner qu’une utilisation accrue de l’IA pourrait aggraver ces problèmes plutôt que de les atténuer. D’autres interprétations de cette technologie suggèrent des forces contraires à la tendance à la conformité, mais celles-ci peuvent comporter leurs propres compromis. La valeur potentielle de coordination des oracles idéologiques et culturels est en partie contrebalancée par le risque que ces oracles puissent être équivoques ou, pire encore, fournir des réponses radicalement différentes à différents interlocuteurs, en fonction des différences dans les invites — choix de mots précis, hypothèses implicites ou manipulation habile par des bureaucrates ayant leurs propres agendas. L’ampleur de ce problème dépendra non seulement de la technologie elle-même, mais aussi du contexte institutionnel dans lequel elle est utilisée (qui y a accès et dans quelles conditions).

Dans la mesure où il est possible d’éliminer la variabilité par un réglage fin, ou simplement en contrôlant les circonstances dans lesquelles les LLM sont utilisés, d’autres compromis se présenteront à nouveau. Les inefficacités existantes dans la promulgation de directives descendantes présentent en réalité des avantages. Les fonctionnaires de niveau inférieur peuvent comprendre des circonstances locales ou particulières que le sommet de la hiérarchie ne saisit pas. Donner à ces fonctionnaires une marge de manœuvre pour adapter les politiques à de telles circonstances peut comporter un risque de défaillance de la coordination ou de malversation, mais peut aussi permettre d’obtenir de meilleurs résultats globaux qu’une combinaison d’abstractions à usage général et de microgestion centralisée.

Les structures bureaucratiques existantes sont confrontées à des compromis tant au niveau de la coordination horizontale que verticale et du partage de l’information. Les LLM sont remarquablement bien adaptés pour atténuer certains de ces compromis, mais pas tous. Certaines de ces utilisations peuvent sembler insignifiantes, mais sont en réalité d’une grande importance.

Par exemple, des discussions avec d’anciens et d’actuels responsables militaires suggèrent que les forces armées américaines sont en proie à des divergences terminologiques qui peuvent entraîner de graves défaillances de coordination lorsque différentes branches cherchent à travailler ensemble. Le problème est si grave que le département de la Défense dispose d’un programme dédié à la terminologie (Joint Chiefs of Staff, sans date), relevant de l’état-major interarmées, qui vise à lutter contre le langage idiosyncrasique utilisé par les différentes branches des forces armées en créant des termes et des définitions communément acceptés. Les LLM sont extrêmement bien adaptés pour atténuer ces problèmes en traduisant des objectifs ou des exigences communs entre les différentes branches d’une organisation qui ont leur propre jargon. Leurs compressions omettent certains détails, mais semblent en général très efficaces pour saisir les genres, y compris les genres bureaucratiques, et traduire d’un genre à l’autre. Cela pourrait permettre l’automatisation de nombreuses tâches routinières de traduction organisationnelle qui nécessitent actuellement un effort humain soutenu. De même, la traduction automatisée peut comporter ses propres inconvénients cachés. Certaines des frictions de la traduction reflètent de véritables différences opérationnelles dans la manière dont les différentes branches mènent leur travail dans le monde réel, et une traduction trop simpliste peut masquer ces différences — jusqu’à ce que le langage bureaucratique se heurte à la réalité concrète. En moyenne, les avantages l’emportent probablement largement sur les coûts, mais il y a bien des coûts.

De tels problèmes risquent de se croiser avec des luttes de pouvoir et des conflits d’intérêts politiques. Les forces armées américaines ont leurs propres rivalités internes, parfois encouragées par les politiciens qui les supervisent. Le chevauchement des besoins et de l’expertise entre les différentes branches peut favoriser les dénonciations : si une proposition de l’armée de l’air est un projet de prestige coûteux qui accapare une part du budget de la défense supérieure à ce qu’elle devrait, alors la marine américaine, qui dispose également d’avions, pourrait avoir à la fois les connaissances techniques et la motivation nécessaires pour informer ses amis au Congrès de ce problème. Nous ne prétendons pas prédire comment une coordination plus facile entre les forces armées s’articulera avec les conflits d’intérêts entre elles, mais nous nous attendons à ce que cela ait de l’importance. Des conflits similaires se cachent au sein de toutes les organisations complexes, et les individus et factions animés par leur propre intérêt sont remarquablement habiles à détourner les technologies de coordination vers leurs fins personnelles. De même, les acteurs en place sur le marché chercheront avec enthousiasme à utiliser les technologies pour renforcer leurs avantages concurrentiels plutôt que de les affaiblir (Curl, Kapoor et Narayanan, 2026).

La rétroaction démocratique est confrontée à des problèmes similaires. On observe un grand enthousiasme quant au potentiel des LLM, par exemple, pour rendre la rétroaction publique ascendante vers la prise de décision bureaucratique moins déficitaire qu’elle . Les boucles de rétroaction algorithmiques pourraient garantir que les problèmes non seulement apparaissent plus rapidement, mais qu’ils soient parfois résolus automatiquement dès la phase de mise en œuvre. Les LLM pourraient rendre les processus de consultation publique plus lisibles d’une nouvelle manière, en résumant et en remixant les commentaires du public à grande échelle.

De telles innovations méritent d’être explorées, mais se heurtent à des limites importantes. Les processus bureaucratiques sont notoirement mauvais pour intégrer les commentaires, mais les approches basées sur l’IA pourraient en réalité être encore moins efficaces pour intégrer des informations inattendues. Les « algorithmes de terrain » qui mettent effectivement en œuvre les décisions pourraient bien être moins performants que les fonctionnaires humains pour identifier et réagir aux événements anormaux (Alkhatib et Bernstein, 2019).

Lorsque les fonctionnaires de terrain sont confrontés à un cas nouveau ou marginal, ils s’en servent pour affiner leur compréhension de la politique. Lorsque les algorithmes de terrain sont confrontés à un cas nouveau ou marginal, ils appliquent leur classification prédéfinie, potentiellement avec une confiance erronément élevée.

De tels algorithmes peuvent même être incapables de percevoir en quoi un cas spécifique présente des caractéristiques surprenantes qui ne correspondent pas à leurs modèles. Cela n’est pas fondamentalement différent pour les LLM, ni d’ailleurs pour les formes d’IA qui restent à inventer. Encore une fois, tous ces modèles statistiques sont optimisés pour offrir une performance moyenne satisfaisante plutôt que pour gérer des événements rares qui semblent anormaux. Différentes implémentations seront confrontées à différentes versions de ce dilemme, mais toutes y seront confrontées. Berliner (2024) décrit comment des problèmes similaires affectent l’analyse automatisée des commentaires publics, où les LLM, comme d’autres formes de traitement du langage naturel, sont performants pour identifier et regrouper des modèles généraux, mais faibles pour détecter des informations rares, inattendues et, pour cette raison même, précieuses. Selon ses propres termes :

Une grande partie de la promesse de la participation publique au gouvernement réside précisément dans sa capacité à informer les décideurs politiques de problèmes nouveaux, de nouvelles solutions ou de nouvelles perspectives provenant du public.

Cependant, l’IA est mal adaptée à l’identification de la nouveauté :

Si [les décideurs politiques] souhaitent être en mesure d’apprendre des choses à la fois spécifiques et nouvelles — là où le traitement de l’information exige à la fois une attention individuelle et des connaissances spécifiques au contexte —, l’IA n’est alors pas susceptible d’être très utile, à moins que la société ne soit prête à accepter soit de sérieux biais, soit des inexactitudes majeures. Et restreindre la portée de l’apprentissage politique à des mesures et catégories déjà connues pourrait même servir à simplement ancrer les inégalités politiques existantes.

Comme le note Berliner, lorsque les décideurs humains s’appuient sur des algorithmes qui sont efficaces pour saisir certains types d’informations, cela peut en réalité exacerber ces pertes systématiques, mettant potentiellement en péril la capacité de l’organisation à réagir à des circonstances imprévues. Les simplifications de la compréhension du public par l’IA rendent visibles des tendances qui étaient auparavant trop vastes pour être facilement discernées, mais au prix de la dissimulation de détails qui ne cadrent pas avec les abstractions des modèles.

De tels compromis apparaissent également dans des cas d’utilisation plus transformatrices. Les LLM permettent de nouvelles synthèses d’informations qui, bien qu’encore sujettes à des pertes, captureront des aspects de la connaissance organisationnelle que d’autres technologies ne peuvent pas saisir. Bon nombre des problèmes, bien que pas tous, que des chercheurs comme Hayek et Lindblom associent à la vision « synoptique » de l’État découlent des différences entre les bureaucraties formelles et les technologies sociales plus dynamiques telles que les marchés. Comme beaucoup l’ont souligné, les grandes organisations ne savent pas ce qu’elles savent : des informations extrêmement précieuses peuvent être dispersées à travers l’organisation et résister à l’assimilation et à l’analyse en un seul endroit. Les documents papier dans les classeurs d’un bureau de terrain au Nebraska pourraient s’avérer avoir des implications précieuses s’ils étaient combinés avec des données statistiques recueillies en Floride et des données nationales collectées de manière centralisée dans la banlieue de Washington D.C.

Une fois ces ressources rendues lisibles par les machines, les systèmes basés sur les LLM peuvent contribuer de manière remarquable à assembler des sources d’information disparates pour les rendre plus utiles, atténuant ainsi le problème synoptique de Hayek et Lindblom (Brynjolffson et Hitzig 2025). Cela pourrait s’avérer extraordinaire, pour le meilleur ou pour le pire. Les partisans y voient un renforcement radical des moyens dont dispose l’État pour mieux servir ses citoyens. Les sceptiques craignent que cela n’élimine de nombreuses libertés qui dépendent de la persistance d’espaces imparfaitement visibles où l’État n’est pas en mesure de rassembler tout ce qu’il sait (Fourcade et Healy, 2025). L’IA militaire ne remplacera peut-être pas tant la bureaucratie qu’elle « l’encodera » dans des modèles qui, à l’instar de bon nombre de leurs prédécesseurs sur papier, « atteignent l’exhaustivité en filtrant tout ce qui n’était pas lisible selon leurs catégories », et traiteront la délibération sur des choix déchirants comme une latence inefficace qu’il convient d’éliminer (Baker, 2026).

De tels modèles ne créent pas le « panoptique » que les utilitaristes célébraient et que les critiques du pouvoir étatique comme Foucault (1977) redoutaient, mais des structures qui lui ressemblent à bien des égards. On pourrait décrire le résultat comme un synoptique à œil mosaïque, permettant potentiellement aux bureaucrates à tous les niveaux d’extraire des informations potentiellement utiles de l’ensemble de l’organisation, selon des invites spécifiques et à des fins précises. De même, il s’agit d’un synopticon tordu. Tout ce qu’il assemble constituera en soi une approximation grossière d’une réalité plus complexe, tandis que le produit final sera son propre assemblage grossier, écartant les données fines qui ne répondent pas à ses propres critères. Les résultats finaux seront imparfaits à leur manière. Les pires scénarios pourraient ressembler moins à l’État-machine omniscient de 1984 d’Orwell qu’au Brésil de Terry Gilliam, dans lequel un insecte coincé dans un téléscripteur provoque une série d’erreurs qui s’amplifient d’elles-mêmes. Les meilleurs résultats comporteront tout de même beaucoup d’imprécisions décisionnelles mêlées à des résultats politiques globalement bienveillants. Il y aura une immense variété de possibilités entre les deux. Encore une fois, nous ne faisons pas de prédictions fermes quant aux résultats, mais nous savons que ces technologies comporteront elles aussi des pertes, bien que d’une manière différente de leurs prédécesseurs, et que différentes factions se disputeront la manière de s’assurer que les angles morts et les avantages de la coordination qui y sont associés soient tournés à leur propre profit, plutôt qu’à celui de leurs rivaux.

En résumé : l’AGI ne promet pas une bureaucratie véritablement post-humaine . De nombreux processus bureaucratiques (y compris ceux dont nous n’avons pas parlé) pourraient être rendus plus efficaces, certains peut-être même entièrement automatisés par l’IA. Mais l’IA — y compris toute version plausible de l’AGI issue des technologies actuelles — ne peut pas remplacer la bureaucratie de la manière promise par les enthousiastes. Les frustrations liées à la bureaucratie telle qu’elle existe réellement ne découlent pas simplement de solutions inaptes ou techniquement inadéquates au problème mandant-mandataire (principal-agent problem). Elles découlent également de la collision de multiples exigences incommensurables, chacune avec ses propres problèmes et avantages, de sorte qu’il n’existe pas de solutions optimales. Ceux qui construisent ou réforment des bureaucraties, tout comme ceux qui créent d’autres artefacts, doivent trouver des solutions satisfaisantes face à de multiples besoins et pathologies qui s’entrecroisent. Des conceptions qui résolvent parfaitement un type de problème peuvent en aggraver d’autres de manière radicale. L’IA telle qu’elle existe actuellement a ses propres imperfections, dont certaines sont endémiques. Greffer des systèmes d’IA sur les bureaucraties existantes résoudra certains problèmes, mais en aggravera d’autres et en créera de tout nouveaux. Cela n’éliminera pas les difficultés politiques liées à la médiation entre des objectifs différents, souvent non commensurables. Imaginer le remplacement pur et simple de la bureaucratie par l’IA n’est plausible que si l’on fait abstraction des difficultés réelles associées aux technologies sociales existantes.

Notre propre pari, bien qu’hésitant, est que la bureaucratie alimentée par les LLM sera moins facile à contrôler que ne le craignent les critiques et ne l’espèrent les partisans. Les LLM actuels sont opaques sur le plan architectural, en partie parce qu’il est très difficile de savoir comment ils effectuent l’amalgation de leurs entrées. Cela rend plus difficile de les orienter délibérément dans différentes directions, du moins pas avec précision, mais cela soulève également des problèmes pour la bureaucratie. L’impossibilité (pratique) de savoir quels aspects des signaux entrants sont filtrés par l’appareil rend particulièrement difficile de compenser la perte d’information qui en résulte.

Cela pourrait toutefois signifier que les fusions chimériques entre bureaucratie et IA feront l’objet de plus de controverses plutôt que moins, et que ces controverses deviendront plus étranges. Les aspects des signaux perdus lors de la compression pourraient être extrêmement difficiles à décrire en termes humains existants, mais ils pourraient néanmoins causer plus de problèmes à certaines personnes qu’à d’autres. Tout comme les agriculteurs du Midwest du XIXe siècle avaient du mal à expliquer exactement en quoi les systèmes de classification des céréales leur portaient préjudice, les citoyens et les groupes d’intérêt du XXIe siècle pourraient avoir du mal à décrire ce que l’IA leur fait subir, même s’ils savent que des choses se passent qui ne leur plaisent pas.

Des transformations à très grande échelle de notre économie politique sont peut-être déjà en cours, mais elles pourraient être extrêmement difficiles à expliquer dans les termes traditionnels que nous avons utilisés pour donner un sens aux conflits politiques entre différentes classes d’acteurs aux intérêts divergents. Le fait que les termes de ces luttes soient peu familiers ou difficiles à articuler dans notre langage actuel ne signifie pas que nous devrions les ignorer ou les minimiser. Des difficultés similaires ont accompagné les bouleversements économiques majeurs antérieurs de la Longue Révolution industrielle. Tout comme nous devrions sauver les idéologies du passé de l’« énorme condescendance de la postérité » (Thompson, 1963), nous devons également développer une compréhension plus sérieuse et systématique pour nous aider, ainsi que d’autres personnes, à comprendre et à articuler ce qui se passe en ce moment même. Cartographier correctement l’économie politique de l’IA et de la bureaucratie ferait donc partie d’un projet plus large visant à comprendre l’économie politique de l’IA.

Conclusions

Nous n’avons pas l’intention de comparer, d’une manière prétendument scientifique, les théories centrées sur l’IA générale à l’approche de la technologie sociale. Cela ferait pencher la balance fortement en notre faveur : une description complexe est, par définition, plus susceptible d’être exacte qu’un argument stylisé, bien que souvent bien moins utile (Healy, 2017). Nous ne cherchons pas non plus à prédire l’avenir. Au contraire, nous attirons l’attention sur les interactions complexes et lourdes de conséquences entre les institutions humaines existantes (en particulier la bureaucratie) et l’IA existante, que les récits centrés sur l’IA générale (AGI) négligent. Peut-être que tout cela deviendra sans importance lorsque les robots feront leur apparition, mais il s’agit là d’un vœu pieux (ou blasphématoire), et non d’une prévision rationnelle.

Les approximations grossières de l’IA — même si elles sont construites par quelque chose qui se rapproche vaguement de l’AGI (elle-même une notion vague en quête urgente d’une approximation empirique)—seront toujours sujettes à des pertes. (Nous le répétons encore une fois, tous les modèles statistiques font face à des compromis entre une meilleure performance en moyenne et une moins bonne performance dans des situations inhabituelles.) Les questions intéressantes portent sur l’interaction entre la manière dont les bureaucraties modélisent la réalité et la simplification excessive à laquelle mèneront les nouvelles applications d’IA. Quand un système compensera-t-il les lacunes de l’autre ? Quand leurs différentes formes de perte se renforceront-elles mutuellement ? Quels nouveaux problèmes pourraient résulter de la combinaison de systèmes très différents de gestion de la complexité, qui sont eux-mêmes hautement complexes ? Comment les rapports de force évolueront-ils en conséquence ? Qui en bénéficiera, et qui en souffrira ? Ces questions, parmi d’autres, pourraient être posées, pari passu, concernant la relation entre l’IA et d’autres technologies sociales telles que les marchés et la démocratie. Nous devons absolument commencer à les poser.

Nous espérons éloigner de manière décisive le débat de la question de savoir si l’IA va précipiter une transformation profonde de la condition humaine (Kokotajlo et al., 2025). On comprend mieux l’IA à travers l’histoire passée et l’engagement actuel face à ses conséquences réelles pour la société humaine contemporaine qu’à travers des conjectures sur la façon dont elle pourrait opérer des miracles à l’avenir. Les approches plus terre-à-terre de l’IA ne cessent d’être entraînées dans des débats insolubles sur le calendrier exact du compte à rebours vers l’infini (Kapoor et al., 2025), ce qui entrave l’engagement des sciences sociales sur ce qui arrive réellement à la société humaine et aux institutions en ce moment même. Cela doit changer.

Références

Alkhatib, Ali and Michael Bernstein (2019). “Street-level Algorithms: A Theory at the Gaps Between Policy and Decisions.” In Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems [CHI ’19] (Stephen Brewster and Geraldine Fitzpatrick and Anna Cox and Vassilis Kostakos, eds.). New York: Association for Com-puting Machinery. URL https://hci.stanford.edu/publications/ 2019/streetlevelalgorithms/streetlevelalgorithms-chi2019.pdf. doi:10.1145/3290605.3300760.
Anastasopoulos, L. Jason and Jie (Jason) Lian (2026). “The Limits of Authoritarian AI,” Journal of Democracy, 37:5-17.
Anderlini, Jamil (2009). “Punished Supplicants,” Financial Times, March 6 2009. https://www.ft.com/content/7d13197e-09bc-11de-add8-0000779fd2ac. Accessed 04-17-2026.
Anderson, Benedict (1991). Imagined Communities: Reflections on the Origin and Spread of Nationalism. London: Verso, revised edn.
Andreessen, Marc (2023). “The Techno-Optimist Manifesto.” Weblog post, Andreessen Horowitz. URL https://a16z.com/ the-techno-optimist-manifesto/.
Anthropic (Jan. 2026). “Claude’s New Constitution.” URL https://www. anthropic.com/news/claude-new-constitution. Accessed: 2026-02-08.
Baker, Kevin (2026). “Kill Chain.” Artificial Bureaucracy. URL https://artificialbureaucracy.substack.com/p/kill-chain.
Ball, Dean W. (Mar. 2025). “Where We Are Headed.” Hyperdimensional . URL https://www.hyperdimensional.co/p/where-we-are-headed. Accessed: 2026-02-08.
Banks, Iain M. (1987). Consider Phlebas. London: Macmillan.
Bear, Elizabeth (2013). Shoggoths in Bloom. Prime Books.
Becker, Adam (2025). More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity. New York: Basic Books.
Berliner, Daniel (Nov. 2024). “What AI Can’t Do for Democracy.” Boston Review . URL https://www.bostonreview.net/articles/ what-ai-cant-do-for-democracy/. Accessed: 2026-02-08.
Boyer, Pascal (2018). Minds Make Societies: How Cognition Explains the World Humans Create. New Haven, Connecticut: Yale University Press. doi:10.12987/9780300235173.
Bronzini-Vender, Alex (2026). “Palantir Comes to Campus: At a Quiet Conference at Yale, the Company and Its Allies Sketched a Vision for AI, State Power, and How to Mix the Two,” New York Magazine, May 1, 2026, https://nymag.com/intelligencer/article/palantir-yale-conference-ai.html . Accessed 05-02-2026.
Brynjolffson, Erik and Zoë Hitzig (2025). AI’s Use of Knowledge in Society. National Bureau of Economic Research.
Bullock, Justin B., Samuel Hammond and Seb Krier (2025). “AGI, governments, and free societies.” In The Art of Digital Governance: Navigating Platforms and AI Revolution, pp. 327–361. Cham, Switzerland: Springer. URL https://arxiv.org/abs/2503.05710. doi:10.1007/978-3-032-00514-41 7.
Cherian, John J., Isaac Gibbs and Emmanuel J. Candès (2024). “Large Language Model Validity Via Enhanced Conformal Prediction Methods », pp. 114812–114842 in A. Globerson, L. Mackey, D. Belgrave, A. Fan, U. Paquet, J. Tomczak and C. Zhang (eds.), Advances in Neural Information Processing Systems 37 [NeurIPS 2024] (Red Hook, New York: Curran Associates), doi:10.52202/079017-3645, https://arxiv.org/abs/2406.09714
Chorin, Alexandre J., Ole H. Hald and Raz Kupferman (2000). “Optimal Prediction and the Mori-Zwanzig Representation of Irreversible Processes.” Proceedings of the National Academy of Sciences (USA), 97: 2968–2973. URL http://www.ma.huji.ac.il/~razk/Publications/PDF/CHK00.pdf. doi:10.1073/pnas.97.7.2968.
Chwe, Michael Suk-Young (2013). Rational Ritual: Culture, Coordination, and Common Knowledge. Princeton, New Jersey: Princeton University Press. doi:10.1515/9781400846436.
Cronon, William (1991). Nature’s Metropolis: Chicago and the Great West. New York: W. W. Norton and Company.
Crutchfield, James P. and David P. Feldman (2003). “Regularities Unseen, Randomness Observed: Levels of Entropy Convergence.” Chaos, 13: 25–54. URL http://arxiv.org/abs/cond-mat/0102181. doi:10.1063/1.1530990.
Curl, Justin, Sayash Kapoor and Arvind Narayanan (2026), “AI Won’t Automatically Make Legal Services Cheaper,” Lawfare, https://www.lawfaremedia.org/article/ai-won-t-automatically-make-legal-services-cheaper.
Davies, Dan (2025). The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind. Chicago: University of Chicago Press.
DeDeo, Simon (2017). “Major Transitions in Political Order.” In From Matter to Life: Information and Causality (Sara Imari Walker and Paul C. W. Davies and George F. R. Ellis, eds.), pp. 393–428. Cambridge, United Kingdom: Cambridge University Press. URL https://arxiv.org/abs/1512.03419. doi:10.1017/9781316584200.
DeLong, J. Bradford (2026). “Theories of Economic History.” Sir John Hicks Memorial Lecture, All Souls College, Oxford University. April 28.
Dimitrov, Martin K. (2023). Dictatorship and Information: Authoritarian Regime Resilience in Communist Europe and China. Oxford, England: Ox-ford University Press. doi:10.1093/oso/9780197672921.001.0001.
Emrys, Ruthanna (2022). A Half-Built Garden. New York: Tor Books.
Farrell, Henry (2025). “AI as Governance.” Annual Review of Political Science, 28: 375–392. doi:10.1146/annurev-polisci-040723-013245.
Farrell, Henry and Marion Fourcade (2023). “The moral economy of high-tech modernism.” Daedalus, 152(1): 225–235. URL https://www.amacad.org/sites/default/files/publication/downloads/ Wi23_Daedalus_28_Farrell-Fourcade.pdf. doi:10.1162/daed a 0 1982.
Farrell, Henry, Alison Gopnik, Cosma Rohilla Shalizi and James Evans (2025). “Large AI models are cultural and social technologies.” Science, 387: 1153–1156.
Farrell, Henry and Hahrie Han, AI and Democratic Publics, Knight First Amendment Institute, 2025.
Flack, Jessica C. (2017). “Coarse-Graining as a Downward Causation Mechanism.” Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 375(2109): 20160338. doi:10.1098/rsta.2016.0338.
Foucault, Michel (1977). Discipline and Punish: The Birth of the Prison. New York: Pantheon Books. Originally published in French as Surveiller et punir in 1975.
Fourcade, Marion and Henry Farrell (Sep. 2024). “Large Language Models Will Upend Human Rituals.” The Economist . URL https://www.economist.com/by-invitation/2024/09/04/ large-language-models-will-upend-human-rituals. Accessed: 2026-02-08.
Fourcade, Marion and Jeffrey Gordon (2020). “Learning Like a State: Statecraft in the Digital Age.” Journal of Law and Political Economy 78: 78-108.
Fourcade, Marion and Kieran Healy (Aug. 2025). “The Sovereign Individual and the Paradox of the Digital Age.” Aeon. URL https://aeon.co/essays/ the-sovereign-individual-and-the-paradox-of-the-digital-age. Accessed: 2026-02-08.
Gellner, Ernest (1983). Nations and Nationalism. Ithaca, New York: Cornell University Press.
Gilbert, David and Vittoria Elliott (apr 2025). “DOGE Put a College Student in Charge of Using AI to Rewrite Regulations.” Wired . URL https://www.wired.com/story/ doge-college-student-ai-rewrite-regulations-deregulation/. Accessed: 2026-02-08.
Grosse, Roger, Juhan Bae, Cem Anil, Nelson Elhage, Alex Tamkin, Amirhossein Tajdini, Benoit Steiner, Dustin Li, Esin Durmus, Ethan Perez, Evan Hubinger, Kamile Lukosiute, Karina Nguyen, Nicholas Joseph, Sam McCandlish, Jared Kaplan and Samuel R. Bowman (2023). “Studying Large Language Model Generalization with Influence Functions.” E-print, arxiv:2308.03296. URL http://arxiv.org/abs/2308.03296.
Gudiño, Jairo F., Umberto Grandi and César Hidalgo (2024). “Large Language Models (LLMs) as Agents for Augmented Democracy.” Philosophical Transactions A, 382(2285): 20240100. URL https://arxiv.org/abs/2405.03452. doi:10.1098/rsta.2024.0100.
Hägele, Alexander, Aryo Pradipta Gema, Henry Sleight, Ethan Perez and Jascha Sohl-Dickstein (2026). “The Hot Mess of AI: How Does Misalignment Scale with Model Intelligence and Task Complexity?” In Fourteenth International Conference on Learning Representations [ICLR 2026] , p. forthcoming. URL https://arxiv.org/abs/2601.23045.
Hammond, Lewis, Alan Chan, Jesse Clifton, Jason Hoelscher-Obermaier, Akbir Khan, Euan McLean, Chandler Smith, Wolfram Barfuss, Jakob Foerster, Tomáš Gavenčiak, The Anh Han, Edward Hughes, Vojtěch Kovařík, Jan Kulveit, Joel Z. Leibo, Caspar Oesterheld, Christian Schroeder de Witt, Nisarg Shah, Michael Wellman, Paolo Bova, Theodor Cimpeanu, Carson Ezell, Quentin Feuillade-Montixi, Matija Franklin, Esben Kran, Igor Krawczuk, Max Lamparth, Niklas Lauffer, Alexander Meinke, Sumeet Motwani, Anka Reuel, Vincent Conitzer, Michael Dennis, Iason Gabriel, Adam Gleave, Gillian Hadfield, Nika Haghtalab, Atoosa Kasirzadeh, Sébastien Krier, Kate Larson, Joel Lehman, David C. Parkes, Georgios Piliouras and Iyad Rahwan (2025). “Multi-agent risks from advanced AI.” E-print, arXiv:2502.14143. URL http://arxiv.org/abs/2502.14143
Hall, Andy (2026), “Building Political Superintelligence,” Free Systems, March 26, 2026.
Hammond, Samuel (jan 2025). “DOGEmaxing.” Weblog post, Second Best. URL https://www.secondbest.ca/p/dogemaxing. Accessed: 2026-02-08.
Hao, Karen (2025). Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI . New York: Penguin.
Harari, Yuval Noah (2018). “Why Technology Favors Tyranny.” The Atlantic, 322(3): 64–73.
Haskins, Caroline and Vittoria Elliott (May 2025). “A DOGE Recruiter Is Staffing a Project to Deploy AI Agents Across the US Government.” Wired . URL https://www.wired.com/story/ doge-recruiter-ai-agents-palantir-clown-emoji/. Accessed: 2026-02-08.
Hayek, Friedrich A. (1945). “The Use of Knowledge in Society.” American Economic Review, 35: 519–530. URL http://www.econlib.org/Library/ Essays/hykKnw1.html. Reprinted in (Hayek, 1948, pp. 77–91).
— (1948). Individualism and Economic Order . Chicago: University of Chicago Press.
Healy, Kieran (2017). “Fuck Nuance.” Sociological Theory, 35: 118–127. doi:10.1177/0735275117709046.
Jacobs, Abigail Z, and Hanna Wallach (2021), “Measurements as Fairness,” FAccT 2021.
Jacobs, Abigail Z (2021). Measurement as Governance in and for Responsible AI. https://arxiv.org/abs/2109.05658.
Joint Chiefs of Staff (undated). DoD Terminology Program. https://www.jcs.mil/doctrine/dod-terminology-program/ Accessed April 17, 2026.
Jarrell, Randall (1941). “Kafka’s Tragi-Comedy.” Kenyon Review , 3(1): 116–119.
Kapoor, Sayash, Arvind Narayanan, Daniel Kokotajlo, Eli Lifland and Thomas Larsen (November 2025). “Common Ground between AI 2027 and AI as Normal Technology.” Asterisk Magazine. URL https://asteriskmag. substack.com/p/common-ground-between-ai-2027-and.
Klein, Ezra (Mar. 2026). “Why the Pentagon Wants to Destroy Anthropic. Interview with Dean Ball.” The Ezra Klein Show, The New York Times. URL https://www.nytimes.com/2026/03/06/opinion/ ezra-klein-podcast-dean-ball.html. Accessed March 8, 2026.
Kokotajlo, Daniel, Scott Alexander, Thomas Larsen, Eli Lifland and Romeo Dean (April 2025). “AI 2027.” Webpage. URL https://ai-2027.com/.
Land, Nick (2011). Fanged Noumena: Collected Writings 1987–2007. Cambridge, Massachusetts: MIT Press.
LeCun, Yann, Yoshua Bengio and Geoffrey Hinton (2015). “Deep Learning.” Nature, 521: 436–444. doi:10.1038/nature14539.
Lin, Zhen, Shubhendu Trivedi and Jimeng Sun (2024). « Generating with Confidence: Uncertainty Quantification for Black-box Large Language Models », Transactions on Machine Learning Research, https://arxiv.org/abs/2305.19187
Lindblom, Charles E. (1965). The Intelligence of Democracy: Decision Making through Mutual Adjustment. New York: Free Press.
Liu, Xiaoou, Tiejin Chen, Longchao Da, Chacha Chen, Zhen Lin and Hua Wei (2025). « Uncertainty Quantification and Confidence Calibration in Large Language Models: A Survey », pp. 6107–6117 in L. Antonie et al. (eds.), KDD ’25: Proceedings of the 31st ACM SIGKDD Conference on Knowledge Discovery and Data Mining, doi:10.1145/3711896.3736569, https://arxiv.org/abs/2503.15850
Lovecraft, H. P. (2005). “At the Mountains of Madness.” In Tales (Peter Straub, ed.), pp. 481–586. New York: Library of America.
Lu, Donna (Jan. 2025). “We Tried Out DeepSeek. It Worked Well, Until We Asked It About Tiananmen Square and Taiwan.” The Guardian. URL https://www.theguardian.com/technology/2025/jan/28/we-tried-out-deepseek-it-works-well-until-we-asked-it-about-tiananmen-square-and-taiwan. Accessed: 2026-02-08.
Manson, Katrina (2026), “Google to Provide Pentagon With AI Agents for Unclassified Work,” Bloomberg, March 10, 2026.
Matias, J. Nathan (2023). “Humans and Algorithms Work Together. So Study Them Together,” Nature, 617, 248-251. doi: https://doi.org/10.1038/d41586-023-01521-z
Mohri, Christopher and Tatsunori Hashimoto (2024). « Language Models with Conformal Factuality Guarantees », pp. 36029–36047 in R. Salakhutdinov et al. (eds.), Proceedings of the 41st International Conference on Machine Learning [ICML 2024], https://arxiv.org/abs/2402.10978
McAuley, Paul (2010). Into Everywhere. London: Orion.
McCulloch, Warren S. (1945). “A Heterarchy of Values Determined by the Topology of Nervous Nets.” Bulletin of Mathematical Biophysics, 7: 89–93. doi:10.1007/BF02478457. Reprinted in (McCulloch, 1965, pp. 40–45).
— (1965). Embodiments of Mind. Cambridge, Massachusetts: MIT Press.
Naidu, Suresh (Feb 2020). “In Praise of Blindspots.” LPE Project Blog. URL https://lpeproject.org/blog/in-praise-of-blindspots/. Accessed: March 8, 2026.
Narayanan, Arvind (2026). “What If Algorithmic Fairness Is a Category Error?” In Contemporary Debates in the Ethics of Artificial Intelligence (Sven Nyholm and Atoosa Kasirzadeh and John Zerilli, eds.), pp. 77–96. Wiley-Blackwell. URL https://www.cs.princeton.edu/~arvindn/ publications/algorithmic_fairness_category_error.pdf. Accessed: 2026-02-08.
Nelson, Alondra (forthcoming). “Field Theory: AI as Social Science Question, Object, & Tool.” Daedalus.
Newell, Allen and Herbert A. Simon (1956). Current Developments in Complex Information Processing. Tech. Rep. P-850, Rand Corporation. URL http://doi.library.cmu.edu/10.1184/pmc/simon/box00006/ fld00396/bdl0001/doc0001.
Nguyen, C. Thi (2024). “The limits of data.” Issues in Science and Technology, 40(2): 94–101. URL https://www.jstor.org/stable/27395455.
Origgi, Gloria (2017). Reputation: What It Is and Why It Matters. Princeton, New Jersey: Princeton University Press. doi:10.1515/9781400888597. Translated by Stephen Holmes and Noga Arikha from La réputation, qui dit quoi de qui (Paris: Presses Universitaires de France, 2015).
Perrin, Andrew J. and Katherine McFarland (2011). “Social Theory and Public Opinion.” Annual Review of Sociology, 37: 87–107. doi:10.1146/annurev.soc.012809.102659.
Quach, Victor, Adam Fisch, Tal Schuster, Adam Yala, Jae Ho Sohn, Tommi S. Jaakkola and Regina Barzilay (2024). « Conformal Language Modeling”, pp. 11654–11681 in B. Kim et al. (eds.), International Conference on Learning Representations 2024 [ICLR 2024], https://arxiv.org/abs/2306.10193
Raginsky, Maxim (December 2025). “The Paradox of Highly Optimized Tolerance.” Weblog post, The Art of the Realizable. URL https://realizable. substack.com/p/the-paradox-of-highly-optimized-tolerance.
Rahimi, Ali and Ben Recht (December 2017). “Reflections on Random Kitchen Sinks.” Weblog post, argmin.net. URL https://archives.argmin.net/2017/12/05/kitchen-sinks/. Accessed 05-08-2026.
Recht, Ben (Aug. 2023). “Are there always trade offs?” arg min. URL https://www.argmin.net/p/are-there-always-trade-offs. Accessed: 2026-02-08.
Reynolds, Alastair (2000). Revelation Space. London: Gollancz.
Scott, James C. (1985). Weapons of the Weak: Everyday Forms of Peasant Resistance. New Haven, Connecticut: Yale University Press. doi:10.12987/9780300153620.
— (1998). Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed. New Haven, Connecticut: Yale University Press. doi:10.12987/9780300128789.
Shalizi, Cosma (November 2010). “The Singularity in Our Past Light-Cone.” Weblog post, Three-Toed Sloth. URL https://bactra.org/weblog/699. html.
Simon, Herbert A. (1957). Models of Man. New York: John Wiley.
— (1996). The Sciences of the Artificial. Cambridge, Massachusetts: MIT Press, 3rd edn. doi:10.7551/mitpress/12107.001.0001. First edition 1969.
— (1997). Administrative Behavior: A Study of Decision-Making Processes in Administrative Organizations. New York: Free Press, 4th edn.
Simon, Herbert A, Donald W. Smithburg and Victor A. Thompson. (1958). Public Administration. New York: Alfred A. Knopf.
Spufford, Francis (2017). “Idols of the Marketplace.” In True Stories, pp. 110–119. New Haven, Connecticut: Yale University Press. doi:10.12987/9780300231601.
Stross, Charles (2005). Accelerando. London: Orbit.
Therborn, Göran (1978). What Does the Ruling Class Do When It Rules?. London: New Left Books.
Thompson, E.P. (1963). The Making of the English Working Class. London: Gollancz.
Tilly, Charles (1984). Big Structures, Large Processes, Huge Comparisons. New York: Russell Sage Foundation.
Valente, Catherynne M. (Oct. 2011). “Silently and Very Fast.” Clarkesworld Magazine, (61). URL https://clarkesworldmagazine.com/valente_10_ 11/. Accessed 03-08-2026.
Vaswani, Ashish, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser and Illia Polosukhin (2017). “Attention Is All You Need.” In Advances in Neural Information Processing Systems 30 [NIPS 2017] (I. Guyon and U. Von Luxburg and S. Bengio and H. Wallach and R. Fergus and S. Vishwanathan and R. Garnett, eds.), pp. 5998–6008. Red Hook, New York: Curran Associates. URL http://arxiv.org/abs/ 1706.03762.
Vinge, Vernor (1992). A Fire Upon the Deep. New York: Tor.
— (1993). “The Coming Technological Singularity: How to Survive in the Post-Human Era.” In Vision 21: Interdisciplinary Science and Engineering in the Era of Cyberspace, no. CP-10129 in NASA Conference Publication, pp. 11–22. NASA Lewis Research Center. URL https://edoras.sdsu.edu/~vinge/ misc/singularity.html. Accessed March 8, 2025.
Vovk, Vladimir, Alexander Gammerman and Glenn Shafer (2005). Algorithmic Learning in a Random World (New York: Springer-Verlag), doi:10.1007/b106715
Wallace, Jeremy L. (2014). “Juking the Stats: Authoritarian Information Problems in China.” British Journal of Political Science, 46: 11–29. doi:10.1017/S0007123414000106.
Yang, Eddie (2026). “The Limits of AI for Authoritarian Control.” American Journal of Political Science, forthcoming. URL https://www.eddieyang. net/research/AI_limits.pdf. doi:10.1111/ajps.70045.
Yates, JoAnne (1993). Control Through Communication. The Rise of System in American Management. Baltimore: Johns Hopkins University Press.
Yiu, Eunice, Eliza Kosoy and Alison Gopnik (2024). “Transmission Versus Truth, Imitation Versus Innovation: What Children Can Do That Large Language and Language-and-Vision Models Cannot (Yet).” Perspectives on Psychological Science, 19(5), 874-883. doi: 10.1177/17456916231201401

Remerciements

Des versions antérieures de cet article ont été présentées lors de la réunion de 2025 de la Società Italiana di Scienza Politica, ainsi qu’à l’atelier de 2026 intitulé « Cultural AI: An Emerging Field », à l’Institut Remarque de l’Université de New York et à l’Université de Floride. Nous remercions les participants à ces événements, ainsi que Melanie Mitchell, Cris Moore et Jack Shanahan pour leurs commentaires et leurs retours.

Citer comme suit : Henry Farrell et Cosma Rohilla Shalizi, AI as Social Technology, 26-5 Knight First Amend. Inst. (11 mai 2026), https://knightcolumbia.org/content/ai-as-social-technology

[https://perma.cc/25BX-GUQL].

Henry Farrell est titulaire de la chaire SNF Agora d’affaires internationales à l’École des hautes études internationales de l’Université Johns Hopkins.

Cosma Rohilla Shalizi est professeure agrégée au Département de statistique de l’Université Carnegie Mellon.

Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.

Notes

1
une hypothétique substance alchimique
2
Pour une revue pas trop obsolète de ce domaine en pleine évolution, voir Liu et al. 2025. Nous esquissons grossièrement une ligne de recherche, pour donner une idée. La technique statistique de la « prédiction conforme » (Vovk et al., 2005) remplace les prédictions définitives ou « ponctuelles » par l’ensemble des prédictions possibles qui « se conforment » aux modèles établis par les points de données précédents, c’est-à-dire toutes les prédictions qui ne seraient pas des valeurs aberrantes à faible probabilité. L’étendue des prédictions « conformes » indique alors l’incertitude du modèle, allant de la quasi-certitude d’une fourchette étroite autour d’un point particulier au « tout est possible » d’intervalles très larges. Les applications de ces idées aux LLM (par exemple, Lin et al. 2024 ; Quach et al. 2024 ; Mohri et Hashimoto, 2024 ; Cherian et al. 2024), bien que parfois motivées par la suppression des hallucinations et l’amélioration de la « factualité », constituent en réalité des moyens d’évaluer l’incertitude de la sortie du modèle dans différentes situations.
3
Deux choses orthogonales n’ont aucune influence l’une sur l’autre-GB
4
Mais seulement une partie. Il existe une littérature émergente plus vaste sur l’IA et la bureaucratie (p. ex. Caplan et boyd 2018, Fourcade et Gordon 2020, Burrell et Fourcade 2021, Cuéllar et Huq 2022) que nous ne tenterons pas de résumer, nous concentrant plutôt sur une argumentation plus restreinte.

L’IA en tant que technologie sociale

L’intelligence artificielle générale ne laisse pas entrevoir la promesse d’une bureaucratie véritablement post-humaine.

Introduction

Les grossissements et la longue révolution industrielle

Modèles, perte d’information et pouvoir

IA et bureaucratie

Conclusions

Références

Remerciements

Notes

J’aime ça :

Qu'en pensez vous ?Annuler la réponse.

L’intelligence artificielle générale ne laisse pas entrevoir la promesse d’une bureaucratie véritablement post-humaine.

Introduction

Les grossissements et la longue révolution industrielle

Modèles, perte d’information et pouvoir

IA et bureaucratie

Conclusions

Références

Remerciements

Notes

Partager :

J’aime ça :

Qu'en pensez vous ?Annuler la réponse.