Traduction de AI as Social Technology<\/a> par Henry Farrell et Cosma Rohilla Shalizi publi\u00e9 le 11 mai 2026 sur Knight First Amendment Institute.<\/p>\n\n\n\n Nos d\u00e9bats sur l\u2019\u00ab IA \u00bb trouvent leur origine dans la science-fiction des ann\u00e9es 1990. \u00c0 l\u2019\u00e9poque, Vinge (1993) avait publi\u00e9 des essais et des romans nous exhortant \u00e0 faire face \u00e0 la \u00ab\u00a0singularit\u00e9 \u00bb imminente : un moment de changement radical qui transformerait fondamentalement la condition humaine. Ce jour-l\u00e0, l\u2019IA passerait rapidement d\u2019une intelligence simplement comparable \u00e0 celle de l\u2019humain, ce que certains appellent aujourd\u2019hui l\u2019\u00ab\u00a0intelligence artificielle g\u00e9n\u00e9rale \u00bb (AGI), en une entit\u00e9 super-intelligente dot\u00e9e de ses propres int\u00e9r\u00eats et objectifs. L\u2019humanit\u00e9 serait alors soit \u00e9limin\u00e9e sans m\u00e9nagement par des machines hors de contr\u00f4le, soit les humains deviendraient comme des dieux, avec des serviteurs surhumains \u00e0 notre service.<\/p>\n\n\n\n Aussi excellente que soit la science-fiction qui en a r\u00e9sult\u00e9 (en particulier Vinge (1992) ), il est scandaleux que ce r\u00eave des ann\u00e9es 90 soit toujours vivant et continue de fa\u00e7onner le d\u00e9bat. Pour des raisons sociales et culturelles complexes (Becker, 2025), bon nombre des pr\u00e9curseurs et des bailleurs de fonds de l\u2019IA g\u00e9n\u00e9rative moderne ont adh\u00e9r\u00e9 sans r\u00e9serve \u00e0 cette mythologie et ont b\u00e2ti leurs strat\u00e9gies commerciales et leurs innovations autour d\u2019elle (Hao, 2025). \u00c0 mesure que la pens\u00e9e de la singularit\u00e9 s\u2019est \u00e9chapp\u00e9e de son confinement, elle a aliment\u00e9 les sp\u00e9culations sur de vastes transformations sociales, politiques et \u00e9conomiques. L\u2019IA va-t-elle renforcer le contr\u00f4le mental autoritaire (Harari, 2018) ou refondre la d\u00e9mocratie (Gudi\u00f1o et al.<\/em>, 2024) ? Le n\u00e9olib\u00e9ralisme deviendra-t-il un syst\u00e8me \u00ab machinique \u00bb sauvage, dot\u00e9 de conscience et d\u00e9vorant tout (Land, 2011) ? L\u00e0 encore, il existe d\u2019excellentes \u0153uvres de science-fiction traitant de ces possibilit\u00e9s et d\u2019autres (Banks, 1987 ; Reynolds, 2000 ; Stross, 2005 ; Chiang, 2010 ; McAuley, 2010 ; Valente, 2011 ; Emrys, 2022), mais les romanciers sont (g\u00e9n\u00e9ralement) plus prudents lorsqu\u2019il s\u2019agit d\u2019int\u00e9grer ces complexit\u00e9s, et rares sont ceux qui se posent en proph\u00e8tes, voire en pr\u00e9visionnistes.<\/p>\n\n\n\n Les auteurs d\u2019ouvrages de non-fiction sp\u00e9culative sur l\u2019IAG sont moins retenus, proposant des visions radicales de la fa\u00e7on dont les technologies de l\u2019information transformeront compl\u00e8tement la soci\u00e9t\u00e9, l\u2019\u00e9conomie, la politique, ou les trois \u00e0 la fois. Ils traitent l\u2019IAG moins comme une technologie que comme, selon les termes d\u2019Andreessen (2023) le dit, \u00ab notre alchimie, notre pierre philosophale \u00bb, un alkahest<\/em>1<\/a><\/sup>une hypoth\u00e9tique substance alchimique<\/span> qui dissoudra les scories et les r\u00e9sidus des institutions humaines, ne laissant que le progr\u00e8s pur et non dilu\u00e9. Les pr\u00e9visionnistes d\u00e9crivent r\u00e9guli\u00e8rement les institutions sociales qui tremblent au bord de la transformation d\u2019une mani\u00e8re \u00e0 peine moins stylis\u00e9e, affirmant par exemple que l\u2019IA pourrait nous transporter dans l\u2019utopie de Condorcet d\u2019un nouvel \u00c2ge de la Raison, cette fois , heureusement sans charrettes de prisonniers condamn\u00e9s attendant leur rendez-vous avec la guillotine (Hall, 2026). Il en r\u00e9sulte un genre qui, selon nous, est plus susceptible de semer la confusion chez les personnes intelligentes et de les \u00e9garer que de guider utilement l\u2019action publique.<\/p>\n\n\n\n Toutes ces aspirations et tous ces arguments sont, comme nous l\u2019avons dit, enracin\u00e9s dans des mythes qui sont (au moins) vingt ans plus anciens que la technologie qui semble aujourd\u2019hui les incarner, les grands mod\u00e8les de langage (LLM). C\u2019est parce que les LLM sont pass\u00e9s, en l\u2019espace de quelques ann\u00e9es, du statut d\u2019am\u00e9lioration technique de la traduction automatique (Vaswani et al.<\/em>, 2017) \u00e0 celui de voie royale vers l\u2019IA g\u00e9n\u00e9rale que ces d\u00e9bats rev\u00eatent une r\u00e9elle importance. Les LLM sont des mod\u00e8les statistiques g\u00e9n\u00e9ratifs remarquablement performants du langage humain (y compris le code informatique \u00e9crit par l\u2019homme). Cela leur permet de traiter le langage d\u2019une mani\u00e8re qui ressemble au discours humain et d\u2019\u00eatre bricol\u00e9s pour cr\u00e9er des textes qui se rapprochent vaguement du raisonnement humain. Il s\u2019agit d\u2019une nouvelle r\u00e9alit\u00e9 mat\u00e9rielle, d\u2019une nouvelle force dans le monde<\/strong>, mais dont les implications r\u00e9elles sont obscurcies par le voile mythique<\/strong> dont elle est envelopp\u00e9e.<\/p>\n\n\n\n Si nous ne sommes pas impressionn\u00e9s par les r\u00e9cits de maximisateurs de trombones <\/strong>remodelant la galaxie, de bureaucraties omniscientes g\u00e9n\u00e9rant terreur ou \u00e9merveillement, de march\u00e9s qui prennent soudainement conscience d\u2019eux-m\u00eames, et autres, ce n\u2019est pas parce que nous les trouvons trop \u00e9tranges. C\u2019est plut\u00f4t elles ne sont pas assez \u00e9tranges, et elles ne saisissent pas \u00e0 quel point l\u2019\u00e9trange est d\u00e9j\u00e0 l\u00e0. Les futurs possibles auxquels nous sommes confront\u00e9s sont bien plus chaotiques et vari\u00e9s que les visions aust\u00e8res d\u2019une IGA omnipotente, tout comme l\u2019\u00e9tait notre pass\u00e9 imm\u00e9diat. Ils seront fa\u00e7onn\u00e9s par la collision entre des technologies imparfaites et hautement complexes et des syst\u00e8mes sociaux humains imparfaits et hautement complexes<\/strong> (Matias, 2023 ; Nelson, \u00e0 para\u00eetre). Il est impossible d\u2019en pr\u00e9dire les cons\u00e9quences, mais nous pouvons <\/em>les cartographier, les \u00e9tudier et y r\u00e9fl\u00e9chir au fur et \u00e0 mesure qu\u2019elles se produisent.<\/p>\n\n\n\n De notre point de vue, la Singularit\u00e9 a commenc\u00e9 il y a deux si\u00e8cles avec la R\u00e9volution industrielle<\/strong> (Shalizi, 2010), et elle s\u2019est av\u00e9r\u00e9e bien <\/em>plus chaotique et vari\u00e9e que quiconque aurait pu l\u2019imaginer. Les sciences sociales modernes sont le fruit des chocs consid\u00e9rables qu\u2019elle a entra\u00een\u00e9s par le pass\u00e9 (Tilly, 1984 ; Nelson, \u00e0 para\u00eetre). Elles doivent d\u00e9sormais collaborer avec l\u2019informatique et d\u2019autres disciplines connexes (\u00e9tudes des sciences et des technologies ; communications) pour cartographier ce qu\u2019il convient de consid\u00e9rer comme une nouvelle \u00e9tape de la longue r\u00e9volution industrielle. L\u2019IA pourrait bien <\/em>s\u2019av\u00e9rer tr\u00e8s importante, mais d\u2019une mani\u00e8re bien diff\u00e9rente de ce que sugg\u00e8rent les mythes dont nous avons h\u00e9rit\u00e9.<\/p>\n\n\n\n Nous nous appuyons sur un travail collaboratif en cours (Farrell et al.<\/em>, 2025) avec Alison Gopnik et James Evans, qui soutient qu\u2019il s\u2019agit d\u2019une erreur de cat\u00e9gorie<\/strong> de consid\u00e9rer les \u00ab grands mod\u00e8les \u00bb comme des agents autonomes en devenir<\/strong>. Il vaut mieux les consid\u00e9rer comme des technologies \u00ab culturelles \u00bb (Yiu, Kosoy et Gopnik, 2024) et \u00ab sociales \u00bb, s\u2019apparentant d\u2019une part aux biblioth\u00e8ques et aux langues, et d\u2019autre part aux march\u00e9s et aux bureaucraties. Nous nous concentrons ici sur la mani\u00e8re d\u2019\u00e9tudier les cons\u00e9quences de ces technologies pour la soci\u00e9t\u00e9 humaine, en mettant l\u2019accent sur les aspects sociaux plut\u00f4t que culturels. Nous soulignons en particulier que l\u2019IA est une technologie sociale<\/em>, un moyen syst\u00e9matique de r\u00e9organiser les relations sociales entre les \u00eatres humains (Therborn, 1978). Les technologies sociales ant\u00e9rieures comprennent non seulement d\u2019autres technologies de l\u2019information, mais aussi des institutions de gouvernance telles que les bureaucraties, les march\u00e9s et m\u00eame la d\u00e9mocratie (Farrell, 2025). Nous nous concentrerons sur les LLM plut\u00f4t que sur d\u2019autres syst\u00e8mes d\u2019IA. Cela minimise certains aspects importants de l\u2019IA moderne (par exemple, son utilisation dans des probl\u00e8mes scientifiques simples comme le repliement des prot\u00e9ines), mais aide \u00e0 mettre en \u00e9vidence les liens avec d\u2019autres technologies sociales.<\/p>\n\n\n\n En bref : les LLM cr\u00e9ent des relations sociales entre leurs utilisateurs et les auteurs des textes de leurs corpus d\u2019entra\u00eenement. Avec un acc\u00e8s ad\u00e9quat au mod\u00e8le et au corpus, il est possible de retracer les liens entre les r\u00e9sultats du syst\u00e8me et les textes sources individuels ainsi que leurs auteurs (Grosse et al.<\/em>, 2023). Ces relations sociales sont m\u00e9diatis\u00e9es m\u00e9caniquement, donnant aux utilisateurs l\u2019illusion qu\u2019ils interagissent uniquement avec la machine et non avec un ensemble de personnes. Mais les relations sociales m\u00e9diatis\u00e9es et leurs illusions sont une r\u00e9alit\u00e9 courante de la vie moderne. Les relations sociales cr\u00e9\u00e9es par les LLM recoupent \u00e0 leur tour d\u2019autres relations sociales, y compris celles fa\u00e7onn\u00e9es par d\u2019autres technologies sociales, et interagissent avec elles.<\/p>\n\n\n\n Notre objectif ici est de cr\u00e9er un espace commun o\u00f9 les sciences sociales, l\u2019informatique et l\u2019ing\u00e9nierie puissent discuter des cons\u00e9quences sociales de l\u2019IA<\/strong>. Nous nous inspirons largement des id\u00e9es de Simon (1996), qui consid\u00e9rait l\u2019IA, les sciences politiques, l\u2019administration, l\u2019\u00e9conomie, l\u2019informatique et la psychologie cognitive comme autant de branches des \u00ab\u00a0sciences de l\u2019artificiel \u00bb, \u00e9tudiant comment les \u00eatres humains cr\u00e9ent des \u00ab\u00a0artefacts \u00bb qui mod\u00e9lisent leur environnement et agissent sur celui-ci. Dans cette perspective, les mod\u00e8les d\u2019IA constituent un autre moyen de \u00ab\u00a0traitement de l\u2019information complexe \u00bb (Newell et Simon, 1956). Comme le souligne Simon, ces syst\u00e8mes englobent \u00e0 la fois les technologies de l\u2019information, telles qu\u2019\u00e9tudi\u00e9es et construites par les informaticiens et les ing\u00e9nieurs,\u00a0et\u00a0<\/em>les syst\u00e8mes d\u2019information sociaux tels que les march\u00e9s, la bureaucratie, et, bien que Simon lui-m\u00eame ne le souligne pas, la d\u00e9mocratie (Lindblom, 1965). Tous ces syst\u00e8mes traitent l\u2019information en r\u00e9duisant des r\u00e9alit\u00e9s complexes en des \u00ab grossissements \u00bb ou des abstractions plus maniables qui (esp\u00e9rons-le) capturent les caract\u00e9ristiques importantes des donn\u00e9es. Produire des grossissements n\u2019est pas\u00a0tout\u00a0<\/em>ce que font les institutions sociales \u00e0 grande \u00e9chelle, mais c\u2019est tout \u00e0 fait important. La coordination \u00e9conomique, administrative et politique ne peut tout simplement pas fonctionner \u00e0 grande \u00e9chelle si les relations sociales complexes ne sont pas condens\u00e9es en repr\u00e9sentations visibles et maniables.<\/p>\n\n\n\n Cela ouvre alors une perspective diff\u00e9rente sur la collision entre les nouvelles technologies telles que l\u2019IA et les syst\u00e8mes sociaux existants. Comme le sugg\u00e8re DeDeo (2017), nous devons de toute urgence d\u00e9couvrir comment les nouveaux grossissements de l\u2019IA interagissent avec les abstractions existantes \u00e0 travers lesquelles les humains simplifient un monde intrins\u00e8quement complexe pour le rendre g\u00e9rable. L\u2019IA et les technologies sociales plus anciennes sont, entre autres, des formes de traitement de l\u2019information. Nous devrions examiner comment les premi\u00e8res renforcent, remod\u00e8lent ou remplacent ces derni\u00e8res.<\/p>\n\n\n\n Dans la suite de cet article, nous situons bri\u00e8vement l\u2019IA dans le contexte historique de la longue r\u00e9volution industrielle. Ensuite, nous explorons la relation entre les technologies sociales et les grossissements ou abstractions, en mettant l\u2019accent sur leur caract\u00e8re non sans perte et leurs cons\u00e9quences sur les relations de pouvoir entre diff\u00e9rents groupes sociaux. Cela nous permet \u00e0 la fois de d\u00e9crire les forces et les limites apparentes de l\u2019IA telle qu\u2019elle existe actuellement et de commencer \u00e0 les appliquer \u00e0 l\u2019intersection entre l\u2019IA et la bureaucratie. La bureaucratie est une technologie sociale cruciale et ancienne qui a jou\u00e9 un r\u00f4le central dans les travaux de Simon. Sa relation avec l\u2019IA est d\u2019une actualit\u00e9 br\u00fblante : les affirmations concernant l\u2019IA g\u00e9n\u00e9rale (AGI) ont apparemment \u00e9t\u00e9 l\u2019un des facteurs qui ont influenc\u00e9 les coupes radicales de l\u2019administration Trump dans l\u2019appareil administratif. Nous opposons ces id\u00e9es aux n\u00f4tres afin de mettre en lumi\u00e8re les nombreuses questions et probl\u00e8mes importants qui sont \u00e9lud\u00e9s ou ignor\u00e9s par la sp\u00e9culation aliment\u00e9e par l\u2019AGI. Plut\u00f4t que d\u2019attendre de l\u2019AGI qu\u2019elle r\u00e9solve les probl\u00e8mes p\u00e9rennes de l\u2019organisation sociale humaine, nous devrions consid\u00e9rer l\u2019IA comme une nouvelle technologie sociale qui att\u00e9nuera certains probl\u00e8mes, en exacerbera d\u2019autres et en cr\u00e9era de nouveaux, tout comme d\u2019autres technologies sociales l\u2019ont fait par le pass\u00e9. Cela sugg\u00e8re \u00e0 son tour l\u2019urgence d\u2019une coop\u00e9ration entre les sp\u00e9cialistes des sciences sociales et de l\u2019informatique<\/strong> pour en d\u00e9terminer les cons\u00e9quences sociales, ainsi qu\u2019une coordination sociale et politique plus large, du type de celle qui s\u2019est produite lors des \u00e9tapes pr\u00e9c\u00e9dentes de la longue r\u00e9volution industrielle.<\/p>\n\n\n\n Nous partons d\u2019un point de vue diff\u00e9rent de celui de la plupart des commentaires existants sur la relation entre l\u2019IA et la soci\u00e9t\u00e9. Les chercheurs en \u00e9tudes des sciences et des technologies (STS) s\u2019int\u00e9ressent souvent davantage \u00e0 la mani\u00e8re dont les syst\u00e8mes scientifiques et technologiques refl\u00e8tent des relations de pouvoir sociales et politiques plus larges (ou d\u00e9veloppent les leurs) qu\u2019\u00e0 fournir des microfondements d\u00e9taill\u00e9s en sciences sociales pour \u00e9tayer leurs arguments. En revanche, le \u00ab rationalisme \u00bb qui a domin\u00e9 les d\u00e9bats internes sur l\u2019IA repose enti\u00e8rement sur des microfondements. Il part de l\u2019hypoth\u00e8se que la relation entre les \u00eatres humains et les agents IA peut \u00eatre comprise \u00e0 travers le prisme micro\u00e9conomique de la concurrence strat\u00e9gique entre agents bay\u00e9siens rationnels, et ce n\u2019est que r\u00e9cemment qu\u2019il a commenc\u00e9 \u00e0 r\u00e9fl\u00e9chir de mani\u00e8re syst\u00e9matique \u00e0 la fa\u00e7on dont des ph\u00e9nom\u00e8nes collectifs pourraient \u00e9merger \u00e0 mesure que ces syst\u00e8mes se d\u00e9veloppent (Hammond et al.<\/em>, 2025). Le projet intellectuel d\u2019Herbert Simon se distinguait de ces deux approches. Son travail fournit des microfondements pour une analyse des grandes institutions sociales, qui s\u2019appuie explicitement sur les \u00ab limites \u00bb de la rationalit\u00e9 humaine individuelle (Simon, 1957). Simon sugg\u00e8re que les technologies sociales \u00e0 grande \u00e9chelle \u00e9mergent du besoin qu\u2019ont les \u00eatres humains, dans leurs limites, de mettre en place des arrangements collectifs leur permettant de cartographier et de g\u00e9rer un monde complexe. Le th\u00e8me r\u00e9current chez Simon est le d\u00e9calage entre les environnements complexes que les \u00eatres humains habitent et remod\u00e8lent, et la capacit\u00e9 limit\u00e9e de traitement de l\u2019information dont ils disposent pour les comprendre. Ici, le point de vue de Simon converge en partie avec la conception de la d\u00e9mocratie de Dewey<\/strong> (Farrell et Han, 2025). L\u2019\u00e9conomie n\u00e9oclassique a tendance \u00e0 la fois \u00e0 gommer les complexit\u00e9s de l\u2019environnement et \u00e0 supposer que les individus disposent d\u2019une puissance de calcul illimit\u00e9e pour le mod\u00e9liser et trouver des solutions optimales \u00e0 leurs probl\u00e8mes. Ces hypoth\u00e8ses sont \u00e0 la fois math\u00e9matiquement commodes et hautement irr\u00e9alistes. Du point de vue de Simon, les humains doivent g\u00e9n\u00e9ralement se contenter d\u2019une solution satisfaisante plut\u00f4t que d\u2019une solution optimale \u2014 se contentant de solutions \u00ab suffisamment bonnes \u00bb plut\u00f4t que les meilleures possibles. De simples heuristiques mentales peuvent aider \u00e0 d\u00e9couvrir de telles solutions. Il en va de m\u00eame pour les institutions sociales qui canalisent la production et la collecte de connaissances \u00e0 travers de nombreux esprits individuellement limit\u00e9s, en orientant l\u2019attention et en coordonnant des t\u00e2ches complexes. Bien s\u00fbr, les institutions peuvent g\u00e9n\u00e9rer leurs propres complexit\u00e9s inattendues, qui doivent \u00e0 leur tour \u00eatre g\u00e9r\u00e9es.<\/p>\n\n\n\n Les arguments de Simon peuvent \u00eatre reformul\u00e9s \u00e0 la lumi\u00e8re d\u2019une litt\u00e9rature plus r\u00e9cente en science de la complexit\u00e9 sur les \u00ab\u00a0grossissements\u00a0\u00bb (\u2018coarse-grainings\u2019<\/em>). En gros, un grossissement est une repr\u00e9sentation simplifi\u00e9e d\u2019un ph\u00e9nom\u00e8ne complexe qui cherche \u00e0 en saisir les aspects et les dynamiques cl\u00e9s. Elles sont omnipr\u00e9sentes car aucun mod\u00e8le scientifique, organisme ou artefact ne peut r\u00e9ellement saisir tous les d\u00e9tails de son environnement. Plut\u00f4t que le chaos mol\u00e9culaire rampant de la r\u00e9alit\u00e9 physique, elles traitent toujours d\u2019abstractions, de r\u00e9sum\u00e9s compress\u00e9s et s\u00e9lectifs qui ignorent la plupart des d\u00e9tails. En ce sens, les grossissements de granularit\u00e9 incluent non seulement des mod\u00e8les math\u00e9matiques sophistiqu\u00e9s, des approximations statistiques des \u00e9conomies et des syst\u00e8mes m\u00e9t\u00e9orologiques turbulents, et des \u00ab JPEG flous\u00a0\u00bb du Web (Chiang, 2023) par exemple, mais aussi les repr\u00e9sentations individuelles et collectives que de nombreux animaux sociaux, y compris les \u00eatres humains, utilisent pour suivre les structures et les relations sociales<\/strong>. Les macaques, par exemple, maintiennent un consensus approximatif sur les relations de pouvoir au sein du groupe gr\u00e2ce \u00e0 l\u2019\u00e9change de signaux de subordination, ce qui peut raisonnablement \u00eatre compris comme une g\u00e9n\u00e9ralisation (Flack, 2017). Ce consensus refl\u00e8te grossi\u00e8rement les attentes quant \u00e0 savoir quel macaque est capable de vaincre quels autres lors d\u2019un combat, permettant ainsi \u00ab aux individus de faire des pr\u00e9dictions sans avoir \u00e0 stocker ind\u00e9finiment tous les d\u00e9tails de leurs interactions \u00bb, et guidant par cons\u00e9quent leurs d\u00e9cisions de se battre ou de se soumettre. Les perruches moines ont des repr\u00e9sentations plus grossi\u00e8res de leurs relations avec leurs cong\u00e9n\u00e8res (DeDeo, 2017). Les humains, en revanche, peuvent former des approximations plus sophistiqu\u00e9es, m\u00eame en l\u2019absence d\u2019institutions plus larges, gr\u00e2ce \u00e0 la fois \u00e0 des modules mentaux sp\u00e9cialis\u00e9s (Boyer, 2018) et de conventions sociales telles que les comm\u00e9rages (Origgi, 2017), qui nous permettent de suivre, par exemple, l\u2019\u00e9volution des relations de coalition.<\/p>\n\n\n\n Pourtant, ces repr\u00e9sentations \u00e0 petite \u00e9chelle sont d\u00e9sesp\u00e9r\u00e9ment inad\u00e9quates pour les soci\u00e9t\u00e9s humaines modernes, qui n\u00e9cessitent des technologies sociales et informationnelles impersonnelles capables de r\u00e9sumer les relations sociales \u00e0 tr\u00e8s grande \u00e9chelle. Plut\u00f4t que de suivre quelques individus au sein d\u2019une communaut\u00e9 de chasseurs-cueilleurs tr\u00e8s soud\u00e9e o\u00f9 tout le monde se conna\u00eet bien, ou m\u00eame d\u2019un village ou d\u2019une ville, nous devons g\u00e9rer des interactions pouvant impliquer des millions, voire des milliards, de personnes \u00e0 la fois. La mise en place et l\u2019am\u00e9lioration des moyens d\u2019y parvenir ont n\u00e9cessit\u00e9 le d\u00e9veloppement d\u2019institutions telles que les march\u00e9s, les bureaucraties, et m\u00eame la d\u00e9mocratie<\/strong>, capables de g\u00e9rer des relations<\/strong> relativement impersonnelles \u00e0 grande \u00e9chelle<\/strong>, en utilisant des approximations qui rendent ces relations compr\u00e9hensibles.<\/p>\n\n\n\n Pour comprendre comment l\u2019IA remod\u00e8le la soci\u00e9t\u00e9, nous pouvons donc commencer par la consid\u00e9rer comme une nouvelle technologie sociale, s\u2019appuyant sur des approximations <\/strong>comme toutes les autres, et \u00e9tudier comment elle interagit avec les technologies sociales existantes. Cela permet d\u2019int\u00e9grer les arguments sur l\u2019IA aux d\u00e9bats plus anciens sur la longue r\u00e9volution industrielle. Les historiens de l\u2019\u00e9conomie ont montr\u00e9 comment la transformation des capacit\u00e9s humaines \u00e0 produire \u00e0 grande \u00e9chelle au cours des deux derniers si\u00e8cles a \u00e9t\u00e9 facilit\u00e9e par des \u00ab technologies \u00e0 usage g\u00e9n\u00e9ral \u00bb telles que la vapeur et l\u2019\u00e9lectricit\u00e9. Si de nombreux chercheurs se sont demand\u00e9 si l\u2019IA \u00e9tait elle aussi une technologie \u00e0 usage g\u00e9n\u00e9ral, ils ont accord\u00e9 moins d\u2019attention aux aspects institutionnels de la r\u00e9volution industrielle ; notamment aux transformations profondes de la capacit\u00e9 humaine \u00e0 organiser la vie \u00e9conomique, sociale et de la vie politique<\/em>, qui ont rendu possibles les nouvelles technologies de production.<\/p>\n\n\n\n Comme l\u2019ont constamment soulign\u00e9 les chercheurs en STS (Yates (1993) est particuli\u00e8rement convaincant sur ce point), les innovations bureaucratiques ont permis la cr\u00e9ation de nouvelles structures organisationnelles permettant une coordination \u00e0 grande \u00e9chelle. Des \u00e9conomistes lib\u00e9raux classiques comme Hayek ont explor\u00e9 comment les march\u00e9s \u00e0 grande \u00e9chelle peuvent compenser les \u00ab limites computationnelles des \u00eatres humains \u00bb, Simon (1996, 35) permettant ainsi aux acteurs de prendre des d\u00e9cisions \u00e9conomiques sur la base d\u2019informations locales limit\u00e9es. Des sp\u00e9cialistes des sciences sociales comme Anderson (1991) et Gellner (1983) ont d\u00e9battu de la mani\u00e8re dont le \u00ab capitalisme de l\u2019imprim\u00e9 \u00bb, l\u2019articulation de l\u2019\u00c9tat-nation et les nouvelles formes de scolarisation et de diffusion de l\u2019information ont rendu les publics \u00e0 grande \u00e9chelle (grossi\u00e8rement) lisibles pour eux-m\u00eames ainsi que pour leurs dirigeants, stabilisant potentiellement tant la d\u00e9mocratie que l\u2019autocratie r\u00e9active.<\/p>\n\n\n\n Tous ces syst\u00e8mes g\u00e9n\u00e8rent des simplifications grossi\u00e8res et s\u2019appuient sur celles-ci. Les normes bureaucratiques et les statistiques r\u00e9sument des r\u00e9alit\u00e9s sociales complexes et les rendent lisibles, pour le meilleur et pour le pire (Scott, 1998). Le m\u00e9canisme des prix simplifie radicalement les aspects intangibles de la production \u00e9conomique, permettant aux acteurs du march\u00e9 de consacrer leur attention \u00e0 l\u2019achat et \u00e0 la vente (Hayek, 1945). Les sondages d\u2019opinion, les recensements et d\u2019autres moyens simplifient l\u2019opinion publique et la rendent lisible pour les gens ordinaires et les acteurs politiques habilit\u00e9s \u00e0 agir en leur nom (Perrin et McFarland, 2011), et m\u00eame les \u00c9tats autoritaires s\u2019en sont servis pour cartographier ce que leurs sujets voulaient et pensaient (Dimitrov, 2023).<\/p>\n\n\n\n Cette augmentation consid\u00e9rable de la capacit\u00e9 sociale \u00e0 traiter des informations complexes a permis une cognition et une r\u00e9solution de probl\u00e8mes collectives \u00e0 une \u00e9chelle sans pr\u00e9c\u00e9dent dans l\u2019histoire. Les technologies sociales telles que les march\u00e9s, la bureaucratie et la d\u00e9mocratie<\/strong> permettent aux \u00eatres humains de devenir ce que l\u2019historien de l\u2019\u00e9conomie Brad DeLong (2026) appelle une \u00ab intelligence anthologique \u00bb, capable de d\u00e9ployer de mani\u00e8re coordonn\u00e9e les connaissances culturelles accumul\u00e9es en vue d\u2019objectifs \u00e0 grande \u00e9chelle. Tel est leur aspect positif. Dans leur aspect n\u00e9gatif, ces syst\u00e8mes apparaissent r\u00e9guli\u00e8rement monstrueux aux yeux de ceux qui se retrouvent du mauvais c\u00f4t\u00e9 des rapports de force qu\u2019ils cr\u00e9ent. Les march\u00e9s, les bureaucraties, et m\u00eame les d\u00e9mocraties ont en outre d\u00e9vor\u00e9 des formes d\u2019organisation sociale plus anciennes et plus intimes, les rempla\u00e7ant par de vastes syst\u00e8mes qui sont souvent indiff\u00e9rents, et parfois hostiles, aux destins et aux d\u00e9sirs particuliers des individus et des groupes.<\/p>\n\n\n\n Une perspective ax\u00e9e sur les technologies sociales souligne alors \u00e0 quel point les termes et le langage des d\u00e9bats actuels sur l\u2019IA sont ancr\u00e9s depuis longtemps<\/em>. Les anciens syst\u00e8mes directeurs de la modernit\u00e9 \u2014 tout comme l\u2019IA telle qu\u2019elle existe actuellement \u2014 sont d\u00e9pourvus de tout ce qui peut raisonnablement \u00eatre d\u00e9crit comme de l\u2019intentionnalit\u00e9 (Shalizi, 2010). Cependant, les humains ont r\u00e9guli\u00e8rement trait\u00e9 les bureaucraties, les nations et m\u00eame les march\u00e9s (Spufford, 2017) comme s\u2019il s\u2019agissait d\u2019agents intelligents individuels, qu\u2019ils aient des intentions et des objectifs bienveillants ou hostiles. Les descriptions actuelles de l\u2019IA empruntent r\u00e9guli\u00e8rement des m\u00e9taphores et des id\u00e9es \u00e0 ces d\u00e9bats pass\u00e9s, qu\u2019elles s\u2019inspirent de condamnations racistes-conservatrices de la modernit\u00e9 et de la d\u00e9mocratie (Lovecraft, 2005 ; pour une r\u00e9plique, voir Bear, 2013), de critiques humanistes (Jarrell, 1941) ou d\u2019\u00e9loges anarchistes des modes de vie pass\u00e9s (Scott, 1998).<\/p>\n\n\n\n Plus important encore, cette perspective nous permet de commencer \u00e0 comparer le fonctionnement r\u00e9el des anciennes technologies sociales avec celui des plus r\u00e9centes, et de commencer \u00e0 cartographier ce qui se passe lorsque les deux s\u2019interp\u00e9n\u00e8trent. L\u2019IA n\u2019est pas l\u2019apoth\u00e9ose des dieux robots ni encore de leurs ma\u00eetres humains<\/strong>. C\u2019est une nouvelle machinerie de traitement complexe de l\u2019information, peut-\u00eatre m\u00eame comparable aux march\u00e9s, aux bureaucraties et \u00e0 la d\u00e9mocratie<\/strong>. Son unique astuce consiste \u00e0 prendre d\u2019\u00e9normes masses d\u2019informations num\u00e9ris\u00e9es , qu\u2019elles soient socio-\u00e9conomiques, textuelles, visuelles ou autres, et de g\u00e9n\u00e9rer des abstractions qui cherchent \u00e0 en saisir les principales caract\u00e9ristiques statistiques.<\/strong><\/p>\n\n\n\n Cela vaut pour les diff\u00e9rentes formes d\u2019IA d\u00e9ploy\u00e9es aujourd\u2019hui. Lorsque les plateformes de m\u00e9dias sociaux devinent quelle publication afficher ou quel film recommander, elles font correspondre des \u00ab encastrements \u00bb particularis\u00e9s \u2014 des grossissements d\u2019informations sur les utilisateurs particuliers et l\u2019univers de contenu \u2014 pour arriver \u00e0 leurs pr\u00e9dictions. Les LLM que nous mettons en avant ne sont rien de plus que des grossissements des vastes corpus d\u2019informations textuelles sur lesquels ils ont \u00e9t\u00e9 entra\u00een\u00e9s, post-trait\u00e9s pour para\u00eetre plus naturels dans leurs interactions avec les humains et accomplir des t\u00e2ches plus complexes. Ils ne sont pas non plus moins que cela. Il est \u00e9tonnant que nous disposions d\u00e9sormais de repr\u00e9sentations manipulables de corpus entiers de la culture humaine qui peuvent \u00eatre mises \u00e0 contribution via une interface en langage naturel pour produire de nouveaux r\u00e9sultats. Ces technologies constituent une nouvelle \u00e9tape dans la trajectoire du d\u00e9veloppement institutionnel et organisationnel qui a travers\u00e9 la modernit\u00e9 et la longue r\u00e9volution industrielle, offrant de nouvelles fa\u00e7ons de g\u00e9rer la complexit\u00e9<\/strong> tout en cr\u00e9ant leurs propres complexit\u00e9s.<\/p>\n\n\n\n De toute \u00e9vidence, l\u2019IA n\u2019est pas simplement <\/em>l\u2019une des technologies sociales du pass\u00e9. Nous soulignons la n\u00e9cessit\u00e9 de mieux cartographier ce qui se passe<\/strong> lorsqu\u2019elle entre en collision et s\u2019imbrique avec ses pr\u00e9d\u00e9cesseurs.<\/strong> Une telle cartographie n\u00e9cessite une certaine compr\u00e9hension \u00e0 la fois du fonctionnement de la nouvelle technologie et de ses cons\u00e9quences pour l\u2019organisation sociale.<\/p>\n\n\n\n Certaines caract\u00e9ristiques des IA existantes d\u00e9coulent du fait qu\u2019elles ne sont pas les syst\u00e8mes ordonn\u00e9s de symboles<\/strong>, de r\u00e8gles et d\u2019heuristiques que des pionniers comme Simon avaient pr\u00e9vu de construire. Il s\u2019agit plut\u00f4t de familles de mod\u00e8les statistiques<\/em> d\u00e9sordonn\u00e9s<\/strong>, entra\u00een\u00e9s sur de grands ensembles de donn\u00e9es. Entra\u00eener un mod\u00e8le statistique pour obtenir de bonnes performances en moyenne implique de sacrifier de meilleures performances dans des situations rares au profit de meilleures performances dans des situations courantes. De tels compromis ont des implications f\u00e2cheuses sur la capacit\u00e9 de tous ces mod\u00e8les \u00e0 g\u00e9rer des situations soulev\u00e9es par de petits groupes de personnes, par ceux qui sont moins bien repr\u00e9sent\u00e9s dans les corpus d\u2019entra\u00eenement, ou m\u00eame par tout ce qui est v\u00e9ritablement nouveau. Ces mod\u00e8les peuvent m\u00eame ne donner aucun signe indiquant qu\u2019ils fonctionnent dans de tels r\u00e9gimes (bien qu\u2019il existe un programme de recherche sur la quantification de l\u2019incertitude dans les LLM qui aspire \u00e0 d\u00e9tecter cela).2<\/a><\/sup>Pour une revue pas trop obsol\u00e8te de ce domaine en pleine \u00e9volution, voir Liu et al. 2025. Nous esquissons grossi\u00e8rement une ligne de recherche, pour donner une id\u00e9e. La technique statistique de la \u00ab pr\u00e9diction conforme \u00bb (Vovk et al., 2005) remplace les pr\u00e9dictions d\u00e9finitives ou \u00ab ponctuelles \u00bb par l\u2019ensemble des pr\u00e9dictions possibles qui \u00ab se conforment \u00bb aux mod\u00e8les \u00e9tablis par les points de donn\u00e9es pr\u00e9c\u00e9dents, c\u2019est-\u00e0-dire toutes les pr\u00e9dictions qui ne seraient pas des valeurs aberrantes \u00e0 faible probabilit\u00e9. L\u2019\u00e9tendue des pr\u00e9dictions \u00ab conformes \u00bb indique alors l\u2019incertitude du mod\u00e8le, allant de la quasi-certitude d\u2019une fourchette \u00e9troite autour d\u2019un point particulier au \u00ab tout est possible \u00bb d\u2019intervalles tr\u00e8s larges. Les applications de ces id\u00e9es aux LLM (par exemple, Lin et al. 2024 ; Quach et al. 2024 ; Mohri et Hashimoto, 2024 ; Cherian et al. 2024), bien que parfois motiv\u00e9es par la suppression des hallucinations et l\u2019am\u00e9lioration de la \u00ab factualit\u00e9 \u00bb, constituent en r\u00e9alit\u00e9 des moyens d\u2019\u00e9valuer l\u2019incertitude de la sortie du mod\u00e8le dans diff\u00e9rentes situations.<\/span><\/p>\n\n\n\n Les LLM, et la plupart des autres syst\u00e8mes d\u2019IA modernes, constituent en fait un type <\/em>particulier de mod\u00e8le statistique : ils utilisent des \u00ab r\u00e9seaux neuronaux profonds \u00bb (LeCun et al.<\/em>, 2015) \u2014 c\u2019est-\u00e0-dire une approximation fonctionnelle it\u00e9rative en plusieurs \u00e9tapes \u2014 pour classer, pr\u00e9dire et g\u00e9n\u00e9rer. L\u2019entra\u00eenement et l\u2019ex\u00e9cution de r\u00e9seaux neuronaux profonds constituent un exercice colossal d\u2019alg\u00e8bre matricielle, n\u00e9cessitant un mat\u00e9riel sp\u00e9cialis\u00e9. Plus proche de notre th\u00e8me, les r\u00e9seaux neuronaux ne se contentent pas de produire des approximations grossi\u00e8res comme r\u00e9sultats, mais les utilisent en interne. L\u2019architecture \u00ab transformateur \u00bb qui sous-tend les LLM illustre ces difficult\u00e9s. \u00c0 l\u2019instar d\u2019autres r\u00e9seaux neuronaux profonds, un transformateur comporte des couches d\u2019unit\u00e9s (\u00ab neurones \u00bb) qui forment des repr\u00e9sentations de plus en plus complexes d\u2019aspects particuliers des donn\u00e9es qui leur sont transmises du d\u00e9but \u00e0 la fin. Les informations les concernant sont ensuite propag\u00e9es en retour \u00e0 travers les couches afin de r\u00e9duire les erreurs et de rapprocher les pr\u00e9dictions d\u2019un optimum approximatif. Apr\u00e8s des co\u00fbts consid\u00e9rables (pour les mod\u00e8les v\u00e9ritablement volumineux), le transformateur produit un mod\u00e8le autonome des sch\u00e9mas statistiques dans des s\u00e9quences de tokens textuels qui peut, apr\u00e8s ajustement et peaufinage, \u00eatre d\u00e9ploy\u00e9 de nombreuses fa\u00e7ons.<\/p>\n\n\n\n Bien qu\u2019il n\u2019y ait aucun myst\u00e8re quant aux math\u00e9matiques ou \u00e0 leur mise en \u0153uvre in silico<\/em>, de nombreux d\u00e9tails sur le fonctionnement des LLM restent opaques. La nature des grossissements de granularit\u00e9 que le transformateur utilise en interne pour saisir les relations statistiques est souvent obscure. Encore une fois, il existe une industrie artisanale d\u00e9di\u00e9e \u00e0 l\u2019\u00ab interpr\u00e9tabilit\u00e9 \u00bb, visant \u00e0 cartographier ces relations, mais elle est confront\u00e9e \u00e0 de s\u00e9rieux d\u00e9fis. Certains regroupements internes peuvent \u00eatre orthogonaux \u00e0 tout concept humain3<\/a><\/sup>Deux choses orthogonales n’ont aucune influence l’une sur l’autre-GB<\/span>. D\u2019autres peuvent \u00eatre identifi\u00e9s de mani\u00e8re g\u00e9n\u00e9rale (par exemple, cette unit\u00e9, ou ce mod\u00e8le d\u2019unit\u00e9s, peut \u00eatre associ\u00e9 \u00e0 cet aspect nommable des donn\u00e9es), mais sans comprendre exactement ce qui se passe. (La question de savoir si toute autre architecture de mod\u00e8le aussi performante serait tout aussi incompr\u00e9hensible est un sujet de recherche future.) D\u2019une mani\u00e8re g\u00e9n\u00e9rale, faire fonctionner correctement ces mod\u00e8les s\u2019apparente davantage aux myst\u00e8res de l\u2019\u00ab alchimie \u00bb qu\u2019\u00e0 une technique scientifique reproductible (Rahimi et Recht, 2017).<\/p>\n\n\n\n Enfin, il existe des diff\u00e9rences importantes dans les relations de r\u00e9troaction entre les diverses formes d\u2019IA et les ph\u00e9nom\u00e8nes sociaux<\/strong>, \u00e9conomiques et politiques qu\u2019elles cherchent \u00e0 mod\u00e9liser. Les LLM de pointe sont extr\u00eamement co\u00fbteux \u00e0 entra\u00eener et ne sont donc mis \u00e0 jour qu\u2019\u00e0 de longs intervalles. Les mod\u00e8les utilis\u00e9s pour la publicit\u00e9 et l\u2019appariement sur les m\u00e9dias sociaux sont beaucoup moins co\u00fbteux et peuvent donc \u00eatre modifi\u00e9s beaucoup plus rapidement. Ces diff\u00e9rences affectent, par exemple, les \u00e9chelles de temps et, par cons\u00e9quent, les relations de r\u00e9troaction entre ces diverses et les syst\u00e8mes sociaux qu\u2019ils cherchent \u00e0 repr\u00e9senter (Flack, 2017). Ces relations de r\u00e9troaction peuvent bien s\u00fbr \u00e9galement r\u00e9agir \u00e0 d\u2019autres changements, y compris des ajustements techniques (par exemple, les invites cach\u00e9es aux LLM peuvent \u00eatre rapidement mises \u00e0 jour) et les changements dans l\u2019\u00e9conomie politique sous-jacente. Des changements technologiques plus g\u00e9n\u00e9raux peuvent bien s\u00fbr avoir des cons\u00e9quences \u00e9galement, \u00e0 mesure que de nouveaux outils sont d\u00e9velopp\u00e9s et que les anciens sont am\u00e9lior\u00e9s. Par exemple, un avenir proche dans lequel de petits mod\u00e8les linguistiques peu co\u00fbteux<\/strong> pourraient accomplir une grande partie du travail des grands mod\u00e8les favorisera une \u00e9conomie politique moins centralis\u00e9e<\/strong> que si les grands mod\u00e8les conservaient un avantage d\u00e9cisif.<\/p>\n\n\n\n Chacun de ces aspects de l\u2019IA moderne n\u00e9cessite son propre programme de recherche. Se pencher sur les aspects des technologies, plut\u00f4t que de se contenter de descriptions stylis\u00e9es, rend difficile de r\u00e9fl\u00e9chir clairement <\/em>\u00e0 leurs cons\u00e9quences imm\u00e9diates, sans parler de formuler des pr\u00e9dictions fiables sur l\u2019avenir. Que ce soit difficile ou non, nous devons r\u00e9fl\u00e9chir clairement, car ces grossissements et la dynamique de r\u00e9troaction qui les entoure sont en train de remodeler la soci\u00e9t\u00e9<\/strong>. Comme l\u2019\u00e9crivait avec prescience DeDeo (2017, 8) en 2017 :<\/p>\n\n\n\n Le succ\u00e8s r\u00e9cent de l\u2019apprentissage profond tient en partie \u00e0 sa capacit\u00e9 d\u2019adapter, simultan\u00e9ment, sa m\u00e9thode de grossissement et sa th\u00e9orie de la logique de ces variables grossies. Une fois que l\u2019on r\u00e9alise que les pr\u00e9dicteurs assist\u00e9s par machine d\u2019un syst\u00e8me sont \u00e9galement des participants, il est naturel de se demander comment leur utilisation de ces connaissances, exactes ou non, se r\u00e9percute sur la soci\u00e9t\u00e9 elle-m\u00eame\u2026 Nous comprenons tr\u00e8s peu comment l\u2019introduction de ces algorithmes de pr\u00e9diction, \u00e0 grande \u00e9chelle, conduira \u00e0 de nouvelles r\u00e9troactions qui affecteront nos mondes politiques et sociaux ; cela reste un sujet peu \u00e9tudi\u00e9 et enti\u00e8rement ouvert.<\/p>\n<\/blockquote>\n\n\n\n Pr\u00e8s d\u2019une d\u00e9cennie plus tard, le sujet est toujours d\u2019actualit\u00e9. Alors, par o\u00f9 commen\u00e7ons-nous donc ? Nous sugg\u00e9rons de mettre l\u2019accent sur deux dimensions<\/strong> importantes de la comparaison et de l\u2019interaction : la perte d\u2019information<\/strong> et le pouvoir<\/strong>. Les grossissements sont, par d\u00e9finition, source de perte d\u2019information, ce qui soul\u00e8ve la question de savoir exactement quelles <\/em>informations sont \u00e9cart\u00e9es<\/strong> et lesquelles sont conserv\u00e9es. Les grossissements s\u2019inscrivent aussi r\u00e9guli\u00e8rement dans des relations de pouvoir, car les abstractions peuvent cr\u00e9er des gagnants et des perdants<\/strong> dans de nombreux conflits sociaux. Ces deux aspects s\u2019influencent souvent mutuellement : diff\u00e9rentes simplifications avantageront diff\u00e9rents groupes.<\/p>\n\n\n\n Les grossissements de grain \u00e9cartent n\u00e9cessairement des informations pour cr\u00e9er des abstractions manipulables mais avec perte. Comme le dit Maxim Raginsky (2025), \u00ab l\u2019abstraction cache une grande partie de la complexit\u00e9, et c\u2019est \u00e0 la fois sa principale vertu et son principal danger. \u00bb Les protocoles qui permettent \u00e0 Internet de fonctionner \u00e0 grande \u00e9chelle masquent une grande h\u00e9t\u00e9rog\u00e9n\u00e9it\u00e9, l\u2019exposant \u00e0 des perturbations et \u00e0 des modes de d\u00e9faillance inattendus. Il en va de m\u00eame pour les statistiques simplificatrices \u00e0 travers lesquelles les banquiers centraux per\u00e7oivent l\u2019\u00e9conomie (Davies, 2025), r\u00e9duisant la complexit\u00e9 de vastes syst\u00e8mes \u00e9conomiques \u00e0 un petit nombre de variables cibles telles que l\u2019inflation, qui peuvent \u00eatre surveill\u00e9es \u00e0 la recherche de signes d\u2019instabilit\u00e9, ainsi que des cat\u00e9gories (telles que les classifications de recensement) \u00e0 travers lesquelles les bureaucrates per\u00e7oivent les soci\u00e9t\u00e9s qu\u2019ils cherchent \u00e0 ordonner (Scott, 1998). Toutes ignorent certains aspects du syst\u00e8me afin de concentrer l\u2019attention sur d\u2019autres. Des \u00e9tudes math\u00e9matiques sur l’agrandissement d’\u00e9chelle montrent que les aspects refoul\u00e9s du processus r\u00e9apparaissent au mieux <\/em>sous forme de bruit statistique (Chorin et al.<\/em>, 2000 ; Crutchfield et Feldman, 2003), voire d\u2019erreurs syst\u00e9matiques<\/em>. Les grossissements de l\u2019IA impliqueront des compromis attentionnels diff\u00e9rents de ceux des technologies sociales pr\u00e9c\u00e9dentes, mais elles comporteront <\/em>n\u00e9anmoins des compromis.<\/p>\n\n\n\n Ces angles morts sont une caract\u00e9ristique in\u00e9vitable de toutes les abstractions, et peuvent m\u00eame s\u2019av\u00e9rer utiles (Naidu, 2020). De m\u00eame, les technologies sociales ne se contentent pas de cr\u00e9er des angles morts, mais g\u00e9n\u00e8rent des effets de r\u00e9troaction entre les grossissements avec perte et la dynamique du processus qu\u2019elles cherchent \u00e0 mod\u00e9liser et peut-\u00eatre \u00e0 r\u00e9gir. La logique identifi\u00e9e par Scott (1998), selon laquelle les simplifications bureaucratiques peuvent remodeler l\u2019organisation sociale \u00e0 leur image ou susciter une r\u00e9action de rejet (Scott, 1985), caract\u00e9rise aussi, dans une large mesure, les repr\u00e9sentations simplifi\u00e9es du \u00ab modernisme high-tech \u00bb (Farrell et Fourcade, 2023). Au lieu de cat\u00e9gories de recensement, les entreprises de plateformes utilisent des \u00ab embeddings \u00bb g\u00e9n\u00e9r\u00e9s par l\u2019apprentissage automatique qui refl\u00e8tent leurs meilleures suppositions quant aux vid\u00e9os que nous pourrions vouloir voir ensuite, remodelant peut-\u00eatre progressivement la perception que nous avons de nous-m\u00eames (Fourcade et Healy, 2025).<\/p>\n\n\n\n Comme les regroupements grossiers socialement pertinents cr\u00e9ent r\u00e9guli\u00e8rement des gagnants et des perdants (Jacobs et Wallach, 2021 ; Jacobs, 2021), ils peuvent eux-m\u00eames devenir l\u2019objet de vives controverses. Les technologies sociales telles que les normes bureaucratiques et les cat\u00e9gories de march\u00e9 all\u00e8gent le fardeau d\u2019une complexit\u00e9 ing\u00e9rable en cr\u00e9ant des r\u00e9sum\u00e9s ou en concentrant l\u2019attention sur certains \u00ab aspects de la situation \u00bb (Simon, 1997, 101) plut\u00f4t que sur d\u2019autres, influen\u00e7ant ainsi qui obtient quoi. Cronon (1991) fournit un bel exemple de la fa\u00e7on dont le grossissement a conduit \u00e0 des luttes autour de r\u00e9els<\/em><\/em> grains en gros <\/em>dans le Chicago du XIXe si\u00e8cle. La cr\u00e9ation de march\u00e9s nationaux des c\u00e9r\u00e9ales exigeait de d\u00e9finir et d\u2019\u00e9valuer diff\u00e9rentes grandes cat\u00e9gories de c\u00e9r\u00e9ales, afin que les acheteurs puissent distinguer les bonnes c\u00e9r\u00e9ales des m\u00e9diocres ou des mauvaises sans avoir \u00e0 les inspecter eux-m\u00eames. Cela a facilit\u00e9 le commerce ; \u00ab tous les membres honn\u00eates ont b\u00e9n\u00e9fici\u00e9 du fait de savoir exactement ce qu\u2019ils achetaient et vendaient \u00bb (119), mais ce syst\u00e8me de classification r\u00e9ducteur a favoris\u00e9 les propri\u00e9taires de silos qui achetaient le grain, leur permettant de \u00ab m\u00e9langer les cat\u00e9gories \u00bb, au d\u00e9triment des agriculteurs aupr\u00e8s desquels ils s\u2019approvisionnaient (134), par exemple en combinant juste assez de grain de haute qualit\u00e9 avec des produits de qualit\u00e9 inf\u00e9rieure pour que le m\u00e9lange final soit class\u00e9 dans une cat\u00e9gorie plus lucrative. Ces cat\u00e9gories rudimentaires ont suscit\u00e9 une agitation consid\u00e9rable parmi les agriculteurs, qui avaient le sentiment d\u2019\u00eatre vol\u00e9s mais avaient du mal \u00e0 se mobiliser contre un syst\u00e8me d\u2019apparence technique qui \u00e9tait truqu\u00e9 d\u2019une mani\u00e8re difficile \u00e0 expliquer.<\/p>\n\n\n\n Nous pouvons commencer \u00e0 comparer diverses formes d\u2019IA aux technologies sociales existantes (et entre elles) en examinant les fa\u00e7ons sp\u00e9cifiques dont elles sont sujettes \u00e0 des pertes et affectent les relations de pouvoir. Cela nous aide \u00e9galement \u00e0 commencer \u00e0 comprendre comment les technologies sociales nouvelles et anciennes s\u2019influenceront mutuellement<\/strong> \u00e0 mesure qu\u2019elles s\u2019entrem\u00ealent . Une v\u00e9ritable compr\u00e9hension exigera de r\u00e9els efforts de recherche interdisciplinaires<\/strong> entre des domaines qui communiquent bien moins qu\u2019ils ne le devraient, tels que l\u2019informatique, les sciences politiques, la th\u00e9orie politique, l\u2019administration publique, la sociologie, le droit, les communications et les \u00e9tudes sur la science et la technologie. En attendant, nous pouvons au moins commencer \u00e0 discuter de ce que pourraient \u00e9tudier de tels efforts.<\/p>\n\n\n\n Un sujet urgent est la relation entre l\u2019IA et la bureaucratie, o\u00f9 un d\u00e9bat existe d\u00e9j\u00e0 \u2014 dont une partie repose sur les mythes avec lesquels nous avons commenc\u00e9.4<\/a><\/sup>Mais seulement une partie. Il existe une litt\u00e9rature \u00e9mergente plus vaste sur l\u2019IA et la bureaucratie (p. ex. Caplan et boyd 2018, Fourcade et Gordon 2020, Burrell et Fourcade 2021, Cu\u00e9llar et Huq 2022) que nous ne tenterons pas de r\u00e9sumer, nous concentrant plut\u00f4t sur une argumentation plus restreinte.<\/span> Bien que la hi\u00e9rarchie bureaucratique soit largement d\u00e9cri\u00e9e pour ses inefficacit\u00e9s, elle constitue un pilier essentiel de la civilisation humaine \u00e0 grande \u00e9chelle. L\u2019hostilit\u00e9 envers la bureaucratie<\/strong> pr\u00e9pare le public \u00e0 des r\u00e9cits selon lesquels une IA d\u2019une efficacit\u00e9 surnaturelle<\/strong> balayera bient\u00f4t les imperfections de l\u2019administration humaine, les rempla\u00e7ant par des algorithmes. De telles id\u00e9es refl\u00e8tent le m\u00e9pris que certaines \u00e9lites de la Silicon Valley \u00e9prouvent pour le jugement et l\u2019expertise humains, et ont fourni un v\u00e9ritable soutien intellectuel au programme de l\u2019administration Trump visant \u00e0 d\u00e9manteler les racines de l\u2019\u00c9tat administratif. Elles constituent \u00e9galement de mauvais points de d\u00e9part, m\u00eame en dehors de leurs utilisations politiques. Au lieu de cr\u00e9er des mythes sur ce qu\u2019une future technologie stylis\u00e9e pourrait faire \u00e0 des bureaucraties st\u00e9r\u00e9otyp\u00e9es, nous devrions nous demander comment les technologies sociales nouvelles et in\u00e9vitablement <\/em>chaotiques telles que l\u2019IA combinent perte d\u2019information et relations de pouvoir de mani\u00e8re diff\u00e9rente des technologies sociales plus anciennes et in\u00e9vitablement chaotiques telles que la bureaucratie, et ce qui se passe lorsque ces deux technologies s\u2019entrem\u00ealent.<\/p>\n\n\n\n Les discours centr\u00e9s sur l\u2019IA g\u00e9n\u00e9rale (AGI) d\u00e9crivent la bureaucratie comme une coordination centralis\u00e9e, le probl\u00e8me principal \u00e9tant l\u2019incapacit\u00e9 des \u00e9chelons inf\u00e9rieurs \u00e0 mettre en \u0153uvre les priorit\u00e9s de la hi\u00e9rarchie<\/strong>. Les directives des dirigeants sont d\u00e9form\u00e9es ou perdues \u00e0 mesure qu\u2019elles traversent les \u00e9chelons de l\u2019administration. L\u2019IA g\u00e9n\u00e9rale appara\u00eet alors comme une solution globale, rempla\u00e7ant les bureaucrates humains imparfaits par des agents ou des interfaces d\u2019IA efficaces qui feront exactement ce qu\u2019on leur demande. Ces discours sugg\u00e8rent que l\u2019IA g\u00e9n\u00e9rale remplacera la distorsion bureaucratique par une prise de d\u00e9cision et une mise en \u0153uvre algorithmiques (relativement) sans perte et efficaces. Cela renforcera le pouvoir de ceux qui sont au sommet<\/strong>, dont les d\u00e9cisions seront enfin ex\u00e9cut\u00e9es exactement comme ils le souhaitent.<\/p>\n\n\n\n Ces r\u00e9cits permettent de comprendre facilement l\u2019attrait de l\u2019IA pour les dirigeants autocratiques, par exemple. Les syst\u00e8mes d\u2019IA semblent plus efficaces, et <\/em>plus dignes de confiance que les bureaucrates humains. Certains ont d\u2019ailleurs affirm\u00e9 (Harari, 2018) que l\u2019IA renforce les dictatures et sape la d\u00e9mocratie en facilitant la manipulation \u00e0 grande \u00e9chelle. Des arguments sp\u00e9culatifs sur l\u2019AGI ont contribu\u00e9 \u00e0 inspirer le projet DOGE d\u2019Elon Musk, qui visait \u00e0 d\u00e9manteler de vastes pans de l\u2019appareil administratif am\u00e9ricain. Une grande partie du travail et des aspirations de DOGE impliquait l\u2019application de mod\u00e8les de langage (LLM) et d\u2019\u00ab agents \u00bb d\u2019IA pour accomplir une vari\u00e9t\u00e9 de t\u00e2ches ouvertes (Gilbert et Elliott, 2025 ; Haskins et Elliott, 2025), souvent de mani\u00e8re tr\u00e8s m\u00e9diocre. Peu apr\u00e8s l\u2019\u00e9lection de Trump pour un deuxi\u00e8me mandat, l\u2019un d\u2019entre nous a demand\u00e9 \u00e0 une personne proche de DOGE si le licenciement d\u2019une multitude d\u2019employ\u00e9s experts poserait un probl\u00e8me pour la s\u00e9curit\u00e9 nationale des \u00c9tats-Unis. La r\u00e9ponse a \u00e9t\u00e9 que ce n\u2019\u00e9tait pas un probl\u00e8me, puisque l\u2019AGI verrait le jour en 2026. Le gouvernement devrait de toute fa\u00e7on supprimer la plupart de ces postes \u00e0 ce moment-l\u00e0.<\/p>\n\n\n\n Bullock et al. <\/em>(2025) pr\u00e9sentent une version moins id\u00e9ologique de l\u2019argument selon lequel l\u2019AGI transformera la bureaucratie de ces fa\u00e7ons. Elle s\u2019appuie elle aussi explicitement sur les arguments de Simon, mais affirme que l\u2019AGI r\u00e9soudra <\/em>en grande partie les probl\u00e8mes de capacit\u00e9 humaine limit\u00e9e identifi\u00e9s par Simon.<\/p>\n\n\n\n Les auteurs affirment que nous sommes \u00e0 l\u2019aube d\u2019une AGI qui \u00e9galera ou d\u00e9passera la prise de d\u00e9cision humaine dans tous les domaines<\/strong>, permettant le remplacement des \u00eatres humains par des syst\u00e8mes d\u2019IA qui renforcent le pouvoir hi\u00e9rarchique<\/strong>. Plus pr\u00e9cis\u00e9ment, ils affirment que les pr\u00e9occupations de Simon pourraient \u00eatre r\u00e9solues par la construction d\u2019un \u00ab syst\u00e8me AGI unique et vaste, similaire aux syst\u00e8mes multi-modaux g\u00e9n\u00e9raux , dans lequel une interface unique pourrait \u00eatre d\u00e9ploy\u00e9e pour accomplir de mani\u00e8re efficace, efficiente et impartiale toutes les t\u00e2ches requises \u00bb (25). Une approche plus weberienne<\/strong> du probl\u00e8me pourrait, comme alternative, charger des agents IAG<\/strong> individuels d\u2019utiliser \u00ab des facteurs objectifs clairement identifiables, la logique et un raisonnement impartial fond\u00e9 sur des statistiques<\/strong> pour peser soigneusement les compromis<\/strong> entre les choix possibles \u00bb (25) .<\/p>\n\n\n\n La premi\u00e8re option permettrait de d\u00e9bloquer les goulots d\u2019\u00e9tranglement de l\u2019attention bureaucratique gr\u00e2ce \u00e0 des sous-syst\u00e8mes capables de mettre en \u0153uvre une r\u00e9solution parall\u00e8le des probl\u00e8mes qui \u00ab modifierait dynamiquement le flux d\u2019informations et de d\u00e9cisions n\u00e9cessaires pour accomplir chaque t\u00e2che de la mani\u00e8re la plus efficace, et \u00e0 une vitesse surhumaine \u00bb et serait \u00ab d\u00e9ployable pour effectuer n\u2019importe quel ensemble arbitraire de t\u00e2ches \u00bb, tandis que la seconde remplacerait les probl\u00e8mes des \u00ab bureaucraties domin\u00e9es par l\u2019humain\u2026 jonch\u00e9es de subjectivit\u00e9 et de prises de d\u00e9cision centr\u00e9es sur les \u00e9motions \u00bb, par \u00ab un haut niveau de pr\u00e9visibilit\u00e9 dans des situations pr\u00e9sentant des contextes similaires, conduisant \u00e0 des am\u00e9liorations globales de la pr\u00e9visibilit\u00e9 de la prise de d\u00e9cision bureaucratique \u00bb (25). Les auteurs admettent qu\u2019une telle augmentation de l\u2019efficacit\u00e9 aurait un co\u00fbt. Un \u00c9tat dot\u00e9 d\u2019IA pourrait \u00eatre associ\u00e9 \u00e0 une opacit\u00e9 accrue,<\/strong> \u00e0 un d\u00e9calage par rapport aux objectifs sociaux plus larges et \u00e0 une r\u00e9duction des perspectives de libert\u00e9 individuelle<\/strong>.<\/p>\n\n\n\n De telles id\u00e9es ont fourni une justification intellectuelle \u00e0 ce que l\u2019un des auteurs de l\u2019article d\u00e9crit avec enthousiasme ailleurs (Hammond, 2025) : permettre au \u00ab logiciel de d\u00e9vorer l\u2019\u00c9tat \u00bb<\/strong> tout en favorisant l\u2019\u00ab afflux [de] formes privatis\u00e9es de gouvernance<\/strong> \u00bb. Comme l\u2019a fait valoir le principal r\u00e9dacteur du Plan d\u2019action sur l\u2019IA de l\u2019administration Trump peu avant de prendre ses fonctions \u00e0 la Maison-Blanche (Ball, 2025) :<\/p>\n\n\n\n Aujourd\u2019hui, lorsqu\u2019un PDG d\u2019une entreprise souhaite apporter une modification \u00e0 un processus op\u00e9rationnel, il transmet cet ordre \u00e0 travers les \u00e9chelons hi\u00e9rarchiques, et \u00e0 chaque \u00e9tape, le message perd un peu de sa fid\u00e9lit\u00e9\u2026 [D\u00e9sormais], les PDG et les dirigeants pourront dire \u00ab sautez \u00bb, et \u00e0 l\u2019unisson, des dizaines, des centaines, des milliers, voire des millions d\u2019agents r\u00e9pondront \u00ab \u00e0 quelle hauteur ? \u00bb Je note avec int\u00e9r\u00eat que cette technologie est en cours de d\u00e9veloppement au moment m\u00eame o\u00f9 le Parti r\u00e9publicain, et Donald Trump en particulier, cherchent \u00e0 promouvoir les th\u00e9ories d\u2019un \u00ab ex\u00e9cutif unitaire \u00bb \u2014 l\u2019id\u00e9e que le pr\u00e9sident exerce de mani\u00e8re absolue les pouvoirs qui lui sont conf\u00e9r\u00e9s par la Constitution et par le Congr\u00e8s. D\u2019ici la fin du mandat du pr\u00e9sident Trump, cela pourrait \u00eatre plus possible que quiconque ne l\u2019aurait jamais imagin\u00e9.<\/p>\n<\/blockquote>\n\n\n\n Bien que les opinions politiques de Ball soient plus complexes que cela ne le laisse entendre (Klein, 2026), il continuerait (Bronzini-Vender, 2026) \u00e0 soutenir que l\u2019IA :<\/p>\n\n\n\n pourrait remplacer la Cour supr\u00eame, puis le gouvernement am\u00e9ricain lui-m\u00eame. L\u2019IA, a d\u00e9clar\u00e9 [Ball], \u00e9tait \u00ab cette gigantesque cuve d\u2019acide \u00bb dissolvant les institutions de m\u00e9diation de la soci\u00e9t\u00e9. \u00ab Les institutions futures seront machiniques \u00bb, a-t-il d\u00e9clar\u00e9. \u00ab Ce ne sera pas l\u2019IA au sein du gouvernement. Ce sera l\u2019IA en tant que gouvernements. \u00bb<\/p>\n<\/blockquote>\n\n\n\n Nous ne pouvons certainement pas attribuer uniquement <\/em>aux sp\u00e9culations sur l\u2019AGI le ph\u00e9nom\u00e8ne du DOGEmaxing<\/em> et le d\u00e9mant\u00e8lement de la bureaucratie f\u00e9d\u00e9rale par l\u2019administration Trump ; les causes sont nombreuses et se recoupent. Cependant, si l\u2019on consid\u00e8re que le devoir d\u2019une bureaucratie est de mettre en \u0153uvre le programme du dirigeant, et que l\u2019AGI est proche, il n\u2019est pas difficile de conclure que cette derni\u00e8re offre un moyen providentiel d\u2019accomplir la premi\u00e8re. Apr\u00e8s tout, de nombreuses autres innovations de la Silicon Valley ont remplac\u00e9 des syst\u00e8mes sociaux pr\u00e9tendument d\u00e9sordonn\u00e9s et inefficaces (allant des taxis r\u00e9glement\u00e9s aux relations de travail des employ\u00e9s subalternes d\u2019Amazon, en passant par les forums g\u00e9n\u00e9raux de d\u00e9bat public) par l\u2019optimisation d\u2019une fonction qui pond\u00e8re les buts et objectifs du dirigeant, et par des boucles de r\u00e9troaction algorithmiques qui la mettent en \u0153uvre.<\/p>\n\n\n\n Comme le dit Narayanan (2026), en discutant de l\u2019application d\u2019id\u00e9es \u00e9troitement li\u00e9es \u00e0 des fins radicalement diff\u00e9rentes, \u00ab presque tout dans ce mod\u00e8le mental na\u00eff est faux \u00bb. La bureaucratie implique bien plus que la mise en \u0153uvre automatisable d\u2019un programme tout pr\u00eat, et ni les mod\u00e8les de pointe ni leurs descendants dans un avenir proche ne seront syst\u00e9matiquement plus aptes \u00e0 effectuer de mani\u00e8re fiable des compromis bureaucratiques que les processus humains collectifs. Cela s\u2019explique en partie par des probl\u00e8mes li\u00e9s aux mesures.<\/strong> L\u2019optimisation n\u00e9cessite des indicateurs quantifi\u00e9s, qui peuvent \u00eatre mal adapt\u00e9s aux concepts sous-jacents et aux objectifs r\u00e9els. Nguyen (2024) pr\u00e9sente l\u2019exemple de chercheurs de Netflix qui tentent d\u2019entra\u00eener des syst\u00e8mes g\u00e9n\u00e9ratifs \u00e0 produire du \u00ab bon art \u00bb en optimisant le nombre d\u2019heures d\u2019engagement. Il pourrait en fait \u00eatre plus difficile d\u2019\u00ab optimiser la bureaucratie en fonction des objectifs finaux de Trump \u00bb, compte tenu de leur nature chaotique et changeante, que de l\u2019optimiser pour produire du bon art. Il existe \u00e9galement des limites propres \u00e0 l\u2019IA<\/strong> moderne. Les LLM au c\u0153ur des mod\u00e8les multimodaux ne sont, en r\u00e9alit\u00e9, pas des optimiseurs. (Leurs param\u00e8tres sont ajust\u00e9s par des optimiseurs pendant l\u2019entra\u00eenement, mais c\u2019est une autre histoire). Ils ont de plus en plus tendance \u00e0 devenir de v\u00e9ritables \u00ab g\u00e2chis \u00bb \u00e0 mesure qu\u2019ils continuent d\u2019essayer de raisonner<\/strong>, d\u2019une mani\u00e8re qui ne peut pas \u00eatre facilement r\u00e9solue par la mise \u00e0 l\u2019\u00e9chelle (H\u00e4gele et al.<\/em>, 2026).<\/p>\n\n\n\n Cependant, les objections les plus fondamentales \u00e0 cette vision d\u00e9coulent de la nature m\u00eame de l\u2019optimisation<\/strong>. Contrairement au discours sur le fait de \u00ab\u00a0peser soigneusement les compromis \u00bb, l\u2019optimisation ne fournit tout simplement aucun moyen objectif de peser les types de choix entre des \u00e9l\u00e9ments non commensurables qui sont essentiels au processus bureaucratique<\/strong>. Simon, Smithburg et Thompson (1958, 74) examinent comment la Work Projects Administration et le War Production Board ont d\u00fb choisir des politiques entre des objectifs tr\u00e8s divergents au cours de la premi\u00e8re moiti\u00e9 du XXe si\u00e8cle ; \u00ab amor\u00e7age de l\u2019\u00e9conomie \u00bb par opposition \u00e0 l\u2019aide imm\u00e9diate aux ch\u00f4meurs dans le premier cas, et recherche de compromis entre les objectifs de guerre et les besoins civils dans le second. Comme ils le notent, ces \u00ab conflits et contradictions internes entre les objectifs ultimes, ou entre les moyens choisis pour les atteindre \u00bb impliquent que \u00ab la hi\u00e9rarchie des moyens et des fins est rarement une cha\u00eene int\u00e9gr\u00e9e et compl\u00e8tement connect\u00e9e \u00bb. De tels choix \u00e9pineux<\/strong> surgissent r\u00e9guli\u00e8rement dans la mise en \u0153uvre et l\u2019articulation bureaucratiques, ainsi que dans la d\u00e9finition des objectifs au sommet, ce qui en fait des probl\u00e8mes fondamentalement\u00a0politiques<\/em><\/strong>, et c\u2019est pr\u00e9cis\u00e9ment ce que l\u2019optimisation ne r\u00e9sout pas<\/strong>. Comme le dit sans d\u00e9tour Recht (2023), \u00ab on ne peut pas optimiser un compromis \u00bb. Il n\u2019y a pas de consensus sur la mani\u00e8re d\u2019optimiser plusieurs objectifs ind\u00e9pendants, m\u00eame dans des situations mod\u00e9r\u00e9ment complexes. L\u2019apprentissage automatique, avec ou sans r\u00e9seaux neuronaux, n\u2019offre pas de solutions magiques \u00e0 cela. (Cf. McCulloch, 1945.) Bien s\u00fbr, il est possible de \u00ab demander \u00bb aux LLM de mettre en balance diff\u00e9rents objectifs les uns par rapport aux autres, puis d\u2019examiner les r\u00e9sultats, mais il n\u2019existe pas de m\u00e9thode g\u00e9n\u00e9ralisable pour mesurer leur succ\u00e8s, et encore moins pour l\u2019am\u00e9liorer au fil d\u2019it\u00e9rations r\u00e9p\u00e9t\u00e9es. Les r\u00e9f\u00e9rences \u00e0 l\u2019 \u00ab IA \u00bb \u2014 sans parler de l\u2019\u00ab IGA \u00bb \u2014 ignorent les possibilit\u00e9s et les limites de ces technologies \u00e0 des fins bureaucratiques, les substituant par de la magie.<\/p>\n\n\n\n Encore une fois, Simon souligne avec insistance et \u00e0 plusieurs reprises que la prise de d\u00e9cision bureaucratique implique des compromis entre des objectifs difficiles \u00e0 comparer, et une reformulation r\u00e9p\u00e9t\u00e9e tant des objectifs que des moyens de les atteindre, \u00e0 tous les niveaux de l\u2019organisation, alors que les gens tentent de trouver des solutions satisfaisantes face \u00e0 la complexit\u00e9. Lindblom conclut que ces ajustements continus vers le haut, vers le bas et lat\u00e9raux sont la raison pour laquelle nous ne devrions pas consid\u00e9rer la coordination bureaucratique comme un simple processus descendant<\/strong> :<\/p>\n\n\n\n La t\u00e2che de coordination est souvent assimil\u00e9e \u00e0 la partie de celle-ci qui est en fait trait\u00e9e par la coordination centrale ; ce qui appara\u00eet clairement \u00e0 y r\u00e9fl\u00e9chir de plus pr\u00e8s est oubli\u00e9 \u2014 \u00e0 savoir qu\u2019une part \u00e9norme de la coordination est in\u00e9vitablement r\u00e9alis\u00e9e par divers ajustements mutuels. Mais la partie la plus visible de l\u2019iceberg de la coordination, la coordination centrale explicite, n\u2019est peut-\u00eatre qu\u2019une petite partie de tous ces processus par lesquels la coordination est, dans une certaine mesure, r\u00e9alis\u00e9e (Lindblom, 1965, 170).<\/p>\n<\/blockquote>\n\n\n\n La mise en \u0153uvre d\u2019ordres descendants n\u2019est qu\u2019une partie (importante) du travail de la bureaucratie, qui n\u00e9cessite des ajustements mutuels r\u00e9p\u00e9t\u00e9s d\u2019un type qui r\u00e9siste aux approches standard de l\u2019IA (Narayanan, 2026).<\/p>\n\n\n\n Alors, comment pourrions-nous commencer \u00e0 rendre justice aux id\u00e9es de Simon, Lindblom et d\u2019autres qui ont r\u00e9fl\u00e9chi attentivement au fonctionnement de la bureaucratie ? Nous devons reconna\u00eetre qu\u2019il existe <\/em>des probl\u00e8mes importants de coordination centrale, mais les approximations grossi\u00e8res de l\u2019IA posent leurs propres difficult\u00e9s dans ce domaine. Par exemple, les responsables du Parti qui dirigent la R\u00e9publique populaire de Chine sont r\u00e9guli\u00e8rement frustr\u00e9s par leur incapacit\u00e9 \u00e0 savoir ce qui se passe \u00e0 leurs \u00e9chelons inf\u00e9rieurs. Les responsables de niveau inf\u00e9rieur d\u00e9forment r\u00e9guli\u00e8rement les politiques \u00e0 leur avantage personnel et ont \u00e9galement coup\u00e9 les flux d\u2019information alternatifs vers le sommet, par exemple en d\u00e9courageant de force le public de se plaindre aupr\u00e8s des responsables centraux du Parti (Anderlini, 2009). Comme le d\u00e9montre Wallace (2014), les responsables chinois de haut niveau ont ainsi utilis\u00e9 les statistiques officielles comme indicateurs grossiers de la r\u00e9ussite des politiques, r\u00e9compensant ou \u00e9cartant les administrateurs provinciaux en fonction, par exemple, de l\u2019augmentation ou non du PIB dans leur province. Cela a, sans surprise, incit\u00e9 les bureaucrates de niveau inf\u00e9rieur \u00e0 trouver des moyens de \u00ab fausser les statistiques \u00bb, et \u00e0 des contre-mesures de la part de leurs sup\u00e9rieurs pour trouver des indicateurs plus fiables.<\/p>\n\n\n\n Tout cela semble indiquer que les LLM et d\u2019autres formes d\u2019IA moderne renforceront le pouvoir des responsables centraux, affinant leur contr\u00f4le sur leurs subordonn\u00e9s. Et cela pourrait bien se produire ! Pourtant, si les hauts responsables du Parti se tournent vers les rapports g\u00e9n\u00e9r\u00e9s par les LLM pour \u00e9valuer les fonctionnaires subalternes, le jeu du chat et de la souris se poursuivra sur un nouveau terrain. D\u00e9j\u00e0, dans d\u2019autres domaines, certains tentent de manipuler les donn\u00e9es d\u2019entra\u00eenement pour orienter les LLM dans un sens ou dans un autre. Les responsables dont la carri\u00e8re est en jeu, et qui peuvent ordonner \u00e0 leurs subordonn\u00e9s de r\u00e9diger des documents internes ou de manipuler d\u2019une autre mani\u00e8re les sources des LLM, pourraient disposer de moyens pour se mettre en valeur. Que les LLM donnent un avantage aux hauts responsables par rapport \u00e0 leurs subordonn\u00e9s, ou l\u2019inverse, d\u00e9pendra des d\u00e9tails de la technologie, de son application et des r\u00e9actions humaines. Cela d\u00e9bouchera probablement sur de nouveaux compromis et de nouvelles relations de concurrence entre les personnes concern\u00e9es, plut\u00f4t que sur le genre de transformation radicale que l\u2019on pourrait imaginer par des sp\u00e9culations\u00a0ex ante<\/em>.<\/p>\n\n\n\n De m\u00eame, personne ne sait <\/em>vraiment si une IA puissante rendra la soci\u00e9t\u00e9 nettement plus vuln\u00e9rable \u00e0 l\u2019autoritarisme, en remodelant les rapports de force entre le gouvernement et les citoyens comme le sugg\u00e8rent Bullock et al. <\/em>(2025). Il ne s\u2019agit pas seulement (comme Bullock et al.<\/em> ) que les acteurs non \u00e9tatiques puissent eux-m\u00eames utiliser la technologie pour brouiller les donn\u00e9es, mais que celles-ci ne soient peut-\u00eatre pas si utiles que \u00e7a au d\u00e9part<\/strong>. Des donn\u00e9es syst\u00e9matiquement incompl\u00e8tes risquent d\u2019aggraver les angles morts bureaucratiques plut\u00f4t que de les compenser. Plus pertinent encore, comme le soutient Yang (2026), les \u00c9tats autoritaires sont confront\u00e9s \u00e0 de profonds compromis lorsqu\u2019ils d\u00e9ploient l\u2019IA pour d\u00e9tecter la dissidence. Leurs institutions r\u00e9priment les comportements manifestes qui pourraient g\u00e9n\u00e9rer des donn\u00e9es d\u2019apprentissage permettant de pr\u00e9dire de futurs troubles. Si l\u2019IA renforce certainement la capacit\u00e9 des r\u00e9gimes autoritaires \u00e0 surveiller les citoyens \u00e0 grande \u00e9chelle, elle accro\u00eet aussi vraisemblablement leur d\u00e9pendance \u00e0 l\u2019\u00e9gard d\u2019approches grossi\u00e8res qui ne permettent pas de saisir ce qu\u2019ils souhaitent le plus savoir, les orientant vers des pr\u00e9dictions fond\u00e9es sur des donn\u00e9es pass\u00e9es qui pourraient s\u2019av\u00e9rer inadapt\u00e9es aux contingences futures (Anastasopoulos et Lian, 2026).<\/p>\n\n\n\n Les \u00c9tats autoritaires comme non autoritaires sont \u00e9galement confront\u00e9s \u00e0 des compromis id\u00e9ologiques. Les mod\u00e8les de langage<\/strong> de grande envergure (LLM) sont extr\u00eamement bien adapt\u00e9s \u00e0 l\u2019articulation, \u00e0 la promulgation et \u00e0 l\u2019interpr\u00e9tation des rituels organisationnels <\/strong>(Fourcade et Farrell, 2024), tels que la r\u00e9daction de formules types <\/strong>organisationnelles, l\u2019explication de la mani\u00e8re dont vos activit\u00e9s contribuent aux objectifs de l\u2019organisation dans son ensemble, et autres. Les rituels peuvent jouer un r\u00f4le de coordination important au sein des organisations et ailleurs (Chwe, 2013). Simon souligne l\u2019importance de repr\u00e9sentations sommaires tr\u00e8s g\u00e9n\u00e9rales des objectifs partag\u00e9s dans la construction de la culture organisationnelle. De telles abstractions fournissent des orientations g\u00e9n\u00e9riques sur la mani\u00e8re d\u2019appliquer des priorit\u00e9s g\u00e9n\u00e9rales \u00e0 des probl\u00e8mes particuliers<\/strong>. Ici, les LLM pourraient permettre \u00e0 ces repr\u00e9sentations de s\u2019exprimer et de r\u00e9pondre \u00e0 des questions, cr\u00e9ant ainsi des oracles id\u00e9ologiques capables d\u2019articuler la mani\u00e8re dont les objectifs g\u00e9n\u00e9raux s\u2019appliquent \u00e0 des situations sp\u00e9cifiques, y compris celles jamais anticip\u00e9es par les r\u00e9dacteurs d\u2019origine. Un LLM pourrait, par exemple, expliquer \u2014 de mani\u00e8re plausible et d\u00e9taill\u00e9e \u2014 comment appliquer la strat\u00e9gie chinoise de \u00ab double circulation \u00bb au (important) secteur de la fabrication de roulements \u00e0 billes, m\u00eame si les hauts responsables du Parti n\u2019avaient jamais r\u00e9ellement r\u00e9dig\u00e9 de directives particuli\u00e8res sur le sujet. L\u2019actuel sous-secr\u00e9taire am\u00e9ricain \u00e0 la D\u00e9fense charg\u00e9 de la recherche et de l\u2019ing\u00e9nierie souhaite que les employ\u00e9s du Pentagone utilisent des agents d\u2019IA pour v\u00e9rifier \u00ab si les actions propos\u00e9es sont conformes aux principes de la strat\u00e9gie de d\u00e9fense nationale \u00bb (Manson, 2026).<\/p>\n\n\n\n De m\u00eame, de telles simplifications grossi\u00e8res peuvent cr\u00e9er des angles morts syst\u00e9matiques autour de faits ou de questions id\u00e9ologiquement g\u00eanants<\/strong>. Les LLM chinois tels que DeepSeek sont entra\u00een\u00e9s \u00e0 \u00e9viter les r\u00e9ponses directes sur des sujets comme le massacre de la place Tiananmen (Lu, 2025). Cet entra\u00eenement est in\u00e9gal, mais pourrait probablement s\u2019am\u00e9liorer \u2014 des techniques d\u2019IA \u00ab constitutionnelles \u00bb (Anthropic, 2026) peuvent certainement \u00eatre d\u00e9ploy\u00e9es \u00e0 ces fins. Pourtant, si les LLM deviennent des \u00e9l\u00e9ments porteurs de l\u2019infrastructure id\u00e9ologique, ces angles morts peuvent avoir des cons\u00e9quences n\u00e9gatives autant que des avantages, rendant plus difficile pour les responsables de percevoir les fissures qu\u2019ils dissimulent en assemblant de mani\u00e8re homog\u00e8ne d\u2019autres faits et id\u00e9es. Il existe des pr\u00e9c\u00e9dents historiques. Dans la Chine mao\u00efste, les statistiques provinciales exag\u00e9raient syst\u00e9matiquement l\u2019ampleur des r\u00e9coltes, ce qui a conduit les autorit\u00e9s centrales \u00e0 saisir les r\u00e9coltes, laissant plus de 30 millions de personnes mourir de faim (Wallace, 2014) . D\u2019une mani\u00e8re g\u00e9n\u00e9rale, une plus grande coh\u00e9rence id\u00e9ologique et un pouvoir de coordination accru<\/strong> peuvent se faire au prix d\u2019une perte d\u2019information accrue<\/strong> et d\u2019une incapacit\u00e9 \u00e0 percevoir les probl\u00e8mes dont la nature est en contradiction avec les mythes fondateurs du r\u00e9gime. Bien qu\u2019il existe des solutions possibles, certaines raisons laissent soup\u00e7onner qu\u2019une utilisation accrue de l\u2019IA pourrait aggraver ces probl\u00e8mes plut\u00f4t que de les att\u00e9nuer. D\u2019autres interpr\u00e9tations de cette technologie sugg\u00e8rent des forces contraires \u00e0 la tendance \u00e0 la conformit\u00e9, mais celles-ci peuvent comporter leurs propres compromis. La valeur potentielle de coordination des oracles id\u00e9ologiques et culturels est en partie contrebalanc\u00e9e par le risque que ces oracles puissent \u00eatre \u00e9quivoques ou, pire encore, fournir des r\u00e9ponses radicalement diff\u00e9rentes \u00e0 diff\u00e9rents interlocuteurs, en fonction des diff\u00e9rences dans les invites \u2014 choix de mots pr\u00e9cis, hypoth\u00e8ses implicites ou manipulation habile par des bureaucrates ayant leurs propres agendas. L\u2019ampleur de ce probl\u00e8me d\u00e9pendra non seulement de la technologie elle-m\u00eame, mais aussi du contexte institutionnel dans lequel elle est utilis\u00e9e (qui y a acc\u00e8s et dans quelles conditions).<\/p>\n\n\n\n Dans la mesure o\u00f9 il est possible d\u2019\u00e9liminer la variabilit\u00e9 par un r\u00e9glage fin, ou simplement en contr\u00f4lant les circonstances dans lesquelles les LLM sont utilis\u00e9s, d\u2019autres compromis se pr\u00e9senteront \u00e0 nouveau. Les inefficacit\u00e9s existantes<\/strong> dans la promulgation de directives descendantes pr\u00e9sentent en r\u00e9alit\u00e9 des avantages<\/strong>. Les fonctionnaires de niveau inf\u00e9rieur peuvent comprendre des circonstances locales ou particuli\u00e8res que le sommet de la hi\u00e9rarchie ne saisit pas. Donner \u00e0 ces fonctionnaires une marge de man\u0153uvre pour adapter les politiques<\/strong> \u00e0 de telles circonstances peut comporter un risque de d\u00e9faillance de la coordination ou de malversation, mais peut aussi permettre d\u2019obtenir de meilleurs r\u00e9sultats globaux qu\u2019une combinaison d\u2019abstractions \u00e0 usage g\u00e9n\u00e9ral et de microgestion centralis\u00e9e.<\/strong><\/p>\n\n\n\n Les structures bureaucratiques existantes sont confront\u00e9es \u00e0 des compromis tant au niveau de la coordination horizontale que verticale et du partage de l\u2019information. Les LLM sont remarquablement bien adapt\u00e9s pour att\u00e9nuer certains de ces compromis, mais pas tous. Certaines de ces utilisations peuvent sembler insignifiantes, mais sont en r\u00e9alit\u00e9 d\u2019une grande importance.<\/p>\n\n\n\n Par exemple, des discussions avec d\u2019anciens et d\u2019actuels responsables militaires sugg\u00e8rent que les forces arm\u00e9es am\u00e9ricaines sont en proie \u00e0 des divergences terminologiques qui peuvent entra\u00eener de graves d\u00e9faillances de coordination lorsque diff\u00e9rentes branches cherchent \u00e0 travailler ensemble. Le probl\u00e8me est si grave que le d\u00e9partement de la D\u00e9fense dispose d\u2019un programme d\u00e9di\u00e9 \u00e0 la terminologie (Joint Chiefs of Staff, sans date), relevant de l\u2019\u00e9tat-major interarm\u00e9es, qui vise \u00e0 lutter contre le langage idiosyncrasique utilis\u00e9 par les diff\u00e9rentes branches des forces arm\u00e9es en cr\u00e9ant des termes et des d\u00e9finitions commun\u00e9ment accept\u00e9s. Les LLM sont extr\u00eamement bien adapt\u00e9s pour att\u00e9nuer ces probl\u00e8mes en traduisant des objectifs ou des exigences communs entre les diff\u00e9rentes branches d\u2019une organisation qui ont leur propre jargon. Leurs compressions omettent certains d\u00e9tails, mais semblent en g\u00e9n\u00e9ral tr\u00e8s efficaces pour saisir les genres, y compris les genres bureaucratiques, et traduire d\u2019un genre \u00e0 l\u2019autre. Cela pourrait permettre l\u2019automatisation de nombreuses t\u00e2ches routini\u00e8res de traduction organisationnelle qui n\u00e9cessitent actuellement un effort humain soutenu. De m\u00eame, la traduction automatis\u00e9e peut comporter ses propres inconv\u00e9nients cach\u00e9s. Certaines des frictions de la traduction refl\u00e8tent de v\u00e9ritables diff\u00e9rences op\u00e9rationnelles dans la mani\u00e8re dont les diff\u00e9rentes branches m\u00e8nent leur travail dans le monde r\u00e9el, et une traduction trop simpliste peut masquer ces diff\u00e9rences \u2014 jusqu\u2019\u00e0 ce que le langage bureaucratique se heurte \u00e0 la r\u00e9alit\u00e9 concr\u00e8te. En moyenne, les avantages l\u2019emportent probablement largement sur les co\u00fbts, mais il y a bien <\/em>des co\u00fbts.<\/p>\n\n\n\n De tels probl\u00e8mes risquent de se croiser avec des luttes de pouvoir et des conflits d\u2019int\u00e9r\u00eats politiques. Les forces arm\u00e9es am\u00e9ricaines ont leurs propres rivalit\u00e9s internes, parfois encourag\u00e9es par les politiciens qui les supervisent. Le chevauchement des besoins et de l\u2019expertise entre les diff\u00e9rentes branches peut favoriser les d\u00e9nonciations : si une proposition de l\u2019arm\u00e9e de l\u2019air est un projet de prestige co\u00fbteux qui accapare une part du budget de la d\u00e9fense sup\u00e9rieure \u00e0 ce qu\u2019elle devrait, alors la marine am\u00e9ricaine, qui dispose \u00e9galement d\u2019avions, pourrait avoir \u00e0 la fois les connaissances techniques et la motivation n\u00e9cessaires pour informer ses amis au Congr\u00e8s de ce probl\u00e8me. Nous ne pr\u00e9tendons pas pr\u00e9dire comment une coordination plus facile entre les forces arm\u00e9es s\u2019articulera avec les conflits d\u2019int\u00e9r\u00eats entre elles, mais nous nous attendons \u00e0 ce que cela ait de l\u2019importance. Des conflits similaires se cachent au sein de toutes les organisations complexes, et les individus et factions anim\u00e9s par leur propre int\u00e9r\u00eat sont remarquablement habiles \u00e0 d\u00e9tourner les technologies de coordination vers leurs fins personnelles<\/strong>. De m\u00eame, les acteurs en place sur le march\u00e9 chercheront avec enthousiasme \u00e0 utiliser les technologies pour renforcer leurs avantages concurrentiels plut\u00f4t que de les affaiblir (Curl, Kapoor et Narayanan, 2026).<\/p>\n\n\n\n La r\u00e9troaction d\u00e9mocratique est confront\u00e9e \u00e0 des probl\u00e8mes similaires. On observe un grand enthousiasme quant au potentiel des LLM, par exemple, pour rendre la r\u00e9troaction publique ascendante vers la prise de d\u00e9cision bureaucratique moins d\u00e9ficitaire qu\u2019elle . Les boucles de r\u00e9troaction algorithmiques pourraient garantir que les probl\u00e8mes non seulement apparaissent plus rapidement, mais qu\u2019ils soient parfois r\u00e9solus automatiquement d\u00e8s la phase de mise en \u0153uvre. Les LLM pourraient rendre les processus de consultation publique plus lisibles d\u2019une nouvelle mani\u00e8re, en r\u00e9sumant et en remixant les commentaires du public \u00e0 grande \u00e9chelle.<\/p>\n\n\n\n De telles innovations m\u00e9ritent d\u2019\u00eatre explor\u00e9es, mais se heurtent \u00e0 des limites importantes. Les processus bureaucratiques sont notoirement mauvais pour int\u00e9grer les commentaires, mais les approches bas\u00e9es sur l\u2019IA<\/strong> pourraient en r\u00e9alit\u00e9 \u00eatre encore moins efficaces pour int\u00e9grer des informations inattendues<\/strong>. Les \u00ab algorithmes de terrain \u00bb qui mettent effectivement en \u0153uvre les d\u00e9cisions pourraient bien \u00eatre moins performants que les fonctionnaires humains<\/strong> pour identifier et r\u00e9agir aux \u00e9v\u00e9nements anormaux<\/strong> (Alkhatib et Bernstein, 2019).<\/p>\n\n\n\n Lorsque les fonctionnaires de terrain sont confront\u00e9s \u00e0 un cas nouveau ou marginal, ils s\u2019en servent pour affiner leur compr\u00e9hension de la politique. Lorsque les algorithmes de terrain sont confront\u00e9s \u00e0 un cas nouveau ou marginal, ils appliquent leur classification pr\u00e9d\u00e9finie, potentiellement avec une confiance erron\u00e9ment \u00e9lev\u00e9e.<\/p>\n<\/blockquote>\n\n\n\n De tels algorithmes peuvent m\u00eame \u00eatre incapables de percevoir <\/em>en quoi un cas sp\u00e9cifique pr\u00e9sente des caract\u00e9ristiques surprenantes qui ne correspondent pas \u00e0 leurs mod\u00e8les. Cela n\u2019est pas fondamentalement diff\u00e9rent pour les LLM, ni d\u2019ailleurs pour les formes d\u2019IA qui restent \u00e0 inventer. Encore une fois, tous <\/em>ces mod\u00e8les statistiques sont optimis\u00e9s pour offrir une performance moyenne satisfaisante plut\u00f4t que pour g\u00e9rer des \u00e9v\u00e9nements rares <\/strong>qui semblent anormaux. Diff\u00e9rentes impl\u00e9mentations seront confront\u00e9es \u00e0 diff\u00e9rentes versions de ce dilemme, mais toutes y seront confront\u00e9es. Berliner (2024) d\u00e9crit comment des probl\u00e8mes similaires affectent l\u2019analyse automatis\u00e9e des commentaires publics, o\u00f9 les LLM, comme d\u2019autres formes de traitement du langage naturel, sont performants pour identifier et regrouper des mod\u00e8les g\u00e9n\u00e9raux, mais faibles pour d\u00e9tecter des informations rares, inattendues et, pour cette raison m\u00eame, pr\u00e9cieuses<\/strong>. Selon ses propres termes :<\/p>\n\n\n\n Une grande partie de la promesse de la participation publique au gouvernement r\u00e9side pr\u00e9cis\u00e9ment dans sa capacit\u00e9 \u00e0 informer les d\u00e9cideurs politiques de probl\u00e8mes nouveaux, de nouvelles solutions ou de nouvelles perspectives provenant du public.<\/p>\n<\/blockquote>\n\n\n\n Cependant, l\u2019IA est mal adapt\u00e9e \u00e0 l\u2019identification de la nouveaut\u00e9 :<\/p>\n\n\n\n Si [les d\u00e9cideurs politiques] souhaitent \u00eatre en mesure d\u2019apprendre des choses \u00e0 la fois sp\u00e9cifiques et nouvelles \u2014 l\u00e0 o\u00f9 le traitement de l\u2019information exige \u00e0 la fois une attention individuelle et des connaissances sp\u00e9cifiques au contexte \u2014, l\u2019IA n\u2019est alors pas susceptible d\u2019\u00eatre tr\u00e8s utile, \u00e0 moins que la soci\u00e9t\u00e9 ne soit pr\u00eate \u00e0 accepter soit de s\u00e9rieux biais, soit des inexactitudes majeures. Et restreindre la port\u00e9e de l\u2019apprentissage politique \u00e0 des mesures et cat\u00e9gories d\u00e9j\u00e0 connues pourrait m\u00eame servir \u00e0 simplement ancrer les in\u00e9galit\u00e9s politiques existantes.<\/p>\n<\/blockquote>\n\n\n\n Comme le note Berliner, lorsque les d\u00e9cideurs humains s\u2019appuient sur des algorithmes qui sont <\/em>efficaces pour saisir certains types d\u2019informations, cela peut en r\u00e9alit\u00e9 exacerber ces pertes syst\u00e9matiques, mettant potentiellement en p\u00e9ril la capacit\u00e9 de l\u2019organisation \u00e0 r\u00e9agir \u00e0 des circonstances impr\u00e9vues<\/strong>. Les simplifications de la compr\u00e9hension du public par l\u2019IA rendent visibles des tendances qui \u00e9taient auparavant trop vastes pour \u00eatre facilement discern\u00e9es, mais au prix de la dissimulation de d\u00e9tails qui ne cadrent pas avec les abstractions des mod\u00e8les.<\/p>\n\n\n\n De tels compromis apparaissent \u00e9galement dans des cas d\u2019utilisation plus transformatrices. Les LLM permettent de nouvelles synth\u00e8ses d\u2019informations qui, bien qu\u2019encore sujettes \u00e0 des pertes, captureront des aspects de la connaissance organisationnelle que d\u2019autres technologies ne peuvent pas saisir. Bon nombre des probl\u00e8mes, bien que pas tous, que des chercheurs comme Hayek et Lindblom associent \u00e0 la vision \u00ab synoptique \u00bb de l\u2019\u00c9tat d\u00e9coulent des diff\u00e9rences entre les bureaucraties formelles et les technologies sociales plus dynamiques telles que les march\u00e9s. Comme beaucoup l\u2019ont soulign\u00e9, les grandes organisations ne savent pas ce qu\u2019elles savent<\/strong> : des informations extr\u00eamement pr\u00e9cieuses peuvent \u00eatre dispers\u00e9es \u00e0 travers l\u2019organisation et r\u00e9sister \u00e0 l\u2019assimilation et \u00e0 l\u2019analyse en un seul endroit. Les documents papier dans les classeurs d\u2019un bureau de terrain au Nebraska pourraient s\u2019av\u00e9rer avoir des implications pr\u00e9cieuses s\u2019ils \u00e9taient combin\u00e9s avec des donn\u00e9es statistiques recueillies en Floride et des donn\u00e9es nationales collect\u00e9es de mani\u00e8re centralis\u00e9e dans la banlieue de Washington D.C.<\/p>\n\n\n\n Une fois ces ressources rendues lisibles par les machines, les syst\u00e8mes bas\u00e9s sur les LLM peuvent contribuer de mani\u00e8re remarquable \u00e0 assembler des sources d\u2019information disparates pour les rendre plus utiles, att\u00e9nuant ainsi le probl\u00e8me synoptique de Hayek et Lindblom (Brynjolffson et Hitzig 2025). Cela pourrait s\u2019av\u00e9rer extraordinaire, pour le meilleur ou pour le pire. Les partisans y voient un renforcement radical des moyens dont dispose l\u2019\u00c9tat pour mieux servir ses citoyens. Les sceptiques craignent que cela n\u2019\u00e9limine de nombreuses libert\u00e9s qui d\u00e9pendent de la persistance d\u2019espaces imparfaitement visibles o\u00f9 l\u2019\u00c9tat n\u2019est pas en mesure de rassembler tout ce qu\u2019il sait (Fourcade et Healy, 2025). L\u2019IA militaire ne remplacera peut-\u00eatre pas tant la bureaucratie qu\u2019elle \u00ab l\u2019encodera \u00bb dans des mod\u00e8les qui, \u00e0 l\u2019instar de bon nombre de leurs pr\u00e9d\u00e9cesseurs sur papier, \u00ab atteignent l\u2019exhaustivit\u00e9 en filtrant tout ce qui n\u2019\u00e9tait pas lisible selon leurs cat\u00e9gories<\/strong> \u00bb, et traiteront la d\u00e9lib\u00e9ration sur des choix d\u00e9chirants comme une latence inefficace qu\u2019il convient d\u2019\u00e9liminer (Baker, 2026).<\/p>\n\n\n\n De tels mod\u00e8les ne cr\u00e9ent pas le \u00ab panoptique \u00bb que les utilitaristes c\u00e9l\u00e9braient et que les critiques du pouvoir \u00e9tatique comme Foucault (1977) redoutaient, mais des structures qui lui ressemblent \u00e0 bien des \u00e9gards. On pourrait d\u00e9crire le r\u00e9sultat comme un synoptique \u00e0 \u0153il mosa\u00efque<\/strong>, permettant potentiellement aux bureaucrates \u00e0 tous les niveaux d\u2019extraire des informations potentiellement utiles de l\u2019ensemble de l\u2019organisation, selon des invites sp\u00e9cifiques et \u00e0 des fins pr\u00e9cises. De m\u00eame, il s\u2019agit d\u2019un synopticon tordu<\/em>. Tout ce qu\u2019il assemble constituera en soi une approximation grossi\u00e8re d\u2019une r\u00e9alit\u00e9 plus complexe<\/strong>, tandis que le produit final sera son propre assemblage grossier, \u00e9cartant les donn\u00e9es fines qui ne r\u00e9pondent pas \u00e0 ses propres crit\u00e8res. Les r\u00e9sultats finaux seront imparfaits \u00e0 leur mani\u00e8re. Les pires sc\u00e9narios pourraient ressembler moins \u00e0 l\u2019\u00c9tat-machine omniscient de 1984<\/em> d\u2019Orwell qu\u2019au Br\u00e9sil de Terry Gilliam, dans lequel un insecte coinc\u00e9 dans un t\u00e9l\u00e9scripteur provoque une s\u00e9rie d\u2019erreurs qui s\u2019amplifient d\u2019elles-m\u00eames. Les meilleurs r\u00e9sultats comporteront tout de m\u00eame beaucoup d\u2019impr\u00e9cisions d\u00e9cisionnelles m\u00eal\u00e9es \u00e0 des r\u00e9sultats politiques globalement bienveillants. Il y aura une immense vari\u00e9t\u00e9 de possibilit\u00e9s entre les deux. Encore une fois, nous ne faisons pas de pr\u00e9dictions fermes quant aux r\u00e9sultats, mais nous savons que ces technologies comporteront elles aussi des pertes, bien que d\u2019une mani\u00e8re diff\u00e9rente de leurs pr\u00e9d\u00e9cesseurs, et que diff\u00e9rentes factions se disputeront la mani\u00e8re de s\u2019assurer que les angles morts et les avantages de la coordination qui y sont associ\u00e9s soient tourn\u00e9s \u00e0 leur propre profit, plut\u00f4t qu\u2019\u00e0 celui de leurs rivaux.<\/p>\n\n\n\n En r\u00e9sum\u00e9 : l\u2019AGI ne <\/em>promet pas une bureaucratie v\u00e9ritablement post-humaine<\/strong> . De nombreux processus bureaucratiques (y compris ceux dont nous n\u2019avons pas parl\u00e9) pourraient \u00eatre rendus plus efficaces, certains peut-\u00eatre m\u00eame enti\u00e8rement automatis\u00e9s par l\u2019IA. Mais l\u2019IA \u2014 y compris toute version plausible de l\u2019AGI issue des technologies actuelles \u2014 ne peut pas remplacer la bureaucratie de la mani\u00e8re <\/em>promise par les enthousiastes. Les frustrations li\u00e9es \u00e0 la bureaucratie telle qu\u2019elle existe r\u00e9ellement ne d\u00e9coulent pas simplement de solutions inaptes ou techniquement inad\u00e9quates au probl\u00e8me mandant-mandataire (principal-agent problem)<\/em>. Elles d\u00e9coulent \u00e9galement de la collision de multiples exigences incommensurables, chacune avec ses propres probl\u00e8mes et avantages, de sorte qu\u2019il n\u2019existe pas de solutions optimales. Ceux qui construisent ou r\u00e9forment des bureaucraties, tout comme ceux qui cr\u00e9ent d\u2019autres artefacts, doivent trouver des solutions satisfaisantes face \u00e0 de multiples besoins et pathologies qui s\u2019entrecroisent. Des conceptions qui r\u00e9solvent parfaitement un type de probl\u00e8me peuvent en aggraver d\u2019autres de mani\u00e8re radicale<\/strong>. L’IA telle qu’elle existe actuellement a ses propres imperfections, dont certaines sont end\u00e9miques. Greffer des syst\u00e8mes d’IA sur les bureaucraties existantes r\u00e9soudra certains probl\u00e8mes, mais en aggravera d’autres et en cr\u00e9era de tout nouveaux. Cela n’\u00e9liminera pas les difficult\u00e9s politiques <\/em>li\u00e9es \u00e0 la m\u00e9diation entre des objectifs diff\u00e9rents, souvent non commensurables<\/strong>. Imaginer le remplacement pur et simple de la bureaucratie par l’IA n’est plausible que si l’on fait abstraction des difficult\u00e9s r\u00e9elles associ\u00e9es aux technologies sociales existantes.<\/p>\n\n\n\n Notre propre pari, bien qu\u2019h\u00e9sitant, est que la bureaucratie aliment\u00e9e par les LLM sera moins facile \u00e0 contr\u00f4ler que ne le craignent les critiques et ne l\u2019esp\u00e8rent les partisans. Les LLM actuels sont opaques sur le plan architectural, en partie parce qu\u2019il est tr\u00e8s difficile de savoir comment <\/em>ils effectuent l’amalgation de leurs entr\u00e9es. Cela rend plus difficile de les orienter d\u00e9lib\u00e9r\u00e9ment dans diff\u00e9rentes directions, du moins pas avec pr\u00e9cision, mais cela soul\u00e8ve \u00e9galement des probl\u00e8mes pour la bureaucratie. L\u2019impossibilit\u00e9 (pratique) de savoir quels aspects des signaux entrants sont filtr\u00e9s par l\u2019appareil rend particuli\u00e8rement difficile de compenser la perte d\u2019information qui en r\u00e9sulte.<\/p>\n\n\n\n Cela pourrait toutefois signifier que les fusions chim\u00e9riques <\/strong>entre bureaucratie et IA feront l\u2019objet de plus de controverses plut\u00f4t que moins, et que ces controverses deviendront plus \u00e9tranges<\/strong>. Les aspects des signaux perdus lors de la compression pourraient \u00eatre extr\u00eamement <\/em>difficiles \u00e0 d\u00e9crire en termes humains existants, mais ils pourraient n\u00e9anmoins causer plus de probl\u00e8mes \u00e0 certaines personnes qu\u2019\u00e0 d\u2019autres. Tout comme les agriculteurs du Midwest du XIXe si\u00e8cle avaient du mal \u00e0 expliquer exactement en quoi les syst\u00e8mes de classification des c\u00e9r\u00e9ales leur portaient pr\u00e9judice, les citoyens et les groupes d\u2019int\u00e9r\u00eat du XXIe si\u00e8cle pourraient avoir du mal \u00e0 d\u00e9crire ce que l\u2019IA leur fait subir<\/strong>, m\u00eame s\u2019ils savent que des choses se passent qui ne leur plaisent pas.<\/p>\n\n\n\n Des transformations \u00e0 tr\u00e8s grande \u00e9chelle de notre \u00e9conomie politique sont peut-\u00eatre d\u00e9j\u00e0 en cours, mais elles pourraient \u00eatre extr\u00eamement difficiles \u00e0 expliquer dans les termes traditionnels que nous avons utilis\u00e9s pour donner un sens aux conflits politiques <\/strong>entre diff\u00e9rentes classes d\u2019acteurs aux int\u00e9r\u00eats divergents. Le fait que les termes de ces luttes soient peu familiers ou difficiles \u00e0 articuler dans notre langage actuel ne signifie pas que nous devrions les ignorer ou les minimiser. Des difficult\u00e9s similaires ont accompagn\u00e9 les bouleversements \u00e9conomiques majeurs ant\u00e9rieurs de la Longue R\u00e9volution industrielle. Tout comme nous devrions sauver les id\u00e9ologies du pass\u00e9 de l\u2019\u00ab \u00e9norme condescendance de la post\u00e9rit\u00e9 \u00bb<\/strong> (Thompson, 1963), nous devons \u00e9galement d\u00e9velopper une compr\u00e9hension plus s\u00e9rieuse et syst\u00e9matique pour nous aider, ainsi que d\u2019autres personnes, \u00e0 comprendre et \u00e0 articuler ce qui se passe en ce moment m\u00eame<\/em>. Cartographier correctement l\u2019\u00e9conomie politique de l\u2019IA et de la bureaucratie<\/strong> ferait donc partie d\u2019un projet plus large visant \u00e0 comprendre l\u2019\u00e9conomie politique de l\u2019IA.<\/p>\n\n\n\n Nous n’avons pas l’intention <\/em>de comparer, d’une mani\u00e8re pr\u00e9tendument scientifique, les th\u00e9ories centr\u00e9es sur l’IA g\u00e9n\u00e9rale \u00e0 l’approche de la technologie sociale. Cela ferait pencher la balance fortement en notre faveur : une description complexe est, par d\u00e9finition, plus susceptible d\u2019\u00eatre exacte qu\u2019un argument stylis\u00e9, bien que souvent bien moins utile (Healy, 2017). Nous ne cherchons pas non plus \u00e0 pr\u00e9dire l\u2019avenir. Au contraire, nous attirons l\u2019attention sur les interactions complexes et lourdes de cons\u00e9quences entre les institutions humaines existantes (en particulier la bureaucratie) et l\u2019IA existante, que les r\u00e9cits centr\u00e9s sur l\u2019IA g\u00e9n\u00e9rale (AGI) n\u00e9gligent. Peut-\u00eatre que tout cela deviendra sans importance lorsque les robots feront leur apparition, mais il s\u2019agit l\u00e0 d\u2019un v\u0153u pieux (ou blasph\u00e9matoire), et non d\u2019une pr\u00e9vision rationnelle.<\/p>\n\n\n\n Les approximations grossi\u00e8res de l\u2019IA \u2014 m\u00eame si elles sont construites par quelque chose qui se rapproche vaguement de l\u2019AGI (elle-m\u00eame une notion vague en qu\u00eate urgente d\u2019une approximation empirique)\u2014seront toujours sujettes \u00e0 des pertes. (Nous le r\u00e9p\u00e9tons encore une fois, tous les <\/em>mod\u00e8les statistiques font face \u00e0 des compromis entre une meilleure performance en moyenne et une moins bonne performance dans des situations inhabituelles.) Les questions int\u00e9ressantes portent sur l’interaction entre la mani\u00e8re dont les bureaucraties mod\u00e9lisent la r\u00e9alit\u00e9 et la simplification excessive \u00e0 laquelle m\u00e8neront les nouvelles applications d’IA. Quand un syst\u00e8me compensera-t-il les lacunes de l\u2019autre ? Quand leurs diff\u00e9rentes formes de perte se renforceront-elles mutuellement ? Quels nouveaux probl\u00e8mes pourraient r\u00e9sulter de la combinaison de syst\u00e8mes tr\u00e8s diff\u00e9rents de gestion de la complexit\u00e9<\/strong>, qui sont eux-m\u00eames hautement complexes ? Comment les rapports de force \u00e9volueront-ils en cons\u00e9quence ? Qui en b\u00e9n\u00e9ficiera, et qui en souffrira ? Ces questions, parmi d\u2019autres, pourraient \u00eatre pos\u00e9es, pari passu<\/em>, concernant la relation entre l\u2019IA et d\u2019autres technologies sociales telles que les march\u00e9s et la d\u00e9mocratie. Nous devons absolument commencer \u00e0 les poser.<\/p>\n\n\n\n Nous esp\u00e9rons \u00e9loigner de mani\u00e8re d\u00e9cisive le d\u00e9bat de la question de savoir si l\u2019IA va pr\u00e9cipiter une transformation profonde de la condition humaine (Kokotajlo et al.<\/em>, 2025). On comprend mieux l\u2019IA \u00e0 travers l\u2019histoire pass\u00e9e et l\u2019engagement actuel face \u00e0 ses cons\u00e9quences r\u00e9elles pour la soci\u00e9t\u00e9 humaine contemporaine qu\u2019\u00e0 travers des conjectures sur la fa\u00e7on dont elle pourrait op\u00e9rer des miracles \u00e0 l\u2019avenir. Les approches plus terre-\u00e0-terre de l\u2019IA ne cessent d\u2019\u00eatre entra\u00een\u00e9es dans des d\u00e9bats insolubles sur le calendrier exact du compte \u00e0 rebours vers l\u2019infini <\/strong>(Kapoor et al.<\/em>, 2025), ce qui entrave l\u2019engagement des sciences sociales sur ce qui arrive r\u00e9ellement <\/em>\u00e0 la soci\u00e9t\u00e9 humaine et aux institutions en ce moment m\u00eame. Cela doit changer.<\/p>\n\n\n\n
\n\n\n\nIntroduction<\/h3>\n\n\n\n
Les grossissements et la longue r\u00e9volution industrielle<\/h3>\n\n\n\n
Mod\u00e8les, perte d\u2019information et pouvoir<\/h3>\n\n\n\n
\n
IA et bureaucratie<\/h3>\n\n\n\n
\n
\n
\n
\n
\n
\n
Conclusions<\/h3>\n\n\n\n
R\u00e9f\u00e9rences<\/h3>\n\n\n\n
\n