Large AI models are cultural and social technologies<\/a> par Henry Farrell, Alison Gopnik, Cosma Shalizi et James Evans, paru dans Science le 13 mars 2025.<\/p>\n\n\n\n
\n\n\n\nLes d\u00e9bats sur l\u2019intelligence artificielle (IA) tournent souvent autour de la question de savoir si les grands mod\u00e8les sont des agents intelligents et autonomes. Certains chercheurs et commentateurs en IA \u00e9mettent l\u2019hypoth\u00e8se que nous sommes sur le point de cr\u00e9er des agents dot\u00e9s d\u2019une intelligence artificielle g\u00e9n\u00e9rale (AGI), une perspective accueillie \u00e0 la fois avec enthousiasme et inqui\u00e9tude. De nombreuses discussions ont \u00e9galement port\u00e9 sur les cons\u00e9quences culturelles et sociales des grands mod\u00e8les, s\u2019articulant autour de deux axes : les effets imm\u00e9diats de ces syst\u00e8mes tels qu\u2019ils sont utilis\u00e9s actuellement, et les sc\u00e9narios hypoth\u00e9tiques d\u2019un avenir o\u00f9 ces syst\u00e8mes deviendraient des agents dot\u00e9s d\u2019AGI \u2014 voire des agents AGI superintelligents. Or, ce discours pr\u00e9sentant les grands mod\u00e8les comme des agents intelligents repose sur une conception fondamentalement erron\u00e9e. La combinaison d\u2019id\u00e9es issues des sciences sociales et comportementales avec celles de l\u2019informatique peut nous aider \u00e0 mieux comprendre les syst\u00e8mes d\u2019IA. Les grands mod\u00e8les ne devraient pas \u00eatre consid\u00e9r\u00e9s avant tout comme des agents intelligents, mais comme un nouveau type de technologie culturelle et sociale, permettant aux humains de tirer parti de l\u2019information que d\u2019autres humains ont accumul\u00e9e.<\/p>\n\n\n\n
La nouvelle technologie des grands mod\u00e8les combine des caract\u00e9ristiques importantes des technologies ant\u00e9rieures. \u00c0 l\u2019instar des images, de l\u2019\u00e9criture, de l\u2019imprimerie, de la vid\u00e9o, de la recherche sur Internet et d\u2019autres technologies de ce type, les grands mod\u00e8les permettent aux gens d\u2019acc\u00e9der \u00e0 l\u2019information cr\u00e9\u00e9e par d\u2019autres personnes. Les grands mod\u00e8les \u2014 qui portent actuellement sur le langage, la vision et le multimodal \u2014 d\u00e9pendent d\u2019Internet, qui a rendu les produits de ces technologies ant\u00e9rieures facilement accessibles sous une forme lisible par machine. Mais \u00e0 l\u2019instar des march\u00e9s \u00e9conomiques, des bureaucraties d\u2019\u00c9tat et d\u2019autres technologies sociales, ces syst\u00e8mes ne se contentent pas de rendre l\u2019information largement accessible; ils permettent \u00e9galement de la r\u00e9organiser, de la transformer et de la restructurer de fa\u00e7ons distinctes. Pour reprendre la terminologie de Simon, les grands mod\u00e8les constituent une nouvelle variante des \u00ab syst\u00e8mes artificiels de la soci\u00e9t\u00e9 humaine \u00bb qui traitent l\u2019information afin de permettre une coordination \u00e0 grande \u00e9chelle [(1<\/em>), p. 33].<\/p>\n\n\n\nNotre argument central ici n\u2019est pas simplement que ces innovations technologiques, comme toutes les autres innovations, auront des cons\u00e9quences culturelles et sociales. Nous soutenons plut\u00f4t que les grands mod\u00e8les doivent eux-m\u00eames \u00eatre compris comme un type particulier de technologie culturelle et sociale. Ils s\u2019apparentent \u00e0 des technologies du pass\u00e9 telles que l\u2019\u00e9criture, l\u2019imprimerie, les march\u00e9s, les bureaucraties et les d\u00e9mocraties repr\u00e9sentatives<\/strong>. Nous pouvons alors nous poser la question distincte de savoir quels seront les effets de ces syst\u00e8mes. Les nouvelles technologies qui ne sont pas en soi culturelles ou sociales, comme la vapeur et l\u2019\u00e9lectricit\u00e9, peuvent avoir des effets culturels. Les technologies culturelles v\u00e9ritablement nouvelles \u2014 Wikip\u00e9dia, par exemple \u2014 peuvent avoir des effets limit\u00e9s. Cependant, de nombreuses technologies culturelles et sociales du pass\u00e9 ont \u00e9galement eu des effets profonds et transformateurs sur les soci\u00e9t\u00e9s, pour le meilleur et pour le pire, et cela sera probablement vrai pour les grands mod\u00e8les.<\/p>\n\n\n\nCes effets diff\u00e8rent nettement des cons\u00e9quences d\u2019autres technologies g\u00e9n\u00e9rales importantes telles que la vapeur ou l\u2019\u00e9lectricit\u00e9. Ils diff\u00e8rent \u00e9galement de ce \u00e0 quoi nous pourrions nous attendre d\u2019une IA g\u00e9n\u00e9rale (AGI) hypoth\u00e9tique. R\u00e9fl\u00e9chir aux technologies culturelles et sociales du pass\u00e9 et \u00e0 leur impact nous aidera \u00e0 mieux comprendre les dangers et les promesses des mod\u00e8les d\u2019IA plut\u00f4t que de nous inqui\u00e9ter au sujet d\u2019agents superintelligents.<\/p>\n\n\n\n
Institutions sociales et culturelles<\/strong><\/h2>\n\n\n\nDepuis que l\u2019humanit\u00e9 existe, nous d\u00e9pendons de la culture. \u00c0 commencer par le langage lui-m\u00eame, les \u00eatres humains ont toujours poss\u00e9d\u00e9 des capacit\u00e9s distinctives leur permettant d\u2019apprendre des exp\u00e9riences d\u2019autres humains, et ces capacit\u00e9s constituent sans doute le secret du succ\u00e8s \u00e9volutif de l\u2019humanit\u00e9. Les changements technologiques majeurs touchant ces capacit\u00e9s ont entra\u00een\u00e9 des transformations sociales spectaculaires. Le langage parl\u00e9 a \u00e9t\u00e9 remplac\u00e9 par l\u2019image, puis par l\u2019\u00e9criture, l\u2019imprim\u00e9, le cin\u00e9ma et la vid\u00e9o. \u00c0 mesure que de plus en plus d\u2019information devenait accessible malgr\u00e9 des distances spatiales et temporelles toujours plus grandes, de nouvelles fa\u00e7ons d\u2019acc\u00e9der \u00e0 cette information et de l\u2019organiser se sont \u00e9galement d\u00e9velopp\u00e9es, allant des biblioth\u00e8ques aux journaux en passant par les moteurs de recherche sur Internet<\/strong>. Ces \u00e9volutions ont eu des r\u00e9percussions profondes sur la pens\u00e9e humaine et la soci\u00e9t\u00e9, pour le meilleur ou pour le pire. Les progr\u00e8s de la technologie de l\u2019imprimerie au XVIIIe si\u00e8cle, par exemple, qui ont permis la diffusion rapide de nouvelles id\u00e9es, ont jou\u00e9 un r\u00f4le important dans le si\u00e8cle des Lumi\u00e8res et la R\u00e9volution fran\u00e7aise. Une transformation marquante s\u2019est produite vers l\u2019an 2000, lorsque la quasi-totalit\u00e9 de l\u2019information \u2013 qu\u2019il s\u2019agisse de textes, d\u2019images fixes ou d\u2019images anim\u00e9es \u2013 a \u00e9t\u00e9 convertie en formats num\u00e9riques; elle pouvait alors \u00eatre transmise instantan\u00e9ment et reproduite \u00e0 l\u2019infini.<\/p>\n\n\n\nDepuis que l\u2019humanit\u00e9 existe, nous comptons \u00e9galement sur des institutions sociales pour coordonner la collecte d\u2019information et la prise de d\u00e9cision individuelles. Ces institutions peuvent elles-m\u00eames \u00eatre consid\u00e9r\u00e9es comme une forme de technologie (1<\/em>). \u00c0 l\u2019\u00e8re moderne, les march\u00e9s, les d\u00e9mocraties et les bureaucraties ont rev\u00eatu une importance particuli\u00e8re. L\u2019\u00e9conomiste Friedrich Hayek a soutenu que le m\u00e9canisme des prix du march\u00e9 g\u00e9n\u00e8re des synth\u00e8ses dynamiques de relations \u00e9conomiques extr\u00eamement complexes et autrement insondables (2<\/em>). Les producteurs et les acheteurs n\u2019ont pas besoin de comprendre les complexit\u00e9s de la production; tout ce qu\u2019ils doivent savoir, c\u2019est le prix, qui condense une multitude de d\u00e9tails en une repr\u00e9sentation simplifi\u00e9e mais exploitable. De la m\u00eame mani\u00e8re, les m\u00e9canismes \u00e9lectoraux dans les r\u00e9gimes d\u00e9mocratiques canalisent les opinions dispers\u00e9es vers des d\u00e9cisions collectives en mati\u00e8re de droit et de direction. L\u2019anthropologue Scott a soutenu (3<\/em>) que tous les \u00c9tats, d\u00e9mocratiques ou non, ont g\u00e9r\u00e9 des soci\u00e9t\u00e9s complexes en cr\u00e9ant des syst\u00e8mes bureaucratiques qui cat\u00e9gorisent et syst\u00e9matisent l\u2019information. Bien avant l\u2019av\u00e8nement de l\u2019ordinateur, les march\u00e9s, les d\u00e9mocraties et les bureaucraties s\u2019appuyaient d\u00e9j\u00e0 sur des m\u00e9canismes g\u00e9n\u00e9rant des repr\u00e9sentations avec perte (incompl\u00e8tes, s\u00e9lectives et irr\u00e9versibles), mais n\u00e9anmoins utiles. <\/strong>Ces repr\u00e9sentations d\u00e9pendent des connaissances et des d\u00e9cisions des individus tout en allant au-del\u00e0 de celles-ci. Un prix, un r\u00e9sultat \u00e9lectoral ou un indicateur tel que le produit int\u00e9rieur brut (PIB) r\u00e9sume de grandes quantit\u00e9s de connaissances, de valeurs, de pr\u00e9f\u00e9rences et d\u2019actions individuelles. Parall\u00e8lement, ces technologies sociales peuvent elles-m\u00eames fa\u00e7onner les connaissances et la prise de d\u00e9cision individuelles.<\/p>\n\n\n\nLes m\u00e9canismes abstraits d\u2019un march\u00e9, d\u2019un \u00c9tat ou d\u2019une bureaucratie, \u00e0 l\u2019instar des m\u00e9dias culturels, peuvent influencer la vie des individus de mani\u00e8re d\u00e9terminante, parfois pour le pire. Les banques centrales, par exemple, ont r\u00e9duit les complexit\u00e9s de l\u2019\u00e9conomie financi\u00e8re \u00e0 quelques variables cl\u00e9s. Cela a procur\u00e9 une stabilit\u00e9 financi\u00e8re apparente, mais au prix d\u2019une accumulation d\u2019instabilit\u00e9s sur le march\u00e9 immobilier, auquel les banques centrales n\u2019ont accord\u00e9 que peu d\u2019attention, pr\u00e9cipitant ainsi la crise financi\u00e8re mondiale de 2008 (4<\/em>). De m\u00eame, les march\u00e9s peuvent ne pas refl\u00e9ter les \u00ab externalit\u00e9s \u00bb telles que les \u00e9missions nocives de carbone. L\u2019int\u00e9gration de ces renseignements dans les prix, par exemple au moyen d\u2019une taxe sur le carbone, peut \u00eatre utile, mais n\u00e9cessite une intervention de l\u2019\u00c9tat.<\/p>\n\n\n\nLes humains s\u2019appuient largement sur ces technologies culturelles et sociales. Ces technologies ne sont toutefois possibles que parce que les humains poss\u00e8dent des capacit\u00e9s distinctes, caract\u00e9ristiques des agents intelligents. Les humains, tout comme d\u2019autres animaux, peuvent percevoir un monde ext\u00e9rieur en constante \u00e9volution et agir en cons\u00e9quence, construire de nouveaux mod\u00e8les de ce monde, r\u00e9viser ces mod\u00e8les \u00e0 mesure qu\u2019ils accumulent davantage de donn\u00e9es, puis d\u00e9finir de nouveaux objectifs. Les individus peuvent cr\u00e9er de nouvelles croyances et valeurs et les transmettre \u00e0 d\u2019autres par le langage ou l\u2019\u00e9crit. Les technologies culturelles et sociales transmettent et organisent ces croyances et valeurs de mani\u00e8re puissante, mais sans ces capacit\u00e9s individuelles, elles n\u2019auraient aucune prise. Sans innovation, l\u2019imitation n\u2019aurait aucun sens (5<\/em>).<\/p>\n\n\n\nCertains syst\u00e8mes d\u2019IA \u2014 en robotique, par exemple \u2014 tentent effectivement de mettre en \u0153uvre des capacit\u00e9s similaires de recherche de la v\u00e9rit\u00e9. Il n\u2019y a, en principe, aucune raison pour qu\u2019un syst\u00e8me artificiel ne puisse pas y parvenir \u00e0 un moment donn\u00e9 dans l\u2019avenir. Apr\u00e8s tout, le cerveau humain y parvient. Mais pour l\u2019instant, tous ces syst\u00e8mes sont loin d\u2019atteindre ces capacit\u00e9s humaines. Nous pouvons d\u00e9battre de la mesure dans laquelle il faut s\u2019inqui\u00e9ter d\u00e8s maintenant de ces futurs syst\u00e8mes d\u2019IA potentiels ou de la fa\u00e7on dont nous pourrions les g\u00e9rer s\u2019ils venaient \u00e0 voir le jour. Mais cela diff\u00e8re de la question des effets des grands mod\u00e8les \u00e0 l\u2019heure actuelle et dans un avenir imm\u00e9diat.<\/p>\n\n\n\n
Les grands mod\u00e8les<\/strong><\/h2>\n\n\n\nContrairement aux syst\u00e8mes plus \u00ab agents \u00bb, les grands mod\u00e8les ont r\u00e9alis\u00e9 des progr\u00e8s notables et inattendus au cours des derni\u00e8res ann\u00e9es, ce qui en fait le centre des discussions actuelles sur l\u2019IA en g\u00e9n\u00e9ral. Ces progr\u00e8s ont donn\u00e9 lieu \u00e0 des affirmations selon lesquelles la \u00ab mise \u00e0 l\u2019\u00e9chelle \u00bb \u2014 c\u2019est-\u00e0-dire le simple fait de reprendre les conceptions actuelles et d\u2019augmenter la quantit\u00e9 de donn\u00e9es et la puissance de calcul qu\u2019elles utilisent \u2014 m\u00e8nera \u00e0 des agents d\u2019IA g\u00e9n\u00e9rale (AGI) dans un avenir proche. Or, les grands mod\u00e8les sont fondamentalement diff\u00e9rents des agents intelligents, et la mise \u00e0 l\u2019\u00e9chelle n\u2019y changera rien. Par exemple, les \u00ab hallucinations \u00bb constituent un probl\u00e8me end\u00e9mique dans ces syst\u00e8mes, car ils n\u2019ont aucune conception de la v\u00e9rit\u00e9 et de la fausset\u00e9 <\/strong>(bien qu\u2019il existe des mesures pratiques pour att\u00e9nuer ce ph\u00e9nom\u00e8ne). Ils se contentent d\u2019\u00e9chantillonner et de g\u00e9n\u00e9rer du texte et des images.<\/p>\n\n\n\nPlut\u00f4t que d\u2019\u00eatre des agents intelligents, les grands mod\u00e8les combinent les caract\u00e9ristiques des technologies culturelles et sociales d\u2019une mani\u00e8re in\u00e9dite. Ils g\u00e9n\u00e8rent des r\u00e9sum\u00e9s de corpus d\u2019informations cr\u00e9\u00e9es par l\u2019humain, d\u2019une taille et d\u2019une complexit\u00e9 ing\u00e9rables. Mais ces syst\u00e8mes ne se contentent pas de r\u00e9sumer ces informations, \u00e0 l\u2019instar des catalogues de biblioth\u00e8ques, des moteurs de recherche sur Internet et de Wikip\u00e9dia. Ils peuvent \u00e9galement r\u00e9organiser et reconstruire des repr\u00e9sentations ou des \u00ab simulations \u00bb (1<\/em>) de ces informations \u00e0 grande \u00e9chelle et de mani\u00e8re novatrice, \u00e0 l\u2019image des march\u00e9s, des \u00c9tats et des bureaucraties. Tout comme les prix du march\u00e9 sont des repr\u00e9sentations avec perte des allocations et des utilisations sous-jacentes des ressources, et que les statistiques gouvernementales et les cat\u00e9gories bureaucratiques ne repr\u00e9sentent qu\u2019imparfaitement les caract\u00e9ristiques des populations sous-jacentes, les grands mod\u00e8les sont eux aussi des \u00ab fichiers JPEG avec perte \u00bb <\/strong>(6<\/em>) des corpus de donn\u00e9es sur lesquels ils ont \u00e9t\u00e9 entra\u00een\u00e9s.<\/p>\n\n\n\nComme il est difficile pour les humains de r\u00e9fl\u00e9chir clairement aux technologies culturelles et sociales \u00e0 grande \u00e9chelle, nous avons tendance \u00e0 les concevoir en termes d\u2019agents. Les r\u00e9cits constituent un moyen particuli\u00e8rement puissant de transmettre de l\u2019information<\/strong>, et des histoires racont\u00e9es au coin du feu aux romans en passant par les jeux vid\u00e9o, ils y sont parvenus en cr\u00e9ant des agents fictifs illustratifs, m\u00eame si les auditeurs savent que ces agents ne sont pas r\u00e9els. Les chatbots sont les h\u00e9ritiers d\u2019Hercule, d\u2019Anansi et de Pierre Lapin. De m\u00eame, il est facile de traiter les march\u00e9s et les \u00c9tats comme s\u2019il s\u2019agissait d\u2019agents, et les organismes ou les entreprises peuvent m\u00eame jouir d\u2019une sorte de personnalit\u00e9 juridique.<\/p>\n\n\n\nMais derri\u00e8re leurs interfaces de type \u00ab agent \u00bb et leurs pr\u00e9tentions anthropomorphiques, les grands mod\u00e8les linguistiques (LLM) et les grands mod\u00e8les multimodaux sont des mod\u00e8les statistiques qui traitent d\u2019\u00e9normes corpus de textes produits par des humains, les d\u00e9composent en mots particuliers et estiment la distribution de probabilit\u00e9 de longues s\u00e9quences de mots. Il s\u2019agit d\u2019une repr\u00e9sentation imparfaite du langage, mais qui contient une quantit\u00e9 \u00e9tonnamment importante d\u2019information sur les motifs qu\u2019elle r\u00e9sume. Cela permet au LLM de pr\u00e9dire quels mots viennent ensuite dans une s\u00e9quence et ainsi de g\u00e9n\u00e9rer un texte de type humain. Les grands mod\u00e8les multimodaux font de m\u00eame avec les donn\u00e9es audio, d\u2019image et vid\u00e9o. Les grands mod\u00e8les ne se contentent pas d\u2019abstraire un tr\u00e8s vaste corpus de la culture humaine, ils permettent \u00e9galement d\u2019y effectuer une grande vari\u00e9t\u00e9 de nouvelles op\u00e9rations. On peut demander aux LLM d\u2019effectuer des transformations complexes des donn\u00e9es sur lesquelles ils ont \u00e9t\u00e9 entra\u00een\u00e9s. Des arguments simples peuvent \u00eatre exprim\u00e9s \u00e0 l\u2019aide de m\u00e9taphores fleuries, tandis qu\u2019une prose ampoul\u00e9e peut \u00eatre condens\u00e9e en langage simple. Des techniques similaires permettent \u00e0 des mod\u00e8les apparent\u00e9s de g\u00e9n\u00e9rer de nouvelles images, chansons et vid\u00e9os en r\u00e9ponse \u00e0 des invites. Un corpus d\u2019informations culturelles qui \u00e9tait auparavant trop complexe, trop vaste et trop fragmentaire pour des op\u00e9rations \u00e0 grande \u00e9chelle est d\u00e9sormais devenu g\u00e9rable.<\/p>\n\n\n\n
En pratique, les versions les plus r\u00e9centes de ces syst\u00e8mes s\u2019appuient non seulement sur d\u2019\u00e9normes bases de donn\u00e9es de textes et d\u2019images g\u00e9n\u00e9r\u00e9es et organis\u00e9es par des humains, mais aussi sur le jugement et les connaissances humaines sous d\u2019autres formes. En particulier, les syst\u00e8mes s\u2019appuient sur l\u2019apprentissage par renforcement \u00e0 partir de la r\u00e9troaction humaine (RLHF) ou ses variantes : des dizaines de milliers d\u2019employ\u00e9s humains \u00e9valuent les r\u00e9sultats des mod\u00e8les. Ils d\u00e9pendent \u00e9galement de l\u2019ing\u00e9nierie des invites : les humains doivent faire appel \u00e0 la fois \u00e0 leurs connaissances de fond et \u00e0 leur ing\u00e9niosit\u00e9 pour extraire des informations utiles des mod\u00e8les. M\u00eame les mod\u00e8les les plus r\u00e9cents de type \u00ab cha\u00eene de pens\u00e9e \u00bb partent r\u00e9guli\u00e8rement d\u2019un dialogue avec leurs utilisateurs humains.<\/p>\n\n\n\n
Les algorithmes relativement simples, bien que puissants, qui permettent aux grands mod\u00e8les d\u2019extraire des motifs statistiques \u00e0 partir de textes ne constituent pas r\u00e9ellement la cl\u00e9 du succ\u00e8s de ces mod\u00e8les. Au contraire, l\u2019IA moderne repose sur des biblioth\u00e8ques, Internet, des dizaines de milliers de programmeurs humains et une communaut\u00e9 internationale croissante d\u2019utilisateurs actifs. Une personne qui demande \u00e0 un bot de l\u2019aider \u00e0 r\u00e9diger une lettre de motivation pour une demande d\u2019emploi s\u2019engage en r\u00e9alit\u00e9 dans une relation techniquement m\u00e9diatis\u00e9e avec des milliers de candidats pr\u00e9c\u00e9dents, des millions d\u2019autres r\u00e9dacteurs de lettres et des travailleurs du RLHF.<\/p>\n\n\n\n
D\u00e9fis et possibilit\u00e9s<\/strong><\/h2>\n\n\n\nLe d\u00e9bat sur l\u2019IA devrait se concentrer sur les d\u00e9fis et les possibilit\u00e9s que g\u00e9n\u00e8rent ces nouvelles technologies culturelles et sociales. Nous disposons d\u00e9sormais d\u2019une technologie qui fait pour la culture \u00e9crite et visuelle ce que les march\u00e9s \u00e0 grande \u00e9chelle font pour l\u2019\u00e9conomie, ce que la bureaucratie \u00e0 grande \u00e9chelle fait pour la soci\u00e9t\u00e9, et qui est peut-\u00eatre m\u00eame comparable \u00e0 ce que l\u2019imprimerie a autrefois fait pour la langue. Que va-t-il se passer ensuite? \u00c0 l\u2019instar des anciennes \u00ab technologies \u00e0 usage g\u00e9n\u00e9ral \u00bb \u00e9conomiques, organisationnelles et informationnelles, ces syst\u00e8mes auront des r\u00e9percussions sur la productivit\u00e9 (7<\/em>), compl\u00e9tant le travail humain mais automatisant \u00e9galement des t\u00e2ches que seuls les humains pouvaient auparavant accomplir, ainsi que sur la distribution, influant sur qui obtient quoi (8<\/em>).<\/p>\n\n\n\nPourtant, ils auront \u00e9galement des cons\u00e9quences culturelles plus vastes et plus profondes. Nous ne savons pas encore si ces cons\u00e9quences seront aussi importantes que celles des technologies ant\u00e9rieures telles que l\u2019imprimerie, les march\u00e9s ou les bureaucraties, mais les consid\u00e9rer comme des technologies culturelles renforce plut\u00f4t qu\u2019il ne diminue leur impact potentiel. Ces technologies ant\u00e9rieures ont jou\u00e9 un r\u00f4le central dans les vastes transformations sociales des XVIIIe et XIXe si\u00e8cles, \u00e0 la fois en tant que causes et en tant qu\u2019effets. Toutes ces technologies, \u00e0 l\u2019instar des grands mod\u00e8les, ont favoris\u00e9 l\u2019abstraction de l\u2019information afin que de nouveaux types d\u2019op\u00e9rations puissent \u00eatre men\u00e9s \u00e0 grande \u00e9chelle. Toutes ont suscit\u00e9 des pr\u00e9occupations justifi\u00e9es concernant la propagation de la d\u00e9sinformation et des pr\u00e9jug\u00e9s, l\u2019homog\u00e9n\u00e9isation ou la fragmentation culturelles, ainsi que les changements dans la r\u00e9partition du pouvoir et des ressources. L\u2019\u00e9mergence de nouveaux m\u00e9dias de communication, notamment l\u2019imprimerie et la t\u00e9l\u00e9vision, s\u2019est accompagn\u00e9e de craintes l\u00e9gitimes que ces nouveaux m\u00e9dias ne diffusent de la d\u00e9sinformation et ne renforcent des forces culturelles n\u00e9fastes. De m\u00eame, les syst\u00e8mes de cat\u00e9gorisation mis en \u0153uvre par les bureaucraties et les march\u00e9s comportent souvent des pr\u00e9suppos\u00e9s oppressifs.<\/p>\n\n\n\n
Parall\u00e8lement, ces technologies ont ouvert de nouvelles possibilit\u00e9s de recombiner l\u2019information et de coordonner les actions de millions de personnes \u00e0 l\u2019\u00e9chelle plan\u00e9taire. Les d\u00e9bats \u00e9mergents sur les cons\u00e9quences sociales, \u00e9conomiques et politiques des mod\u00e8les de langage \u00e0 grande \u00e9chelle (LLM) s\u2019inscrivent dans la continuit\u00e9 des inqui\u00e9tudes et des espoirs historiques profond\u00e9ment enracin\u00e9s concernant les nouvelles technologies culturelles et sociales. Pour orienter ces d\u00e9bats, il faut \u00e0 la fois reconna\u00eetre les points communs entre les nouveaux arguments et les anciens, et cartographier avec soin les particularit\u00e9s des technologies nouvelles<\/strong> et en constante \u00e9volution.<\/p>\n\n\n\nUne telle cartographie figure parmi les t\u00e2ches centrales des sciences sociales<\/strong>, qui ont vu le jour \u00e0 la suite des bouleversements sociaux, \u00e9conomiques et politiques de la R\u00e9volution industrielle et de ses r\u00e9percussions. L\u2019\u00e9tude par les sp\u00e9cialistes en sciences sociales des cons\u00e9quences de ces technologies du pass\u00e9 peut nous aider \u00e0 r\u00e9fl\u00e9chir aux implications sociales moins \u00e9videntes de l\u2019IA, tant n\u00e9gatives que positives, et \u00e0 envisager des moyens de repenser les syst\u00e8mes d\u2019IA afin d\u2019accro\u00eetre les impacts positifs et de r\u00e9duire les impacts n\u00e9gatifs. Au fur et \u00e0 mesure que les m\u00e9dias, les march\u00e9s et les technologies bureaucratiques se sont d\u00e9velopp\u00e9s aux XIXe et XXe si\u00e8cles, ils ont cr\u00e9\u00e9 des gagnants et des perdants sur le plan \u00e9conomique, d\u00e9pla\u00e7ant des cat\u00e9gories enti\u00e8res de travailleurs, des commis et d\u2019adjoints de bureau aux \u00ab calculateurs humains \u00bb. Aujourd\u2019hui, on craint manifestement que les grands mod\u00e8les et les technologies connexes ne remplacent les \u00ab travailleurs du savoir \u00bb.<\/strong><\/p>\n\n\n\nD\u2019autres questions, moins \u00e9videntes, se posent \u00e9galement. Les grands mod\u00e8les vont-ils homog\u00e9n\u00e9iser ou fragmenter la culture et la soci\u00e9t\u00e9? Il peut \u00eatre particuli\u00e8rement \u00e9clairant d\u2019examiner cette question dans un contexte historique. Les pr\u00e9occupations actuelles rappellent les d\u00e9saccords des XIXe et XXe si\u00e8cles concernant les march\u00e9s et les bureaucraties. Weber s\u2019inqui\u00e9tait (9<\/em>) des cons\u00e9quences homog\u00e9n\u00e9isantes et abrutissantes de la \u00ab rationalisation \u00bb \u00e9conomique et bureaucratique, tandis que Mill (10<\/em>) estimait que les \u00e9changes de march\u00e9 exposeraient les participants \u00e0 diff\u00e9rentes formes de vie et att\u00e9nueraient les pulsions de conflit (\u00ab doux commerce \u00bb).<\/p>\n\n\n\nLes grands mod\u00e8les sont con\u00e7us pour bien fonctionner \u2014 c\u2019est-\u00e0-dire pour reproduire fid\u00e8lement, en moyenne, les probabilit\u00e9s r\u00e9elles des s\u00e9quences de texte, d\u2019images et de vid\u00e9o. Ils ont donc une tendance intrins\u00e8que \u00e0 \u00eatre les plus pr\u00e9cis dans les situations les plus couramment rencontr\u00e9es dans leurs donn\u00e9es d\u2019apprentissage, et les moins pr\u00e9cis dans les situations qui \u00e9taient rares dans les donn\u00e9es ou enti\u00e8rement nouvelles. <\/strong>Cela pourrait amener les grands mod\u00e8les \u00e0 aggraver le type d\u2019homog\u00e9n\u00e9isation qui hantait Weber.<\/p>\n\n\n\nD\u2019un autre c\u00f4t\u00e9, les grands mod\u00e8les pourraient nous permettre de concevoir de nouvelles fa\u00e7ons de tirer parti de la diversit\u00e9 des perspectives culturelles qu\u2019ils r\u00e9sument. Combiner et \u00e9quilibrer ces perspectives pourrait offrir des moyens plus sophistiqu\u00e9s de r\u00e9soudre des probl\u00e8mes complexes (11<\/em>). Une fa\u00e7on d\u2019y parvenir pourrait consister \u00e0 construire des \u00e9cosyst\u00e8mes \u00ab \u00e0 l\u2019image de la soci\u00e9t\u00e9 \u00bb dans lesquels diff\u00e9rentes perspectives, encod\u00e9es dans diff\u00e9rents grands mod\u00e8les, se confrontent et pourraient s\u2019enrichir mutuellement pour cr\u00e9er des perspectives hybrides (12<\/em>) ou pour cerner des lacunes dans l\u2019espace de l\u2019expertise humaine (13<\/em>) qu\u2019il serait utile de combler. Les grands mod\u00e8les se r\u00e9v\u00e8lent \u00e9tonnamment efficaces pour extraire des textes et des images des motifs subtils et non \u00e9vidents. Cela sugg\u00e8re que de telles technologies pourraient servir \u00e0 rep\u00e9rer, dans les textes et les images, des motifs qui s\u2019entrecroisent \u00e0 travers l\u2019espace de la connaissance et de la culture humaines, y compris des motifs invisibles \u00e0 tout \u00eatre humain en particulier. Nous pourrions avoir besoin de nouveaux syst\u00e8mes capables de diversifier les r\u00e9flexions et les personnalit\u00e9s des grands mod\u00e8les, et de reproduire la m\u00eame r\u00e9partition et la m\u00eame diversit\u00e9 que celles des soci\u00e9t\u00e9s humaines.<\/p>\n\n\n\nLa diversification de tels syst\u00e8mes pourrait s\u2019av\u00e9rer particuli\u00e8rement importante pour le progr\u00e8s scientifique. La science formelle elle-m\u00eame a d\u00e9pendu de l\u2019\u00e9mergence des nouvelles technologies culturelles des XVIIe et XVIIIe si\u00e8cles, allant des caf\u00e9s et du courrier rapide aux revues scientifiques et \u00e0 l\u2019\u00e9valuation par les pairs. Les technologies d\u2019IA ont le potentiel d\u2019acc\u00e9l\u00e9rer encore davantage la science, mais cela d\u00e9pendra de la mani\u00e8re imaginative dont on utilisera et repensera ces technologies. En reliant entre elles tant de perspectives \u00e0 travers le texte, l\u2019audio et les images, les grands mod\u00e8les pourraient nous permettre de d\u00e9couvrir des liens sans pr\u00e9c\u00e9dent entre celles-ci, au b\u00e9n\u00e9fice de la science et de la soci\u00e9t\u00e9. Ces technologies ont le plus souvent \u00e9t\u00e9 entra\u00een\u00e9es \u00e0 restituer des renseignements courants en tant qu\u2019assistants utiles. Un \u00e9ventail de possibilit\u00e9s plus fondamentales pourrait s\u2019ouvrir si nous les d\u00e9ployions comme des cartes pour explorer des territoires jusqu\u2019alors inexplor\u00e9s.<\/p>\n\n\n\n
Il existe \u00e9galement des fa\u00e7ons moins \u00e9videntes et plus int\u00e9ressantes dont les nouvelles technologies culturelles et sociales influencent les relations \u00e9conomiques. Le d\u00e9veloppement des technologies culturelles engendre une tension \u00e9conomique fondamentale entre les personnes qui produisent l\u2019information et les syst\u00e8mes qui la diffusent<\/strong>. Aucun des deux groupes ne peut exister sans l\u2019autre : un auteur a autant besoin d\u2019\u00e9diteurs que les \u00e9diteurs ont besoin d\u2019auteurs. Mais leurs incitatifs \u00e9conomiques vont dans des directions oppos\u00e9es. Les diffuseurs en tireront profit s\u2019ils peuvent acc\u00e9der \u00e0 l\u2019information des producteurs \u00e0 moindre co\u00fbt, tandis que les producteurs en tireront profit s\u2019ils peuvent faire diffuser leur information \u00e0 moindre co\u00fbt. Cette tension a toujours caract\u00e9ris\u00e9 les nouvelles technologies culturelles. La facilit\u00e9 et l\u2019efficacit\u00e9 de la diffusion de l\u2019information sous forme num\u00e9rique ont d\u00e9j\u00e0 rendu ce probl\u00e8me particuli\u00e8rement aigu, comme en t\u00e9moigne la crise qui touche tous les secteurs, des journaux locaux aux revues universitaires. Mais la vitesse, l\u2019efficacit\u00e9 et la port\u00e9e m\u00eames des grands mod\u00e8les, qui traitent simultan\u00e9ment toute l\u2019information disponible, combin\u00e9es \u00e0 la propri\u00e9t\u00e9 centralis\u00e9e de ces mod\u00e8les, font peser ces probl\u00e8mes avec une acuit\u00e9 particuli\u00e8re. La concentration du pouvoir peut permettre \u00e0 ceux qui poss\u00e8dent les syst\u00e8mes de s\u2019accaparer plus facilement les avantages de l\u2019efficacit\u00e9 aux d\u00e9pens des autres.<\/p>\n\n\n\nDes questions techniques cruciales se posent : dans quelle mesure les imperfections syst\u00e9matiques des grands mod\u00e8les peuvent-elles \u00eatre corrig\u00e9es, et en quoi sont-elles sup\u00e9rieures ou inf\u00e9rieures aux imperfections des syst\u00e8mes reposant sur des travailleurs du savoir humains? Celles-ci ne doivent pas occulter les questions politiques cruciales : quels acteurs sont capables de se mobiliser autour de leurs int\u00e9r\u00eats, et comment pourraient-ils fa\u00e7onner la combinaison qui en r\u00e9sultera entre technologie et capacit\u00e9s organisationnelles? Tr\u00e8s souvent, les commentateurs du secteur technologique r\u00e9duisent ces questions \u00e0 une simple bataille entre les machines et les humains. Soit les forces du progr\u00e8s l\u2019emporteront face aux tendances luddites r\u00e9trogrades, soit, \u00e0 l\u2019inverse, les \u00eatres humains r\u00e9sisteront avec succ\u00e8s \u00e0 l\u2019empi\u00e9tement inhumain de la technologie artificielle. Non seulement cette vision ne tient pas compte de la complexit\u00e9 des luttes de r\u00e9partition pass\u00e9es \u2014 luttes qui sont bien ant\u00e9rieures \u00e0 l\u2019ordinateur \u2014, mais elle ignore \u00e9galement les nombreuses voies possibles que pourrait emprunter le progr\u00e8s futur, chacune comportant sa propre combinaison de possibilit\u00e9s et de choix technologiques (8<\/em>).<\/p>\n\n\n\nDans le cas des technologies sociales et culturelles ant\u00e9rieures, toute une s\u00e9rie d\u2019institutions suppl\u00e9mentaires, notamment des institutions normatives et r\u00e9glementaires, ont vu le jour pour en temp\u00e9rer les effets. Celles-ci allaient des r\u00e9dacteurs en chef, de l\u2019\u00e9valuation par les pairs et des lois sur la diffamation pour la presse \u00e9crite, jusqu\u2019\u00e0 la loi \u00e9lectorale, l\u2019assurance-d\u00e9p\u00f4ts et la Commission des valeurs mobili\u00e8res pour les march\u00e9s, les d\u00e9mocraties et les bureaucraties. Ces institutions pr\u00e9sentaient une efficacit\u00e9 variable et n\u00e9cessitaient une r\u00e9vision continue. Ces forces de contrepoids ne sont toutefois pas apparues d\u2019elles-m\u00eames, mais ont r\u00e9sult\u00e9 d\u2019efforts concert\u00e9s et soutenus de la part d\u2019acteurs tant \u00e0 l\u2019int\u00e9rieur qu\u2019\u00e0 l\u2019ext\u00e9rieur des technologies elles-m\u00eames.<\/p>\n\n\n\n