Leurs implications s’inspirent de l’histoire des systèmes d’information transformateurs du passé
Traduction de Large AI models are cultural and social technologies par Henry Farrell, Alison Gopnik, Cosma Shalizi et James Evans, paru dans Science le 13 mars 2025.
Les débats sur l’intelligence artificielle (IA) tournent souvent autour de la question de savoir si les grands modèles sont des agents intelligents et autonomes. Certains chercheurs et commentateurs en IA émettent l’hypothèse que nous sommes sur le point de créer des agents dotés d’une intelligence artificielle générale (AGI), une perspective accueillie à la fois avec enthousiasme et inquiétude. De nombreuses discussions ont également porté sur les conséquences culturelles et sociales des grands modèles, s’articulant autour de deux axes : les effets immédiats de ces systèmes tels qu’ils sont utilisés actuellement, et les scénarios hypothétiques d’un avenir où ces systèmes deviendraient des agents dotés d’AGI — voire des agents AGI superintelligents. Or, ce discours présentant les grands modèles comme des agents intelligents repose sur une conception fondamentalement erronée. La combinaison d’idées issues des sciences sociales et comportementales avec celles de l’informatique peut nous aider à mieux comprendre les systèmes d’IA. Les grands modèles ne devraient pas être considérés avant tout comme des agents intelligents, mais comme un nouveau type de technologie culturelle et sociale, permettant aux humains de tirer parti de l’information que d’autres humains ont accumulée.
La nouvelle technologie des grands modèles combine des caractéristiques importantes des technologies antérieures. À l’instar des images, de l’écriture, de l’imprimerie, de la vidéo, de la recherche sur Internet et d’autres technologies de ce type, les grands modèles permettent aux gens d’accéder à l’information créée par d’autres personnes. Les grands modèles — qui portent actuellement sur le langage, la vision et le multimodal — dépendent d’Internet, qui a rendu les produits de ces technologies antérieures facilement accessibles sous une forme lisible par machine. Mais à l’instar des marchés économiques, des bureaucraties d’État et d’autres technologies sociales, ces systèmes ne se contentent pas de rendre l’information largement accessible; ils permettent également de la réorganiser, de la transformer et de la restructurer de façons distinctes. Pour reprendre la terminologie de Simon, les grands modèles constituent une nouvelle variante des « systèmes artificiels de la société humaine » qui traitent l’information afin de permettre une coordination à grande échelle [(1), p. 33].
Notre argument central ici n’est pas simplement que ces innovations technologiques, comme toutes les autres innovations, auront des conséquences culturelles et sociales. Nous soutenons plutôt que les grands modèles doivent eux-mêmes être compris comme un type particulier de technologie culturelle et sociale. Ils s’apparentent à des technologies du passé telles que l’écriture, l’imprimerie, les marchés, les bureaucraties et les démocraties représentatives. Nous pouvons alors nous poser la question distincte de savoir quels seront les effets de ces systèmes. Les nouvelles technologies qui ne sont pas en soi culturelles ou sociales, comme la vapeur et l’électricité, peuvent avoir des effets culturels. Les technologies culturelles véritablement nouvelles — Wikipédia, par exemple — peuvent avoir des effets limités. Cependant, de nombreuses technologies culturelles et sociales du passé ont également eu des effets profonds et transformateurs sur les sociétés, pour le meilleur et pour le pire, et cela sera probablement vrai pour les grands modèles.
Ces effets diffèrent nettement des conséquences d’autres technologies générales importantes telles que la vapeur ou l’électricité. Ils diffèrent également de ce à quoi nous pourrions nous attendre d’une IA générale (AGI) hypothétique. Réfléchir aux technologies culturelles et sociales du passé et à leur impact nous aidera à mieux comprendre les dangers et les promesses des modèles d’IA plutôt que de nous inquiéter au sujet d’agents superintelligents.
Institutions sociales et culturelles
Depuis que l’humanité existe, nous dépendons de la culture. À commencer par le langage lui-même, les êtres humains ont toujours possédé des capacités distinctives leur permettant d’apprendre des expériences d’autres humains, et ces capacités constituent sans doute le secret du succès évolutif de l’humanité. Les changements technologiques majeurs touchant ces capacités ont entraîné des transformations sociales spectaculaires. Le langage parlé a été remplacé par l’image, puis par l’écriture, l’imprimé, le cinéma et la vidéo. À mesure que de plus en plus d’information devenait accessible malgré des distances spatiales et temporelles toujours plus grandes, de nouvelles façons d’accéder à cette information et de l’organiser se sont également développées, allant des bibliothèques aux journaux en passant par les moteurs de recherche sur Internet. Ces évolutions ont eu des répercussions profondes sur la pensée humaine et la société, pour le meilleur ou pour le pire. Les progrès de la technologie de l’imprimerie au XVIIIe siècle, par exemple, qui ont permis la diffusion rapide de nouvelles idées, ont joué un rôle important dans le siècle des Lumières et la Révolution française. Une transformation marquante s’est produite vers l’an 2000, lorsque la quasi-totalité de l’information – qu’il s’agisse de textes, d’images fixes ou d’images animées – a été convertie en formats numériques; elle pouvait alors être transmise instantanément et reproduite à l’infini.
Depuis que l’humanité existe, nous comptons également sur des institutions sociales pour coordonner la collecte d’information et la prise de décision individuelles. Ces institutions peuvent elles-mêmes être considérées comme une forme de technologie (1). À l’ère moderne, les marchés, les démocraties et les bureaucraties ont revêtu une importance particulière. L’économiste Friedrich Hayek a soutenu que le mécanisme des prix du marché génère des synthèses dynamiques de relations économiques extrêmement complexes et autrement insondables (2). Les producteurs et les acheteurs n’ont pas besoin de comprendre les complexités de la production; tout ce qu’ils doivent savoir, c’est le prix, qui condense une multitude de détails en une représentation simplifiée mais exploitable. De la même manière, les mécanismes électoraux dans les régimes démocratiques canalisent les opinions dispersées vers des décisions collectives en matière de droit et de direction. L’anthropologue Scott a soutenu (3) que tous les États, démocratiques ou non, ont géré des sociétés complexes en créant des systèmes bureaucratiques qui catégorisent et systématisent l’information. Bien avant l’avènement de l’ordinateur, les marchés, les démocraties et les bureaucraties s’appuyaient déjà sur des mécanismes générant des représentations avec perte (incomplètes, sélectives et irréversibles), mais néanmoins utiles. Ces représentations dépendent des connaissances et des décisions des individus tout en allant au-delà de celles-ci. Un prix, un résultat électoral ou un indicateur tel que le produit intérieur brut (PIB) résume de grandes quantités de connaissances, de valeurs, de préférences et d’actions individuelles. Parallèlement, ces technologies sociales peuvent elles-mêmes façonner les connaissances et la prise de décision individuelles.
Les mécanismes abstraits d’un marché, d’un État ou d’une bureaucratie, à l’instar des médias culturels, peuvent influencer la vie des individus de manière déterminante, parfois pour le pire. Les banques centrales, par exemple, ont réduit les complexités de l’économie financière à quelques variables clés. Cela a procuré une stabilité financière apparente, mais au prix d’une accumulation d’instabilités sur le marché immobilier, auquel les banques centrales n’ont accordé que peu d’attention, précipitant ainsi la crise financière mondiale de 2008 (4). De même, les marchés peuvent ne pas refléter les « externalités » telles que les émissions nocives de carbone. L’intégration de ces renseignements dans les prix, par exemple au moyen d’une taxe sur le carbone, peut être utile, mais nécessite une intervention de l’État.
Les humains s’appuient largement sur ces technologies culturelles et sociales. Ces technologies ne sont toutefois possibles que parce que les humains possèdent des capacités distinctes, caractéristiques des agents intelligents. Les humains, tout comme d’autres animaux, peuvent percevoir un monde extérieur en constante évolution et agir en conséquence, construire de nouveaux modèles de ce monde, réviser ces modèles à mesure qu’ils accumulent davantage de données, puis définir de nouveaux objectifs. Les individus peuvent créer de nouvelles croyances et valeurs et les transmettre à d’autres par le langage ou l’écrit. Les technologies culturelles et sociales transmettent et organisent ces croyances et valeurs de manière puissante, mais sans ces capacités individuelles, elles n’auraient aucune prise. Sans innovation, l’imitation n’aurait aucun sens (5).
Certains systèmes d’IA — en robotique, par exemple — tentent effectivement de mettre en œuvre des capacités similaires de recherche de la vérité. Il n’y a, en principe, aucune raison pour qu’un système artificiel ne puisse pas y parvenir à un moment donné dans l’avenir. Après tout, le cerveau humain y parvient. Mais pour l’instant, tous ces systèmes sont loin d’atteindre ces capacités humaines. Nous pouvons débattre de la mesure dans laquelle il faut s’inquiéter dès maintenant de ces futurs systèmes d’IA potentiels ou de la façon dont nous pourrions les gérer s’ils venaient à voir le jour. Mais cela diffère de la question des effets des grands modèles à l’heure actuelle et dans un avenir immédiat.
Les grands modèles
Contrairement aux systèmes plus « agents », les grands modèles ont réalisé des progrès notables et inattendus au cours des dernières années, ce qui en fait le centre des discussions actuelles sur l’IA en général. Ces progrès ont donné lieu à des affirmations selon lesquelles la « mise à l’échelle » — c’est-à-dire le simple fait de reprendre les conceptions actuelles et d’augmenter la quantité de données et la puissance de calcul qu’elles utilisent — mènera à des agents d’IA générale (AGI) dans un avenir proche. Or, les grands modèles sont fondamentalement différents des agents intelligents, et la mise à l’échelle n’y changera rien. Par exemple, les « hallucinations » constituent un problème endémique dans ces systèmes, car ils n’ont aucune conception de la vérité et de la fausseté (bien qu’il existe des mesures pratiques pour atténuer ce phénomène). Ils se contentent d’échantillonner et de générer du texte et des images.
Plutôt que d’être des agents intelligents, les grands modèles combinent les caractéristiques des technologies culturelles et sociales d’une manière inédite. Ils génèrent des résumés de corpus d’informations créées par l’humain, d’une taille et d’une complexité ingérables. Mais ces systèmes ne se contentent pas de résumer ces informations, à l’instar des catalogues de bibliothèques, des moteurs de recherche sur Internet et de Wikipédia. Ils peuvent également réorganiser et reconstruire des représentations ou des « simulations » (1) de ces informations à grande échelle et de manière novatrice, à l’image des marchés, des États et des bureaucraties. Tout comme les prix du marché sont des représentations avec perte des allocations et des utilisations sous-jacentes des ressources, et que les statistiques gouvernementales et les catégories bureaucratiques ne représentent qu’imparfaitement les caractéristiques des populations sous-jacentes, les grands modèles sont eux aussi des « fichiers JPEG avec perte » (6) des corpus de données sur lesquels ils ont été entraînés.
Comme il est difficile pour les humains de réfléchir clairement aux technologies culturelles et sociales à grande échelle, nous avons tendance à les concevoir en termes d’agents. Les récits constituent un moyen particulièrement puissant de transmettre de l’information, et des histoires racontées au coin du feu aux romans en passant par les jeux vidéo, ils y sont parvenus en créant des agents fictifs illustratifs, même si les auditeurs savent que ces agents ne sont pas réels. Les chatbots sont les héritiers d’Hercule, d’Anansi et de Pierre Lapin. De même, il est facile de traiter les marchés et les États comme s’il s’agissait d’agents, et les organismes ou les entreprises peuvent même jouir d’une sorte de personnalité juridique.
Mais derrière leurs interfaces de type « agent » et leurs prétentions anthropomorphiques, les grands modèles linguistiques (LLM) et les grands modèles multimodaux sont des modèles statistiques qui traitent d’énormes corpus de textes produits par des humains, les décomposent en mots particuliers et estiment la distribution de probabilité de longues séquences de mots. Il s’agit d’une représentation imparfaite du langage, mais qui contient une quantité étonnamment importante d’information sur les motifs qu’elle résume. Cela permet au LLM de prédire quels mots viennent ensuite dans une séquence et ainsi de générer un texte de type humain. Les grands modèles multimodaux font de même avec les données audio, d’image et vidéo. Les grands modèles ne se contentent pas d’abstraire un très vaste corpus de la culture humaine, ils permettent également d’y effectuer une grande variété de nouvelles opérations. On peut demander aux LLM d’effectuer des transformations complexes des données sur lesquelles ils ont été entraînés. Des arguments simples peuvent être exprimés à l’aide de métaphores fleuries, tandis qu’une prose ampoulée peut être condensée en langage simple. Des techniques similaires permettent à des modèles apparentés de générer de nouvelles images, chansons et vidéos en réponse à des invites. Un corpus d’informations culturelles qui était auparavant trop complexe, trop vaste et trop fragmentaire pour des opérations à grande échelle est désormais devenu gérable.
En pratique, les versions les plus récentes de ces systèmes s’appuient non seulement sur d’énormes bases de données de textes et d’images générées et organisées par des humains, mais aussi sur le jugement et les connaissances humaines sous d’autres formes. En particulier, les systèmes s’appuient sur l’apprentissage par renforcement à partir de la rétroaction humaine (RLHF) ou ses variantes : des dizaines de milliers d’employés humains évaluent les résultats des modèles. Ils dépendent également de l’ingénierie des invites : les humains doivent faire appel à la fois à leurs connaissances de fond et à leur ingéniosité pour extraire des informations utiles des modèles. Même les modèles les plus récents de type « chaîne de pensée » partent régulièrement d’un dialogue avec leurs utilisateurs humains.
Les algorithmes relativement simples, bien que puissants, qui permettent aux grands modèles d’extraire des motifs statistiques à partir de textes ne constituent pas réellement la clé du succès de ces modèles. Au contraire, l’IA moderne repose sur des bibliothèques, Internet, des dizaines de milliers de programmeurs humains et une communauté internationale croissante d’utilisateurs actifs. Une personne qui demande à un bot de l’aider à rédiger une lettre de motivation pour une demande d’emploi s’engage en réalité dans une relation techniquement médiatisée avec des milliers de candidats précédents, des millions d’autres rédacteurs de lettres et des travailleurs du RLHF.
Défis et possibilités
Le débat sur l’IA devrait se concentrer sur les défis et les possibilités que génèrent ces nouvelles technologies culturelles et sociales. Nous disposons désormais d’une technologie qui fait pour la culture écrite et visuelle ce que les marchés à grande échelle font pour l’économie, ce que la bureaucratie à grande échelle fait pour la société, et qui est peut-être même comparable à ce que l’imprimerie a autrefois fait pour la langue. Que va-t-il se passer ensuite? À l’instar des anciennes « technologies à usage général » économiques, organisationnelles et informationnelles, ces systèmes auront des répercussions sur la productivité (7), complétant le travail humain mais automatisant également des tâches que seuls les humains pouvaient auparavant accomplir, ainsi que sur la distribution, influant sur qui obtient quoi (8).
Pourtant, ils auront également des conséquences culturelles plus vastes et plus profondes. Nous ne savons pas encore si ces conséquences seront aussi importantes que celles des technologies antérieures telles que l’imprimerie, les marchés ou les bureaucraties, mais les considérer comme des technologies culturelles renforce plutôt qu’il ne diminue leur impact potentiel. Ces technologies antérieures ont joué un rôle central dans les vastes transformations sociales des XVIIIe et XIXe siècles, à la fois en tant que causes et en tant qu’effets. Toutes ces technologies, à l’instar des grands modèles, ont favorisé l’abstraction de l’information afin que de nouveaux types d’opérations puissent être menés à grande échelle. Toutes ont suscité des préoccupations justifiées concernant la propagation de la désinformation et des préjugés, l’homogénéisation ou la fragmentation culturelles, ainsi que les changements dans la répartition du pouvoir et des ressources. L’émergence de nouveaux médias de communication, notamment l’imprimerie et la télévision, s’est accompagnée de craintes légitimes que ces nouveaux médias ne diffusent de la désinformation et ne renforcent des forces culturelles néfastes. De même, les systèmes de catégorisation mis en œuvre par les bureaucraties et les marchés comportent souvent des présupposés oppressifs.
Parallèlement, ces technologies ont ouvert de nouvelles possibilités de recombiner l’information et de coordonner les actions de millions de personnes à l’échelle planétaire. Les débats émergents sur les conséquences sociales, économiques et politiques des modèles de langage à grande échelle (LLM) s’inscrivent dans la continuité des inquiétudes et des espoirs historiques profondément enracinés concernant les nouvelles technologies culturelles et sociales. Pour orienter ces débats, il faut à la fois reconnaître les points communs entre les nouveaux arguments et les anciens, et cartographier avec soin les particularités des technologies nouvelles et en constante évolution.
Une telle cartographie figure parmi les tâches centrales des sciences sociales, qui ont vu le jour à la suite des bouleversements sociaux, économiques et politiques de la Révolution industrielle et de ses répercussions. L’étude par les spécialistes en sciences sociales des conséquences de ces technologies du passé peut nous aider à réfléchir aux implications sociales moins évidentes de l’IA, tant négatives que positives, et à envisager des moyens de repenser les systèmes d’IA afin d’accroître les impacts positifs et de réduire les impacts négatifs. Au fur et à mesure que les médias, les marchés et les technologies bureaucratiques se sont développés aux XIXe et XXe siècles, ils ont créé des gagnants et des perdants sur le plan économique, déplaçant des catégories entières de travailleurs, des commis et d’adjoints de bureau aux « calculateurs humains ». Aujourd’hui, on craint manifestement que les grands modèles et les technologies connexes ne remplacent les « travailleurs du savoir ».
D’autres questions, moins évidentes, se posent également. Les grands modèles vont-ils homogénéiser ou fragmenter la culture et la société? Il peut être particulièrement éclairant d’examiner cette question dans un contexte historique. Les préoccupations actuelles rappellent les désaccords des XIXe et XXe siècles concernant les marchés et les bureaucraties. Weber s’inquiétait (9) des conséquences homogénéisantes et abrutissantes de la « rationalisation » économique et bureaucratique, tandis que Mill (10) estimait que les échanges de marché exposeraient les participants à différentes formes de vie et atténueraient les pulsions de conflit (« doux commerce »).
Les grands modèles sont conçus pour bien fonctionner — c’est-à-dire pour reproduire fidèlement, en moyenne, les probabilités réelles des séquences de texte, d’images et de vidéo. Ils ont donc une tendance intrinsèque à être les plus précis dans les situations les plus couramment rencontrées dans leurs données d’apprentissage, et les moins précis dans les situations qui étaient rares dans les données ou entièrement nouvelles. Cela pourrait amener les grands modèles à aggraver le type d’homogénéisation qui hantait Weber.
D’un autre côté, les grands modèles pourraient nous permettre de concevoir de nouvelles façons de tirer parti de la diversité des perspectives culturelles qu’ils résument. Combiner et équilibrer ces perspectives pourrait offrir des moyens plus sophistiqués de résoudre des problèmes complexes (11). Une façon d’y parvenir pourrait consister à construire des écosystèmes « à l’image de la société » dans lesquels différentes perspectives, encodées dans différents grands modèles, se confrontent et pourraient s’enrichir mutuellement pour créer des perspectives hybrides (12) ou pour cerner des lacunes dans l’espace de l’expertise humaine (13) qu’il serait utile de combler. Les grands modèles se révèlent étonnamment efficaces pour extraire des textes et des images des motifs subtils et non évidents. Cela suggère que de telles technologies pourraient servir à repérer, dans les textes et les images, des motifs qui s’entrecroisent à travers l’espace de la connaissance et de la culture humaines, y compris des motifs invisibles à tout être humain en particulier. Nous pourrions avoir besoin de nouveaux systèmes capables de diversifier les réflexions et les personnalités des grands modèles, et de reproduire la même répartition et la même diversité que celles des sociétés humaines.
La diversification de tels systèmes pourrait s’avérer particulièrement importante pour le progrès scientifique. La science formelle elle-même a dépendu de l’émergence des nouvelles technologies culturelles des XVIIe et XVIIIe siècles, allant des cafés et du courrier rapide aux revues scientifiques et à l’évaluation par les pairs. Les technologies d’IA ont le potentiel d’accélérer encore davantage la science, mais cela dépendra de la manière imaginative dont on utilisera et repensera ces technologies. En reliant entre elles tant de perspectives à travers le texte, l’audio et les images, les grands modèles pourraient nous permettre de découvrir des liens sans précédent entre celles-ci, au bénéfice de la science et de la société. Ces technologies ont le plus souvent été entraînées à restituer des renseignements courants en tant qu’assistants utiles. Un éventail de possibilités plus fondamentales pourrait s’ouvrir si nous les déployions comme des cartes pour explorer des territoires jusqu’alors inexplorés.
Il existe également des façons moins évidentes et plus intéressantes dont les nouvelles technologies culturelles et sociales influencent les relations économiques. Le développement des technologies culturelles engendre une tension économique fondamentale entre les personnes qui produisent l’information et les systèmes qui la diffusent. Aucun des deux groupes ne peut exister sans l’autre : un auteur a autant besoin d’éditeurs que les éditeurs ont besoin d’auteurs. Mais leurs incitatifs économiques vont dans des directions opposées. Les diffuseurs en tireront profit s’ils peuvent accéder à l’information des producteurs à moindre coût, tandis que les producteurs en tireront profit s’ils peuvent faire diffuser leur information à moindre coût. Cette tension a toujours caractérisé les nouvelles technologies culturelles. La facilité et l’efficacité de la diffusion de l’information sous forme numérique ont déjà rendu ce problème particulièrement aigu, comme en témoigne la crise qui touche tous les secteurs, des journaux locaux aux revues universitaires. Mais la vitesse, l’efficacité et la portée mêmes des grands modèles, qui traitent simultanément toute l’information disponible, combinées à la propriété centralisée de ces modèles, font peser ces problèmes avec une acuité particulière. La concentration du pouvoir peut permettre à ceux qui possèdent les systèmes de s’accaparer plus facilement les avantages de l’efficacité aux dépens des autres.
Des questions techniques cruciales se posent : dans quelle mesure les imperfections systématiques des grands modèles peuvent-elles être corrigées, et en quoi sont-elles supérieures ou inférieures aux imperfections des systèmes reposant sur des travailleurs du savoir humains? Celles-ci ne doivent pas occulter les questions politiques cruciales : quels acteurs sont capables de se mobiliser autour de leurs intérêts, et comment pourraient-ils façonner la combinaison qui en résultera entre technologie et capacités organisationnelles? Très souvent, les commentateurs du secteur technologique réduisent ces questions à une simple bataille entre les machines et les humains. Soit les forces du progrès l’emporteront face aux tendances luddites rétrogrades, soit, à l’inverse, les êtres humains résisteront avec succès à l’empiétement inhumain de la technologie artificielle. Non seulement cette vision ne tient pas compte de la complexité des luttes de répartition passées — luttes qui sont bien antérieures à l’ordinateur —, mais elle ignore également les nombreuses voies possibles que pourrait emprunter le progrès futur, chacune comportant sa propre combinaison de possibilités et de choix technologiques (8).
Dans le cas des technologies sociales et culturelles antérieures, toute une série d’institutions supplémentaires, notamment des institutions normatives et réglementaires, ont vu le jour pour en tempérer les effets. Celles-ci allaient des rédacteurs en chef, de l’évaluation par les pairs et des lois sur la diffamation pour la presse écrite, jusqu’à la loi électorale, l’assurance-dépôts et la Commission des valeurs mobilières pour les marchés, les démocraties et les bureaucraties. Ces institutions présentaient une efficacité variable et nécessitaient une révision continue. Ces forces de contrepoids ne sont toutefois pas apparues d’elles-mêmes, mais ont résulté d’efforts concertés et soutenus de la part d’acteurs tant à l’intérieur qu’à l’extérieur des technologies elles-mêmes.
Perspectives d’avenir
Le discours sur l’IA générale (AGI), sur les grands modèles en tant qu’agents superintelligents, a été promu tant au sein de la communauté technologique qu’à l’extérieur de celle-ci, tant par les « optimistes » de l’IA que par les « pessimistes » plus inquiets. Ce discours se trompe sur la nature de ces modèles et sur leur relation avec les changements technologiques passés. Mais surtout, il détourne activement l’attention des véritables problèmes et des possibilités que ces technologies présentent, ainsi que des leçons que l’histoire peut nous enseigner sur la manière de s’assurer que les avantages l’emportent sur les coûts.
Bien sûr, comme nous l’avons noté plus haut, il pourrait exister à l’avenir des systèmes d’IA hypothétiques qui ressembleraient davantage à des agents intelligents, et nous pourrions débattre de la manière dont nous devrions traiter ces systèmes hypothétiques; mais les grands modèles de langage (LLM) ne sont pas de tels systèmes, pas plus que ne l’étaient les fichiers de bibliothèque ou Internet. Tout comme les catalogues et Internet, les grands modèles s’inscrivent dans une longue histoire de technologies culturelles et sociales.
Les sciences sociales ont exploré cette histoire en détail, permettant d’acquérir une compréhension distincte des bouleversements technologiques passés. Une collaboration étroite entre l’informatique, l’ingénierie et les sciences sociales nous aidera à comprendre cette histoire et à mettre en pratique ces leçons. Les grands modèles mèneront-ils à une plus grande homogénéité culturelle ou à une fragmentation accrue? Renforceront-ils ou mineront-ils les institutions sociales qui favorisent la découverte humaine? Alors qu’ils redéfinissent l’économie politique, qui en sortira gagnant et qui en sortira perdant? Ces questions, ainsi que d’autres tout aussi pressantes, ne sont pas mises en avant dans les débats qui traitent les grands modèles comme des analogues d’agents humains.
Changer les termes du débat mènerait à une meilleure recherche. Il serait beaucoup plus facile pour les spécialistes en sciences sociales et en informatique de coopérer et de combiner leurs forces respectives si les uns et les autres comprenaient que les grands modèles ne sont ni plus — ni moins — qu’un nouveau type de technologie culturelle et sociale. Les informaticiens pourraient allier leur connaissance approfondie du fonctionnement de ces systèmes à la compréhension qu’ont les spécialistes en sciences sociales de la manière dont d’autres systèmes de grande envergure ont remodelé la société, la politique et l’économie au cours des époques précédentes, afin d’approfondir les programmes de recherche existants et d’en découvrir de nouveaux. Cela aiderait à remédier aux confusions passées, où les informaticiens ont adopté des notions trop simplifiées de phénomènes sociaux complexes (14) tandis que les spécialistes en sciences sociales n’ont pas su saisir le fonctionnement complexe de ces nouvelles technologies.
Cela éloignerait de manière décisive les débats politiques sur l’IA des oppositions simplistes entre la crainte existentielle d’une prise de pouvoir par les machines et la promesse d’un paradis dans un avenir proche où chacun disposerait d’un assistant artificiel parfaitement fiable et compétent. Les conséquences politiques réelles des grands modèles seront certainement différentes. À l’instar des marchés et des bureaucraties, ils rendront certains types de connaissances plus visibles et plus faciles à appréhender qu’auparavant, encourageant les décideurs à se concentrer sur les nouveaux éléments qu’ils peuvent mesurer et observer, au détriment de ceux qui sont moins visibles et plus déroutants. Par conséquent, à l’image de ce qui s’est produit par le passé avec les marchés et les médias, le pouvoir et l’influence se déplaceront vers ceux qui sont capables de déployer pleinement ces technologies, au détriment de ceux qui en sont incapables. L’IA affaiblit la position de ceux sur qui elle est appliquée et qui fournissent ses données, renforçant ainsi celle des experts en IA et des décideurs (14).
Enfin, cette réflexion pourrait redéfinir la pratique de l’IA. Les ingénieurs et les informaticiens sont déjà conscients du problème des biais des grands modèles et s’interrogent sur leur rapport à l’éthique et à la justice. Ils devraient aller plus loin. Comment ces systèmes influeront-ils sur la répartition des ressources? Quelles seront leurs conséquences concrètes sur la polarisation et l’intégration sociétales? Peut-on développer de grands modèles pour renforcer la créativité humaine plutôt que de l’émousser? Trouver des réponses concrètes à ces questions exigera une compréhension tant des sciences sociales que de l’ingénierie. Déplacer le débat sur l’IA des agents vers les technologies culturelles et sociales constitue une première étape cruciale vers l’établissement de cette compréhension interdisciplinaire (15).
Remerciements
Tous les auteurs ont contribué à parts égales à ce travail. J.E. a commencé un mandat de chercheur invité chez Google après la soumission de ce manuscrit.
Références et Notes
1 H. Simon, The Sciences of the Artificial (MIT Press, 1996).
2 F. A. von Hayek, Am. Econ. Rev. 35, 519 (1945).
3 J. C. Scott, Seeing Like a State: How Certain Schemes to Improve the Human Condition Have Failed (Yale Univ. Press, 1998).
4 D. Davies, The Unaccountability Machine (Univ. Chicago Press, 2025).
5 E. Yiu, E. Kosoy, A. Gopnik, Perspect. Psychol. Sci. 19, 874 (2024).
6 T. Chiang, New Yorker 9 (2023).
7 C. Goldin, L. Katz, Q. J. Econ. 113, 693 (1998).
8 D. Acemoglu, S. Johnson, Power and Progress: Our 1000 Year Struggle over Technology and Prosperity (Hachette, 2023).
9 M. Weber, Wissenschaft Als Beruf (Duncker & Humblot, 1919).
10 J. S. Mill, Principles of Political Economy (Longmans and Green, 1920).
11 L. Hong, S. E. Page, Proc. Natl. Acad. Sci. U.S.A. 101, 16385 (2004).
12 S. Lai et al., Proc. 41st Int. Conf. Mach. Learn. 235, 25892 (2024).
13 J. Sourati, J. A. Evans, Nat. Hum. Behav. 7, 1682 (2023).
14 S. L. Blodgett, S. Barocas, H. Daumé, H. Wallach, arXiv:2005.14050 [cs.CL] (2020).
15 L. Brinkmann et al., Nat. Hum. Behav. 7, 1855 (2023).