À propos de James Scott et de la technologie
Traduction de High Modernism made our world par Henry Farrell, le 29 juillet 2024.
Le politologue James Scott est décédé la semaine dernière. Je ne le connaissais que par e-mail – une correspondance occasionnelle et irrégulière, consistant principalement en des tentatives infructueuses d’organiser des débats autour de ses travaux lors de congrès de sciences politiques. Comme il le suggérait dans un essai biographique, « Journal intellectuel d’un iconoclaste », paru il y a quelques mois à peine, il était en quelque sorte détaché de sa discipline universitaire.
Je me suis éloigné des sciences politiques, même si je pourrais soutenir que ce sont les sciences politiques qui se sont éloignées de moi. Je suis honoré d’être considéré comme un spécialiste, et sans doute tout autant d’être accueilli par l’anthropologie et l’histoire.
Le monde s’est enrichi grâce à son iconoclasme. Scott écrivait bien mieux que ne sont censés le faire les politologues, et ses idées ainsi que son œuvre étaient trop vastes pour se cantonner à une seule discipline. Bien que ses arguments s’ancrent largement dans le passé, son ouvrage, Voir comme un État : comment certains projets visant à améliorer la condition humaine ont échoué, a façonné notre réflexion sur la technologie.
Seeing Like a State est important en raison de la manière dont il pose le problème de la modernité. Scott critiquait les vastes systèmes impersonnels – bureaucraties et marchés – dont dépend la société moderne. Il estimait qu’ils privilégiaient le type de pensée qui vient naturellement aux ingénieurs plutôt que celui qui vient spontanément aux paysans et aux artisans, et que nous avions ainsi perdu quelque chose de très important.
Selon Scott, tant les gouvernements que les marchés à longue distance « voient » le monde à travers des abstractions : normes techniques, systèmes de catégories, etc. Un gouvernement ne peut pas voir directement son peuple, ni ce qu’il fait. Ce qu’il peut voir, ce sont des éléments tels que les statistiques mesurant la population, le nombre de personnes ayant un emploi ou au chômage, les pourcentages de citoyens travaillant dans tel ou tel secteur, etc. Ces mesures – sous forme de chiffres, de graphiques et de catégories – lui permettent de définir sa politique.
Une telle connaissance confère à ses utilisateurs un pouvoir énorme pour façonner la société – mais souvent sans la compréhension détaillée et intime qui leur permettrait de bien la façonner. Il existe une grande partie de la réalité sociale qui est mal décrite, voire pas du tout, par les catégories ou les statistiques. Malgré tout, à mesure que les gouvernements et les marchés asseyaient leur pouvoir, non seulement ils percevaient le monde de manière très limitée, mais ils le façonnaient pour qu’il se conforme davantage à leur compréhension partielle, en gommant les particularités et les inefficacité apparentes qui faisaient obstacle à leurs vastes projets. L’État ne se contentait pas de « voir » sa société à travers des catégories bureaucratiques, mais s’efforçait de remodeler cette société afin qu’elle corresponde mieux aux idées préconçues du gouvernement.
Il en va de même pour les abstractions et les catégories générales dont dépendent les marchés à longue distance, comme l’a observé l’historien William Cronon dans son excellent ouvrage sur le Chicago du XIXe siècle, Nature’s Metropolis (Scott en était un admirateur). Comme l’a fait remarquer un autre chercheur à propos des marchés de Chicago à la fin du XXe siècle, les conceptions financières en apparence abstraites peuvent être des moteurs, et non de simples caméras, façonnant l’économie plutôt que de se contenter de la refléter.
Cette abstraction des complexités enchevêtrées du monde en catégories et normes simplifiées a sous-tendu de vastes projets d’État et favorisé d’énormes gains d’efficacité sur les marchés. Sans elle, nous ne pourrions pas mener ce que nous considérons aujourd’hui comme des vies acceptables, comme Scott l’a reconnu à contrecœur. Elle a également souvent précipité des catastrophes, notamment la collectivisation soviétique et la Grande Famine chinoise.
Quel est donc le rapport avec les technologies de l’information modernes ? C’est très simple : si vous lisez Scott, vous constaterez des similitudes marquées entre, par exemple, les ambitions des bureaucrates des années 1960, convaincus de pouvoir planifier des pays et des villes pour des « citoyens abstraits », et les visions des entrepreneurs de la Silicon Valley, convaincus que les algorithmes et les fonctions objectives créeraient un monde plus efficace et plus harmonieux.
Scott s’intéresse particulièrement aux responsables des pays en développement, qui voyaient la « planification » d’un œil idyllique. Bon nombre de leurs idées provenaient de seconde main de l’exemple le plus frappant du haut modernisme : les efforts des bureaucrates soviétiques pour utiliser les statistiques de production et la programmation linéaire afin de faire fonctionner l’économie planifiée. C’est là que réside le lien le plus évident entre ce dont parle Scott et les ambitions algorithmiques de la Silicon Valley d’aujourd’hui. Un parfum distinct de «Camarades, optimisons !» persiste, par exemple, dans l’optimisme désinvolte de la fameuse note de service d’Andrew Bosworth, cadre chez Facebook : «Nous connectons les gens. Point barre».
Tant les anciennes ambitions que les nouvelles constituent des paris sur le pouvoir universel d’un type particulier de savoir technique — ce que Scott appelle la techne, ce savoir qui peut « s’exprimer de manière précise et exhaustive sous la forme de règles strictes et immuables (et non de règles empiriques), de principes et de propositions ». Scott décrit les limites de la techne d’une manière qui trouve un écho aujourd’hui. Les grands projets ratés du milieu à la fin du XXe siècle – ces immenses villes rationalisées comme Brasilia, conçues selon des plans qui ressemblaient presque aux cases d’un échiquier ; les efforts visant à déplacer les paysans et à planifier l’agriculture à grande échelle – sont très proches des ambitions avortées de Facebook de construire un monde de connexions partagées sur des fondements algorithmiques, et du « brejnevisme » des réseaux sociaux qui en résulte aujourd’hui.
Ainsi, la planification étatique du XXe siècle et l’évangélisme des réseaux sociaux du XXIe siècle sont deux facettes de ce que Scott appelait le « haut modernisme… une ingénierie radicale et rationnelle de tous les aspects de la vie sociale visant à améliorer la condition humaine ». Le haut modernisme était à la fois une foi et une pratique. Il a transformé des relations sociales riches et diffuses en quelque chose de bien plus réducteur, qui pouvait être mesuré et observé.
Face à ce type de savoir, Scott a mis en avant la valeur du metis – « le type de savoir qui ne s’acquiert que par une longue pratique de tâches similaires mais rarement identiques, et qui exige une adaptation constante à des circonstances changeantes ». C’est le genre de savoir tacite que les paysans finissent par acquérir sur leurs terres et les conditions météorologiques, ou que les membres de sociétés moins rigides accumulent sur la manière de vivre avec les autres dans une paix tolérable. Scott – un anarchiste – préférait de loin ce dernier type de savoir, ainsi que les sociétés qui lui accordaient davantage de valeur, au monde dans lequel nous vivons aujourd’hui.
Scott fournit des arguments intellectuels à ceux qui souhaitent comprendre ce que la Silicon Valley a en commun avec les grandes initiatives du passé visant à améliorer la condition humaine. C’est une mine de comparaisons utiles. Marion Fourcade et moi-même avons rédigé un article intitulé « L’économie morale du modernisme high-tech », qui explore les parallèles et les différences entre les moteurs de classification de l’apprentissage automatique et les anciens mécanismes de catégorisation de la bureaucratie et du marché. L’essai de Maria Farrell (ma sœur) et Robin Berjon, Rewilding the Internet1GB: Voir L’Internet est mort, vive l’Internet sauvage, transforme un exemple tiré de Scott en une puissante métaphore générale pour expliquer la différence entre une écologie réellement vécue et les « plantations » des réseaux sociaux : « des environnements hautement concentrés et contrôlés, plus proches de l’élevage industriel dans les parcs d’engraissement ou des élevages de poulets en batterie qui rendent folles les créatures qui y sont piégées. » Eugene Wei explique en quoi « le règne d’Elon Musk sur Twitter ressemble à l’un des échecs autoritaires de la haute modernité décrits par James Scott ». Barath Ragavan et Bruce Schneier écrivent à propos de « Seeing Like a Data Structure » (Voir comme une structure de données), expliquant comment :
L’informatique dynamise l’utilisation créative et pratique de l’abstraction. C’est ainsi que se présente la vie lorsque nous voyons le monde tel qu’une structure de données le perçoit. Ce sont là les mêmes mécanismes que Scott a documentés. Ce qui a changé, c’est leur rapidité et leur omniprésence.
Et dans l’un de mes exemples préférés, la série de romans fantastiques Craft de Max Gladstone met à profit les idées de Scott (parmi bien d’autres) pour évoquer la manière dont les marchés et la technologie ont dévoré le monde, ainsi que ce que nous avons perdu et gagné.
Je n’ai aucune idée de ce que Scott pensait de toutes ces personnes qui réutilisaient ses idées et son œuvre pour décrire la technologie. J’ai toujours voulu lui poser la question, mais je n’avais pas l’impression de le connaître suffisamment bien pour lui écrire par e-mail. Il était connu pour sa gentillesse et sa générosité, mais aussi pour l’impatience qu’il exprimait avec force envers ceux qui le contredisaient de manière inappropriée. J’ai toujours craint de faire partie de cette dernière catégorie.
Et il aurait sans doute eu raison d’être impatient avec moi ! Je ne saurais trop insister sur tout ce que j’ai appris de Scott – mais j’ai des réserves, et bien plus que de simples réserves. Ses idées étaient bien plus qu’importantes. Elles offraient une philosophie profonde, largement cohérente et ancrée dans la réalité, du monde et de ce qui n’allait pas en lui. Mais comme toutes les philosophies de ce genre, elles ont leurs limites et certains aspects ne sont pas bien saisis.
D’après ma compréhension partielle et peut-être erronée (encore une fois, je ne me suis jamais vraiment entretenu avec lui), la grande force de l’œuvre de Scott résidait dans la puissance de sa critique, tandis que sa plus grande faiblesse était l’absence d’une alternative générale convaincante. Les aspects de l’œuvre de Scott qui ont des chances de perdurer, de se renouveler et de croiser avec les idées d’autres personnes sont les descriptions et l’analyse de ce qui ne va pas lorsque l’on traite les sociétés complexes comme autant de problèmes d’ingénierie. Il est frappant de constater à quel point ses arguments décrivent et expliquent avec justesse les problèmes liés à des technologies qui n’avaient même pas encore commencé à s’implanter à l’époque où il écrivait. Mais nous ne reviendrons jamais à des sociétés organisées autour du savoir paysan et de cette intelligence, finement observée mais inarticulée, des circonstances immédiates qu’il aimait tant. Presque personne ne le souhaite : ni Scott, ni, dans l’ensemble, les paysans eux-mêmes.
Comment préserver alors les aspects positifs de la modernité tout en atténuant ses aspects négatifs ? Les réponses de Scott à cette question étaient nettement moins convaincantes que sa critique. Il admettait à contrecœur que les biens collectifs et les dispositions libérales qui rendent la vie moderne tolérable dépendent des vastes mécanismes de l’État et du marché. Il invoquait à juste titre l’importance de la démocratie comme contrepoids aux excès de la bureaucratie et comme source alternative d’information. Mais il n’a jamais proposé de cadre convaincant permettant de concilier ces éléments d’une manière qui se rapproche de la force et de l’originalité de ses critiques.
Une réponse possible à la question de savoir quoi faire est apportée par Suresh Naidu : nous devrions construire un modernisme élevé, meilleur et différent.
On ne peut pas prendre Scott trop au sérieux tout en espérant conserver des sociétés complexes et technologiquement avancées. Comme l’a observé Foucault, de manière seulement un peu critique, ce que l’école économique de Chicago a proposé, c’est un ensemble particulier de figures philosophiques qui permettent la gouvernance, en faisant abstraction des motivations et des environnements complexes, et en réduisant tout à des incitations et à la rationalité, à l’instar de disciplines telles que la psychologie et la criminologie à des époques antérieures de l’histoire. … Heureusement peut-être, l’économie a fini de jouer le rôle de métaphore maîtresse de la gouvernance pour l’avenir prévisible. Peut-être qu’une approche philosophique post-néolibérale viendra de l’informatique, qui intégrera ses propres angles morts dans les agents rationnels qu’elle construit. Mais l’émergence des sciences sociales computationnelles, de la conception de mécanismes algorithmiques et de l’intelligence artificielle a encore davantage institutionnalisé l’économie au sein de certains algorithmes et protocoles de l’économie numérique, les chercheurs travaillant activement à intégrer également des principes de justice et d’équité dans ces derniers.
Ici, l’une des questions en suspens les plus intéressantes est de savoir si de nouvelles formes d’apprentissage automatique peuvent cartographier certains types de savoir tacite auxquels Scott (ainsi que Hayek et Michael Polanyi) accordent de l’importance, mieux que ne le font les règles et les formalisations du modernisme classique. Un LLM est une représentation et une simplification du texte dont il se nourrit, mais ce n’est pas une règle ni rien qui s’en rapproche. En d’autres termes, les LLM et les modèles similaires ne sont pas de la techne, même s’ils ne sont pas non plus de la metis. Ils sont puissants mais incompréhensibles. Leur utilisation aggravera-t-elle ou atténuera-t-elle les problèmes décrits par Scott, ou bien générera-t-elle de nouvelles possibilités ou de nouveaux problèmes en dehors de son cadre de référence ? Ce sont là des questions ouvertes.
Une autre consiste à essayer de définir des approches hybrides. Je ne suis pas du tout convaincu que la proposition d’Ohlaver, Weyl et Buterin visant à reconstruire les relations sociales sur la base de « soulbound tokens » [jetons liés à l’âme ou jetons non transférables] fonctionnerait. Mais une interprétation plausible de cette proposition est la suivante : elle cherche à fournir les éléments technologiques de base qui permettraient aux gens de construire des communautés de type Scott à plus grande échelle. L’approche des « soulbound tokens » s’éloigne du modernisme exacerbé de la plupart des cryptomonnaies – l’hypothèse selon laquelle on peut simplement remplacer la confiance par la cryptographie, les preuves à divulgation nulle de connaissance et les mécanismes de révélation des préférences – pour s’orienter vers la conviction qu’il faut favoriser et encourager les relations de confiance humaines, et construire des technologies autour d’elles plutôt que de les supplanter. Ces jetons sont – si je comprends bien – censés faciliter la création de communautés, sans imposer les valeurs ni la forme de la communauté.
De même, la proposition de Maria et Robin selon laquelle les technologues et les régulateurs devraient considérer Internet comme un écosystème plutôt que comme un problème d’économie abstraite — un essai qui doit vraiment se transformer en livre, et vite :
Nous devons cesser de considérer l’infrastructure d’Internet comme trop difficile à réparer. C’est le système sous-jacent que nous utilisons pour presque tout ce que nous faisons. … C’est ainsi que nous nous organisons, que nous nous connectons et que nous construisons la connaissance, voire — peut-être — l’intelligence planétaire. À l’heure actuelle, ce système est concentré, fragile et extrêmement toxique.
Les écologistes ont réorienté leur discipline pour en faire une «discipline de crise», un domaine d’étude qui ne vise pas seulement à apprendre des choses, mais aussi à les sauver. Nous, les technologues, devons faire de même. « Rewilding the Internet » relie et développe les initiatives menées par les gens dans les domaines de la réglementation, de la définition de normes et des nouvelles façons d’organiser et de construire des infrastructures, afin de raconter une histoire commune sur la direction que nous voulons prendre. C’est une vision partagée qui s’appuie sur de nombreuses stratégies. Les outils dont nous avons besoin pour nous éloigner des monocultures technologiques extractives sont à portée de main ou prêts à être construits.
Tout cela suggère que vous pourriez recadrer mes critiques à l’égard de Scott de manière plus positive. Sa contribution ne consiste pas à fournir un cadre systématique pour nous sortir du trou dans lequel nous nous sommes enfoncés, mais à semer certaines des graines d’une écologie intellectuelle différente, dans laquelle d’autres reprendront ses idées, les utiliseront pour argumenter, tout en les remettant en question et en débattant entre eux, et découvriront ainsi des aspects du monde qu’ils n’auraient jamais vus autrement. Ce serait là un héritage aussi remarquable que n’importe quel penseur pourrait le souhaiter.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.
Notes
- 1