{"id":9459,"date":"2026-02-27T14:17:36","date_gmt":"2026-02-27T19:17:36","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?p=9459"},"modified":"2026-05-09T15:48:44","modified_gmt":"2026-05-09T19:48:44","slug":"ia-democratie-et-planification","status":"publish","type":"post","link":"https:\/\/gillesenvrac.ca\/carnet\/2026\/02\/ia-democratie-et-planification\/","title":{"rendered":"IA, d\u00e9mocratie et planification"},"content":{"rendered":"\n

Apr\u00e8s avoir lu plusieurs articles r\u00e9cents et d’autres moins r\u00e9cents, ce dernier, paru hier, me semble le plus important : Vers une science de la fiabilit\u00e9 des IA<\/strong><\/a>, par les auteurs Kapoor et Narayanan d’un papier qui a fait beaucoup parler l’an dernier : AI as normal technology<\/a>1<\/a><\/sup>ma traduction : L\u2019IA, une technologie normale<\/a>. Voir aussi leur article explicatif publi\u00e9 quelques mois plus tard : Un guide pour comprendre l\u2019IA comme technologie normale<\/a><\/span><\/p>\n\n\n\n

L’\u00e9volution de la fiabilit\u00e9 des syst\u00e8mes IA ne semble pas aussi rapide que l’esbroufe entourant leur d\u00e9ploiement pourrait laisser croire. <\/p>\n\n\n\n

\"\u00e9volution
Extrait de New Paper: Towards a science of AI agent reliability<\/a><\/figcaption><\/figure>\n\n\n\n

\u00c0 premi\u00e8re vue, un indice de fiabilit\u00e9 qui atteint 80% semble int\u00e9ressant si on n’est pas trop regardant sur la qualit\u00e9 des r\u00e9sultats… \u00c7a me rappelle les r\u00e9sultats de Google quand on le questionnait et qu’il nous proposait un lien \u00ab\u00a0Je suis chanceux\u00a0\u00bb… Mais quand on parle d’utiliser ces outils dans des contextes d\u00e9cisionnels, critiques m\u00eame, 80% c’est un mauvais r\u00e9sultats une fois sur cinq. Comme disent Kapoor et Narayanan, ce sera difficile d’atteindre les seuils n\u00e9cessaires pour les contextes risqu\u00e9s : <\/p>\n\n\n\n

\n

Nous estimons que pour un fonctionnement autonome dans des contextes \u00e0 haut risque, nous avons besoin d\u2019une performance de 3 \u00e0 5 \u00ab neuf \u00bb (une pr\u00e9cision de 99,9 % \u00e0 99,999 %) afin que la fiabilit\u00e9 ne soit plus un probl\u00e8me, et nous ne pensons pas que les agents bas\u00e9s sur le LLM soient en passe d\u2019atteindre un tel seuil. (…) [N]ous pensons que le passage d\u2019une fiabilit\u00e9 de 90 % \u00e0 99 % sera aussi difficile que le passage d\u2019une fiabilit\u00e9 de 99 % \u00e0 99,9 %, et ainsi de suite. <\/p>\n<\/blockquote>\n\n\n\n

\n\n\n\n

C’est bien malheureux : nous ne pourrons nous d\u00e9barrasser des directeurs g\u00e9n\u00e9raux et des m\u00e9decins et administrateurs<\/a> d’h\u00f4pitaux de si t\u00f4t ! L’article de Leif Weatherby<\/strong>,2<\/a><\/sup>directeur du Digital Theory Lab \u00e0 l’universit\u00e9 de New York<\/span> est rafraichissant par son humour. <\/p>\n\n\n\n

\n

L’adoption rapide de l’IA est entreprise dans le but de masquer sa v\u00e9ritable tendance, dans le but d’\u00e9tendre le contr\u00f4le sur les cadres interm\u00e9diaires<\/strong>, en tra\u00e7ant la ligne de la prol\u00e9tarisation juste en dessous de la direction g\u00e9n\u00e9rale, ou juste en dessous du niveau des vice-pr\u00e9sidents.<\/p>\n\n\n\n

(…) Je ne sais pas si l’automatisation implicite de l’ex\u00e9cutif offre un espoir pour un avenir socialiste, mais \u00e0 un moment donn\u00e9, il faut se demander si cela pourrait vraiment \u00eatre pire que ce que nous avons actuellement<\/strong>. L’automatisation des postes de direction doit \u00eatre tentante pour ceux d’entre nous qui n’ont jamais cru \u00e0 la rationalit\u00e9 des managers<\/strong>. [les soulignements sont de Gilles]<\/p>\n<\/blockquote>\n\n\n\n

Ce que Weatherby met en lumi\u00e8re c’est que ce ne sont pas que les postes de premier niveau qui sont \u00e0 risque. D\u00e9j\u00e0 certains postes de cadres et de professionnels (m\u00e9decins, notamment) sont inscrits dans un \u00ab\u00a0pipeline\u00a0\u00bb de processus quasi-num\u00e9ris\u00e9s. <\/p>\n\n\n\n

\n

Avec l’essor d’un pipeline hautement technique<\/strong>, allant des essais contr\u00f4l\u00e9s randomis\u00e9s aux \u00e9quipements de diagnostic, en passant par l’interpr\u00e9tation des donn\u00e9es, le diagnostic et le traitement, nous avons atteint un point o\u00f9 un m\u00e9decin peut \u00eatre d\u00e9fini comme un interrupteur-humain permettant d’\u00e9viter les poursuites [liability-avoiding decision-switch<\/em>]. (…) Pourquoi ne pas transf\u00e9rer les salaires manifestement absurdes des m\u00e9decins<\/strong> et des administrateurs aux infirmi\u00e8res et aux assistants m\u00e9dicaux \u2013 qui effectuent le travail de soins et le reste du diagnostic pratique<\/strong> \u2013 et se d\u00e9barrasser compl\u00e8tement des m\u00e9decins humains, et surtout des administrateurs ?<\/p>\n<\/blockquote>\n\n\n\n

Weatherby n’est pas s\u00e9rieux quand il dit cela. Mais \u00e7a rejoint ce que je disais il y a 8 jours, et non sur un ton humoristique, dans O\u00f9 nous m\u00e8ne l\u2019IA ? Au ciel ou en enfer ?<\/a> : <\/p>\n\n\n\n

\n

Mais est-ce qu\u2019on n\u2019a pas d\u00e9j\u00e0 des robots, comme ces m\u00e9decins sp\u00e9cialistes concentr\u00e9s sur des champs tr\u00e8s limit\u00e9s et orient\u00e9s vers la production en quantit\u00e9 de diagnostics et d\u2019interventions ? D\u00e9j\u00e0 le m\u00e9decin g\u00e9n\u00e9raliste qui te re\u00e7oit sans m\u00eame te regarder, ni te toucher, et qui n\u2019a d\u2019yeux que pour son \u00e9cran et ses r\u00e9sultats d\u2019examens\u2026 on pourrait tout aussi bien faire affaire avec une machine, non ?<\/p>\n<\/blockquote>\n\n\n\n

On peut se rassurer en se disant que les professionnels et les administrateurs ne prendront pas le risque de confier des d\u00e9cisions critiques \u00e0 des machines, avec de telles fiabilit\u00e9s. Mais les machines sont d\u00e9j\u00e0 pr\u00e9sentes dans les bureaux, cliniques et labos. Et, malheureusement, il semble que les d\u00e9cisions prisent par l’IA seule soient meilleurs que celles de l’humain assist\u00e9 de l’IA ! L’entretien de Azeem Azhar avec quatre utilisateurs<\/a> de l’IA dont un m\u00e9decin est… inqui\u00e9tante. <\/p>\n\n\n\n

\n

Plusieurs \u00e9tudes comparent actuellement l\u2019IA\u00a0seule \u00e0 l\u2019IA associ\u00e9e \u00e0 des m\u00e9decins<\/a>, sur diff\u00e9rents types de performances cliniques. Et\u00a0l\u2019IA [seule] a obtenu de meilleurs r\u00e9sultats que les m\u00e9decins associ\u00e9s \u00e0 l\u2019IA<\/strong>. Ce n\u2019\u00e9tait pas pr\u00e9vu. Tout \u00e9tait cens\u00e9 \u00eatre hybride.<\/p>\n<\/blockquote>\n\n\n\n

Alors, si on maintien le professionnel dans l’\u00e9quation, cela abaisse les r\u00e9sultats ! Ou bien on pousse vers l’acceptabilit\u00e9 de l’interaction directe de l’ordinateur avec le client, sans interm\u00e9diaire humain d\u00e9cisionnel, ou bien on abandonne l’usage de l’IA. Que pensez-vous qu’il va se passer ? Azham et ses invit\u00e9s expliquent un tel r\u00e9sultats : <\/p>\n\n\n\n

\n

Les moins performants sont plus enclins \u00e0 accepter les contributions de l\u2019IA, tandis que les experts rejettent les bonnes contributions de l\u2019IA. Et si vous \u00e9tendez cela \u00e0 un soutien agentique, c\u2019est peut-\u00eatre encore plus vrai. Nous ne savons toujours pas. Est-ce parce que les m\u00e9decins ont un biais d\u2019automatisation ? Est-ce parce qu\u2019ils ne savent pas comment utiliser l\u2019IA ? C\u2019est vraiment flou pour l\u2019instant.<\/p>\n<\/blockquote>\n\n\n\n

On peut compter sur la capacit\u00e9 des corporations m\u00e9dicales \u00e0 d\u00e9fendre les privil\u00e8ges et l’estime, la reconnaissance sociale dont ils jouissent. Ils ne se laisseront pas facilement r\u00e9duire \u00e0 assister l’IA plut\u00f4t que l’inverse. Est-ce qu’on a notre mot \u00e0 dire ici, collectivement comme citoyens ou individuellement comme client ? Ou bien ce sont des choses qui se d\u00e9cideront dans les officines de corporations professionnelles, technologiques et financi\u00e8res ? <\/p>\n\n\n\n

On peut penser que le contexte, l’\u00e9cosyst\u00e8me ou le \u00ab\u00a0pipeline technologique\u00a0\u00bb influenceront la mani\u00e8re dont les m\u00e9decins s’approprieront ou utiliseront l’IA. D\u00e9j\u00e0 le fonctionnement \u00ab\u00a0\u00e0 l’acte\u00a0\u00bb a r\u00e9duit la pratique en petites parcelles comptabilisables sans lien apparent avec la condition de vie du patient. Les professions m\u00e9dicales ont bataill\u00e9 ferme, depuis longtemps, pour conserver ou \u00e9tendre leur monopole sur certains actes, l’acc\u00e8s \u00e0 certains traitements ou sp\u00e9cialistes. L’\u00e9mergence d’un \u00ab\u00a0consultant-IA\u00a0\u00bb ne viendra-t-elle pas niveler le terrain avec d’autres para-professionnels ou professions ? \u00c0 moins que les corporations m\u00e9dicales ne s’approprient et monopolisent l’usage de ces IA-consultants. Comme elles le font d\u00e9j\u00e0 pour les produits pharmaceutiques. <\/p>\n\n\n\n

De telles perspectives apparaissent \u00ab\u00a0naturelles\u00a0\u00bb. Elles ne font que suivre le sentier d\u00e9j\u00e0 ouvert, reconnaissant les rapports de force \u00e9tablis. Mais poursuivre les tendances actuelles, les usages dominants est-ce vraiment ce que l’on veut ? Il y a une dimension de performance, d’optimisation et d’acc\u00e9l\u00e9ration dans l’arriv\u00e9e de l’IA qui devrait nous porter \u00e0 prendre une pause. \u00c0 en discuter un peu… Peut-\u00eatre cette technologie nous permettrait-elle de changer de direction plut\u00f4t que de faire plus vite et moins cher ce qu’on fait d\u00e9j\u00e0 ? <\/p>\n\n\n\n

Pour ne pas \u00e9valuer, puis impl\u00e9menter l’IA comme du \u00ab\u00a0business as usual\u00a0\u00bb, il faudrait qu’un certain sentiment d’urgence, justifiant une intention r\u00e9formiste, un d\u00e9sir de changement. <\/p>\n\n\n\n

Un changement saisissant l’irruption de l’IA comme une occasion de r\u00e9viser nos processus, r\u00e9\u00e9quilibrer les chances ou r\u00e9partir les capitaux. Je n’ai pas encore lu attentivement les deux longs articles de Benanav bourr\u00e9s de r\u00e9f\u00e9rences (+150) mais je les ai parcouru suffisamment pour appr\u00e9cier la complexit\u00e9 des solutions propos\u00e9es par l’auteur pour planifier l’\u00e9conomie en fonction de valeurs plus globales que les seuls int\u00e9r\u00eats financiers des propri\u00e9taires des moyens de production. Tenir compte des conditions environnementales, des d\u00e9sirs et besoins des populations gr\u00e2ce \u00e0 de nouvelles institutions, dont le remplacement de la monnaie par des cr\u00e9dits et des points. <\/p>\n\n\n\n

Le d\u00e9bat sur l’utilisation des outils num\u00e9riques pour planifier et remplacer ou encadrer l’influence du march\u00e9 ne date pas d’hier. Comment fixer des prix justes ? Je cherche o\u00f9 je peux trouver cette r\u00e9f\u00e9rence aux d\u00e9bats des ann\u00e9es 30-40 sur le \u00ab\u00a0calcul socialiste\u00a0\u00bb. \u00c7a y est, c’est dans Digital Socialism <\/a>de Evgeny Morozov, dans un New Left Review de 2019 (ma traduction : Socialisme num\u00e9rique ?<\/a>). Dans un billet de 2020 je disais :<\/p>\n\n\n\n

\n

Dans un article de juin 2019, publi\u00e9 par la New Left Review, Digital Socialism<\/a>, Morozov relate les d\u00e9bats des ann\u00e9es 30-40 entre Hayek et les tenants de la planification socialiste\u2026 mais aussi met en lumi\u00e8re les possibilit\u00e9s des technologies pour une planification d\u00e9mocratique et d\u00e9centralis\u00e9e, chose qui n\u2019\u00e9tait pas possible \u00e0 l\u2019\u00e9poque. D\u00e9j\u00e0, dans Le Monde diplomatique de d\u00e9cembre 2016, avec Pour un populisme num\u00e9rique (de gauche)<\/a>, Morozov d\u00e9fendait l\u2019id\u00e9e que les \u00ab donn\u00e9es personnelles \u00bb qu\u2019utilisent \u00e0 leur profit les Amazon et Facebook de ce monde devraient \u00eatre du domaine public, et \u00e0 ce titre \u00eatre accessibles, utilisables par tous. Avec Digital Socialism, il pousse un peu plus loin en promouvant la \u00ab socialisation des moyens de r\u00e9troaction \u00bb. La planification et la coordination sociales n\u2019ont plus \u00e0 \u00eatre soit centralis\u00e9es ou laiss\u00e9es au march\u00e9, elles peuvent \u00eatre d\u00e9centralis\u00e9es gr\u00e2ce aux nouvelles technologies.<\/p>\nAutour de Morozov<\/a>, 16 janvier 2020<\/cite><\/blockquote>\n\n\n\n

Dans son Socialism after AI<\/a> (Le socialisme apr\u00e8s l\u2019IA<\/a>) publi\u00e9 en d\u00e9cembre dernier, Morozov r\u00e9p\u00e8te son mantra de l’exp\u00e9rimentation d\u00e9centralis\u00e9e entre les mains des citoyens, des coops, des cliniques : <\/p>\n\n\n\n

\n

[Des] projets d\u2019IA municipaux, coop\u00e9ratifs et bas\u00e9s sur des mouvements, chacun avec ses propres priorit\u00e9s. Une administration municipale pourrait maintenir des mod\u00e8les ouverts form\u00e9s \u00e0 partir de documents publics et de connaissances locales, int\u00e9gr\u00e9s dans les \u00e9coles, les cliniques et les bureaux du logement selon des r\u00e8gles fix\u00e9es par les r\u00e9sidents.<\/p>\n<\/blockquote>\n\n\n\n

N’est-ce pas ce que souhaitent les thurif\u00e9raires de l’IA, comme le r\u00eave tout haut un des fondateurs d’Anthropic, Jack Clark en conversation avec Ezra Klein : \u00c0 quelle vitesse les agents IA vont-ils bouleverser l\u2019\u00e9conomie ?<\/a> Bon, sans doute se pose la question de la propri\u00e9t\u00e9 de ces mod\u00e8les d’IA. Je n’ai pas encore entendu les propri\u00e9taires de l’IA proposer de donner leurs mod\u00e8les aux municipalit\u00e9s…3<\/a><\/sup>Mais les mod\u00e8les chinois ne sont-ils pas ouverts ? GB<\/span> Le monde r\u00eav\u00e9 par ces vendeurs de quincaillerie IA s’adresse \u00e0 des clients, individuels ou corporatifs… les outils qu’ils promettent vont leur faciliter la vie, les rendre plus productifs, plus profitables. Et non plus justes ou plus \u00e9quitables, ce serait changer les r\u00e8gles du jeu !<\/p>\n\n\n\n

Ce que Shapiro met en relief dans son texte r\u00e9cent (La prochaine grande transformation<\/a>) c’est la dimension sociale, l’inscription, le r\u00e9encastrement dans la soci\u00e9t\u00e9 d’une \u00e9conomie saine. L’Occident a \u00ab\u00a0gagn\u00e9 la guerre froide\u00a0\u00bb gr\u00e2ce \u00e0 ses programmes sociaux et l’\u00c9tat providence. Pourtant la fin de la guerre froide a co\u00efncid\u00e9 avec le d\u00e9mant\u00e8lement ou \u00e0 tout le moins l’affaiblissement dudit \u00c9tat-providence, au profit d’un capital de moins en moins ancr\u00e9, de plus en plus volatile… et concentr\u00e9. <\/p>\n\n\n\n

C’\u00e9tait aussi, un peu, ce que soulignait Farrell dans son IA est une technologie sociale<\/a>, qui r\u00e9pondait \u00e0 l’assertion de Kapoor et Narayanan qui, quant \u00e0 eux, d\u00e9fendaient une conception de l’IA comme une technologie normale<\/a>. Cette technologie n’est pas miraculeuse, et elle aura besoin de s’inscrire dans des contextes technologiques et sociaux particuliers pour \u00eatre utilis\u00e9e. Des contextes qui, pour l’instant, sont domin\u00e9s par une culture comp\u00e9titive, guerri\u00e8re et identitaire. <\/p>\n\n\n\n

Les m\u00e9canismes de r\u00e9troaction<\/em>, que Morozov souhaitait socialiser (en 2019, dans Socialisme num\u00e9rique ?<\/a>), en obligeant les Big Data \u00e0 partager au moins une partie de leurs donn\u00e9es et analyses, sont devenus l’IA, en 2025, dont Morozov souhaite d\u00e9centraliser, d\u00e9mocratiser l’acc\u00e8s (dans Le socialisme apr\u00e8s l’IA<\/a>). Mais pourquoi l’IA serait-elle plus partageable, d\u00e9mocratisable que les infrastructures de r\u00e9troaction num\u00e9riques<\/em> en 2019 ou encore les centres de donn\u00e9es (Socialize the Data Centres<\/a>), en 2015 ? Les m\u00eames principes de fonctionnement d\u00e9centralis\u00e9 assurant le maximum de libert\u00e9 aux unit\u00e9s de base traversent les \u00e9crits et travaux4<\/a><\/sup>Autour de Stafford Beer – The Santiago Boys<\/a>; Evgeny Morozov: We Need a Nonmarket Modernist Project<\/a> [Jacobin]<\/span> de Morozov. Mais la strat\u00e9gie pour mettre en oeuvre de telles id\u00e9es g\u00e9n\u00e9reuses est mince, pour ne pas dire inexistante.<\/p>\n\n\n\n

J’ai relu, apr\u00e8s l’avoir traduit, le texte de 2019, pour mieux comprendre celui de 2025… Je vais relire la critique men\u00e9e par Benanav de la position de Morozov (Une v\u00e9ritable \u00e9conomie politique de la technologie – Une r\u00e9futation de Morozov<\/a>), pour d\u00e9terminer si je dois lire, enfin, les deux longs textes de Benanav (Au del\u00e0 du capitalisme \u2014 1<\/a> et Au del\u00e0 du capitalisme \u2014 2<\/a>) dont je n’ai pour l’instant que parcouru les paragraphes pour mieux y ins\u00e9rer les quelques 150 notes de bas de page.<\/p>\n\n\n\n

Je n’ai pas l’impression que l’utopie (\u00ab\u00a0au del\u00e0\u00a0\u00bb) \u00e9labor\u00e9e par Benanav sera vraiment plus instructive sur les strat\u00e9gies de mise en oeuvre… <\/p>\n\n\n\n

Et puis, il y a le texte avec lequel je commen\u00e7ais ce billet, Vers une science de la fiabilit\u00e9 des IA<\/a> que je devrais relire pour pond\u00e9rer l’enthousiasme d’un Morozov. <\/p>\n\n\n\n

\n\n\n\n

Billets pass\u00e9s \u00e0 sujets similaires<\/h2>\n\n\n\n