{"id":9360,"date":"2026-02-17T19:41:54","date_gmt":"2026-02-18T00:41:54","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?p=9360"},"modified":"2026-02-18T22:37:28","modified_gmt":"2026-02-19T03:37:28","slug":"ou-nous-mene-lia-au-ciel-ou-en-enfer","status":"publish","type":"post","link":"https:\/\/gillesenvrac.ca\/carnet\/2026\/02\/ou-nous-mene-lia-au-ciel-ou-en-enfer\/","title":{"rendered":"O\u00f9 nous m\u00e8ne l’IA ? Au ciel ou en enfer ?"},"content":{"rendered":"\n

Dans un article du New York Times, O\u00f9 nous m\u00e8ne l’intelligence artificielle ?<\/a> (ma traduction) on peut voir, en quelques questions pos\u00e9es \u00e0 8 \u00ab\u00a0grands penseurs\u00a0\u00bb, la diversit\u00e9 des opinions et les oppositions de points de vue. Sur la question de l’\u00e9ducation je pr\u00e9f\u00e8re encore \u00e9couter Stephen Downes<\/a>, qui, m\u00eame si je le trouve un peu trop optimiste, ou agnostique en ce qui a trait \u00e0 la (pr\u00e9tendue) puissance de l’IA, nous ram\u00e8ne aux questions de fonds que le monde de l’\u00e9ducation doit se poser<\/a> (ma traduction). \u00c7a rejoint un peu ce que disait une des 8 personnes interview\u00e9es par le NYT : \u00ab\u00a0L\u2019\u00e9ducation avait d\u00e9j\u00e0 besoin d\u2019une refonte en profondeur, donc la n\u00e9cessit\u00e9 de s\u2019adapter aux nouveaux outils d\u2019IA pourrait \u00eatre une b\u00e9n\u00e9diction d\u00e9guis\u00e9e.\u00a0\u00bb C’est la m\u00eame Helen Toner qui disait, d’entr\u00e9e de jeu : <\/p>\n\n\n\n

\n

Je pense que nous disposerons de syst\u00e8mes d\u2019IA capables d\u2019apporter une contribution significative \u00e0 la pointe de plusieurs domaines scientifiques, mais auxquels vous ne confieriez toujours pas l\u2019organisation des camps d\u2019\u00e9t\u00e9 de vos enfants.<\/p>\n<\/blockquote>\n\n\n\n

Par ailleurs j’ai appr\u00e9ci\u00e9 le rapide tour d’horizon fait par David William Silva<\/strong> le 9 f\u00e9vrier dernier dans Je suis d\u00e9sol\u00e9 de briser vos illusions : vous vous faites berner au sujet de l\u2019IA, et vous allez bient\u00f4t vous sentir vraiment stupide<\/a>. (ma traduction).<\/p>\n\n\n\n

\n

J\u2019ai utilis\u00e9 l\u2019IA \u00e0 plusieurs reprises comme m\u00e9canisme de brainstorming, comme caisse de r\u00e9sonance pour des id\u00e9es en phase initiale.<\/p>\n\n\n\n

Et voici ce que j\u2019ai d\u00e9couvert : chaque fois que j\u2019avais une id\u00e9e qui sortait vraiment des sentiers battus, l\u2019IA me d\u00e9courageait de la poursuivre<\/strong>. Lorsque j\u2019ai persist\u00e9, elle ne s\u2019est pas content\u00e9e de me repousser, elle m\u2019a pratiquement suppli\u00e9<\/em> d\u2019arr\u00eater. De ne pas continuer. De ne pas insister.<\/p>\n\n\n\n

R\u00e9fl\u00e9chissez \u00e0 ce que cela signifie. L\u2019outil que tout le monde vous pr\u00e9sente comme \u00ab cr\u00e9atif \u00bb et \u00ab r\u00e9volutionnaire \u00bb est, de par son architecture, incapable de faire autre chose que de calculer la moyenne de ce qui existe d\u00e9j\u00e0<\/strong>. Il s\u2019agit d\u2019un r\u00e9sum\u00e9 statistique du pass\u00e9 qui se fait passer pour une fen\u00eatre sur l\u2019avenir<\/strong>.<\/p>\n<\/blockquote>\n\n\n\n

Autrement dit si vous utilisez IA pour r\u00e9sumer des \u00e9changes, des documents ou des ensembles de documents vous risquez fort de perdre ce qu’il y a de novateur, de cr\u00e9atif dans le lot. <\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Parmi les critiques les plus solides de l’engouement actuel pour la \u00ab\u00a0machine qui parle\u00a0\u00bb, je crois qu’il faut retenir le dernier livre d’\u00c9ric Sadin, philosophe fran\u00e7ais qui en est, avec Le d\u00e9sert de nous-m\u00eame<\/strong>, \u00e0 son dixi\u00e8me livre sur la question de l’IA et ses corollaires. <\/p>\n\n\n\n

Sadin fait le tour des mondes touch\u00e9s (\u00e9ducation, travail, arts, litt\u00e9rature et traduction). <\/p>\n\n\n\n

\n

Comment ne pas percevoir dans les terribles, et si \u00e9loquentes, paroles de ce professeur que quelque chose comme l’un des pivots de notre humanit\u00e9 commune est en train de vaciller? : \u00abLes \u00e9tudiants remettent en question l’int\u00e9r\u00eat m\u00eame de faire des devoirs. C’est tellement d\u00e9moralisant. J’adorais mon travail, mais j’ai d\u00e9cid\u00e9 d’arr\u00eater compl\u00e8tement. Avec des outils comme ChatGPT, ils pensent qu’ils n’ont plus aucune raison de d\u00e9velopper des comp\u00e9tences. Je me demande pourquoi je perds mon temps \u00e0 noter des textes r\u00e9dig\u00e9s par une machine que mes \u00e9tudiants n’ont peut-\u00eatre m\u00eame pas pris la peine de lire. La sensation d’inutilit\u00e9 mine ma p\u00e9dagogie. Je suis effondr\u00e9. Avec ChatGPT, plus rien n’a de sens. C’est la fin d’une relation particuli\u00e8re, d\u00e9j\u00e0 sur le d\u00e9clin, entre \u00e9l\u00e8ves et professeurs. L’IA marque moins le d\u00e9but d’une \u00e8re nouvelle qu’elle n’est le coup de gr\u00e2ce port\u00e9 \u00e0 un m\u00e9tier d\u00e9j\u00e0 \u00e0 genoux en raison des coupes budg\u00e9taires, du d\u00e9clin \u00e9conomique, de la course aux dipl\u00f4mes…\u00bb<\/p>\nLe d\u00e9sert de nous-m\u00eame, p. 76<\/cite><\/blockquote>\n\n\n\n

Alors que la France accueillait \u00e0 Paris, en f\u00e9vrier 2025, le Sommet pour l’action sur l’intelligence artificielle (IA)<\/a><\/em> qui se voulait une approche positive, Sadin s’est retrouv\u00e9 au coeur d’un \u00ab\u00a0contre-sommet\u00a0\u00bb (Contre-sommet de l’IA : pour un humanisme de notre temps<\/a>) qui s’est tenu en m\u00eame temps au Th\u00e9\u00e2tre de la Concorde, \u00e0 quelques centaines de m\u00e8tres du Grand Palais o\u00f9 se tenait le sommet officiel. <\/p>\n\n\n\n

Son livre se termine sur sept exigences<\/strong>, sept principes suivis de sept actions<\/strong>. Parmi les principes, les qualit\u00e9s humaines, fondement des libert\u00e9s, \u00e0 d\u00e9fendre; les limites corporelles et mentales \u00e0 prot\u00e9ger; les savoir-faire accumul\u00e9s parfois depuis des si\u00e8cles, \u00e0 p\u00e9r\u00e9nniser; l’isolement \u00e0 contrer; les d\u00e9veloppements technologiques \u00e0 contr\u00f4ler \u00e0 partir du terrain; les aides publiques aux technologies d\u00e9l\u00e9t\u00e8res \u00e0 abolir; le refus des demandes de compensations financi\u00e8res par les auteurs et artistes ! Ce dernier point parce que n\u00e9gocier, et accepter des compensations c’est l\u00e9gitimer l’appropriation monopoliste des savoirs et cr\u00e9ations de tous. <\/p>\n\n\n\n

Du c\u00f4t\u00e9 des actions, tout d’abord le d\u00e9veloppement de r\u00e9seaux de solidarit\u00e9s nationales et internationales; des chartes \u00e9tablies par les principaux concern\u00e9s pour identifier ce qui est acceptable et ce qu’il faut refuser; refuser d’utiliser les syst\u00e8mes qui bafouent les principes d\u00e9gag\u00e9s par l’action collective; faire gr\u00e8ve, comme les sc\u00e9naristes de Hollywood; utiliser les recours en justice possibles; chaque gain cr\u00e9e de la jurisprudence; rassembler et diffuser la contre-expertise \u00e9manant des acteurs terrain pour l’opposer aux \u00ab\u00a0discours hors-sol\u00a0\u00bb v\u00e9hicul\u00e9s par les \u00ab\u00a0tenants de l’obsolescence de l’homme\u00a0\u00bb. <\/p>\n\n\n\n

Mais je me demande : eut-on suivi de tels conseils par le pass\u00e9 est-ce qu’on aurait encore la typographie \u00e0 l’ancienne ? <\/p>\n\n\n\n

\n\n\n\n

Je ne sais si je dois classer ce D\u00e9sert de nous-m\u00eame<\/strong> parmi les discours catastrophistes anti-IA. Des discours d’opposition qui se trouvent \u00e0 servir, indirectement, les promoteurs de cette m\u00eame IA en accr\u00e9ditant la puissance \u00ab\u00a0extraordinaire\u00a0\u00bb de ces technologies… qui changeront le monde, qu’on le veuille ou pas. Et alors, on doit se pr\u00e9cipiter pour en prendre le contr\u00f4le, malgr\u00e9 les risques inh\u00e9rents car si on ne le fait pas, les \u00ab\u00a0ennemis sans vergogne\u00a0\u00bb ne se g\u00e8neront pas et nous soumettront \u00e0 leur contr\u00f4le, leur monopole. <\/p>\n\n\n\n

Ce que je retiens de Sadin, et aussi de Downes, c’est qu’il ne faut pas abandonner le fort mais bien plut\u00f4t revenir aux questions de base, \u00e0 la qualit\u00e9 du lien qui fonde le service (d’\u00e9ducation, de soutien social ou m\u00e9dical…). Il ne faut pas c\u00e9der \u00e0 la facilit\u00e9 et \u00e0 la mode, ou, chez les cadres, \u00e0 l’illusion du travail m\u00e9canique qui ne fait que reporter ailleurs, sur le client, sa famille ou dans la rue les \u00e9l\u00e9ments d’humanit\u00e9 qu’on aura oblit\u00e9r\u00e9 pour les remplacer par des formulaires, des robots, des proc\u00e9dures automatis\u00e9es. <\/p>\n\n\n\n

Si l’on doit trouver une utilit\u00e9 \u00e0 ces nouveaux gadgets, cela ne devrait pas \u00eatre pour consolider un syst\u00e8me dans ses pires d\u00e9fauts ! Mais pourquoi, au juste, faudrait-il trouver une utilit\u00e9 \u00e0 ces gadgets ? Parce que les Big Techs y voient leur int\u00e9r\u00eat ? L’int\u00e9r\u00eat de valoriser ce qu’ils ont d\u00e9j\u00e0 accumul\u00e9, vol\u00e9 et th\u00e9sauris\u00e9 de nos savoirs et cultures pour renforcer encore leur emprise sur nos proc\u00e9d\u00e9s, nos gouvernements, nos \u00e9conomies ?<\/p>\n\n\n\n

Mais est-ce qu’on n’a pas d\u00e9j\u00e0 des robots, comme ces m\u00e9decins sp\u00e9cialistes concentr\u00e9s sur des champs tr\u00e8s limit\u00e9s et orient\u00e9s vers la production en quantit\u00e9 de diagnostics et d’interventions ? D\u00e9j\u00e0 le m\u00e9decin g\u00e9n\u00e9raliste qui te re\u00e7oit sans m\u00eame te regarder, ni te toucher, et qui n’a d’yeux que pour son \u00e9cran et ses r\u00e9sultats d’examens… on pourrait tout aussi bien faire affaire avec une machine, non ?<\/p>\n\n\n\n

Je trouve l’id\u00e9e avanc\u00e9e il y a quelques mois par Andrew Curry plus qu’int\u00e9ressante : l’arriv\u00e9e de l’IA ne marquerait pas le d\u00e9but d’une vague<\/strong> transformatrice mais plut\u00f4t la fin de la vague de l’informatisation<\/strong><\/a> (ma traduction de son article) amorc\u00e9e en 1971. Je ne sais si vous vous rappelez la frustration que provoquaient nos questions pos\u00e9es \u00e0 Google, avant l’introduction de l’IA ? Il fallait trouver les mots justes, et la bonne mani\u00e8re. Alors que ce moteur de recherche gobait depuis des d\u00e9cennies tout le web il nous fallait encore poser nos questions comme en… 1998. En ce sens, la possibilit\u00e9 de poser des questions \u00ab\u00a0en langage naturel\u00a0\u00bb me semble plut\u00f4t rattraper un retard qu’une v\u00e9ritable avanc\u00e9e<\/strong>. <\/p>\n\n\n\n

Mais l’IA c’est plus que cela. Notamment la production de \u00ab\u00a0fakes\u00a0\u00bb est devenue end\u00e9mique, sans parler des diff\u00e9rentes formes de \u00ab\u00a0slop\u00a0\u00bb (textes pseudo-scientifiques, films mettant en vedette des simulacres de personnes…). Gary Marcus, dans un billet du 14 f\u00e9vrier (We URGENTLY need a federal law forbidding AI from impersonating humans<\/a>) cite le philosophe Daniel Dennett qui appelait, dans un article de mai 2023 dans The Atlantic<\/a>, \u00e0 interdire les contrefa\u00e7ons de personnes. (ma traduction)<\/p>\n\n\n\n

\n

L’ARGENT EXISTE depuis plusieurs milliers d’ann\u00e9es, et d\u00e8s le d\u00e9but, la contrefa\u00e7on a \u00e9t\u00e9 reconnue comme un crime tr\u00e8s grave, passible dans de nombreux cas de la peine capitale, car elle sape la confiance sur laquelle repose la soci\u00e9t\u00e9. Aujourd’hui, pour la premi\u00e8re fois dans l’histoire, gr\u00e2ce \u00e0 l’intelligence artificielle, il est possible pour quiconque de cr\u00e9er des personnes contrefaites qui peuvent passer pour r\u00e9elles dans bon nombre des nouveaux environnements num\u00e9riques que nous avons cr\u00e9\u00e9s. Ces personnes contrefaites sont les artefacts les plus dangereux de l’histoire de l’humanit\u00e9, capables de d\u00e9truire non seulement les \u00e9conomies, mais aussi la libert\u00e9 humaine elle-m\u00eame. Avant qu’il ne soit trop tard (il est peut-\u00eatre d\u00e9j\u00e0 trop tard), nous devons interdire \u00e0 la fois la cr\u00e9ation de personnes contrefaites et leur \u00ab transmission \u00bb.<\/p>\n\n\n\n

Les sanctions pour ces deux infractions devraient \u00eatre extr\u00eamement s\u00e9v\u00e8res, \u00e9tant donn\u00e9 que la civilisation elle-m\u00eame est en danger. <\/p>\n<\/blockquote>\n\n\n\n

Si l’IA peut appara\u00eetre \u00e0 plusieurs comme un nouveau jouet, une technologie facilitant certaines recherches… elle comporte de nouveaux risques qu’il faut certainement encadrer. Il faut se m\u00e9fier des discours catastrophistes autant que des promoteurs d’une intelligence supr\u00eame : les deux contribuent \u00e0 gonfler \u00e0 outrance les potentiels (positif ou n\u00e9gatifs) de cette technologie, au grand bonheur de quelques Big Techs vendeurs de datacenters<\/em> et de logiciels. Voir La hype de l’IA : pourquoi les loups crient au loup ?<\/a><\/p>\n\n\n\n

Les citoyens de l’Ohio se rebellent devant les cons\u00e9quences de l’implantation de multiples centres de donn\u00e9es. Doit-on simplement profiter de l’occasion pour vendre plus d’\u00e9lectricit\u00e9 \u00e0 ces \u00c9tats limitrophes ? C’est ce que laisse entendre Gus Carlson dans le G&M d’aujourd’hui<\/a>. Oui, les grandes corporations de la finance et de la technologie font d\u00e9j\u00e0 de la \u00ab\u00a0connaissance de l’IA\u00a0\u00bb (entendez l’usage de Copilot avec Word) un crit\u00e8re d’embauche<\/a>… et certains technophiles s’amuseront, s’\u00e9vertueront m\u00eame, \u00e0 d\u00e9montrer comment l’IA Claude peut \u00e9crire un papier assez raffin\u00e91<\/a><\/sup>Je pense \u00e0 cette provocation de Yascha Mounk : The Humanities Are About to Be Automated<\/a>. Incidemment j’ai traduit cet article<\/a> mais ne l’ai pas encore lu.<\/span> pour tromper les comit\u00e9s de lecture de revues scientifiques… <\/p>\n\n\n\n

\n\n\n\n

Je termine ce billet ambivalent avec deux articles qui s’opposent. Le premier article se veut une r\u00e9ponse \u00e0 un message tr\u00e8s populaire2<\/a><\/sup>83,9 millions de vues depuis le 10 f\u00e9vrier<\/span> de Matt Shumer sur X<\/a> qui pr\u00e9disait des pertes d’emploi catastrophiques \u00e0 court terme : Pourquoi je ne m’inqui\u00e8te pas pour les pertes d’emploi li\u00e9es \u00e0 l’IA<\/a> par David Oks. J’ai trouv\u00e9 ses arguments d\u00e9crivant les goulots d’\u00e9tranglement dans l’adoption des technologies assez convaincants… m\u00eame si je trouvais son optimisme un peu na\u00eff et sa vision de l’avenir qui me rappelait les discours sur la \u00ab\u00a0civilisation du loisir<\/a>\u00a0\u00bb : <\/p>\n\n\n\n

\n

Je ne pense pas qu\u2019il faille trop s\u2019inqui\u00e9ter pour ce monde. La transition vers celui-ci sera plus longue et plus douce que ce que les gens pensent aujourd\u2019hui ; et lorsque nous aurons atteint cet \u00e9tat, nous aurons pass\u00e9 un certain temps dans un monde d\u2019une telle abondance et d\u2019une telle richesse<\/strong> que les emplois pourraient tout simplement devenir superflus<\/strong>. Peut-\u00eatre passerons-nous notre vie \u00e0 nous adonner aux loisirs, \u00e0 la po\u00e9sie, aux math\u00e9matiques pures ou \u00e0 l\u2019art raffin\u00e9 du looksmaxxing<\/em> (maximisation de l\u2019apparence). 
[Pourquoi je ne m’inqui\u00e8te pas…]<\/p>\n<\/blockquote>\n\n\n\n

Ce David Oks est partenaire chez Adreessen Horowitz<\/a>, ce qui explique sans doute son optimisme et les limites de sa vision. Des limites qui ont \u00e9t\u00e9 bien identifi\u00e9es par quelqu’un qui a r\u00e9pondu d\u00e8s le lendemain<\/strong> au texte de Oks : Pourquoi je m’inqui\u00e8te pour la perte d’emplois + R\u00e9flexions sur l’avantage comparatif<\/a>, par claywren sur une plateforme que je ne connaissais pas, en fait deux plateformes collaboratives : Lesswrong<\/a> et Greaterwrong<\/a>. <\/p>\n\n\n\n

Ce deuxi\u00e8me texte, celui de claywren<\/strong>, am\u00e8ne des chiffres qui contredisent les pr\u00e9tentions de Oks, en mati\u00e8re de pertes d’emplois, mais surtout il pose des questions que le premier ne pose pas : comment sont r\u00e9partis les gains de productivit\u00e9 \u00e9ventuellement produits par l’IA ? Il cite des rapports qui chiffrent d\u00e9j\u00e0 des changements importants dans des secteurs, et pas seulement dans les niveaux d’entr\u00e9e de ces secteurs : <\/p>\n\n\n\n

\n

Les remplacements touchent d\u00e9j\u00e0 les professionnels en milieu de carri\u00e8re dans les domaines de la cr\u00e9ation et du savoir.<\/p>\n\n\n\n

Voir les rapports li\u00e9s aux illustrateurs<\/a> et graphistes<\/a>, traducteurs<\/a>, r\u00e9dacteurs<\/a> et licenciements d’entreprise explicitement li\u00e9s \u00e0 l’IA<\/a>.<\/p>\n<\/blockquote>\n\n\n\n

Il rejoint ainsi les conclusions de Sadin. Aussi je crois, pour conclure cette Ni\u00e8me incursion dans le monde merveilleux\/angoissant de l’IA : Il faut agir d\u00e8s maintenant pour interdire les personnifications sans l’accord des sujets<\/strong>; il faut d\u00e9velopper un encadrement, des r\u00e8gles qui mettent en \u00e9vidence l’usage<\/strong> fait au quotidien : identifier les portions d’un rapport r\u00e9alis\u00e9 par l’IA<\/strong>… Et si des centres de donn\u00e9es li\u00e9s \u00e0 l’IA devaient \u00eatre construits ici, cela devrait d’abord servir \u00e0 d\u00e9velopper notre souverainet\u00e9 num\u00e9rique<\/strong> plut\u00f4t que d’amplifier notre d\u00e9pendance \u00e0 l’\u00e9gard des oligarques am\u00e9ricains : une liaison num\u00e9rique entre l’Europe et l’Asie passant par l’Arctique mettant \u00e0 profit d’\u00e9ventuels centres de donn\u00e9es ind\u00e9pendants des GAFAMs ? <\/p>\n

Notes <\/h3>