{"id":10495,"date":"2026-06-05T16:54:13","date_gmt":"2026-06-05T20:54:13","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/the-pope-should-have-gone-further-on-ai\/"},"modified":"2026-06-10T08:18:04","modified_gmt":"2026-06-10T12:18:04","slug":"le-pape-aurait-du-aller-plus-loin","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/le-pape-aurait-du-aller-plus-loin\/","title":{"rendered":"Le pape aurait d\u00fb aller plus loin sur l\u2019IA"},"content":{"rendered":"\n

Traduction de The Pope Should Have Gone Further on AI<\/a> par Daron Acemoglu1<\/a><\/sup>Daron Acemoglu, laur\u00e9at du prix Nobel d’\u00e9conomie 2024 et professeur titulaire de l’Institut d’\u00e9conomie au MIT, est coauteur (avec James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty<\/em><\/a>(Profile, 2019) et coauteur (avec Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity<\/em><\/a> (PublicAffairs, 2023).<\/span> sur Project-Syndicate, le 28 mai 2026.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n
\n\n\n\n

Le pape L\u00e9on XIV a fait des vagues avec sa premi\u00e8re encyclique, dans laquelle il d\u00e9crit le d\u00e9veloppement et le d\u00e9ploiement des nouveaux outils d\u2019IA comme une menace profonde pour la dignit\u00e9 humaine<\/strong>. En r\u00e9alit\u00e9, il n\u2019est pas all\u00e9 assez loin en s\u2019interrogeant sur la finalit\u00e9 pour laquelle cette technologie est con\u00e7ue.<\/em><\/p>\n\n\n\n

BOSTON \u2014 L\u2019intelligence artificielle est en train de red\u00e9finir la fa\u00e7on dont nous communiquons, acc\u00e9dons \u00e0 l\u2019information et travaillons, la mani\u00e8re dont les revenus et le statut social sont r\u00e9partis, et m\u00eame la fa\u00e7on dont nous menons la guerre. Pourtant, le d\u00e9bat public reste \u00e9troitement centr\u00e9 sur la concurrence entre les laboratoires d\u2019IA ou sur des discussions abstraites concernant les capacit\u00e9s de cette technologie. Presque personne ne se demande \u00e0 quoi l\u2019IA devrait servir, ni si notre \u00e9tat d\u2019esprit actuel, nos institutions et nos m\u00e9canismes de contr\u00f4le sont capables d\u2019orienter cette technologie vers des am\u00e9liorations g\u00e9n\u00e9ralis\u00e9es du bien-\u00eatre humain.<\/p>\n\n\n\n

Il \u00e9tait donc rafra\u00eechissant de voir le pape L\u00e9on XIV se prononcer sur la question dans sa premi\u00e8re encyclique<\/a>, qui d\u00e9crit la trajectoire actuelle de l\u2019IA comme une menace profonde pour la dignit\u00e9 humaine. En tant qu\u2019\u00e9conomiste qui soutient depuis longtemps que les cons\u00e9quences des avanc\u00e9es technologiques rel\u00e8vent d\u2019un choix et non d\u2019une fatalit\u00e9<\/strong>, je salue son intervention.<\/p>\n\n\n\n

L\u00e9on devance la plupart des commentateurs en soulignant que \u00ab la technologie n\u2019est jamais neutre, car elle prend les traits de ceux qui la con\u00e7oivent, la financent, la r\u00e9glementent et l\u2019utilisent \u00bb. Et pourtant, je crains que m\u00eame lui ne soit pas all\u00e9 assez loin sur la question la plus cruciale : \u00e0 quoi l\u2019IA devrait-elle \u00eatre con\u00e7ue pour servir ?<\/strong><\/p>\n\n\n

\n
\"\"<\/figure>\n<\/div>\n\n\n

Comme Simon Johnson et moi-m\u00eame le soulignons dans notre livre Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity<\/em>, une technologie comme l\u2019IA peut emprunter de multiples voies, et chacune a des implications profondes pour la soci\u00e9t\u00e9. Par exemple, le pape a raison de s\u2019interroger sur la trajectoire actuelle de l\u2019IA dans le domaine de la guerre et de l\u2019application de la loi. Ce qui \u00e9tait tabou il y a seulement quelques ann\u00e9es \u2013 la surveillance de masse pilot\u00e9e par l\u2019IA, les algorithmes s\u00e9lectionnant des cibles \u00e0 abattre \u2013 est devenu monnaie courante.<\/p>\n\n\n\n

Alors que de nombreux acteurs de la Silicon Valley exhortent les \u00c9tats-Unis \u00e0 renforcer leur force de frappe par le biais d\u2019un nouveau complexe militaro-algorithmique, L\u00e9on met en garde : \u00ab Toute technologie qui facilite les attaques sans voir le visage des \u00eatres humains abaisse le seuil moral du conflit. \u00bb Le pape appelle alors au \u00ab d\u00e9sarmement de l\u2019IA \u00bb pour la lib\u00e9rer \u00ab de la mentalit\u00e9 de la comp\u00e9tition \u201carm\u00e9e\u201d, qui aujourd\u2019hui ne se limite pas simplement au contexte militaire, mais est aussi un ph\u00e9nom\u00e8ne \u00e9conomique et cognitif \u00bb.

Une sagesse plus fondamentale sous-tend ces pr\u00e9occupations sp\u00e9cifiques : le progr\u00e8s technologique n\u2019est pas n\u00e9cessairement un progr\u00e8s moral<\/strong>. Ce n\u2019est pas parce qu\u2019une chose est techniquement faisable qu\u2019elle est bonne pour l\u2019humanit\u00e9. Le caract\u00e8re souhaitable d\u2019une technologie d\u00e9pend de ceux qui la contr\u00f4lent et de l\u2019id\u00e9ologie et des int\u00e9r\u00eats qui les guident.<\/p>\n\n\n\n

L\u00e9on fait allusion \u00e0 ce que je consid\u00e8re comme le risque le plus imm\u00e9diat, \u00e0 savoir que \u00ab si l\u2019IA promet de stimuler la productivit\u00e9 en prenant en charge les t\u00e2ches routini\u00e8res, elle oblige souvent les travailleurs \u00e0 s\u2019adapter \u00e0 la vitesse et aux exigences des machines, plut\u00f4t que de concevoir des machines pour qu\u2019elles travaillent avec ceux qui travaillent \u00bb. Mais le Pape s\u2019abstient de remettre en question la philosophie dominante en mati\u00e8re de conception de l\u2019IA. L\u2019approche de l\u2019ensemble du secteur de l\u2019IA est centr\u00e9e sur l\u2019imitation des capacit\u00e9s humaines et l\u2019automatisation des t\u00e2ches humaines, dans le but de cr\u00e9er une \u00ab intelligence artificielle g\u00e9n\u00e9rale \u00bb capable de faire tout ce qu\u2019une personne peut faire.<\/p>\n\n\n\n

Cette philosophie repose sur l\u2019hypoth\u00e8se erron\u00e9e selon laquelle l\u2019intelligence artificielle et l\u2019intelligence humaine sont fondamentalement similaires<\/strong>. Les humains apprennent \u00ab en une seule fois \u00bb. Nous formulons des hypoth\u00e8ses \u00e0 partir de quelques exemples, simulons des possibilit\u00e9s dans notre esprit et affinons notre compr\u00e9hension \u00e0 travers un processus social d\u2019essais et d\u2019erreurs. Ainsi, les enfants apprennent le langage en imitant quelques mots, en g\u00e9n\u00e9ralisant et en ajustant leur discours en fonction de la fa\u00e7on dont les autres r\u00e9agissent. Nous ne sommes pas tr\u00e8s dou\u00e9s pour absorber des volumes massifs d\u2019informations ni pour passer au crible des donn\u00e9es non structur\u00e9es \u00e0 la recherche de sch\u00e9mas pertinents.<\/p>\n\n\n\n

En revanche, les mod\u00e8les d\u2019IA se nourrissent d\u2019\u00e9normes ensembles de donn\u00e9es d\u2019entra\u00eenement et excellent dans la reconnaissance de sch\u00e9mas \u00e0 grande \u00e9chelle, mais ils n\u2019ont pas encore fait preuve d\u2019une v\u00e9ritable cr\u00e9ativit\u00e9. Ils n\u2019ont aucune exp\u00e9rience de l\u2019incarnation dans le monde r\u00e9el, ni aucune capacit\u00e9 d\u2019apprentissage par essais et erreurs \u00e0 travers des interactions avec le monde physique et social (sauf de mani\u00e8re limit\u00e9e lorsqu\u2019il existe des r\u00e9compenses claires pour l\u2019apprentissage par renforcement dans des domaines sp\u00e9cifiques).<\/p>\n\n\n\n

Lorsque deux choses sont diff\u00e9rentes, il ne faut pas \u2014 et on ne peut g\u00e9n\u00e9ralement pas \u2014 utiliser l\u2019une pour imiter l\u2019autre. Les r\u00e9sultats seraient sous-optimaux. Cela aurait \u00e9t\u00e9 une erreur colossale si Phil Jackson, le l\u00e9gendaire entra\u00eeneur des Chicago Bulls dans les ann\u00e9es 1990, avait pouss\u00e9 Michael Jordan \u00e0 imiter tout ce que faisaient Scottie Pippen et Dennis Rodman. L\u2019\u00e9quipe a encha\u00een\u00e9 les titres de champion pr\u00e9cis\u00e9ment parce que ces joueurs travaillaient ensemble et se compl\u00e9taient mutuellement.<\/p>\n\n\n\n

Il en va de m\u00eame pour l\u2019IA et les comp\u00e9tences humaines. Utiliser l\u2019IA pour faire ce que les humains ne peuvent pas faire, afin que les humains puissent \u00e9largir leur champ d\u2019action, est plus productif que l\u2019imitation. Dans un sc\u00e9nario futur o\u00f9 l\u2019IA augmenterait, plut\u00f4t que de remplacer, les capacit\u00e9s humaines, les \u00e9lectriciens seraient aid\u00e9s par des diagnostics bas\u00e9s sur l\u2019IA, les infirmi\u00e8res consulteraient l\u2019IA pour interpr\u00e9ter les sympt\u00f4mes, et les enseignants pourraient utiliser l\u2019IA pour personnaliser leur enseignement pour chaque \u00e9l\u00e8ve.<\/p>\n\n\n\n

Les optimistes et les experts du secteur pourraient r\u00e9torquer qu\u2019une IA ax\u00e9e sur l\u2019automatisation peut tout de m\u00eame profiter \u00e0 tout le monde, \u00e0 condition que les politiques de redistribution suivent le rythme. Mais cet argument a fait ses preuves. Quatre d\u00e9cennies d\u2019automatisation num\u00e9rique ont d\u00e9j\u00e0 concentr\u00e9 les gains au sommet de la pyramide<\/strong>, vid\u00e9 de sa substance l\u2019emploi moyennement qualifi\u00e9 et produit une croissance globale de la productivit\u00e9 d\u00e9cevante<\/strong>. Il y a peu de raisons de s\u2019attendre \u00e0 ce qu\u2019une vague d\u2019automatisation encore plus puissante, d\u00e9ploy\u00e9e par un secteur encore plus concentr\u00e9, aboutisse \u00e0 un r\u00e9sultat diff\u00e9rent.<\/p>\n\n\n\n

Et les enjeux mondiaux sont encore plus importants qu\u2019aux \u00c9tats-Unis. Pour des milliards de personnes dans les pays en d\u00e9veloppement, o\u00f9 un emploi d\u00e9cent est la seule voie fiable pour sortir de la pauvret\u00e9, un programme d\u2019IA centr\u00e9 sur l\u2019automatisation est la recette du d\u00e9sastre. Nous pouvons et devons exiger une conception diff\u00e9rente. <\/p>\n\n\n\n

La plus grande d\u00e9faillance de l\u2019industrie actuelle de l\u2019IA est peut-\u00eatre son refus de reconna\u00eetre tout cela. La poign\u00e9e de personnes qui d\u00e9cha\u00eenent cette technologie sur le monde est guid\u00e9e par une id\u00e9ologie de contr\u00f4le (sur l\u2019humanit\u00e9) et par la conviction que les machines sont syst\u00e9matiquement meilleures que les humains.<\/strong><\/p>\n\n\n\n

L\u00e9on a raison d\u2019appeler \u00e0 une clart\u00e9 morale et \u00e0 un d\u00e9bat s\u00e9rieux \u00e0 l\u2019\u00e9chelle de la soci\u00e9t\u00e9. Mais la conversation doit aller au-del\u00e0 des exhortations<\/strong> pour aboutir \u00e0 des choix concrets : des mesures antitrust<\/strong> contre les plateformes dominantes, des investissements publics<\/strong> dans une IA compl\u00e9mentaire \u00e0 l\u2019humain, la r\u00e9glementation de la surveillance et des armes <\/strong>autonomes, ainsi que des droits significatifs pour les travailleurs et les citoyens<\/strong> sur les donn\u00e9es dont d\u00e9pendent ces syst\u00e8mes.<\/p>\n\n\n\n

L\u2019intervention de L\u00e9on rend une telle r\u00e9ponse un peu plus probable qu\u2019auparavant. Mais nous devons tous, nous aussi, d\u00e9fendre l\u2019humanit\u00e9.<\/p>\n\n\n\n

\n\n\n\n

Fichier Excel des\u00a0traductions<\/a> par\u00a0Gilles en vrac<\/em>
Fiches<\/a> avec les premi\u00e8res phrases (et non seulement les titres)
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\n

Notes <\/h3>