Le pape aurait dû aller plus loin sur l’IA

Traduction de The Pope Should Have Gone Further on AI par Daron Acemoglu1Daron Acemoglu, lauréat du prix Nobel d’économie 2024 et professeur titulaire de l’Institut d’économie au MIT, est coauteur (avec James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty(Profile, 2019) et coauteur (avec Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023). sur Project-Syndicate, le 28 mai 2026.

Le pape Léon XIV a fait des vagues avec sa première encyclique, dans laquelle il décrit le développement et le déploiement des nouveaux outils d’IA comme une menace profonde pour la dignité humaine. En réalité, il n’est pas allé assez loin en s’interrogeant sur la finalité pour laquelle cette technologie est conçue.

BOSTON — L’intelligence artificielle est en train de redéfinir la façon dont nous communiquons, accédons à l’information et travaillons, la manière dont les revenus et le statut social sont répartis, et même la façon dont nous menons la guerre. Pourtant, le débat public reste étroitement centré sur la concurrence entre les laboratoires d’IA ou sur des discussions abstraites concernant les capacités de cette technologie. Presque personne ne se demande à quoi l’IA devrait servir, ni si notre état d’esprit actuel, nos institutions et nos mécanismes de contrôle sont capables d’orienter cette technologie vers des améliorations généralisées du bien-être humain.

Il était donc rafraîchissant de voir le pape Léon XIV se prononcer sur la question dans sa première encyclique, qui décrit la trajectoire actuelle de l’IA comme une menace profonde pour la dignité humaine. En tant qu’économiste qui soutient depuis longtemps que les conséquences des avancées technologiques relèvent d’un choix et non d’une fatalité, je salue son intervention.

Léon devance la plupart des commentateurs en soulignant que « la technologie n’est jamais neutre, car elle prend les traits de ceux qui la conçoivent, la financent, la réglementent et l’utilisent ». Et pourtant, je crains que même lui ne soit pas allé assez loin sur la question la plus cruciale : à quoi l’IA devrait-elle être conçue pour servir ?

Comme Simon Johnson et moi-même le soulignons dans notre livre Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity, une technologie comme l’IA peut emprunter de multiples voies, et chacune a des implications profondes pour la société. Par exemple, le pape a raison de s’interroger sur la trajectoire actuelle de l’IA dans le domaine de la guerre et de l’application de la loi. Ce qui était tabou il y a seulement quelques années – la surveillance de masse pilotée par l’IA, les algorithmes sélectionnant des cibles à abattre – est devenu monnaie courante.

Alors que de nombreux acteurs de la Silicon Valley exhortent les États-Unis à renforcer leur force de frappe par le biais d’un nouveau complexe militaro-algorithmique, Léon met en garde : « Toute technologie qui facilite les attaques sans voir le visage des êtres humains abaisse le seuil moral du conflit. » Le pape appelle alors au « désarmement de l’IA » pour la libérer « de la mentalité de la compétition “armée”, qui aujourd’hui ne se limite pas simplement au contexte militaire, mais est aussi un phénomène économique et cognitif ».

Une sagesse plus fondamentale sous-tend ces préoccupations spécifiques : le progrès technologique n’est pas nécessairement un progrès moral. Ce n’est pas parce qu’une chose est techniquement faisable qu’elle est bonne pour l’humanité. Le caractère souhaitable d’une technologie dépend de ceux qui la contrôlent et de l’idéologie et des intérêts qui les guident.

Léon fait allusion à ce que je considère comme le risque le plus immédiat, à savoir que « si l’IA promet de stimuler la productivité en prenant en charge les tâches routinières, elle oblige souvent les travailleurs à s’adapter à la vitesse et aux exigences des machines, plutôt que de concevoir des machines pour qu’elles travaillent avec ceux qui travaillent ». Mais le Pape s’abstient de remettre en question la philosophie dominante en matière de conception de l’IA. L’approche de l’ensemble du secteur de l’IA est centrée sur l’imitation des capacités humaines et l’automatisation des tâches humaines, dans le but de créer une « intelligence artificielle générale » capable de faire tout ce qu’une personne peut faire.

Cette philosophie repose sur l’hypothèse erronée selon laquelle l’intelligence artificielle et l’intelligence humaine sont fondamentalement similaires. Les humains apprennent « en une seule fois ». Nous formulons des hypothèses à partir de quelques exemples, simulons des possibilités dans notre esprit et affinons notre compréhension à travers un processus social d’essais et d’erreurs. Ainsi, les enfants apprennent le langage en imitant quelques mots, en généralisant et en ajustant leur discours en fonction de la façon dont les autres réagissent. Nous ne sommes pas très doués pour absorber des volumes massifs d’informations ni pour passer au crible des données non structurées à la recherche de schémas pertinents.

En revanche, les modèles d’IA se nourrissent d’énormes ensembles de données d’entraînement et excellent dans la reconnaissance de schémas à grande échelle, mais ils n’ont pas encore fait preuve d’une véritable créativité. Ils n’ont aucune expérience de l’incarnation dans le monde réel, ni aucune capacité d’apprentissage par essais et erreurs à travers des interactions avec le monde physique et social (sauf de manière limitée lorsqu’il existe des récompenses claires pour l’apprentissage par renforcement dans des domaines spécifiques).

Lorsque deux choses sont différentes, il ne faut pas — et on ne peut généralement pas — utiliser l’une pour imiter l’autre. Les résultats seraient sous-optimaux. Cela aurait été une erreur colossale si Phil Jackson, le légendaire entraîneur des Chicago Bulls dans les années 1990, avait poussé Michael Jordan à imiter tout ce que faisaient Scottie Pippen et Dennis Rodman. L’équipe a enchaîné les titres de champion précisément parce que ces joueurs travaillaient ensemble et se complétaient mutuellement.

Il en va de même pour l’IA et les compétences humaines. Utiliser l’IA pour faire ce que les humains ne peuvent pas faire, afin que les humains puissent élargir leur champ d’action, est plus productif que l’imitation. Dans un scénario futur où l’IA augmenterait, plutôt que de remplacer, les capacités humaines, les électriciens seraient aidés par des diagnostics basés sur l’IA, les infirmières consulteraient l’IA pour interpréter les symptômes, et les enseignants pourraient utiliser l’IA pour personnaliser leur enseignement pour chaque élève.

Les optimistes et les experts du secteur pourraient rétorquer qu’une IA axée sur l’automatisation peut tout de même profiter à tout le monde, à condition que les politiques de redistribution suivent le rythme. Mais cet argument a fait ses preuves. Quatre décennies d’automatisation numérique ont déjà concentré les gains au sommet de la pyramide, vidé de sa substance l’emploi moyennement qualifié et produit une croissance globale de la productivité décevante. Il y a peu de raisons de s’attendre à ce qu’une vague d’automatisation encore plus puissante, déployée par un secteur encore plus concentré, aboutisse à un résultat différent.

Et les enjeux mondiaux sont encore plus importants qu’aux États-Unis. Pour des milliards de personnes dans les pays en développement, où un emploi décent est la seule voie fiable pour sortir de la pauvreté, un programme d’IA centré sur l’automatisation est la recette du désastre. Nous pouvons et devons exiger une conception différente.

La plus grande défaillance de l’industrie actuelle de l’IA est peut-être son refus de reconnaître tout cela. La poignée de personnes qui déchaînent cette technologie sur le monde est guidée par une idéologie de contrôle (sur l’humanité) et par la conviction que les machines sont systématiquement meilleures que les humains.

Léon a raison d’appeler à une clarté morale et à un débat sérieux à l’échelle de la société. Mais la conversation doit aller au-delà des exhortations pour aboutir à des choix concrets : des mesures antitrust contre les plateformes dominantes, des investissements publics dans une IA complémentaire à l’humain, la réglementation de la surveillance et des armes autonomes, ainsi que des droits significatifs pour les travailleurs et les citoyens sur les données dont dépendent ces systèmes.

L’intervention de Léon rend une telle réponse un peu plus probable qu’auparavant. Mais nous devons tous, nous aussi, défendre l’humanité.

Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.

Notes