Traduction de Can the Pope’s Magnifica Humanitas Rally Support for Technology Governance? par Daniel Dobrygowski sur TechPolicy.Press le 29 mai 2026.
Chaque génération hérite de la tâche de façonner sa propre époque, de guider l’histoire pour qu’elle devienne un lieu où la dignité de chaque personne est préservée, où la justice est promue et où la fraternité est rendue possible. Pourtant, chaque époque court également le risque de créer un monde inhumain et plus injuste. (Léon XIV, Magnifica Humanitas, ❡1)
Avec ces mots, l’ouvrage Magnifica Humanitas du pape Léon XIV sert de cri de ralliement en faveur d’une bonne gouvernance technologique à un moment où celle-ci est plus que jamais nécessaire. La gouvernance technologique désigne les garde-fous décisionnels (qu’ils soient inscrits dans la loi ou qu’ils fassent partie des protocoles propres à une organisation) qui contribuent à garantir que l’innovation se développe d’une manière qui réponde aux attentes du public et protège ce à quoi les gens accordent de la valeur.
Malheureusement, la gouvernance de l’IA a connu de nombreux revers. Alors que l’émergence à grande échelle de l’IA générative dans les années 2020 offrait d’abord une occasion prometteuse de promouvoir la dignité humaine et de protéger l’autonomie humaine en cette période de changement technologique, la logique de la concurrence a rapidement pris le pas sur les discussions relatives à la responsabilité. En 2024, certains dirigeants, notamment dans la Silicon Valley et à Washington, DC, ont commencé à diaboliser les partisans de la sécurité et de la responsabilité et à démanteler les structures de régulation et de gouvernance d’entreprise qui avaient été récemment mises en place. La bonne gouvernance ne disposait ni de la tribune influente de la présidence américaine ni de l’attrait financier d’un « Manifeste techno-optimiste » soutenu par le capital-risque. Même au sein de l’UE — longtemps rempart de la vie privée et de la protection des travailleurs — la gouvernance technologique semblait être sur la défensive.
Avec cette nouvelle encyclique, une éthique catholique de la technologie peut-elle montrer la voie pour régir l’IA et d’autres technologies ? Déjà, Magnifica Humanitas constitue un jalon important tant pour l’engagement de l’Église face aux évolutions de notre monde moderne que pour son soutien sans équivoque à la gouvernance technologique. Elle couronne un siècle et quart d’enseignement social catholique sur les dimensions morales de la transformation économique et technologique, traçant une ligne explicite depuis l’engagement de Rerum Novarum face au capitalisme industriel au tournant du XXe siècle, en passant par l’adhésion du Concile Vatican II au monde moderne, les enseignements de saint Jean-Paul II, et la vision fraternelle du pape François pour une humanité confrontée à des changements massifs. Parallèlement, elle inaugure le premier engagement systématique de l’Église envers la gouvernance technologique en tant que domaine à part entière, plutôt que comme un simple ensemble de cas limites d’ordre éthique.
Cette vision et ce leadership moral sont cruellement nécessaires dans le domaine de l’IA et des technologies émergentes telles que la biotechnologie et l’informatique quantique. Les oligarques de l’IA se sont efforcés de rendre la politique de réglementation pratiquement impossible partout dans le monde, les gouvernements (à quelques exceptions près) soit se dégageant de leurs engagements à réguler la technologie, soit refusant tout simplement d’entamer le processus. Bien que, comme nous le verrons plus loin, tous les leaders technologiques n’appartiennent pas à ce groupe, la grande majorité s’est autoproclamée techno-optimiste, pour qui l’érosion de la démocratie et de la dignité humaine est apparemment une composante nécessaire — et peut-être même souhaitable — du progrès de l’IA. Pendant ce temps, les gens ordinaires, en particulier les jeunes, ne sont pas d’accord. Tant verbalement lors des remises de diplômes universitaires que par le biais d’actions auto-organisées comme la AI Resist List, les individus réclament autonomie et liberté de choix face à la prétendue inévitabilité des algorithmes prédictifs.
La nouvelle encyclique du pape Léon définit une éthique catholique de la technologie au moment même où les gens sont prêts à passer à l’action, et elle pourrait constituer le point de ralliement permettant de mettre en place les éléments nécessaires pour régir l’avenir de la technologie au profit de toute l’humanité, et non pas seulement d’une poignée de privilégiés bien connectés.
Comment Magnifica Humanitas soutient la gouvernance technologique
La formation d’une éthique catholique de la technologie est indissociable des rencontres des gens avec les technologies émergentes au cours du dernier siècle et demi. Là où les moyens de subsistance ont été affectés par la mécanisation ou la numérisation, l’Église s’est demandé comment protéger les gens. Là où de nouveaux médias de communication prolifèrent à travers le monde, l’Église s’est demandé comment garantir la vérité. Et là où les technologies ont menacé de couper les gens de leurs semblables, de leur propre conception d’eux-mêmes ou même de leur relation avec Dieu, l’Église a pris la défense de la dignité humaine. La gouvernance technologique poursuit des objectifs similaires, d’un point de vue organisationnel et réglementaire. Elle s’intéresse à la manière dont le développement et l’utilisation de la technologie peuvent soutenir des valeurs importantes, de la vie privée à la sécurité en passant par l’équité.
Si Magnifica Humanitas aborde en profondeur des questions importantes, ses principes fondamentaux, fondés sur la doctrine sociale du siècle dernier qu’elle approuve et développe, proposent une éthique catholique de la technologie qui inclut au moins les principes suivants :
La technologie n’est pas neutre
Dans Magnifica Humanitas, le Pape décrit avec justesse le choix qui s’offre à nous : utiliser la technologie pour améliorer l’humanité et bâtir une société où Dieu peut être présent dans notre amour, ou utiliser l’IA pour construire la Tour de Babel qui nous arrache de manière destructrice à nos semblables et à la sainteté. Ce choix, c’est clair, c’est le nôtre. Les outils, même l’IA, portent l’empreinte morale de leurs créateurs et « chaque outil technique incarne des choix et des priorités à travers ce qu’il mesure, ignore et optimise, et la manière dont il classe les personnes et les situations » (Magnifica Humanitas, ❡104).
L’éthique, tout comme la bonne gouvernance, ne peut être une réflexion après coup au développement technologique, car la technologie n’est jamais neutre. Elle prend les caractéristiques de ceux qui la conçoivent, la financent, la réglementent et l’utilisent. Par conséquent, le choix principal ne se situe pas entre un « oui » ou un « non » à la technologie, mais plutôt entre la création des garde-fous nécessaires pour garantir que nous ne construisions pas Babel, mais que nous visions plutôt à reconstruire Jérusalem. Cette éthique de la technologie exige un type de gouvernance qui rejette la domination et permette aux personnes de « travailler ensemble en présence de Dieu pour reconstruire les murs de la coexistence fraternelle » (Magnifica Humanitas, ❡9).
Si les systèmes d’IA intègrent les valeurs de leurs concepteurs et de leurs bailleurs de fonds, la gouvernance ne suffira jamais à servir de simple mesure corrective a posteriori ou de liste de contrôle de conformité. Au contraire, les principes de bonne gouvernance doivent être intégrés dès le début au processus de conception des nouvelles technologies. Ce principe de non-neutralité de la technologie soutient donc la gouvernance technologique tout en lui imposant des exigences. Il soutient la nécessité de la gouvernance, mais exige également le développement d’un nouveau type de gouvernance capable de s’adapter aux nouvelles technologies tout en restant fidèle aux valeurs qui confèrent sa dignité à l’humanité. Le type de gouvernance exigé ici doit être systémique, global et agile.
Les décisions démocratiques aident la technologie à respecter la dignité humaine et l’autonomie
À propos de la non-neutralité de la technologie, le pape Léon XIV écrit qu’un système conçu pour traiter certaines vies comme moins dignes « a déjà introduit des critères qui contredisent la dignité inaliénable de la personne humaine » (Magnifica Humanitas, ❡104).
Afin d’éviter ces défauts de conception des plus pernicieux, « il est essentiel que l’utilisation de l’IA, en particulier lorsqu’elle touche aux biens publics et aux droits fondamentaux, soit guidée par des critères clairs et une surveillance efficace, fondés sur la participation et la subsidiarité » (❡108). Ce fondement de la participation publique s’inscrit dans la continuité de plus d’un siècle d’enseignement catholique sur l’importance de la démocratie et de la protection des droits fondamentaux. En 1891, Rerum Novarum déclarait : « Nous pouvons établir comme une loi générale et durable que les associations de travailleurs doivent être organisées et gouvernées de manière à fournir les moyens les meilleurs et les plus appropriés pour atteindre l’objectif visé, c’est-à-dire pour aider chaque membre à améliorer sa condition… » (Pape Léon XIII, Rerum Novarum, ❡ 57). Ce droit d’association donne aux travailleurs une voix dans leur vie économique. Depuis lors, le pape Pie XII et saint Jean-Paul II ont réaffirmé la grande valeur de la démocratie et de la participation citoyenne dans la doctrine sociale catholique comme moyen de garantir que le pouvoir soit réparti parmi le peuple. (Magnifica Humanitas, ❡ 39). Le pape Léon XIV souligne l’importance de la voix de tous les citoyens pour décider si et comment l’IA aura un impact sur leur vie.
La gouvernance démocratique des nouvelles technologies exige que toute personne concernée par l’impact de l’innovation sur la société ait son mot à dire dans ce processus. En matière de gouvernance technologique, le modèle multipartite — où les utilisateurs individuels, les citoyens ordinaires, les développeurs de technologies et les bailleurs de fonds ont tous leur mot à dire dans le développement des nouvelles technologies — constitue la norme d’excellence pour la protection des droits et des valeurs fondamentaux. En appelant à élargir le cercle de ceux qui ont leur mot à dire dans le développement des technologies, ces nouveaux enseignements peuvent favoriser l’émergence de cette pratique de gouvernance plus durable et plus équitable.
La transparence et la responsabilité sont essentielles
L’encyclique souligne également l’importance cruciale des mécanismes de transparence et de responsabilité pour les nouvelles technologies comme l’IA :
Pour que l’IA respecte la dignité humaine et serve véritablement le bien commun, la responsabilité doit être clairement définie à chaque étape : depuis ceux qui conçoivent et développent ces systèmes jusqu’à ceux qui les utilisent et s’appuient sur eux pour prendre des décisions concrètes. Dans de nombreux cas, cependant, les processus internes menant à un résultat restent opaques, ce qui rend plus difficile l’attribution des responsabilités et la correction des erreurs. C’est là que la responsabilité devient cruciale : la possibilité d’identifier qui doit « rendre compte » des décisions, les justifier, les surveiller et, si nécessaire, les contester et réparer tout préjudice causé. (Magnifica Humanitas, ❡105).
J’ai précédemment identifié la transparence comme un élément vital pour soutenir la gouvernance. Sans informations sur le fonctionnement d’un système, aucun contrôle n’est possible. De même, les asymétries d’information détruisent la confiance entre les développeurs de technologies et les utilisateurs, condamnant tout effort de gouvernance. La responsabilité est également un élément fondamental d’une bonne gouvernance. Sans responsabilité, il est impossible d’améliorer un système ou d’assurer une réparation pour ceux qui en ont subi les préjudices. Ensemble, ces deux concepts représentent une gouvernance technologique capable de soutenir les valeurs importantes énoncées dans Magnifica Humanitas et de devenir une partie fonctionnelle des nouveaux systèmes technologiques.
Magnifica Humanitas peut-elle revitaliser la gouvernance technologique ?
Rerum Novarum, la réflexion du pape Léon XIII sur la révolution industrielle, a eu un impact immense sur les droits des travailleurs et d’autres domaines. Il y a toutes les raisons d’espérer que Magnifica Humanitas puisse faire de même pour notre époque. En effet, le pape Léon XIV semble promouvoir un tel parallèle et Magnifica Humanitas fournit un vocabulaire riche pour l’avenir de la gouvernance technologique : la dignité humaine, l’équité et l’égalité en tant que contraintes de conception non négociables ; la transparence et la responsabilité en tant qu’exigences ; la subsidiarité en tant que principe d’organisation pour une gouvernance multipartite ; la « destination universelle des biens » comme critique des monopoles de données ; la vitalité de la vérité comme intrant et extrant des technologies de communication ; et le rejet du blanchiment algorithmique de la responsabilité.
Les concepts décrits par le pape Léon XIV, bien qu’ancrés profondément dans les valeurs de la doctrine sociale et d’une éthique catholique de la technologie, peuvent également être mis en œuvre dans la réglementation, la gouvernance d’entreprise et les cadres internationaux. Magnifica Humanitas se lit à la fois comme un document théologique et comme une feuille de route pour l’avenir, en vue de meilleures décisions en matière de technologie. Parallèlement, le Saint-Père s’est clairement montré prudent dans le choix de ses alliés dans cette quête. Chis Olah, cofondateur de la société de pointe en IA Anthropic, a été un participant de premier plan à l’annonce de l’encyclique et un partisan des efforts du Vatican. Bien que certains aient critiqué sa présence, cette rencontre entre les valeurs qui doivent sous-tendre le développement technologique et les personnes et entreprises qui le font avancer est un signe d’espoir que les deux parties peuvent relever ce défi.
Comme son nom l’indique, cette Magnifica Humanitas nous encourage tous à reconnaître la grandeur de l’humanité et à relever l’énorme tâche qui nous attend : faire les bons choix pour notre avenir. C’est une exhortation au discernement, à la délibération et à l’élaboration de règles – en un mot, à la gouvernance. Nous avons beaucoup entendu les soi-disant techno-optimistes nous dire que nous devrions croire aux machines et aux algorithmes pour résoudre nos problèmes, et nous avons entendu parler de la croyance dangereuse en « une forme purement technique de “salut” », comme l’encyclique décrit leurs affirmations.
Le message du pape Léon XIV est un contrepoint clair et retentissant à cette élite technocratique et un nouveau cri de ralliement pour une meilleure gouvernance : c’est à nous de décider de l’avenir de la technologie. Nous croyons certes que les machines peuvent être utiles, mais avant tout, nous croyons en l’être humain.
Note du traducteur : j’ai changé les liens vers les textes historiques publiés par le Vatican pour les versions françaises disponibles (dans l’original, les liens pointaient vers les versions anglaises). J’ai fait de même pour une version française du manifeste techno-optimiste.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.