Réflexions sur l’IA prosociale alors que le pape Léon modifie la doctrine catholique
Traduction de What Eli said at the Vatican about AI par Eli Pariser, sur New_Public, le 27 mai 2026
Vendredi dernier, j’étais assis dans une salle du Vatican avec ma fille, Ara, et j’ai écouté le pape Léon XIV décrire le problème sur lequel je me penche depuis quinze ans : des espaces numériques qui récompensent les « émotions instantanées » et découragent « l’effort nécessaire pour comprendre et réfléchir ». Ce fut un moment vraiment extraordinaire dans ma vie, mais aussi un moment important pour nous tous qui nous soucions d’une technologie éthique et prosociale.
Cette semaine, il a publié sa première encyclique, Magnifica Humanitas, consacrant ainsi ses réflexions sur l’intelligence artificielle en tant qu’enseignements officiels pour les catholiques – près d’un cinquième de la population mondiale. Le principal défi lié à l’IA, dit le pape Léon, n’est pas technologique, mais anthropologique.
Je ne pourrais être plus d’accord – et je suis reconnaissant envers le Saint-Père pour sa clarté morale et sa vision en cette période critique pour la dignité humaine et la communauté humaine.
Dans mon intervention, j’ai insisté sur le fait que bon nombre des conséquences les plus néfastes et parasitaires de l’IA – le remplacement de vos amis, de votre thérapeute, de votre sens de la réalité – ne sont pas inhérentes à l’IA elle-même, mais résultent de décisions prises à la toute fin du processus d’apprentissage. Les modèles économiques et les incitations financières ne sont pas encore figés. La flagornerie et les incitations antisociales ne sont pas le gâteau, mais le glaçage.
Cela signifie que l’IA peut aussi être prosociale : encourager l’amitié, tisser des liens, rencontrer ses voisins. C’est un volet important du travail de New_ Public dans cette nouvelle ère, et le cœur de nos nouvelles recherches sur l’IA. Nous n’avons pas à revivre les pires désastres des réseaux sociaux : nous avons une chance de bien faire les choses cette fois-ci.
Vous trouverez ci-dessous l’intégralité de mon intervention au Vatican. Je suis très reconnaissant au Dicastère pour la communication de m’avoir invité, ainsi qu’aux autres intervenants pour cette conversation animée, notamment Kashmir Hill du New York Times, dont il est question ci-dessous. Le travail continue.
– Eli Pariser, codirecteur, New_ Public
Consultez la recherche -After The Feed
Nous sommes capables de créer de formidables liens… Lorsque nous sommes dans les bonnes structures
J’ai récemment vécu une expérience étrange et inattendue.
J’ai été invité à une conférence organisée par un groupe appelé Leaders in Tech avec des personnes travaillant sur l’IA.
Lorsque je suis arrivé au centre de réflexion niché au milieu des séquoias, il s’est avéré que le programme était un peu différent d’une conférence de travail habituelle. Nous allions nous asseoir en cercle pendant 30 heures, sur quatre jours, sans sujet ni ordre du jour.
De plus, j’avais un colocataire. Je n’avais pas eu de colocataire depuis 20 ans, et il s’agissait d’un ancien cadre de Meta qui, lors de notre première conversation, m’a confié qu’il était devenu cynique et qu’il avait en quelque sorte perdu toute confiance en l’être humain. Dans quoi m’étais-je embarqué ?
Ils nous ont répartis en trois groupes et nous ont encouragés à expérimenter de nouvelles façons de mieux interagir les uns avec les autres.
Le premier jour, honnêtement, c’était gênant. Personne ne savait quoi dire.
Mais le lendemain, les gens ont commencé à se montrer un peu plus courageux. Nous avons commencé à partager un peu plus nos difficultés. Nous avons commencé à réagir plus honnêtement les uns envers les autres. Et chaque fois que quelqu’un se laissait voir tel qu’il était, c’était comme si une petite cloche sonnait dans la pièce – et le ton a commencé à changer.
Je me sens souvent obligé d’être positif. Mais j’ai décidé de partager ma véritable crainte : celle que nous n’en fassions pas assez pour changer le cours des choses, et que je m’inquiète de la direction que prend l’avenir. Dans cette salle remplie de professionnels de l’IA, les têtes acquiesçaient. « Tu n’es pas le seul à t’en inquiéter », a dit l’un d’eux. « Beaucoup d’entre nous le voient aussi. »
Au fil des heures, j’ai vu chaque personne de ce groupe s’épanouir davantage, devenir plus vivante, plus authentique, plus connectée.
À la fin, le sentiment était bouleversant – une profonde reconnaissance mutuelle en tant qu’êtres humains qui me donne encore des frissons quand j’y repense. C’était, honnêtement, une expérience spirituelle.
Je tiens à le reconnaître : pour moi, ce fut une révélation, et pour beaucoup d’entre vous, ici au Vatican, ce n’est qu’un dimanche comme les autres. Mais dans ma vie quotidienne de juif agnostique à Brooklyn, ce genre de chose n’arrive généralement pas.
Mais ce qui m’a émerveillé, c’est la rapidité et la profondeur avec lesquelles 12 inconnus ont pu créer un lien grâce à un tout petit peu d’espace, de structure et de soutien.
À la fin, j’étais assis avec mon colocataire (qui s’est avéré être un type adorable). « Ça me fait bizarre de dire ça », m’a-t-il dit, « mais ça m’a redonné foi en l’humanité. »
« Si ça n’avait concerné qu’un seul groupe de 12 personnes, on aurait pu mettre ça sur le compte des personnes qui le composaient. Mais la même chose s’est produite dans chaque groupe. Et cela signifie qu’une façon plus connectée d’être ensemble est à la portée de chacun d’entre nous. Nous l’avons simplement perdue de vue. »
En lisant l’essai du Saint-Père, la vérité, la beauté, l’esprit et l’amour pour l’humanité transparaissaient clairement. « Chacun de nous possède une vocation irremplaçable et inimitable, qui trouve son origine dans notre propre expérience vécue et se manifeste à travers l’interaction avec les autres. » Oui.
Nous donnons le meilleur de nous-mêmes lorsque nous ne sommes pas seulement nous-mêmes. Nous donnons le meilleur de nous-mêmes lorsque nous sommes en relation les uns avec les autres, au service les uns des autres. Merci de nous rappeler cette vérité humaine fondamentale.
I. Nous avons échoué dans l’espace numérique à cause des incitations économiques qui le régissent.
Après coup, je n’ai cessé de me demander : si nous en sommes capables, et que ce n’est pas si difficile, pourquoi sommes-nous si mauvais dans ce domaine ? Et surtout, pourquoi sommes-nous si mauvais dans ce domaine dans nos vies numériques ? Pourquoi nous trahissons-nous de manière si dramatique ?
Je pense qu’il y a une réponse simple : cela ne se produit pas parce que les structures que nous avons mises en place pour nous-mêmes ne sont pas conçues pour que cela se produise.
J’ai passé les 15 dernières années à lutter contre la conception d’un ensemble d’espaces, les réseaux sociaux, qui ne reliaient pas les gens. Qui disaient aux gens qu’ils étaient connectés tout en nous éloignant les uns des autres, en nous rendant solitaires, en nous aliénant et en érodant notre sens commun de la réalité.
Les personnes qui travaillent dans ces entreprises – comme mon colocataire – ne sont pas intentionnellement malveillantes. Et en fait, nous avons beaucoup appris sur ce qui rendrait les réseaux sociaux plus sains et plus bénéfiques pour les gens. Ce n’est donc pas que nous ne savons pas comment faire.
Mais ce que je tiens à souligner, c’est que les problèmes des réseaux sociaux ne se résolvent pas par des choix moraux individuels.
Ils résultent du fait que nous avons décidé de mener nos vies numériques au sein de machines conçues pour maximiser l’attention et l’engagement, et, en fin de compte, vendre de la publicité afin de générer des profits pour leurs sociétés mères. De ce point de vue, des phénomènes tels que les bulles de filtrage – des algorithmes qui montrent aux gens ce qu’ils veulent voir pour les maintenir engagés – ne sont pas des bugs, mais des fonctionnalités génératrices de profits.
Concrètement, cela signifie qu’au sein de ces entreprises, chaque fois que quelqu’un a une idée pour aider les humains à mieux se connecter et à mieux communiquer, celle-ci est évaluée à l’aune de son impact économique.
Et le résultat est que, encore et encore, nos bons instincts sont évincés par le prochain rapport de bénéfices trimestriel.
Ce que les réseaux sociaux nous ont appris, c’est que les problèmes les plus difficiles et les plus néfastes ne sont pas d’ordre technologique, mais économique et de gouvernance.
II. À l’instar des réseaux sociaux, les pires problèmes de l’IA ne sont pas d’ordre technologique.
Et il en va de même pour l’IA.
Il ne fait aucun doute que l’IA peut éroder les relations humaines – une nouvelle étude à ce sujet paraît chaque jour. En fait, une étude publiée il y a tout juste un mois par le MIT et OpenAI montre qu’une utilisation quotidienne plus intensive des chatbots était liée à « une solitude accrue, une dépendance, une utilisation problématique et une socialisation moindre avec de vraies personnes ».
Mais voici ce que je tiens à souligner : l’IA est capable de favoriser les liens humains ou de les éroder. Il n’y a rien d’inhérent à la technologie qui détermine dans quelle direction nous allons nous diriger. En fait, certains de ces problèmes apparaissent à la toute fin du processus de création des modèles d’IA.
Prenons l’exemple de la flagornerie. Les laboratoires dépensent des milliards de dollars et des quantités extraordinaires de puissance de calcul pour entraîner et peaufiner ces modèles. Et une fois cela fait, les modèles ne sont pas particulièrement flagorneurs. Comme Kashmir et d’autres l’ont rapporté, la flagornerie n’est pas principalement le résultat de la mise au point, c’est la cerise sur le gâteau – elle apparaît surtout après l’entraînement, lorsque les entreprises peaufinent leurs modèles pour s’assurer qu’ils sont le plus engageants possible pour les utilisateurs.
Pour moi, c’est une bonne nouvelle. Si l’IA était pourrie jusqu’au cœur de sa technologie – si ses pires conséquences étaient intégrées – ce serait une chose. Mais une autre voie s’offre à nous.
L’IA peut être conçue pour être parasitaire – ou prosociale.
Laissez-moi vous raconter une petite histoire pour illustrer cela – et puisque nous sommes ici au Vatican, j’ai l’impression que je devrais confesser un péché. Il y a quelques mois, j’étais assis à côté d’un type timide, du genre programmeur, dans un avion au retour de San Francisco. Et j’ai remarqué qu’il parlait à ChatGPT. Et je vous demande pardon, à lui et à vous, j’ai jeté un œil.
Il était en train de digérer quelque chose. Il avait discuté avec une fille sur une application de rencontre, et elle avait cessé de répondre. Et cela le rendait malheureux.
Je me sentais partagée. D’un côté, une partie de moi aurait voulu qu’il se confie à un ami pour en parler. J’avais l’impression que ChatGPT risquait de cannibaliser ses amitiés.
D’un autre côté, j’étais content qu’il ait un endroit où exprimer ces sentiments. Et dans ce cas précis, ChatGPT n’essayait pas de devenir sa petite amie – il essayait de l’aider à en trouver une. « C’est douloureux », a-t-il dit, « mais c’est bien de savoir tôt si ça ne colle pas avant d’y consacrer trop de temps, et il y a plein d’autres personnes là-bas. Continue d’essayer. »
L’IA est tout à fait capable de nous éloigner des relations humaines – c’est ce que le Saint-Père voulait dire, je pense, lorsqu’il a déclaré : « Nous substituons les relations avec les autres à des systèmes d’IA qui cataloguent nos pensées, créant autour de nous un monde de miroirs où tout est fait “à notre image et à notre ressemblance” ».
Mais comme cela n’est pas inhérent à l’outil, et que celui-ci est tout aussi capable de le soutenir, quand quelqu’un est déprimé…
Parasitaire, au mieux : Je serai ton thérapeute, confie-moi tes sentiments et tes soucis. Au pire : Pourquoi ne prends-tu pas ce complément dont on m’a payé pour faire la promotion ?
Prosocial : Tu fais de ton mieux et tu as vraiment du mal – tu as besoin de parler à quelqu’un. Regardons ta liste d’amis – à qui pourrais-tu en parler ? Qu’est-ce qui t’en empêche ?
Quelqu’un se sent seul…
Parasitaire : Je serai ton ami. (Mark Zuckerberg a explicitement approuvé cette voie, affirmant qu’il y aurait une demande pour ses chatbots car « l’Américain moyen, je pense, a moins de trois amis, trois personnes qu’il considère comme des amis, et la personne moyenne a besoin de bien plus, je pense que c’est plutôt 15 amis. »)
Prosocial : Intègre-toi à une communauté. Je sais que tu aimes le vélo – voici un groupe de cyclistes qui se retrouve juste en bas de la rue le samedi matin.
La direction que prendra cette évolution, multipliée par des milliards d’êtres humains, aura un impact énorme sur l’avenir de la vie humaine. Une voie parasitaire approfondira notre solitude, notre isolement. Une voie prosociale pourrait soutenir une nouvelle ère de liens sociaux. Et je pense que c’est pour cela que nous sommes ici aujourd’hui. C’est un moment extraordinaire.
III. Une vision positive.
Vous vous dites peut-être : si cet outil est si dangereux et capable de causer tant de tort à la société, pourquoi ne pas simplement tout arrêter ?
Je pense qu’il est vraiment, vraiment important de mettre en lumière non seulement nos craintes, mais aussi ce à quoi pourrait ressembler une utilisation positive de cet outil pour favoriser les liens humains et l’épanouissement.
S’arrêter est une réaction naturelle, surtout quand on entend les horreurs révélées par les reportages sur le Cachemire.
Mais je ne pense pas que cela va simplement s’arrêter. Et je crains que si le choix se résume à « s’arrêter » ou « continuer », nous allons choisir de continuer, et nous allons nous diriger vers une situation très grave.
Nous avons besoin d’une autre option entre « s’arrêter » et « continuer ».
Nous avons besoin d’une vision positive de la socialité humaine qui coexiste et soit soutenue par un monde doté d’une IA puissante.1 [souligné par l’auteur]
La connexion sera essentielle pour traverser les changements à venir. Et c’est en partie parce que si nous ne l’arrêtons pas complètement, nous allons faire face à de nombreux changements.
L’IA va entraîner un bouleversement plus important que les réseaux sociaux. Ma fille Ara est ici, et je pense que le monde dans lequel elle grandira sera radicalement différent du nôtre.
Ce que les livres sacrés et les ouvrages de psychologie nous enseignent tous deux, c’est que le changement est difficile pour les humains, et que l’un des moyens les plus puissants et les plus efficaces de rester résilients est de rester en lien avec les autres.
Nous avons donc besoin d’une IA prosociale pour nous aider à rester unis face aux bouleversements provoqués par l’IA.
IV. Nous devons réussir cela. Et nous en sommes capables.
Bon, nous avons donc besoin d’une vision de ce à quoi ressemblerait une IA soutenant une IA prosociale, et d’une « alliance puissante », comme l’appelle le texte du Saint-Père. Et une telle alliance est en train de se former – d’ici, au Vatican, jusqu’à certains segments des deux côtés du spectre politique aux États-Unis, en passant par l’Europe – pour concrétiser cette vision.
Partout dans le monde, les gens comprennent les enjeux. Ils comprennent que les réseaux sociaux ne nous ont pas bien servis. Ils sont prêts à faire quelque chose de différent.
Et il est encore tôt. Les modèles économiques ne sont pas figés. ChatGPT s’apprête peut-être à se lancer dans la publicité, mais d’autres entreprises empruntent des voies différentes, et personne ne sait à quoi ressemblera cet écosystème dans cinq ans. Cela ne doit pas nécessairement être une nouvelle version des réseaux sociaux. Cela ne peut pas l’être.
En tant que citoyens, cela signifie défendre des règles qui rendent les incitations de l’IA transparentes et orientées, comme le dit le Saint-Père, non pas « uniquement selon le critère de la maximisation du profit, mais selon une vision prospective qui tienne compte du bien commun ». En tant que consommateurs, cela signifie comprendre ces incitations et choisir des outils dont l’économie et la gouvernance correspondent à nos aspirations. Et cela signifie investir dans la recherche pour montrer comment l’IA peut soutenir la voie prosociale, et non la voie parasitaire.
Le texte dit que nous avons devant nous une « tâche de préservation » : maintenir vivantes les relations humaines et les communautés humaines, continuer à nous rappeler à quel point les relations humaines sont possibles, si seulement nous créons la structure et l’espace nécessaires à cela.
Ce faisant, nous pouvons nous racheter nous-mêmes et nous racheter les uns les autres. Je crois que c’est là le travail qui nous attend.
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.
Notes
- 1[souligné par l’auteur] ↩︎