La longue citation qui suit, tirée d’un billet que tous les fans de Dune devraient lire,1Merci à sentiers.media pour la référence ! met le doigt sur ce qui fait la force de l’encyclique de Léon XIV : ce n’est pas la machine qui est le problème mais bien l’usage qu’on en fait, et le pouvoir qu’elle sert.
Magnifica Humanitas est précieux précisément parce qu’il ne commet pas l’erreur grossière actuellement projetée sur le fictif Jihad butlérien. Il ne traite pas la machine pensante ni comme un démon, ni comme une conscience se cachant à l’intérieur des circuits. Il ne voit pas non plus l’IA comme une espèce rivale dont l’émergence doit être combattue par une violence sacrée.
Il demande simplement quelle vision de la personne humaine est élevée par le biais de la machine pensante. Et il met en garde contre les concentrations de pouvoir et les structures de domination mêmes qui hantaient l’œuvre de Frank Herbert.
Je ne suis pas catholique, mais en tant que gauchiste et admirateur d’Herbert, je crois que le mème culturel du Jihad butlérien a encore un réel pouvoir pour freiner la course effrénée vers l’intelligence artificielle générale menée par nos seigneurs de la technologie. Mais je supplie le lecteur de ne pas mal interpréter sa véritable signification.
Dans la spiritualité islamique, le Jihad du conflit martial est considéré comme le « Petit Jihad ». Le « Grand Jihad » est ce que l’on vit lorsqu’on réalise que chaque homme est une petite guerre. Que la maîtrise de soi est une lutte plus grande que la maîtrise de l’homme.
Si nous voulons habiller notre lutte contre les forces inhumaines qui conspirent pour nous dominer, nous surveiller et nous opprimer du symbolisme du Jihad, alors ce doit être ce Grand Jihad. Nous devons lutter contre cette partie de nous-mêmes qui veut céder notre jugement, notre attention, nos conflits et notre humanité aux machines.
La question brûlante concernant l’IA n’est pas de savoir si les machines sont mauvaises. C’est de savoir si les êtres humains permettront aux machines de devenir des instruments par lesquels d’autres êtres humains concentreront le pouvoir. Un Jihad butlérien bien conçu doit viser la technocratie, et non la technologie. [les gras sont de GB]
Le djihad butlérien a commencé
Ma première lecture de l’encyclique de Léon me laissait avec l’impression que le pape était, finalement, technophile. Peut-être cette impression était due à la conférence prononcée à la veille de l’annonce du Vatican devant les évêques du Pays de Galles relatée ici qui m’avait laissé avec cette idée qu’en tant qu’une des « religions du Livre » (juive, chrétienne et musulmane) on pouvait comprendre son intérêt pour une technologie capable de résumer, retrouver, citer dans le texte l’ensemble des savoirs accumulés dans des livres, sermons et évangiles depuis des millénaires.
En fait je me demandais si l’appel à plus de contrôle sur les excès du capitalisme et de sa concentration n’était pas voué à l’échec. C’est à la propriété qu’il faut s’attaquer, et en ce sens l’appel du sénateur Sanders pour que la moitié des actions des grands de l’IA soit versée dans un fonds public me semble un premier pas.
Daron Acemoglu2Lauréat du prix Nobel d’économie 2024 et professeur titulaire de l’Institut d’économie au MIT, est coauteur (avec James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty(Profile, 2019) et coauteur (avec Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023). publiait récemment Le pape aurait dû aller plus loin sur l’IA (ma traduction). Il reconnaît que l’encyclique est un pas en avant.
Léon devance la plupart des commentateurs en soulignant que « la technologie n’est jamais neutre, car elle prend les traits de ceux qui la conçoivent, la financent, la réglementent et l’utilisent ». (…)
Léon a raison d’appeler à une clarté morale et à un débat sérieux à l’échelle de la société. Mais la conversation doit aller au-delà des exhortations pour aboutir à des choix concrets : des mesures antitrust contre les plateformes dominantes, des investissements publics dans une IA complémentaire à l’humain, la réglementation de la surveillance et des armes autonomes, ainsi que des droits significatifs pour les travailleurs et les citoyens sur les données dont dépendent ces systèmes.
L’intervention de Léon rend une telle réponse un peu plus probable qu’auparavant. Mais nous devons tous, nous aussi, défendre l’humanité. (C’est GB qui souligne)
Le pape aurait dû aller plus loin sur l’IA
Il n’y a rien d’inévitable dans la venue de l’IA. Comme Acemoglu l’a défendu dans son article et aussi dans son livre Power and Progress: Our Thousand-Year Struggle over Technology and Prosperity, les conséquences des avancées technologiques relèvent d’un choix et non d’une fatalité.
Il semble bien, cependant, que les gouvernements de l’Europe autant que du Canada se soient convaincus de l’inévitabilité de cette IA, et aient décidé de plonger dans la course, en se donnant quelques outils pour ne pas être totalement dépendants des forces dominantes actuelles. Comme je le soulignais dans le billet précédent (Course à l’IA et open source), l’Europe investit pour accroître son autonomie en matière de semi-conducteurs et d’infonuagique tout en soutenant le développement de l’open-source et de l’énergie. Pour sa part le Canada annonçait la semaine dernière un plan en six axes favorisant l’adoption d’une IA souveraine qui soit open source. Le discours canadien présume que l’adoption de l’IA est une condition du maintien (ou du développement) de la compétitivité du pays.

Alors que nos services de santé peinent à répondre à la demande de services de première ligne, que l’adoption d’un dossier de santé numérique au Québec rencontre d’importantes résistances, et que les données recueillies par l’institut canadien d’information sur la santé présentent encore des incompatibilités entre le Québec et le reste du Canada on nous présente l’adoption de l’IA comme quelque chose qui résoudra quasi magiquement les problèmes, bien humains, de luttes de pouvoir entre corporations et syndicats, de conflits de juridiction entre compétences provinciales et fédérales…
On donne l’impression de vouloir pousser sur tous les fronts en même temps : développer la littératie par la formation à l’utilisation chez les étudiants, la population et les PME… alors que les agents IA disponibles ne nous appartiennent pas et sont loin d’être sûrs; soutenir une adoption rapide de l’IA par les entreprises alors que l’IA souveraine et respectueuse de la vie privée et de la démocratie sont encore à venir… Ne risque-t-on pas alors d’approfondir la dépendance à l’endroit des modèles dominants, chinois ou américains ? Des modèles qui ne sont pas ouverts ni axés sur les valeurs et la culture d’ici.
La Stratégie canadienne en matière d’IA met l’accent sur les alliances qui se développent avec l’Europe et d’autres pays. C’est sans doute le seul moyen de faire face à la puissance des « hyperscalers » qui ont plusieurs longueurs d’avance. De telles alliances ne devraient pas se limiter au seul domaine de l’IA. La mise en commun des ressources pour développer un « commun numérique » capable de nous libérer de la dépendance quasi totale à l’égard des grands de la technologie américaine en matière de bureautique, de gestion infonuagique est de première importance. Le Canada à lui seul ne peut pas développer de solutions open source capables de remplacer les suites bureautiques actuellement omniprésentes. Mais si les pays alliés se divisent le travail tout en s’assurant de l’interopérabilité des modules, on peut imaginer une suite d’applications open qui serait soutenue par un écosystème partagé de développement et de maintenance. La stratégie de l’UE en matière d’open source devrait nous inspirer.
Ce n’est pas le génie des programmeurs américains qui a assuré leur domination, ce sont les lois assurant le caractère intouchable des codes qui ont été imposées par les gouvernements américains depuis trente ans dans le cadre des ententes de « libre-échange » et la puissance financière que cette position monopoliste a permis d’acquérir, leur permettant d’acheter la concurrence et l’innovation quand elles se présentaient. La construction d’un commun numérique de qualité, soutenu par des ressources suffisantes affectées au développement et à la maintenance devrait s’arrimer à la Stratégie canadienne en matière d’IA. Il n’y a pas de IA souverain sans souveraineté numérique. Et pas de souveraineté numérique sans un commun numérique soutenu et partagé à l’échelle internationale.
Notes
- 1Merci à sentiers.media pour la référence !
- 2Lauréat du prix Nobel d’économie 2024 et professeur titulaire de l’Institut d’économie au MIT, est coauteur (avec James A. Robinson) de Why Nations Fail: The Origins of Power, Prosperity and Poverty(Profile, 2019) et coauteur (avec Simon Johnson) de Power and Progress: Our Thousand-Year Struggle Over Technology and Prosperity (PublicAffairs, 2023).







