Gilles en vrac…

Dans son billet Pour une IA coopérative, paru le 7 avril dernier, Hubert Guillaud résume Building a Solidarity Ecosystem for AI par R. Trebor Scholz & Mark Esposito que j’ai traduit ici : Construire un écosystème solidaire pour l’IA. La souveraineté numérique ne peut s’acheter auprès des grands de la Tech.

« La souveraineté en matière d’IA ne viendra pas de la location des modèles des géants de la tech ». Elle ne viendra pas des factures de tokens des systèmes d’IA des grands acteurs de la Tech. Elle consiste d’abord à construire une autre tech, non pas nationaliste ou patriotique, mais qui promeut une souveraineté distribuée, choisie, capacitante. 

On est passé de la souveraineté numérique à la souveraineté en matière de IA… comme si l’une dépendait de l’autre. En fait, il n’y a pas de souveraineté en IA sans souveraineté à tous les niveaux de la « pile numérique » : infrastructures de stockage et traitement; infratructures de communication (cables-satellites); logiciels, applications et softwares; interfaces et matériels (tablettes, téléphones, terminal, manette ou capteur). Une souveraineté affirmée, construite à mesure que se développent les usages et recherches mises en commun par les communautés d’une éventuelle Alliance numérique solidaire.

Une telle alliance n’existe pas encore… mais plusieurs l’appellent de leur voeux. Notamment Justin Rosenstein, de l’organisation One Project, dans How to Make AI Serve the Public que j’ai traduit ici : Comment mettre l’IA au service du public.

Rosenstein définit :

Quatre revendications démocratiques concernant l’IA, chacune valable en soi, chacune renforçant les autres :
1. Règles. Le public devrait fixer les règles de l’IA par le biais d’une délibération démocratique.
2. Incitations. Les institutions publiques devraient réorienter l’IA vers des objectifs déterminés démocratiquement.
3. Richesse. La richesse économique générée par l’IA devrait être partagée par le biais de mécanismes démocratiques.
4. Propriété. Le public devrait détenir des participations majoritaires dans les puissantes entreprises d’IA.

Et nous proposons une Assemblée mondiale de l’IA (GAIA), en tant qu’architecture institutionnelle internationale pour concrétiser cela.

Il ne manque pas d’arguments pour justifier une telle reprise démocratique du contrôle de l’IA et de ses retombées. La plus importante étant, à mon avis, le fait que la puissance et la richesse de cette technologie n’a été rendue possible que par l’appropriation par certaines corporations privées des savoirs et productions textuelles et sémantiques de tous. Sans parler des effets en termes de réorganisation et de centralisation de l’économie dans son ensemble. Les cours d’eau, les ondes sont des biens publics réglementés de même que l’énergie atomique… il devrait en être de même pour la puissance de l’IA.

Un écosystème solidaire ou une IA encadrée publiquement et avec des retombées économiques partagées… ce sont des avenues attrayantes mais radicalement différentes de celle actuellement poursuivie par la poignée de puissantes corporations qui déterminent actuellement les enjeux, les orientations de développement et de mise en oeuvre de cette nouvelle technologie. Plusieurs initiatives coopératives, publiques ou d’intérêt public sont citées dans les articles mentionnés.

Agir maintenant

Il faut collectivement s’assurer que les décisions et choix, les investissements sont faits pour se doter d’une puissance de calcul souveraine au Canada. C’est ce que défendent Beaumier et Cadieux dans leur essai publié le 8 avril dans la revue Options politiques de l’Institut de recherche en politiques publiques : Le Canada doit développer sa propre puissance de calcul en IA.

Mais comme les auteurs le reconnaissent,

Le développement de centres de données spécialisés en IA au Canada n’aurait par ailleurs qu’un effet marginal sur l’atteinte d’une véritable souveraineté numérique, comprise ici comme la capacité d’exercer un contrôle effectif sur son écosystème numérique.

En pratique, les centres de données opérés par de grandes entreprises américaines demeurent sous la juridiction des États-Unis. En vertu du Cloud Act, le gouvernement américain peut contraindre ces entreprises à lui donner accès aux données hébergées sur leurs serveurs.

En fait, même une entreprise canadienne qui ferait aussi des affaires aux États-Unis, pourrait se voir obligée par la justice (ou la police) américaine. Ce qui donne tout son sens à la proposition de Beaumier et Cadieux :

Les gouvernements fédéral et provinciaux devraient prioriser le développement d’une infrastructure de calcul publique destinée à soutenir des usages non commerciaux de l’IA.

Une telle infrastructure servirait en priorité les centres de recherche de pointe, comme Mila et l’Alliance de recherche numérique du Canada, ainsi que les établissements d’enseignement supérieur et les organismes publics.

Les organisations à but non lucratif et à mission d’intérêt public tel que Projet collectif devraient aussi s’inscrire dans cette mouvance pour un numérique souverain, public et solidaire.

Comme le souligne Rosenstein à la fin de son article, cette démarche pour reprendre le contrôle d’un secteur névralgique de l’économie ne devrait pas s’arrêter là.

Le problème structurel derrière la course à l’IA n’est pas propre à l’IA. L’économie privilégie le rendement pour les actionnaires au détriment de l’intérêt public, et la dynamique concurrentielle enferme tout le monde dans un cercle vicieux : si je ne le fais pas, quelqu’un d’autre le fera. Cette logique est ce que les théoriciens des jeux appellent un piège multipolaire. Comme l’ont fait valoir des penseurs tels que Daniel Schmachtenberger, c’est la même force qui sous-tend la destruction du climat, les courses aux armements et l’économie de l’attention. Des crises différentes, une même structure.

Les quatre revendications de ce programme — des règles déterminées démocratiquement, des objectifs déterminés démocratiquement, la richesse partagée et la propriété publique — ne constituent pas seulement un programme pour l’IA. Ce sont les leviers dont nous avons besoin pour démocratiser tout secteur de l’économie où des incitations mal alignées produisent de mauvais résultats. Entreprises pharmaceutiques, entreprises de combustibles fossiles, entreprises de réseaux sociaux : même problème, même type de solution. Et si les systèmes qui façonnent nos vies étaient gouvernés par les personnes qu’ils sont censés servir ? C’est ce qu’on appelle la démocratie économique. L’IA a besoin de ces institutions dès maintenant : les enjeux sont trop importants et le temps presse pour attendre. Mais une fois mise en place, la capacité démocratique à gouverner l’IA pourrait devenir le fondement de la gouvernance de tout le reste.

Aussi publié sur Praxis.

Jusqu’où peut-on utiliser l’IA de manière éthique et responsable ? Pour faire la recherche préalable à l’écriture ? Pour résumer les documents trouvés dans cette première étape ? Pour corriger un premier jet ?

Que j’aie à produire des documents d’appui pour orienter l’action de mon organisation ou des messages publicitaires pour rejoindre ma clientèle, l’attrait que représente aujourd’hui l’IA comme outil dans la réalisation de telles tâches est devenu quasi irrésistible. Tout le monde le fait ! Et puis, si ça me permet d’être performant et de rencontrer ou même dépasser mes objectifs, alors, pourquoi pas ?

En fait plusieurs raisons devraient nous porter à limiter et encadrer sévèrement l’utilisation de l’IA dans la production discursive et intellectuelle de nos organisations. Pour des raisons éthiques d’abord puis de maintien (et développement) de nos compétences en terme d’écriture et de compréhension de la matière dont traitent nos productions intellectuelles.

À propos d’éthique

James O’Sullivan, dans un court article (vous n’aurez pas besoin de le faire résumer par l’IA, il ne comprend que 1800 mots), développe bien cet aspect de la question dans Écrire avec l’IA revient à laisser l’IA écrire à votre place (ma traduction). Il souligne avec force le fait, incontournable, que l’IA s’est construite de manière illégitime :

Les corpus d’entraînement des grands modèles linguistiques comprennent des milliards de mots issus de textes protégés par le droit d’auteur, souvent récupérés sans le consentement ni la rémunération des auteurs qui les ont produits. Chaque résultat généré par ces modèles découle de cette appropriation ; il s’ensuit donc que lorsqu’un écrivain utilise un modèle linguistique à n’importe quelle étape de son processus de création, il intègre les fruits d’un travail détourné dans une œuvre qu’il présentera par la suite comme sienne. (…) Le manquement éthique est ici double. Il y a d’abord l’appropriation initiale des données d’entraînement, que l’auteur individuel n’a pas commise et pour laquelle il n’assume aucune responsabilité directe, mais il y a ensuite la dissimulation du rôle du modèle dans le processus de composition, que l’auteur commet chaque fois qu’il publie un travail assisté par l’IA sans le mentionner, et pour laquelle il assume l’entière responsabilité.

O’Sullivan a des mots durs envers les écrivains :

si le fait de composer un paragraphe à partir de vos propres ressources cognitives vous semble si pénible que vous avez besoin d’une machine pour le faire à votre place ou pour corriger ce que vous avez écrit, alors vous n’êtes, pour parler franchement, pas un écrivain.

Sa conclusion :

Ce qu’il faut, au minimum, c’est la divulgation. Si un texte a été façonné, à n’importe quelle étape de sa composition, par la production d’un modèle linguistique, ce fait devrait être clairement indiqué, afin que les lecteurs puissent évaluer par eux-mêmes à quel type d’objet ils ont affaire.

Quand l’IA résume

Dans AI Summaries Are Making You Worse at Reading Sam Illingworth souligne à quel point les résumés produits par l’IA échappent parfois l’essentiel. Je n’ai pas traduit l’ensemble de l’article mais quelques extraits rassemblés dans ce document. La lecture de résumés plutôt que celle des originaux affaiblit la compréhension… ce qui, dit ainsi, apparaît évident !

Lorsque l’IA supprime l’effort de collecte et de synthèse des sources, le travail mental qui consolide la compréhension n’a jamais lieu. (…) La lecture approfondie favorise l’empathie, l’imagination, la pensée critique et l’introspection.

Ce ne sont pas des options facultatives. Ce sont les mécanismes par lesquels la lecture produit la compréhension. La lecture en diagonale, prévient Wolf, les érode au fil du temps. La personne qui survole ne se contente pas de passer à côté d’informations. Elle perd la capacité de les traiter. 

Les résumés générés par l’IA constituent un survol à l’échelle industrielle. Ils fournissent des conclusions sans contexte, des résultats sans nuance, des réponses sans les questions qui les ont produites.

Apprendre et maintenir ses compétences

Dans le même document, j’ai aussi inclus des extraits (traduits) de There Are Three Ways to Learn With AI. Most People Use None of Them par le même Sam Illingworth. Une recherche randomisée auprès de 52 programmeurs ayant ou non utilisé l’IA permet d’identifier à quel point l’utilisation de l’IA peut réduire la compétence plutôt que de la construire… et à quelle condition son utilisation peut être positive.

Évidemment, cette expérience porte sur des codeurs (en Python) et non des producteurs de textes, mais on peut faire la transcription. La conclusion de Illingworth :

Le groupe témoin [qui n’a pas utilisé l’IA] a rencontré plus d’erreurs. Ses membres ont passé plus de temps bloqués. Ils ont fait état de plus de frustration.

Ils ont également déclaré avoir pris plus de plaisir et avoir davantage appris.

Ce n’est pas un paradoxe. C’est une pédagogie bien établie. C’est dans la lutte que l’apprentissage se produit. Lorsque l’IA élimine la friction, elle élimine le mécanisme par lequel la compréhension se forme.

Ce que cela signifie pour toute personne utilisant l’IA dans son travail

Chaque fois que vous utilisez l’IA pour rédiger un e-mail sans le lire attentivement, vous vous entraînez à ne pas lire attentivement. Chaque fois que vous acceptez un résumé sans vérifier la source, vous vous entraînez à ne pas vérifier les sources. Chaque fois que vous collez une erreur dans un chatbot et acceptez la correction, vous vous entraînez à ne pas déboguer.

Gerlich (2025) a constaté qu’une utilisation fréquente de l’IA était associée à une détérioration de la pensée critique chez les travailleurs du savoir. Non pas parce que l’outil est mauvais. Mais parce que le mode d’utilisation forge une habitude cognitive : déléguer, accepter, passer à autre chose.

Cette habitude s’installe. Et elle s’installe discrètement, car le résultat semble toujours compétent.

Pourquoi cela importe au-delà du codage

Si vous dirigez une équipe, demandez-leur comment ils utilisent les outils d’IA. Pas s’ils les utilisent. Comment. La différence entre délégation et questionnement est la différence entre déqualification et développement.

Si vous enseignez, cette étude vous apporte la preuve de ce que les bons éducateurs ont toujours su : la friction n’est pas l’ennemie de l’apprentissage. C’est le mécanisme.

Que retenir ?

Il ne faut pas interdir l’utilisation de l’IA mais l’encadrer. Exiger la divulgation de son utilisation (pour faire quoi, à quelle étape de la production textuelle).

Les objectifs quantitatifs qui induisent une utilisation extensive de l’IA peuvent conduire à une déqualification des personnels et à des produits de belle apparence mais peu fiables.

Lawrence Lessig, ce juriste américain spécialiste du droit constitutionnel et de la propriété intellectuelle, clarifie (pour moi et, peut-être, pour le sénateur Sanders) dans ce billet (ma traduction) la question des SuperPAC qui jouent un rôle (de plus en plus) important dans les élections américaines.

La décision de la Cours suprême des États-Unis rendue en 2010 (Citizens United v. Federal Election Commission¹Wikipédia) :

interdit à l’État de restreindre les dépenses de communication engagées par des sociétés (y compris à but lucratif), des syndicats, ou des associations, lorsque ces dépenses sont expressément destinées à soutenir un candidat clairement identifié (ou au contraire à s’opposer à lui), et à condition que ces dépenses ne soient pas décidées en coopération, en consultation, à la demande, ou à la suggestion d’un candidat, d’un comité autorisé par un candidat, ou d’un parti politique.

Le billet de Lessig démontre que la condition de « non coopération ou consultation » avec les candidats est facilement contournée par les liens directs des contributeurs avec les candidats. Autrement dit, la cours interdit aux super PAC (qui recueillent les dons) de se concerter avec les candidats dans l’orientation de leurs dépenses électorales alors que ce sont les contributeurs qui, eux, se concertent avec les candidats. Ce qui pose problème quand les contributions sont faites à coup de millions (et centaines de millions). Comme le soulignait Wallace-Wells en février dernier dans Le peuple contre les ploutocrates :

Lorsque Citizens United a été décidé en 2010, les milliardaires avaient dépensé 18 millions de dollars pour l’élection présidentielle de 2000, 13 millions pour celle de 2004 et 16 millions pour celle de 2008. Puis vint le déluge. En 2012, le total s’élevait à 231 millions de dollars, et ce chiffre a encore doublé au cours des trois cycles électoraux suivants, pour atteindre 682 millions de dollars en 2016, 1,2 milliard de dollars en 2020 et 2,6 milliards de dollars en 2024. (…) [E]n 2008 encore, les donateurs donnant plus d’un million de dollars ne représentaient que 4 % des fonds de campagne républicains. En 2024, ils ont fourni plus de la moitié d’un budget de parti beaucoup plus important.

Lessig va plus loin : Lors de la course à la présidence de 2024, les dons de 5 millions de dollars ou plus ont représenté 75 % du financement des super PAC.

En novembre 2024, les électeurs du Maine ont adopté une initiative limitant les contributions aux super PAC à 5 000 dollars par an. Cette initiative est présentement contestée, mais elle pourrait conduire à rétablir un peu de décence dans la joute électorale de nos voisins. Il n’est pas nécessaire de renverser la décision (Citizens United v. FEC) de la plus haute cours. Seulement de faire respecter la décision adoptée à 75% des voix par le Maine.

Citizens United a jugé que les dépenses indépendantes ne peuvent pas être source de corruption car la coordination entre les PAC et les candidats est illégale — ils ne peuvent littéralement pas communiquer. Mais une juridiction inférieure, SpeechNow, a étendu ce principe aux contributions, les qualifiant de « d’un cran plus éloignées ». C’est un raisonnement à l’envers. Rien n’empêche les donateurs de traiter directement avec les candidats au sujet des contributions. Le donateur est plus proche du candidat que ne l’est le PAC.

L. Lessig, L’erreur logique qui a brisé la démocratie américaine

Notes

• 1
  Wikipédia

Pâque et Pâques, deux fêtes religieuses, l’une rappelant la fin de l’esclavage et la « sortie d’Égypte » dans la religion juive et l’autre célébrant la résurrection de Jésus pour les chrétiens.

Deux fêtes du printemps, de la renaissance.

Le débat encore « chaud » entourant la loi québécoise sur la laïcité, qui est réactivé par sa mise en examen devant la Cours suprême du Canada, m’incite à lire ce texte de Habermas que j’ai traduit récemment : Une société « post-séculière » : qu’est-ce que cela signifie ? (6800 mots).

Le philosophe confronte à la fois le multiculturalisme et le laïcisme, les invitant à un apprentissage mutuel.

Nous n’avons besoin de tolérance qu’à l’égard des visions du monde que nous considérons comme erronées et des habitudes que nous n’apprécions pas. Par conséquent, le fondement de la reconnaissance n’est pas l’estime pour telle ou telle propriété ou réalisation, mais la prise de conscience du fait que l’autre est membre d’une communauté inclusive de citoyens jouissant de droits égaux, au sein de laquelle chacun est responsable devant tous les autres de ses contributions politiques. (…)

Sans l’inclusion des minorités dans la société civile, les deux processus complémentaires ne pourront pas se développer de concert, à savoir, d’une part, l’ouverture de la communauté politique à une inclusion sensible aux différences des cultures minoritaires étrangères et, d’autre part, l’ouverture réciproque de ces sous-cultures à un état où elles encouragent leurs membres individuels à participer à la vie politique au sens large.

[L]es personnes qui ne sont ni disposées ni capables de diviser leurs convictions morales et leur vocabulaire en volets profanes et religieux doivent être autorisées à prendre part à la formation de la volonté politique, même si elles utilisent un langage religieux. (…) On attend des citoyens laïques qu’ils n’excluent pas a fortiori la possibilité de découvrir, même dans des discours religieux, des contenus sémantiques et des intuitions personnelles cachées qui peuvent être traduits et introduits dans un discours laïque. (…)

[L]’État constitutionnel confronte ses citoyens aux attentes exigeantes d’une éthique de la citoyenneté qui va au-delà de la simple obéissance à la loi. Les citoyens et les communautés religieuses ne doivent pas seulement s’adapter superficiellement à l’ordre constitutionnel. On attend d’eux qu’ils s’approprient la légitimation laïque des principes constitutionnels au regard même des prémisses de leur propre foi. (…) Mais un changement de mentalité ne peut être prescrit, ni manipulé politiquement, ni imposé par la loi ; il est, au mieux, le résultat d’un processus d’apprentissage. (…) Les processus d’apprentissage peuvent être favorisés, mais pas imposés moralement ou légalement.

Un processus d’apprentissage est-il nécessaire uniquement du côté du traditionalisme religieux et non aussi du côté de la laïcité ? Les mêmes attentes normatives qui régissent une société civile inclusive n’interdisent-elles pas une dévalorisation laïciste de la religion tout autant qu’elles interdisent, par exemple, le rejet religieux de l’égalité des droits entre hommes et femmes ?

Encore Habermas…

Plusieurs articles ont été publiés depuis la mort récente du philosophe. J’en ai parlé ici (Habermas, garçon de café ?) et là (Habermas, R.I.P.). Le Devoir publiait hier l’opinion d’un prof, André Baril : Habermas, ou l’agir communicationnel.

J’ai aussi découvert ces articles récents, que j’ai traduits : Le Habermas de Martin Jay par Martin Jay (4450 mots) qui souligne avec affection la qualité d’écoute de Habermas; Après Habermas (1271 mots), par Nancy Fraser, qui conclut « Certains d’entre nous ne sont peut-être plus des habermassiens, mais nous avons appris de lui, avec lui et contre lui. »

Et ce vieil article (2014) traduit de l’italien que je n’ai pas encore lu : Je vais vous expliquer pourquoi la gauche anti-européenne a tort (6000 mots).