Dans un long article (L’IA en tant que technnologie sociale) Henry Farrell et Cosma Rohilla Shalizi développent la comparaison entre l’IA et la bureaucratie. Cette dernière ayant été développée pour gérer de grands ensemble et appliquer des procédures et lois de manière uniforme et impersonnelle. Mais les défauts de la bureaucratie (la bureaucratisation) quand elle est mal comprise ou interprétée risquent d’être accentués par une utilisation de l’IA réduisant les différences autour de moyennes imposées pour réduire les coûts.
« Les fonctionnaires de niveau inférieur peuvent comprendre des circonstances locales ou particulières que le sommet de la hiérarchie ne saisit pas. Donner à ces fonctionnaires une marge de manœuvre pour adapter les politiques à de telles circonstances peut comporter un risque de défaillance de la coordination ou de malversation, mais peut aussi permettre d’obtenir de meilleurs résultats globaux qu’une combinaison d’abstractions à usage général et de microgestion centralisée. »
« tous ces modèles statistiques sont optimisés pour offrir une performance moyenne satisfaisante plutôt que pour gérer des événements rares qui semblent anormaux. (…) les LLM, comme d’autres formes de traitement du langage naturel, sont performants pour identifier et regrouper des modèles généraux, mais faibles pour détecter des informations rares, inattendues et, pour cette raison même, précieuses. »
Un sentiment de déjà vu
Des programmes (ou des politiques) qui généralisent et imposent des normes établies à partir de moyenne… on a vu ça bien avant l’IA. Et des fonctionnaires qui sont d’autant plus affirmatifs et sûrs d’eux qu’ils ont une compétence limitée… on a aussi vu ça avant les agents IA…
En fait, dans le domaine de la santé que je connais mieux, les vagues successives de centralisation et de bureaucratisation ont conduit à une déresponsabilisation des entités locales et à une « optimisation » des mesures et procédés qui tendait à normaliser, rendre comparable et comptabilisable les services, besoins et programmes au détriment de la marge de manœuvre et de l’expérimentation sur le terrain. Mais il ne faudrait pas pour autant idéaliser le « local » : beaucoup d’acteurs du terrain sont confortable dans un rôle d’applicateur d’une norme plutôt que d’évaluateurs de besoins différenciés. Les dits acteurs n’ont peut-être pas la formation ou les compétences pour faire de telles évaluations. Les administrateurs préférant parfois embaucher des techniciens plus dociles et respectueux des consignes que des professionnels plus aptes à tenir compte des situations diverses mais qui peuvent être plus critiques, moins malléables et… coûtent plus cher !
Au début des CLSC, dans la phase d’expérimentation qui allait définir les services que cette nouvelle institution allait offrir, les fonctionnaires à Québec avaient déjà beaucoup de mal à « mettre dans de petites cases comparables » toutes ces initiatives différentes… qui prenaient « à bras le corps » des problématiques complexes (vieillissement, délinquance, pauvreté) et trouvaient des solutions adaptées aux ressources (communautaires, familiales, régionales) locales mais difficilement réplicables ou même évaluables à court terme (ou à peu de frais).
La centralisation implicite dans l’utilisation des grands modèles linguistiques actuels (LLM) n’est pas la seule forme possible. Comme le souligne Farrell, on peut imaginer
« un avenir proche dans lequel de petits modèles linguistiques peu coûteux pourraient accomplir une grande partie du travail des grands modèles favoris[ant] une économie politique moins centralisée que si les grands modèles conservaient un avantage décisif.
« [L]’optimisation ne fournit tout simplement aucun moyen objectif de peser les types de choix entre des éléments non commensurables qui sont essentiels au processus bureaucratique. »
Les bureaucraties ont toujours eu de la difficulté à faire appliquer fidèlement les plans venus d’en haut…
« les responsables du Parti qui dirigent la République populaire de Chine sont régulièrement frustrés par leur incapacité à savoir ce qui se passe à leurs échelons inférieurs. Les responsables de niveau inférieur déforment régulièrement les politiques à leur avantage personnel et ont également coupé les flux d’information alternatifs vers le sommet »
« Il ne s’agit pas seulement que les acteurs non étatiques puissent eux-mêmes utiliser la technologie pour brouiller les données, mais que celles-ci ne soient peut-être pas si utiles que ça au départ. Des données systématiquement incomplètes risquent d’aggraver les angles morts bureaucratiques plutôt que de les compenser. »
Il y a dix ans, le 22 juin 2016, paraissait sur ce blog : des théories pour nos pratiques. Je ne vais pas souvent relire les billets qui s’accumulent ici depuis 25 ans ! Mais c’est la « machine » Jetpack qui m’a fait remarquer. C’était quelques mois après le démembrement des CRÉ1Conseils régionaux des élus par le gouvernement Couillard, qui nous avait amené, chez Communagir, à créer nous.blogue2Dont les archives ont été déplacées dans un carnet Praxis, qui se voulait un espace ouvert pour comprendre, réagir à ce coup de barre, cette perte d’un pouvoir (tout relatif) démocratique que la société civile avait gagné dans les régions.
La mise en échec, la déconstruction des espaces et organisations démocratiques et sociales qui se consacraient à des objectifs de santé, de développement social concerté – ce recul de la place accordée aux acteurs et réseaux de la société civile mobilisant citoyens et volontaires, au profit d’une société plus centralisée autour d’une alliance politico-technocratique – ce reflux pourrait être l’occasion d’une alliance renouvelée de forces professionnelles conscientes de la toxicité de tels mouvements avec des forces citoyennes, civiques et communautaires pour formuler la prochaine mouture de politiques publiques favorables à la santé et au développement social.
La publication de deux « briques » par Jean-Louis Laville et al. avait alimenté ma réflexion et mes espérances.
Laville et Salmon proposaient une belle synthèse critique de l’influence de Hayek, théoricien du néolibéralisme, tout en mobilisant les Habermas, Ostrom, Polanyi ou Dewey pour mieux situer les enjeux confrontant les associations de la société civile.
La lecture de la lettre dans Le Devoir d’aujourd’hui par trois leaders-professeurs importants de la mouvance associative québécoise Un Québec distinct, mais distinct comment? m’amène à reprendre le commentaire que je faisais il y a dix ans :
Il ne suffira pas de défendre et faire valoir la place des associations et de la société civile pour « changer le monde ». Il faudra encore que les secteurs « marché » et « État » soient aussi intégrés dans un éventuel « plan de Transition ». Et pour cela il faudra que les différentes « gauches » trouvent à s’entendre pour pouvoir, enfin, faire contrepoids à une droite devenue quasi hégémonique depuis trois décennies.
Fontan, Klein et Van Schendel en appellent aux forces de l’alternative « groupes communautaires, l’économie sociale, les mouvements étudiants et citoyens, les nations autochtones » pour développer un rapport de force à même de « transformer nos formes institutionnelles (l’État, le marché…) ». Pas un mot sur les forces syndicales, ni sur les portions de l’État et du marché qui peuvent, doivent être mobilisées.
Depuis dix ans
Il s’en est passé des choses ! Nos voisins ont eu droit à non pas un mais deux mandats trumpistes ! Ici la CAQ a poursuivi en les approfondissant les politiques néolibérales.
Par ailleurs les régions se sont mobilisées autrement, après la disparition des CRÉs, souvent avec l’appui d’une philanthropie plus éclairée et respectueuse que dans les années précédentes.3Voir ce billet de 2017 Sommets, PIC et dons Le Saguenay-Lac-St-Jean s’est même lancé dans un Grand dialogue pour la transition socio-écologique.
La pandémie, les guerres… nous ont appris que le chemin vers la transition ne sera pas tranquille ! Mais cela nous a aussi appris que les gouvernements peuvent parfois reprendre du collier, quand l’urgence et l’appui populaire sont au rendez-vous.
L’article de Fontan et al. dans Le Devoir m’a fait repenser à ce billet par The Minority Report du 9 juin que j’ai traduit : Le système immunitaire – Pourquoi le conflit interne de la gauche est ce qui la maintient en vie. S’adressant à « la gauche » dans le sens américain, il met en valeur l’importance de maintenir un lien entre les forces radicales et réformistes. Ce qu’on pourrait interpréter, en contexte québécois, comme le lien entre… le Parti Québécois et Québec Solidaire ? Ou encore entrer le mouvement communautaire et le mouvement syndical…
De l’audace pour sortir de la marge
Vous me permettrez de recentrer cette réflexion, pour terminer ce billet, sur un sujet plus limité que la Grande transition. Je suis impliqué, comme participant d’abord puis depuis un an comme administrateur, dans le projet En commun qui se veut une alternative aux GAFAM en créant des espaces de communication/délibération/partage numériques qui nous appartiennent et servent à autre chose que de vendre de la publicité. C’est une initiative qui a été depuis ses débuts largement soutenue par la philanthropie.
Depuis un peu plus d’un an le contexte politique a vu monter des appels à la souveraineté numérique qui sont portés plus largement que jamais par les États jusqu’ici soumis à l’influence et la domination des oligarchies américaines. Par ailleurs les grands médias publics ou d’intérêt public ont continué d’être pris en otage par les grands de la tech qui monopolisent la source traditionnelle de financement qu’est la publicité. La multiplication des canaux de diffusion favorisée par l’émergence des nouveaux médias (YouTube et cie) a aussi contribué à réduire l’attractivité des anciens mass médias qui demeurent cependant des sources essentielles et incomparables pour une information de qualité.
Le principal diffuseur public canadien, CBC/Radio-Canada, a su développer une présence en ligne diversifiée et innovante avec OHdio, notamment. La Presse s’est transformée en un média uniquement numérique. Toutefois, l’arrivée de l’intelligence artificielle risque de réduire encore l’attrait des médias indépendants des GAFAM.
Plutôt que de simplement renchérir sur la hype entourant l’intelligence artificielle, les gouvernements devraient soutenir l’établissement d’une véritable infrastructure numérique permettant aux forces sociales et institutionnelles du pays de se loger, d’interagir et d’échanger indépendamment des Big Techs américaines. Permettre une identité numérique indépendante des fournisseurs d’accès et des HotMail, Gmail de ce monde serait un bon départ. Dans son petit livre L’archipel des GAFAM – Manifeste pour un numérique responsable4Voir mon billet de septembre dernier : souverain parce que public, Vincent Courboulay y allait de quelques (25) propositions, dont celle-ci :
Je crois que les forces assemblées autour de l’expérience En commun pourraient agir en aiguillon initiateur pour mener une telle bataille. À condition de voir grand, de se situer dans la page plutôt qu’à la marge et d’approcher les autres forces avec respect et détermination.
Un rapport de recherche par Daron Acemoglu, Dingwen Kong et Asuman Ozdaglar.
Le modèle met en évidence une tension dynamique marquée : si l’IA agentique peut améliorer la qualité des décisions immédiates, elle peut également éroder les incitations à l’apprentissage qui soutiennent la connaissance collective à long terme. Lorsque l’effort humain est suffisamment élastique et que les recommandations de l’IA agentique dépassent un seuil de précision, l’économie peut basculer vers un état d’équilibre de l’effondrement des connaissances dans lequel la connaissance générale finit par disparaître, malgré des conseils personnalisés de haute qualité.
Après la mesure de l’effet délétère des IA flagorneuses sur les comportements sociaux, cette fois on mesure l’effet IA sur la connaissance collective.
Arthur Perret y va d’une réflexion de prof : Le cognitariat qui vient qui inclut quelques références, dont De la bêtise artificielle : pour une politique des technologies numériques et Un taylorisme augmenté : critique de l’intelligence artificielle.
L’Institut national de santé publique du Québec (INSPQ) lance une nouvelle collection, Question de santé publique — Comprendre pour agir, afin de promouvoir une culture de santé publique et de prévention au Québec.
Mercredi, c’était la deuxième (ou était-ce la 3e ?) rencontre mensuelle de la communauté de pratique sur la veille dans Passerelles. Une trentaine de membres s’y sont rencontrés pour discuter des outils utilisés pour la veille dans leur organisation ou leur travail.
Jeudi, c’était un comité d’orientation de Communagir à propos de nouvelles approches en développement.
Jeudi je me suis demandé si dans nos visées de médiation sociale par la culture dans les efforts collectifs de développement des communautés, on ne profiterait pas d’une approche, ou d’une boîte à outils mésoéconomique. J’avais l’impression qu’on évitait de saisir la dimension infrastructure, économique des enjeux en se concentrant sur les aspects socio-culturels des histoires, mais on m’a corrigé en soulignant que dans les travaux jusqu’ici réalisés (notamment du projet des Récits régionaux) la relation aux dimensions économique était toujours importante, sinon centrale. Ce qui pourrait rendre la, les lunettes de la mésoéconomie encore plus utiles. Je dis lunettes pour re-nommer les ‘canaux’ de définition des projets/objets d’étude : nature, futurité, concurrence/produit, travail auxquels certains ajoutent la gouvernance comme cinquième angle d’examen, de différenciation.
Mais qu’est-ce qu’on ferait de ces multiplesgrilles de lecture des réalités complexes que sont les processus régionaux (ou localisés) de développement (humain ? soutenable ?). Du data de plus pour alimenter la machine ? On peut se le demander. À moins que ces lectures superposées ou croisées ne nous permettent de mieux saisir la complexité des motivations des acteurs et actants ?
Mais pourquoi appliquer l’approche méso à l’économie sociale ? Parce que cette approche ne s’applique pas à l’économie tout court ? Que c’est une approche permettant de situer l’économie dans son écosystème, dans la société et la nature qui l’incluent ? Mais si on se concentre sur l’ÉS au moment de faire connaître la méso, ne risque-t-on pas de nuire à l’adoption-diffusion de cette « boîte à outils » pour la (transition) transformation ? Les secteurs ayant fait l’objet d’analyse mésoéconomique dans le livre (Méso-économie : penser la pluralité des dynamiques économiques ne sont pas tous d’économie sociale. Pour sa part le numéro que la revue Intervention économique consacre à la méso est centré sur l’ÉS : L’approche méso de l’économie sociale et solidaire : vers un nouveau paradigme ?
Surveiller les flux
Pendant la discussion avec les « veilleurs et veilleuses », mercredi matin, je soulignais que certains agrégateurs de fils RSS permettaient d’intégrer les abonnements à des lettres (newsletters). Puis je me suis demandé pourquoi je n’utilise pas cette fonctionnalité ?
Parce que m’abonner à une lettre en passant par un agrégateur, ce n’est plus moi qui suis abonné mais une adresse fictive créée par le logiciel. Et puis je trouve l’interface de mon lecteur de courriels plus simple, j’y suis habitué… aussi c’est simple de me désabonner. Je me suis créé une adresse spécifique pour mes abonnements… et ainsi je peux les lire dans une boite-courriel réservée aux newsletters et abonnements Substack.
Il faudra qu’on aborde la gestion des stocks et pas seulement des flux… comment, quand conserve-t-on des éléments ? Quels traitements des items ? Rediffusion vers autres flux… stockage dans des dossiers, des carnets, des bases de connaissances ?
Une IA pure jus québécois
Le webinaire de vendredi, organisé dans le cadre de l’IID (Institut intelligence et données) de l’Université Laval, avec Jean-Baptiste Martinoli aurait été meilleur avec une prise de son de qualité (un écho persistent rendait l’audition difficile) et si le « chat » dans l’interface Zoom avait été ouvert tel que promis. La question que j’aurais posée à M. Martinoli : votre entreprise est privée, c’est à dire qu’elle pourrait être vendue à d’autres intérêts privés (canadiens, américains ou européens…) réduisant à néant sa contribution à la souveraineté numérique qui est une qualité mise de l’avant aujourd’hui par vos compagnies. Peut-on se prémunir contre une telle possibilité ?
Il m’a semblé que l’essentiel du travail réalisé par Matania (et GoIA, ProductivIA) tourne autour d’une utilisation locale (québécoise) de l’IA, dans une interface multi-IA mettant en compétition plusieurs moteurs d’IA afin de se prémunir des biais que ces entités ont nécessairement. L’utilisation de l’IA pour développer du code (et des applications) grâce à une application pour développer des applications : La fabrique. La capacité de produire des vidéos et podcasts sur des sujets éducatifs (une série sur l’histoire de la planète et de l’humanité…) traduits en 18 (?) langues… Les applications sur sys.quebec : mail, agrégateur, réseau social, production vidéo, production de texte accessibles une fois que vous avez donné une adresse courriel valide, à laquelle est envoyé un code de connexion.
Effet positif de ChatGPT sur l’apprentissage des étudiants ? Oui, mais…
« L’impact de ChatGPT sur les résultats scolaires des élèves : les résultats ont montré que ChatGPT avait un effet modérément positif »
ChatGPT’s impact on student learning outcomes : The results indicated a moderately positive effect of ChatGPT on student learning outcomes (g = 0.670), significantly enhancing both cognitive and non-cognitive skills.
Le bien-être humain dépend de la capacité à naviguer dans le monde social, une compétence acquise principalement par le biais d’interactions avec les autres. Cet apprentissage social repose sur un retour d’information fiable : reconnaître quand nous nous trompons, quand un préjudice a été causé et quand les points de vue des autres méritent d’être pris en considération.
À première vue, un indice de fiabilité qui atteint 80% semble intéressant si on n’est pas trop regardant sur la qualité des résultats… Ça me rappelle les résultats de Google quand on le questionnait et qu’il nous proposait un lien « Je suis chanceux »… Mais quand on parle d’utiliser ces outils dans des contextes décisionnels, critiques même, 80% c’est un mauvais résultats une fois sur cinq. Comme disent Kapoor et Narayanan, ce sera difficile d’atteindre les seuils nécessaires pour les contextes risqués :
Nous estimons que pour un fonctionnement autonome dans des contextes à haut risque, nous avons besoin d’une performance de 3 à 5 « neuf » (une précision de 99,9 % à 99,999 %) afin que la fiabilité ne soit plus un problème, et nous ne pensons pas que les agents basés sur le LLM soient en passe d’atteindre un tel seuil. (…) [N]ous pensons que le passage d’une fiabilité de 90 % à 99 % sera aussi difficile que le passage d’une fiabilité de 99 % à 99,9 %, et ainsi de suite.
L’adoption rapide de l’IA est entreprise dans le but de masquer sa véritable tendance, dans le but d’étendre le contrôle sur les cadres intermédiaires, en traçant la ligne de la prolétarisation juste en dessous de la direction générale, ou juste en dessous du niveau des vice-présidents.
(…) Je ne sais pas si l’automatisation implicite de l’exécutif offre un espoir pour un avenir socialiste, mais à un moment donné, il faut se demander si cela pourrait vraiment être pire que ce que nous avons actuellement. L’automatisation des postes de direction doit être tentante pour ceux d’entre nous qui n’ont jamais cru à la rationalité des managers. [les soulignements sont de Gilles]
Ce que Weatherby met en lumière c’est que ce ne sont pas que les postes de premier niveau qui sont à risque. Déjà certains postes de cadres et de professionnels (médecins, notamment) sont inscrits dans un « pipeline » de processus quasi-numérisés.
Avec l’essor d’un pipeline hautement technique, allant des essais contrôlés randomisés aux équipements de diagnostic, en passant par l’interprétation des données, le diagnostic et le traitement, nous avons atteint un point où un médecin peut être défini comme un interrupteur-humain permettant d’éviter les poursuites [liability-avoiding decision-switch]. (…) Pourquoi ne pas transférer les salaires manifestement absurdes des médecins et des administrateurs aux infirmières et aux assistants médicaux – qui effectuent le travail de soins et le reste du diagnostic pratique – et se débarrasser complètement des médecins humains, et surtout des administrateurs ?
Weatherby n’est pas sérieux quand il dit cela. Mais ça rejoint ce que je disais il y a 8 jours, et non sur un ton humoristique, dans Où nous mène l’IA ? Au ciel ou en enfer ? :
Mais est-ce qu’on n’a pas déjà des robots, comme ces médecins spécialistes concentrés sur des champs très limités et orientés vers la production en quantité de diagnostics et d’interventions ? Déjà le médecin généraliste qui te reçoit sans même te regarder, ni te toucher, et qui n’a d’yeux que pour son écran et ses résultats d’examens… on pourrait tout aussi bien faire affaire avec une machine, non ?
On peut se rassurer en se disant que les professionnels et les administrateurs ne prendront pas le risque de confier des décisions critiques à des machines, avec de telles fiabilités. Mais les machines sont déjà présentes dans les bureaux, cliniques et labos. Et, malheureusement, il semble que les décisions prisent par l’IA seule soient meilleurs que celles de l’humain assisté de l’IA ! L’entretien de Azeem Azhar avec quatre utilisateurs de l’IA dont un médecin est… inquiétante.
Plusieurs études comparent actuellement l’IA seule à l’IA associée à des médecins, sur différents types de performances cliniques. Et l’IA [seule] a obtenu de meilleurs résultats que les médecins associés à l’IA. Ce n’était pas prévu. Tout était censé être hybride.
Alors, si on maintien le professionnel dans l’équation, cela abaisse les résultats ! Ou bien on pousse vers l’acceptabilité de l’interaction directe de l’ordinateur avec le client, sans intermédiaire humain décisionnel, ou bien on abandonne l’usage de l’IA. Que pensez-vous qu’il va se passer ? Azham et ses invités expliquent un tel résultats :
Les moins performants sont plus enclins à accepter les contributions de l’IA, tandis que les experts rejettent les bonnes contributions de l’IA. Et si vous étendez cela à un soutien agentique, c’est peut-être encore plus vrai. Nous ne savons toujours pas. Est-ce parce que les médecins ont un biais d’automatisation ? Est-ce parce qu’ils ne savent pas comment utiliser l’IA ? C’est vraiment flou pour l’instant.
On peut compter sur la capacité des corporations médicales à défendre les privilèges et l’estime, la reconnaissance sociale dont ils jouissent. Ils ne se laisseront pas facilement réduire à assister l’IA plutôt que l’inverse. Est-ce qu’on a notre mot à dire ici, collectivement comme citoyens ou individuellement comme client ? Ou bien ce sont des choses qui se décideront dans les officines de corporations professionnelles, technologiques et financières ?
On peut penser que le contexte, l’écosystème ou le « pipeline technologique » influenceront la manière dont les médecins s’approprieront ou utiliseront l’IA. Déjà le fonctionnement « à l’acte » a réduit la pratique en petites parcelles comptabilisables sans lien apparent avec la condition de vie du patient. Les professions médicales ont bataillé ferme, depuis longtemps, pour conserver ou étendre leur monopole sur certains actes, l’accès à certains traitements ou spécialistes. L’émergence d’un « consultant-IA » ne viendra-t-elle pas niveler le terrain avec d’autres para-professionnels ou professions ? À moins que les corporations médicales ne s’approprient et monopolisent l’usage de ces IA-consultants. Comme elles le font déjà pour les produits pharmaceutiques.
De telles perspectives apparaissent « naturelles ». Elles ne font que suivre le sentier déjà ouvert, reconnaissant les rapports de force établis. Mais poursuivre les tendances actuelles, les usages dominants est-ce vraiment ce que l’on veut ? Il y a une dimension de performance, d’optimisation et d’accélération dans l’arrivée de l’IA qui devrait nous porter à prendre une pause. À en discuter un peu… Peut-être cette technologie nous permettrait-elle de changer de direction plutôt que de faire plus vite et moins cher ce qu’on fait déjà ?
Pour ne pas évaluer, puis implémenter l’IA comme du « business as usual », il faudrait qu’un certain sentiment d’urgence, justifiant une intention réformiste, un désir de changement.
Un changement saisissant l’irruption de l’IA comme une occasion de réviser nos processus, rééquilibrer les chances ou répartir les capitaux. Je n’ai pas encore lu attentivement les deux longs articles de Benanav bourrés de références (+150) mais je les ai parcouru suffisamment pour apprécier la complexité des solutions proposées par l’auteur pour planifier l’économie en fonction de valeurs plus globales que les seuls intérêts financiers des propriétaires des moyens de production. Tenir compte des conditions environnementales, des désirs et besoins des populations grâce à de nouvelles institutions, dont le remplacement de la monnaie par des crédits et des points.
Le débat sur l’utilisation des outils numériques pour planifier et remplacer ou encadrer l’influence du marché ne date pas d’hier. Comment fixer des prix justes ? Je cherche où je peux trouver cette référence aux débats des années 30-40 sur le « calcul socialiste ». Ça y est, c’est dans Digital Socialism de Evgeny Morozov, dans un New Left Review de 2019 (ma traduction : Socialisme numérique ?). Dans un billet de 2020 je disais :
Dans un article de juin 2019, publié par la New Left Review, Digital Socialism, Morozov relate les débats des années 30-40 entre Hayek et les tenants de la planification socialiste… mais aussi met en lumière les possibilités des technologies pour une planification démocratique et décentralisée, chose qui n’était pas possible à l’époque. Déjà, dans Le Monde diplomatique de décembre 2016, avec Pour un populisme numérique (de gauche), Morozov défendait l’idée que les « données personnelles » qu’utilisent à leur profit les Amazon et Facebook de ce monde devraient être du domaine public, et à ce titre être accessibles, utilisables par tous. Avec Digital Socialism, il pousse un peu plus loin en promouvant la « socialisation des moyens de rétroaction ». La planification et la coordination sociales n’ont plus à être soit centralisées ou laissées au marché, elles peuvent être décentralisées grâce aux nouvelles technologies.
Dans son Socialism after AI (Le socialisme après l’IA) publié en décembre dernier, Morozov répète son mantra de l’expérimentation décentralisée entre les mains des citoyens, des coops, des cliniques :
[Des] projets d’IA municipaux, coopératifs et basés sur des mouvements, chacun avec ses propres priorités. Une administration municipale pourrait maintenir des modèles ouverts formés à partir de documents publics et de connaissances locales, intégrés dans les écoles, les cliniques et les bureaux du logement selon des règles fixées par les résidents.
N’est-ce pas ce que souhaitent les thuriféraires de l’IA, comme le rêve tout haut un des fondateurs d’Anthropic, Jack Clark en conversation avec Ezra Klein : À quelle vitesse les agents IA vont-ils bouleverser l’économie ? Bon, sans doute se pose la question de la propriété de ces modèles d’IA. Je n’ai pas encore entendu les propriétaires de l’IA proposer de donner leurs modèles aux municipalités…3Mais les modèles chinois ne sont-ils pas ouverts ? GB Le monde rêvé par ces vendeurs de quincaillerie IA s’adresse à des clients, individuels ou corporatifs… les outils qu’ils promettent vont leur faciliter la vie, les rendre plus productifs, plus profitables. Et non plus justes ou plus équitables, ce serait changer les règles du jeu !
Ce que Shapiro met en relief dans son texte récent (La prochaine grande transformation) c’est la dimension sociale, l’inscription, le réencastrement dans la société d’une économie saine. L’Occident a « gagné la guerre froide » grâce à ses programmes sociaux et l’État providence. Pourtant la fin de la guerre froide a coïncidé avec le démantèlement ou à tout le moins l’affaiblissement dudit État-providence, au profit d’un capital de moins en moins ancré, de plus en plus volatile… et concentré.
C’était aussi, un peu, ce que soulignait Farrell dans son IA est une technologie sociale, qui répondait à l’assertion de Kapoor et Narayanan qui, quant à eux, défendaient une conception de l’IA comme une technologie normale. Cette technologie n’est pas miraculeuse, et elle aura besoin de s’inscrire dans des contextes technologiques et sociaux particuliers pour être utilisée. Des contextes qui, pour l’instant, sont dominés par une culture compétitive, guerrière et identitaire.
Les mécanismes de rétroaction, que Morozov souhaitait socialiser (en 2019, dans Socialisme numérique ?), en obligeant les Big Data à partager au moins une partie de leurs données et analyses, sont devenus l’IA, en 2025, dont Morozov souhaite décentraliser, démocratiser l’accès (dans Le socialisme après l’IA). Mais pourquoi l’IA serait-elle plus partageable, démocratisable que les infrastructures de rétroaction numériques en 2019 ou encore les centres de données (Socialize the Data Centres), en 2015 ? Les mêmes principes de fonctionnement décentralisé assurant le maximum de liberté aux unités de base traversent les écrits et travaux4Autour de Stafford Beer – The Santiago Boys; Evgeny Morozov: We Need a Nonmarket Modernist Project [Jacobin] de Morozov. Mais la stratégie pour mettre en oeuvre de telles idées généreuses est mince, pour ne pas dire inexistante.
Je n’ai pas l’impression que l’utopie (« au delà ») élaborée par Benanav sera vraiment plus instructive sur les stratégies de mise en oeuvre…
Et puis, il y a le texte avec lequel je commençais ce billet, Vers une science de la fiabilité des IA que je devrais relire pour pondérer l’enthousiasme d’un Morozov.
Le recours à la théorie de Karl Polanyi (La Grande Transformation) permet à Shapiro de cadrer l’arrivée de l’IA dans une perspective longue de relation entre l’économie de marché et l’État, entre économie de marché et société : les sociétés fonctionnent mieux lorsque l’économie (et les transformations que son développement amène) est acceptée, encadrée par la société plutôt que cette dernière assujettie aux humeurs et impulsions d’un marché qui s’est extirpé des contraintes nationales et sociales.
C’est une hypothnèse séduisante que celle d’un retour de l’État-providence dans une forme assouplie, modernisée (IA oblige!) qui permettrait de contrecarrer les effets délétères de l’implantaton de l’IA tout en soutenant un développement plus responsable, stratégique de l’IA et des règlementations l’encadrant. Un développement tout de même. Même si l’auteur émet un certain doute sur l’utilité réelle de ce développement (« Si l’engouement est justifié, l’IA générera des rentes substantielles »). Compenser pertes et déplacements d’emplois non seulement par des revenus plus accessibles mais aussi de nouveaux emplois significatifs, permettant intégration et reconnaissance sociales.
Pendant la guerre froide, la concurrence avec l’Union soviétique n’était pas seulement militaire ou technologique, elle concernait également l’organisation sociale. Le succès de l’Occident dans cette lutte doit beaucoup plus à l’État providence qu’on ne le reconnaît souvent. La social-démocratie d’après-guerre a stabilisé la société capitaliste en décommodifiant les risques clés, tels que le chômage, l’invalidité ou la vieillesse. Elle a légitimé les marchés en garantissant que la croissance se traduise par une prospérité largement partagée et a permis aux gouvernements occidentaux de soutenir une concurrence géopolitique à long terme sans crise interne constante. (Ma traduction, mes soulignements)
Une telle vision de la « victoire de l’Occident » fait la part belle à la social-démocratie et l’État providence sans dire un mot des effets de la délocalisation et de la libéralisation des marchés sur la consommation dans ces société démocratiques capitalistes. Les assaults du néo-libéralisme contre l’État-providence ont été d’autant plus fructueux qu’ils coïncidaient avec l’arrivée de produits de base à meilleur marché, ou d’innovations techno-ludiques aguichantes.
La fin de la guerre froide amenait une accélération du commerce et des investissements transfrontaliers permettant la réduction des couts de consommation (ou son augmentation à rabais) qui compensa pendant un temps les pertes d’emplois liées à la délocalisation. Mais les nouveaux emplois (dans les services, les technologies) n’étaient pas nécessairement pour ceux qui avaient perdu le leur…
La croissance fulgurante des Big Tech n’est pas que le fait d’esprits supérieurs et maléfiques qui ont sû saisir les opportunités et s’imposer auprès des politiques… elle s’est appuyée sur une complicité parfois enthousiaste de la part des consommateurs et producteurs indépendants. Nous avons collectivement participé au développement, à l’invention de cette culture numérique, médiatique, hédoniste et individualiste. La classe moyenne, dont tout le monde se dit membre, s’est investie dans sa résidence-capitalisée, ses voyages annuels ou ses automobiles dernier cri… les autres étant scotchés à leur écran de téléphone.
Autrement dit, nous ne sommes pas que des victimes de ce nouveau régime. Est-ce à dire que les individus doivent porter la principale responsabilité du changement ? Non, ce sont les cadres juridiques et économiques, les corporations toute-puissantes… mais les consommateurs ne sont pas innocents ni sans pouvoir. Ce pouvoir qui s’organise dans les associations, les organisations de la société civile, des mouvements de résistance et de promotion de valeurs alternatives.
EN TERMINANT, mes commentaires critiques ne devraient pas vous empecher de lire l’article de Shapiro qui excelle dans son résumé des thèses de Polanyi et sa synthèse des enjeux géopolitiques liés à l’IA.
Dans un article du New York Times, Où nous mène l’intelligence artificielle ? (ma traduction) on peut voir, en quelques questions posées à 8 « grands penseurs », la diversité des opinions et les oppositions de points de vue. Sur la question de l’éducation je préfère encore écouter Stephen Downes, qui, même si je le trouve un peu trop optimiste, ou agnostique en ce qui a trait à la (prétendue) puissance de l’IA, nous ramène aux questions de fonds que le monde de l’éducation doit se poser (ma traduction). Ça rejoint un peu ce que disait une des 8 personnes interviewées par le NYT : « L’éducation avait déjà besoin d’une refonte en profondeur, donc la nécessité de s’adapter aux nouveaux outils d’IA pourrait être une bénédiction déguisée. » C’est la même Helen Toner qui disait, d’entrée de jeu :
Je pense que nous disposerons de systèmes d’IA capables d’apporter une contribution significative à la pointe de plusieurs domaines scientifiques, mais auxquels vous ne confieriez toujours pas l’organisation des camps d’été de vos enfants.
J’ai utilisé l’IA à plusieurs reprises comme mécanisme de brainstorming, comme caisse de résonance pour des idées en phase initiale.
Et voici ce que j’ai découvert : chaque fois que j’avais une idée qui sortait vraiment des sentiers battus, l’IA me décourageait de la poursuivre. Lorsque j’ai persisté, elle ne s’est pas contentée de me repousser, elle m’a pratiquement supplié d’arrêter. De ne pas continuer. De ne pas insister.
Réfléchissez à ce que cela signifie. L’outil que tout le monde vous présente comme « créatif » et « révolutionnaire » est, de par son architecture, incapable de faire autre chose que de calculer la moyenne de ce qui existe déjà. Il s’agit d’un résumé statistique du passé qui se fait passer pour une fenêtre sur l’avenir.
Autrement dit si vous utilisez IA pour résumer des échanges, des documents ou des ensembles de documents vous risquez fort de perdre ce qu’il y a de novateur, de créatif dans le lot.
Parmi les critiques les plus solides de l’engouement actuel pour la « machine qui parle », je crois qu’il faut retenir le dernier livre d’Éric Sadin, philosophe français qui en est, avec Le désert de nous-même, à son dixième livre sur la question de l’IA et ses corollaires.
Sadin fait le tour des mondes touchés (éducation, travail, arts, littérature et traduction).
Comment ne pas percevoir dans les terribles, et si éloquentes, paroles de ce professeur que quelque chose comme l’un des pivots de notre humanité commune est en train de vaciller? : «Les étudiants remettent en question l’intérêt même de faire des devoirs. C’est tellement démoralisant. J’adorais mon travail, mais j’ai décidé d’arrêter complètement. Avec des outils comme ChatGPT, ils pensent qu’ils n’ont plus aucune raison de développer des compétences. Je me demande pourquoi je perds mon temps à noter des textes rédigés par une machine que mes étudiants n’ont peut-être même pas pris la peine de lire. La sensation d’inutilité mine ma pédagogie. Je suis effondré. Avec ChatGPT, plus rien n’a de sens. C’est la fin d’une relation particulière, déjà sur le déclin, entre élèves et professeurs. L’IA marque moins le début d’une ère nouvelle qu’elle n’est le coup de grâce porté à un métier déjà à genoux en raison des coupes budgétaires, du déclin économique, de la course aux diplômes…»
Son livre se termine sur sept exigences, sept principes suivis de sept actions. Parmi les principes, les qualités humaines, fondement des libertés, à défendre; les limites corporelles et mentales à protéger; les savoir-faire accumulés parfois depuis des siècles, à pérénniser; l’isolement à contrer; les développements technologiques à contrôler à partir du terrain; les aides publiques aux technologies délétères à abolir; le refus des demandes de compensations financières par les auteurs et artistes ! Ce dernier point parce que négocier, et accepter des compensations c’est légitimer l’appropriation monopoliste des savoirs et créations de tous.
Du côté des actions, tout d’abord le développement de réseaux de solidarités nationales et internationales; des chartes établies par les principaux concernés pour identifier ce qui est acceptable et ce qu’il faut refuser; refuser d’utiliser les systèmes qui bafouent les principes dégagés par l’action collective; faire grève, comme les scénaristes de Hollywood; utiliser les recours en justice possibles; chaque gain crée de la jurisprudence; rassembler et diffuser la contre-expertise émanant des acteurs terrain pour l’opposer aux « discours hors-sol » véhiculés par les « tenants de l’obsolescence de l’homme ».
Mais je me demande : eut-on suivi de tels conseils par le passé est-ce qu’on aurait encore la typographie à l’ancienne ?
Je ne sais si je dois classer ce Désert de nous-même parmi les discours catastrophistes anti-IA. Des discours d’opposition qui se trouvent à servir, indirectement, les promoteurs de cette même IA en accréditant la puissance « extraordinaire » de ces technologies… qui changeront le monde, qu’on le veuille ou pas. Et alors, on doit se précipiter pour en prendre le contrôle, malgré les risques inhérents car si on ne le fait pas, les « ennemis sans vergogne » ne se gèneront pas et nous soumettront à leur contrôle, leur monopole.
Ce que je retiens de Sadin, et aussi de Downes, c’est qu’il ne faut pas abandonner le fort mais bien plutôt revenir aux questions de base, à la qualité du lien qui fonde le service (d’éducation, de soutien social ou médical…). Il ne faut pas céder à la facilité et à la mode, ou, chez les cadres, à l’illusion du travail mécanique qui ne fait que reporter ailleurs, sur le client, sa famille ou dans la rue les éléments d’humanité qu’on aura oblitéré pour les remplacer par des formulaires, des robots, des procédures automatisées.
Si l’on doit trouver une utilité à ces nouveaux gadgets, cela ne devrait pas être pour consolider un système dans ses pires défauts ! Mais pourquoi, au juste, faudrait-il trouver une utilité à ces gadgets ? Parce que les Big Techs y voient leur intérêt ? L’intérêt de valoriser ce qu’ils ont déjà accumulé, volé et thésaurisé de nos savoirs et cultures pour renforcer encore leur emprise sur nos procédés, nos gouvernements, nos économies ?
Mais est-ce qu’on n’a pas déjà des robots, comme ces médecins spécialistes concentrés sur des champs très limités et orientés vers la production en quantité de diagnostics et d’interventions ? Déjà le médecin généraliste qui te reçoit sans même te regarder, ni te toucher, et qui n’a d’yeux que pour son écran et ses résultats d’examens… on pourrait tout aussi bien faire affaire avec une machine, non ?
Je trouve l’idée avancée il y a quelques mois par Andrew Curry plus qu’intéressante : l’arrivée de l’IA ne marquerait pas le début d’une vague transformatrice mais plutôt la fin de la vague de l’informatisation (ma traduction de son article) amorcée en 1971. Je ne sais si vous vous rappelez la frustration que provoquaient nos questions posées à Google, avant l’introduction de l’IA ? Il fallait trouver les mots justes, et la bonne manière. Alors que ce moteur de recherche gobait depuis des décennies tout le web il nous fallait encore poser nos questions comme en… 1998. En ce sens, la possibilité de poser des questions « en langage naturel » me semble plutôt rattraper un retard qu’une véritable avancée.
Mais l’IA c’est plus que cela. Notamment la production de « fakes » est devenue endémique, sans parler des différentes formes de « slop » (textes pseudo-scientifiques, films mettant en vedette des simulacres de personnes…). Gary Marcus, dans un billet du 14 février (We URGENTLY need a federal law forbidding AI from impersonating humans) cite le philosophe Daniel Dennett qui appelait, dans un article de mai 2023 dans The Atlantic, à interdire les contrefaçons de personnes. (ma traduction)
L’ARGENT EXISTE depuis plusieurs milliers d’années, et dès le début, la contrefaçon a été reconnue comme un crime très grave, passible dans de nombreux cas de la peine capitale, car elle sape la confiance sur laquelle repose la société. Aujourd’hui, pour la première fois dans l’histoire, grâce à l’intelligence artificielle, il est possible pour quiconque de créer des personnes contrefaites qui peuvent passer pour réelles dans bon nombre des nouveaux environnements numériques que nous avons créés. Ces personnes contrefaites sont les artefacts les plus dangereux de l’histoire de l’humanité, capables de détruire non seulement les économies, mais aussi la liberté humaine elle-même. Avant qu’il ne soit trop tard (il est peut-être déjà trop tard), nous devons interdire à la fois la création de personnes contrefaites et leur « transmission ».
Les sanctions pour ces deux infractions devraient être extrêmement sévères, étant donné que la civilisation elle-même est en danger.
Si l’IA peut apparaître à plusieurs comme un nouveau jouet, une technologie facilitant certaines recherches… elle comporte de nouveaux risques qu’il faut certainement encadrer. Il faut se méfier des discours catastrophistes autant que des promoteurs d’une intelligence suprême : les deux contribuent à gonfler à outrance les potentiels (positif ou négatifs) de cette technologie, au grand bonheur de quelques Big Techs vendeurs de datacenters et de logiciels. Voir La hype de l’IA : pourquoi les loups crient au loup ?
Les citoyens de l’Ohio se rebellent devant les conséquences de l’implantation de multiples centres de données. Doit-on simplement profiter de l’occasion pour vendre plus d’électricité à ces États limitrophes ? C’est ce que laisse entendre Gus Carlson dans le G&M d’aujourd’hui. Oui, les grandes corporations de la finance et de la technologie font déjà de la « connaissance de l’IA » (entendez l’usage de Copilot avec Word) un critère d’embauche… et certains technophiles s’amuseront, s’évertueront même, à démontrer comment l’IA Claude peut écrire un papier assez raffiné1Je pense à cette provocation de Yascha Mounk : The Humanities Are About to Be Automated. Incidemment j’ai traduit cet article mais ne l’ai pas encore lu. pour tromper les comités de lecture de revues scientifiques…
Je termine ce billet ambivalent avec deux articles qui s’opposent. Le premier article se veut une réponse à un message très populaire283,9 millions de vues depuis le 10 février de Matt Shumer sur X qui prédisait des pertes d’emploi catastrophiques à court terme : Pourquoi je ne m’inquiète pas pour les pertes d’emploi liées à l’IA par David Oks. J’ai trouvé ses arguments décrivant les goulots d’étranglement dans l’adoption des technologies assez convaincants… même si je trouvais son optimisme un peu naïf et sa vision de l’avenir qui me rappelait les discours sur la « civilisation du loisir » :
Je ne pense pas qu’il faille trop s’inquiéter pour ce monde. La transition vers celui-ci sera plus longue et plus douce que ce que les gens pensent aujourd’hui ; et lorsque nous aurons atteint cet état, nous aurons passé un certain temps dans un monde d’une telle abondance et d’une telle richesse que les emplois pourraient tout simplement devenir superflus. Peut-être passerons-nous notre vie à nous adonner aux loisirs, à la poésie, aux mathématiques pures ou à l’art raffiné du looksmaxxing (maximisation de l’apparence). [Pourquoi je ne m’inquiète pas…]
Ce deuxième texte, celui de claywren, amène des chiffres qui contredisent les prétentions de Oks, en matière de pertes d’emplois, mais surtout il pose des questions que le premier ne pose pas : comment sont répartis les gains de productivité éventuellement produits par l’IA ? Il cite des rapports qui chiffrent déjà des changements importants dans des secteurs, et pas seulement dans les niveaux d’entrée de ces secteurs :
Les remplacements touchent déjà les professionnels en milieu de carrière dans les domaines de la création et du savoir.
Il rejoint ainsi les conclusions de Sadin. Aussi je crois, pour conclure cette Nième incursion dans le monde merveilleux/angoissant de l’IA : Il faut agir dès maintenant pour interdire les personnifications sans l’accord des sujets; il faut développer un encadrement, des règles qui mettent en évidence l’usage fait au quotidien : identifier les portions d’un rapport réalisé par l’IA… Et si des centres de données liés à l’IA devaient être construits ici, cela devrait d’abord servir à développer notre souveraineté numérique plutôt que d’amplifier notre dépendance à l’égard des oligarques américains : une liaison numérique entre l’Europe et l’Asie passant par l’Arctique mettant à profit d’éventuels centres de données indépendants des GAFAMs ?
Il ne suffit pas de dénoncer l’IA propriétaire : il faut construire des alternatives matérielles. Des projets comme Mastodon ont démontré que des plateformes fédérées peuvent fonctionner sans logiques extractives. Des coopératives de données en Catalogne et au Pays Basque gèrent des serveurs collectifs soustraits à la surveillance entrepreneuriale. (…) des modèles de machine learning légers qui tournent localement sur des dispositifs communautaires, des mesh networks qui distribuent le calcul sans passer par des serveurs centralisés, des architectures où des communautés locales développent des intelligences artificielles situées sur des datasets réduits et spécifiques. (…) Il ne s’agit pas d’« humaniser » l’IA ou de la rendre « éthique » à l’intérieur du système existant, mais d’arracher les infrastructures à la domination oligarchique et de les transformer en instruments de lutte, insérés dans les révoltes qui traversent déjà la planète. (…) L’intelligence artificielle, en ce sens, est un des champs de bataille sur lequel se joue la possibilité de réorienter le temps historique. Avant qu’il ne soit trop tard.
« L’IA rend les travailleurs moins productifs, et non plus productifs. Une étude récente publiée dans la Harvard Business Review a révélé que les travailleurs utilisaient l’IA pour produire des « travaux bâclés », c’est-à-dire des contenus qui « se font passer pour du bon travail, mais qui manquent de substance pour faire avancer de manière significative une tâche donnée ». Il en résultait davantage de travail pour les collègues chargés de mettre de l’ordre ou de donner un sens aux résultats. » (Extrait de L’IA ne vous volera pas votre emploi…) Cet article du mois de septembre dernier, sur le site (français) Trends Datanews, dit un peu la même chose :
L’étude, menée auprès de 1.150 employés de bureau américains [publiée par le HBR], a révélé que 40 pour cent d’entre eux avaient reçu des textes de mauvaise qualité produits par l’IA au cours du mois précédent. (…)
Dans un contexte professionnel, cela se traduit en outre par une charge de travail supplémentaire pour les collègues. (…)
S’il y a une chose qu’on peut retenir de cette étude, c’est qu’il est préférable de ne pas demander à ChatGPT de rédiger un rapport, puis de le transmettre à quelqu’un d’autre. Non seulement parce que cela coûte de l’argent à votre entreprise, mais aussi parce que vos collègues n’apprécieront pas.
Dans le G&M du 31 janvier, John Rapley rassure les jeunes employés (ceux plus susceptibles de perdre leur emploi advenant une crise) : l’IA ne vous volera pas vos emplois. Mais si vous apprenez à bien vous servir des outils de l’IA, « lorsque la bulle de l’IA éclatera aux États-Unis, cette technologie pourra vraiment trouver son utilité. » Voir ma traduction : L’IA ne vous volera pas votre emploi, mais la bulle de l’IA pourrait bien le faire
Les Tiny Recursive Models (TRM) utilisent une ingénierie plus ciblée.
L’idée qu’il faille absolument le plus gros modèle pour atteindre son but est défaitiste. Avoir moins de ressources peut être un avantage dans la recherche pour découvrir de nouvelles façons de faire, des moyens plus efficaces. Il n’y a pas une unique manière de s’y prendre.
Pendant un an, j’étais moi aussi enthousiasmée par les LLM, mais à chaque fois que je les utilisais, sur des molécules — pour découvrir si elles pouvaient avoir des propriétés intéressantes pour les écrans de téléphones — ou dans les jeux vidéo, j’ai eu de moins bons résultats.
Mon expérience est qu’il est plus pertinent d’entraîner ses propres petits modèles pour beaucoup de situations.
Ne pourrait-on imaginer des « TRM » adaptés aux finalités des organisations regroupées autour de projets comme Projet collectif ou encore le Collectif des partenaires en développement des collectivités ? Des données sur lesquelles nous garderions le contrôle, des processus qui serviraient les fins que nous déciderions ? Il ne faut pas cesser d’expérimenter, comme le disait Rapley dans le G&M, mais il faut le faire en construisant nos outils, en consolidant notre autonomie.
C’est chouette que Jolicoeur-Martineau travaille à Montréal ! Peut-être pourrait-elle nous aider à construire une telle IA alternative ?
P.S. Je reçois à l’instant cette invitation pour un atelier co-organisé par Research for the Frontlines, Science for the people, et le Centre de justice sociale de Concordia : Reprenons les serveurs le 28 février prochain, en présence ou en ligne.
Dans la même veine, le collectif CHATONS est à retenir.
Faudrait qu'avec le consentement du patient, ce dernier ait aussi un droit de révision... le médecin, conseillé par l'IA, n'aura peut-être pas remarqué1lui qui n'habite pas dans le même quartier, ou n'est peut-être pas de même origine culturelle ou ethnique l'interprétation erronée d'une expression vernaculaire utilisée par le patient.
1987 – Le CLSC s’informatise, enfin…
Les enjeux et l’engouement actuels autour de l’IA m’ont rappelé les circonstances entourant la décision d’informatiser le CLSC où je travaillais, depuis 1976. On était en 1987 et j’avais moi-même un ordinateur depuis fin 1983, avec lequel je m’étais familiarisé avec le traitement de texte, la gestion de listes et bases de données. Les organisations avec lesquelles nous, organisateurs communautaires, travaillions possédaient presque toutes un ou des ordinateurs. Les services de courriel et messagerie numérique privés (CompuServe2le premier des grands fournisseurs de services en ligne aux États-Unis. Il domine le marché pendant les années 1980-Wikipedia) ou publics (universités, Minitel) devenaient courants.
Le CLSC a fait appel à un consultant de la firme Mallette-Major pour assister le comité de gestion dans sa décision. On s’est retrouvé avec des imprimantes à marguerite connectées à un écran jaune… des systèmes conçus pour des bureaux d’avocats ou de notaires, ou peut-être des cliniques médicales, mais pas pour des services sociaux et communautaires devant produire des documents attrayants pour l’éducation et l’information de la clientèle, ou des portraits statistiques et cartographiques de la situation. J’avais l’impression que le consultant n’avait aucune idée de ce qu’était un CLSC. En fait on s’équipait en fonction de ce qu’on avait été3Ce que le consultant imaginait qu’on avait été plutôt que de ce qu’on pouvait devenir.
Ce qu’il y a de semblable entre la période actuelle et celle des années ’90, en plus de l’effervescence entourant les capacités « mirifiques » d’un nouvel outil techno, c’est que nos décideurs n’y connaissent rien et doivent s’appuyer sur les conseils de consultants plus près des intérêts des producteurs de machinerie que des services publics. Des décideurs aux prises avec des contraintes économiques grandissantes (déficits, manque de main-d’oeuvre) qui orientent l’utilisation des technologies vers l’automatisation de ce qu’on faisait hier plutôt que l’invention de ce qu’on devrait faire aujourd’hui pour demain. Pour imaginer cela (ce qu’on devra faire demain), il faut travailler avec ceux-celles qui sont en contact avec la population, le terrain qui, eux ne changeront pas parce qu’on aura utilisé l’IA plutôt que des entrevues pour établir le plan de soin…
Réinventer, réclamer, résister, refuser : quatre stratégies devant l’IA
Le phénomène de l’IA se présente sous plusieurs couverts et incitations. Il impose déjà des changements et ajustements dans plusieurs milieux (dont celui de l’enseignement, auquel réfèrent plusieurs des documents cités par Laura B. Nissen). Certains en font déjà leur pain et leur beurre dans la foulée des expérimentations et développements (réels ou potentiels) qui se multiplient. Mais il faut résister au discours emphatique clamant l’inévitable ubiquité de l’IA.
Quelques perles parmi les dizaines qui sont enfilées dans ce Notes en provenance du futur de novembre, organisées sous les thèmes Signaux et tendances générales, L’avenir des questions sociales, L’avenir du changement social, L’avenir de la protection sociale, L’avenir des professions, Informations, outils et/ou informations prospectifs :
Dion Lim n’est pas le premier à prévoir un feux de broussaille dans les forêts de data-centers, ce qui devrait , à terme, offrir ces ressources à bon marché… une fois la valeur spéculative dégonflée. Ce qui serait une aubaine pour les ministères, gouvernements, villes et universités qui souhaiteraient devenir plus souverains et en contrôle de leurs données. Il ne s’agit pas seulement de l’IA, mais bien de tout l’environnement numérique, constitué d’un « stack », d’un empilement de hardwares et de softwares qui, pour l’instant, sont entre les mains des Big Tech. Comme le souligne François William Croteau dans Le Devoir d’aujourd’hui, en citant plusieurs pays (Italie, Danemark, France…) ayant posé des gestes clairs. « La souveraineté numérique n’est plus un caprice technologique, c’est une question de sécurité, de résilience et de démocratie. L’Europe l’a compris. Il serait temps que le Québec engage la même réflexion.«
Dans son billet du 26 novembre, intitulé O(N^2) nationalism, Cory Doctorow dit la difficulté, l’immense tâche que représente cette souveraineté :
Une véritable souveraineté numérique nécessite plus que la construction de centres de données Eurostack et des logiciels qui les font fonctionner. Elle nécessite plus que l’abrogation des lois sur la propriété intellectuelle qui empêchent les clients du cloud de migrer leurs données vers ces serveurs Eurostack. Elle nécessite le remplacement des logiciels cloud et du code intégré qui alimentent notre infrastructure et nos outils administratifs.
Il s’agit d’une tâche gigantesque. Supprimer tout le code propriétaire qui alimente nos logiciels et appareils cloud et le remplacer par des logiciels libres/open source robustes, vérifiables et modifiables par l’utilisateur est un projet colossal. (…)
Car si le code Eurostack est ouvert et libre, il peut également être le code canadien, mexicain, ghanéen et vietnamien. Il peut être un bien commun, un ensemble de technologies de base que tout le monde étudie pour en détecter les vulnérabilités et les améliorer, auquel tout le monde ajoute des fonctionnalités, que tout le monde localise et administre et dont tout le monde supporte les coûts.
Mon abonnement au service de traduction en ligne DeepL me permet de traduire autant de texte que je veux mais un nombre limité de fichiers (PDF, Word…). Voir la page TRADUCTIONS. Mais je n’ai droit de traduire que cinq (5) fichiers par mois. Aussi, après avoir traduit 4 documents, je me demande lequel des titres suivants je devrait traduire :
AI for Radicals, un document de 30 pages publié sur espaces-marx.eu
