Je ne sais plus qui a dit ça, mais c’est probablement encore plus vrai à l’ère de l’IA. Le dernier AI Ethics Brief en parle. Incidemment, cette lettre du Montreal AI Ethics Institute n’est publiée qu’en anglais. Tout comme son site web d’ailleurs. J’ai traduit leur newsletter #185 : Quand l’IA part en guerre.
Et la seconde victime sera… ChatGPT ?
Parce que OpenAI (ChatGPT) a manoeuvré pour remplacer Anthropic (Claude) auprès du ministère de la guerre américain, une campagne de boycottage de CHatGPT s’est levée, avec Rutger Bregman comme un des porte-drapeaux (dans The Guardian) : Quit ChatGPT: right now! Your subscription is bankrolling authoritarianism. Une traduction de cet article a été faite par Jonathan Durand Folco sur son blogue, mais il faut s’y inscrire pour la voir… aussi je lui ai repiqué sa traduction pour la déposer ici : Il faut boycotter ChatGPT ! Pour réussir un boycottage, il faut passer le message !
Incidemment, j’ai effacé mon compte (gratuit) sur ChatGPT, et j’ai téléchargé l’appli (pour iPad et iPhone) de Claude. Non pas que je sois un grand utilisateur de chatbots. Il semble que je n’ai pas été le seul :
Il me semblait que j’avais lu quelque chose par ce Rutger Bregman… et oui, en juillet 2020 je parlais de son Humankind : A Hopeful History.1Tiens, la version numérique (en anglais) de ce livre ne coûte que 2,99$ ! Écrit en 2019, c’est un discours optimiste, qui rappelle que les hommes (et femmes) sont « bons dans le fond ». Incidemment, il a été traduit depuis. Humanité – Une histoire optimiste.
Finalement, les centres de données liés au développement de l’IA sont de plus en plus contestés, fait remarquer Wallace-Wells dans sa lettre du New York Times (ma traduction : Un règlement de comptes tardif sur la surveillance de l’IA a commencé).
L’IA arrive dans ce paysage comme un symbole global de l’impuissance des gens, qui est déjà là mais qui ne peut que s’aggraver, annonçant une vision de l’avenir dans laquelle une grande partie de l’ordre social a été confiée à des robots fonctionnant dans des boîtes noires contrôlées par un petit nombre de personnes immensément riches. (…)
Et ceux qui espèrent jouer un rôle plus actif dans la construction de l’avenir qu’elle [l’IA] laisse entrevoir devront probablement faire plus que simplement empêcher la construction de quelques nouveaux centres de données.
Les centres d’appel des ministères fédéraux sous IA
Entre les discours prosélytes et les cris d’effraie catastrophistes, l’IA s’immisce déjà partout. Dans les universités, les industries, les administrations publiques (augmentation de 54% du nombre de projets IA dans les ministères québécois (de 168 à 258)… Déjà des ententes avec trois ministères fédéraux (BCE to modernize three federal call centres, G&M, 4 mars) viendront ajouter des agents IA dans la relation avec les citoyens :
BCE Inc. a annoncé un nouveau partenariat avec le gouvernement fédéral visant à moderniser les centres d’appels de trois grands ministères : Emploi et Développement social Canada, l’Agence du revenu du Canada et Immigration, Réfugiés et Citoyenneté Canada.
La société mère de Bell Canada, BCE, collaborera avec Genesys Canada, une entreprise spécialisée dans l’intelligence artificielle basée à Toronto, afin d’améliorer les services à la clientèle du gouvernement grâce à la mise en œuvre d’outils numériques et d’intelligence artificielle.
Utopies socialistes alimentées IA
Dans la suite de mes lectures du débat entre Morozov, Benanav dont je parlais ici IA, démocratie et planification.
« mon cadre comprend non seulement des procédures d’innovation au niveau des entreprises et de sélection au niveau des industries, mais aussi des comités de coordination interindustriels. Ces organismes seraient chargés de projets sociaux à grande échelle – tels que l’écologisation de l’économie, la réduction de la semaine de travail ou la réparation des injustices historiques – organisés dans le cadre de mandats renouvelables de cinq ans. Des assemblées citoyennes aideraient à décider des grandes orientations. Les comités de coordination déploieraient ensuite des fonds d’investissement afin de réduire le coût des investissements complémentaires dans tous les secteurs, fonctionnant comme une forme de politique de crédit axée sur la mission. »
Une véritable économie politique de la technologie, Benanav.
Rêver de structures intersectorielles de coordination industrielle et d’assemblées citoyennes souveraines en matière d’investissements… c’est encore plus « compliqué » et utopique que les rêves de cliniques, coopératives et municipalités expérimentant avec l’IA de Morozov. Malgré mes réticences j’y vois tout de même, dans l’approche de Benanav, une prise en compte de moyens de coordination et de décisions qui doivent se prendre à un niveau plus général et « élevé » que l’initiative locale ou communautaire. Le rêve d’une coordination spontanée émergeant de la base aux multiples initiatives interconnectées… de Morozov n’est pas moins utopique. Mais il flatte les tendances dominantes, adoratrices de l’autonomie individuelle ou locale, promotrices de l’agentivité personnelle avant tout. L’individualisme, quoi. Augmenté de toutes sortes de gadgets, de drogues et de technologies. Une position qui n’ose confronter le préjuger anti-gouvernement qui afflige nos sociétés depuis le lavage de cerveau néolibéral…
L’impact sur les publications universitaires est pressenti comme majeur : Les universitaires doivent se réveiller face à l’IA.
Notes
- 1Tiens, la version numérique (en anglais) de ce livre ne coûte que 2,99$ ! ↩︎