L’intelligence artificielle est la destination finale du capitalisme
Traduction de Apocalypse Now and Then – Artificial Intelligence Is Capitalism’s Final Destination par Arundhati Roy sur Substack, le 17 octobre 2026.
Les présages pleuvent à torrents. Réfléchissez ou coulez. Obéissez ou mourez. Levez les yeux ou restez à la traîne. Et ainsi, avec ces menaces pas si subtiles, l’ère de l’IA – l’Idiotie Réelle, la Super-Idiotie Réelle, l’Idiotie Récursive à Effet Boule de Neige – est désormais à nos portes. Bon sang, j’ai déjà utilisé deux tirets dans ce premier paragraphe. Ça, comme on dit, c’est révélateur. Alors, peut-être que je n’ai pas écrit cet essai du tout. Il faudrait utiliser une application d’IA pour vérifier s’il s’agit bien d’IA, et si je suis vraiment, ou pas vraiment, ou seulement partiellement moi. Vous ne pouvez plus vous fier à votre instinct. Vous devez utiliser l’application. Maintenant que l’IA s’est emparée du tiret long, que penseront les générations futures d’Emily Dickinson et de son amour pour ces tirets ? A-t-elle elle aussi été introduite dans la machine ? L’aimeront-ils moins ? Sommes-nous progressivement exclus du langage ? Est-ce que cela a encore de l’importance ?
Pour des raisons qui tiennent davantage à l’ego d’un écrivain qu’à la foi, j’ai toujours été fasciné par le premier verset de l’Évangile selon saint Jean : « Au commencement était le Verbe, et le Verbe était avec Dieu, et le Verbe était Dieu. » Je crois que cela est vrai. Je crois que perturber et vider de sa substance la relation fondamentale entre les humains et le langage sapera toute apparence de cohésion sociale.
L’IA a fait irruption dans le monde de la littérature, laissant les écrivains, les éditeurs, les agents littéraires, les lecteurs, les critiques, les enseignants et les étudiants avec le sentiment que le sol se dérobe sous leurs pieds. Les professeurs doivent désormais examiner les devoirs de leurs étudiants avec méfiance. Les éditeurs doivent évaluer les nouveaux auteurs comme des détectives inspectant une scène de crime potentielle. Il est difficile de décrire les conséquences de cette situation sur la lecture ou l’apprentissage. La joie et le défi de l’engagement intellectuel ont été remplacés par quelque chose de fermé, de caustique et de mécanique. Un Shangri-La de taxidermistes où tout ce qui était autrefois vivant a été écorché et empaillé, et vous regarde sans ciller, avec une lueur significative dans ses yeux brillants et factices. C’est comme regarder quelqu’un et se demander si c’est vraiment celui ou celle que l’on croit. Ou comme se regarder dans un miroir et y voir son image, tout en sachant que ce n’est pas vraiment soi.
Avec le temps, nous risquons de perdre cette connaissance, elle aussi. Alors, nous ne saurons plus qui nous sommes, ni même si nous existons.
Et lorsque cela arrive à toute une société, à toute une espèce, lorsque nous ne pouvons plus nous fier aux instincts acquis au fil des siècles, transmis de génération en génération, lorsque nous ne pouvons plus faire confiance à notre cœur, nos yeux ou nos oreilles, lorsque nous ne pourrons plus distinguer la vérité du mensonge ni le virtuel du réel, lorsque le temps s’effondrera et que le passé, le présent et l’avenir se confondront, lorsqu’un million de langues et de cultures seront réduites en une bouillie informe, lorsqu’un ancien pacte social – quelles que soient ses limites et ses failles – sera brisé au point d’être méconnaissable, nous exposons-nous à une psychose de masse ?
Cette réflexion risque de m’exposer à des accusations d’être tombé dans la panique morale inévitable qui s’ensuit lorsque nous sommes confrontés à quelque chose de nouveau et d’incompréhensible – la même panique qui a précédé la Révolution industrielle ou l’avènement de l’ordinateur. La question est : s’agit-il uniquement de cela ? Vivons-nous simplement un moment de transition inconfortable dans l’évolution du « progrès » humain ? Ou s’agit-il bel et bien d’une rupture catastrophique ?
Peut-être devrions-nous écouter ceux qui développent cette nouvelle technologie glorieuse. Le mois dernier, un jeune employé d’Anthropic, Jacob Coxon, a démissionné, affirmant que sa conscience ne lui permettait pas de travailler sur un projet susceptible d’anéantir l’espèce humaine. Le tableau qu’il a brossé de son lieu de travail ressemblait plus ou moins au projet Manhattan sous stéroïdes. Mais comme nous le savons, cette fois-ci, les scientifiques sont motivés en grande partie par le profit et par la course pour « être les premiers à y parvenir » . Ce qui a suivi la démission de Coxon était déconcertant. Les PDG des plus grandes entreprises d’IA se sont bousculés pour discuter, contredire ou approuver le lanceur d’alerte qui les avait démasqués. Nos écrans ont été envahis par des vidéos de ces oligarques milliardaires nous informant d’un ton sombre et sépulcral qu’il y avait de fortes chances que le Dieu-Machine qu’ils sont en train de consacrer puisse entraîner la fin de la civilisation humaine.
Après avoir établi leur suzeraineté sur notre espèce, ils nous ont rassurés en affirmant qu’ils faisaient de leur mieux pour atténuer le risque. Ils ont plaidé en faveur d’une réglementation gouvernementale. Leur appel à l’aide laissait entrevoir une sorte de pathologie. Il y avait quelque chose d’un peu pervers là-dedans – une ambiance à la Tie Me Up! Tie Me Down!. Est-ce cela, ou est-ce simplement la nature inhérente du capitalisme ? L’impuissance face à une cupidité débridée ?
Les oligarques semblent bel et bien croire à leur discours sur l’extinction – du moins suffisamment pour s’être construit des bunkers aux confins de la Terre, approvisionnés en eau, en nourriture et en munitions. Mais l’extinction n’est pas ce qu’ils vendent au reste d’entre nous. (Donald Trump et les libertariens de la tech la qualifient ouvertement de canular.) Le progrès, la gloire et le bien de l’humanité sont la quintessence de leur argumentaire de vente. L’un d’entre eux, Peter Thiel, de Palantir, est même allé jusqu’à qualifier les critiques et ceux qui réclament une réglementation d’« Antéchrist » qui courtisent le diable – conférant ainsi, par défaut, un caractère divin à son entreprise et à ses aspirations. (Oui, c’est bien la même personne qui, lorsqu’on lui a demandé s’il pensait que l’espèce humaine devait survivre, a répondu de manière célèbre « Euh… » avant de se mettre à bégayer et à marmonner.)
Le brouhaha s’est finalement stabilisé le long de lignes de fracture bien connues des initiés du secteur technologique – les catastrophistes, les accélérationnistes, les sceptiques. Mais lorsque d’autres voix s’élèvent pour dénoncer les dégâts réels et calamiteux causés actuellement par l’industrie de l’IA, elles sont délibérément ignorées et mises au ban.
Il est intéressant de noter que les oligarques semblent beaucoup plus à l’aise avec Jacob Coxon qu’avec certains autres lanceurs d’alerte. Ils ne se sont pas mobilisés pour défendre Meredith Whittaker, aujourd’hui présidente de la Signal Foundation, qui a démissionné de Google en 2019 après avoir dénoncé le contrat de l’entreprise visant à développer une technologie de vision artificielle pour les drones américains. Sept ans plus tard, cette synthèse entre l’industrie de l’IA et l’industrie de l’armement est sous les yeux de tous. (Cf. l’attaque américaine à double frappe contre une école de filles à Minab, dans le sud de l’Iran, en février, au cours de laquelle 156 personnes, dont 120 écolières, ont été tuées. Aucune excuse n’a été présentée, car personne n’en est responsable. Les meurtres planifiés par des machines ne suscitent aucun sentiment de culpabilité. C’est également le cas de Lavender, Gospel et Where’s Daddy ?, les systèmes d’IA à l’origine de la campagne d’assassinats menée par Israël contre des militants du Hamas à Gaza, dans le cadre de laquelle, selon des rapports sur les droits de l’homme, l’unité cible de base pour les systèmes de localisation et de suivi était le domicile familial.)
Il n’y a pas eu de vague de soutien de la part des oligarques lorsque Timnit Gebru, l’une des très rares femmes noires à occuper un poste technique de haut niveau dans la Silicon Valley, a été licenciée de Google en 2020 pour avoir refusé de retirer un article de recherche dont elle était co-auteure. Cet article mettait en lumière les coûts environnementaux liés à l’entraînement des grands modèles linguistiques (LLM) – y compris ceux de Google – et montrait comment ceux-ci amplifiaient et reproduisaient la suprématie blanche et la misogynie à partir des ensembles de données qu’ils avaient ingérés dans leur intégralité. Elle avait averti que ces pathologies ne feraient que s’amplifier à mesure que les modèles seraient développés à plus grande échelle et deviendraient plus difficiles à auditer. Ses conclusions ont été étayées par une autre chercheuse, Abeba Birhane, qui a co-rédigé un article intitulé « On Hate Scaling Laws for Data-Swamps ».
Pourquoi Whittaker et Gebru, avec leurs accusations très précises, inquiéteraient-elles davantage les oligarques que les prophètes d’une extinction totale, tels que Geoffrey Hinton, ancien scientifique spécialisé dans l’IA devenu critique, ou Jacob Coxon ? Peut-être parce que, à l’instar d’un grand feu d’artifice, les avertissements de Hinton et Coxon ajoutent du piquant à l’ambiance. Ils finissent par renforcer le jeu de pouvoir des oligarques, ce qui, lorsque leurs entreprises entreront en bourse, comme elles s’apprêtent à le faire prochainement, leur sera en effet très profitable. Leurs valorisations dépendront du degré de sophistication – et, dans le cas des systèmes d’armes basés sur l’IA, de leur létalité – de leurs modèles.
*
Qui sont ces milliardaires qui prétendent détenir le pouvoir de vie et de mort sur l’humanité ? Ils donnent l’impression de s’être déjà dissociés de la race humaine et de cette planète que nous appelons notre foyer. Sont-ils des satyres ? Mi-humains, mi-machines ? Appelons-les les Cyclopes – « pes », au pluriel. Ces bergers géants, à un œil, vivant dans des grottes, issus de la mythologie grecque et romaine. (Au XXIe siècle, leurs grottes sont somptueuses et leurs moutons sont des humains.)
Considérez-les comme une seule et même entité. Une mutation. Les Cyclopes ont une seule tête et un seul œil pâle et immobile, encastré dans leur front, bien à droite du centre, qui jette son regard jaunâtre sur les humains ordinaires et ne voit que ce que les mineurs voient dans une forêt riche en minerais, ou ce que les constructeurs de barrages voient dans les puissantes rivières qui coulent. Une ressource à extraire, à accumuler et à mettre sur le marché. Au diable la forêt. Au diable la rivière. Au diable l’humain.
Mais contrairement au cyclope silencieux et maladroit que nous avons vu récemment sur nos écrans de cinéma, le « Cyclopes » se divise au niveau du cou en plusieurs corps qui se chamaillent et donnent l’impression de ne pas s’entendre, mais, quand il s’agit de la « Fin des temps » – ou, plus précisément, du Fascisme de la Fin des temps, pour emprunter le titre du magnifique nouvel ouvrage de Naomi Klein et Astra Taylor –, ils s’entendent clairement.
L’orgie d’extinction de Cyclopes est apparue à de nombreux observateurs du secteur comme une mise en scène destinée à convaincre un public de plus en plus en colère et agité à quel point les entreprises d’IA sont centrales, importantes, irréductibles et incontournables pour l’économie américaine, ainsi que pour la sécurité et l’avenir de sa population.
Demander à être réglementé, c’est tenter de greffer le secteur à l’État, afin de combler jusqu’à la dernière brèche entre le gouvernement et ces entreprises. Les oligarques espèrent que cette étreinte réglementaire leur donnera le chèque en blanc dont ils ont tant besoin. Car l’ampleur des ressources financières, foncières, hydriques et énergétiques dont ils ont besoin ne peut être fournie que par le gouvernement. Pour ne pas tourner autour du pot, ce qu’ils veulent vraiment, c’est l’autorisation du gouvernement de s’autoréguler. Une légitimité sans céder le contrôle.
Ce genre de manœuvre délicate doit être exécutée comme une pièce de kabuki. Il faut un méchant, un épouvantail, pour effrayer un public de plus en plus agité, ainsi que tout futur gouvernement qui ne serait pas aussi malléable que le régime Trump.
Entrée en scène, par la gauche, la Chine.
Pour protéger les États-Unis de la menace d’une Chine en pleine ascension, Cyclopes propose au gouvernement américain toute une gamme de systèmes d’armes autonomes létales dont les autres pays ne peuvent que rêver, ainsi que le fantasme de virus créés en laboratoire et d’armes biologiques jusqu’ici inconnues de la science. Pour contenir et mettre au pas les populations rebelles sur le territoire national, il propose aux États-Unis et à d’autres gouvernements amis des systèmes de surveillance et de reconnaissance faciale qui promettent de faire passer le logiciel espion israélien Pegasus pour un jouet. En échange, il exige des flux de capitaux sans entraves, ainsi que la promesse de disposer de toutes les ressources en terres, en eau et en énergie dont il a besoin pour faire fonctionner ses gigantesques centres de données et ses supercalculateurs.
Traduit en discours direct, cela donne à peu près ceci : nous nous présenterons comme le fer de lance de l’éveil humain, et comme le gestionnaire et le distributeur du savoir humain sans frontières. Mais en réalité, nous prendrons la forme d’une carte. Nous fusionnerons avec notre nation, son économie, son réseau de renseignement et son appareil de sécurité jusqu’à ce que vous ne puissiez plus nous distinguer de vous-mêmes. À l’exception de nos soldes bancaires. En échange, vous pourrez faire semblant de nous réglementer jusqu’à ce que nous ayons accompli notre mission de colonisation de la Lune et de l’espace. Pas de frontières, pas de craintes. Ensuite, nous donnerons un coup de pied à l’échelle que vous nous aurez si gentiment prêtée. Nous n’aurons même pas besoin de vous remplacer. Vous n’existerez tout simplement plus. Nous dirigerons votre population, vos villes, vos communications, vos systèmes financiers, vos tribunaux, votre armée et votre police. Si ce n’est pas nous, ce sera la Chine qui vous dirigera.
Ces appels lancés par les grandes entreprises américaines spécialisées dans l’IA en faveur d’une réglementation gouvernementale servent également à écarter la concurrence des petits acteurs, de sorte que lorsque des traités internationaux sur l’IA seront signés (comme ils le devront), seules ces entreprises – cette poignée d’entreprises « réglementées » – seront en lice.
La fusion entre les entreprises et les États est en bonne voie. La science de l’IA est peut-être nouvelle. Mais la manière dont elle nous est imposée est aussi vieille que le colonialisme lui-même. En Inde, nous avons déjà connu la colonisation par une entreprise. Et oui, nos classes dirigeantes les ont invitées à entrer, tout comme le font aujourd’hui les dirigeants américains. La Compagnie des Indes orientales a finalement été reprise par la Couronne britannique. Aujourd’hui, bien sûr, le processus s’inverse. Une grande partie des infrastructures indiennes appartient à deux conglomérats, le groupe Adani et le groupe Reliance, tous deux prêts à plonger dans l’océan de l’IA.
Cyclopes se prépare à prendre le contrôle de l’État américain. Voici ce qu’en dit Alex Karp, PDG de Palantir : « Je pense que le risque majeur pour Palantir, pour l’Amérique et pour le monde réside dans une façon de penser régressive qui corrompt et ronge nos institutions. » Il s’est agacé contre les analystes qui suggéraient que Palantir était surévaluée. (Je veux dire, comment peut-on prétendre « évaluer » un Dieu ?) Il a enchaîné avec un peu de cet humour typique des riches, si caractéristique de sa marque de fabrique : « J’adore l’idée de me procurer un drone et de faire pulvériser de l’urine légère, mélangée à du fentanyl, sur les analystes qui ont essayé de nous nuire. »
Et voici, comme on le sait, Sam Altman, désormais chez OpenAI, tout en reconnaissant que l’IA pourrait bien mener l’humanité par un raccourci vers l’enfer : « … mais en attendant, de grandes entreprises verront le jour grâce à un apprentissage automatique sérieux ». Ou que dire de ceci, de Marc Andreessen – cet ultra-accélérationniste qui est ultra-aligné sur Trump et semble posséder le même QI hors du commun ? « La technologie doit être une attaque violente contre les forces de l’inconnu, pour les forcer à s’incliner devant l’homme… Nous ne sommes pas des victimes ; nous sommes des conquérants. »
2.
Il existe plusieurs versions de l’Apocalypse, et des malheurs qui l’accompagnent, auxquelles les gens doivent faire face. Il y a le scénario effrayant de l’extinction. Il y a la version dans laquelle nous sommes asservis par une espèce plus intelligente que la nôtre. (Pour comprendre les conséquences de cela, pensez à ce que nous avons fait aux autres espèces avec lesquelles nous partageons notre planète ; cela rend l’extinction presque attrayante.)
Et puis il y a l’appréhension du monde des humains non technophiles : les militants pour le climat désemparés face à l’empreinte carbone de l’industrie de l’IA ; les étudiants et les travailleurs qui voient le chômage de masse et un avenir incertain ; les artistes, musiciens et écrivains, comme moi, qui sentent cette tourmente centrifuge qui aspire le cœur battant de nos corps et resserre les fils d’acier du contrôle social en un poing mécanique serré.
Comment sommes-nous censés réagir ? En réclamant des réglementations ? Comment discipliner une industrie qui fait passer Apocalypse Now de Francis Ford Coppola – clichés racistes compris – pour un documentaire d’actualité ?
Cyclope, c’est le colonel Kurtz, un ancien marine vieillissant rendu fou par les cruautés de la guerre, qui règne sur son empire détraqué, ensanglanté et drogué, ainsi que sur ses sujets indigènes, au cœur des ténèbres (transposé de l’Afrique de Conrad au Vietnam de Coppola). L’ordre donné par le haut commandement de l’armée américaine au jeune officier envoyé pour mettre fin à l’insurrection de son camarade marine est sans ambiguïté : « Éliminer sans pitié. »
Quel devrait être notre slogan ? « Réglementer sans pitié » ? Peut-être. Même si, honnêtement, je ne sais pas ce que cela signifie, ni à quoi cela ressemble.
Cela ressemble un peu à ce moment qui a précédé le tsunami de 2004. Vous souvenez-vous comment, en Thaïlande et en Indonésie, l’océan s’était retiré du littoral ? Les gens s’étaient précipités pour s’émerveiller devant les miles de plage vierge qui avaient soudainement émergé, sans se rendre compte que, loin au large, un mur d’eau se formait et allait s’abattre sur eux. Nous vivons ce moment en ce moment même. Un mur gigantesque de stupidité est sur le point de nous submerger.
La traînée de miettes alléchantes sur le sable étincelant nous attire de plus en plus loin dans l’océan. Elle révèle des trésors magiques, des coquillages sertis de pierres précieuses et des châteaux secrets qui promettent une lune de miel éternelle, ou une « moneyhoon », si vous préférez. Ramassez ces coquillages et émerveillez-vous devant ce qu’ils peuvent faire pour vous. Leur nom peu flatteur : les « applications grand public ». Elles peuvent être votre mère, votre amante, votre thérapeute, votre médecin. Elles peuvent écrire des romans pour vous en une minute, dans le style de votre choix, et les traduire dans n’importe quelle langue. Elles peuvent monter vos films, composer votre musique, effectuer vos recherches et rédiger vos documents juridiques. Ce qu’elles peuvent accomplir dans le domaine de la médecine relève tout simplement du miracle. (Cela n’empêchera pas les pauvres de continuer à mourir du choléra, du paludisme et de la tuberculose, ou tout simplement de la faim et de la pauvreté.) Elles promettent également de vous apporter instantanément la justice, l’éducation et la démocratie via votre téléphone. Si vous penchez pour l’autre camp, elles peuvent perfectionner votre salut nazi et vous armer d’une tronçonneuse mentale. Comment ne pas les aimer ? Comment résister à cela ? Et pourquoi le devriez-vous ?
Malgré tout ce qu’on dit sur l’IA et l’autoritarisme, n’est-il pas vrai que certains de nos meilleurs et plus appréciés youtubeurs antifascistes et militants infatigables (certainement en Inde), qui totalisent des dizaines de millions d’abonnés, sont de fervents défenseurs de l’IA ? Ou que le soulèvement de la Génération Z « Cockroach » contre le gouvernement Modi, qui s’est abattu sur nous comme la pluie sur une terre desséchée, s’est accompagné des vidéos d’IA les plus délicieuses et irrévérencieuses ?
C’est vrai.
Mais lorsque l’évaluation de la menace fait état d’un danger réel, cette fenêtre peut être claquée en un instant. Au moment où j’écris ces lignes, alors que se déroule ce qu’on appelle la « saison 2 » des manifestations « Cockroach » à Delhi, Internet a été coupé dans mon quartier. Lors d’autres manifestations dans des États comme le Cachemire et le Manipur, le gouvernement indien a ordonné des coupures d’Internet qui ont duré des mois.
*
Cyclopes tient dans ses bras sans vie le Dieu-Machine, encore à ses balbutiements, et nous invite à nous prosterner devant lui. Faites-lui confiance, donnez-lui tout ce que vous avez, et en échange, il vous offrira ses paillettes et ses feux d’artifice.
La colonisation s’accompagne toujours de cadeaux étincelants. Mais l’IA est une forme de colonisation que peu d’entre nous peuvent même imaginer. C’est la destination finale du capitalisme.
Cyclopes n’hésite jamais à dire tout haut ce que tout le monde pense tout bas.
Voici, encore une fois, Peter Thiel, président de Palantir : « La vision fondatrice initiale était que nous allions utiliser la technologie pour changer le monde entier, pour renverser le système monétaire mondial… Nous ne pourrions jamais remporter une élection… car nous sommes une si petite minorité. Mais peut-être pourrions-nous en réalité changer le monde de manière unilatérale, sans avoir à convaincre sans cesse les gens, à les supplier et à implorer ceux qui ne seront jamais d’accord avec nous. »
Et voici Shlomo Kramer, PDG de la société technologique israélienne Cato Networks : « Il est temps de limiter le Premier Amendement afin de le protéger… Nous devons contrôler les plateformes, toutes les plateformes sociales. Nous devons établir un classement par ordre d’authenticité de chaque personne qui s’exprime en ligne et prendre le contrôle de ce qu’elle dit, en fonction de ce classement. »
Ce droit, cette richesse, ce pouvoir, cette présomption ne leur ont pas été accordés par Dieu. Ils nous ont été arrachés.
3.
Pour entraîner son « Dieu-machine », Cyclopes doit piller et stocker tout ce que la civilisation humaine a jamais accompli. Il veut transférer en masse les réalisations cumulées, le fruit du travail combiné de millions d’entre nous, sur des milliers d’années, y compris la littérature, l’art, la musique, les mathématiques, les échecs, la recherche universitaire – tout –, vers les actifs de l’entreprise. Il mettra ces connaissances en réserve, trouvera des moyens de les contrôler, de les aseptiser, de les politiser, et décidera qui peut y avoir accès et qui ne le peut pas. Et à quel prix ? Appelons cela la privatisation et la corporatisation de l’histoire des efforts humains, de la civilisation elle-même. Il vous suffit de laisser votre âme être numérisée et transformée en données. Ce qui restera de vous, ce sera de la boue et des boues humaines. Des effluents industriels.
Voici à nouveau Sam Altman : « Nous envisageons un avenir où l’intelligence est un service public, comme l’électricité ou l’eau, et où les gens nous l’achètent au compteur. »
Mais ont-ils vraiment le droit de la vendre ?
Je fais partie des centaines de milliers d’auteurs dont Anthropic a utilisé les livres sans autorisation pour entraîner son modèle de langage grand format (LLM). À la suite d’un recours collectif, j’ai reçu une notification m’offrant quelques milliers de dollars par livre à titre de règlement. Ce sont des livres qui m’ont demandé toute une vie et plusieurs années d’écriture. La notification indique que l’entreprise a téléchargé les livres à partir de deux sites web hébergeant des fichiers PDF piratés, mais « Anthropic nie avoir commis la moindre infraction ». Elle me fournit un numéro de dossier et un code PIN. C’est comme si on m’avait prélevé des organes à mon insu. Maintenant que l’IA a été entraînée sur mon œuvre, je crains que très bientôt, lorsque j’écrirai – comme moi-même – dans un langage que j’ai mis des décennies à rendre unique, on me dise que cela ne ressemble pas à mon travail. Que c’est en réalité le fruit de l’IA. Que vais-je faire pour le reste de ma vie ? Contourner ma propre façon d’écrire ? Trouver un nouveau langage ? Comment appeler cela ? L’exploitation du cœur ? L’exploitation du cerveau ? L’exploitation de la vie ?
Dans son ouvrage incisif et acéré comme une dague, Empire of AI, Karen Hao décrit le pillage effréné et sans merci des terres et des ressources, ainsi que la mise au travail forcée de travailleurs des pays pauvres, payés au salaire de misère, pour devenir des « capteurs de données » afin de maintenir à flot les rêves de Cyclopes. Comme il est peu probable qu’il y ait suffisamment d’eau ou d’électricité pour satisfaire l’énorme appétit énergétique de ses entreprises et de ses supercalculateurs de 100 milliards de dollars, Cyclope mène un lobbying agressif en faveur des centrales nucléaires privées et de l’assouplissement des protocoles de sécurité. À titre de solution de secours, des milliards de dollars sont investis dans le développement de sources d’énergie de fusion inépuisables, afin que les centres de données puissent être déplacés dans l’espace ou sur la Lune.
Pendant ce temps, sur cette chère vieille Terre délabrée, le gouvernement indien s’est mobilisé pour accueillir l’implantation de nouveaux centres de données, véritables gouffres énergétiques. Six rien qu’à Visakhapatnam, dont un pôle de 15 milliards de dollars destiné à Google. Ils obtiennent des autorisations sans pratiquement aucun contrôle environnemental, comme s’il s’agissait simplement de bâtiments ou d’entrepôts. C’est une vieille tradition entre l’Inde et les États-Unis : donnez-nous vos déchets, vos industries toxiques, votre calice empoisonné. Nous en prendrons grand soin. Et comme aux États-Unis, des militants indiens risquent leur vie pour empêcher la contamination de l’eau et de l’air pour les dizaines de milliers de personnes qui vivent à proximité des « entrepôts » proposés.
Aux États-Unis, les militants opposés aux centres de données sont montés les uns contre les autres face aux ouvriers du bâtiment qui ont décroché des emplois pour construire ces installations gigantesques. Ces militants, qui se battent au nom des communautés locales, sont qualifiés de traîtres financés par l’étranger, de terroristes ou d’extrémistes de gauche qui voleraient des emplois à des Américains honnêtes et travailleurs employés par des entreprises américaines patriotiques. Monter ainsi les gens les uns contre les autres est une manœuvre si vieille qu’elle empeste comme un cadavre en plein midi. C’est en observant ce scénario se dérouler au Kerala, l’État du sud de l’Inde dont je suis originaire, que j’ai appris qu’il n’est pas toujours utile de tout considérer uniquement à travers le prisme polarisant de la « gauche » ou de la « droite ».
Voici une petite histoire, très éloignée tant dans l’espace que dans le temps, mais qui recèle encore des leçons pour le présent.
L’une des premières mesures prises par le premier gouvernement communiste démocratiquement élu du Kerala, à la fin des années 1950, fut d’inviter une grande entreprise à implanter une usine de rayonne dans le nord de l’État, en amont de la ville de Calicut, sur les rives de la rivière Chaliyar. L’industriel promit que l’usine créerait 3 000 emplois, en échange de quoi il demanda des subventions gouvernementales pour les matières premières, l’électricité et l’eau. Elle se voyait fournir du bambou provenant des forêts voisines à raison d’une roupie la tonne, tandis que les travailleurs du bambou, pour la plupart des populations autochtones, devaient l’acheter à raison d’une roupie par tige.
Lorsque l’usine a démarré sa production, elle a prélevé en une seule journée plus d’eau que toute la ville de Calicut, puis a rejeté ses effluents toxiques directement dans la rivière. En aval, l’eau de la ville a été polluée. Les poissons sont morts. Des milliers de pêcheurs ont perdu leurs moyens de subsistance. Une fois tout le bambou disponible épuisé, l’usine s’est mise à utiliser de l’eucalyptus. Des acres de forêt ancienne et dense ont été rasées pour faire place à une plantation d’eucalyptus en monoculture. Des milliers d’habitants de la forêt, ainsi que d’artisans du bambou et de l’osier, ont perdu leurs moyens de subsistance. Mais les 3 000 ouvriers de l’usine se sont syndiqués et ont prospéré.
Jusqu’à ce que, au fil du temps, les émanations toxiques de l’usine commencent à provoquer des épidémies de cancer et de maladies respiratoires parmi les ouvriers. Ils se mirent en grève pour réclamer des indemnités. L’industriel fit construire un hôpital (privé) spécialisé dans le cancer. Les ouvriers militants organisèrent des sit-in et provoquèrent des lock-out pour exiger des augmentations de salaire et d’autres avantages sociaux. Ils remportèrent de petites victoires progressives, puis reprirent le travail.
Au bout de quelques années, la plantation d’eucalyptus a elle aussi disparu. L’usine a fermé ses portes. Les ouvriers bénéficiant de bons emplois syndiqués ont entamé une grève de la faim pour exiger sa réouverture. Elle n’a jamais eu lieu.
C’est là un dilemme – presque un défi existentiel – pour la main-d’œuvre chargée de la « saisie de données » à travers le monde également.
L’Inde, avec sa population gigantesque, est un véritable festin de données pour l’appétit insatiable des Cyclopes. Les plus pauvres parmi les pauvres, qui vivent dans des villages périphériques et des petites villes, sont enrôlés de force pour fournir toutes sortes d’informations imaginables susceptibles d’être exploitées. Les ouvriers des chantiers de construction et des usines sont contraints de travailler avec des caméras fixées sur la tête afin que l’IA puisse cannibaliser leurs mouvements pour entraîner les robots qui les remplaceront bientôt. Les travailleurs savent qu’ils creusent leur propre tombe, mais ils ne peuvent pas refuser, car des multitudes attendent de prendre leur place. Une fois leurs emplois disparus, que fera le monde de ces millions de « personnes excédentaires », selon la classification fasciste désignant ceux qui consomment les ressources limitées de la Terre sans contribuer à la société ? Les fascistes ont depuis longtemps leurs propres idées génocidaires à ce sujet.
Cyclopes – ou le Nerd Reich, comme l’appelle Gil Durán dans son livre du même titre – a parfois flirté avec une autre voie. Il joue par intermittence avec l’idée d’un revenu de base universel (RBU). Avec l’argent des autres. Pas le sien. N’est-ce pas génial et anticapitaliste ? Peut-être devrait-il essayer de subvenir à ses besoins grâce à un RBU mensuel pendant quelques années. Peut-être que cela devrait être la première étape du programme « Réglementer avec une extrême sévérité ».
Précisons-le pour la bonne forme : tout le monde pourrait percevoir un revenu de base universel aujourd’hui, dès maintenant, si la richesse était répartie plus équitablement. Pas besoin de détruire la planète pour cela. Et d’ailleurs, qui va verser ce revenu de base universel ? Qui décidera qui y a droit et qui n’y a pas droit ? Je pose simplement la question. Peut-être, pour développer le thème du camarade Shlomo Kramer, pourrait-on classer les gens par ordre de priorité en fonction de leur race, de leur caste, de leur religion, de leur genre, de leurs opinions politiques et de leur quotient d’obéissance ?
Ou peut-être que le gouvernement indien pourrait donner un coup de main. Lors de la « révision intensive spéciale » des listes électorales récemment menée dans le pays, 130 millions de personnes ont été rayées. Près d’un dixième de la population. Une belle part du gâteau. Une forme civilisée d’élimination. Ces personnes ne seraient pas éligibles au revenu universel de base, ni à aucun droit d’ailleurs. Dans des États comme l’Assam, certaines d’entre elles sont employées comme ouvriers du bâtiment pour construire les immenses centres de détention destinés à accueillir des personnes comme elles. Un gouvernement élit son peuple. Les cyclopes contrôlent le gouvernement. Bien joué.
Il y a ensuite la version socialiste démocratique bien intentionnée. Bernie Sanders souhaite que le public – le public nord-américain, en tout cas – détienne une participation directe dans les entreprises d’IA. Il propose un impôt ponctuel de 50 % sur les actions des plus grandes entreprises d’IA, afin de créer un fonds souverain soumis à un contrôle indépendant. Ce fonds s’élèverait apparemment à près de 7 000 milliards de dollars, dont des centaines de milliards seraient versés chaque année directement aux citoyens américains, ainsi qu’à des programmes de santé, de logement et d’éducation. (Encore une fois, ces milliers de milliards existent déjà. La volonté politique, elle, fait défaut. Qu’est-ce qui changerait ?) Mais même dans cette option socialiste démocratique, les données continueront d’être aspirées depuis le Sud – l’Inde, l’Afrique, l’Amérique du Sud – tandis que les profits resteront au Nord.
Bien sûr, les entreprises devraient payer pour les données. Mais en sommes-nous déjà arrivés là ? Notre seule option consiste-t-elle désormais à prendre part à l’apocalypse ?
*
Alors que l’on débat tant de ce que l’IA peut et ne peut pas faire pour les humains, on parle trop peu de ce qu’elle fait aux humains. Des études ont mis en garde contre un lien entre l’IA et le déclin cognitif chez les êtres humains. L’intelligence humaine semble vouée à chuter proportionnellement à l’essor de l’intelligence artificielle. Peut-être que nos cerveaux inutilisés s’atrophieront, que nos têtes rétréciront et que nos doigts se transformeront en tentacules ondulants.
Ceux d’entre nous qui ont déjà vécu dans un monde différent savent ce que nous perdons. Mais qu’en est-il de la génération qui s’apprête à atteindre l’âge adulte ? Aura-t-elle son propre langage, ses propres pensées, son propre chagrin ? Aura-t-elle le droit de se battre ? De tomber ? D’échouer ? D’être imparfaite ? Fera-t-elle l’expérience de la douleur insurmontable et du plaisir extatique de résoudre une équation mathématique ou de créer son propre art, sa propre littérature ou sa propre musique – aussi imparfaite soit-elle ?
Le triomphe de l’IA sera un crime contre l’humanité. Il mettra nos cerveaux sous formol. Il détruira le monde tel que nous le connaissons. Les hommes qui en font la promotion et qui en tirent profit en sont conscients, et ont déjà pris leurs dispositions pour s’échapper vers un autre royaume.
Les oligarques annoncent haut et fort, fièrement, les lignes de front : c’est nous contre eux. Ils suggèrent, sans ciller, que pour que les Cyclopes prospèrent, l’humanité devra peut-être mourir. La jeune génération qui se soulève pour les combattre le comprend. Je sais que, plus haut dans cet essai, j’ai suggéré que nous devrions « réglementer sans pitié ». Mais ce que je veux vraiment dire à propos de ces entreprises d’IA, c’est ceci : les éliminer sans pitié.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.