Traduction de l’article The Reverse Centaur’s Guide to Criticizing AI par Cory Doctorow, 5 décembre 2025.
Hier soir, j’ai donné une conférence dans le cadre du cycle « Neurosciences, IA et société » organisé par l’université de Washington, par l’intermédiaire du Centre de neurosciences computationnelles de l’université. Intitulé « Le guide du centaure inversé pour critiquer l’IA », il s’inspire du manuscrit de mon prochain livre, « Le guide du centaure inversé pour la vie après l’IA », qui sera publié par Farrar, Straus and Giroux en juin prochain :
La conférence a fait salle comble, mais voici le texte de mon intervention. Je suis très reconnaissant à l’université de Washington de m’avoir offert cette opportunité et d’avoir passé un séjour agréable à Seattle !
Je suis écrivain de science-fiction, ce qui signifie que mon travail consiste à inventer des paraboles futuristes sur nos arrangements techno-sociaux actuels afin d’interroger non seulement ce qu’un gadget fait, mais aussi pour qui il le fait et à qui il le fait.
Ce que je ne fais pas, c’est prédire l’avenir. Personne ne peut prédire l’avenir, ce qui est une bonne chose, car si l’avenir était prévisible, cela signifierait que nos actions ne pourraient pas le changer. Cela signifierait que l’avenir arrivait sur des rails fixes et ne pouvait être influencé.
Bon sang, quelle proposition misérable !
Or, tout le monde ne comprend pas cette distinction. Les gens pensent que les auteurs de science-fiction sont des oracles, des devins. Malheureusement, même certains de mes collègues ont l’illusion de pouvoir « voir l’avenir ».
Mais pour chaque auteur de science-fiction qui se berce d’illusions en pensant qu’il écrit l’avenir, il y a une centaine de fans de science-fiction qui croient qu’ils lisent l’avenir, et un nombre déprimant de ces personnes semblent être devenues des adeptes de l’IA. Le fait que ces types ne puissent s’empêcher de parler du jour où leur machine à autocomplétion épicée se réveillera et nous transformera tous en trombones a conduit de nombreux journalistes et organisateurs de conférences perplexes à essayer de me faire commenter l’avenir de l’IA.
C’est une chose à laquelle je me suis farouchement opposé, car j’ai perdu deux ans de ma vie à expliquer patiemment et à plusieurs reprises pourquoi je pensais que la cryptographie était stupide, et à me faire critiquer sans relâche par des adeptes de la cryptomonnaie qui, au début, insistaient sur le fait que je ne comprenais tout simplement pas la cryptographie. Puis, lorsque j’ai clairement indiqué que je comprenais la cryptographie, ils ont insisté sur le fait que je devais être un complice rémunéré.
C’est littéralement ce qui se passe quand on discute avec des scientologues, et la vie est tout simplement trop courte.
Je ne voulais donc pas me laisser entraîner dans un autre de ces bourbiers, car d’une part, je ne pense tout simplement pas que l’IA soit une technologie si importante, et d’autre part, j’ai des opinions très nuancées et complexes sur ce qui ne va pas et ce qui va dans l’IA, et cela prend beaucoup de temps à expliquer.
Mais les gens n’arrêtaient pas de me poser des questions, alors j’ai fait ce que je fais toujours. J’ai écrit un livre.
Au cours de l’été, j’ai écrit un livre sur ce que je pense de l’IA, qui traite en réalité de ce que je pense de la critique de l’IA, et plus précisément, de la manière d’être un bon critique de l’IA. J’entends par là : « Comment être un critique dont les critiques infligent un maximum de dégâts aux aspects de l’IA qui causent le plus de tort. » J’ai intitulé le livre The Reverse Centaur’s Guide to Life After AI (Le guide de vie après l’IA du centaure inversé), et Farrar, Straus and Giroux le publiera en juin 2026.
Mais vous n’avez pas besoin d’attendre jusque-là, car je vais vous présenter l’intégralité de la thèse du livre ce soir, au cours des 40 prochaines minutes. Je vais parler très vite.
#
Commençons par définir ce qu’est un centaure inversé. Dans la théorie de l’automatisation, un « centaure » est une personne assistée par une machine. Vous êtes une tête humaine transportée par un corps robotique infatigable. Conduire une voiture fait de vous un centaure, tout comme utiliser la saisie automatique.
Et évidemment, un centaure inversé est une tête de machine sur un corps humain, une personne qui sert d’appendice de chair molle à une machine indifférente.
Comme un livreur Amazon, assis dans une cabine entouré de caméras IA qui surveillent ses yeux et lui retirent des points s’il regarde dans une direction interdite, surveillent sa bouche parce qu’il n’a pas le droit de chanter pendant son travail, et le dénoncent à son patron s’il n’atteint pas son quota.
Le livreur est dans cette camionnette parce que celle-ci ne peut pas rouler toute seule et ne peut pas transporter un colis du trottoir jusqu’à votre porche. Le chauffeur est un périphérique pour une camionnette, et la camionnette conduit le chauffeur, à une vitesse surhumaine, exigeant une endurance surhumaine. Mais le chauffeur est humain, donc la camionnette ne se contente pas d’utiliser le chauffeur. La camionnette utilise le chauffeur à fond.
Évidemment, c’est agréable d’être un centaure, et c’est horrible d’être un anti-centaure. Il existe de nombreux outils d’IA qui sont potentiellement très proches des centaures, mais ma thèse est que ces outils sont créés et financés dans le but exprès de créer des anti-centaures, ce que personne ne souhaite être.
Mais comme je l’ai dit, le travail d’un écrivain de science-fiction ne se limite pas à réfléchir à ce que fait le gadget, mais consiste à approfondir la question de savoir pour qui le gadget le fait et à qui il le fait. Les patrons de la technologie veulent nous faire croire qu’il n’y a qu’une seule façon d’utiliser une technologie. Mark Zuckerberg veut vous faire croire qu’il est technologiquement impossible d’avoir une conversation avec un ami sans qu’il l’écoute. Tim Cook veut vous faire croire qu’il est technologiquement impossible d’avoir une expérience informatique fiable s’il n’a pas son mot à dire sur les logiciels que vous installez et s’il ne prélève pas 30 cents sur chaque dollar que vous dépensez. Sundar Pichai veut vous faire croire qu’il est impossible de trouver une page web s’il ne peut pas vous espionner de A à Z.
Tout cela relève d’une sorte de thatchérisme vulgaire. Le mantra de Margaret Thatcher était « Il n’y a pas d’alternative ». Elle le répétait si souvent qu’on l’appelait « TINA » Thatcher : There. Is. No. Alternative. TINA.
« Il n’y a pas d’alternative » est une rhétorique facile. C’est une exigence déguisée en observation. « Il n’y a pas d’alternative » signifie « ARRÊTEZ D’ESSAYER DE TROUVER UNE ALTERNATIVE ». Ce qui, vous savez, va vous faire chier.
Je suis écrivain de science-fiction, mon travail consiste à imaginer une douzaine d’alternatives avant le petit-déjeuner.
Je vais donc vous expliquer ce que je pense de cette bulle de l’IA, faire le tri entre les conneries et la réalité matérielle, et vous expliquer comment, selon moi, nous pourrions et devrions tous être de meilleurs critiques de l’IA.
#
Commençons par les monopoles : les entreprises technologiques sont gigantesques et ne se font pas concurrence, elles prennent simplement le contrôle de secteurs entiers, soit seules, soit en cartels.
Google et Meta contrôlent le marché publicitaire. Google et Apple contrôlent le marché mobile, et Google paie Apple plus de 20 milliards de dollars par an pour ne pas créer de moteur de recherche concurrent, et bien sûr, Google détient 90 % des parts du marché de la recherche.
On pourrait penser que c’est une bonne nouvelle pour les entreprises technologiques, qui possèdent tout leur secteur.
Mais en réalité, c’est une crise. Vous voyez, lorsqu’une entreprise est en pleine croissance, c’est une « action de croissance », et les investisseurs aiment beaucoup les actions de croissance. Lorsque vous achetez une action de croissance, vous pariez qu’elle continuera à croître. Les actions de croissance se négocient donc à un multiple élevé de leurs bénéfices. C’est ce qu’on appelle le « ratio cours/bénéfice » ou « ratio C/B ».
Mais dès qu’une entreprise cesse de croître, elle devient une action « mature » et se négocie à un ratio C/B beaucoup plus faible. Ainsi, pour chaque dollar que Target, une entreprise mature, rapporte, elle vaut dix dollars. Son ratio C/B est de 10, tandis que celui d’Amazon est de 36, ce qui signifie que pour chaque dollar qu’Amazon rapporte, le marché l’évalue à 36 dollars.
C’est formidable de diriger une entreprise qui possède des actions de croissance. Vos actions ont autant de valeur que de l’argent. Si vous souhaitez acheter une autre entreprise ou embaucher un employé clé, vous pouvez offrir des actions à la place d’argent liquide. Et les actions sont très faciles à obtenir pour les entreprises, car elles sont fabriquées sur place, il suffit de taper quelques zéros dans un tableur, alors que les dollars sont beaucoup plus difficiles à obtenir. Une entreprise ne peut obtenir des dollars que de ses clients ou de ses créanciers.
Ainsi, lorsque Amazon fait une offre contre Target pour une acquisition ou un recrutement clé, Amazon peut faire une offre avec des actions qu’elle crée en tapant des zéros dans un tableur, tandis que Target ne peut faire une offre qu’avec les dollars qu’elle obtient en nous vendant des produits ou en contractant des emprunts. C’est pourquoi Amazon remporte généralement ces guerres d’enchères.
C’est l’avantage d’avoir une action de croissance. Mais voici l’inconvénient : à un moment donné, une entreprise doit cesser de croître. Imaginons que vous obteniez 90 % des parts de marché dans votre secteur, comment allez-vous continuer à croître ?
Une fois que le marché décide que vous n’êtes plus une action de croissance, une fois que vous atteignez la maturité, vos actions sont réévaluées, avec un ratio C/B correspondant à une action mature.
Si vous êtes cadre dans une entreprise dominante détenant des actions de croissance, vous devez vivre dans la crainte constante que le marché décide que vous n’êtes plus susceptible de croître davantage. Pensez à ce qui est arrivé à Facebook au premier trimestre 2022. L’entreprise a annoncé à ses investisseurs que sa croissance aux États-Unis était légèrement plus lente que prévu, et ceux-ci ont paniqué. Ils ont procédé à une vente massive d’une valeur de 240 milliards de dollars en une journée. Un quart de billion de dollars en 24 heures ! À l’époque, il s’agissait de la plus forte et la plus rapide chute de la valeur d’une entreprise dans l’histoire de l’humanité.
C’est le pire cauchemar d’un monopoleur, car une fois que vous dirigez une entreprise « mature », les employés clés que vous rémunérez en actions subissent une chute brutale de leur salaire et prennent la fuite, vous perdant ainsi les personnes qui pourraient vous aider à croître à nouveau, et vous ne pouvez embaucher leurs remplaçants qu’avec de l’argent. Avec de l’argent, pas des actions.
Il en va de même pour l’acquisition d’entreprises susceptibles de vous aider à croître, car elles aussi s’attendront à recevoir de l’argent, et non des actions. C’est le paradoxe des actions de croissance. Tant que vous croissez pour atteindre une position dominante, le marché vous adore, mais une fois que vous avez atteint cette position, le marché réduit votre valeur de 75 % ou plus d’un seul coup s’il ne fait pas confiance à votre pouvoir de fixation des prix.
C’est pourquoi les entreprises à forte croissance gonflent désespérément l’une ou l’autre bulle, dépensant des milliards pour promouvoir le pivot vers la vidéo, la cryptomonnaie, les NFT, le métaverse ou l’IA.
Je ne dis pas que les patrons de la technologie font des paris qu’ils ne comptent pas gagner. Mais je dis que gagner le pari – créer un métaverse viable – est l’objectif secondaire. L’objectif principal est de convaincre le marché que votre entreprise continuera à croître, et de le maintenir dans cette conviction jusqu’à l’arrivée de la prochaine bulle.
C’est donc pourquoi ils font la promotion de l’IA : la base matérielle des centaines de milliards d’investissements dans l’IA.
Je voudrais maintenant parler de la manière dont ils vendent l’IA. Le discours sur la croissance de l’IA est que celle-ci va bouleverser les marchés du travail. J’utilise ici le terme « bouleverser » dans son sens le plus péjoratif, tel qu’il est utilisé par les technophiles.
La promesse de l’IA – la promesse que les entreprises d’IA font aux investisseurs – est qu’il y aura des IA capables de faire votre travail, et que lorsque votre patron vous licenciera et vous remplacera par une IA, il gardera la moitié de votre salaire pour lui et donnera l’autre moitié à l’entreprise d’IA.
C’est tout.
C’est le scénario de croissance de 13 000 milliards de dollars que raconte MorganStanley. C’est pourquoi les grands investisseurs et les institutions accordent des centaines de milliards de dollars aux entreprises d’IA. Et comme elles s’y précipitent, les gens normaux se laissent également entraîner, mettant en péril leur épargne-retraite et la sécurité financière de leur famille.
Maintenant, si l’IA pouvait faire votre travail, cela resterait tout de même un problème. Nous devrions trouver quoi faire de toutes ces personnes technologiquement au chômage.
Mais l’IA ne peut pas faire votre travail. Elle peut vous aider à faire votre travail, mais cela ne signifie pas qu’elle permettra à quiconque d’économiser de l’argent. Prenons l’exemple de la radiologie : certaines preuves montrent que l’IA peut parfois identifier des tumeurs solides que certains radiologues ne voient pas, et regardez, j’ai un cancer. Heureusement, il est tout à fait traitable, mais je souhaite que la radiologie soit aussi fiable et précise que possible
. Si mon hôpital Kaiser achetait des outils de radiologie basés sur l’IA et disait à ses radiologues : « Bonjour à tous, voici ce que nous allons faire. Aujourd’hui, vous traitez environ 100 radiographies par jour. À partir de maintenant, nous allons obtenir un deuxième avis instantané de l’IA, et si l’IA pense que vous avez manqué une tumeur, nous voulons que vous reveniez en arrière et que vous regardiez à nouveau, même si cela signifie que vous ne traitez plus que 98 radiographies par jour. Ce n’est pas grave, notre seule préoccupation est de détecter toutes les tumeurs. »
Si c’était ce qu’ils avaient dit, j’aurais été ravi. Mais personne n’investit des centaines de milliards dans des entreprises d’IA parce qu’il pense que l’IA rendra la radiologie plus coûteuse, même si cela rend également la radiologie plus précise. Le pari du marché sur l’IA est qu’un vendeur d’IA rendra visite au PDG de Kaiser et lui fera cette proposition : « Écoutez, vous licenciez 90 % de vos radiologues, ce qui vous permet d’économiser 20 millions de dollars par an, vous nous donnez 10 millions de dollars par an, et vous gagnez 10 millions de dollars par an. Le travail des radiologues restants consistera à superviser les diagnostics que l’IA établit à une vitesse surhumaine, et à rester vigilants pendant qu’ils le font, même si l’IA a généralement raison, sauf lorsqu’elle se trompe de manière catastrophique.
Et si l’IA passe à côté d’une tumeur, ce sera la faute du radiologue humain, car c’est lui qui est « dans la boucle ». C’est lui qui signe le diagnostic. »
Il s’agit d’un centaure inversé, et d’un type particulier de centaure inversé : c’est ce que Dan Davies appelle un « puits de responsabilité ». Le travail du radiologue n’est pas vraiment de superviser le travail de l’IA, mais plutôt d’assumer la responsabilité des erreurs de l’IA.
C’est un autre élément clé pour comprendre – et donc dégonfler – la bulle de l’IA. L’IA ne peut pas faire votre travail, mais un vendeur d’IA peut convaincre votre patron de vous licencier et de vous remplacer par une IA qui ne peut pas faire votre travail. C’est essentiel, car cela nous aide à former les types de coalitions qui permettront de lutter efficacement contre la bulle de l’IA.
Si vous êtes quelqu’un qui s’inquiète du cancer et qu’on vous dit que le prix à payer pour rendre la radiologie trop bon marché pour être mesurée est que nous allons devoir reloger les 32 000 radiologues américains, avec en contrepartie que personne ne se verra plus jamais refuser des services de radiologie, vous pourriez dire : « Bon, d’accord, je suis désolé pour ces radiologues, et je soutiens pleinement l’idée de leur offrir une formation professionnelle, un revenu universel de base ou autre. Mais le but de la radiologie est de lutter contre le cancer, pas de payer les radiologues, donc je sais de quel côté je me situe. »
Les marchands d’IA et leurs clients dans les hautes sphères veulent que le public soit de leur côté. Ils veulent forger une alliance de classe entre les déployeurs d’IA et les personnes qui profitent des fruits du travail des centaures inversés. Ils veulent que nous nous considérions comme les ennemis des travailleurs.
Certaines personnes se rangeront du côté des travailleurs pour des raisons politiques ou esthétiques. Elles préfèrent simplement les travailleurs à leurs patrons. Mais si vous voulez convaincre toutes les personnes qui bénéficient de votre travail, vous devez comprendre et souligner que les produits de l’IA seront de qualité inférieure. Qu’elles devront payer plus cher pour des produits de moins bonne qualité. Qu’elles ont un intérêt matériel commun avec vous.
Ces produits seront-ils de qualité inférieure ? Tout porte à le croire. J’ai évoqué précédemment la « cécité de l’automatisation », c’est-à-dire l’impossibilité physique de rester vigilant face à des événements qui se produisent rarement. C’est pourquoi les agents de la TSA sont incroyablement doués pour repérer les bouteilles d’eau. Parce qu’ils s’entraînent énormément à cela, toute la journée, tous les jours. Et c’est pourquoi ils ne parviennent pas à repérer les armes et les bombes que les équipes rouges du gouvernement font passer en fraude aux points de contrôle pour tester leur efficacité, car ils n’ont tout simplement pas d’entraînement dans ce domaine. En effet, à première vue, personne n’apporte délibérément une arme à feu ou une bombe à un point de contrôle de la TSA.
L’aveuglement à l’automatisation est le talon d’Achille des « humains dans la boucle ».
Pensez à la génération de logiciels d’IA : de nombreux codeurs adorent utiliser l’IA, et presque sans exception, ce sont des codeurs seniors et expérimentés, qui décident de la manière dont ils utilisent ces outils. Par exemple, vous pouvez demander à l’IA de générer un ensemble de fichiers CSS pour rendre fidèlement une page web sur plusieurs versions de plusieurs navigateurs. C’est une tâche notoirement délicate, et il est assez facile de vérifier si le code fonctionne : il suffit de le regarder dans plusieurs navigateurs. Ou peut-être que le codeur a un seul fichier de données à importer et qu’il ne veut pas écrire tout un utilitaire pour le convertir.
De telles tâches peuvent véritablement rendre les codeurs plus efficaces et leur donner plus de temps pour se consacrer à la partie amusante du codage, à savoir la résolution de casse-têtes abstraits et vraiment complexes. Mais lorsque vous écoutez les chefs d’entreprise parler de leurs projets d’IA pour les codeurs, il est clair qu’ils ne cherchent pas à créer des centaures.
Ils veulent licencier un grand nombre de travailleurs du secteur technologique (500 000 au cours des trois dernières années) et faire en sorte que les autres reprennent leur travail de codage, ce qui n’est possible que si vous laissez l’IA se charger de la résolution des problèmes complexes et créatifs, puis que vous vous occupez de la partie la plus ennuyeuse et la plus démoralisante du travail : la révision du code de l’IA.
Et comme l’IA n’est qu’un programme de devinette de mots, puisqu’elle ne fait que calculer le mot le plus probable à suivre, les erreurs qu’elle commet sont particulièrement subtiles et difficiles à repérer, car ces bugs sont littéralement statistiquement indiscernables du code fonctionnel (sauf qu’il s’agit de bugs).
Voici un exemple : les bibliothèques de code sont des utilitaires standard que les programmeurs peuvent intégrer à leurs applications, afin de ne pas avoir à effectuer une multitude de programmations répétitives. Par exemple, si vous souhaitez traiter du texte, vous utiliserez une bibliothèque standard. S’il s’agit d’un fichier HTML, cette bibliothèque pourra s’appeler lib.html.text.parsing ; s’il s’agit d’un fichier DOCX, elle s’appellera lib.docx.text.parsing. Mais la réalité est complexe, les humains sont inattentifs et des erreurs peuvent se produire. Il existe donc parfois une autre bibliothèque, celle-ci pour analyser les PDF, et au lieu de s’appeler lib.pdf.text.parsing, elle s’appelle lib.text.pdf.parsing.
Or, comme l’IA est un moteur d’inférence statistique, comme tout ce qu’elle peut faire est de prédire le mot suivant en se basant sur tous les mots qui ont été tapés dans le passé, elle va « halluciner » une bibliothèque appelée lib.pdf.text.parsing. Et le problème, c’est que les pirates informatiques malveillants savent que l’IA commettra cette erreur, ils vont donc créerune bibliothèque avec le nom prévisible et halluciné, et cette bibliothèque sera automatiquement intégrée à votre programme, et elle fera des choses comme voler les données des utilisateurs ou essayer de pénétrer dans d’autres ordinateurs du même réseau.
Et vous, l’humain dans la boucle – le centaure inversé – vous devez repérer cette erreur subtile et difficile à trouver, ce bug qui est littéralement impossible à distinguer statistiquement d’un code correct. Maintenant, un codeur senior pourrait peut-être le repérer, car il a déjà fait ses preuves et connaît ce piège.
Mais devinez qui les patrons du secteur technologique veulent licencier en priorité et remplacer par l’IA ? Les codeurs expérimentés. Ces travailleurs bavards, arrogants et très bien payés, qui ne se considèrent pas comme des employés. Qui se voient comme des fondateurs en devenir, des pairs de la direction de l’entreprise. Le genre de codeurs qui mèneraient une grève contre la construction par l’entreprise de systèmes de ciblage de drones pour le Pentagone, qui a coûté dix milliards de dollars à Google en 2018.
Pour que l’IA ait de la valeur, elle doit remplacer les travailleurs hautement rémunérés, et ce sont précisément les travailleurs expérimentés, dotés d’une connaissance des processus et d’une intuition acquise à la sueur de leur front, qui pourraient repérer certaines de ces erreurs d’IA camouflées par les statistiques.
Comme je l’ai dit, l’objectif ici est de remplacer les travailleurs hautement rémunérés
Et l’une des raisons pour lesquelles les entreprises d’IA sont si impatientes de licencier les codeurs est que ceux-ci sont les princes du travail. Ce sont les travailleurs les plus privilégiés, les plus recherchés et les mieux rémunérés de la population active.
Si vous pouvez remplacer les codeurs par l’IA, qui ne pouvez-vous pas remplacer par l’IA ? Licencier des codeurs est une publicité pour l’IA.
Ce qui m’amène à l’art IA. L’art IA – ou « art » – est également une publicité pour l’IA, mais il ne fait pas partie du modèle économique de l’IA.
Je m’explique : en moyenne, les illustrateurs ne gagnent pas d’argent. Ils font déjà partie des groupes de travailleurs les plus misérables et les plus précaires qui soient. Ils souffrent d’une pathologie appelée « admiration professionnelle ». Ce terme a été inventé par le bibliothécaire Fobazi Ettarh et désigne les travailleurs qui sont vulnérables à l’exploitation sur leur lieu de travail parce qu’ils se soucient réellement de leur métier : infirmières, bibliothécaires, enseignants et artistes.
Si les générateurs d’images IA mettaient tous les illustrateurs actuels au chômage, les économies salariales qui en résulteraient seraient insignifiantes par rapport à l’ensemble des coûts liés à la formation et au fonctionnement des générateurs d’images. La masse salariale totale des illustrateurs commerciaux est inférieure à la facture de kombucha de la cafétéria de l’entreprise sur un seul des campus d’Open AI.
Le but de l’art généré par l’IA – et l’histoire de l’art généré par l’IA comme glas pour les artistes – est de convaincre le grand public que l’IA est extraordinaire et qu’elle accomplira des choses extraordinaires. Il s’agit de créer le buzz. Cela ne veut pas dire qu’il n’est pas révoltant que l’ancienne directrice technique d’OpenAI, Mira Murati, ait déclaré lors d’une conférence que « certains emplois créatifs n’auraient jamais dû exister », ni qu’il n’est pas particulièrement révoltant qu’elle et ses collègues se vantent d’utiliser le travail des artistes pour ruiner leur gagne-pain.
C’est censé être dégoûtant. C’est censé pousser les artistes à courir partout en disant : « L’IA peut faire mon travail, elle va me voler mon emploi, n’est-ce pas terrible ? »
Car les clients de l’IA – les chefs d’entreprise – ne considèrent pas comme terrible le fait que l’IA prenne le travail des employés. Ils trouvent cela merveilleux.
Mais l’IA peut-elle faire le travail d’un illustrateur ? Ou celui de n’importe quel artiste ?
Réfléchissons-y un instant. Je suis artiste professionnel depuis l’âge de 17 ans, lorsque j’ai vendu ma première nouvelle, et j’y ai beaucoup réfléchi. Voici ce que je pense de l’art : il commence avec un artiste, qui a dans son esprit un sentiment vaste, complexe, numineux et irréductible. Et l’artiste insuffle ce sentiment dans un médium artistique. Il crée une chanson, un poème, une peinture, un dessin, une danse, un livre ou une photographie. L’idée est que lorsque vousdécouvrez cette œuvre, une reproduction de ce sentiment immense, mystique et irréductible se matérialise dans votreesprit.
Maintenant que j’ai défini l’art, nous devons faire un petit détour.
J’ai un ami qui est professeur de droit, et avant l’avènement des chatbots, les étudiants en droit savaient qu’il valait mieux ne pas demander de lettres de recommandation à leurs professeurs, à moins d’être de très bons étudiants. Parce que ces lettres étaient pénibles à rédiger. Ainsi, si vous publiiez une annonce pour un poste de post-doctorant et que vous receviez une candidature accompagnée d’une lettre de recommandation d’un professeur respecté, la simple existence de cette lettre vous indiquait que le professeur avait vraiment une haute opinion de cet étudiant.
Mais ensuite, les chatbots sont arrivés, et tout le monde sait qu’il suffit de fournir trois points clés à un LLM pour qu’il génère une lettre de recommandation, et qu’il vomira cinq paragraphes de fioritures absurdes sur l’étudiant.
Ainsi, lorsque mon ami publie une annonce pour un poste de post-doctorant, il est submergé de lettres de recommandation, et il gère ce flot en fournissant toutes ces lettres à un autre chatbot, et lui demande de les réduire à trois points clés. Évidemment, ce ne seront pas les mêmes points, ce qui rend tout cela terrible.
Mais tout aussi évidemment, rien dans cette lettre de cinq paragraphes, à l’exception des trois points originaux, n’est pertinent pour l’étudiant. Le chatbot ne connaît pas l’étudiant. Il ne sait rien de lui. Il ne peut ajouter à la lettre aucune affirmation vraie ou utile sur l’étudiant.
Quel est le rapport avec l’art IA ? L’art est le transfert d’un sentiment profond, numineux et irréductible d’un artiste à quelqu’un d’autre. Mais le programme de génération d’images ne sait rien de votre sentiment profond, numineux et irréductible. La seule chose qu’il sait, c’est ce que vous avez mis dans votre prompt, et ces quelques phrases sont diluées dans un million de pixels ou cent mille mots, de sorte que la densité communicative moyenne de l’œuvre qui en résulte est indiscernable de zéro.
Il est possible d’insuffler davantage d’intention communicative dans une œuvre : en rédigeant des invites plus détaillées, en effectuant un travail de sélection parmi de nombreuses variantes, ou en retouchant directement l’image générée par l’IA après coup, à l’aide d’un pinceau, de Photoshop ou de The Gimp. Et s’il existe un jour une œuvre d’art IA qui soit un bon art – par opposition à une œuvre simplement frappante, intéressante ou un exemple de bon dessin –, ce sera grâce à ces ajouts d’intention créative par un humain.
En attendant, il s’agit de mauvais art. C’est du mauvais art dans le sens où il est « inquiétant », selon le terme utilisé par Mark Fisher pour décrire « lorsqu’il y a quelque chose là où il ne devrait y avoir rien, ou lorsqu’il n’y a rien là où il devrait y avoir quelque chose ». L’art généré par l’IA est étrange parce qu’il semble y avoir une intention derrière chaque mot et chaque pixel, car notre expérience nous a appris que les peintures ont des peintres et les écrits ont des auteurs. Mais il manque quelque chose. Il n’a rien à dire, ou ce qu’il a à dire est tellement dilué qu’il est indétectable.
Les images étaient frappantes avant que nous comprenions le truc, mais maintenant elles ressemblent à celles que nous imaginons dans les nuages ou les tas de feuilles. C’est nous qui dessinons un cadre autour d’une partie de la scène, c’est nous qui nous concentrons sur certains contours et en ignorons d’autres. Nous regardons une tache d’encre, et elle ne nous dit rien.
Parfois, cela peut être visuellement saisissant, et dans la mesure où cela amuse les membres d’une communauté de promoteurs et de spectateurs, cela n’a rien de dangereux.
Je connais quelqu’un qui joue chaque semaine à Donjons et Dragons sur Zoom. Le jeu est transcrit par un modèle open source fonctionnant localement sur l’ordinateur du maître du donjon, qui résume la session de la soirée et demande à un générateur d’images de créer des illustrations des moments clés. Ces résumés et ces images sont hilarants parce qu’ils sont truffés d’erreurs. C’est un divertissement inoffensif qui apporte un petit plaisir supplémentaire à un petit groupe de personnes. Personne ne va licencier un illustrateur parce que les joueurs de D&D génèrent des illustrations amusantes où des paladins à sept doigts luttent contre des orcs qui ont une main supplémentaire.
Mais les patrons ont licencié et vont licencier des illustrateurs, car ils rêvent de pouvoir se passer des professionnels créatifs et de simplement demander à une IA de faire le travail. Car même si l’IA ne peut pas faire le travail de l’illustrateur, un vendeur d’IA peut convaincre le patron de l’illustrateur de le licencier et de le remplacer par une IA qui ne peut pas faire son travail.
C’est une situation révoltante et terrible, et nous ne devrions pas simplement hausser les épaules et accepter le fatalisme thatchérien : « Il n’y a pas d’alternative. »
Alors, quelle est l’alternative ? Beaucoup d’artistes et leurs alliés pensent avoir la réponse : ils disent que nous devrions étendre le droit d’auteur pour couvrir les activités liées à la formation d’un modèle.
Et je suis ici pour vous dire qu’ils ont tort : ils ont tort parce que cela causerait de terribles dommages collatéraux à des activités socialement bénéfiques et représenterait une extension massive du droit d’auteur à des activités qui sont actuellement autorisées – pour de bonnes raisons !
Décomposons les étapes de la formation de l’IA.
Tout d’abord, vous récupérez un ensemble de pages web. Cela est clairement légal en vertu de la législation actuelle sur le droit d’auteur. Vous n’avez pas besoin d’une licence pour faire une copie temporaire d’une œuvre protégée par le droit d’auteur afin de l’analyser, sinon les moteurs de recherche seraient illégaux. Interdisons le scraping et Google sera le dernier moteur de recherche dont nous disposerons, Internet Archive fera faillite, et cet Autrichien qui a scrapé tous les sites des supermarchés et prouvé que les grandes chaînes s’entendaient pour fixer les prix se retrouverait dans une situation très délicate.
Ensuite, vous effectuez une analyse de ces œuvres. En gros, vous comptez des éléments : vous comptez les pixels et leurs couleurs, leur proximité avec d’autres pixels, ou vous comptez les mots. Il est évident que vous n’avez pas besoin de licence pour cela. Il n’est tout simplement pas illégal de compter les éléments d’une œuvre protégée par le droit d’auteur. Et nous ne voulons vraiment pas que cela devienne illégal, du moins si vous vous intéressez à la recherche universitaire, quelle qu’elle soit.
Il est important de noter que compter des éléments est légal, même si vous travaillez à partir d’une copie obtenue illégalement. Par exemple, si vous allez au marché aux puces, que vous achetez un CD de musique piraté, que vous le ramenez chez vous et que vous dressez une liste de tous les adverbes contenus dans les paroles, puis que vous publiez cette liste, vous ne commettez pas d’infraction au droit d’auteur.
Vous avez peut-être enfreint le droit d’auteur en achetant le CD piraté, mais pas en comptant les paroles.
C’est pourquoi Anthropic a proposé un règlement de 1,5 milliard de dollars pour avoir entraîné ses modèles à partir d’une tonne de livres téléchargés sur un site pirate : non pas parce que le fait de compter les mots dans les livres enfreint les droits de quiconque, mais parce qu’ils craignaient de se voir infliger des dommages-intérêts légaux de 150 000 dollars par livre pour avoir téléchargé les fichiers.
Une fois que vous avez compté tous les pixels ou tous les mots, il est temps de passer à l’étape finale : les publier. Car c’est cela, un modèle : une œuvre littéraire (c’est-à-dire un logiciel) qui incarne un ensemble de faits sur un ensemble d’autres œuvres, des informations sur la distribution des mots et des pixels, codées dans un tableau multidimensionnel.
Et encore une fois, le droit d’auteur ne vous interdit absolument pas de publier des faits sur des œuvres protégées par le droit d’auteur. Et encore une fois, personne ne devrait vouloir vivre dans un monde où quelqu’un d’autre décide quelles déclarations véridiques et factuelles vous pouvez publier.
Mais bon, vous pensez peut-être que tout cela n’est que sophisme. Vous pensez peut-être que je raconte n’importe quoi. Ce n’est pas grave. Ce ne serait pas la première fois que quelqu’un pense cela.
Après tout, même si j’ai raison sur le fonctionnement actuel du droit d’auteur, rien ne nous empêche de modifier le droit d’auteur pour interdire les activités de formation, et il existe peut-être même un moyen astucieux de formuler la loi de manière à ce qu’elle ne vise que les mauvaises choses que nous n’aimons pas, et non toutes les bonnes choses qui découlent du scraping, de l’analyse et de la publication.
Même dans ce cas, vous n’aiderez pas les créateurs en créant ce nouveau droit d’auteur. Si vous pensez que vous pouvez le faire, vous devez accepter cette réalité : depuis 1976, nous avons élargi le droit d’auteur de manière monotone, de sorte qu’aujourd’hui, il couvre davantage de types d’œuvres, accorde des droits exclusifs sur davantage d’utilisations et dure plus longtemps.
Et aujourd’hui, l’industrie des médias est plus importante et plus rentable que jamais, mais la part des revenus de l’industrie des médias qui revient aux créatifs est plus faible que jamais, tant en termes réels qu’en proportion des gains incroyables réalisés par les patrons des créateurs dans les entreprises de médias.
Comment se fait-il que nous ayons accordé tous ces nouveaux droits aux créateurs, que ces nouveaux droits aient généré des milliards de dollars et que les créateurs se retrouvent plus pauvres ? C’est parce que dans un marché créatif dominé par cinq éditeurs, quatre studios, trois labels, deux boutiques d’applications mobiles et une seule entreprise qui contrôle tous les livres électroniques et les livres audio, donner à un créateur des droits supplémentaires pour négocier revient à donner à votre enfant victime d’intimidation plus d’argent pour son déjeuner.
Peu importe le montant de l’argent de poche que vous donnez à l’enfant, les brutes lui prendront tout. Donnez suffisamment d’argent à cet enfant et les brutes engageront une agence pour mener une campagne mondiale proclamant « pensez aux enfants qui ont faim ! Donnez-leur plus d’argent de poche ! ».
Les travailleurs créatifs qui applaudissent les poursuites judiciaires intentées par les grands studios et les grandes maisons de disques doivent se souvenir de la première règle de la lutte des classes : ce qui est bon pour votre patron est rarement bon pour vous.
Le jour où Disney et Universal ont intenté un procès contre Midjourney, j’ai reçu un communiqué de presse de la RIAA, qui représente Disney et Universal par l’intermédiaire de leurs divisions d’enregistrement. Universal est le plus grand label au monde. Avec Sony et Warner, ils contrôlent 70 % de tous les enregistrements musicaux protégés par le droit d’auteur aujourd’hui.
Le communiqué commence ainsi : « Il existe une voie claire à suivre grâce à des partenariats qui favorisent à la fois l’innovation en matière d’IA et l’art humain. »
Il se termine ainsi : « Cette action de Disney et Universal représente une prise de position cruciale en faveur de la créativité humaine et de l’innovation responsable. »
Il est signé par Mitch Glazier, PDG de la RIAA.
Il y a fort à parier que ce nom ne vous dit rien. Mais laissez-moi vous dire qui est Mitch Glazier. Aujourd’hui, Mitch Glazier est le PDG de la RIAA, avec un salaire annuel de 1,3 million de dollars. Mais jusqu’en 1999, Mitch Glazier était un membre clé du personnel du Congrès, et en 1999, Glazier a glissé un amendement dans un projet de loi sans rapport, le Satellite Home Viewer Improvement Act, qui a supprimé le droit des musiciens de récupérer leurs enregistrements auprès de leurs labels.
Cette pratique était particulièrement importante pour les « heritage acts » (euphémisme utilisé par l’industrie du disque pour désigner « la musique ancienne enregistrée par des Noirs »), pour qui ce droit représentait la différence entre payer leur loyer et se retrouver à la rue.
Lorsque l’on a compris que Glazier avait mis en place cette arnaque qui appauvrissait les musiciens, le tollé général a été tel que le Congrès a dû se réunir en session extraordinaire, uniquement pour voter à nouveau l’annulation de l’amendement de Glazier. Glazier a ensuite été renvoyé de son poste confortable au Congrès, après quoi la RIAA a commencé à lui verser plus d’un million de dollars par an pour « représenter l’industrie musicale ».
C’est lui qui a signé le communiqué de presse que j’ai reçu dans ma boîte mail. Son message était le suivant : Le problème n’est pas que Midjourney veuille former un modèle d’IA générique à partir d’œuvres protégées par le droit d’auteur, puis utiliser ce modèle pour mettre les artistes au chômage. Le problème, c’est que Midjourney n’a pas payé les membres de la RIAA, Universal et Disney, pour obtenir l’autorisation de former un modèle. Car si Midjourney avait donné plusieurs millions de dollars à Disney et Universal pour obtenir le droit de former ses catalogues, les entreprises leur auraient volontiers permis de former à leur guise, et elles auraient acheté les modèles obtenus et licencié autant de professionnels créatifs que possible.
Avons-nous déjà oublié les grèves à Hollywood ? Pas moi, en tout cas. Je vis à Burbank, où se trouvent Disney, Universal et Warner, et j’étais dans la rue avec mes camarades de la Writers Guild, offrant ma solidarité au nom de mon syndicat, l’IATSE 830, The Animation Guild, dont je suis membre de la section des scénaristes.
Et je n’oublierai jamais le moment où un scénariste s’est tourné vers moi et m’a dit : « Tu sais, tu demandes un LLM exactement de la même manière qu’un cadre donne des notes merdiques à une équipe de scénaristes. Tu sais : « Fais-moi un ET, sauf que c’est sur un chien, et ajoute une histoire d’amour, et une course-poursuite en voiture dans le deuxième acte. » La différence, c’est que si tu dis ça à une équipe de scénaristes, ils se moquent tous de toi et te traitent de connard de cadre. Mais si tu le dis à un LLM, il va joyeusement pondre un scénario horrible qui correspond exactement à ces spécifications (tu sais, Air Bud). »
Ces entreprises sont prêtes à tout pour utiliser l’IA afin de remplacer les travailleurs. Lorsque Getty Images poursuit des entreprises d’IA, elle ne représente pas les intérêts des photographes. Getty déteste payer les photographes ! Getty veut juste être payée pour la phase d’entraînement, et elle veut que le modèle d’IA qui en résulte soit équipé de garde-fous, afin qu’il refuse de créer des images qui concurrencent celles de Getty pour quiconque à l’exception de Getty. Mais Getty utilisera sans aucun doute ses modèles pour ruiner autant de photographes que possible.
Un nouveau droit d’auteur pour former des modèles ne nous permettra pas d’aboutir à un monde où les modèles ne sont pas utilisés pour détruire les artistes, mais simplement à un monde où les contrats types de la poignée d’entreprises qui contrôlent tous les marchés du travail créatif seront mis à jour pour nous obliger à céder ces nouveaux droits de formation à ces entreprises. Exiger un nouveau droit d’auteur ne fait de vous qu’un idiot utile pour votre patron, un bouclier humain qu’il peut brandir dans les luttes politiques, un prétexte fragile pour dire « personne ne pense aux artistes affamés ? ».
Alors qu’en réalité, ce qu’ils exigent, c’est un monde où 30 % du capital d’investissement des entreprises d’IA va dans les poches de leurs actionnaires. Lorsqu’un artiste est dévoré par des monopoles voraces, est-ce important de savoir comment ils se partagent le repas ?
Nous devons protéger les artistes contre la prédation de l’IA, et pas seulement créer un nouveau moyen pour les artistes d’être en colère contre leur appauvrissement.
Et, aussi incroyable que cela puisse paraître, il existe un moyen très simple d’y parvenir. Après plus de 20 ans d’erreurs et de décisions désastreuses pour les droits des artistes, le Bureau américain du droit d’auteur a enfin pris une décision glorieuse et merveilleusement juste. Tout au long de cette bulle de l’IA, le Bureau du droit d’auteur a maintenu, à juste titre, que les œuvres générées par l’IA ne peuvent pas être protégées par le droit d’auteur, car celui-ci est exclusivement réservé aux humains. C’est pourquoi le « selfie du singe » appartient au domaine public. Le droit d’auteur n’est accordé qu’aux œuvres d’expression créative humaine qui sont fixées sur un support tangible.
Non seulement le Bureau du droit d’auteur a adopté cette position, mais il l’a également défendue avec vigueur devant les tribunaux, remportant à plusieurs reprises des jugements confirmant ce principe.
Le fait que toutes les œuvres créées par l’IA soient dans le domaine public signifie que si Getty, Disney, Universal ou les journaux Hearst utilisent l’IA pour générer des œuvres, n’importe qui d’autre peut prendre ces œuvres, les copier, les vendre ou les distribuer gratuitement. Et la seule chose que ces entreprises détestent plus que de payer les créatifs, c’est que d’autres personnes prennent leurs œuvres sans autorisation.
La position du Bureau américain des droits d’auteur signifie que la seule façon pour ces entreprises d’obtenir un droit d’auteur est de payer des humains pour faire un travail créatif. C’est la recette idéale pour devenir un centaure. Si vous êtes un artiste visuel ou un écrivain qui utilise des suggestions pour trouver des idées ou des variations, cela ne pose aucun problème, car l’œuvre finale vient de vous. Et si vous êtes un monteur vidéo qui utilise des deepfakes pour modifier le regard de 200 figurants dans une scène de foule, alors bien sûr, ces yeux appartiennent au domaine public, mais le film reste protégé par le droit d’auteur.
Mais les travailleurs créatifs n’ont pas besoin de compter sur le gouvernement américain pour nous sauver des prédateurs de l’IA. Nous pouvons le faire nous-mêmes, comme l’ont fait les scénaristes lors de leur grève historique. Les scénaristes ont mis les studios à genoux. Ils y sont parvenus parce qu’ils sont organisés et solidaires, mais aussi parce qu’ils ont le droit de faire quelque chose que pratiquement aucun autre travailleur n’a le droit de faire : ils peuvent mener des « négociations sectorielles », dans le cadre desquelles tous les travailleurs d’un secteur peuvent négocier un contrat avec tous les employeurs de ce secteur.
Cela est illégal pour la plupart des travailleurs depuis la fin des années 1940, lorsque la loi Taft-Hartley l’a interdit. Si nous voulons faire campagne pour faire adopter une nouvelle loi dans l’espoir de gagner plus d’argent et d’avoir plus de contrôle sur notre travail, nous devrions faire campagne pour rétablir la négociation sectorielle, et non pour étendre le droit d’auteur.
Nos alliés dans une campagne visant à étendre le droit d’auteur sont nos patrons, qui n’ont jamais eu à cœur nos intérêts. Alors que nos alliés dans la lutte pour les négociations sectorielles sont tous les travailleurs du pays. Comme le dit la chanson, « De quel côté êtes-vous ? »
Bon, je dois maintenant conclure cette discussion, car je n’ai plus de temps, alors je vais terminer par ceci : l’IA est une bulle, et les bulles sont terribles.
Les bulles transfèrent les économies d’une vie de personnes normales qui essaient simplement de prendre une retraite digne aux personnes les plus riches et les moins éthiques de notre société, et chaque bulle finit par éclater, emportant avec elle leurs économies.
Mais toutes les bulles ne se valent pas. Certaines bulles laissent derrière elles quelque chose de productif. Worldcom a volé des milliards à des gens ordinaires en les escroquant sur des commandes de câbles à fibre optique. Le PDG a été emprisonné et y est mort. Mais la fibre optique lui a survécu. Elle est toujours dans le sol. Chez moi, j’ai une connexion symétrique de 2 Go, car AT&T a réactivé une partie de l’ancienne fibre optique inutilisée de Worldcom.
Toutes choses étant égales par ailleurs, il aurait mieux valu que Worldcom n’ait jamais existé, mais la seule chose pire que la fraude effroyable commise par Worldcom aurait été qu’il n’y ait rien à sauver des décombres.
Je ne pense pas que nous sauverons grand-chose de la cryptomonnaie, par exemple. Bien sûr, il y aura quelques codeurs qui auront appris quelque chose sur la programmation sécurisée dans Rust. Mais lorsque la cryptomonnaie disparaîtra, elle laissera derrière elle une mauvaise économie autrichienne et des JPEG de singes encore pires.
L’IA est une bulle qui éclatera. La plupart des entreprises feront faillite. La plupart des centres de données seront fermés ou vendus pour pièces détachées. Que restera-t-il alors ?
Nous aurons un groupe de codeurs vraiment doués en statistiques appliquées. Nous aurons beaucoup de GPU bon marché, ce qui sera une bonne nouvelle pour, disons, les artistes spécialisés dans les effets spéciaux et les climatologues, qui pourront acheter ce matériel essentiel pour quelques centimes. Et nous aurons les modèles open source qui fonctionnent sur du matériel standard, des outils d’IA qui peuvent faire beaucoup de choses utiles, comme transcrire des fichiers audio et vidéo, décrire des images, résumer des documents, automatiser de nombreuses tâches d’édition graphique fastidieuses, comme supprimer des arrière-plans ou effacer des passants sur des photos. Ceux-ci fonctionneront sur nos ordinateurs portables et nos téléphones, et les hackers open source trouveront des moyens de les pousser à faire des choses que leurs créateurs n’auraient jamais imaginées.
S’il n’y avait jamais eu de bulle IA, si tout cela était simplement apparu parce que des informaticiens et des chefs de produit avaient passé quelques années à imaginer de nouvelles applications sympas pour la rétropropagation, l’apprentissage automatique et les réseaux antagonistes génératifs, la plupart des gens auraient été agréablement surpris par ces nouvelles fonctionnalités intéressantes que leurs ordinateurs pouvaient offrir. Nous les appellerions « plugins ».
C’est la bulle qui est nulle, pas ces applications. La bulle ne veut pas de choses utiles et bon marché. Elle veut des choses coûteuses et « disruptives » : de grands modèles fondamentaux qui perdent des milliards de dollars chaque année.
Lorsque la frénésie des investissements dans l’IA prendra fin, la plupart de ces modèles disparaîtront, car il ne sera tout simplement plus rentable de maintenir les centres de données en activité. Comme le dit la loi de Stein : « Tout ce qui ne peut pas durer éternellement finit par s’arrêter. »
L’effondrement de la bulle de l’IA sera violent. Sept entreprises d’IA représentent actuellement plus d’un tiers du marché boursier, et elles se passent sans cesse la même reconnaissance de dette de 100 milliards de dollars.
Les patrons licencient en masse des travailleurs productifs et les remplacent par une IA bancale, et lorsque cette IA bancale aura disparu, personne ne pourra retrouver et réembaucher la plupart de ces travailleurs. Nous passerons alors de systèmes d’IA dysfonctionnels à rien du tout.
L’IA est l’amiante dans les murs de notre société technologique, fourrée là avec une folie débridée par un secteur financier et des monopoles technologiques déchaînés. Nous allons passer une génération ou plus à l’extraire.
Nous devons donc nous débarrasser de cette bulle. La faire éclater, aussi vite que possible. Pour cela, nous devons nous concentrer sur les facteurs matériels qui alimentent la bulle. La bulle n’est pas alimentée par la pornographie deepfake, la désinformation électorale, la génération d’images par IA ou la publicité de mauvaise qualité.
Toutes ces choses sont terribles et nuisibles, mais elles ne stimulent pas les investissements. Le montant total en dollars représenté par ces applications est loin d’avoir un impact significatif sur les dépenses d’investissement et les coûts d’exploitation de l’IA. Il s’agit d’utilisations périphériques et résiduelles : tape-à-l’œil, mais sans importance pour la bulle.
Supprimez toutes ces utilisations et vous réduirez les revenus attendus des entreprises d’IA d’un montant si faible qu’il sera négligeable.
Il en va de même pour toutes ces absurdités sur la « sécurité de l’IA », qui prétendent se préoccuper d’empêcher une IA d’atteindre la conscience et de nous transformer tous en trombones. Tout d’abord, cela est manifestement absurde. Ajouter plus de mots et de processeurs graphiques au programme de devinette de mots ne le rendra pas sensible. C’est comme dire : « Eh bien, nous continuons à élever ces chevaux pour qu’ils courent de plus en plus vite, donc ce n’est qu’une question de temps avant qu’une de nos juments donne naissance à une locomotive. » L’esprit humain n’est pas un programme de devinette de mots avec beaucoup de mots supplémentaires.
Je suis ici pour des expériences de pensée de science-fiction, ne vous méprenez pas. Mais ne confondez pas science-fiction et prophétie. Les histoires de science-fiction sur la superintelligence sont des paraboles futuristes, pas des plans d’affaires, des feuilles de route ou des prédictions.
Les responsables de la sécurité de l’IA disent qu’ils craignent que l’IA ne mette fin au monde, mais les patrons de l’IA adorent ces excentriques. D’une part, si l’IA est assez puissante pour détruire le monde, imaginez combien d’argent elle peut rapporter ! D’autre part, aucun business plan d’IA ne comporte dans son tableau de prévisions de revenus une ligne intitulée « Revenus provenant de la transformation de la race humaine en trombones ». Même si nous interdisons aux entreprises d’IA de le faire, cela ne leur coûtera pas un centime en capital d’investissement.
Pour faire éclater la bulle, nous devons nous attaquer aux forces qui l’ont créée : le mythe selon lequel l’IA peut faire votre travail, surtout si vous touchez un salaire élevé que votre patron peut récupérer ; la compréhension que les entreprises en croissance ont besoin d’une succession de bulles toujours plus extravagantes pour rester en vie ; le fait que les travailleurs et le public qu’ils servent sont d’un côté de ce combat, et les patrons et leurs investisseurs de l’autre.
Comme la bulle de l’IA est vraiment une très mauvaise nouvelle, cela vaut la peine de la combattre sérieusement, et une lutte sérieuse contre l’IA s’attaque à ses racines : les facteurs matériels qui alimentent les centaines de milliards de capitaux gaspillés qui sont dépensés pour nous mettre tous au chômage et remplir nos murs d’amiante high-tech.