Traduction de Our Spreadsheet Overlords, par Leif Weatherby le 29 mai 2025.
Deux ans se sont écoulés depuis qu’OpenAI a lancé ChatGPT et que la panique s’est installée. Deux ans de gros titres sur « l’IA » – un sujet spécialisé subalterne et l’apanage des films de science-fiction loufoques depuis environ 80 ans – et deux ans de spéculations confuses et grossières sur « l’intelligence artificielle générale » (AGI), une idée vaguement définie de raisonnement « de niveau humain » mais machinique. Les grands modèles linguistiques, ou LLM, capturent et génèrent ce que nous avons longtemps considéré comme une caractéristique essentiellement humaine, le langage, ébranlant profondément notre perception historique de notre propre espèce. Mais leurs capacités s’accompagnent d’un manque d’intelligence, et même d’un manque de cohérence que nous attendons depuis longtemps des machines informatiques.
Alors qu’une nouvelle vague de discussions sur l’AGI envahit les ondes au cours de la troisième année d’existence des LLM, une forme très révélatrice d’IA réellement existante vient contredire ce battage médiatique : le Department of Governmental Efficiency (Département de l’efficacité gouvernementale) d’Elon Musk, une attaque bâclée, violente mais banale contre le code source et le vaste filet de collecte de données personnelles du gouvernement fédéral. Pendant que nous attendons l’AGI – et que nous sommes distraits par des débats interminables et sans fondement à son sujet – la réalité de l’IA moderne s’affiche au grand jour sous la forme de la crise constitutionnelle la plus ennuyeuse qui soit. Plutôt que l’intelligence artificielle, l’IA est une forme avant-gardiste de bureaucratie numérique, qui renforce la dépendance de notre culture à l’égard des tableurs.
Le discours sert de couverture à cette attaque désastreuse. Kevin Roose, chroniqueur technologique pour le New York Times, a récemment expliqué pourquoi il « ressentait l’AGI ». (Malheureusement, les raisons de Roose semblent se résumer à « Je vis à San Francisco »). De même, Ezra Klein, de la rubrique Opinion du journal, pense que le gouvernement sait que l’AGI est en marche. Et le statisticien Nate Silver suggère que nous devons « nous réconcilier avec l’IA ». L’ethnographe et journaliste Max Read a surnommé cette vague de croyants en l’IA « la réaction à la réaction anti-IA », en référence au scepticisme anti-technologique que nous avons observé ces dernières années. Selon Read, la position est que l’IA « est très puissante et utile, et même si vous la détestez, beaucoup d’argent et de ressources y sont consacrés, il est donc important de la prendre au sérieux plutôt que de la rejeter d’emblée ». C’est loin de la caractérisation dérisoire des grands modèles linguistiques (LLM) tels que ChatGPT comme des « perroquets stochastiques » (qui remixent et répètent le langage humain) ou des « autocomplétions sophistiquées ». Ces systèmes sont bien plus performants – et dangereux – que ne le prétendent les sceptiques. Dissiper le mythe de leur intelligence ne nous dispense pas de prêter une attention particulière à leur puissance.
Plutôt que d’apporter l’innovation et l’efficacité tant vantées associées à la Silicon Valley, les systèmes d’IA créent plus de confusion que de clarté. Ils constituent un mécanisme d’adaptation pour une société mondiale qui fonctionne à partir d’ensembles de données numériques trop vastes pour être compréhensibles, trop complexes pour être démêlés manuellement. Nourris par une quantité stupéfiante de données numérisées, ils sont un outil spécifique à ces données et à leur format tabulaire. Lorsque nous pensons à l’IA, nous devrions moins penser à Terminator 2 et davantage à la série télévisée Severance, dans laquelle des employés de bureau recherchent des « mauvais chiffres » en se basant uniquement sur leur intuition.
Un LLM n’est rien d’autre qu’une matrice distillée de valeurs qui représentent des mots. Les modèles que nous connaissons tous aujourd’hui (ChatGPT, Claude, Gemini, Grok) comportent de nombreux éléments mobiles, mais leur élément central est un vaste ensemble de lignes et de colonnes qui est le résultat d’un apprentissage qui a coûté des milliards de dollars.
Les données d’entraînement sont de l’ordre de 6 à 10 billions de tokens (y compris les mots, les lettres et d’autres signes tels que « & », « -ing » et « 3 »), soit des ordres de grandeur supérieurs à tout texte jamais utilisé par l’homme à quelque fin que ce soit, et elles n’existent aujourd’hui que grâce à l’expansion planétaire d’Internet. En utilisant toutes ces données d’entraînement, vous serez en mesure de créer un bot qui répond aux questions humaines, récupère des informations, génère de la poésie, des mémos et tout ce que vous voulez, et qui donne vraiment l’impression d’être magique. Vous disposerez d’un modèle d’IA qui ressemble à une AGI.
Si, comme cela s’est produit entre début 2023 et fin 2024, les gens cessent de ressentir cette magie, vous pouvez également modifier votre modèle. Au lieu de se contenter de répondre à des invites et à des requêtes, vous pourrez lui demander de générer plusieurs réponses, puis d’imprimer ses « pensées » en choisissant la meilleure. Ce nouveau modèle pourrait faire des choses amusantes, comme remplir une commande Instacart ou réserver des vacances. Et ce sont là des tâches qui relèvent du domaine des agents. Ainsi, après une nouvelle série de formations et un nouveau cycle de financement par capital-risque, tout le monde retrouvera le sentiment d’une AGI.
Deux tendances, toutes deux erronées, dominent aujourd’hui le discours sur l’IA. La première, comme l’observe Read, consiste pour les détracteurs à dénigrer l’IA en la qualifiant d’outil du capitalisme et d’arnaque montée par les oligarques de la technologie, sans expliquer son pouvoir. La seconde, que j’appellerai « l’erreur de performance », confond les critères de référence avec l’intelligence. Tant que nous ne dépasserons pas ce pas de deux d’analyses superficielles, nous ne serons pas en mesure d’affronter le problème très réel de l’IA aujourd’hui.
L’erreur de performance
En 1950, Alan Turing a proposé un moyen simple de déterminer si une machine pouvait penser : lui poser des questions. Si vous ne pouviez pas déterminer si vous parliez à une machine ou non, vous deviez admettre qu’elle était intelligente. Ce jeu est devenu connu sous le nom de « test de Turing » et, à ma connaissance, personne n’en a jamais été satisfait. L’idée de Turing était que lorsque nous décidons que quelqu’un d’autre est intelligent, ce n’est pas que nous le savons, mais que nous le supposons. Je ne demande pas à voir comment fonctionne votre cerveau pour déterminer si vous êtes intelligent ; je vous considère simplement comme un être humain. La définition de l’intelligence qui en découle n’est pas une définition du tout, et c’est pourquoi l’IA a été définitivement divisée entre deux façons de comprendre ce que Turing voulait dire.
La première approche est celle du benchmark. Chaque nouveau modèle qui sort aujourd’hui est testé sur une série infinie de seuils de performance avec des acronymes fantaisistes (ARC-AGI, une série de puzzles difficiles, est très populaire ces jours-ci). Chaque ensemble de performances de benchmark est comparé aux tentatives précédentes : on dit qu’un nouveau modèle obtient un score de 87 % alors que le meilleur score précédent était de 59 %, même si personne ne peut vous dire ce que ces pourcentages signifient. Si le modèle de « raisonnement » 03 d’OpenAI obtient un score de 87 % sur ARC-AGI, cela signifie-t-il qu’il est intelligent à 87 % ? L’idée d’une « intelligence à 87 % » est-elle cohérente ? Dans le monde de la culture pure des benchmarks, ces questions n’ont pas d’importance et ne peuvent pas vraiment être posées. Le système est optimisé pour quelque chose qui ressemble à ce que font les êtres intelligents (les humains), il n’y a donc guère de raison d’être sceptique. La version la plus extrême de ce benchmarking est sans doute le prix Loebner, un concours qui a duré 30 ans et qui récompensait le chatbot le plus convaincant par une somme importante. Son benchmark pour l’« intelligence » était tiré d’une remarque désinvolte de Turing : un chatbot qui trompait un humain environ deux tiers du temps pouvait être considéré comme intelligent.
Mais il n’est pas certain que Turing ait vraiment voulu que ce critère, ou tout autre, serve à déterminer ce qu’est l’intelligence ou qui peut être considéré comme intelligent. Dans « Computing Machinery and Intelligence », il a imaginé plusieurs échanges entre lui-même et un ordinateur fictif du futur, dans lesquels il demandait à la machine de résoudre des problèmes mathématiques, de jouer aux échecs et de composer un poème sur le pont Forth en Écosse.
Ces transcriptions d’une série de conversations imaginaires, associées à des idées telles que le fait qu’une machine doit « aimer les fraises et la crème », montrent que Turing envisageait l’intelligence de manière holistique. Cette deuxième façon de définir l’intelligence est négative et, de manière peut-être surprenante, n’a rien de technique. La conversation était le seuil non mesurable. Et même si les LLM ne peuvent pas prouver qu’ils peuvent apprécier quoi que ce soit, ils peuvent certainement dire qu’ils le peuvent, et ce dans un langage qui brouille complètement l’idée même du test de Turing dans sa forme de référence.
La culture de référence ajoute à la qualité vaudevillesque de la technologie actuelle, avec ses démonstrations, ses personnalités divertissantes et ses gadgets. Tout ce spectacle prétend être une question de performance. Votre nouvel iPhone est plus rapide, plus performant, plus résistant. L’analyse améliore tout, de la finance au sport. L’idée est que la performance fait partie d’un tout plus vaste qui s’ajoute à l’intelligence, ou quelque chose de similaire. Mais se laisser absorber par cette question nous détourne de l’effet réel de l’IA. Et si cette idée selon laquelle la performance démontre la substance elle-même était une erreur ?
Les échecs ont été une obsession pour les ingénieurs en IA, depuis le père de la théorie de l’information, Claude Shannon, jusqu’au moment où, en 1997, Deep Blue d’IBM a battu le champion du monde Gary Kasparov. Cette machine a réalisé ce qu’aucun humain ne peut faire : une partie d’échecs presque parfaite. À ce moment-là, cela faisait environ quatre décennies que le projet d’IA était en cours. Avons-nous décidé que Deep Blue était un compatriote intelligent pour les humains sur Terre ? Bien sûr que non. Il n’existe pas de capacité unique qui définisse l’intelligence. La performance est un mauvais indicateur de l’intelligence.
Je pense que nous devrions nommer le problème central de l’AGI — et dans une certaine mesure, de l’IA elle-même — « l’erreur de performance ».
L’erreur de performance consiste à confondre l’optimisation avec l’intelligence elle-même. Au lieu de s’en rendre compte, les ingénieurs en IA — et les médias — ont tendance à passer à un nouveau critère de référence. Après tout, les échecs sont un jeu très rigide et logique ! Mais l’ancien jeu chinois Go nécessite sûrement de l’intelligence pour être joué à un niveau élite, n’est-ce pas ? Lorsque le réseau neuronal AlphaGo a battu Lee Sedol, l’un des meilleurs joueurs de Go au monde, en 2015, nous avons assisté à une nouvelle vague de spéculations, d’engouement et de panique autour du sophisme de la performance, mais personne ne pense qu’AlphaGo soit intelligent. Nous avons tourné en rond pendant près d’un siècle.
L’hiver 2023 a été différent, même pour ceux qui étaient blasés par le battage médiatique autour de l’IA. Soudain, nous avions une machine qui faisait ce que Turing avait, peut-être accidentellement, vraiment suggéré pour nous convaincre qu’elle était intelligente. Nous avions une machine capable de produire du langage et d’écrire des textes qui répondaient à un humain dans un dialogue. Lorsque Socrate a dénoncé l’écriture, affirmant qu’elle détruirait la capacité de mémoire et laisserait les humains cognitivement déficients, c’était précisément l’incapacité des textes à répondre à leurs lecteurs, à maintenir un dialogue, qu’il reprochait à cette technologie alors nouvelle. Avec les LLM, nous avons soudainement eu un concurrent dans un domaine que nous occupions seuls depuis toujours : le langage.
Les humains se sont définis comme l’animal doué de langage presque autant que par leur intelligence : l’homo sapiens doit parler pour être sapiens. L’expression d’Aristote pour désigner l’humain, « l’animal raisonnant », utilise le terme « logos », qui signifie à la fois l’étincelle d’intelligence et le mot. Les LLM semblent nous priver de notre singularité à cet égard. Ils constituent l’une des formes de technologie les plus étranges de notre histoire, car ils nous répondent. Mais ce que le discours sur l’AGI ne reconnaît pas, c’est que ce discours n’est pas nécessairement intelligent. Même lorsqu’un LLM réussit le test de Turing, nous ne pouvons pas nous permettre de croire à cette erreur.
Comme le soutient le mathématicien Benjamin Recht, les benchmarks des LLM ne permettent généralement pas de comprendre ces machines. En effet, l’évaluation du langage nous entraîne dans toute l’histoire de la philosophie, dans la métaphysique de ce que nous sommes, de ce qu’est l’intelligence et de son rapport au langage.
Il était relativement facile de résister à la confusion jusqu’à ce qu’il s’avère que les modèles d’IA pouvaient capturer et générer du langage. ChatGPT et d’autres LLM créent le sentiment étrange que ce qui distingue les humains de tous les autres êtres ne nous appartient plus. Il est donc d’autant plus crucial de voir que ce que l’on considère comme de l’intelligence est en réalité un document culturel d’une ampleur inimaginable, un enregistrement des croyances, des actions et des communications humaines. C’est pour cette raison que la spécialiste en sciences cognitives Alison Gopnik a qualifié les LLM de « technologie culturelle », incapable d’être créative comme l’est l’intelligence humaine. Mais une grande partie de ce qui se passe dans le monde, dans notre histoire et dans notre politique est culturel en ce sens. Et si nous ne détournons pas notre regard de l’ambition de « créer une intelligence » pour le porter sur les conséquences culturelles réelles – et étranges – de la bureaucratie numérique, y compris le fait que l’IA est aussi puissante qu’elle l’est, nous resterons irrationnellement confinés dans des subtilités métaphysiques qui obscurcissent les activités réelles des systèmes d’IA. Les tentatives commerciales de construction d’une intelligence artificielle et les tentatives scientifiques de modélisation et de compréhension de l’intelligence occultent le fait que l’IA est une extension, voire une quasi-universalisation, de la bureaucratie numérique.
L’IA est une culture du tableur en hyperdrive
Il est à noter que les nouveaux défenseurs de l’AGI – Roose, Klein, Silver – travaillent dans des secteurs où l’IA est susceptible d’automatiser ou de changer radicalement le travail quotidien. Plusieurs grands médias, dont The Atlantic, ont conclu des accords avec des entreprises d’IA, et nous avons déjà vu plusieurs exemples d’articles générés par l’IA présentés comme ayant été écrits par des humains. Et il ne fait aucun doute que l’IA automatisera de nombreux emplois dans le domaine de l’analyse de données, qui finiront par disparaître. Silver lui-même est probablement à l’abri – il est aujourd’hui un auteur de livres à succès –, mais même ceux qui resteront verront leurs flux de travail profondément bouleversés, car les modèles que nous considérons principalement comme des chatbots interviennent dans l’analyse et la production des données, ainsi que dans leur interprétation. En fait, tout le travail de bureau, tout le travail intellectuel, du secrétariat et de l’administration jusqu’aux postes de direction, est appelé à changer. En effet, le travail, comme tous les autres aspects de notre vie, a été « datafié ».
Lorsque nous parlons de « données », nous avons tendance à imaginer un immense tableur rempli de chiffres insignifiants, quelque chose de caché quelque part qui nécessite des techniques sophistiquées et des experts qualifiés pour être traité. Mais chaque tableur a un sens, qu’il s’agisse de votre budget, de la liste des mineurs et des majeurs que je conserve pour le département de mon université, des cours de la bourse, etc. Les lignes et les colonnes doivent avoir des noms ; et souvent, nous inscrivons simplement des mots en anglais dans les cases, plutôt que des données numériques. La culture des données consiste à faire le va-et-vient entre la signification des chiffres et ce que leur traitement nous apprend. La traduction entre les mathématiques et le langage est, à bien des égards, le fondement de la société moderne.
Prenons l’exemple de ma liste de majeures et de mineures. Je ne peux utiliser aucune des fonctions mathématiques d’Excel sur ces noms, adresses e-mail et dates de remise des diplômes prévues. Dans ce cas, j’utilise le tableur comme unité de stockage. Les informations qui y sont stockées ne peuvent être comprises ou interprétées par les fonctions du tableur. (Elles peuvent être divisées par catégorie, comme « prénoms dans la ligne A », mais leur signification ne peut être transformée de manière informative.) Seul un être humain peut le faire. C’est là qu’intervient le LLM.
Nous pouvons considérer que tout le texte présent sur Internet est placé dans une unité de stockage de ce type lorsqu’un LLM est entraîné. La nouvelle capacité de l’IA, celle que nous confondons avec l’intelligence, est une capacité générale à traduire entre les mots et les données, les données et les mots.
Mais là où vous, en tant qu’être humain, convertissez les résultats de tout traitement de données en conséquences concrètes, en langage, dans le passé (par exemple, « les résultats du quatrième trimestre montrent que nous devrions envisager de réduire la distribution dans le nord-est »), vous disposez désormais d’un outil qui effectue cette partie du travail à votre place. Les LLM fournissent littéralement la fonction linguistique dont la bureaucratie a besoin. On pourrait les qualifier de tableurs sémantiques, d’outils qui nous permettent d’interagir avec les données, et même de créer du code, à partir d’une simple invite.
Ce n’est pas un hasard si le plus grand ensemble de données produit par Internet est, de loin, le texte. Les LLM d’aujourd’hui sont entraînés sur quelque 10 000 milliards de tokens de texte, une quantité impressionnante de langage. Cela ne reflète peut-être pas parfaitement ce qu’est le langage, mais cela rend certainement les données et le langage bidirectionnels. Nous sommes depuis longtemps capables d’utiliser des logiciels tels que les feuilles de calcul pour manipuler des chiffres. Il est désormais possible de convertir les chiffres en langage et vice versa. Cela résout un problème qui a toujours affecté les feuilles de calcul, et les ordinateurs eux-mêmes, depuis leur invention.
Nous ne devons pas confondre cette capacité avec l’intelligence, ni commettre à nouveau l’erreur de performance, car cela nous distrait alors que notre culture des données entre dans une phase véritablement nouvelle et très inquiétante. Nous pourrions appeler cela la culture des tableurs en hyperdrive, un monde dans lequel toutes les données peuvent être traduites en langage synthétique et tout langage en données optimisées à partir d’une simple invite. Mais là où les tableurs avaient des fonctionnalités limitées, les LLM agissent comme des traducteurs universels dans le même domaine. Ils ont de nombreux défauts, mais cette capacité fondamentale constitue un changement radical dans le monde banal de la bureaucratie moderne.
La bureaucratie a toujours consisté à gérer le relais entre les données et les mots, les chiffres et les mémos, la comptabilité et les comptes. Après la Révolution française, la quantité de données collectées a commencé à augmenter rapidement, rendant nécessaires des dispositifs capables d’aider les bureaucrates dans la partie informatique de leur travail. Le philosophe des sciences Ian Hacking situe ce qu’il appelle « l’avalanche de chiffres imprimés » dans les années 1820 et 1830, lorsque les données démographiques et industrielles ont connu une croissance exponentielle. D’une certaine manière, le LLM boucle la boucle, créée par un déséquilibre entre un trop grand nombre de chiffres et un manque de mots, un manque de compréhension. Les ordinateurs nous ont aidés à traiter les chiffres, mais pas à les interpréter. Les LLM nous donnent au moins l’illusion – et il n’est pas certain que nous disposions d’un moyen meilleur ou plus clair pour traiter la quantité considérable de données sémantiques et numériques dans le monde – de résumer, de comprendre et de régénérer à partir de cette avalanche, qui est depuis devenue un déluge.
En d’autres termes, pour le monde limité mais vaste des données numériques et les opérations logistiques que nous lui confions, les LLM servent en quelque sorte de langage universel hors marque, qui semble magique malgré son manque total d’intelligence. Le seul autre système capable de mener le type de conversations entre types de données que font les LLM est l’esprit humain, d’où l’erreur. Les chiffres et les mots ont toujours été le canal combiné de la bureaucratie moderne, et leur nouvelle relation dans l’IA pourrait nous apporter des informations précieuses (c’est le sujet de mon prochain livre sur les LLM). Mais ces informations devront être obtenues alors même que nous devons faire face aux conséquences politiques réelles du déploiement, bon gré mal gré, de cette technologie que nous avons déjà autorisée.
Le contrôle de la bureaucratie va au-delà de la politique
Musk applique désormais sa vision apocalyptique aux bases de données fédérales qui contiennent non seulement des informations sur les citoyens et les organisations, mais aussi le pouvoir de leur verser ou de leur retirer des paiements. Musk se serait selon certaines sources retiré du projet, mais cela ne change rien à la manière dont l’agence démontre clairement à quoi sert l’IA. Son initiative DOGE est à bien des égards la démonstration la plus claire de ce qu’a été l’IA jusqu’à présent : un loup bureaucratique déguisé en agneau sous le couvert de l’innovation et de l’« intelligence ».
Alors que DOGE a obtenu l’accès à divers départements fédéraux, l’un de ses objectifs déclarés est d’introduire des « agents IA » dans les systèmes. Comme l’a écrit le politologue Henry Farrell à propos de ce processus, les bases de données gouvernementales ont désespérément besoin d’être mises à jour. DOGE promet « l’innovation » tandis que Musk se vante de simplement « supprimer » des agences entières et des séries de paiements à ses ennemis politiques. Cela n’est possible que grâce à l’infrastructure numérique dont nous disposons déjà, et là où elle n’existe pas, DOGE a l’intention de la créer.
Dans les années 1980, alors que l’apprentissage automatique commençait tout juste à s’imposer scientifiquement, certains de ses premiers adeptes ont émis l’hypothèse que les grandes bases de données pourraient être analysées à l’aide de réseaux neuronaux. Ces réseaux, ont-ils déclaré dans un exemple simplifié, pourraient être capables de prédire de manière indépendante quels noms dans un ensemble appartiennent aux « Jets » et lesquels appartiennent aux « Sharks », en référence aux gangs de la comédie musicale West Side Story. Cette suggestion légère, accompagnée d’un graphique, s’est transformée en une réalité cauchemardesque dans un monde où la société d’analyse Palantir ne se contente pas de coordonner les noms, mais aussi l’appartenance à des gangs, les scores de récidive, etc. La capacité d’associer des images, du texte et des données, et d’en déduire des prédictions sur le comportement humain, doit être traitée avec une extrême prudence. Pourtant, l’intention ouverte de Palantir de travailler avec les appareils de sécurité nationale d’un gouvernement qui expulse désormais les immigrants, et apparemment les citoyens, sans se soucier de l’exactitude, suggère que l’« intelligence » de l’IA est une couverture pour quelque chose de beaucoup plus profond et dangereux.
Cette intention n’est nulle part plus claire que dans le récent « hackathon » auquel Palantir et DOGE ont collaboré, dans le but de créer une interface de programmation d’application (API) polyvalente pour l’IRS et ses données. Répondant à la demande de la Maison Blanche qui souhaite que le gouvernement « élimine les silos d’informations », les deux groupes tentent de créer un modèle permettant d’interagir avec toutes les informations sur les citoyens dans une seule grande base de données – un projet qui fait passer le projet « Total Information Awareness » de la NSA de l’ère George W. Bush, déjà orwellien, pour quelque chose de désuet. L’intérêt de créer une telle API est de libérer le véritable pouvoir du LLM. L’IA que vous voyez sur vos réseaux sociaux n’est pas le but recherché ; le but est plutôt de pouvoir dire : « Faites-moi une liste de tous les citoyens marxistes, coupez leurs paiements et informez l’ICE de leur localisation ».
Si l’on fait abstraction de tout le langage spéculatif et mystique autour des termes « intelligence » et « raisonnement », on se rend facilement compte que ce type de tâche correspond à ce que l’on appelle généralement la bureaucratie. La puissance, le danger et les limites de l’IA se trouvent tous dans ce monde banal de lignes et de colonnes. Il est facile de l’oublier, car nous avons passé les trois dernières décennies à transformer pratiquement le monde entier en un gigantesque tableur. Avec tout, depuis vos variations quotidiennes de fréquence cardiaque et vos tendances financières jusqu’à vos tics de langage et votre culture, préformatés pour un modèle d’IA, la puissance de cet outil devient immense.
Lorsque Yann LeCun, ingénieur en IA lauréat du prix Turing, s’est exprimé sur X pour décrire ses attentes quelque peu optimistes quant à l’avenir de cette technologie, Musk a répondu : « Notre dieu numérique prendra la forme d’un fichier csv », fusionnant ironiquement un format de données courant (valeurs séparées par des virgules) avec la notion de science-fiction d’une IA toute-puissante.
Musk est venu à Washington en promettant l’innovation, mais il nous livre une nouvelle forme de bureaucratie irresponsable. Nous ne pouvons pas nous permettre de continuer à croire que tout ce que touche l’« IA » sera plus efficace, son progrès tendant vers des systèmes « plus intelligents ». (À ce stade, nous devrions savoir que « intelligent » ne signifie pas « intelligent » ; cela signifie simplement « brillant »). Un audit général est une procédure bureaucratique que l’IA actuelle est trop limitée pour mener à bien. Mais tant que nous croyons au battage médiatique, il semblera judicieux d’introduire des modèles d’IA dans les bases de données qui contiennent nos assurances maladie, nos cotisations sociales et nos déclarations fiscales.
Parmi ceux qui pensaient que Trump provoquerait une crise constitutionnelle, rares sont ceux qui avaient prédit qu’elle prendrait une forme aussi ennuyeuse qu’un tableur. Mais la vérité est que celui qui contrôle la bureaucratie détient un pouvoir qui dépasse même ce qu’un processus démocratique comme le vote peut autoriser ou compromettre. Le prétexte de confier ce contrôle aux machines sert de couverture à un acte politique bien trop humain : démanteler et détruire le gouvernement fédéral à l’aide d’un outil qui dispose d’un pouvoir sans précédent pour le faire.
Plutôt que le rêve de l’intelligence artificielle, nous assistons aux conséquences politiques désastreuses d’un autre rêve, celui d’une bureaucratie totale qui opère dans les interstices presque invisibles des logiciels sur lesquels nous en sommes venus à compter. La manière dont un tel système brise les éléments fondamentaux de notre contrat social est une caractéristique, et non un bug. Les systèmes d’IA pourraient être utilisés comme des outils à des fins démocratiques. Mais cela exigerait que nous les comprenions et les traitions d’abord comme des objets scientifiques, puis comme des produits commerciaux. Il faudra un effort considérable et fondé sur des principes pour comprendre les mathématiques profondes et les formes culturelles et linguistiques qui en résultent afin d’inverser la tendance actuelle du progrès de l’IA.
Leif Weatherby est directeur du Digital Theory Lab à l’université de New York. Son livre, Language Machines: Cultural AI and the End of Remainder Humanism, sortira le mois prochain.
Les traductions de 2026 (.xlsx) – celles de 2025 – par Gilles en vrac
Les caractères gras dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire vers mes traductions.