\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/irrational.webp\")
<\/figure>\n<\/div>\n\n\nVers la fin de son nouveau livre, The Irrational Decision<\/em><\/a>, Ben Recht explique ce qu\u2019il s\u2019est fix\u00e9 comme objectif.<\/p>\n\n\n\n La plupart des ouvrages consacr\u00e9s \u00e0 la technologie prennent soit le parti de consid\u00e9rer que toute technologie est mauvaise, soit celui de consid\u00e9rer que toute technologie est bonne. Ce n\u2019est pas le cas de cet ouvrage. Ces livres se concentrent trop sur les m\u00e9faits et pas assez sur les limites. Or, les limites sont plus enrichissantes. Tout au long de l\u2019ouvrage, j\u2019ai soutenu que la rationalit\u00e9 math\u00e9matique est limit\u00e9e quant aux types de probl\u00e8mes qu\u2019elle est la mieux \u00e0 m\u00eame de r\u00e9soudre, mais qu\u2019elle poss\u00e8de des points forts qui ont donn\u00e9 lieu \u00e0 des avanc\u00e9es technologiques remarquables.<\/p>\n<\/blockquote>\n\n\n\n Il se peut que davantage de livres sur la technologie \u00e9chappent \u00e0 la dichotomie bien-mal que ne le laisse entendre Ben. Malgr\u00e9 tout, je n\u2019ai lu aucun autre ouvrage qui soit aussi utile pour expliquer pourquoi et dans quels cas la vaste famille d\u2019approches que nous appelons (peut-\u00eatre malheureusement) IA fonctionne, et pourquoi et dans quels cas elle ne fonctionne pas. Ben (qui est un ami) allie une profonde compr\u00e9hension<\/a> des technologies \u00e0 une ma\u00eetrise de l\u2019histoire et \u00e0 une capacit\u00e9 \u00e0 \u00e9crire clairement et bien sur des sujets complexes. J\u2019ai beaucoup appris de ce livre. Il y a de fortes chances que vous en appreniez autant.<\/p>\n\n\n\n La dichotomie bien-mal d\u00e9crite par Ben fa\u00e7onne en effet une grande partie de notre d\u00e9bat actuel autour de la \u00ab rationalit\u00e9 math\u00e9matique \u00bb et de l\u2019IA. Concernant la premi\u00e8re, le livre de Nate Silver, On The Edge<\/em>, d\u00e9fend les types de rationalit\u00e9 bay\u00e9sienne dont les gens de la Silicon Valley aiment parler. Il fait l\u2019\u00e9loge du \u00ab courant \u00bb de ceux qui appr\u00e9hendent le monde en termes de probabilit\u00e9s statistiques, que l\u2019on actualise d\u00e8s que de nouvelles informations sont disponibles. Comme Ben le sugg\u00e8re dans un autre essai critique<\/a> co\u00e9crit avec Leif Weatherby, ce \u00ab courant \u00bb regroupe le poker professionnel, la pens\u00e9e rationaliste sur l\u2019IA, les paris sportifs et les \u00e9lucubrations des crypto-bro en un tout qui semble plus ou moins coh\u00e9rent, voire brillant, si l\u2019on n\u2019y regarde pas de trop pr\u00e8s. Comme le sugg\u00e8re Ben, les rationalistes de cette tendance ont tendance \u00e0 supposer que \u00ab les ordinateurs peuvent prendre de meilleures d\u00e9cisions que les humains \u00bb et sont souvent de fervents partisans de l\u2019IA (Silver, pour \u00eatre honn\u00eate, n\u2019est pas aussi fervent que certains autres). D\u2019autres livres, comme The AI Con<\/em> d\u2019Emily Bender et Alex Hanna, partent d\u2019une hypoth\u00e8se diam\u00e9tralement oppos\u00e9e : que la plupart de ce que nous appelons \u00ab IA \u00bb n\u2019est que du battage m\u00e9diatique. Bender et Hanna nous expliquent que si l\u2019on commence \u00e0 fouiller derri\u00e8re le grand spectacle et la voix tonitruante des \u00ab maths math\u00e9matiques \u00bb, on d\u00e9couvre le sorcier plut\u00f4t peu impressionnant de l\u2019apprentissage automatique, qui n\u2019est en r\u00e9alit\u00e9 capable que d\u2019un correcteur orthographique sophistiqu\u00e9, indiquant aux radiologues quelles parties d\u2019une image ils pourraient vouloir examiner, et d\u2019autres activit\u00e9s \u00ab bien d\u00e9limit\u00e9es \u00bb de ce genre.<\/p>\n\n\n\n Ni le rationalisme de l\u2019IA ni la pens\u00e9e de l\u2019AI-Con ne sont d\u2019une grande aide pour expliquer les technologies auxquelles nous sommes confront\u00e9s aujourd\u2019hui. Le premier a tendance \u00e0 sombrer dans la fantaisie, d\u00e9montrant \u00e0 maintes reprises<\/a> comment<\/a> partir de pr\u00e9misses ridicules permet d\u2019aboutir \u00e0 des r\u00e9sultats tout aussi ridicules. Le second a tendance \u00e0 se transformer en d\u00e9ni, affirmant de plus en plus fort que les technologies mal-aim\u00e9es sont inutiles alors m\u00eame qu\u2019elles trouvent de plus en plus d\u2019applications. Nous devrions nous inqui\u00e9ter beaucoup<\/em> plus des affirmations des triomphalistes que de celles des n\u00e9gationnistes, car ils sont bien plus influents. Mais pour r\u00e9ussir \u00e0 d\u00e9jouer leurs affirmations, nous avons besoin d\u2019une perspective plus r\u00e9aliste sur ce dont l\u2019IA et les technologies connexes sont capables que celle que peuvent fournir les n\u00e9gationnistes.<\/p>\n\n\n\n The Irrational Decision<\/em> fournit de solides raisons d\u2019\u00eatre sceptique quant aux aspirations grandioses du projet rationaliste, tout en expliquant pourquoi l\u2019apprentissage automatique a des applications remarquables dans son domaine d\u2019application appropri\u00e9. Ceux qui sont le plus \u00e9troitement impliqu\u00e9s dans le projet rationaliste ont du mal \u00e0 en comprendre les limites, car ces limites fa\u00e7onnent leur propre vision du monde. L\u2019astuce \u00e9trange du rationalisme consiste \u00e0 recomposer des probl\u00e8mes complexes en termes qui peuvent \u00eatre facilement rationalis\u00e9s. Quand cela fonctionne, c\u2019est tr\u00e8s, tr\u00e8s <\/em>bien, mais quand cela ne fonctionne pas, c\u2019est horrible. Pour comprendre cela, il faut d\u2019abord comprendre d\u2019o\u00f9 vient le rationalisme.<\/p>\n\n\n\n *******<\/p>\n\n\n\n Une grande partie de la discussion dans The Irrational Decision<\/em> est historique. Elle remonte aux ann\u00e9es 1940 et 1950 pour d\u00e9terminer d\u2019o\u00f9 vient r\u00e9ellement le rationalisme, offrant un bref historique qui ressemble un peu \u00e0 ce qu\u2019aurait pu \u00eatre l\u2019ouvrage d\u2019Erickson et al., How Reason Almost Lost Its Mind<\/em>, s\u2019il s\u2019\u00e9tait davantage concentr\u00e9 sur les statistiques et la recherche op\u00e9rationnelle que sur l\u2019\u00e9conomie. L’objectif de Ben dans tout cela est d’identifier comment la \u00ab rationalit\u00e9 math\u00e9matique \u00bb est devenue un ensemble relativement coh\u00e9rent d’id\u00e9es sur la mani\u00e8re dont nous pourrions mieux organiser la soci\u00e9t\u00e9.<\/p>\n\n\n\n L’histoire qu’il raconte est n\u00e9cessairement confuse, mais certains th\u00e8mes g\u00e9n\u00e9raux importants se d\u00e9gagent, notamment autour du d\u00e9veloppement de la th\u00e9orie de l’optimisation. La programmation lin\u00e9aire permet de trouver des moyens optimaux d\u2019allouer des ressources dans le cadre d\u2019un budget limit\u00e9, pour autant que les contraintes soient lin\u00e9aires (lorsqu\u2019elles ne le sont pas, un v\u00e9ritable cauchemar computationnel<\/a> peut s\u2019ensuivre). La th\u00e9orie du contr\u00f4le optimal permet \u00e0 un syst\u00e8me de contr\u00f4le de s\u2019adapter de mani\u00e8re optimale \u00e0 son environnement (l\u00e0 encore, sous des hypoth\u00e8ses restrictives concernant les contraintes). La th\u00e9orie des jeux peut postuler \u2013 et souvent m\u00eame d\u00e9couvrir \u2013 des strat\u00e9gies optimales pour affronter des adversaires dans des situations strat\u00e9giques. Ces bo\u00eetes \u00e0 outils se recoupent avec d\u2019autres. Une famille de techniques, allant du recuit simul\u00e9 aux formes ancestrales de la descente de gradient\/r\u00e9tropropagation sur lesquelles repose le \u00ab deep learning \u00bb, offre des moyens de d\u00e9couvrir des optima locaux sup\u00e9rieurs dans des situations plus complexes. Les essais cliniques randomis\u00e9s (ECR) ont fourni des moyens possibles de d\u00e9terminer si une intervention donn\u00e9e (un m\u00e9dicament ; une mesure politique) fonctionnait ou non.<\/p>\n\n\n\n Toutes ces approches sugg\u00e8rent la sup\u00e9riorit\u00e9 des formes techniques d\u2019analyse sur les jugements humains. Les ECR appliquent des protocoles et des analyses statistiques pour tenter de d\u00e9couvrir des relations causales (selon le discours standard), ou de justifier des interventions (selon celui de Ben). D\u2019autres approches impliquent la d\u00e9couverte de solutions optimales, \u00e0 partir d\u2019hypoth\u00e8ses math\u00e9matiques et de simplifications pratiques. D\u2019autres encore impliquent la d\u00e9couverte d\u2019optima locaux (c\u2019est-\u00e0-dire : des solutions meilleures que d\u2019autres qui sont facilement visibles dans leur voisinage), qui peuvent \u00eatre meilleures que celles auxquelles des humains ordinaires pourraient parvenir.<\/p>\n\n\n\n Les approches rationalistes sont tr\u00e8s puissantes dans leurs domaines d\u2019application appropri\u00e9s, mais il faut avoir une id\u00e9e de ce que sont ces domaines. Ben sugg\u00e8re qu\u2019il existe un \u00ab point id\u00e9al \u00bb pour de nombreux outils computationnels, voire la plupart d\u2019entre eux. Par exemple, les statistiques ne sont pas utiles dans les situations o\u00f9 un traitement fonctionne toujours (pourquoi aurait-on besoin<\/em> d\u2019outils d\u2019inf\u00e9rence compliqu\u00e9s), ou lorsque les r\u00e9sultats sont trop variables et impr\u00e9visibles, mais bien dans la zone confuse entre les deux. Lorsque vous atteignez l\u2019espace o\u00f9 vos outils ont une emprise sur la r\u00e9alit\u00e9 malgr\u00e9 leurs imperfections, vous pouvez accomplir des choses extraordinaires. Par exemple, dans sa propre critique du livre<\/a>, Dan Davies \u00e9voque<\/p>\n\n\n\n la boucle de r\u00e9troaction incroyablement productive entre \u00ab les algorithmes d\u2019optimisation sont tr\u00e8s exigeants en termes de traitement informatique \u00bb et \u00ab les algorithmes d\u2019optimisation sont tr\u00e8s utiles pour concevoir des ordinateurs meilleurs et plus rapides \u00bb.<\/p>\n<\/blockquote>\n\n\n\n Comme le d\u00e9crit Ben, les concepteurs ont r\u00e9ussi \u00e0 r\u00e9duire les d\u00e9fis incroyablement complexes de la conception de puces \u00e0 une t\u00e2che optimisable en formulant des hypoth\u00e8ses simplificatrices sur les \u00ab cellules standard \u00bb et en les combinant avec des algorithmes de recuit simul\u00e9 capables de d\u00e9couvrir des optimums qui, autrement, ne seraient pas facilement visibles. Cela a alors permis, selon Dan, de d\u00e9velopper des puces plus rapides, qui \u00e0 leur tour pouvaient ex\u00e9cuter des algorithmes plus puissants, et ainsi de suite, dans une boucle.<\/p>\n\n\n\n Mais consid\u00e9rer le rationalisme comme un outil universel de d\u00e9couverte est probl\u00e9matique, d\u2019autant plus que ces techniques sont intrins\u00e8quement limit\u00e9es ou partent d\u2019hypoth\u00e8ses simplificatrices peu plausibles. Daphne Koller, l\u2019une des chercheuses d\u00e9crites par Ben, a d\u00e9couvert des moyens \u00e9tonnamment efficaces de r\u00e9duire la complexit\u00e9 du poker afin de le rendre plus \u00ab soluble \u00bb. Mais Koller a finalement abandonn\u00e9 l\u2019\u00e9tude de la th\u00e9orie des jeux :<\/p>\n\n\n\n \u00ab Comprendre le monde qui nous entoure est plus important que de comprendre la meilleure fa\u00e7on de bluffer \u00bb, m\u2019a-t-elle dit. D\u2019apr\u00e8s son exp\u00e9rience, lorsqu\u2019elle devait mod\u00e9liser des personnes dans des simulations de syst\u00e8mes complexes, le fait de mod\u00e9liser leurs d\u00e9cisions comme al\u00e9atoires lui permettait d\u2019atteindre 90 % de la solution. La mani\u00e8re de prendre les meilleures d\u00e9cisions dans un contexte d\u2019incertitude g\u00e9n\u00e9ralis\u00e9e \u00e9tait bien moins \u00e9vidente. Pour Koller, une fois que l\u2019on s\u2019\u00e9loignait du plateau de jeu et que l\u2019on devait prendre des d\u00e9cisions dans la r\u00e9alit\u00e9, comprendre l\u2019incertitude et les innombrables fa\u00e7ons dont elle pouvait surgir et affecter les plans \u00e9tait plus important que la strat\u00e9gie.<\/p>\n<\/blockquote>\n\n\n\n Il s\u2019est av\u00e9r\u00e9 que les algorithmes de poker g\u00e9n\u00e9raient eux aussi des boucles de r\u00e9troaction, non pas en simplifiant la conception des jetons, mais en simplifiant les \u00eatres humains (le livre de C. Thi Nguyen, The Score<\/em>, fournit un compte rendu plus complet de la fa\u00e7on dont cela fonctionne<\/a>). Dans un sens important, la th\u00e9orie du poker optimal a moins bien r\u00e9ussi \u00e0 optimiser le poker qu\u2019\u00e0 optimiser les joueurs de poker, inspirant un style de jeu dans lequel les professionnels \u00ab ont commenc\u00e9 \u00e0 m\u00e9moriser les tables de valeurs attendues issues des solveurs de poker afin de pouvoir jouer de mani\u00e8re \u00ab optimale selon la th\u00e9orie des jeux \u00bb dans les grands tournois de poker \u00bb. Peut-\u00eatre peut-on d\u00e9crire cela comme une am\u00e9lioration dans les affaires humaines. Pour ma part, je ne le vois pas ainsi.<\/p>\n\n\n\n *******<\/p>\n\n\n\n Comprendre le rationalisme math\u00e9matique nous aide \u00e0 saisir les forces et les limites de l\u2019IA. Il ne s\u2019agit pas seulement d\u2019une forme de rationalisme, mais de l\u2019application combin\u00e9e d\u2019une vari\u00e9t\u00e9 de techniques rationalistes \u00e9tablies de longue date \u2014 les r\u00e9seaux neuronaux (qui remontent aux ann\u00e9es 1950), l\u2019apprentissage statistique et la r\u00e9tropropagation \u2014 rendue possible par des ordinateurs plus puissants et d\u2019\u00e9normes quantit\u00e9s de donn\u00e9es facilement accessibles. La m\u00e9thodologie de Claude Shannon pour mod\u00e9liser le langage, qui constitue la base intellectuelle des \u00ab grands mod\u00e8les linguistiques \u00bb, est \u00ab un exemple de reconnaissance statistique de formes \u00bb ou d\u2019apprentissage automatique. Et l\u2019apprentissage automatique lui-m\u00eame n\u2019est ni plus ni moins qu\u2019un puissant outil statistique. J\u2019ai trouv\u00e9 que ce passage \u00e9tait peut-\u00eatre l\u2019explication la plus claire de ce qu\u2019il fait que j\u2019aie jamais lue.<\/p>\n\n\n\n Pour illustrer le probl\u00e8me typique de l\u2019apprentissage automatique, j\u2019aime imaginer un tableur hypoth\u00e9tique. Chaque ligne du tableur correspond \u00e0 une unit\u00e9 ou \u00e0 un exemple. Mais je me moque de ce que signifient ces unit\u00e9s. Je sais juste que j\u2019ai un tas de colonnes remplies de donn\u00e9es. Et on me dit qu\u2019une de ces colonnes est sp\u00e9ciale. Je suis sur le point de recevoir une multitude de nouvelles lignes dans le tableur, mais quelqu\u2019un en bas a oubli\u00e9 de remplir la colonne sp\u00e9ciale. La direction m\u2019a charg\u00e9 d\u2019\u00e9crire une formule pour remplir ce qui devrait s\u2019y trouver. Pour une raison quelconque, je ne peux pas voir ces nouvelles lignes et je dois construire la formule \u00e0 partir de la feuille de calcul dont je dispose. La formule peut utiliser toutes sortes d\u2019op\u00e9rations de feuille de calcul : elle peut attribuer des pond\u00e9rations \u00e0 diff\u00e9rentes colonnes et additionner les scores, elle peut utiliser des formules logiques bas\u00e9es sur le fait que certaines colonnes d\u00e9passent des valeurs particuli\u00e8res, elle peut diviser et multiplier. \u2026 Je vais faire une exp\u00e9rience. Je vais prendre la derni\u00e8re ligne de ma feuille de calcul et faire comme si je n\u2019avais pas la colonne sp\u00e9ciale. Je vais \u00e9crire autant de formules que possible. \u2026 Mais pourquoi choisir cette derni\u00e8re ligne en particulier ? Je peux faire quelque chose de similaire pour chaque ligne ! Je vais inventer un ensemble de fonctions plausibles. Je vais \u00e9valuer leur capacit\u00e9 de pr\u00e9diction sur la feuille de calcul dont je dispose. Je vais choisir la fonction qui maximise la pr\u00e9cision. C\u2019est plus ou moins l\u2019art de l\u2019apprentissage automatique.<\/p>\n<\/blockquote>\n\n\n\n Deviner les lignes manquantes des feuilles de calcul et optimiser s\u2019av\u00e8re avoir beaucoup <\/em>d\u2019applications utiles : pas seulement les mod\u00e8les linguistiques, mais aussi le repliement des prot\u00e9ines, la reconnaissance de l\u2019\u00e9criture manuscrite et une myriade d\u2019autres applications. De m\u00eame, l\u2019apprentissage automatique n\u2019est qu\u2019une autre forme d\u2019optimisation et\/ou de pr\u00e9diction. Une tr\u00e8s grande partie du mod\u00e8le \u00e9conomique actuel de la Silicon Valley consiste \u00e0 prendre des situations complexes qui ne ressemblent<\/em> pas \u00e0 des probl\u00e8mes d\u2019optimisation ou de pr\u00e9diction, \u00e0 les simplifier et \u00e0 les red\u00e9crire, puis \u00e0 trouver des solutions.<\/p>\n\n\n\n Tout comme les statistiques, l\u2019apprentissage automatique a son \u00ab point id\u00e9al \u00bb. Il n\u2019est pas utile dans les situations o\u00f9 l\u2019on dispose d\u2019une abstraction math\u00e9matique v\u00e9ritablement claire, que l\u2019on peut transformer en code ex\u00e9cutable. Il n\u2019est pas non plus utile dans les situations trop d\u00e9sordonn\u00e9es ou compliqu\u00e9es pour \u00eatre pr\u00e9visibles (il s\u2019agit, apr\u00e8s tout, d\u2019une application de techniques statistiques). On souhaite l’utiliser dans les situations interm\u00e9diaires o\u00f9 il n’existe pas de solution claire et \u00e9vidente, mais o\u00f9 les techniques d’apprentissage automatique, bien que lourdes et co\u00fbteuses en termes de calcul, peuvent d\u00e9couvrir une approximation utile, m\u00eame si l’on ne comprend pas tout \u00e0 fait sur quoi elle repose ni comment elle fonctionne.<\/p>\n\n\n\n *******<\/p>\n\n\n\n Tout cela soul\u00e8ve d\u2019importants probl\u00e8mes d\u2019\u00e9valuation. Comment savoir dans quels cas l\u2019apprentissage automatique est une approche utile ? Comment d\u00e9terminer quelle<\/em> approche d\u2019apprentissage automatique est la meilleure \u00e0 appliquer pour un probl\u00e8me donn\u00e9 ? Et derri\u00e8re tout cela se cache la question plus large par laquelle nous avons commenc\u00e9. Comment savoir quand les techniques d\u2019apprentissage automatique en g\u00e9n\u00e9ral (ou d\u2019autres raccourcis rationalistes) sont meilleures ou pires que le jugement humain ordinaire ?<\/p>\n\n\n\n La r\u00e9ponse \u00e0 la premi\u00e8re question est malheureusement ind\u00e9termin\u00e9e. D\u2019apr\u00e8s ce que je comprends de l\u2019argument de Ben, la seule v\u00e9ritable fa\u00e7on de d\u00e9couvrir si l\u2019apprentissage automatique fonctionne pour un type de probl\u00e8me donn\u00e9 est de trouver une solution d\u2019apprentissage automatique qui fonctionne. Il n\u2019existe pas de moyen ex ante<\/em> v\u00e9ritablement satisfaisant de distinguer les probl\u00e8mes que l\u2019apprentissage automatique peut r\u00e9soudre de ceux qu\u2019il ne peut pas r\u00e9soudre. De plus, comme Ali Rahimi et Ben l\u2019ont fait remarquer ailleurs<\/a>, les praticiens de l\u2019IA s\u2019appuient davantage sur de l\u2019\u00ab alchimie \u00bb que sur une compr\u00e9hension approfondie des raisons pour lesquelles certaines approches fonctionnent et d\u2019autres non. Plus succinctement, XKCD<\/a> :<\/p>\n\n\n Quant \u00e0 savoir comment d\u00e9terminer quels <\/em>algorithmes d\u2019apprentissage automatique fonctionnent mieux que d\u2019autres, les informaticiens ont mis au point une approche commun\u00e9ment appel\u00e9e Common Task Framework (ou ses variantes). Cr\u00e9er un ensemble de donn\u00e9es commun (classiquement : des photos de chats et de chiens) et en partager la totalit\u00e9 (ou, ce qui est bien plus courant de nos jours, une partie) avec diff\u00e9rentes \u00e9quipes de chercheurs. Ensuite, d\u00e9finir une t\u00e2che commune pouvant \u00eatre effectu\u00e9e sur ces donn\u00e9es et \u00e9valu\u00e9e de mani\u00e8re assez simple (l\u2019algorithme est-il capable de distinguer les chats des chiens). Les diff\u00e9rentes \u00e9quipes peuvent alors proposer des algorithmes qui s\u2019affrontent dans un esprit de comp\u00e9tition, lesquels peuvent \u00e9ventuellement \u00eatre test\u00e9s sur des donn\u00e9es qui n\u2019ont pas \u00e9t\u00e9 rendues publiques, afin d\u2019\u00e9viter le surajustement et l\u2019apprentissage cibl\u00e9 sur le test. L\u2019algorithme qui fonctionne le mieux (c\u2019est-\u00e0-dire qui pr\u00e9sente le pourcentage de pr\u00e9cision le plus \u00e9lev\u00e9 pour distinguer les chats des chiens) est, ipso facto<\/em>, le meilleur algorithme pour cette t\u00e2che.<\/p>\n\n\n\n Ce qui nous am\u00e8ne \u00e0 l\u2019une des principales contributions du livre de Ben. De nombreux acteurs du domaine de l\u2019IA affirment que ce cadre peut \u00eatre utilis\u00e9 pour r\u00e9pondre \u00e0 une question fondamentale : les algorithmes d\u2019IA sont-ils g\u00e9n\u00e9ralement sup\u00e9rieurs aux \u00eatres humains dans l\u2019ex\u00e9cution d\u2019un ensemble de t\u00e2ches cognitives ? Il existe toute une s\u00e9rie de tests de t\u00e2ches courantes cens\u00e9s r\u00e9pondre \u00e0 cette question, dont certains portent des noms qui\u2026 soul\u00e8vent des questions<\/a>. Si vous fr\u00e9quentez les bons (ou les mauvais) endroits sur Internet, vous lirez r\u00e9guli\u00e8rement telle ou telle affirmation alarmiste selon laquelle l\u2019humanit\u00e9 est vou\u00e9e \u00e0 \u00eatre supplant\u00e9e en raison des performances de l\u2019IA \u00e0 tel ou tel test.<\/p>\n\n\n\n Ben sugg\u00e8re que de telles affirmations commettent souvent une erreur fondamentale. Il d\u00e9crit certains r\u00e9sultats c\u00e9l\u00e8bres issus des recherches du psychologue Paul Meehl sur les d\u00e9cisions m\u00e9dicales et autres, qui sugg\u00e9raient que \u00ab les pr\u00e9visions statistiques fournissaient des jugements plus pr\u00e9cis sur l\u2019avenir que les jugements cliniques \u00bb dans certaines conditions. Mais la conclusion \u00e0 laquelle Ben parvient n\u2019est pas<\/em> que cela signifie que les pr\u00e9visions statistiques sont g\u00e9n\u00e9ralement meilleures que le jugement d\u2019un expert. Au contraire, elles sont meilleures lorsqu\u2019il existe des r\u00e9sultats clairement d\u00e9finis, de bonnes donn\u00e9es et des cas de r\u00e9f\u00e9rence clairs pouvant servir de comparaison. Il existe de nombreuses situations o\u00f9 cela n\u2019est pas vrai et ne peut pas facilement l\u2019\u00eatre.<\/p>\n\n\n\n Si nous utilisons des approches bas\u00e9es sur des types de t\u00e2ches courantes pour mesurer le succ\u00e8s, nous faisons pencher la balance en faveur des t\u00e2ches pouvant \u00eatre d\u00e9crites en termes de r\u00e9sultats clairs et test\u00e9es avec de bonnes donn\u00e9es, et au d\u00e9triment de celles qui ne pr\u00e9sentent pas ces caract\u00e9ristiques. Ben d\u00e9crit cela de mani\u00e8re encore plus incisive. Les t\u00e2ches pouvant \u00eatre d\u00e9finies de cette mani\u00e8re sont, par d\u00e9finition, celles que les ordinateurs ou autres approches automatis\u00e9es seront capables d\u2019accomplir rapidement mieux que les \u00eatres humains. Paradoxalement :<\/p>\n\n\n\n Si nous pouvons mesurer pourquoi les humains pourraient \u00eatre capables de surpasser les machines, alors nous pouvons construire des machines capables de surpasser les humains. En revanche, si nous ne pouvons pas articuler clairement un ensemble pr\u00e9cis d\u2019actions, de r\u00e9sultats, de mesures et de m\u00e9triques, alors nous ne pouvons pas m\u00e9caniser la r\u00e9solution de probl\u00e8mes. C’est cette num\u00e9risation, cette traduction du monde dans le langage de l’ordinateur, qui est n\u00e9cessaire \u00e0 l’automatisation.<\/p>\n<\/blockquote>\n\n\n\n L’univers des t\u00e2ches ayant des objectifs, des conditions et des donn\u00e9es clairs est \u00e0 la fois<\/em> l’univers des t\u00e2ches facilement mesurables et <\/em>celui des t\u00e2ches que les ordinateurs et les processus automatis\u00e9s peuvent bien ex\u00e9cuter. L’une de ces caract\u00e9ristiques pr\u00e9dit plus ou moins l’autre. C’est donc ce qui rend si difficile pour les rationalistes math\u00e9matiques de percevoir les limites de leur perspective. Les outils et les mesures qu\u2019ils utilisent pour comprendre et r\u00e9soudre les probl\u00e8mes auraient presque pu \u00eatre con\u00e7us expr\u00e8s pour confirmer leurs pr\u00e9jug\u00e9s intellectuels g\u00e9n\u00e9raux en dissimulant les probl\u00e8mes que leurs m\u00e9thodes ne peuvent pas r\u00e9soudre facilement.<\/p>\n\n\n\n *******<\/p>\n\n\n\n Cela nous aide \u00e0 situer le d\u00e9bat qui a lieu actuellement au sujet de l\u2019IA. Il existe de nombreux passionn\u00e9s d\u2019IA qui croient qu\u2019elle peut \u00eatre appliqu\u00e9e pour accomplir pratiquement n\u2019importe quelle t\u00e2che que les humains peuvent faire, aussi bien que les humains, voire mieux. Y parvenir n\u2019est qu\u2019une question d\u2019\u00e9chelle et d\u2019ing\u00e9nierie, et cela va se produire tr\u00e8s bient\u00f4t. Il y a des sceptiques de l\u2019IA, qui soutiennent que ses avantages se limitent \u00e0 un \u00e9ventail restreint de t\u00e2ches bien d\u00e9finies, voire (j\u2019entends r\u00e9guli\u00e8rement cette affirmation, bien qu\u2019elle soit rarement d\u00e9fendue de mani\u00e8re particuli\u00e8rement sophistiqu\u00e9e) que ces avantages sont inexistants. Ces positions se traduisent souvent par \u00ab l\u2019IA est bonne \u00bb et \u00ab l\u2019IA est mauvaise \u00bb, dans la lign\u00e9e de ce que sugg\u00e8re l\u2019IA.<\/p>\n\n\n\n Comme l\u2019indique la citation au d\u00e9but de cet article, Ben ne se penche pas vraiment sur la question de savoir si l\u2019IA est bonne ou mauvaise d\u2019un point de vue g\u00e9n\u00e9ral. Il propose plut\u00f4t qu\u2019elle puisse accomplir de nombreuses t\u00e2ches, y compris des t\u00e2ches que nous ne pouvons pas encore anticiper, mais qu\u2019il y a<\/em> des limites. L’IA, \u00e0 l’instar de la rationalit\u00e9 math\u00e9matique plus g\u00e9n\u00e9ralement, a un point d’\u00e9quilibre : des probl\u00e8mes suffisamment complexes pour ne pas pouvoir \u00eatre r\u00e9solus par d’autres approches moins co\u00fbteuses en termes de calcul, mais qui pr\u00e9sentent suffisamment de r\u00e9gularit\u00e9s pour \u00eatre traitables. \u00c0 l’int\u00e9rieur de ce point d’\u00e9quilibre, elle peut accomplir des choses extraordinaires. En dehors de ce point d’\u00e9quilibre, elle peut \u00eatre redondante ou compl\u00e8tement inutile. Et il existe une zone ambigu\u00eb entre les deux, o\u00f9 elle peut faire des choses, mais de mani\u00e8re imparfaite.<\/p>\n\n\n\n Il n\u2019est pas possible, sauf en termes tr\u00e8s g\u00e9n\u00e9raux, de d\u00e9finir ex ante<\/em> ce qu\u2019est ce point id\u00e9al. Des ing\u00e9nieurs ing\u00e9nieux tentent sans cesse de l\u2019\u00e9largir. Les voitures autonomes constituent un exemple de probl\u00e8me qui s\u2019est av\u00e9r\u00e9 bien plus difficile \u00e0 r\u00e9soudre que ne le pensaient les ing\u00e9nieurs (comme le dit Ben : \u00ab nous ne savons pas comment traduire la notion de \u201cbon conducteur\u201d en un r\u00e9sultat statistique clair \u00bb), mais ils abordent le probl\u00e8me par la force brute, de sorte que la conduite autonome est bien plus plausible dans diff\u00e9rents environnements qu\u2019auparavant. De m\u00eame, il existe de tr\u00e8s nombreux cas limites. Une fa\u00e7on de traiter bon nombre d\u2019entre eux pourrait \u00eatre d\u2019essayer de les simplifier jusqu\u2019\u00e0 les faire dispara\u00eetre, par exemple en n\u2019ayant que<\/em> des voitures autonomes, sans les impr\u00e9visibilit\u00e9s li\u00e9es aux conducteurs humains, aux cyclistes, ou\u2026 ou\u2026 ou). Une telle simplification est une version de ce que les cybern\u00e9ticiens du management appellent<\/a> la \u00ab r\u00e9duction de la vari\u00e9t\u00e9 \u00bb.<\/p>\n\n\n\n De m\u00eame, il existe des d\u00e9fis qui semblent fondamentalement r\u00e9sistants \u00e0 la rationalit\u00e9 math\u00e9matique, notamment la bureaucratie et la politique :<\/p>\n\n\n\n les soci\u00e9t\u00e9s ne sont pas des puces informatiques. Bien que j\u2019aie not\u00e9 au chapitre 2 que les puces informatiques \u00e9taient souvent compar\u00e9es \u00e0 des villes microscopiques, celles-ci ont toujours \u00e9t\u00e9 con\u00e7ues pour \u00eatre herm\u00e9tiquement scell\u00e9es et parfaitement contr\u00f4l\u00e9es. C\u2019est ce qui les rendait optimisables. Les soci\u00e9t\u00e9s r\u00e9elles, en revanche, comptaient des personnes. S\u2019il est pratique de mod\u00e9liser et de consid\u00e9rer la population, sa sant\u00e9 et ses flux de march\u00e9 comme des abstractions math\u00e9matiques, celles-ci se heurtent aux limites du d\u00e9sordre que les gens introduisent.<\/p>\n<\/blockquote>\n\n\n\n Dans The Sciences of the Artificial<\/em>, Herbert Simon avance un argument \u00e9troitement li\u00e9 :<\/p>\n\n\n\n Lorsque nous en venons \u00e0 la conception de syst\u00e8mes aussi complexes que des villes, des b\u00e2timents ou des \u00e9conomies, nous devons renoncer \u00e0 l\u2019objectif de cr\u00e9er des syst\u00e8mes qui optimiseront une fonction d\u2019utilit\u00e9 hypoth\u00e9tique, et nous devons nous demander si les diff\u00e9rences de style du type de celles que je viens de d\u00e9crire ne repr\u00e9sentent pas des variantes hautement souhaitables dans le processus de conception plut\u00f4t que des alternatives \u00e0 \u00e9valuer comme \u00ab meilleures \u00bb ou \u00ab pires \u00bb. La diversit\u00e9, dans les limites de contraintes satisfaisantes, peut \u00eatre une fin souhaitable en soi, entre autres parce qu\u2019elle nous permet d\u2019accorder de la valeur \u00e0 la recherche autant qu\u2019\u00e0 son r\u00e9sultat \u2014 de consid\u00e9rer le processus de conception comme une activit\u00e9 valorisante en soi pour ceux qui y participent.<\/p>\n\n\n\n Nous avons g\u00e9n\u00e9ralement consid\u00e9r\u00e9 l\u2019urbanisme comme un moyen par lequel l\u2019activit\u00e9 cr\u00e9ative de l\u2019urbaniste pouvait construire un syst\u00e8me susceptible de satisfaire les besoins d\u2019une population. Peut-\u00eatre devrions-nous consid\u00e9rer l\u2019urbanisme comme une activit\u00e9 cr\u00e9ative pr\u00e9cieuse \u00e0 laquelle de nombreux membres d\u2019une communaut\u00e9 peuvent avoir l\u2019occasion de participer \u2014 si nous avons l\u2019intelligence d\u2019organiser le processus de cette mani\u00e8re.<\/p>\n<\/blockquote>\n\n\n\n Comme l\u2019explique James Scott dans Seeing Like a State<\/em>1<\/a><\/sup>En fran\u00e7ais : L’Oeil de l’\u00c9tat,<\/a><\/span> les probl\u00e8mes commencent lorsque les technocrates traitent les \u00eatres humains et les soci\u00e9t\u00e9s complexes qu\u2019ils cr\u00e9ent comme s\u2019il s\u2019agissait de \u00ab cellules standard \u00bb simplifi\u00e9es pouvant \u00eatre facilement r\u00e9organis\u00e9es selon des sch\u00e9mas plus optimaux. De plus, comme Ben le dit ailleurs <\/a>(Cosma et moi-m\u00eame citons cela dans notre prochain article sur l\u2019IA et la bureaucratie), les d\u00e9saccords politiques r\u00e9sistent g\u00e9n\u00e9ralement \u00e0 l\u2019optimisation<\/em>. Lorsque vous \u00eates confront\u00e9 \u00e0 des compromis incommensurables (m\u00eame tr\u00e8s simples : faut-il utiliser l\u2019argent de votre budget pour financer une aire de jeux afin de satisfaire les parents, ou une caserne de pompiers pour r\u00e9duire le risque d\u2019incendie des commerces ?), vous vous \u00e9loignez d\u00e9finitivement du type de probl\u00e8mes que l\u2019apprentissage automatique, ou l\u2019optimisation plus g\u00e9n\u00e9ralement, peut simplifier de mani\u00e8re utile.<\/p>\n\n\n\n D\u00e8s lors que nous ne parvenons pas \u00e0 nous mettre d\u2019accord sur une fonction de co\u00fbt, on ne voit pas clairement ce que notre m\u00e9canisme d\u2019optimisation\u2026 nous apporte. L\u2019optimisation multi-objectifs implique n\u00e9cessairement un compromis. Et on ne peut pas optimiser un compromis.<\/p>\n<\/blockquote>\n\n\n\n \u00c0 moins du d\u00e9veloppement d\u2019approches radicalement diff\u00e9rentes, il n\u2019y a aucune raison de croire que la politique atteindra le juste \u00e9quilibre. Mais de nombreux rationalistes math\u00e9matiques soutiennent le contraire (par exemple cette s\u00e9rie d\u2019affirmations<\/a>2<\/a><\/sup>Un article en effet assez na\u00eff que j’ai traduit Construire une superintelligence politique<\/a><\/span>, qui m\u00e9riterait peut-\u00eatre une r\u00e9ponse d\u00e9taill\u00e9e \u00e0 part enti\u00e8re). Si vous voulez vraiment comprendre les limites de l\u2019IA, vous vous devez de lire le livre de Ben. Il existe de nombreux ouvrages sur la technologie qui sont intelligents dans un certain sens, mais tr\u00e8s peu qui soient sages. Celui-ci fait partie de ces tr\u00e8s rares exceptions.<\/p>\n\n\n\n Fichier Excel des\u00a0traductions<\/a> par\u00a0Gilles en vrac<\/em> <\/p>\n \u00c0 propos du formidable nouveau livre de Ben Recht Traduction de AI has limits, even if many AI people can’t see them, par Henry Farrell, le 6 avril 2026. Vers la fin de son nouveau livre, The Irrational Decision, Ben Recht explique ce qu\u2019il s\u2019est fix\u00e9 comme objectif. La plupart des ouvrages consacr\u00e9s \u00e0 la … <\/p>\n\n
\n
\n
\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/XKCD.webp\")
<\/figure>\n<\/div>\n\n\n\n
\n
\n
\n
\n\n\n\n
Fiches<\/a> avec les premi\u00e8res phrases (et non seulement les titres)
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\n\n\n\nNotes <\/h3>