Benjamin Recht et The Irrational Decision: How We Gave Computers the Power to Choose for Us. Transcription d’une conférence de 1h12.
Enregistrée le 5 mai 2026, cette vidéo présente une conférence de Benjamin Recht, professeur de génie électrique et d’informatique à l’Université de la Californie à Berkeley, axée sur son livre, The Irrational Decision: How We Gave Computers the Power to Choose for Us.
Le professeur Recht s’est entretenu avec Marion Fourcade, professeure de sociologie et directrice de Social Science Matrix. Cet événement était coparrainé par le D-Lab, l’Algorithmic Fairness and Opacity Group (AFOG), le Centre pour la science, la technologie, la médecine et la société (CSTMS), ainsi que les départements de sociologie et de génie électrique et d’informatique de l’Université de la Californie à Berkeley.
À propos du livre
Dans les années 1940, des mathématiciens et des ingénieurs se sont attelés à concevoir des machines capables d’agir comme des agents rationnels idéaux face à l’incertitude. Dans cette quête, un ensemble de technologies mathématiques fondamentales — notamment la théorie de l’information, la programmation linéaire, la théorie des jeux et les réseaux neuronaux — s’est imposé comme fondement d’une formalisation mathématique de la rationalité, redéfinissant ainsi notre conception même de la prise de décision humaine.
The Irrational Decision retrace comment un cadre mathématique restreint destiné au calcul en est venu à définir la rationalité en économie, en matière de politiques publiques et dans la culture populaire. L’exposé de M. Recht portera sur la façon dont ces méthodes de calcul novatrices ont évolué pour former une discipline et une industrie solides, avec des réussites notables dans l’accélération des ordinateurs, la réglementation des produits pharmaceutiques et le déploiement du commerce électronique. Ces exemples mettront en lumière la manière dont les systèmes de décision automatisés excellent dans des domaines spécifiques où les règles sont claires, les objectifs bien définis et les contextes bien délimités. Ils montreront également comment, en dehors de ces contextes restreints, le programme rationnel tend vers l’absurdité. Compte tenu de ces forces et de ces limites, la discussion explorera comment tirer le meilleur parti de 80 ans de progrès informatiques insondables tout en préservant l’action et le jugement humains.
À propos de Benjamin Recht
Benjamin Recht est professeur au Département de génie électrique et d’informatique de l’Université de la Californie à Berkeley. Il est lauréat du Prix présidentiel pour les scientifiques et ingénieurs en début de carrière, d’une bourse de recherche Alfred P. Sloan, du Prix Lagrange 2012 de la SIAM/MOS en optimisation continue, du Prix Jamon 2014, du Prix William O. Baker 2015 pour les initiatives en recherche, ainsi que des prix « Test of Time » de NeurIPS en 2017 et 2020. Il est l’auteur de trois ouvrages : Optimization for Modern Data Analysis (2022), avec Stephen J. Wright; Patterns, Predictions, and Actions: Foundations of Machine Learning (2022), avec Moritz Hardt; et The Irrational Decision: How We Gave Computers the Power to Choose for Us (2026).
Balado et transcription
[MARION FOURCADE]
Bonjour à tous. Merci d’être ici. Je suis ravie de voir la salle comble.
Je m’appelle Marion Fourcade. Je suis directrice de Social Science Matrix. Aujourd’hui est en fait un moment doux-amer pour moi.
C’est notre dernière conférence de l’année universitaire. Mais c’est aussi la dernière conférence que j’animerai en tant que directrice de Social Science Matrix. Et plus précisément, je tiens tout d’abord à souligner que c’est ma dernière occasion de remercier publiquement notre équipe intrépide : Sarah Harrington, Chuck Kapelke, qui est notre directeur des communications, et Eva Seto, pour le travail incroyable qu’ils accomplissent afin de soutenir nos activités et notre communauté.
Je suis particulièrement heureuse que notre dernier événement de l’année incarne parfaitement ce que Social Science Matrix aspire à être : une communauté interdisciplinaire exemplaire. Et cela incarne également ma propre vision de l’interdisciplinarité, qui va au-delà des sciences sociales et cherche à s’engager plus directement auprès des sciences exactes qui transforment le monde aujourd’hui. Notre invité d’aujourd’hui incarne donc parfaitement ces aspirations.
Benjamin Recht est professeur au Département de génie électrique et d’informatique ici à Berkeley, et probablement le premier de ce côté du campus que nous ayons invité à donner une conférence. Mais il y a une raison à cela. Il possède une capacité unique à communiquer sur des sujets complexes auprès d’un large public.
Il tient l’un des meilleurs blogues, et des plus divertissants – ou devrions-nous désormais dire « Substack »? C’est un rationaliste anti-rationaliste de la meilleure espèce. Et à un moment où les machines semblent sur le point de prendre le contrôle de nos vies, Ben attire notre attention sur ce qui ne peut être éliminé par l’optimisation, sur ce en quoi nous, les humains, excellons de façon unique, et pourquoi nous devrions résister de toutes nos forces à l’informatisation de chaque décision que nous devons prendre.
Le professeur Recht est lauréat d’un Prix présidentiel pour les scientifiques et ingénieurs en début de carrière, d’une bourse de recherche Alfred Sloan, ainsi que du Prix Lagrange 2012 de la SIAM/MOS en optimisation continue. Il possède donc amplement les qualifications requises pour aborder ce sujet. Le Prix Hamman de 2014, euh, le prix Jamieson, euh, le prix William O. Baker 2015 pour les initiatives en recherche, ainsi que les prix « Test of Time » de NeurIPS en 2017 et 2020.
Il est l’auteur de trois ouvrages : *Optimization for Modern Data Analysis* (2022), coécrit avec Stephen Wright; *Patterns, Predictions, and Actions: Foundations of Machine Learning*, coécrit avec Moritz Hardt; et le sujet de la conférence d’aujourd’hui : *The Irrational Decision: How We Gave Computers the Power to Choose for Us*.
Veuillez noter que l’événement d’aujourd’hui est coparrainé par le D-Lab, le Centre pour la science, la technologie, la médecine et la société, le Groupe sur l’équité algorithmique et l’opacité, ainsi que les départements de sociologie et de génie électrique et d’informatique de l’Université de la Californie à Berkeley. Après l’exposé de Ben, je me joindrai à lui pour une brève conversation, puis nous ouvrirons la séance aux questions du public. Sans plus attendre, je cède donc la parole à Ben.
Merci.
[BENJAMIN RECHT]
Merci. Merci beaucoup pour cette merveilleuse introduction. Oui, je suis ravi d’être ici pour parler de ce livre.
Je me sens un peu intimidé de me retrouver dans le milieu des sciences sociales pour parler d’un livre qui est ostensiblement un ouvrage de sciences sociales. C’est parfois terrifiant d’essayer d’aborder d’autres disciplines et de faire preuve d’humilité face à cela. Je m’exprime évidemment en tant qu’observateur-participant, dans ce cas-ci, au sujet d’une histoire de l’informatique.
Et il s’agit d’une histoire très particulière de l’informatique, motivée par des questions très humaines. Notamment, c’est une question simple. Qu’est-ce que la rationalité?
C’est une question très « à la Berkeley ». Beaucoup de gens me disent qu’ils sont très rationnels ici. Il y a une église de la rationalité à environ deux pâtés de maisons de chez moi.
Mais qu’est-ce que la rationalité? La rationalité en est venue à signifier quelque chose de très précis dans notre contexte moderne, surtout dans le contexte américain, et plus particulièrement à San Francisco. Et cela se résume généralement à des analyses coûts-avantages.
Si vous devez subir une chirurgie expérimentale, vous aimeriez savoir quelles sont les chances que cela fonctionne, quels en seront les avantages et quels sont les inconvénients potentiels? Je vais soigneusement peser le pour et le contre dans mes feuilles de calcul Excel et décider si je devrais ou non aller de l’avant et subir cette intervention expérimentale, en fonction des résultats de l’analyse coûts-avantages. Et vous pouvez imaginer qu’on pourrait appliquer cela à d’autres choses.
On peut l’appliquer à ce qu’on va manger et décider si ce muffin qui a l’air si délicieux devant moi en vaut la peine, c’est-à-dire si les avantages de le manger l’emportent sur les coûts liés à mon apport calorique quotidien. Et puis, peut-être, vous savez, on pourrait étendre cela à notre famille élargie, et on commencerait à se demander s’il vaut la peine de composer avec les protestations de nos enfants pour les envoyer à leurs cours de violon, parce qu’on sait que cela leur sera utile pour entrer à l’université. Et vous savez, même ce genre d’analyses s’applique au sport, où l’on affiche toutes sortes de messages publicitaires à l’écran sur la probabilité que faire quelque chose à ce moment précis permette de remporter le match, le Super Bowl ou quoi que ce soit d’autre.
Tout. Dans ces analyses coûts-avantages, on en revient en quelque sorte à calculer le prix d’une assurance. D’une certaine manière, comme pour chaque décision dans la vie, l’acteur rationnel est l’agent d’assurance.
Ou pire encore, l’acteur rationnel est peut-être censé être dépeint comme un joueur, n’est-ce pas? Et ce genre de mentalité ne me convenait pas vraiment. Il est vrai que, si vous prenez la peine de lire un peu — les informaticiens ne lisent pas, mais si vous vous y mettiez un peu —, vous pourriez découvrir qu’en réalité, la rationalité a de nombreuses définitions différentes, n’est-ce pas?
Son origine remonte en quelque sorte aux croyances religieuses des disciples de Pythagore, selon lesquelles on pourrait d’une manière ou d’une autre définir l’univers tout entier en termes de nombres. Mais je pense que dans ses conceptions modernes, si vous interrogez un philosophe, il vous donnera… Si vous consultez par exemple la Stanford Encyclopedia of Philosophy, vous y trouverez peut-être 20 définitions différentes de la rationalité, toutes accompagnées de noms sophistiqués.
On pourrait considérer qu’un comportement conforme à la raison est rationnel, ou que le simple fait d’utiliser un système de croyances cohérent est rationnel, ou encore que se conformer aux normes sociales raisonnables est rationnel. Utiliser les faits de manière appropriée pour atteindre des objectifs et prendre les bonnes décisions pourrait également être considéré comme rationnel. Et la seule chose cohérente que j’ai pu constater, c’est que nous croyons tous que la rationalité est bonne et que l’irrationalité est mauvaise.
Ou du moins, certains d’entre nous le croient. C’est donc cette dernière notion dont je parlais au début, et que les philosophes appelleraient, je crois, la rationalité instrumentale. Mais en réalité, c’est plus que de la rationalité instrumentale, car il y a cette conviction qu’on peut lui attribuer des chiffres.
C’est en fait une rationalité mathématique selon laquelle tout peut se traduire précisément par des probabilités et des montants en dollars. Et à partir de ces probabilités et montants précis, on peut arriver à une réponse correcte. Et c’est ce que j’espérais en quelque sorte mettre en lumière en écrivant ce livre.
C’est un peu comme si on se demandait : d’où vient cette idée d’une rationalité instrumentale très mathématique? Et tous les chemins mènent à l’ordinateur. Tout remonte à l’époque où les gens essayaient de concevoir des ordinateurs, entre la fin de la Seconde Guerre mondiale et l’apparition du premier ordinateur, qui remonte sans doute à 1950.
Tout s’est passé très rapidement : nous avons décidé que nous pouvions simplement tout formuler en termes de maximisation de l’utilité attendue et confier aux machines le soin de calculer ces chiffres. Il ne s’agissait pas simplement de dire que nous allions maximiser l’utilité, mais plutôt que nous pouvions calculer quelle était la stratégie permettant d’atteindre cette utilité. Et c’était là une rationalité du calcul.
Le livre part donc de ce point de départ et examine comment tout cela s’est déroulé. Or, comme il y a ici des informaticiens, ils reconnaîtront peut-être certaines de ces choses. C’est ainsi que bon nombre des idées qui prévalent encore aujourd’hui, et qui, d’une certaine manière, sous-tendent encore toute notre technologie informatique sur le plan algorithmique, ont vu le jour entre 1945 et 1950.
Par exemple, le réseau neuronal a été inventé en 1943 par McCulloch et Pitts. La théorie de l’information a été formulée en 1945 et publiée en 1948. L’ensemble du concept d’estimation et de prédiction des séries chronologiques a été en quelque sorte formalisé à la fin des années 1940.
La première utilisation des statistiques pour comprendre les traitements médicaux, notamment dans le contexte des essais cliniques, remonte à 1946. La théorie des jeux a été inventée en 1944. L’optimisation telle que nous la connaissons aujourd’hui, même si elle semble être un concept que l’on associe peut-être à Cauchy ou à Newton, n’a en réalité été formalisée en tant que discipline moderne qu’en 1947.
Et puis, pour ceux qui s’y connaissent, la méthode d’approximation stochastique, que nous appelons aujourd’hui la descente stochastique du gradient, a été inventée en 1951 et constitue en quelque sorte la colonne vertébrale de tout ce que nous faisons en IA. Tout cela s’est donc produit très rapidement, le tout en l’espace d’environ huit ans. Le livre tente donc de retracer comment ce petit groupe de personnages, tous gravitant en quelque sorte autour des Laboratoires Bell et de l’Institut des études avancées, en est venu à réfléchir à ce qui constitue des décisions personnelles, parfaitement rationnelles, et à imaginer ce qu’un tel agent parfaitement rationnel pourrait faire.
Cela a mené à la mise au point d’un ordinateur en soi. Cet ordinateur a été conçu en quelque sorte à l’image du décideur parfait. Puis, si on avance rapidement de 75 ans, ces ordinateurs sont devenus tellement rapides – bien plus rapides que nous n’avons gagné en intelligence – et on se retrouve avec une foule de gens qui nous disent qu’on devrait ressembler davantage aux ordinateurs.
Et si vous savez qui figure sur la diapositive, c’est que vous passez trop de temps sur Internet. J’ai donc structuré le livre en quatre grands volets, qui, vous le savez, encore une fois, c’est une histoire personnelle. Ce sont donc quatre éléments qui sont étroitement liés à mes propres recherches et qui sont omniprésents, inévitables, que ce soit dans le domaine de l’IA, de la recherche en optimisation ou même en statistique.
Donc, en ce qui concerne la rationalité des ordinateurs, je dirais qu’un des chapitres principaux porte sur l’optimisation. Un autre porte sur la théorie des jeux. Un autre porte sur le concept d’expérience aléatoire, et comment l’utiliser pour l’élaboration de politiques, et un autre encore traite de la prédiction statistique, que l’on appelle aussi apprentissage automatique, et que l’on désigne peut-être aujourd’hui par « IA », peu importe.
C’est ce dernier pilier un peu bizarre. Et il m’était en quelque sorte impossible de laisser ce chapitre de côté. Chacun de ces piliers est d’une puissance incommensurable lorsqu’il est appliqué à bon escient, dans des contextes particulièrement propices.
Et dans le livre, je parle des contextes précis où cela permet de débloquer toutes sortes de capacités étonnantes. Mais si vous essayez, par exemple, d’utiliser votre marteau partout, en voyant des clous partout où vous allez, cela ne mène pas toujours aux résultats escomptés. Il faut donc comprendre que ce type de rationalité particulière a sa place.
Mais pas partout. Pour vous donner un exemple, nous allons faire un petit tour d’horizon du chapitre sur l’optimisation, surtout parce que c’est celui-là qui contient l’anecdote la plus amusante, mais nous y reviendrons dans un instant. Donc, l’optimisation mathématique : encore une fois, comme je l’ai dit, l’idée de construire et d’écrire des fonctions de coût pour ensuite les maximiser n’est pas nouvelle à l’époque d’après-guerre, mais ce qui était nouveau, c’était la capacité de les calculer, parce que vous verrez très vite que dès qu’on a plus de deux variables, ces problèmes deviennent vraiment difficiles.
Je pense que tout le monde a dû composer avec, au secondaire, au moins au secondaire, où il fallait, par exemple, résoudre des systèmes d’équations. C’est… Oui, on a tous été torturés.
Je sais qu’on ravive de terribles souvenirs. En faisant ça à la main, j’ai moi-même torturé mes propres élèves. Personne n’a jamais envie de résoudre une matrice à quatre équations.
Ce n’est tout simplement pas à la portée de tout le monde. Mais les ordinateurs sont vraiment doués pour ça, et il s’avère que les ordinateurs sont incroyables pour l’optimisation. L’idée principale était donc de construire des machines capables d’effectuer ces calculs à notre place et de nous indiquer la solution optimale dans divers contextes. Il y a eu là un tournant intéressant : on pouvait en fait retourner le processus d’optimisation contre lui-même et utiliser les optimiseurs pour construire des ordinateurs.
Et cette boucle de rétroaction a créé la situation dans laquelle nous nous trouvons aujourd’hui, où nous avons partout des ordinateurs plus rapides que nous n’aurions jamais pu l’imaginer. Cette histoire commence donc avec ce personnage, George Dantzig, qui est fascinant. Et la lecture de ses propres écrits, tant ceux de l’époque des années 40 que ses souvenirs ultérieurs, est tout à fait intéressante.
Il était étudiant à la maîtrise à Berkeley. Il s’est engagé… Pendant la Seconde Guerre mondiale, il s’est enrôlé dans l’Aviation et a en quelque sorte dirigé ce qu’on appellerait aujourd’hui leur division de science des données, où l’on effectuait des calculs — il a créé tous ces grands tableaux statistiques et a tenté d’élaborer des plans avec les généraux, mais il se retrouvait constamment frustré par la façon dont les officiers supérieurs utilisaient ces statistiques une fois qu’elles étaient compilées.
Comme il le racontera plus tard, vous n’avez pas besoin de lire toute cette citation que je viens d’afficher ici. C’était simplement difficile de comprendre comment replacer tout cela dans son contexte.
Mais ce qui le frustrait constamment, c’était que — vous alliez voir quelqu’un et vous demandiez : « Qu’est-ce que… qu’est-ce qu’on essaie de faire? » Et la réponse était : « Gagner la guerre. » Puis, selon la personne à qui vous posiez la question, elle répondait : « Comment fait-on ça? »
Eh bien, vous savez, les gars de la Marine disaient : « On construit plus de navires. » Les gens de la Force aérienne disaient : « On construit plus d’avions. » C’était donc assez évident, mais Dantzig n’aimait pas le fait qu’il faille constamment s’en remettre à l’expertise, voire à l’autorité, pour prendre des décisions.
Ce qu’il aurait préféré, c’est que l’on puisse simplement énoncer quelques objectifs généraux et trouver des solutions stratégiques optimales. Et cela s’est avéré être une avancée assez radicale : on pouvait déterminer ce qui était réellement optimal si l’on parvenait à formuler les règles. Il a présenté ces travaux pour la première fois en 1948 lors d’une conférence à l’Université du Wisconsin-Madison.
Il s’agissait d’un atelier sur l’économétrie. Toutes ces personnalités éminentes étaient présentes, des noms que vous reconnaîtriez, notamment John von Neumann. Et c’est à cette occasion qu’il a affirmé pour la première fois que non seulement nous pouvions faire cela, construire ces modèles et prendre ces décisions, mais que nous pourrions y parvenir si nous disposions de machines.
Nous avons besoin de machines capables de calculer ces problèmes de programmation. Il est également très important de… C’est d’ailleurs très amusant de constater que le terme « programmation » – c’est probablement la première fois qu’il a été utilisé – n’avait pas le sens que nous lui attribuons aujourd’hui.
Même si je ne sais pas vraiment ce que nous entendons aujourd’hui, à l’ère des agents de codage. Mais peu importe, quand nous parlons aujourd’hui de programmation informatique et d’informatique, nous n’entendons pas la même chose que Dantzig. Pour Dantzig, la programmation s’inscrivait dans le contexte de la planification militaire : élaborer un programme pour construire des choses, les expédier à divers endroits et peut-être faire sauter des cibles.
C’était son domaine de prédilection. J’aurais également dû préciser qu’il était un… Il est resté dans l’Aviation royale pendant une décennie avant de rejoindre la RAND Corporation, puis de se retrouver finalement à Stanford.
Mais au sein de l’Aviation, il occupait ce que nous considérerions aujourd’hui comme un poste d’agent de programme; il a financé généreusement de nombreux types de recherche, notamment les premiers investissements dans l’informatique. Et c’est donc lors de cette réunion que l’on entre en quelque sorte dans le schéma habituel de ce genre de conférences. Harold Hotelling, un autre économiste et statisticien de renom, lui a dit quelque chose comme : « Ça ne marchera jamais.
Le monde est non linéaire. » Et John von Neumann lui a répondu : « Écoute, le conférencier a dit que son exposé portait sur la programmation linéaire, et si tu peux formuler un problème avec des contraintes linéaires et des coûts linéaires, alors tu devrais l’utiliser. Et si ce n’est pas le cas, ne l’utilise pas. »
D’accord. Je veux dire, Hotelling se disait, je crois : « Pourquoi devrions-nous dépenser tout cet argent là-dedans? » C’est une bonne question.
Mais cela a aussi marqué en quelque sorte le début, et c’est un exemple où l’on commence à se rendre compte qu’il faut en quelque sorte concevoir des systèmes pour s’assurer que les axiomes sont vrais. Il faut se placer dans cette étrange boîte où les axiomes sont vrais. Et honnêtement, il faut reconnaître à Hotelling que Dantzig n’avait pas une foule d’exemples.
Il avait un exemple, comme celui de l’affectation de personnes à des emplois, mais au début, il n’avait pas beaucoup d’exemples pour illustrer l’utilisation de la programmation linéaire. Mais un exemple amusant allait surgir très rapidement après cette rencontre. Euh, il est retourné à Washington, D.C., et les gens ont commencé à solliciter son aide pour contredire un économiste nommé George Stigler.
Voyons pourquoi. Voici donc un exemple où Dantzig a trouvé une application vraiment ingénieuse de la programmation linéaire. Je dois remonter 50 ans en arrière avant d’y arriver.
Dans les années 1800, toutes sortes de régions du monde étaient touchées par ce que nous appelons aujourd’hui les maladies de carence. Ce sont des maladies assez horribles. Personne ne savait comment les guérir.
La grande révolution a consisté à comprendre que ces maladies n’étaient pas causées par un germe, mais par un manque de certains nutriments. Il suffisait donc de veiller à ce que les gens n’aient pas une alimentation monotone pour les guérir. Ainsi, en rendant accessibles des aliments relativement simples, mais variés, on pouvait éliminer complètement toutes ces affections.
Et c’est assez étonnant de voir qu’il existe toute cette liste de maladies horribles, et que le remède consiste simplement à manger quelque chose. Juste un peu. C’est étrange qu’on ait en quelque sorte perdu cela de vue, parce qu’aujourd’hui, je crois qu’on associe les vitamines à des influenceurs vraiment agaçants sur Instagram.
Mais elles sont en réalité assez importantes; or, à l’époque, il n’était pas évident de comprendre qu’il ne fallait pas se contenter de manger du riz blanc tout le temps, ni de hot-dogs tout le temps. Il faut en quelque sorte diversifier un peu son alimentation. Ces découvertes ont d’ailleurs été faites, de manière surprenante, seulement dans les années 1910, et se sont poursuivies jusque dans les années 1930.
Donc, en gardant ces connaissances à l’esprit, il faut sensibiliser les gens sur ce qu’il faut faire, n’est-ce pas? On dispose de ces nouvelles connaissances – les scientifiques les ont découvertes, mais il faut maintenant les transmettre à tout le monde. Hazel Stiebeling, qui travaillait à l’USDA, a donc tenté d’élaborer des stratégies, notamment des campagnes de communication de l’USDA visant à sensibiliser la population à l’importance d’une alimentation équilibrée.
Stiebeling a obtenu son doctorat en chimie parce que, vous le savez, la théorie des vitamines relève de la chimie. Ce n’était donc pas si inhabituel à l’époque. Elle s’est retrouvée à l’USDA, où elle était responsable de l’économie alimentaire, et elle a publié certains de leurs premiers régimes alimentaires qui faisaient référence à l’apport en vitamines.
C’est d’ailleurs elle qui a notamment inventé l’expression « apports nutritionnels recommandés », que nous utilisons couramment aujourd’hui. Son ouvrage *Diets to Fit the Family Income* comportait donc cette petite introduction intéressante. Encore une fois, vous n’avez pas besoin de tout lire, mais voici l’essentiel : elle affirmait que le coût à lui seul ne constitue pas un critère permettant de juger de la qualité d’un régime alimentaire.
Il faut respecter la valeur nutritive, tout en tenant compte du coût. Bien sûr, les familles qui ont beaucoup d’argent à dépenser opteront pour un régime alimentaire généreux. Quant aux personnes soucieuses des coûts, elles opteront pour un régime au coût minimal, que l’on peut adopter. Rappelons que cet ouvrage a été publié en 1936, en pleine Grande Dépression; il est donc évident que les coûts constituaient une préoccupation majeure.
Voici donc les deux régimes : le régime généreux et le régime adéquat à coût minimal. Elle utilise ce terme de « coût minimal ». Et cela représentait environ 100 $ par année, en dollars de 1939, pour une famille de quatre personnes.
Oh, pardon, ces 100 $ par année, c’est pour une seule personne, pas pour toute la famille de quatre personnes. C’est important. On y reviendra dans un instant.
Mais vous pouvez voir qu’il comprend tout un tas d’aliments : du lait, des patates, etc. George Stigler, un économiste qui travaillait à Columbia à l’époque, il… Il a vu ça. Bon, Stigler n’était pas un… Je vous en dirai un peu plus sur lui dans un instant, mais il n’était certainement pas… disons qu’il se situait plutôt à droite de l’échiquier politique.
C’était sans aucun doute un économiste libertarien très conservateur, et le paternalisme de ce régime le dérangeait. Il a déclaré : « Ce n’est pas le coût minimal. » On ne devrait pas aller dire aux gens que c’est le coût minimal, et on ne devrait pas aller leur dire que cela a quoi que ce soit à voir avec la pertinence d’un régime alimentaire.
Et pour le prouver, il a rédigé cet article, qui provient de… Voyez-vous, Jeff apprécierait cet article parce que, de la première à la toute dernière phrase, tout y est sarcastique et méchant. Chaque ligne de l’article, ce qui montre clairement qu’on n’a plus le droit de faire ça. Mais oui, chaque ligne de cet article est clairement sarcastique et méchante.
Ce qu’il a fait, c’est qu’il a présenté sous forme de tableau les données obtenues de l’USDA, c’est-à-dire les apports nutritionnels recommandés. Je ne sais pas d’où ils ont tiré ce chiffre de 3 000 calories. Ça me semble élevé pour quelqu’un qui pèse 154 livres, mais bon.
L’obésité n’allait pas retenir l’attention de l’USDA avant quelques années. Mais il y a tous les autres objectifs à atteindre, et maintenant vous disposez de ce tableau. Il a obtenu ce tableau auprès du ministère de l’Agriculture, qui indique le coût en dollars de tous les aliments et de toutes les vitamines concernés.
Vous pouvez donc zoiner ici et voir, par exemple, toutes les farines et les différentes variétés de céréales, leur prix, la quantité de calories par portion, les protéines, le calcium, et ainsi de suite. Je dispose donc de cet immense tableau de coûts et de nutriments, et je peux en quelque sorte les assembler pour obtenir un programme linéaire. Étonnamment, la résolution de ce problème relève d’un programme linéaire, car le coût varie linéairement avec la quantité d’aliments.
Si je double la quantité d’aliments, le coût que je paie est également doublé. De même, la quantité de nutriments que j’obtiens est également multipliée par deux lorsque je double la quantité d’aliments. C’était donc parfait pour ce cas.
C’est exactement ce que Dantzig recherchait pour son modèle. Il s’agit du premier problème de programmation linéaire jamais consigné. Stigler a rédigé cet article en 1945, et il l’a résolu à la main.
On n’avait pas besoin de ces outils sophistiqués… Je sais exactement ce que Jeff pense de ça. J’imagine qu’il avait du temps libre.
Et il a mis au point un régime à coût minimal, ou du moins un régime qu’il jugeait abordable. Il n’était pas certain qu’il s’agisse du coût minimal. Il a procédé à de nombreux essais et erreurs, additionnant certaines colonnes, ajoutant des aliments et en retirant d’autres.
Mais cela lui semblait raisonnable, et c’était 2,5 fois moins cher que le régime proposé par Carpenter et Stiebeling. Donc, pas mal. Il était bien moins…
De toute évidence, ce qu’ils présentaient comme le coût minimal n’était pas du tout le coût minimal. Maintenant, à quoi cela correspond-il? En fait…
c’est bon à savoir. Donc, chaque jour, il faut manger une livre de farine, deux onces de lait évaporé, cinq onces de chou, une once d’épinards et cinq boîtes de haricots blancs. Ce qui, ouais…
ça fait rire. On pourrait nourrir une personne pendant une année entière pour seulement 90 $. Non, c’est encore moins.
C’est pour 40 $. 40 $. On pourrait nourrir une personne pendant un an pour 40 $.
Combien cela coûterait-il aujourd’hui? Si on allait chez Costco, je pense que ce serait à peu près la même chose. J’ai donc l’impression que ce serait pour des prix similaires, très similaires.
Maintenant, vous vous demandez peut-être : « Qu’est-ce que je mangerais? Ça a l’air vraiment mauvais. » C’est là qu’il est utile d’avoir une boulangère à la maison.
Ma femme n’est pas seulement une professeure d’histoire de l’art de renommée mondiale, mais aussi une pâtissière amateur, une excellente pâtissière d’ailleurs. Et elle a trouvé une recette qui répondrait en fait à toutes les exigences. Voici donc la tarte aux fèves.
Elle se trouve dans ce joli livre. Et je crois qu’on y retrouve pratiquement tous les ingrédients, même si je pense qu’il faut remplacer le jus de bacon par du lait. Ce serait la seule chose à faire, puisqu’on a le droit d’utiliser un peu de lait.
Oh, désolé, j’ai dû retirer le beurre. Et je pense qu’on aurait peut-être pu garder la poudre à pâte, mais techniquement parlant, ce n’est pas permis. Et il faut se débarrasser du reste des ingrédients.
Je pense qu’on est quand même assez près du but. Je pense que c’est suffisamment proche pour que cette modification fonctionne, et que vous puissiez manger une tarte aux fèves géorgienne, plusieurs tartes aux fèves géorgiennes chaque jour, une à chaque repas. Ce qui est fascinant là-dedans, c’est que même avant de commencer à optimiser, il était assez clair qu’un régime alimentaire optimal était grotesque.
Dantzig allait revenir sur ce sujet en 1990. Il aurait apparemment essayé de suivre un régime optimal pendant des semaines, et il n’arrêtait pas de modifier le modèle parce qu’il constatait sans cesse que les résultats obtenus étaient trop bizarres. Et c’est exactement ce que Stigler a constaté lui aussi : il modifiait le modèle et ajoutait des contraintes, jusqu’à ce que sa femme lui dise finalement : « Pourquoi ne te ferais-je pas simplement suivre mon régime? »
Nous avons alors cessé de nous en préoccuper, après quoi il a perdu 20 livres. Donc, vous voyez, j’ai l’impression que chacun peut choisir ce qu’il . Mais c’est en quelque sorte un microcosme de l’optimisation.
C’est devenu une histoire plutôt amusante. Le problème du régime alimentaire est le premier programme linéaire que nous enseignons à nos étudiants de premier cycle lorsque nous abordons la programmation linéaire. C’est facile à comprendre, mais on commence à se rendre compte à quel point c’est bizarre.
Par exemple, tout d’abord ça. Les apports alimentaires ne relèvent pas d’une science exacte. La quantité de nutriments dans les aliments n’est pas exacte non plus.
Une pomme Granny Smith et une pomme Honeycrisp vont contenir des quantités différentes de ces vitamines. Et il y a toujours… De plus, tout conceptualiser uniquement en termes de coût minimal est très étrange.
Ce n’est pas… on ne peut pas vraiment tout regrouper en une seule fonction de coût. Et savez-vous qui était d’accord avec cela?
C’était George Stigler. George Stigler, justement, affirmait qu’on ne pouvait pas intégrer tous ces éléments dans une seule fonction de coût. Il existe des objections fondamentales à la fusion des composantes physiologiques et culturelles de l’alimentation.
La première est que les jugements particuliers du diététiste concernant l’appétibilité minimale, la variété et le prestige sont à l’heure actuelle hautement personnels et non scientifiques, et ne devraient pas être présentés comme faisant partie d’un budget déterminé scientifiquement. C’est juste. La deuxième raison est que ces jugements culturels, bien qu’ils semblent assez modestes aux yeux des fonctionnaires et même des professeurs d’université, ne peuvent jamais être valables sous une forme aussi générale.
Or, personne ne peut affirmer avec certitude quelles sont les exigences culturelles d’une personne en particulier. Et à première vue, il sera toujours impossible de déterminer un régime alimentaire culturel minimal unique pour 140 millions d’Américains dont la diversité des origines, de la position sociale et des valeurs culturelles est immense. Vous savez, c’est…
Il a raison. Je pense que c’est juste. Ce qui est fascinant dans cette histoire, c’est aussi toute cette vision de l’optimisation.
C’est-à-dire qu’on aborde là deux types de choses différentes. On essaie de satisfaire deux groupes d’intérêt distincts, et je pense que ce serait… Que ce soit la droite ou la gauche dans ce pays, on utilise ce langage de l’optimisation quoi qu’il en soit. C’est donc fascinant.
Stiebeling allait par la suite devenir directrice de l’Institut d’économie domestique. Elle a été à l’origine de certains des premiers programmes de repas scolaires. Elle a été fonctionnaire pendant toute sa carrière, manifestement dévouée à l’amélioration de la vie des gens, mais aussi animée d’une vision très technocratique de la façon dont ces choses devraient fonctionner, et du rôle que devrait jouer le gouvernement.
Stigler, quant à lui, est surtout connu pour le concept de « captation réglementaire ». Il a remporté un prix Nobel d’économie.
Sans surprise, il s’est installé à l’Université de Chicago, où il s’est tout de suite intégré. Et je pense qu’il était en quelque sorte un penseur clé de la droite libertaire. On constate donc que cette tension est déjà présente et qu’elle se manifeste d’une manière vraiment étonnante à travers ce petit problème d’optimisation des plus simples.
Mais voici une anecdote amusante. Dantzig était intrigué et, étant lui-même un homme de la fonction publique, il avait plusieurs amis au sein du gouvernement.
Il a donc tenté de résoudre ce problème d’optimisation à la main. Pour ce faire, il s’est rendu au « Mathematical Tables Project », qui était encore en activité. Il s’agissait d’un projet de la WPA où des « calculateurs » utilisaient des calculatrices manuelles pour établir toutes sortes de tableaux de chiffres insolites.
Ensemble, en 120 heures-personnes, ils ont réussi à trouver la solution optimale, et le coût minimal réel s’élevait à 39,69 $. Ce qui battait le calcul de Stigler de 24 cents. Il y a donc deux leçons à tirer de tout cela.
Tout d’abord, les experts peuvent optimiser, et j’ai en effet une bonne intuition sur la façon de procéder à ces optimisations, mais celles-ci peuvent être automatisées. Nous n’avons donc pas nécessairement besoin d’experts ici. Nous pouvons les automatiser.
Mais nous sommes également confrontés, dès le départ, au problème que l’ordinateur dont nous disposons est trop lent et que nous avons besoin d’un meilleur modèle, et je dois rédiger une demande de subvention à cette fin. Certaines personnes connaissent ce sentiment. Aujourd’hui, c’était le cas dès le départ.
C’est ainsi que Dantzig, fort de ce résultat inspirant – il était d’ailleurs très inspiré –, a plaidé auprès de la Force aérienne pour qu’elle commence à financer ces projets informatiques. Il a fini par devenir l’un des principaux bailleurs de fonds d’un projet de l’Institut national des normes et de la technologie (NIST) appelé le SEAC, qui est sans doute la première machine dotée d’une architecture von Neumann à avoir été mise en service et à avoir été réellement fonctionnelle. Nous sommes en 1950.
Grâce à cet appareil, ils pouvaient calculer des programmes linéaires beaucoup plus complexes, ce qui a en quelque sorte donné le coup d’envoi de notre ère moderne, et nous savons plus ou moins ce qui s’est passé ensuite. Les ordinateurs sont devenus de plus en plus rapides, plus rapides que nous ne pouvions devenir plus intelligents. Et nous nous sommes retrouvés…
Je vais juste passer cette partie. Et nous nous sommes retrouvés dans cette situation étrange où nous sommes passés d’un ordinateur de 1954 capable d’effectuer 12 000 opérations par seconde à un ordinateur… J’ai perdu le mien.
Que nous perdons, vous savez, sur cette estrade qui affiche deux téraflops rien que pour le GPU. C’est tout à fait stupéfiant. Je pense donc qu’une grande partie de ce qui s’est passé, et ce vers quoi le livre vous emmène, c’est que l’on part d’une idée simple, alors que tout le monde sait que les choses sont un peu bizarres et erronées, puis on se laisse porter par cette idée, et on laisse les ordinateurs s’optimiser eux-mêmes jusqu’à prendre le devant.
Et à ce stade, on en vient en quelque sorte à oublier pourquoi ils sont bizarres et erronés, et on se retrouve là. Et ça fait partie de ça, et c’est un peu là où le livre se termine… Je vais juste sauter un peu plus loin.
Nous avons trop de diapositives. À la fin du livre — et j’y reviendrai plus tard —, on pose quelques questions sur les gens. Bon, d’accord.
Les autres chapitres du livre abordent tous ces différents aspects, en regroupant en quelque sorte le tout autour de cette idée de maximisation constante de l’utilité jusqu’au niveau des politiques publiques. Et cela nous a en quelque sorte amenés à nous demander : « Eh bien, si les ordinateurs sont doués pour ça, en quoi les gens sont-ils doués? » Qu’est-ce que les gens optimisent?
Et en fonction de quoi? En réalité, cela a donné lieu à de nombreux débats houleux, à de nombreuses disputes animées, à beaucoup d’allers-retours. Et je crois sincèrement que la seule chose que les gens peuvent… Je pense que la seule conclusion sensée à tirer de 75 ans de débats à ce sujet, c’est que les gens ne prennent pas de décisions mathématiquement rationnelles.
C’est la seule chose. Nous ne prenons pas de décisions de la même manière que nous concevons les ordinateurs pour qu’ils le fassent. Nous avions cette idée de ce qu’était une bonne prise de décision, puis on demande aux gens de le faire, et nous ne le faisons pas.
On ne le fait pas. Est-ce une bonne ou une mauvaise chose? Telle est la question.
Tout dépend en réalité des préjugés antérieurs de l’expérimentateur qui pose la question. La question est la suivante : est-ce mauvais que les gens s’écartent de la rationalité? Ou est-ce une bonne chose?
Et en fait, c’est ce qui nous rend différents et meilleurs. Je crois que le livre tente en quelque sorte d’aborder les deux aspects. Je pense que la réponse n’est pas si simple.
Je crois qu’il existe certainement des cas — et je les passe en revue dans le livre — où l’on dispose d’éléments statistiques très reproductibles et mesurables, non pas objectifs, mais très reproductibles et mesurables, que l’on aimerait réellement optimiser. Et dans ce cas, les ordinateurs sont efficaces. Et parfois, nous pourrions parvenir ensemble à un certain consensus à ce sujet.
Mais il y a aussi ces autres aspects qui sont singuliers, invérifiables et humanistes. Et je pense que c’est un peu ridicule d’essayer d’y faire entrer de force notre langage, même avec les machines qui nous le restituent aujourd’hui.
Je pense qu’il est un peu ridicule d’essayer de superposer de force n’importe quel langage computationnel à ces éléments-là. Je pense que, d’une certaine manière, la conclusion de ce livre s’intéresse à la façon dont les gens parlent de ce qui ce qui nous distingue réellement de la machine, et en quelque sorte ce qui distingue les institutions des personnes qui en font partie. J’ai donc abordé brièvement la différence entre les règles et le fait de jouer, entre les règles des jeux et le fait de jouer.
J’ai également évoqué brièvement, à la fin, une distinction établie par Joseph Weizenbaum concernant la différence entre une décision et un choix. Aux yeux de Weizenbaum, le choix est quelque chose qui est chargé de valeurs. La décision, quant à elle, est quelque chose qui peut être optimisée.
Et je pense que c’est peut-être là où on en vient, et peut-être ce vers quoi on se tourne pour l’avenir : je crois que l’essentiel ici, c’est qu’on peut choisir de changer les règles de toutes sortes de systèmes qui, en quelque sorte, nous régissent. Et cette souplesse, cette ambiguïté, c’est la part d’humanité qui, je crois, ne disparaîtra jamais. Très bien.
Sur ce, je vais redonner la parole à Marion, et nous allons discuter un peu.
[MARION FOURCADE]
Merci beaucoup. Ben, c’était formidable.
[BENJAMIN RECHT]
Merci.
[MARION FOURCADE]
Comme prévu.
[BENJAMIN RECHT]
Oh.
[MARION FOURCADE]
Alors, euh, en lisant le livre, j’ai été frappée par… Il y a beaucoup d’économie dedans, évidemment.
[BENJAMIN RECHT]
En effet.
[MARION FOURCADE]
Parce que l’informatique repose en grande partie sur l’analyse coûts-avantages et la théorie des jeux. Et vous avez… Donc, en gros, dans le livre, vous présentez ce que je considère comme deux critiques principales de la rationalité mathématique.
La première est simplement, comme vous venez de le dire, que les humains ne se comportent pas de manière rationnelle, n’est-ce pas? C’est ce qu’ont démontré Kahneman et Tversky, et il existe toute une littérature à ce sujet. Une autre critique, que vous avez également mentionnée, est qu’il existe des choses qui ne sont tout simplement pas mesurables, vérifiables, etc.
Vous savez, vous avez mentionné le plaisir que procure la soupe au poulet de grand-mère. Vous savez, c’est le genre de chose qu’il est tout simplement impossible d’optimiser. Mais je pense qu’il y a une troisième critique.
Celle-là, peut-être, qu’un sociologue adresserait à un économiste et, par extension, à un informaticien, à savoir que la rationalité mathématique tend à réduire le monde à des préférences individuelles. Il est donc très difficile de donner un sens à des phénomènes véritablement collectifs. Comme la solidarité, la légitimité, les biens publics, le partage — bien qu’il existe toute une littérature sur les biens publics —, mais aussi les significations partagées.
Je me demandais donc comment votre analyse répondait à cette critique concernant la façon dont comment nous concevons le social – puisque vous travaillez chez Social Science Matrix, j’ai pensé que c’était une question pertinente.
[BENJAMIN RECHT]
Tout à fait. Eh bien, c’est intéressant de constater qu’ils codifient énormément de choses; une grande partie de ce qu’ils font consiste à codifier les règles de l’engagement social, n’est-ce pas? Je veux dire, est-ce qu’on traite…
Je ne l’avais pas fait. C’est une fascination récente, mais si on regarde les organigrammes et les schémas d’architecture informatique, ils ne sont pas si différents les uns des autres dans la façon même dont on les conçoit. Je pense donc qu’une grande partie de la mentalité informatique consiste simplement à codifier tout ça.
Ça peut nécessairement codifier la solidarité, mais ça codifie surtout une certaine structure sociale et une hiérarchie. Et je pense que, genre… Une chose dont je n’ai pas parlé aujourd’hui, c’est que, très souvent, dans ces problèmes d’optimisation, on codifie l’avantage de la moyenne, ce qui est en quelque sorte un engagement envers l’idée que le bien de la population profite aux individus.
Que les gens le disent explicitement ou non, je pense que c’est bel et bien ce qui se passe, du moins implicitement.
[MARION FOURCADE]
Une autre question qui m’est venue à l’esprit : dans le livre, vous dites aussi cela. Vous savez, on dispose de décennies de données démontrant que bon nombre de décisions prises selon une rationalisation mathématique ne fonctionnent pas, n’est-ce pas? Il existe de nombreuses preuves que certaines d’entre elles fonctionnent extrêmement bien.
Mais dans de nombreux domaines, ce n’est pas le cas. Et donc, dans ces domaines où ça ne fonctionne pas, qu’est-ce qui, selon vous, fait perdurer cette tendance? Et encore une fois, j’essaie ici d’élargir un peu la conversation pour réfléchir peut-être à une sorte de…
La structure de, euh, vous savez, la structure économique, l’opportunisme politique, je ne sais pas. Vous voyez, qu’est-ce que c’est? Euh, est-ce le prestige des mathématiques?
Est-ce ça, vous voyez?
[BENJAMIN RECHT]
Parfois. Non. Non, je pense que le prestige des mathématiques en fait partie, mais ce n’est pas ainsi que je répondrais. Hmm. Je pense, encore une fois, que ça se résume à ça : il y a ce piège de la quantification dans lequel on tombe toujours.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Et, disons, les ordinateurs sont conçus à partir de ça. L’idée même que, que pour… La façon la plus simple de rendre quelque chose compréhensible pour un public plus large, c’est d’essayer de le rendre plus…
On le rend numérique. Mm-hmm. On dirait juste que c’est une tendance vers laquelle on se tourne naturellement.
Si on veut créer quelque chose de facile à communiquer à des gens qui ne vivent pas notre expérience immédiate, et qu’on veut peut-être transmettre ça plus haut dans la hiérarchie, ou expliquer ce qui se passe sur le terrain aux experts qui occupent les postes de haut niveau au bureau, ou aux moins experts, les gestionnaires là-haut dans les bureaux. À partir des experts, on quantifie. On consigne nos mesures sous forme de chiffres.
Et puis, une fois qu’on… on tombe dans ce piège, n’est-ce pas? Donc, une fois que c’est quantifié, c’est peut-être objectif. Bon, évidemment, je m’inspire ici des sciences sociales.
Je pense donc que c’est un trope récurrent dans de nombreuses études scientifiques : il y a cette idée que… C’est naturel, on a simplement, vous savez, on l’a rendu quantitatif parce que c’était plus facile, et puis tout à coup, on a oublié… Oh, attendez, non, ce chiffre est désormais objectif parce qu’on a éliminé une grande partie du pouvoir discrétionnaire dans le processus consistant à consigner cette information lisible. Et dès qu’une chose est objective, cela signifie qu’elle fait autorité. Et dès qu’une chose fait autorité, elle est dotée d’un pouvoir.
Et je pense que le pire, c’est que, comme nous sommes toujours à la recherche de ces indicateurs et mesures simples, et dans ce contexte très… Et maintenant que nous disposons de ces outils qui rendent la tâche vraiment insignifiante, nous en venons même à oublier que nous le faisons encore.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Et je pense que c’est pour ça que c’est partout. C’est comme si chaque chaque information que nos téléphones détiennent à notre sujet est quantifiée à travers ce prisme étrange. On n’a aucune idée, genre, quand on interagit avec quoi que ce soit.
On interagit avec n’importe quoi, qu’est-ce qu’on peut faire? On appuie sur « J’aime ». Peut-être qu’on reçoit plus d’émojis ces jours-ci, mais la plupart du temps, c’est juste « J’aime » ou « Retweeter » ou autre chose.
Ce sont ces quelques petites interactions, et ça se passe comme ça. Et puis… On se retrouve de l’autre côté des clics et de toutes ces informations éparses, et on essaie d’y voir clair.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Mais on regarde ça à travers le mauvais prisme. Et ce n’est pas seulement un phénomène lié au téléphone intelligent. Je veux dire, ça se produit aussi avec le dossier de santé électronique.
Ça se produit aussi à travers cette vision étroite des évaluations scolaires de nos enfants. Et tout est en quelque sorte canalisé à travers cette approche quantifiée et facilement tabulaire : on le met dans une feuille de calcul, on le traite, puis on peut voir si on atteint l’analyse coûts-avantages qu’on a promise.
[MARION FOURCADE]
Mm-hmm. Alors, y a-t-il, y a-t-il une sorte d’intérêt politique ou économique derrière ce processus?
[BENJAMIN RECHT]
C’est vrai. C’est une excellente question. C’est une excellente question.
Je ne sais pas, dans quelle mesure est-ce délibéré? Je pourrais peut-être te demander : dans quelle mesure penses-tu que c’est délibéré? Parce que, tu sais, si les gens ne ne le savent pas.
Marion a peut-être aussi écrit un livre là-dessus, sur les intérêts politiques qui se cachent derrière tout ça. Parce que c’est parfois difficile à dire. J’ai l’impression que parfois, ce sont ces choses culturelles, ces forces culturelles.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Comme si les gens, ceux qui agissent, avaient une capacité d’action.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
C’est juste que, collectivement, on se retrouve en quelque sorte dans cette situation où on devient des rouages d’une machine, même si je pense que c’est un peu la même chose. La manifestation globale est très différente de ce qui se passe sur le terrain. Il se pourrait donc très bien que j’éprouve réellement beaucoup de plaisir à cliquer sur ces éléments sur mon téléphone, et c’est une bonne chose, ce n’est pas addictif.
Et puis, à grande échelle, on se retrouve face à tous ces autres problèmes.
[MARION FOURCADE]
Mm-hmm. Mm-hmm.
[BENJAMIN RECHT]
Qu’en penses-tu?
[MARION FOURCADE]
Eh bien, je veux dire, il y a toute une histoire de la quantification qui montre en quelque sorte que, tu sais, en partie, la quantification — Ted Porter et d’autres — montre en quelque sorte que la quantification est en partie apparue parce qu’elle était extrêmement utile sur le plan politique pour surmonter toutes sortes de conflits politiques, n’est-ce pas? On a des chiffres, et donc, tu sais, et ils deviennent la source fiable qui permet en quelque sorte de régler toutes sortes de différends politiques. C’est donc une façon d’envisager la question.
Mais je conviens qu’il y a aussi, vous savez, il y a aussi des cas où certaines de ces technologies que l’on voit aujourd’hui, en particulier dans le secteur des technologies, se développent à des fins de profit économique.
[BENJAMIN RECHT]
Oui.
[MARION FOURCADE]
Donc, on optimise essentiellement pour amener les gens à cliquer davantage, et ainsi de suite. On n’a pas abordé la question de savoir quel est le but de cette optimisation. Tu as beaucoup parlé du processus, n’est-ce pas? Mais on n’a pas… tu n’as pas vraiment remis en question ce qu’on optimise.
[BENJAMIN RECHT]
Alors, oui, minimiser les coûts. D’accord. Maximiser les profits.
[MARION FOURCADE]
Oui.
[BENJAMIN RECHT]
C’est exact. On pourrait faire d’autres choses.
[MARION FOURCADE]
D’accord.
[BENJAMIN RECHT]
On pourrait faire d’autres choses. Je pense qu’un des chapitres les plus intéressants est celui où j’ai eu l’impression que… J’ai reçu quelques commentaires de gens qui disaient : « Ce livre traite surtout d’économie comportementale.
On n’y parle pas d’ordinateurs. » J’ai l’impression de ne pas avoir répondu à leurs attentes. Je m’en excuse.
Mais il y a un chapitre où l’ordinateur ne semble pas jouer un rôle majeur, même s’il a en réalité été à l’origine d’une grande partie de la collecte de données : c’est le chapitre sur les essais cliniques.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Et les essais cliniques constituent ce cas particulier très intéressant où l’argument était que vous maximisiez le bien public.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Vous maximisiez directement un bénéfice pour une population. Alors, devrions-nous administrer le vaccin contre la polio à tous les enfants de ce pays? Il faut démontrer que ces vaccins peuvent être administrés en toute sécurité aux enfants et qu’ils réduisent effectivement de façon significative la poliomyélite.
C’est ainsi qu’ils ont mené cet essai à grande échelle auprès de centaines de milliers d’enfants pour vraiment démontrer ces avantages. Ou encore, devrions-nous, vous savez, il y a des questions simples. Devrions-nous aller passer des dépistages pour tous les types de cancer?
Est-ce que cela profite à tout le monde? L’idée de l’Institut national du cancer et d’autres organismes associés aux NIH était donc que la réalisation de ce genre d’essais permettrait d’éliminer une partie de l’arbitraire . Et en fait, bon nombre d’essais randomisés ont été lancés précisément parce que des médicaments mortels étaient mis sur le marché, et la FDA s’est vu confier le mandat suivant : « Vous devez déterminer si ces substances sont toxiques ou non ».
Hum, il y avait donc cette exigence explicite — peut-être pas d’optimisation, mais au moins la garantie que ce n’était pas le cas. Oui, vous savez, ou, espérons-le, que cela ne causerait pas réellement de préjudice.
[MARION FOURCADE]
Mm-hmm. C’est donc en fait la réponse à ma première question sur les biens collectifs, en quelque sorte. Oui. Oui. J’ai donc une question, et c’est peut-être un peu une question piège, euh, mais je… j’ai une question sur les grands modèles de langage (LLM).
[BENJAMIN RECHT]
D’accord, allons-y.
[MARION FOURCADE]
Ce qui est en quelque sorte… tu sais, une extension. Eh bien, tout d’abord, les considères-tu comme une extension de cette logique?
[BENJAMIN RECHT]
Oui. Je veux dire, dans une certaine mesure. Et puis ce qui en ressort est bizarre.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Je dirais sans hésiter que oui, puisque j’en parle. L’un des premiers projets modernes d’apprentissage automatique était le LLM. Claude Shannon l’a mis au point en 1945. C’est comme si ça existait déjà.
[MARION FOURCADE]
Mm-hmm.
[BENJAMIN RECHT]
Et c’est comme s’il faisait… Ce n’est pas si différent de ce qu’on fait aujourd’hui. C’est juste qu’aujourd’hui, on le fait sur des ordinateurs beaucoup plus puissants avec des corpus beaucoup plus volumineux.
Il s’y est pris en prenant un livre, en le parcourant et en comptant réellement la fréquence à laquelle telle lettre suivait telle autre dans une biographie de Thomas Jefferson. Aujourd’hui, nous travaillons avec des corpus beaucoup plus vastes et des ordinateurs beaucoup plus puissants. Donc, dans un certain sens, la logique est la même.
Oui. Et pourtant, ce qui en ressort est très étrange, n’est-ce pas?
[MARION FOURCADE]
Oui, et c’est ce que je veux comprendre. Quel est donc le rôle des LLM dans la prise de décision? Oui, parce que nous n’utilisons pas les LLM pour prendre des décisions, mais nous les utilisons de plus en plus comme aides à la décision, pour nous aider en quelque sorte à raisonner, à porter des jugements, à rédiger cette revue de la littérature dans un article, à rédiger un avis juridique, à résumer une affaire ou quoi que ce soit d’autre, n’est-ce pas?
Et donc, de plus en plus, ils définissent le cadre conceptuel à travers lequel on, en quelque sorte… réfléchit et, en fait, argumente, ce qui, comme vous le dites, est l’aspect proprement humain auquel on devrait vraiment tenir et s’accrocher. Alors, comment le cadre du livre change-t-il si la pensée morale elle-même vient à être façonnée par les processus mêmes que vous…
[BENJAMIN RECHT]
mettez l’accent? Oui, je veux dire, eh bien, on pourrait dire des choses similaires à propos de la recherche d’information, n’est-ce pas? Mm-hmm.
Ce qui est une autre question. Pour revenir aux points que vous souleviez. Je trouve qu’il y a quelque chose d’un peu étrange dans le fait qu’ils s’adressent aussi à vous.
Oui. Exactement. Je comprends.
C’est quelque chose qu’ils apprécient. C’est une question avec laquelle je me débats encore, en essayant de me demander : quelle est la bonne façon d’envisager ces technologies? En ce qui concerne la prise de décision, c’est un peu compliqué, parce que je pense que souvent, comme les LLM font l’objet d’un tel battage médiatique, tout le monde s’enthousiasme à leur sujet.
Parfois, on perd de vue le fait qu’une grande partie de la prise de décision automatisée n’est pas le fait des LLM. Mon ami Kevin Baker vient d’écrire un très bon article qui met en lumière cette tension dans le contexte de la guerre en Iran, où les gens essayaient d’attribuer une grande partie de la responsabilité à ces LLM pour les décisions concernant les cibles à bombarder et les erreurs commises lors des bombardements. Mais en réalité, c’est ce projet Maven, géré par Palantir, qui effectue tout ce travail de synthèse et d’évaluation rapide des cibles.
Du coup, ça détourne presque notre attention de la cible…
[MARION FOURCADE]
Oui,
[BENJAMIN RECHT]
le problème, c’est Palantir. Mais je pense que nous le savons tous. Mais le…
Mais bon, pour revenir à ton autre question, c’est que ces machines linguistiques ne semblent en fait obéir à aucune logique ni rationalité, ce que je trouve plutôt amusant, non? Elles ne font que nous renvoyer de la poésie que nous associons d’une manière ou d’une autre, dans notre tête, à ce dont nous avions besoin qu’elle soit.
[MARION FOURCADE]
Oui, c’est ce qu’on croit.
[BENJAMIN RECHT]
Je sais.
[MARION FOURCADE]
On y voit cette logique, n’est-ce pas?
[BENJAMIN RECHT]
On l’associe à ce qu’on veut bien qu’elle soit.
[MARION FOURCADE]
Oui, exactement. C’est vrai.
[BENJAMIN RECHT]
Exactement. C’est vrai. C’est vrai.
[MARION FOURCADE]
Exactement.
[BENJAMIN RECHT]
C’est vrai. Mais c’est similaire. C’est juste drôle de voir comment on obtient un langage déconnecté de toute réalité, n’est-ce pas?
Si je lis ton livre, je le traite différemment du texte produit par ces machines. Et la question est : à qui allons-nous accorder de l’autorité? C’est… C’est délicat.
Je pense que bien souvent, on accorde en quelque sorte de l’autorité à ce qu’elles produisent et on suppose simplement que ça va nous donner les bonnes réponses. Alors, oui, je devrai peut-être écrire un deuxième tome dans quelques années. On verra.
On verra.
[MARION FOURCADE]
Ce serait formidable pour nous tous. Bon, je vais peut-être terminer par cette question. Vous êtes professeur au département d’EECS.
[BENJAMIN RECHT]
Oui,
[MARION FOURCADE]
écrire un livre qui, en quelque sorte, explique au milieu que, vous savez, le… Eh bien, qui revient sur l’histoire de la discipline et qui s’interroge en quelque sorte sur les failles de cette, vous savez, de la façon dont cette histoire s’est déroulée. Et donc je me demandais comment cela est perçu. Quelle est la réaction au sein de l’informatique?
[BENJAMIN RECHT]
De nombreux étudiants à la maîtrise en informatique m’ont aidé à écrire ce livre. Mon groupe a donc été très impliqué, et ils s’y sont vraiment investis, mais nous avons aussi organisé un séminaire il y a quelques printemps, où un excellent groupe d’étudiants s’est penché sur ces idées. Je pense que nous sommes tous assez ouverts à ça.
Je pense que beaucoup de gens en informatique sont un peu… Tu sais, on finit tous par faire de l’informatique pour des raisons bizarres… Oui, pour des raisons différentes.
Beaucoup d’entre eux, il y en a beaucoup, vraiment, comme Jeff et moi, qui jouions tout simplement beaucoup avec les ordinateurs quand on était enfants. C’était donc en quelque sorte une façon tout à fait naturelle de s’orienter vers l’informatique. Mais je pense que parfois, on ne…
C’est facile parce que le domaine évolue si vite, et il y a toujours… un nouvel ordinateur, et il y a toujours quelque chose de nouveau à envisager, qu’on ne prend jamais la peine de se demander : « D’où vient tout ça? » Et c’est drôle de revenir en arrière et de constater que… tout est resté.
Il y a évidemment des événements importants qui se sont produits avant 1945 et qui ont influencé l’informatique, mais tant d’idées surgissent tout à coup. Mm-hmm. Et ensuite, on en fait tout simplement notre conception, on s’en sert par la suite, et on en arrive au présent.
Donc je pense, je ne sais pas, je pense que beaucoup d’informaticiens s’intéressent à retracer cette lignée parce qu’on essaie tous de déterminer ce qu’on va faire ensuite. Et parfois, attendre le prochain GPU plus cher est moins satisfaisant.
[MARION FOURCADE]
Super. Merci. On va donc passer à la séance de questions-réponses.
[MEMBRE DE L’AUDITOIRE]
Alors, oui. Oh, wow. Merci.
J’ai adoré. Ce n’est pas une surprise, vous savez peut-être déjà que j’aime ce livre. Mais je me demandais, pour rebondir sur la question de Mary Ellen concernant les LLM, s’ils ne sont pas… Un cas extrême de, vous savez, un système d’optimisation optimisé pour une seule chose, n’est-ce pas?
Le prochain token, ou le prochain token qui me rendra heureux, ou le prochain token qui… peu importe, n’est-ce pas? Et puis, toutes les applications pratiques ne sont pas comme ça, n’est-ce pas? Par exemple, quand je lui demande de la poésie, n’est-ce pas?
C’est-à-dire qu’il n’est pas optimisé pour ça, n’est-ce pas? Il est optimisé pour autre chose.
[BENJAMIN RECHT]
Bien sûr.
[MEMBRE DE L’AUDITOIRE]
Et je me demande donc si ce n’est pas simplement un cas extrême de système optimisé pour une seule chose, puis utilisé ou appliqué à autre chose, et peut-être que c’est une invitation à réfléchir à, disons, eh bien, tous ces systèmes d’optimisation sont réappropriés et utilisés à des fins pour lesquelles ils n’avaient pas été initialement optimisés. Donc, en ce sens, ce n’est peut-être pas si étrange, mais c’est peut-être une invitation à réfléchir davantage à d’autres cas qui sont un peu similaires à cet égard.
[BENJAMIN RECHT]
C’est vrai. Ouais, ouais,
ouais. C’est intéressant. Je pense que beaucoup de systèmes d’optimisation sont simplement utilisés pour leur objectif d’optimisation.
Comme le routage et les chaînes d’approvisionnement. C’est juste… Par exemple, il y a certains problèmes classiques de recherche opérationnelle où c’est tout simplement ce qu’on fait.
C’est tout simplement ce qu’on fait. Ce qui m’intéresse particulièrement dans l’évolution de l’apprentissage automatique, c’est que pendant un certain temps, il s’agissait surtout d’optimiser une seule chose.
Et aujourd’hui encore, on utilise le langage de l’optimisation. Les gens adorent parler d’optimisation, mais ce sont des artefacts logiciels très complexes qui ont été optimisés pour toutes sortes de choses différentes à différents moments. Pour les gens – je veux dire, on pourrait passer beaucoup de temps à expliquer comment on construit le produit que vous voyez devant vous lorsque vous ouvrez une fenêtre ChatGPT, parce que ce n’est pas simplement ce simple
On prédit un jeton à la fois. On commence par là, mais ensuite on ajoute toutes ces étapes pour affiner les instructions. On fait tout ce qu’il faut pour obtenir des commentaires humains qui permettent d’ajuster le modèle.
Ils ajoutent tout un tas de données synthétiques générées par des logiciels. Ils font toutes sortes d’autres choses. Ils intègrent le tout dans une API.
Et donc, nous nous retrouvons maintenant avec cet artefact logiciel complexe qui fonctionne parfois et parfois non. Qui est censé être polyvalent, quoi que cela puisse signifier. Et c’est une situation très étrange.
C’est un résultat final étrange. Je ne comprends toujours pas. Je veux dire, c’est incroyable.
Mais je dirais que 99 % de mon utilisation de l’ordinateur… … n’est pas ça, n’est-ce pas? 99 % de mon utilisation de l’ordinateur consiste à espérer que… … l’écran s’allume quand je branche le câble.
[MARION FOURCADE]
Oui. Oui, c’est tout à fait vrai.
[MEMBRE DE L’AUDITOIRE]
C’est donc une présentation fascinante, et l’une des choses qui m’a vraiment frappé, c’est au début de votre exposé, lorsque vous avez évoqué le nombre de ces avancées intellectuelles qui ont toutes eu lieu dans les années 1940, et que vous vous êtes demandé ce qui rendait cette période si particulière. Vous l’avez mise en lien avec la Seconde Guerre mondiale, et je me disais qu’il y avait peut-être une autre raison importante à ce qui se passait à cette époque, à savoir la Grande Dépression. Et en particulier, on venait de traverser une crise massive, notamment du système économique, de l’idée selon laquelle le simple fait de laisser les gens fonder des entreprises, les diriger, vendre tout ce qu’ils peuvent vendre et acheter tout ce qu’ils ont envie d’acheter mènerait à
[BENJAMIN RECHT]
Tout type d’ordre nous permettant d’atteindre nos objectifs semblait avoir été discrédité. Il y avait, c’est vrai, tu sais, une grande réceptivité à l’idée que, disons, le gouvernement joue un rôle plus important dans la planification des choses.
[MEMBRE DE L’AUDITOIRE]
Ce qui, en principe, pourrait permettre au monde d’être organisé plus efficacement. Et je me demande dans quelle mesure le climat intellectuel qui a conduit à ces développements a pu être lié à cela.
[BENJAMIN RECHT]
Oui, c’est tout à fait vrai. Je veux dire, il y a tellement de choses qui se passent en même temps. Je pense qu’il y a…
Il y a ce petit groupe de personnes qui travaillent sur des ordinateurs et qui se sentent isolées; d’ailleurs, si on lit leurs propres souvenirs, elles en parlent comme si elles étaient isolées. Mais évidemment, il y a ces autres forces autour d’elles. Le fait que l’État administratif se développe presque aussi vite que la loi de Moore est intéressant, n’est-ce pas?
Je veux dire, il y a eu une explosion phénoménale. On aurait pu croire que les gens se sont probablement détournés de ces solutions pendant la guerre, ou peut-être que, disons, une grande partie de la structure s’est mise en place pendant la guerre. Mais j’en suis convaincu à 100 % : pour revenir à l’exemple de l’Administration des aliments et des médicaments (FDA), la première loi adoptée en 1938, qui stipulait qu’ils devaient rendre les médicaments sûrs et efficaces, était également une réponse à cette situation de « tout est permis » sur le marché des médicaments.
Mais ce n’est vraiment qu’en 19… Oups, j’oublie l’année… 1962, que la loi a été codifiée pour exiger la réalisation de ces essais cliniques randomisés (ECR) très restrictifs. Il a donc fallu un certain temps pour mettre tout cela en place. Je suis toutefois d’accord avec vous pour dire que les germes de ces changements avaient déjà été semés avant la guerre.
[MARION FOURCADE]
Oui, il y en a un ici, et puis là-bas, au fond.
[MEMBRE DE L’AUDITOIRE]
Hein? Merci. Je ne sais pas si le micro fonctionne, mais je partais du fait que le prix minimum pour le meilleur régime alimentaire n’était qu’à quelques cents près. Je voulais que vous commentiez… Je veux dire, on dirait que ces derniers temps, on est obsédés par l’idée de faire ce qu’il y a de mieux.
[MARION FOURCADE]
Oui.
[MEMBRE DE L’AUDITOIRE]
Mais pour la plupart des activités auxquelles nous nous adonnons, la plupart des conseils qu’on nous demande de donner ou que nous suivons, l’objectif est plutôt modeste. Pourriez-vous commenter cette sorte de… je ne sais pas… fétichisation de l’optimum, alors qu’en réalité, c’est généralement assez modeste. On veut peut-être éviter de se mettre la pression.
[BENJAMIN RECHT]
Tout à fait, oui. Tout à fait. Je pense que c’était le cas, surtout lorsqu’il s’agit de réfléchir à nos propres vies. Et les gens ont compris assez rapidement que, dans la plupart des cas, on veut simplement obtenir quelque chose de correct, de suffisamment bon.
Herbert Simon avait cette idée de « satisfaire » plutôt que d’« optimiser ». On « satisfait » ou on « satisfait » – c’est ainsi qu’il l’appelait. Le « satisficing ».
C’est tout ce qu’on a à faire. On doit simplement atteindre un niveau « assez bon ». Mais je pense que le…
C’est drôle de se dire : puisque je peux calculer la solution optimale, pourquoi ne le ferais-je pas? De plus, ça devient souvent un état d’esprit très répandu, n’est-ce pas? C’est à ma portée, pourquoi m’en contenterais-je de moins?
Il faudrait qu’une autre sorte de contretemps, ou quelque chose d’autre, une autre sorte de contrainte, surgisse avant que les gens soient en mesure de… de dire non à l’idée de simplement faire ce qui semble être la meilleure solution? Eh bien, la réponse facile, c’est qu’on a en quelque sorte oublié le travail qu’il faut fournir pour atteindre le meilleur, parce qu’aujourd’hui, on vise simplement le meilleur sans même penser au temps que ça prend, ni à l’énergie que ça demande.
Oui. Il me semble qu’il y a un lien : il y a des gens qui se consacrent à ça.
[MEMBRE DE L’AUDITOIRE]
Des systèmes d’optimisation sans coût, c’est la machine qui s’en charge. Oui. Mais d’une certaine façon, cet état d’esprit se transpose et on ne pense pas aux coûts de développement nécessaires pour déterminer ce qu’on va manger pour le souper. On… C’est juste un mauvais exemple.
[BENJAMIN RECHT]
Eh bien, je… Non, non, non, c’est un excellent exemple, parce que je pense que c’est toujours ce qui laisse perplexe. Surtout, je veux dire, je pense que cette histoire d’optimisation est dans tous les esprits en ce moment.
Et les gens adorent prétendre qu’ils peuvent tout optimiser. Mais comme tu l’as dit, la complexité même qu’implique la rédaction d’un modèle qui reflète la réalité dans laquelle on vit, y compris ces limites de calcul, et la frustration de devoir essayer de résoudre un problème d’optimisation à chaque microseconde, c’est tout simplement trop. Donc, même si on a cette idée, je crois que j’ai mal compris votre question.
Nous avons cette idée d’aspirer à cette optimalité. Il n’y a jamais rien d’aussi simple que ce problème de régime alimentaire. Même ce problème-là n’est pas simple.
[MEMBRE DE L’AUDITOIRE]
Merci pour vos remarques et vos questions. Je me demandais si l’on pouvait aborder un peu la préhistoire du XIXe siècle, avant la Seconde Guerre mondiale, car j’ai l’impression que, certes, cette guerre a sans aucun doute catalysé certaines choses, mais à mon sens, il s’agit simplement d’une évolution logique de la science, en gardant à l’esprit que la science s’appelait en fait autrefois la « philosophie naturelle ». C’est une philosophie des phénomènes naturels, marquée par de grands débats et des influences théologiques, peut-être projetées sur ces phénomènes. J’ai donc l’impression qu’il s’agissait en réalité d’un progrès civilisationnel : disposer d’une sorte de méthodologie pour aborder un sous-ensemble de questions qui intéressent les gens.
Et la mesure de phénomènes que plusieurs personnes peuvent observer est au cœur même du développement de la science occidentale. Et…
[BENJAMIN RECHT]
Pour moi, c’est en fait très profond. C’est une forme d’intersubjectivité. Ce n’est pas simplement une personne qui proclame que Dieu a dit que la gravité fonctionne de telle ou telle manière.
Donc, oui, il y en a. Il y a de nombreux problèmes sociaux qui peuvent en découler, mais je pense que la capacité de disposer de quelque chose que les gens, plusieurs personnes, peuvent observer et examiner de manière beaucoup plus directe plutôt que de débattre d’une valeur abstraite telle que la liberté ou Dieu, cela, dans le domaine où c’est applicable, constitue un énorme progrès, et il ne faut pas minimiser cela. Et ma modeste réflexion initiale, qui pourrait peut-être servir de correctif à certaines de ces choses, est de toujours répondre, lorsque les gens affirment : « C’est la solution optimale », de leur répondre : « Sur quelle base? »
[MEMBRE DE L’AUDITOIRE]
L’évaluation. Parce que c’est vrai, la fonction de coût est extrêmement répandue, mais les gens optimisent de bien des façons différentes. Certains semblent optimiser la valeur de divertissement pour eux-mêmes, par exemple, tandis que d’autres pourraient même chercher à éviter de regarder certaines choses.
Je ne sais donc pas si vous avez des commentaires à ce sujet.
[BENJAMIN RECHT]
Je ne… euh, eh bien, cette affirmation recouvre beaucoup de choses, car je pense qu’il y a différents aspects. Je veux dire, ce qui est important ici, c’est qu’on ne pouvait pas le calculer tant qu’on n’avait pas d’ordinateur.
Donc l’objectivité, c’est… très limitée… Oui, sauf pour les très petits problèmes, et je pense que c’est là le grand changement, oui.
Oui. Oui, Eli, vas-y.
[ELI]
Oui, j’ai donc une question d’ordre historique. Revenons à la Seconde Guerre mondiale. Le jour J représentait le plus grand et le plus important problème d’optimisation de l’époque.
Et Eisenhower a été nommé général en charge du jour J parce qu’il avait la réputation d’être un expert en logistique. Or, je trouve ça très fascinant d’apprendre que, bien sûr, les calculs mathématiques pour la logistique n’ont été mis au point qu’un an après le jour J. C’est bien ça?
C’est ce que vous nous avez dit.
[BENJAMIN RECHT]
Quelques années, oui.
[ELI]
Quelques années après le jour J. Et les… les ordinateurs permettant d’effectuer de véritables calculs n’ont été disponibles qu’en 1950.
[BENJAMIN RECHT]
C’est exact.
[ELI]
Donc, la date de naissance de ce genre de choses, c’est 1950. Mais j’aimerais que vous me confirmiez : est-ce que j’ai bien compris la chronologie? Parce que c’est une histoire incroyable : ils ont réussi le jour J sans aucun de ces calculs.
[BENJAMIN RECHT]
Oui, oui. Je pense que l’autre aspect, en quelque sorte en parallèle, c’est cette histoire incroyable : l’une des raisons pour lesquelles ces gens s’intéressaient tant à ces choses, c’est qu’il y avait eu une implication sans précédent des universitaires dans la Seconde Guerre mondiale, d’une manière qui n’avait tout simplement jamais été vue auparavant. Vannevar Bush, que l’on connaît un peu pour diverses raisons, a conçu l’un des tout premiers ordinateurs, et au-delà de cela, il est devenu un conseiller du gouvernement…
Il a joué un rôle de conseiller de premier plan pour une grande partie de l’effort de guerre. Il avait travaillé au MIT, et il a convaincu le gouvernement de financer une quantité énorme de recherche, d’investir des sommes considérables, notamment au MIT, beaucoup à Princeton, pour soutenir l’effort de guerre d’une manière qui n’avait jamais été vue auparavant. Il y avait donc toutes sortes de discussions à ce sujet.
Je ne sais pas dans quelle mesure, ce n’est pas vraiment clair. Je ne sais pas si je devrais pouvoir le déterminer pour plus tard. Je prendrai note de ça pour plus tard.
Je ne sais pas dans quelle mesure tout cela est réellement parvenu jusqu’à Eisenhower lui-même. Mais ils étaient sans aucun doute impliqués d’une manière sans précédent. Nous connaissons bien sûr le projet Manhattan, mais ils étaient également très profondément impliqués dans une grande partie de la logistique et de la planification qui ont eu une influence considérable sur des personnes que, vous savez, nous connaissons.
Par exemple, Wiener travaillait sur les systèmes de ciblage, ce qui allait déboucher après la guerre sur la théorie de la détection et de l’estimation. C’est donc très intéressant de voir comment, pour la première fois, on a en quelque sorte considéré l’Académie américaine comme un élément crucial et essentiel à cet effort. Oui,
[MARION FOURCADE]
une question au fond. Oui,
[BENJAMIN RECHT]
on va en prendre encore quelques-unes.
[MARION FOURCADE]
Bien sûr, bien sûr, bien sûr. On est…
[MEMBRE DE L’AUDITOIRE]
Hé, mec. Je suis curieux de savoir ce que tu penses de la façon dont l’optimisation et la quantification peuvent servir, je suppose, comme on l’a évoqué plus tôt, de base pour mener des discussions où l’on pourrait réellement dire : « Bon, voilà ce qui ne va pas. » Contrairement à un problème qui revient souvent, par exemple, dans la prise de décision en affaires et la recherche opérationnelle, et toutes ces choses-là, c’est que quand on se retrouve dans une salle avec quatre autres personnes et qu’on essaie de dire ce qui est juste, qui a raison, ça devient très vite personnel.
Et je pense… Oui, l’un des avantages — et je ne sais pas trop d’où cela… vient, si c’était, je suppose, une intention sociologique derrière la quantification et la transformation de tout en données —, c’est que maintenant, on a quelque chose à montrer du doigt en disant : « Voilà ce qui devrait être. » J’ai un curseur que je peux réellement déplacer, plutôt que de devoir dire à quelqu’un qu’il a tort.
[BENJAMIN RECHT]
Je dirais que, eh bien, je pense que ça pourrait être très destructeur pour toi de penser en termes de choix rationnel — d’inscrire ta vie personnelle dans un cadre de choix rationnel, puis d’essayer que tout soit optimal. Parfois, quand tu dois prendre une décision avec un groupe de personnes, le choix rationnel est une bonne façon de mettre de côté l’aspect émotionnel. Par exemple, vous pouvez tous noter par écrit vos engagements, et parfois l’optimum, c’est de s’entendre sur ce système particulier de rationalité pour prendre de la distance par rapport aux autres éléments qui vous empêchent en quelque sorte de prendre une décision.
Et un exemple classique qui n’est peut-être pas… je ne sais pas, je pense que c’est utile, c’est le programme de jumelage des résidents, qui est un système très complexe permettant aux jeunes diplômés en médecine de trouver leur programme de résidence. Et il s’est avéré que cela a permis d’éliminer bon nombre de ces décisions animées, de ces disputes et de ces préjugés, pour aboutir à quelque chose qui n’est peut-être pas parfait, mais nous disposons désormais de règles sur lesquelles tout le monde s’entend et de systèmes qui apportent un peu plus de transparence.
Alors, oui.
[MEMBRE DE L’AUDITOIRE]
Bonjour, professeur Recht. Merci beaucoup pour votre exposé. Je me demandais si vous pouviez nous en dire davantage sur notre obsession actuelle pour l’optimisation.
Parce que j’ai l’impression que lorsque vous parlez de « satisficing », à mon sens, ce terme semble avoir une connotation assez négative, comme si nous ne faisions pas de notre mieux. Et l’idée d’optimisation… Pour moi, c’est un peu comme la médaille d’or que tout le monde veut remporter.
Alors, est-ce simplement une question qui nous concerne nous? Comme il y a eu, je crois, une question auparavant pour savoir s’il s’agissait simplement d’optimiser différentes valeurs, comme celles que chacun d’entre nous possède, ou si, en renonçant à l’optimisation, nous ne renonçons pas aussi à cette satisfaction qui découle de l’optimisation? Et dans votre exposé, vous avez mentionné que l’objectif convenu est le bien, que l’optimisation est le bien, et que quelque chose d’autre est le mal.
N’est-ce pas cela qu’on perd si on renonce à l’optimisation?
[BENJAMIN RECHT]
Euh, je… C’est très ancré dans la culture locale. Peut-être que ça s’est propagé jusqu’à Berkeley. Mais j’ai l’impression que dans la culture de San Francisco, tout le monde doit optimiser en permanence, travailler sans arrêt, maximiser, je ne sais pas, tout.
On maximise tant d’axes différents, et personne ne semble heureux. Je ne connais personne qui se consacre à ces programmes d’optimisation et qui se sente vraiment heureux. Je pense que cela tient en grande partie à…
Et donc, tu sais, comment optimise-t-on, comment maximise-t-on le bonheur? Et personne n’y arrive, c’est impossible. Parce que, vous savez, ce n’est pas quelque chose de bien défini, de quantifiable, de bien ordonné et de net, qui possède toutes ces belles propriétés qui se prêtent à ce cadre d’optimisation.
Je pense donc que lorsqu’il s’agit de nos propres vies, tout d’abord, personne… De plus, si vous discutez avec des gens qui s’adonnent à l’optimisation, personne n’a même de « chiffre » à atteindre. Même les gens qui se demandent, par exemple, ce que ça signifie de tirer le meilleur parti de chaque instant… Je ne sais pas.
Quantitativement, « tirer le maximum de chaque instant ». C’est très difficile à cerner. Donc je pense que… mais encore une fois, je ne veux pas… Juste pour revenir en arrière, je ne suis pas contre l’optimisation dans le bon contexte.
Je pense qu’il y a beaucoup de contextes où ça fonctionne bien. Pour soi-même, c’est un peu délicat pour moi de trouver un bon exemple. Mais je pense que pour beaucoup de choses, par exemple la façon dont on gère la logistique et les chaînes d’approvisionnement, ainsi que la façon dont on gère les opérations.
Se déplacer rapidement en avion à travers le monde, par exemple, tu sais, on peut se rendre n’importe où sur Terre en moins d’une journée. C’est incroyable. Je pense donc qu’il s’agit simplement de comprendre comment naviguer dans ce monde complexe.
Et je pense qu’une partie du problème que nous avons avec beaucoup de gens que je vois se jeter à corps perdu dans la vague de l’optimisation personnelle, c’est qu’ils ont l’impression qu’en agissant ainsi, ils atteignent un niveau optimal — c’est presque, à la lumière de cette société qui ne cesse de s’optimiser, une sorte d’éthique calviniste. C’est comme si plus on s’optimise, meilleur on devient en tant qu’être humain, et je ne crois tout simplement pas que ce soit vrai. Je pense que parfois, il faut lâcher prise et simplement accepter, par exemple : qu’est-ce qui compte vraiment pour moi?
Et ça ne se mesure pas en chiffres. Et ce qui compte pour toi peut évoluer. Ça peut évoluer d’une certaine manière, mais ça ne se situera pas dans un espace vectoriel.
[MARION FOURCADE]
D’accord, bon, alors prenons… On est un peu à court de temps. D’accord, mais prenons-en une…
[BENJAMIN RECHT]
Attends, on a encore deux questions.
[MARION FOURCADE]
Trois? Oh, mon Dieu.
[BENJAMIN RECHT]
Ils peuvent aussi venir me poser des questions si vous voulez. Vous pouvez me les poser. Non, ça ne me dérange pas du tout.
[MARION FOURCADE]
Alors prenons une dernière question.
[BENJAMIN RECHT]
D’accord, je peux rester. Je peux rester.
[MARION FOURCADE]
On a peut-être le temps pour une dernière.
[BENJAMIN RECHT]
Je suppose que, dans la foulée de cette question, je pense à une sorte d’… optimisation ou à un problème à la limite de l’optimisation, dans la mesure où il comporte des aspects quantifiables et qualifiables. Oui. Hum, par exemple, l’organisation d’événements, que ce soit une fête d’anniversaire ou un mariage.
C’est, tu sais, un peu comme la planification des horaires de travail ou la logistique. Il y a, en quelque sorte… On peut le paramétrer, et ensuite on peut, tu sais, dire, par exemple…
[MARION FOURCADE]
Oui.
[BENJAMIN RECHT]
C’est un peu comme, tu sais, avec l’alimentation, euh, le calcul des calories, pas vrai?
[MARION FOURCADE]
Oui.
[BENJAMIN RECHT]
Mais c’est comme si, disons, tu organisais, par exemple, l’anniversaire d’un collègue, et que tu te disais : « Oh, ça fait 10 ans que je travaille avec lui, donc je sais telle ou telle chose à son sujet. » Et là, tu vois, il y aurait en quelque sorte des aspects qualitatifs à prendre en compte. Absolument.
Oui, oui, ouais.
Je pense que c’est l’autre aspect. Je pense que même s’il y a… Je me demandais justement à l’instant : quelles autres choses faudrait-il prévoir? Par exemple, tu sais, certains éléments de ton portefeuille de placements personnel, c’est bien de les gérer d’un point de vue op-
Tu n’as pas besoin d’optimiser, mais tu devrais y réfléchir de façon quantitative, être économe et ne pas dépenser tout ton argent, surtout en fêtes. Tu sais, prévois un budget raisonnable pour tes fêtes. Organise de belles fêtes, mais, tu sais, comprends bien que tu auras beaucoup de fêtes à organiser au cours de ta vie.
Je ne sais pas. Je pense que c’est un sujet compliqué à aborder. Je pense que, euh, il y a… Que l’approche quantitative ne signifie pas nécessairement que c’est mauvais ou inhumain.
Je pense que beaucoup de choses que nous faisons dans notre vie tirent le meilleur parti de ces chiffres. Il s’agit simplement de comprendre qu’il y a un juste milieu pour tout, n’est-ce pas? Et je pense qu’il ne faut tout simplement pas se laisser trop enfermer dans un seul cadre qui régirait tout.
C’est ça le plus difficile : il faut juste avoir cette souplesse pour pouvoir vivre pleinement ces vies épanouissantes qui nous sont offertes.
[MARION FOURCADE]
Eh bien, c’est vraiment la phrase parfaite pour conclure cette présentation. Merci, Ben. C’était génial.
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.