{"id":11744,"date":"2026-10-08T11:37:10","date_gmt":"2026-10-08T15:37:10","guid":{"rendered":"https:\/\/gillesenvrac.ca\/carnet\/?page_id=11744"},"modified":"2026-10-08T14:50:50","modified_gmt":"2026-10-08T18:50:50","slug":"optimiser-quoi","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/optimiser-quoi\/","title":{"rendered":"Optimiser quoi ?"},"content":{"rendered":"\n

Traduction de Optimize What?<\/a>, par Jimmy Wu* le 15 mars 2019. <\/p>\n\n\n\n

\n\n\n\n
\"\"<\/figure>\n\n\n\n

La Silicon Valley regorge des g\u00e9nies les plus stupides que vous puissiez rencontrer. Le probl\u00e8me commence d\u00e8s les salles de classe o\u00f9 l\u2019on enseigne l\u2019informatique.<\/p>\n\n\n\n

En novembre 2018, plus de six cents ing\u00e9nieurs de Google ont sign\u00e9 une p\u00e9tition publique adress\u00e9e au PDG Sundar Pichai, exigeant que l\u2019entreprise cesse de travailler sur des outils de recherche censur\u00e9e et de surveillance destin\u00e9s au march\u00e9 chinois, dont le nom de code \u00e9tait \u00ab Project Dragonfly \u00bb. Au cours du toll\u00e9 g\u00e9n\u00e9ral qui s\u2019en est suivi, Sundar Pichai a comparu devant le Congr\u00e8s, des associations de d\u00e9fense des droits de l\u2019homme ont manifest\u00e9 devant les si\u00e8ges sociaux de l\u2019entreprise dans dix pays, et celle-ci a discr\u00e8tement suspendu le projet.<\/p>\n\n\n\n

Ce n\u2019est l\u00e0 qu\u2019un \u00e9pisode parmi d\u2019autres d\u2019une ann\u00e9e difficile pour les g\u00e9ants de la tech, secou\u00e9s par une s\u00e9rie de manifestations et de scandales politiques de plus en plus intenses. Les employ\u00e9s de Salesforce, Microsoft et Amazon ont adress\u00e9 une p\u00e9tition \u00e0 leurs dirigeants pour qu\u2019ils annulent des contrats lucratifs avec le Service des douanes et de la protection des fronti\u00e8res des \u00c9tats-Unis. Il a \u00e9t\u00e9 r\u00e9v\u00e9l\u00e9 que Facebook menait des actions de lobbying aupr\u00e8s du Congr\u00e8s et faisait appel \u00e0 une agence de relations publiques de droite pour \u00e9touffer les critiques des militants. Les chauffeurs de Lyft et d\u2019Uber ont manifest\u00e9 devant les si\u00e8ges sociaux de ces entreprises pour protester contre les baisses de tarifs et les politiques de d\u00e9sactivation mises en place par celles-ci.<\/p>\n\n\n\n

Tout cela a suscit\u00e9 un regain d\u2019int\u00e9r\u00eat pour l\u2019\u00e9thique de la technologie et son r\u00f4le dans la soci\u00e9t\u00e9, auquel se sont joints des technologues, des sp\u00e9cialistes en sciences sociales, des philosophes et des experts en politique. Parmi tous les acteurs venus \u00e0 la rescousse, cependant, le plus intrigant est le milieu universitaire de l\u2019informatique. R\u00e9cemment, par exemple, l\u2019\u00c9cole d\u2019ing\u00e9nierie de l\u2019universit\u00e9 de Stanford a lanc\u00e9 une \u00ab Initiative pour une IA centr\u00e9e sur l\u2019humain \u00bb afin d\u2019orienter l\u2019avenir de l\u2019\u00e9thique algorithmique, et a propos\u00e9, pour la premi\u00e8re fois, un cours sur l\u2019\u00e9thique des donn\u00e9es destin\u00e9 aux \u00e9tudiants en fili\u00e8res techniques.<\/strong>1<\/a><\/sup>GB Nous sommes en 2019<\/span> D\u2019autres universit\u00e9s embo\u00eetent le pas, avec des cours, des instituts et des laboratoires de recherche similaires qui fleurissent \u00e0 travers le pays. Les universitaires esp\u00e8rent qu\u2019en formant mieux la prochaine g\u00e9n\u00e9ration d\u2019ing\u00e9nieurs et d\u2019entrepreneurs, les universit\u00e9s pourront former des professionnels de la technologie dot\u00e9s d\u2019une conscience sociale et ainsi redresser un secteur technologique en difficult\u00e9.<\/p>\n\n\n\n

Pourtant, en se positionnant comme la boussole morale de la technologie, l\u2019informatique universitaire occulte le fait que ses propres outils intellectuels sont \u00e0 l\u2019origine du pouvoir dangereux de l\u2019industrie technologique. Une part importante du probl\u00e8me r\u00e9side dans le type d\u2019id\u00e9ologie qu\u2019elle inculque aux \u00e9tudiants, aux chercheurs et \u00e0 la soci\u00e9t\u00e9 dans son ensemble. Ce n\u2019est pas seulement que la formation en ing\u00e9nierie enseigne aux \u00e9tudiants \u00e0 penser que tous les probl\u00e8mes m\u00e9ritent des solutions techniques (ce qui est certes le cas) ; c\u2019est plut\u00f4t que le programme est construit autour d\u2019un syst\u00e8me de valeurs qui ne conna\u00eet que les fonctions d\u2019utilit\u00e9, les manipulations symboliques et la maximisation objective.<\/p>\n\n\n\n

\n\n\n\n

Au printemps 2018, Stanford a propos\u00e9, pour la premi\u00e8re fois, un cours sur l\u2019\u00e9thique des donn\u00e9es destin\u00e9 sp\u00e9cifiquement aux \u00e9tudiants ayant une formation en apprentissage automatique et en algorithmes. \u00c0 l\u2019\u00e9poque, j\u2019\u00e9tais \u00e9tudiant en master au d\u00e9partement d\u2019informatique et j\u2019assistais au cours d\u00e8s que j\u2019en avais l\u2019occasion. L\u2019une des \u00e9tudes de cas portait sur une controverse datant de 2009, peu apr\u00e8s l\u2019adoption de la tristement c\u00e9l\u00e8bre Proposition 8 en Californie, qui d\u00e9finissait le mariage reconnu par l\u2019\u00c9tat comme \u00e9tant l\u2019union entre un homme et une femme. Les cr\u00e9ateurs anonymes d\u2019un site web appel\u00e9 Eightmaps avaient utilis\u00e9 la loi sur la libert\u00e9 d\u2019information (Freedom of Information Act) pour obtenir les registres des dons vers\u00e9s aux organisations soutenant cette mesure, puis les avaient report\u00e9s sur une carte. Les visiteurs du site pouvaient voir les noms, les montants des dons et les emplacements approximatifs des personnes ayant vers\u00e9 au moins 100 dollars \u00e0 la campagne en faveur de la Proposition 8. \u00c0 mesure que l\u2019utilisation de cet outil se g\u00e9n\u00e9ralisait, les donateurs identifi\u00e9s ont re\u00e7u des messages de col\u00e8re et des menaces de violence physique. \u00ab Que pourrait-on faire \u00bb, a demand\u00e9 l\u2019enseignant, \u00ab pour \u00e9viter ce genre de situations lors des prochaines \u00e9lections ? \u00bb<\/p>\n\n\n\n

Les \u00e9tudiants avaient de nombreuses id\u00e9es. L\u2019un d\u2019entre eux a sugg\u00e9r\u00e9 que, dans le but de prot\u00e9ger les petits donateurs, le seuil minimum de don de 100 dollars soit relev\u00e9. Un autre a \u00e9mis l\u2019hypoth\u00e8se qu\u2019il existait un compromis inh\u00e9rent entre la transparence des informations publiques et la pr\u00e9servation de la vie priv\u00e9e n\u00e9cessaire \u00e0 la participation d\u00e9mocratique (y compris le droit de faire des dons aux campagnes \u00e9lectorales). Il pourrait donc exister une solution interm\u00e9diaire consistant \u00e0 pr\u00e9senter les informations sur le financement des campagnes de mani\u00e8re plus agr\u00e9g\u00e9e afin de prot\u00e9ger l\u2019identit\u00e9 des individus, tout en fournissant des donn\u00e9es globales sur la provenance des dons. Plusieurs camarades de classe acquiesc\u00e8rent.<\/p>\n\n\n\n

\u00c0 ce moment-l\u00e0, j\u2019avais trouv\u00e9 le courage de lever la main. \u00ab N\u2019est-ce pas un peu fou, demandai-je, que nous soyons assis ici \u00e0 d\u00e9battre du niveau de d\u00e9tail avec lequel visualiser ces donn\u00e9es ? S\u2019agit-il d\u2019un probl\u00e8me technique pouvant \u00eatre optimis\u00e9 pour trouver un juste \u00e9quilibre, ou est-ce une question politique visant \u00e0 d\u00e9terminer si les \u00e9lections devraient, d\u00e8s le d\u00e9part, se d\u00e9rouler de cette mani\u00e8re, avec des contributions \u00e9lectorales ? \u00bb<\/p>\n\n\n\n

J\u2019ai regard\u00e9 mes camarades, mais personne n\u2019a r\u00e9pondu. Le professeur a alors d\u00e9clar\u00e9 : \u00ab Je pense que c\u2019est le signal qu\u2019il faut passer au sujet suivant. \u00bb<\/p>\n\n\n\n

\u00ab L\u2019\u00e9tude de l\u2019apprentissage automatique offre une r\u00e9v\u00e9lation stup\u00e9fiante : l\u2019informatique du XXIe si\u00e8cle exerce, en r\u00e9alit\u00e9, des pouvoirs qu\u2019elle comprend \u00e0 peine. \u00bb<\/p>\n\n\n\n

Cela en dit long sur la culture de l\u2019enseignement technique que cet \u00e9pisode ne m\u2019ait pas le moins du monde surpris \u2014 ni par les solutions propos\u00e9es par les \u00e9tudiants, ni par le rejet par l\u2019enseignante de la moindre tentative, m\u00eame modeste, de sortir du carcan de l\u2019ing\u00e9nierie. Cette sc\u00e8ne aurait pu \u00eatre tir\u00e9e directement du classique pol\u00e9mique de Jeff Schmidt sur le monde du travail, Disciplined Minds<\/em>. \u00ab En tant que professionnelle \u00bb, observait Schmidt, \u00ab l\u2019enseignante est \u201cobjective\u201d lorsqu\u2019elle pr\u00e9sente le programme scolaire : elle ne \u201cprend pas parti\u201d ni ne \u201cfait de la politique\u201d. Cependant, l\u2019id\u00e9ologie du statu quo est int\u00e9gr\u00e9e au programme. \u00bb<\/p>\n\n\n\n

J\u2019ai pass\u00e9 quatre ans en licence d\u2019informatique \u00e0 Berkeley, puis deux ans en master \u00e0 Stanford. Sur ces deux campus, j\u2019ai particip\u00e9 \u00e0 l\u2019enseignement de cours d\u2019algorithmes pendant deux ans et men\u00e9 des recherches en informatique th\u00e9orique pendant quatre ans. \u00c0 l\u2019exception d\u2019un cours d\u2019\u00e9thique obligatoire d\u2019un semestre en licence, que la plupart des \u00e9tudiants utilisaient comme sieste en fin d\u2019apr\u00e8s-midi, pas une seule fois un enseignant ne nous a sugg\u00e9r\u00e9 d\u2019examiner de mani\u00e8re critique les probl\u00e8mes techniques qui nous \u00e9taient pr\u00e9sent\u00e9s. Les questions dites \u00ab secondaires \u00bb sur la soci\u00e9t\u00e9, l\u2019\u00e9thique, la politique et l\u2019humanit\u00e9 \u00e9taient tacitement consid\u00e9r\u00e9es comme intellectuellement inint\u00e9ressantes. Elles \u00e9taient indignes de nous, en tant que scientifiques ; notre travail consistait \u00e0 r\u00e9soudre les probl\u00e8mes qui nous \u00e9taient soumis, et non \u00e0 nous demander quels probl\u00e8mes nous devrions r\u00e9soudre en premier lieu. Et nous avons appris \u00e0 le faire bien trop bien.<\/p>\n\n\n\n

\n\n\n\n

Il est d\u00e9sormais commun\u00e9ment admis que l\u2019enseignement technique engendre le \u00ab techno-solutionnisme \u00bb : un programme mettant en avant la primaut\u00e9 du code et des manipulations symboliques produit des dipl\u00f4m\u00e9s qui s\u2019attaquent \u00e0 tous les probl\u00e8mes sociaux \u00e0 l\u2019aide de logiciels et d\u2019algorithmes. Bien que cela soit vrai, cela passe \u00e0 c\u00f4t\u00e9 de l\u2019essentiel de ce qu\u2019enseigne fondamentalement la formation d\u2019ing\u00e9nieur. Les \u00e9tudiants et l\u2019enseignant du cours d\u2019\u00e9thique discutaient d\u2019une question de politique et de strat\u00e9gie comme s\u2019il s\u2019agissait d\u2019un probl\u00e8me technique. Le probl\u00e8me r\u00e9sidait donc dans leur conception de l\u2019exercice tout entier : ils s\u2019\u00e9taient engag\u00e9s de mani\u00e8re r\u00e9flexive \u00e0 sauver une d\u00e9mocratie repr\u00e9sentative inop\u00e9rante, et s\u2019\u00e9taient r\u00e9sign\u00e9s \u00e0 inventer un m\u00e9canisme astucieux pour favoriser des r\u00e9sultats \u00e9lectoraux souhaitables. Le techno-solutionnisme est l\u2019\u00e2me m\u00eame du concepteur de politiques n\u00e9olib\u00e9rales, vou\u00e9 de mani\u00e8re f\u00e9tichiste \u00e0 l\u2019art de l\u2019alignement des incitations et (si n\u00e9cessaire) de la r\u00e9gulation bienveillante. Un tel point de vue est le r\u00e9sultat effectif de la culture computationnelle contemporaine et de sa transposition en programme d\u2019\u00e9tudes.<\/p>\n\n\n\n

Cette culture \u00e9chappe \u00e0 toute description succincte, mais un premier indice est fourni par Stephen Boyd, un professeur de Stanford qui dispense un cours de troisi\u00e8me cycle tr\u00e8s pris\u00e9 sur l\u2019optimisation math\u00e9matique. Dans le monde de l\u2019informatique et des math\u00e9matiques, un \u00ab probl\u00e8me d\u2019optimisation \u00bb d\u00e9signe toute situation dans laquelle on dispose de quantit\u00e9s variables<\/em> que l\u2019on souhaite d\u00e9finir, d\u2019une fonction objectif<\/em> \u00e0 maximiser ou \u00e0 minimiser, et de contraintes<\/em> quelconques pesant sur les variables. Par exemple, un agriculteur peut vouloir d\u00e9cider de la quantit\u00e9 de ma\u00efs et de bl\u00e9 \u00e0 cultiver : ces deux quantit\u00e9s constituent les variables ; la fonction objectif \u00e0 maximiser peut \u00eatre le profit ; et l\u2019agriculteur peut \u00eatre contraint par le fait de ne disposer que d\u2019une superficie limit\u00e9e de terres arables, de semences de ma\u00efs, etc.<\/p>\n\n\n\n

Boyd dispense ce cours une fois par an et, g\u00e9n\u00e9ralement, d\u00e8s le premier cours, il d\u00e9clare : \u00ab\u00a0Tout est un probl\u00e8me d\u2019optimisation. \u00bb Cette affirmation sent la na\u00efvet\u00e9 techno-utilitariste \u00e0 plein nez, en sugg\u00e9rant que chaque objet peut \u00eatre mod\u00e9lis\u00e9 comme un ensemble de chiffres, que chaque d\u00e9sir humain s\u2019exprime par une fonction d\u2019utilit\u00e9, et que chaque probl\u00e8me peut \u00eatre r\u00e9solu \u00e0 l\u2019aide des appareils de calcul plus ou moins rudimentaires que nous avons dans nos poches. Pourtant, pour les quatre cents \u00e9tudiants inscrits \u00e0 cette session d\u2019hiver 2019 \u2014 pour la plupart des doctorants et des \u00e9tudiants en master en informatique, en g\u00e9nie \u00e9lectrique et en math\u00e9matiques appliqu\u00e9es \u2014, ces hypoth\u00e8ses sous-tendent tout ce qu\u2019ils ont appris pendant la majeure partie de la derni\u00e8re d\u00e9cennie. Pour eux, cette affirmation n\u2019est pas seulement vraie, elle est banale.<\/p>\n\n\n\n

Que l\u2019affirmation de Boyd soit valable ou non dans un sens pseudo-math\u00e9matique, elle sert de rep\u00e8re historique pour l\u2019\u00e9tat des sciences computationnelles. L\u2019\u00e9tude du calcul a toujours \u00e9t\u00e9 intellectuellement vari\u00e9e : au sein de ce domaine, on trouve des architectes en mat\u00e9riel informatique qui con\u00e7oivent des processeurs plus rapides et des dispositifs de stockage plus volumineux ; des cryptographes qui \u00e9laborent des protocoles pour la messagerie s\u00e9curis\u00e9e ; des scientifiques qui utilisent des ordinateurs pour simuler des processus physiques ; et des math\u00e9maticiens qui explorent quels probl\u00e8mes peuvent ou ne peuvent pas \u00eatre r\u00e9solus par des ordinateurs. Le sous-domaine de l\u2019optimisation existe depuis la Seconde Guerre mondiale, mais jusqu\u2019\u00e0 r\u00e9cemment, il n\u2019\u00e9tait qu\u2019un domaine parmi tant d\u2019autres. Aujourd\u2019hui, c\u2019est un sujet que de nombreux \u00e9tudiants en fili\u00e8res techniques se sentent oblig\u00e9s d\u2019\u00e9tudier pendant au moins un ou deux semestres.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Du point de vue de l\u2019histoire politico-\u00e9conomique, la popularit\u00e9 croissante des algorithmes d\u2019optimisation<\/strong> constitue une \u00e9volution curieuse. Ce domaine a atteint sa maturit\u00e9 au milieu du XXe si\u00e8cle avec le d\u00e9veloppement de la programmation lin\u00e9aire, un cadre g\u00e9n\u00e9ral d\u2019optimisation utile pour mod\u00e9liser des probl\u00e8mes allant de la r\u00e9partition des biens \u00e0 l\u2019acheminement des v\u00e9hicules dans des r\u00e9seaux. En Union sovi\u00e9tique, une cohorte d\u2019\u00e9conomistes et de math\u00e9maticiens \u2014 dont l\u2019inventeur de la programmation lin\u00e9aire, Leonid Kantorovich \u2014 a adopt\u00e9 cette technique comme outil de planification centrale \u00e0 partir des ann\u00e9es 1960. En Occident, les grandes entreprises industrielles ont commenc\u00e9 \u00e0 s\u2019appuyer sur des logiciels d\u2019optimisation pour planifier l\u2019agencement de leurs usines et coordonner les exp\u00e9ditions et les transports. L\u2019optimisation a \u00e9galement trouv\u00e9 sa place dans des applications militaires ; dans un exemple c\u00e9l\u00e8bre de la Guerre froide, l\u2019arm\u00e9e de l\u2019air am\u00e9ricaine a cherch\u00e9 une strat\u00e9gie pour bombarder les voies ferr\u00e9es sovi\u00e9tiques afin d\u2019isoler l\u2019URSS du reste de l\u2019Europe de l\u2019Est. Un cas particulier de programmation lin\u00e9aire a permis d\u2019aboutir \u00e0 la solution optimale.<\/p>\n\n\n\n

Il convient de noter que, des deux c\u00f4t\u00e9s du rideau de fer, l\u2019optimisation a \u00e9t\u00e9 d\u00e9ploy\u00e9e dans des contextes r\u00e9solument non marchands. Telle fut la premi\u00e8re moiti\u00e9 du si\u00e8cle d\u2019existence de cette sous-discipline, durant laquelle l\u2019optimisation \u00e9tait synonyme de planification<\/strong>. L\u2019ing\u00e9nieur d\u00e9cidait d\u2019abord du probl\u00e8me \u00e0 r\u00e9soudre, puis formulait un programme d\u2019optimisation qui mod\u00e9lisait le probl\u00e8me avec exactitude et le r\u00e9solvait une fois pour toutes. Dans ces contextes, la th\u00e9orie de l\u2019optimisation comptait parmi les sciences lib\u00e9rales les moins orient\u00e9es vers le march\u00e9. Mais au cours des deux derni\u00e8res d\u00e9cennies, l\u2019optimisation s\u2019est retrouv\u00e9e remodel\u00e9e par un nouvel ensemble d\u2019applications industrielles, \u00e0 mesure que les ordinateurs d\u00e9passaient leur r\u00f4le traditionnel de simples calculateurs ou d\u2019outils destin\u00e9s \u00e0 acc\u00e9l\u00e9rer des processus m\u00e9tier banals. Aujourd\u2019hui, les applications qui s\u00e9duisent tant l\u2019industrie sont qualitativement diff\u00e9rentes, s\u2019appuyant fortement sur l\u2019intelligence artificielle et son domaine phare, l\u2019apprentissage automatique. Les entreprises, les arm\u00e9es et les \u00c9tats surveillants exigent des algorithmes qui ne soient pas seulement rapides, efficaces ou s\u00e9curis\u00e9s, mais aussi intelligents : Proposer une publicit\u00e9 \u00e0 cet utilisateur de mani\u00e8re \u00e0 maximiser la probabilit\u00e9 qu\u2019il clique dessus. Identifier, avec la plus grande pr\u00e9cision possible, lesquelles de ces images contiennent des \u00eatres humains. Pr\u00e9dire si ce candidat remboursera son pr\u00eat.<\/em><\/p>\n\n\n\n

L\u2019apprentissage automatique est pr\u00e9sent sur les sites web que vous visitez, sur l\u2019appareil que vous avez dans votre poche et dans les appareils \u00e9lectrom\u00e9nagers intelligents de l\u2019ann\u00e9e prochaine. Il est utilis\u00e9 pour \u00e9valuer votre solvabilit\u00e9, fixer le montant de votre caution et d\u00e9cider s\u2019il faut vous intercepter et vous fouiller dans la rue. Formul\u00e9es de mani\u00e8re informelle en anglais, ces t\u00e2ches ressemblent d\u00e9j\u00e0 \u00e0 des probl\u00e8mes d\u2019optimisation ; math\u00e9matiquement, elles peuvent en effet \u00eatre exprim\u00e9es \u00e0 l\u2019aide de variables, de contraintes et de fonctions objectives, puis r\u00e9solues \u00e0 l\u2019aide de logiciels d\u2019optimisation.<\/p>\n\n\n\n

\u00ab Notre travail consistait \u00e0 r\u00e9soudre tous les probl\u00e8mes qui nous \u00e9taient soumis, et non \u00e0 nous demander quels probl\u00e8mes nous devrions r\u00e9soudre en premier lieu.<\/p>\n\n\n\n

De retour sur le campus, la prise de pouvoir de l\u2019IA et de l\u2019apprentissage automatique sur l\u2019industrie se refl\u00e8te pleinement dans les chiffres des inscriptions aux cours. Au Huang Engineering Center, \u00e0 quelques centaines de pieds seulement de l\u2019endroit o\u00f9 Boyd donne ses cours sur l\u2019optimisation, Andrew Ng enseigne le cours CS 230 : Deep Learning, un cours qui a attir\u00e9 huit cents \u00e9tudiants au cours de l\u2019ann\u00e9e 2017-2018, et qui est pourtant le plus petit des deux cours dispens\u00e9s par Ng. Ng est une sorte de c\u00e9l\u00e9brit\u00e9 dans le domaine de l\u2019apprentissage automatique, un v\u00e9ritable promoteur de l\u2019IA sur Twitter. Dans une sc\u00e8ne devenue bien trop courante, il monte sur sc\u00e8ne pour donner le premier cours, puis dispara\u00eet pendant plusieurs semaines pour s\u2019occuper de sa start-up sp\u00e9cialis\u00e9e dans les voitures autonomes. Pendant la majeure partie du trimestre, les cours sont dispens\u00e9s par un \u00e9tudiant de troisi\u00e8me cycle, qui s\u2019en sort admirablement bien compte tenu des circonstances.<\/p>\n\n\n\n

Le cours porte sur les \u00ab r\u00e9seaux neuronaux profonds \u00bb, une cat\u00e9gorie populaire de mod\u00e8les d\u2019apprentissage automatique qui s\u2019appuient essentiellement sur diverses techniques d\u2019optimisation. Cependant, les paradigmes d\u2019optimisation utilis\u00e9s ici ne rel\u00e8vent pas de la planification<\/strong>. Le concepteur d\u2019algorithmes choisit une fonction objectif heuristique qui favorise l\u2019\u00e9mergence d\u2019un bon mod\u00e8le, mais il n\u2019y a ni contraintes, ni garantie d\u2019obtenir une bonne solution. Une fois entra\u00een\u00e9, le mod\u00e8le est test\u00e9 sur un \u00e9chantillon de donn\u00e9es ; si les r\u00e9sultats sont m\u00e9diocres, le concepteur ajuste l\u2019un des dizaines de param\u00e8tres ou affine l\u2019objectif en y ajoutant un terme suppl\u00e9mentaire, puis r\u00e9essaie. \u00c0 terme, nous promet-on, nous aboutirons \u00e0 un r\u00e9seau neuronal entra\u00een\u00e9 capable d\u2019ex\u00e9cuter avec pr\u00e9cision la t\u00e2che souhait\u00e9e.<\/p>\n\n\n\n

L\u2019ensemble du processus d\u2019entra\u00eenement d\u2019un r\u00e9seau neuronal est tellement ad hoc, tellement embarrassant tant il manque de syst\u00e9matique, que les \u00e9tudiants se retrouvent souvent perplexes quant \u00e0 la raison pour laquelle ces techniques devraient fonctionner. Un ami qui a \u00e9galement suivi ce cours a un jour demand\u00e9 \u00e0 un assistant pourquoi l\u2019apprentissage profond donnait de bons r\u00e9sultats dans la pratique, ce \u00e0 quoi l\u2019enseignant a r\u00e9pondu : \u00ab Personne ne le sait. \u00c7a marche, c\u2019est tout. \u00bb<\/p>\n\n\n\n

Pour un domaine qui touche autant notre vie quotidienne et qui avance des affirmations aussi ambitieuses quant \u00e0 sa capacit\u00e9 \u00e0 r\u00e9soudre nos probl\u00e8mes, l\u2019\u00e9tude de l\u2019apprentissage automatique offre une r\u00e9v\u00e9lation stup\u00e9fiante : l\u2019informatique du XXIe si\u00e8cle exerce, en r\u00e9alit\u00e9, des pouvoirs qu\u2019elle comprend \u00e0 peine. Le seul autre domaine qui semble en savoir \u00e0 la fois autant et aussi peu est l\u2019\u00e9conomie.<\/p>\n\n\n\n

En fait, cette forme d\u2019optimisation libre et heuristique ne rappelle-t-elle pas la mani\u00e8re dont l\u2019\u00e9conomie est comprise aujourd\u2019hui ? Plut\u00f4t que de consid\u00e9rer l\u2019optimisation comme une planification, nous cherchons \u00e0 lib\u00e9rer la puissance de l\u2019algorithme (le march\u00e9 libre). Lorsque les r\u00e9sultats ne sont pas \u00e0 la hauteur de nos attentes, ou que l\u2019algorithme optimise son objectif (le profit) avec beaucoup trop de z\u00e8le \u00e0 notre go\u00fbt, nous corrigeons docilement ses exc\u00e8s a posteriori \u00e0 l\u2019aide de toutes sortes de mesures secondaires et d\u2019ajustements de param\u00e8tres (imp\u00f4ts, p\u00e9ages, subventions). Pendant tout ce temps, le fonctionnement interne de l\u2019algorithme reste opaque et sa puissance de calcul est d\u00e9crite en termes de magie, apparemment compr\u00e9hensible uniquement par une classe de technocrates surdou\u00e9s et surdipl\u00f4m\u00e9s.<\/p>\n\n\n\n

Une fois entr\u00e9s dans le \u00ab monde r\u00e9el \u00bb, la perspective acquise gr\u00e2ce \u00e0 cette formation s\u2019int\u00e8gre parfaitement \u00e0 l\u2019id\u00e9ologie \u00e9conomique dominante. Apr\u00e8s tout, qu\u2019est-ce que le capitalisme n\u00e9olib\u00e9ral, sinon un syst\u00e8me organis\u00e9 selon un cadre d\u2019optimisation particuli\u00e8rement \u00e9troit ? \u00c0 l\u2019\u00e9cole, on nous a dit que tout probl\u00e8me pouvait \u00eatre r\u00e9solu en ajustant les param\u00e8tres algorithmiques de la bonne mani\u00e8re. Une fois dipl\u00f4m\u00e9s, cela se traduit par la conviction que, dans la mesure o\u00f9 la soci\u00e9t\u00e9 pr\u00e9sente des d\u00e9fauts, ceux-ci peuvent \u00eatre corrig\u00e9s sans changement syst\u00e9mique : si l\u2019accumulation du capital est le seul v\u00e9ritable objectif et que le march\u00e9 est un terrain de jeu infiniment mall\u00e9able, <\/strong>alors il suffit de donner aux agents individuels les incitations appropri\u00e9es<\/strong>. Pour r\u00e9duire l\u2019utilisation du plastique, imposez une surtaxe sur les sacs de courses. Pour r\u00e9soudre la crise du logement, assouplir les contraintes impos\u00e9es aux promoteurs immobiliers de logements de luxe. Pour contr\u00f4ler la pollution, lui attribuer un prix de march\u00e9 via un syst\u00e8me de plafonnement et d\u2019\u00e9change.<\/p>\n\n\n\n

\u00c0 un niveau g\u00e9n\u00e9ral, l\u2019interpr\u00e9tation computationnaliste de l\u2019\u00e9conomie moderne se pr\u00e9sente \u00e0 peu pr\u00e8s ainsi : une \u00e9conomie peut \u00eatre consid\u00e9r\u00e9e comme un gigantesque probl\u00e8me d\u2019optimisation distribu\u00e9e. Dans sa forme la plus \u00e9l\u00e9mentaire, il s\u2019agit de d\u00e9cider quoi produire, combien payer les travailleurs et quels biens attribuer \u00e0 qui \u2014 ce sont l\u00e0 les variables du programme d\u2019optimisation. Les contraintes consistent en toutes les limites naturelles li\u00e9es aux ressources, \u00e0 la main-d\u2019\u0153uvre et \u00e0 la logistique. Dans le capitalisme primitif de laissez-faire, l\u2019objectif \u00e0 maximiser est, bien s\u00fbr, le profit total ou la production totale.<\/p>\n\n\n\n

Le p\u00e9ch\u00e9 originel du programme capitaliste r\u00e9side donc dans le fait qu\u2019il n\u2019optimise pas une mesure du bien-\u00eatre social ou de la satisfaction humaine, mais une quantit\u00e9 qui ne saurait \u00eatre qu\u2019un indicateur lointain de ces objectifs. Pour pallier les d\u00e9g\u00e2ts consid\u00e9rables caus\u00e9s par cette mauvaise formulation, les d\u00e9mocraties lib\u00e9rales d\u2019aujourd\u2019hui cherchent \u00e0 concevoir un programme plus nuanc\u00e9. Le profit constitue toujours le premier terme de l\u2019objectif, mais il est d\u00e9sormais accompagn\u00e9 d\u2019un \u00e9ventail impressionnant de termes secondaires pouvant \u00eatre modifi\u00e9s \u00e0 l\u2019infini : une fiscalit\u00e9 progressive sur les revenus pour ralentir l\u2019accumulation de richesse, des taxes et subventions pigouviennes pour orienter le comportement des consommateurs, et des march\u00e9s d\u2019\u00e9missions financiaris\u00e9s pour freiner la d\u00e9sint\u00e9gration rapide de la plan\u00e8te. Chaque fois que les incitations et les sanctions fond\u00e9es sur le march\u00e9 s\u2019av\u00e8rent insuffisantes, les gouvernements tentent d\u2019imposer des r\u00e9glementations, introduisant ainsi des contraintes suppl\u00e9mentaires. Ces mesures correctives suivent pr\u00e9cis\u00e9ment la m\u00eame logique que les exercices de calculs math\u00e9matiques propos\u00e9s en classe.<\/p>\n\n\n\n

\n\n\n\n

Aujourd\u2019hui, le r\u00f4le soci\u00e9tal des algorithmes fait l\u2019objet de nombreux d\u00e9bats. Il n\u2019y a pas si longtemps, la plupart des gens partaient du principe que les algorithmes \u00e9taient, sinon politiquement neutres, du moins ne repr\u00e9sentaient pas un danger fondamental pour les \u00eatres humains. Certes, la transformation engendr\u00e9e par les syst\u00e8mes intelligents \u00e9tait consid\u00e9r\u00e9e comme hautement destructrice et perturbatrice ; mais, \u00e0 l\u2019instar de la r\u00e9volution industrielle qui l\u2019avait pr\u00e9c\u00e9d\u00e9e de loin, elle \u00e9tait initialement per\u00e7ue comme un fait impersonnel de l\u2019histoire \u00e9conomique, et non comme un ph\u00e9nom\u00e8ne discriminant activement certaines populations ou servant de projet \u00e0 la classe dirigeante. En 2013, si quelqu\u2019un \u00e9voquait le \u00ab biais \u00bb de votre mod\u00e8le d\u2019apprentissage automatique, on pouvait raisonnablement supposer qu\u2019il faisait r\u00e9f\u00e9rence \u00e0 ce qu\u2019on appelle son \u00ab erreur de g\u00e9n\u00e9ralisation \u00bb \u2014 une question purement statistique, d\u00e9nu\u00e9e de tout jugement moral.<\/p>\n\n\n\n

Puis, il y a \u00e0 peine quatre ou cinq ans, les vannes se sont ouvertes. Les grands journaux ont publi\u00e9 des enqu\u00eates sur des \u00ab bo\u00eetes noires \u00bb algorithmiques excluant des personnes des services sociaux ; les chercheurs ont multipli\u00e9 les articles d\u00e9taillant comment la pr\u00e9cision pr\u00e9dictive se faisait au d\u00e9triment de l\u2019\u00e9quit\u00e9. La vision traditionnelle, selon laquelle les algorithmes prennent des d\u00e9cisions neutres et objectives, a d\u00e9sormais \u00e9t\u00e9 d\u00e9masqu\u00e9e comme fallacieuse ; \u00e0 sa place, un nouveau consensus techno-humaniste a \u00e9merg\u00e9, qui reconna\u00eet qu\u2019en pratique, les algorithmes codifient les biais et les particularit\u00e9s de leurs concepteurs et, dans le cas de l\u2019apprentissage automatique, des donn\u00e9es utilis\u00e9es pour les entra\u00eener. En d\u2019autres termes, \u00ab si on met des ordures, on obtient des ordures \u00bb.<\/p>\n\n\n\n

Pourtant, dans un certain sens, cette vision constitue en r\u00e9alit\u00e9 l\u2019apologie ultime de la tyrannie computationnelle, d\u00e9guis\u00e9e en critique \u00ab woke \u00bb. Elle soutient implicitement que les algorithmes, abstraction faite des erreurs de leurs programmeurs humains et des impuret\u00e9s de leurs donn\u00e9es d\u2019entra\u00eenement, sont en principe d\u00e9nu\u00e9s de valeurs. Selon ce raisonnement, l\u2019informatique elle-m\u00eame est non id\u00e9ologique : elle cherche simplement \u00e0 am\u00e9liorer et \u00e0 automatiser ce qui existe d\u00e9j\u00e0.<\/p>\n\n\n\n

Mais n\u2019est-ce pas pr\u00e9cis\u00e9ment l\u00e0 le r\u00e9gime de l\u2019id\u00e9ologie aujourd\u2019hui ? Feu Mark Fisher d\u00e9crivait le ph\u00e9nom\u00e8ne du \u00ab r\u00e9alisme capitaliste \u00bb comme le sentiment omnipr\u00e9sent selon lequel le capitalisme est le seul syst\u00e8me \u00e9conomique et social viable, et que les alternatives sont soit inimaginables, soit vou\u00e9es \u00e0 aboutir in\u00e9vitablement \u00e0 des camps de r\u00e9\u00e9ducation et \u00e0 des goulags. Une fois que l\u2019on accepte que l\u2019histoire politique a effectivement pris fin, la seule t\u00e2che qui reste est d\u2019affiner au mieux le syst\u00e8me dont nous disposons.<\/p>\n\n\n\n

Pendant des d\u00e9cennies, les contributions du monde universitaire au r\u00e9gime du r\u00e9alisme capitaliste sont venues principalement de l\u2019\u00e9conomie, men\u00e9e aux \u00c9tats-Unis par les partisans ultralib\u00e9raux de l\u2019\u00c9cole de Chicago. Mais pour les classes dirigeantes, cela comportait une limitation majeure : l\u2019\u00e9conomie est, malgr\u00e9 les efforts pour occulter ce fait, une ar\u00e8ne politique par d\u00e9finition, ouverte au d\u00e9bat et \u00e0 la lutte. C\u2019est l\u00e0 que l\u2019informatique prend le dessus : elle enseigne les axiomes et les m\u00e9thodes du capitalisme avanc\u00e9, d\u00e9barrass\u00e9s des questions politiques g\u00eanantes qui pourraient surgir en \u00e9conomie ou dans d\u2019autres sciences sociales. Sous sa forme actuelle, l\u2019informatique est un vecteur d\u2019endoctrinement efficace pour l\u2019industrie et l\u2019\u00c9tat pr\u00e9cis\u00e9ment parce qu\u2019elle appara\u00eet comme son contraire : un domaine d\u00e9nu\u00e9 de valeurs qui incarne \u00e0 la fois les math\u00e9matiques rigoureuses et l\u2019ing\u00e9nierie pragmatique. C\u2019est le vecteur id\u00e9al du r\u00e9alisme capitaliste pour une \u00e9poque marqu\u00e9e par le scepticisme ; une science de droite qui prosp\u00e8re dans notre \u00e8re post-id\u00e9ologique.<\/p>\n\n\n\n

Comment, alors, les r\u00e9volutionnaires d\u2019aujourd\u2019hui devraient-ils se positionner face \u00e0 l\u2019ordinateur et \u00e0 ses sciences ? Pour commencer \u00e0 \u00e9laborer une r\u00e9ponse, nous devons d\u2019abord examiner l\u2019\u00e9tat des lieux.<\/p>\n\n\n\n

Dans l\u2019industrie, le d\u00e9bat qui pr\u00e9vaut actuellement oppose deux camps : d\u2019un c\u00f4t\u00e9, le cercle \u00e9litiste traditionnel des titans du monde des affaires, des dirigeants, des investisseurs et de leurs fid\u00e8les partisans ; de l\u2019autre, les \u00ab humanistes de la tech \u00bb \u2014 une alliance informelle de bienfaiteurs issus du gouvernement, des m\u00e9dias, des associations \u00e0 but non lucratif, du monde universitaire et de certaines figures repentantes au sein m\u00eame de l\u2019industrie \u2014 qui croient que la Silicon Valley peut \u00eatre poliment apprivois\u00e9e gr\u00e2ce \u00e0 des politiques \u00e9clair\u00e9es, des pratiques d\u2019ing\u00e9nierie r\u00e9form\u00e9es et une formation \u00e0 l\u2019\u00e9thique. Les deux camps partagent la m\u00eame vision : celle d\u2019une soci\u00e9t\u00e9 domin\u00e9e par une aristocratie technique qui exploite et surveille le reste d\u2019entre nous. L\u2019un d\u2019eux arbore un smiley. Il va sans dire que laisser les questions relatives au d\u00e9veloppement et au contr\u00f4le de la technologie \u00e0 l\u2019un ou l\u2019autre de ces groupes reviendrait \u00e0 succomber \u00e0 un avenir d\u2019une oppression inimaginable.<\/p>\n\n\n\n

Dans l\u2019enseignement sup\u00e9rieur et la recherche, la situation est similaire, bien que plus \u00e9loign\u00e9e des dures r\u00e9alit\u00e9s du technocapitalisme. L\u2019informatique dans le milieu universitaire est un champ de mines de contradictions : un \u00e9tudiant de premier cycle \u00e0 Stanford peut assister \u00e0 un cours et apprendre comment extraire des informations des utilisateurs pendant la journ\u00e9e, puis participer plus tard dans la soir\u00e9e \u00e0 une r\u00e9union de l\u2019association \u00e9tudiante CS+Social Good, o\u00f9 il contribuera \u00e0 la cr\u00e9ation d\u2019un site web pour une association locale \u00e0 but non lucratif. Parall\u00e8lement, un chercheur ayant assist\u00e9 \u00e0 la Conf\u00e9rence sur l\u2019\u00e9conomie et l\u2019informatique de l\u2019ann\u00e9e derni\u00e8re aurait suivi une conf\u00e9rence sur l\u2019optimisation des recettes publicitaires, puis aurait peut-\u00eatre particip\u00e9 le lendemain matin \u00e0 un nouvel atelier sur la \u00ab conception de m\u00e9canismes au service du bien commun \u00bb.<\/p>\n\n\n\n

C\u2019est dans ce climat que nous devons, nous aussi, construire notre vision de l\u2019informatique et de ses applications. Autant repartir de z\u00e9ro : dans un article r\u00e9cent publi\u00e9 dans Tribune<\/em>, Wendy Liu appelle \u00e0 \u00ab abolir la Silicon Valley \u00bb. Elle n\u2019entend pas par l\u00e0 un rejet na\u00eff de la haute technologie, mais la transformation de ce secteur en une industrie financ\u00e9e, d\u00e9tenue et contr\u00f4l\u00e9e par les travailleurs et la soci\u00e9t\u00e9 dans son ensemble \u2014 un secteur technologique du peuple.<\/p>\n\n\n\n

La Silicon Valley n\u2019existe toutefois pas dans un vide intellectuel ; elle repose sur un certain type de discipline informatique. Par cons\u00e9quent, une refonte populaire de la Silicon Valley n\u00e9cessitera une informatique du peuple. Pouvons-nous imaginer cela ? Aujourd\u2019hui, les d\u00e9partements d\u2019informatique ne se contentent pas de g\u00e9n\u00e9rer le r\u00e9alisme capitaliste : ils y sont eux-m\u00eames soumis. Seuls les sujets de recherche pr\u00e9sentant des implications en mati\u00e8re d\u2019extraction de profits ou d\u2019applications militaires sont jug\u00e9s dignes d\u2019\u00eatre \u00e9tudi\u00e9s. Il est impossible d\u2019\u00e9chapper \u00e0 l\u2019emprise de ce r\u00e9gime intellectuel et culturel ; m\u00eame les th\u00e9oriciens les plus d\u00e9tach\u00e9s ressentent le besoin de justifier leur travail en parsemant les introductions de leurs articles et leurs demandes de subventions de liens fallacieux avec les derni\u00e8res modes du secteur. Ceux qui sont plus id\u00e9alistes ou indign\u00e9s (ou titulaires) insistent pour que le monde universitaire r\u00e9serve \u00e9galement un espace \u00e0 la recherche \u00ab inutile \u00bb. Cependant, cette dichotomie entre \u00ab applications industrielles \u00bb et \u00ab recherche pure \u00bb ignore la r\u00e9alit\u00e9 mat\u00e9rielle selon laquelle le financement de la recherche provient en grande partie de g\u00e9ants du monde des affaires et d\u2019agences de d\u00e9fense, et que l\u2019informatique contemporaine est une entreprise politique, quelles que soient ses intentions apolitiques de fa\u00e7ade.<\/p>\n\n\n\n

Au lieu de ce brouillard id\u00e9ologique \u00e9touffant, ce que nous devons construire, c\u2019est une notion de r\u00e9alisme communiste en science : seuls les projets au service direct ou indirect des personnes et de la plan\u00e8te auront un espoir d\u2019\u00eatre financ\u00e9s, de b\u00e9n\u00e9ficier de l\u2019estime de la communaut\u00e9 scientifique, voire d\u2019\u00eatre consid\u00e9r\u00e9s comme intellectuellement int\u00e9ressants. \u00c0 quoi ressemblerait une informatique communiste ? Peut-on imaginer des chercheurs concevant des algorithmes pour une planification \u00e9conomique participative ? Un apprentissage automatique permettant d\u2019estimer le temps de travail socialement n\u00e9cessaire ? Des protocoles d\u00e9centralis\u00e9s pour coordonner les cha\u00eenes d\u2019approvisionnement entre les communes ?<\/p>\n\n\n\n

Allin Cottrell et Paul Cockshott, deux des rares universitaires contemporains \u00e0 s\u2019attaquer aux probl\u00e8mes de l\u2019\u00e9conomie computationnelle dans des contextes non marchands, ont \u00e9crit ceci dans un article de 1993 :<\/p>\n\n\n\n

\n

Nos recherches nous permettent d\u2019identifier un aspect du probl\u00e8me (li\u00e9 \u00e0 la planification \u00e9conomique) : les conditions mat\u00e9rielles (technologie informatique) n\u00e9cessaires \u00e0 une planification socialiste efficace d\u2019une \u00e9conomie complexe en temps de paix n\u2019ont pas \u00e9t\u00e9 r\u00e9unies avant, disons, le milieu des ann\u00e9es 1980. Si nous avons raison, les caract\u00e9ristiques les plus notoires de l\u2019\u00e9conomie sovi\u00e9tique (plans chroniquement incoh\u00e9rents, p\u00e9nuries et exc\u00e9dents r\u00e9currents, manque de r\u00e9activit\u00e9 face \u00e0 la demande des consommateurs), bien qu\u2019elles r\u00e9sultent en partie de politiques malavis\u00e9es, \u00e9taient dans une certaine mesure les cons\u00e9quences in\u00e9vitables de la tentative de mettre en \u0153uvre un syst\u00e8me de planification centrale avant l\u2019heure. L\u2019ironie est \u00e9vidente : le socialisme \u00e9tait rejet\u00e9 au moment m\u00eame o\u00f9 il devenait une possibilit\u00e9 r\u00e9elle.<\/p>\n<\/blockquote>\n\n\n\n

Sur le plan politique, bien des choses ont chang\u00e9 depuis que ces mots ont \u00e9t\u00e9 \u00e9crits. La le\u00e7on \u00e0 retenir pour les lecteurs d\u2019aujourd\u2019hui n\u2019est pas n\u00e9cessairement que nous devrions nous consacrer \u00e0 nouveau \u00e0 la planification centrale ; il s\u2019agit plut\u00f4t de reconna\u00eetre que notre \u00e9poque pr\u00e9sente un m\u00e9lange unique d\u2019impasse id\u00e9ologique et de potentiel \u00e9mancipateur, ironiquement tous deux aliment\u00e9s en grande partie par le d\u00e9veloppement technologique. La science froide de l\u2019informatique semble affirmer que le progr\u00e8s social est r\u00e9volu \u2014 il ne peut y avoir que du progr\u00e8s technologique. Pourtant, si nous parvenons \u00e0 arracher le contr\u00f4le de la technologie \u00e0 la Silicon Valley et \u00e0 la tour d\u2019ivoire, les possibilit\u00e9s d\u2019une soci\u00e9t\u00e9 postcapitaliste semblent infinies. Le mouvement des travailleurs du secteur technologique du XXIe si\u00e8cle, vecteur porteur d\u2019espoir pour nous mener vers de telles perspectives, en est \u00e0 ses balbutiements \u2014 mais il constitue de plus en plus une force avec laquelle il faut compter, et, au risque de nous laisser emporter, nous devrions commencer \u00e0 imaginer l\u2019avenir dans lequel nous souhaitons vivre. Il est temps que nous commencions \u00e0 conceptualiser, et peut-\u00eatre \u00e0 prototyper, l\u2019informatique et l\u2019information dans un monde des travailleurs. Il est temps de commencer \u00e0 concevoir une nouvelle science de gauche.<\/p>\n\n\n\n

\n\n\n\n