La course à l’armement consistant à reporter l’autonomie et l’acceptation tacite et sombre d’une bureaucratie robotisée.
Traduction de The Least Agentic People Alive, par Ben Recht, le 7 août 2026
J’ai commencé et abandonné quatre articles cette semaine, sans parvenir à comprendre pourquoi j’étais bloqué. Finalement, ce matin, dans une délicieuse adaptation d’une bande dessinée d’Alan Moore, Henry Farrell a mis le doigt sur le problème.
Henry décrit la société imaginée par Moore, où un dictateur bienveillant et surdoué, nommé Abelard Snazz, conçoit des robots policiers géants pour lutter contre la criminalité. Les robots font preuve d’un zèle excessif et commencent à importuner les citoyens ordinaires. Snazz déploie donc des robots criminels pour occuper la police. Le cycle se poursuit jusqu’à ce que les gens soient forcés de fuir la planète.
Henry, toujours désireux de nous montrer ce que la science-fiction nous apprend sur notre expérience vécue, décrit comment cette automatisation se manifeste dans nos vies : les gens se tournent vers les chatbots pour composer avec la bureaucratie, tandis que les gouvernements planifient de nouveaux systèmes d’IA pour faire face à l’avalanche de protestations contre ChatGPT. Nous savons où cela mène. Et cette semaine a vu beaucoup trop d’histoires illustrant cet abandon de l’autonomie et cette capitulation face à l’IA.
J’ai rédigé un billet de blogue sur notre festival annuel de plaintes concernant le désastre académique qu’est la conférence NeurIPS. Tout le monde se précipite sur les médias sociaux pour se plaindre que les gens se dérobent à leurs responsabilités d’évaluation. Ils se moquent des nouvelles limites fixées à 25 articles par auteur par conférence. Ils déplorent que les articles sur l’IA et les rapports d’évaluation soient désormais de meilleure qualité que ceux soumis par des humains. Ils affirment que personne ne lit ces articles. Et pourtant, tout le monde continue de soumettre des articles, de les évaluer et d’agir à titre de présidents de section.
On ne sait absolument plus ce que chacun attend de ce processus. À chaque soi-disante solution, le processus devient plus fastidieux, et les problèmes ne font qu’empirer. On soumet davantage d’articles, on s’arrache davantage les cheveux de frustration. Chaque jour, je me rappelle ce que Kevin Baker a écrit au sujet de cette accélération de la publication et de la disparition : « Les systèmes peuvent persister indéfiniment dans leur dysfonctionnement, et l’absurdité ne se corrige pas d’elle-même. » Mais la phrase suivante de Kevin est encore plus accablante : « Que cette accélération entraîne un effondrement, une adaptation ou simplement plus de la même chose n’est pas une question de technologie, et ce ne sont pas les débats sur les capacités qui y répondront. »
J’ai rédigé un billet de blogue sur les lettres ouvertes des employés d’entreprises technologiques. Ils mettent en garde contre tous les dangers potentiels de la technologie qu’ils développent. Ils supplient le gouvernement de les réglementer. Ils dénoncent leur impuissance tout en touchant des rémunérations à sept chiffres. Apparemment, ils ne voient pas comment agir eux-mêmes.
Ces gens veulent que nous leur fassions confiance, mais ils ne cessent d’admettre qu’ils commettent des crimes. Ils parlent de leurs logiciels comme s’il s’agissait de personnes, essayant de détourner l’attention de leur propre incompétence en matière de normes de sécurité. Ils exigent des tests rigoureux des modèles ouverts tout en se vantant de leurs pratiques ridiculement négligentes. Ils exigent que le gouvernement intervienne pour les réglementer, parce qu’ils sont incapables de se sortir eux-mêmes de cette impasse.
Même dans des domaines ésotériques, on observe un recours à l’IA. Les machines à blanchir les connaissances sont désormais suffisamment performantes pour prouver de véritables théorèmes, en trouvant les étapes clés et ingénieuses nécessaires pour exploiter la littérature existante et résoudre des problèmes ouverts « majeurs ».1Il n’y a pas de problèmes ouverts majeurs en mathématiques, dans le sens où le reste du monde s’en rendrait compte une fois qu’ils seraient résolus. La seule chose qui se produit quand quelqu’un les résout, c’est que les mathématiciens posent de nouveaux problèmes. Il y a beaucoup à dire sur ce qui se passe ici. Il s’agit toujours de « blanchiment de connaissances », et les mathématiciens ont raison d’être en colère : les modèles restent épouvantables en matière d’attribution correcte. Mais les nouveaux modèles génèrent des liens beaucoup plus ingénieux pour assembler les preuves.
OpenAI mène depuis un certain temps une attaque par déni de service distribué contre des problèmes mathématiques non résolus, et ses outils internes ont finalement réussi à en résoudre certains parmi les plus difficiles. Seules trois personnes au monde savent ce qu’est un groupe non-sofic et pourquoi il est important,2Aucun d’entre eux ne travaille chez OpenAI. mais le nouveau modèle Astra d’OpenAI a réussi à en construire un. Ces avancées mathématiques ont déclenché une course aux armements en mathématiques, où l’on dit aux mathématiciens qu’ils doivent désormais effectuer tout leur travail avec ChatGPT sous peine d’être laissés pour compte. Ou pire encore, qu’on n’a plus besoin de mathématiciens. Ce que cela signifie pour les mathématiques et les mathématiques appliquées en général reste à voir. Mais je vous garantis que les gens vont rapidement se lasser des articles théoriques publiés sur arXiv qui ne sont que des transcriptions de conversations entre des professeurs et ChatGPT.
Comme l’écrit Henry, tous ces cas relèvent de la course aux armements. Comme dans toute course aux armements, l’élan peut sembler insurmontable. Je suis entouré de gens qui lèvent les mains au ciel comme s’ils n’avaient aucune marge de manœuvre. Mais il est parfois important de prendre un peu de recul et de se rendre compte que la direction que nous prenons n’est pas inévitable. Nous avons bel et bien le choix.
Les chercheurs n’ont pas à envoyer des dizaines de milliers d’articles à des congrès où personne ne lit quoi que ce soit. Ils peuvent concevoir collectivement de meilleurs systèmes pour générer, évaluer et partager les connaissances. Les employés peuvent utiliser le pouvoir de leur travail pour orienter leurs entreprises, plutôt que de supplier quelqu’un d’autre d’intervenir. Les mathématiciens peuvent continuer à réfléchir, à comprendre et à enseigner. Nous avons tous le pouvoir de faire autre chose.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.
Notes
- 1Il n’y a pas de problèmes ouverts majeurs en mathématiques, dans le sens où le reste du monde s’en rendrait compte une fois qu’ils seraient résolus. La seule chose qui se produit quand quelqu’un les résout, c’est que les mathématiciens posent de nouveaux problèmes. ↩︎
- 2Aucun d’entre eux ne travaille chez OpenAI. ↩︎