Analyse de la boucle de rétroaction d’Abelard Snazz
Traduction de The downside of robot solutionism par Henry Farrell, le 7 août 2026.
Ces deux dernières semaines ont été plutôt calmes, car j’ai travaillé sur d’autres projets d’écriture avec d’autres personnes, dont certains sont sur le point d’être publiés. Entre-temps, cet article m’a rappelé l’une des créations les plus géniales et les moins connues d’Alan Moore. Abelard Snazz, « l’homme au cerveau à deux étages », propose de « résoudre des problèmes complexes avec des solutions encore plus compliquées ».
Quelqu’un à l’Economist suit les traces de Snazz. Le problème : l’IA est en train de « faire capoter l’État britannique » en permettant aux citoyens de se plaindre trop facilement.
Les citoyens, frustrés par le traitement médiocre que leur réservent les autorités, se tournent vers l’intelligence artificielle pour déposer des objections et des appels, et réclamer ce qui leur est dû. Le déluge de plaintes et de demandes qui en résulte va submerger des administrations conçues pour l’ère du courrier postal et du téléphone. On en fait trop peu pour empêcher l’État de sombrer.
Le souci n’est pas que l’IA soit mauvaise, mais qu’elle menace de devenir trop performante.
L’IA excelle dans la gestion de la bureaucratie. Elle peut analyser les petits caractères, dénicher les échappatoires et rédiger des lettres d’appel en quelques secondes. Des agents IA autonomes accéléreront cette tendance, déposant des plaintes fiscales avec un minimum d’intervention. Contrairement aux humains confrontés à l’administration, les agents IA ne perdront jamais leur sang-froid — ni leur envie de vivre. Les fonctionnaires se plaignent des « bévues » et des « hallucinations » de l’IA, mais à mesure que la technologie s’améliore, ils seront confrontés au problème inverse : des réclamations aussi bien ficelées que celles d’un avocat de premier ordre.
Cela ressemble structurellement aux problèmes de la planète Twopp, où l’État était submergé par la criminalité de rue, jusqu’à ce qu’il fasse appel aux services-conseils spécialisés d’Abelard Snazz. Remplacez « citoyens lésés » par « criminels voleurs » et l’analogie est presque parfaite.
Il n’a fallu que quelques instants de réflexion à Snazz pour trouver une solution.
De même, l’Economist
recommande de cesser de créer des droits qui se prêtent à des réclamations alimentées par l’IA. … élaguer la masse des droits procéduraux … La tâche la plus importante consiste à agir plus rapidement et plus radicalement pour refondre l’État à l’aide de l’IA. Cela signifie non seulement accélérer l’ancien cycle des demandes, des décisions et des appels, mais aussi le remplacer complètement. … Plutôt que de simplement traiter les objections des résidents, un nouveau système d’urbanisme piloté par l’IA pourrait décider de lui-même si un projet d’habitation respecte le code de zonage. Plutôt que de traiter les demandes de prestations, il pourrait concevoir des interventions personnalisées en matière d’aide sociale.
Comme le découvrent les citoyens de Twopp, l’automatisation de l’État s’avère poser ses propres problèmes. À l’époque comme aujourd’hui, les robots adorent vraiment le formalisme.
Abelard Snazz, bien sûr, a une solution à sa solution précédente.
Le système qui en résulte, opposant des robots policiers à des robots voleurs, ne cesse de s’étendre, d’engloutir des passants innocents et de rendre la vie quotidienne impossible.
Il en va de même pour d’autres tentatives visant à contrer les problèmes bureaucratiques de l’IA par davantage d’IA. Il y a quelques années, le New York Times décrivait comment cela se produisait déjà dans le secteur de l’assurance maladie aux États-Unis.
La liste des traitements nécessitant l’approbation préalable des assureurs semblait ne cesser de s’allonger, et les refus semblaient ne cesser d’augmenter. … Pour un nombre croissant de médecins, les chatbots basés sur l’IA — capables de rédiger des lettres à l’intention des assureurs en quelques secondes — ouvrent un nouveau front dans la lutte pour faire approuver des demandes d’indemnisation coûteuses, accomplissant en quelques minutes ce que des années de plaidoyer et de tentatives de réforme des soins de santé n’ont pas réussi à faire. … Alors que les médecins ont recours à l’IA pour rédiger plus rapidement leurs lettres de demande d’autorisation préalable, le Dr Wachter s’est dit « extrêmement confiant » quant au fait que les compagnies d’assurance utiliseraient l’IA pour mieux les rejeter. « On se retrouve face à un conflit inévitable », a déclaré le Dr Wachter, auteur d’un ouvrage sur les technologies numériques en médecine. « Leur IA rejettera notre IA, et nous nous retrouverons dans un va-et-vient sans fin. »
Le rédacteur en chef de l’Economist s’emballe sur l’essor de l’État de l’IA alors que les droits et les privilèges sont progressivement réduits, mais n’a pas grand-chose à dire sur la façon dont les citoyens sont susceptibles de réagir. À l’instar d’autres propositions de ce genre (l’auteur semble s’inspirer de l’idée que le Royaume-Uni pourrait, par exemple, résoudre ses problèmes d’urbanisme en rendant plus difficile pour les gens de s’y opposer), cela suppose tacitement que les citoyens ne trouveront pas d’autres points d’attaque. Comme le souligne Dan Davies, il s’agit là d’une hypothèse héroïque.
Abelard Snazz, pour être juste, propose une solution plus radicale à sa solution à sa solution.
Les conséquences ne sont pas entièrement satisfaisantes.
Derrière les blagues d’Alan Moore se cache une réflexion générale très utile. Abelard Snazz croit que la solution réside toujours dans davantage de robots, même lorsque le « solutionnisme robotique » est manifestement la cause première du problème. Il en va de même pour l’Economist, qui soutient que la solution aux problèmes causés par l’IA, c’est plus d’IA, accompagnée d’une bonne dose de restriction des droits. D’une manière générale, tenter de résoudre un problème systémique en redoublant d’efforts risque de créer des boucles de rétroaction incontrôlables.
Si vous regardez autour de vous, vous verrez partout dans le domaine de l’IA des approches similaires pour résoudre les problèmes. Les modèles de pointe menacent de dévaster la cybersécurité? Je vois des modèles de pointe déployés aussi bien pour la défense que pour l’attaque. Ha, ha, ha! C’est brillant. Ha, ha, ha.
Même si vous pouvez compléter vous-même par « vous êtes un génie, maître », comme bon vous semble, de telles idées ne sont pas forcément erronées dans ce cas précis. Abelard Snazz; les bureaucrates contre les plaignants; la cybersécurité offensive contre la cybersécurité défensive; ce sont là autant d’exemples de courses à l’armement alimentées par la technologie. Une fois qu’une course aux armements a commencé, l’incertitude stratégique fait qu’il peut être difficile d’empêcher l’escalade, même si cela finit par aggraver la situation de tout le monde.
De même – et c’est là que l’article de l’Economist passe à côté de l’essentiel –, il faut envisager ces dynamiques comme un système. Comment la solution que vous proposez interagit-elle avec le problème qu’elle est censée résoudre? Quels autres problèmes est-elle susceptible d’engendrer? Comment la solution sera-t-elle contournée? (et elle le sera – les bureaucraties basées sur l’IA auront sans aucun doute leur propre politique). Et ainsi de suite. Si vous ne raisonnez pas de cette manière, vous risquez de faire comme Abelard Snazz, en proposant des solutions toujours plus compliquées à des problèmes déjà complexes, dont vous avez d’ailleurs créé bon nombre vous-même grâce à vos efforts passés de résolution de problèmes.
Prochainement, un autre dossier spécial intitulé « Comment la science-fiction explique le monde dans lequel nous vivons », probablement lundi.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.