Traduction de AI is a bureaucratic technology. So is war.<\/strong><\/a> par Henry Farrell, 3 mars 2026.<\/p>\n\n\n\n Un court article en compl\u00e9ment du\u00a0pr\u00e9c\u00e9dent<\/a>, sur un aspect du conflit entre Anthropic et le minist\u00e8re de la D\u00e9fense qui devrait \u00eatre clair, mais qui ne l’est peut-\u00eatre pas, car il ne s’inscrit pas facilement dans les termes \u00e9nonc\u00e9s du d\u00e9saccord. Le principal sujet de discorde n’est\u00a0pas<\/em>\u00a0de savoir si Claude va devenir le cerveau d’une arm\u00e9e de T-1000, marchant au pas pour faire avancer les int\u00e9r\u00eats am\u00e9ricains. Il s’agit plut\u00f4t de l’utilisation bureaucratique de l’IA dans la guerre<\/em>\u00a0: \u00e0 la fois la guerre men\u00e9e \u00e0 l’\u00e9tranger et la guerre, peut-\u00eatre, men\u00e9e par l’\u00c9tat contre son propre peuple.<\/p>\n\n\n\n Si vous avez la moindre exp\u00e9rience du d\u00e9partement am\u00e9ricain de la D\u00e9fense, vous savez qu’il s’agit d’une bureaucratie labyrinthique, avec ses propres int\u00e9r\u00eats complexes. Paul Krugman\u00a0demande sarcastiquement ce matin<\/a>\u00a0si les troupes am\u00e9ricaines sont cens\u00e9es montrer leurs muscles face aux drones attaquants. Cette question rec\u00e8le une le\u00e7on importante. Le \u00ab syst\u00e8me moderne \u00bb de guerre ne d\u00e9pend pas tant des biceps, ni m\u00eame du mat\u00e9riel, que des structures organisationnelles complexes qui permettent de d\u00e9ployer avec succ\u00e8s des ressources qui se renforcent mutuellement. La logistique joue un r\u00f4le extr\u00eamement important<\/strong> : si vous ne parvenez pas \u00e0 acheminer le mat\u00e9riel au bon endroit et au bon moment, vous perdrez. Une myriade de d\u00e9cisions sp\u00e9cifiques prises par des individus doivent s’accumuler correctement. Tout cela explique pourquoi le Pentagone est si bureaucratique : m\u00eame si cela est inefficace dans certains cas pr\u00e9cis, m\u00eame si cela est parfois inefficace dans l’ensemble, on ne peut s’en passer.<\/p>\n\n\n\n Cela explique \u00e9galement pourquoi l’IA, y compris les syst\u00e8mes g\u00e9n\u00e9raux de synth\u00e8se, de collecte d’informations et de g\u00e9n\u00e9ration comme Claude, et les syst\u00e8mes plus sp\u00e9cialis\u00e9s \u00e0 des fins particuli\u00e8res, sont pr\u00e9cieux pour le minist\u00e8re de la D\u00e9fense. Ils\u00a0peuvent am\u00e9liorer la coordination<\/em>. La \u00ab\u00a0singularit\u00e9 manag\u00e9riale<\/a>\u00a0\u00bb est extr\u00eamement utile pour les grandes organisations qui ont beaucoup d’informations \u00e0 g\u00e9rer. Je viens de participer au podcast\u00a0Chinatalk\u00a0<\/em>de Jordan Schneider (qui n’est pas encore disponible sur Substack, d’apr\u00e8s ce que je vois), o\u00f9 j’ai discut\u00e9 avec des personnes qui, contrairement \u00e0 moi, ont une exp\u00e9rience directe de l’arm\u00e9e am\u00e9ricaine. Il est difficile de surestimer les avantages du LLM pour effectuer des t\u00e2ches de traduction organisationnelle, telles que la semi-automatisation de l’extraction d’informations sensibles sur les sources et les m\u00e9thodes \u00e0 partir de documents classifi\u00e9s destin\u00e9s \u00e0 \u00eatre partag\u00e9s avec des alli\u00e9s.<\/p>\n\n\n\n De m\u00eame, il y a des choses dont vous devez vous pr\u00e9occuper si ces technologies sont largement adopt\u00e9es. En cas de guerre r\u00e9elle, vous devez vous pr\u00e9occuper du choix des cibles. Voir, par exemple, le r\u00e9cit du magazine +972<\/em>, bas\u00e9 sur des sources m\u00e9contentes au sein de l’arm\u00e9e, sur la mani\u00e8re dont Isra\u00ebl a utilis\u00e9 l’IA pour d\u00e9cider qui frapper \u00e0 Gaza<\/a>.<\/p>\n\n\n\n Au d\u00e9but de la guerre, l’arm\u00e9e a donn\u00e9 son accord g\u00e9n\u00e9ral aux officiers pour adopter les listes de personnes \u00e0 abattre \u00e9tablies par Lavender, sans exiger qu’ils v\u00e9rifient minutieusement les raisons pour lesquelles la machine avait fait ces choix ni qu’ils examinent les donn\u00e9es brutes sur lesquelles ils \u00e9taient bas\u00e9s. Une source a d\u00e9clar\u00e9 que le personnel humain ne servait souvent que de \u00ab tampon en caoutchouc \u00bb pour les d\u00e9cisions de la machine, ajoutant que, normalement, ils ne consacraient personnellement qu’environ \u00ab 20 secondes \u00bb \u00e0 chaque cible avant d’autoriser un bombardement, juste pour s’assurer que la cible marqu\u00e9e par Lavender \u00e9tait un homme. Et ce, malgr\u00e9 le fait que le syst\u00e8me commette ce qui est consid\u00e9r\u00e9 comme des \u00ab erreurs \u00bb dans environ 10 % des cas et qu’il soit connu pour marquer occasionnellement des individus qui n’ont qu’un lien t\u00e9nu avec des groupes militants, voire aucun lien.<\/p>\n\n\n\n Les classificateurs IA, ce que Lavender est clairement, commettent beaucoup d’erreurs grossi\u00e8res. Le terme \u00ab grossier \u00bb a une signification tr\u00e8s diff\u00e9rente lorsqu’un syst\u00e8me est con\u00e7u pour tuer des personnes sur la base d’int\u00e9grations incompr\u00e9hensibles et peu fiables, et lorsqu’il est con\u00e7u pour diffuser des publicit\u00e9s.<\/p>\n\n\n\n Il en va de m\u00eame pour le d\u00e9ploiement de l’IA sur le front int\u00e9rieur, o\u00f9 certaines parties de l’arm\u00e9e am\u00e9ricaine pourraient analyser des informations sur les citoyens am\u00e9ricains. Cela a des cons\u00e9quences directes sur le conflit entre Hegseth et Anthropic, qui\u00a0aurait tourn\u00e9<\/a>\u00a0en grande partie autour des circonstances dans lesquelles le LLM d’Anthropic pourrait \u00eatre utilis\u00e9 pour la \u00ab surveillance l\u00e9gale des Am\u00e9ricains \u00bb. Alors, quels types de surveillance sont en fait l\u00e9gaux ?<\/p>\n\n\n\n Il est largement admis que, par exemple, la NSA n’est pas autoris\u00e9e \u00e0 surveiller d\u00e9lib\u00e9r\u00e9ment les citoyens am\u00e9ricains, en vertu du d\u00e9cret 12333. Les scandales pass\u00e9s (lorsque la NSA a par exemple mis sur \u00e9coute le r\u00e9v\u00e9rend Martin Luther King) ont conduit \u00e0 des r\u00e9formes dans les ann\u00e9es 1970 et apr\u00e8s. Ce qui est\u00a0beaucoup moins<\/em>\u00a0connu, c’est qu’il n’existe aucun contr\u00f4le juridique strict\u00a0emp\u00eachant l’arm\u00e9e am\u00e9ricaine<\/a>\u00a0d’acheter des informations \u00ab open source \u00bb recueillies par des fournisseurs commerciaux.<\/p>\n\n\n\n Il existe tout un secteur lucratif \u00e9quivalent \u00e0 l’\u00c9tat policier qui recueille des donn\u00e9es qu’il vend \u00e0 d’autres entreprises \u00e0 des fins de publicit\u00e9 cibl\u00e9e et autres. Et il ne se contente pas de vendre \u00e0 d’autres entreprises. Le gouvernement lui-m\u00eame, y compris certaines branches militaires, serait \u00e9galement un client enthousiaste.<\/p>\n\n\n\n Cela pose d\u00e9j\u00e0 des dilemmes : le gouvernement peut potentiellement utiliser ces donn\u00e9es pour \u00e9tablir des profils sophistiqu\u00e9s des citoyens am\u00e9ricains \u00e0 l’aide des technologies existantes. Mais les LLM peuvent potentiellement augmenter consid\u00e9rablement la capacit\u00e9 des administrations \u00e0 tisser ensemble diff\u00e9rentes sources de donn\u00e9es afin de fournir une image beaucoup plus coh\u00e9rente de l’individu et de ses activit\u00e9s. Comme le\u00a0d\u00e9crivent<\/a>\u00a0Marion Fourcade et Kieran Healy :<\/p>\n\n\n\n Au d\u00e9but de l’\u00e8re Internet, \u00eatre en ligne apportait certaines libert\u00e9s. Non seulement l’anonymat ou le pseudonymat en ligne \u00e9taient courants, mais ils \u00e9taient c\u00e9l\u00e9br\u00e9s comme une forme de lib\u00e9ration. Les utilisateurs saisissaient l’occasion d’exp\u00e9rimenter diff\u00e9rentes versions d’eux-m\u00eames. Cette multiplication des identit\u00e9s \u00e9tait une caract\u00e9ristique, et non un bug. Elle refl\u00e9tait \u00e9galement l’architecture technique d’un Internet moins int\u00e9gr\u00e9, qui offrait aux participants ce que l’on pourrait appeler une \u00ab libert\u00e9 interstitielle \u00bb. Il s’agit de la libert\u00e9 que nous accordent les \u00e9carts entre des syst\u00e8mes qui ne communiquent pas ou ne peuvent pas communiquer efficacement entre eux. C’est une sorte de libert\u00e9 n\u00e9gative. Si votre profil de joueur ne peut pas \u00eatre facilement reli\u00e9 \u00e0 votre adresse e-mail professionnelle ou \u00e0 vos discussions sur les forums, vous b\u00e9n\u00e9ficiez d’une forme de confidentialit\u00e9 qui d\u00e9pend moins de protections juridiques explicites que des limitations techniques de syst\u00e8mes qui sont connect\u00e9s en principe, mais pas int\u00e9gr\u00e9s dans la pratique. … Les outils qui reconnaissent des sch\u00e9mas, pr\u00e9disent des comportements et d\u00e9tectent des anomalies peuvent d\u00e9sormais fonctionner dans des domaines auparavant distincts.<\/p>\n<\/blockquote>\n\n\n\n Ces outils sont encore tr\u00e8s imparfaits, mais cela cr\u00e9e ses propres probl\u00e8mes. Les impr\u00e9cisions et les erreurs peuvent faire partie int\u00e9grante du syst\u00e8me. Les dystopies que nous devons craindre ressembleront moins \u00e0\u00a01984<\/em>, avec son Big Brother qui voit tout, qu’\u00e0\u00a0Brazil<\/em>\u00a0de Terry Gilliam<\/strong>, dans lequel un bug dans un t\u00e9l\u00e9scripteur conduit \u00e0 ce que la mauvaise personne soit prise pour cible et tourment\u00e9e.<\/p>\n\n\n\n Cela me semble mieux refl\u00e9ter la logique du combat entre Anthropic et le minist\u00e8re de la D\u00e9fense que la plupart des commentaires que je lis. Nous devrions moins nous inqui\u00e9ter des robots autonomes et davantage des syst\u00e8mes pseudo-autonomes int\u00e9gr\u00e9s dans les bureaucraties qui leur permettent de faire des choses qu’ils ne pouvaient pas faire auparavant, mais avec beaucoup d’impr\u00e9cision.<\/p>\n\n\n\n J’ai enseign\u00e9 \u00e0 un grand nombre d’officiers au cours de mes deux d\u00e9cennies pass\u00e9es dans le milieu de l’enseignement sup\u00e9rieur \u00e0 Washington DC. J’ai toute confiance en leur int\u00e9grit\u00e9 et en leur volont\u00e9 de lutter contre la syst\u00e9matisation des crimes de guerre<\/strong>. Je suis, pour le dire plus poliment que je ne le voudrais, moins confiant dans l’\u00e9thique et l’int\u00e9grit\u00e9 de leurs dirigeants civils actuels. Il n’est pas n\u00e9cessaire d’\u00eatre d’accord avec Dario Amodei sur la question de savoir si nous sommes sur le point d’assister au d\u00e9ploiement rapide de \u00ab pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb pour s’inqui\u00e9ter de ce qu’un aspirant d\u00e9partement de la guerre hegsethien sans entraves pourrait tenter de faire avec cette technologie, ou pour croire qu’Anthropic a pris la bonne d\u00e9cision en refusant de coop\u00e9rer (tout en souhaitant qu’elle en ait fait davantage), ou d’esp\u00e9rer qu’Amodei ait raison de sp\u00e9culer que cela pourrait susciter un d\u00e9bat sur le chemin parcouru avec ces technologies et sur la direction que nous pourrions prendre.<\/p>\n\n\n\n Les\u00a0traductions de 2026<\/a>\u00a0(.xlsx) \u2013\u00a0celles de 2025<\/a>\u00a0\u2013 par\u00a0Gilles en vrac<\/em> Que se passe-t-il lorsque l’IA affecte les syst\u00e8mes de ciblage et les libert\u00e9s civiles ? Traduction de AI is a bureaucratic technology. So is war. par Henry Farrell, 3 mars 2026. Un court article en compl\u00e9ment du\u00a0pr\u00e9c\u00e9dent, sur un aspect du conflit entre Anthropic et le minist\u00e8re de la D\u00e9fense qui devrait \u00eatre clair, mais … <\/p>\n
\n\n\n\n\n
\n\n\n\n
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles
Pour vous recevoir un courriel\u00a0hebdomadaire<\/a>\u00a0vers mes traductions.<\/p>\n","protected":false},"excerpt":{"rendered":"