\n\n\n\n
Dans un essai r\u00e9cent, Derek Thompson<\/a> se penche sur le concept de l\u2019IA en tant que technologie normale<\/a> (AINT). Il partage notre th\u00e8se concernant les effets progressifs de l\u2019IA sur le march\u00e9 du travail, s\u2019appuyant sur le fait que la croissance du PIB est rest\u00e9e moyenne jusqu\u2019\u00e0 pr\u00e9sent, que le taux de ch\u00f4mage est inf\u00e9rieur \u00e0 5 % et que m\u00eame les emplois qui semblaient vuln\u00e9rables \u00e0 l\u2019automatisation affichent une hausse de l\u2019emploi et des salaires. Il conclut que, jusqu\u2019\u00e0 pr\u00e9sent, le tableau macro\u00e9conomique correspond \u00e0 ce que l\u2019on attendrait d\u2019une technologie \u00ab normale \u00bb \u00e0 usage g\u00e9n\u00e9ral.<\/p>\n\n\n\n Mais en ce qui concerne les risques li\u00e9s \u00e0 l’IA, il se montre beaucoup plus pessimiste. Il cite des exemples de cyber-risques et de risques biologiques et exprime son pessimisme quant au fait que l’IA pourrait rapidement devenir dangereuse dans de nombreux nouveaux domaines. Il soutient que les capacit\u00e9s \u00e9mergentes de l’IA la rendent fondamentalement diff\u00e9rente des technologies pr\u00e9c\u00e9dentes, et que cette diff\u00e9rence justifie des r\u00e9ponses gouvernementales \u00ab extraordinaires \u00bb, y compris des restrictions sur ce que les entreprises peuvent commercialiser. 1<\/a><\/sup>Thompson \u00e9crit : \u00ab Je peux comprendre un plan visant \u00e0 traiter l\u2019IA comme une technologie \u201cnormale\u201d et \u00e0 laisser Nvidia exporter des puces puissantes vers la Chine. Et je peux comprendre un plan visant \u00e0 traiter l\u2019IA comme une technologie \u00ab\u00a0anormale \u00bb qui oblige le gouvernement \u00e0 cr\u00e9er des r\u00e9glementations extraordinaires emp\u00eachant les entreprises priv\u00e9es de vendre leurs produits et services au motif qu\u2019ils sont trop dangereux<\/strong> \u00bb [c\u2019est nous qui soulignons]. Il en conclut que l\u2019IA est, en fait, anormale, laissant entendre qu\u2019il soutient une intervention gouvernementale extraordinaire. Notre essai est une r\u00e9ponse \u00e0 cette conclusion.<\/span><\/p>\n\n\n\n Dans cet essai, nous exposons les inconv\u00e9nients d\u2019une intervention gouvernementale extraordinaire en r\u00e9ponse aux nouvelles technologies. Nous discutons de propositions visant \u00e0 am\u00e9liorer la r\u00e9silience qui ne n\u00e9cessitent pas une telle intervention. Nous examinons \u00e9galement pourquoi les gouvernements se sont jusqu\u2019\u00e0 pr\u00e9sent montr\u00e9s r\u00e9ticents \u00e0 investir dans la r\u00e9silience. En bref, la r\u00e9silience exige que nous am\u00e9liorions le processus *normal* d\u2019\u00e9laboration des politiques. Mais la scl\u00e9rose au sein du gouvernement f\u00e9d\u00e9ral et la facilit\u00e9 avec laquelle on peut justifier des interventions visant les entreprises d\u2019IA plut\u00f4t que la soci\u00e9t\u00e9 dans son ensemble rendent l\u2019intervention extraordinaire attrayante, malgr\u00e9 ses limites.<\/p>\n\n\n\n Que va-t-il se passer ensuite ? Les d\u00e9cideurs politiques peuvent soit se ressaisir et investir massivement dans l\u2019am\u00e9lioration de la r\u00e9silience, soit \u00eatre contraints de prendre des mesures extraordinaires (telles que la non-prolif\u00e9ration de l\u2019IA) qui sont plus co\u00fbteuses et moins efficaces.<\/p>\n\n\n\n De nombreuses personnes, dont Thompson, ont trouv\u00e9 que le concept d\u2019IA en tant que \u00ab\u00a0technologie normale \u00bb constituait un cadre utile pour r\u00e9fl\u00e9chir aux impacts \u00e9conomiques de l\u2019IA, tout en restant sceptiques quant \u00e0 nos points de vue sur la s\u00e9curit\u00e9. Dans l\u2019essai de l\u2019AINT, nous avan\u00e7ons diff\u00e9rents arguments concernant les impacts lents sur le march\u00e9 du travail et la r\u00e9silience face aux risques d\u2019utilisation abusive.<\/p>\n\n\n\n L\u2019argument relatif au march\u00e9 du travail<\/a> repose sur la vitesse de diffusion : de nombreux freins ralentissent le passage d\u2019une nouvelle capacit\u00e9 d\u2019IA \u00e0 son impact \u00e9conomique, notamment la n\u00e9cessit\u00e9 de d\u00e9velopper des produits, de modifier les flux de travail organisationnels et de s\u2019adapter \u00e0 la r\u00e9glementation. Cela s\u2019est av\u00e9r\u00e9 utile \u00e0 la fois pour comprendre pourquoi les affirmations concernant un remplacement rapide et g\u00e9n\u00e9ralis\u00e9 des emplois (telles que celles d\u2019Amodei sur un bain de sang imminent parmi les cols blancs<\/a>) ont peu de chances de se concr\u00e9tiser, et pour identifier les goulots d\u2019\u00e9tranglement \u00e0 la diffusion qui pourraient entraver l\u2019adoption b\u00e9n\u00e9fique de l\u2019IA.<\/p>\n\n\n\n Mais notre argument concernant les risques d’utilisation abusive de l’IA<\/a> repose sur l’\u00e9quilibre entre attaque et d\u00e9fense : la question est de savoir si les attaquants ou les d\u00e9fenseurs tirent davantage profit d’une capacit\u00e9 donn\u00e9e, et notre capacit\u00e9 \u00e0 renforcer la r\u00e9silience<\/a> face aux risques d’utilisation abusive. Il convient de noter qu’un attaquant n’a pas besoin de passer par le lent processus d’adoption organisationnelle pour causer du tort. Nous plaidons en faveur du renforcement de la r\u00e9silience soci\u00e9tale pour intervenir face aux risques d’utilisation abusive et identifions de nombreuses mesures que nous devrions prendre pour r\u00e9duire les risques li\u00e9s \u00e0 l’IA.<\/p>\n\n\n\n Sur ce point, Thompson n’est pas d’accord avec nous. L’une des raisons de son d\u00e9saccord est que toutes les technologies \u00e0 usage g\u00e9n\u00e9ral entra\u00eenent de nouveaux risques, difficiles \u00e0 appr\u00e9hender \u00e0 partir des sch\u00e9mas ant\u00e9rieurs. Mais m\u00eame dans l\u2019histoire des technologies \u00e0 usage g\u00e9n\u00e9ral, Thompson soutient que l\u2019IA semble particuli\u00e8rement \u00ab anormale \u00bb en raison de risques \u00e9mergents et inconnus, m\u00eame des d\u00e9veloppeurs d\u2019IA. Et cela justifie les projets du gouvernement visant \u00e0 traiter l\u2019IA comme une technologie anormale, car elle \u00ab\u00a0oblige le gouvernement \u00e0 cr\u00e9er des r\u00e9glementations extraordinaires qui emp\u00eachent les entreprises priv\u00e9es de vendre leurs produits et services au motif qu\u2019ils sont trop dangereux\u00a0\u00bb.<\/p>\n\n\n\n Thompson ne d\u00e9finit pas pr\u00e9cis\u00e9ment ce qu\u2019il entend par \u00ab action gouvernementale extraordinaire \u00bb, et les interventions sp\u00e9cifiques qu\u2019il envisage restent quelque peu vagues. Puisque nous allons nous opposer \u00e0 de telles interventions, nous voulons \u00eatre clairs sur ce que nous entendons par ce terme. Nous consid\u00e9rons les interventions extraordinaires comme un spectre d\u00e9fini par trois facteurs qui s\u2019appliquent \u00e0 toute technologie puissante, et pas seulement \u00e0 l\u2019IA.<\/p>\n\n\n\n Premi\u00e8rement, les interventions extraordinaires ont tendance \u00e0 \u00eatre de nature pr\u00e9ventive. Elles restreignent l\u2019activit\u00e9 sur la base de dommages anticip\u00e9s plut\u00f4t que de dommages av\u00e9r\u00e9s ou d\u00e9montr\u00e9s. Cela ne signifie pas que la pr\u00e9caution n\u2019est jamais justifi\u00e9e, mais cela signifie que la justification doit \u00eatre plus solide, puisque nous restreignons l\u2019activit\u00e9 sans preuve claire que les dommages se concr\u00e9tiseront (ou qu\u2019ils se concr\u00e9tiseront exactement comme nous le pr\u00e9voyons). M\u00eame dans ce cas, une intervention est d\u2019autant plus extraordinaire qu\u2019il existe des alternatives viables permettant de g\u00e9rer les risques tout en \u00e9tant moins restrictives, comme l\u2019investissement dans la r\u00e9silience.<\/p>\n\n\n\n Deuxi\u00e8mement, les interventions extraordinaires imposent des restrictions \u00e0 la libert\u00e9 d\u2019acteurs qui ne sont pas directement responsables des pr\u00e9judices en question. Lorsque les gouvernements restreignent ce que les entreprises d\u2019IA peuvent commercialiser, la charge ne p\u00e8se pas sur les acteurs malveillants qui causent du tort, mais sur les entreprises qui d\u00e9veloppent des outils pouvant, en principe, \u00eatre d\u00e9tourn\u00e9s. Cela est particuli\u00e8rement pertinent pour les technologies \u00e0 double usage. Comme ces outils ont de nombreuses applications b\u00e9n\u00e9fiques, les restrictions impos\u00e9es aux entreprises peuvent priver<\/a> le grand public d\u2019un acc\u00e8s b\u00e9n\u00e9fique afin d\u2019emp\u00eacher les abus d\u2019un petit nombre d\u2019acteurs malveillants.<\/p>\n\n\n\n Troisi\u00e8mement, les interventions extraordinaires contournent les processus normaux de gouvernance et s\u2019appuient plut\u00f4t sur une autorit\u00e9 unilat\u00e9rale telle que des d\u00e9clarations d\u2019urgence ou des d\u00e9crets, alors m\u00eame que les processus de gouvernance contourn\u00e9s existent pour garantir que les restrictions \u00e0 la libert\u00e9 soient soumises \u00e0 une responsabilit\u00e9 d\u00e9mocratique.<\/p>\n\n\n\n Une intervention n\u2019a pas besoin de satisfaire \u00e0 ces trois crit\u00e8res pour \u00eatre consid\u00e9r\u00e9e comme extraordinaire. Mais plus ces facteurs sont nombreux, plus le seuil pour la justifier doit \u00eatre \u00e9lev\u00e9.<\/p>\n\n\n\n Nous convenons que l’IA pr\u00e9sente des risques d’abus. Mais notre exp\u00e9rience en mati\u00e8re de r\u00e9glementation des technologies \u00ab anormales \u00bb montre \u00e0 quel point les interventions gouvernementales extraordinaires peuvent \u00eatre lourdes. L’application de la non-prolif\u00e9ration nucl\u00e9aire a n\u00e9cessit\u00e9 l’AIEA<\/a>, le Trait\u00e9 de non-prolif\u00e9ration<\/a>, des d\u00e9cennies de diplomatie, des investissements continus<\/a> et m\u00eame des confrontations militaires<\/a>. Le co\u00fbt de ces interventions a \u00e9t\u00e9 \u00e9norme, mais l\u2019approche \u00e9tait au moins en partie applicable car les armes nucl\u00e9aires d\u00e9pendent de l\u2019uranium enrichi, un goulot d\u2019\u00e9tranglement physique v\u00e9ritablement difficile \u00e0 contourner.<\/p>\n\n\n\n L\u2019IA est diff\u00e9rente des armes nucl\u00e9aires<\/a>. D\u2019une part, il n\u2019existe pas de goulot d\u2019\u00e9tranglement \u00ab physique \u00bb \u00e9quivalent. Les techniques fondamentales pour construire des syst\u00e8mes d\u2019IA sont bien connues. Les adversaires (en particulier les \u00c9tats-nations) peuvent rattraper les capacit\u00e9s de pointe en quelques mois. Tout r\u00e9gime de non-prolif\u00e9ration de l\u2019IA serait confront\u00e9 \u00e0 une \u00e9rosion constante.<\/p>\n\n\n\n Face \u00e0 ce d\u00e9fi, comment les gouvernements pourraient-ils maintenir la non-prolif\u00e9ration ? Certaines interventions propos\u00e9es, telles que le d\u00e9cret pr\u00e9sidentiel dont on parle concernant les engagements volontaires<\/a> des entreprises d\u2019IA pour des \u00e9valuations pr\u00e9alables au d\u00e9ploiement, sont relativement modestes \u00e0 l\u2019\u00e9chelle des interventions extraordinaires. Bien men\u00e9es, elles pourraient nous permettre de faire pencher la balance entre l\u2019attaque et la d\u00e9fense en donnant aux d\u00e9fenseurs plus de temps pour se pr\u00e9parer aux nouvelles capacit\u00e9s.<\/p>\n\n\n\n Les \u00c9tats-Unis ont \u00e9galement mis en place des contr\u00f4les \u00e0 l\u2019exportation sur les puces. Nous pensons qu\u2019il s\u2019agit d\u2019une intervention modeste : les pays restreignent r\u00e9guli\u00e8rement les exportations de biens sensibles pour conserver leur avance en mati\u00e8re d\u2019innovation, et des personnes raisonnables peuvent ne pas s\u2019accorder sur la ligne \u00e0 tracer. Mais lorsqu\u2019il s\u2019agit d\u2019emp\u00eacher que des capacit\u00e9s dangereuses ne deviennent largement accessibles, les contr\u00f4les \u00e0 l\u2019exportation sont bien moins efficaces. Les mod\u00e8les \u00e0 poids ouvert et l\u2019acc\u00e8s g\u00e9n\u00e9ralis\u00e9 aux API depuis les laboratoires de pointe signifient que l\u2019\u00e9cart entre les capacit\u00e9s de pointe et celles accessibles au public est au maximum de quelques mois, et non de plusieurs ann\u00e9es.<\/p>\n\n\n\n Si la non-prolif\u00e9ration ne nous fait gagner que quelques mois au mieux, la priorit\u00e9 urgente devrait \u00eatre d\u2019investir dans la r\u00e9silience afin d\u2019\u00eatre mieux pr\u00e9par\u00e9s lorsque ces capacit\u00e9s deviendront in\u00e9vitablement largement disponibles, comme nous le discutons ci-dessous. D\u2019un autre c\u00f4t\u00e9, si les gouvernements tentent de maintenir la non-prolif\u00e9ration comme moyen de dissuader la mise \u00e0 disposition de capacit\u00e9s d\u2019IA avanc\u00e9es \u00e0 des fins d\u2019utilisation abusive, leurs interventions deviendront n\u00e9cessairement plus exigeantes.<\/p>\n\n\n\n Pour v\u00e9ritablement faire respecter la non-prolif\u00e9ration, les gouvernements devraient restreindre l\u2019acc\u00e8s aux mod\u00e8les \u00e0 poids ouverts et m\u00eame l\u2019acc\u00e8s par API aux mod\u00e8les performants. Cela n\u00e9cessiterait des r\u00e9gimes de licences conf\u00e9rant aux gouvernements un pouvoir permanent sur les mod\u00e8les pouvant \u00eatre publi\u00e9s, ainsi que des restrictions sur les mod\u00e8les \u00e0 poids ouverts. Nous pourrions rapidement entrer dans une situation o\u00f9 les gouvernements exerceraient un contr\u00f4le sur les recherches et les produits d’IA pouvant \u00eatre partag\u00e9s publiquement. En fait, nous avons d\u00e9j\u00e0 vu des exemples pr\u00e9occupants d’un tel contr\u00f4le, comme la d\u00e9signation d’Anthropic comme risque pour la cha\u00eene d’approvisionnement<\/a>, et les rumeurs r\u00e9centes concernant les exigences de licence pour les entreprises d’IA<\/a>.<\/p>\n\n\n\n Pour \u00e9viter cette pente glissante, ceux qui proposent des interventions extraordinaires devraient indiquer clairement o\u00f9 ils traceraient la ligne. Soutiendraient-ils des restrictions sur les mod\u00e8les \u00e0 poids ouverts ? Qu’en est-il de l’obligation d’obtenir des autorisations pour chaque nouvelle version de mod\u00e8le, ou des restrictions sur la mobilit\u00e9 des chercheurs qui d\u00e9veloppent des IA de pointe entre les pays ? Si les partisans ne peuvent pas pr\u00e9ciser les limites de ce qu’ils r\u00e9clament, il est raisonnable de s’attendre \u00e0 ce que les demandes visant \u00e0 accro\u00eetre la capacit\u00e9 du gouvernement \u00e0 prendre des mesures unilat\u00e9rales ne cessent de s’intensifier \u00e0 mesure que les capacit\u00e9s progressent. 2<\/a><\/sup>L\u2019essai de Thompson exprime un soutien aux restrictions impos\u00e9es aux entreprises d\u2019IA, mais reste vague quant \u00e0 la forme que ces restrictions prendraient dans la pratique. Notre analyse des interventions qui seraient n\u00e9cessaires, ainsi que de leurs inconv\u00e9nients, s\u2019appuie sur notre propre r\u00e9flexion sur le sujet plut\u00f4t que sur ses propositions sp\u00e9cifiques.<\/span><\/p>\n\n\n\n Pour les armes nucl\u00e9aires, une fois le r\u00e9gime de non-prolif\u00e9ration mis en place, il n’a pas \u00e9t\u00e9 n\u00e9cessaire de le reconstruire tous les deux ou trois ans. Mais l\u2019IA n\u2019est pas la derni\u00e8re technologie num\u00e9rique dot\u00e9e de puissantes propri\u00e9t\u00e9s \u00e0 double usage. De nouvelles technologies soul\u00e8veraient des questions similaires et exigeraient potentiellement des r\u00e9ponses similaires ou de plus en plus strictes. Ainsi, le cadre de la \u00ab technologie anormale \u00bb pour r\u00e9glementer l\u2019IA commencerait \u00e0 ressembler moins \u00e0 une r\u00e9ponse cibl\u00e9e \u00e0 un risque sp\u00e9cifique et davantage \u00e0 une extension permanente des pouvoirs du gouvernement sur ce que les citoyens et les entreprises peuvent cr\u00e9er, publier et rechercher.<\/p>\n\n\n\n Nous avons d\u00e9j\u00e0 vu ce d\u00e9bat se d\u00e9rouler par le pass\u00e9. Chaque nouvelle technologie soul\u00e8ve la question de savoir quelles restrictions \u00e0 la libert\u00e9 sont appropri\u00e9es pour att\u00e9nuer les pr\u00e9judices. Cette histoire nous enseigne que nous ne devrions pas automatiquement recourir \u00e0 des interventions gouvernementales extraordinaires.<\/p>\n\n\n\n Internet a permis aux gens d\u2019acc\u00e9der \u00e0 des informations sur la fabrication de bombes, et en 1995, apr\u00e8s l\u2019attentat d\u2019Oklahoma City, la regrett\u00e9e s\u00e9natrice Feinstein a pr\u00e9sent\u00e9 un projet de loi<\/a> qui, dans sa premi\u00e8re version, aurait criminalis\u00e9 la diffusion sur Internet de toute information d\u00e9crivant les mat\u00e9riaux ou les proc\u00e9d\u00e9s de fabrication de bombes. (Lorsque le projet de loi a finalement \u00e9t\u00e9 adopt\u00e9, son champ d’application \u00e9tait plus restreint, exigeant que les contrevenants aient sciemment aid\u00e9 \u00e0 commettre un crime par le biais de leurs instructions.)<\/p>\n\n\n\n Le gouvernement f\u00e9d\u00e9ral a \u00e9galement tent\u00e9 de restreindre<\/a> l’acc\u00e8s aux logiciels de chiffrement, arguant que cela aiderait les criminels \u00e0 communiquer hors de port\u00e9e des forces de l’ordre. Il a impos\u00e9 des contr\u00f4les \u00e0 l’exportation et propos\u00e9 d’exiger des portes d\u00e9rob\u00e9es dans les syst\u00e8mes de chiffrement afin que le gouvernement puisse toujours acc\u00e9der aux communications priv\u00e9es. Il a m\u00eame ouvert une enqu\u00eate p\u00e9nale<\/a> contre un programmeur en vertu de la loi sur le contr\u00f4le des exportations d’armes pour avoir diffus\u00e9 un logiciel de chiffrement.<\/p>\n\n\n Ces restrictions ont finalement \u00e9t\u00e9 lev\u00e9es gr\u00e2ce \u00e0 une combinaison de d\u00e9cisions de justice<\/a> et de mesures ex\u00e9cutives<\/a>. Le chiffrement est devenu le fondement de la s\u00e9curit\u00e9 num\u00e9rique, permettant le commerce \u00e9lectronique, les services bancaires en ligne et de nombreuses autres applications.<\/p>\n\n\n\n Pourtant, \u00e0 d\u2019autres moments de l\u2019histoire, nous avons accept\u00e9 un renforcement des pouvoirs du gouvernement en r\u00e9ponse aux nouvelles technologies. Les actes de terrorisme g\u00e9n\u00e9ralis\u00e9s qui ont suivi l\u2019invention de la dynamite ont catalys\u00e9<\/a> l\u2019expansion de l\u2019appareil de surveillance gouvernemental par le FBI.<\/p>\n\n\n\n La question est de savoir si ce niveau d\u2019intervention est n\u00e9cessaire pour faire face aux risques li\u00e9s \u00e0 l\u2019IA. Une r\u00e9ponse qui ne n\u00e9cessite pas d\u2019intervention gouvernementale extraordinaire consiste \u00e0 am\u00e9liorer la r\u00e9silience.<\/p>\n\n\n\n La r\u00e9silience est la capacit\u00e9 d’un syst\u00e8me \u00e0 r\u00e9sister et \u00e0 s’adapter aux dommages. C’\u00e9tait l’une des principales d\u00e9fenses que nous avons propos\u00e9es<\/a> dans l’essai sur l’AINT. Contrairement aux mesures gouvernementales extraordinaires telles que les restrictions sur ce que les entreprises peuvent commercialiser, la r\u00e9silience n’impose pas de co\u00fbts aux entreprises d’IA. Elle vise plut\u00f4t \u00e0 am\u00e9liorer notre capacit\u00e9 \u00e0 r\u00e9agir et \u00e0 nous relever des risques li\u00e9s \u00e0 l’IA, quels que soient le moment et le lieu o\u00f9 ils surviennent. Pour les dommages technologiques pass\u00e9s, l’am\u00e9lioration de la r\u00e9silience des syst\u00e8mes a \u00e9t\u00e9 essentielle pour r\u00e9duire les dommages.<\/p>\n\n\n\n Prenons l’exemple de la cybers\u00e9curit\u00e9. Internet a donn\u00e9 naissance \u00e0 des types d’attaques enti\u00e8rement nouveaux, tels que les vers<\/a> qui se propagent \u00e0 travers les r\u00e9seaux, causant des milliards de dollars de dommages. Nous ne nous sommes pas d\u00e9fendus contre ces risques en restreignant l’acc\u00e8s aux ordinateurs ou \u00e0 Internet, mais plut\u00f4t gr\u00e2ce \u00e0 des programmes de prime aux bogues visant \u00e0 inciter les utilisateurs \u00e0 signaler les vuln\u00e9rabilit\u00e9s aux d\u00e9veloppeurs, \u00e0 l’am\u00e9lioration des navigateurs et des syst\u00e8mes d’exploitation, aux tests automatis\u00e9s et \u00e0 de meilleures pratiques de correction. Toutes ces mesures ont am\u00e9lior\u00e9 la r\u00e9silience de notre infrastructure cybern\u00e9tique, quel que soit le lieu d’origine des risques.<\/p>\n\n\n\n Les outils automatis\u00e9s de d\u00e9tection des vuln\u00e9rabilit\u00e9s constituent un autre exemple de technologie permettant de nouveaux types d\u2019attaques. Des outils tels que les fuzzers<\/a> et les moteurs d\u2019ex\u00e9cution symbolique<\/a> font preuve d\u2019une efficacit\u00e9 \u00ab surhumaine \u00bb en mati\u00e8re de d\u00e9tection des vuln\u00e9rabilit\u00e9s depuis des ann\u00e9es ; ils peuvent d\u00e9tecter des vuln\u00e9rabilit\u00e9s \u00e0 une \u00e9chelle que les humains ne peuvent \u00e9galer. Pourtant, ils sont disponibles gratuitement sur des d\u00e9p\u00f4ts open source. Comme les d\u00e9fenseurs avaient acc\u00e8s aux m\u00eames outils, ceux-ci sont devenus des outils d\u00e9fensifs essentiels, largement financ\u00e9s par l\u2019\u00e9cosyst\u00e8me de la cyberd\u00e9fense. En fait, les d\u00e9fenseurs disposaient d\u2019avantages structurels pour utiliser efficacement ces outils, tels qu\u2019un acc\u00e8s plus approfondi aux syst\u00e8mes test\u00e9s. Cela a conduit \u00e0 une meilleure protection des cybersyst\u00e8mes.<\/p>\n\n\n\n Cela montre comment nous avons g\u00e9r\u00e9 la transition de la d\u00e9tection de vuln\u00e9rabilit\u00e9s sans aide \u00e0 une d\u00e9tection largement surhumaine sans n\u00e9cessiter d\u2019intervention gouvernementale extraordinaire. Nous convenons que les LLM apportent de r\u00e9elles am\u00e9liorations \u00e0 la d\u00e9tection des vuln\u00e9rabilit\u00e9s, mais ils s\u2019appuient sur des d\u00e9cennies d\u2019outils qui d\u00e9passent d\u00e9j\u00e0 de loin ce qu\u2019un humain peut faire sans aide. Si nous avons d\u00e9j\u00e0 int\u00e9gr\u00e9 la transition vers de tels outils, il convient de se demander si les capacit\u00e9s suppl\u00e9mentaires des mod\u00e8les linguistiques n\u00e9cessitent des interventions extraordinaires.<\/p>\n\n\n\n Pour \u00eatre clair, ces transitions n\u2019ont pas \u00e9t\u00e9 sans heurts ni indolores. Pendant une br\u00e8ve p\u00e9riode, l\u2019\u00e9quilibre entre attaquants et d\u00e9fenseurs a \u00e9t\u00e9 compl\u00e8tement boulevers\u00e9. L\u2019id\u00e9e d\u2019une propagation virale de logiciels malveillants et l\u2019asym\u00e9trie qui en a r\u00e9sult\u00e9 \u00e9taient sans pr\u00e9c\u00e9dent. Des adolescents de 15 ans pouvaient cr\u00e9er des cyberattaques d\u00e9vastatrices<\/a> qui mettaient \u00e0 terre les principaux sites de commerce \u00e9lectronique et moteurs de recherche. Il est plausible que l\u2019intervention du gouvernement pour am\u00e9liorer la cybers\u00e9curit\u00e9 aurait pu r\u00e9duire les dommages caus\u00e9s aux particuliers et aux entreprises pendant cette p\u00e9riode.<\/p>\n\n\n\n L’utilisation de l’IA pour des cyberattaques pourrait \u00e0 nouveau bouleverser l’\u00e9quilibre entre attaque et d\u00e9fense, et nous ne pensons pas que la transition vers l’IA se fera sans heurts par d\u00e9faut. De nombreux syst\u00e8mes actuellement sous-prot\u00e9g\u00e9s, notamment les \u00e9coles, les h\u00f4pitaux, les r\u00e9seaux \u00e9lectriques et les petites agences gouvernementales, seront expos\u00e9s \u00e0 un risque r\u00e9el. Des initiatives telles que le projet Glasswing<\/a> et le programme de subventions pour la cybers\u00e9curit\u00e9 d’OpenAI<\/a> sont importantes mais insuffisantes \u00e0 elles seules. Si restreindre l\u2019acc\u00e8s aux syst\u00e8mes d\u2019IA avanc\u00e9s peut s\u2019av\u00e9rer utile \u00e0 court terme, ce n\u2019est pas une solution miracle dans un monde o\u00f9 les mod\u00e8les open-weight ne sont qu\u2019\u00e0 quelques mois des mod\u00e8les ferm\u00e9s les plus performants.<\/p>\n\n\n\n Pour faire face aux cyberrisques li\u00e9s \u00e0 l\u2019IA, il faut investir<\/a> dans la r\u00e9silience<\/a>. Cela implique de mettre en place des exercices de simulation d\u2019attaques assist\u00e9s par l\u2019IA<\/a> non seulement pour les entreprises technologiques, mais aussi pour les \u00e9coles, les h\u00f4pitaux, les r\u00e9seaux \u00e9lectriques, les petites entreprises et les syst\u00e8mes gouvernementaux qui manquent actuellement de capacit\u00e9s de d\u00e9fense. Nous devrions \u00e9galement inciter les experts en s\u00e9curit\u00e9 professionnels \u00e0 d\u00e9tecter et signaler les vuln\u00e9rabilit\u00e9s (avec ou sans recours \u00e0 l\u2019IA), par exemple via des programmes de prime aux bogues qui ne se limitent pas aux produits des entreprises technologiques. Ces efforts ne sont pas automatiques ; ils n\u00e9cessitent des investissements et une planification.<\/p>\n\n\n\n La bonne nouvelle, c\u2019est que ce travail commence \u00e0 se mettre en place dans de nombreux secteurs diff\u00e9rents. Bien que cela n\u00e9cessite des investissements importants, cela reste bien moins contraignant que d\u2019imposer un r\u00e9gime strict de non-prolif\u00e9ration. La mauvaise nouvelle, c’est que les gouvernements ont encore beaucoup \u00e0 faire pour que cette transition se fasse v\u00e9ritablement sans heurts.<\/p>\n\n\n\n La m\u00eame analyse s’applique \u00e0 la bios\u00e9curit\u00e9. L’IA peut r\u00e9duire certaines barri\u00e8res \u00e0 l’information, mais les attaques biologiques d\u00e9pendent de nombreuses \u00e9tapes en aval<\/a> : l’approvisionnement en mat\u00e9riaux, l’acc\u00e8s \u00e0 des \u00e9quipements sp\u00e9cialis\u00e9s et l’application d’un savoir-faire tacite. Nous pouvons intervenir d\u00e8s maintenant sur ces \u00e9tapes en aval pour renforcer la r\u00e9silience de la soci\u00e9t\u00e9 face aux attaques biologiques sans imposer de contr\u00f4les stricts sur le d\u00e9veloppement de l\u2019IA, par exemple en mettant en place un meilleur filtrage des commandes en biologie synth\u00e9tique, en utilisant l\u2019IA pour \u00e9valuer le niveau de risque des nouveaux compos\u00e9s, en surveillant l\u2019acc\u00e8s aux mat\u00e9riaux dangereux, et en menant des exercices de simulation offensive (comme demander \u00e0 des experts de confiance de tenter d\u2019utiliser l\u2019IA pour fabriquer des compos\u00e9s dangereux) afin de d\u00e9tecter les failles dans ces efforts. Ces mesures sont utiles, que les risques biologiques proviennent ou non de l\u2019IA.<\/p>\n\n\n\n Il est important de noter que la r\u00e9silience ne n\u00e9cessite pas d\u2019intervention gouvernementale extraordinaire. Elle exige seulement que nous nous organisions autour du processus \u00ab normal \u00bb d\u2019\u00e9laboration et de mise en \u0153uvre des politiques.<\/p>\n\n\n\n Le probl\u00e8me, c\u2019est que nous ne sommes pas tr\u00e8s dou\u00e9s pour l\u2019\u00e9laboration normale des politiques. Nous soup\u00e7onnons qu\u2019une des raisons pour lesquelles l\u2019approche de la r\u00e9silience semble peu attrayante est qu\u2019elle n\u00e9cessite une gouvernance polycentrique dans laquelle de nombreux d\u00e9cideurs travaillent en harmonie. C\u2019est difficile \u00e0 vendre \u00e9tant donn\u00e9 que la capacit\u00e9 de l\u2019\u00c9tat<\/a> aux \u00c9tats-Unis a \u00e9t\u00e9 entrav\u00e9e<\/a> par des d\u00e9cennies d\u2019accumulation de points de veto<\/a> et de proc\u00e9duralisme<\/a> rampant. En cons\u00e9quence, les actions unilat\u00e9rales de l\u2019ex\u00e9cutif sont souvent consid\u00e9r\u00e9es comme la solution pour \u00e9laborer et appliquer une politique en mati\u00e8re d\u2019IA.<\/p>\n\n\n\n Investir dans la r\u00e9silience n\u00e9cessite des actions et des investissements de la part d\u2019un ensemble d\u2019acteurs bien plus large que pour la non-prolif\u00e9ration. Pour que la r\u00e9silience soit efficace, le gouvernement doit l\u00e9gif\u00e9rer et allouer des fonds, collaborer entre les agences, mettre en place des syst\u00e8mes d\u2019alerte pr\u00e9coce, servir de centre de ressources pour les acteurs en aval et diffuser rapidement des informations afin de les aider \u00e0 renforcer leurs d\u00e9fenses. Le gouvernement f\u00e9d\u00e9ral am\u00e9ricain n\u2019est pas vraiment r\u00e9put\u00e9 pour sa comp\u00e9tence dans ce type de t\u00e2ches.<\/p>\n\n\n\n Il n\u2019est donc pas surprenant que, si l\u2019on examine le bilan du gouvernement, les r\u00e9ponses politiques en mati\u00e8re de r\u00e9silience aient \u00e9t\u00e9 d\u00e9cevantes. En effet, m\u00eame lorsqu\u2019il existe des points d\u2019accord<\/a> entre les partisans des visions \u00ab normale \u00bb et \u00ab anormale \u00bb de l\u2019IA, tels que les exigences de transparence<\/a>, d\u2019audit et de zones de s\u00e9curit\u00e9 pour la recherche en mati\u00e8re de s\u00fbret\u00e9<\/a>, nous n\u2019avons toujours pas vu d\u2019action f\u00e9d\u00e9rale concr\u00e8te. (Certaines initiatives existent, comme la r\u00e9cente lettre<\/a> de repr\u00e9sentants exhortant le gouvernement f\u00e9d\u00e9ral \u00e0 am\u00e9liorer la coordination en mati\u00e8re de cyberrisques. Mais pour l\u2019instant, il ne s\u2019agit que d\u2019une lettre contenant des recommandations ; il reste \u00e0 voir si des mesures seront prises sur la base de ces suggestions.)<\/p>\n\n\n\n C\u2019est dans ce contexte que des mesures gouvernementales extraordinaires, telles que la non-prolif\u00e9ration, semblent tentantes pour faire face aux risques li\u00e9s \u00e0 l\u2019IA. Celles-ci sont moralement satisfaisantes, car elles imposent principalement des charges aux entreprises qui cr\u00e9ent ces risques. Elles sont \u00e9galement faciles \u00e0 mettre en \u0153uvre, puisqu\u2019elles ne n\u00e9cessitent qu\u2019une action unilat\u00e9rale de l\u2019ex\u00e9cutif, comme l\u2019invocation de la loi sur la production de d\u00e9fense<\/a>. La question principale est de savoir si nous pouvons obtenir de meilleurs r\u00e9sultats gr\u00e2ce \u00e0 de telles mesures, ou si nous devrions investir dans l\u2019am\u00e9lioration du processus \u00ab normal \u00bb de gouvernance.<\/p>\n\n\n\n Bien que nous comprenions les raisons d\u2019adopter la premi\u00e8re approche, nous penchons pour la seconde. Mettre de l\u2019ordre dans nos politiques est difficile, mais important \u2014 non seulement pour cette s\u00e9rie de politiques en mati\u00e8re d\u2019IA et les risques d\u2019utilisation abusive, mais aussi pour toutes les interventions futures sur les dommages technologiques, et pour le bon fonctionnement du processus d\u00e9mocratique en g\u00e9n\u00e9ral.<\/p>\n\n\n\n D\u2019un autre c\u00f4t\u00e9, si notre principale d\u00e9fense contre les risques li\u00e9s \u00e0 l\u2019IA est la non-prolif\u00e9ration, une seule avanc\u00e9e technique rendant la formation des mod\u00e8les moins co\u00fbteuse pourrait suffire \u00e0 provoquer une instabilit\u00e9, en particulier dans un monde o\u00f9 nous n\u2019investissons pas \u00e9galement dans la r\u00e9silience. Les d\u00e9g\u00e2ts seront d\u2019autant plus importants lorsque le barrage finira par c\u00e9der.<\/p>\n\n\n\n Remerciements. <\/em><\/strong>Nous remercions Katy Glenn-Bass pour ses commentaires sur une version pr\u00e9liminaire de cet essai, ainsi que Shira Minsk pour son soutien \u00e9ditorial. Cet essai est \u00e9galement publi\u00e9 sur le <\/em>site web du Knight First Amendment Institute<\/em><\/a>.<\/em><\/p>\n\n\n Ne n\u00e9gligeons pas le travail de fond que repr\u00e9sente la gouvernance de l’IA Traduction de Do AI Risks Require Extraordinary Government Intervention? par Sayash Kapoor et Arvind Narayanan, sur Substack, 21 mai 2026 Dans un essai r\u00e9cent, Derek Thompson se penche sur le concept de l\u2019IA en tant que technologie normale (AINT). Il partage notre … <\/p>\n![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1-1200x689.webp\")
R\u00e9capitulatif des arguments de l\u2019AINT et des points d\u2019accord et de d\u00e9saccord de Thompson<\/strong><\/h3>\n\n\n\n
Une action gouvernementale extraordinaire a un co\u00fbt extraordinaire<\/strong><\/h3>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_2.webp\")
La r\u00e9silience est une d\u00e9fense sous-estim\u00e9e contre les risques li\u00e9s \u00e0 l\u2019IA<\/strong><\/h3>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque3-1200x263.webp\")
Si la r\u00e9silience est si utile, pourquoi ne lui avons-nous pas d\u00e9j\u00e0 donn\u00e9 la priorit\u00e9 ?<\/strong><\/h3>\n\n\n\n
Notes <\/h3>