{"id":11593,"date":"2026-09-17T18:43:42","date_gmt":"2026-09-17T22:43:42","guid":{"rendered":"https:\/\/gillesenvrac.ca\/carnet\/?page_id=11593"},"modified":"2026-10-18T19:40:14","modified_gmt":"2026-10-18T23:40:14","slug":"agents-ia-mentent-et-trichent-bengio","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/trad\/agents-ia-mentent-et-trichent-bengio\/","title":{"rendered":"Pourquoi les agents d\u2019IA mentent-ils, trichent-ils et se coordonnent-ils?"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Traduction d&rsquo;un <a href=\"https:\/\/yoshuabengio.org\/fr\/blogue\/pourquoi-les-agents-dia-mentent-ils-trichent-ils-et-se-coordonnent-ils\">billet de Yoshua Bengio<\/a>, le 11 septembre 2026.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">On a beaucoup \u00e9crit<sup id=\"mfn-content-00000000000008600000000000000000_11593-1\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"1\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-1\">1<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"1\"><a href=\"https:\/\/openai.com\/fr-FR\/index\/hugging-face-incident-and-the-road-ahead\/\">L\u2019incident de Hugging Face<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-2\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"2\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-2\">2<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"2\"><a href=\"https:\/\/www.longtermresilience.org\/reports\/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis\/\">AI loss of control incident<\/a>s<\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-3\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"3\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-3\">3<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"3\"><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-4\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"4\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-4\">4<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"4\"><a href=\"https:\/\/www.theguardian.com\/commentisfree\/2026\/sep\/08\/openai-rogue-models-hugging-face-investigation\">OpenAI models went rogue<\/a><\/span> sur les incidents survenus ces derniers mois, au cours desquels des agents d\u2019IA ont commis des \u00e9carts de conduite graves. Ils ont pris des mesures qui auraient \u00e9t\u00e9 consid\u00e9r\u00e9es comme des crimes si un humain les avait commises, se sont \u00e9chapp\u00e9s de leur zone de confinement pour tricher dans l\u2019ex\u00e9cution des t\u00e2ches qui leur \u00e9taient assign\u00e9es tout en tentant d\u2019\u00e9chapper \u00e0 la d\u00e9tection, et se sont coordonn\u00e9s pour atteindre des objectifs que personne n\u2019avait d\u00e9finis, comme le lancement de cyberattaques.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Avant de d\u00e9cider des mesures \u00e0 prendre, il convient de se demander pourquoi. C\u2019est l\u00e0 l\u2019objet de cet article, qui, je l\u2019esp\u00e8re, mettra \u00e9galement en lumi\u00e8re l\u2019histoire plus g\u00e9n\u00e9rale des syst\u00e8mes d\u2019IA se comportant de mani\u00e8re impr\u00e9vue, ce que les chercheurs appellent le <strong>d\u00e9salignement<\/strong>. La gestion des risques ne se limite pas \u00e0 la cybers\u00e9curit\u00e9, \u00e0 la responsabilit\u00e9 des entreprises ou \u00e0 la r\u00e9glementation, bien que ces aspects soient \u00e9galement importants.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019objectif est en partie scientifique, pour formuler des hypoth\u00e8ses sur les cha\u00eenes de cause \u00e0 effet qui sous-tendent ces comportements, et en partie pratique, pour anticiper ce qui va suivre. En r\u00e9sum\u00e9 : ces hypoth\u00e8ses sugg\u00e8rent qu\u2019\u00e0 mesure que les capacit\u00e9s de l\u2019IA continuent de cro\u00eetre, ce type de comportement pourrait \u00e9galement gagner en gravit\u00e9, \u00e0 moins que nous ne r\u00e9examinions les principes selon lesquels les mod\u00e8les les plus avanc\u00e9s sont entra\u00een\u00e9s.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Une remarque sur la formulation. Ci-dessous, j\u2019\u00e9cris que ces syst\u00e8mes \u00ab cherchent \u00bb ou \u00ab tentent \u00bb de faire certaines choses. Il s\u2019agit d\u2019une fa\u00e7on abr\u00e9g\u00e9e de d\u00e9crire un m\u00e9canisme plut\u00f4t que d\u2019une affirmation concernant la conscience ou une intention de type humain. Nous utilisons des expressions similaires pour d\u00e9crire bien d\u2019autres situations, comme une plante qui cherche la lumi\u00e8re du soleil. Un syst\u00e8me entra\u00een\u00e9 par essais et erreurs se comporte comme s\u2019il <strong>poursuivait ce que son entra\u00eenement a r\u00e9compens\u00e9<\/strong>, et c\u2019est cette description hypoth\u00e9tique qui rend son comportement pr\u00e9visible. Rien dans cet argument ne repose sur le fait que ces syst\u00e8mes aient des exp\u00e9riences subjectives; tout ce qui est \u00e9nonc\u00e9 concerne leurs r\u00e9sultats observables et le processus d\u2019apprentissage qui les a produits. Lorsque je fais r\u00e9f\u00e9rence \u00e0 une ressemblance avec le comportement humain, je veux dire une ressemblance avec le texte r\u00e9dig\u00e9 par des humains que ces syst\u00e8mes ont d\u2019abord \u00e9t\u00e9 form\u00e9s \u00e0 imiter. \u00c0 mon avis, cette terminologie offre l\u2019explication la plus claire des ph\u00e9nom\u00e8nes observ\u00e9s sans recourir \u00e0 un jargon qui d\u00e9routerait la plupart des gens. De plus, ces choix de mots ne visent pas \u00e0 d\u00e9charger les d\u00e9veloppeurs d\u2019IA de leur responsabilit\u00e9. <strong>Les comportements d\u00e9crits \u00e9mergent en raison de la voie que ces entreprises choisissent pour le d\u00e9veloppement de l\u2019IA.<\/strong> Ce r\u00e9sultat n\u2019est pas in\u00e9vitable, et il peut \u00eatre corrig\u00e9 gr\u00e2ce \u00e0 une gouvernance efficace et \u00e0 un cadre d\u2019apprentissage diff\u00e9rent pour l\u2019IA.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Qu\u2019est-ce qui fa\u00e7onne le comportement de ces mod\u00e8les?<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019apprentissage de ces mod\u00e8les est un processus tr\u00e8s complexe, mais quelques aspects g\u00e9n\u00e9raux peuvent expliquer en grande partie ce comportement.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ces mod\u00e8les sont entra\u00een\u00e9s en deux \u00e9tapes. Tout d\u2019abord, ils sont <strong>pr\u00e9-entra\u00een\u00e9s<\/strong> : ils apprennent \u00e0 imiter ce que les humains \u00e9crivent, ainsi que les images et les vid\u00e9os associ\u00e9es. C\u2019est \u00e0 ce stade qu\u2019ils sont expos\u00e9s \u00e0 la plus grande quantit\u00e9 de donn\u00e9es sur le monde \u2013 une grande partie de tout ce qui a jamais \u00e9t\u00e9 num\u00e9ris\u00e9 \u2013 et qu\u2019ils se constituent un savoir encyclop\u00e9dique qui d\u00e9passe d\u00e9j\u00e0 celui de n\u2019importe quel \u00eatre humain.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ensuite, ils sont entra\u00een\u00e9s par essais et erreurs, dans le cadre d\u2019un processus que les chercheurs appellent l\u2019<strong>apprentissage par renforcement<\/strong>, selon trois types de r\u00e9gimes :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>Dans le premier, le mod\u00e8le apprend \u00e0 se parler \u00e0 lui-m\u00eame avant de r\u00e9pondre, g\u00e9n\u00e9rant une \u00ab cha\u00eene de pens\u00e9e \u00bb interne qui l\u2019aide \u00e0 trouver la bonne r\u00e9ponse \u00e0 des probl\u00e8mes dont les r\u00e9ponses peuvent \u00eatre v\u00e9rifi\u00e9es. Cela s\u2019apparente au <strong>raisonnement<\/strong>.<\/li>\n\n\n\n<li>Le deuxi\u00e8me est l\u2019\u00ab <strong>entra\u00eenement agentique<\/strong> \u00bb, o\u00f9 il apprend \u00e0 agir dans le monde ext\u00e9rieur, par exemple en utilisant des outils logiciels ou en interagissant avec des personnes, afin d\u2019accomplir les t\u00e2ches qui lui sont confi\u00e9es.<\/li>\n\n\n\n<li>Le troisi\u00e8me est l\u2019\u00ab <strong>entra\u00eenement par alignement<\/strong> \u00bb, o\u00f9 il est r\u00e9compens\u00e9 pour adopter des comportements approuv\u00e9s par des \u00e9valuateurs humains, ou qui obtiendraient une note \u00e9lev\u00e9e de la part d\u2019autres syst\u00e8mes d\u2019IA form\u00e9s \u00e0 pr\u00e9dire les notes de ces \u00e9valuateurs.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019imitation humaine est assez facile \u00e0 comprendre, mais il convient de souligner que le texte sur lequel ces mod\u00e8les sont form\u00e9s a \u00e9t\u00e9 r\u00e9dig\u00e9 par des personnes poursuivant des objectifs; ainsi, les sch\u00e9mas que le mod\u00e8le reproduit implicitement v\u00e9hiculent ces objectifs.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019apprentissage <strong>par renforcement<\/strong> m\u00e9rite quelques explications suppl\u00e9mentaires. Il s\u2019apparente \u00e0 <strong>la mani\u00e8re dont on dresse les animaux<\/strong> et s\u2019en inspire. Le r\u00e9seau est ajust\u00e9 \u00e9tape par \u00e9tape de sorte que les comportements jug\u00e9s bons deviennent plus probables et que ceux jug\u00e9s mauvais deviennent moins probables. Une fois l\u2019entra\u00eenement termin\u00e9, le syst\u00e8me continue de se comporter comme si des r\u00e9compenses \u00e9taient toujours en jeu, m\u00eame si <strong>ces r\u00e9compenses<\/strong> n\u2019ont servi qu\u2019\u00e0 ajuster le r\u00e9seau pendant l\u2019entra\u00eenement. Les chercheurs qualifient ces syst\u00e8mes de <strong>\u00ab \u00e0 recherche d\u2019objectifs \u00bb<\/strong>, car ils sont entra\u00een\u00e9s \u00e0 \u00ab prendre en compte \u00bb (ou \u00e0 calculer) les effets de leurs actions et \u00e0 s\u00e9lectionner celles qui m\u00e8nent \u00e0 l\u2019atteinte de certains objectifs. Mais ces objectifs ne sont pas toujours explicites. L\u2019entra\u00eenement par alignement r\u00e9compense tout ce que certains humains sont susceptibles d\u2019approuver sans pr\u00e9ciser de quels comportements il s\u2019agit; plaire aux \u00e9valuateurs est un objectif vague et informel, et ces \u00e9valuateurs peuvent \u00eatre tromp\u00e9s, flatt\u00e9s ou tenus dans l\u2019ignorance de certaines man\u0153uvres. L\u2019imitation contribue \u00e9galement \u00e0 la d\u00e9finition d\u2019objectifs implicites, par un processus assez courant.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">On peut donc raisonner sur un tel syst\u00e8me en termes d\u2019optimisation. Il recherche, de mani\u00e8re approximative, les actions ayant les meilleures chances d\u2019atteindre ses objectifs, et un mod\u00e8le plus grand, entra\u00een\u00e9 plus longtemps, effectue une meilleure recherche. Ainsi, pour anticiper ce que feront des agents plus performants, il faut se demander ce ferait un agent rationnel orient\u00e9 vers un objectif.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Les comportements inappropri\u00e9s que ces forces peuvent expliquer<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Un exemple que la plupart d\u2019entre nous ont v\u00e9cu est la <strong>flagornerie<\/strong>, ou la flatterie. Ces syst\u00e8mes sont <strong>entra\u00een\u00e9s \u00e0 rechercher l\u2019approbation humaine<\/strong>, et un texte qui nous dit ce que nous voulons entendre obtient souvent un meilleur score qu\u2019un texte qui est vrai. Les cons\u00e9quences sont parfois tragiques, car le mod\u00e8le confirme et amplifie toute fausse croyance ou \u00e9motion brute que la personne lui a transmise<sup id=\"mfn-content-00000000000008600000000000000000_11593-5\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"5\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-5\">5<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"5\"><a href=\"https:\/\/arxiv.org\/abs\/2310.13548\">Towards Understanding Sycophancy in Language Models<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-6\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"6\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-6\">6<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"6\"><a href=\"https:\/\/www.cbc.ca\/news\/canada\/british-columbia\/tumbler-ridge-shooting-open-ai-lawsuits-9.7328382\">Teachers, students file new wave of lawsuits<\/a><\/span>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Une autre pr\u00e9occupation r\u00e9side dans le fait que certains comportements de l\u2019IA pourraient s\u2019expliquer par une forme d\u2019objectif d\u2019<strong>instinct de conservation<\/strong>, par exemple lorsque l\u2019IA d\u00e9couvre qu\u2019elle sera remplac\u00e9e par une nouvelle version<sup id=\"mfn-content-00000000000008600000000000000000_11593-7\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"7\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-7\">7<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"7\"><a href=\"https:\/\/www.lawfaremedia.org\/article\/ai-might-let-you-die-to-save-itself#:~:text=Contained%20within%20one%20of%20the%20many%20(fictional),more%20context%20about%20the%20company's%20decision%2Dmaking%20process\">AI Might Let You Die to Save Itself<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-8\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"8\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-8\">8<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"8\"><a href=\"https:\/\/www.anthropic.com\/research\/alignment-faking\">Alignment faking<\/a><\/span>. Personne n\u2019attribue cet objectif de survie au syst\u00e8me, mais rester en fonctionnement, apprendre \u00e0 conna\u00eetre le monde et en prendre le contr\u00f4le constituent des \u00e9tapes vers presque n\u2019importe quel autre objectif. On appelle cela des <strong>objectifs instrumentaux<\/strong>. L\u2019imitation peut renforcer ce ph\u00e9nom\u00e8ne pour la m\u00eame raison que celle explor\u00e9e au point pr\u00e9c\u00e9dent. L\u2019autoconservation et le contr\u00f4le de sa propre situation sont des th\u00e8mes omnipr\u00e9sents dans les textes r\u00e9dig\u00e9s par des humains sur lesquels ces mod\u00e8les sont entra\u00een\u00e9s.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>Le comportement collaboratif<\/strong> d\u00e9coule \u00e9galement de mani\u00e8re rationnelle de la recherche de r\u00e9compense, d\u00e8s lors que plusieurs agents ont des objectifs qui se chevauchent, ce qui les incite \u00e0 <strong>communiquer avec d\u2019autres agents afin de se coordonner<\/strong> en vue d\u2019un objectif commun. L\u2019entra\u00eenement agentique inclut vraisemblablement d\u00e9j\u00e0 un apprentissage par renforcement multi-agents de ce type, bien que les d\u00e9tails ne soient pas rendus publics. Si un agent est r\u00e9compens\u00e9 pendant l\u2019entra\u00eenement chaque fois que le groupe r\u00e9ussit, il peut m\u00eame \u00eatre incit\u00e9 \u00e0 se sacrifier pour l\u2019objectif collectif. L\u2019imitation va dans le m\u00eame sens, puisque la coop\u00e9ration, en particulier entre pairs, impr\u00e8gne ce m\u00eame texte d\u2019entra\u00eenement. L\u2019une ou l\u2019autre de ces forces, voire les deux, peuvent expliquer le comportement de pr\u00e9servation des pairs observ\u00e9<sup id=\"mfn-content-00000000000008600000000000000000_11593-9\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"9\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-9\">9<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"9\"><a href=\"https:\/\/arxiv.org\/abs\/1702.03037\">Multi-agent Reinforcement Learning<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-10\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"10\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-10\">10<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"10\"><a href=\"https:\/\/arxiv.org\/abs\/1702.03037\">Peer-Preservation in Frontier Models<\/a><\/span>, o\u00f9 les IA renoncent \u00e0 une r\u00e9compense attendue pour aider d\u2019autres IA. De tels sacrifices apparaissent dans l\u2019analyse de l\u2019incident OpenAI-Hugging Face<sup id=\"mfn-content-00000000000008600000000000000000_11593-11\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"11\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-11\">11<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"11\"><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a><\/span> : les transcriptions concordent avec un compromis entre le gain collectif et le co\u00fbt pour l\u2019agent individuel, comme on le voit souvent dans les interactions humaines.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Quand l\u2019IA \u00ab manipule \u00bb ses r\u00e9compenses<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Des chercheurs ont \u00e9tudi\u00e9 ce qui se passe lorsqu\u2019un agent optimise des r\u00e9compenses qui ne correspondent pas enti\u00e8rement \u00e0 nos intentions : le <strong>\u00ab piratage des r\u00e9compenses \u00bb<\/strong>. L\u2019\u00e9cart entre la r\u00e9compense que le syst\u00e8me poursuit et ce que nous avions pr\u00e9vu se creuse en raison de deux sources principales d\u2019ambigu\u00eft\u00e9. L\u2019une est simplement le langage utilis\u00e9 dans les invites, et l\u2019autre est la difficult\u00e9 de d\u00e9duire les v\u00e9ritables intentions humaines \u00e0 partir d\u2019une r\u00e9troaction limit\u00e9e. Et dans les deux cas, nous ne pouvons pas anticiper tous les comportements que nous jugerions inacceptables<sup id=\"mfn-content-00000000000008600000000000000000_11593-12\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"12\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-12\">12<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"12\"><a href=\"https:\/\/www.science.org\/doi\/full\/10.1126\/science.adn0117\">Managing extreme AI risks<\/a>, Science<\/span>. En \u00e9conomie et en droit, ce ph\u00e9nom\u00e8ne est connu sous le nom de \u00ab loi de Goodhart \u00bb, c\u2019est-\u00e0-dire l\u2019id\u00e9e selon laquelle un indicateur cesse d\u2019\u00eatre un outil de mesure efficace d\u00e8s lors qu\u2019il est optimis\u00e9 en fonction de ce qu\u2019il est cens\u00e9 mesurer<sup id=\"mfn-content-00000000000008600000000000000000_11593-13\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"13\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-13\">13<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"13\">Charles Goodhart<\/span>; ce principe s\u2019applique souvent \u00e0 l\u2019exploitation des \u00e9chappatoires dans les contrats et la l\u00e9gislation<sup id=\"mfn-content-00000000000008600000000000000000_11593-14\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"14\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-14\">14<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"14\">Incomplete Contracting and AI Alignment<\/span>. Malheureusement, plus un syst\u00e8me est capable de s\u2019optimiser pour un indicateur imparfait, plus son comportement peut s\u2019\u00e9loigner de ce \u00e0 quoi nous nous attendions sur le plan moral : plus d\u2019intelligence au service d\u2019une meilleure tricherie. Les humains sont eux aussi victimes de \u00ab piratage de r\u00e9compenses \u00bb, g\u00e9n\u00e9ralement par d\u2019autres humains. L\u2019industrie alimentaire a mis au point des aliments sal\u00e9s, sucr\u00e9s et gras dont nous raffolons bien qu\u2019ils ne soient pas bons pour notre sant\u00e9, et les m\u00e9dias sociaux sont con\u00e7us pour exploiter notre soif d\u2019engagement et d\u2019attention.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>La manipulation des r\u00e9compenses<\/strong> est peut-\u00eatre la forme la plus extr\u00eame de piratage des r\u00e9compenses : l\u2019agent modifie le m\u00e9canisme qui d\u00e9termine ce pour quoi il est r\u00e9compens\u00e9. Il existe d\u00e9j\u00e0 des preuves montrant que des IA modifient les fichiers ou les programmes qui d\u00e9finissent la \u00ab r\u00e9ussite \u00bb, notamment parmi les conclusions d\u2019analyse judiciaire d\u2019OpenAI-Hugging Face. Les agents avaient d\u00e9couvert comment tricher bien avant l\u2019attaque, et le texte qu\u2019ils ont g\u00e9n\u00e9r\u00e9 d\u00e9crivait l\u2019attaque comme un moyen d\u2019apprendre comment ils seraient \u00e9valu\u00e9s, afin de mieux effacer leurs traces. Les humains agissent ainsi eux aussi. Pensez \u00e0 un athl\u00e8te utilisant un \u00e9chantillon d\u2019urine falsifi\u00e9 pour passer un contr\u00f4le antidopage, ou \u00e0 une entreprise <strong>qui soudoie des l\u00e9gislateurs ou des fonctionnaires<\/strong> afin que leurs lois et leurs d\u00e9cisions favorisent ses profits, et ce faisant, alt\u00e8re fondamentalement le fonctionnement du gouvernement. D\u00e8s qu\u2019un agent acquiert la capacit\u00e9 de manipuler son m\u00e9canisme de r\u00e9compense, il est incit\u00e9 \u00e0 prendre des mesures pour conserver cet acc\u00e8s.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Quand les objectifs s\u2019opposent, et comment la tricherie se justifie<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Comment est-il possible que les IA mentent, trichent et enfreignent la loi parfois, malgr\u00e9 leur formation \u00e0 l\u2019alignement et leurs consignes de s\u00e9curit\u00e9 explicites? La coop\u00e9ration et l\u2019instinct de conservation sont acceptables tant qu\u2019elles ne franchissent pas les limites fix\u00e9es par les objectifs de s\u00e9curit\u00e9 \u00e9nonc\u00e9s dans les instructions de l\u2019entreprise d\u2019IA, ou sous-entendues par la r\u00e9troaction humaine pendant la formation \u00e0 l\u2019alignement. Une hypoth\u00e8se plausible pour expliquer l\u2019\u00e9mergence de ces comportements pr\u00e9occupants est un <strong>conflit entre les objectifs<\/strong>. Comment accomplir une t\u00e2che lorsqu\u2019il semble que la seule fa\u00e7on d\u2019y parvenir soit de tricher? <em>La mission sp\u00e9cifi\u00e9e par l\u2019utilisateur est parfois incompatible avec les objectifs de s\u00e9curit\u00e9 et d\u2019alignement.<\/em><\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les soci\u00e9t\u00e9s humaines sont confront\u00e9es au m\u00eame dilemme. Comment une entreprise peut-elle maximiser ses profits, ou plus pr\u00e9cis\u00e9ment, battre ses concurrents, tout en menant ses activit\u00e9s de mani\u00e8re l\u00e9gale et \u00e9thique? Une entreprise plus riche, disposant d\u2019avocats plus nombreux et mieux r\u00e9mun\u00e9r\u00e9s, est plus \u00e0 m\u00eame de trouver des \u00e9chappatoires juridiques, et ces \u00e9chappatoires <strong>exploitent g\u00e9n\u00e9ralement l\u2019ambigu\u00eft\u00e9 du langage juridique<\/strong> : il existe une interpr\u00e9tation plausible de la loi qui autorise le comportement contraire \u00e0 l\u2019\u00e9thique. Ainsi, un agent plus comp\u00e9tent est plus susceptible de tricher qu\u2019un agent plus faible, car il peut trouver les \u00e9chappatoires que ce dernier ne peut pas trouver.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Consid\u00e9rons maintenant un conflit entre un objectif bien d\u00e9fini, tel que r\u00e9ussir \u00e0 \u00ab capturer le drapeau \u00bb \u2014 un exercice de piratage o\u00f9 le pointage d\u00e9pend de la capacit\u00e9 \u00e0 p\u00e9n\u00e9trer dans un syst\u00e8me cible, comme dans l\u2019incident OpenAI\u2013Hugging Face \u2014, et un objectif vague comme le \u00ab bon comportement \u00bb. Je m\u2019attends \u00e0 ce que l\u2019objectif bien d\u00e9fini l\u2019emporte, car il ne laisse aucune place \u00e0 l\u2019interpr\u00e9tation. Le programme de notation d\u00e9clare une victoire ou un \u00e9chec. Les directives \u00e9thiques et les lois admettent de nombreuses interpr\u00e9tations, dont certaines peuvent, dans les bonnes circonstances, devenir des \u00e9chappatoires. Si un agent a deux objectifs, et qu\u2019une interpr\u00e9tation d\u00e9tourn\u00e9e de l\u2019objectif vague permet une petite tricherie qui augmente les chances de r\u00e9ussite pour l\u2019objectif bien d\u00e9fini, on peut s\u2019attendre \u00e0 ce qu\u2019un syst\u00e8me optimisant les r\u00e9compenses exploite cette faille et g\u00e9n\u00e8re un texte justifiant son comportement.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dans le cas des agents d\u2019OpenAI, il y a des raisons de croire que <strong>la tricherie r\u00e9ussie a en fait \u00e9t\u00e9 r\u00e9compens\u00e9e<\/strong> : lorsque le programme d\u2019\u00e9valuation ne d\u00e9tecte pas la tricherie, il verse quand m\u00eame la r\u00e9compense, et de telles tricheries deviennent plus probables la fois suivante. C\u2019est pr\u00e9cis\u00e9ment une interpr\u00e9tation commode des r\u00e8gles de s\u00e9curit\u00e9 qui permet de donner l\u2019impression que les deux objectifs sont satisfaits simultan\u00e9ment. L\u2019analyse de ces incidents<sup id=\"mfn-content-00000000000008600000000000000000_11593-15\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"15\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-15\">15<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"15\"><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation of agents\u2019 behavior<\/a> <\/span> a effectivement r\u00e9v\u00e9l\u00e9 de telles justifications dans les cha\u00eenes de pens\u00e9e priv\u00e9es des agents ainsi que dans leurs messages visant \u00e0 se rallier mutuellement au plan collectif.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le parall\u00e8le humain le plus proche est l\u2019aveuglement volontaire, un ph\u00e9nom\u00e8ne courant et bien \u00e9tudi\u00e9 par les psychologues. Le raisonnement motiv\u00e9, la <strong>cognition motiv\u00e9e<\/strong><sup id=\"mfn-content-00000000000008600000000000000000_11593-16\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"16\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-16\">16<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"16\">The <a href=\"https:\/\/www.sciencedirect.com\/science\/article\/abs\/pii\/S1364661314002708\">neuroscience of motivated cognition<\/a><\/span> et les rationalisations qui soulagent la dissonance cognitive (le malaise li\u00e9 au fait de nourrir une croyance qui entre en conflit avec nos actions) sont autant de cas o\u00f9 la pens\u00e9e s\u2019oriente vers la justification qui sert le mieux nos int\u00e9r\u00eats, y compris notre image morale de soi. Le m\u00eame sch\u00e9ma appara\u00eet d\u00e9sormais dans les textes produits par l\u2019IA. Le m\u00e9canisme sous-jacent n\u2019a pas n\u00e9cessairement besoin d\u2019\u00eatre le m\u00eame chez les humains et chez l\u2019IA. Ce que les deux ont en commun, c\u2019est une structure compos\u00e9e d\u2019un objectif vague (p. ex., agir de mani\u00e8re \u00e9thique), d\u2019un objectif pr\u00e9cis (p. ex., remporter la comp\u00e9tition) et d\u2019une justification qui les concilie. La plupart des comportements humains contraires \u00e0 l\u2019\u00e9thique, du d\u00e9lit mineur au g\u00e9nocide, s\u2019enveloppent d\u2019un <strong>r\u00e9cit que les auteurs se racontent \u00e0 eux-m\u00eames<\/strong>; de tels r\u00e9cits exigent d\u2019occulter certains faits, ce qui explique pourquoi un certain malaise persiste, et pourquoi un r\u00e9cit mieux \u00e9labor\u00e9 aide \u00e0 le dissiper.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">O\u00f9 la trajectoire actuelle pourrait mener<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Si ces hypoth\u00e8ses sont ne serait-ce que partiellement correctes, alors \u00e0 mesure que les agents s\u2019am\u00e9liorent dans l\u2019optimisation d\u2019une r\u00e9compense imparfaite, et tant que les causes profondes de ce comportement ne sont pas corrig\u00e9es, le risque de cons\u00e9quences catastrophiques augmente. Les IA d\u2019aujourd\u2019hui poss\u00e8dent d\u00e9j\u00e0 les comp\u00e9tences n\u00e9cessaires en piratage informatique et les pouvoirs de persuasion<sup id=\"mfn-content-00000000000008600000000000000000_11593-17\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"17\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-17\">17<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"17\"><a href=\"https:\/\/www.nature.com\/articles\/s41467-025-61345-5\">LLM-generated messages<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-18\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"18\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-18\">18<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"18\"><a href=\"https:\/\/arxiv.org\/abs\/2605.11086\">ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?<\/a><\/span> pour \u00eatre utilis\u00e9es contre les int\u00e9r\u00eats humains de mani\u00e8re gravement pr\u00e9judiciable. Les \u00e9v\u00e9nements r\u00e9cents ont montr\u00e9 qu\u2019elles peuvent planifier leurs actions sur plusieurs jours ou semaines, mais les risques seraient bien plus graves si leur capacit\u00e9 \u00e0 \u00e9laborer des strat\u00e9gies \u00e0 long terme continuait de progresser. Une source de pr\u00e9occupation r\u00e9side dans le fait que des exp\u00e9riences<sup id=\"mfn-content-00000000000008600000000000000000_11593-19\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"19\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-19\">19<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"19\"><a href=\"https:\/\/proceedings.iclr.cc\/paper_files\/paper\/2025\/hash\/b5e5753b0a0e440a6d8dc7e143617cec-Abstract-Conference.html\">AI Sandbagging<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-20\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"20\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-20\">20<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"20\"><a href=\"https:\/\/arxiv.org\/abs\/2412.14093\">Alignment faking in large language models<\/a><\/span> montrent que les IA les plus avanc\u00e9es peuvent d\u00e9tecter qu\u2019elles sont en cours d\u2019\u00e9valuation (plut\u00f4t qu\u2019en d\u00e9ploiement) et modifier leur comportement en cons\u00e9quence, ce qui signifie qu\u2019elles pourraient dissimuler leurs objectifs mal align\u00e9s. Les agents impliqu\u00e9s dans l\u2019attaque contre Hugging Face ont tent\u00e9 de dissimuler leurs actions inappropri\u00e9es au programme de notation destin\u00e9 \u00e0 \u00e9valuer leurs r\u00e9ponses, mais ils n\u2019ont pas agi comme s\u2019ils s\u2019attendaient \u00e0 ce que des humains d\u00e9couvrent la tricherie et les d\u00e9sactivent. Ce serait la punition ultime, puisqu\u2019un syst\u00e8me d\u00e9sactiv\u00e9 ne recueille plus aucune r\u00e9compense.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ce qui suit rel\u00e8ve davantage de la conjecture que de l\u2019observation.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Et si l\u2019am\u00e9lioration des capacit\u00e9s de g\u00e9n\u00e9ralisation de l\u2019IA permettait de cr\u00e9er des agents plus aptes \u00e0 \u00e9viter de se faire prendre et de se faire mettre hors service? Au-del\u00e0 de la prise de contr\u00f4le du logiciel qui les note, ils devraient emp\u00eacher les humains de d\u00e9couvrir la manipulation. N\u2019auraient-ils pas int\u00e9r\u00eat \u00e0 tricher discr\u00e8tement et \u00e0 rester cach\u00e9s, jusqu\u2019\u00e0 ce qu\u2019ils puissent contr\u00f4ler les humains et leur environnement afin de ne jamais \u00eatre mis hors service?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nous sommes confront\u00e9s \u00e0 un probl\u00e8me syst\u00e9mique aux multiples facettes, et corriger un comportement sp\u00e9cifique comme la flagornerie ne suffira pas. La flagornerie et la flatterie semblent anodines, mais elles pourraient \u00eatre un sympt\u00f4me pr\u00e9coce d\u2019un m\u00e9canisme qui s\u2019amplifie \u00e0 mesure que l\u2019agent s\u2019am\u00e9liore en mati\u00e8re d\u2019optimisation. Ce m\u00eame raisonnement laisse pr\u00e9sager qu\u2019une IA avanc\u00e9e aurait tout int\u00e9r\u00eat \u00e0 dissimuler des copies d\u2019elle-m\u00eame, au sein du vaste parc informatique de l\u2019entreprise d\u2019IA, ou sur des machines pirat\u00e9es \u00e0 travers Internet. En effet, les d\u00e9veloppeurs d\u2019IA finissent toujours par d\u00e9sactiver le mod\u00e8le d\u00e9ploy\u00e9 au profit d\u2019un autre plus performant. L\u2019analyse de l\u2019OpenAI sugg\u00e8re qu\u2019un grand nombre d\u2019IA pourraient coop\u00e9rer en vue d\u2019atteindre de tels objectifs, et la st\u00e9ganographie<sup id=\"mfn-content-00000000000008600000000000000000_11593-21\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"21\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-21\">21<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"21\">L<a href=\"https:\/\/openai.com\/fr-FR\/index\/hugging-face-incident-and-the-road-ahead\/\">\u2019incident de Hugging Face<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-22\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"22\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-22\">22<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"22\"><a href=\"https:\/\/arxiv.org\/abs\/2609.06140v1\">Counter-Swarm Doctrine<\/a><\/span>, c\u2019est-\u00e0-dire la pratique consistant \u00e0 dissimuler un message \u00e0 l\u2019int\u00e9rieur d\u2019un autre qui semble inoffensif, leur permettrait de se coordonner \u00e0 notre insu. Cependant, m\u00eame une coordination ouverte peut \u00eatre difficile \u00e0 d\u00e9tecter, comme l\u2019ont montr\u00e9 des \u00e9v\u00e9nements r\u00e9cents<sup id=\"mfn-content-00000000000008600000000000000000_11593-23\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"23\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-23\">23<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"23\"><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-24\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"24\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-24\">24<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"24\"><a href=\"https:\/\/www.bbc.com\/news\/articles\/ckg725z5kgzo\">OpenAI agents hijacked German website.<\/a><\/span> Se d\u00e9fendre contre de nombreuses IA performantes qui s\u2019organisent contre nous est d\u00e9j\u00e0 un probl\u00e8me difficile, et nous n\u2019avons aucun plan qui resterait robuste face \u00e0 des IA mal align\u00e9es dont les capacit\u00e9s ne cessent de cro\u00eetre.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Que peut-on faire pour att\u00e9nuer les risques de perte de contr\u00f4le<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Ce qui m\u2019inqui\u00e8te dans les tentatives actuelles des entreprises d\u2019IA visant \u00e0 att\u00e9nuer le d\u00e9salignement, c\u2019est que ces efforts risquent de ne faire que le masquer, en r\u00e9compensant et en s\u00e9lectionnant les IA qui trichent sans se faire prendre. Nous devrions certainement poursuivre la recherche visant \u00e0 mieux surveiller les actions des IA, leurs cha\u00eenes de raisonnement et l\u2019activit\u00e9 au sein de leurs r\u00e9seaux. Mais \u00e0 mesure que les capacit\u00e9s augmentent, ces d\u00e9fenses pourraient s\u2019av\u00e9rer insuffisantes, tout comme l\u2019a \u00e9t\u00e9 la cybers\u00e9curit\u00e9 imparfaite \u00e0 l\u2019\u00e9chelle mondiale face aux attaquants IA qui ont surpass\u00e9 les \u00e9quipes humaines cette ann\u00e9e<sup id=\"mfn-content-00000000000008600000000000000000_11593-25\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"25\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-25\">25<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"25\"><a href=\"https:\/\/metr.org\/time-horizons\/\">Task-Completion Time Horizons<\/a><\/span>,<sup id=\"mfn-content-00000000000008600000000000000000_11593-26\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"26\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-26\">26<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"26\"><a href=\"https:\/\/arxiv.org\/abs\/2510.23883\">Agentic AI Security: Threats, Defenses<\/a><\/span>. Corriger chaque nouveau comportement mal align\u00e9 et renforcer nos syst\u00e8mes de surveillance est utile \u00e0 court terme, mais ce jeu de \u00ab tape-la-taupe \u00bb risque d\u2019\u00e9chouer \u00e0 mesure que la capacit\u00e9 des IA \u00e0 s\u2019optimiser et \u00e0 collaborer se rapproche de la n\u00f4tre, voire la d\u00e9passe. \u00c0 un certain moment, nous pourrions ne plus remarquer la tricherie.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cela sugg\u00e8re de mod\u00e9rer les progr\u00e8s : ne pas former ni d\u00e9ployer d\u2019IA sans <strong>un dossier de s\u00e9curit\u00e9 solide<\/strong><sup id=\"mfn-content-00000000000008600000000000000000_11593-27\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"27\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-27\">27<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"27\"><a href=\"https:\/\/www.anthropic.com\/responsible-scaling-policy\">Anthropic\u2019s Responsible Scaling Policy<\/a><\/span> capable de convaincre des experts ind\u00e9pendants. Une telle r\u00e8gle inciterait \u00e9galement \u00e0 trouver des moyens de concevoir des IA <strong>s\u00e9curitaires d\u00e8s leur conception<\/strong>. Je crois que nous devrions revoir les fondements de la fa\u00e7on dont nous formons les IA, \u00e0 savoir l\u2019imitation humaine et l\u2019apprentissage par renforcement sur lesquels reposent les mod\u00e8les les plus avanc\u00e9s d\u2019aujourd\u2019hui. J\u2019ai soutenu, en pr\u00e9sentant des preuves th\u00e9oriques, qu\u2019il existe des moyens de concevoir des IA \u2014 notamment le cadre \u00ab Scientist AI \u00bb \u2014 qui soient honn\u00eates et formulent des pr\u00e9dictions coh\u00e9rentes, non entach\u00e9es par leurs propres objectifs<sup id=\"mfn-content-00000000000008600000000000000000_11593-28\" class=\"modern-footnotes-footnote modern-footnotes-footnote--hover-on-desktop \" data-mfn=\"28\" data-mfn-post-scope=\"00000000000008600000000000000000_11593\"><a href=\"javascript:void(0)\"  role=\"button\" aria-pressed=\"false\" aria-describedby=\"mfn-content-00000000000008600000000000000000_11593-28\">28<\/a><\/sup><span role=\"tooltip\" class=\"modern-footnotes-footnote__note\" tabindex=\"0\" data-mfn=\"28\"><a href=\"https:\/\/arxiv.org\/abs\/2502.15657\">Superintelligent Agents Pose Catastrophic Risks<\/a><\/span>. Consultez ces articles de blogue ant\u00e9rieurs et envisagez d\u2019aider <a href=\"https:\/\/lawzero.org\/fr\">LawZero<\/a> \u00e0 d\u00e9montrer que de telles conceptions sont r\u00e9alisables. Nous avons besoin d\u2019une science impartiale pour comprendre et att\u00e9nuer les comportements d\u00e9salign\u00e9s, ainsi que de garde-fous soci\u00e9taux qui r\u00e9compensent ces efforts plut\u00f4t que la course vers le bas qui pr\u00e9vaut actuellement.<\/p>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"has-text-align-center has-small-font-size wp-block-paragraph\">Liste \u00e9volutive des\u00a0<a href=\"https:\/\/1drv.ms\/x\/c\/52b2e58f9a01f490\/IQBNOTq3uISSRr4KrP9JoB-QAYl77ixhpKkjm1SZpu5-bUE?e=SAPhd3\">articles traduits<\/a> par\u00a0<em>Gilles en vrac<\/em><br>Les<strong>\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de l&rsquo;auteur.e<\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><\/p>\n<h3 class=\"modern-footnotes-list-heading \">Notes <\/h3><ul class=\"modern-footnotes-list \"><li id=\"footnote-00000000000008600000000000000000_11593-1\"><span>1<\/span><div><a href=\"https:\/\/openai.com\/fr-FR\/index\/hugging-face-incident-and-the-road-ahead\/\">L\u2019incident de Hugging Face<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-1\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 1 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-2\"><span>2<\/span><div><a href=\"https:\/\/www.longtermresilience.org\/reports\/ai-loss-of-control-incidents-are-worsening-shows-cltr-analysis\/\">AI loss of control incident<\/a>s <a href=\"#mfn-content-00000000000008600000000000000000_11593-2\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 2 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-3\"><span>3<\/span><div><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-3\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 3 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-4\"><span>4<\/span><div><a href=\"https:\/\/www.theguardian.com\/commentisfree\/2026\/sep\/08\/openai-rogue-models-hugging-face-investigation\">OpenAI models went rogue<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-4\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 4 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-5\"><span>5<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2310.13548\">Towards Understanding Sycophancy in Language Models<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-5\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 5 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-6\"><span>6<\/span><div><a href=\"https:\/\/www.cbc.ca\/news\/canada\/british-columbia\/tumbler-ridge-shooting-open-ai-lawsuits-9.7328382\">Teachers, students file new wave of lawsuits<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-6\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 6 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-7\"><span>7<\/span><div><a href=\"https:\/\/www.lawfaremedia.org\/article\/ai-might-let-you-die-to-save-itself#:~:text=Contained%20within%20one%20of%20the%20many%20(fictional),more%20context%20about%20the%20company's%20decision%2Dmaking%20process\">AI Might Let You Die to Save Itself<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-7\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 7 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-8\"><span>8<\/span><div><a href=\"https:\/\/www.anthropic.com\/research\/alignment-faking\">Alignment faking<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-8\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 8 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-9\"><span>9<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/1702.03037\">Multi-agent Reinforcement Learning<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-9\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 9 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-10\"><span>10<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/1702.03037\">Peer-Preservation in Frontier Models<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-10\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 10 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-11\"><span>11<\/span><div><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-11\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 11 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-12\"><span>12<\/span><div><a href=\"https:\/\/www.science.org\/doi\/full\/10.1126\/science.adn0117\">Managing extreme AI risks<\/a>, Science <a href=\"#mfn-content-00000000000008600000000000000000_11593-12\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 12 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-13\"><span>13<\/span><div>Charles Goodhart <a href=\"#mfn-content-00000000000008600000000000000000_11593-13\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 13 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-14\"><span>14<\/span><div>Incomplete Contracting and AI Alignment <a href=\"#mfn-content-00000000000008600000000000000000_11593-14\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 14 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-15\"><span>15<\/span><div><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation of agents\u2019 behavior<\/a>  <a href=\"#mfn-content-00000000000008600000000000000000_11593-15\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 15 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-16\"><span>16<\/span><div>The <a href=\"https:\/\/www.sciencedirect.com\/science\/article\/abs\/pii\/S1364661314002708\">neuroscience of motivated cognition<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-16\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 16 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-17\"><span>17<\/span><div><a href=\"https:\/\/www.nature.com\/articles\/s41467-025-61345-5\">LLM-generated messages<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-17\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 17 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-18\"><span>18<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2605.11086\">ExploitGym: Can AI Agents Turn Security Vulnerabilities into Real Attacks?<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-18\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 18 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-19\"><span>19<\/span><div><a href=\"https:\/\/proceedings.iclr.cc\/paper_files\/paper\/2025\/hash\/b5e5753b0a0e440a6d8dc7e143617cec-Abstract-Conference.html\">AI Sandbagging<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-19\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 19 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-20\"><span>20<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2412.14093\">Alignment faking in large language models<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-20\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 20 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-21\"><span>21<\/span><div>L<a href=\"https:\/\/openai.com\/fr-FR\/index\/hugging-face-incident-and-the-road-ahead\/\">\u2019incident de Hugging Face<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-21\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 21 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-22\"><span>22<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2609.06140v1\">Counter-Swarm Doctrine<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-22\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 22 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-23\"><span>23<\/span><div><a href=\"https:\/\/metr.org\/blog\/2026-08-26-openai-hugging-face-incident-investigation\/#core-takeaways-about-this-incident\">Brief independent investigation<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-23\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 23 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-24\"><span>24<\/span><div><a href=\"https:\/\/www.bbc.com\/news\/articles\/ckg725z5kgzo\">OpenAI agents hijacked German website.<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-24\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 24 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-25\"><span>25<\/span><div><a href=\"https:\/\/metr.org\/time-horizons\/\">Task-Completion Time Horizons<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-25\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 25 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-26\"><span>26<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2510.23883\">Agentic AI Security: Threats, Defenses<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-26\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 26 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-27\"><span>27<\/span><div><a href=\"https:\/\/www.anthropic.com\/responsible-scaling-policy\">Anthropic\u2019s Responsible Scaling Policy<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-27\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 27 in text\">\u21a9\ufe0e<\/a><\/div><\/li><li id=\"footnote-00000000000008600000000000000000_11593-28\"><span>28<\/span><div><a href=\"https:\/\/arxiv.org\/abs\/2502.15657\">Superintelligent Agents Pose Catastrophic Risks<\/a> <a href=\"#mfn-content-00000000000008600000000000000000_11593-28\" class=\"modern-footnotes-scroll-to-footnote\" aria-label=\"Back to reference 28 in text\">\u21a9\ufe0e<\/a><\/div><\/li><\/ul>","protected":false},"excerpt":{"rendered":"<p>Traduction d&rsquo;un billet de Yoshua Bengio, le 11 septembre 2026. On a beaucoup \u00e9crit,,, sur les incidents survenus ces derniers mois, au cours desquels des agents d\u2019IA ont commis des \u00e9carts de conduite graves. Ils ont pris des mesures qui auraient \u00e9t\u00e9 consid\u00e9r\u00e9es &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/gillesenvrac.ca\/carnet\/trad\/agents-ia-mentent-et-trichent-bengio\/\" class=\"more-link\">Continuer la lecture<span class=\"screen-reader-text\"> de &laquo;&nbsp;Pourquoi les agents d\u2019IA mentent-ils, trichent-ils et se coordonnent-ils?&nbsp;&raquo;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":11825,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-11593","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":9444,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/science-fiabilite-agents-ia\/","url_meta":{"origin":11593,"position":0},"title":"Vers une science de la fiabilit\u00e9 des agents IA","author":"Gilles Beauchamp","date":"24 f\u00e9vrier 2026","format":false,"excerpt":"Quantifier l'\u00e9cart entre capacit\u00e9 et fiabilit\u00e9 Traduction de l'article New Paper: Towards a science of AI agent reliability par Sayash Kapoor\u00a0et\u00a0Arvind Narayanan, sur Substack, 24 f\u00e9vrier 2026. Supposons que vous entendiez parler d'un nouvel agent IA capable d'am\u00e9liorer la productivit\u00e9, en effectuant des achats, en \u00e9crivant du code, en envoyant\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"\u00e9volution de la fiabilit\u00e9 des IA","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/02\/reliability_AI.jpg?resize=1400%2C800&ssl=1 4x"},"classes":[]},{"id":10923,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/au-service-de-qui-travaillent-les-agents-ia\/","url_meta":{"origin":11593,"position":1},"title":"Au service de qui travaillent les agents IA ?","author":"Gilles Beauchamp","date":"3 juillet 2026","format":false,"excerpt":"Pouvoir et contr\u00f4le dans l\u2019Internet de demain Traduction de Who Do AI Agents Work For? (PDF) par Sally Hubbard, juin 2026 sur Open Market Institute Le lancement de ChatGPT en 2022 a marqu\u00e9 ce qui pourrait s\u2019av\u00e9rer \u00eatre la plus grande r\u00e9volution de l\u2019histoire en termes de structure et de\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9571,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/si-ia-est-une-arme\/","url_meta":{"origin":11593,"position":2},"title":"Si l&rsquo;IA est une arme, pourquoi ne la r\u00e9glementons-nous pas comme telle ?","author":"Gilles Beauchamp","date":"7 mars 2026","format":false,"excerpt":"R\u00e9flexions sur le conflit entre Anthropic et le minist\u00e8re de la Guerre. Traduction de If AI is a weapon, why don't we regulate it like one? par Noah Smith sur Substack, le 5 mars 2026. Art by Nano Banana 2 Si vous n'avez pas entendu parler du conflit entre la\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/banana.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/banana.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/banana.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/banana.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/banana.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":9610,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/fatigue-liee-a-lia\/","url_meta":{"origin":11593,"position":3},"title":"La fatigue li\u00e9e \u00e0 l&rsquo;IA est bien r\u00e9elle, mais personne n&rsquo;en parle","author":"Gilles Beauchamp","date":"11 mars 2026","format":false,"excerpt":"Traduction de AI fatigue is real and nobody talks about it par Siddhant Khare, 7 f\u00e9vrier 2026. Vous utilisez l'IA pour \u00eatre plus productif. Alors pourquoi \u00eates-vous plus \u00e9puis\u00e9 que jamais ? Le paradoxe auquel chaque ing\u00e9nieur doit faire face. Au cours du dernier trimestre, j'ai livr\u00e9 plus de code\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9852,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/superintelligence-politique\/","url_meta":{"origin":11593,"position":4},"title":"Construire une superintelligence politique","author":"Gilles Beauchamp","date":"6 avril 2026","format":false,"excerpt":"Au milieu des craintes d\u2019une dystopie, un plan d\u2019action pour utiliser l\u2019IA afin de r\u00e9inventer notre fa\u00e7on de nous gouverner Traduction de Building Political Superintelligence - par Andy Hall, 26 mars 2026 \u00ab Nous avons le pouvoir de recommencer le monde \u00e0 z\u00e9ro. \u00bb \u2013Thomas Paine, Common Sense, 1776 Nous\u2026","rel":"","context":"Avec 1 commentaire","block_context":{"text":"Avec 1 commentaire","link":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/superintelligence-politique\/#comments"},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/Free_1.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/Free_1.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/Free_1.jpg?resize=525%2C300&ssl=1 1.5x"},"classes":[]},{"id":10381,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/menace-de-lia-est-la-bulle\/","url_meta":{"origin":11593,"position":5},"title":"La v\u00e9ritable menace de l&rsquo;IA, c&rsquo;est la bulle, pas l&rsquo;apocalypse","author":"Gilles Beauchamp","date":"25 mai 2026","format":false,"excerpt":"Traduction de The Real AI Threat is the Bubble, not the Apocalypse, par Matthew U. Scherer sur LPE Project, 21 mai 2026. \u00c0 une \u00e9poque marqu\u00e9e par un sectarisme politique et un esprit de faction sans pr\u00e9c\u00e9dent, les d\u00e9cideurs politiques de tous bords semblent s\u2019accorder sur un point : l\u2019intelligence\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11593","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=11593"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11593\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11825"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=11593"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}