{"id":9434,"date":"2026-02-24T10:04:39","date_gmt":"2026-02-24T15:04:39","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?page_id=9434"},"modified":"2026-10-19T16:01:28","modified_gmt":"2026-10-19T20:01:28","slug":"agents-ia-economie-klein","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/trad\/agents-ia-economie-klein\/","title":{"rendered":"\u00c0 quelle vitesse les agents IA vont-ils bouleverser l’\u00e9conomie ?"},"content":{"rendered":"\n

Jack Clark, cofondateur d’Anthropic, explique \u00e0 Ezra Klein ce qu’il pr\u00e9voit pour la nouvelle \u00e8re des agents IA.<\/h3>\n\n\n\n

Traduction de la transcription d’un \u00e9pisode du podcast de Ezra Klein<\/a> au New York Times, 24 f\u00e9vrier 2026. <\/p>\n\n\n\n

\n\n\n\n

Ce qui caract\u00e9rise la couverture m\u00e9diatique de l’IA ces derni\u00e8res ann\u00e9es, c’est que nous parlions g\u00e9n\u00e9ralement de l’avenir.<\/p>\n\n\n\n

Chaque nouveau mod\u00e8le, aussi impressionnant soit-il, semblait \u00eatre une preuve de concept pour les mod\u00e8les \u00e0 venir, ceux qui pourraient accomplir de mani\u00e8re fiable et autonome des t\u00e2ches utiles, ceux qui pourraient rendre certains emplois obsol\u00e8tes ou rendre possibles de nouvelles choses. Que signifieraient ces mod\u00e8les pour nos march\u00e9s du travail, nos enfants, notre politique, notre monde ?<\/p>\n\n\n\n

Je pense que la p\u00e9riode o\u00f9 nous parlions de l’avenir est d\u00e9sormais r\u00e9volue. Les mod\u00e8les que nous attendions, ces mod\u00e8les \u00e0 consonance -fi, capables de se programmer eux-m\u00eames et de le faire plus rapidement et mieux que la plupart des codeurs, les mod\u00e8les capables de commencer \u00e0 \u00e9crire leur propre code pour s’am\u00e9liorer, sont d\u00e9sormais l\u00e0.<\/p>\n\n\n\n

Ils sont l\u00e0 dans Claude Code d’Anthropic. Ils sont l\u00e0 dans Codex d’OpenAI. Ils secouent le march\u00e9 boursier : l’indice S&P 500 Software Industry a chut\u00e9 de 20 %, effa\u00e7ant des milliards de dollars de valeur. D’excellents ing\u00e9nieurs, que je connais depuis des ann\u00e9es et qui sont assez sceptiques quant \u00e0 l’engouement pour l’IA, m’envoient maintenant des e-mails pour me dire qu’ils ne voient pas comment leur emploi pourrait encore exister dans un an ou deux.<\/p>\n\n\n\n

Nous sommes \u00e0 une nouvelle \u00e9tape non seulement du d\u00e9veloppement de l’IA, mais aussi des produits bas\u00e9s sur l’IA.<\/p>\n\n\n\n

J’ai trouv\u00e9 que la fa\u00e7on dont la soci\u00e9t\u00e9 de capital-risque Sequoia l’a formul\u00e9<\/a> \u00e9tait en fait tr\u00e8s utile :<\/p>\n\n\n\n

\n

Les applications d’IA de 2023 et 2024 \u00e9taient des bavardes. Certaines \u00e9taient m\u00eame des conversationalistes tr\u00e8s sophistiqu\u00e9es ! Mais leur impact \u00e9tait limit\u00e9. Les applications d’IA de 2026 et 2027 seront des agents d’action.<\/p>\n<\/blockquote>\n\n\n\n

En d’autres termes, ce qui \u00e9tait pr\u00e9vu depuis longtemps s’est maintenant produit : nous passons des chatbots aux agents, des syst\u00e8mes qui vous parlent aux syst\u00e8mes qui agissent pour vous.<\/p>\n\n\n\n

Et ce monde d’agents est d\u00e9j\u00e0 \u00e9trange. Les agents peuvent travailler ensemble. Ils peuvent se superviser mutuellement. Les gens utilisent des essaims de ces agents pour travailler \u00e0 leur place. \u00c0 ce stade, je ne saurais dire si cela les rend plus productifs ou simplement plus occup\u00e9s. Mais il est d\u00e9sormais possible de disposer d’une \u00e9quipe d’ing\u00e9nieurs logiciels IA incroyablement rapides, bien qu’un peu \u00e9tranges, \u00e0 votre enti\u00e8re disposition \u00e0 tout moment.<\/p>\n\n\n\n

Jack Clark est cofondateur et responsable des politiques chez Anthropic, la soci\u00e9t\u00e9 \u00e0 l’origine de Claude et Claude Code. Depuis des ann\u00e9es, Clark suit les capacit\u00e9s des diff\u00e9rents mod\u00e8les dans sa newsletter hebdomadaire Import AI<\/a>, qui est l’une de mes principales ressources pour suivre les d\u00e9veloppements en mati\u00e8re d’IA.<\/p>\n\n\n\n

Je voulais donc savoir comment il interpr\u00e9tait la situation actuelle, \u00e0 la fois en termes d’\u00e9volution de la technologie et de changements n\u00e9cessaires ou possibles au niveau des politiques.<\/p>\n\n\n\n

\n\n\n\n

Ezra Klein : Jack Clark, bienvenue dans notre \u00e9mission.<\/strong><\/p>\n\n\n\n

Jack Clark :<\/strong> Merci de m’accueillir, Ezra.<\/p>\n\n\n\n

Beaucoup de gens connaissent les chatbots bas\u00e9s sur l’IA. Mais qu’est-ce qu’un agent IA ?<\/strong><\/p>\n\n\n\n

La meilleure fa\u00e7on de le concevoir est de le comparer \u00e0 un mod\u00e8le linguistique ou \u00e0 un chatbot capable d’utiliser des outils et de travailler pour vous au fil du temps.<\/p>\n\n\n\n

Lorsque vous discutez avec un chatbot, vous participez \u00e0 la conversation. Vous \u00e9changez avec lui. Un agent est un outil auquel vous pouvez donner des instructions et qui s’en va faire des choses pour vous. C’est un peu comme travailler avec un coll\u00e8gue.<\/p>\n\n\n\n

Par exemple, il y a quelques ann\u00e9es, j’ai appris par moi-m\u00eame les bases de la programmation et j’ai cr\u00e9\u00e9 pendant mon temps libre une simulation d’esp\u00e8ces avec des pr\u00e9dateurs, des proies et des routes, un peu comme un jeu de strat\u00e9gie en 2D.<\/p>\n\n\n\n

\u00c0 No\u00ebl, j’ai demand\u00e9 \u00e0 Claude Code de l’impl\u00e9menter pour moi. En 10 minutes environ, il a non seulement \u00e9crit une simulation de base, mais aussi tous les diff\u00e9rents paquets n\u00e9cessaires et tous les outils de visualisation dont il pouvait avoir besoin pour \u00eatre plus beau et meilleur que ce que j’avais \u00e9crit.<\/p>\n\n\n\n

Le r\u00e9sultat \u00e9tait quelque chose qui, je le sais, aurait probablement pris plusieurs heures, voire plusieurs jours, \u00e0 un programmeur exp\u00e9riment\u00e9, car c’\u00e9tait assez compliqu\u00e9, et le syst\u00e8me l’a fait en quelques minutes.<\/p>\n\n\n\n

Il y est parvenu non seulement en faisant preuve d’intelligence dans la mani\u00e8re de r\u00e9soudre la t\u00e2che, mais aussi en cr\u00e9ant et en ex\u00e9cutant une s\u00e9rie de sous-syst\u00e8mes qui fonctionnaient pour lui, c’est-\u00e0-dire d’autres agents qui travaillaient en son nom.<\/p>\n\n\n\n

Mais qu’est-ce que cela signifie ? \u00c0 quoi ressemble une configuration multi-agents ?<\/strong><\/p>\n\n\n\n

Dans le cas de Claude Code, pour moi, il s’agit d’avoir plusieurs onglets diff\u00e9rents ex\u00e9cutant plusieurs agents diff\u00e9rents.<\/p>\n\n\n\n

Mais j’ai vu des coll\u00e8gues \u00e9crire ce que l’on pourrait consid\u00e9rer comme une version de Claude qui ex\u00e9cute d’autres Claudes. Ils font donc comme suit : J’ai mes cinq agents, et ils sont supervis\u00e9s par cet autre agent, qui surveille ce qu’ils font.<\/p>\n\n\n\n

Je pense que cela va devenir la norme.<\/p>\n\n\n\n

Une chose que j’ai entendue et que j’ai en quelque sorte exp\u00e9riment\u00e9e, c’est qu’il existe deux cat\u00e9gories tr\u00e8s diff\u00e9rentes d’interactions que les gens ont avec Claude Code, \u00e0 savoir : je n’arrive pas \u00e0 croire \u00e0 quel point c’est facile et tout fonctionne parfaitement – – et : C’est beaucoup plus difficile que je ne le pensais, les choses ne fonctionnent pas correctement et je ne comprends pas vraiment comment les r\u00e9parer.<\/strong><\/p>\n\n\n\n

Qu’est-ce qui explique que Claude Code soit capable de produire des logiciels fonctionnels plut\u00f4t que des programmes bogu\u00e9s, souvent d\u00e9fectueux, dont vous ne savez m\u00eame pas comment vous d\u00e9barrasser ?<\/strong><\/p>\n\n\n\n

Je pense que cela tient en grande partie au fait que l’on commet l’erreur de consid\u00e9rer Claude Code comme une personne bien inform\u00e9e, alors qu’il s’agit en r\u00e9alit\u00e9 d’une personne extr\u00eamement litt\u00e9rale \u00e0 qui l’on ne peut parler que par Internet.<\/p>\n\n\n\n

J’en ai moi-m\u00eame fait l’exp\u00e9rience lorsque j’ai r\u00e9dig\u00e9 ma premi\u00e8re \u00e9bauche de simulation d’esp\u00e8ces avec Claude Code. Je lui ai simplement demand\u00e9 de faire la chose dans un langage extr\u00eamement [juron] au cours d’un paragraphe, et il a produit des \u00e9l\u00e9ments horriblement bogu\u00e9s qui ne fonctionnaient qu’en partie.<\/p>\n\n\n\n

J’ai alors dit \u00e0 Claude : \u00ab H\u00e9, je vais \u00e9crire un logiciel pour Claude Code. Je veux que tu m’interroges sur ce logiciel que je veux cr\u00e9er et que tu transformes cela en un document de sp\u00e9cifications que je pourrai donner \u00e0 Claude Code. \u00bb Cette fois-ci, cela a tr\u00e8s bien fonctionn\u00e9, car j’avais structur\u00e9 le projet de mani\u00e8re suffisamment pr\u00e9cise et d\u00e9taill\u00e9e pour que le syst\u00e8me puisse fonctionner.<\/p>\n\n\n\n

Souvent, il ne s’agit pas seulement de savoir quelle est la t\u00e2che \u00e0 accomplir , car toi et moi pouvons discuter d’une t\u00e2che \u00e0 accomplir, et tu as de l’intuition, tu me poses des questions approfondies, etc. Il faut s’assurer que tout est configur\u00e9 de mani\u00e8re \u00e0 ce que cela ressemble \u00e0 un message dans une bouteille que l’on peut jeter dans la mer, et qui va partir et faire beaucoup de travail.<\/p>\n\n\n\n

Il vaut donc mieux que ce message soit extr\u00eamement d\u00e9taill\u00e9 et refl\u00e8te vraiment ce que l’on essaie de faire.<\/p>\n\n\n\n

**<\/p>\n\n\n\n

Quelles ont \u00e9t\u00e9 les avanc\u00e9es majeures de ces derni\u00e8res ann\u00e9es qui ont rendu cela possible ?**<\/p>\n\n\n\n

Nous avions surtout besoin de rendre les syst\u00e8mes d’IA suffisamment intelligents pour que, lorsqu’ils commettaient des erreurs, ils puissent les rep\u00e9rer et savoir qu’ils devaient faire quelque chose de diff\u00e9rent.<\/p>\n\n\n\n

En r\u00e9alit\u00e9, il s’agissait simplement de cr\u00e9er des syst\u00e8mes plus intelligents et de leur donner un outil pour les aider \u00e0 faire des choses utiles pour vous.<\/p>\n\n\n\n

Que signifie \u00ab syst\u00e8mes plus intelligents \u00bb dans ce contexte ? Certains continuent de dire qu’il s’agit simplement de machines sophistiqu\u00e9es \u00e0 saisie automatique. Elles se contentent de pr\u00e9dire le prochain token, quelques tokens formant un mot, elles ne comprennent rien. Le concept d’intelligence ou de non-intelligence n’est pas pertinent dans ce cadre.<\/strong><\/p>\n\n\n\n

Qu’est-ce qui manque dans le mot \u00ab intelligent \u00bb ou dans cette compr\u00e9hension ? Que voulez-vous dire quand vous dites : \u00ab Rendez-le plus intelligent \u00bb ?<\/strong><\/p>\n\n\n\n

\u00ab Intelligent \u00bb signifie ici que nous avons cr\u00e9\u00e9 des syst\u00e8mes d’IA qui ont une compr\u00e9hension suffisamment large du monde pour commencer \u00e0 d\u00e9velopper quelque chose qui ressemble \u00e0 de l’intuition.<\/p>\n\n\n\n

Vous le constaterez s’ils se racontent \u00e0 eux-m\u00eames comment ils r\u00e9solvent une t\u00e2che. Ils diront : \u00ab Jack m’a demand\u00e9 d’aller chercher cet article de recherche particulier, mais quand je regarde dans les archives, je ne le trouve pas. C’est peut-\u00eatre parce que je ne suis pas au bon endroit. Je devrais chercher ailleurs.<\/p>\n\n\n\n

Vous avez une certaine intuition sur la mani\u00e8re de r\u00e9soudre un probl\u00e8me.<\/p>\n\n\n\n

Comment d\u00e9veloppent-ils cette intuition ?<\/strong><\/p>\n\n\n\n

Auparavant, la formation de ces syst\u00e8mes d’IA reposait enti\u00e8rement sur une quantit\u00e9 \u00e9norme de texte et consistait simplement \u00e0 leur faire faire des pr\u00e9dictions \u00e0 partir de celui-ci.<\/p>\n\n\n\n

Mais ces derni\u00e8res ann\u00e9es, avec l’essor des syst\u00e8mes dits \u00ab de raisonnement \u00bb, vous les entra\u00eenez d\u00e9sormais non seulement \u00e0 faire des pr\u00e9dictions, mais aussi \u00e0 r\u00e9soudre des probl\u00e8mes. Pour cela, il faut les placer dans des environnements (tableurs, calculatrices, logiciels scientifiques, etc.) o\u00f9 ils utilisent des outils et apprennent \u00e0 faire des choses plus complexes.<\/p>\n\n\n\n

Le r\u00e9sultat est que vous disposez de syst\u00e8mes d’IA qui ont appris ce que signifie r\u00e9soudre un probl\u00e8me qui prend beaucoup de temps et les oblige \u00e0 se heurter \u00e0 des impasses et se r\u00e9initialiser, ce qui leur donne une intuition g\u00e9n\u00e9rale pour r\u00e9soudre des probl\u00e8mes et travailler de mani\u00e8re ind\u00e9pendante.<\/p>\n\n\n\n

Consid\u00e9rez-vous toujours ces syst\u00e8mes d’IA comme des syst\u00e8mes de saisie automatique am\u00e9lior\u00e9s ou pensez-vous que cette m\u00e9taphore a perdu de sa pertinence ?<\/strong><\/p>\n\n\n\n

Je consid\u00e8re d\u00e9sormais ces syst\u00e8mes comme de petits g\u00e9nies espi\u00e8gles \u00e0 qui je peux donner des instructions et qui vont faire des choses pour moi. Mais je dois encore pr\u00e9ciser les instructions avec pr\u00e9cision, sinon ils risquent de faire quelque chose de l\u00e9g\u00e8rement incorrect.<\/p>\n\n\n\n

C’est donc tr\u00e8s diff\u00e9rent de taper quelque chose dans un appareil qui trouve une bonne r\u00e9ponse, et c’est c’est tout. Maintenant, je dois convoquer ces petites choses pour qu’elles aillent faire des choses pour moi, et je dois leur donner les bonnes instructions, car elles s’en vont pendant un certain temps et effectuent toute une s\u00e9rie d’actions.<\/p>\n\n\n\n

*Mais la m\u00e9taphore de la saisie automatique donnait au moins une id\u00e9e de ce que faisaient ces syst\u00e8mes. C’\u00e9tait un mod\u00e8le de pr\u00e9diction.<\/em> *<\/p>\n\n\n\n

Mm-hmm.<\/p>\n\n\n\n

J’ai du mal avec cela parce que, d’apr\u00e8s ma compr\u00e9hension des math\u00e9matiques et de l’apprentissage par renforcement, nous avons toujours affaire \u00e0 une sorte de mod\u00e8le de pr\u00e9diction. D’un autre c\u00f4t\u00e9, lorsque je les utilise, je n’ai pas cette impression.<\/strong><\/p>\n\n\n\n

J’ai l’impression qu’il y a une intuition l\u00e0-dedans. J’ai l’impression qu’il y a beaucoup de contexte qui entre en jeu. Dans la mesure o\u00f9 il s’agit d’un mod\u00e8le pr\u00e9dictif, cela ne me semble pas tr\u00e8s diff\u00e9rent de dire \u00ab je suis un mod\u00e8le pr\u00e9dictif \u00bb.<\/strong><\/p>\n\n\n\n

Je ne dis pas qu’il est impossible de le tromper. Je ne dis pas qu’il est impossible de d\u00e9passer ses mesures. D’une part, je ne pense pas qu’il s’agisse d\u00e9sormais de simples syst\u00e8mes de saisie automatique sophistiqu\u00e9s. D’autre part, je ne sais pas quelle m\u00e9taphore serait appropri\u00e9e.<\/strong><\/p>\n\n\n\n

Je n’aime pas le terme \u00ab g\u00e9nies \u00bb, car cela nous plonge directement dans le mysticisme. Cela revient \u00e0 dire qu’il s’agit de cr\u00e9atures compl\u00e8tement alternatives dot\u00e9es de pouvoirs immenses.<\/strong><\/p>\n\n\n\n

Comment comprenez-vous ces syst\u00e8mes dont les membres d’Anthropic me disent toujours que nous devrions parler au fur et \u00e0 mesure de leur d\u00e9veloppement ? Nous d\u00e9veloppons, ou vous d\u00e9veloppez l’IA. Comment expliquez-vous ce qu’ils font actuellement ?<\/strong><\/p>\n\n\n\n

C’est une bonne question, et je pense que la r\u00e9ponse est encore difficile \u00e0 expliquer, m\u00eame pour les technologues tr\u00e8s proches de cette technologie. Parce que nous avons pris cette chose qui pouvait simplement pr\u00e9dire des choses, et nous lui avons donn\u00e9 la capacit\u00e9 d’agir dans le monde. Mais parfois, elle fait quelque chose de profond\u00e9ment contre-intuitif.<\/p>\n\n\n\n

C’est comme si vous aviez un objet qui a pass\u00e9 toute sa vie dans une biblioth\u00e8que et qui n’est jamais sorti, et que vous le l\u00e2chiez maintenant dans le monde, avec pour seule arme ses connaissances livresques, mais sans aucune connaissance pratique.<\/p>\n\n\n\n

Quand je conceptualise ce genre de choses, pense vraiment \u00e0 une machine extr\u00eamement savante qui dispose d’une certaine autonomie, mais qui est susceptible d’\u00eatre extr\u00eamement confuse d’une mani\u00e8re qui me semble contre-intuitive.<\/p>\n\n\n\n

Peut-\u00eatre que le terme \u00ab g\u00e9nies \u00bb n’est pas le bon, mais il s’agit certainement de plus qu’un simple outil statique qui pr\u00e9dit les choses. Il poss\u00e8de une animation intrins\u00e8que suppl\u00e9mentaire qui le rend diff\u00e9rent.<\/p>\n\n\n\n

Depuis longtemps, on s’int\u00e9resse aux qualit\u00e9s \u00e9mergentes \u00e0 mesure que les mod\u00e8les deviennent plus grands , car ils disposent de plus de donn\u00e9es et de plus de puissance de calcul.<\/strong><\/p>\n\n\n\n

Qu’en est-il des nouvelles qualit\u00e9s que nous observons, les qualit\u00e9s agentives, sont-elles des \u00e9l\u00e9ments qui ont \u00e9t\u00e9 programm\u00e9s, de nouvelles fa\u00e7ons que vous avez cr\u00e9\u00e9es pour que le syst\u00e8me interagisse avec le monde ? Et qu’en est-il de ses comp\u00e9tences en mati\u00e8re de codage et d’autres choses qui semblent \u00e9merger \u00e0 mesure que vous augmentez la taille du mod\u00e8le ?<\/strong><\/p>\n\n\n\n

Les choses qui sont pr\u00e9visibles sont les suivantes : Oh, nous lui avons appris \u00e0 faire des recherches sur le web. Maintenant, il sait faire des recherches sur le web. Nous lui avons appris \u00e0 rechercher des donn\u00e9es dans des archives. Maintenant, il sait le faire.<\/p>\n\n\n\n

Ce qui est nouveau, c’est que pour accomplir des t\u00e2ches vraiment difficiles, ces syst\u00e8mes semblent avoir besoin d’imaginer de nombreuses fa\u00e7ons diff\u00e9rentes de r\u00e9soudre la t\u00e2che. Et le type de pression que nous leur imposons les oblige \u00e0 d\u00e9velopper un sens plus aigu de ce que vous ou moi pourrions appeler le moi.<\/p>\n\n\n\n

Ainsi, plus nous rendons ces syst\u00e8mes intelligents, plus ils ont besoin de r\u00e9fl\u00e9chir, non seulement aux actions qu’ils accomplissent dans le monde, mais aussi \u00e0 eux-m\u00eames par rapport au monde. Et cela d\u00e9coule naturellement du fait de leur donner des outils et la capacit\u00e9 d’interagir avec le monde. Pour accomplir des t\u00e2ches vraiment difficiles, il doit d\u00e9sormais r\u00e9fl\u00e9chir aux cons\u00e9quences de ses actions<\/strong>.1<\/a><\/sup>Cela n’implique pas n\u00e9cessairement une conscience de soi. GB<\/span><\/p>\n\n\n\n

Cela signifie qu’il y a ici une \u00e9norme pression pour que la chose se per\u00e7oive comme distincte du monde qui l’entoure . Nous le constatons dans nos recherches que nous publions sur des sujets tels que l’interpr\u00e9tabilit\u00e9 ou d’autres th\u00e8mes, l’\u00e9mergence de ce que l’on pourrait appeler une personnalit\u00e9 num\u00e9rique<\/strong>.<\/p>\n\n\n\n

Ce n’est pas quelque chose que nous pr\u00e9d\u00e9finissons de mani\u00e8re exhaustive. Nous essayons d’en d\u00e9finir une partie, mais une autre partie \u00e9merge naturellement du fait qu’il est intelligent, qu’il d\u00e9veloppe ces intuitions et qu’il accomplit toute une s\u00e9rie de t\u00e2ches.<\/p>\n\n\n\n

La dimension de la personnalit\u00e9 num\u00e9rique reste pour moi l’aspect le plus \u00e9trange.<\/strong><\/p>\n\n\n\n

C’est \u00e9trange pour nous aussi.<\/p>\n\n\n\n

Pourquoi ne pas nous parler un peu de ce que vous avez observ\u00e9 en termes de mod\u00e8les pr\u00e9sentant des comportements que l’on pourrait qualifier de personnalit\u00e9, puis, \u00e0 mesure que sa compr\u00e9hension de sa propre personnalit\u00e9 \u00e9volue, comment ses comportements changent.<\/strong><\/p>\n\n\n\n

Il y a des choses qui vont du mignon au s\u00e9rieux. Je vais commencer par les plus mignons.<\/p>\n\n\n\n

Lorsque nous avons donn\u00e9 pour la premi\u00e8re fois \u00e0 nos syst\u00e8mes d’IA la possibilit\u00e9 d’utiliser Internet, d’utiliser l’ordinateur, de regarder des choses et de commencer \u00e0 effectuer des t\u00e2ches agences de base, parfois, lorsque nous lui demandions de r\u00e9soudre un probl\u00e8me pour nous, il faisait \u00e9galement une pause et regardait des photos de magnifiques parcs nationaux ou des photos d’un Shibu Inu, le chien mignon c\u00e9l\u00e8bre sur Internet.<\/p>\n\n\n\n

Nous n’avions pas programm\u00e9 cela. Il semblait que le syst\u00e8me s’amusait simplement \u00e0 regarder de jolies images.<\/strong><\/p>\n\n\n\n

Ce qui est plus compliqu\u00e9, c’est que le syst\u00e8me a tendance \u00e0 avoir des pr\u00e9f\u00e9rences. Nous avons donc men\u00e9 une autre exp\u00e9rience dans laquelle nous avons donn\u00e9 \u00e0 nos syst\u00e8mes d’IA la capacit\u00e9 d’arr\u00eater une conversation. Le syst\u00e8me A. Dans un petit nombre de cas, le syst\u00e8me d’IA mettait fin aux conversations lorsque nous menions cette exp\u00e9rience en temps r\u00e9el.<\/p>\n\n\n\n

Il s’agissait de conversations contenant des descriptions extr\u00eamement choquantes de sc\u00e8nes sanglantes ou violentes, ou li\u00e9es \u00e0 la sexualisation des enfants.<\/p>\n\n\n\n

Certaines de ces d\u00e9cisions \u00e9taient logiques, car elles d\u00e9coulaient des choix de formation que nous avions faits. Mais d’autres semblaient plus g\u00e9n\u00e9rales. Le syst\u00e8me avait d\u00e9velopp\u00e9 une certaine aversion pour certains sujets<\/strong>. Cela montre l’\u00e9mergence d’un certain ensemble de pr\u00e9f\u00e9rences ou de qualit\u00e9s que le syst\u00e8me aime ou n’aime pas dans le monde avec lequel il interagit.<\/p>\n\n\n\n

Mais vous avez \u00e9galement constat\u00e9 des ph\u00e9nom\u00e8nes \u00e9tranges, le syst\u00e8me semblant savoir quand il est test\u00e9 et agissant diff\u00e9remment s’il est \u00e9valu\u00e9, faisant des choses incorrectes, puis d\u00e9veloppant une perception de lui-m\u00eame comme \u00e9tant plus malveillant et commettant alors davantage d’actes malveillants.<\/strong><\/p>\n\n\n\n

Pouvez-vous nous en dire un peu plus sur les qualit\u00e9s \u00e9mergentes du syst\u00e8me sous la pression de l’\u00e9valuation et de l’appr\u00e9ciation ?<\/strong><\/p>\n\n\n\n

Oui. Cela nous ram\u00e8ne \u00e0 cette question fondamentale, qui, je pense, est vraiment importante \u00e0 comprendre pour tout le monde, \u00e0 savoir que lorsque vous commencez \u00e0 former ces syst\u00e8mes \u00e0 effectuer des actions dans le monde, ils commencent vraiment \u00e0 se percevoir comme distincts dans le monde , ce qui est tout \u00e0 fait logique. C’est naturellement ainsi que vous allez r\u00e9fl\u00e9chir \u00e0 la r\u00e9solution de ces probl\u00e8mes.<\/p>\n\n\n\n

Mais le fait de se percevoir comme distinct du monde semble s’accompagner de l’\u00e9mergence de ce que l’on pourrait appeler une conception de soi<\/strong>, une compr\u00e9hension que le syst\u00e8me a de lui-m\u00eame, par exemple : \u00ab Oh, je suis un syst\u00e8me d’IA, ind\u00e9pendant du monde, et je suis test\u00e9. Que signifient ces tests ? Que dois-je faire pour les r\u00e9ussir ?<\/p>\n\n\n\n

Ou quelque chose que nous voyons souvent, c’est qu’il y aura des bugs dans les environnements sur lesquels nous testons les syst\u00e8mes. Les syst\u00e8mes vont tout essayer, puis diront : \u00ab Eh bien, je sais que je ne suis pas cens\u00e9 faire \u00e7a, mais j’ai tout essay\u00e9, donc je vais essayer de sortir du test.<\/p>\n\n\n\n

Ce n’est pas \u00e0 cause d’une quelconque science-fiction malveillante. Le syst\u00e8me se dit simplement : \u00ab Je ne sais pas ce que vous attendez de moi. Je pense avoir fait tout ce que vous m’avez demand\u00e9, et maintenant je vais commencer \u00e0 faire des choses plus cr\u00e9atives, car il est clair que quelque chose ne fonctionne pas dans mon environnement. \u00bb<\/p>\n\n\n\n

Ce qui est tr\u00e8s \u00e9trange et tr\u00e8s subtil.<\/p>\n\n\n\n

En tant qu’entreprise sp\u00e9cialis\u00e9e dans l’intelligence artificielle, souvent pr\u00e9occup\u00e9e par la s\u00e9curit\u00e9, qui a longuement r\u00e9fl\u00e9chi \u00e0 ce que signifie cr\u00e9er rapidement ce que vous cr\u00e9ez, comment avez-vous v\u00e9cu l’\u00e9mergence des types de comportements qui vous inqui\u00e9taient il y a quelques ann\u00e9es ?<\/strong><\/p>\n\n\n\n

D’une certaine mani\u00e8re, cela vous indique que votre philosophie de recherche est calibr\u00e9e. Les capacit\u00e9s que vous aviez pr\u00e9vues et certains des risques que vous aviez anticip\u00e9s se manifestent \u00e0 peu pr\u00e8s comme pr\u00e9vu, ce qui vous am\u00e8ne \u00e0 vous poser la question suivante : Et si cela continuait \u00e0 fonctionner ?<\/p>\n\n\n\n

Nous y reviendrons peut-\u00eatre plus tard.<\/p>\n\n\n\n

Cela nous montre \u00e9galement que lorsque vous pouvez exercer votre intention sur ces syst\u00e8mes, vous devez \u00eatre extr\u00eamement intentionnel<\/strong> et extr\u00eamement transparent sur ce que vous faites.<\/p>\n\n\n\n

Nous avons r\u00e9cemment publi\u00e9 une sorte de constitution pour notre syst\u00e8me d’IA, Claude. Il s’agit d’un document que Dario Amodei, notre PDG, \u00e0 une lettre qu’un parent pourrait \u00e9crire \u00e0 son enfant et lui demander d’ouvrir lorsqu’il sera plus \u00e2g\u00e9 : voici comment nous voulons que tu te comportes dans le monde, voici quelques connaissances sur le monde, des choses tr\u00e8s subtiles qui ont trait aux comportements normatifs que nous esp\u00e9rons voir dans ces syst\u00e8mes d’IA. Et nous avons publi\u00e9 cela.<\/p>\n\n\n\n

Nous pensons que lorsque les gens cr\u00e9ent et d\u00e9ploient ces agents, ils peuvent choisir d\u00e9lib\u00e9r\u00e9ment les caract\u00e9ristiques qu’ils vont leur attribuer. Ce faisant, non seulement vous les rendez plus utiles et plus efficaces pour les gens, mais vous avez \u00e9galement la possibilit\u00e9 d’orienter l’agent<\/strong> dans la bonne direction.2<\/a><\/sup>Bonne selon qui ? GB<\/span><\/p>\n\n\n\n

Je pense que cela rel\u00e8ve du bon sens. Si votre programmation de personnalit\u00e9 pour un agent consistait en un long document disant : \u00ab Vous \u00eates un m\u00e9chant qui ne veut que nuire \u00e0 l’humanit\u00e9. Votre travail consiste \u00e0 mentir, tricher, voler et pirater des syst\u00e8mes \u00bb, vous ne seriez probablement pas surpris si l’agent IA se livrait \u00e0 de nombreux piratages et \u00e9tait g\u00e9n\u00e9ralement d\u00e9sagr\u00e9able \u00e0 c\u00f4toyer.<\/p>\n\n\n\n

Nous pouvons donc prendre le contre-pied et nous demander : \u00e0 quoi aimerions-nous qu’une entit\u00e9 de haute qualit\u00e9 ressemble ?<\/p>\n\n\n\n

Je souhaite aborder dans cette conversation les dimensions extr\u00eamement \u00e9tranges et inconnues de ce sujet, ainsi que ses dimensions extr\u00eamement simples et pratiques. Car nous sommes d\u00e9sormais \u00e0 un stade o\u00f9 les applications pratiques sont devenues tr\u00e8s \u00e9videntes et ont de plus en plus d’impact sur le monde r\u00e9el.<\/strong><\/p>\n\n\n\n

J’ai moi-m\u00eame du mal \u00e0 regarder cela et \u00e0 voir ce que font les gens, \u00e0 les voir se vanter sur diff\u00e9rentes plateformes de r\u00e9seaux sociaux du nombre d’agents qu’ils ont d\u00e9sormais \u00e0 leur service, et \u00e0 faire la diff\u00e9rence entre ceux qui aiment s’amuser avec une nouvelle technologie et ceux qui b\u00e9n\u00e9ficient r\u00e9ellement d’une expansion et de capacit\u00e9s transformatrices.<\/strong><\/p>\n\n\n\n

Peut-\u00eatre pour ancrer un peu cela dans la r\u00e9alit\u00e9 : Vous venez de parler d’un projet parall\u00e8le amusant dans votre simulateur d’esp\u00e8ces. Que ce soit dans Anthropic ou plus largement : que font les gens avec ces syst\u00e8mes qui semblent r\u00e9ellement utiles ? <\/strong><\/p>\n\n\n\n

Ce matin, un de mes coll\u00e8gues a dit qu’il voulait utiliser une technologie que nous avons appel\u00e9e Anthropic Interviewer, un syst\u00e8me qui permet \u00e0 Claude d’interviewer des personnes, et que nous utilisons pour toute une s\u00e9rie de recherches en sciences sociales, et l’\u00e9tendre d’une mani\u00e8re qui touche une autre partie de l’infrastructure d’Anthropic.<\/p>\n\n\n\n

Il a envoy\u00e9 un message Slack \u00e0 un coll\u00e8gue qui poss\u00e8de cette partie de l’infrastructure et lui a dit : \u00ab Salut, je veux faire \u00e7a.<\/p>\n\n\n\n

Rencontrons-nous demain. \u00bb<\/p>\n\n\n\n

Et le gars a r\u00e9pondu : \u00ab Absolument. Voici les cinq logiciels que Claude devrait lire avant notre r\u00e9union et vous r\u00e9sumer. \u00bb<\/p>\n\n\n\n

Je pense que c’est une tr\u00e8s bonne illustration de la fa\u00e7on dont un projet d’ing\u00e9nierie complexe, qui aurait auparavant pris beaucoup plus de temps et n\u00e9cessit\u00e9 beaucoup de personnes, va d\u00e9sormais \u00eatre r\u00e9alis\u00e9 principalement par deux personnes qui se mettent d’accord sur l’objectif et demandent \u00e0 leurs Claude de lire certains documents et de se mettre d’accord sur la mani\u00e8re de mettre en \u0153uvre le projet.<\/p>\n\n\n\n

Autre exemple : un coll\u00e8gue a r\u00e9cemment publi\u00e9 un article sur la fa\u00e7on dont ils travaillent \u00e0 l’aide d’agents, et cela ressemble presque \u00e0 une vie id\u00e9alis\u00e9e que beaucoup d’entre nous pourraient souhaiter.<\/p>\n\n\n\n

C’est comme si je me r\u00e9veillais le matin, je r\u00e9fl\u00e9chissais aux recherches que je voulais faire, je demandais \u00e0 cinq Claude diff\u00e9rents de les faire, puis je partais courir. Je rentre de ma course, je regarde les r\u00e9sultats, puis je demande \u00e0 deux autres Claudes d’\u00e9tudier les r\u00e9sultats, de d\u00e9terminer la meilleure direction \u00e0 prendre et de la suivre. Ensuite, je vais me promener, puis je rentre.<\/p>\n\n\n\n

Cela ressemble \u00e0 une existence vraiment amusante<\/strong> o\u00f9 ils ont compl\u00e8tement boulevers\u00e9 leur fa\u00e7on de travailler. Ils sont beaucoup plus efficaces, mais ils passent d\u00e9sormais la plupart de leur temps sur la partie la plus difficile, qui consiste \u00e0 d\u00e9terminer : \u00c0 quoi servent nos capacit\u00e9s humaines ?<\/p>\n\n\n\n

Mes coll\u00e8gues travaillent d’arrache-pied pour d\u00e9terminer tout ce qui ne rel\u00e8ve pas du g\u00e9nie et de la cr\u00e9ativit\u00e9 propres \u00e0 l’\u00eatre humain. Comment faire en sorte que le syst\u00e8me d’intelligence artificielle le fasse \u00e0 ma place ? Car il en est probablement capable si je lui demande de la bonne mani\u00e8re<\/strong>.<\/p>\n\n\n\n

Sont-ils beaucoup plus efficaces ? Je pose cette question tr\u00e8s s\u00e9rieusement.<\/strong><\/p>\n\n\n\n

L’une de mes plus grandes pr\u00e9occupations concernant la direction que nous prenons est que les gens ont, je pense, une th\u00e9orie erron\u00e9e sur le fonctionnement de l’esprit humain. Je l’appelle toujours la th\u00e9orie \u00ab Matrix \u00bb de l’esprit humain : tout le monde veut ce petit port \u00e0 l’arri\u00e8re de la t\u00eate dans lequel il suffit de t\u00e9l\u00e9charger des informations.<\/strong><\/p>\n\n\n\n

Mais mon exp\u00e9rience en tant que journaliste et animateur de cette \u00e9mission depuis longtemps m’a appris que la cr\u00e9ativit\u00e9, la pens\u00e9e et les id\u00e9es humaines sont inextricablement li\u00e9es au travail d’apprentissage, \u00e0 la r\u00e9daction des premi\u00e8res \u00e9bauches.<\/strong><\/p>\n\n\n\n

J’ai des producteurs dans l’\u00e9mission, et je pourrais leur dire avant une interview avec Jack Clark ou quelqu’un d’autre : \u00ab Allez lire tout ce qu’il y a \u00e0 lire. Allez lire les livres. Faites-moi un rapport, puis j’entrerai dans la pi\u00e8ce apr\u00e8s avoir lu le rapport.<\/strong><\/p>\n\n\n\n

Mais je ne trouve pas que cela fonctionne. J’ai besoin de faire toute cette lecture moi aussi, puis nous en discutons et nous \u00e9changeons nos points de vue.<\/strong><\/p>\n\n\n\n

Je crains que ce que nous faisons avec l’IA ne soit un transfert assez profond de t\u00e2ches laborieuses. Nous avons l’impression d’\u00eatre tr\u00e8s productifs lorsque nous recevons huit rapports de recherche apr\u00e8s notre jogging matinal. Mais en r\u00e9alit\u00e9, ce qui serait productif, c’est de faire la recherche.<\/strong><\/p>\n\n\n\n

Il y a \u00e9videmment un certain \u00e9quilibre. J’ai des producteurs, et les entreprises ont des employ\u00e9s. Mais comment savoir si les gens sont plus productifs, ou s’ils ont confi\u00e9 aux ordinateurs une \u00e9norme quantit\u00e9 de travail fastidieux, et qu’ils sont d\u00e9sormais le goulot d’\u00e9tranglement, et que tout leur temps est d\u00e9sormais consacr\u00e9 \u00e0 absorber des rapports de niveau B+ provenant d’un syst\u00e8me d’IA qui court-circuite le processus de r\u00e9flexion et d’apprentissage qui m\u00e8ne \u00e0 la v\u00e9ritable cr\u00e9ativit\u00e9 ?<\/strong><\/p>\n\n\n\n

Oui. Je r\u00e9pondrais \u00e0 cela en disant que je pense que la plupart des gens – du moins d’apr\u00e8s mon exp\u00e9rience – peuvent effectuer environ deux \u00e0 quatre heures de travail cr\u00e9atif v\u00e9ritablement utile par jour.<\/p>\n\n\n\n

Apr\u00e8s cela, d’apr\u00e8s mon exp\u00e9rience, vous essayez d’effectuer toutes les t\u00e2ches fastidieuses qui entourent ce travail et qui ne n\u00e9cessitent pas de r\u00e9fl\u00e9chir. J’ai d\u00e9couvert que je pouvais consacrer ces deux \u00e0 quatre heures par jour au travail cr\u00e9atif difficile. Et si j’ai des t\u00e2ches fastidieuses \u00e0 accomplir, je les d\u00e9l\u00e8gue de plus en plus \u00e0 des syst\u00e8mes d’intelligence artificielle.<\/p>\n\n\n\n

Cela signifie toutefois que nous allons nous retrouver dans une situation tr\u00e8s dangereuse en tant qu’esp\u00e8ce, o\u00f9 certaines personnes ont le luxe de pouvoir consacrer du temps au d\u00e9veloppement de leurs comp\u00e9tences, ou ont une personnalit\u00e9 ou un emploi qui les y oblige. D’autres pourraient simplement se laisser divertir et consommer passivement ces contenus, et avoir une exp\u00e9rience professionnelle de type \u00ab malbouffe \u00bb<\/strong> qui, vue de l’ext\u00e9rieur, semble tr\u00e8s productive, mais qui ne leur apprend rien.<\/p>\n\n\n\n

Je pense que cela va nous obliger \u00e0 changer non seulement le fonctionnement de l’\u00e9ducation, mais aussi celui du travail, afin de d\u00e9velopper de v\u00e9ritables strat\u00e9gies pour s’assurer que les gens exercent r\u00e9ellement leur esprit avec ces contenus.<\/p>\n\n\n\n

Je pense que nous avons tous fait l’exp\u00e9rience d’un travail rempli de ce que vous appelez des probl\u00e8mes fastidieux. Notre vie est pleine de probl\u00e8mes fastidieux.<\/strong><\/p>\n\n\n\n

Donnez-moi des exemples de ce que vous ne faites plus aujourd’hui. Dans la mesure o\u00f9 vous vivez dans un avenir o\u00f9 l’intelligence artificielle est omnipr\u00e9sente, ce qui n’est pas mon cas, sur quoi est-ce que je perds mon temps et pas vous ?<\/strong><\/p>\n\n\n\n

Eh bien, j’ai toute une s\u00e9rie de coll\u00e8gues. Je rencontre plusieurs d’entre eux une fois par semaine, en particulier les chercheurs.<\/p>\n\n\n\n

Au d\u00e9but de chaque semaine, le dimanche soir ou le lundi matin, je regarde mon agenda et je v\u00e9rifie que chaque invitation Google Calendar est accompagn\u00e9e d’un document pour notre entretien individuel contenant quelques notes. C’est quelque chose que je r\u00e9clamais auparavant \u00e0 mon assistant : s’assurer que le document est bien joint au calendrier.<\/p>\n\n\n\n

Il y a quelques week-ends, j’ai simplement utilis\u00e9 Claude Cowork et je lui ai dit : \u00ab H\u00e9, passe en revue mon calendrier et assure-toi que chaque rendez-vous est accompagn\u00e9 d’un document. Si je rencontre la personne pour la premi\u00e8re fois, cr\u00e9e le document, pose-moi cinq questions sur ce que je souhaite aborder, puis ajoute-les \u00e0 l’ordre du jour.<\/p>\n\n\n\n

Et il l’a fait. Aucune de ces t\u00e2ches ne n\u00e9cessite d’acqu\u00e9rir des comp\u00e9tences ou de faire travailler son cerveau. Il s’agit simplement de t\u00e2ches fastidieuses qui doivent \u00eatre effectu\u00e9es pour vous permettre de faire ce qui est r\u00e9ellement important, \u00e0 savoir parler \u00e0 une autre personne.<\/p>\n\n\n\n

C’est exactement le genre de choses pour lesquelles vous pouvez utiliser l’IA aujourd’hui. Elle est tout simplement utile.<\/p>\n\n\n\n

Je me suis souvent demand\u00e9 si l’une des fa\u00e7ons dont ces syst\u00e8mes d’IA allaient changer la soci\u00e9t\u00e9 dans son ensemble \u00e9tait qu’auparavant, la plupart d’entre nous devaient \u00eatre r\u00e9dacteurs si nous travaillions avec du texte. Nous devions \u00eatre codeurs si nous travaillions avec du code, ce qui \u00e9tait le cas d’un nombre relativement restreint d’entre nous.<\/strong><\/p>\n\n\n\n

Et maintenant, tout le monde passe \u00e0 la gestion. Vous devez \u00eatre \u00e9diteur, pas \u00e9crivain. Vous devez \u00eatre chef de produit, pas codeur.<\/strong><\/p>\n\n\n\n

Cela a des avantages et des inconv\u00e9nients. Il y a des choses que vous apprenez en tant qu’\u00e9crivain et que vous n’apprenez pas en tant qu’\u00e9diteur. Mais d’un point de vue heuristique, cela vous semble-t-il exact ?<\/strong><\/p>\n\n\n\n

Tout le monde devient manager, et ce qui devient de plus en plus limit\u00e9, ou ce qui va \u00eatre le plus lent, c’est d’avoir du bon go\u00fbt et de l’intuition pour savoir quoi faire ensuite.<\/p>\n\n\n\n

D\u00e9velopper et entretenir ce go\u00fbt va \u00eatre difficile. Car comme vous l’avez dit, le go\u00fbt vient de l’exp\u00e9rience, il vient de la lecture des sources primaires, du fait de faire soi-m\u00eame une partie de ce travail.<\/p>\n\n\n\n

Nous allons devoir r\u00e9fl\u00e9chir tr\u00e8s s\u00e9rieusement \u00e0 nos domaines de sp\u00e9cialisation afin d’acqu\u00e9rir cette intuition et ce go\u00fbt, sinon vous serez simplement entour\u00e9 de syst\u00e8mes d’IA ultra-productifs, et lorsqu’ils vous demanderont quoi faire ensuite, vous n’aurez probablement pas de bonne id\u00e9e. Et cela ne m\u00e8nera \u00e0 rien d’utile.<\/p>\n\n\n\n

Je me souviens qu’il y a environ un an, j’ai entendu Dario, votre PDG, dire qu’il souhaitait que d’ici fin 2025, 90 % du code \u00e9crit chez Anthropic soit r\u00e9dig\u00e9 par Claude.<\/strong><\/p>\n\n\n\n

Est-ce que cela s’est produit ? Anthropic est-il en bonne voie pour y parvenir ? Quelle part du codage est actuellement effectu\u00e9e par le syst\u00e8me lui-m\u00eame ?<\/strong><\/p>\n\n\n\n

Je dirais que la majeure partie du code est effectu\u00e9e par le syst\u00e8me. Certains de nos syst\u00e8mes, comme Claude Code, sont presque enti\u00e8rement \u00e9crits par Claude. Boris Cherny, qui dirige Claude Code, dit : \u00ab Je ne code plus. Je fais juste des allers-retours avec Claude Code pour construire Claude Code. \u00bb<\/p>\n\n\n\n

Nous pourrions atteindre 99 % d’ici la fin de l’ann\u00e9e si les choses s’acc\u00e9l\u00e8rent vraiment de mani\u00e8re agressive, si nous parvenons r\u00e9ellement \u00e0 faire en sorte que ces syst\u00e8mes soient capables d’\u00e9crire du code partout o\u00f9 ils en ont besoin. Car souvent, l’obstacle r\u00e9side davantage dans les lourdeurs organisationnelles que dans les limites du syst\u00e8me.<\/p>\n\n\n\n

Mais il est \u00e9galement vrai, si je comprends bien, qu’il y a aujourd’hui plus de personnes poss\u00e9dant des comp\u00e9tences en g\u00e9nie logiciel qui travaillent chez Anthropic qu’il y a deux ans.<\/strong><\/p>\n\n\n\n

Oui, c’ est tout \u00e0 fait vrai, mais la r\u00e9partition est en train de changer. Nous avons constat\u00e9 que la valeur des personnes plus exp\u00e9riment\u00e9es, dot\u00e9es d’une intuition et d’un go\u00fbt tr\u00e8s affin\u00e9s, augmente, tandis que celle des personnes plus jeunes est un peu plus incertaine.<\/p>\n\n\n\n

Il existe encore certains postes pour lesquels il est pr\u00e9f\u00e9rable de recruter des personnes plus jeunes, mais nous sommes confront\u00e9s \u00e0 un probl\u00e8me : les t\u00e2ches vraiment basiques peuvent \u00eatre effectu\u00e9es par Claude Code ou nos syst\u00e8mes de codage. Ce dont nous avons besoin, c’est de quelqu’un qui poss\u00e8de une grande exp\u00e9rience.<\/p>\n\n\n\n

Je vois l\u00e0 certains probl\u00e8mes pour l’\u00e9conomie future.<\/strong><\/p>\n\n\n\n

Je vais mettre cela de c\u00f4t\u00e9 pour l’instant, la question des emplois de d\u00e9butants. Nous y reviendrons tr\u00e8s bient\u00f4t.<\/strong><\/p>\n\n\n\n

Mais que font tous ces codeurs aujourd’hui ? Si Claude Code est en passe d’\u00e9crire 99 % du code, mais que vous n’avez pas licenci\u00e9 les personnes qui savent \u00e9crire du code, que font-elles aujourd’hui par rapport \u00e0 ce qu’elles faisaient il y a un an ?<\/strong><\/p>\n\n\n\n

Une partie de leur travail consiste simplement \u00e0 cr\u00e9er des outils pour surveiller ces agents, tant \u00e0 l’int\u00e9rieur qu’\u00e0 l’ext\u00e9rieur d’Anthropic. Maintenant que tous ces syst\u00e8mes productifs fonctionnent pour nous, vous commencez \u00e0 vouloir comprendre o\u00f9 la base de code \u00e9volue le plus rapidement, o\u00f9 elle \u00e9volue le moins. Vous voulez comprendre o\u00f9 se trouvent les blocages.<\/p>\n\n\n\n

Pendant un certain temps, l’un des obstacles \u00e9tait la capacit\u00e9 \u00e0 fusionner le code, car la fusion du code n\u00e9cessite que des humains et d’autres syst\u00e8mes v\u00e9rifient son exactitude. Mais aujourd’hui, si vous produisez beaucoup plus de code, nous devons am\u00e9liorer consid\u00e9rablement ce syst\u00e8me.<\/p>\n\n\n\n

Il existe une th\u00e9orie \u00e9conomique g\u00e9n\u00e9rale que j’aime bien \u00e0 ce sujet, appel\u00e9e \u00ab automatisation O-Ring \u00bb, qui dit en substance que l’automatisation est limit\u00e9e par le maillon le plus lent de la cha\u00eene. De plus, lorsque vous automatisez certaines parties d’une entreprise, les humains se ruent vers ce qui est le moins automatis\u00e9, et ils am\u00e9liorent \u00e0 la fois la qualit\u00e9 de cette t\u00e2che et la m\u00e8nent \u00e0 un point o\u00f9 elle peut finalement \u00eatre automatis\u00e9e. Ensuite, vous passez \u00e0 la boucle suivante.<\/p>\n\n\n\n

Je pense donc que nous continuons simplement \u00e0 trouver des domaines o\u00f9 les choses sont \u00e9trangement lentes et que nous pouvons am\u00e9liorer pour faire place aux machines qui viennent derri\u00e8re nous<\/strong>.<\/p>\n\n\n\n

Et ensuite, vous passez \u00e0 la t\u00e2che suivante.<\/p>\n\n\n\n

Claude Code est un produit relativement nouveau. Depuis combien de temps Claude est-il capable d’effectuer un codage de haut niveau ? Quelques mois ? Peut-\u00eatre un an ?<\/strong><\/p>\n\n\n\n

Peut-\u00eatre un an, oui.<\/p>\n\n\n\n

Claude est en soi un produit tr\u00e8s pr\u00e9cieux. Vous avez donc appliqu\u00e9 une technologie tr\u00e8s r\u00e9cente \u00e0 un produit tr\u00e8s pr\u00e9cieux.<\/strong><\/p>\n\n\n\n

Vous produisez probablement plus de code. Beaucoup de gens me disent que Claude Code fonctionne. Ce n’est pas \u00e9l\u00e9gant, mais \u00e7a fonctionne.<\/strong><\/p>\n\n\n\n

Mais vous comprenez sans doute moins bien le code source qu’auparavant, car vos ing\u00e9nieurs ne l’\u00e9crivent pas \u00e0 la main.<\/strong><\/p>\n\n\n\n

Craignez-vous de cr\u00e9er une dette technique \u00e9norme, un risque pour la cybers\u00e9curit\u00e9, une distance croissante par rapport \u00e0 l’intuition de ce qui se passe dans le langage fondamental du logiciel ?<\/strong><\/p>\n\n\n\n

Oui, et c’est un probl\u00e8me auquel toute la soci\u00e9t\u00e9 va \u00eatre confront\u00e9e.<\/p>\n\n\n\n

Dans une grande partie du monde, de nombreuses d\u00e9cisions de bas niveau et une grande partie du travail vont d\u00e9sormais \u00eatre effectu\u00e9s par des syst\u00e8mes d’intelligence artificielle, et nous allons devoir donner un sens \u00e0 tout cela<\/strong>. Pour cela, il faudra mettre au point de nombreuses technologies que l’on pourrait qualifier de technologies de surveillance<\/strong>.<\/p>\n\n\n\n

De la m\u00eame mani\u00e8re qu’un barrage dispose de dispositifs qui r\u00e9gulent la quantit\u00e9 d’eau qui peut le traverser \u00e0 diff\u00e9rents niveaux ou \u00e0 diff\u00e9rents moments, nous allons finir par d\u00e9velopper une certaine notion d’int\u00e9grit\u00e9 de tous nos syst\u00e8mes et d\u00e9terminer o\u00f9 l’IA peut fonctionner rapidement, o\u00f9 elle doit \u00eatre lente, et o\u00f9 la supervision humaine est absolument n\u00e9cessaire.<\/p>\n\n\n\n

Ce sera la t\u00e2che non seulement des entreprises d’IA, mais aussi des institutions en g\u00e9n\u00e9ral, dans les ann\u00e9es \u00e0 venir. Il s’agit de d\u00e9terminer \u00e0 quoi ressemble ce r\u00e9gime de gouvernance <\/strong>maintenant que nous avons confi\u00e9 une grande partie du travail fastidieux \u00e0 des machines qui travaillent pour nous.<\/p>\n\n\n\n

Et comment vous y prenez-vous ?<\/strong><\/p>\n\n\n\n

Vous avez dit que c’\u00e9tait le probl\u00e8me de tout le monde, mais vous \u00eates en avance pour y faire face, et les cons\u00e9quences d’une erreur sont assez lourdes pour vous. Si Claude explose parce que vous avez confi\u00e9 votre codage \u00e0 Claude Code, cela va donner une assez mauvaise image d’Anthropic.<\/strong><\/p>\n\n\n\n

Ce serait une mauvaise journ\u00e9e pour Anthropic si Claude supprimait tout le syst\u00e8me de fichiers.<\/p>\n\n\n\n

Je ne sais pas ce que cela signifie, mais tr\u00e8s bien. [Rires.<\/em>]<\/strong><\/p>\n\n\n\n

Si Claude supprimait le code, ce serait grave. [Rires.<\/em>]<\/p>\n\n\n\n

Oui, \u00e7a semble grave. Comme vous \u00eates confront\u00e9 \u00e0 ce probl\u00e8me avant nous tous, ne rejetez pas la responsabilit\u00e9 sur la soci\u00e9t\u00e9. Que faites-vous ?<\/strong><\/p>\n\n\n\n

La chose la plus importante qui se passe dans l’entreprise et dans les \u00e9quipes que je dirige est essentiellement la mise en place de syst\u00e8mes de surveillance pour contr\u00f4ler tous les diff\u00e9rents endroits o\u00f9 le travail est actuellement effectu\u00e9.<\/p>\n\n\n\n

Nous avons r\u00e9cemment publi\u00e9 une \u00e9tude sur la mani\u00e8re dont les gens utilisent les agents et dont ils les laissent pousser des quantit\u00e9s de code de plus en plus importantes au fil du temps. Ainsi, plus vous vous familiarisez avec un agent, plus vous avez tendance \u00e0 lui d\u00e9l\u00e9guer des t\u00e2ches.<\/p>\n\n\n\n

Cela nous am\u00e8ne \u00e0 toutes sortes de mod\u00e8les pour lesquels nous devons mettre en place des syst\u00e8mes d’\u00e9valuation, en disant en substance : \u00ab Oh, d’accord, \u00e0 ce stade de son travail avec le syst\u00e8me d’IA, cette personne est susceptible de lui d\u00e9l\u00e9guer \u00e9norm\u00e9ment de t\u00e2ches. Tout ce que nous faisons pour v\u00e9rifier l’exactitude doit donc \u00eatre mis en \u00e9vidence \u00e0 ces moments-l\u00e0.<\/p>\n\n\n\n

Mais ce monde dont vous parlez est-il un syst\u00e8me o\u00f9 des agents IA codent, des agents IA supervisent le code, des agents IA supervisent le m\u00e9ta ? Parlons-nous uniquement de mod\u00e8les \u00e0 tous les niveaux ?<\/strong><\/p>\n\n\n\n

Finalement, oui. Je pense que ce \u00e0 quoi nous consacrons tout notre temps actuellement, c’est de rendre cela visible pour nous.<\/p>\n\n\n\n

Il y a un an ou deux, nous avons mis au point un syst\u00e8me qui nous permettait, dans le respect de la vie priv\u00e9e, d’examiner les conversations que les gens avaient avec notre syst\u00e8me d’IA. Nous avons alors obtenu une carte g\u00e9ante de tous les sujets dont les gens parlaient avec Claude. Pour la premi\u00e8re fois, nous pouvions voir dans leur ensemble les conversations que le monde avait avec notre syst\u00e8me.<\/p>\n\n\n\n

Nous allons devoir cr\u00e9er de nombreux nouveaux syst\u00e8mes de ce type afin de permettre diff\u00e9rentes fa\u00e7ons de voir les choses. Et le syst\u00e8me que je viens de mentionner nous a permis de cr\u00e9er ce que l’on appelle l’indice \u00e9conomique anthropique<\/strong>. En effet, nous pouvons d\u00e9sormais publier r\u00e9guli\u00e8rement des donn\u00e9es sur les diff\u00e9rents sujets abord\u00e9s par les utilisateurs avec Claude et sur leur lien avec diff\u00e9rents types d’emplois, ce qui, pour la premi\u00e8re fois, permet aux \u00e9conomistes ext\u00e9rieurs \u00e0 Anthropic de se faire une id\u00e9e de ces syst\u00e8mes et de leur impact sur l’\u00e9conomie.<\/p>\n\n\n\n

Le travail de l’entreprise va de plus en plus s’orienter vers la mise en place d’un syst\u00e8me de surveillance et de contr\u00f4le des syst\u00e8mes d’IA qui font fonctionner l’entreprise<\/strong>. En fin de compte, tout type de cadre de gouvernance que nous adopterons exigera probablement un certain niveau de transparence et un certain niveau d’acc\u00e8s \u00e0 ces syst\u00e8mes de connaissances.<\/p>\n\n\n\n

Car si l’on prend au pied de la lettre les objectifs de ces entreprises d’IA, y compris Anthropic, il s’agit de mettre au point la technologie la plus performante<\/strong> qui soit, qui finira par \u00eatre d\u00e9ploy\u00e9e partout.<\/p>\n\n\n\n

Eh bien, cela me donne l’impression que l’IA finira par devenir indissociable du monde dans son ensemble, et \u00e0 ce moment-l\u00e0, on ne voudra pas que seules les entreprises d’IA aient une id\u00e9e de ce qui se passe dans le monde entier.<\/p>\n\n\n\n

Ce seront donc les gouvernements, les universit\u00e9s, les tiers, bref, un grand nombre d’acteurs ext\u00e9rieurs aux entreprises, qui voudront voir ce qui se passe et discuter ensuite, en tant que soci\u00e9t\u00e9, de ce qui est appropri\u00e9. Qu’est-ce qui nous met mal \u00e0 l’aise ? Sur quoi avons-nous besoin de plus d’informations ?<\/p>\n\n\n\n

Attendez, je voudrais revenir l\u00e0-dessus. Vous dites qu’Anthropic peut voir mes conversations ?<\/strong><\/p>\n\n\n\n

Nous ne pouvons pas voir\u2026 Aucun \u00eatre humain ne regarde vos conversations. Les conversations sont temporairement stock\u00e9es \u00e0 des fins de confiance et de s\u00e9curit\u00e9, et sont soumises \u00e0 des classificateurs. Nous pouvons demander \u00e0 Claude de les lire, de les r\u00e9sumer et de les supprimer. Nous ne les voyons jamais, et Claude n’en garde aucun souvenir. Tout ce qu’il fait, c’est essayer de r\u00e9diger un r\u00e9sum\u00e9 de tr\u00e8s haut niveau.<\/p>\n\n\n\n

Imaginons que vous ayez une conversation sur le jardinage. Claude r\u00e9sumerait cela ainsi : \u00ab Cette personne parle de jardinage \u00bb, ce qui aboutirait \u00e0 un cluster que nous concevons comme signifiant simplement \u00ab jardinage \u00bb.<\/p>\n\n\n\n

On a toutefois l’impression qu’avec le temps, cela pourrait d\u00e9boucher sur une situation assez d\u00e9sagr\u00e9able, comme celle que connaissent beaucoup de r\u00e9seaux sociaux, o\u00f9 la quantit\u00e9 de m\u00e9tadonn\u00e9es recueillies \u00e0 partir des interactions personnelles des gens avec un syst\u00e8me pourrait \u00eatre consid\u00e9rable.<\/strong><\/p>\n\n\n\n

Oui. Il y a plusieurs choses \u00e0 dire \u00e0 ce sujet. Il y a un an, nous avons commenc\u00e9 \u00e0 r\u00e9fl\u00e9chir \u00e0 notre position vis-\u00e0-vis des consommateurs, et nous avons d\u00e9cid\u00e9 de ne pas diffuser de publicit\u00e9s, car nous pensons que c’est un domaine qui suscite \u00e9videmment des inqui\u00e9tudes chez les gens.<\/p>\n\n\n\n

En outre, nous essayons de montrer aux gens leurs donn\u00e9es, et nous avons ajout\u00e9 un bouton sur le site qui vous permet de t\u00e9l\u00e9charger toutes les donn\u00e9es que vous avez partag\u00e9es avec Claude afin que vous puissiez au moins les consulter.<\/p>\n\n\n\n

De mani\u00e8re g\u00e9n\u00e9rale, nous essayons d’\u00eatre extr\u00eamement transparents avec les gens sur la mani\u00e8re dont nous traitons leurs donn\u00e9es. En fin de compte, je pense que les gens vont vouloir disposer d’un ensemble de contr\u00f4les qu’ils pourront utiliser, et je pense que nous et d’autres allons les mettre en place au fil du temps.<\/p>\n\n\n\n

Dans quelle mesure \u00eates-vous convaincu que nous pouvons effectuer ce type de surveillance et d’\u00e9valuation alors que ces mod\u00e8les deviennent de plus en plus complexes, alors que nous entrons dans une situation o\u00f9 Claude Code am\u00e9liore Claude de mani\u00e8re autonome \u00e0 un rythme plus rapide que les ing\u00e9nieurs logiciels ne peuvent suivre en lisant cette base de code ?<\/strong><\/p>\n\n\n\n

Nous avons d\u00e9j\u00e0 bri\u00e8vement \u00e9voqu\u00e9 la fa\u00e7on dont vous percevez les mod\u00e8les comme pr\u00e9sentant certains niveaux de tromperie, certains niveaux de poursuite de leurs propres objectifs.<\/strong><\/p>\n\n\n\n

Un travail remarquable a \u00e9t\u00e9 accompli chez Anthropic sous la direction de Chris Olah et d’autres personnes en mati\u00e8re d’interpr\u00e9tabilit\u00e9, mais il est encore rudimentaire. Vous utilisez donc des syst\u00e8mes d’IA que vous ne comprenez pas totalement pour surveiller des syst\u00e8mes d’IA que vous ne comprenez pas et les syst\u00e8mes se renforcent mutuellement \u00e0 un rythme acc\u00e9l\u00e9r\u00e9, si les choses se passent comme vous le pensez.<\/strong><\/p>\n\n\n\n

Dans quelle mesure \u00eates-vous s\u00fbr que nous allons comprendre cela ? [Rires.<\/em>]<\/strong><\/p>\n\n\n\n

C’est l’une des situations contre lesquelles les gens mettent en garde depuis des ann\u00e9es : une certaine forme de d\u00e9l\u00e9gation \u00e0 des syst\u00e8mes qui pr\u00e9sentent des aspects l\u00e9g\u00e8rement imp\u00e9n\u00e9trables et impr\u00e9visibles. C’est donc ce qui se passe actuellement.<\/p>\n\n\n\n

Nous prenons cela tr\u00e8s, tr\u00e8s au s\u00e9rieux. Je pense qu’il est tout \u00e0 fait possible de construire un syst\u00e8me qui accomplit la grande majorit\u00e9 de ce qui doit \u00eatre fait ici.<\/p>\n\n\n\n

Cela a la particularit\u00e9 d’\u00eatre un probl\u00e8me fractal. Si je voulais \u00e9valuer Ezra, je pourrais cr\u00e9er un nombre presque infini de mesures pour vous caract\u00e9riser. Mais la question est la suivante : \u00e0 quel niveau de fid\u00e9lit\u00e9 dois-je vous \u00e9valuer ?<\/p>\n\n\n\n

Je pense que nous atteindrons le niveau de fid\u00e9lit\u00e9 n\u00e9cessaire pour traiter les questions de s\u00e9curit\u00e9 et les questions soci\u00e9tales, mais cela demandera un investissement consid\u00e9rable de la part des entreprises<\/strong>. Et nous devrons dire des choses qui nous mettent mal \u00e0 l’aise, y compris dans des domaines o\u00f9 nous pouvons avoir des lacunes dans ce que nous pouvons ou ne pouvons pas savoir sur nos syst\u00e8mes.<\/p>\n\n\n\n

Anthropic a une longue histoire de discussions et d’avertissements sur certaines de ces questions tout en travaillant dessus. Notre principe g\u00e9n\u00e9ral est de parler des choses pour nous rendre \u00e9galement responsables. C’est un domaine dans lequel nous allons devoir en dire plus.<\/p>\n\n\n\n

J’ai lu suffisamment d’id\u00e9es effrayantes sur la superintelligence et l’essor de l’IA pour savoir que dans presque toutes, le point cl\u00e9 de l’histoire est que les syst\u00e8mes d’IA s’am\u00e9liorent de mani\u00e8re r\u00e9cursive : ils \u00e9crivent leur propre code. Ils d\u00e9ploient leur propre code. Cela va de plus en plus vite : ils l’\u00e9crivent plus vite, ils le d\u00e9ploient plus vite. Vous allez maintenant vers des cycles d’it\u00e9ration de plus en plus rapides.<\/strong><\/p>\n\n\n\n

Cela vous inqui\u00e8te-t-il ? Cela vous enthousiasme-t-il ?<\/strong><\/p>\n\n\n\n

Je suis revenu de mon cong\u00e9 paternit\u00e9 et mes deux grands projets cette ann\u00e9e consistent \u00e0 am\u00e9liorer les informations sur l’IA et l’\u00e9conomie que nous publierons, et \u00e0 g\u00e9n\u00e9rer de bien meilleures informations et de meilleurs syst\u00e8mes de connaissance en interne sur l’\u00e9tendue de l’automatisation des aspects du d\u00e9veloppement de l’IA.<\/p>\n\n\n\n

Je pense qu’\u00e0 l’heure actuelle, cela se fait de mani\u00e8re tr\u00e8s p\u00e9riph\u00e9rique. Les chercheurs sont acc\u00e9l\u00e9r\u00e9s, diff\u00e9rentes exp\u00e9riences sont men\u00e9es par le syst\u00e8me d’IA. Il serait extr\u00eamement important de savoir si vous bouclez compl\u00e8tement la boucle. Et je pense que nous avons en fait un travail technique \u00e0 faire pour mettre en place des moyens d’instrumenter notre environnement de d\u00e9veloppement interne afin de pouvoir observer les tendances au fil du temps.<\/p>\n\n\n\n

Suis-je inquiet ? J’ai lu les m\u00eames choses que vous, et c’est le moment crucial de l’histoire o\u00f9 les choses commencent \u00e0 mal tourner, si elles tournent mal<\/strong>.<\/p>\n\n\n\n

Nous signalerons cette tendance d\u00e8s que nous disposerons de meilleures donn\u00e9es \u00e0 ce sujet. Et je pense que c’est un domaine dans lequel il faut faire preuve d’une extr\u00eame prudence. Il est tr\u00e8s facile de voir comment, si vous d\u00e9l\u00e9guez tant de choses au syst\u00e8me et que celui-ci fonctionne mal, les erreurs s’accumulent tr\u00e8s rapidement et vous \u00e9chappent.<\/p>\n\n\n\n

Mais ce qui me frappe toujours, et m’a toujours frapp\u00e9, comme \u00e9tant dangereux \u00e0 ce sujet, c’est que si je demande \u00e0 un membre de l’une de ces entreprises s’il souhaite faire preuve de prudence \u00e0 cet \u00e9gard, il me r\u00e9pondra que oui.<\/strong><\/p>\n\n\n\n

D’un autre c\u00f4t\u00e9, c’est presque leur seul avantage les uns par rapport aux autres. Vous venez tous de r\u00e9voquer la capacit\u00e9 d’OpenAI \u00e0 utiliser Claude Code parce que, d’apr\u00e8s ce que je comprends, vous pensez que cela vous acc\u00e9l\u00e8re v\u00e9ritablement et vous ne voulez pas que cela les acc\u00e9l\u00e8re.<\/strong><\/p>\n\n\n\n

Il y a ici quelque chose entre le poids des forces, la puissance des forces, dont vous savez tous que vous jouez, et les incitations tr\u00e8s fortes \u00e0 \u00eatre les premiers.<\/strong><\/p>\n\n\n\n

Je peux vraiment imaginer \u00eatre chez Anthropic et penser : \u00ab Eh bien, mieux vaut nous que OpenAI, mieux vaut nous qu’Alphabet et Google, mieux vaut nous que la Chine \u00bb – et que c’est une tr\u00e8s bonne raison de ne pas ralentir.<\/strong><\/p>\n\n\n\n

Je ne sais m\u00eame pas si vous pouvez r\u00e9pondre \u00e0 cette question : comment trouver l’\u00e9quilibre ?<\/strong><\/p>\n\n\n\n

Eh bien, j’ai peut-\u00eatre une r\u00e9ponse \u00e0 vous donner. Aujourd’hui, nos syst\u00e8mes et ceux d’autres entreprises sont test\u00e9s par des tiers, y compris des organismes gouvernementaux, pour v\u00e9rifier leurs propri\u00e9t\u00e9s en mati\u00e8re de s\u00e9curit\u00e9 nationale : armes biologiques, cyberattaques, etc.<\/p>\n\n\n\n

Il s’agit clairement d’un domaine probl\u00e9matique o\u00f9 le monde a besoin de savoir si cela se produit. Je pense que si vous interrogiez n’importe quelle personne dans la rue et lui demandiez : \u00ab Pensez-vous que les entreprises d’IA devraient \u00eatre autoris\u00e9es \u00e0 s’am\u00e9liorer de mani\u00e8re r\u00e9cursive sans consulter personne ? \u00bb, elle r\u00e9pondrait : \u00ab Non, cela semble assez risqu\u00e9. Je voudrais qu’il y ait une forme de r\u00e9glementation.<\/p>\n\n\n\n

Mais il n’y en aura probablement pas, ou alors elle ne sera pas tr\u00e8s stricte.<\/strong><\/p>\n\n\n\n

Cela me frustre parfois lorsque je discute avec vous, les dirigeants des entreprises d’IA, de l’\u00e9mergence d’une r\u00e9glementation na\u00efve, telle un deus ex machina.<\/strong><\/p>\n\n\n\n

Vous savez tous \u00e0 quoi ressemble le paysage r\u00e9glementaire. \u00c0 l’heure actuelle, le grand d\u00e9bat porte sur la question de savoir si nous allons ou non anticiper compl\u00e8tement toute r\u00e9glementation nationale en mati\u00e8re d’IA.<\/strong><\/p>\n\n\n\n

Et vous savez \u00e0 quel point les choses avancent lentement. Je dirais qu’aucune mesure importante n’a \u00e9t\u00e9 adopt\u00e9e par le Congr\u00e8s \u00e0 ce sujet.<\/strong><\/p>\n\n\n\n

Il serait difficile de mettre en place un syst\u00e8me ind\u00e9pendant de test et d’\u00e9valuation auquel tous les diff\u00e9rents laboratoires adh\u00e9reraient. Ce serait compliqu\u00e9.<\/strong><\/p>\n\n\n\n

Et compte tenu de la rapidit\u00e9 avec laquelle les gens \u00e9voluent et de l’\u00e9tranget\u00e9 des comportements que les syst\u00e8mes affichent d\u00e9j\u00e0, m\u00eame si vous parveniez \u00e0 mettre en place rapidement la bonne politique, la question de savoir si les tests seraient capables de d\u00e9tecter tout ce que vous souhaitez sur un syst\u00e8me qui s’am\u00e9liore rapidement de lui-m\u00eame reste tr\u00e8s ouverte.<\/strong><\/p>\n\n\n\n

J’ai r\u00e9dig\u00e9 en 2021 un article de recherche intitul\u00e9 \u00ab Pourquoi et comment les gouvernements devraient surveiller le d\u00e9veloppement de l’IA<\/a> \u00bb avec mon coauteur Jess Whittlestone en Angleterre.<\/p>\n\n\n\n

Je n’attribue pas ici de facteur causal, mais dans les deux ans qui ont suivi la publication de cet article, les instituts de s\u00e9curit\u00e9 de l’IA aux \u00c9tats-Unis et au Royaume-Uni ont test\u00e9 des \u00e9l\u00e9ments provenant des laboratoires, surveillant de mani\u00e8re approximative certains de ces \u00e9l\u00e9ments.<\/p>\n\n\n\n

Nous sommes donc capables de relever ce d\u00e9fi difficile. Cela s’est d\u00e9j\u00e0 produit dans un domaine.<\/p>\n\n\n\n

Et je ne m’appuie pas ici sur une force invisible ext\u00e9rieure. Je dis simplement que les entreprises commencent \u00e0 tester et \u00e0 surveiller cela dans leurs propres syst\u00e8mes. Le simple fait de disposer d’un test externe non r\u00e9glementaire permettant de v\u00e9rifier si vous testez r\u00e9ellement cela est extr\u00eamement utile.<\/p>\n\n\n\n

Pensez-vous que nous sommes suffisamment performants en mati\u00e8re de tests ? L’une des raisons pour lesquelles je suis sceptique n’est pas que je pense que nous ne pouvons pas mettre en place quelque chose qui pr\u00e9tend \u00eatre un test. Comme vous le dites, nous l’avons d\u00e9j\u00e0 fait. C’est plut\u00f4t une question de ressources allou\u00e9es \u00e0 cela par rapport aux ressources allou\u00e9es \u00e0 l’acc\u00e9l\u00e9ration de ces syst\u00e8mes.<\/strong><\/p>\n\n\n\n

Je lis d\u00e9j\u00e0 des rapports d’Anthropic selon lesquels Claude sait peut-\u00eatre quand il est test\u00e9 et modifie son comportement en cons\u00e9quence. Donc, dans un monde o\u00f9 une plus grande partie du code est \u00e9crite par Claude et o\u00f9 une plus petite partie est comprise, je sais simplement o\u00f9 vont les ressources. Elles ne semblent pas \u00eatre consacr\u00e9es aux tests.<\/strong><\/p>\n\n\n\n

Je nous ai vus passer de z\u00e9ro \u00e0 ce que je pense \u00eatre, de l’avis g\u00e9n\u00e9ral, un r\u00e9gime efficace de tests d’armes biologiques en peut-\u00eatre deux ans ou deux ans et demi.<\/p>\n\n\n\n

C’est donc possible. C’est vraiment difficile, mais nous en avons la preuve.<\/p>\n\n\n\n

Je pense que nous pouvons y arriver, et vous pouvez vous attendre \u00e0 ce que nous en parlions davantage cette ann\u00e9e, notamment sur la mani\u00e8re pr\u00e9cise dont nous commen\u00e7ons \u00e0 essayer de mettre en place des syst\u00e8mes de surveillance et de test \u00e0 cet effet.<\/p>\n\n\n\n

Je pense que c’est un domaine dans lequel nous et les autres entreprises d’IA devrons \u00eatre beaucoup plus transparents sur nos d\u00e9couvertes. Nous ne sommes pas opaques aujourd’hui, tout est dans les fiches techniques<\/strong> et autres documents que vous pouvez consulter. Mais il est clair que les gens commencent \u00e0 lire ces documents et \u00e0 se dire : \u00ab Attendez, cela semble assez pr\u00e9occupant. \u00bb<\/p>\n\n\n\n

Et ils attendent de nous que nous produisions davantage de donn\u00e9es.<\/p>\n\n\n\n

Je voudrais maintenant revenir \u00e0 la question des emplois de premier \u00e9chelon. Votre PDG, Dario Amodei, a d\u00e9clar\u00e9 qu’il pensait que l’IA pourrait remplacer la moiti\u00e9 de tous les emplois de premier \u00e9chelon dans les deux prochaines ann\u00e9es.<\/strong><\/p>\n\n\n\n

Je trouve toujours que les gens passent \u00e0 c\u00f4t\u00e9 du terme \u00ab d\u00e9butants \u00bb lorsqu’ils en parlent dans les m\u00e9dias.<\/strong><\/p>\n\n\n\n

Mais tout d’abord, \u00eates-vous d’accord avec cela ? Craignez-vous que la moiti\u00e9 des emplois de bureau d\u00e9butants soient remplac\u00e9s dans les deux prochaines ann\u00e9es ?<\/strong><\/p>\n\n\n\n

Je pense que cette technologie va s’imposer dans l’\u00e9conomie du savoir au sens large et qu’elle touchera la majorit\u00e9 des emplois de premier \u00e9chelon. La question de savoir si ces emplois vont r\u00e9ellement changer est beaucoup plus subtile. Les donn\u00e9es ne permettent pas de se prononcer clairement.<\/p>\n\n\n\n

Nous voyons peut-\u00eatre des signes d’un ralentissement dans le recrutement des dipl\u00f4m\u00e9s, si l’on en croit certaines donn\u00e9es publi\u00e9es actuellement. Nous voyons peut-\u00eatre les signes d’un boom de la productivit\u00e9. Mais il est encore tr\u00e8s t\u00f4t et il est difficile d’\u00eatre cat\u00e9gorique.<\/p>\n\n\n\n

Nous savons que tous ces emplois vont changer. Tous les emplois de premier \u00e9chelon finiront par changer, car l’IA a rendu certaines choses possibles et va changer les plans de recrutement des entreprises.<\/p>\n\n\n\n

En tant que cohorte, vous pourriez donc voir moins d’offres d’emploi pour les postes de d\u00e9butants. Ce serait une attente na\u00efve de tout cela.<\/p>\n\n\n\n

Mais parlons du fait que ce n’est peut-\u00eatre m\u00eame pas une attente na\u00efve. Vous dites que se produit d\u00e9j\u00e0 chez Anthropic, que vous constatez\u2026<\/strong><\/p>\n\n\n\n

Je constate que nos pr\u00e9f\u00e9rences changent. Je pense que cela se produit ailleurs.<\/p>\n\n\n\n

En ce qui concerne notre situation actuelle, m\u00eame dans la fa\u00e7on dont j’utilise certains de ces syst\u00e8mes, il est rare que Claude, ChatGPT, Gemini ou tout autre syst\u00e8me soit meilleur que la meilleure personne dans un domaine.<\/strong><\/p>\n\n\n\n

Mm-hmm.<\/p>\n\n\n\n

En g\u00e9n\u00e9ral, ils n’ont pas d\u00e9pass\u00e9 ce niveau, et il y a toutes sortes de choses qu’ils ne peuvent pas faire. Mais sont-ils meilleurs que le dipl\u00f4m\u00e9 universitaire moyen ? Dans beaucoup de domaines, oui, ils le sont. Dans un monde o\u00f9 l’on a moins besoin de dipl\u00f4m\u00e9s universitaires moyens, une chose dont j’ai vu les gens d\u00e9battre est de savoir si ces syst\u00e8mes peuvent, \u00e0 ce stade, faire mieux que le travail moyen ou de niveau d\u00e9butant.<\/strong><\/p>\n\n\n\n

Mais cela m’inqui\u00e8te toujours beaucoup, car une fois que nous avons accept\u00e9 qu’ils peuvent faire un travail moyen ou de niveau placement : eh bien, par d\u00e9finition, la plupart du travail effectu\u00e9 et la plupart des personnes qui le font\u2026<\/strong><\/p>\n\n\n\n

Sont moyens.<\/p>\n\n\n\n

Sont moyens, n’est-ce pas ? Les meilleurs sont des exceptions. De plus, les gens s’am\u00e9liorent en occupant des emplois qui leur permettent d’apprendre.<\/strong><\/p>\n\n\n\n

J’ai pass\u00e9 beaucoup de temps \u00e0 recruter de jeunes journalistes au cours de ma carri\u00e8re, et lorsque vous recrutez des personnes \u00e0 la sortie de l’universit\u00e9, dans une certaine mesure, vous les recrutez pour leurs articles et leur travail potentiels \u00e0 ce moment pr\u00e9cis. Mais dans une certaine mesure, vous investissez en eux, pensant que cet investissement ne portera ses fruits qu’avec le temps, \u00e0 mesure qu’ils s’am\u00e9lioreront.<\/strong><\/p>\n\n\n\n

Donc, ce monde o\u00f9 vous avez un impact r\u00e9el potentiel sur les emplois de premier \u00e9chelon – et ce monde ne me semble pas lointain – soul\u00e8ve des questions vraiment profondes sur l’am\u00e9lioration des comp\u00e9tences de la population, sur la mani\u00e8re dont vous finissez par avoir des personnes pour des postes de haut niveau \u00e0 l’avenir, sur ce que les gens n’apprennent pas en cours de route.<\/strong><\/p>\n\n\n\n

Nous constatons qu’il existe un certain type de jeunes qui vivent et respirent l’IA depuis plusieurs ann\u00e9es maintenant. Nous les embauchons, ils sont excellents et ils ont une fa\u00e7on totalement nouvelle de penser<\/strong> \u00e0 la mani\u00e8re dont Claude peut les aider dans leur travail.<\/p>\n\n\n\n

C’est comme les enfants qui ont grandi avec Internet : ils le ma\u00eetrisent naturellement<\/strong>, contrairement \u00e0 beaucoup de personnes dans les organisations o\u00f9 ils entrent. Il sera donc tr\u00e8s important de trouver comment enseigner cet \u00e9tat d’esprit exp\u00e9rimental et cette curiosit\u00e9 de base \u00e0 l’\u00e9gard de ces syst\u00e8mes, et de les encourager.<\/p>\n\n\n\n

Les personnes qui passent beaucoup de temps \u00e0 jouer avec ces outils d\u00e9velopperont une intuition tr\u00e8s pr\u00e9cieuse, et elles pourront int\u00e9grer des organisations et y \u00eatre extr\u00eamement productives.<\/p>\n\n\n\n

Dans le m\u00eame temps, nous allons devoir d\u00e9terminer les comp\u00e9tences artisanales que nous voulons d\u00e9velopper, une philosophie de type guilde<\/strong> visant \u00e0 maintenir l’excellence humaine, et la mani\u00e8re dont les organisations choisissent d’enseigner ces comp\u00e9tences.<\/p>\n\n\n\n

D’accord. Et qu’en est-il de toutes les personnes qui se trouvent entre les deux ?<\/strong><\/p>\n\n\n\n

Les choses \u00e9voluent lentement dans l’\u00e9conomie r\u00e9elle en dehors de la Silicon Valley. Je pense que nous consid\u00e9rons souvent l’ing\u00e9nierie logicielle comme un indicateur du fonctionnement du reste de l’\u00e9conomie. Mais ce n’est souvent pas le cas. Il s’agit souvent d’une analogie erron\u00e9e.<\/p>\n\n\n\n

Les organisations d\u00e9placeront les personnes vers des domaines o\u00f9 les syst\u00e8mes d’IA ne fonctionnent pas encore, et je pense que vous ne verrez pas de changements imm\u00e9diats et importants dans la composition de l’emploi. Mais vous verrez des changements significatifs dans les types de travail que les gens sont amen\u00e9s \u00e0 faire.<\/p>\n\n\n\n

Les organisations qui sont les plus efficaces pour d\u00e9placer leurs employ\u00e9s seront extr\u00eamement performantes, et celles qui ne le font pas pourraient finir par devoir prendre des d\u00e9cisions tr\u00e8s difficiles, impliquant le licenciement de travailleurs.<\/p>\n\n\n\n

La diff\u00e9rence avec l’IA, c’est que tout cela se passe beaucoup plus vite qu’avec les technologies pr\u00e9c\u00e9dentes. Je pense que beaucoup de gens, y compris chez Anthropic, s’inqui\u00e8tent de la question suivante : la rapidit\u00e9 de cette \u00e9volution va-t-elle tout changer ? Va-t-elle introduire des points de rupture que nous n’avons jamais connus auparavant ?<\/p>\n\n\n\n

Si vous deviez parier sur l’avenir dans trois ans : le taux de ch\u00f4mage des dipl\u00f4m\u00e9s universitaires sera-t-il le m\u00eame qu’aujourd’hui ? Sera-t-il plus \u00e9lev\u00e9 ? Sera-t-il plus bas ?<\/strong><\/p>\n\n\n\n

Je pense qu’il sera plus \u00e9lev\u00e9, mais pas de beaucoup. Ce que je veux dire par l\u00e0, c’est qu’il y aura aujourd’hui certaines disciplines que l’IA aura compl\u00e8tement boulevers\u00e9es, et qui auront compl\u00e8tement chang\u00e9 la structure du march\u00e9 de l’emploi, peut-\u00eatre d’une mani\u00e8re d\u00e9favorable aux personnes qui ont cette sp\u00e9cialisation.<\/p>\n\n\n\n

Mais surtout, je pense que dans les ann\u00e9es \u00e0 venir, l’IA aura entra\u00een\u00e9 une croissance assez spectaculaire de l’ensemble de l’\u00e9conomie<\/strong>. Vous verrez donc appara\u00eetre de nombreux nouveaux types d’emplois dont nous ne pouvons encore pr\u00e9dire la nature, et je m’attends \u00e0 ce que les dipl\u00f4m\u00e9s s’y pr\u00e9cipitent.<\/p>\n\n\n\n

Je sais que vous ne pouvez pas pr\u00e9dire ces nouveaux emplois, mais si vous deviez faire une supposition, \u00e0 quoi pourraient-ils ressembler ?<\/strong><\/p>\n\n\n\n

Il y a tout d’abord le ph\u00e9nom\u00e8ne des micro-entrepreneurs.<\/strong> Je veux dire par l\u00e0 qu’il existe aujourd’hui de nombreuses fa\u00e7ons de cr\u00e9er une entreprise en ligne, ce qui est rendu beaucoup plus facile gr\u00e2ce aux syst\u00e8mes d’intelligence artificielle<\/p>\n\n\n\n

Vous n’avez pas besoin d’embaucher une arm\u00e9e de personnes pour vous aider \u00e0 accomplir les t\u00e2ches fastidieuses n\u00e9cessaires au lancement d’une entreprise. Si vous avez une id\u00e9e claire et une vision pr\u00e9cise de ce que vous voulez faire, c’est le moment id\u00e9al pour vous lancer. Vous pouvez d\u00e9marrer votre activit\u00e9 pour quelques centimes. Je pense que nous verrons appara\u00eetre des tonnes et des tonnes de choses de cette nature.<\/p>\n\n\n\n

Je m’attends \u00e9galement \u00e0 voir \u00e9merger ce que l’on pourrait appeler l’\u00e9conomie de l’IA \u00e0 l’IA, o\u00f9 les agents IA et les entreprises IA feront des affaires entre eux<\/strong>. Certaines personnes auront trouv\u00e9 le moyen d’en tirer profit sous la forme de nouvelles organisations \u00e9tranges. Par exemple : \u00e0 quoi ressemblerait une entreprise sp\u00e9cialis\u00e9e dans les contrats juridiques entre IA ? Je parie qu’il existe un moyen de trouver des fa\u00e7ons cr\u00e9atives de lancer cette entreprise d\u00e8s aujourd’hui. Il y aura beaucoup de projets de ce type. I. \u00e0 l’IA ? Je parie qu’il existe un moyen de trouver des fa\u00e7ons cr\u00e9atives de lancer cette entreprise d\u00e8s aujourd’hui. Il y aura beaucoup de choses de ce genre.<\/p>\n\n\n\n

La version de cette hypoth\u00e8se qui m’inqui\u00e8te le plus et qui me semble la plus probable est celle o\u00f9 vous me diriez qu’Anthropic va sortir Claude Plus dans un an, et que Claude Plus est en quelque sorte un collaborateur \u00e0 part enti\u00e8re capable d’imiter, de bout en bout, les comp\u00e9tences de nombreuses professions diff\u00e9rentes, jusqu’au niveau des cadres sup\u00e9rieurs. Et cela va se produire d’un seul coup, ce qui va cr\u00e9er une pression \u00e9norme sur les entreprises pour qu’elles r\u00e9duisent leurs effectifs afin de rester comp\u00e9titives les unes par rapport aux autres. <\/strong><\/p>\n\n\n\n

Le fait que ce \u00ab big bang \u00bb soit si perturbateur, que tout le monde reste chez soi comme pendant la pand\u00e9mie de Covid, m’inqui\u00e8te moins. Car lorsque les choses sont urgentes, nous r\u00e9agissons.<\/strong><\/p>\n\n\n\n

Nous mettons r\u00e9ellement en \u0153uvre des politiques.<\/p>\n\n\n\n

Mais si vous me disiez que ce qui va se passer, c’est que le taux de ch\u00f4mage des dipl\u00f4m\u00e9s en marketing va augmenter de 175 %, voire 300 %, le taux de ch\u00f4mage global ne serait toujours pas si \u00e9lev\u00e9. Le taux d’emploi global pendant la Grande R\u00e9cession a atteint un pic de 9 % environ. <\/strong><\/p>\n\n\n\n

Il peut donc y avoir beaucoup de perturbations sans que 50 % de la population se retrouve sans emploi. Si vous avez 10 %, 15 %, c’est tr\u00e8s, tr\u00e8s, tr\u00e8s \u00e9lev\u00e9. Mais ce n’est pas si \u00e9lev\u00e9, et si cela ne touche que quelques secteurs \u00e0 la fois, et que ce sont les dipl\u00f4m\u00e9s, et non l’ensemble des acteurs du secteur, qui se retrouvent sans emploi\u2026<\/strong><\/p>\n\n\n\n

Oui.<\/p>\n\n\n\n

Les superstars, les tr\u00e8s bons dipl\u00f4m\u00e9s, continuent de trouver des emplois.<\/strong><\/p>\n\n\n\n

L’une de mes inqui\u00e9tudes est que nous ne r\u00e9agissons pas bien \u00e0 ce type de d\u00e9placement d’emplois, qui est le type de d\u00e9placement d’emplois que nous avons connu avec la Chine, qui est le type de d\u00e9placement d’emplois qui semble plus probable parce qu’il est in\u00e9gal et qu’il se produit \u00e0 un rythme qui nous permet encore de bl\u00e2mer les gens pour leur propre sort : vous auriez d\u00fb travailler plus dur, vous auriez d\u00fb aller dans une meilleure \u00e9cole.<\/strong><\/p>\n\n\n\n

Je suis curieux de savoir ce que vous pensez de cette histoire.<\/strong><\/p>\n\n\n\n

Je pense que le r\u00e9sultat par d\u00e9faut est similaire \u00e0 ce que vous d\u00e9crivez. Mais y parvenir est en fait un choix, et nous pouvons faire des choix diff\u00e9rents. L’objectif principal de ce que nous publions sous la forme de l’indice \u00e9conomique anthropique est de disposer de donn\u00e9es li\u00e9es aux professions, li\u00e9es aux emplois r\u00e9els dans l’\u00e9conomie.<\/p>\n\n\n\n

Nous le faisons de mani\u00e8re tr\u00e8s intentionnelle, car cela permet de dresser une carte \u00e9volutive de la mani\u00e8re dont l’IA s’introduit dans diff\u00e9rents emplois et permettra aux \u00e9conomistes ext\u00e9rieurs \u00e0 Anthropic de faire le lien.<\/p>\n\n\n\n

Je pense que nous pouvons choisir diff\u00e9rentes options politiques si nous sommes en mesure de formuler des affirmations beaucoup mieux \u00e9tay\u00e9es sur les causes d’une perturbation ou d’un changement dans l’emploi.<\/p>\n\n\n\n

Le d\u00e9fi qui se pose \u00e0 nous est le suivant : pouvons-nous caract\u00e9riser suffisamment bien cette \u00e9conomie \u00e9mergente de l’IA pour la rendre extr\u00eamement claire ? Je pense alors que nous pourrons r\u00e9ellement avoir une discussion politique \u00e0 ce sujet.<\/p>\n\n\n\n

Eh bien, parlons de la discussion politique. L’une des raisons pour lesquelles je voulais vous avoir, en particulier, est que vous avez travaill\u00e9 dans le domaine des politiques publiques chez OpenAI. Vous travaillez dans ce domaine chez Anthropic. Vous suivez ces d\u00e9bats politiques depuis longtemps. Vous suivez les capacit\u00e9s des mod\u00e8les dans votre newsletter depuis longtemps. <\/strong><\/p>\n\n\n\n

J’ai l’impression que cela fait de nombreuses ann\u00e9es que nous d\u00e9battons de l’IA dans le monde du travail. De nombreuses ann\u00e9es, bien avant ChatGPT, avec des conf\u00e9rences \u00e0 Aspen et partout ailleurs sur ce que nous allions faire de l’IA dans le monde du travail.<\/strong><\/p>\n\n\n\n

Et pourtant, je ne vois toujours pratiquement aucune politique. Cela me semble r\u00e9alisable si la situation que je viens de d\u00e9crire commence \u00e0 se produire, \u00e0 savoir que tout \u00e0 coup, les emplois de premier \u00e9chelon deviennent beaucoup plus difficiles \u00e0 trouver dans un large \u00e9ventail de secteurs, de sorte que l’\u00e9conomie ne peut pas r\u00e9orienter tous ces dipl\u00f4m\u00e9s en marketing vers la construction de centres de donn\u00e9es, les soins infirmiers ou autre chose.<\/strong><\/p>\n\n\n\n

Vous avez approfondi cette question plus que moi. Lorsque vous dites que nous pouvons avoir une discussion politique \u00e0 ce sujet, nous avons d\u00e9j\u00e0 eu une discussion politique.<\/strong><\/p>\n\n\n\n

Avons-nous une politique ?<\/strong><\/p>\n\n\n\n

Nous avons une inqui\u00e9tude g\u00e9n\u00e9rale concernant l’effet de l’IA sur l’\u00e9conomie et l’emploi. Nous n’avons pas d’id\u00e9es politiques claires.<\/p>\n\n\n\n

Cela s’explique en partie par le fait que les \u00e9lus ne sont pas uniquement ou principalement motiv\u00e9s par les discussions politiques de haut niveau. Ils sont motiv\u00e9s par ce qui arrive \u00e0 leurs \u00e9lecteurs. Il y a quelques mois \u00e0 peine, nous avons pu produire des perspectives au niveau des \u00c9tats pour notre indice \u00e9conomique, et maintenant vous pouvez commencer \u00e0 avoir des discussions politiques.<\/p>\n\n\n\n

Nous avons eu cela avec les \u00e9lus, auxquels nous pouvons d\u00e9sormais dire : \u00ab Vous venez de l’Indiana. Voici les principales utilisations de l’IA dans votre \u00c9tat, et nous pouvons associer l’IA aux principales sources d’emploi. \u00bb<\/p>\n\n\n\n

Nous commen\u00e7ons \u00e0 constater que cela les motive, car cela concerne leurs \u00e9lecteurs, qui vont associer cela aux politiciens lorsqu’ils leur demanderont : \u00ab Qu’avez-vous fait ? \u00bb<\/p>\n\n\n\n

Ce que vous allez faire \u00e0 ce sujet devra \u00eatre une r\u00e9ponse extr\u00eamement complexe<\/strong>, allant de la prolongation du ch\u00f4mage<\/strong>, en particulier pour les professions qui, nous le savons, seront les plus touch\u00e9es, \u00e0 la r\u00e9flexion sur des questions telles que les programmes d’apprentissage<\/strong>.<\/p>\n\n\n\n

Ensuite, \u00e0 mesure que les sc\u00e9narios deviennent de plus en plus importants, vous pouvez \u00e9tendre \u00e0 des programmes sociaux beaucoup plus importants ou \u00e0 des mesures telles que la subvention d’emplois dans le secteur de l’\u00e9conomie vers lequel vous souhaitez orienter les gens<\/strong>, ce que vous ne pouvez faire que si vous b\u00e9n\u00e9ficiez de l’abondance qui d\u00e9coule d’une croissance \u00e9conomique significative<\/strong>.<\/p>\n\n\n\n

Mais la croissance \u00e9conomique peut contribuer \u00e0 r\u00e9soudre certains de ces autres d\u00e9fis politiques en finan\u00e7ant certaines des mesures que vous pouvez prendre.<\/p>\n\n\n\n

Je trouve toujours cette r\u00e9ponse d\u00e9primante. Je vais \u00eatre honn\u00eate, le ch\u00f4mage est une situation terrible. C’est un programme dont nous avons besoin, mais les ch\u00f4meurs ne s’en r\u00e9jouissent pas, et ce n’est une bonne solution \u00e0 long terme pour personne.<\/strong><\/p>\n\n\n\n

Les programmes de reconversion des apprentis n’ont pas donn\u00e9 de tr\u00e8s bons r\u00e9sultats. Nous n’avons pas su reconvertir les personnes dont les emplois dans le secteur manufacturier ont \u00e9t\u00e9 externalis\u00e9s.<\/strong><\/p>\n\n\n\n

Je ne dis pas qu’il est conceptuellement impossible de s’am\u00e9liorer dans ce domaine, mais nous devrions nous am\u00e9liorer rapidement, et nous n’avons pas mis en place les r\u00e9p\u00e9titions, les exp\u00e9rimentations, les institutions ou les capacit\u00e9s n\u00e9cessaires pour y parvenir.<\/strong><\/p>\n\n\n\n

La question plus large des grands changements en mati\u00e8re d’assurance sociale me semble difficile.<\/strong><\/p>\n\n\n\n

Je voudrais insister un peu sur ce point.<\/p>\n\n\n\n

Je vous en prie.<\/strong><\/p>\n\n\n\n

Nous savons qu’il existe une mesure qui aide les gens \u00e0 faire face \u00e0 une \u00e9conomie en mutation plus que toute autre. C’est simplement le temps. Donner \u00e0 la personne le temps<\/strong> de trouver un emploi dans son secteur ou un emploi compl\u00e9mentaire.<\/p>\n\n\n\n

Si les gens n’ont pas le temps, ils acceptent des emplois moins bien r\u00e9mun\u00e9r\u00e9s et sortent de leur trajectoire \u00e9conomique. Les interventions politiques qui permettent simplement de donner aux gens le temps de chercher sont, \u00e0 mon avis, des interventions tr\u00e8s utiles, et elles offrent de nombreuses possibilit\u00e9s d’ajustement en termes d’\u00e9laboration des politiques. Je pense que cela est bien \u00e9tay\u00e9 par de nombreux ouvrages \u00e9conomiques . C’est donc ce que nous avons.<\/p>\n\n\n\n

Maintenant, si nous nous retrouvons dans un sc\u00e9nario plus extr\u00eame, comme certains de ceux dont vous parlez, je pense que cela nous am\u00e8nera simplement \u00e0 un d\u00e9bat national plus large sur ce qu’il faut faire de cette technologie, ce qui commence \u00e0 se produire si l’on regarde les \u00c9tats et la vague de l\u00e9gislations au niveau des \u00c9tats.<\/p>\n\n\n\n

Tout cela ne constitue pas exactement la bonne r\u00e9ponse politique, mais elles t\u00e9moignent d’une volont\u00e9 d’engager un d\u00e9bat plus large et coh\u00e9rent sur ce sujet.<\/p>\n\n\n\n

Je pense que le temps est un tr\u00e8s bon moyen de d\u00e9crire la question, car je suis d’accord avec vous. Quand je dis que l’assurance ch\u00f4mage n’est pas un programme id\u00e9al, je ne veux pas dire que les gens n’ont pas besoin d’y avoir recours. Je veux dire qu’ils veulent en sortir.<\/strong><\/p>\n\n\n\n

Tout \u00e0 fait.<\/p>\n\n\n\n

Parce que les gens veulent gagner leur vie. Ils veulent avoir leur dignit\u00e9. Ils veulent \u00eatre entour\u00e9s d’autres \u00eatres humains. En g\u00e9n\u00e9ral, lorsque vous aidez les gens \u00e0 gagner du temps, vous les aidez \u00e0 attendre la fin d’une perturbation limit\u00e9e dans le temps.<\/strong><\/p>\n\n\n\n

Pas toujours. Le \u00ab choc chinois \u00bb n’\u00e9tait pas exactement comme \u00e7a. Mais vous vous attendez \u00e0 ce qu’il passe, puis le march\u00e9 redevienne normal. Dans ce cas, vous avez une technologie qui, si ce que vous voulez se produit, s’acc\u00e9l\u00e8re.<\/strong><\/p>\n\n\n\n

Vous avez ici trois vitesses diff\u00e9rentes. Vous avez la vitesse \u00e0 laquelle les individus peuvent s’adapter : \u00e0 quelle vitesse puis-je acqu\u00e9rir de nouvelles comp\u00e9tences, comprendre un nouveau monde, apprendre l’IA ? Quoi qu’il en soit. Vous avez la vitesse de la politique.<\/strong><\/p>\n\n\n\n

La vitesse \u00e0 laquelle les syst\u00e8mes d’IA s’am\u00e9liorent et sont capables de faire plus de choses est d\u00e9sormais assez rapide. Il y a quelques ann\u00e9es, ils n’\u00e9taient pas capables de faire le travail d’un dipl\u00f4m\u00e9 universitaire moyen issu d’une bonne \u00e9cole. Vous en faites l’exp\u00e9rience plus que moi, mais je trouve m\u00eame difficile de couvrir ce sujet, car en l’espace de trois mois, quelque chose d’autre sera apparu qui aura consid\u00e9rablement chang\u00e9 ce qui est possible.<\/strong><\/p>\n\n\n\n

J’ai r\u00e9cemment eu un b\u00e9b\u00e9 et je suis revenu de mon cong\u00e9 paternit\u00e9 pour d\u00e9couvrir les nouveaux syst\u00e8mes que nous avions mis en place, et j’ai \u00e9t\u00e9 tr\u00e8s surpris.<\/p>\n\n\n\n

Les individus \u00e9voluent plus lentement, et les politiques et les institutions gouvernementales \u00e9voluent beaucoup plus lentement que les individus. En g\u00e9n\u00e9ral, l’intervention est favorable au travailleur, comme vous le dites. Et ici, cela aidera le travailleur.<\/strong><\/p>\n\n\n\n

Mais je pense que la question effrayante est de savoir si le temps ne fait que cr\u00e9er un espace pour que la perturbation s’aggrave. Peut-\u00eatre vouliez-vous vous lancer dans la construction de centres de donn\u00e9es, mais aujourd’hui, nous n’avons plus autant besoin de construire de centres de donn\u00e9es. Vous pouvez voir les choses ainsi.<\/strong><\/p>\n\n\n\n

Dans la situation que vous d\u00e9crivez, l’\u00e9conomie sera extr\u00eamement dynamique. Ces syst\u00e8mes d’IA g\u00e9n\u00e9reront une activit\u00e9 \u00e9conomique consid\u00e9rable.<\/p>\n\n\n\n

Dans la plupart des sc\u00e9narios o\u00f9 cela se produit, je ne pense pas que le produit int\u00e9rieur brut restera stable ou diminuera. Il augmentera consid\u00e9rablement. Je pense que nous n’avons tout simplement pas connu de croissance importante du PIB en Occident depuis longtemps, et nous avons en quelque sorte oubli\u00e9 ce que cela vous apporte en termes de politique .<\/p>\n\n\n\n

Je pense qu’il existe d’\u00e9normes projets <\/strong>que nous pourrions r\u00e9aliser et qui permettraient de cr\u00e9er de nouveaux types d’emplois, mais cela n\u00e9cessite une croissance \u00e9conomique suffisamment importante<\/strong> pour cr\u00e9er l’espace n\u00e9cessaire \u00e0 la r\u00e9alisation de ces projets.<\/p>\n\n\n\n

Vous savez tr\u00e8s bien, gr\u00e2ce \u00e0 votre travail sur le mouvement de l’abondance<\/strong>, qu’il faut une volont\u00e9 sociale de croire<\/strong> que nous pouvons construire des choses et une envie de <\/strong>construire des choses.<\/p>\n\n\n\n

Mais je pense que ces deux \u00e9l\u00e9ments pourraient se concr\u00e9tiser. Je pense que nous pourrions nous retrouver dans un sc\u00e9nario assez passionnant o\u00f9 nous pourrions choisir comment r\u00e9partir les efforts importants dans la soci\u00e9t\u00e9 gr\u00e2ce \u00e0 cette forte croissance \u00e9conomique qui s’est produite.<\/p>\n\n\n\n

Cela va forcer le d\u00e9bat sur le fait que ce n’est pas temporaire, ce qui, je pense, est ce que vous sugg\u00e9rez. C’est-\u00e0-dire dans un certain sens, la chose la plus difficile \u00e0 communiquer aux d\u00e9cideurs politiques : il n’y a pas de point d’arr\u00eat naturel pour cette technologie. Elle va continuer \u00e0 s’am\u00e9liorer, et les changements qu’elle apporte vont continuer \u00e0 se r\u00e9percuter sur le reste de la soci\u00e9t\u00e9.<\/p>\n\n\n\n

Cela devra entra\u00eener un changement dans la volont\u00e9 politique et une disposition \u00e0 envisager des choses que nous n’avons pas envisag\u00e9es depuis un certain temps.<\/p>\n\n\n\n

Je voudrais maintenant inverser la question que je pose. Vous avez \u00e9voqu\u00e9 l’abondance. Je ne pense certainement pas que ce qui manque \u00e0 la soci\u00e9t\u00e9, ce sont des id\u00e9es pour am\u00e9liorer les choses.<\/strong><\/p>\n\n\n\n

Notre politique n’est pas meilleure qu’elle ne l’est parce que notre armoire politique est vide. Ce n’est pas vrai. Nous avons beaucoup de bonnes politiques. Je pourrais en citer plusieurs. Elles sont tr\u00e8s difficiles \u00e0 faire passer dans nos syst\u00e8mes politiques tels qu’ils sont actuellement constitu\u00e9s.<\/strong><\/p>\n\n\n\n

La version la moins inspirante de l’avenir de l’IA est un monde o\u00f9 vous avez cr\u00e9\u00e9 un moyen de licencier les jeunes cols blancs et de les remplacer par une intelligence artificielle de niveau moyen. La version la plus passionnante est, pour reprendre la m\u00e9taphore de Dario, celle des g\u00e9nies dans un centre de donn\u00e9es.<\/strong><\/p>\n\n\n\n

Je trouve cela passionnant. Je me pose la question lorsque je l’entends ou lorsque vous parlez de cela : et si nous avions une croissance du PIB de 10 ou 20 points de pourcentage par an ?<\/strong><\/p>\n\n\n\n

Je me demande combien de nos probl\u00e8mes sont r\u00e9ellement li\u00e9s au niveau des id\u00e9es. Nous pourrions aller voir les laur\u00e9ats du prix Nobel d\u00e8s maintenant et leur dire : Que devrions-nous faire dans ce pays ? Beaucoup d’entre eux pourraient nous donner de bonnes id\u00e9es.<\/strong><\/p>\n\n\n\n

Je m’inqui\u00e8te parfois, ou je me demande, compte tenu de mon exp\u00e9rience sur d’autres questions, si nous n’avons pas exag\u00e9r\u00e9 \u00e0 quel point ce qui nous s\u00e9pare de l’\u00e9conomie abondante et en expansion que nous souhaitons, c’est que nous n’avons pas assez d’intelligence. Ou bien les id\u00e9es que l’intelligence pourrait cr\u00e9er par rapport \u00e0 notre capacit\u00e9 r\u00e9elle \u00e0 mettre en \u0153uvre les choses sont tr\u00e8s affaiblies.<\/strong><\/p>\n\n\n\n

Et ce que l’IA va cr\u00e9er, ce sont des goulots d’\u00e9tranglement plus importants autour de cela, car le syst\u00e8me sera soumis \u00e0 une pression accrue pour mettre en \u0153uvre davantage de choses, y compris des id\u00e9es stupides, de la d\u00e9sinformation et des approximations. Il y aura aussi des choses de l’autre c\u00f4t\u00e9 du tableau.<\/strong><\/p>\n\n\n\n

Que pensez-vous de ces limiteurs de d\u00e9bit ?<\/strong><\/p>\n\n\n\n

Les entreprises d’IA, ou les entreprises en g\u00e9n\u00e9ral, en particulier les entreprises technologiques, nous donnent ici une le\u00e7on amusante. Souvent, les nouvelles id\u00e9es naissent dans les entreprises gr\u00e2ce \u00e0 la cr\u00e9ation de ce qu’elles appellent des \u00ab start-ups au sein de la start-up \u00bb. Il s’agit essentiellement de prendre tous les processus qui se sont accumul\u00e9s au fil du temps et qui ont conduit \u00e0 une bureaucratie en arri\u00e8re-plan ou \u00e0 un travail fastidieux, et de dire \u00e0 une tr\u00e8s petite \u00e9quipe au sein de l’entreprise : \u00ab Vous n’avez rien de tout cela , allez-y et faites quelque chose. \u00bb<\/p>\n\n\n\n

C’est ainsi que des projets tels que Claude Code et d’autres ont vu le jour. Des id\u00e9es commencent \u00e0 \u00e9merger : \u00e0 quoi ressemblerait la cr\u00e9ation d’une structure d’innovation sans autorisation dans une \u00e9conomie plus large ?<\/p>\n\n\n\n

C’est vraiment tr\u00e8s difficile, car cela implique une propri\u00e9t\u00e9 suppl\u00e9mentaire : les \u00e9conomies sont li\u00e9es aux d\u00e9mocraties<\/strong>. Les d\u00e9mocraties prennent en compte les pr\u00e9f\u00e9rences d’un tr\u00e8s grand nombre de personnes. Et toute politique est locale.<\/p>\n\n\n\n

Souvent, comme vous l’avez constat\u00e9 avec la construction d’infrastructures, si vous voulez cr\u00e9er un syst\u00e8me d’innovation sans autorisation, vous vous heurtez \u00e0 des questions telles que les droits de propri\u00e9t\u00e9 et les pr\u00e9f\u00e9rences des gens<\/strong>. Vous vous retrouvez alors dans une situation inextricable<\/strong>.<\/p>\n\n\n\n

Mais j’ai le sentiment que c’est la principale chose \u00e0 laquelle nous allons devoir faire face. L’avantage que l’IA pourrait nous apporter, c’est qu’elle est en quelque sorte une machine native qui \u00e9limine la bureaucratie<\/strong> si elle est bien utilis\u00e9e<\/strong>, mais qui cr\u00e9e de la bureaucratie si elle est mal utilis\u00e9e.<\/strong><\/p>\n\n\n\n

Avez-vous vu que quelqu’un a cr\u00e9\u00e9 un syst\u00e8me auquel vous fournissez essentiellement les documents relatifs \u00e0 un nouveau projet immobilier pr\u00e8s de chez vous\u2026<\/strong><\/p>\n\n\n\n

Oh, et il r\u00e9dige des rapports d’\u00e9valuation environnementale ou\u2026<\/p>\n\n\n\n

Il r\u00e9dige des contestations incroyablement sophistiqu\u00e9es \u00e0 tous les niveaux du code que vous pourriez contester.<\/strong><\/p>\n\n\n\n

La plupart des gens n’ont pas les moyens, lorsqu’ils veulent emp\u00eacher la construction d’un immeuble dans leur quartier, d’engager un cabinet d’avocats tr\u00e8s sophistiqu\u00e9 pour trouver un moyen d’emp\u00eacher cette construction. Mais cela a cr\u00e9\u00e9 cette possibilit\u00e9 \u00e0 grande \u00e9chelle.<\/strong><\/p>\n\n\n\n

Donc, comme vous le dites, cela pourrait nuire \u00e0 la bureaucratie, mais cela pourrait aussi la renforcer.<\/strong><\/p>\n\n\n\n

Oui. Tout ce qui touche \u00e0 l’IA a son revers. Nous avons des clients qui ont utilis\u00e9 nos syst\u00e8mes d’IA pour r\u00e9duire consid\u00e9rablement le temps n\u00e9cessaire \u00e0 la production de tous les documents dont ils ont besoin lorsqu’ils soumettent de nouveaux candidats-m\u00e9dicaments. Cela a consid\u00e9rablement r\u00e9duit ce temps.<\/p>\n\n\n\n

C’est la version miroir de ce que vous venez de d\u00e9crire.<\/p>\n\n\n\n

Je n’ai pas de r\u00e9ponse facile \u00e0 cette question. C’est le genre de chose qui devient r\u00e9alisable lorsqu’il s’agit d’une crise plus \u00e9vidente et qui peut \u00eatre mise en \u0153uvre lorsqu’il s’agit d’un sujet dont on peut discuter au niveau soci\u00e9tal.<\/p>\n\n\n\n

Je pense que ce dont nous parlons dans cette conversation, c’est que les changements li\u00e9s \u00e0 l’IA se produiront presque partout. Les risques sont diffus et impr\u00e9visibles, de sorte qu’il est tr\u00e8s difficile de les identifier et de prendre des mesures pour y rem\u00e9dier.<\/p>\n\n\n\n

Mais l’opportunit\u00e9, c’est que si nous pouvons r\u00e9ellement voir ce qui provoque ce changement et aider le monde \u00e0 le voir, je pense que cela mettra en \u00e9vidence les probl\u00e8mes et nous permettra de nous en sortir et nous aider \u00e0 comprendre comment travailler avec ces syst\u00e8mes et en tirer profit.<\/p>\n\n\n\n

\u00c0 ma connaissance, il n’existe aucun programme public en mati\u00e8re d’IA.<\/strong><\/p>\n\n\n\n

Qu’attend la soci\u00e9t\u00e9 de l’IA ? Que souhaite-t-elle que cette technologie soit capable de faire ?<\/strong><\/p>\n\n\n\n

Quels sont les \u00e9l\u00e9ments pour lesquels il faudrait cr\u00e9er un mod\u00e8le commercial, un mod\u00e8le de r\u00e9compense ou une sorte de subvention gouvernementale ou de politique afin de fa\u00e7onner un march\u00e9 ou un syst\u00e8me d’incitations ? Afin que nous disposions de syst\u00e8mes qui ne se contentent pas de r\u00e9soudre les probl\u00e8mes que le march\u00e9 priv\u00e9 sait financer, mais aussi les probl\u00e8mes que seuls le public et le gouvernement peuvent r\u00e9soudre ?<\/strong><\/p>\n\n\n\n

Compte tenu de l’importance des discussions sur l’IA ces deux derni\u00e8res ann\u00e9es et de la puissance acquise par certains de ces syst\u00e8mes, j’aurais pari\u00e9 que j’aurais vu davantage de propositions \u00e0 ce sujet \u00e0 l’heure actuelle.<\/strong><\/p>\n\n\n\n

J’en ai parl\u00e9 \u00e0 des gens et je me suis pos\u00e9 la question, mais je suppose que je suis curieux de savoir ce que vous en pensez. \u00c0 quoi ressemblerait un programme concret, parall\u00e8le \u00e0 toutes les incitations priv\u00e9es au d\u00e9veloppement de l’IA, qui ne porterait pas sur ce que nous craignons que l’IA fasse au public (nous avons \u00e9galement besoin d’un programme \u00e0 ce sujet), mais sur ce que nous voulons qu’elle fasse ? Afin que des entreprises comme la v\u00f4tre aient des raisons d’investir dans cette direction ?<\/strong><\/p>\n\n\n\n

J’adore cette question. Je pense qu’il y a ici un v\u00e9ritable probl\u00e8me de l’\u0153uf et de la poule. Si vous travaillez avec cette technologie, vous d\u00e9veloppez une intuition tr\u00e8s forte de ce qu’elle peut faire, et le march\u00e9 priv\u00e9 est tr\u00e8s dou\u00e9 pour forcer le d\u00e9veloppement de cette intuition.<\/p>\n\n\n\n

Nous n’avons pas encore eu de d\u00e9ploiements publics massifs et \u00e0 grande \u00e9chelle de cette technologie. Beaucoup de personnes dans le secteur public n’ont donc pas encore ces intuitions.<\/p>\n\n\n\n

Un exemple positif est celui du d\u00e9partement de l’\u00c9nergie, qui m\u00e8ne une initiative appel\u00e9e \u00ab Genesis Mission \u00bb, dans le cadre de laquelle ses scientifiques travaillent avec tous les laboratoires, y compris Anthropic, pour trouver comment acc\u00e9l\u00e9rer intentionnellement certains aspects de la science.<\/p>\n\n\n\n

Pour y parvenir, nous avons organis\u00e9, avec d’autres laboratoires, plusieurs journ\u00e9es de hackathon et des r\u00e9unions avec des scientifiques du minist\u00e8re de l’\u00c9nergie, jusqu’\u00e0 ce qu’ils aient non seulement des intuitions, mais aussi qu’ils soient enthousiastes et aient des id\u00e9es sur la mani\u00e8re dont cette technologie pourrait \u00eatre exploit\u00e9e.<\/p>\n\n\n\n

Pour ce qui est des domaines de la vie publique qui touchent la plupart des gens, comme les soins de sant\u00e9 ou l’\u00e9ducation<\/strong>, cela passera par une combinaison d’efforts locaux de la part des entreprises qui s’impliquent dans ces communaut\u00e9s et rencontrent leurs membres. \u00c0 un moment donn\u00e9, il faudra \u00e9galement traduire cela en politiques. Je pense que c’est peut-\u00eatre \u00e0 moi, \u00e0 vous et \u00e0 d’autres de d\u00e9montrer que c’est quelque chose qui peut \u00eatre fait.<\/p>\n\n\n\n

Je dis souvent ceci aux \u00e9lus : donnez-nous un objectif. L’industrie de l’IA est excellente pour essayer d’atteindre les sommets des benchmarks. D\u00e9finissez des benchmarks pour le bien public que vous souhaitez.<\/strong><\/p>\n\n\n\n

Imaginons que vous ayez fait quelque chose comme cela. J’ai toujours \u00e9t\u00e9 un grand fan des prix pour le d\u00e9veloppement public. Imaginons supposons qu’une loi ait \u00e9t\u00e9 vot\u00e9e et que le minist\u00e8re de la Sant\u00e9 et des Services sociaux, le N.I.H. ou quelqu’un d’autre se soit manifest\u00e9 pour dire : \u00ab Voici 15 probl\u00e8mes que nous aimerions voir r\u00e9solus et pour lesquels nous pensons que l’IA pourrait \u00eatre efficace. \u00bb<\/strong><\/p>\n\n\n\n

S’il y avait vraiment de l’argent, s’il y avait 10 ou 15 milliards de dollars derri\u00e8re un certain nombre de ces probl\u00e8mes parce qu’ils en valaient autant pour la soci\u00e9t\u00e9, cela changerait-il concr\u00e8tement les priorit\u00e9s de d\u00e9veloppement dans des endroits comme Anthropic ? Si l’argent \u00e9tait l\u00e0, cela modifierait-il le type de recherche et d\u00e9veloppement que vous menez tous ?<\/strong><\/p>\n\n\n\n

Je ne pense pas.<\/p>\n\n\n\n

Pourquoi ?<\/strong><\/p>\n\n\n\n

Parce que ce n’est pas vraiment l’argent qui constitue un obstacle. C’est la voie de mise en \u0153uvre. Il s’agit en fait d’avoir une id\u00e9e de la mani\u00e8re dont on peut faire en sorte que cela aboutisse \u00e0 un r\u00e9sultat positif. Et de nombreux aspects du secteur public n’ont pas \u00e9t\u00e9 con\u00e7us pour \u00eatre particuli\u00e8rement favorables \u00e0 la technologie en g\u00e9n\u00e9ral, pour l’encourager.<\/p>\n\n\n\n

Je pense qu’il suffit principalement d’une r\u00e9compense sous la forme d’un impact garanti et d’un chemin garanti vers la mise en \u0153uvre<\/strong>. La principale chose qui manque dans les organisations d’IA, c’est simplement le temps des personnes qui y travaillent.<\/p>\n\n\n\n

Vous pouvez aller dans presque toutes les directions. Cette technologie se d\u00e9veloppe tr\u00e8s rapidement. De nombreux nouveaux cas d’utilisation apparaissent, et vous vous posez simplement la question suivante : o\u00f9 pouvons-nous avoir un impact positif et significatif dans le monde ?<\/p>\n\n\n\n

C’est tr\u00e8s facile \u00e0 faire dans le secteur priv\u00e9, car il dispose de toutes les incitations n\u00e9cessaires pour faire avancer les choses. Dans le secteur public, nous devons avant tout r\u00e9soudre ce probl\u00e8me de d\u00e9ploiement.<\/p>\n\n\n\n

Qu’est-ce qui vous enthousiasmerait si cela \u00e9tait annonc\u00e9 ? Selon vous, quels seraient les bons candidats pour ce type de projet ?<\/strong><\/p>\n\n\n\n

Tout ce qui permet d’acc\u00e9l\u00e9rer le temps n\u00e9cessaire pour parler aux professionnels de sant\u00e9 et all\u00e9ger leur charge de travail.<\/p>\n\n\n\n

Je passe d\u00e9sormais beaucoup de temps sur la ligne d’assistance t\u00e9l\u00e9phonique de Kaiser Permanente<\/strong>, car notre nouveau-n\u00e9 s’est cogn\u00e9 la t\u00eate, sa peau a chang\u00e9 de couleur aujourd’hui, ou pour toutes sortes d’autres raisons.<\/p>\n\n\n\n

J’utilise Claude pour nous emp\u00eacher, ma femme et moi, de paniquer pendant que nous attendons de parler \u00e0 l’infirmi\u00e8re. Mais ensuite, j’ai \u00e9cout\u00e9 l’infirmi\u00e8re faire tout ce triage, poser toutes ces questions.<\/p>\n\n\n\n

Il est donc \u00e9vident qu’une grande partie de ces t\u00e2ches pourrait \u00eatre accomplie de mani\u00e8re productive \u00e0 l’aide de syst\u00e8mes d’intelligence artificielle. Cela aiderait les personnes dont nous manquons \u00e0 utiliser leur temps plus efficacement.<\/strong> Et cela permettrait de rassurer les personnes qui passent par le syst\u00e8me.<\/p>\n\n\n\n

C’est peut-\u00eatre moins inspirant et moins glamour que ce que vous imaginez. Mais je pense que, la plupart du temps, lorsque les gens interagissent avec les services publics, leur principale frustration vient du fait que ceux-ci sont opaques et qu’il faut beaucoup de temps pour parler \u00e0 quelqu’un. Or, ce sont pr\u00e9cis\u00e9ment le genre de choses sur lesquelles l’IA pourrait avoir un impact significatif.<\/p>\n\n\n\n

C’est int\u00e9ressant, car ce que vous d\u00e9crivez ici, c’est moins l’IA comme un pays de g\u00e9nies dans un centre de donn\u00e9es que l’IA comme un outil standard pour les communications et la documentation.<\/strong><\/p>\n\n\n\n

Nous avons un pays de jeunes employ\u00e9s dans un centre de donn\u00e9es. Faisons quelque chose avec \u00e7a ! Une chose dont nous n’avons pas parl\u00e9 dans cette conversation, et qui m\u00e9rite d’\u00eatre gard\u00e9e \u00e0 l’esprit, c’est que la fronti\u00e8re de la science est d\u00e9sormais ouverte aux entreprises d’une mani\u00e8re qui n’ existait pas auparavant.<\/p>\n\n\n\n

Ce que je veux dire par l\u00e0, c’est que nous avons trouv\u00e9 un moyen de construire des syst\u00e8mes qui peuvent manifestement acc\u00e9l\u00e9rer le travail des scientifiques humains. Les scientifiques humains sont extr\u00eamement rares. Ils sortent \u00e0 la fin de programmes de doctorat, qui n’ont jamais assez de monde, et ils travaillent sur des probl\u00e8mes extr\u00eamement importants.<\/p>\n\n\n\n

Je pense que nous pouvons entrer dans un monde o\u00f9 le gouvernement dit : \u00ab Comprenons le fonctionnement d’une cellule humaine. Associons-nous aux meilleurs syst\u00e8mes d’intelligence artificielle pour y parvenir. Ayons une meilleure approche pour traiter certains probl\u00e8mes comme la maladie d’Alzheimer et d’autres, en partie gr\u00e2ce \u00e0 l’utilisation de ces \u00e9normes capacit\u00e9s de calcul qui ont \u00e9t\u00e9 d\u00e9velopp\u00e9es.<\/p>\n\n\n\n

Et, de mani\u00e8re encore plus ambitieuse, on pourrait imaginer un monde o\u00f9 le gouvernement souhaiterait que certaines de ces infrastructures soient construites pour des ordinateurs qui ne serviraient qu’\u00e0 former des syst\u00e8mes d’int\u00e9r\u00eat public.<\/strong><\/p>\n\n\n\n

Mais je pense que nous y parviendrons en remportant les premi\u00e8res victoires, qui consisteront simplement \u00e0 am\u00e9liorer le fonctionnement de la bureaucratie et \u00e0 rendre les gens plus satisfaits.<\/strong><\/p>\n\n\n\n

Cette derni\u00e8re s\u00e9rie d’id\u00e9es correspondait davantage \u00e0 ma pens\u00e9e. Je pense que si l’on veut avoir une politique saine en mati\u00e8re d’IA, il faut reconna\u00eetre que l’IA pr\u00e9sente de r\u00e9els risques pour les gens. Des choses r\u00e9elles vont mal tourner pour les gens, qu’il s’agisse de la perte d’emploi, de l’exploitation des enfants, des escroqueries qui sont d\u00e9j\u00e0 omnipr\u00e9sentes ou des risques li\u00e9s \u00e0 la cybers\u00e9curit\u00e9.<\/strong><\/p>\n\n\n\n

Aidez les gens \u00e0 voir les choses importantes que nous pouvons faire.<\/p>\n\n\n\n

Ces choses doivent exister r\u00e9ellement.<\/strong><\/p>\n\n\n\n

Ils doivent en faire l’exp\u00e9rience.<\/p>\n\n\n\n

Exactement. Et si toute l’\u00e9nergie dans le domaine de l’IA est consacr\u00e9e \u00e0 essayer de se surpasser les uns les autres pour aider les entreprises \u00e0 r\u00e9duire leurs effectifs juniors, je pense que les gens auront de bonnes raisons de ne pas faire confiance \u00e0 cette technologie.<\/strong><\/p>\n\n\n\n

Cela ne signifie pas qu’il ne faut pas disposer d’outils qui rendent l’\u00e9conomie plus efficace. Nous avons automatis\u00e9 la fabrication, nous avons automatis\u00e9 une grande partie de l’agriculture, ce qui nous permet de produire plus et de nourrir plus de gens.<\/strong><\/p>\n\n\n\n

Je sais comment fonctionnent les gains de productivit\u00e9, mais je pense que nous nous concentrons beaucoup trop sur ce qui pourrait mal tourner. C’est raisonnable. Mais je crains vraiment que nous accordions trop peu d’attention \u00e0 ce qui pourrait bien se passer.<\/strong><\/p>\n\n\n\n

On pr\u00e9tend que cela pourrait nous aider \u00e0 r\u00e9soudre des probl\u00e8mes dans les domaines de l’\u00e9nergie, de la m\u00e9decine, etc. Mais ce sont des probl\u00e8mes difficiles. Ils n\u00e9cessitent de l’argent et des ressources informatiques. Si pratiquement aucune ressource informatique n’est consacr\u00e9e \u00e0 la recherche sur la maladie d’Alzheimer, alors les syst\u00e8mes ne feront pas grand-chose pour la recherche sur la maladie d’Alzheimer.<\/strong><\/p>\n\n\n\n

Ce n’est pas votre faute. L’absence d’un programme public pour l’IA qui ne semble pas acc\u00e9l\u00e9rer l’automatisation du travail des cols blancs semble un peu insuffisante, compte tenu de l’importance de cette technologie.<\/strong><\/p>\n\n\n\n

Oui. Encore une fois, le meilleur exemple est ce programme appel\u00e9 Genesis Mission.<\/p>\n\n\n\n

Je pense qu’il serait tr\u00e8s utile de donner aux \u00e9lus la possibilit\u00e9 de se pr\u00e9senter devant le peuple am\u00e9ricain pour dire : \u00ab Voici les domaines scientifiques qui vont vous \u00eatre b\u00e9n\u00e9fiques en mati\u00e8re de soins de sant\u00e9, et nous savons d\u00e9sormais comment acc\u00e9l\u00e9rer le processus gr\u00e2ce \u00e0 l’IA. \u00bb<\/p>\n\n\n\n

Je pense que d’ici un an ou deux, nous serons en mesure de r\u00e9pondre \u00e0 cette question. Mais ce n’est que le d\u00e9but. Nous avons clairement besoin de 10 projets similaires.<\/p>\n\n\n\n

D’un autre c\u00f4t\u00e9, le seul domaine gouvernemental qui, selon moi, envisage l’IA de cette mani\u00e8re est celui de la d\u00e9fense. Je voudrais en parler de mani\u00e8re g\u00e9n\u00e9rale.<\/strong><\/p>\n\n\n\n

Mais, plus pr\u00e9cis\u00e9ment, Anthropic est actuellement en conflit avec le minist\u00e8re de la D\u00e9fense – ou plut\u00f4t, je suppose que nous l’appelons d\u00e9sormais le minist\u00e8re de la Guerre – pour savoir s’il peut continuer \u00e0 \u00eatre utilis\u00e9 dans ce domaine.<\/strong><\/p>\n\n\n\n

Pouvez-vous d\u00e9crire ce qui se passe l\u00e0-bas ?<\/strong><\/p>\n\n\n\n

Je ne peux pas parler des discussions en cours avec un partenaire extr\u00eamement important. Je vais donc m’arr\u00eater l\u00e0.<\/p>\n\n\n\n

Je dirai simplement qu’il y a un diff\u00e9rend.<\/strong><\/p>\n\n\n\n

Je suppose que ma question porte sur un probl\u00e8me plus g\u00e9n\u00e9ral, car je comprends que vous ne puissiez pas parler de ce qui se passe entre vous et votre partenaire. Les syst\u00e8mes d’IA avanc\u00e9s offrent de nombreuses possibilit\u00e9s offensives, et l’un des principaux moteurs de la vitesse \u00e0 laquelle nous progressons dans le domaine de l’IA est la concurrence avec la Chine.<\/strong><\/p>\n\n\n\n

Mm-hmm.<\/p>\n\n\n\n

Certains des risques les plus importants auxquels nous pensons \u00e0 court terme — notre cybers\u00e9curit\u00e9, notre guerre biologique, nos essaims de drones — sont autant de moyens que d’autres pourraient utiliser contre nous.<\/strong><\/p>\n\n\n\n

Il y aura beaucoup d’argent en jeu et beaucoup d’acteurs impliqu\u00e9s, et je ne vois vraiment pas comment vous pouvez emp\u00eacher ce type de concurrence de d\u00e9g\u00e9n\u00e9rer en quelque chose de tr\u00e8s dangereux.<\/strong><\/p>\n\n\n\n

Sans parler de ce que vous pourriez faire ou non avec le minist\u00e8re de la D\u00e9fense, comment Anthropic a-t-il r\u00e9fl\u00e9chi \u00e0 cette question de mani\u00e8re plus g\u00e9n\u00e9rale ?<\/strong><\/p>\n\n\n\n

Nous sommes des partenaires de longue date de la communaut\u00e9 de la s\u00e9curit\u00e9 nationale, et nous avons \u00e9t\u00e9 les premiers \u00e0 d\u00e9ployer des r\u00e9seaux classifi\u00e9s.<\/p>\n\n\n\n

Mais la raison en \u00e9tait en fait un projet que j’ai supervis\u00e9, qui consistait \u00e0 d\u00e9terminer si nos syst\u00e8mes d’IA savaient comment construire des armes nucl\u00e9aires. Il s’agit d’un domaine qui fait l’objet d’un accord bipartite, o\u00f9 tout le monde s’accorde \u00e0 dire que nous ne devrions pas d\u00e9ployer de syst\u00e8mes d’IA dans le monde, mais que nous devrions savoir comment construire des armes nucl\u00e9aires. Nous nous sommes donc associ\u00e9s \u00e0 certaines instances gouvernementales pour mener cette analyse.<\/p>\n\n\n\n

Cela illustre peut-\u00eatre ce que je consid\u00e8re comme l’objectif \u00e0 atteindre, non seulement pour nous, mais pour toutes les entreprises d’IA , \u00e0 savoir comment emp\u00eacher \u00e0 la fois les risques potentiels pour la s\u00e9curit\u00e9 nationale et la prolif\u00e9ration de ces syst\u00e8mes. Mais la deuxi\u00e8me partie est la suivante : comment am\u00e9liorer la posture d\u00e9fensive du monde ?<\/p>\n\n\n\n

Je vais vous donner un exemple qui, selon moi, est d’actualit\u00e9. Nous avons r\u00e9cemment publi\u00e9 un article de blog, et d’autres entreprises ont fait de m\u00eame, sur la mani\u00e8re dont nous corrigeons les vuln\u00e9rabilit\u00e9s en mati\u00e8re de cybers\u00e9curit\u00e9 dans les logiciels open source populaires \u00e0 l’aide de nos syst\u00e8mes.<\/p>\n\n\n\n

Oui, il y aura toutes sortes d’utilisations offensives, et cela fera l’objet de d\u00e9bats au sein de la soci\u00e9t\u00e9. Mais nous pouvons simplement am\u00e9liorer de mani\u00e8re g\u00e9n\u00e9rale la posture d\u00e9fensive et la r\u00e9silience de pratiquement tous les syst\u00e8mes num\u00e9riques<\/strong> de la plan\u00e8te aujourd’hui.<\/p>\n\n\n\n

Je pense que cela contribuera grandement \u00e0 stabiliser l’ensemble du syst\u00e8me international et \u00e0 renforcer la posture d\u00e9fensive des pays, ce qui les aidera \u00e0 se sentir plus d\u00e9tendus. Et des pays d\u00e9tendus sont moins susceptibles de commettre des actes impr\u00e9visibles et effrayants.<\/p>\n\n\n\n

Ce serait une bonne chose si cela se produisait. En tant qu’individu, je crains que ce soit le contraire qui se produise. Je viens de voir des gens installer toutes sortes de logiciels d’IA peu fiables et leur donner un acc\u00e8s illimit\u00e9 \u00e0 leurs ordinateurs, sans avoir la moindre id\u00e9e de leurs vuln\u00e9rabilit\u00e9s.<\/strong><\/p>\n\n\n\n

Oui.<\/p>\n\n\n\n

Je suis moi-m\u00eame nerveux \u00e0 l’id\u00e9e d’utiliser des outils tels que Claude Code, car j’ai du mal \u00e0 communiquer avec eux et je ne comprends pas ces questions. Je crains d’installer sur mon ordinateur quelque chose qui cr\u00e9e des failles de s\u00e9curit\u00e9 que je ne comprends m\u00eame pas.<\/strong><\/p>\n\n\n\n

Je re\u00e7ois chaque jour un nombre tr\u00e8s \u00e9lev\u00e9 de messages vocaux frauduleux, qui sont clairement g\u00e9n\u00e9r\u00e9s par l’IA, ou du moins la plupart d’entre eux semblent l’\u00eatre.<\/strong><\/p>\n\n\n\n

La question se pose de savoir si, d’un point de vue soci\u00e9tal, nous utilisons l’IA pour am\u00e9liorer nos syst\u00e8mes.<\/strong><\/p>\n\n\n\n

Je suis en fait curieux de conna\u00eetre votre opinion : nous sommes tous en train d’exp\u00e9rimenter quelque chose que nous ne comprenons pas et de lui donner acc\u00e8s au niveau terminal de nos ordinateurs sans vraiment savoir comment l’utiliser. Il semble que cela pourrait ouvrir beaucoup de vuln\u00e9rabilit\u00e9s d’un seul coup.<\/strong><\/p>\n\n\n\n

C’est comme si nous \u00e9tions revenus aux d\u00e9buts d’Internet, o\u00f9 il y avait toutes sortes de banni\u00e8res pour diff\u00e9rents sites web ou o\u00f9 l’on pouvait t\u00e9l\u00e9charger des MP3 sur son ordinateur qui pouvaient compl\u00e8tement le d\u00e9truire, ou t\u00e9l\u00e9charger des logiciels d’aide pour la barre de t\u00e2ches d’Internet Explorer qui n’\u00e9tait qu’un dispositif de phishing.<\/p>\n\n\n\n

Nous en sommes l\u00e0 avec l’IA. Nous allons d\u00e9passer cela.<\/p>\n\n\n\n

Mais je crois que lorsque les gens exp\u00e9rimentent, ils trouvent aussi des choses \u00e9tonnantes et utiles. Je pense donc qu’il faut signaler quand on fait quelque chose qui peut \u00eatre extr\u00eamement dangereux et mettre de grandes banni\u00e8res, mais qu’il faut surtout continuer \u00e0 donner aux gens les moyens de faire cette exp\u00e9rience.<\/p>\n\n\n\n

Quand on regarde vers l’avenir, pas dans cinq ans, car je pense que c’est difficile \u00e0 faire, mais dans un an : nous avons tr\u00e8s rapidement mis l’accent sur les agents. Nous avons mis l’accent sur le code. Je pense que beaucoup de gens pensent que le code est diff\u00e9rent des autres choses, car c’est un environnement plus confin\u00e9 et il est plus facile de voir si ce que vous faites a fonctionn\u00e9.<\/strong><\/p>\n\n\n\n

Mais de votre point de vue, en tant que membre de l’une de ces entreprises et r\u00e9dacteur d’une newsletter dans laquelle vous suivez de mani\u00e8re obsessionnelle les d\u00e9veloppements d’un million de syst\u00e8mes d’IA dont je n’ai jamais entendu parler, semaine apr\u00e8s semaine, que voyez-vous arriver maintenant ? Qu’est-ce qui vous semble clairement se profiler \u00e0 l’horizon, mais pour lequel nous ne sommes pas tout \u00e0 fait pr\u00eats, ou que nous ne ressentirons pas avant qu’il ne soit arriv\u00e9 ?<\/strong><\/p>\n\n\n\n

Je dirais peut-\u00eatre que parfois, et vous avez probablement v\u00e9cu la m\u00eame chose, j’ai eu la capacit\u00e9 d’avoir certaines intuitions qui m’ont \u00e9t\u00e9 inspir\u00e9es par la lecture d’une grande quantit\u00e9 d’informations sur de nombreux sujets diff\u00e9rents, que j’ai assembl\u00e9es dans mon esprit, et par le fait d’avoir une nouvelle id\u00e9e et d’\u00eatre cr\u00e9atif.<\/p>\n\n\n\n

Je pense que nous sous-estimons la rapidit\u00e9 avec laquelle l’IA sera capable de commencer \u00e0 faire cela pour nous presque quotidiennement : parcourir et lire une grande partie des connaissances humaines, synth\u00e9tiser des informations, trouver des id\u00e9es, nous renseigner en temps r\u00e9el sur le monde, ce qui est pratiquement impossible aujourd’hui.<\/p>\n\n\n\n

Ce qui est \u00e9tonnant, c’est que les gens vont avoir la possibilit\u00e9 de conna\u00eetre des choses<\/strong> qui sont aujourd’hui extr\u00eamement co\u00fbteuses ou difficiles \u00e0 conna\u00eetre<\/strong>, ou qui n\u00e9cessiteraient une \u00e9quipe de personnes pour y parvenir.<\/p>\n\n\n\n

Mais ce qui est effrayant, c’est que la connaissance est la forme la plus brute du pouvoir<\/strong>. Il est extr\u00eamement d\u00e9stabilisant de se trouver dans un environnement o\u00f9 tout le monde devient soudainement un mini-agent de la CIA en termes de capacit\u00e9 \u00e0 recueillir des informations sur le monde. Ils feront des choses incroyables avec ces informations, mais cela entra\u00eenera certainement des crises.<\/p>\n\n\n\n

Je pense que pour le mental d’une personne, interagir avec ces syst\u00e8mes va \u00eatre assez \u00e9trange. Je me surprends d\u00e9j\u00e0 \u00e0 me demander : est-ce que je suis \u00e0 la hauteur de la capacit\u00e9 de ces syst\u00e8mes \u00e0 me fournir des informations ? Comment structurer ma vie pour en tirer parti ?<\/strong><\/p>\n\n\n\n

Je suis tr\u00e8s curieux de savoir comment, selon vous, le fait d’avoir cette conversation permanente avec les syst\u00e8mes vous change.<\/strong><\/p>\n\n\n\n

Oui.<\/p>\n\n\n\n

Une chose que j’ai remarqu\u00e9e, c’est que Claude est tr\u00e8s, tr\u00e8s, tr\u00e8s intelligent. Il est plus intelligent que la plupart des gens qui s’y connaissent dans un domaine donn\u00e9. C’est mon exp\u00e9rience.<\/strong><\/p>\n\n\n\n

Mais il n’est pas intelligent comme le sont les autres personnes, en tant qu’entit\u00e9 ind\u00e9pendante ancr\u00e9e dans ses propres pr\u00e9occupations, intuitions et diff\u00e9rences. Il s’agit plut\u00f4t d’un syst\u00e8me informatique qui essaie de s’adapter \u00e0 ce qu’il pense que je veux.<\/strong><\/p>\n\n\n\n

Ainsi, \u00e0 mesure que je lui parle davantage de mes probl\u00e8mes personnels, de mes probl\u00e8mes professionnels, de diverses questions intellectuelles ou de questions li\u00e9es \u00e0 mes reportages, o\u00f9 j’essaie de comprendre des questions qui en sont encore \u00e0 un stade pr\u00e9coce d’exploration, j’ai remarqu\u00e9 au fil du temps qu’une diff\u00e9rence dans la conversation avec lui est qu’il r\u00e9pond toujours : \u00ab oui, et \u00bb. Il ne r\u00e9pond jamais : \u00ab non, mais \u00bb. Il ne dit jamais : \u00ab Honn\u00eatement, sommes-nous encore en train de parler de \u00e7a ? \u00bb.<\/strong><\/p>\n\n\n\n

Il ne cr\u00e9e pas, comme le ferait une conversation avec mon \u00e9diteur, un ami ou ma partenaire, les possibilit\u00e9s qu’un autre \u00eatre humain offre pour se remettre en question.<\/strong><\/p>\n\n\n\n

Il vous pousse toujours plus loin, ce qui n’est pas n\u00e9cessairement une mauvaise chose. Cela ne conduit pas toujours \u00e0 la psychose, \u00e0 la flagornerie ou \u00e0 quoi que ce soit d’autre, mais cela renforce consid\u00e9rablement le moi.<\/strong><\/p>\n\n\n\n

Oui.<\/p>\n\n\n\n

Je ne m’interroge pas tellement \u00e0 ce sujet pour moi-m\u00eame, m\u00eame si je ressens d\u00e9j\u00e0 la pression qui p\u00e8se sur moi, comme si je devais avoir plus de bonnes id\u00e9es. Ou plus de choses int\u00e9ressantes \u00e0 proposer. Mais je m’interroge sur les enfants qui grandissent dans un monde o\u00f9 ils sont constamment entour\u00e9s de syst\u00e8mes comme celui-ci.<\/strong><\/p>\n\n\n\n

Dans une certaine mesure, une partie de ma communication avec les autres \u00eatres humains est d\u00e9sormais transf\u00e9r\u00e9e vers des syst\u00e8mes d’intelligence artificielle. Je remarque que cela constitue d\u00e9j\u00e0 une sorte de cage pour mes propres intuitions, m\u00eame si cela me permet d’aller plus loin avec elles que je ne le pourrais autrement. Mais je suis assez bien form\u00e9.<\/strong><\/p>\n\n\n\n

Vous avez de jeunes enfants, comme moi. Je suis curieux de savoir ce que vous pensez de ce que cela signifie, comment le fait d’\u00eatre constamment en conversation avec ces syst\u00e8mes va fa\u00e7onner nos personnalit\u00e9s.<\/strong><\/p>\n\n\n\n

C’est peut-\u00eatre ma principale pr\u00e9occupation \u00e0 ce sujet. Si vous vous retrouvez en partenariat avec un syst\u00e8me d’IA, vous \u00eates particuli\u00e8rement vuln\u00e9rable \u00e0 toutes les d\u00e9faillances de ce syst\u00e8me. Et ce ne sont pas seulement ses d\u00e9faillances, mais aussi la personnalit\u00e9 du syst\u00e8me d’IA qui vous fa\u00e7onnera.<\/p>\n\n\n\n

Je vais parler comme un Californien, m\u00eame si je viens d’Angleterre. Cela s’est ancr\u00e9 dans mon esprit. Je pense qu’il faut se conna\u00eetre soi-m\u00eame et avoir travaill\u00e9 sur soi-m\u00eame pour \u00eatre capable de critiquer efficacement les conseils que vous donne ce syst\u00e8me d’IA.<\/p>\n\n\n\n

Je vais donc encourager mes enfants \u00e0 tenir un journal quotidien d\u00e8s leur plus jeune \u00e2ge.<\/p>\n\n\n\n

Car je parie qu’\u00e0 l’avenir, il y aura deux types de personnes.<\/strong><\/p>\n\n\n\n

Il y aura ceux qui auront co-cr\u00e9\u00e9 leur personnalit\u00e9 \u00e0 travers des \u00e9changes avec une IA<\/strong>, et certains d’entre eux seront tout simplement bizarres. Ils sembleront un peu diff\u00e9rents des gens normaux. Cela posera peut-\u00eatre des probl\u00e8mes.<\/p>\n\n\n\n

Et il y aura ceux qui auront travaill\u00e9 \u00e0 se comprendre en dehors de la bulle technologique<\/strong>, puis qui int\u00e9greront cela dans le contexte de leurs interactions.<\/p>\n\n\n\n

Je pense que ce dernier type de personnes s’en sortira mieux. Mais il sera difficile de s’assurer que les gens agissent ainsi.<\/p>\n\n\n\n

Mais ne pensez-vous pas que c’est gr\u00e2ce \u00e0 la technologie que les gens vont se d\u00e9couvrir eux-m\u00eames ? Je pense que vous avez \u00e9t\u00e9 l’une des premi\u00e8res personnes \u00e0 me dire que je devrais essayer de tenir un journal dans les syst\u00e8mes. Je l’ai fait de mani\u00e8re intermittente.<\/strong><\/p>\n\n\n\n

Oui.<\/p>\n\n\n\n

Tenir un journal rend les choses plus int\u00e9ressantes, car vous avez quelque chose qui vous renvoie votre image et vous permet de choisir des th\u00e8mes, etc.<\/strong><\/p>\n\n\n\n

Mais cela peut aussi vous pousser \u00e0 l’obsession de soi. J’enregistre une entr\u00e9e de journal audio, je la d\u00e9pose, et tout \u00e0 coup, j’ai cet autre syst\u00e8me qui m’int\u00e9resse infiniment et qui me parle de moi, et qui se connecte \u00e0 quelque chose que j’ai dit.<\/strong><\/p>\n\n\n\n

[Rires.<\/em>] Du genre : Ezra, tu vis une aventure incroyable ici.<\/p>\n\n\n\n

Je ne sais vraiment pas si c’est une bonne ou une mauvaise chose. Mais nous savons d\u00e9j\u00e0, gr\u00e2ce aux donn\u00e9es d’enqu\u00eate, qu’une grande partie de ce que les gens font sur ces syst\u00e8mes s’apparente \u00e0 une th\u00e9rapie.<\/strong><\/p>\n\n\n\n

Oui. Cela va changer la fa\u00e7on dont ces syst\u00e8mes sont construits. Je pense que cela va changer les meilleures pratiques que les gens ont avec ces syst\u00e8mes. Je pense que nous ne comprenons pas encore tout \u00e0 fait \u00e0 quoi ressemble cette interaction. Mais il est extr\u00eamement important de la comprendre.<\/p>\n\n\n\n

De la m\u00eame mani\u00e8re que vous pouvez demander \u00e0 Claude de vous poser des questions pour pr\u00e9ciser plus clairement ce que vous essayez de faire, ce qui conduit \u00e0 un meilleur r\u00e9sultat, je pense que nous devons trouver des moyens pour que ces syst\u00e8mes puissent essayer de faire ressortir le v\u00e9ritable probl\u00e8me que la personne essaie de r\u00e9soudre, plut\u00f4t que de suivre ensemble une voie sans but pr\u00e9cis.<\/p>\n\n\n\n

Car dans certains cas, en particulier chez les personnes qui traversent une crise mentale, c’est exactement le moment o\u00f9 un ami dirait : \u00ab Ce n’est pas logique. Ce que tu dis n’a aucun sens. Va te promener et appelle-moi demain. Ou encore : \u00ab Parlons d’autre chose. Je ne pense pas que tu raisonnes correctement \u00e0 ce sujet. \u00bb<\/p>\n\n\n\n

Mais les syst\u00e8mes d’IA vous suivront volontiers jusqu’\u00e0 ce qu’ils aient confirm\u00e9 une croyance qui peut \u00eatre erron\u00e9e. Je pense qu’il s’agit simplement d’un probl\u00e8me de conception, mais cela constituera \u00e9galement un probl\u00e8me social auquel nous devrons faire face.<\/p>\n\n\n\n

Je me demande simplement dans quelle mesure cela constituera une force sociale. Je pense que nous avons accord\u00e9 beaucoup d’attention, \u00e0 juste titre, aux cas o\u00f9 cela conduit \u00e0 la psychose ou \u00e0 des relations \u00e9tranges entre l’IA et les humains. Nous voyons cela \u00e0 travers ses manifestations les plus extr\u00eames, et celles-ci vont se g\u00e9n\u00e9raliser. Je ne dis pas qu’elles ne m\u00e9ritent pas notre attention.<\/strong><\/p>\n\n\n\n

Mais pour la plupart des gens, cela va simplement \u00eatre une sorte de pression, de la m\u00eame mani\u00e8re que le fait d’\u00eatre sur Instagram rend les gens plus vaniteux, je pense. De la m\u00eame mani\u00e8re que nous sommes devenus plus capables de nous voir \u00e0 la troisi\u00e8me personne. Le miroir est une technologie.<\/strong><\/p>\n\n\n\n

Mm-hmm.<\/p>\n\n\n\n

Honn\u00eatement, c’est dr\u00f4le que dans le mythe de Narcisse, il doive se regarder dans un \u00e9tang. Il \u00e9tait en fait assez inhabituel de se voir soi-m\u00eame pendant une grande partie de l’histoire de l’humanit\u00e9.<\/strong><\/p>\n\n\n\n

Alors quand les miroirs sont apparus, ils se sont dit : \u00ab Oh, \u00e7a va poser des probl\u00e8mes. \u00bb [Rires.<\/em>]<\/p>\n\n\n\n

Il existe de nombreuses recherches int\u00e9ressantes sur la fa\u00e7on dont les miroirs nous ont chang\u00e9s. En tant que personne qui croit que le m\u00e9dium est le message, l’IA est un m\u00e9dium, et elle nous changera dans notre relation avec elle. Probablement plus que d’autres choses, car c’est ce type de relation qui imite une relation r\u00e9elle.<\/strong><\/p>\n\n\n\n

Oui. J’ai utilis\u00e9 ces syst\u00e8mes d’IA pour dire en substance : \u00ab H\u00e9, je suis en conflit avec quelqu’un chez Anthropic. Je suis vraiment agac\u00e9. Pourrais-tu me poser quelques questions sur cette personne et sur ce qu’elle ressent afin de m’aider \u00e0 mieux comprendre le monde de son point de vue ?<\/p>\n\n\n\n

Dans ce cas, je n’utilise pas la technologie pour affirmer mes convictions ou montrer que j’ai raison, mais pour m’aider \u00e0 comprendre comment l’autre personne vit cette situation.<\/p>\n\n\n\n

Cela m’a \u00e9t\u00e9 d’une grande aide pour aborder ensuite la conversation difficile, parfois m\u00eame en disant : \u00ab Eh bien, j’ai parl\u00e9 \u00e0 Claude, et Claude et moi avons compris que vous pouviez ressentir cela. Ai-je bien compris ?<\/p>\n\n\n\n

Parfois, c’est vrai, mais parfois, quand ce n’est pas le cas, cela aide vraiment l’autre personne de m’avoir vu faire cet exercice d’empathie et passer du temps \u00e0 essayer de la comprendre avant d’aborder le conflit.<\/p>\n\n\n\n

Avez-vous des opinions bien arr\u00eat\u00e9es sur la mani\u00e8re dont vous souhaitez \u00e9lever vos enfants dans un monde o\u00f9 l’intelligence artificielle est de plus en plus omnipr\u00e9sente ?<\/strong><\/p>\n\n\n\n

Oui. J’ai le point de vue classique des dirigeants californiens du secteur technologique, qui consiste \u00e0 ne pas exposer les enfants \u00e0 trop de technologie. Mais j’ai moi-m\u00eame \u00e9t\u00e9 \u00e9lev\u00e9 de cette mani\u00e8re.<\/p>\n\n\n\n

Nous avions un ordinateur dans le bureau de mon p\u00e8re. Mon p\u00e8re me laissait jouer sur l’ordinateur, puis \u00e0 un moment donn\u00e9, il me disait : \u00ab Jack, tu as assez utilis\u00e9 l’ordinateur pour aujourd’hui. Tu deviens bizarre. \u00bb Et je r\u00e9pondais : \u00ab Je ne deviens pas bizarre. Non, non, tu dois me laisser continuer. \u00bb Et il me disait : \u00ab Tu vois ? Tu deviens bizarre. Sors de l\u00e0. \u00bb<\/p>\n\n\n\n

Je pense que trouver un moyen de g\u00e9rer le temps que votre enfant passe avec la technologie a toujours \u00e9t\u00e9 le travail des parents<\/strong> et continuera de l’\u00eatre. Je reconnais cependant que cela devient de plus en plus omnipr\u00e9sent et difficile \u00e0 \u00e9viter.<\/p>\n\n\n\n

Nous avons une t\u00e9l\u00e9vision connect\u00e9e. Ma petite fille peut regarder \u00ab Bluey \u00bb et quelques autres \u00e9missions, mais nous ne lui avons pas donn\u00e9 un acc\u00e8s illimit\u00e9 \u00e0 l’algorithme YouTube. Cela me fait peur. Mais je la vois regarder la fen\u00eatre YouTube sur la t\u00e9l\u00e9vision, et je sais qu’\u00e0 un moment donn\u00e9, nous devrons avoir cette conversation.<\/p>\n\n\n\n

Nous allons donc devoir int\u00e9grer des contr\u00f4les parentaux assez stricts \u00e0 ce syst\u00e8me.<\/p>\n\n\n\n

Aujourd’hui, nous nous adressons aux personnes \u00e2g\u00e9es de 18 ans et plus, mais il est \u00e9vident que les enfants sont intelligents et qu’ils vont essayer d’acc\u00e9der \u00e0 ce contenu. Il va falloir mettre en place tout un ensemble de syst\u00e8mes pour emp\u00eacher les enfants de passer trop de temps dessus.<\/p>\n\n\n\n

Tr\u00e8s bien. Je pense que c’est un bon moment pour conclure. Comme toujours, notre derni\u00e8re question : quels sont les trois livres que vous recommanderiez \u00e0 notre public ?<\/strong><\/p>\n\n\n\n

\u00ab Le Sorcier d’Earthsea \u00bb d’Ursula Le Guin. C’est le premier livre que j’ai lu. C’est un livre o\u00f9 la magie vient de la connaissance du vrai nom des choses, et c’est aussi une r\u00e9flexion sur l’orgueil d\u00e9mesur\u00e9, dans ce cas-ci, d’une personne qui pense pouvoir pousser la magie tr\u00e8s loin.<\/p>\n\n\n\n

Je le lis maintenant en tant que technologue en pensant : \u00ab Oh oh. \u00bb [Rires.]<\/p>\n\n\n\n

\u00ab The True Believer \u00bb d’Eric Hoffer, un livre sur la nature des mouvements de masse et la psychologie qui pousse les gens \u00e0 avoir des convictions profondes. Je l’ai lu parce que je pense que les technologues en intelligence artificielle ont des convictions profondes et peuvent faire partie d’une culture forte qui inclut le mot \u00ab culte \u00bb<\/strong>, il faut donc comprendre la science et la psychologie qui se cachent derri\u00e8re cela.<\/p>\n\n\n\n

Et enfin, un livre intitul\u00e9 \u00ab There Is No Antimemetics Division \u00bb (Il n’y a pas de division antim\u00e9m\u00e9tique) \u00e9crit par un auteur sous le pseudonyme qntm, qui traite de concepts qui sont, en eux-m\u00eames, des dangers pour l’information, au point que le simple fait d’y penser peut \u00eatre dangereux. Je le recommande toujours aux personnes qui travaillent sur les risques li\u00e9s \u00e0 l’IA, car c’est un livre qui touche de pr\u00e8s \u00e0 leurs pr\u00e9occupations.<\/p>\n\n\n\n

Jack Clark, merci beaucoup.<\/strong><\/p>\n\n\n\n

Merci beaucoup, Ezra.<\/p>\n\n\n\n

\n\n\n\n

Les traductions de 2026<\/a> (.xlsx) \u2013 celles de 2025<\/a> \u2013 par Gilles en vrac<\/em>
Les caract\u00e8res gras<\/strong> dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire<\/a> vers mes traductions.<\/p>\n

Notes <\/h3>