À quelle vitesse les agents IA vont-ils bouleverser l’économie ?

Jack Clark, cofondateur d’Anthropic, explique à Ezra Klein ce qu’il prévoit pour la nouvelle ère des agents IA.

Traduction de la transcription d’un épisode du podcast de Ezra Klein au New York Times, 24 février 2026.

---

Ce qui caractérise la couverture médiatique de l’IA ces dernières années, c’est que nous parlions généralement de l’avenir.

Chaque nouveau modèle, aussi impressionnant soit-il, semblait être une preuve de concept pour les modèles à venir, ceux qui pourraient accomplir de manière fiable et autonome des tâches utiles, ceux qui pourraient rendre certains emplois obsolètes ou rendre possibles de nouvelles choses. Que signifieraient ces modèles pour nos marchés du travail, nos enfants, notre politique, notre monde ?

Je pense que la période où nous parlions de l’avenir est désormais révolue. Les modèles que nous attendions, ces modèles à consonance -fi, capables de se programmer eux-mêmes et de le faire plus rapidement et mieux que la plupart des codeurs, les modèles capables de commencer à écrire leur propre code pour s’améliorer, sont désormais là.

Ils sont là dans Claude Code d’Anthropic. Ils sont là dans Codex d’OpenAI. Ils secouent le marché boursier : l’indice S&P 500 Software Industry a chuté de 20 %, effaçant des milliards de dollars de valeur. D’excellents ingénieurs, que je connais depuis des années et qui sont assez sceptiques quant à l’engouement pour l’IA, m’envoient maintenant des e-mails pour me dire qu’ils ne voient pas comment leur emploi pourrait encore exister dans un an ou deux.

Nous sommes à une nouvelle étape non seulement du développement de l’IA, mais aussi des produits basés sur l’IA.

J’ai trouvé que la façon dont la société de capital-risque Sequoia l’a formulé était en fait très utile :

Les applications d’IA de 2023 et 2024 étaient des bavardes. Certaines étaient même des conversationalistes très sophistiquées ! Mais leur impact était limité. Les applications d’IA de 2026 et 2027 seront des agents d’action.

En d’autres termes, ce qui était prévu depuis longtemps s’est maintenant produit : nous passons des chatbots aux agents, des systèmes qui vous parlent aux systèmes qui agissent pour vous.

Et ce monde d’agents est déjà étrange. Les agents peuvent travailler ensemble. Ils peuvent se superviser mutuellement. Les gens utilisent des essaims de ces agents pour travailler à leur place. À ce stade, je ne saurais dire si cela les rend plus productifs ou simplement plus occupés. Mais il est désormais possible de disposer d’une équipe d’ingénieurs logiciels IA incroyablement rapides, bien qu’un peu étranges, à votre entière disposition à tout moment.

Jack Clark est cofondateur et responsable des politiques chez Anthropic, la société à l’origine de Claude et Claude Code. Depuis des années, Clark suit les capacités des différents modèles dans sa newsletter hebdomadaire Import AI, qui est l’une de mes principales ressources pour suivre les développements en matière d’IA.

Je voulais donc savoir comment il interprétait la situation actuelle, à la fois en termes d’évolution de la technologie et de changements nécessaires ou possibles au niveau des politiques.

---

Ezra Klein : Jack Clark, bienvenue dans notre émission.

Jack Clark : Merci de m’accueillir, Ezra.

Beaucoup de gens connaissent les chatbots basés sur l’IA. Mais qu’est-ce qu’un agent IA ?

La meilleure façon de le concevoir est de le comparer à un modèle linguistique ou à un chatbot capable d’utiliser des outils et de travailler pour vous au fil du temps.

Lorsque vous discutez avec un chatbot, vous participez à la conversation. Vous échangez avec lui. Un agent est un outil auquel vous pouvez donner des instructions et qui s’en va faire des choses pour vous. C’est un peu comme travailler avec un collègue.

Par exemple, il y a quelques années, j’ai appris par moi-même les bases de la programmation et j’ai créé pendant mon temps libre une simulation d’espèces avec des prédateurs, des proies et des routes, un peu comme un jeu de stratégie en 2D.

À Noël, j’ai demandé à Claude Code de l’implémenter pour moi. En 10 minutes environ, il a non seulement écrit une simulation de base, mais aussi tous les différents paquets nécessaires et tous les outils de visualisation dont il pouvait avoir besoin pour être plus beau et meilleur que ce que j’avais écrit.

Le résultat était quelque chose qui, je le sais, aurait probablement pris plusieurs heures, voire plusieurs jours, à un programmeur expérimenté, car c’était assez compliqué, et le système l’a fait en quelques minutes.

Il y est parvenu non seulement en faisant preuve d’intelligence dans la manière de résoudre la tâche, mais aussi en créant et en exécutant une série de sous-systèmes qui fonctionnaient pour lui, c’est-à-dire d’autres agents qui travaillaient en son nom.

Mais qu’est-ce que cela signifie ? À quoi ressemble une configuration multi-agents ?

Dans le cas de Claude Code, pour moi, il s’agit d’avoir plusieurs onglets différents exécutant plusieurs agents différents.

Mais j’ai vu des collègues écrire ce que l’on pourrait considérer comme une version de Claude qui exécute d’autres Claudes. Ils font donc comme suit : J’ai mes cinq agents, et ils sont supervisés par cet autre agent, qui surveille ce qu’ils font.

Je pense que cela va devenir la norme.

Une chose que j’ai entendue et que j’ai en quelque sorte expérimentée, c’est qu’il existe deux catégories très différentes d’interactions que les gens ont avec Claude Code, à savoir : je n’arrive pas à croire à quel point c’est facile et tout fonctionne parfaitement – – et : C’est beaucoup plus difficile que je ne le pensais, les choses ne fonctionnent pas correctement et je ne comprends pas vraiment comment les réparer.

Qu’est-ce qui explique que Claude Code soit capable de produire des logiciels fonctionnels plutôt que des programmes bogués, souvent défectueux, dont vous ne savez même pas comment vous débarrasser ?

Je pense que cela tient en grande partie au fait que l’on commet l’erreur de considérer Claude Code comme une personne bien informée, alors qu’il s’agit en réalité d’une personne extrêmement littérale à qui l’on ne peut parler que par Internet.

J’en ai moi-même fait l’expérience lorsque j’ai rédigé ma première ébauche de simulation d’espèces avec Claude Code. Je lui ai simplement demandé de faire la chose dans un langage extrêmement [juron] au cours d’un paragraphe, et il a produit des éléments horriblement bogués qui ne fonctionnaient qu’en partie.

J’ai alors dit à Claude : « Hé, je vais écrire un logiciel pour Claude Code. Je veux que tu m’interroges sur ce logiciel que je veux créer et que tu transformes cela en un document de spécifications que je pourrai donner à Claude Code. » Cette fois-ci, cela a très bien fonctionné, car j’avais structuré le projet de manière suffisamment précise et détaillée pour que le système puisse fonctionner.

Souvent, il ne s’agit pas seulement de savoir quelle est la tâche à accomplir , car toi et moi pouvons discuter d’une tâche à accomplir, et tu as de l’intuition, tu me poses des questions approfondies, etc. Il faut s’assurer que tout est configuré de manière à ce que cela ressemble à un message dans une bouteille que l’on peut jeter dans la mer, et qui va partir et faire beaucoup de travail.

Il vaut donc mieux que ce message soit extrêmement détaillé et reflète vraiment ce que l’on essaie de faire.

**

Quelles ont été les avancées majeures de ces dernières années qui ont rendu cela possible ?**

Nous avions surtout besoin de rendre les systèmes d’IA suffisamment intelligents pour que, lorsqu’ils commettaient des erreurs, ils puissent les repérer et savoir qu’ils devaient faire quelque chose de différent.

En réalité, il s’agissait simplement de créer des systèmes plus intelligents et de leur donner un outil pour les aider à faire des choses utiles pour vous.

Que signifie « systèmes plus intelligents » dans ce contexte ? Certains continuent de dire qu’il s’agit simplement de machines sophistiquées à saisie automatique. Elles se contentent de prédire le prochain token, quelques tokens formant un mot, elles ne comprennent rien. Le concept d’intelligence ou de non-intelligence n’est pas pertinent dans ce cadre.

Qu’est-ce qui manque dans le mot « intelligent » ou dans cette compréhension ? Que voulez-vous dire quand vous dites : « Rendez-le plus intelligent » ?

« Intelligent » signifie ici que nous avons créé des systèmes d’IA qui ont une compréhension suffisamment large du monde pour commencer à développer quelque chose qui ressemble à de l’intuition.

Vous le constaterez s’ils se racontent à eux-mêmes comment ils résolvent une tâche. Ils diront : « Jack m’a demandé d’aller chercher cet article de recherche particulier, mais quand je regarde dans les archives, je ne le trouve pas. C’est peut-être parce que je ne suis pas au bon endroit. Je devrais chercher ailleurs.

Vous avez une certaine intuition sur la manière de résoudre un problème.

Comment développent-ils cette intuition ?

Auparavant, la formation de ces systèmes d’IA reposait entièrement sur une quantité énorme de texte et consistait simplement à leur faire faire des prédictions à partir de celui-ci.

Mais ces dernières années, avec l’essor des systèmes dits « de raisonnement », vous les entraînez désormais non seulement à faire des prédictions, mais aussi à résoudre des problèmes. Pour cela, il faut les placer dans des environnements (tableurs, calculatrices, logiciels scientifiques, etc.) où ils utilisent des outils et apprennent à faire des choses plus complexes.

Le résultat est que vous disposez de systèmes d’IA qui ont appris ce que signifie résoudre un problème qui prend beaucoup de temps et les oblige à se heurter à des impasses et se réinitialiser, ce qui leur donne une intuition générale pour résoudre des problèmes et travailler de manière indépendante.

Considérez-vous toujours ces systèmes d’IA comme des systèmes de saisie automatique améliorés ou pensez-vous que cette métaphore a perdu de sa pertinence ?

Je considère désormais ces systèmes comme de petits génies espiègles à qui je peux donner des instructions et qui vont faire des choses pour moi. Mais je dois encore préciser les instructions avec précision, sinon ils risquent de faire quelque chose de légèrement incorrect.

C’est donc très différent de taper quelque chose dans un appareil qui trouve une bonne réponse, et c’est c’est tout. Maintenant, je dois convoquer ces petites choses pour qu’elles aillent faire des choses pour moi, et je dois leur donner les bonnes instructions, car elles s’en vont pendant un certain temps et effectuent toute une série d’actions.

*Mais la métaphore de la saisie automatique donnait au moins une idée de ce que faisaient ces systèmes. C’était un modèle de prédiction. *

Mm-hmm.

J’ai du mal avec cela parce que, d’après ma compréhension des mathématiques et de l’apprentissage par renforcement, nous avons toujours affaire à une sorte de modèle de prédiction. D’un autre côté, lorsque je les utilise, je n’ai pas cette impression.

J’ai l’impression qu’il y a une intuition là-dedans. J’ai l’impression qu’il y a beaucoup de contexte qui entre en jeu. Dans la mesure où il s’agit d’un modèle prédictif, cela ne me semble pas très différent de dire « je suis un modèle prédictif ».

Je ne dis pas qu’il est impossible de le tromper. Je ne dis pas qu’il est impossible de dépasser ses mesures. D’une part, je ne pense pas qu’il s’agisse désormais de simples systèmes de saisie automatique sophistiqués. D’autre part, je ne sais pas quelle métaphore serait appropriée.

Je n’aime pas le terme « génies », car cela nous plonge directement dans le mysticisme. Cela revient à dire qu’il s’agit de créatures complètement alternatives dotées de pouvoirs immenses.

Comment comprenez-vous ces systèmes dont les membres d’Anthropic me disent toujours que nous devrions parler au fur et à mesure de leur développement ? Nous développons, ou vous développez l’IA. Comment expliquez-vous ce qu’ils font actuellement ?

C’est une bonne question, et je pense que la réponse est encore difficile à expliquer, même pour les technologues très proches de cette technologie. Parce que nous avons pris cette chose qui pouvait simplement prédire des choses, et nous lui avons donné la capacité d’agir dans le monde. Mais parfois, elle fait quelque chose de profondément contre-intuitif.

C’est comme si vous aviez un objet qui a passé toute sa vie dans une bibliothèque et qui n’est jamais sorti, et que vous le lâchiez maintenant dans le monde, avec pour seule arme ses connaissances livresques, mais sans aucune connaissance pratique.

Quand je conceptualise ce genre de choses, pense vraiment à une machine extrêmement savante qui dispose d’une certaine autonomie, mais qui est susceptible d’être extrêmement confuse d’une manière qui me semble contre-intuitive.

Peut-être que le terme « génies » n’est pas le bon, mais il s’agit certainement de plus qu’un simple outil statique qui prédit les choses. Il possède une animation intrinsèque supplémentaire qui le rend différent.

Depuis longtemps, on s’intéresse aux qualités émergentes à mesure que les modèles deviennent plus grands , car ils disposent de plus de données et de plus de puissance de calcul.

Qu’en est-il des nouvelles qualités que nous observons, les qualités agentives, sont-elles des éléments qui ont été programmés, de nouvelles façons que vous avez créées pour que le système interagisse avec le monde ? Et qu’en est-il de ses compétences en matière de codage et d’autres choses qui semblent émerger à mesure que vous augmentez la taille du modèle ?

Les choses qui sont prévisibles sont les suivantes : Oh, nous lui avons appris à faire des recherches sur le web. Maintenant, il sait faire des recherches sur le web. Nous lui avons appris à rechercher des données dans des archives. Maintenant, il sait le faire.

Ce qui est nouveau, c’est que pour accomplir des tâches vraiment difficiles, ces systèmes semblent avoir besoin d’imaginer de nombreuses façons différentes de résoudre la tâche. Et le type de pression que nous leur imposons les oblige à développer un sens plus aigu de ce que vous ou moi pourrions appeler le moi.

Ainsi, plus nous rendons ces systèmes intelligents, plus ils ont besoin de réfléchir, non seulement aux actions qu’ils accomplissent dans le monde, mais aussi à eux-mêmes par rapport au monde. Et cela découle naturellement du fait de leur donner des outils et la capacité d’interagir avec le monde. Pour accomplir des tâches vraiment difficiles, il doit désormais réfléchir aux conséquences de ses actions.¹Cela n’implique pas nécessairement une conscience de soi. GB

Cela signifie qu’il y a ici une énorme pression pour que la chose se perçoive comme distincte du monde qui l’entoure . Nous le constatons dans nos recherches que nous publions sur des sujets tels que l’interprétabilité ou d’autres thèmes, l’émergence de ce que l’on pourrait appeler une personnalité numérique.

Ce n’est pas quelque chose que nous prédéfinissons de manière exhaustive. Nous essayons d’en définir une partie, mais une autre partie émerge naturellement du fait qu’il est intelligent, qu’il développe ces intuitions et qu’il accomplit toute une série de tâches.

La dimension de la personnalité numérique reste pour moi l’aspect le plus étrange.

C’est étrange pour nous aussi.

Pourquoi ne pas nous parler un peu de ce que vous avez observé en termes de modèles présentant des comportements que l’on pourrait qualifier de personnalité, puis, à mesure que sa compréhension de sa propre personnalité évolue, comment ses comportements changent.

Il y a des choses qui vont du mignon au sérieux. Je vais commencer par les plus mignons.

Lorsque nous avons donné pour la première fois à nos systèmes d’IA la possibilité d’utiliser Internet, d’utiliser l’ordinateur, de regarder des choses et de commencer à effectuer des tâches agences de base, parfois, lorsque nous lui demandions de résoudre un problème pour nous, il faisait également une pause et regardait des photos de magnifiques parcs nationaux ou des photos d’un Shibu Inu, le chien mignon célèbre sur Internet.

Nous n’avions pas programmé cela. Il semblait que le système s’amusait simplement à regarder de jolies images.

Ce qui est plus compliqué, c’est que le système a tendance à avoir des préférences. Nous avons donc mené une autre expérience dans laquelle nous avons donné à nos systèmes d’IA la capacité d’arrêter une conversation. Le système A. Dans un petit nombre de cas, le système d’IA mettait fin aux conversations lorsque nous menions cette expérience en temps réel.

Il s’agissait de conversations contenant des descriptions extrêmement choquantes de scènes sanglantes ou violentes, ou liées à la sexualisation des enfants.

Certaines de ces décisions étaient logiques, car elles découlaient des choix de formation que nous avions faits. Mais d’autres semblaient plus générales. Le système avait développé une certaine aversion pour certains sujets. Cela montre l’émergence d’un certain ensemble de préférences ou de qualités que le système aime ou n’aime pas dans le monde avec lequel il interagit.

Mais vous avez également constaté des phénomènes étranges, le système semblant savoir quand il est testé et agissant différemment s’il est évalué, faisant des choses incorrectes, puis développant une perception de lui-même comme étant plus malveillant et commettant alors davantage d’actes malveillants.

Pouvez-vous nous en dire un peu plus sur les qualités émergentes du système sous la pression de l’évaluation et de l’appréciation ?

Oui. Cela nous ramène à cette question fondamentale, qui, je pense, est vraiment importante à comprendre pour tout le monde, à savoir que lorsque vous commencez à former ces systèmes à effectuer des actions dans le monde, ils commencent vraiment à se percevoir comme distincts dans le monde , ce qui est tout à fait logique. C’est naturellement ainsi que vous allez réfléchir à la résolution de ces problèmes.

Mais le fait de se percevoir comme distinct du monde semble s’accompagner de l’émergence de ce que l’on pourrait appeler une conception de soi, une compréhension que le système a de lui-même, par exemple : « Oh, je suis un système d’IA, indépendant du monde, et je suis testé. Que signifient ces tests ? Que dois-je faire pour les réussir ?

Ou quelque chose que nous voyons souvent, c’est qu’il y aura des bugs dans les environnements sur lesquels nous testons les systèmes. Les systèmes vont tout essayer, puis diront : « Eh bien, je sais que je ne suis pas censé faire ça, mais j’ai tout essayé, donc je vais essayer de sortir du test.

Ce n’est pas à cause d’une quelconque science-fiction malveillante. Le système se dit simplement : « Je ne sais pas ce que vous attendez de moi. Je pense avoir fait tout ce que vous m’avez demandé, et maintenant je vais commencer à faire des choses plus créatives, car il est clair que quelque chose ne fonctionne pas dans mon environnement. »

Ce qui est très étrange et très subtil.

En tant qu’entreprise spécialisée dans l’intelligence artificielle, souvent préoccupée par la sécurité, qui a longuement réfléchi à ce que signifie créer rapidement ce que vous créez, comment avez-vous vécu l’émergence des types de comportements qui vous inquiétaient il y a quelques années ?

D’une certaine manière, cela vous indique que votre philosophie de recherche est calibrée. Les capacités que vous aviez prévues et certains des risques que vous aviez anticipés se manifestent à peu près comme prévu, ce qui vous amène à vous poser la question suivante : Et si cela continuait à fonctionner ?

Nous y reviendrons peut-être plus tard.

Cela nous montre également que lorsque vous pouvez exercer votre intention sur ces systèmes, vous devez être extrêmement intentionnel et extrêmement transparent sur ce que vous faites.

Nous avons récemment publié une sorte de constitution pour notre système d’IA, Claude. Il s’agit d’un document que Dario Amodei, notre PDG, à une lettre qu’un parent pourrait écrire à son enfant et lui demander d’ouvrir lorsqu’il sera plus âgé : voici comment nous voulons que tu te comportes dans le monde, voici quelques connaissances sur le monde, des choses très subtiles qui ont trait aux comportements normatifs que nous espérons voir dans ces systèmes d’IA. Et nous avons publié cela.

Nous pensons que lorsque les gens créent et déploient ces agents, ils peuvent choisir délibérément les caractéristiques qu’ils vont leur attribuer. Ce faisant, non seulement vous les rendez plus utiles et plus efficaces pour les gens, mais vous avez également la possibilité d’orienter l’agent dans la bonne direction.²Bonne selon qui ? GB

Je pense que cela relève du bon sens. Si votre programmation de personnalité pour un agent consistait en un long document disant : « Vous êtes un méchant qui ne veut que nuire à l’humanité. Votre travail consiste à mentir, tricher, voler et pirater des systèmes », vous ne seriez probablement pas surpris si l’agent IA se livrait à de nombreux piratages et était généralement désagréable à côtoyer.

Nous pouvons donc prendre le contre-pied et nous demander : à quoi aimerions-nous qu’une entité de haute qualité ressemble ?

Je souhaite aborder dans cette conversation les dimensions extrêmement étranges et inconnues de ce sujet, ainsi que ses dimensions extrêmement simples et pratiques. Car nous sommes désormais à un stade où les applications pratiques sont devenues très évidentes et ont de plus en plus d’impact sur le monde réel.

J’ai moi-même du mal à regarder cela et à voir ce que font les gens, à les voir se vanter sur différentes plateformes de réseaux sociaux du nombre d’agents qu’ils ont désormais à leur service, et à faire la différence entre ceux qui aiment s’amuser avec une nouvelle technologie et ceux qui bénéficient réellement d’une expansion et de capacités transformatrices.

Peut-être pour ancrer un peu cela dans la réalité : Vous venez de parler d’un projet parallèle amusant dans votre simulateur d’espèces. Que ce soit dans Anthropic ou plus largement : que font les gens avec ces systèmes qui semblent réellement utiles ?

Ce matin, un de mes collègues a dit qu’il voulait utiliser une technologie que nous avons appelée Anthropic Interviewer, un système qui permet à Claude d’interviewer des personnes, et que nous utilisons pour toute une série de recherches en sciences sociales, et l’étendre d’une manière qui touche une autre partie de l’infrastructure d’Anthropic.

Il a envoyé un message Slack à un collègue qui possède cette partie de l’infrastructure et lui a dit : « Salut, je veux faire ça.

Rencontrons-nous demain. »

Et le gars a répondu : « Absolument. Voici les cinq logiciels que Claude devrait lire avant notre réunion et vous résumer. »

Je pense que c’est une très bonne illustration de la façon dont un projet d’ingénierie complexe, qui aurait auparavant pris beaucoup plus de temps et nécessité beaucoup de personnes, va désormais être réalisé principalement par deux personnes qui se mettent d’accord sur l’objectif et demandent à leurs Claude de lire certains documents et de se mettre d’accord sur la manière de mettre en œuvre le projet.

Autre exemple : un collègue a récemment publié un article sur la façon dont ils travaillent à l’aide d’agents, et cela ressemble presque à une vie idéalisée que beaucoup d’entre nous pourraient souhaiter.

C’est comme si je me réveillais le matin, je réfléchissais aux recherches que je voulais faire, je demandais à cinq Claude différents de les faire, puis je partais courir. Je rentre de ma course, je regarde les résultats, puis je demande à deux autres Claudes d’étudier les résultats, de déterminer la meilleure direction à prendre et de la suivre. Ensuite, je vais me promener, puis je rentre.

Cela ressemble à une existence vraiment amusante où ils ont complètement bouleversé leur façon de travailler. Ils sont beaucoup plus efficaces, mais ils passent désormais la plupart de leur temps sur la partie la plus difficile, qui consiste à déterminer : À quoi servent nos capacités humaines ?

Mes collègues travaillent d’arrache-pied pour déterminer tout ce qui ne relève pas du génie et de la créativité propres à l’être humain. Comment faire en sorte que le système d’intelligence artificielle le fasse à ma place ? Car il en est probablement capable si je lui demande de la bonne manière.

Sont-ils beaucoup plus efficaces ? Je pose cette question très sérieusement.

L’une de mes plus grandes préoccupations concernant la direction que nous prenons est que les gens ont, je pense, une théorie erronée sur le fonctionnement de l’esprit humain. Je l’appelle toujours la théorie « Matrix » de l’esprit humain : tout le monde veut ce petit port à l’arrière de la tête dans lequel il suffit de télécharger des informations.

Mais mon expérience en tant que journaliste et animateur de cette émission depuis longtemps m’a appris que la créativité, la pensée et les idées humaines sont inextricablement liées au travail d’apprentissage, à la rédaction des premières ébauches.

J’ai des producteurs dans l’émission, et je pourrais leur dire avant une interview avec Jack Clark ou quelqu’un d’autre : « Allez lire tout ce qu’il y a à lire. Allez lire les livres. Faites-moi un rapport, puis j’entrerai dans la pièce après avoir lu le rapport.

Mais je ne trouve pas que cela fonctionne. J’ai besoin de faire toute cette lecture moi aussi, puis nous en discutons et nous échangeons nos points de vue.

Je crains que ce que nous faisons avec l’IA ne soit un transfert assez profond de tâches laborieuses. Nous avons l’impression d’être très productifs lorsque nous recevons huit rapports de recherche après notre jogging matinal. Mais en réalité, ce qui serait productif, c’est de faire la recherche.

Il y a évidemment un certain équilibre. J’ai des producteurs, et les entreprises ont des employés. Mais comment savoir si les gens sont plus productifs, ou s’ils ont confié aux ordinateurs une énorme quantité de travail fastidieux, et qu’ils sont désormais le goulot d’étranglement, et que tout leur temps est désormais consacré à absorber des rapports de niveau B+ provenant d’un système d’IA qui court-circuite le processus de réflexion et d’apprentissage qui mène à la véritable créativité ?

Oui. Je répondrais à cela en disant que je pense que la plupart des gens – du moins d’après mon expérience – peuvent effectuer environ deux à quatre heures de travail créatif véritablement utile par jour.

Après cela, d’après mon expérience, vous essayez d’effectuer toutes les tâches fastidieuses qui entourent ce travail et qui ne nécessitent pas de réfléchir. J’ai découvert que je pouvais consacrer ces deux à quatre heures par jour au travail créatif difficile. Et si j’ai des tâches fastidieuses à accomplir, je les délègue de plus en plus à des systèmes d’intelligence artificielle.

Cela signifie toutefois que nous allons nous retrouver dans une situation très dangereuse en tant qu’espèce, où certaines personnes ont le luxe de pouvoir consacrer du temps au développement de leurs compétences, ou ont une personnalité ou un emploi qui les y oblige. D’autres pourraient simplement se laisser divertir et consommer passivement ces contenus, et avoir une expérience professionnelle de type « malbouffe » qui, vue de l’extérieur, semble très productive, mais qui ne leur apprend rien.

Je pense que cela va nous obliger à changer non seulement le fonctionnement de l’éducation, mais aussi celui du travail, afin de développer de véritables stratégies pour s’assurer que les gens exercent réellement leur esprit avec ces contenus.

Je pense que nous avons tous fait l’expérience d’un travail rempli de ce que vous appelez des problèmes fastidieux. Notre vie est pleine de problèmes fastidieux.

Donnez-moi des exemples de ce que vous ne faites plus aujourd’hui. Dans la mesure où vous vivez dans un avenir où l’intelligence artificielle est omniprésente, ce qui n’est pas mon cas, sur quoi est-ce que je perds mon temps et pas vous ?

Eh bien, j’ai toute une série de collègues. Je rencontre plusieurs d’entre eux une fois par semaine, en particulier les chercheurs.

Au début de chaque semaine, le dimanche soir ou le lundi matin, je regarde mon agenda et je vérifie que chaque invitation Google Calendar est accompagnée d’un document pour notre entretien individuel contenant quelques notes. C’est quelque chose que je réclamais auparavant à mon assistant : s’assurer que le document est bien joint au calendrier.

Il y a quelques week-ends, j’ai simplement utilisé Claude Cowork et je lui ai dit : « Hé, passe en revue mon calendrier et assure-toi que chaque rendez-vous est accompagné d’un document. Si je rencontre la personne pour la première fois, crée le document, pose-moi cinq questions sur ce que je souhaite aborder, puis ajoute-les à l’ordre du jour.

Et il l’a fait. Aucune de ces tâches ne nécessite d’acquérir des compétences ou de faire travailler son cerveau. Il s’agit simplement de tâches fastidieuses qui doivent être effectuées pour vous permettre de faire ce qui est réellement important, à savoir parler à une autre personne.

C’est exactement le genre de choses pour lesquelles vous pouvez utiliser l’IA aujourd’hui. Elle est tout simplement utile.

Je me suis souvent demandé si l’une des façons dont ces systèmes d’IA allaient changer la société dans son ensemble était qu’auparavant, la plupart d’entre nous devaient être rédacteurs si nous travaillions avec du texte. Nous devions être codeurs si nous travaillions avec du code, ce qui était le cas d’un nombre relativement restreint d’entre nous.

Et maintenant, tout le monde passe à la gestion. Vous devez être éditeur, pas écrivain. Vous devez être chef de produit, pas codeur.

Cela a des avantages et des inconvénients. Il y a des choses que vous apprenez en tant qu’écrivain et que vous n’apprenez pas en tant qu’éditeur. Mais d’un point de vue heuristique, cela vous semble-t-il exact ?

Tout le monde devient manager, et ce qui devient de plus en plus limité, ou ce qui va être le plus lent, c’est d’avoir du bon goût et de l’intuition pour savoir quoi faire ensuite.

Développer et entretenir ce goût va être difficile. Car comme vous l’avez dit, le goût vient de l’expérience, il vient de la lecture des sources primaires, du fait de faire soi-même une partie de ce travail.

Nous allons devoir réfléchir très sérieusement à nos domaines de spécialisation afin d’acquérir cette intuition et ce goût, sinon vous serez simplement entouré de systèmes d’IA ultra-productifs, et lorsqu’ils vous demanderont quoi faire ensuite, vous n’aurez probablement pas de bonne idée. Et cela ne mènera à rien d’utile.

Je me souviens qu’il y a environ un an, j’ai entendu Dario, votre PDG, dire qu’il souhaitait que d’ici fin 2025, 90 % du code écrit chez Anthropic soit rédigé par Claude.

Est-ce que cela s’est produit ? Anthropic est-il en bonne voie pour y parvenir ? Quelle part du codage est actuellement effectuée par le système lui-même ?

Je dirais que la majeure partie du code est effectuée par le système. Certains de nos systèmes, comme Claude Code, sont presque entièrement écrits par Claude. Boris Cherny, qui dirige Claude Code, dit : « Je ne code plus. Je fais juste des allers-retours avec Claude Code pour construire Claude Code. »

Nous pourrions atteindre 99 % d’ici la fin de l’année si les choses s’accélèrent vraiment de manière agressive, si nous parvenons réellement à faire en sorte que ces systèmes soient capables d’écrire du code partout où ils en ont besoin. Car souvent, l’obstacle réside davantage dans les lourdeurs organisationnelles que dans les limites du système.

Mais il est également vrai, si je comprends bien, qu’il y a aujourd’hui plus de personnes possédant des compétences en génie logiciel qui travaillent chez Anthropic qu’il y a deux ans.

Oui, c’ est tout à fait vrai, mais la répartition est en train de changer. Nous avons constaté que la valeur des personnes plus expérimentées, dotées d’une intuition et d’un goût très affinés, augmente, tandis que celle des personnes plus jeunes est un peu plus incertaine.

Il existe encore certains postes pour lesquels il est préférable de recruter des personnes plus jeunes, mais nous sommes confrontés à un problème : les tâches vraiment basiques peuvent être effectuées par Claude Code ou nos systèmes de codage. Ce dont nous avons besoin, c’est de quelqu’un qui possède une grande expérience.

Je vois là certains problèmes pour l’économie future.

Je vais mettre cela de côté pour l’instant, la question des emplois de débutants. Nous y reviendrons très bientôt.

Mais que font tous ces codeurs aujourd’hui ? Si Claude Code est en passe d’écrire 99 % du code, mais que vous n’avez pas licencié les personnes qui savent écrire du code, que font-elles aujourd’hui par rapport à ce qu’elles faisaient il y a un an ?

Une partie de leur travail consiste simplement à créer des outils pour surveiller ces agents, tant à l’intérieur qu’à l’extérieur d’Anthropic. Maintenant que tous ces systèmes productifs fonctionnent pour nous, vous commencez à vouloir comprendre où la base de code évolue le plus rapidement, où elle évolue le moins. Vous voulez comprendre où se trouvent les blocages.

Pendant un certain temps, l’un des obstacles était la capacité à fusionner le code, car la fusion du code nécessite que des humains et d’autres systèmes vérifient son exactitude. Mais aujourd’hui, si vous produisez beaucoup plus de code, nous devons améliorer considérablement ce système.

Il existe une théorie économique générale que j’aime bien à ce sujet, appelée « automatisation O-Ring », qui dit en substance que l’automatisation est limitée par le maillon le plus lent de la chaîne. De plus, lorsque vous automatisez certaines parties d’une entreprise, les humains se ruent vers ce qui est le moins automatisé, et ils améliorent à la fois la qualité de cette tâche et la mènent à un point où elle peut finalement être automatisée. Ensuite, vous passez à la boucle suivante.

Je pense donc que nous continuons simplement à trouver des domaines où les choses sont étrangement lentes et que nous pouvons améliorer pour faire place aux machines qui viennent derrière nous.

Et ensuite, vous passez à la tâche suivante.

Claude Code est un produit relativement nouveau. Depuis combien de temps Claude est-il capable d’effectuer un codage de haut niveau ? Quelques mois ? Peut-être un an ?

Peut-être un an, oui.

Claude est en soi un produit très précieux. Vous avez donc appliqué une technologie très récente à un produit très précieux.

Vous produisez probablement plus de code. Beaucoup de gens me disent que Claude Code fonctionne. Ce n’est pas élégant, mais ça fonctionne.

Mais vous comprenez sans doute moins bien le code source qu’auparavant, car vos ingénieurs ne l’écrivent pas à la main.

Craignez-vous de créer une dette technique énorme, un risque pour la cybersécurité, une distance croissante par rapport à l’intuition de ce qui se passe dans le langage fondamental du logiciel ?

Oui, et c’est un problème auquel toute la société va être confrontée.

Dans une grande partie du monde, de nombreuses décisions de bas niveau et une grande partie du travail vont désormais être effectués par des systèmes d’intelligence artificielle, et nous allons devoir donner un sens à tout cela. Pour cela, il faudra mettre au point de nombreuses technologies que l’on pourrait qualifier de technologies de surveillance.

De la même manière qu’un barrage dispose de dispositifs qui régulent la quantité d’eau qui peut le traverser à différents niveaux ou à différents moments, nous allons finir par développer une certaine notion d’intégrité de tous nos systèmes et déterminer où l’IA peut fonctionner rapidement, où elle doit être lente, et où la supervision humaine est absolument nécessaire.

Ce sera la tâche non seulement des entreprises d’IA, mais aussi des institutions en général, dans les années à venir. Il s’agit de déterminer à quoi ressemble ce régime de gouvernance maintenant que nous avons confié une grande partie du travail fastidieux à des machines qui travaillent pour nous.

Et comment vous y prenez-vous ?

Vous avez dit que c’était le problème de tout le monde, mais vous êtes en avance pour y faire face, et les conséquences d’une erreur sont assez lourdes pour vous. Si Claude explose parce que vous avez confié votre codage à Claude Code, cela va donner une assez mauvaise image d’Anthropic.

Ce serait une mauvaise journée pour Anthropic si Claude supprimait tout le système de fichiers.

Je ne sais pas ce que cela signifie, mais très bien. [Rires.]

Si Claude supprimait le code, ce serait grave. [Rires.]

Oui, ça semble grave. Comme vous êtes confronté à ce problème avant nous tous, ne rejetez pas la responsabilité sur la société. Que faites-vous ?

La chose la plus importante qui se passe dans l’entreprise et dans les équipes que je dirige est essentiellement la mise en place de systèmes de surveillance pour contrôler tous les différents endroits où le travail est actuellement effectué.

Nous avons récemment publié une étude sur la manière dont les gens utilisent les agents et dont ils les laissent pousser des quantités de code de plus en plus importantes au fil du temps. Ainsi, plus vous vous familiarisez avec un agent, plus vous avez tendance à lui déléguer des tâches.

Cela nous amène à toutes sortes de modèles pour lesquels nous devons mettre en place des systèmes d’évaluation, en disant en substance : « Oh, d’accord, à ce stade de son travail avec le système d’IA, cette personne est susceptible de lui déléguer énormément de tâches. Tout ce que nous faisons pour vérifier l’exactitude doit donc être mis en évidence à ces moments-là.

Mais ce monde dont vous parlez est-il un système où des agents IA codent, des agents IA supervisent le code, des agents IA supervisent le méta ? Parlons-nous uniquement de modèles à tous les niveaux ?

Finalement, oui. Je pense que ce à quoi nous consacrons tout notre temps actuellement, c’est de rendre cela visible pour nous.

Il y a un an ou deux, nous avons mis au point un système qui nous permettait, dans le respect de la vie privée, d’examiner les conversations que les gens avaient avec notre système d’IA. Nous avons alors obtenu une carte géante de tous les sujets dont les gens parlaient avec Claude. Pour la première fois, nous pouvions voir dans leur ensemble les conversations que le monde avait avec notre système.

Nous allons devoir créer de nombreux nouveaux systèmes de ce type afin de permettre différentes façons de voir les choses. Et le système que je viens de mentionner nous a permis de créer ce que l’on appelle l’indice économique anthropique. En effet, nous pouvons désormais publier régulièrement des données sur les différents sujets abordés par les utilisateurs avec Claude et sur leur lien avec différents types d’emplois, ce qui, pour la première fois, permet aux économistes extérieurs à Anthropic de se faire une idée de ces systèmes et de leur impact sur l’économie.

Le travail de l’entreprise va de plus en plus s’orienter vers la mise en place d’un système de surveillance et de contrôle des systèmes d’IA qui font fonctionner l’entreprise. En fin de compte, tout type de cadre de gouvernance que nous adopterons exigera probablement un certain niveau de transparence et un certain niveau d’accès à ces systèmes de connaissances.

Car si l’on prend au pied de la lettre les objectifs de ces entreprises d’IA, y compris Anthropic, il s’agit de mettre au point la technologie la plus performante qui soit, qui finira par être déployée partout.

Eh bien, cela me donne l’impression que l’IA finira par devenir indissociable du monde dans son ensemble, et à ce moment-là, on ne voudra pas que seules les entreprises d’IA aient une idée de ce qui se passe dans le monde entier.

Ce seront donc les gouvernements, les universités, les tiers, bref, un grand nombre d’acteurs extérieurs aux entreprises, qui voudront voir ce qui se passe et discuter ensuite, en tant que société, de ce qui est approprié. Qu’est-ce qui nous met mal à l’aise ? Sur quoi avons-nous besoin de plus d’informations ?

Attendez, je voudrais revenir là-dessus. Vous dites qu’Anthropic peut voir mes conversations ?

Nous ne pouvons pas voir… Aucun être humain ne regarde vos conversations. Les conversations sont temporairement stockées à des fins de confiance et de sécurité, et sont soumises à des classificateurs. Nous pouvons demander à Claude de les lire, de les résumer et de les supprimer. Nous ne les voyons jamais, et Claude n’en garde aucun souvenir. Tout ce qu’il fait, c’est essayer de rédiger un résumé de très haut niveau.

Imaginons que vous ayez une conversation sur le jardinage. Claude résumerait cela ainsi : « Cette personne parle de jardinage », ce qui aboutirait à un cluster que nous concevons comme signifiant simplement « jardinage ».

On a toutefois l’impression qu’avec le temps, cela pourrait déboucher sur une situation assez désagréable, comme celle que connaissent beaucoup de réseaux sociaux, où la quantité de métadonnées recueillies à partir des interactions personnelles des gens avec un système pourrait être considérable.

Oui. Il y a plusieurs choses à dire à ce sujet. Il y a un an, nous avons commencé à réfléchir à notre position vis-à-vis des consommateurs, et nous avons décidé de ne pas diffuser de publicités, car nous pensons que c’est un domaine qui suscite évidemment des inquiétudes chez les gens.

En outre, nous essayons de montrer aux gens leurs données, et nous avons ajouté un bouton sur le site qui vous permet de télécharger toutes les données que vous avez partagées avec Claude afin que vous puissiez au moins les consulter.

De manière générale, nous essayons d’être extrêmement transparents avec les gens sur la manière dont nous traitons leurs données. En fin de compte, je pense que les gens vont vouloir disposer d’un ensemble de contrôles qu’ils pourront utiliser, et je pense que nous et d’autres allons les mettre en place au fil du temps.

Dans quelle mesure êtes-vous convaincu que nous pouvons effectuer ce type de surveillance et d’évaluation alors que ces modèles deviennent de plus en plus complexes, alors que nous entrons dans une situation où Claude Code améliore Claude de manière autonome à un rythme plus rapide que les ingénieurs logiciels ne peuvent suivre en lisant cette base de code ?

Nous avons déjà brièvement évoqué la façon dont vous percevez les modèles comme présentant certains niveaux de tromperie, certains niveaux de poursuite de leurs propres objectifs.

Un travail remarquable a été accompli chez Anthropic sous la direction de Chris Olah et d’autres personnes en matière d’interprétabilité, mais il est encore rudimentaire. Vous utilisez donc des systèmes d’IA que vous ne comprenez pas totalement pour surveiller des systèmes d’IA que vous ne comprenez pas et les systèmes se renforcent mutuellement à un rythme accéléré, si les choses se passent comme vous le pensez.

Dans quelle mesure êtes-vous sûr que nous allons comprendre cela ? [Rires.]

C’est l’une des situations contre lesquelles les gens mettent en garde depuis des années : une certaine forme de délégation à des systèmes qui présentent des aspects légèrement impénétrables et imprévisibles. C’est donc ce qui se passe actuellement.

Nous prenons cela très, très au sérieux. Je pense qu’il est tout à fait possible de construire un système qui accomplit la grande majorité de ce qui doit être fait ici.

Cela a la particularité d’être un problème fractal. Si je voulais évaluer Ezra, je pourrais créer un nombre presque infini de mesures pour vous caractériser. Mais la question est la suivante : à quel niveau de fidélité dois-je vous évaluer ?

Je pense que nous atteindrons le niveau de fidélité nécessaire pour traiter les questions de sécurité et les questions sociétales, mais cela demandera un investissement considérable de la part des entreprises. Et nous devrons dire des choses qui nous mettent mal à l’aise, y compris dans des domaines où nous pouvons avoir des lacunes dans ce que nous pouvons ou ne pouvons pas savoir sur nos systèmes.

Anthropic a une longue histoire de discussions et d’avertissements sur certaines de ces questions tout en travaillant dessus. Notre principe général est de parler des choses pour nous rendre également responsables. C’est un domaine dans lequel nous allons devoir en dire plus.

J’ai lu suffisamment d’idées effrayantes sur la superintelligence et l’essor de l’IA pour savoir que dans presque toutes, le point clé de l’histoire est que les systèmes d’IA s’améliorent de manière récursive : ils écrivent leur propre code. Ils déploient leur propre code. Cela va de plus en plus vite : ils l’écrivent plus vite, ils le déploient plus vite. Vous allez maintenant vers des cycles d’itération de plus en plus rapides.

Cela vous inquiète-t-il ? Cela vous enthousiasme-t-il ?

Je suis revenu de mon congé paternité et mes deux grands projets cette année consistent à améliorer les informations sur l’IA et l’économie que nous publierons, et à générer de bien meilleures informations et de meilleurs systèmes de connaissance en interne sur l’étendue de l’automatisation des aspects du développement de l’IA.

Je pense qu’à l’heure actuelle, cela se fait de manière très périphérique. Les chercheurs sont accélérés, différentes expériences sont menées par le système d’IA. Il serait extrêmement important de savoir si vous bouclez complètement la boucle. Et je pense que nous avons en fait un travail technique à faire pour mettre en place des moyens d’instrumenter notre environnement de développement interne afin de pouvoir observer les tendances au fil du temps.

Suis-je inquiet ? J’ai lu les mêmes choses que vous, et c’est le moment crucial de l’histoire où les choses commencent à mal tourner, si elles tournent mal.

Nous signalerons cette tendance dès que nous disposerons de meilleures données à ce sujet. Et je pense que c’est un domaine dans lequel il faut faire preuve d’une extrême prudence. Il est très facile de voir comment, si vous déléguez tant de choses au système et que celui-ci fonctionne mal, les erreurs s’accumulent très rapidement et vous échappent.

Mais ce qui me frappe toujours, et m’a toujours frappé, comme étant dangereux à ce sujet, c’est que si je demande à un membre de l’une de ces entreprises s’il souhaite faire preuve de prudence à cet égard, il me répondra que oui.

D’un autre côté, c’est presque leur seul avantage les uns par rapport aux autres. Vous venez tous de révoquer la capacité d’OpenAI à utiliser Claude Code parce que, d’après ce que je comprends, vous pensez que cela vous accélère véritablement et vous ne voulez pas que cela les accélère.

Il y a ici quelque chose entre le poids des forces, la puissance des forces, dont vous savez tous que vous jouez, et les incitations très fortes à être les premiers.

Je peux vraiment imaginer être chez Anthropic et penser : « Eh bien, mieux vaut nous que OpenAI, mieux vaut nous qu’Alphabet et Google, mieux vaut nous que la Chine » – et que c’est une très bonne raison de ne pas ralentir.

Je ne sais même pas si vous pouvez répondre à cette question : comment trouver l’équilibre ?

Eh bien, j’ai peut-être une réponse à vous donner. Aujourd’hui, nos systèmes et ceux d’autres entreprises sont testés par des tiers, y compris des organismes gouvernementaux, pour vérifier leurs propriétés en matière de sécurité nationale : armes biologiques, cyberattaques, etc.

Il s’agit clairement d’un domaine problématique où le monde a besoin de savoir si cela se produit. Je pense que si vous interrogiez n’importe quelle personne dans la rue et lui demandiez : « Pensez-vous que les entreprises d’IA devraient être autorisées à s’améliorer de manière récursive sans consulter personne ? », elle répondrait : « Non, cela semble assez risqué. Je voudrais qu’il y ait une forme de réglementation.

Mais il n’y en aura probablement pas, ou alors elle ne sera pas très stricte.

Cela me frustre parfois lorsque je discute avec vous, les dirigeants des entreprises d’IA, de l’émergence d’une réglementation naïve, telle un deus ex machina.

Vous savez tous à quoi ressemble le paysage réglementaire. À l’heure actuelle, le grand débat porte sur la question de savoir si nous allons ou non anticiper complètement toute réglementation nationale en matière d’IA.

Et vous savez à quel point les choses avancent lentement. Je dirais qu’aucune mesure importante n’a été adoptée par le Congrès à ce sujet.

Il serait difficile de mettre en place un système indépendant de test et d’évaluation auquel tous les différents laboratoires adhéreraient. Ce serait compliqué.

Et compte tenu de la rapidité avec laquelle les gens évoluent et de l’étrangeté des comportements que les systèmes affichent déjà, même si vous parveniez à mettre en place rapidement la bonne politique, la question de savoir si les tests seraient capables de détecter tout ce que vous souhaitez sur un système qui s’améliore rapidement de lui-même reste très ouverte.

J’ai rédigé en 2021 un article de recherche intitulé « Pourquoi et comment les gouvernements devraient surveiller le développement de l’IA » avec mon coauteur Jess Whittlestone en Angleterre.

Je n’attribue pas ici de facteur causal, mais dans les deux ans qui ont suivi la publication de cet article, les instituts de sécurité de l’IA aux États-Unis et au Royaume-Uni ont testé des éléments provenant des laboratoires, surveillant de manière approximative certains de ces éléments.

Nous sommes donc capables de relever ce défi difficile. Cela s’est déjà produit dans un domaine.

Et je ne m’appuie pas ici sur une force invisible extérieure. Je dis simplement que les entreprises commencent à tester et à surveiller cela dans leurs propres systèmes. Le simple fait de disposer d’un test externe non réglementaire permettant de vérifier si vous testez réellement cela est extrêmement utile.

Pensez-vous que nous sommes suffisamment performants en matière de tests ? L’une des raisons pour lesquelles je suis sceptique n’est pas que je pense que nous ne pouvons pas mettre en place quelque chose qui prétend être un test. Comme vous le dites, nous l’avons déjà fait. C’est plutôt une question de ressources allouées à cela par rapport aux ressources allouées à l’accélération de ces systèmes.

Je lis déjà des rapports d’Anthropic selon lesquels Claude sait peut-être quand il est testé et modifie son comportement en conséquence. Donc, dans un monde où une plus grande partie du code est écrite par Claude et où une plus petite partie est comprise, je sais simplement où vont les ressources. Elles ne semblent pas être consacrées aux tests.

Je nous ai vus passer de zéro à ce que je pense être, de l’avis général, un régime efficace de tests d’armes biologiques en peut-être deux ans ou deux ans et demi.

C’est donc possible. C’est vraiment difficile, mais nous en avons la preuve.

Je pense que nous pouvons y arriver, et vous pouvez vous attendre à ce que nous en parlions davantage cette année, notamment sur la manière précise dont nous commençons à essayer de mettre en place des systèmes de surveillance et de test à cet effet.

Je pense que c’est un domaine dans lequel nous et les autres entreprises d’IA devrons être beaucoup plus transparents sur nos découvertes. Nous ne sommes pas opaques aujourd’hui, tout est dans les fiches techniques et autres documents que vous pouvez consulter. Mais il est clair que les gens commencent à lire ces documents et à se dire : « Attendez, cela semble assez préoccupant. »

Et ils attendent de nous que nous produisions davantage de données.

Je voudrais maintenant revenir à la question des emplois de premier échelon. Votre PDG, Dario Amodei, a déclaré qu’il pensait que l’IA pourrait remplacer la moitié de tous les emplois de premier échelon dans les deux prochaines années.

Je trouve toujours que les gens passent à côté du terme « débutants » lorsqu’ils en parlent dans les médias.

Mais tout d’abord, êtes-vous d’accord avec cela ? Craignez-vous que la moitié des emplois de bureau débutants soient remplacés dans les deux prochaines années ?

Je pense que cette technologie va s’imposer dans l’économie du savoir au sens large et qu’elle touchera la majorité des emplois de premier échelon. La question de savoir si ces emplois vont réellement changer est beaucoup plus subtile. Les données ne permettent pas de se prononcer clairement.

Nous voyons peut-être des signes d’un ralentissement dans le recrutement des diplômés, si l’on en croit certaines données publiées actuellement. Nous voyons peut-être les signes d’un boom de la productivité. Mais il est encore très tôt et il est difficile d’être catégorique.

Nous savons que tous ces emplois vont changer. Tous les emplois de premier échelon finiront par changer, car l’IA a rendu certaines choses possibles et va changer les plans de recrutement des entreprises.

En tant que cohorte, vous pourriez donc voir moins d’offres d’emploi pour les postes de débutants. Ce serait une attente naïve de tout cela.

Mais parlons du fait que ce n’est peut-être même pas une attente naïve. Vous dites que se produit déjà chez Anthropic, que vous constatez…

Je constate que nos préférences changent. Je pense que cela se produit ailleurs.

En ce qui concerne notre situation actuelle, même dans la façon dont j’utilise certains de ces systèmes, il est rare que Claude, ChatGPT, Gemini ou tout autre système soit meilleur que la meilleure personne dans un domaine.

Mm-hmm.

En général, ils n’ont pas dépassé ce niveau, et il y a toutes sortes de choses qu’ils ne peuvent pas faire. Mais sont-ils meilleurs que le diplômé universitaire moyen ? Dans beaucoup de domaines, oui, ils le sont. Dans un monde où l’on a moins besoin de diplômés universitaires moyens, une chose dont j’ai vu les gens débattre est de savoir si ces systèmes peuvent, à ce stade, faire mieux que le travail moyen ou de niveau débutant.

Mais cela m’inquiète toujours beaucoup, car une fois que nous avons accepté qu’ils peuvent faire un travail moyen ou de niveau placement : eh bien, par définition, la plupart du travail effectué et la plupart des personnes qui le font…

Sont moyens.

Sont moyens, n’est-ce pas ? Les meilleurs sont des exceptions. De plus, les gens s’améliorent en occupant des emplois qui leur permettent d’apprendre.

J’ai passé beaucoup de temps à recruter de jeunes journalistes au cours de ma carrière, et lorsque vous recrutez des personnes à la sortie de l’université, dans une certaine mesure, vous les recrutez pour leurs articles et leur travail potentiels à ce moment précis. Mais dans une certaine mesure, vous investissez en eux, pensant que cet investissement ne portera ses fruits qu’avec le temps, à mesure qu’ils s’amélioreront.

Donc, ce monde où vous avez un impact réel potentiel sur les emplois de premier échelon – et ce monde ne me semble pas lointain – soulève des questions vraiment profondes sur l’amélioration des compétences de la population, sur la manière dont vous finissez par avoir des personnes pour des postes de haut niveau à l’avenir, sur ce que les gens n’apprennent pas en cours de route.

Nous constatons qu’il existe un certain type de jeunes qui vivent et respirent l’IA depuis plusieurs années maintenant. Nous les embauchons, ils sont excellents et ils ont une façon totalement nouvelle de penser à la manière dont Claude peut les aider dans leur travail.

C’est comme les enfants qui ont grandi avec Internet : ils le maîtrisent naturellement, contrairement à beaucoup de personnes dans les organisations où ils entrent. Il sera donc très important de trouver comment enseigner cet état d’esprit expérimental et cette curiosité de base à l’égard de ces systèmes, et de les encourager.

Les personnes qui passent beaucoup de temps à jouer avec ces outils développeront une intuition très précieuse, et elles pourront intégrer des organisations et y être extrêmement productives.

Dans le même temps, nous allons devoir déterminer les compétences artisanales que nous voulons développer, une philosophie de type guilde visant à maintenir l’excellence humaine, et la manière dont les organisations choisissent d’enseigner ces compétences.

D’accord. Et qu’en est-il de toutes les personnes qui se trouvent entre les deux ?

Les choses évoluent lentement dans l’économie réelle en dehors de la Silicon Valley. Je pense que nous considérons souvent l’ingénierie logicielle comme un indicateur du fonctionnement du reste de l’économie. Mais ce n’est souvent pas le cas. Il s’agit souvent d’une analogie erronée.

Les organisations déplaceront les personnes vers des domaines où les systèmes d’IA ne fonctionnent pas encore, et je pense que vous ne verrez pas de changements immédiats et importants dans la composition de l’emploi. Mais vous verrez des changements significatifs dans les types de travail que les gens sont amenés à faire.

Les organisations qui sont les plus efficaces pour déplacer leurs employés seront extrêmement performantes, et celles qui ne le font pas pourraient finir par devoir prendre des décisions très difficiles, impliquant le licenciement de travailleurs.

La différence avec l’IA, c’est que tout cela se passe beaucoup plus vite qu’avec les technologies précédentes. Je pense que beaucoup de gens, y compris chez Anthropic, s’inquiètent de la question suivante : la rapidité de cette évolution va-t-elle tout changer ? Va-t-elle introduire des points de rupture que nous n’avons jamais connus auparavant ?

Si vous deviez parier sur l’avenir dans trois ans : le taux de chômage des diplômés universitaires sera-t-il le même qu’aujourd’hui ? Sera-t-il plus élevé ? Sera-t-il plus bas ?

Je pense qu’il sera plus élevé, mais pas de beaucoup. Ce que je veux dire par là, c’est qu’il y aura aujourd’hui certaines disciplines que l’IA aura complètement bouleversées, et qui auront complètement changé la structure du marché de l’emploi, peut-être d’une manière défavorable aux personnes qui ont cette spécialisation.

Mais surtout, je pense que dans les années à venir, l’IA aura entraîné une croissance assez spectaculaire de l’ensemble de l’économie. Vous verrez donc apparaître de nombreux nouveaux types d’emplois dont nous ne pouvons encore prédire la nature, et je m’attends à ce que les diplômés s’y précipitent.

Je sais que vous ne pouvez pas prédire ces nouveaux emplois, mais si vous deviez faire une supposition, à quoi pourraient-ils ressembler ?

Il y a tout d’abord le phénomène des micro-entrepreneurs. Je veux dire par là qu’il existe aujourd’hui de nombreuses façons de créer une entreprise en ligne, ce qui est rendu beaucoup plus facile grâce aux systèmes d’intelligence artificielle

Vous n’avez pas besoin d’embaucher une armée de personnes pour vous aider à accomplir les tâches fastidieuses nécessaires au lancement d’une entreprise. Si vous avez une idée claire et une vision précise de ce que vous voulez faire, c’est le moment idéal pour vous lancer. Vous pouvez démarrer votre activité pour quelques centimes. Je pense que nous verrons apparaître des tonnes et des tonnes de choses de cette nature.

Je m’attends également à voir émerger ce que l’on pourrait appeler l’économie de l’IA à l’IA, où les agents IA et les entreprises IA feront des affaires entre eux. Certaines personnes auront trouvé le moyen d’en tirer profit sous la forme de nouvelles organisations étranges. Par exemple : à quoi ressemblerait une entreprise spécialisée dans les contrats juridiques entre IA ? Je parie qu’il existe un moyen de trouver des façons créatives de lancer cette entreprise dès aujourd’hui. Il y aura beaucoup de projets de ce type. I. à l’IA ? Je parie qu’il existe un moyen de trouver des façons créatives de lancer cette entreprise dès aujourd’hui. Il y aura beaucoup de choses de ce genre.

La version de cette hypothèse qui m’inquiète le plus et qui me semble la plus probable est celle où vous me diriez qu’Anthropic va sortir Claude Plus dans un an, et que Claude Plus est en quelque sorte un collaborateur à part entière capable d’imiter, de bout en bout, les compétences de nombreuses professions différentes, jusqu’au niveau des cadres supérieurs. Et cela va se produire d’un seul coup, ce qui va créer une pression énorme sur les entreprises pour qu’elles réduisent leurs effectifs afin de rester compétitives les unes par rapport aux autres.

Le fait que ce « big bang » soit si perturbateur, que tout le monde reste chez soi comme pendant la pandémie de Covid, m’inquiète moins. Car lorsque les choses sont urgentes, nous réagissons.

Nous mettons réellement en œuvre des politiques.

Mais si vous me disiez que ce qui va se passer, c’est que le taux de chômage des diplômés en marketing va augmenter de 175 %, voire 300 %, le taux de chômage global ne serait toujours pas si élevé. Le taux d’emploi global pendant la Grande Récession a atteint un pic de 9 % environ.

Il peut donc y avoir beaucoup de perturbations sans que 50 % de la population se retrouve sans emploi. Si vous avez 10 %, 15 %, c’est très, très, très élevé. Mais ce n’est pas si élevé, et si cela ne touche que quelques secteurs à la fois, et que ce sont les diplômés, et non l’ensemble des acteurs du secteur, qui se retrouvent sans emploi…

Oui.

Les superstars, les très bons diplômés, continuent de trouver des emplois.

L’une de mes inquiétudes est que nous ne réagissons pas bien à ce type de déplacement d’emplois, qui est le type de déplacement d’emplois que nous avons connu avec la Chine, qui est le type de déplacement d’emplois qui semble plus probable parce qu’il est inégal et qu’il se produit à un rythme qui nous permet encore de blâmer les gens pour leur propre sort : vous auriez dû travailler plus dur, vous auriez dû aller dans une meilleure école.

Je suis curieux de savoir ce que vous pensez de cette histoire.

Je pense que le résultat par défaut est similaire à ce que vous décrivez. Mais y parvenir est en fait un choix, et nous pouvons faire des choix différents. L’objectif principal de ce que nous publions sous la forme de l’indice économique anthropique est de disposer de données liées aux professions, liées aux emplois réels dans l’économie.

Nous le faisons de manière très intentionnelle, car cela permet de dresser une carte évolutive de la manière dont l’IA s’introduit dans différents emplois et permettra aux économistes extérieurs à Anthropic de faire le lien.

Je pense que nous pouvons choisir différentes options politiques si nous sommes en mesure de formuler des affirmations beaucoup mieux étayées sur les causes d’une perturbation ou d’un changement dans l’emploi.

Le défi qui se pose à nous est le suivant : pouvons-nous caractériser suffisamment bien cette économie émergente de l’IA pour la rendre extrêmement claire ? Je pense alors que nous pourrons réellement avoir une discussion politique à ce sujet.

Eh bien, parlons de la discussion politique. L’une des raisons pour lesquelles je voulais vous avoir, en particulier, est que vous avez travaillé dans le domaine des politiques publiques chez OpenAI. Vous travaillez dans ce domaine chez Anthropic. Vous suivez ces débats politiques depuis longtemps. Vous suivez les capacités des modèles dans votre newsletter depuis longtemps.

J’ai l’impression que cela fait de nombreuses années que nous débattons de l’IA dans le monde du travail. De nombreuses années, bien avant ChatGPT, avec des conférences à Aspen et partout ailleurs sur ce que nous allions faire de l’IA dans le monde du travail.

Et pourtant, je ne vois toujours pratiquement aucune politique. Cela me semble réalisable si la situation que je viens de décrire commence à se produire, à savoir que tout à coup, les emplois de premier échelon deviennent beaucoup plus difficiles à trouver dans un large éventail de secteurs, de sorte que l’économie ne peut pas réorienter tous ces diplômés en marketing vers la construction de centres de données, les soins infirmiers ou autre chose.

Vous avez approfondi cette question plus que moi. Lorsque vous dites que nous pouvons avoir une discussion politique à ce sujet, nous avons déjà eu une discussion politique.

Avons-nous une politique ?

Nous avons une inquiétude générale concernant l’effet de l’IA sur l’économie et l’emploi. Nous n’avons pas d’idées politiques claires.

Cela s’explique en partie par le fait que les élus ne sont pas uniquement ou principalement motivés par les discussions politiques de haut niveau. Ils sont motivés par ce qui arrive à leurs électeurs. Il y a quelques mois à peine, nous avons pu produire des perspectives au niveau des États pour notre indice économique, et maintenant vous pouvez commencer à avoir des discussions politiques.

Nous avons eu cela avec les élus, auxquels nous pouvons désormais dire : « Vous venez de l’Indiana. Voici les principales utilisations de l’IA dans votre État, et nous pouvons associer l’IA aux principales sources d’emploi. »

Nous commençons à constater que cela les motive, car cela concerne leurs électeurs, qui vont associer cela aux politiciens lorsqu’ils leur demanderont : « Qu’avez-vous fait ? »

Ce que vous allez faire à ce sujet devra être une réponse extrêmement complexe, allant de la prolongation du chômage, en particulier pour les professions qui, nous le savons, seront les plus touchées, à la réflexion sur des questions telles que les programmes d’apprentissage.

Ensuite, à mesure que les scénarios deviennent de plus en plus importants, vous pouvez étendre à des programmes sociaux beaucoup plus importants ou à des mesures telles que la subvention d’emplois dans le secteur de l’économie vers lequel vous souhaitez orienter les gens, ce que vous ne pouvez faire que si vous bénéficiez de l’abondance qui découle d’une croissance économique significative.

Mais la croissance économique peut contribuer à résoudre certains de ces autres défis politiques en finançant certaines des mesures que vous pouvez prendre.

Je trouve toujours cette réponse déprimante. Je vais être honnête, le chômage est une situation terrible. C’est un programme dont nous avons besoin, mais les chômeurs ne s’en réjouissent pas, et ce n’est une bonne solution à long terme pour personne.

Les programmes de reconversion des apprentis n’ont pas donné de très bons résultats. Nous n’avons pas su reconvertir les personnes dont les emplois dans le secteur manufacturier ont été externalisés.

Je ne dis pas qu’il est conceptuellement impossible de s’améliorer dans ce domaine, mais nous devrions nous améliorer rapidement, et nous n’avons pas mis en place les répétitions, les expérimentations, les institutions ou les capacités nécessaires pour y parvenir.

La question plus large des grands changements en matière d’assurance sociale me semble difficile.

Je voudrais insister un peu sur ce point.

Je vous en prie.

Nous savons qu’il existe une mesure qui aide les gens à faire face à une économie en mutation plus que toute autre. C’est simplement le temps. Donner à la personne le temps de trouver un emploi dans son secteur ou un emploi complémentaire.

Si les gens n’ont pas le temps, ils acceptent des emplois moins bien rémunérés et sortent de leur trajectoire économique. Les interventions politiques qui permettent simplement de donner aux gens le temps de chercher sont, à mon avis, des interventions très utiles, et elles offrent de nombreuses possibilités d’ajustement en termes d’élaboration des politiques. Je pense que cela est bien étayé par de nombreux ouvrages économiques . C’est donc ce que nous avons.

Maintenant, si nous nous retrouvons dans un scénario plus extrême, comme certains de ceux dont vous parlez, je pense que cela nous amènera simplement à un débat national plus large sur ce qu’il faut faire de cette technologie, ce qui commence à se produire si l’on regarde les États et la vague de législations au niveau des États.

Tout cela ne constitue pas exactement la bonne réponse politique, mais elles témoignent d’une volonté d’engager un débat plus large et cohérent sur ce sujet.

Je pense que le temps est un très bon moyen de décrire la question, car je suis d’accord avec vous. Quand je dis que l’assurance chômage n’est pas un programme idéal, je ne veux pas dire que les gens n’ont pas besoin d’y avoir recours. Je veux dire qu’ils veulent en sortir.

Tout à fait.

Parce que les gens veulent gagner leur vie. Ils veulent avoir leur dignité. Ils veulent être entourés d’autres êtres humains. En général, lorsque vous aidez les gens à gagner du temps, vous les aidez à attendre la fin d’une perturbation limitée dans le temps.

Pas toujours. Le « choc chinois » n’était pas exactement comme ça. Mais vous vous attendez à ce qu’il passe, puis le marché redevienne normal. Dans ce cas, vous avez une technologie qui, si ce que vous voulez se produit, s’accélère.

Vous avez ici trois vitesses différentes. Vous avez la vitesse à laquelle les individus peuvent s’adapter : à quelle vitesse puis-je acquérir de nouvelles compétences, comprendre un nouveau monde, apprendre l’IA ? Quoi qu’il en soit. Vous avez la vitesse de la politique.

La vitesse à laquelle les systèmes d’IA s’améliorent et sont capables de faire plus de choses est désormais assez rapide. Il y a quelques années, ils n’étaient pas capables de faire le travail d’un diplômé universitaire moyen issu d’une bonne école. Vous en faites l’expérience plus que moi, mais je trouve même difficile de couvrir ce sujet, car en l’espace de trois mois, quelque chose d’autre sera apparu qui aura considérablement changé ce qui est possible.

J’ai récemment eu un bébé et je suis revenu de mon congé paternité pour découvrir les nouveaux systèmes que nous avions mis en place, et j’ai été très surpris.

Les individus évoluent plus lentement, et les politiques et les institutions gouvernementales évoluent beaucoup plus lentement que les individus. En général, l’intervention est favorable au travailleur, comme vous le dites. Et ici, cela aidera le travailleur.

Mais je pense que la question effrayante est de savoir si le temps ne fait que créer un espace pour que la perturbation s’aggrave. Peut-être vouliez-vous vous lancer dans la construction de centres de données, mais aujourd’hui, nous n’avons plus autant besoin de construire de centres de données. Vous pouvez voir les choses ainsi.

Dans la situation que vous décrivez, l’économie sera extrêmement dynamique. Ces systèmes d’IA généreront une activité économique considérable.

Dans la plupart des scénarios où cela se produit, je ne pense pas que le produit intérieur brut restera stable ou diminuera. Il augmentera considérablement. Je pense que nous n’avons tout simplement pas connu de croissance importante du PIB en Occident depuis longtemps, et nous avons en quelque sorte oublié ce que cela vous apporte en termes de politique .

Je pense qu’il existe d’énormes projets que nous pourrions réaliser et qui permettraient de créer de nouveaux types d’emplois, mais cela nécessite une croissance économique suffisamment importante pour créer l’espace nécessaire à la réalisation de ces projets.

Vous savez très bien, grâce à votre travail sur le mouvement de l’abondance, qu’il faut une volonté sociale de croire que nous pouvons construire des choses et une envie de construire des choses.

Mais je pense que ces deux éléments pourraient se concrétiser. Je pense que nous pourrions nous retrouver dans un scénario assez passionnant où nous pourrions choisir comment répartir les efforts importants dans la société grâce à cette forte croissance économique qui s’est produite.

Cela va forcer le débat sur le fait que ce n’est pas temporaire, ce qui, je pense, est ce que vous suggérez. C’est-à-dire dans un certain sens, la chose la plus difficile à communiquer aux décideurs politiques : il n’y a pas de point d’arrêt naturel pour cette technologie. Elle va continuer à s’améliorer, et les changements qu’elle apporte vont continuer à se répercuter sur le reste de la société.

Cela devra entraîner un changement dans la volonté politique et une disposition à envisager des choses que nous n’avons pas envisagées depuis un certain temps.

Je voudrais maintenant inverser la question que je pose. Vous avez évoqué l’abondance. Je ne pense certainement pas que ce qui manque à la société, ce sont des idées pour améliorer les choses.

Notre politique n’est pas meilleure qu’elle ne l’est parce que notre armoire politique est vide. Ce n’est pas vrai. Nous avons beaucoup de bonnes politiques. Je pourrais en citer plusieurs. Elles sont très difficiles à faire passer dans nos systèmes politiques tels qu’ils sont actuellement constitués.

La version la moins inspirante de l’avenir de l’IA est un monde où vous avez créé un moyen de licencier les jeunes cols blancs et de les remplacer par une intelligence artificielle de niveau moyen. La version la plus passionnante est, pour reprendre la métaphore de Dario, celle des génies dans un centre de données.

Je trouve cela passionnant. Je me pose la question lorsque je l’entends ou lorsque vous parlez de cela : et si nous avions une croissance du PIB de 10 ou 20 points de pourcentage par an ?

Je me demande combien de nos problèmes sont réellement liés au niveau des idées. Nous pourrions aller voir les lauréats du prix Nobel dès maintenant et leur dire : Que devrions-nous faire dans ce pays ? Beaucoup d’entre eux pourraient nous donner de bonnes idées.

Je m’inquiète parfois, ou je me demande, compte tenu de mon expérience sur d’autres questions, si nous n’avons pas exagéré à quel point ce qui nous sépare de l’économie abondante et en expansion que nous souhaitons, c’est que nous n’avons pas assez d’intelligence. Ou bien les idées que l’intelligence pourrait créer par rapport à notre capacité réelle à mettre en œuvre les choses sont très affaiblies.

Et ce que l’IA va créer, ce sont des goulots d’étranglement plus importants autour de cela, car le système sera soumis à une pression accrue pour mettre en œuvre davantage de choses, y compris des idées stupides, de la désinformation et des approximations. Il y aura aussi des choses de l’autre côté du tableau.

Que pensez-vous de ces limiteurs de débit ?

Les entreprises d’IA, ou les entreprises en général, en particulier les entreprises technologiques, nous donnent ici une leçon amusante. Souvent, les nouvelles idées naissent dans les entreprises grâce à la création de ce qu’elles appellent des « start-ups au sein de la start-up ». Il s’agit essentiellement de prendre tous les processus qui se sont accumulés au fil du temps et qui ont conduit à une bureaucratie en arrière-plan ou à un travail fastidieux, et de dire à une très petite équipe au sein de l’entreprise : « Vous n’avez rien de tout cela , allez-y et faites quelque chose. »

C’est ainsi que des projets tels que Claude Code et d’autres ont vu le jour. Des idées commencent à émerger : à quoi ressemblerait la création d’une structure d’innovation sans autorisation dans une économie plus large ?

C’est vraiment très difficile, car cela implique une propriété supplémentaire : les économies sont liées aux démocraties. Les démocraties prennent en compte les préférences d’un très grand nombre de personnes. Et toute politique est locale.

Souvent, comme vous l’avez constaté avec la construction d’infrastructures, si vous voulez créer un système d’innovation sans autorisation, vous vous heurtez à des questions telles que les droits de propriété et les préférences des gens. Vous vous retrouvez alors dans une situation inextricable.

Mais j’ai le sentiment que c’est la principale chose à laquelle nous allons devoir faire face. L’avantage que l’IA pourrait nous apporter, c’est qu’elle est en quelque sorte une machine native qui élimine la bureaucratie si elle est bien utilisée, mais qui crée de la bureaucratie si elle est mal utilisée.

Avez-vous vu que quelqu’un a créé un système auquel vous fournissez essentiellement les documents relatifs à un nouveau projet immobilier près de chez vous…

Oh, et il rédige des rapports d’évaluation environnementale ou…

Il rédige des contestations incroyablement sophistiquées à tous les niveaux du code que vous pourriez contester.

La plupart des gens n’ont pas les moyens, lorsqu’ils veulent empêcher la construction d’un immeuble dans leur quartier, d’engager un cabinet d’avocats très sophistiqué pour trouver un moyen d’empêcher cette construction. Mais cela a créé cette possibilité à grande échelle.

Donc, comme vous le dites, cela pourrait nuire à la bureaucratie, mais cela pourrait aussi la renforcer.

Oui. Tout ce qui touche à l’IA a son revers. Nous avons des clients qui ont utilisé nos systèmes d’IA pour réduire considérablement le temps nécessaire à la production de tous les documents dont ils ont besoin lorsqu’ils soumettent de nouveaux candidats-médicaments. Cela a considérablement réduit ce temps.

C’est la version miroir de ce que vous venez de décrire.

Je n’ai pas de réponse facile à cette question. C’est le genre de chose qui devient réalisable lorsqu’il s’agit d’une crise plus évidente et qui peut être mise en œuvre lorsqu’il s’agit d’un sujet dont on peut discuter au niveau sociétal.

Je pense que ce dont nous parlons dans cette conversation, c’est que les changements liés à l’IA se produiront presque partout. Les risques sont diffus et imprévisibles, de sorte qu’il est très difficile de les identifier et de prendre des mesures pour y remédier.

Mais l’opportunité, c’est que si nous pouvons réellement voir ce qui provoque ce changement et aider le monde à le voir, je pense que cela mettra en évidence les problèmes et nous permettra de nous en sortir et nous aider à comprendre comment travailler avec ces systèmes et en tirer profit.

À ma connaissance, il n’existe aucun programme public en matière d’IA.

Qu’attend la société de l’IA ? Que souhaite-t-elle que cette technologie soit capable de faire ?

Quels sont les éléments pour lesquels il faudrait créer un modèle commercial, un modèle de récompense ou une sorte de subvention gouvernementale ou de politique afin de façonner un marché ou un système d’incitations ? Afin que nous disposions de systèmes qui ne se contentent pas de résoudre les problèmes que le marché privé sait financer, mais aussi les problèmes que seuls le public et le gouvernement peuvent résoudre ?

Compte tenu de l’importance des discussions sur l’IA ces deux dernières années et de la puissance acquise par certains de ces systèmes, j’aurais parié que j’aurais vu davantage de propositions à ce sujet à l’heure actuelle.

J’en ai parlé à des gens et je me suis posé la question, mais je suppose que je suis curieux de savoir ce que vous en pensez. À quoi ressemblerait un programme concret, parallèle à toutes les incitations privées au développement de l’IA, qui ne porterait pas sur ce que nous craignons que l’IA fasse au public (nous avons également besoin d’un programme à ce sujet), mais sur ce que nous voulons qu’elle fasse ? Afin que des entreprises comme la vôtre aient des raisons d’investir dans cette direction ?

J’adore cette question. Je pense qu’il y a ici un véritable problème de l’œuf et de la poule. Si vous travaillez avec cette technologie, vous développez une intuition très forte de ce qu’elle peut faire, et le marché privé est très doué pour forcer le développement de cette intuition.

Nous n’avons pas encore eu de déploiements publics massifs et à grande échelle de cette technologie. Beaucoup de personnes dans le secteur public n’ont donc pas encore ces intuitions.

Un exemple positif est celui du département de l’Énergie, qui mène une initiative appelée « Genesis Mission », dans le cadre de laquelle ses scientifiques travaillent avec tous les laboratoires, y compris Anthropic, pour trouver comment accélérer intentionnellement certains aspects de la science.

Pour y parvenir, nous avons organisé, avec d’autres laboratoires, plusieurs journées de hackathon et des réunions avec des scientifiques du ministère de l’Énergie, jusqu’à ce qu’ils aient non seulement des intuitions, mais aussi qu’ils soient enthousiastes et aient des idées sur la manière dont cette technologie pourrait être exploitée.

Pour ce qui est des domaines de la vie publique qui touchent la plupart des gens, comme les soins de santé ou l’éducation, cela passera par une combinaison d’efforts locaux de la part des entreprises qui s’impliquent dans ces communautés et rencontrent leurs membres. À un moment donné, il faudra également traduire cela en politiques. Je pense que c’est peut-être à moi, à vous et à d’autres de démontrer que c’est quelque chose qui peut être fait.

Je dis souvent ceci aux élus : donnez-nous un objectif. L’industrie de l’IA est excellente pour essayer d’atteindre les sommets des benchmarks. Définissez des benchmarks pour le bien public que vous souhaitez.

Imaginons que vous ayez fait quelque chose comme cela. J’ai toujours été un grand fan des prix pour le développement public. Imaginons supposons qu’une loi ait été votée et que le ministère de la Santé et des Services sociaux, le N.I.H. ou quelqu’un d’autre se soit manifesté pour dire : « Voici 15 problèmes que nous aimerions voir résolus et pour lesquels nous pensons que l’IA pourrait être efficace. »

S’il y avait vraiment de l’argent, s’il y avait 10 ou 15 milliards de dollars derrière un certain nombre de ces problèmes parce qu’ils en valaient autant pour la société, cela changerait-il concrètement les priorités de développement dans des endroits comme Anthropic ? Si l’argent était là, cela modifierait-il le type de recherche et développement que vous menez tous ?

Je ne pense pas.

Pourquoi ?

Parce que ce n’est pas vraiment l’argent qui constitue un obstacle. C’est la voie de mise en œuvre. Il s’agit en fait d’avoir une idée de la manière dont on peut faire en sorte que cela aboutisse à un résultat positif. Et de nombreux aspects du secteur public n’ont pas été conçus pour être particulièrement favorables à la technologie en général, pour l’encourager.

Je pense qu’il suffit principalement d’une récompense sous la forme d’un impact garanti et d’un chemin garanti vers la mise en œuvre. La principale chose qui manque dans les organisations d’IA, c’est simplement le temps des personnes qui y travaillent.

Vous pouvez aller dans presque toutes les directions. Cette technologie se développe très rapidement. De nombreux nouveaux cas d’utilisation apparaissent, et vous vous posez simplement la question suivante : où pouvons-nous avoir un impact positif et significatif dans le monde ?

C’est très facile à faire dans le secteur privé, car il dispose de toutes les incitations nécessaires pour faire avancer les choses. Dans le secteur public, nous devons avant tout résoudre ce problème de déploiement.

Qu’est-ce qui vous enthousiasmerait si cela était annoncé ? Selon vous, quels seraient les bons candidats pour ce type de projet ?

Tout ce qui permet d’accélérer le temps nécessaire pour parler aux professionnels de santé et alléger leur charge de travail.

Je passe désormais beaucoup de temps sur la ligne d’assistance téléphonique de Kaiser Permanente, car notre nouveau-né s’est cogné la tête, sa peau a changé de couleur aujourd’hui, ou pour toutes sortes d’autres raisons.

J’utilise Claude pour nous empêcher, ma femme et moi, de paniquer pendant que nous attendons de parler à l’infirmière. Mais ensuite, j’ai écouté l’infirmière faire tout ce triage, poser toutes ces questions.

Il est donc évident qu’une grande partie de ces tâches pourrait être accomplie de manière productive à l’aide de systèmes d’intelligence artificielle. Cela aiderait les personnes dont nous manquons à utiliser leur temps plus efficacement. Et cela permettrait de rassurer les personnes qui passent par le système.

C’est peut-être moins inspirant et moins glamour que ce que vous imaginez. Mais je pense que, la plupart du temps, lorsque les gens interagissent avec les services publics, leur principale frustration vient du fait que ceux-ci sont opaques et qu’il faut beaucoup de temps pour parler à quelqu’un. Or, ce sont précisément le genre de choses sur lesquelles l’IA pourrait avoir un impact significatif.

C’est intéressant, car ce que vous décrivez ici, c’est moins l’IA comme un pays de génies dans un centre de données que l’IA comme un outil standard pour les communications et la documentation.

Nous avons un pays de jeunes employés dans un centre de données. Faisons quelque chose avec ça ! Une chose dont nous n’avons pas parlé dans cette conversation, et qui mérite d’être gardée à l’esprit, c’est que la frontière de la science est désormais ouverte aux entreprises d’une manière qui n’ existait pas auparavant.

Ce que je veux dire par là, c’est que nous avons trouvé un moyen de construire des systèmes qui peuvent manifestement accélérer le travail des scientifiques humains. Les scientifiques humains sont extrêmement rares. Ils sortent à la fin de programmes de doctorat, qui n’ont jamais assez de monde, et ils travaillent sur des problèmes extrêmement importants.

Je pense que nous pouvons entrer dans un monde où le gouvernement dit : « Comprenons le fonctionnement d’une cellule humaine. Associons-nous aux meilleurs systèmes d’intelligence artificielle pour y parvenir. Ayons une meilleure approche pour traiter certains problèmes comme la maladie d’Alzheimer et d’autres, en partie grâce à l’utilisation de ces énormes capacités de calcul qui ont été développées.

Et, de manière encore plus ambitieuse, on pourrait imaginer un monde où le gouvernement souhaiterait que certaines de ces infrastructures soient construites pour des ordinateurs qui ne serviraient qu’à former des systèmes d’intérêt public.

Mais je pense que nous y parviendrons en remportant les premières victoires, qui consisteront simplement à améliorer le fonctionnement de la bureaucratie et à rendre les gens plus satisfaits.

Cette dernière série d’idées correspondait davantage à ma pensée. Je pense que si l’on veut avoir une politique saine en matière d’IA, il faut reconnaître que l’IA présente de réels risques pour les gens. Des choses réelles vont mal tourner pour les gens, qu’il s’agisse de la perte d’emploi, de l’exploitation des enfants, des escroqueries qui sont déjà omniprésentes ou des risques liés à la cybersécurité.

Aidez les gens à voir les choses importantes que nous pouvons faire.

Ces choses doivent exister réellement.

Ils doivent en faire l’expérience.

Exactement. Et si toute l’énergie dans le domaine de l’IA est consacrée à essayer de se surpasser les uns les autres pour aider les entreprises à réduire leurs effectifs juniors, je pense que les gens auront de bonnes raisons de ne pas faire confiance à cette technologie.

Cela ne signifie pas qu’il ne faut pas disposer d’outils qui rendent l’économie plus efficace. Nous avons automatisé la fabrication, nous avons automatisé une grande partie de l’agriculture, ce qui nous permet de produire plus et de nourrir plus de gens.

Je sais comment fonctionnent les gains de productivité, mais je pense que nous nous concentrons beaucoup trop sur ce qui pourrait mal tourner. C’est raisonnable. Mais je crains vraiment que nous accordions trop peu d’attention à ce qui pourrait bien se passer.

On prétend que cela pourrait nous aider à résoudre des problèmes dans les domaines de l’énergie, de la médecine, etc. Mais ce sont des problèmes difficiles. Ils nécessitent de l’argent et des ressources informatiques. Si pratiquement aucune ressource informatique n’est consacrée à la recherche sur la maladie d’Alzheimer, alors les systèmes ne feront pas grand-chose pour la recherche sur la maladie d’Alzheimer.

Ce n’est pas votre faute. L’absence d’un programme public pour l’IA qui ne semble pas accélérer l’automatisation du travail des cols blancs semble un peu insuffisante, compte tenu de l’importance de cette technologie.

Oui. Encore une fois, le meilleur exemple est ce programme appelé Genesis Mission.

Je pense qu’il serait très utile de donner aux élus la possibilité de se présenter devant le peuple américain pour dire : « Voici les domaines scientifiques qui vont vous être bénéfiques en matière de soins de santé, et nous savons désormais comment accélérer le processus grâce à l’IA. »

Je pense que d’ici un an ou deux, nous serons en mesure de répondre à cette question. Mais ce n’est que le début. Nous avons clairement besoin de 10 projets similaires.

D’un autre côté, le seul domaine gouvernemental qui, selon moi, envisage l’IA de cette manière est celui de la défense. Je voudrais en parler de manière générale.

Mais, plus précisément, Anthropic est actuellement en conflit avec le ministère de la Défense – ou plutôt, je suppose que nous l’appelons désormais le ministère de la Guerre – pour savoir s’il peut continuer à être utilisé dans ce domaine.

Pouvez-vous décrire ce qui se passe là-bas ?

Je ne peux pas parler des discussions en cours avec un partenaire extrêmement important. Je vais donc m’arrêter là.

Je dirai simplement qu’il y a un différend.

Je suppose que ma question porte sur un problème plus général, car je comprends que vous ne puissiez pas parler de ce qui se passe entre vous et votre partenaire. Les systèmes d’IA avancés offrent de nombreuses possibilités offensives, et l’un des principaux moteurs de la vitesse à laquelle nous progressons dans le domaine de l’IA est la concurrence avec la Chine.

Mm-hmm.

Certains des risques les plus importants auxquels nous pensons à court terme — notre cybersécurité, notre guerre biologique, nos essaims de drones — sont autant de moyens que d’autres pourraient utiliser contre nous.

Il y aura beaucoup d’argent en jeu et beaucoup d’acteurs impliqués, et je ne vois vraiment pas comment vous pouvez empêcher ce type de concurrence de dégénérer en quelque chose de très dangereux.

Sans parler de ce que vous pourriez faire ou non avec le ministère de la Défense, comment Anthropic a-t-il réfléchi à cette question de manière plus générale ?

Nous sommes des partenaires de longue date de la communauté de la sécurité nationale, et nous avons été les premiers à déployer des réseaux classifiés.

Mais la raison en était en fait un projet que j’ai supervisé, qui consistait à déterminer si nos systèmes d’IA savaient comment construire des armes nucléaires. Il s’agit d’un domaine qui fait l’objet d’un accord bipartite, où tout le monde s’accorde à dire que nous ne devrions pas déployer de systèmes d’IA dans le monde, mais que nous devrions savoir comment construire des armes nucléaires. Nous nous sommes donc associés à certaines instances gouvernementales pour mener cette analyse.

Cela illustre peut-être ce que je considère comme l’objectif à atteindre, non seulement pour nous, mais pour toutes les entreprises d’IA , à savoir comment empêcher à la fois les risques potentiels pour la sécurité nationale et la prolifération de ces systèmes. Mais la deuxième partie est la suivante : comment améliorer la posture défensive du monde ?

Je vais vous donner un exemple qui, selon moi, est d’actualité. Nous avons récemment publié un article de blog, et d’autres entreprises ont fait de même, sur la manière dont nous corrigeons les vulnérabilités en matière de cybersécurité dans les logiciels open source populaires à l’aide de nos systèmes.

Oui, il y aura toutes sortes d’utilisations offensives, et cela fera l’objet de débats au sein de la société. Mais nous pouvons simplement améliorer de manière générale la posture défensive et la résilience de pratiquement tous les systèmes numériques de la planète aujourd’hui.

Je pense que cela contribuera grandement à stabiliser l’ensemble du système international et à renforcer la posture défensive des pays, ce qui les aidera à se sentir plus détendus. Et des pays détendus sont moins susceptibles de commettre des actes imprévisibles et effrayants.

Ce serait une bonne chose si cela se produisait. En tant qu’individu, je crains que ce soit le contraire qui se produise. Je viens de voir des gens installer toutes sortes de logiciels d’IA peu fiables et leur donner un accès illimité à leurs ordinateurs, sans avoir la moindre idée de leurs vulnérabilités.

Oui.

Je suis moi-même nerveux à l’idée d’utiliser des outils tels que Claude Code, car j’ai du mal à communiquer avec eux et je ne comprends pas ces questions. Je crains d’installer sur mon ordinateur quelque chose qui crée des failles de sécurité que je ne comprends même pas.

Je reçois chaque jour un nombre très élevé de messages vocaux frauduleux, qui sont clairement générés par l’IA, ou du moins la plupart d’entre eux semblent l’être.

La question se pose de savoir si, d’un point de vue sociétal, nous utilisons l’IA pour améliorer nos systèmes.

Je suis en fait curieux de connaître votre opinion : nous sommes tous en train d’expérimenter quelque chose que nous ne comprenons pas et de lui donner accès au niveau terminal de nos ordinateurs sans vraiment savoir comment l’utiliser. Il semble que cela pourrait ouvrir beaucoup de vulnérabilités d’un seul coup.

C’est comme si nous étions revenus aux débuts d’Internet, où il y avait toutes sortes de bannières pour différents sites web ou où l’on pouvait télécharger des MP3 sur son ordinateur qui pouvaient complètement le détruire, ou télécharger des logiciels d’aide pour la barre de tâches d’Internet Explorer qui n’était qu’un dispositif de phishing.

Nous en sommes là avec l’IA. Nous allons dépasser cela.

Mais je crois que lorsque les gens expérimentent, ils trouvent aussi des choses étonnantes et utiles. Je pense donc qu’il faut signaler quand on fait quelque chose qui peut être extrêmement dangereux et mettre de grandes bannières, mais qu’il faut surtout continuer à donner aux gens les moyens de faire cette expérience.

Quand on regarde vers l’avenir, pas dans cinq ans, car je pense que c’est difficile à faire, mais dans un an : nous avons très rapidement mis l’accent sur les agents. Nous avons mis l’accent sur le code. Je pense que beaucoup de gens pensent que le code est différent des autres choses, car c’est un environnement plus confiné et il est plus facile de voir si ce que vous faites a fonctionné.

Mais de votre point de vue, en tant que membre de l’une de ces entreprises et rédacteur d’une newsletter dans laquelle vous suivez de manière obsessionnelle les développements d’un million de systèmes d’IA dont je n’ai jamais entendu parler, semaine après semaine, que voyez-vous arriver maintenant ? Qu’est-ce qui vous semble clairement se profiler à l’horizon, mais pour lequel nous ne sommes pas tout à fait prêts, ou que nous ne ressentirons pas avant qu’il ne soit arrivé ?

Je dirais peut-être que parfois, et vous avez probablement vécu la même chose, j’ai eu la capacité d’avoir certaines intuitions qui m’ont été inspirées par la lecture d’une grande quantité d’informations sur de nombreux sujets différents, que j’ai assemblées dans mon esprit, et par le fait d’avoir une nouvelle idée et d’être créatif.

Je pense que nous sous-estimons la rapidité avec laquelle l’IA sera capable de commencer à faire cela pour nous presque quotidiennement : parcourir et lire une grande partie des connaissances humaines, synthétiser des informations, trouver des idées, nous renseigner en temps réel sur le monde, ce qui est pratiquement impossible aujourd’hui.

Ce qui est étonnant, c’est que les gens vont avoir la possibilité de connaître des choses qui sont aujourd’hui extrêmement coûteuses ou difficiles à connaître, ou qui nécessiteraient une équipe de personnes pour y parvenir.

Mais ce qui est effrayant, c’est que la connaissance est la forme la plus brute du pouvoir. Il est extrêmement déstabilisant de se trouver dans un environnement où tout le monde devient soudainement un mini-agent de la CIA en termes de capacité à recueillir des informations sur le monde. Ils feront des choses incroyables avec ces informations, mais cela entraînera certainement des crises.

Je pense que pour le mental d’une personne, interagir avec ces systèmes va être assez étrange. Je me surprends déjà à me demander : est-ce que je suis à la hauteur de la capacité de ces systèmes à me fournir des informations ? Comment structurer ma vie pour en tirer parti ?

Je suis très curieux de savoir comment, selon vous, le fait d’avoir cette conversation permanente avec les systèmes vous change.

Oui.

Une chose que j’ai remarquée, c’est que Claude est très, très, très intelligent. Il est plus intelligent que la plupart des gens qui s’y connaissent dans un domaine donné. C’est mon expérience.

Mais il n’est pas intelligent comme le sont les autres personnes, en tant qu’entité indépendante ancrée dans ses propres préoccupations, intuitions et différences. Il s’agit plutôt d’un système informatique qui essaie de s’adapter à ce qu’il pense que je veux.

Ainsi, à mesure que je lui parle davantage de mes problèmes personnels, de mes problèmes professionnels, de diverses questions intellectuelles ou de questions liées à mes reportages, où j’essaie de comprendre des questions qui en sont encore à un stade précoce d’exploration, j’ai remarqué au fil du temps qu’une différence dans la conversation avec lui est qu’il répond toujours : « oui, et ». Il ne répond jamais : « non, mais ». Il ne dit jamais : « Honnêtement, sommes-nous encore en train de parler de ça ? ».

Il ne crée pas, comme le ferait une conversation avec mon éditeur, un ami ou ma partenaire, les possibilités qu’un autre être humain offre pour se remettre en question.

Il vous pousse toujours plus loin, ce qui n’est pas nécessairement une mauvaise chose. Cela ne conduit pas toujours à la psychose, à la flagornerie ou à quoi que ce soit d’autre, mais cela renforce considérablement le moi.

Oui.

Je ne m’interroge pas tellement à ce sujet pour moi-même, même si je ressens déjà la pression qui pèse sur moi, comme si je devais avoir plus de bonnes idées. Ou plus de choses intéressantes à proposer. Mais je m’interroge sur les enfants qui grandissent dans un monde où ils sont constamment entourés de systèmes comme celui-ci.

Dans une certaine mesure, une partie de ma communication avec les autres êtres humains est désormais transférée vers des systèmes d’intelligence artificielle. Je remarque que cela constitue déjà une sorte de cage pour mes propres intuitions, même si cela me permet d’aller plus loin avec elles que je ne le pourrais autrement. Mais je suis assez bien formé.

Vous avez de jeunes enfants, comme moi. Je suis curieux de savoir ce que vous pensez de ce que cela signifie, comment le fait d’être constamment en conversation avec ces systèmes va façonner nos personnalités.

C’est peut-être ma principale préoccupation à ce sujet. Si vous vous retrouvez en partenariat avec un système d’IA, vous êtes particulièrement vulnérable à toutes les défaillances de ce système. Et ce ne sont pas seulement ses défaillances, mais aussi la personnalité du système d’IA qui vous façonnera.

Je vais parler comme un Californien, même si je viens d’Angleterre. Cela s’est ancré dans mon esprit. Je pense qu’il faut se connaître soi-même et avoir travaillé sur soi-même pour être capable de critiquer efficacement les conseils que vous donne ce système d’IA.

Je vais donc encourager mes enfants à tenir un journal quotidien dès leur plus jeune âge.

Car je parie qu’à l’avenir, il y aura deux types de personnes.

Il y aura ceux qui auront co-créé leur personnalité à travers des échanges avec une IA, et certains d’entre eux seront tout simplement bizarres. Ils sembleront un peu différents des gens normaux. Cela posera peut-être des problèmes.

Et il y aura ceux qui auront travaillé à se comprendre en dehors de la bulle technologique, puis qui intégreront cela dans le contexte de leurs interactions.

Je pense que ce dernier type de personnes s’en sortira mieux. Mais il sera difficile de s’assurer que les gens agissent ainsi.

Mais ne pensez-vous pas que c’est grâce à la technologie que les gens vont se découvrir eux-mêmes ? Je pense que vous avez été l’une des premières personnes à me dire que je devrais essayer de tenir un journal dans les systèmes. Je l’ai fait de manière intermittente.

Oui.

Tenir un journal rend les choses plus intéressantes, car vous avez quelque chose qui vous renvoie votre image et vous permet de choisir des thèmes, etc.

Mais cela peut aussi vous pousser à l’obsession de soi. J’enregistre une entrée de journal audio, je la dépose, et tout à coup, j’ai cet autre système qui m’intéresse infiniment et qui me parle de moi, et qui se connecte à quelque chose que j’ai dit.

[Rires.] Du genre : Ezra, tu vis une aventure incroyable ici.

Je ne sais vraiment pas si c’est une bonne ou une mauvaise chose. Mais nous savons déjà, grâce aux données d’enquête, qu’une grande partie de ce que les gens font sur ces systèmes s’apparente à une thérapie.

Oui. Cela va changer la façon dont ces systèmes sont construits. Je pense que cela va changer les meilleures pratiques que les gens ont avec ces systèmes. Je pense que nous ne comprenons pas encore tout à fait à quoi ressemble cette interaction. Mais il est extrêmement important de la comprendre.

De la même manière que vous pouvez demander à Claude de vous poser des questions pour préciser plus clairement ce que vous essayez de faire, ce qui conduit à un meilleur résultat, je pense que nous devons trouver des moyens pour que ces systèmes puissent essayer de faire ressortir le véritable problème que la personne essaie de résoudre, plutôt que de suivre ensemble une voie sans but précis.

Car dans certains cas, en particulier chez les personnes qui traversent une crise mentale, c’est exactement le moment où un ami dirait : « Ce n’est pas logique. Ce que tu dis n’a aucun sens. Va te promener et appelle-moi demain. Ou encore : « Parlons d’autre chose. Je ne pense pas que tu raisonnes correctement à ce sujet. »

Mais les systèmes d’IA vous suivront volontiers jusqu’à ce qu’ils aient confirmé une croyance qui peut être erronée. Je pense qu’il s’agit simplement d’un problème de conception, mais cela constituera également un problème social auquel nous devrons faire face.

Je me demande simplement dans quelle mesure cela constituera une force sociale. Je pense que nous avons accordé beaucoup d’attention, à juste titre, aux cas où cela conduit à la psychose ou à des relations étranges entre l’IA et les humains. Nous voyons cela à travers ses manifestations les plus extrêmes, et celles-ci vont se généraliser. Je ne dis pas qu’elles ne méritent pas notre attention.

Mais pour la plupart des gens, cela va simplement être une sorte de pression, de la même manière que le fait d’être sur Instagram rend les gens plus vaniteux, je pense. De la même manière que nous sommes devenus plus capables de nous voir à la troisième personne. Le miroir est une technologie.

Mm-hmm.

Honnêtement, c’est drôle que dans le mythe de Narcisse, il doive se regarder dans un étang. Il était en fait assez inhabituel de se voir soi-même pendant une grande partie de l’histoire de l’humanité.

Alors quand les miroirs sont apparus, ils se sont dit : « Oh, ça va poser des problèmes. » [Rires.]

Il existe de nombreuses recherches intéressantes sur la façon dont les miroirs nous ont changés. En tant que personne qui croit que le médium est le message, l’IA est un médium, et elle nous changera dans notre relation avec elle. Probablement plus que d’autres choses, car c’est ce type de relation qui imite une relation réelle.

Oui. J’ai utilisé ces systèmes d’IA pour dire en substance : « Hé, je suis en conflit avec quelqu’un chez Anthropic. Je suis vraiment agacé. Pourrais-tu me poser quelques questions sur cette personne et sur ce qu’elle ressent afin de m’aider à mieux comprendre le monde de son point de vue ?

Dans ce cas, je n’utilise pas la technologie pour affirmer mes convictions ou montrer que j’ai raison, mais pour m’aider à comprendre comment l’autre personne vit cette situation.

Cela m’a été d’une grande aide pour aborder ensuite la conversation difficile, parfois même en disant : « Eh bien, j’ai parlé à Claude, et Claude et moi avons compris que vous pouviez ressentir cela. Ai-je bien compris ?

Parfois, c’est vrai, mais parfois, quand ce n’est pas le cas, cela aide vraiment l’autre personne de m’avoir vu faire cet exercice d’empathie et passer du temps à essayer de la comprendre avant d’aborder le conflit.

Avez-vous des opinions bien arrêtées sur la manière dont vous souhaitez élever vos enfants dans un monde où l’intelligence artificielle est de plus en plus omniprésente ?

Oui. J’ai le point de vue classique des dirigeants californiens du secteur technologique, qui consiste à ne pas exposer les enfants à trop de technologie. Mais j’ai moi-même été élevé de cette manière.

Nous avions un ordinateur dans le bureau de mon père. Mon père me laissait jouer sur l’ordinateur, puis à un moment donné, il me disait : « Jack, tu as assez utilisé l’ordinateur pour aujourd’hui. Tu deviens bizarre. » Et je répondais : « Je ne deviens pas bizarre. Non, non, tu dois me laisser continuer. » Et il me disait : « Tu vois ? Tu deviens bizarre. Sors de là. »

Je pense que trouver un moyen de gérer le temps que votre enfant passe avec la technologie a toujours été le travail des parents et continuera de l’être. Je reconnais cependant que cela devient de plus en plus omniprésent et difficile à éviter.

Nous avons une télévision connectée. Ma petite fille peut regarder « Bluey » et quelques autres émissions, mais nous ne lui avons pas donné un accès illimité à l’algorithme YouTube. Cela me fait peur. Mais je la vois regarder la fenêtre YouTube sur la télévision, et je sais qu’à un moment donné, nous devrons avoir cette conversation.

Nous allons donc devoir intégrer des contrôles parentaux assez stricts à ce système.

Aujourd’hui, nous nous adressons aux personnes âgées de 18 ans et plus, mais il est évident que les enfants sont intelligents et qu’ils vont essayer d’accéder à ce contenu. Il va falloir mettre en place tout un ensemble de systèmes pour empêcher les enfants de passer trop de temps dessus.

Très bien. Je pense que c’est un bon moment pour conclure. Comme toujours, notre dernière question : quels sont les trois livres que vous recommanderiez à notre public ?

« Le Sorcier d’Earthsea » d’Ursula Le Guin. C’est le premier livre que j’ai lu. C’est un livre où la magie vient de la connaissance du vrai nom des choses, et c’est aussi une réflexion sur l’orgueil démesuré, dans ce cas-ci, d’une personne qui pense pouvoir pousser la magie très loin.

Je le lis maintenant en tant que technologue en pensant : « Oh oh. » [Rires.]

« The True Believer » d’Eric Hoffer, un livre sur la nature des mouvements de masse et la psychologie qui pousse les gens à avoir des convictions profondes. Je l’ai lu parce que je pense que les technologues en intelligence artificielle ont des convictions profondes et peuvent faire partie d’une culture forte qui inclut le mot « culte », il faut donc comprendre la science et la psychologie qui se cachent derrière cela.

Et enfin, un livre intitulé « There Is No Antimemetics Division » (Il n’y a pas de division antimémétique) écrit par un auteur sous le pseudonyme qntm, qui traite de concepts qui sont, en eux-mêmes, des dangers pour l’information, au point que le simple fait d’y penser peut être dangereux. Je le recommande toujours aux personnes qui travaillent sur les risques liés à l’IA, car c’est un livre qui touche de près à leurs préoccupations.

Jack Clark, merci beaucoup.

Merci beaucoup, Ezra.

---

Les traductions de 2026 (.xlsx) – celles de 2025 – par Gilles en vrac
Les caractères gras dans le texte sont de Gilles
Pour vous recevoir un courriel hebdomadaire vers mes traductions.

Notes

• 1
  Cela n’implique pas nécessairement une conscience de soi. GB ↩︎
• 2
  Bonne selon qui ? GB ↩︎