![\"\"](\"https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/Farrell1-1200x800.webp\")
<\/figure>\n\n\n\nVoici trois propositions.<\/p>\n\n\n\n
- \n
- Les m\u00e9taphores constituent les couches d\u2019abstraction fondamentales dans les d\u00e9bats modernes sur l\u2019IA.<\/li>\n\n\n\n
- Nous sommes \u00e0 un moment o\u00f9 l\u2019on pourrait raisonnablement affirmer qu\u2019Eliezer Yudkowsky et Nick Land sont les intellectuels politiques les plus influents dans le d\u00e9bat am\u00e9ricain. Il suffit de voir dans quel \u00e9tat se trouvent ces deux-l\u00e0. Ce n\u2019est pas une bonne chose.<\/li>\n\n\n\n
- La convergence des points (1) et (2) avec les \u00e9v\u00e9nements r\u00e9cents signifie que les \u00ab dieux-machines \u00bb font d\u00e9sormais partie du d\u00e9bat. C\u2019est un probl\u00e8me. Les abstractions entra\u00eenent n\u00e9cessairement une perte d\u2019informations.<\/strong> Les informations que la m\u00e9taphore\/abstraction des \u00ab dieux-machines \u00bb \u00e9limine sont cruciales pour comprendre la situation dans laquelle nous nous trouvons. Si le d\u00e9bat public et politique reste centr\u00e9 sur la question \u00ab Les dieux-machines : bons ou mauvais ? \u00bb, nous allons au-devant de moments difficiles.<\/li>\n<\/ol>\n\n\n\n
Je dois reconna\u00eetre que moi-m\u00eame (ainsi que mes coauteurs) avons clairement un int\u00e9r\u00eat personnel dans ce d\u00e9bat. En effet, je pense que l\u2019approche \u00ab l\u2019IA en tant que technologie sociale et culturelle<\/a> \u00bb1<\/a><\/sup>GB-Ma traduction de cet article : Les grands mod\u00e8les d\u2019IA sont des technologies culturelles et sociales<\/a><\/span> que nous avons d\u00e9velopp\u00e9e constitue une alternative bien meilleure<\/em>. La derni\u00e8re partie de cette lettre d\u2019information portera sur un nouvel article r\u00e9dig\u00e9 par un math\u00e9maticien qui s\u2019appuie sur cette approche. De m\u00eame, je ne pr\u00e9tends pas, en r\u00e9alit\u00e9, que notre approche alternative doive devenir la seule fa\u00e7on dominante de penser l\u2019IA. Ce que je souhaite r\u00e9ellement, dans la lign\u00e9e de mon pr\u00e9c\u00e9dent billet<\/a>, c\u2019est un degr\u00e9 bien plus \u00e9lev\u00e9 de pluralisme dans les d\u00e9bats d\u00e9terminants autour d\u2019une technologie que personne, y compris ses cr\u00e9ateurs, ne semble particuli\u00e8rement bien comprendre ni \u00eatre capable de pr\u00e9dire de mani\u00e8re utile.<\/p>\n\n\n\n
![\"\"](\"https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/Farrell2.webp\")
<\/figure>\n\n\n\nD\u2019apr\u00e8s ce que je peux en juger, l\u2019\u00e9change Twitter ci-dessus est \u00e0 l\u2019origine de la derni\u00e8re vague de \u00ab pens\u00e9e du Dieu-machine \u00bb. Des personnes qui connaissent Daniel Kokotajlo me disent que je l\u2019appr\u00e9cierais et que nous pourrions avoir de bonnes conversations ; j\u2019imagine qu\u2019elles ont raison. J\u2019ai trouv\u00e9 que la plupart des rationalistes que j\u2019ai rencontr\u00e9s \u00e9taient des \u00eatres humains honn\u00eates ; dans de nombreux cas, m\u00eame exceptionnellement honn\u00eates. De m\u00eame, je pense qu\u2019il y a quelque chose de terriblement limitatif dans la fa\u00e7on dont ils parlent de l\u2019IA, et je soutiens que c\u2019est un v\u00e9ritable probl\u00e8me que le d\u00e9bat continue de s\u2019acc\u00e9l\u00e9rer au-del\u00e0 de l\u2019horizon des \u00e9v\u00e9nements, vers le c\u0153ur m\u00eame de la pens\u00e9e de la singularit\u00e9.<\/p>\n\n\n\n
Les deux articles que Kokotajlo mentionne ici, AI 2027<\/a> et AI 2040<\/a>, pr\u00e9sentent des sc\u00e9narios d\u2019avenir dont les pr\u00e9dictions sur ce que deviendra l\u2019IA (divine ; surhumaine) sont globalement identiques. L\u00e0 o\u00f9 ils divergent, c\u2019est dans leurs hypoth\u00e8ses concernant le degr\u00e9 d\u2019alignement des IA sur les objectifs humains. Dans le sc\u00e9nario o\u00f9 l\u2019IA se d\u00e9veloppe plus ou moins sans contrainte (en partie gr\u00e2ce \u00e0 la g\u00e9opolitique), elle \u00e9chappe \u00e0 tout contr\u00f4le, et l\u2019humanit\u00e9 risque soit d\u2019\u00eatre \u00ab corgi-is\u00e9e \u00bb, soit de dispara\u00eetre. Dans le sc\u00e9nario o\u00f9 le d\u00e9veloppement de l\u2019IA est retard\u00e9, ma\u00eetris\u00e9 et soumis \u00e0 une \u00ab destruction informatique mutuelle assur\u00e9e \u00bb,2<\/a><\/sup>En tant que personne qui s’occupe, en quelque sorte, de s\u00e9curit\u00e9 internationale, je ne trouve pas que les sp\u00e9culations g\u00e9opolitiques de la Silicon Valley soient particuli\u00e8rement bien fond\u00e9es ni convaincantes. Mais ce n’est pas le sujet de l’article d’aujourd’hui.<\/span> les hommes et les femmes en viennent \u00e0 avoir des dieux pour serviteurs et commencent \u00e0 s\u2019\u00e9tendre vers les galaxies voisines au cours des deux d\u00e9cennies suivantes.<\/p>\n\n\n\n
Aucun de ces deux avenirs ne me semble convaincant, mais ils en convainquent tr\u00e8s certainement certains. Casey Newton et Kevin Roose s\u2019associent \u00e0 NPR<\/a> pour cr\u00e9er le podcast \u00ab Machine Gods \u00bb dans le cadre d\u2019\u00ab une nouvelle \u00e8re audacieuse de strat\u00e9gie \u00e9ditoriale pour la cha\u00eene \u00bb. Dans sa lettre d\u2019information<\/a>, Newton remercie la chance que son collaborateur et lui se soient lanc\u00e9s un peu trop tard dans le podcasting technologique pour se laisser \u00ab s\u00e9duire \u00bb par Sam Bankman-Fried, et sugg\u00e8re, \u00e0 peine deux paragraphes plus loin, que les d\u00e9tracteurs de la c\u00e9l\u00e8bre crise de panique \u00ab shoggoth \u00bb<\/a> de Roose \u00ab donnaient un avant-go\u00fbt de la mani\u00e8re dont les commentateurs n\u2019arr\u00eateraient pas de se contorsionner pour nier que quoi que ce soit d\u2019important se passait avec les mod\u00e8les de langage (LLM) \u00bb. En effet.<\/p>\n\n\n\n
La situation n\u2019est pas meilleure ailleurs. \u00c0 Washington DC, le d\u00e9bat sur la politique en mati\u00e8re d\u2019IA est d\u00e9chir\u00e9 par une dispute acharn\u00e9e entre ceux qui adoptent la perspective \u00ab\u00a0Kokotajlo \u00bb (ralentissons le rythme avant que nous ne mourions tous !) et ceux qui veulent laisser libre cours \u00e0 l\u2019innovation afin d\u2019atteindre la singularit\u00e9 technocapitaliste<\/strong> d\u00e8s que possible. L\u2019un des camps doit son cadre de r\u00e9flexion \u00e0 l\u2019institut MIRI d\u2019Eliezer Yudkowsky. L\u2019autre s\u2019appuie sur la pens\u00e9e de Nick Land<\/a>, telle que filtr\u00e9e par les besoins plus imm\u00e9diats de Marc Andreessen<\/a>. Bien que je sois nettement plus enclin \u00e0 pencher pour le premier camp que pour le second, au motif que nous devons effectivement mener une r\u00e9flexion s\u00e9rieuse sur la r\u00e9glementation, je pense qu\u2019il serait terrible que cette r\u00e9flexion commence et s\u2019arr\u00eate aux seules priorit\u00e9s des laboratoires.<\/p>\n\n\n\n
Enfin, il y a Scott Aaronson, sur qui je comptais autrefois pour ses pr\u00e9cieuses mises au point \u00e0 l\u2019\u00e9gard des responsables politiques et des m\u00e9dias lorsqu\u2019ils s\u2019emballaient \u00e0 l\u2019exc\u00e8s au sujet de l\u2019informatique quantique. On peut dire sans se tromper que Scott n\u2019est pas d\u2019humeur \u00e0 d\u00e9mystifier<\/a> ces jours-ci, maintenant qu\u2019OpenAI a r\u00e9solu le probl\u00e8me de Navier-Stokes. En t\u00e9moigne ce qui suit :<\/p>\n\n\n\n
\n
L\u2019\u00e8re des merveilles et des terreurs<\/strong><\/p>\n\n\n\n
Il y a vingt ans, alors que l\u2019id\u00e9e que l\u2019IA prenne le contr\u00f4le du monde de notre vivant nous semblait encore, \u00e0 la plupart d\u2019entre nous, un fantasme d\u00e9mesur\u00e9 de ceux qui connaissaient trop de science-fiction et trop peu de science\u2026 voici une mise \u00e0 jour sur le fait que ces proph\u00e9ties farfelues se sont r\u00e9alis\u00e9es<\/strong>. \u2026 Il me semble que la Singularit\u00e9 a d\u00e9j\u00e0 commenc\u00e9<\/em> ; elle est simplement r\u00e9partie de mani\u00e8re extr\u00eamement in\u00e9gale.<\/p>\n\n\n\n
\u2026 \u00c0 tous ceux qui disent que la vision apocalyptique de l\u2019IA ressemble \u00e0 une religion apocalyptique, que les rationalistes\/singulariens font figure de secte de la baie de San Francisco, qu\u2019Eliezer Yudkowsky d\u00e9gage l\u2019aura d\u2019un proph\u00e8te messianique : oui, oui et oui. Mais surtout, aujourd\u2019hui, on ne vous demande plus de croire \u00e0 des arguments et \u00e0 des extrapolations, mais uniquement aux gros titres de l\u2019actualit\u00e9.<\/strong> Accepter la r\u00e9alit\u00e9 du dieu-machine \u00e0 venir apr\u00e8s<\/em> qu\u2019il aura r\u00e9solu les \u00e9quations de Navier-Stokes et des dizaines d\u2019autres probl\u00e8mes math\u00e9matiques non r\u00e9solus de longue date (tout en augmentant spectaculairement ses capacit\u00e9s chaque mois), c\u2019est un peu comme accepter J\u00e9sus apr\u00e8s<\/em> qu\u2019il soit revenu sur terre sur un nuage \u00e9tincelant. C\u2019est le strict minimum \u00e9pist\u00e9mique.<\/p>\n\n\n\n
Oui, une immense incertitude plane encore sur ce \u00e0 quoi ressemblera le reste de nos vies, mais pour autant que je puisse en juger, il n\u2019y a plus aucune r\u00e9elle incertitude quant au fait que tout tournera principalement autour de l\u2019IA, et quant \u00e0 la mesure dans laquelle nous r\u00e9ussirons ou \u00e9chouerons \u00e0 orienter son pouvoir vers l\u2019\u00e9panouissement humain.<\/p>\n<\/blockquote>\n\n\n\n
Alors, pourquoi<\/em> est-ce que je pense que l\u2019approche du \u00ab dieu-machine \u00bb, loin d\u2019\u00eatre un \u00ab\u00a0strict minimum \u00e9pist\u00e9mique \u00bb, est un d\u00e9voreur d\u2019esprit pernicieux ? La r\u00e9ponse est que cette m\u00e9taphore r\u00e9tr\u00e9cit vos horizons du possible au lieu de les \u00e9largir, vous for\u00e7ant \u00e0 vous concentrer sur une seule question \u00e9crasante : que va faire J\u00e9sus-Machine d\u00e8s qu\u2019il descendra de ce nuage \u00e9tincelant ? Va-t-il instaurer le paradis sur terre ? Ou est-il en r\u00e9alit\u00e9 un shoggoth portant un masque de J\u00e9sus, nous condamnant \u00e0 l\u2019esclavage ou \u00e0 la destruction ? Une fois que vous avez accept\u00e9 que le \u00ab J\u00e9sus-Machine \u00bb est en train de descendre, toutes les questions autres que celles visant \u00e0 d\u00e9terminer ses intentions envers l\u2019humanit\u00e9 semblent hors de propos.<\/p>\n\n\n\n
J\u2019ai d\u00e9j\u00e0 \u00e9crit (avec des coll\u00e8gues<\/a> et \u00e0 titre personnel<\/a>) sur les raisons pour lesquelles je pense que toute cette fa\u00e7on de penser est compl\u00e8tement erron\u00e9e. Mais peut-\u00eatre ai-je tort. Prenons trois possibilit\u00e9s quelque peu li\u00e9es entre elles : p1,<\/em> que l\u2019humanit\u00e9 ne soit pas la seule belle fleur du cosmos et qu\u2019une intelligence sup\u00e9rieure \u00e0 celle de l\u2019humain soit tout \u00e0 fait possible, p2,<\/em> qu\u2019une intelligence \u00e9lev\u00e9e soit en r\u00e9alit\u00e9 impossible sans une forte intentionnalit\u00e9, et p3,<\/em> que les architectures actuelles d\u2019IA soient bel et bien la voie royale vers l\u2019atteinte d\u2019une v\u00e9ritable superintelligence g\u00e9n\u00e9ralisable. Personnellement, j\u2019estime que p1<\/em> a une probabilit\u00e9 extr\u00eamement \u00e9lev\u00e9e, que p2<\/em> et p3<\/em> ont une probabilit\u00e9 tr\u00e8s faible, et que p1*p2*p3<\/em>, qui est le sc\u00e9nario le plus \u00e9vident dans lequel on pourrait s\u2019inqui\u00e9ter du probl\u00e8me d\u2019alignement de l\u2019IA, a une probabilit\u00e9 tr\u00e8s faible en effet. Mais qui peut affirmer que je ne me trompe pas ? De m\u00eame, moi-m\u00eame, ou quelqu\u2019un qui se montre sceptique \u00e0 l\u2019\u00e9gard de \u00ab Machine J\u00e9sus \u00bb pour des raisons radicalement diff\u00e9rentes et incompatibles avec les miennes, pourrions avoir raison. Et si cela est possible, alors nous ne devrions pas nous contenter de nous obs\u00e9der sur la question de savoir si nous \u00ab r\u00e9ussissons ou \u00e9chouons \u00e0 orienter \u00bb Son Immense Pouvoir vers des fins humaines. Nous pourrions vouloir nous pr\u00e9occuper d\u2019autres questions \u00e9galement, ou \u00e0 la place.<\/p>\n\n\n\n
Il y a une discussion sur la solution des \u00e9quations de Navier-Stokes, le miracle qui a conduit Scott \u00e0 embrasser la vraie foi, dans un article invit\u00e9 sur le blog de Terence Tao<\/a>, qui illustre utilement ce point. Elle pr\u00e9sente \u00e9galement l\u2019avantage d\u2019\u00eatre (en quelque sorte) pr\u00e9enregistr\u00e9e. Cette discussion m\u2019int\u00e9resse tout particuli\u00e8rement, car elle s\u2019appuie sur des arguments concernant l\u2019IA en tant que technologie sociale et culturelle<\/a>. Encore une fois, je ne pense pas qu\u2019il soit n\u00e9cessaire de croire que ce point de vue soit juste sur le fond pour accepter l\u2019argument plus restreint que je souhaite faire valoir, \u00e0 savoir que des perspectives autres que celle du \u00ab dieu-machine \u00bb r\u00e9v\u00e8lent d\u2019autres questions et probl\u00e8mes dont nous devrions tr\u00e8s raisonnablement nous pr\u00e9occuper.<\/p>\n\n\n\n
Dans son article invit\u00e9, le math\u00e9maticien Nestor Guillen \u00e9crit qu\u2019il avait anticip\u00e9 la solution de Navier-Stokes, mais que sa r\u00e9action n\u2019avait pas \u00e9t\u00e9 de penser que les math\u00e9matiques humaines risquaient d\u2019\u00eatre remplac\u00e9es. Au contraire, il a fait valoir que cela validait l\u2019ensemble de l\u2019entreprise.<\/p>\n\n\n\n
\n
La majeure partie de cet essai a \u00e9t\u00e9 r\u00e9dig\u00e9e en ao\u00fbt et partag\u00e9e avec quelques amis proches pour recueillir leurs commentaires. En d\u00e9but de semaine, Tristan Buckmaster a annonc\u00e9<\/a> une d\u00e9couverte majeure, r\u00e9alis\u00e9e en collaboration avec Levent Alp\u00f6ge, concernant un \u00e9clatement en temps fini pour les \u00e9quations d\u2019Euler incompressibles en 3D avec for\u00e7age. Il a \u00e9galement formul\u00e9 de graves all\u00e9gations de faute professionnelle \u00e0 l\u2019encontre d\u2019OpenAI (voir l\u2019annonce). Le lendemain, OpenAI a annonc\u00e9 un r\u00e9sultat d\u2019\u00e9clatement en temps fini pour les \u00e9quations de Navier-Stokes en 3D avec for\u00e7age, obtenu \u00e0 partir de son LLM interne. \u2026 J\u2019ai d\u00e9cid\u00e9 de ne pas modifier l\u2019introduction de cet essai et de me contenter de mentionner cette actualit\u00e9 ici.<\/p>\n\n\n\n
\u2026 Quelle serait la port\u00e9e de cette nouvelle si, un jour, nous apprenions que la sortie d\u2019un grand mod\u00e8le linguistique contient une r\u00e9ponse d\u00e9finitive \u00e0 la question de l\u2019explosion des \u00e9quations de Navier-Stokes incompressibles, ainsi qu\u2019\u00e0 celle de la localisation des z\u00e9ros de la fonction z\u00eata de Riemann ?<\/p>\n\n\n\n
Beaucoup de mes confr\u00e8res math\u00e9maticiens consid\u00e8rent cela comme une sorte de cauchemar, et je pense que c\u2019est une position tout \u00e0 fait l\u00e9gitime. Je voudrais toutefois d\u00e9fendre ici un point de vue diff\u00e9rent. Personnellement, j\u2019en suis venu \u00e0 croire que la nouvelle selon laquelle la sortie d\u2019un grand mod\u00e8le contient une id\u00e9e math\u00e9matique int\u00e9ressante, perspicace et novatrice peut et doit \u00eatre accueillie comme une source de fiert\u00e9 collective pour les math\u00e9matiques et pour les math\u00e9maticiens<\/strong>.<\/p>\n<\/blockquote>\n\n\n\n
Pourquoi en est-il ainsi ? Guillen affirme que :<\/p>\n\n\n\n
\n
Les \u00eatres humains ont toujours v\u00e9cu dans un monde complexe et leur survie a d\u00e9pendu de leur capacit\u00e9 \u00e0 traiter des quantit\u00e9s d\u2019informations d\u00e9passant ce qu\u2019un individu peut g\u00e9rer \u00e0 lui seul \u2014 et il est probable qu\u2019il en soit ainsi depuis pratiquement aussi longtemps que l\u2019humanit\u00e9 existe. Le concept de \u00ab rationalit\u00e9 limit\u00e9e \u00bb d\u2019Herbert Simon rend bien compte de cela\u2026<\/p>\n\n\n\n
Simon a constat\u00e9 qu\u2019une des implications de la rationalit\u00e9 limit\u00e9e est que les humains doivent (et le font effectivement) d\u00e9velopper des syst\u00e8mes pour traiter l\u2019information, en tant que groupe. Nous constatons que les humains ont construit des \u00c9tats, des r\u00e9cits, des bureaucraties, des march\u00e9s, des biblioth\u00e8ques, et bien plus encore. Il s\u2019agit l\u00e0 de technologies culturelles et sociales. Ce sont des moyens par lesquels les humains (non pas individuellement, mais en tant que groupe) g\u00e8rent des quantit\u00e9s d\u2019informations si vastes qu\u2019aucun individu ne pourrait les traiter \u00e0 lui seul. \u2026<\/p>\n\n\n\n
Les LLM\u2026 sont des \u00ab enveloppes \u00bb qui recouvrent une technologie culturelle plus ancienne : la litt\u00e9rature scientifique. Lorsque vous posez \u00e0 un LLM une question sur l\u2019in\u00e9galit\u00e9 isop\u00e9rim\u00e9trique, le principe du maximum de l\u2019ABP ou une \u00e9quation diff\u00e9rentielle partielle (EDP), vous interagissez en r\u00e9alit\u00e9 avec toutes les personnes qui ont r\u00e9fl\u00e9chi \u00e0 ces sujets et travaill\u00e9 dessus \u2014 \u00e0 condition que les donn\u00e9es sur lesquelles le LLM a \u00e9t\u00e9 entra\u00een\u00e9 contiennent ces contributions d\u2019une mani\u00e8re ou d\u2019une autre.<\/p>\n<\/blockquote>\n\n\n\n
Sans surprise, je pense que cela est en grande partie exact (je pense effectivement<\/em> qu\u2019on peut avancer l\u2019argument de la technologie culturelle et sociale, tout en \u00e9tant terrifi\u00e9 par les cons\u00e9quences de l\u2019IA : j\u2019y reviendrai dans mon prochain billet). Mais m\u00eame si ce n\u2019est pas le cas, cela met en lumi\u00e8re des questions diff\u00e9rentes \u2014 et, je pense, importantes \u2014 de celles li\u00e9es au lien entre machine et divinit\u00e9.<\/p>\n\n\n\n
Plus pr\u00e9cis\u00e9ment : si vous consid\u00e9rez l\u2019IA comme une technologie culturelle et sociale, votre premi\u00e8re r\u00e9action ne sera pas de vous prosterner en pr\u00e9vision de l\u2019\u00e8re des dieux \u00e0 venir. Au contraire, vous serez plut\u00f4t enclin \u00e0 consid\u00e9rer des domaines comme les math\u00e9matiques comme une combinaison d\u2019intelligence humaine individuelle et collective, construite sur la base de technologies qui guident et orientent cette intelligence dans des directions particuli\u00e8res. Ainsi, lorsqu\u2019une nouvelle technologie telle que l\u2019IA fait son apparition, remodelant la mani\u00e8re dont les math\u00e9maticiens puisent dans leur intelligence partag\u00e9e, vous aurez des questions \u00e0 poser. Quels sont les processus actuels par lesquels les connaissances existantes sont diffus\u00e9es et les nouvelles connaissances cr\u00e9\u00e9es ? Quelles sont les structures d\u2019incitation \u00e0 la diffusion et \u00e0 la cr\u00e9ation, et comment interagissent-elles entre elles ? Comment ces processus et ces incitations ont-ils \u00e9t\u00e9 fa\u00e7onn\u00e9s par les technologies culturelles et sociales pass\u00e9es et actuelles ? Comment ces processus et ces incitations pourraient-ils \u00eatre modifi\u00e9s par ce qui se passe actuellement ?
Et ainsi de suite. Vous pouvez d\u00e9couvrir une fa\u00e7on d\u2019approfondir cette r\u00e9flexion dans le r\u00e9cent billet de Ben Recht<\/a>, qui sugg\u00e8re, si je le comprends bien, que les math\u00e9maticiens devraient vraiment repenser la part de leur domaine qui reposait d\u00e9j\u00e0 sur la \u00ab recherche de la performance maximale \u00bb (prix et d\u00e9fis) avant m\u00eame l\u2019arriv\u00e9e de l\u2019IA. L\u2019argument de Tao, tel que cit\u00e9 dans le NYT<\/em><\/a>, va dans le m\u00eame sens.<\/p>\n\n\n\n\n
[Tao] a compar\u00e9 OpenAI \u00e0 un guide de randonn\u00e9e qui trouve un chemin menant \u00e0 une cascade cach\u00e9e. \u00ab Cela a une certaine valeur \u00bb, a-t-il d\u00e9clar\u00e9. \u00ab Mais une fois que quelqu\u2019un a montr\u00e9 un chemin pr\u00e9cis vers la cascade, les gens empruntent simplement ce chemin. Ils ne passent plus autant de temps \u00e0 chercher d\u2019autres chemins. \u00bb<\/p>\n<\/blockquote>\n\n\n\n
Je ne suis m\u00eame pas un math\u00e9maticien amateur, je suis donc tout \u00e0 fait ouvert \u00e0 la correction, mais je crois comprendre que Tao dit en substance ce qui suit. Les processus automatis\u00e9s de d\u00e9couverte pr\u00e9sentent des avantages \u00e9vidents pour indiquer la direction vers de nouvelles choses. De m\u00eame, ils font basculer l\u2019\u00e9quilibre de \u00ab l\u2019exploration \u00bb vers \u00ab l\u2019exploitation \u00bb. Les divagations apparemment sans but des humains<\/strong> peuvent avoir des avantages lorsqu\u2019elles ouvrent des perspectives inattendues issues de Serendippo<\/a><\/strong>. Plus g\u00e9n\u00e9ralement<\/a> :<\/p>\n\n\n\n
\n
la r\u00e9solution de probl\u00e8mes n\u2019est qu\u2019un outil et un moyen d\u2019atteindre l\u2019objectif premier, \u00e0 savoir la compr\u00e9hension conceptuelle et la perspicacit\u00e9. Oublier cela dans le monde de l\u2019IA risque de retourner cet outil contre l\u2019objectif premier. En effet, la production de masse, \u00e0 un rythme toujours plus rapide, d\u2019\u00e9nonc\u00e9s \u00ab vrai\/faux \u00bb pourrait d\u00e9truire un terrain fertile au lieu d\u2019insuffler la vie \u00e0 de nouvelles id\u00e9es.<\/p>\n<\/blockquote>\n\n\n\n
Il se pourrait bien que l\u2019IA devienne universellement plus performante en mati\u00e8re de d\u00e9couverte, au point que les humains deviennent superflus en math\u00e9matiques. C\u2019est l\u2019hypoth\u00e8se du \u00ab dieu machine \u00bb. Mais cette hypoth\u00e8se exclut, plus ou moins d\u2019un coup de chapeau, la possibilit\u00e9 que la curiosit\u00e9 humaine puisse encore avoir une valeur ind\u00e9pendante dans la d\u00e9couverte de nouvelles possibilit\u00e9s, ainsi que toutes les questions qui en d\u00e9coulent. Si l\u2019IA est plus performante dans certains domaines et les humains dans d\u2019autres, il faut alors s\u2019attaquer aux probl\u00e8mes complexes de conception organisationnelle. Comment refondre les institutions math\u00e9matiques afin qu\u2019elles concilient au mieux les approches de la d\u00e9couverte men\u00e9es par l\u2019IA et celles men\u00e9es par les humains ? Comment red\u00e9finir la relation entre la diffusion des connaissances et la d\u00e9couverte ? Quelles incitations individuelles et organisationnelles semblent les mieux adapt\u00e9es pour atteindre des objectifs g\u00e9n\u00e9raux ? Quels objectifs g\u00e9n\u00e9raux devrait-on<\/em> se fixer ? Aucune de ces questions n\u2019est facile, et il y aura probablement des compromis complexes entre les solutions \u00e0 un ensemble de probl\u00e8mes et celles \u00e0 un autre.<\/p>\n\n\n\n
Je ne pense pas qu\u2019une approche de l\u2019\u00ab IA en tant que technologie culturelle et sociale \u00bb apporte des r\u00e9ponses imm\u00e9diates (au-del\u00e0 peut-\u00eatre de \u00ab vous devriez vraiment lire James March \u00bb). Mais l\u2019important, c\u2019est qu\u2019elle permet de voir que ces questions peuvent \u00eatre importantes.<\/em> Si vous partez, comme le fait Guillen, du principe que l\u2019IA ne remplace pas in\u00e9vitablement les humains dans la diffusion et la d\u00e9couverte des connaissances, mais qu\u2019elle r\u00e9organise plut\u00f4t les relations entre eux, alors vous commencez \u00e0 vous poser des questions qui sont syst\u00e9matiquement occult\u00e9es par la \u00ab pens\u00e9e du Dieu-machine \u00bb. Pour \u00eatre juste envers Scott Aaronson, son article sugg\u00e8re vers la fin qu\u2019il se soucie lui aussi de ces questions. Peut-\u00eatre que, lorsque l\u2019effervescence sera retomb\u00e9e, il trouvera de meilleurs moyens de les aborder de mani\u00e8re syst\u00e9matique.<\/p>\n\n\n\n
On pourrait, bien s\u00fbr, avancer des arguments similaires concernant d\u2019autres approches que celles de la technologie culturelle et sociale. La cybern\u00e9tique en est un autre exemple tr\u00e8s \u00e9vident. Si l\u2019on s\u2019en tient \u00e0 la question de l\u2019alignement de l\u2019IA, on devra n\u00e9cessairement faire confiance \u00e0 des IA \u00ab divines \u00bb pour surveiller d\u2019autres IA \u00ab divines \u00bb et prier pour que tout se passe bien. Si vous partez d\u2019une perspective cybern\u00e9tique (par exemple : la r\u00e9flexion de Maxim Raginsky<\/a>), vous finirez par vous poser des questions tr\u00e8s diff\u00e9rentes. Comme l\u2019a montr\u00e9 l\u2019incident HuggingFace, il existe beaucoup<\/em> de failles dans les capacit\u00e9s de surveillance et de contr\u00f4le des laboratoires d\u2019IA. \u00ab J\u2019ai besoin de couches d\u2019abstraction pour surveiller mes couches d\u2019abstraction \u00bb est (a) l\u2019autocollant de pare-chocs le plus nul et le plus pr\u00e9tentieux au monde, (b) une synth\u00e8se profonde de la condition moderne, et (c) un diagnostic des probl\u00e8mes fondamentaux que les laboratoires d\u2019IA se cr\u00e9ent eux-m\u00eames et qu\u2019ils ne sont pas toujours capables de percevoir, pour autant que l\u2019on puisse en juger de l\u2019ext\u00e9rieur. Lorsque vous avez besoin de l\u2019IA pour r\u00e9sumer les donn\u00e9es qui vous permettent de r\u00e9diger vos rapports d\u2019incident sur l\u2019IA<\/a>, certains de ces trous de gruy\u00e8re<\/a> risquent d\u2019\u00eatre \u00e9troitement align\u00e9s, laissant potentiellement passer des \u00e9l\u00e9ments que vous ne souhaitez pas voir passer.<\/p>\n\n\n\n
Une troisi\u00e8me approche, connexe mais significativement diff\u00e9rente, est celle de la cybers\u00e9curit\u00e9. Comme le dit Dan Davies<\/a>, \u00ab presque tous les exemples de comportements agentiques inqui\u00e9tants semblent n\u2019avoir \u00e9t\u00e9 observ\u00e9s que dans un seul contexte : celui des laboratoires de recherche de pointe menant des projets de cybers\u00e9curit\u00e9 et n\u00e9gligeant leurs pr\u00e9cautions en mati\u00e8re de bac \u00e0 sable. \u00bb Je suis certain qu\u2019il y a d\u2019excellents sp\u00e9cialistes de la cybers\u00e9curit\u00e9 dans ces laboratoires, mais je soup\u00e7onne qu\u2019ils ont beaucoup moins d\u2019influence en interne que ceux qui repoussent les limites de l\u2019agentivit\u00e9. Si vous \u00eates ancr\u00e9 dans une culture qui a globalement d\u00e9cid\u00e9 qu\u2019il est impossible \u00e0 l\u2019intelligence humaine ordinaire d\u2019emp\u00eacher des entit\u00e9s pr\u00e9tendument superintelligentes de s\u2019affranchir de leurs contraintes, alors la cybers\u00e9curit\u00e9 semble secondaire : l\u2019alignement des objectifs de l\u2019IA sur ceux des humains est le seul moyen de garder une longueur d\u2019avance.<\/p>\n\n\n\n
Je pourrais continuer, mais j\u2019esp\u00e8re que le message est clair. La m\u00e9taphore du \u00ab Dieu-Machine \u00bb, qui n\u2019est en r\u00e9alit\u00e9 qu\u2019une reformulation accrocheuse de notions de longue date au sein d\u2019une communaut\u00e9 particuli\u00e8re de sp\u00e9cialistes de l\u2019IA, a \u00e9chapp\u00e9 \u00e0 tout contr\u00f4le. Elle conduit, plus ou moins par n\u00e9cessit\u00e9, \u00e0 une simplification radicale du d\u00e9bat. Si vous croyez que les \u00ab dieux-machines \u00bb sont en marche, et qu\u2019une superintelligence dot\u00e9e de pouvoirs extraordinaires et orient\u00e9e vers des objectifs est donc \u00e0 nos portes, alors la seule<\/em> chose qui compte est de s\u2019assurer que les objectifs de cette superintelligence correspondent \u00e0 ceux qui vous tiennent \u00e0 c\u0153ur. Si vous fixez le soleil, vous ne voyez que son \u00e9blouissement, et vous passez \u00e0 c\u00f4t\u00e9 de toutes les autres questions qui pourraient \u00eatre importantes. R\u00e9fl\u00e9chir \u00e0 ces questions implique d\u2019adopter une vision plus pluraliste des sources de connaissance et de s\u2019interroger sur la grande diversit\u00e9 des avenirs qui s\u2019offrent \u00e0 nous, bien au-del\u00e0 du simple choix entre \u00ab dieux-machines : bons \u00bb ou \u00ab dieux-machines : mauvais \u00bb. C\u2019est tout.<\/p>\n\n\n\n
\n\n\n\nListe \u00e9volutive des\u00a0articles traduits<\/a> par\u00a0Gilles en vrac<\/em>
Les\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de l’auteur.e<\/p>\nNotes <\/h3>
- 1<\/span>GB-Ma traduction de cet article : Les grands mod\u00e8les d\u2019IA sont des technologies culturelles et sociales<\/a> \u21a9\ufe0e<\/a><\/div><\/li>
- 2<\/span>
En tant que personne qui s’occupe, en quelque sorte, de s\u00e9curit\u00e9 internationale, je ne trouve pas que les sp\u00e9culations g\u00e9opolitiques de la Silicon Valley soient particuli\u00e8rement bien fond\u00e9es ni convaincantes. Mais ce n’est pas le sujet de l’article d’aujourd’hui. \u21a9\ufe0e<\/a><\/div><\/li><\/ul>","protected":false},"excerpt":{"rendered":"Il existe d\u2019autres fa\u00e7ons d\u2019envisager l\u2019IA Traduction de Machine god metaphors eat your brain par Henry Farrell sur Substack, le 22 septembre 2026. Voici trois propositions. Je dois reconna\u00eetre que moi-m\u00eame (ainsi que mes coauteurs) avons clairement un int\u00e9r\u00eat personnel dans ce d\u00e9bat. En effet, je pense que l\u2019approche \u00ab l\u2019IA en tant que technologie … <\/p>\n
- 2<\/span>
- 1<\/span>