Notre esprit n’a pas évolué pour l’IA

L’IA, c’est de la « malbouffe mentale » : savoureuse et tentante, mais finalement malsaine — un hot-dog cognitif

Traduction de Our minds did not evolve for AI par Benjamin Riley, le 12 octobre 2026.

L’essai suivant a été publié la semaine dernière dans The Verge, après plusieurs mois de travail. Je tiens à remercier le rédacteur en chef Adi Robertson ainsi que l’ensemble de l’équipe pour leur patience et leur dévouement, qui ont permis à ce texte d’atteindre sa forme définitive — le processus d’édition est en quelque sorte une technologie culturelle, et ce fut un véritable plaisir de travailler avec eux. Je remercie également le Dr Paul Cisek, mon ami neuroscientifique qui a travaillé en coulisses avec moi sur ce projet — les lecteurs de longue date reconnaîtront des traces de mes arguments tirés de mes précédents essais et de l’interview de Paul.

Cet essai est republié avec l’autorisation expresse de The Verge ; le titre et les animations utilisées ici sont propres à cette version.

Nos esprits n’ont pas évolué pour l’IA

Benjamin Riley

Norbert Wiener, le parrain de la cybernétique, a dit un jour : « La pensée de chaque époque se reflète dans sa technique. » Au cours du siècle dernier, notre pensée s’est reflétée dans nos ordinateurs, y compris ceux de l’industrie de l’IA. Demis Hassabis, de Google, qualifie le cerveau d’« approximation biologique d’une machine de Turing ». Elon Musk s’exprime plus crûment, déclarant que « les gens devraient simplement considérer le cerveau comme un ordinateur biologique ». (Le cerveau de Musk m’inquiète souvent.)

Mais les êtres humains sont plus complexes qu’une simple comparaison avec les ordinateurs ne le laisse entendre — et bien plus que ne semble l’apprécier la majeure partie du secteur de l’IA. Et à mesure que leurs produits s’imprègnent de plus en plus profondément dans la culture, cela aide à expliquer pourquoi ils sèment un tel chaos. L’IA, en fin de compte, s’apparente à une version cognitive d’un hot-dog : elle nous séduit sur le moment, mais sape la santé et la pérennité des systèmes cognitifs que nous avons développés au fil de plusieurs millénaires.

Pour comprendre le problème, il nous faudra un peu de neurosciences et l’ensemble de l’histoire de l’évolution humaine.

L’idée que le cerveau est un ordinateur remonte à Alan Turing. Elle postule que la pensée est un processus en trois étapes, fonctionnellement un algorithme : notre esprit capte des informations provenant du monde extérieur (entrée), les manipule d’une certaine manière (calcul), puis met en œuvre un comportement (sortie). La perception mène à la cognition, qui à son tour mène à l’action. En termes un peu plus élaborés, cela ressemble à peu près à ceci :

À bien des égards, ce modèle s’est avéré fructueux. En imaginant nos cerveaux comme des ordinateurs, les technologues ont fait évoluer l’informatique, passant de simples machines à additionner aux réseaux neuronaux artificiels et à l’IA générative, à la recherche de reflets toujours plus fidèles de nos propres esprits.

Mais cette image, bien qu’elle ne soit pas tout à fait fausse, est déformée et limitée. John von Neumann, figure phare du développement des ordinateurs et de l’informatique, doutait que le modèle computationnel puisse réellement saisir « l’exceptionnelle complexité du système nerveux humain ». En effet, nos systèmes nerveux ont évolué pour nous aider à naviguer dans le vaste système écologique que nous appelons « le monde ».

Et nous agissons sur le monde pour exercer un contrôle sur lui (du mieux que nous pouvons).

L’approche computationnelle s’intéresse au produit final de nos esprits et tente de « reconstituer » leur fonctionnement. Mais au lieu de procéder à rebours, nous pourrions plutôt examiner le long parcours de l’histoire de l’évolution pour construire notre modèle à partir de zéro. C’est l’approche privilégiée par Paul Cisek, neuroscientifique à l’Université de Montréal, qui a patiemment développé un modèle biologique du développement du cerveau et du système nerveux s’étendant sur des millions d’années.

Cisek soutient que, plutôt que comme des processeurs d’informations, nos cerveaux s’apparentent davantage à des systèmes de contrôle par rétroaction. Nos corps ne se contentent pas de recevoir des informations, ils agissent pour ajuster ces informations en fonction des options disponibles. Comme Cisek s’empresse de le souligner, cette idée n’est pas nouvelle : au tournant du XXe siècle, le philosophe John Dewey décrivait déjà l’esprit comme un circuit, « qu’il serait plus juste de qualifier d’organique que de réflexe, car la réponse motrice détermine le stimulus, tout autant que le stimulus sensoriel détermine le mouvement ».

Quelle est exactement la différence entre ces deux approches ?

Voici un exemple classique tiré du baseball : attraper une balle en vol dans le champ extérieur. Selon le modèle computationnel, la résolution de ce problème doit impliquer un calcul mental complexe et inconscient, au cours duquel le joueur de champ extérieur estime la vitesse de la balle, calcule l’effet de la gravité et effectue d’innombrables autres opérations mathématiques pour « calculer » où la balle va atterrir.

En revanche, l’approche par contrôle par rétroaction suggère une heuristique simple — en substance : « maintiens la balle dans la même position dans ton champ visuel, puis déplace-toi pour préserver cette situation ». Nous agissons pour ajuster le stimulus que nous recevons.

Non seulement cela correspond davantage à l’expérience de quiconque a déjà joué au centre du terrain, mais cela évite également de dissocier le processus mental du mouvement physique, et évite de recourir aux calculs complexes qu’exige le modèle computationnel. Les êtres humains sont plus dynamiques que cela.

Cette approche correspond également parfaitement à l’architecture biologique du cerveau telle qu’elle a évolué au fil du temps. Des poissons primitifs aux amphibiens, en passant par les mammifères, les primates et enfin les humains modernes, nous observons que de nouveaux comportements émergent en réponse à de nouvelles possibilités environnementales. Lorsque les dinosaures ont disparu, par exemple, cela a permis à certaines créatures nocturnes de se déplacer pendant la journée avec moins de risque d’être dévorées, donnant ainsi naissance à toute une série de nouvelles capacités. L’histoire de notre système nerveux, observe Cisek, est celle d’une « extension continue du contrôle de plus en plus loin dans le monde ». (Son prochain ouvrage explorera tout cela plus en détail, et oui, j’espère que cet essai lui mettra subtilement la pression pour qu’il le termine.)

Cela conduit à un schéma alternatif et très différent de celui ci-dessus. Nous pouvons à la fois tracer une carte des comportements et des capacités au fur et à mesure de leur apparition au fil du temps et superposer les composants physiques spécifiques du cerveau à ces capacités, comme ceci :

au lieu de se déplacer de gauche à droite comme dans le modèle computationnel, ce modèle doit être considéré comme se déployant de haut en bas au cours de l’évolution, du passé vers le présent. Par exemple, il y a très longtemps, à mesure que les vertébrés développaient une plus grande mobilité, il est devenu utile de disposer de systèmes spécialisés pour l’exploration — en utilisant des repères, par exemple, ou en s’orientant la nuit. Cela a conduit au développement de ce que nous appelons aujourd’hui l’hippocampe. Surtout, cela a également permis à nos ancêtres de se souvenir de moments importants où ils se précipitaient d’un endroit à un autre, ce qui a conduit au développement de la « mémoire épisodique » des expériences passées.

Nous ne pouvons rien faire qui s’en rapproche, même de loin, avec le modèle computationnel de l’esprit ; celui-ci ne correspond tout simplement pas aux structures neuroscientifiques observables. De plus, il occulte le fait qu’une grande partie de l’activité cérébrale consiste à contrôler les interactions des organismes vivants avec leur environnement. À ce titre, Cisek suggère que nous devons changer radicalement le paradigme que nous utilisons pour comprendre la relation entre notre cerveau et notre comportement, en nous éloignant des modèles algorithmiques d’entrées-sorties pour nous orienter vers des systèmes de rétroaction plus dynamiques.

Jusqu’à présent, notre histoire du développement humain s’est largement concentrée sur les retours d’information provenant du monde physique. Mais l’une des « boucles de rétroaction » les plus importantes de l’humanité découle de nos dispositions profondément sociales. Il s’avère que le modèle computationnel ne rend pas bien compte de cela non plus — pas plus que le secteur de l’IA. Nous avons passé des milliers d’années à construire des institutions et des normes pour apprendre les uns des autres et communiquer entre nous, et en moins d’une décennie, les géants de la tech se sont systématiquement employés à les démanteler.

Comment ? Là encore, il faut replacer cela dans son contexte historique.

Il y a plusieurs centaines de milliers d’années, nos lointains ancêtres ont accompli quelque chose d’incroyable : ils ont appris à s’imiter les uns les autres. L’imitation des gestes et des mouvements corporels nous a permis de transmettre des pratiques efficaces — comme tailler un outil en pierre — et de coordonner des activités plus complexes grâce à des comportements rituels partagés, qui ont à leur tour façonné notre cognition. Ce fut l’aube de la culture humaine.

Les humains ont rapidement évolué vers l’imitation des sons, puis vers le langage oral. Comme nous l’avons évoqué précédemment, le langage n’est pas synonyme de pensée, mais il nous permet de communiquer nos pensées les uns aux autres. À un certain moment, nos ancêtres chasseurs-cueilleurs nomades ont également commencé à s’installer dans des communautés sédentaires, développant des pratiques agricoles complexes qui nous ont permis de cultiver notre nourriture plutôt que de migrer pour la trouver.

Enfin, nous avons commencé à utiliser des signes écrits pour représenter nos langues parlées et d’autres idées abstraites. Nous sommes devenus capables de transmettre des idées complexes d’une génération à l’autre. L’éducation formelle, processus visant à garantir le partage des connaissances au sein d’un groupe humain, a vu le jour peu de temps après. Et c’est ainsi qu’ont également vu le jour, avec le temps, des pratiques et des institutions qui ont collectivisé la prise de décision humaine, telles que les « marchés », le « droit » et la « démocratie ».

Chacune des affirmations que je viens de faire est contestable et mériterait bien plus de détails que je ne peux en fournir ici. Mais ce processus s’inscrit dans la continuité de notre évolution biologique, en ce sens que tous deux favorisent un contrôle toujours plus large sur le monde qui nous entoure.

Et parfois, ce changement culturel engendre des conséquences imprévues qui font plus de mal que de bien.

L’alimentation humaine en est peut-être l’exemple le plus évident. À l’époque où nous étions chasseurs-cueilleurs, les aliments gras étaient rares mais précieux pour assurer notre survie — il suffit de regarder Alone si vous en doutez — et nous avons évolué pour les rechercher et les stocker dans notre corps une fois trouvés. Mais ensuite, nous avons développé culturellement la pratique de l’agriculture et d’autres techniques agricoles qui, à 10 000 ans près, ont rendu les aliments gras abondants aujourd’hui — si vous voulez un hot-dog, vous n’aurez que l’embarras du choix.

Et c’est là le problème. Les hot-dogs constituent un danger pour notre corps physique, obstruant nos artères avec un excès de graisse que nous n’avons plus besoin de stocker en interne. L’IA représente un danger similaire pour nos capacités cognitives, en obstruant notre capacité à développer les connaissances dont nous avons besoin — dans notre tête — pour naviguer dans le monde. C’est un hot-dog cognitif.

Un hot-dog de temps en temps ne fera de mal à personne, mais ce sera certainement le cas s’il devient un repas régulier au déjeuner ou au dîner. Il en va de même pour l’IA : le danger ne réside pas dans son utilisation occasionnelle, mais dans le fait d’en faire une partie intégrante de notre alimentation mentale.

Or, c’est exactement ce que les géants technologiques tentent de faire.

Dans un podcast de juillet 2025 consacré à « la manière dont l’IA transforme l’éducation », Leah Belsky, vice-présidente chargée de l’éducation chez OpenAI, s’est vantée que les « apprenants » représentaient plus de la moitié des 900 millions d’utilisateurs mensuels moyens de ChatGPT. Ce service était « la plus grande plateforme d’apprentissage au monde », a-t-elle déclaré. Plus récemment, Anthropic a annoncé une nouvelle initiative baptisée « Claude for Teachers », offrant un accès gratuit à des modèles premium aux enseignants en activité.

Ces initiatives ne profiteront ni aux élèves, ni aux enseignants. En réalité, il s’agit de l’exemple le plus flagrant de la manière dont l’IA affaiblit les systèmes sur lesquels nous nous appuyons pour développer nos capacités cognitives, au profit d’un simple gain de commodité.

François Chollet, ancien ingénieur logiciel chez Google, a décrit de manière mémorable l’IA comme un outil d’« automatisation cognitive », qu’il définit comme « l’encodage d’abstractions humaines dans un logiciel, puis l’utilisation de ce logiciel pour automatiser des tâches normalement effectuées par des humains ». L’année dernière, un groupe interdisciplinaire de chercheurs a fait valoir1Ma traduction : Les grands modèles d’IA sont des technologies culturelles et sociales de manière convaincante que nous devrions considérer l’IA générative sous la forme de grands modèles linguistiques non pas « principalement comme des agents intelligents, mais comme un nouveau type de technologie culturelle et sociale, permettant aux humains de tirer parti des informations accumulées par d’autres humains » (c’est nous qui soulignons).

Les passionnés d’IA n’ont pas manqué de faire des prédictions sur les avantages de cette technologie, et ils ont largement écarté ses inconvénients en les qualifiant de comparables à ceux des formes précédentes d’automatisation, telles que les ordinateurs, les calculatrices et même l’écriture. (On m’a cité tant de fois la prétendue opposition de Platon à l’écriture que j’ai abordé le sujet dans un article séparé — c’était pourtant un écrivain !)

Quels qu’aient été les effets de ces technologies antérieures, jamais auparavant nous n’avons développé et déployé à grande échelle quelque chose de si explicitement destiné à supplanter la pensée humaine — c’est ce qu’affirment les évangélistes de l’IA eux-mêmes.

Prenons l’exemple de l’éducation. ChatGPT est peut-être la plus grande plateforme d’apprentissage au monde, mais les élèves l’utilisent en masse pour éviter l’effort de réflexion nécessaire à la construction de connaissances durables. Les preuves ne cessent de s’accumuler pour démontrer l’impact négatif des outils d’IA dans les contextes éducatifs (et la Génération Z, en général, déteste ça). Une récente étude menée en Chine a révélé que des milliers d’élèves avaient pratiquement cessé de faire leurs devoirs dès qu’ils avaient commencé à utiliser l’IA (ce qui a considérablement nui à leur apprentissage). Il existe même des preuves indiquant que lorsque les élèves utilisent de grands modèles linguistiques à des fins prétendument éducatives, ils prennent l’habitude de relâcher leur jugement et leur esprit critique dans d’autres contextes.

Aucune autre espèce ne voit son cerveau et son corps se développer sur une période aussi longue que la nôtre, et, historiquement, nous avons complété ce processus par des institutions culturelles uniques qui transmettent le savoir d’une génération à l’autre. Nous devrions protéger avec zèle cette entreprise proprement humaine ; or, au contraire, de nombreux responsables universitaires et scolaires, sans parler des géants technologiques, déploient des efforts acharnés pour imposer l’IA aussi profondément et aussi rapidement que possible dans nos écosystèmes éducatifs.

Si nous ne voyons que l’esprit comme un ordinateur, l’IA pourrait sembler bénéfique à l’apprentissage — c’est pourquoi beaucoup rêvent de créer des tuteurs basés sur l’IA. Mais ces efforts échouent déjà, car nos esprits sont bien plus que de simples dispositifs d’entrée-sortie. Ils existent, ou plutôt nous existons, au sein d’un écosystème cognitif plus large où nous devons faire des choix quant à la manière dont nous décidons de dépenser notre énergie cognitive. Nous le faisons pour étendre notre libre arbitre, notre contrôle — aussi limité soit-il — sur notre monde.

Mais cela pose un défi. La réflexion exigeante est difficile, et si l’on nous propose des échappatoires technologiques, nous les emprunterons — ce que certains chercheurs ont récemment qualifié de « délégation cognitive ». À mesure que la délégation cognitive se généralise, préviennent-ils, « l’environnement social qui favorise le raisonnement autonome peut s’affaiblir » — et à mesure que cela se produit, cette délégation « devient encore plus facile et plus attrayante ».

Les chercheurs recommandent un programme d’immunisation cognitive contre l’IA, qui préserve « les pratiques et les institutions qui maintiennent la cognition humaine active : la résolution de problèmes sans aide, la vérification, la discussion critique, [et] les périodes de désengagement délibéré » vis-à-vis de l’utilisation de l’IA.

Nous appelons ces institutions « écoles ».

Des leviers politiques devront également être actionnés. Je trouve très intéressant que la Norvège ait récemment interdit pratiquement toutes les utilisations de l’IA à l’école pour les élèves de moins de 13 ans. Aux États-Unis, un important syndicat d’enseignants a également appelé à l’interdiction des chatbots dans les écoles primaires, et de grands districts scolaires tels que Los Angeles et New York ont récemment mis en place des interdictions eux aussi. (Divulgation : j’ai fourni des conseils informels à Schools Beyond Screens, une organisation qui a milité en faveur de ces interdictions.) Ils ne seront pas les derniers à le faire, du moins je l’espère.

La bonne nouvelle, si l’on peut appeler cela ainsi, c’est que la résistance prend de l’ampleur — peut-être avez-vous vu les nombreuses vidéos de jeunes diplômés huant les orateurs de cérémonie de remise des diplômes qui font l’éloge de l’IA ? Cela s’explique sans doute en partie par des inquiétudes liées à l’emploi, mais je soupçonne que beaucoup reconnaissent le préjudice que l’IA a infligé à leur propre développement cognitif. C’est certainement le cas des étudiants de l’Oberlin Luddite Club, qui ont adressé une lettre ouverte au président de leur université pour critiquer l’engouement de cette institution pour l’IA : « Alors que vous vous lancez dans votre année consacrée à l’IA, nous nous lancerons dans notre propre année de réalisation de soi — celle où nous récolterons les fruits de notre labeur et où nous embrasserons l’imperfection humaine et la curiosité à l’état brut. » Tout à fait d’accord.

Les systèmes de contrôle de notre cerveau sont le fruit de millions d’années d’évolution biologique et de plusieurs millénaires d’évolution culturelle. Nous devons prendre du recul par rapport au modèle computationnel de l’esprit pour avoir une vision globale de ce qui fait de nous des êtres humains, et pour apprécier notre nature profondément sociale, moteur de la culture humaine. Nous avons fait preuve d’une résilience remarquable en tant qu’espèce, mais se gaver de « hot-dogs cognitifs » n’est bon pour aucun d’entre nous.

Mangez sainement, et pensez sainement.

Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.

Notes