On nous sert l’intelligence artificielle (IA) à toutes les sauces : des scénarios à la Terminator aux exploits de l’IA dans le pliage des protéines. À la fois menace existentielle et promesse radieuse.
Imaginons que je vous ai invité à manger à ma table, gratuitement, depuis une quinzaine d’années. Je vous ai nourri, diverti, informé sans vous demander un sou. Pas un sou, seulement la récolte de vos conversations, de vos connexions, de vos appartenances… De ces informations j’ai peu à peu su tirer des modèles de prédiction, de comportement qui me permettent aujourd’hui (ou me permettront bientôt) de produire des informations, des analyses, des projections qui remplaceront peu à peu les analyses et projections faites par des humains… À qui appartiennent ces modèles développés à partir des contenus et comportements laissés sur le web par les milliards de participants innocents ?
L’histoire de l’IA que retrace Daniel Andler dans son Intelligence artificielle, intelligence humaine : la double énigme est instructive en ce qu’elle montre bien l’évolution des prétentions de l’IA depuis ses débuts, une évolution vers plus de circonspection et d’humilité dans la recherche d’une intelligence générale. Cinq (5) replis ou renoncements ont marqué la croissance de l’IA telle qu’on la connait aujourd’hui : renoncement à la pensée « pensante », renoncement à l’équivalence avec l’intelligence humaine, renoncement à une intelligence générale, renoncement à l’indépendance à l’égard de l’intelligence humaine, puis renoncement à la réflexion.
L’IA symbolique des débuts a laissé place au connexionnisme1Le connexionnisme modélise les phénomènes mentaux ou comportementaux comme des processus émergents de réseaux d’unités simples interconnectées. Le plus souvent les connexionnistes modélisent ces phénomènes à l’aide de réseaux de neurones.. Plutôt que de tenter de prévoir toutes les questions possibles et d’y accoler toutes les réponses appropriées… les modèles massifs de language (LLM – large language models) utilisent d’énormes volumes de données pour comprendre le langage humain. La caractérisation ou l’étiquetage de ces masses de données permettent ensuite de prédire ou de classer de nouvelles données ou de répondre à de nouvelles questions. Malgré la qualité des productions langagières des ChatGPT ces systèmes sont toujours atteints de « cécité sémantique » : ils ne savent pas de quoi ils parlent !
Les IA sont devenues performantes parce qu’elles se sont spécialisées et sont devenues des SAI, des systèmes artificiels intelligents. Si certains peuvent encore rêver d’une IA générale, il lui manque encore plusieurs « ingrédients » : la conscience, le sens, le sens commun et des attributs du sujet : métacognition, affects.
Alors que les SAI deviennent de plus en plus performants, dépassant parfois incontestablement les capacités humaines, l’IA semble toujours incapable devant des tâches que des humains « ordinaires » ou même des enfants peuvent réaliser. Ce qui amène Andler à reformuler la question de la comparaison entre intelligence humaine et IA. L’intelligence animale a beaucoup en commun avec ce qui de l’intelligence humaine manque à l’intelligence artificielle. Andler est amené à distinguer deux types d’intelligence : l’intelligence (et la résolution) d’un Problème et l’évaluation d’une Situation vécue. Si la première forme d’intelligence correspond bien au champ d’application et d’expertise de l’IA, l’ancrage historique, écologique (phylogénétique) de l’intelligence animale (humaine ou non) lui permet de répondre avec plus ou moins d’intelligence aux Situations rencontrées.
Mais l’intelligence de l’animal, qu’il soit ou non humain, est celle d’un organisme vivant autonome naviguant dans un monde qui est le sien. C’est parce que l’animal a un monde, son Umwelt, et que c’est sa Situation qui le concerne et dont il veut se tirer au mieux, qu’au même titre que l’humain il résiste en dernière analyse à la comparaison avec l’intelligence artificielle.
Intelligence artificielle, intelligence humaine : la double énigme, Daniel Andler, Gallimard, 2023
Après avoir identifié des secteurs où une IA « puissante » se développera, dans son chapitre de conclusion intitulé L’intelligence artificielle et le bien Andler propose un principe général de modération. Qui prend parfois la forme d’un « principe de subsidiarité : ne faire appel à l’intelligence artificielle que lorsque sa contribution nette est positive. » Ou qui incite à ne pas donner de forme humanoïde à des systèmes qui n’ont que des capacités limitées. Aussi, il faut résister à la tendance qui ferait de l’IA une technologie de plus en plus essentielle, omniprésente. Pour éviter de voir la cité se transformer au service des intérêts de la technologie, comme cela s’est produit avec la diffusion de l’automobile.
Finalement, Andler en appelle même à « bannir l’intelligence artificielle de toute démarche requérant cette part de l’intelligence humaine qui, par-delà, ou en-deçà de la capacité à résoudre les Problèmes, permet à l’homme de naviguer dans l’existence — ce sans quoi il ne peut faire face aux Situations difficiles ou nouvelles. »
L’IA est essentiellement fondée sur la prise en compte massive du passé. Un passé qui pèse lourd pour maintenir le statut quo. Cependant, tel que formulé, cet appel à bannir l’IA des démarches d’orientation existentielle de l’humain me semble inapplicable : les humains utiliseront (toujours) toutes les intelligences à leur disposition pour s’orienter. Mais comme les puissances de l’IA coïncident de plus en plus (voir tableau 8.4, dans ce billet) avec les puissances financières, bannir l’IA… reviendrait à ouvrir des négociations entre humains (et vivants non-humains ?) sur l’avenir de la planète, SANS LA PRÉSENCE des puissances financières ! C’est une idée, ça.
Continuer la lecture de « intelligence artificielle et bêtise humaine »Notes
- 1Le connexionnisme modélise les phénomènes mentaux ou comportementaux comme des processus émergents de réseaux d’unités simples interconnectées. Le plus souvent les connexionnistes modélisent ces phénomènes à l’aide de réseaux de neurones.