intelligence artificielle et bêtise humaine

On nous sert l’intelligence artificielle (IA) à toutes les sauces : des scénarios à la Terminator aux exploits de l’IA dans le pliage des protéines. À la fois menace existentielle et promesse radieuse.

Imaginons que je vous ai invité à manger à ma table, gratuitement, depuis une quinzaine d’années. Je vous ai nourri, diverti, informé sans vous demander un sou. Pas un sou, seulement la récolte de vos conversations, de vos connexions, de vos appartenances… De ces informations j’ai peu à peu su tirer des modèles de prédiction, de comportement qui me permettent aujourd’hui (ou me permettront bientôt) de produire des informations, des analyses, des projections qui remplaceront peu à peu les analyses et projections faites par des humains… À qui appartiennent ces modèles développés à partir des contenus et comportements laissés sur le web par les milliards de participants innocents ?

L’histoire de l’IA que retrace Daniel Andler dans son Intelligence artificielle, intelligence humaine : la double énigme est instructive en ce qu’elle montre bien l’évolution des prétentions de l’IA depuis ses débuts, une évolution vers plus de circonspection et d’humilité dans la recherche d’une intelligence générale. Cinq (5) replis ou renoncements ont marqué la croissance de l’IA telle qu’on la connait aujourd’hui : renoncement à la pensée « pensante », renoncement à l’équivalence avec l’intelligence humaine, renoncement à une intelligence générale, renoncement à l’indépendance à l’égard de l’intelligence humaine, puis renoncement à la réflexion.

L’IA symbolique des débuts a laissé place au connexionnisme¹Le connexionnisme modélise les phénomènes mentaux ou comportementaux comme des processus émergents de réseaux d’unités simples interconnectées. Le plus souvent les connexionnistes modélisent ces phénomènes à l’aide de réseaux de neurones.. Plutôt que de tenter de prévoir toutes les questions possibles et d’y accoler toutes les réponses appropriées… les modèles massifs de language (LLM – large language models) utilisent d’énormes volumes de données pour comprendre le langage humain. La caractérisation ou l’étiquetage de ces masses de données permettent ensuite de prédire ou de classer de nouvelles données ou de répondre à de nouvelles questions. Malgré la qualité des productions langagières des ChatGPT ces systèmes sont toujours atteints de « cécité sémantique » : ils ne savent pas de quoi ils parlent !

Les IA sont devenues performantes parce qu’elles se sont spécialisées et sont devenues des SAI, des systèmes artificiels intelligents. Si certains peuvent encore rêver d’une IA générale, il lui manque encore plusieurs « ingrédients » : la conscience, le sens, le sens commun et des attributs du sujet : métacognition, affects.

Alors que les SAI deviennent de plus en plus performants, dépassant parfois incontestablement les capacités humaines, l’IA semble toujours incapable devant des tâches que des humains « ordinaires » ou même des enfants peuvent réaliser. Ce qui amène Andler à reformuler la question de la comparaison entre intelligence humaine et IA. L’intelligence animale a beaucoup en commun avec ce qui de l’intelligence humaine manque à l’intelligence artificielle. Andler est amené à distinguer deux types d’intelligence : l’intelligence (et la résolution) d’un Problème et l’évaluation d’une Situation vécue. Si la première forme d’intelligence correspond bien au champ d’application et d’expertise de l’IA, l’ancrage historique, écologique (phylogénétique) de l’intelligence animale (humaine ou non) lui permet de répondre avec plus ou moins d’intelligence aux Situations rencontrées.

Mais l’intelligence de l’animal, qu’il soit ou non humain, est celle d’un organisme vivant autonome naviguant dans un monde qui est le sien. C’est parce que l’animal a un monde, son Umwelt, et que c’est sa Situation qui le concerne et dont il veut se tirer au mieux, qu’au même titre que l’humain il résiste en dernière analyse à la comparaison avec l’intelligence artificielle.

Intelligence artificielle, intelligence humaine : la double énigme, Daniel Andler, Gallimard, 2023

Après avoir identifié des secteurs où une IA « puissante » se développera, dans son chapitre de conclusion intitulé L’intelligence artificielle et le bien Andler propose un principe général de modération. Qui prend parfois la forme d’un « principe de subsidiarité : ne faire appel à l’intelligence artificielle que lorsque sa contribution nette est positive. » Ou qui incite à ne pas donner de forme humanoïde à des systèmes qui n’ont que des capacités limitées. Aussi, il faut résister à la tendance qui ferait de l’IA une technologie de plus en plus essentielle, omniprésente. Pour éviter de voir la cité se transformer au service des intérêts de la technologie, comme cela s’est produit avec la diffusion de l’automobile.

Finalement, Andler en appelle même à « bannir l’intelligence artificielle de toute démarche requérant cette part de l’intelligence humaine qui, par-delà, ou en-deçà de la capacité à résoudre les Problèmes, permet à l’homme de naviguer dans l’existence — ce sans quoi il ne peut faire face aux Situations difficiles ou nouvelles. »

L’IA est essentiellement fondée sur la prise en compte massive du passé. Un passé qui pèse lourd pour maintenir le statut quo. Cependant, tel que formulé, cet appel à bannir l’IA des démarches d’orientation existentielle de l’humain me semble inapplicable : les humains utiliseront (toujours) toutes les intelligences à leur disposition pour s’orienter. Mais comme les puissances de l’IA coïncident de plus en plus (voir tableau 8.4, dans ce billet) avec les puissances financières, bannir l’IA… reviendrait à ouvrir des négociations entre humains (et vivants non-humains ?) sur l’avenir de la planète, SANS LA PRÉSENCE des puissances financières ! C’est une idée, ça.

Pour notre avenir commun, nous avons besoin de moins d’hubris industriel et de davantage de coopération avec les systèmes biologiques existants.

Toutes les intelligences du monde : animaux, plantes, machines, James Bridle, Ed. du Seuil, 2023

Nous avons laissé se développer des corporations technologiques en super-puissances financières, sous le fallacieux prétexte que « le privé innove mieux que le public ». C’est pourtant sur la base des innovations publiques que tout ce secteur s’est développé.

The data highway would become the virtual electronic shopping mall. In 1995, the NSFNET backbone was decommissioned; in 1996, the Telecommunications Act was passed; and in 1997, the Clinton administration released its “Framework for Global Electronic Commerce,” formally committing the federal government to a market-dominated internet, one in which “industry self- regulation” would take priority and the state would play a minimal role.

Tarnoff, Ben. Internet for the People (pp. 22-23). Verso Books.

Il est sans doute vrai que l’offre pléthorique de gadgets électroniques et d’outils connectés, avec son cortège de faillites, de rachats et de consolidations aurait été plus difficile à faire sous la bannière de l’intérêt public. On se serait grandement méfié de l’accumulation massive d’information par l’État grâce à une offre de services gratuits (courriel, moteur de recherche, forums…). On ne s’est pas autant méfié de pareille accumulation par des entités privées ! Pourquoi donc ? Parce que l’État pourrait toujours intervenir en cas d’abus ? Il est un peu tard : la position dominante des Grands et la protection accordée à leurs algorithmes permettent tous les abus.

[A]lors qu’à une autre époque le gouvernement américain avait réussi à faire plier la Standard Oil, AT&T et IBM, elle a aujourd’hui toutes les peines du monde à imposer son contrôle sur les Big Tech.

Ophélie Coelho. Géopolitique du numérique (p. 59). 2023. Éditions de l’Atelier.

Voir aussi Les États-Unis, les Big techs et le reste du monde…, par Ophélie Coelho :

« les nombreuses acquisitions d’entreprises montantes et de start-up ont permis aux Big techs d’annihiler toute concurrence potentielle tout en améliorant leurs services. 

« une grande part des entreprises américaines, des citoyens et de l’administration utilisent leurs produits dans des degrés divers de dépendances.

« Le gouvernement américain a probablement un retard de dix ou quinze ans sur une politique anti-concurrentielle adaptée aux acteurs du numérique, laquelle aurait pu limiter le pouvoir des Big techs à l’époque où ces entreprises cherchaient encore à renforcer leur modèle économique. Cinq-cents acquisitions plus tard, les États-Unis se trouvent face à des acteurs solides et semblent avoir de moins en moins de leviers d’actions sur ces entités qu’ils ont pourtant contribué à créer.

Les États-Unis, les Big techs…

Ce document du 21 juin 2021 (Les États-Unis, les Big techs et le reste du monde…,) présente les propositions 22 à 35, alors que celui daté du 8 juin de la même année, présente les premières 21 propositions : QUAND LE DÉCIDEUR EUROPÉEN JOUE LE JEU DES BIG TECHS – Engager une transition technologique pour sortir des dépendances numériques. Des propositions formulées dans le cadre du droit français et européen, mais qui souvent appellent à une concertation plus large des États et des acteurs du numérique alternatif et indépendant des Big techs. J’ai recopié ici les 35 propositions.

En conclusion…

Artificielle parce que construite, déterminée par les data qu’on lui fournit et par la programmation qui l’anime.

Intelligences humaines, animales, biologiques qui comportent des vecteurs, des motifs, des pulsions propres tirées des milliards d’années d’évolution encodées dans les chaines d’ADN. 

Les intelligences culturelles, historiques, sociales, affectives, artistiques, mathématiques… sont vivantes, politiques.

Les capacités déployées actuellement par l’IA, grâce à un savoir engrangé, collecté dans les espaces publics et communs, ces capacités doivent être partagées, offertes aux parties qui ont contribué à construire ces nouveaux savoirs. 

Le phénomène et les débats entourant l’IA reposent sur une accumulation de données et de capacités de calculs qui sont actuellement entre les mains de corporations privées. Les enjeux qui se posent à l’humanité et à toute la biosphère pourraient profiter de nouveaux moyens de surveillance et de contrôle sur les atteintes aux forêts, aux ressources communes des mers et de l’atmosphère… à la condition que ces « nouveaux moyens » ne soient pas d’abord orientés vers les intérêts financiers à court terme de quelques magnats. 

Note: l’image d’entête tirée de Quand l’intelligence artificielle rencontre la bêtise humaine

Notes

• 1
  Le connexionnisme modélise les phénomènes mentaux ou comportementaux comme des processus émergents de réseaux d’unités simples interconnectées. Le plus souvent les connexionnistes modélisent ces phénomènes à l’aide de réseaux de neurones.