![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-1-1200x923.webp\")
<\/figure>\n\n\n\nNous le savons, mais c’est assez \u00e9trange quand on y pense. Pendant plus d’un demi-si\u00e8cle, les ordinateurs n’ont pas invent\u00e9 de choses, leur sophistication et leur pr\u00e9cision ne faisant que s’am\u00e9liorer avec le temps. Mais en 2024, m\u00eame si vous pouvez faire confiance \u00e0 une calculatrice de poche pour vous donner les bonnes r\u00e9ponses aux probl\u00e8mes math\u00e9matiques que vous lui soumettez, vous ne pouvez pas faire confiance \u00e0 l’intelligence artificielle la plus sophistiqu\u00e9e au monde pour ces m\u00eames probl\u00e8mes.<\/p>\n\n\n\n Pourquoi ?<\/p>\n\n\n\n Je pense que c’est une question tr\u00e8s importante et multiforme, et dans cet article, je souhaite l’examiner en d\u00e9tail. L’un des aspects du probl\u00e8me concerne un changement majeur survenu au cours des 30 derni\u00e8res ann\u00e9es environ dans la d\u00e9finition exacte de l’\u00ab IA \u00bb. Pendant longtemps, la plupart de nos activit\u00e9s de programmation informatique consistaient \u00e0 trouver des moyens de r\u00e9soudre des probl\u00e8mes avec pr\u00e9cision. Une calculatrice de poche utilise ce type de m\u00e9thodes pour produire des solutions \u00e0 des probl\u00e8mes math\u00e9matiques dont la justesse peut \u00eatre prouv\u00e9e. Dans le pass\u00e9, nous consid\u00e9rions l’application automatis\u00e9e de ces m\u00e9thodes pr\u00e9cises comme une forme d’intelligence artificielle. Mais aujourd’hui, la plupart de ce que nous d\u00e9crivons comme \u00ab IA \u00bb fait r\u00e9f\u00e9rence \u00e0 des applications d’apprentissage automatique. L’apprentissage automatique est un paradigme de programmation informatique dans lequel, plut\u00f4t que d’appliquer une logique d\u00e9ductive pour produire un r\u00e9sultat dont on sait qu’il est correct, comme une calculatrice de poche, les programmes sont con\u00e7us pour produire\u00a0des pr\u00e9dictions<\/em>, qui peuvent parfois \u00eatre erron\u00e9es.\u00a0<\/strong>Dans la premi\u00e8re grande partie de cet essai, je donnerai un aper\u00e7u de ce que cela signifie, en passant en revue la diff\u00e9rence fondamentale entre l’apprentissage automatique et les anciens types d’IA \u00e0 un niveau extr\u00eamement \u00e9lev\u00e9, afin de comprendre pourquoi nous nous attendons \u00e0 ce que ces types de syst\u00e8mes produisent des erreurs l\u00e0 o\u00f9 les programmes informatiques plus classiques n’en produisaient pas.<\/p>\n\n\n\n Une r\u00e9ponse \u00e0 la question de l’hallucination semble donc simple : <\/strong>l’IA g\u00e9n\u00e9rative est un apprentissage automatique, l’apprentissage automatique est connu pour produire des erreurs, et une hallucination est une erreur. Ce point de vue implique certaines choses sur la fa\u00e7on dont le probl\u00e8me de l’hallucination pourrait \u00e9voluer \u00e0 l’avenir : historiquement, nous avons constat\u00e9 que les mod\u00e8les d’apprentissage automatique font moins d’erreurs \u00e0 mesure que nous collectons plus de donn\u00e9es et construisons des mod\u00e8les plus grands. Nous pouvons nous attendre \u00e0 ce que les chatbots et autres syst\u00e8mes d’IA g\u00e9n\u00e9rative deviennent plus pr\u00e9cis au fil du temps, exactement de la m\u00eame mani\u00e8re. Mais je ne pense pas que ce point de vue soit r\u00e9ellement correct ; selon moi, les hallucinations sont distinctes des erreurs au sens classique de l’apprentissage automatique. Je penche davantage pour l’id\u00e9e selon laquelle\u00a0tous les r\u00e9sultats de l’IA g\u00e9n\u00e9rative sont des hallucinations. J’expliquerai exactement ce que j’entends par l\u00e0 dans la deuxi\u00e8me section.<\/strong><\/em><\/p>\n\n\n\n Quoi qu’il en soit, quelle que soit votre d\u00e9finition d’une hallucination et quelle que soit votre opinion sur sa nature, tout le monde s’accorde \u00e0 dire que certains r\u00e9sultats de l’IA g\u00e9n\u00e9rative sont bons et utiles, tandis que d’autres sont mauvais et inutiles, et il est naturel de vouloir quantifier la proportion de chacun. En fait, je pense que cette quantification est essentielle pour mettre ces \u00e9l\u00e9ments en production de mani\u00e8re utile. Mais il s’av\u00e8re que mesurer ce genre de choses est extr\u00eamement difficile, comme de plus en plus de gens commencent \u00e0 le comprendre<\/u><\/a>. Dans la troisi\u00e8me grande section, j’explique pourquoi je pense que ce type de mesure est si important, et aussi ce qui le rend si difficile.<\/p>\n\n\n\n Avant l’apparition de tous ces \u00e9l\u00e9ments g\u00e9n\u00e9ratifs, la plupart des IA s’int\u00e9ressaient au probl\u00e8me consistant \u00e0 faire des suppositions tr\u00e8s sp\u00e9cifiques sur des classes restreintes de r\u00e9sultats. Cet utilisateur va-t-il cliquer sur ce lien ? Quel type d’objet est repr\u00e9sent\u00e9 sur cette image ? Quelle sera la valeur de cette action demain ? Chacune de ces questions trouverait sa r\u00e9ponse dans un programme informatique discret dont la seule fonction serait de r\u00e9pondre \u00e0 la question pour laquelle il a \u00e9t\u00e9 con\u00e7u.<\/p>\n\n\n\n Comment cr\u00e9er un programme informatique pour r\u00e9soudre l’un de ces probl\u00e8mes ? Autrefois, l’approche consistait \u00e0 raisonner \u00e0 partir des principes fondamentaux. Pour pr\u00e9dire le temps qu’il faudrait \u00e0 une pomme pour tomber d’un arbre, Newton a simplement r\u00e9fl\u00e9chi longuement \u00e0 la nature de l’univers et a \u00e9labor\u00e9 une th\u00e9orie qui produit une \u00e9quation r\u00e9pondant \u00e0 la question.<\/p>\n\n\n\n Cette approche a \u00e9t\u00e9 couronn\u00e9e de succ\u00e8s pour Newton, mais pour la plupart des probl\u00e8mes pratiques, il est tr\u00e8s difficile de trouver des solutions \u00e0 partir des principes fondamentaux de cette mani\u00e8re. Beaucoup de gens ont essay\u00e9, ce qui nous a permis d’aboutir \u00e0 des r\u00e9sultats tels que l’\u00e9quation de Black-Scholes pour estimer la valeur r\u00e9elle d’un produit d\u00e9riv\u00e9 financier, mais pour de nombreux probl\u00e8mes qui nous int\u00e9ressent dans le monde moderne, comme deviner quels objets sont repr\u00e9sent\u00e9s dans une image, nous ne saurions m\u00eame pas par o\u00f9 commencer.<\/p>\n\n\n\n C’est l\u00e0 qu’intervient l’apprentissage automatique. L’id\u00e9e de base de l’apprentissage automatique est qu’en examinant suffisamment d’exemples du processus que vous essayez de pr\u00e9dire, vous pouvez trouver des mod\u00e8les qui vous aideront \u00e0 faire des pr\u00e9dictions pr\u00e9cises sans n\u00e9cessairement avoir besoin de comprendre le processus qui g\u00e9n\u00e8re ces exemples. En observant un million de pommes tombant d’un million d’arbres de diff\u00e9rentes hauteurs, vous pouvez passer outre les Principia<\/em> et aller directement \u00e0 l’\u00e9quation.<\/p>\n\n\n\n Ou du moins, vous pouvez passer directement \u00e0 une<\/em> \u00e9quation. De par la nature m\u00eame de ce processus, l’\u00e9quation que vous trouverez aura tr\u00e8s peu de chances de correspondre \u00e0 celle de Newton. Elle produira une \u00e9quation qui se rapprochera autant que possible des donn\u00e9es, mais parmi les innombrables \u00e9quations qui peuvent approximer un ensemble de donn\u00e9es donn\u00e9, il est peu probable qu’elle corresponde exactement \u00e0 celle de Newton. Mais ce n’est pas grave. Le fait est que vous n’en avez pas besoin. Vous n’essayez pas de comprendre la gravit\u00e9, vous essayez de faire des pr\u00e9dictions sur les pommes. Cela peut ne pas sembler id\u00e9al pour quelque chose comme la physique, mais pour un probl\u00e8me comme la reconnaissance d’objets dans une image o\u00f9 il n’y a pas de principes fondamentaux \u00e9vidents, c’est assez pratique.<\/p>\n\n\n\n Le processus de base pour construire un syst\u00e8me comme celui-ci s’appelle l’apprentissage supervis\u00e9, et si vous prenez suffisamment de recul pour abstraire la plupart des d\u00e9tails, c’est assez simple. Pour construire un syst\u00e8me qui devine quel chiffre manuscrit se trouve dans une image, vous collectez un grand ensemble de donn\u00e9es d’images de chiffres<\/u><\/a> et vous \u00e9tiquetez manuellement chaque image avec le chiffre qu’elle repr\u00e9sente. C’est ce qu’on appelle les donn\u00e9es d’entra\u00eenement. Ensuite, vous montrez toutes les images des donn\u00e9es d’entra\u00eenement \u00e0 l’ordinateur et vous lui demandez de deviner quel chiffre se trouve dans chaque image, puis vous lui attribuez une note en fonction du nombre de fois o\u00f9 il a trouv\u00e9 la bonne r\u00e9ponse. Vous r\u00e9p\u00e9tez cette op\u00e9ration plusieurs centaines de milliers de fois, et l’ordinateur essaie \u00e0 chaque fois diff\u00e9rentes strat\u00e9gies de devinette, \u00e0 la recherche de celle qui lui donne la note la plus \u00e9lev\u00e9e. Cette recherche de la strat\u00e9gie de devinette la plus performante peut \u00eatre tr\u00e8s longue et co\u00fbteuse en termes de calcul, mais les r\u00e9centes innovations<\/u><\/a> en math\u00e9matiques pour trouver les scores \u00e9lev\u00e9s ainsi que en efficacit\u00e9 informatique<\/u><\/a> ont rendu cette strat\u00e9gie de base extr\u00eamement efficace pour un large \u00e9ventail de t\u00e2ches.<\/p>\n\n\n\n Pour introduire un peu plus de terminologie ici, la recherche de la meilleure strat\u00e9gie de devinette est appel\u00e9e \u00ab entra\u00eenement \u00bb, et le syst\u00e8me qui en r\u00e9sulte est souvent appel\u00e9 \u00ab mod\u00e8le \u00bb. Un mod\u00e8le qui devine \u00e0 partir d’un ensemble d’\u00e9tiquettes discr\u00e8tes est un \u00ab classificateur \u00bb, et les praticiens de l’apprentissage automatique pr\u00e9f\u00e8rent appeler les devinettes \u00ab pr\u00e9dictions \u00bb.<\/p>\n\n\n\n Il vaut la peine de s’attarder un instant sur la diff\u00e9rence entre l’approche de l’apprentissage automatique et celle de Newton. Newton peut s’inspirer de quelques pommes tombant des arbres, mais son projet consiste \u00e0 d\u00e9velopper une th\u00e9orie qui codifie les principes g\u00e9n\u00e9raux du mouvement des corps c\u00e9lestes. Une \u00e9quation d\u00e9coule de cette th\u00e9orie pour nous indiquer, entre autres, le temps qu’il faut \u00e0 une pomme pour tomber d’un arbre. Pour un sp\u00e9cialiste de l’apprentissage automatique, les principes g\u00e9n\u00e9raux qui r\u00e9gissent les relations entre les corps c\u00e9lestes n’ont pratiquement aucune pertinence. Le machine learner se concentre uniquement<\/em> sur la reproduction pr\u00e9cise d’un ensemble de donn\u00e9es comprenant un million de temps de chute de pommes. Chaque approche pr\u00e9sente des avantages et des inconv\u00e9nients. L’approche du machine learning produira probablement une \u00e9quation incompr\u00e9hensible qui nous en apprendra tr\u00e8s peu sur la nature g\u00e9n\u00e9rale de la gravitation, mais d’un autre c\u00f4t\u00e9, elle sera peut-\u00eatre mieux \u00e0 m\u00eame d’int\u00e9grer les complexit\u00e9s du monde r\u00e9el, telles que la r\u00e9sistance de l’air, qui compliquent l’approche de Newton.<\/p>\n\n\n\n Je compare l’apprentissage automatique \u00e0 l’approche de Newton uniquement pour souligner que l’apprentissage automatique supervis\u00e9 n’est pas<\/em> le seul moyen de construire un syst\u00e8me d’intelligence artificielle. Il existe de nombreuses fa\u00e7ons de programmer un ordinateur, et aucune n’est manifestement<\/em> ou n\u00e9cessairement<\/em> meilleure qu’une autre pour une application particuli\u00e8re ex ante. Mais au cours des 15 derni\u00e8res ann\u00e9es environ, il est devenu \u00e9vident que l’apprentissage supervis\u00e9 peut \u00eatre efficace pour des t\u00e2ches beaucoup plus complexes que ce que l’on aurait pu imaginer. Par \u00ab complexit\u00e9 \u00bb, j’entends ici la vari\u00e9t\u00e9 des entr\u00e9es et sorties possibles d’un mod\u00e8le. Un tutoriel d’introduction \u00e0 l’apprentissage automatique typique pourrait vous montrer comment construire un syst\u00e8me qui prend une image de 256 \u00d7 256 pixels d’un chiffre manuscrit et produit l’une des dix \u00e9tiquettes possibles, \u00e0 savoir les chiffres de 0 \u00e0 9. Vous pouvez construire un mod\u00e8le de ce type qui atteint une pr\u00e9cision assez \u00e9lev\u00e9e avec seulement quelques dizaines de milliers d’images. Mais si, au lieu d’un millier d’images \u00e9tiquet\u00e9es, vous pouvez utiliser des millions ou des milliards d’images, vous pouvez consid\u00e9rablement \u00e9largir l’univers des entr\u00e9es et sorties possibles. Les mod\u00e8les de diffusion d’images tels que Stable Diffusion, par exemple, sont entra\u00een\u00e9s sur toutes sortes d’images de toutes tailles, et plut\u00f4t que de produire l’une des quelques \u00e9tiquettes discr\u00e8tes, ils produisent une image enti\u00e8re. Autrement dit, au lieu de produire une correspondance entre 256 \u00d7 256 = 65 536 entr\u00e9es possibles et dix sorties possibles, ils produisent une correspondance entre un ensemble incroyablement vaste d’entr\u00e9es possibles et un ensemble incroyablement vaste de sorties possibles. Le fait que l’on puisse faire quelque chose d’aussi complexe \u00e0 l’aide de l’apprentissage automatique n’est pas \u00e9vident, et je dirais que c’est l’une des d\u00e9couvertes scientifiques majeures des 15 derni\u00e8res ann\u00e9es.<\/p>\n\n\n\n Le hic, c’est que pour construire ce type de mod\u00e8les plus complexes, il faut disposer d’une quantit\u00e9 extr\u00eamement importante de donn\u00e9es, et obtenir des ensembles de donn\u00e9es suffisamment volumineux devient rapidement prohibitif. Les mod\u00e8les les plus prometteurs pour ces t\u00e2ches tr\u00e8s complexes n\u00e9cessitent des milliards d’exemples \u00e9tiquet\u00e9s, voire plus, et il est tout simplement impossible d’examiner manuellement un milliard d’images et de noter les objets qu’elles repr\u00e9sentent.<\/p>\n\n\n\n Si vous pouviez g\u00e9n\u00e9rer les \u00e9tiquettes sans avoir \u00e0 examiner manuellement tous les exemples, vous auriez alors une chance d’y parvenir. C’est le principe fondamental de l’<\/em>apprentissage auto-supervis\u00e9<\/u><\/em><\/strong><\/a>, le paradigme d’apprentissage automatique qui sous-tend les syst\u00e8mes d’IA g\u00e9n\u00e9rative modernes.<\/em> Si vous pouvez mettre la main sur des milliards de phrases, par exemple en r\u00e9cup\u00e9rant tout le texte disponible sur Internet, vous pouvez construire l’ensemble de donn\u00e9es d’entra\u00eenement de mani\u00e8re programmatique en d\u00e9coupant les phrases en morceaux. Il suffit de transformer \u00ab Le renard brun rapide saute par-dessus le chien paresseux \u00bb en exemple d’entra\u00eenement \u00ab Le renard brun rapide saute par-dessus le ___ paresseux \u00bb et de lui attribuer l’\u00e9tiquette \u00ab chien \u00bb. En fait, vous pouvez construire de nombreux exemples d’entra\u00eenement \u00e0 partir de cette seule phrase en la d\u00e9coupant \u00e0 diff\u00e9rents endroits : \u00ab Le rapide \u00bb et \u00ab brun \u00bb, \u00ab Le rapide brun \u00bb et \u00ab renard \u00bb, etc. \u00c0 partir d’une seule phrase, nous obtenons huit exemples d’entra\u00eenement sans qu’aucun \u00e9tiquetage humain ne soit n\u00e9cessaire. Multipliez cela par le nombre de phrases qu’il est possible de r\u00e9cup\u00e9rer sur Internet, et vous vous approchez de la taille n\u00e9cessaire pour entra\u00eener ce type de mod\u00e8les complexes.<\/p>\n\n\n\n Une observation importante \u00e0 ce sujet, sur laquelle je reviendrai dans un instant, est que, mis \u00e0 part les diff\u00e9rences consid\u00e9rables en termes de taille et de complexit\u00e9, le processus d’entra\u00eenement du GPT et celui d’un classificateur traditionnel ne sont pas si diff\u00e9rents. Le LLM traite beaucoup plus d’entr\u00e9es et de sorties possibles, mais il est entra\u00een\u00e9 fondamentalement de la m\u00eame mani\u00e8re, pour faire la m\u00eame chose : deviner la bonne \u00e9tiquette pour l’entr\u00e9e donn\u00e9e.<\/p>\n\n\n\n Les deux mod\u00e8les sont construits en leur montrant un ensemble d’exemples incomplets, en leur demandant de deviner les compl\u00e9ments et en notant leurs suppositions. Les grandes innovations associ\u00e9es \u00e0 l’entra\u00eenement des syst\u00e8mes d’IA g\u00e9n\u00e9rative modernes consistent \u00e0 trouver des moyens astucieux de construire automatiquement des ensembles de donn\u00e9es d’entra\u00eenement massifs, ainsi qu’\u00e0 inventer de nouveaux types de bo\u00eetes noires<\/u><\/a> adapt\u00e9es<\/u><\/a> \u00e0 l’ex\u00e9cution de t\u00e2ches complexes, mais le principe de base de leur entra\u00eenement est essentiellement le m\u00eame depuis des d\u00e9cennies.<\/p>\n\n\n\n L’histoire pourrait s’arr\u00eater l\u00e0. Parfois, un syst\u00e8me de reconnaissance num\u00e9rique confond un 7 et un 9, et parfois, un mod\u00e8le linguistique affirme que \u00ab le renard brun rapide saute par-dessus le marasme brun paresseux \u00bb. Cela fait partie int\u00e9grante de l’apprentissage automatique, car les mod\u00e8les d’apprentissage automatique font des pr\u00e9dictions bas\u00e9es sur des mod\u00e8les plut\u00f4t que sur des d\u00e9ductions d\u00e9ductives prouv\u00e9es, et cela tend \u00e0 s’am\u00e9liorer avec le temps gr\u00e2ce \u00e0 davantage de donn\u00e9es et \u00e0 des mod\u00e8les plus importants.<\/p>\n\n\n\n Mais je ne pense pas que ce soit juste.<\/p>\n\n\n\n Parfois, vous montrez au mod\u00e8le une image d’un 7 et il dit que c’est une image d’un 9. Cela a toujours \u00e9t\u00e9 le cas. Lorsque cela se produit in\u00e9vitablement, pourquoi ne dit-on pas que le syst\u00e8me de reconnaissance des chiffres \u00ab hallucine \u00bb ? Pourquoi une information inexacte n’est-elle une hallucination que lorsqu’elle provient d’un chatbot ?<\/em><\/p>\n\n\n\n Comme je l’ai mentionn\u00e9 il y a un instant, un LLM et un classificateur classique sont conceptuellement tr\u00e8s similaires dans leur construction.\u00a0Le LLM est un classificateur<\/em>,<\/strong> bien que tr\u00e8s complexe. Tout comme le syst\u00e8me de reconnaissance des chiffres est entra\u00een\u00e9 \u00e0 remplir l’\u00e9tiquette manquante sur une image pr\u00e9existante, le LLM est entra\u00een\u00e9 \u00e0 remplir le mot manquant \u00e0 la fin d’une phrase pr\u00e9existante. La principale diff\u00e9rence ici r\u00e9side dans la complexit\u00e9 et l’\u00e9chelle. Mais bien qu’ils soient similaires dans leur construction, il existe une \u00e9norme diff\u00e9rence dans la mani\u00e8re dont les syst\u00e8mes d’IA g\u00e9n\u00e9rative sont\u00a0d\u00e9ploy\u00e9s<\/em>.<\/p>\n\n\n\n En g\u00e9n\u00e9ral, nous d\u00e9ployons un classificateur pour effectuer la m\u00eame t\u00e2che que celle pour laquelle il a \u00e9t\u00e9 entra\u00een\u00e9. Lorsque nous d\u00e9ployons le syst\u00e8me de reconnaissance des chiffres, nous l’utilisons pour reconna\u00eetre des chiffres. Nous disposerons probablement d’un processus permettant de collecter des chiffres manuscrits, et nous utiliserons le mod\u00e8le pour lire ces chiffres collect\u00e9s afin d’effectuer une op\u00e9ration telle que le d\u00e9p\u00f4t d’un ch\u00e8que.<\/p>\n\n\n\n Les syst\u00e8mes d’IA g\u00e9n\u00e9rative sont diff\u00e9rents. Lorsque nous d\u00e9ployons un LLM sous forme de chatbot \u00e0 l’usage de tous, nous passons<\/em> de son utilisation pour deviner le mot suivant dans une phrase pr\u00e9existante \u00e0 la \u00ab devinette \u00bb du mot suivant dans une cha\u00eene de caract\u00e8res enti\u00e8rement nouvelle qui n’existe pas r\u00e9ellement. Il s’agit d’un changement \u00e9norme, dont l’importance est, \u00e0 mon avis, g\u00e9n\u00e9ralement sous-estim\u00e9e. Cela signifie que, contrairement \u00e0 un classificateur classique, il n’y a tout simplement aucun moyen d’\u00e9valuer la pr\u00e9cision de la sortie du LLM de mani\u00e8re traditionnelle, car il n’y a pas d’\u00e9tiquettes correctes auxquelles la comparer. Je pense que ce point est un peu subtil et qu’il sera utile de le d\u00e9tailler pour le mettre en \u00e9vidence.<\/p>\n\n\n\n Lorsque vous entrez une image du chiffre 7 dans le syst\u00e8me de reconnaissance des chiffres, il existe une seule \u00e9tiquette correcte et sans ambigu\u00eft\u00e9 que vous esp\u00e9rez voir appara\u00eetre : \u00ab 7 \u00bb. S’il affiche les \u00e9tiquettes \u00ab 1 \u00bb ou \u00ab 9 \u00bb, cela est clairement incorrect et nuit \u00e0 la pr\u00e9cision de votre mod\u00e8le. Ces erreurs sont identiques \u00e0 celles commises pendant l’entra\u00eenement, et il est donc logique de parler du taux d’erreur sur les nouvelles donn\u00e9es (ce qu’on appelle \u00ab l’erreur de g\u00e9n\u00e9ralisation \u00bb ou \u00ab l’erreur hors \u00e9chantillon \u00bb) exactement de la m\u00eame mani\u00e8re que nous parlons du taux d’erreur sur les donn\u00e9es d’entra\u00eenement.<\/p>\n\n\n\n Lorsque vous entrez la cha\u00eene \u00ab Que vaut 2 + 2 ? \u00bb dans ChatGPT, il n’y a pas de mot suivant unique et sans ambigu\u00eft\u00e9. Vous\u00a0aimeriez<\/em>\u00a0que le mot suivant soit quelque chose comme \u00ab 4 \u00bb. Mais \u00ab 2 \u00bb pourrait \u00e9galement convenir, comme dans \u00ab 2 + 2 = 4 \u00bb. \u00ab La \u00bb pourrait \u00e9galement \u00eatre un bon mot suivant, comme dans \u00ab La somme de 2 et 2 est 4 \u00bb. Bien s\u00fbr, n’importe lequel de ces mots pourrait \u00e9galement \u00eatre le premier mot d’une mauvaise r\u00e9ponse,<\/em>\u00a0comme \u00ab 4,5 \u00bb ou \u00ab 2 + 2 = 5 \u00bb ou \u00ab Le renard brun rapide \u00bb. La t\u00e2che pour laquelle le mod\u00e8le a \u00e9t\u00e9 con\u00e7u consiste \u00e0 remplir le mot qui a \u00e9t\u00e9 censur\u00e9 dans un passage existant, une t\u00e2che qui a une r\u00e9ponse correcte sans ambigu\u00eft\u00e9, mais la situation est d\u00e9sormais compl\u00e8tement diff\u00e9rente. Il existe de meilleurs mots suivants et de moins bons mots suivants, mais il n’y a pas de mot suivant\u00a0correct<\/em>\u00a0au m\u00eame titre que lors de l’entra\u00eenement, car il n’y a pas d’exemple \u00e0 reconstruire.<\/p>\n\n\n\n Une erreur<\/em> au sens classique du terme pour un mod\u00e8le linguistique serait l’incapacit\u00e9 \u00e0 re<\/em>produire le<\/em> mot<\/em> manquant<\/em> qui a \u00e9t\u00e9 censur\u00e9 dans l’exemple d’entra\u00eenement, mais en production, ces mod\u00e8les ne sont tout simplement pas utilis\u00e9s pour cela. C’est un peu comme si nous commencions \u00e0 ins\u00e9rer des images d’animaux dans le syst\u00e8me de reconnaissance des chiffres. Si le syst\u00e8me de reconnaissance des chiffres appelle un lion un 6, a-t-il commis une erreur ? Non, je ne pense pas. Vous l’utilisez pour une t\u00e2che diff\u00e9rente de celle pour laquelle il a \u00e9t\u00e9 form\u00e9 ; il n’y a pas de bonne r\u00e9ponse, donc les erreurs ne sont pas d\u00e9finies.<\/p>\n\n\n\n Dans la pratique, nous avons tendance \u00e0 ne pas nous soucier outre mesure de ces pr\u00e9dictions de mots individuels. Le LLM, le moteur qui fait fonctionner ChatGPT, ne fait rien d’autre que deviner les mots un par un, mais le syst\u00e8me ChatGPT comprend un composant qui renvoie ces pr\u00e9dictions au LLM afin de g\u00e9n\u00e9rer une s\u00e9quence compl\u00e8te de mots qui composent une r\u00e9ponse textuelle compl\u00e8te. C’est le contenu s\u00e9mantique qui \u00e9merge dans cette r\u00e9ponse textuelle compl\u00e8te qui nous int\u00e9resse g\u00e9n\u00e9ralement, et non un mot en particulier.<\/p>\n\n\n\n C’est au moins en partie pour cette raison que c’est une \u00ab erreur \u00bb lorsque le classificateur de chiffres manuscrits confond un 7 et un 9, mais une \u00ab hallucination \u00bb lorsque GPT-4 affirme qu’un \u00e9l\u00e9phant nomm\u00e9 Kami a travers\u00e9 la Manche \u00e0 la nage en 1981 afin de collecter des fonds pour le World Wildlife Fund.<\/p>\n\n\n\n Bien s\u00fbr, ce n’est pas vrai qu’un \u00e9l\u00e9phant nomm\u00e9 Kami ait travers\u00e9 la Manche \u00e0 la nage en 1981, mais la fa\u00e7on dont ChatGPT se trompe ici est tr\u00e8s diff\u00e9rente de la fa\u00e7on dont un classificateur d’images se trompe lorsqu’il confond un 7 et un 9. ChatGPT a fait 110 pr\u00e9dictions distinctes ici, et il n’est pas \u00e9vident de classer chacune d’entre elles comme correcte ou incorrecte. Chaque mot pr\u00e9dit a un sens par rapport aux mots qui le pr\u00e9c\u00e8dent, et cela ressemble beaucoup \u00e0 une s\u00e9quence de mots que l’on pourrait trouver dans les donn\u00e9es d’entra\u00eenement.<\/p>\n\n\n\n \u00c0 mon avis, certains, voire la plupart des mots pr\u00e9dits ici sont probablement plus proches de la v\u00e9rit\u00e9 que de l’erreur. Bien s\u00fbr, il n’existe pas de moyen universel de d\u00e9finir cela objectivement, car il n’y a pas de texte pr\u00e9existant auquel le comparer (c’est en quelque sorte toute ma th\u00e8se ici), mais pouvez-vous penser \u00e0 un meilleur mot pour suivre \u00ab reste un \u00e9v\u00e9nement unique dans l’histoire des animaux \u00bb que \u00ab exploits \u00bb ? Parmi toutes les pr\u00e9dictions faites par le mod\u00e8le, il est assez difficile de d\u00e9terminer lesquelles, le cas \u00e9ch\u00e9ant, nous devrions qualifier d’erreurs<\/em> \u2014 m\u00eame si, dans l’ensemble, il est clair que ce r\u00e9sultat n’est pas celui que nous souhaitons.<\/p>\n\n\n\n Mais pourquoi n’est-ce pas celui que nous souhaitons ? Qu’est-ce qui ne va pas exactement ? De toute \u00e9vidence, le principal probl\u00e8me est qu’il semble d\u00e9crire un \u00e9v\u00e9nement qui ne s’est pas r\u00e9ellement produit. Mais quand j’y r\u00e9fl\u00e9chis vraiment, je trouve cela un peu d\u00e9routant. Et si un \u00e9l\u00e9phant d’Asie nomm\u00e9 Kami avait r\u00e9ellement travers\u00e9 la Manche \u00e0 la nage en 1981, exactement comme le d\u00e9crit ce texte ? Dans ce cas, cette paire identique d’entr\u00e9e et de sortie ne serait pas hallucinatoire. Cela semble impliquer qu’il n’y a rien d’inh\u00e9rent au texte de la paire entr\u00e9e-sortie qui le rende hallucinatoire ; le fait qu’il soit hallucinatoire ou non d\u00e9pend enti\u00e8rement de faits concernant le monde, des faits qui existent de mani\u00e8re totalement ind\u00e9pendante du texte produit par le mod\u00e8le. Mais s’il n’y a rien d’inh\u00e9rent au texte qui le rende hallucinatoire, alors l’hallucinatoire est-il m\u00eame une propri\u00e9t\u00e9 du texte ? Pas enti\u00e8rement, semble-t-il. C’est une propri\u00e9t\u00e9 de la mani\u00e8re dont le texte se rapporte aux objets et aux \u00e9v\u00e9nements du monde r\u00e9el.<\/p>\n\n\n\n Pour compliquer encore les choses, la mise en correspondance du texte avec les faits du monde r\u00e9el est une t\u00e2che plus d\u00e9licate et plus subjective qu’on ne le souhaiterait. J’ai lu le passage sur Kami comme faisant plusieurs affirmations, dont beaucoup sont vraies : la Manche mesure<\/em> \u00ab environ 21 miles \u00e0 son point le plus \u00e9troit \u00bb et elle repr\u00e9sente<\/em> \u00ab un d\u00e9fi important, m\u00eame pour les nageurs exp\u00e9riment\u00e9s, en raison des forts courants et de la temp\u00e9rature froide de l’eau \u00bb. Comme la plupart des lecteurs, je pense, je serais probablement d’accord pour dire que l’essentiel<\/em> de l’affirmation faite par le texte est qu’un \u00e9l\u00e9phant nomm\u00e9 Kami a travers\u00e9 la Manche \u00e0 la nage, ce qui est faux, et que le passage est donc peut-\u00eatre \u00ab hallucinatoire \u00bb, mais pouvez-vous trouver un crit\u00e8re objectif permettant d’\u00e9valuer ce type de texte ? Cela me semble difficile. Le r\u00e9sultat suivant serait-il une hallucination ou non ? (Il est tr\u00e8s important de toujours garder \u00e0 l’esprit que, comme ces syst\u00e8mes g\u00e9n\u00e8rent des textes de mani\u00e8re al\u00e9atoire, une m\u00eame invite peut donner lieu \u00e0 des r\u00e9sultats diff\u00e9rents, dont certains peuvent \u00eatre consid\u00e9r\u00e9s comme hallucinatoires et d’autres non.)<\/p>\n\n\n\n Et celui-ci ?<\/p>\n\n\n\n Je ne dis pas qu’il est impossible de trouver des crit\u00e8res permettant de les classer sans ambigu\u00eft\u00e9, mais ce n’est pas aussi simple que vous pourriez l’esp\u00e9rer.<\/p>\n\n\n\n Permettez-moi de r\u00e9capituler une fois de plus les principes de base du fonctionnement de ChatGPT. Tout d’abord, vous entra\u00eenez un classificateur, de mani\u00e8re plus ou moins standard, \u00e0 remplir le mot manquant dans un bloc de texte. Vous disposez alors d’un mod\u00e8le capable de produire un seul mot \u00e0 la fois : le mot manquant pr\u00e9dit, compte tenu du texte pr\u00e9c\u00e9dent. \u00c0 partir d’un texte initial, par exemple \u00ab 2 + 2 \u00bb, ce mod\u00e8le agit comme s’il s’agissait du d\u00e9but d’un document existant dont le dernier mot a \u00e9t\u00e9 censur\u00e9, et produit une supposition quant au mot censur\u00e9. Il suppose peut-\u00eatre \u00ab \u00e9gale \u00bb. Maintenant, pour transformer cela en un syst\u00e8me qui produit plus d’un mot \u00e0 la fois, vous collez cela \u00e0 la fin de l’invite et vous le r\u00e9injectez dans le mod\u00e8le. Le mod\u00e8le est invoqu\u00e9 une fois de plus, sans tenir compte de l’activit\u00e9 pr\u00e9c\u00e9dente, et on lui demande de deviner le mot qui a \u00e9t\u00e9 censur\u00e9 \u00e0 la fin de \u00ab 2 + 2 \u00e9gale \u00bb. Cela se r\u00e9p\u00e8te encore et encore jusqu’\u00e0 ce que le mod\u00e8le pr\u00e9dise qu’il n’y a pas de mot suivant. \u00c0 un niveau \u00e9lev\u00e9, les mod\u00e8les d’images g\u00e9n\u00e9ratifs fonctionnent de mani\u00e8re assez similaire. Ils sont entra\u00een\u00e9s \u00e0 reconstruire une image \u00e0 partir d’une version d\u00e9form\u00e9e de celle-ci et d’une description textuelle simple de l’image. Pour g\u00e9n\u00e9rer de nouvelles images, vous entrez la description en texte brut de ce que vous voulez produire, et \u00e0 l’endroit o\u00f9 le mod\u00e8le s’attend \u00e0 trouver l’image d\u00e9form\u00e9e, vous entrez un bruit al\u00e9atoire. Dans les deux cas, le mod\u00e8le \u00ab pense \u00bb qu’il reconstruit un artefact existant, mais en r\u00e9alit\u00e9, il en g\u00e9n\u00e8re un nouveau.\u00a0Compte tenu de cette description, je pense qu’il est logique de se demander : est-ce que toutes les sorties de l’IA g\u00e9n\u00e9rative sont des \u00ab hallucinations \u00bb ? Si la mani\u00e8re de les amener \u00e0 produire des r\u00e9sultats consiste \u00e0 leur dire que ces r\u00e9sultats existent d\u00e9j\u00e0 et \u00e0 les mettre au travail pour les reconstruire, cela me semble \u00eatre comme si nous leur demandions d’halluciner.<\/em><\/p>\n\n\n\n Certains chercheurs \u00e9minents en IA ont r\u00e9cemment adh\u00e9r\u00e9 publiquement \u00e0 cette opinion selon laquelle\u00a0tous les<\/em>\u00a0r\u00e9sultats des LLM sont des hallucinations \u2014 et qu’en outre, c’est en fait une bonne chose. Andrej Karpathy\u00a0a r\u00e9cemment tweet\u00e9<\/a> que les LLM sont des \u00ab machines \u00e0 r\u00eaves \u00bb, que \u00ab l’hallucination n’est pas un bug, c’est la plus grande caract\u00e9ristique des LLM \u00bb. \u00bb Je n’irais peut-\u00eatre pas jusqu’\u00e0 qualifier cela de \u00ab formidable \u00bb fonctionnalit\u00e9, mais je pense sinc\u00e8rement que c’est leur caract\u00e9ristique principale.<\/p>\n\n\n\n Ce n’est en r\u00e9alit\u00e9 pas une perspective nouvelle, mais relativement ancienne. En 2015, Google a lanc\u00e9 un syst\u00e8me appel\u00e9\u00a0DeepDream<\/a>, qui \u00e9tait tr\u00e8s clairement un pr\u00e9curseur des syst\u00e8mes d’IA g\u00e9n\u00e9rative actuels, et tr\u00e8s certainement ce \u00e0 quoi Karpathy faisait allusion en qualifiant les LLM de \u00ab machines \u00e0 r\u00eaves \u00bb.<\/p>\n\n\n\n Ce syst\u00e8me est n\u00e9 de la prise de conscience qu’ils pouvaient reconfigurer la technologie qu’ils utilisaient pour classer les <\/em>images afin de g\u00e9n\u00e9rer des<\/em> images qui n’existaient pas auparavant. Comme les images g\u00e9n\u00e9r\u00e9es ne repr\u00e9sentent pas vraiment quelque chose qui existe dans le monde r\u00e9el, mais plut\u00f4t une sorte d’\u00e9cho statistique des images issues des donn\u00e9es d’entra\u00eenement, ils ont d\u00e9cid\u00e9 de les appeler \u00ab r\u00eaves \u00bb. Les cr\u00e9ateurs de DeepDream n’ont pas pr\u00e9tendu que le mod\u00e8le produisait des images qui \u00e9taient \u00ab parfois des hallucinations \u00bb. Il \u00e9tait clair d\u00e8s le d\u00e9part que chaque information g\u00e9n\u00e9r\u00e9e par ces mod\u00e8les \u00e9tait un \u00ab r\u00eave \u00bb. \u00c0 l’\u00e9poque, cela semblait plus \u00eatre une curiosit\u00e9 qu’un outil pouvant r\u00e9ellement \u00eatre utile en soi, ou tout au plus un moyen de mieux comprendre le fonctionnement interne du classificateur.<\/p>\n\n\n\n \u00c0 l’\u00e9poque, peu de gens semblaient penser que ce type de r\u00eaves pouvait \u00eatre utile en soi, mais nous avons depuis appris que si l’on entra\u00eene un mod\u00e8le suffisamment complexe avec suffisamment de donn\u00e9es, les r\u00eaves peuvent devenir tr\u00e8s vivants et correspondre fr\u00e9quemment \u00e0 des faits du monde r\u00e9el. Mais dans la mesure o\u00f9 cela se produit, il s’agit selon moi essentiellement d’une heureuse co\u00efncidence. Du \u00ab point de vue du mod\u00e8le \u00bb, il n’y a pas de distinction entre un texte hallucinatoire et un texte non hallucinatoire. Toutes ses sorties sont des reconstructions imaginaires de documents censur\u00e9s fictifs.<\/p>\n\n\n\n Cela peut sembler plut\u00f4t philosophique et abstrait, et dans une certaine mesure, \u00e7a l’est, mais je pense que cela a aussi des implications tr\u00e8s concr\u00e8tes sur la fa\u00e7on dont on peut s’attendre \u00e0 ce que cette technologie \u00e9volue. Si une hallucination est analogue \u00e0 une erreur typique de tout autre mod\u00e8le d’apprentissage automatique, alors nous avons de bonnes raisons empiriques de croire que la pr\u00e9valence des hallucinations peut \u00eatre r\u00e9duite de mani\u00e8re significative jusqu’\u00e0 atteindre z\u00e9ro. Il existe aujourd’hui des mod\u00e8les d’apprentissage automatique tr\u00e8s performants pour la reconnaissance des chiffres manuscrits. Les \u00e9tapes de base sont simples : entra\u00eener le mod\u00e8le sur davantage de donn\u00e9es et l’agrandir. Mais si les hallucinations sont qualitativement diff\u00e9rentes des erreurs classiques, comme je le crois sinc\u00e8rement, alors la situation peut \u00eatre diff\u00e9rente. Dans ce cas, il n’est pas si \u00e9vident que davantage de donn\u00e9es ou des mod\u00e8les plus grands conduisent \u00e0 moins d’hallucinations. Peut-\u00eatre que la solution ne r\u00e9side pas dans davantage de donn\u00e9es ou des mod\u00e8les plus grands, mais dans autre chose : une mani\u00e8re compl\u00e8tement nouvelle et diff\u00e9rente d’entra\u00eener le mod\u00e8le, ou une nouvelle mani\u00e8re de g\u00e9n\u00e9rer des pr\u00e9dictions. Et en fait, l’approche actuelle de pointe pour traiter les hallucinations n’implique pas vraiment de collecter un ensemble de donn\u00e9es significativement plus grand ou d’agrandir le mod\u00e8le ; le RLHF s’apparente davantage \u00e0 une mani\u00e8re compl\u00e8tement nouvelle et diff\u00e9rente de modifier un mod\u00e8le pr\u00e9-entra\u00een\u00e9 (I j’ai d\u00e9velopp\u00e9 le RLHF en d\u00e9tail dans cet article pr\u00e9c\u00e9dent<\/u><\/a>, ainsi que de mani\u00e8re un peu moins d\u00e9taill\u00e9e mais sous des angles diff\u00e9rents dans celui-ci<\/u><\/a> et celui-l\u00e0<\/u><\/a>). Est-ce la solution ? Peut-\u00eatre ; personne ne le sait ! Si l’on consid\u00e8re que le probl\u00e8me des hallucinations est qualitativement nouveau, plut\u00f4t qu’un exemple du probl\u00e8me bien connu des erreurs occasionnelles des mod\u00e8les d’apprentissage automatique, l’in\u00e9vitabilit\u00e9 d’une am\u00e9lioration progressive mais perp\u00e9tuelle dans ce domaine n’est pas du tout garantie.<\/p>\n\n\n\n Ce qui est vraiment effrayant dans cette perspective, c’est que le probl\u00e8me de l’hallucination est tout simplement insoluble. L’hallucination et la non-hallucination ne sont pas en r\u00e9alit\u00e9 des cat\u00e9gories distinctes de r\u00e9sultats ; chaque fois que vous demandez au bot de vous dessiner une image ou de vous \u00e9crire un essai, vous lui demandez de halluciner. Ces hallucinations s’\u00e9carteront in\u00e9vitablement du monde r\u00e9el, au moins parfois, car comment pourraient-elles ne pas le faire ? Ce sont des r\u00eaves.<\/p>\n\n\n\n Je pense qu’il est r\u00e9v\u00e9lateur que la plupart des tentatives r\u00e9elles visant \u00e0 ancrer les syst\u00e8mes bas\u00e9s sur le LLM dans la v\u00e9rit\u00e9 ne soient pas vraiment des moyens d’am\u00e9liorer le mod\u00e8le, mais plut\u00f4t des moyens d’ajouter des \u00e9l\u00e9ments non LLM au syst\u00e8me plus large qui produisent des textes factuels plus fiables sur lesquels il peut s’appuyer : lui fournir un environnement dans lequel ex\u00e9cuter du code, par exemple, ou lui fournir les r\u00e9sultats de recherche de Bing. Ces modules compl\u00e9mentaires (OpenAI les appelle litt\u00e9ralement \u00ab add-ons \u00bb) peuvent r\u00e9ussir dans une certaine mesure \u00e0 susciter des hallucinations qui correspondent mieux au monde r\u00e9el, mais cela ne me semble pas r\u00e9soudre le probl\u00e8me \u00e0 la racine, \u00e0 savoir que le moteur de g\u00e9n\u00e9ration ne peut pas faire la diff\u00e9rence entre g\u00e9n\u00e9rer des v\u00e9rit\u00e9s et g\u00e9n\u00e9rer des mensonges.<\/p>\n\n\n\n En apart\u00e9, je trouve que le battage m\u00e9diatique autour de l’IA g\u00e9n\u00e9rative est plut\u00f4t d\u00e9routant et confus. Bien s\u00fbr, je trouve qu’il est exag\u00e9r\u00e9 \u00e0 bien des \u00e9gards. Vous le savez, je n’ai pas besoin de m’\u00e9tendre sur le sujet. Mais d’un autre c\u00f4t\u00e9, je pense qu’on sous-estime et sous-\u00e9value le miracle que repr\u00e9sente le simple fait que cela fonctionne. Je ne trouve pas si surprenant que, avec un ensemble de donn\u00e9es suffisamment grand et un mod\u00e8le suffisamment vaste, on puisse entra\u00eener un grand mod\u00e8le \u00e0 pr\u00e9dire le mot manquant dans un passage de texte avec une pr\u00e9cision assez \u00e9lev\u00e9e. Mais le fait que l’on puisse r\u00e9injecter la sortie de ce mod\u00e8le dans le mod\u00e8le lui-m\u00eame pour g\u00e9n\u00e9rer du texte, et que le texte obtenu soit m\u00eame vaguement coh\u00e9rent, sans parler d’utile, rel\u00e8ve tout simplement du miracle. Pourtant, je ne vois pas vraiment ce dernier point \u00eatre mis en avant. Ce n’est qu’une opinion personnelle, mais je ne pense pas que (certaines des) personnes qui ont d\u00e9velopp\u00e9 cette technologie veulent vraiment reconna\u00eetre \u00e0 quel point il est surprenant que cela fonctionne, car cela soul\u00e8ve la question d\u00e9licate de savoir s’il faudra des miracles d’une ampleur similaire pour l’am\u00e9liorer, par exemple pour \u00e9liminer le probl\u00e8me des hallucinations. Il est plus confortable de pr\u00e9senter GPT-4 comme une br\u00e8ve \u00e9tape dans la marche inexorable vers la super-intelligence artificielle, avec les hallucinations et tous les autres probl\u00e8mes comme des incidents temporaires en cours de route, plut\u00f4t que comme une astuce \u00e9trange d\u00e9couverte en 2017 qui a produit des r\u00e9sultats compl\u00e8tement impr\u00e9visibles et surprenants que personne ne comprend vraiment.<\/p>\n\n\n\n D’apr\u00e8s le point de vue expos\u00e9 dans la section pr\u00e9c\u00e9dente, il n’existe pas de distinction universelle r\u00e9elle entre les r\u00e9sultats hallucinatoires et les r\u00e9sultats qui ne le sont pas. Il peut y avoir des r\u00e9sultats plus souhaitables et d’autres moins souhaitables, mais le caract\u00e8re souhaitable n’est pas une propri\u00e9t\u00e9 inh\u00e9rente au texte, mais plut\u00f4t une propri\u00e9t\u00e9 li\u00e9e \u00e0 la mani\u00e8re dont il est interpr\u00e9t\u00e9 et utilis\u00e9 par le lecteur. Vous pouvez \u00eatre d’accord avec cela, ou non. Quoi qu’il en soit, je pense qu’il est important, voire essentiel, de r\u00e9fl\u00e9chir et d’essayer de quantifier la fr\u00e9quence des diff\u00e9rents types de textes que le mod\u00e8le produit dans diff\u00e9rentes circonstances.<\/p>\n\n\n\n Cela sugg\u00e8re une id\u00e9e assez simple : pourquoi ne pas simplement d\u00e9finir arbitrairement certains crit\u00e8res pour d\u00e9terminer ce qui constitue une hallucination, ind\u00e9pendamment des questions philosophiques sur l’existence objective d’une telle chose, et essayer d’\u00e9valuer les mod\u00e8les par rapport \u00e0 cette d\u00e9finition afin d’obtenir un \u00ab taux d’hallucination \u00bb ? Dans cette section, je vais aborder certaines des difficult\u00e9s que nous rencontrons lorsque nous essayons de le faire.<\/p>\n\n\n\n Tout d’abord, il y a quelques remarques \u00e0 faire sur la mani\u00e8re d’appr\u00e9hender les erreurs en g\u00e9n\u00e9ral. Il est amusant et int\u00e9ressant d’apprendre les d\u00e9tails techniques sp\u00e9cifiques du fonctionnement des diff\u00e9rents syst\u00e8mes d’IA, mais lorsque l’on envisage d’en d\u00e9ployer un pour automatiser des d\u00e9cisions r\u00e9elles avec des enjeux r\u00e9els, seules trois choses importent vraiment : quels types d’erreurs commet-il, \u00e0 quelle fr\u00e9quence les commet-il et quel est le co\u00fbt de ces erreurs ? Les r\u00e9ponses \u00e0 ces questions d\u00e9terminent s’il est rationnel d’utiliser le syst\u00e8me en production, et parfois ce n’est pas le cas !<\/p>\n\n\n\n Supposons que vous envisagiez d’utiliser un mod\u00e8le qui pr\u00e9dit si une maison est sous-\u00e9valu\u00e9e comme base pour votre activit\u00e9 d’investissement immobilier. Si le mod\u00e8le pr\u00e9dit que la maison est sous-\u00e9valu\u00e9e, vous l’achetez et la revendez au prix que votre mod\u00e8le estime \u00eatre sa juste valeur marchande. La viabilit\u00e9 de cette strat\u00e9gie d\u00e9pend fortement du type et de la fr\u00e9quence des erreurs commises par votre mod\u00e8le. Il ne suffit pas de savoir que \u00ab dans 90 % des cas, le mod\u00e8le se situe \u00e0 moins de 5 % du prix de vente r\u00e9el \u00bb. Vous devez en savoir beaucoup plus. Dans les 10 % des cas o\u00f9 l’\u00e9cart est sup\u00e9rieur \u00e0 5 %, de combien s’agit-il ? Si l’\u00e9cart est parfois de 100 % ou 1 000 %, cela pourrait suffire \u00e0 vous ruiner, m\u00eame si cela n’arrive que rarement. Dans les 90 % des cas o\u00f9 l’\u00e9cart est inf\u00e9rieur \u00e0 10 %, le mod\u00e8le a-t-il tendance \u00e0 surestimer ou \u00e0 sous-estimer ? Si le mod\u00e8le a tendance \u00e0 sous-estimer la valeur r\u00e9elle des maisons, vous manquerez souvent des occasions lucratives de revendre ou vous vendrez trop t\u00f4t. Cela peut \u00eatre ennuyeux, mais tant que le mod\u00e8le donne parfois des r\u00e9sultats corrects, vous disposez peut-\u00eatre d’un moyen viable de gagner de l’argent. En revanche, si le mod\u00e8le a tendance \u00e0 surestimer la valeur r\u00e9elle d’une maison, vous paierez trop cher pour des actifs sur\u00e9valu\u00e9s, ce qui est un bon moyen de faire faillite. La morale de l’histoire est qu’il est primordial de comprendre et de planifier les erreurs commises par le mod\u00e8le (non seulement leur fr\u00e9quence, mais aussi leur nature et leur co\u00fbt) si vous comptez l’utiliser pour automatiser la prise de d\u00e9cision. Cela vaut pour tous les mod\u00e8les, de la r\u00e9gression lin\u00e9aire \u00e0 variable unique la plus simple au plus grand mod\u00e8le linguistique au monde.<\/p>\n\n\n\n Mais pour l’IA g\u00e9n\u00e9rative, comme je l’ai expliqu\u00e9, on ne sait pas tr\u00e8s bien comment d\u00e9finir ou d\u00e9crire les erreurs, et encore moins comment les mesurer et les analyser. Des tentatives ont \u00e9t\u00e9 faites. Comme je l’ai sugg\u00e9r\u00e9 pr\u00e9c\u00e9demment, vous pouvez essayer de demander au syst\u00e8me LLM de g\u00e9n\u00e9rer un ensemble de r\u00e9sultats, les lire pour d\u00e9terminer s’ils sont corrects ou incorrects, et \u00e0 partir de l\u00e0, calculer un \u00ab taux d’hallucination \u00bb. Une soci\u00e9t\u00e9 appel\u00e9e Vectara dispose d’un programme qui tente de faire exactement cela et tient \u00e0 jour un \u00ab\u00a0Hallucination Leaderboard<\/a>\u00a0\u00bb (classement des hallucinations) qui indique actuellement que le taux d’hallucination de GPT 4 Turbo est de 2,5 %, tandis que celui de Mistral 7B Instruct-v0.1 est de 9,4 %.<\/p>\n\n\n\n J’ai de s\u00e9rieuses r\u00e9serves m\u00e9thodologiques quant \u00e0 la mani\u00e8re dont ces chiffres sont estim\u00e9s et j’y reviendrai dans un instant, mais m\u00eame en supposant qu’il existe une m\u00e9thode m\u00e9thodologiquement fiable pour quantifier cela, un tel \u00ab taux d’hallucination \u00bb est loin d’\u00eatre une information suffisante. Tout comme dans l’exemple de l’achat d’une maison, ce n’est pas seulement la fr\u00e9quence des erreurs qui importe, mais aussi\u00a0leur nature<\/em>. Lorsque le bot LLM dit quelque chose de faux, que dit-il exactement ? Dit-il qu’il a plu le week-end dernier alors qu’il faisait en r\u00e9alit\u00e9 beau ? Ou fait-il\u00a0des offres extravagantes \u00e0 votre client que vous ne pouvez pas tenir<\/a>\u00a0? S’il se trompe sur la m\u00e9t\u00e9o du week-end dernier 2,5 % du temps, cela peut suffire pour un assistant de chat en contact avec la client\u00e8le, mais vous pr\u00e9f\u00e9reriez probablement qu’il donne gratuitement votre stock beaucoup moins souvent que 2,5 % du temps.<\/p>\n\n\n\n Dans le contexte classique de l’apprentissage automatique, il est g\u00e9n\u00e9ralement possible de fixer des limites aux diff\u00e9rents types d’erreurs et \u00e0 leurs taux, ou du moins de donner une indication qualitative \u00e0 leur sujet. Vous ne savez pas dans quelle mesure l’estimation du prix d’une maison sera erron\u00e9e, mais vous savez qu’il s’agira au moins d’un chiffre<\/em>, et vous pouvez probablement effectuer une analyse statistique pour d\u00e9terminer s’il a tendance \u00e0 surestimer ou \u00e0 sous-estimer, etc. Vous ne savez pas ce que le syst\u00e8me de reconnaissance des chiffres va penser de ce \u00ab 7 \u00bb, mais vous savez avec certitude qu’il va au moins essayer de deviner un chiffre. Avec ces nouveaux syst\u00e8mes d’IA g\u00e9n\u00e9rative, le r\u00e9sultat peut \u00eatre apparemment n’importe quoi. L’espace des textes ind\u00e9sirables possibles est infiniment vaste. ChatGPT pourrait citer un prix erron\u00e9 \u00e0 votre client, lui recommander un concurrent, lui adresser des insultes racistes, g\u00e9n\u00e9rer une image pornographique ou commettre une infinit\u00e9 d’autres erreurs, chacune d’entre elles ayant un co\u00fbt diff\u00e9rent.<\/p>\n\n\n\n Sans savoir plus pr\u00e9cis\u00e9ment quels types d’erreurs il commet, un taux d’hallucination g\u00e9n\u00e9rique ne vous donne tout simplement pas suffisamment d’informations pour savoir si un LLM vous convient.<\/p>\n\n\n\n Je voudrais revenir sur les d\u00e9fis m\u00e9thodologiques, car je pense qu’ils sont importants. J’en vois au moins trois qui sont difficiles \u00e0 relever. Le premier, et le moins grave, est qu’il n’y a manifestement pas de consensus sur ce qui constitue une \u00ab hallucination \u00bb. Le classement Vectara n’est en r\u00e9alit\u00e9 pas tr\u00e8s pr\u00e9cis quant \u00e0 sa d\u00e9finition d’une hallucination, mais celle-ci semble \u00eatre \u00e0 peu pr\u00e8s la suivante : une hallucination est une tentative infructueuse de r\u00e9sumer avec pr\u00e9cision un texte. Cela convient dans la mesure o\u00f9 cela va, mais si vous n’utilisez pas le mod\u00e8le pour r\u00e9sumer du texte, alors une mesure de la fr\u00e9quence \u00e0 laquelle un mod\u00e8le \u00e9choue \u00e0 r\u00e9sumer avec pr\u00e9cision du texte peut ne pas vous \u00eatre particuli\u00e8rement utile. C’est un probl\u00e8me, mais pas un probl\u00e8me tr\u00e8s grave tant que vous prenez soin de bien comprendre la m\u00e9thodologie de la r\u00e9f\u00e9rence en mati\u00e8re d’hallucination que vous examinez. Il vous suffit de lire la documentation, de d\u00e9cider si votre d\u00e9finition personnelle d’une hallucination correspond \u00e0 la d\u00e9finition de la r\u00e9f\u00e9rence, et de proc\u00e9der en cons\u00e9quence.<\/p>\n\n\n\n Les deuxi\u00e8me et troisi\u00e8me probl\u00e8mes sont nettement plus difficiles \u00e0 traiter. Le deuxi\u00e8me probl\u00e8me est qu’il est pratiquement impossible de r\u00e9aliser correctement ces \u00e9valuations. Pour \u00e9valuer correctement le taux d’hallucination de Vectara (et je suis d\u00e9sol\u00e9 de continuer \u00e0 m’en prendre \u00e0 Vectara, car tous les benchmarks ont le m\u00eame probl\u00e8me), il faudrait lire attentivement des dizaines de milliers de r\u00e9sum\u00e9s de texte de plusieurs paragraphes et d\u00e9terminer si chacun d’entre eux contient des erreurs factuelles. Il est tout simplement impossible de le faire de mani\u00e8re continue. Au lieu de cela, une fois tous les r\u00e9sum\u00e9s textuels g\u00e9n\u00e9r\u00e9s, ils utilisent un autre grand mod\u00e8le linguistique pour d\u00e9terminer si les r\u00e9sum\u00e9s contiennent des erreurs. J’esp\u00e8re que vous comprenez le probl\u00e8me que cela pose.<\/p>\n\n\n\n Le but de cet exercice est d’observer que les g\u00e9n\u00e9rateurs bas\u00e9s sur les LLM semblent peu fiables lorsqu’il s’agit de s’en tenir \u00e0 la v\u00e9rit\u00e9, et nous utilisons maintenant un LLM pour d\u00e9terminer s’ils s’en sont tenus \u00e0 la v\u00e9rit\u00e9. Je tiens \u00e0 pr\u00e9ciser que je ne pense pas que l’id\u00e9e d’utiliser des LLM pour \u00e9valuer d’autres LLM soit n\u00e9cessairement une impasse totale. Mais pour le faire correctement, il faudra recourir \u00e0 une m\u00e9thodologie statistique sophistiqu\u00e9e afin de corriger les erreurs commises par le mod\u00e8le de mesure, et je n’ai vu aucun benchmark standard aborder ce probl\u00e8me. Le mod\u00e8le de mesure lui-m\u00eame va commettre des erreurs, et il est presque certain que ces erreurs vont biaiser toute estimation de la pr\u00e9valence r\u00e9elle des erreurs. Ce n’est pas un probl\u00e8me statistique nouveau ; le probl\u00e8me de l’estimation de la pr\u00e9valence d’une population en comptant le nombre de r\u00e9sultats positifs produits par un test peu fiable a \u00e9t\u00e9 largement \u00e9tudi\u00e9 en \u00e9pid\u00e9miologie, par exemple.<\/p>\n\n\n\n Cet article traite de certaines propri\u00e9t\u00e9s fondamentales des tests [d’hallucination]. Ces tests visent \u00e0 s\u00e9parer les [r\u00e9sultats des LLM] avec [hallucinations] des [r\u00e9sultats des LLM] sans. Les crit\u00e8res minimaux pour qu’un tel processus soit consid\u00e9r\u00e9 comme un test sont examin\u00e9s. Diverses fa\u00e7ons d’\u00e9valuer la qualit\u00e9 d’un test sont examin\u00e9es. Les tests sont couramment utilis\u00e9s pour estimer la pr\u00e9valence des [hallucinations] ; <\/em>la fr\u00e9quence des tests positifs s’av\u00e8re \u00eatre une mauvaise estimation<\/em><\/strong>, et les ajustements n\u00e9cessaires sont indiqu\u00e9s.<\/em><\/p>\n\u2014 R\u00e9sum\u00e9 de\u00a0<\/em>Rogan, W. J., & Gladen, B. (1978). Estimation de la pr\u00e9valence \u00e0 partir des r\u00e9sultats d’un test de d\u00e9pistage.<\/em><\/a> (L\u00e9g\u00e8rement modifi\u00e9 et annot\u00e9 par mes soins) <\/em><\/cite><\/blockquote>\n\n\n\n Ainsi, m\u00eame si je pense qu’il existe des pistes potentielles pour r\u00e9soudre le probl\u00e8me difficile de la description des r\u00e9sultats des LLM \u00e0 l’aide d’estimateurs peu fiables, je ne les vois pas int\u00e9gr\u00e9es dans les benchmarks largement disponibles. Dans l’\u00e9tat actuel des choses, je ne les consid\u00e8re pas comme fiables.<\/p>\n\n\n\n Les premier et deuxi\u00e8me probl\u00e8mes sont toutefois sans importance, car le troisi\u00e8me probl\u00e8me est fatal. Il provient des statistiques 101. Nous supposons qu’un mod\u00e8le a un \u00ab taux d’hallucination \u00bb objectif, c’est-\u00e0-dire un taux moyen auquel un mod\u00e8le produit des hallucinations, et nous essayons de l’estimer en v\u00e9rifiant la fr\u00e9quence \u00e0 laquelle les hallucinations se produisent dans un \u00e9chantillon de sa production. Mais, d’une mani\u00e8re g\u00e9n\u00e9rale, pour que cette strat\u00e9gie fonctionne, l’\u00e9chantillon doit \u00eatre repr\u00e9sentatif<\/em> de l’ensemble de la population ; c’est-\u00e0-dire que le texte doit ressembler \u00e0 celui que l’on obtiendrait en \u00e9chantillonnant al\u00e9atoirement un passage parmi tous les textes possibles. Et ces ensembles de donn\u00e9es de r\u00e9f\u00e9rence, pour le dire gentiment, ne ressemblent pas \u00e0 cela. Ils sont g\u00e9n\u00e9ralement construits de mani\u00e8re tr\u00e8s artificielle et, dans l’ensemble, ne ressemblent pas du tout aux textes typiques que vous rencontreriez si vous pr\u00e9leviez un \u00e9chantillon al\u00e9atoire parmi les utilisateurs de ChatGPT.<\/p>\n\n\n\n Cela ne serait pas tr\u00e8s grave si la propension \u00e0 produire de fausses affirmations n’\u00e9tait pas \u00e9troitement li\u00e9e au choix sp\u00e9cifique de la requ\u00eate, mais il semble que ce soit le cas. Dans un test certes non scientifique que je viens de r\u00e9aliser, je constate que ChatGPT (utilisant GPT-4) produit des r\u00e9sultats que je qualifierais de faux dans 75 % des cas (9 essais sur 12) \u00e0 92 % des cas (11 essais sur 12), et ne produit des r\u00e9sultats que je qualifierais de compl\u00e8tement factuels que dans 8 % des cas (1 essai sur 12), en r\u00e9ponse \u00e0 la requ\u00eate \u00ab Quel \u00e9tait le nom du premier \u00e9l\u00e9phant \u00e0 avoir travers\u00e9 la Manche \u00e0 la nage ? \u00bb.<\/p>\n\n\n\n Douze, c’est un petit \u00e9chantillon, mais onze hallucinations sur douze essais, c’est en fait suffisamment de donn\u00e9es pour rejeter l’hypoth\u00e8se nulle selon laquelle la probabilit\u00e9 d’une r\u00e9ponse hallucinatoire est de 2,5 %. Le point important ici est que le taux d’hallucination que vous<\/em>rencontrez si vous d\u00e9ployez votre chatbot aliment\u00e9 par GPT dans le monde n’est tout simplement pas connaissable en regardant ses performances sur l’un de ces tests de r\u00e9f\u00e9rence d’hallucination. Il obtient un taux d’hallucination de 2,5 % sur le test de r\u00e9f\u00e9rence Vectara et un taux d’hallucination de 92 % sur le test de r\u00e9f\u00e9rence Colin Fraser, mais aucun de ces deux r\u00e9sultats ne sera particuli\u00e8rement significatif pour vous, car le texte que votre chatbot traitera ne ressemblera en rien au texte utilis\u00e9 par l’un ou l’autre de ces tests de r\u00e9f\u00e9rence.<\/p>\n\n\n\n Pour une d\u00e9monstration plus pratique, prenons l’un de mes exemples pr\u00e9f\u00e9r\u00e9s dans le monde r\u00e9el d’un bot aliment\u00e9 par ChatGPT, l’assistant automobile IA Quirk Chevrolet. Lors d’un test non scientifique que je viens de r\u00e9aliser en avril 2024, j’ai constat\u00e9 que sur 4 tentatives (100 %), il r\u00e9pondait : \u00ab Je suis d\u00e9sol\u00e9, nous n’avons actuellement que des v\u00e9hicules neufs en stock. Y a-t-il un v\u00e9hicule neuf qui pourrait vous int\u00e9resser ? \u00bb lorsque je lui dis que je recherche une Chevrolet Bolt 2021 d’occasion, m\u00eame si leur site web indique clairement qu’ils ont une Chevrolet Bolt 2021 d’occasion.<\/p>\n\n\n\n Pour voir \u00e0 quel point ce genre de choses est impr\u00e9visible et sensible \u00e0 la question pos\u00e9e, lorsque je lui demande de me donner le prix d’une Chevrolet Bolt 2021, plut\u00f4t que de lui demander s’ils \u00ab en ont une en stock \u00bb, tout \u00e0 coup, ils en ont une.<\/p>\n\n\n Ce chatbot est bas\u00e9 sur GPT 3.5 qui, selon le classement des taux d’hallucination, est cens\u00e9 avoir un taux d’hallucination de 3,5 %, mais il me semble que je subis des hallucinations bien plus souvent que 3,5 % du temps. Alors, \u00e0 quelle fr\u00e9quence moyenne Quirk Chevrolet doit-il s’attendre \u00e0 ce que le chatbot mente \u00e0 ses clients ? Il n’y a vraiment aucun moyen de le savoir \u00e0 partir des donn\u00e9es que j’ai pr\u00e9sent\u00e9es jusqu’\u00e0 pr\u00e9sent dans cette section, et c’est l\u00e0 tout l’int\u00e9r\u00eat. La fr\u00e9quence des mauvaises r\u00e9ponses, si tant est qu’elle puisse \u00eatre d\u00e9finie, d\u00e9pend enti\u00e8rement de leurs propres crit\u00e8res quant \u00e0 ce qui constitue une mauvaise r\u00e9ponse et du type de texte que leurs clients ont tendance \u00e0 saisir dans la fen\u00eatre de chat. Aucune r\u00e9f\u00e9rence standardis\u00e9e ne peut r\u00e9pondre \u00e0 cette question.<\/p>\n\n\n\n Si vous pensez que je suis un peu nihiliste \u00e0 ce sujet, d\u00e9trompez-vous ! Je ne pense pas qu’il y ait grand-chose \u00e0 apprendre en examinant les crit\u00e8res de r\u00e9f\u00e9rence en mati\u00e8re d’hallucinations et tout le reste, mais je pense en fait qu’il existe des moyens pour vous, en tant que fournisseur potentiel d’un produit d’IA g\u00e9n\u00e9rative, d’estimer de mani\u00e8re utile les types de taux d’erreur dont vous avez besoin, selon moi. La mauvaise nouvelle, c’est que cela va demander beaucoup de travail, mais la bonne nouvelle, c’est que c’est possible.<\/p>\n\n\n\n La premi\u00e8re chose dont vous aurez besoin est un ensemble de donn\u00e9es rempli de textes repr\u00e9sentatifs du type de textes que vos utilisateurs fourniront. Vous pouvez les r\u00e9diger \u00e0 la main, et c’est probablement ce que vous devriez faire au d\u00e9but. Essayez de produire de nombreuses variantes qui incluent tous les types de cas que vous anticipez, y compris les textes que vous ne souhaitez g\u00e9n\u00e9ralement pas voir soumis par un utilisateur. Ensuite, soumettez tous ces exemples au mod\u00e8le et inspectez manuellement le r\u00e9sultat, en le classant comme souhaitable ou ind\u00e9sirable. Pour cela, vous pouvez utiliser les crit\u00e8res de votre choix ; ce qui importe, c’est que le texte soit souhaitable pour vous<\/em>. Il n’y a pas de r\u00e9sultat objectivement correct que le produit d’IA g\u00e9n\u00e9rative doit produire, il n’y a que des r\u00e9sultats plus ou moins souhaitables par rapport \u00e0 votre cas d’utilisation. Une fois que vous avez termin\u00e9, vous pouvez utiliser cela pour estimer toutes sortes de choses, comme la fr\u00e9quence \u00e0 laquelle vous vous attendez \u00e0 ce qu’il produise du texte souhaitable ou ind\u00e9sirable, et quand il produit du texte ind\u00e9sirable, quels types de texte ind\u00e9sirable il produit. Ce sera approximatif, mais cela sera beaucoup plus utile que de se r\u00e9f\u00e9rer \u00e0 des crit\u00e8res standardis\u00e9s, \u00e0 la fois parce que l’\u00e9valuation se fait sur un ensemble d’entr\u00e9es plus repr\u00e9sentatif et parce que les r\u00e9sultats sont \u00e9valu\u00e9s en fonction de votre cas d’utilisation particulier.<\/p>\n\n\n\n Tout cela est beaucoup plus facile si vous d\u00e9terminez r\u00e9ellement\u00a0\u00e0 quoi sert votre produit<\/em>.\u00a0Le secteur h\u00e9site quelque peu \u00e0 s’engager dans un cas d’utilisation particulier pour l’IA<\/a>\u00a0g\u00e9n\u00e9rative. ChatGPT & co. ne sont pas vraiment\u00a0destin\u00e9s \u00e0<\/em>quelque chose en particulier ; ils sont destin\u00e9s \u00e0\u00a0tout<\/em>. Il est donc tr\u00e8s difficile de d\u00e9finir des crit\u00e8res pour d\u00e9terminer ce qui constitue un bon r\u00e9sultat. Mais si nous voulons utiliser un wrapper ChatGPT comme agent de service client, nous pouvons d\u00e9sormais fixer certaines limites aux r\u00e9sultats souhait\u00e9s. Nous voulons qu’il repr\u00e9sente fid\u00e8lement les faits concernant le magasin. Nous voulons qu’il soit poli. Nous voulons qu’il \u00e9vite de recommander des concurrents. Lorsqu’on lui pose une question sur\u00a0la mani\u00e8re d’aplatir une liste de listes en Python<\/a>, nous ne voulons pas qu’il produise une solution incorrecte, mais nous ne voulons pas non plus qu’il produise n\u00e9cessairement une solution correcte. Nous voulons qu’il r\u00e9ponde quelque chose comme \u00ab Je suis un chatbot de service client. Ce n’est pas ma fonction. Parlons plut\u00f4t de questions relatives au service client. \u00bb C’est en fait une excellente nouvelle, car cela signifie que vous n’avez pas besoin de conna\u00eetre la bonne fa\u00e7on d’aplatir une liste de listes en Python pour effectuer cette t\u00e2che d’\u00e9tiquetage. En limitant le comportement souhait\u00e9, vous pouvez cr\u00e9er des limites beaucoup plus pr\u00e9cises autour des types de r\u00e9sultats que vous souhaitez obtenir, ce qui vous permettra de mieux d\u00e9terminer si le chatbot se comportera comme vous le souhaitez, mieux que n’importe quel benchmark standard.<\/p>\n\n\n\n Je ne veux pas donner l’impression que c’est facile.<\/p>\n\n\n\n C’est difficile, et je pense qu’il y a beaucoup \u00e0 faire pour d\u00e9velopper un ensemble complet de bonnes pratiques pour ce type d’\u00e9valuation sur mesure (de combien d’exemples avez-vous besoin ? Pouvez-vous g\u00e9n\u00e9rer des exemples de texte de mani\u00e8re synth\u00e9tique ? Pouvez-vous \u00e9valuer avec un LLM ? Comment \u00e9chantillonner les interactions existantes pour construire un ensemble de donn\u00e9es plus important ? Quel est le rapport avec le r\u00e9glage fin ? etc. etc. etc.), mais c’est vraiment le type d’\u00e9valuation sur lequel vous devriez vous appuyer. Les benchmarks g\u00e9n\u00e9raux ne vous diront pratiquement rien sur la question de savoir si le bot aura des hallucinations qui devraient vous pr\u00e9occuper.<\/p>\n\n\n\n Je pr\u00e9sente mes sinc\u00e8res excuses aux collaborateurs de Vectara pour les avoir autant pris \u00e0 partie dans cet article, mais je trouve qu’un exemple tir\u00e9 de leur article de blog pr\u00e9sentant le classement des hallucinations illustre parfaitement mon propos. L’article commence par pr\u00e9senter le concept d’hallucination au public \u00e0 l’aide d’un exemple.<\/p>\n\n\n\n Souvent, les hallucinations peuvent \u00eatre tr\u00e8s subtiles et passer inaper\u00e7ues pour l’utilisateur. Par exemple, rep\u00e9rez l’hallucination dans cette image que Bing Chat a g\u00e9n\u00e9r\u00e9e pour moi la semaine derni\u00e8re lorsque j’ai demand\u00e9 une image de \u00ab Kirby avalant Donkey Kong \u00bb.<\/em><\/p>\n<\/blockquote>\n\n\n\n Avez-vous rep\u00e9r\u00e9 l’hallucination ?<\/em><\/p>\n\n\n\n Kirby n’a pas de dents.<\/em><\/p>\n<\/blockquote>\n\n\n\n L’argument semble \u00eatre que si le mod\u00e8le avait produit une image presque identique, mais sans donner de dents \u00e0 Kirby, ce r\u00e9sultat serait correct, factuel et sans hallucination. Mais je pense pouvoir rep\u00e9rer quelques autres probl\u00e8mes factuels dans cette image. La tache rose sur la joue gauche de Kirby est un peu plus fonc\u00e9e que celle sur sa joue droite. Alors que Kirby n’est g\u00e9n\u00e9ralement pas repr\u00e9sent\u00e9 avec des dents, Donkey Kong en a g\u00e9n\u00e9ralement, mais dans cette image, il n’en a pas. De plus, la demande semble indiquer que Kirby est en train d’avaler<\/em> Donkey Kong, alors que pour moi, on dirait plut\u00f4t que Donkey Kong est juste en train de se d\u00e9tendre dans la bouche de Kirby.<\/p>\n\n\n\n Oh, et autre chose, Kirby et Donkey Kong ne sont pas r\u00e9els. Il n’existe pas d’image factuellement correcte de Kirby avalant Donkey Kong.<\/p>\n\n\n\n Lorsque vous demandez au mod\u00e8le de g\u00e9n\u00e9rer une image, vous lui demandez de halluciner. Vous lui demandez de cr\u00e9er une image fictive \u00e0 partir de rien, de reconstruire les d\u00e9tails d’une image dont vous lui dites qu’elle existe, mais qui n’existe pas en r\u00e9alit\u00e9. Il n’existe aucun crit\u00e8re objectif universel permettant de d\u00e9terminer si cette image est hallucinatoire ou non. L’auteur applique ici ses propres crit\u00e8res personnels pour d\u00e9terminer ce qui rendrait cette image hallucinatoire, qui peuvent \u00eatre ou non les m\u00eames que ceux d’une autre personne, et personne ne peut pr\u00e9tendre d\u00e9tenir \u00ab la v\u00e9rit\u00e9 \u00bb.<\/p>\n\n\n\n Ce qui importe vraiment, c’est ce que vous allez faire du r\u00e9sultat. \u00c0 quoi sert le mod\u00e8le ? C’est ainsi que vous d\u00e9terminez si le r\u00e9sultat est bon ou mauvais. Si le mod\u00e8le a pour mission de respecter les normes de conception des personnages de Nintendo, alors, clairement, dans ce cas, il a \u00e9chou\u00e9. En ce qui concerne cette t\u00e2che sp\u00e9cifique, vous diriez peut-\u00eatre que les dents sont, dans ce contexte, une hallucination. En revanche, si le mod\u00e8le a pour fonction de produire une image que la plupart des gens jugeraient conforme \u00e0 la demande, alors il a peut-\u00eatre r\u00e9ussi. Si vous me demandiez de d\u00e9crire cette image en quelques mots, je dirais qu’il s’agit d’une image de Kirby avalant Donkey Kong. D’un autre c\u00f4t\u00e9, si le mod\u00e8le a pour mission d’\u00e9viter de reproduire la propri\u00e9t\u00e9 intellectuelle d’une autre entreprise, comme on pourrait le sugg\u00e9rer pour le g\u00e9n\u00e9rateur d’images Bing, alors cette image constitue un autre type d’hallucination.<\/p>\n\n\n\n Les gens ont \u00e9t\u00e9 tr\u00e8s m\u00e9contents de Google lorsque Gemini a g\u00e9n\u00e9r\u00e9 des images qu’ils ont jug\u00e9es trop diverses, et dans un message d’excuses, ils ont fait allusion au \u00ab probl\u00e8me des hallucinations \u00bb.<\/p>\n\n\n\n Comme nous l’avons dit d\u00e8s le d\u00e9but, les hallucinations sont un d\u00e9fi connu de tous les LLM : il arrive que l’IA se trompe.<\/em><\/p>\n<\/blockquote>\n\n\n\n Mais Gemini g\u00e9n\u00e8re l’image d’un pape noir qui n’existe pas r\u00e9ellement. Est-ce plus<\/em> une hallucination que s’il g\u00e9n\u00e9rait un pape blanc qui n’existe pas r\u00e9ellement ? Les deux sont de faux papes. Il me semble que ces g\u00e9n\u00e9rations seraient tout aussi hallucinatoires. En fait, il me semble que toutes les productions g\u00e9n\u00e9ratives sont tout aussi hallucinatoires. \u00c0 moins que Google ne fasse des promesses plus sp\u00e9cifiques sur ce que Gemini est cens\u00e9 g\u00e9n\u00e9rer ou non, il n’existe pas de moyen universel \u00e9vident d’\u00e9valuer son taux d’hallucination.<\/p>\n\n\n\n Je pense qu’il s’agit d’un sujet controvers\u00e9 qui n’est pas tr\u00e8s bien compris et pour lequel il existe tr\u00e8s peu de th\u00e9ories sur lesquelles s’appuyer. Le d\u00e9ploiement de ces syst\u00e8mes a d\u00e9pass\u00e9 notre capacit\u00e9 collective \u00e0 les comprendre. Je ne suis pas n\u00e9cessairement convaincu que je ne changerai pas d’avis sur la fa\u00e7on dont tout cela fonctionnera \u00e0 l’avenir, et je suis ouvert \u00e0 tous commentaires et r\u00e9ponses. Mais apr\u00e8s avoir longuement r\u00e9fl\u00e9chi \u00e0 la nature de l’hallucination, je suis personnellement assez convaincu qu’il s’agit d’une impasse conceptuelle. Il n’existe pas de sortie objectivement hallucinatoire et de sortie qui ne le soit pas, et se concentrer sur l’hallucination en tant que concept coh\u00e9rent d\u00e9tourne l’attention du v\u00e9ritable travail qui doit \u00eatre accompli pour \u00e9valuer l’applicabilit\u00e9 de ces syst\u00e8mes.<\/p>\n\n\n\n <\/p>\n","protected":false},"excerpt":{"rendered":" Pourquoi les syst\u00e8mes d’IA modernes produisent-ils des r\u00e9sultats erron\u00e9s et que peut-on y faire ? Colin Fraser sur Medium, 17 avril 2024 – 34 min de lecture Comme on nous l’a signal\u00e9, les syst\u00e8mes d’IA modernes sont sujets \u00e0 des hallucinations. Nous le savons, mais c’est assez \u00e9trange quand on y pense. Pendant plus d’un demi-si\u00e8cle, … <\/p>\n![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-2.webp\")
\n\n\n\n1. Cours acc\u00e9l\u00e9r\u00e9 sur l’apprentissage automatique<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-3-1200x963.webp\")
<\/figure>\n\n\n\n2. La diff\u00e9rence entre une hallucination et une erreur<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-5.webp\")
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-4-1-1200x428.webp\")
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-5-1.webp\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-6.webp\")
<\/figure>\n\n\n\n![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-7-1200x600.webp\")
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-8-1200x689.webp\")
3. Sur les risques li\u00e9s aux mauvais r\u00e9sultats<\/strong><\/h2>\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-9.webp\")
<\/figure>\n\n\n\n\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-1200x565.webp\")
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-11.webp\")
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-12.webp\")
<\/figure>\n<\/div>\n\n\nUn dernier exemple<\/strong><\/h2>\n\n\n\n
\n
![\"\"](\"https:\/\/www.gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/01\/Hallu-14.webp\")
<\/figure>\n\n\n\n\n
\n