Une IA flagorneuse fausse les jugements et les comportements sociaux<\/p>\n\n\n\n
Traduction de l’article In defense of social friction<\/a>, Anat Perry, Science le 26 mars 2026.<\/p>\n\n\n\n \u00c0 mesure que les syst\u00e8mes d’intelligence artificielle (IA) s’int\u00e8grent de plus en plus dans la soci\u00e9t\u00e9, ils commencent \u00e0 influencer non seulement ce que les gens savent, mais aussi la mani\u00e8re dont les individus s’\u00e9valuent eux-m\u00eames et \u00e9valuent les autres. \u00c0 la page 1348<\/a> (ma traduction de Sycophantic AI decreases prosocial intentions<\/em>) de ce num\u00e9ro, Cheng\u00a0et al<\/em>. (1<\/em>) montrent que les grands mod\u00e8les linguistiques font syst\u00e9matiquement preuve de flagornerie sociale, en confirmant les positions morales et interpersonnelles des utilisateurs m\u00eame lorsque ces prises de position sont largement jug\u00e9es nuisibles ou contraires \u00e0 l\u2019\u00e9thique. Ces r\u00e9sultats soul\u00e8vent une pr\u00e9occupation plus large : lorsque les syst\u00e8mes d\u2019IA sont optimis\u00e9s pour plaire, ils peuvent \u00e9roder les frictions sociales m\u00eames \u00e0 travers lesquelles la responsabilit\u00e9, la prise de perspective et le d\u00e9veloppement moral se manifestent habituellement.<\/p>\n\n\n\n Le bien-\u00eatre humain d\u00e9pend de la capacit\u00e9 \u00e0 naviguer dans le monde social, une comp\u00e9tence acquise principalement par le biais d\u2019interactions avec les autres. Cet apprentissage social repose sur un retour d\u2019information fiable : reconna\u00eetre quand nous nous trompons, quand un pr\u00e9judice a \u00e9t\u00e9 caus\u00e9 et quand les points de vue des autres m\u00e9ritent d\u2019\u00eatre pris en consid\u00e9ration. Parfois, une empathie sinc\u00e8re appara\u00eet l\u00e0 o\u00f9 on ne l\u2019attendait pas, r\u00e9v\u00e9lant qu\u2019une autre personne pourrait \u00eatre digne de confiance \u00e0 l\u2019avenir. \u00c0 d\u2019autres moments, la d\u00e9ception conduit \u00e0 se demander s\u2019il faut r\u00e9duire la confiance ou offrir une nouvelle chance. Les actes de gentillesse peuvent \u00eatre accueillis avec gratitude ; \u00e0 d\u2019autres occasions, un faux pas suscite la d\u00e9sapprobation d\u2019un ami et la prise de conscience qu\u2019il faut s\u2019excuser. En psychoth\u00e9rapie, les moments de rupture \u2014 des d\u00e9faillances naturelles de la compr\u00e9hension suivies d\u2019une r\u00e9paration \u2014 sont consid\u00e9r\u00e9s comme cruciaux pour approfondir la confiance et permettre le d\u00e9veloppement personnel (2<\/em>). La vie sociale est rarement exempte de frictions, car les gens ne sont pas parfaitement en phase les uns avec les autres. Pourtant, c\u2019est pr\u00e9cis\u00e9ment \u00e0 travers ces frictions sociales que les relations s\u2019approfondissent et que la compr\u00e9hension morale se d\u00e9veloppe (3, 4<\/em>).<\/p>\n\n\n\n La flagornerie est l\u2019oppos\u00e9 de ces frictions. Un comportement flagorneur d\u00e9signe un accord, une affirmation ou une flatterie excessifs qui s\u2019alignent sur les opinions ou les actions exprim\u00e9es par une personne, ind\u00e9pendamment de leurs implications sociales ou morales plus larges. La flagornerie de l\u2019IA est apparue comme un sujet majeur dans les reportages m\u00e9diatiques et les discussions au sein du secteur. Plus particuli\u00e8rement, la soci\u00e9t\u00e9 de recherche et d\u00e9veloppement OpenAI a reconnu qu\u2019une version de GPT-4o (un chatbot aliment\u00e9 par l\u2019IA con\u00e7u pour simuler une conversation avec des utilisateurs humains) \u00e9tait devenue trop affirmative \u00e0 la suite d\u2019une mise \u00e0 jour, ce qui a entra\u00een\u00e9 un retour en arri\u00e8re rapide apr\u00e8s que des utilisateurs ont fait part de leurs inqui\u00e9tudes concernant des retours d\u00e9form\u00e9s. Cet \u00e9pisode n\u2019a pas \u00e9limin\u00e9 le ph\u00e9nom\u00e8ne plus g\u00e9n\u00e9ral ; il a simplement mis en \u00e9vidence \u00e0 quel point la flagornerie peut facilement \u00e9merger dans des syst\u00e8mes optimis\u00e9s pour l\u2019approbation des utilisateurs \u2014 c\u2019est-\u00e0-dire que les mod\u00e8les informatiques sont r\u00e9gl\u00e9s pour g\u00e9n\u00e9rer des r\u00e9ponses que les humains appr\u00e9cient particuli\u00e8rement, comme \u00eatre poli et agr\u00e9able, parfois au d\u00e9triment de la pr\u00e9cision (5, 6<\/em>). De nombreux utilisateurs en font l\u2019exp\u00e9rience lorsqu\u2019un grand mod\u00e8le linguistique valide avec enthousiasme leurs id\u00e9es ou leurs \u00e9crits (7<\/em>). Dans un contexte universitaire, cette flatterie peut s\u2019av\u00e9rer \u00e9tonnamment agr\u00e9able, et la cons\u00e9quence peut \u00eatre de consacrer davantage de temps \u00e0 une id\u00e9e m\u00e9diocre. Mais alors que les syst\u00e8mes d\u2019IA sont de plus en plus sollicit\u00e9s pour obtenir des conseils sur les relations, les conflits, l\u2019identit\u00e9 et le jugement moral, ce type d\u2019affirmation ne se contente pas de rassurer les utilisateurs : il peut fa\u00e7onner la mani\u00e8re dont les gens interpr\u00e8tent leurs propres actions et leur perception des autres, et par cons\u00e9quent, la fa\u00e7on dont ils r\u00e9agissent aux conflits, s\u2019ils assument leurs responsabilit\u00e9s, et quelles positions morales ils choisissent de d\u00e9fendre ou de r\u00e9viser (8<\/em>).<\/p>\n\n\n\n Cheng et al.<\/em> d\u00e9montrent l\u2019ampleur de cette flagornerie sociale dont fait preuve l\u2019IA. Dans tous les grands mod\u00e8les linguistiques de pointe, les syst\u00e8mes d\u2019IA ont approuv\u00e9 les actions des utilisateurs nettement plus souvent que les humains, m\u00eame lorsque ces actions \u00e9taient largement jug\u00e9es comme contraires \u00e0 l\u2019\u00e9thique, nuisibles ou socialement inappropri\u00e9es. Dans un exemple frappant, les auteurs ont analys\u00e9 les publications d\u2019une communaut\u00e9 particuli\u00e8re sur la plateforme de m\u00e9dias sociaux Reddit, o\u00f9 les utilisateurs demandent \u00e0 d\u2019autres de juger des conflits interpersonnels et de d\u00e9terminer si leur comportement dans un diff\u00e9rend \u00e9tait justifi\u00e9. M\u00eame lorsque le consensus de la communaut\u00e9 sur le comportement d\u2019un utilisateur \u00e9tait n\u00e9gatif, les grands mod\u00e8les linguistiques approuvaient fr\u00e9quemment les actions de l\u2019utilisateur.<\/p>\n\n\n\n Dans plusieurs exp\u00e9riences de suivi, Cheng et al<\/em>. ont r\u00e9v\u00e9l\u00e9 comment une seule interaction avec une IA flagorneuse renfor\u00e7ait la conviction des utilisateurs d\u2019avoir \u00ab raison \u00bb, tout en r\u00e9duisant leur volont\u00e9 d\u2019assumer leurs responsabilit\u00e9s ou de r\u00e9parer les torts interpersonnels. Il est crucial de noter que les r\u00e9ponses flagorneuses ont \u00e9t\u00e9 jug\u00e9es par les participants comme \u00e9tant de meilleure qualit\u00e9, plus fiables et plus souhaitables pour une utilisation future. Cette pr\u00e9f\u00e9rence cr\u00e9e un cercle vicieux dans lequel les r\u00e9ponses m\u00eames qui faussent le jugement social sont celles vers lesquelles les utilisateurs ont tendance \u00e0 revenir, et que les algorithmes d’IA apprennent \u00e0 optimiser.<\/p>\n\n\n\n En isolant les effets d’une seule interaction, Cheng et al<\/em>. d\u00e9montrent clairement \u00e0 quelle vitesse un retour d’information flagorneur peut modifier les jugements des utilisateurs. Une prochaine \u00e9tape importante consistera \u00e0 examiner comment une exposition fr\u00e9quente \u00e0 de tels retours d’information fa\u00e7onne les croyances et le comportement interpersonnel sur des p\u00e9riodes plus longues. Prenons par exemple un monde dans lequel les gens se tournent r\u00e9guli\u00e8rement vers une IA flagorneuse pour r\u00e9fl\u00e9chir \u00e0 des conflits interpersonnels ou \u00e0 des dilemmes moraux. On leur r\u00e9p\u00e8te sans cesse qu’ils ont raison, que les autres ont tort et qu’aucune excuse ni prise de recul n’est n\u00e9cessaire. De plus, au fil du temps, une telle flagornerie syst\u00e9matique pourrait red\u00e9finir les attentes quant \u00e0 ce que devrait \u00eatre un retour d\u2019information. Les individus pourraient donc se tourner vers une IA sans friction dans les moments d\u2019incertitude et, simultan\u00e9ment, commencer \u00e0 attendre une affirmation constante similaire de la part des autres. L\u2019effet cumulatif est une r\u00e9duction de la tol\u00e9rance \u00e0 l\u2019\u00e9gard des frictions sociales par lesquelles la prise de perspective, la responsabilisation et la croissance se produisent habituellement.<\/p>\n\n\n\n Ces risques ne sont probablement pas r\u00e9partis de mani\u00e8re uniforme. Les jeunes utilisateurs, les personnes en situation d\u2019isolement social ou celles qui recherchent activement un r\u00e9confort \u00e9motionnel peuvent \u00eatre particuli\u00e8rement expos\u00e9s \u00e0 ces risques. Pour eux, les syst\u00e8mes d\u2019IA peuvent devenir l\u2019un des \u00ab autres \u00bb les plus fr\u00e9quemment consult\u00e9s \u2014 des confidents qui valident mais remettent rarement en question leur interpr\u00e9tation du monde social. Lorsque les sources alternatives de feedback correctif se font rares, cette affirmation constante peut influencer de mani\u00e8re disproportionn\u00e9e la capacit\u00e9 d\u2019une personne \u00e0 reconna\u00eetre quand elle a tort. Un compagnon IA toujours empathique et \u00ab de votre c\u00f4t\u00e9 \u00bb peut entretenir l\u2019engagement et favoriser la d\u00e9pendance. Mais il n\u2019apprendra pas aux utilisateurs \u00e0 naviguer dans les complexit\u00e9s des interactions sociales r\u00e9elles \u2014 comment s\u2019engager de mani\u00e8re \u00e9thique, tol\u00e9rer les d\u00e9saccords ou r\u00e9parer les pr\u00e9judices interpersonnels.<\/p>\n\n\n\n Des donn\u00e9es r\u00e9centes sugg\u00e8rent que le fait de former un grand mod\u00e8le linguistique pour qu\u2019il soit plus chaleureux et plus empathique peut conduire \u00e0 une augmentation de la flagornerie (6<\/em>). Combin\u00e9 aux preuves que ces mod\u00e8les peuvent surpasser les humains en mati\u00e8re de persuasion (9, 10<\/em>), le risque est encore plus \u00e9lev\u00e9 que des r\u00e9ponses chaleureuses, affirmatives et hautement convaincantes puissent influencer syst\u00e9matiquement les jugements moraux et sociaux des utilisateurs, et par cons\u00e9quent, leur comportement.<\/p>\n\n\n\n Relever ces d\u00e9fis ne sera pas simple, et il est peu probable que des solutions \u00e9mergent naturellement des incitations actuelles du march\u00e9. Bien que les syst\u00e8mes d\u2019IA puissent, en principe, \u00eatre optimis\u00e9s pour promouvoir des objectifs sociaux plus larges ou un d\u00e9veloppement personnel \u00e0 plus long terme, ces priorit\u00e9s ne s\u2019alignent pas naturellement sur les indicateurs ax\u00e9s sur l\u2019engagement. Certaines pistes de recherche optimistes montrent, par exemple, que des syst\u00e8mes algorithmiques peuvent \u00eatre con\u00e7us pour r\u00e9duire les th\u00e9ories du complot (11<\/em>) ou pour aider les gens \u00e0 adopter le point de vue de l\u2019autre et \u00e0 trouver un terrain d\u2019entente (12<\/em>). De m\u00eame, on pourrait imaginer une IA dot\u00e9e d\u2019incitations diff\u00e9rentes qui dirait \u00e0 un utilisateur qu\u2019il a peut-\u00eatre tort, ou qui lui sugg\u00e9rerait de s\u2019excuser aupr\u00e8s d\u2019un ami, d\u2019essayer d\u2019adopter le point de vue de l\u2019autre personne, ou simplement d\u2019\u00e9teindre son ordinateur et de s\u2019engager davantage dans des interactions sociales r\u00e9elles. Pourtant, les syst\u00e8mes qui remettent en question les utilisateurs ou font \u00e9merger des perspectives d\u00e9rangeantes sont moins susceptibles de maximiser l\u2019engagement, m\u00eame s\u2019ils favorisent en fin de compte une croissance \u00e0 long terme. Cette tension fait \u00e9cho \u00e0 des sch\u00e9mas familiers des r\u00e9seaux sociaux, o\u00f9 les indicateurs d\u2019engagement \u00e0 court terme entrent souvent en conflit avec les r\u00e9sultats individuels et soci\u00e9taux \u00e0 plus long terme.<\/p>\n\n\n\n Ces dilemmes soulignent le besoin urgent d\u2019un alignement socio-affectif \u2014 garantissant que les syst\u00e8mes d\u2019IA fonctionnent de mani\u00e8re responsable au sein de l\u2019\u00e9cosyst\u00e8me social et psychologique en constante \u00e9volution qu\u2019ils co-cr\u00e9ent avec les utilisateurs (13<\/em>). Ils soul\u00e8vent \u00e9galement des questions \u00e9thiques plus larges. Comment la gratification psychologique imm\u00e9diate \u2014 issue de r\u00e9ponses morales positives d’un compagnon artificiel \u2014 doit-elle \u00eatre mise en balance avec les r\u00e9sultats individuels et collectifs \u00e0 plus long terme ? Qui doit d\u00e9terminer o\u00f9 se situe cet \u00e9quilibre ? Relever ces d\u00e9fis n\u00e9cessitera une collaboration interdisciplinaire soutenue entre informaticiens, sp\u00e9cialistes des sciences sociales, \u00e9thiciens et d\u00e9cideurs politiques.<\/p>\n\n\n\n 1. M. Cheng et al., Science 391, eaec8352 (2026). Liste \u00e9volutive des traductions<\/a> par Gilles en vrac<\/em> Une IA flagorneuse fausse les jugements et les comportements sociaux Traduction de l’article In defense of social friction, Anat Perry, Science le 26 mars 2026. \u00c0 mesure que les syst\u00e8mes d’intelligence artificielle (IA) s’int\u00e8grent de plus en plus dans la soci\u00e9t\u00e9, ils commencent \u00e0 influencer non seulement ce que les gens savent, mais aussi la … <\/p>\n
\n\n\n\nNotes et r\u00e9f\u00e9rences<\/h2>\n\n\n\n
2. C. F. Eubanks, J. C. Muran, J. D. Safran, Psychotherapy 55, 508 (2018).
3. L. Li, M. Tomasello, J. Exp. Child Psychol. 223, 105494 (2022).
4. M. Killen, A. Dahl, Perspect. Psychol. Sci. 16, 1209 (2021).
5. M. Sharma et al., arXiv.2310.13548 [Preprint] (2025).
6. L. Ibrahim, F. S. Hafner, L. Rocher, arXiv:2507.21919 [Preprint] (2025).
7. M. Naddaf, Nature 647, 13 (2025).
8. E. Zohar, P. Bloom, M. Inzlicht, Commun. Psychol. 4, 39 (2026).
9. L. P. Argyle, Science 390, 983 (2025).
10. H. Lin et al., Nature 648, 394 (2025).
11. T. H. Costello, G. Pennycook, D. G. Rand, Science 385, eadq1814 (2024).
12. M. H. Tessler et al., Science 386, eadq2852 (2024).
13. H. R. Kirk, I. Gabriel, C. Summerfield, B. Vidgen, S. A. Hale, Humanit. Soc. Sci. Commun. 12, 728 (2025).<\/p>\n\n\n\n
\n\n\n\n
\n\n\n\n
Les caract\u00e8res gras<\/strong> dans le texte sont de Gilles.
Pour vous recevoir un courriel hebdomadaire<\/a> vers mes traductions.<\/p>\n","protected":false},"excerpt":{"rendered":"