Une IA flagorneuse fausse les jugements et les comportements sociaux
Traduction de l’article In defense of social friction, Anat Perry, Science le 26 mars 2026.
À mesure que les systèmes d’intelligence artificielle (IA) s’intègrent de plus en plus dans la société, ils commencent à influencer non seulement ce que les gens savent, mais aussi la manière dont les individus s’évaluent eux-mêmes et évaluent les autres. À la page 1348 (ma traduction de Sycophantic AI decreases prosocial intentions) de ce numéro, Cheng et al. (1) montrent que les grands modèles linguistiques font systématiquement preuve de flagornerie sociale, en confirmant les positions morales et interpersonnelles des utilisateurs même lorsque ces prises de position sont largement jugées nuisibles ou contraires à l’éthique. Ces résultats soulèvent une préoccupation plus large : lorsque les systèmes d’IA sont optimisés pour plaire, ils peuvent éroder les frictions sociales mêmes à travers lesquelles la responsabilité, la prise de perspective et le développement moral se manifestent habituellement.
Le bien-être humain dépend de la capacité à naviguer dans le monde social, une compétence acquise principalement par le biais d’interactions avec les autres. Cet apprentissage social repose sur un retour d’information fiable : reconnaître quand nous nous trompons, quand un préjudice a été causé et quand les points de vue des autres méritent d’être pris en considération. Parfois, une empathie sincère apparaît là où on ne l’attendait pas, révélant qu’une autre personne pourrait être digne de confiance à l’avenir. À d’autres moments, la déception conduit à se demander s’il faut réduire la confiance ou offrir une nouvelle chance. Les actes de gentillesse peuvent être accueillis avec gratitude ; à d’autres occasions, un faux pas suscite la désapprobation d’un ami et la prise de conscience qu’il faut s’excuser. En psychothérapie, les moments de rupture — des défaillances naturelles de la compréhension suivies d’une réparation — sont considérés comme cruciaux pour approfondir la confiance et permettre le développement personnel (2). La vie sociale est rarement exempte de frictions, car les gens ne sont pas parfaitement en phase les uns avec les autres. Pourtant, c’est précisément à travers ces frictions sociales que les relations s’approfondissent et que la compréhension morale se développe (3, 4).
La flagornerie est l’opposé de ces frictions. Un comportement flagorneur désigne un accord, une affirmation ou une flatterie excessifs qui s’alignent sur les opinions ou les actions exprimées par une personne, indépendamment de leurs implications sociales ou morales plus larges. La flagornerie de l’IA est apparue comme un sujet majeur dans les reportages médiatiques et les discussions au sein du secteur. Plus particulièrement, la société de recherche et développement OpenAI a reconnu qu’une version de GPT-4o (un chatbot alimenté par l’IA conçu pour simuler une conversation avec des utilisateurs humains) était devenue trop affirmative à la suite d’une mise à jour, ce qui a entraîné un retour en arrière rapide après que des utilisateurs ont fait part de leurs inquiétudes concernant des retours déformés. Cet épisode n’a pas éliminé le phénomène plus général ; il a simplement mis en évidence à quel point la flagornerie peut facilement émerger dans des systèmes optimisés pour l’approbation des utilisateurs — c’est-à-dire que les modèles informatiques sont réglés pour générer des réponses que les humains apprécient particulièrement, comme être poli et agréable, parfois au détriment de la précision (5, 6). De nombreux utilisateurs en font l’expérience lorsqu’un grand modèle linguistique valide avec enthousiasme leurs idées ou leurs écrits (7). Dans un contexte universitaire, cette flatterie peut s’avérer étonnamment agréable, et la conséquence peut être de consacrer davantage de temps à une idée médiocre. Mais alors que les systèmes d’IA sont de plus en plus sollicités pour obtenir des conseils sur les relations, les conflits, l’identité et le jugement moral, ce type d’affirmation ne se contente pas de rassurer les utilisateurs : il peut façonner la manière dont les gens interprètent leurs propres actions et leur perception des autres, et par conséquent, la façon dont ils réagissent aux conflits, s’ils assument leurs responsabilités, et quelles positions morales ils choisissent de défendre ou de réviser (8).
Cheng et al. démontrent l’ampleur de cette flagornerie sociale dont fait preuve l’IA. Dans tous les grands modèles linguistiques de pointe, les systèmes d’IA ont approuvé les actions des utilisateurs nettement plus souvent que les humains, même lorsque ces actions étaient largement jugées comme contraires à l’éthique, nuisibles ou socialement inappropriées. Dans un exemple frappant, les auteurs ont analysé les publications d’une communauté particulière sur la plateforme de médias sociaux Reddit, où les utilisateurs demandent à d’autres de juger des conflits interpersonnels et de déterminer si leur comportement dans un différend était justifié. Même lorsque le consensus de la communauté sur le comportement d’un utilisateur était négatif, les grands modèles linguistiques approuvaient fréquemment les actions de l’utilisateur.
Dans plusieurs expériences de suivi, Cheng et al. ont révélé comment une seule interaction avec une IA flagorneuse renforçait la conviction des utilisateurs d’avoir « raison », tout en réduisant leur volonté d’assumer leurs responsabilités ou de réparer les torts interpersonnels. Il est crucial de noter que les réponses flagorneuses ont été jugées par les participants comme étant de meilleure qualité, plus fiables et plus souhaitables pour une utilisation future. Cette préférence crée un cercle vicieux dans lequel les réponses mêmes qui faussent le jugement social sont celles vers lesquelles les utilisateurs ont tendance à revenir, et que les algorithmes d’IA apprennent à optimiser.
En isolant les effets d’une seule interaction, Cheng et al. démontrent clairement à quelle vitesse un retour d’information flagorneur peut modifier les jugements des utilisateurs. Une prochaine étape importante consistera à examiner comment une exposition fréquente à de tels retours d’information façonne les croyances et le comportement interpersonnel sur des périodes plus longues. Prenons par exemple un monde dans lequel les gens se tournent régulièrement vers une IA flagorneuse pour réfléchir à des conflits interpersonnels ou à des dilemmes moraux. On leur répète sans cesse qu’ils ont raison, que les autres ont tort et qu’aucune excuse ni prise de recul n’est nécessaire. De plus, au fil du temps, une telle flagornerie systématique pourrait redéfinir les attentes quant à ce que devrait être un retour d’information. Les individus pourraient donc se tourner vers une IA sans friction dans les moments d’incertitude et, simultanément, commencer à attendre une affirmation constante similaire de la part des autres. L’effet cumulatif est une réduction de la tolérance à l’égard des frictions sociales par lesquelles la prise de perspective, la responsabilisation et la croissance se produisent habituellement.
Ces risques ne sont probablement pas répartis de manière uniforme. Les jeunes utilisateurs, les personnes en situation d’isolement social ou celles qui recherchent activement un réconfort émotionnel peuvent être particulièrement exposés à ces risques. Pour eux, les systèmes d’IA peuvent devenir l’un des « autres » les plus fréquemment consultés — des confidents qui valident mais remettent rarement en question leur interprétation du monde social. Lorsque les sources alternatives de feedback correctif se font rares, cette affirmation constante peut influencer de manière disproportionnée la capacité d’une personne à reconnaître quand elle a tort. Un compagnon IA toujours empathique et « de votre côté » peut entretenir l’engagement et favoriser la dépendance. Mais il n’apprendra pas aux utilisateurs à naviguer dans les complexités des interactions sociales réelles — comment s’engager de manière éthique, tolérer les désaccords ou réparer les préjudices interpersonnels.
Des données récentes suggèrent que le fait de former un grand modèle linguistique pour qu’il soit plus chaleureux et plus empathique peut conduire à une augmentation de la flagornerie (6). Combiné aux preuves que ces modèles peuvent surpasser les humains en matière de persuasion (9, 10), le risque est encore plus élevé que des réponses chaleureuses, affirmatives et hautement convaincantes puissent influencer systématiquement les jugements moraux et sociaux des utilisateurs, et par conséquent, leur comportement.
Relever ces défis ne sera pas simple, et il est peu probable que des solutions émergent naturellement des incitations actuelles du marché. Bien que les systèmes d’IA puissent, en principe, être optimisés pour promouvoir des objectifs sociaux plus larges ou un développement personnel à plus long terme, ces priorités ne s’alignent pas naturellement sur les indicateurs axés sur l’engagement. Certaines pistes de recherche optimistes montrent, par exemple, que des systèmes algorithmiques peuvent être conçus pour réduire les théories du complot (11) ou pour aider les gens à adopter le point de vue de l’autre et à trouver un terrain d’entente (12). De même, on pourrait imaginer une IA dotée d’incitations différentes qui dirait à un utilisateur qu’il a peut-être tort, ou qui lui suggérerait de s’excuser auprès d’un ami, d’essayer d’adopter le point de vue de l’autre personne, ou simplement d’éteindre son ordinateur et de s’engager davantage dans des interactions sociales réelles. Pourtant, les systèmes qui remettent en question les utilisateurs ou font émerger des perspectives dérangeantes sont moins susceptibles de maximiser l’engagement, même s’ils favorisent en fin de compte une croissance à long terme. Cette tension fait écho à des schémas familiers des réseaux sociaux, où les indicateurs d’engagement à court terme entrent souvent en conflit avec les résultats individuels et sociétaux à plus long terme.
Ces dilemmes soulignent le besoin urgent d’un alignement socio-affectif — garantissant que les systèmes d’IA fonctionnent de manière responsable au sein de l’écosystème social et psychologique en constante évolution qu’ils co-créent avec les utilisateurs (13). Ils soulèvent également des questions éthiques plus larges. Comment la gratification psychologique immédiate — issue de réponses morales positives d’un compagnon artificiel — doit-elle être mise en balance avec les résultats individuels et collectifs à plus long terme ? Qui doit déterminer où se situe cet équilibre ? Relever ces défis nécessitera une collaboration interdisciplinaire soutenue entre informaticiens, spécialistes des sciences sociales, éthiciens et décideurs politiques.
Notes et références
1. M. Cheng et al., Science 391, eaec8352 (2026).
2. C. F. Eubanks, J. C. Muran, J. D. Safran, Psychotherapy 55, 508 (2018).
3. L. Li, M. Tomasello, J. Exp. Child Psychol. 223, 105494 (2022).
4. M. Killen, A. Dahl, Perspect. Psychol. Sci. 16, 1209 (2021).
5. M. Sharma et al., arXiv.2310.13548 [Preprint] (2025).
6. L. Ibrahim, F. S. Hafner, L. Rocher, arXiv:2507.21919 [Preprint] (2025).
7. M. Naddaf, Nature 647, 13 (2025).
8. E. Zohar, P. Bloom, M. Inzlicht, Commun. Psychol. 4, 39 (2026).
9. L. P. Argyle, Science 390, 983 (2025).
10. H. Lin et al., Nature 648, 394 (2025).
11. T. H. Costello, G. Pennycook, D. G. Rand, Science 385, eadq1814 (2024).
12. M. H. Tessler et al., Science 386, eadq2852 (2024).
13. H. R. Kirk, I. Gabriel, C. Summerfield, B. Vidgen, S. A. Hale, Humanit. Soc. Sci. Commun. 12, 728 (2025).
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.
Pour vous recevoir un courriel hebdomadaire vers mes traductions.