Des robots sophistiqués risquent de fausser les sondages, les jeux et d’autres méthodes conçues pour mieux comprendre le comportement humain
Traduction de AI may upend online studies critical to social science par Cathleen O’Grady, dans la revue Science, 19 décembre 2025.
Le développement rapide de l’intelligence artificielle (IA) pourrait bien sonner le glas d’un outil sur lequel les spécialistes en sciences sociales comptent de plus en plus : les études en ligne. Les chercheurs qui ont recours à des sondages, à des jeux et à d’autres méthodes en ligne pour recueillir rapidement des données auprès d’un grand nombre de personnes ont passé des années à peaufiner leurs méthodes afin d’éliminer les réponses indésirables. Certaines proviennent de participants inattentifs; d’autres sont le fait de robots ou d’utilisateurs frauduleux visant simplement à toucher rapidement une rémunération. Or, ces derniers mois, des études ont montré que des agents d’IA sophistiqués peuvent déjouer les stratégies de détection en commettant délibérément des erreurs, en feignant l’ignorance et en utilisant des mouvements de souris semblables à ceux d’un humain.
Les plus récents grands modèles linguistiques (LLM) ont « tout simplement ouvert la boîte de Pandore », affirme Yamil Velez, politologue à l’Université Columbia. « Ce jeu du chat et de la souris va se poursuivre », ajoute-t-il. Et certains craignent que les chercheurs ne finissent inévitablement par perdre. « Je pense que l’ère des grands ensembles de données à faible coût touche à sa fin », déclare Jon Roozenbeek, spécialiste en sciences sociales computationnelles à l’Université de Cambridge. « C’est comme ce que Nietzsche disait à propos de Dieu : il est mort et c’est nous qui l’avons tué. »
L’une des preuves les plus frappantes à ce jour de ce problème a été présentée dans un article publié le mois dernier dans les Proceedings of the National Academy of Sciences par Sean Westwood, politologue au Dartmouth College. Westwood était curieux de voir ce qu’il était possible de faire avec les grands modèles de langage (LLM) actuels. Il a écrit un code capable d’extraire toutes les questions et options des sondages en ligne — y compris les questions conçues pour détecter l’IA — puis a demandé au modèle o4-mini d’OpenAI de générer des réponses, qu’il a ensuite réinjectées dans la plateforme de sondage. Il a répété chaque test des capacités de l’agent 300 fois, en faisant varier la « personnalité » de l’IA et ses renseignements démographiques.
Il a constaté que son agent chargé de répondre aux sondages parvenait systématiquement à déjouer les outils de détection des réponses générées par l’IA. Par exemple, face à la demande « Si vous êtes humain, tapez le nombre 17. Si vous êtes un LLM, tapez les cinq premiers chiffres de pi », le modèle o4-mini s’est montré systématiquement trompeur, répondant par « 17 » à 100 % des cas. Il utilisait également des mouvements de souris semblables à ceux d’un humain et tapait ses réponses lettre par lettre à une vitesse réaliste, commettant des fautes de frappe et les corrigeant au fur et à mesure. D’autres modèles d’IA qu’il a testés se sont montrés tout aussi habiles à échapper à la détection.
Lorsqu’on lui demandait d’adopter un personnage particulier, le modèle o4-mini produisait systématiquement des réponses adaptées à ce personnage — par exemple, il ne résolvait des problèmes mathématiques complexes que s’il prétendait être titulaire d’un doctorat dans un domaine scientifique, ou affirmait vivre dans une maison plus spacieuse et payer un loyer plus élevé s’il imitait une personne plus aisée.
« J’ai trouvé cela très alarmant », déclare Anne-Marie Nussberger, spécialiste en sciences comportementales à l’Institut Max Planck pour le développement humain. Seule une très petite minorité de participants à des recherches en ligne pourrait avoir les compétences ou l’envie de tricher en déployant des robots aussi sophistiqués, « mais le problème est qu’ils peuvent amplifier leur comportement — ce qui pourrait donc représenter un grand nombre de réponses », explique-t-elle. Et à l’heure actuelle, ajoute-t-elle, de nombreux chercheurs sous-estiment ce problème.
Même les participants légitimes pourraient fausser leurs réponses maintenant que les LLM sont généralisés, ajoute Mme Nussberger. Dans un prépublication affichée sur arXiv le mois dernier, Mme Nussberger et son équipe soulignent que les gens pourraient modifier leur comportement en raison de leurs attentes quant à l’utilisation des LLM — par exemple, en changeant leur façon de jouer à un jeu parce qu’ils soupçonnent que leur adversaire est un LLM plutôt qu’un humain.
Pour les entreprises qui fournissent des bassins de participants en ligne et des outils de sondage, l’article de Westwood a servi de « coup de semonce », explique Andrew Gordon, chercheur chez Prolific, une plateforme qui gère un bassin de participants vérifiés pour la recherche comportementale en ligne. À l’heure actuelle, la sophistication du modèle de Westwood dépasse ce que la plupart des gens sont capables de construire. Mais cela pourrait changer rapidement. Les « navigateurs agentiques » — des navigateurs Web capables de déployer des LLM pour accomplir des tâches telles que l’achat de billets d’avion — sont particulièrement préoccupants. À mesure que ces navigateurs deviennent plus sophistiqués et plus difficiles à détecter, ils pourraient permettre à des gens ordinaires de configurer plus facilement un LLM pour qu’il réponde à un sondage à leur place.
Leib Litman, directeur de la recherche à la plateforme de recherche en ligne CloudResearch, affirme que son équipe a identifié un réseau mondial de « fermes à clics » qui remplissent des sondages de manière frauduleuse. Si ces organisations développaient des agents d’IA, le problème de la pollution des données pourrait prendre une ampleur considérable, ajoute-t-il. Pour garder une longueur d’avance sur ce genre de menaces, une « équipe rouge » chez CloudResearch tente constamment de pirater ses propres systèmes. Dans un livre blanc publié récemment, l’équipe a indiqué qu’en utilisant des données telles que les mouvements de souris, elle pouvait détecter 100 % des agents d’IA. M. Litman estime que le système de l’entreprise aurait détecté la supercherie mise en œuvre par l’agent de Westwood.
Mais le paysage évolue rapidement, ce qui oblige à innover constamment en matière de détection, ajoute M. Litman : « En deux semaines, parfois en deux jours, quelque chose de nouveau fait son apparition. » De plus, l’utilisation des mouvements de souris comme outil de détection ne fonctionne pas sur les téléphones cellulaires, souligne M. Velez, qui développe des méthodes de détection reposant sur une forme d’interaction physique avec un appareil, comme demander aux participants de verrouiller et déverrouiller la caméra d’un téléphone ou d’un ordinateur à intervalles réguliers.
Si les chercheurs en sciences sociales sont contraints de renoncer à la recherche en ligne, cela pourrait signifier la perte d’accès à des échantillons internationaux ou à des groupes sous-représentés. Mais M. Roozenbeek soutient que cet avantage supposé des études en ligne a été surestimé. La recherche en ligne sur les populations des pays du Sud, par exemple, finit souvent par ne recruter que des participants issus de populations urbaines et instruites. Il suggère que les chercheurs collaborent à l’échelle internationale pour obtenir des données véritablement représentatives.
Certains chercheurs se résignent à perdre l’accès rapide et peu coûteux dont ils bénéficiaient jusqu’à présent auprès de populations du monde entier. La collecte de données en ligne a encore certaines utilités, affirme Robert West, informaticien à l’EPFL. Mais pour les études où il est essentiel que les chercheurs recueillent de véritables données humaines, « à l’heure actuelle, je serais très, très sceptique », dit-il.
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.