Traduction de LLMs Join The Fediverse par Laurens Hof, le 25 juin 2026
Comment bâtir une communauté du Fediverse alors que, sur les applications d’adhésion, les robots sont impossibles à distinguer des humains?
Le pourriel a toujours constitué un défi au sein du Fediverse. Si vous gérez un serveur avec des inscriptions ouvertes, ne nécessitant pas l’approbation d’un administrateur, vous recevez directement du pourriel, ce qui a été un problème récurrent tout au long de l’histoire du Fediverse. Ce problème est certes agaçant, mais il reste gérable d’une certaine manière : un serveur qui se fait soudainement cibler par des robots et qui envoie du pourriel à d’autres serveurs est assez rapidement défédéré, les modérateurs des différents serveurs se coordonnant et s’alertant mutuellement si la vague de pourriel se déplace vers un autre serveur dont les inscriptions sont également ouvertes.
La plupart des serveurs soucieux de gérer une communauté sérieuse ont donc adopté des inscriptions sur approbation, où un modérateur humain lit une brève demande d’adhésion et décide d’accepter ou non une personne, généralement via un formulaire posant quelques questions sur l’identité de la personne et les raisons de son adhésion. Pendant très longtemps, les robots de pourriel n’ont pas été capables de rédiger un texte convaincant expliquant pourquoi ils souhaitaient rejoindre un serveur spécifique; cette méthode a donc bien fonctionné pendant des années.
C’est là qu’entrent en scène les LLM.
Ce que les modérateurs de l’ensemble du fediverse signalent depuis deux ou trois mois, c’est que le formulaire de candidature ne fonctionne plus. Alice, modératrice chez lgbtqia.space, écrit que plus de 80 % des demandes d’adhésion à leur instance sont désormais générées par l’IA, et Britt, de mstdn.games, fait état du même pourcentage. Felix Stalder, qui gère la petite instance tldr.nettime.org, a observé que la proportion de demandes provenant de robots est passée de 10 % à plus de 90 % en l’espace de quelques semaines. Cette tendance se retrouve sur des instances de toutes tailles, ce qui indique qu’il s’agit désormais de la nouvelle norme en matière d’inscription ouverte, et non d’une campagne ciblée contre quelques serveurs spécifiques.
Voici comment Stalder décrit cette situation du point de vue du modérateur :
Nous devons désormais effectuer mentalement une sorte de test CAPTCHA inversé, intuitif et sémantique, pour décider s’il faut cliquer sur le bouton « Accepter » ou « Rejeter ». […] Cela nous oblige à partir du principe que chaque demande provient d’un robot. Jusqu’à preuve du contraire.
Cette inversion constitue, je pense, le changement structurel. La norme s’est inversée, et chaque demande est présumée provenir d’un bot jusqu’à ce qu’un humain puisse se convaincre du contraire, le coût cognitif de ce jugement reposant entièrement sur un modérateur non rémunéré qui doit effectuer un test de Turing personnel dans sa tête pour chaque inscription. C’est désormais le quotidien de ceux qui gèrent une instance du Fediverse.
Alice, modératrice sur lbgtqia.space :
Je suis à bout parce que toutes mes actions de modération sont dirigées contre cette putain d’IA. Je n’aurais jamais pensé dire ça, mais ça me manque de suspendre des nazis et des fanatiques — au moins, c’étaient de vraies personnes qui finissaient par abandonner au bout d’un moment —, alors que ces modèles de langage grand échelle (LLM) continuent sans fin, et ils s’en fichent complètement d’être suspendus ou rejetés.
La modération a perdu sa fonction dissuasive. Suspendre un nazi avait un sens, car ce nazi avait une identité qui pouvait être découragée et finirait par abandonner. Suspendre un bot LLM ne signifie rien, car le bot crée un nouveau compte, et il n’a ni identité ni sentiments. L’entité modérée n’a aucun attachement à un compte particulier, et le coût de création d’un compte de remplacement est pratiquement nul.
Le premier problème évident ici est la charge de travail que cela engendre pour les modérateurs, ce qui est déjà suffisamment grave en soi. Ce travail est effectué bénévolement par des personnes qui s’investissent parce qu’elles se soucient de la communauté, et il est démoralisant d’une manière que la modération ordinaire ne l’est pas. Mais je pense que cette charge de travail est en réalité la conséquence attendue d’un nombre accru de robots, et que personne ne sera surpris d’apprendre que plus de robots signifie plus de travail.
Le problème le plus grave est que le mécanisme de filtrage des inscriptions par approbation a perdu sa capacité de distinction dans les deux sens à la fois.
D’une part, les robots parviennent bel et bien à passer à travers les mailles du filet. Si un adversaire consacre des efforts à ses robots, les résultats produits par un robot deviennent impossibles à distinguer de ceux d’un humain. Après tout, les modèles de langage à grande échelle (LLM) sont extrêmement capables de générer du texte plausible, et un formulaire d’inscription à un serveur du Fediverse ne fait que filtrer ce texte plausible. Les administrateurs de serveurs affirment que les robots parviennent désormais à passer à travers les mailles du filet, même avec des systèmes basés sur l’approbation, et qu’ils peuvent se montrer assez sophistiqués à cet égard, par exemple en restant inactifs pendant quelques semaines tout en publiant quelques messages inoffensifs, avant de se mettre à envoyer du pourriel. Ce problème ne se limite pas au pourriel du type « cliquez ici pour obtenir des dogecoins gratuits » : IFTAS rapporte que le Fediverse a été pris pour cible par le réseau de robots russe Portal Kombat à des fins de désinformation et de propagande.
L’autre aspect du problème est que des humains se font rejeter. Shlee, sur aus.social a mené un test en s’inscrivant sur cinq grandes instances Mastodon modérées à l’aide d’un message de présentation délibérément stylisé. Trois de ces cinq instances ont rejeté la demande, soit parce que le message semblait « trop LLM », soit parce que l’adresse courriel ne provenait pas d’un fournisseur majeur. Shlee en a tiré la conclusion suivante : si votre détection anti-LLM se résume à « cette chaîne contient-elle un tiret long », vous avez un problème bien plus grave. Mais le point le plus important ici est que le système de détection rejette désormais, de manière compréhensible, les demandes dont le style d’écriture rappelle celui de Claude, ce qui rend probable – mais ne garantit pas – qu’il s’agisse d’une demande de bot.
Mais je pense que les répercussions vont au-delà de la charge de travail liée à la modération, et touchent à quelque chose de plus fondamental concernant la façon dont le Fediverse fonctionne réellement en tant qu’espace social.
Le formulaire d’inscription sur une petite instance était purement un mécanisme anti-pourriel. Pour un serveur régional destiné à une communauté locale, ou un serveur destiné à des personnes partageant un même passe-temps, le formulaire d’inscription est également un rituel social. Il permet à l’administrateur de sélectionner les personnes qui rejoignent sa communauté, et il permet au nouveau venu de manifester un intérêt sincère. Il offre au nouveau venu un moyen de se présenter, par exemple en expliquant pourquoi ce passe-temps lui tient à cœur, ou pourquoi il souhaite entrer en contact avec des gens de sa région. Le formulaire constituait un premier point de contact, un premier lien social simple entre le nouveau venu et la communauté qu’il cherchait à rejoindre.
Dans un article que j’ai rédigé en février sur la place des communautés sur le Web social ouvert, j’ai fait valoir que les communautés ont tendance à se former par le biais de rencontres, en se retrouvant au même endroit au même moment et en découvrant des intérêts communs grâce à la proximité. Le formulaire d’inscription en était la version numérique : franchir le seuil d’une communauté et se présenter. Les modérateurs de petites instances, comme le décrit Mud sur kolektiva.social, trouvaient souvent ces textes « réconfortants ». C’est en les lisant que l’on faisait connaissance avec les nouveaux membres; c’était une première étape pour tisser des liens sociaux et aider les nouveaux arrivants à s’intégrer à la communauté.
Les grands modèles de langage (LLM) ont détruit la capacité de ce canal à transmettre des signaux pertinents. La rédaction du texte de demande d’adhésion a été automatisée à un coût quasi nul, et le modérateur ne peut plus déterminer si la personne à l’autre bout s’intéresse réellement au travail du bois, vit dans votre région ou souhaite se joindre à votre communauté pour quelque raison que ce soit. L’ancien problème de pourriel sur Internet était que des messages indésirables parvenaient aux gens, ce qui est néfaste. Mais la situation actuelle est pire à un égard précis : cela ne se contente pas de polluer la couche de contenu, cela bloque la couche de formation de la communauté. Une instance qui ne peut pas accepter de nouveaux membres de manière fiable ne peut pas croître, et une instance dont les modérateurs s’épuisent à examiner de fausses demandes d’adhésion risque tout simplement de fermer ses portes. La plus grande menace ici ne réside pas dans le pourriel sur le fil d’actualité, mais dans le substrat social des serveurs communautaires.
Il existe des mesures pour réduire cette pression, comme le partage entre serveurs de listes de domaines de courriel jetables ou la coordination autour de modèles de demande communs. Ces mesures sont utiles, et l’IFTAS continue d’accomplir un travail important dans ce domaine. Mais il y a là, je pense, une limite structurelle. Il s’agit de défenses par reconnaissance de modèles qui s’opposent à des machines capables de générer une infinité de nouveaux modèles. Le coût de coordination pour les défenseurs — amener des milliers d’instances indépendantes à s’entendre sur des normes communes et à les mettre en œuvre — dépasse de loin le coût d’adaptation pour l’attaquant. Et comme le coût marginal par tentative pour l’attaquant est pratiquement nul, la course à l’armement penche structurellement en faveur des robots.
J’ai écrit à propos de ce problème de coordination en termes plus abstraits en octobre dernier, dans un article expliquant pourquoi les meilleurs systèmes de modération pour le fediverse peinent à s’imposer. Le principal défi réside dans le fait que le fediverse vous offre un contrôle souverain sur votre propre serveur, ce qui constitue une forme significative d’autonomie, mais celle-ci se limite à votre propre serveur. Les aspects les plus complexes de la modération ne respectent pas les frontières entre serveurs; il s’agit de problèmes inter-réseaux, et leur résolution nécessite une collaboration entre les serveurs et les logiciels. Cet article s’intéressait à des outils comme FediMod, FIRES et Fediseer, des systèmes conçus pour aider les serveurs à partager de l’information sur les mauvais acteurs, et constatait que ces outils n’ont de valeur que si de nombreux serveurs y participent. Si seuls quelques serveurs y participent, les signaux sont trop clairsemés pour être utiles. Ils ne deviennent utiles qu’une fois qu’une partie significative des serveurs du Fediverse y participe. Il s’agit là du problème classique de coordination, où les serveurs individuels ne sont pas incités à participer tant que le système n’a pas atteint une masse critique, mais où cette masse critique ne peut être atteinte tant qu’un grand nombre de serveurs individuels n’y participent pas. La crise des inscriptions de bots relève de ce même problème de coordination, mais en pire, car ce contre quoi il faut se coordonner n’est pas un ensemble statique d’acteurs malveillants, mais un adversaire adaptatif qui modifie ses schémas plus rapidement que l’infrastructure de coordination ne peut s’y adapter. Pour se faire une idée de la difficulté du problème de coordination de base : pour le partage d’information sur les acteurs malveillants, le Fediverse s’appuie encore, dans une large mesure, sur le mot-clic #fediblock, un outil créé il y a des années par nécessité et que le réseau n’a jamais réussi à remplacer, bien qu’il soit clairement inadéquat pour l’échelle actuelle. Si le Fediverse n’a pas été en mesure de mettre en place une infrastructure commune pour les harceleurs connus, la mise en place d’une infrastructure commune permettant de distinguer en temps réel les robots LLM des véritables candidats constitue un problème nettement plus ardu.
Ce qui rend cette tâche réellement ardue — et pas seulement difficile au sens où tout problème de pourriel l’est —, c’est que l’architecture du Fediverse est à la fois ce qui justifie sa défense et ce qui l’empêche de déployer les défenses qui ont fait leurs preuves ailleurs. Le courriel a connu cette transition dans les années 2000 et a fini par adopter des systèmes de réputation ainsi qu’un filtrage centralisé géré par de grands fournisseurs. Cela a fonctionné, mais en concentrant la confiance sur une poignée d’acteurs capables d’opérer à une échelle suffisante pour rendre la rentabilité du filtrage viable. Le fediverse ne dispose pas de ces acteurs; de plus, la culture du réseau, avec ses objectifs de décentralisation, rend structurellement difficile l’adhésion à de tels systèmes, les gens se montrant à juste titre sceptiques quant à l’opportunité même d’une telle solution.
J’ai déjà écrit que la résilience actuelle du fediverse était le fruit d’une vague spécifique de personnes ayant décidé de faire tourner des serveurs à un moment précis, et que le réseau ne parvient pas vraiment à renouveler sa base d’opérateurs. La crise des inscriptions de robots ajoute une pression supplémentaire sur cette même base d’opérateurs. Le modérateur qui s’épuise à examiner de fausses demandes d’inscription et l’administrateur qui ne peut justifier le temps consacré à l’exploitation d’un serveur désormais principalement la cible d’abus automatisés : ce sont ces mêmes personnes dont la volonté de faire fonctionner des serveurs est le pilier du réseau. J’ai écrit à cet égard que le mouvement des réseaux sociaux ouverts a tendance à tomber dans l’« eschatologie des protocoles », c’est-à-dire la croyance selon laquelle le succès futur des protocoles ouverts est garanti parce que ces protocoles sont bons. Le problème des inscriptions par des robots est un correctif utile à cette façon de penser, car c’est un problème qui ne sera pas résolu par la simple qualité du protocole. Il sera résolu par des personnes précises effectuant un travail de coordination précis, ou il ne sera pas résolu du tout.
Je n’ai pas de suggestion claire sur la voie à suivre d’un point de vue technique. Le pourriel généré par les grands modèles de langage (LLM) constitue une menace pour l’écosystème plus large de l’information et des communications en ligne en général, et les réactions observées jusqu’à présent ont clairement montré que l’on ne dispose pas encore d’une solution efficace pour y faire face. La meilleure voie à suivre consiste donc peut-être à renverser la question, en s’éloignant des grands modèles de langage et des robots : comment voulons-nous réellement construire et façonner nos espaces sociaux en ligne, où les humains peuvent établir des liens significatifs avec d’autres humains?
Fichier Excel des traductions par Gilles en vrac
Fiches avec les premières phrases (et non seulement les titres)
Les caractères gras dans le texte sont de Gilles.