La discussion organisée par New_Public, tenue le 12 mai : After the feed with Eli Pariser, Ben Smith, and Jasmine Sun a été très animée, notamment par l’activité de chat des quelques 200 participants à la session Zoom.
La présentation de l’événement (ma traduction) :
En 2011, Eli Pariser, codirecteur de New_ Public1L’organisation à l’origine de Roundabout, a donné un nom à un concept que nous connaissons tous bien aujourd’hui : les bulles de filtrage. Il s’intéresse désormais à la manière dont l’IA va transformer notre rapport à l’information et nos interactions les uns avec les autres.
Quelle sera la prochaine étape, après les flux sociaux algorithmiques qui ont défini nos vies sociales numériques au cours de la dernière décennie ? Eli est ravi de partager les nouvelles recherches de l’équipe de New_ Public sur la manière dont l’IA va remodeler l’environnement de l’information – et de mettre en lumière certaines grandes opportunités pour façonner cet avenir de manière à ce qu’il soit bénéfique pour les communautés et pour une société saine.
Nous sommes ravis de partager nos réflexions à ce sujet avec vous lors d’un événement virtuel le 12 mai à 13 h (heure de l’Est). Eli sera accompagné de deux journalistes à la fine pointe de la manière dont l’IA façonne la culture et la société :
Ben Smith a consacré sa carrière à retracer la manière dont la technologie remodèle les médias et la vie publique, de Politico à BuzzFeed News et maintenant chez Semafor, où il occupe le poste de rédacteur en chef.
Jasmine Sun est une voix émergente dotée d’un grand talent pour la traduction et la synthèse en cette ère incertaine de l’IA, tant dans sa propre infolettre qu’à titre de rédactrice collaboratrice pour The Atlantic.
Jasmine Sun est aussi l’autrice d’un article récent (30 avril) dans le NYT : Silicon Valley Is Bracing for a Permanent Underclass. Ma traduction : La Silicon Valley se prépare à l’émergence d’une classe défavorisée permanente.
Les planches de la présentation de Eli Pariser qui a lancé la conversation.
Pariser souligne la perte de confiance amenée par la multiplication du « slop » dans les productions visibles sur les réseaux sociaux. 51% du trafic sur internet en 2024 était généré par des « bots » ou l’IA.
La popularité, le nombre de like ou d’amis ne sont plus la valeur recherchée… c’est plutôt la confiance (trust) qui devient importante. Une confiance qui pourrait être accrue grâce à des environnements privés, facilement développés grâce à l’IA… Il donne en exemple une réplique de Strava développée grâce à Claude Code, pour les coureurs d’un voisinage.
Il devient possible financièrement de développer des micro-plateformes.
Abondance logicielle : les outils de développement basés sur l’IA réduisent les coûts et les efforts nécessaires à la création de nouveaux produits et de nouvelles plateformes. Il est désormais possible de créer et d’exploiter une plateforme communautaire destinée à 500 personnes pour quelques centaines de dollars par mois, au lieu de plusieurs millions. Cela rend viables les modèles d’abonnement, les modèles financés par les membres et les modèles gérés par la communauté à une échelle qui, auparavant, était trop modeste pour être économiquement viable.
Ces « micro-communautés » n’ont pas à être refermées sur elles-mêmes : les AT Protocol et ActivityPub permettent de transporter son identité d’une communauté à l’autre ou encore de fédérer plusieurs petites communautés…
| Principes communautaires prosociaux | Orientation des produits |
|---|---|
| 01. L’identité est clairement identifiable et les membres savent à qui ils s’adressent. | Adhésion et limites : invitations, rôles et contrôles de perméabilité qui permettent aux communautés de décider elles-mêmes qui en fait partie. |
| 02. Les règles sont respectées et les normes communautaires ont un réel poids. | Règles et application : une gouvernance allégée avec des procédures d’escalade claires – une véritable responsabilisation sans bureaucratie. |
| 03. La réputation se mérite. La confiance se construit au fil du temps, et non en fonction du nombre d’abonnés. | Contexte commun : un référentiel établi, des archives consultables et une mémoire institutionnelle qui survivent aux changements de direction. |
| 04. Les incitations entre les membres et les modérateurs sont partagées, ce qui permet de créer un cadre de modération cohérent. | Une expérience utilisateur réfléchie : moins de mécanismes de viralité, plus de mécanismes axés sur l’intention. Concevoir pour favoriser le partage avec les autres, et non pas simplement pour consommer ce qu’ils ont produit. |
Extrait (traduit) de la page « Thousands of spaces, built for specific communities« , Pariser
La perspective présentée par Pariser ouvre sur la possibilité d’une gestion partagée IA-humaine. Il souligne à quel point nous sommes au début d’une nouvelle ère, et comme en 1999, les acteurs importants ne seront peut-être plus là demain…
État actuel des règles et des cadres régissant la coexistence entre agents et humains en ligne
Normes ouvertes partagées : une tendance émergente
Le protocole MCP (Model Context Protocol) est désormais la norme industrielle pour connecter les assistants IA aux données et aux applications, et l’Agentic AI Foundation (créée par des entreprises d’IA et des géants de la technologie) élabore actuellement des normes ouvertes. Cependant, les cas d’utilisation civiques et publics sont sous-représentés dans ces initiatives.
Clarté des rôles et chaîne principale : une tendance émergente
La Fondation Auth/OpenID s’est penchée sur la manière dont les protocoles d’identité existants peuvent s’étendre aux contextes impliquant des agents. Des discussions animées ont lieu au sein de l’IETF et du W3C au sujet de l’identité des agents. Parallèlement, de grandes entreprises technologiques telles que Microsoft, Google et d’autres ont publié leurs réflexions sur les modèles d’authentification des agents.
Gouvernance communautaire : lacune urgente
À l’heure actuelle, aucun organisme de normalisation majeur, aucune coalition industrielle ni aucun cadre réglementaire ne traite de la gouvernance des agents au niveau communautaire. Les exemples les plus proches sont les expériences de gouvernance algorithmique menées au niveau communautaire sur des plateformes telles que Reddit et Bluesky (par exemple, les règles d’AutoModerator au niveau des subreddit, les flux personnalisés et les listes de modération).
Divulgation des agents – émergente
L’article 50 de la loi de l’Union européenne sur l’IA impose des obligations de transparence et de divulgation pour l’IA à usage général, notamment en matière de divulgation des agents et d’étiquetage des deepfakes. Les « Mesures provisoires pour la gestion des services d’IA générative » de la Chine exigent déjà l’étiquetage des contenus générés par l’IA. De même, le projet de loi AB 2655 de la Californie impose aux grandes plateformes d’étiqueter les contenus générés par l’IA dans le contexte électoral.
Intervention humaine : émergente mais fragmentée
Il s’agit de la catégorie pour laquelle il existe le plus de précédents en matière de réglementation et de conception. L’article 14 de la loi européenne sur l’IA traite de la supervision humaine des systèmes d’IA à haut risque, y compris la capacité d’intervenir, de passer outre ou d’annuler les décisions d’un système d’IA. Le cadre de gestion des risques liés à l’IA (AI RMF) du NIST inclut la « gouvernabilité » comme fonction essentielle, ce qui englobe les capacités d’intervention humaine. L’IEEE mène des travaux de normalisation sur les systèmes autonomes qui comprennent des dispositions relatives à l’intervention humaine.
Cependant, il n’existe pas de norme définissant à quoi devrait ressembler la « dérogation humaine d’un agent d’IA », quelles devraient être les capacités minimales requises, ou comment les droits de dérogation devraient être répartis au sein d’une communauté (par exemple, s’agit-il uniquement de l’administrateur, ou n’importe quel membre peut-il signaler une action d’un agent pour examen ?)
Extraits (traduits) des commentaires soumis par les participants dans le chat de la session Zoom
« Je me demande quelle place occupe la participation citoyenne dans tout ça : s’agit-il de lignes directrices sur la manière dont ces agents peuvent être personnalisés ? Et si cette personnalisation visait à encourager le recours à la violence pour régler des griefs ? À quel niveau, dans cet univers d’agents, cela doit-il être « figé » ou impossible à mettre en place ? »
« Le manque d’intérêt pour la vérité dure depuis un certain temps déjà — le public a été conditionné — par certaines forces — à se désintéresser de la vérité. Car sans la vérité, nous avons moins de chances de forger notre avenir. »
« J’ai longuement réfléchi au fait que l’IA réduit considérablement les coûts. Cela ouvre la voie à de nouveaux modèles d’affaires. On peut désormais créer des produits destinés à des publics plus restreints et adhérer à des valeurs qui ne se limitent pas à concevoir un piège à souris addictif, à lever des sommes faramineuses, à tout dépenser pour acquérir des utilisateurs, à étouffer la concurrence, puis à exploiter la base d’utilisateurs captifs. Je pense que la meilleure chose à faire pour le bien public est de donner les moyens à ces créateurs – grâce à l’éducation, aux outils, au financement et aux infrastructures – de créer des expériences uniques pour les publics locaux. Plus nous accélérerons ce processus, plus nous pourrons réellement favoriser une économie de classe moyenne plus saine. »
De davidkarpf à Tout le monde:
« Si les chatbots sont conçus pour la personnalisation, alors le phénomène de bulle de filtrage risque fort de s’aggraver, non ? »
De Simone Liano à Tout le monde:
« Fascinant ! J’ai quelques questions :
Dans le monde que vous avez décrit, où coexistent agents et humains en ligne, avez-vous une idée sur une méthode réellement prometteuse pour distinguer l’engagement humain de celui généré par l’IA en ligne ?
Vous avez évoqué le fait que les grandes plateformes centrales seront remplacées par un certain nombre de petites plateformes basées sur la confiance. Je suppose qu’il y a une limite naturelle au nombre de plateformes auxquelles les gens peuvent participer avant que cela ne devienne trop lourd, et je pense que c’est peut-être pour cette raison que les gens s’ancrent sur une plateforme centrale — je suis curieux de savoir ce que vous pensez de la viabilité à long terme de l’engagement des gens sur une variété de petites plateformes »
De Johannes Ernst (FediForum) à Tout le monde:
Il me semble que les incitations commerciales qui ont conduit à toutes ces conséquences néfastes sur les plateformes sociales commerciales sont les mêmes que celles qui s’appliqueront aux applications grand public basées sur l’« IA ». Pourquoi les résultats seraient-ils différents dans ce cas-ci ?
De chris eaton (he/him) à Tout le monde:
Je réfléchis beaucoup à la question du divertissement par rapport à la communauté. Je privilégie le divertissement pour l’instant, car c’est plus simple… C’est un moyen direct d’investir dans un meilleur contenu qui s’inscrit dans la mission de mon organisme à but non lucratif.
La communauté est plus durable, mais je trouve aussi réconfortant de voir que nous évoluons dans un environnement beaucoup plus mature grâce à Mobilize et à une « abondance de logiciels » qui permettent de rassembler les gens en personne.
De Nealin Parker | CG-USA at Search for Common Ground à Tout le monde:
Réponse à « Comment empêcher le durcissement des bulles de filtrage… » :
Je me posais justement la même question. Il existe un service appelé « The Flip Side », une newsletter disponible dès maintenant qui propose les meilleurs articles pour contrebalancer ou élargir vos opinions politiques, quelles qu’elles soient. Je crois que ce n’est pas très connu ni largement utilisé en dehors de mon domaine (n’hésitez pas à me contredire là-dessus), et cette idée me fait penser qu’il y a beaucoup d’opportunités, mais qu’il faudra un « élan » culturel pour briser ces bulles – ce qui, selon moi, pourrait très bien être l’esprit d’une nouvelle génération.
De Noelia Amoedo à Tout le monde:
J’aurais beaucoup de questions, mais la plus pressante concerne le modèle publicitaire, qui a généré des incitations ayant façonné les réseaux sociaux tels qu’on les connaît aujourd’hui. Je suis très enthousiaste à propos d’une entreprise que je conseille et dont l’objectif est de redonner le pouvoir à l’utilisateur dans le marché publicitaire. Cependant, votre présentation m’a fait me demander si leur modèle pourrait lui aussi devenir obsolète dans un monde où l’actualité est filtrée par des agents. En résumé, j’aimerais savoir : avez-vous des réflexions sur la façon dont l’écosystème publicitaire pourrait évoluer ?
Valerie Wirtschafter : J’aimerais beaucoup que le panel aborde plus en détail les composantes du modèle d’affaires des laboratoires d’avant-garde… Où se situe l’optimisation de l’attention des agents par rapport à l’optimisation de l’attention individuelle (pour la collecte de données en vue de la vente de publicité) des plateformes sociales du passé ? S’agit-il du modèle d’abonnement et est-ce viable ?
À propos de la discussion sur l’expérience utilisateur en matière de gouvernance, voici quelques-unes de mes notes récentes sur la façon dont les agents pourraient faciliter la gouvernance en ligne : https://nathanschneider.info/2026/02/constitutional-agents-for-online-governance/
De Mike Su à Tout le monde:
Je pense que l’un des enjeux fondamentaux de la gestion de produit au cours des deux dernières décennies a été l’idée d’éliminer les frictions. Or, les frictions sont au cœur de l’expérience humaine, et le fait de vider cette expérience de sa substance en les éliminant a, à mon avis, conduit à la société dans laquelle nous vivons aujourd’hui : « plus connectée que jamais, mais plus solitaire que jamais ». Je trouve toutefois que l’IA présente un intérêt, dans la mesure où une interface de clavardage incite à consacrer plus de temps à une conversation (même si c’est avec une machine). Je suis curieux de savoir ce que vous pensez tous de la
Notes
- 1L’organisation à l’origine de Roundabout