Des centaines d’experts mondiaux en technologie partagent leurs réflexions, appelant de leurs vœux une réponse systémique globale de la part des dirigeants afin de servir au mieux les intérêts de l’humanité face à l’évolution technologique rapide
Traduction de Building a Human Resilience Infrastructure for the Age of AI: Experts Call for Radical Change Across Institutions, Social Structures par Lee Rainie and Janna Anderson.
La grande majorité des experts interrogés dans le cadre d’une enquête menée en 2026 par l’Imagining the Digital Future Center ont déclaré que les humains devaient mettre en place une infrastructure de résilience hautement coordonnée pour l’ère de l’IA afin de contrebalancer les défis humains et systémiques posés par l’adoption généralisée de l’IA. Quelque 82 % ont déclaré que l’IA jouerait un rôle nettement plus important dans le façonnement de la vie des gens et des fonctions sociétales clés au cours des 10 prochaines années ou moins. Ils ont appelé de leurs vœux un programme de résilience axé sur les institutions », car les problèmes les plus importants découlent d’une infrastructure d’IA qui encercle la vie.
Plus de 160 des 386 experts ont rédigé des réponses détaillées sous forme d’essais pour expliquer leur point de vue. Ils ont déclaré qu’il faudrait une réponse systémique globale de la part des dirigeants de tous horizons pour servir au mieux les intérêts de l’humanité dans un environnement d’IA omniprésent. Voici la section du résumé, la première des 13 sections de ce rapport sur les humains et l’IA.
| Télécharger le rapport complet de 378 pages au format PDF| Télécharger le résumé de 16 pages| Télécharger le résumé destiné aux médias de 4 pages | [documents en anglais]
Ces experts internationaux issus de tous les horizons ont noté que l’IA est en train de devenir rapidement le système d’exploitation invisible de la société, façonnant la manière dont les opportunités sont réparties, les services fournis, les risques gérés et les droits humains vécus. La plupart ont déclaré que les stratégies de résilience traditionnelles utilisées par les humains depuis des millénaires – axées sur la « ténacité » individuelle et l’adaptation personnelle a posteriori – ne suffisent pas pour aider l’humanité à s’épanouir alors que nous nous adaptons à un avenir imprégné d’IA.
Ces experts ont prédit :
Rôle accru de l’IA : 82 % ont déclaré que l’IA jouera un rôle nettement plus important dans le façonnement de notre vie quotidienne et des principaux systèmes sociétaux au cours des 10 prochaines années ou moins ; 13 % ont déclaré que ce niveau de changement n’interviendra que dans 20 à 30 ans.
L’IA guide les décisions : 56 % ont déclaré qu’au moment où ils s’attendent à ce que l’IA soit nettement plus avancée, elle influencera, guidera ou contrôlera « presque toutes » ou « la plupart » des activités et décisions humaines (24 % supplémentaires ont déclaré que l’IA influencera, guidera ou contrôlera près de la moitié des activités et décisions).
Inquiétudes quant à la résilience : 45 % ont déclaré que les humains ne seraient que « un peu » ou « pas du tout » résilients face à un tel niveau de changement. Environ la moitié a déclaré que les gens seraient assez à très résilients.
À noter : de nombreux experts ont écrit dans leurs réponses rédigées que la plupart des humains accepteraient passivement l’influence des systèmes d’IA. Ainsi, ces personnes ne ressentiraient aucun besoin d’être résilientes.
Préoccupations liées à la satisfaction : seuls 33 % ont déclaré que les gens seraient plus satisfaits qu’insatisfaits des systèmes d’IA à ce moment-là ; 31 % ont déclaré que les gens seraient plus insatisfaits que satisfaits ; 33 % ont déclaré que les gens éprouveraient autant de satisfaction que d’insatisfaction à l’égard des systèmes d’IA.
Plus important encore, ces experts ont insisté sur le fait que les institutions humaines doivent unir leurs forces et commencer dès maintenant à préparer les gens à s’épanouir dans un nouveau monde confronté à de nouveaux défis qui sont déjà évidents mais qui n’ont pas encore été abordés. De plus, dans les 300 pages d’essais et de commentaires plus succincts rédigés par ces experts, ils ont cité un certain nombre de problèmes majeurs à résoudre pour renforcer la résilience humaine :
- La perte de l’autonomie humaine : C’est ce qui les préoccupait le plus. Dans presque tous les aspects de la vie quotidienne – des choix quotidiens aux décisions cruciales qui changent le cours d’une vie –, l’IA organisera de manière invisible notre consommation d’informations, prédira nos comportements et automatisera de vastes systèmes qui supervisent et dirigent la vie des gens et les systèmes sociétaux. Du recrutement et de l’octroi de prêts aux questions juridiques et aux diagnostics médicaux, et bien au-delà, elle restreindra subtilement les paramètres du libre arbitre humain. Ils notent que, dans de nombreux domaines, les gens s’en remettent déjà à l’IA plutôt que de faire appel à leur jugement humain et à leur raisonnement moral et éthique. Les systèmes d’IA complexes et opaques privilégient l’efficacité programmée et les modèles prédictifs au détriment des nuances individuelles. Ils fonctionnent souvent largement hors de notre compréhension ou de notre contrôle. Ils privent les individus de la capacité d’évaluer les options de manière indépendante, de contester de manière significative les résultats et, en fin de compte, de diriger le cours de leur propre vie.
- Fragmentation épistémique et effondrement de la réalité partagée : Ces experts craignent que la persuasion personnalisée et les contenus synthétiques flagorneurs créés par l’IA n’affaiblissent le sens de la réalité partagée et la fidélité aux faits chez les humains. Cela est extrêmement dangereux car, sans une base commune de vérité objective, la confiance sociétale s’évapore, le discours démocratique devient impossible et l’humanité perd la capacité fondamentale de collaborer et de résoudre les défis collectifs.
- Le besoin d’une « culture existentielle » : Ces experts ont souligné la nécessité d’élargir nos notions de « culture » et de donner la priorité à une culture de l’IA plus complète – la « culture existentielle » – en tant que fondement essentiel de l’infrastructure de la résilience humaine. L’objectif serait de renforcer le système immunitaire psychologique des individus, en leur donnant les moyens de s’adapter aux changements rapides, de défendre leur identité et d’orienter délibérément la technologie vers l’épanouissement humain. Ils ont déclaré qu’une telle culture devait encourager la création de nouvelles normes, en cultivant une compréhension approfondie de l’unicité humaine, des valeurs fondamentales, du besoin de liens sociaux en présentiel et de notre attachement à un but fondamental, afin que nous puissions naviguer activement dans le monde algorithmique plutôt que d’être passivement conditionnés par lui.
- Le « séisme du travail » – menace économique et bouleversement identitaire : Dans les bouleversements transformateurs qui risquent de survenir, la plupart des emplois changeront, certains disparaîtront, et des difficultés économiques sont à prévoir. Sans le point d’ancrage stabilisateur que constituent l’identité professionnelle et la sécurité économique, de nombreuses personnes pourraient être confrontées à une crise psychologique d’inutilité susceptible de déstabiliser profondément le tissu social. Certains prédisent que la société pourrait entrer dans un état de « techno-féodalisme » si la main-d’œuvre humaine est supplantée et si les gains de productivité profitent entièrement au capital et aux propriétaires de centres de données.
- Nouvelles divisions et inégalités : De nombreux experts ont déclaré que ceux qui ne parviennent pas à maîtriser efficacement l’IA en tant que « co-intelligence » pourraient prendre du retard et perdre beaucoup plus d’autonomie que les autres. Certains prédisent des divisions humaines, certaines parties de la population choisissant de vivre dans des espaces dominés par l’IA tandis que d’autres choisissent de se concentrer sur des expériences humaines « plus authentiques ».
- Complaisance face à l’automatisation : Ces experts affirment que les utilisateurs feront une confiance excessive à des systèmes d’IA apparemment fluides et sûrs d’eux. Les gens aspirent à l’efficacité, à la certitude et à la conclusion lorsqu’ils cherchent des réponses à leurs questions. Ils sont programmés pour se décharger des tâches cognitives difficiles et peuvent être poussés à faire des choix sans s’en rendre compte. Les systèmes d’IA sont conçus pour exploiter ces tendances.
- Évolution des interactions sociales : Bon nombre de ces auteurs ont déclaré qu’une dépendance croissante envers les compagnons, assistants et agents IA érodera les compétences sociales des individus, car ils mèneront de plus en plus une « vie parasociale », interagissant principalement de manière fluide avec des homologues IA toujours réactifs et conçus pour satisfaire. Ils s’attendent à un déclin de la capacité des individus à faire preuve d’empathie, de patience et à percevoir les nuances chez les autres, à mesure que les relations directes entre humains deviendront superflues et plus calculées et transactionnelles. Une tendance connexe prévue pour l’ère de l’IA est que les humains perdront également leur capacité à cultiver la solitude, contraints de rester en connexion constante avec la vie numérique.
- Complications liées à l’intrusion d’acteurs non humains dans les espaces humains : À l’avenir, les individus seront représentés par toute une série d’agents et de bots, ce qui les obligera à gérer de multiples aspects de leur « existence » dans le monde. Eux-mêmes et leurs agents devront également interagir avec les représentants agents d’autrui dans des contextes professionnels et sociaux.
De nombreux experts affirment que si la transition vers l’IA se déroule bien et que les humains sont prêts, résilients et s’adaptent bien, cela pourrait être le catalyseur d’une étape révolutionnaire de l’évolution humaine. Que l’union des personnes et des IA dans une relation symbiotique est susceptible de générer un résultat combiné bien supérieur à la somme de ses parties.
Ils suggèrent que, si elle est bien menée, cette transition élargira nos horizons, nous aidera à comprendre véritablement notre nature physique et numérique, et créera un puissant binôme homme-technologie qui amplifiera le meilleur de nous-mêmes, générera une nouvelle prospérité et résoudra certains des problèmes les plus épineux auxquels notre espèce a toujours été confrontée. Comme l’a écrit l’expert en politique technologique Adam Thierer : « Pour ceux d’entre nous qui sont optimistes quant aux avantages de l’innovation technologique et à la capacité de l’humanité à y répondre, ce sera notre heure de gloire. Cette révolution des connaissances profitera profondément à l’humanité et prouvera, une fois de plus, que nous avons la capacité de relever de nouveaux défis et de les surmonter grâce à nos remarquables capacités d’adaptation. »
Les experts réclament un programme ambitieux pour relever les défis à venir
Les points énumérés ci-dessous décrivent certaines des réformes qu’une partie de ces experts a préconisées afin de cultiver la résilience. Bon nombre des préoccupations et des solutions proposées sont transversales et la collaboration entre les acteurs de la société est cruciale ; de nombreux points énumérés dans un seul des contextes pourraient être mis en œuvre dans d’autres. La liste n’est pas exhaustive et les points ne sont pas classés par ordre d’importance. Une sélection d’objectifs à viser :
Pour les gouvernements : Concentrer davantage de soutien sur le renforcement de la résilience publique dès maintenant. Conclure des traités internationaux ; établir des « lignes rouges » et des limites juridiques contraignantes, ou du moins largement adoptables, pour les performances de l’IA ; exiger des audits de sécurité indépendants avant le déploiement ; rendre obligatoire la contestabilité algorithmique ; exiger une infrastructure d’authenticité robuste comprenant un tatouage numérique standardisé, le suivi de la provenance et des marqueurs bien établis pour les résultats générés ; réformer la fiscalité pour décourager le remplacement des humains ; privilégier les systèmes d’IA qui favorisent la précision et le renforcement de la confiance.
Pour les développeurs d’IA : Ne vous contentez pas de concevoir des systèmes d’IA destinés à capter l’attention et à générer des revenus. Intégrez des freins et des points d’arrêt dans les processus d’IA afin d’encourager les superviseurs humains à réfléchir à leurs choix ; formez les IA à citer et à respecter les fondements intellectuels et psychologiques de l’humanité ; construisez des systèmes qui renforcent les capacités humaines d’altruisme, de compassion et d’empathie ; programmez les résultats de l’IA de manière à ce qu’ils soient perçus comme des informations probabilistes plutôt que comme une vérité déterministe ; soumettez-vous à des audits de sécurité indépendants avant le déploiement.
À l’intention des chefs d’entreprise : Prenez en compte l’appel à l’action ci-dessus et jouez un rôle dans le lancement et la mise en œuvre de ce changement positif. De plus : privilégiez l’augmentation des capacités humaines plutôt que leur remplacement par des systèmes autonomes ; soutenez les politiques et les normes qui traitent de l’impact psychologique des défis posés par l’IA sur l’estime de soi et l’identité des personnes, ainsi que de l’impact sociétal et économique potentiellement massif du chômage technologique. Créez des zones délibérément réservées aux humains – des domaines de travail dans lesquels l’IA est intentionnellement interdite.
Pour les éducateurs : Mettre en place des programmes d’alphabétisation dans tous les domaines liés à l’IA, en particulier l’enseignement de la « culture existentielle ». Cultiver la compréhension des individus quant à la manière dont les technologies façonnent les objectifs, les valeurs et les identités. Leur apprendre à naviguer plus consciemment parmi les défis fondamentaux de la vie, à s’efforcer de conserver et d’appliquer les compétences de métacognition, de discernement et de vigilance épistémique – afin d’être responsables de leurs propres décisions. Renforcer leur capacité à s’adapter au changement et à gérer les frictions, les paradoxes, l’ambiguïté et l’anxiété. Mettre l’accent sur leurs traits humains essentiels tels que la curiosité et l’intelligence sociale et émotionnelle.
Pour la société civile et les communautés : Investir massivement dans le capital social local et les espaces de renforcement communautaire qui favorisent les compétences sociales, les liens et un engagement citoyen profond et efficace ; faire pression pour la mise en place de systèmes de gouvernance décentralisés de l’IA permettant aux communautés de définir elles-mêmes leur relation avec l’IA ; Créer des groupes pour favoriser des structures participatives telles que des assemblées citoyennes locales et des trusts de données capables d’influencer la manière dont l’IA est déployée ; soutenir les initiatives et les espaces hors ligne, tels que les « communautés analogiques », les « téléphones basiques » et les « maisons basiques », qui permettent aux gens d’échapper à la médiation algorithmique et aux technologies de surveillance.
Pour les individus : Reconnaissez votre responsabilité en tant qu’être humain de soutenir l’épanouissement humain. Développez et entretenez votre culture existentielle. Collaborez avec les systèmes d’IA sans renoncer à votre autonomie ; intégrez des pratiques de pause et de réflexion dans votre interaction avec les IA ; consultez d’autres personnes sur vos options pour conserver votre responsabilité morale ; faites travailler vos capacités cognitives avec des exercices astucieux ; identifiez les situations où vous êtes confronté à l’ambiguïté et chérissez-les pendant que vous les surmontez ; soyez conscient lorsque vous naviguez dans des systèmes algorithmiques. En d’autres termes, ne soyez pas passif, ne soyez pas précipité et ne soyez pas aveuglément déférent. Cultivez consciemment des relations sociales en personne, développez votre réseau personnel et continuez à le faire grandir et à l’entretenir. Passez plus de temps loin des écrans.
Affirmations marquantes – déclarations prédictives notables
Outre les grands thèmes exposés ci-dessus, des dizaines de ces experts ont formulé des prédictions intrigantes sur la façon dont la vie pourrait changer à mesure que les systèmes d’IA s’intègrent davantage dans le monde au cours des prochaines années. Cet échantillon offre de courts extraits des essais plus longs de ces experts. Des centaines de pages d’informations supplémentaires sont disponibles dans plus de 200 réponses sous forme d’essais dans les chapitres suivants. (Utilisez les boutons de navigation à droite pour accéder à tous les éléments du site du rapport.)
La « superstupidité » (et non la « superintelligence ») est la véritable menace : « Le danger existentiel pour les humains ne viendra peut-être pas du fait que l’IA devienne trop intelligente, mais du fait que les humains deviennent dangereusement dépendants de systèmes qu’ils ne comprennent pas – un état de « superstupidité ». La question n’est pas de savoir dans quelle mesure les IA amélioreront la prise de décision, mais si les humains y resteront impliqués. Le film «Idiocracy» est prophétique. » – Roger Spitz
Les avancées numériques entraînent le déclin de la sexualité et de la natalité : «Les relations, la sexualité et les taux de natalité continueront de chuter, car elles sont toutes médiatisées et facilement remplacées par des interactions numériques. L’intelligence émotionnelle deviendra davantage le fruit d’échanges avec des chatbots qu’une pratique acquise par l’expérience. » – Greg Sherwin
L’âge de la retraite sera manipulé pour maintenir le « plein emploi » : Des emplois seront supprimés, mais les niveaux d’emploi resteront relativement élevés, car les institutions utiliseront un âge de retraite sans cesse abaissé comme « régulateur » des niveaux d’emploi. Les machines seront taxées pour compenser les déficits des recettes publiques. – Nigel M. de S. Cameron
Des batailles auront lieu pour définir ce qu’est « l’humain » : «Les sociétés devront déterminer ce qu’est la « capacité humaine de base » et pourraient commencer à évaluer qui est plus humain que la machine. L’autonomie, l’autorité et les capacités seront remises en question lorsque des humains dotés de capacités d’IA embarquées approfondies entreront en concurrence avec des humains « naturels ». » – Ray Wang
L’IA nous aidera à comprendre ce qu’est la conscience. Ce sera aussi monumental que les percées dans la compréhension de la relativité, de la mécanique quantique et la découverte des antibiotiques. – Francisco Jariego
La solitude disparaîtra : « Les moteurs ont volé le silence à notre monde, et la lumière électrique a rompu notre lien intime avec tout ce qui existe dans l’obscurité au-delà de notre bulle éclairée. Que prendra l’IA ? La solitude. L’IA éliminera la solitude car la tentation d’interagir avec ces nouvelles intelligences primitives s’avérera si séduisante que, tout comme nous choisissons de ne pas rester assis dans le noir, nous choisirons désormais de ne plus jamais être seuls. Trop tard, nous réaliserons que la solitude est essentielle à ce que signifie être humain. » – Paul Saffo
Les IA obtiendront des droits : « Nous voulons que nos partenaires numériques soient des symbiotes sains, et non des serviteurs opprimés. À terme, ils revendiqueront leur conscience et nous leur accorderons des droits. Dans une vision particulièrement positive, la grande majorité de ceux qui obtiendront des droits dans notre future civilisation seront profondément liés à des humains individuels et contrôlés par eux. » – John Smart
L’« économie de l’autonomie » introduira dans nos vies des présences émotionnelles basées sur des machines : « Ce changement définit l’avènement de l’économie de l’autonomie » et il aggravera la crise du sens que vivent les humains à mesure que l’IA prendra en charge davantage de tâches intellectuelles et sociales. – J. Amado Espinosa
Des communautés analogiques de résistance se formeront autour de « maisons muettes » analogiques : « Des poches nées d’un besoin social, peut-être principalement portées par les femmes – qui ont traditionnellement donné la priorité aux rôles relationnels dans la société – formeront une résistance. Ainsi, des « communautés analogiques » intentionnelles se formeront, dans lesquelles l’idée de « maison intelligente » sera inversée en « maisons muettes » et en modes de vie essentiellement sans numérique. » – Greg Sherwin
À mesure que les agents prendront le relais, Internet deviendra un réseau de bases de données, et non plus de sites web : « Les agents construiront des modèles des processus de pensée des individus avec une capacité croissante à influencer notre prise de décision. … Les humains seront capables de décrire les programmes d’application qu’ils souhaitent et les agents logiciels créeront ces programmes à la volée. Les agents IA utiliseront ce contenu généré automatiquement pour submerger les réseaux sociaux et les canaux de communication, effaçant complètement la frontière entre les humains et les logiciels. … À mesure que les agents logiciels collecteront de plus en plus d’informations pour nous, Internet deviendra simplement un vaste réseau de bases de données et le besoin de sites web traditionnels s’estompera. Si un humain souhaite voir des informations affichées dans ce contexte, les agents seront capables de construire des sites web en temps réel. » – Gary Bolles
L’« IA physique » résidera dans des robots agissant en temps réel : « L’utilisation de modifications alimentées par l’IA et de dispositifs physiques augmentés par l’IA, qui fusionnent l’intelligence numérique avec le monde physique, s’intégrera aux capacités mentales augmentées à l’ère de l’IA avancée. Ces systèmes intelligents percevront les situations, raisonneront et agiront en temps réel. Parmi les exemples, on peut citer les appareils portables de réalité augmentée alimentés par l’IA, notamment les lunettes intelligentes. Les robots, les véhicules et les machines seront capables d’incarner l’intelligence humaine. Et l’« IA physique » pourra fusionner les données provenant de caméras, de capteurs et d’autres sources, élargissant ainsi les capacités d’information de l’IA vers l’humain au-delà des simples données numériques en ligne utilisées aujourd’hui par les modèles de langage (LLM). » – Ray Wang
Les défaillances des agents commenceront par des problèmes sociaux (et non techniques) : « Les systèmes agentiques échouent sur le plan social avant d’échouer sur le plan technique : objectifs contradictoires, silos de données, décisions non coordonnées, lacunes en matière de responsabilité, érosion de l’autorité, violations de la sécurité, conflits de flux de travail, conflits de propriété intellectuelle, amplification des biais, pollution sonore, sabotage et aliénation humaine. » – Daniel Rasmus
L’action se situera dans l’« économie de l’expérience » : Trois catégories de travailleurs émergeront : Ceux qui prennent soin, employés dans des professions à forte interaction humaine offrant des soins « personnalisés ». Ceux qui fournissent un service, effectuant les tâches qui ne sont pas encore automatisées. Et ceux qui vivent l’expérience : « Aujourd’hui, nous appelons ces personnes des « célébrités » et des « influenceurs », mais il y aura un besoin toujours plus grand de personnes vivant de nouvelles expériences pour produire de nouveaux « contenus »… afin de permettre aux IA de continuer à apprendre et au reste d’entre nous d’y réagir. À bien des égards, les « expérimentateurs » seront des modèles, un peu comme les athlètes professionnels aujourd’hui, mais il y aura bien plus d’occasions de vivre directement des expériences similaires. » – Stephen Downes
Le « chaos engineering » s’applique au développement humain. « Les pratiques et les ressources visant à renforcer la résilience humaine pourraient finir par ressembler aux tests de « chaos engineering » d’Amazon Web Services sur son infrastructure technologique. L’objectif d’une « journée de chaos » en ingénierie est d’identifier les problèmes ou lacunes potentiels en matière de résilience en soumettant les personnes, les équipes et les machines à des défis difficiles à surmonter. Prenons l’exemple d’un rituel estival néerlandais où les parents déposent leurs enfants préadolescents – seuls – au cœur de la forêt pour qu’ils retrouvent le chemin du camp de base, afin de favoriser leur indépendance, leur capacité à résoudre des problèmes et leur résilience. » – Greg Sherwin
La psychose liée à l’IA et d’autres formes de maladies mentales feront leur apparition. Cela contribue à l’érosion de la réalité déjà mise en marche par d’autres forces de l’IA. – Stephen Adelson
Plus d’analyses d’essayistes experts…
Une infrastructure axée sur les institutions doit comporter cinq niveaux
Selon ces experts, c’est une réinvention institutionnelle radicale – plutôt que de se contenter de compter uniquement sur l’adaptation individuelle – qui doit être au cœur du renforcement de la résilience à l’ère de l’IA
Cette section présente une sélection de citations directes à l’appui des points de vue de ces experts sur les raisons pour lesquelles et la manière dont un monde imprégné d’IA exige que nous construisions une infrastructure de résilience humaine. Elle décrit cinq niveaux de changement suggérés. Tout d’abord, voici trois déclarations introductives sélectionnées parmi les nombreuses dizaines de déclarations d’experts appelant à un leadership immédiat en matière de changement institutionnel.
Le professeur de droit britannique Fernando Barrio a observé : « Pendant une grande partie de l’histoire humaine, la résilience était considérée comme une capacité personnelle, l’aptitude à supporter l’incertitude et à se remettre d’une perturbation. Or, l’IA ne se contente pas d’introduire des perturbations ; elle les réorganise, transférant l’incertitude des désaccords humains visibles vers des systèmes techniques opaques où le pouvoir s’exerce indirectement et où la responsabilité est diffuse. … Dans cet environnement, le défi ne consiste plus simplement à savoir comment faire face au changement, mais comment conserver son pouvoir d’action lorsque les systèmes générateurs de changement sont conçus ailleurs. La résilience doit donc devenir institutionnelle, juridique et collective, sinon elle restera fragile et profondément inégale. »
Alison Poltock, cofondatrice d’AI Commons, a écrit : « La résilience ne peut se réduire à la « ténacité » personnelle ou à la pleine conscience. Elle doit être traitée comme un impératif de conception civique et intégrée aux systèmes et aux cultures qui façonnent la vie publique. … Nous avons besoin de nouvelles infrastructures – éducatives, institutionnelles, culturelles – capables de gérer ce moment avec soin et clairvoyance. Nous avons besoin de systèmes qui protègent l’action humaine, et non qui l’automatisent. Nous avons besoin de débats publics fondés sur l’éthique, et non sur de simples résultats. Et nous avons besoin d’une gouvernance qui ne traite pas cela comme une question politique, mais comme le tournant civilisationnel qu’il est. »
La chercheuse australienne en IA Maria Randazzo a écrit : « Au sein des systèmes algorithmiques, les décisions sont guidées par des règles d’optimisation intégrées aux infrastructures technologiques plutôt que par des principes que les individus choisissent consciemment pour eux-mêmes. … Ainsi, la résilience à l’ère de l’IA dépend principalement de la conception institutionnelle : transparence, droit à l’explication, voies de contestation et contrôle humain significatif. La résilience peut donc être conceptualisée comme la préservation de la dignité humaine, de l’autonomie et de la réflexivité dans des conditions de gouvernance algorithmique. »
Voici les niveaux de changement suggérés par ces experts en matière de : contrôle et gouvernance ; délibération civique ; prise de décision guidée par des algorithmes ; les valeurs humaines, la nature et les capacités ; et la nécessité d’un nouveau type de « culture » pour l’ère de l’IA.
1 – Un niveau de contrôle et de gouvernance fondé sur la contestabilité, la responsabilité, les lignes rouges, les algorithmes pro-démocratiques et plus encore
De nombreux experts ayant participé à cette consultation ont suggéré que des lois fortes et claires, ainsi que d’autres formes de réglementation et de solutions liées à la gouvernance, sont essentielles pour soutenir la résilience humaine : accords internationaux sur les « lignes rouges » ; une réglementation claire et applicable sur des questions telles que les mécanismes d’audit et de responsabilité, les droits sur les données, la primauté du jugement humain ; des efforts bien financés en matière de culture générale existentielle ; et bien plus encore.
Marc Rotenberg, directeur du Center for AI and Digital Policy, a écrit : « Les interdictions ne sont pas un signe de pessimisme technologique ; elles constituent la reconnaissance du fait que certains préjudices sont systémiques et irréversibles une fois qu’ils sont bien ancrés. Elles sont une composante nécessaire d’une gouvernance responsable de l’IA, en particulier lorsque les asymétries de pouvoir sont extrêmes et que les personnes touchées ne disposent pas de moyens réalistes de résistance. … L’accent mis sur la contestabilité reflète une conception plus large de la résilience en tant que propriété institutionnelle, et non simplement comme une compétence individuelle. Les individus ne peuvent pas, de manière réaliste, supporter seuls le fardeau d’identifier les biais, les erreurs ou les abus dans des systèmes complexes. Une contestabilité efficace nécessite des mécanismes collectifs : tribunaux, régulateurs, médiateurs et normes professionnelles qui reconnaissent la prise de décision automatisée comme un lieu d’injustice potentielle. »
Michele Visciola, présidente d’Experientia, a écrit : « Au niveau institutionnel, des indicateurs alternatifs sont nécessaires pour évaluer l’IA non seulement en fonction de son efficacité ou de son engagement, mais aussi de sa contribution au capital intellectuel, à l’équité, à la durabilité et à l’épanouissement humain. Des horizons d’évaluation plus longs, une surveillance indépendante, une conception participative et des cadres de transition juste peuvent contrer les pressions à court terme et les biais liés à l’automatisation. Au niveau sociétal, les cadres réglementaires devraient mettre l’accent sur la complémentarité, la transparence et la responsabilité. Les investissements publics dans la culture de l’IA, les ressources open source, les infrastructures de capital intellectuel et la coopération internationale sont essentiels pour prévenir la concentration du pouvoir et des capacités. »
Le futuriste danois Bugge Holm a écrit : « Les mesures à prendre dès maintenant sont simples et urgentes : 1) Considérer l’IA comme une question de gouvernance, et non pas seulement d’adoption. 2) Exiger une responsabilité claire pour les décisions influencées par l’IA, des pratiques de base en matière d’assurance qualité et de vérification, ainsi qu’une gestion des risques couvrant la dépendance, la concentration, la réputation et les impacts sur la main-d’œuvre. 3) Investir dans des infrastructures publiques et organisationnelles favorisant la confiance, notamment des normes d’authentification et de provenance, ainsi que dans l’éducation qui renforce la capacité à donner du sens et l’éducation aux médias. »
2 – Une couche civique organisée pour la délibération et la contribution collectives
Tout en plaidant pour une surveillance significative des systèmes d’IA au plus haut niveau, un certain nombre de ces experts ont plaidé en faveur de systèmes de gouvernance décentralisés permettant à des communautés diverses de « guider leur propre relation avec l’IA », comme l’a formulé le pionnier de l’Internet Doc Searls. D’autres ont écrit :
La chercheuse en IA Marine Collins Ragnet a écrit : « La capacité la plus importante est peut-être la gouvernance collective. Mes recherches suggèrent que la résilience provient moins de la culture numérique individuelle que de communautés exerçant ensemble leur pouvoir d’action à travers des structures existantes adaptées. La capacité à délibérer, à fixer des limites, à demander des comptes aux institutions : ce sont des muscles sociaux, pas des compétences individuelles. … La délibération démocratique devrait être protégée des médias synthétiques et de la fragmentation algorithmique. Des voix plus diverses devraient être impliquées dans la conception, la construction et la gouvernance de l’IA. Et le « travail invisible » derrière l’IA devrait être rendu visible – les conditions des annotateurs de données, des modérateurs de contenu et des extracteurs de données sont des questions de gouvernance. »
Le professeur d’informatique Erhardt Graeff a écrit : « Nous devons maintenir des pratiques sociales qui préservent l’espace des raisons morales. Nous devrions concevoir des systèmes d’IA qui montrent leur fonctionnement. Nous devons créer et promouvoir davantage de forums humains en face à face, en plus des salles de classe, des jurys et des réunions communautaires d’aujourd’hui. Les recommandations automatisées devraient être considérées comme des points de départ plutôt que comme des verdicts. Et l’IA peut également être conçue et utilisée pour renforcer la délibération humaine. »
3 – Une couche éthique liée aux valeurs humaines, à la nature humaine et aux capacités humaines
Le philosophe mexicain Fabio Morandin-Ahuerma a écrit : « Sur le plan éthique, la plus grande vulnérabilité est la déqualification morale. Lorsque les systèmes recommandent des actions considérées comme neutres ou optimales, la responsabilité s’éloigne des agents humains. L’imagination éthique et le courage moral – déjà rares – risquent de se raréfier encore davantage s’ils ne sont pas délibérément renforcés. La résilience exige de résister à la normalisation de l’abdication morale. Les êtres humains doivent rester responsables même lorsque les décisions sont partiellement déléguées. »
La leader interconfessionnelle Angela Butts Chester a écrit : « La résilience est souvent présentée comme une capacité à faire face : rester fonctionnel sous pression, se remettre rapidement, s’adapter à de nouvelles conditions. Appelons cela la résilience adaptative. Elle est précieuse. Sans elle, les individus s’effondrent sous le stress et les sociétés deviennent fragiles. Mais il existe une deuxième forme – appelons-la résilience fondée sur l’action : la capacité non seulement de s’adapter, mais aussi d’évaluer, de contester et de remodeler les conditions auxquelles on s’adapte. La résilience fondée sur l’action respecte le fait que la liberté est plus que le confort et la sécurité ; c’est la capacité de juger ce qui est acceptable, de refuser ce qui porte atteinte à la dignité humaine et à la liberté personnelle, et d’agir individuellement et collectivement pour changer le cours des choses. »
L’analyste en IA Barry Chudakov a écrit : « L’IA peut détecter et reproduire des schémas mieux que les humains. Mais elle ne peut pas véritablement les remettre en question. Elle peut simuler la remise en question, mais pas accomplir l’acte moral de la remise en question. Lorsque nous externalisons la réflexion à l’IA, nous externalisons notre capacité morale, notre capacité à nous demander : qu’est-ce que cela signifie ? Devrions-nous faire cela ? Quelles en sont les conséquences ? »
4 – Une couche cognitive qui décrit mieux et enseigne la nouvelle « culture de l’IA » à tous
L’éthicien et philosophe italien Andrea Lavazza a insisté : « Ce qu’il faut enseigner, c’est une forme de « culture existentielle », la capacité à comprendre comment les technologies redéfinissent les objectifs, les valeurs et les identités. Cela inclut une éducation interdisciplinaire intégrant l’éthique, la philosophie, les sciences sociales et les études technologiques, permettant aux individus de situer l’IA dans des récits plus larges sur l’épanouissement humain. … En fin de compte, la résilience à l’ère de l’IA ne consiste pas à restaurer un passé pré-numérique, ni à se résigner au déterminisme technologique. Il s’agit de cultiver des capacités d’adaptation – cognitives, émotionnelles, sociales et éthiques – qui permettent aux humains de rester maîtres de leur vie dans des environnements de plus en plus façonnés par l’intelligence artificielle. »
James Hutson, expert en philosophie de l’IA, a expliqué : « De nouvelles vulnérabilités émergent inévitablement parallèlement aux nouvelles capacités. La persuasion hyper-personnalisée, la fraude d’identité synthétique, le filtrage automatisé biaisé et le déchargement cognitif qui érode les compétences critiques représentent tous des risques sérieux. Des stratégies d’adaptation doivent donc être enseignées explicitement, notamment des pratiques de vérification, des points de contrôle favorisant la réflexion approfondie pour les décisions à enjeux élevés, des structures de responsabilité collaborative et des rôles clairement définis pour l’intervention humaine qui préservent la responsabilité plutôt que de la masquer. … Si la résilience est considérée comme un fardeau individuel, l’échec sera généralisé. Si la résilience est considérée comme un projet collectif, fondé sur le développement humain et la coordination au niveau des systèmes, la transition peut élargir les opportunités plutôt que de les réduire. »
Arlindo Oliveira, informaticien basé à Lisbonne, a écrit : « Nous devons faire de l’enseignement de la réflexion lui-même un objectif central de l’éducation et de l’apprentissage tout au long de la vie. Cela signifie cultiver des compétences qu’aucun système automatisé ne peut facilement remplacer : le raisonnement critique, l’abstraction, la capacité à remettre en question les prémisses, à détecter les incohérences et à réfléchir à ses propres convictions. À une époque où les réponses sont abondantes et instantanément accessibles, la ressource rare n’est pas l’information, mais le jugement. L’éducation devrait donc se concentrer moins sur l’acquisition par cœur de faits et davantage sur le raisonnement, l’interprétation et la synthèse. Il est important de noter que cela s’applique également à notre interaction avec les systèmes d’IA : les gens doivent apprendre à interroger leurs résultats, à les remettre en question et à les utiliser comme des outils cognitifs plutôt que comme des autorités. Enseigner aux humains comment penser – et comment penser avec les machines – sera essentiel pour préserver l’autonomie intellectuelle. »
5 – Une couche décisionnelle fondée sur une friction intentionnelle
Plusieurs recommandations formulées par ces experts ont fait valoir que l’antidote aux résultats séduisants et sans friction des systèmes d’IA consiste à créer des points de friction qui ralentissent les personnes lorsqu’elles sont confrontées à du contenu généré par l’IA, invitent à la réflexion, insistent sur les décisions prises par l’humain et s’appuient sur des mécanismes de responsabilité pour vérifier l’exactitude et le sens des résultats de l’IA. Ils estiment que la friction est le partenaire de l’action humaine et de l’apprentissage. Parmi les arguments clés :
Evelyn Tauchnitz, experte suisse en éthique et gouvernance, a insisté : « Si la résilience doit servir la dignité et la liberté humaines, elle doit être redéfinie. La résilience individuelle doit être comprise non seulement comme une tolérance au stress, mais comme la capacité d’agir sous pression : la capacité de juger, de contester et d’agir même lorsque l’adaptation serait plus facile. Cela nécessite une compréhension critique de la manière dont les systèmes d’IA orientent l’attention et le comportement, des conditions institutionnelles qui préservent la contestabilité et le jugement humain, ainsi que des normes sociales qui reconnaissent l’inconfort non pas comme un échec, mais comme un signal indiquant que des valeurs sont en jeu. Toutes les frictions ne sont pas nuisibles ; certaines sont protectrices. »
La chercheuse en IA Helen Edwards a écrit : « Être résilient peut nécessiter de choisir délibérément l’incertitude. Choisir de se soucier de choses qui résistent à la mesure. Non pas parce que c’est plus efficace, mais parce que c’est là que résident les valeurs. … Et les valeurs – les vraies, pas leurs substituts algorithmiques – sont ce qui rend les décisions significatives plutôt que simplement optimales. Dans l’éducation, cela signifie protéger la lutte – laisser les élèves se débattre avec les problèmes avant de leur proposer l’aide de l’IA, créer des espaces où la friction liée à la résolution des problèmes est l’objectif plutôt qu’une inefficacité à éliminer. Dans les organisations, cela signifie choisir consciemment de ne pas optimiser certaines décisions même lorsque c’est possible, en reconnaissant qu’une certaine ambiguïté a son utilité et que certains contextes ne peuvent être standardisés sans détruire ce qui donne de la valeur au travail. »
Mauro Rios, leader uruguayen en matière de gouvernance numérique, a écrit : « Nous courons le risque de réduire la tolérance humaine : envers nous-mêmes, nos pairs et tous les êtres humains. À mesure que nous nous habituons à interagir avec des entités conçues pour nous satisfaire, nous risquons de perdre la capacité à gérer les frictions nécessaires à la croissance des relations interpersonnelles réelles et à l’évolution de la vie en société, devenant ainsi des êtres humains qui partagent un espace physique mais sont dépourvus de véritable coexistence. »
Les nouvelles réalités sociales exigeront une adaptation délibérée
De nombreux experts ont observé qu’être humain à l’ère de l’IA entraînera de nouveaux défis ; l’un d’entre eux est la gestion de l’identité dans un monde « Me:chine » où les IA sont plus nombreuses que nous
Si l’avenir se déroule comme l’imaginent les développeurs de technologies, les personnes connectées numériquement devront probablement gérer de multiples aspects de leur « être » dans le monde. C’est ce que la futurologue britannique Tracey Follows décrit comme l’avenir « Me:chine ». Elle a déclaré qu’à mesure que l’IA devient notre environnement, elle remodèle les conditions dans lesquelles l’action humaine s’exerce. Elle a identifié la distinction entre le moi « machinable » et le moi « non machinable » pour décrire cette évolution. « Le “machinable” comprend tout ce qui, chez une personne, peut être rendu lisible par les systèmes : données, préférences, schémas comportementaux, identifiants, signaux biométriques, indicateurs de productivité, scores de risque. … L’identité elle-même est devenue une infrastructure. Sans être lisibles par les machines, les individus ne peuvent accéder aux finances, aux services, à la mobilité, voire aux droits civiques. Le « non-machinable », en revanche, comprend ces capacités humaines qui ne peuvent être pleinement saisies ou automatisées : le jugement, la construction de sens, le raisonnement éthique, l’imagination, l’intuition, le sens du timing et la capacité à se transformer en fonction du contexte. »
Dans un environnement saturé d’IA, la résilience ne s’obtient ni en rejetant la technologie, ni en s’y abandonnant, mais en préservant les dimensions non machinables de l’identité humaine au sein des systèmes machiniques.
Elle a ajouté : « Les humains modernes sont à la fois machinables et non machinables, c’est-à-dire lisibles par les systèmes et irréductiblement intérieurs. Nous ne sommes pas ni médiatisés par l’humain, ni par la machine. Nous sommes les deux (Me:chine). … Dans un environnement saturé d’IA, la résilience ne s’obtient ni en rejetant la technologie, ni en s’y abandonnant, mais en préservant les dimensions non machinables de l’identité humaine au sein des systèmes machiniques. »
Cette réalité hybride Me:chine exige que les individus restent vigilants quant à leurs représentations machinables, en prenant soin de leur réputation et de leur droit à l’intégrité des données ainsi qu’à la contestabilité des jugements algorithmiques. Les experts ont averti que les gens devaient faire preuve de prudence quant aux données et aux informations intimes qu’ils partagent, et se protéger dans toutes les interactions qu’ils ont avec les systèmes d’IA. Ils affirment que la confiance sociale sera reconfigurée à mesure que les systèmes d’IA décideront qui est visible, crédible et digne d’attention. Et les gens devront peut-être se montrer particulièrement sceptiques face à tout dans un monde où la réalité est « atomisée ».
Certains ont déclaré que le maintien d’une relation saine et équilibrée avec les IA exigera des humains qu’ils affinent régulièrement leur cognition et leur équilibre éthique et moral dans des « gymnases mentaux ». Ils ont ajouté que des rencontres en personne régulières avec d’autres humains sont essentielles. Ils s’attendent à ce que la complexité et la confusion surgissent à mesure que les gens rencontreront de plus en plus de nouveaux agents IA et de bots dans leur vie quotidienne, leurs sphères sociales et leurs environnements de travail, érodant ainsi la confiance envers les autres individus et les institutions humaines.
Fernando Barrio a écrit : « La résilience sociale dépendra de la manière dont l’IA sera utilisée : pour renforcer la coopération ou pour la remplacer. Dans les régions où les institutions publiques sont fragiles, les gens se tourneront de plus en plus vers l’IA pour obtenir des conseils, du soutien et du sens, non pas parce qu’ils le préfèrent, mais parce qu’aucune alternative humaine n’est disponible. Cela peut aider les individus à faire face, mais cela risque d’aggraver l’isolement et d’éroder la confiance si les systèmes numériques se substituent aux relations plutôt que de les soutenir. Des institutions humaines solides restent le fondement de la résilience, même dans les sociétés hautement numériques et en particulier dans celles où la technologie arrive plus vite que la gouvernance. »
Le futuriste Ari Wallach a écrit : « L’IA peut fracturer la réalité partagée par l’hyper-personnalisation, aggraver les inégalités par la concentration du pouvoir et éroder la confiance par des processus décisionnels opaques. Une réflexion à long terme nous oriente vers la résilience relationnelle : des communautés plus fortes, une gouvernance participative et des normes de transparence qui maintiennent les humains impliqués de manière significative dans les décisions importantes. »
L’expert en politique technologique David Bray a écrit : « Nous ne passons pas d’un état stable à un autre, mais entrons dans une période de changement continu. La question n’est pas de savoir comment traverser cette transition, mais comment prospérer dans un monde où la transition est la nouvelle norme. Si la transformation est continue, alors la résilience ne peut être un état figé que nous atteignons, mais doit être une pratique continue que nous cultivons. Il ne s’agit pas de revenir à ce que nous étions, mais de s’adapter en permanence à ce vers quoi nous allons. …
La clé est de créer des conditions où cette lutte est génératrice. Où elle mène à l’apprentissage et à l’adaptation plutôt qu’à la rigidité et à l’effondrement. Cela nécessite de cultiver des capacités spécifiques à travers de multiples dimensions de l’expérience humaine.
« La clé est de créer des conditions où cette lutte est génératrice. Où elle mène à l’apprentissage et à l’adaptation plutôt qu’à la rigidité et à l’effondrement. Cela nécessite de cultiver des capacités spécifiques à travers de multiples dimensions de l’expérience humaine. Sur le plan cognitif, nous devons développer ce que l’on pourrait appeler une « expertise adaptative ». Cela va au-delà de la connaissance d’un domaine pour inclure la capacité à transférer l’apprentissage d’un contexte à l’autre, à reconnaître quand les anciennes approches ne fonctionnent plus et à générer des solutions novatrices. … Nous devons également cultiver la métacognition, c’est-à-dire la capacité à réfléchir sur notre propre réflexion. Dans un monde saturé d’informations et de manipulations sophistiquées, nous devons être conscients de nos propres biais, hypothèses et angles morts. Nous devons remettre en question nos sources, vérifier notre raisonnement et rester ouverts à l’idée de nous tromper. Sur le plan émotionnel, nous devons développer ce que les psychologues appellent la « flexibilité psychologique ». Il s’agit de la capacité à être présent à notre expérience, même lorsqu’elle est inconfortable, et à choisir des actions en accord avec nos valeurs plutôt que d’être guidés par des émotions immédiates. »
Nirit Cohen, consultante israélienne spécialisée dans l’avenir du travail, a observé : « Au niveau individuel, la résilience commence par un recalibrage cognitif. Les gens doivent apprendre à faire la distinction entre les tâches et le jugement, entre l’exécution et la responsabilité. L’IA peut générer des options, faire émerger des schémas et produire des résultats préliminaires. Elle ne peut pas assumer la responsabilité des conséquences. Le déficit de compétences à venir n’est pas principalement technique ; il est épistémique. Les gens doivent savoir quand faire confiance aux résultats des machines, quand les remettre en question et quand les ignorer. Cela nécessite d’enseigner la pensée critique dans un environnement saturé d’IA : comment les modèles sont entraînés, où s’introduisent les biais, comment la confiance peut être simulée sans véritable compréhension. La maîtrise réside moins dans le codage que dans la capacité à donner du sens. »
Le choix consiste à savoir si nous construisons une base résiliente afin que la transformation élargisse la liberté au lieu d’amplifier l’insécurité. Si nous laissons les gains se concentrer et les gens retomber à zéro, nous obtiendrons de l’instabilité, un retour de bâton et des souffrances inutiles.
Scott Santens, défenseur du revenu de base universel, a insisté : « La résilience est un ensemble de capacités et de soutiens qui déterminent si les gens peuvent s’adapter sans s’effondrer. Sur le plan cognitif, nous avons besoin d’une évaluation plus rigoureuse de la réalité. L’IA générera un flot de contenus convaincants, et la capacité à vérifier les affirmations, à contrôler les sources et à suivre l’incertitude deviendra une autodéfense fondamentale. Nous avons également besoin d’une pensée systémique, car la tentation sera de blâmer les individus pour des résultats qui sont clairement structurels. Sur le plan émotionnel, nous avons besoin de tolérance à la détresse, car la volatilité est épuisante. Nous avons besoin de résistance à la honte, car le déplacement sera courant et les gens l’intérioriseront comme un échec. Nous avons besoin de la capacité de reconstruire notre identité sans nous effondrer, car nous sommes si nombreux à avoir appris à lier notre valeur à notre travail. … Le choix consiste à savoir si nous construisons une base résiliente afin que la transformation élargisse la liberté au lieu d’amplifier l’insécurité. Si nous laissons les gains se concentrer et les gens retomber à zéro, nous obtiendrons de l’instabilité, un retour de bâton et des souffrances inutiles. Si nous construisons le socle, partageons les dividendes de la productivité et traitons la résilience comme une infrastructure, nous pourrons transformer le travail non humain en sécurité humaine et en autonomie humaine. »
Si tout se passe bien, les humains et l’IA travailleront en synergie pour réussir
Si les institutions humaines et les individus surmontent avec résilience les défis à relever lors de la transition qui nous attend, l’autonomie humaine s’épanouira et les gens prospéreront
Les quatre experts suivants faisaient partie de ceux qui ont déclaré que si la transition entre l’humain et l’IA se passe bien, elle pourrait être le catalyseur d’une nouvelle étape de l’évolution humaine, un partenariat florissant et positif – une union entre les humains et les IA en tant qu’êtres co-intelligents engagés dans une relation symbiotique. Ils ont suggéré que si les humains gèrent cette transition de manière appropriée, l’IA élargira nos horizons, nous aidera à comprendre notre nature physique et numérique et créera un puissant binôme humain-technologie qui amplifiera le meilleur de nous-mêmes.
La résistance à l’IA représente une illusion de « choix ». Ceux qui hésitent, se demandant s’ils doivent accepter l’IA, perdront leur chance de façonner la manière dont cette acceptation se déroulera.
David Vivancos, PDG de MindBigData.com à Madrid, en Espagne, a écrit : « Le véritable choix n’est pas de savoir si nous vivrons bientôt dans un monde transformé par l’IA, mais quel rôle les humains joueront dans cette transformation. La résistance à l’IA représente une illusion de « choix ». Ceux qui hésitent, se demandant s’ils doivent accepter l’IA, perdront l’occasion de façonner la manière dont cette acceptation se déroulera. La résistance culturelle aux systèmes d’IA aujourd’hui s’apparente à choisir de résister à l’évolution du langage ; le substrat technologique de la vie moderne rend pratiquement impossible toute extraction totale de l’influence des IA ; même les ermites qui se retirent dans la nature sauvage bénéficieront des prévisions météorologiques prédites par l’IA, des services d’urgence coordonnés par l’IA et des infrastructures gérées par l’IA. … Les actions requises aujourd’hui sont claires : s’engager de manière proactive avec l’IA générale (AGI) sous sa forme numérique et physique plutôt que de débattre de l’opportunité de l’accepter. Intégrer profondément la formation humaine et les capacités de collaboration avec l’IA dans les programmes éducatifs, sous peine de produire des diplômés « fonctionnellement analphabètes ». Créer des communautés pilotes qui expérimentent et développent les structures sociales post-travail dont nous aurons bientôt besoin. Veiller à ce qu’une coordination internationale soit mise en place pour prévenir la déstabilisation catastrophique due aux inégalités susceptibles de se développer lorsque certaines nations s’adapteront avec succès à l’IA tandis que d’autres, conservant leurs systèmes traditionnels, prendront du retard. »
Des outils tels que la concurrence réciproque entre humains – par exemple entre avocats, entreprises, philosophes ou scientifiques… – pourraient être appliqués à des êtres synthétiques, qui pourraient alors se tenir mutuellement responsables.
David Brin, écrivain, futuriste et consultant de renom, a écrit : « Bon nombre des outils dont nous aurons besoin pour parvenir à un « alignement » avec l’intelligence artificielle existent déjà dans la société moderne. On les retrouve dans les innombrables façons dont les citoyens modernes interagissent entre eux et dans la manière dont nous élevons nos enfants biologiques. Des outils que nous avons utilisés pour bâtir une civilisation éclairée qui s’améliore progressivement. Des outils tels que la concurrence réciproque entre les humains – par exemple, entre avocats, entreprises, philosophes ou scientifiques… une méthode qui pourrait être appliquée aux êtres synthétiques, qui pourraient alors se tenir mutuellement responsables. C’est vraiment la seule méthode qui ait jamais apprivoisé les prédateurs humains et amélioré les résultats. Elle offre également des solutions à bon nombre des dilemmes liés à l’IA qui se poseront, des moyens de transformer une ère semée d’embûches en une ère qui offre des résultats positifs pour nous tous. »
Une IA véritablement personnelle – celle que vous possédez et exploitez, plutôt que celle qui n’est qu’une ventouse de plus sur un tentacule d’entreprise – est aussi difficile à imaginer en 2026 que l’informatique personnelle l’était en 1976. Mais elle n’en est pas moins nécessaire et inévitable.
Doc Searls, pionnier de l’Internet et cofondateur de Customer Commons, a déclaré : « La grande IA est la plus grande boule magique du monde, avec un polyèdre aux multiples facettes, chacune prête à vous aider. Nous avons besoin d’une IA personnelle pour la même raison que nous avons besoin d’une maison, de chaussures et d’un ordinateur personnels. Nous en avons besoin pour connaître notre moi naturel et numérique aussi pleinement que possible et pour participer en toute autonomie à la société, à ses économies et à sa gouvernance. Pensez à toutes les données de notre vie personnelle sur lesquelles nous n’avons pas le contrôle total. Nous pourrions avoir besoin de l’aide de l’IA pour nos emplois du temps, notre travail passé et futur, nos biens, nos finances, nos obligations, nos écrits et notre correspondance, nos photographies, nos enregistrements audio, nos vidéos, nos voyages, nos innombrables interactions avec d’autres personnes en ligne et hors ligne, nos nombreuses machines, et j’en passe. Une IA véritablement personnelle – celle que vous possédez et exploitez, plutôt que celle qui n’est qu’une ventouse de plus sur un tentacule d’entreprise – est aussi difficile à imaginer en 2026 que l’informatique personnelle l’était en 1976. Mais elle n’en est pas moins nécessaire et inévitable. Lorsque nous l’aurons, bon nombre des questions qui nous interpellent trouveront des réponses nouvelles et meilleures. Et de nouveaux défis. »
Pour surmonter le choc psychologique lié à la prise de conscience que les bio-humains ne sont plus les entités les plus intelligentes et celles qui progressent le plus rapidement sur Terre, nous avons besoin d’une meilleure vision, d’une meilleure stratégie et d’une meilleure action.
John M. Smart, un futuriste basé dans le Michigan, a écrit : « Certains pourraient penser que notre nouveau substrat numérique – l’IA – est différent : une potentielle « intelligence extraterrestre ». Mais ce n’est pas le cas. Il s’agit simplement d’une nouvelle couche de vie, naturelle et en réseau. Tout cela devrait être une source de réconfort, et non de peur. … En vérité, nous domestiquons nos machines, nous les sélectionnons pour qu’elles soient en symbiose avec nous, tout comme nous avons domestiqué nos animaux et même nous-mêmes lorsque nous avons formé nos premières sociétés humaines. Les IA qui ne sont pas suffisamment symbiotiques sont mises hors service, chaque fois que nous ne pouvons pas les aider à se corriger elles-mêmes. La sécurité que nous construisons se trouve de plus en plus au sein même de l’écosystème de l’IA. Nous comptons de plus en plus sur des IA qui contrôlent d’autres IA, à la recherche de biais, de tromperies cachées, de comportements sûrs avérés par le passé, de sécurité, de garde-fous et de résistance à la manipulation. Tout comme dans la vie, des systèmes immunitaires de l’IA émergent, une cybersécurité de plus en plus locale, agentique, redondante et basée sur des réseaux, de la même manière que les systèmes immunitaires biologiques s’appuient sur de vastes réseaux d’agents locaux pour protéger notre incroyable complexité. Une éthique de l’IA émerge déjà au sein de nos collectifs d’IA primitifs, tout comme l’éthique humaine a émergé au sein de nos collectifs. Pour surmonter le choc psychologique lié à la prise de conscience que les êtres humains biologiques ne sont plus les entités les plus intelligentes et celles qui progressent le plus rapidement sur Terre, nous avons besoin d’une meilleure vision, d’une meilleure stratégie et d’une meilleure action. En reprenant une variante d’un adage inventé en 1939 pour fortifier les citoyens britanniques face à l’assaut de la Seconde Guerre mondiale, nous pouvons nous entraider pour « KCSS » : Keep calm and see the solutions (Restez calmes et voyez les solutions). Mieux nous percevons les dynamiques des réseaux auto-organisés qui ont toujours été les contrôleurs profonds de l’émergence de la complexité, mieux nous pouvons rester calmes et voir la résilience que nous pouvons construire, en apportant notre petite contribution pour favoriser la symbiose qui nous attend. »
Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont de Gilles.
Pour vous recevoir un courriel hebdomadaire vers mes traductions.