À propos des modèles à poids ouverts, des responsabilités qui y sont associées et de la propriété des couches sous-jacentes au modèle.
Traduction de The AI Ethics Brief #198: Weights and Measures par Montreal AI Ethics Institute, 1er septembre 2026.
Dans ce numéro (TL;DR)
- Ce que les « open weights » ouvrent réellement : Les modèles à poids ouverts offrent aux organisations un meilleur contrôle sur le fonctionnement, la tarification, la mise à jour et la gouvernance de l’IA, tout en gardant hors de vue une grande partie du processus de création du modèle. À mesure que des modèles chinois tels que Kimi K3 repoussent les limites des « open weights », ce compromis devient de plus en plus difficile à ignorer : le contrôle se déplace en aval, et les tâches d’évaluation, de sécurité, de diligence raisonnable et de responsabilisation doivent suivre le mouvement.
- « The Commons » trouve un acheteur : Nvidia serait sur le point de conclure l’acquisition, pour 12,9 milliards de dollars US, de Hugging Face, la plateforme au cœur de l’écosystème des poids ouverts. Les modèles resteront peut-être téléchargeables, mais la propriété de l’infrastructure qui les distribue a également son importance. Si l’entente est conclue, l’une des couches neutres les plus importantes de l’IA se retrouverait au sein de l’entreprise qui fournit déjà une grande partie du matériel sous-jacent.
- Le coin des politiques en IA est de retour après la pause estivale : Tasneem Ahmed, de GRAIL, examine le décret présidentiel américain intitulé Promotion de l’innovation et de la sécurité en matière d’IA avancée, notamment les nouveaux délais en matière de cyberdéfense, le soutien aux infrastructures essentielles et les exigences fédérales d’accès aux modèles de pointe visés. La question qui sous-tend ce décret est familière : qui aura le pouvoir de fixer les conditions une fois que les capacités d’IA seront devenues une infrastructure?
Ce qui relie ces articles :
Cette édition traite de la question de savoir à qui revient le contrôle lorsque l’IA devient plus accessible.
La mise à disposition des poids semble déplacer ce contrôle vers l’extérieur. Une entreprise peut télécharger un modèle, l’exécuter sur sa propre infrastructure, conserver une version validée et réduire sa dépendance à l’égard de la société qui l’a développé. Mais cette liberté dépend d’autres niveaux : les puces qui exécutent le modèle, les plateformes qui le distribuent, les personnes qui l’évaluent, ainsi que les règles régissant qui peut l’utiliser et comment.
Ces niveaux prennent de plus en plus d’importance. La tentative de rachat de Hugging Face par Nvidia, selon certaines informations, montre comment un écosystème peut s’ouvrir davantage au niveau des modèles tout en se concentrant aux niveaux sous-jacents. Les politiques du gouvernement américain relatives aux « modèles de pointe » révèlent une autre forme de contrôle qui prend forme, par le biais d’exigences de sécurité, d’accès et de surveillance.
La tendance n’est pas que le contrôle disparaisse. Il se déplace.
Pour les organisations qui adoptent l’IA, la question va donc au-delà du simple fait qu’un modèle soit ouvert ou fermé. Il s’agit de savoir si elles comprennent les dépendances qui subsistent une fois les poids téléchargés, et si elles ont développé la capacité de gérer les éléments qui leur appartiennent désormais.
Ce que les poids ouverts ouvrent réellement
L’explication
Un modèle à poids ouverts publie ses paramètres entraînés, c’est-à-dire les valeurs qui codifient ce qu’il a appris, de sorte que toute personne disposant d’un matériel adéquat puisse l’exécuter, le peaufiner et le déployer sans avoir à payer le développeur pour chaque jeton.
Cela confère à l’utilisateur un contrôle significatif, mais n’offre qu’une vision partielle de la façon dont le modèle a été construit. La définition de l’Open Source Initiative concernant l’IA open source exige des informations sur les données d’entraînement, le code d’entraînement et d’exécution, ainsi que les paramètres du modèle. Une publication ne portant que sur les poids ne fournit que le dernier de ces trois éléments. Elle vous remet le pain cuit, mais garde la majeure partie de la recette chez elle.
Lorsque le modèle R1 de DeepSeek a été lancé en janvier 2025, le Brief n° 157 a appliqué le test de Timnit Gebru pour évaluer l’authenticité de l’ouverture, qui exige les données d’entraînement, le code, l’architecture et les poids — ces quatre éléments. R1 a publié les deux derniers et s’est qualifié d’open source. Le terme « poids ouverts » est plus précis, car il indique ce qui a été publié sans pour autant impliquer l’accès à tout ce qui a servi à le produire.
Cette distinction est importante, car la question plus large porte sur l’appartenance du contrôle une fois qu’un modèle a été construit. Un modèle accessible via une API reste en grande partie sous le contrôle de son développeur : ce dernier fixe le prix, assure ses mesures de sécurité, peut modifier le modèle et peut même en retirer l’accès. En téléchargeant les poids, une grande partie de cette autorité passe à celui qui les exploite, et les coûts, les risques et les responsabilités l’accompagnent.
Pourquoi offrir le modèle gratuitement?
En 2026, la tendance des poids ouverts se répand en Chine, et son événement phare a eu lieu le 16 juillet, lorsque Moonshot AI a lancé Kimi K3, un modèle de 2,8 billions de paramètres doté d’une fenêtre contextuelle d’un million de jetons. Moonshot a fait état de performances de pointe dans l’ensemble de sa suite d’évaluation, tout en reconnaissant que le K3 restait encore en deçà des systèmes propriétaires les plus puissants. Le modèle a été lancé via l’API de Kimi, et le 27 juillet, les poids ont été mis en téléchargement sur le dépôt GitHub officiel de Moonshot.
La publication d’un modèle aussi coûteux prend tout son sens lorsqu’on examine les lacunes des laboratoires chinois. Les contrôles à l’exportation américains restreignent leur accès aux puces de pointe, ce qui limite la capacité d’inférence qu’ils peuvent exploiter eux-mêmes; ainsi, la mise à disposition des poids permet aux fournisseurs de services nuage, aux plateformes d’hébergement et aux entreprises d’ailleurs de fournir le matériel. Moonshot bénéficie ainsi d’une distribution mondiale sans avoir à traiter une seule requête à partir de ses propres centres de données.
Cette stratégie bénéficie également d’un appui politique : lors de la Conférence mondiale sur l’IA, Xi Jinping a appelé à « l’open source, la collaboration et le partage », inscrivant l’ouverture dans une stratégie industrielle plus large pour la Chine. Washington en a pris bonne note. Le 22 juillet, Michael Kratsios, responsable de la politique scientifique et technologique à la Maison-Blanche, a accusé Moonshot de « distillation à grande échelle au détriment des modèles américains ». Deux jours plus tard, plus de 270 entreprises ont signé « Open Weights and American AI Leadership », exhortant les décideurs politiques à éviter les restrictions générales.
La coalition comprenait Amazon, Google, Meta, Microsoft, Nvidia, OpenAI, Hugging Face, Mistral et GitHub, des entreprises dont les modèles d’affaires diffèrent mais qui partagent un intérêt commun à ce que les modèles restent portables, puisque les poids ouverts créent une demande pour des puces, de l’infrastructure en nuage, des outils de développement, de l’hébergement et des applications, même lorsque le développeur d’origine ne traite plus chaque requête. Le seul grand nom absent était celui d’Anthropic, le laboratoire dont le modèle Fable aurait été distillé.
Et c’est précisément cette portabilité qui est au cœur de la question de la gouvernance.
Le contrôle se déplace en aval
Un fournisseur peut mettre à jour les mesures de protection, corriger les vulnérabilités ou révoquer l’accès à un modèle hébergé à tout moment. Une fois que les poids sont diffusés, ce contrôle disparaît : les copies persistent indéfiniment, les mesures de protection peuvent être modifiées ou supprimées par le biais d’un ajustement fin, et les mêmes fichiers servent aussi bien aux défenseurs qu’aux attaquants. L’AI Security Institute du Royaume-Uni décrit ces risques comme persistants et difficiles à inverser, tout en soulignant les avantages pour la vie privée, l’adaptabilité, la recherche et la défense. Ces deux conséquences découlent de la même propriété. Une institution qui télécharge un modèle gagne en indépendance vis-à-vis de son fournisseur, tandis que ce dernier perd une grande partie de sa capacité à contrôler ce qui se passe par la suite.
Les entreprises ont de plus en plus de raisons financières d’accepter ce compromis. Google affirme traiter désormais plus de 3,2 quadrillions de jetons par mois, soit sept fois le volume de l’année précédente, et Goldman Sachs prévoit une augmentation de 24 fois de la consommation de jetons par les agents d’ici 2030. À une échelle suffisante, chaque appel d’API supplémentaire représente une dépense mesurée, ce qui explique pourquoi les poids ouverts modifient le modèle d’approvisionnement. DeepSeek a lancé V4 Flash à 0,14 $ US par million de jetons d’entrée et 0,28 $ US par million de jetons de sortie. Sa tarification actuelle varie entre 0,22 $ US et 0,66 $ US en période creuse et entre 0,44 $ US et 1,32 $ US en période de pointe pour les entrées et les sorties non mises en cache, respectivement. Même en période de pointe, cela reste environ 11 fois moins cher pour les données d’entrée et 23 fois moins cher pour les données de sortie que le GPT-5.5, qui coûte 5 $ US et 30 $ US par million de jetons.
Le Brief n° 191 avait déjà repéré une première version de cette évolution, les entreprises épuisant déjà leurs budgets d’IA plus rapidement qu’elles ne parvenaient à en tirer des retours mesurables. Microsoft a réduit certaines licences de Claude Code, tandis qu’Uber a épuisé en quatre mois son budget 2026 consacré aux outils de codage IA. Les « open weights » s’inscrivent désormais dans cette même logique économique afin de redéfinir qui assume le coût de l’exploitation de l’IA à grande échelle.
Cette comparaison de prix cache également une différence de gouvernance. Les politiques publiques de DeepSeek autorisent l’utilisation des données d’entrée et de sortie à des fins d’amélioration du service et d’optimisation des modèles, mais elles ne divulguent pas clairement la proportion de données de l’API utilisées pour l’entraînement ni ne fournissent d’engagement clairement documenté concernant une option de retrait spécifique à l’API ou une conservation nulle des données. L’auto-hébergement des poids ouverts modifie ce parcours des données : les invites restent sur l’infrastructure propre à l’organisation plutôt que de transiter par DeepSeek. Les poids ouverts vous offrent la possibilité d’assurer la souveraineté des données. Ce n’est pas le cas lorsque vous utilisez un modèle à poids ouverts via l’API d’un tiers. L’auto-hébergement transforme une partie des dépenses consacrées au fournisseur en dépenses liées à l’infrastructure, à l’énergie, à l’ingénierie, à l’évaluation, à la sécurité et à la gouvernance, tout en donnant à l’organisation le contrôle sur le modèle, le cheminement des données et le rythme d’accumulation des coûts.
Ce contrôle protège également contre une forme plus insidieuse de dépendance. La note d’information n° 197 s’est demandé ce qui subsiste lorsqu’une institution change de fournisseur d’IA. Les poids ouverts posent un défi encore plus grand : que se passe-t-il lorsque le fournisseur modifie un élément que l’institution n’a jamais choisi de changer? Un modèle d’API peut faire l’objet d’une révision de prix, d’une mise à jour ou d’un retrait à l’insu de ses clients; ainsi, une institution financière assujettie à la réglementation, voire un réseau hospitalier, peut passer des mois à valider une version et se retrouver tout de même confrontée à une migration vers un modèle successeur selon le calendrier du fournisseur. Un modèle hébergé en interne peut rester inchangé, et la version que l’institution valide peut demeurer celle qu’elle utilise.
La provenance, toutefois, demeure un problème non résolu dans les deux cas : une organisation incapable d’expliquer sur quoi son modèle a été entraîné ne peut pas rendre pleinement compte de son comportement simplement parce que le modèle fonctionne sur sa propre infrastructure. Les trois conditions énoncées dans la Note n° 192 s’appliquent toujours : les données doivent être vérifiables, le système doit s’intégrer aux flux de travail institutionnels, et un être humain doit être responsable du jugement. Les poids ouverts renforcent les deuxième et troisième conditions. La première dépend toujours de ce que le développeur a divulgué.
Le travail et la responsabilité se déplacent également
L’exécution des modèles à l’interne entraîne également un déplacement du travail et de la responsabilité, car l’infrastructure d’inférence, les pipelines d’évaluation, l’expertise en ajustement fin, les contrôles de sécurité et les fonctions de gouvernance doivent tous être hébergés quelque part, et jusqu’à récemment, la plupart des organisations n’avaient aucune raison de les mettre en place. Dans la note n° 197, les laboratoires de pointe s’imposaient sur les marchés d’applications de leurs clients; les poids ouverts permettent aux entreprises d’aller dans la direction opposée, en assumant des fonctions auparavant exercées par les fournisseurs de modèles.
Alors, qu’est-ce que les « poids ouverts » ouvrent réellement? Ils ouvrent l’exploitation des modèles. Une organisation qui télécharge les poids décide qui héberge le modèle, combien coûte son exploitation et quelle version reste en production. Dans le cadre d’une API, c’est le fournisseur qui prend toutes ces décisions. La création des modèles, quant à elle, reste fermée : les données d’entraînement, le travail qui se cache derrière et les choix de conception intégrés aux poids restent la propriété du développeur, sans être divulgués.
Lorsqu’une organisation prend en charge l’exécution d’un modèle, elle assume également les tâches que le fournisseur accomplissait auparavant : tester le modèle, maintenir ses mesures de protection et répondre de ses défaillances. De nombreuses organisations sont impatientes d’exercer ce contrôle. Peu d’entre elles sont préparées à assumer cette responsabilité, que ce soit en matière de dotation en personnel, de diligence raisonnable ou de gouvernance. La question de savoir si cette capacité sera développée, et ce qu’exige réellement une adoption responsable de l’IA de la part des organisations, des entreprises, des organismes sans but lucratif et des gouvernements à mesure que ces systèmes s’intègrent davantage dans les opérations quotidiennes, est un sujet que cette note d’information continuera d’aborder sous l’angle de l’éthique et de la gouvernance de l’IA.
The Commons trouve un acheteur
Nvidia aurait accepté d’acquérir Hugging Face pour 12,9 milliards de dollars américains, une entente qui n’était toujours pas signée au moment de la rédaction de cet article et qui pourrait encore tomber à l’eau. Ce prix représente près de trois fois la valeur estimée de Hugging Face pour 2023, soit 4,5 milliards de dollars américains, pour une entreprise générant un chiffre d’affaires annuel d’environ 150 millions de dollars américains. À la fin de l’année dernière, Hugging Face avait rejeté un investissement de 500 millions de dollars américains proposé par Nvidia, invoquant des préoccupations liées à son indépendance. Les pourparlers d’acquisition montrent à quel point neuf mois et un ordre de grandeur peuvent changer la donne.
Hugging Face est le cœur de l’écosystème Open-Weight. L’entreprise héberge les modèles, gère les bibliothèques utilisées par les développeurs pour les exécuter et, surtout, s’est positionnée comme une plateforme indépendante du matériel, avec des outils prenant en charge les puces AMD, Intel et AWS en plus de celles de Nvidia. L’analyse de The New Stackidentifie précisément le problème : Nvidia détiendrait à la fois les outils open source et les voies de déploiement, et cette dépendance ne nécessite pas d’éliminer les concurrents de la plateforme. Il suffit simplement que le matériel de Nvidia soit la voie la plus simple. Les fabricants de puces concurrents, déjà réticents à consacrer des efforts d’ingénierie à la plateforme d’un rival, pourraient s’en détourner, et la neutralité s’éroderait sans que personne n’en annonce la fin.
La logique stratégique de Nvidia est cohérente : ses plus gros clients fabriquent leurs propres puces, et un écosystème de modèles ouverts florissant maintient une demande généralisée pour les GPU à usage général tout en empêchant un seul laboratoire de contrôler le marché. Nvidia sort gagnante quel que soit le modèle qui s’impose, car elle vend ce sur quoi tous les modèles fonctionnent; et bien que les poids ouverts aient abaissé le coût de l’intelligence par jeton, Nvidia détient de toute façon le contrôle. Sous cet angle, la signature de l’entreprise sur la lettre ouverte contre les restrictions relatives aux poids ouverts et son acquisition des biens communs de poids ouverts constituent une seule et même manœuvre.
Les médias ont moins insisté sur un deuxième conflit. Hugging Face est le principal canal par lequel les modèles chinois à poids ouverts, parmi lesquels Kimi, DeepSeek et Qwen, parviennent au reste du monde, et son acheteur potentiel est un fabricant de puces américain dont les obligations en matière de contrôle des exportations sont fixées par la même administration qui envisage actuellement d’imposer des restrictions précisément sur ces modèles. Si Washington passe à l’action, le bien commun deviendra le point de contrôle, et son nouveau propriétaire aura tout intérêt à s’y conformer. C’est là que les deux sujets abordés dans cette édition se rejoignent : les modèles qui ont rendu les poids ouverts viables pour les entreprises leur parviennent par le biais d’une infrastructure qui relèverait désormais de la juridiction la plus encline à les restreindre.
Pourquoi est-ce important?
Dans le Brief n° 157, au plus fort de l’engouement pour DeepSeek, nous nous demandions si l’innovation algorithmique démocratiserait l’IA ou se contenterait de transférer le contrôle à de nouveaux acteurs. L’entente avec Nvidia est la réponse la plus claire à cette question. Les modèles sont devenus moins chers et plus abondants, exactement comme le promettait le discours sur la démocratisation. Le contrôle s’est tout de même consolidé, à un niveau inférieur.
Le fil conducteur du Brief n° 197 tient également toujours. Les utilisateurs d’assistants d’IA ont appris que leurs relations étaient hébergées selon les conditions fixées par quelqu’un d’autre. Les entreprises qui adoptent les poids ouverts pour échapper précisément à cette dépendance voient désormais la voie de sortie elle-même changer de mains. Les poids restent téléchargeables, les licences restent modifiables, et la communauté qui fait fonctionner le bien commun est bien plus difficile à recréer que les fichiers qu’elle partage. Que Hugging Face, sous l’égide de Nvidia, demeure un bien commun ou devienne une boutique d’entreprise très bien approvisionnée, cela déterminera le degré d’indépendance que les poids ouverts peuvent réellement offrir. La leçon se répète à chaque niveau : interagir avec un système d’IA, c’est accepter les décisions de gouvernance déjà prises à l’intérieur de celui-ci et en deçà. N’hésitez pas à partager vos réflexions avec la communauté MAIEI :
💭 Idées et perspectives :
Le coin des politiques en IA : Promouvoir l’innovation et la sécurité en IA de pointe
Cette édition de notre coin des politiques en IA, produite en partenariat avec le Governance and Responsible AI Lab (GRAIL) de l’Université Purdue, revient de sa pause estivale avec un regard sur le décret présidentiel de juin, Promouvoir l’innovation et la sécurité en IA de pointe. Tasneem Ahmed examine comment ce décret impose aux organismes fédéraux des délais de trente jours pour la cyberdéfense en matière d’IA, étend les outils de cybersécurité aux hôpitaux ruraux, aux banques communautaires et aux services publics locaux, et ordonne aux organismes de mettre en place un cadre permettant au gouvernement fédéral d’accéder aux « modèles de pointe visés » avant les autres partenaires. L’article s’interroge sur ce que cela signifie pour la gouvernance de l’IA lorsque l’innovation et la sécurité deviennent des mandats imposés aux organismes, assortis de délais.
Pour approfondir le sujet, lisez l’article complet ici.
Liste évolutive des articles traduits par Gilles en vrac
Les caractères gras dans le texte sont de l’auteur.e et de Gilles