{"id":11910,"date":"2026-10-28T12:25:54","date_gmt":"2026-10-28T16:25:54","guid":{"rendered":"https:\/\/gillesenvrac.ca\/carnet\/?page_id=11910"},"modified":"2026-10-29T15:01:46","modified_gmt":"2026-10-29T19:01:46","slug":"systemes-ia-ouverts-mais-fermes","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/trad\/systemes-ia-ouverts-mais-fermes\/","title":{"rendered":"Pourquoi les syst\u00e8mes d\u2019IA \u00ab ouverts \u00bb sont en r\u00e9alit\u00e9 ferm\u00e9s, et pourquoi cela a de l\u2019importance"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Traduction de <a href=\"https:\/\/www.nature.com\/articles\/s41586-024-08141-1\">Why \u2018open\u2019 AI systems are actually closed, and why this matters<\/a> par David Gray Widder, Meredith Whittaker &amp; Sarah Myers West paru dans <a href=\"https:\/\/www.nature.com\/\"><em>Nature<\/em><\/a> <strong>volume 635<\/strong>, pages 827\u2013833, le 27 novembre 2024. [48 min]<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">R\u00e9sum\u00e9<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Cet article examine l\u2019intelligence artificielle (IA) \u00ab ouverte \u00bb. Les affirmations concernant l\u2019IA \u00ab ouverte \u00bb manquent souvent de pr\u00e9cision ; elles \u00e9ludent fr\u00e9quemment l\u2019analyse de la forte concentration du secteur dans le d\u00e9veloppement et le d\u00e9ploiement de l\u2019IA \u00e0 grande \u00e9chelle, et appliquent souvent \u00e0 tort aux syst\u00e8mes d\u2019IA une conception de l\u2019\u00ab ouverture \u00bb issue du domaine des logiciels libres et open source. \u00c0 l\u2019heure actuelle, des acteurs puissants cherchent \u00e0 influencer les politiques en avan\u00e7ant que l\u2019IA \u00ab ouverte \u00bb est soit b\u00e9n\u00e9fique pour l\u2019innovation et la d\u00e9mocratie, d\u2019une part, soit pr\u00e9judiciable \u00e0 la s\u00e9curit\u00e9, d\u2019autre part. Lors de l\u2019\u00e9laboration des politiques, les d\u00e9finitions ont leur importance. Afin d\u2019apporter plus de clart\u00e9 \u00e0 ce d\u00e9bat, nous examinons les fondements des arguments en faveur de l\u2019ouverture dans l\u2019IA et proposons une analyse concr\u00e8te de ce qu\u2019est l\u2019IA et de ce que l\u2019\u00ab&nbsp;ouverture \u00bb en mati\u00e8re d\u2019IA peut et ne peut pas apporter : en nous penchant sur les mod\u00e8les, les donn\u00e9es, la main-d\u2019\u0153uvre, les cadres de r\u00e9f\u00e9rence et la puissance de calcul. Nous mettons en \u00e9vidence trois principales <strong>possibilit\u00e9s offertes par l\u2019IA \u00ab ouverte \u00bb<\/strong>, \u00e0 savoir la <strong>transparence<\/strong>, la <strong>r\u00e9utilisabilit\u00e9<\/strong> et l\u2019<strong>extensibilit\u00e9<\/strong>, et nous observons qu\u2019une IA aussi \u00ab ouverte \u00bb que possible permet certaines formes de contr\u00f4le et d\u2019exp\u00e9rimentation en compl\u00e9ment des mod\u00e8les existants. Cependant, nous constatons que <strong>l\u2019ouverture \u00e0 elle seule ne remet pas en cause la concentration du pouvoir<\/strong> dans le secteur de l\u2019IA. Tout comme de nombreux projets traditionnels de logiciels libres ont \u00e9t\u00e9 r\u00e9cup\u00e9r\u00e9s de diverses mani\u00e8res par les grandes entreprises technologiques, nous montrons comment la rh\u00e9torique autour de l\u2019IA \u00ab ouverte \u00bb est souvent utilis\u00e9e de mani\u00e8re \u00e0 exacerber, plut\u00f4t qu\u2019\u00e0 r\u00e9duire, la concentration du pouvoir dans le secteur de l\u2019IA.<\/p>\n\n\n\n<details class=\"wp-block-details is-layout-flow wp-block-details-is-layout-flow\"><summary><strong>R\u00e9sum\u00e9 par SIRI &#8211; 260 mots <\/strong><\/summary>\n<p class=\"wp-block-paragraph\">Cet article examine de mani\u00e8re critique le concept d&rsquo;intelligence artificielle (IA) \u00ab ouverte \u00bb, soulignant que l&rsquo;application des principes du logiciel libre \u00e0 l&rsquo;IA est souvent inadapt\u00e9e et trompeuse. Bien que l&rsquo;ouverture puisse offrir une certaine transparence, une r\u00e9utilisabilit\u00e9 et une extensibilit\u00e9, elle ne parvient pas \u00e0 d\u00e9mocratiser le secteur.<br><br>L&rsquo;auteur soutient que la rh\u00e9torique de l&rsquo;ouverture est fr\u00e9quemment utilis\u00e9e par les grandes entreprises technologiques pour consolider leur domination, influencer les politiques publiques et \u00e9chapper \u00e0 la r\u00e9glementation. Contrairement aux logiciels traditionnels, les syst\u00e8mes d&rsquo;IA d\u00e9pendent de ressources massives \u2014 donn\u00e9es, puissance de calcul et main-d&rsquo;\u0153uvre \u2014 qui restent concentr\u00e9es entre les mains de quelques g\u00e9ants technologiques.<br>En conclusion, l&rsquo;article affirme que miser uniquement sur une IA \u00ab ouverte \u00bb ne suffira pas \u00e0 cr\u00e9er un \u00e9cosyst\u00e8me diversifi\u00e9 ou responsable. Sans mesures strictes, comme l&rsquo;application des lois antitrust, l&rsquo;ouverture risque simplement de perp\u00e9tuer la concentration du pouvoir au lieu de servir l&rsquo;int\u00e9r\u00eat public.<\/p>\n\n\n\n<p class=\"has-luminous-vivid-orange-color has-text-color has-link-color wp-elements-1 wp-block-paragraph\"><strong>Points cl\u00e9s de l&rsquo;analyse<\/strong><\/p>\n\n\n\n<p class=\"wp-block-paragraph\"><strong>L&rsquo;illusion de l&rsquo;ouverture : <\/strong>De nombreux syst\u00e8mes dits \u00ab ouverts \u00bb (comme LLaMA de Meta) n&rsquo;offrent qu&rsquo;un acc\u00e8s limit\u00e9, sans inclure les donn\u00e9es d&rsquo;entra\u00eenement ou la documentation compl\u00e8te, une pratique qualifi\u00e9e d&rsquo;\u00ab openwashing \u00bb.<br><strong>Concentration du pouvoir : <\/strong>Les ressources n\u00e9cessaires (puissance de calcul, donn\u00e9es massives, main-d&rsquo;\u0153uvre pour l&rsquo;\u00e9tiquetage) restent contr\u00f4l\u00e9es par une poign\u00e9e d&rsquo;entreprises (Nvidia, Google, Meta, Microsoft).<br><strong>Limites de la transparence : <\/strong>En raison de la nature probabiliste de l&rsquo;IA, m\u00eame un acc\u00e8s complet au code et aux poids ne permet pas de pr\u00e9dire ou d&rsquo;expliquer totalement le comportement d&rsquo;un mod\u00e8le.<br><strong>Enjeux politiques : <\/strong>Le d\u00e9bat sur l&rsquo;IA ouverte est souvent instrumentalis\u00e9 pour fa\u00e7onner la r\u00e9glementation en faveur des int\u00e9r\u00eats commerciaux des grandes entreprises.<\/p>\n<\/details>\n\n\n\n<h2 class=\"wp-block-heading\">Intro<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Cette perspective examine l\u2019intelligence artificielle (IA) \u00ab ouverte \u00bb. Nous constatons que des concepts issus des logiciels libres sont appliqu\u00e9s de mani\u00e8re inadapt\u00e9e aux syst\u00e8mes d\u2019IA. \u00c0 l\u2019heure o\u00f9 les acteurs du secteur cherchent \u00e0 influencer les politiques en avan\u00e7ant, d\u2019une part, que l\u2019IA ouverte est b\u00e9n\u00e9fique pour l\u2019innovation scientifique et la d\u00e9mocratie, ou, d\u2019autre part, qu\u2019elle est pr\u00e9judiciable \u00e0 la s\u00e9curit\u00e9, nous cherchons \u00e0 ancrer les discussions sur les possibilit\u00e9s offertes par l\u2019\u00ab ouverture \u00bb en IA dans une analyse concr\u00e8te de ce qu\u2019est l\u2019IA et de ce que l\u2019ouverture en IA peut et ne peut pas apporter.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dans cette optique, nous passons en revue les composants essentiels des syst\u00e8mes d\u2019IA, en examinant lesquels peuvent \u00eatre rendus ouverts et lesquels ne le peuvent pas, tout en analysant l\u2019\u00e9cosyst\u00e8me qui s\u2019est form\u00e9 autour du concept d\u2019IA ouverte. Nous constatons que les syst\u00e8mes d\u2019IA ouverts peuvent offrir transparence, r\u00e9utilisabilit\u00e9 et extensibilit\u00e9 : ils peuvent \u00eatre scrut\u00e9s, r\u00e9utilis\u00e9s et servir de base \u00e0 d\u2019autres d\u00e9veloppements, \u00e0 des degr\u00e9s divers. Mais nous constatons \u00e9galement que les affirmations avanc\u00e9es autour de l\u2019ouverture manquent souvent de pr\u00e9cision ; elles se concentrent fr\u00e9quemment sur une seule \u00e9tape du cycle de vie des syst\u00e8mes d\u2019IA, du d\u00e9veloppement au d\u00e9ploiement, n\u00e9gligeant souvent la forte concentration du secteur dans le d\u00e9veloppement et le d\u00e9ploiement de l\u2019IA \u00e0 grande \u00e9chelle, ce qui fausse la conception courante de l\u2019ouverture issue des logiciels libres et open source. Les discours qui mettent l\u2019accent sur l\u2019ouverture sans tenir compte des incitations \u00e9conomiques li\u00e9es \u00e0 l\u2019IA abordent rarement les questions de contexte, de pouvoir et d\u2019utilisation \u2014 comment ces syst\u00e8mes seront-ils utilis\u00e9s, par qui, sur qui \u2014 alors m\u00eame que ces questions fa\u00e7onnent profond\u00e9ment les r\u00e9sultats politiques dont les d\u00e9bats sur l\u2019ouverture et l\u2019IA pr\u00e9tendent se pr\u00e9occuper.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ces questions rev\u00eatent une importance particuli\u00e8re dans le paysage actuel de l\u2019IA, domin\u00e9 par des acteurs priv\u00e9s<sup>1,2,3,4,5<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Cr\u00e9er les conditions permettant \u00e0 des alternatives ind\u00e9pendantes aux technologies domin\u00e9es par l\u2019industrie de prosp\u00e9rer est une cause louable. Cependant, tout comme de nombreux projets open source traditionnels ont \u00e9t\u00e9 coopt\u00e9s de diverses mani\u00e8res par les grandes entreprises technologiques, nos conclusions indiquent que la rh\u00e9torique de l\u2019ouverture est souvent utilis\u00e9e de mani\u00e8re \u00e0 exacerber, loin de l\u2019att\u00e9nuer, la concentration du pouvoir dans le secteur de l\u2019IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La rh\u00e9torique de l\u2019IA ouverte attire actuellement l\u2019attention des milieux politiques et de la recherche et fa\u00e7onne les politiques tant aux \u00c9tats-Unis que dans l\u2019Union europ\u00e9enne, entre autres juridictions<sup>6,7,8,9<\/sup>. Le d\u00e9bat sur l\u2019\u00ab IA open source \u00bb a \u00e9t\u00e9 en grande partie fa\u00e7onn\u00e9 par les entreprises du secteur de l\u2019IA, qui ont utilis\u00e9 des arguments li\u00e9s \u00e0 l\u2019ouverture pour servir leurs objectifs sp\u00e9cifiques en mati\u00e8re de r\u00e9glementation et de march\u00e9. En fonction de leur mod\u00e8le \u00e9conomique, ces entreprises ont utilis\u00e9 la rh\u00e9torique de l\u2019ouverture pour soutenir implicitement l\u2019id\u00e9e que l\u2019IA devrait soit \u00eatre exempt\u00e9e de toute r\u00e9glementation<sup>10<\/sup>, soit \u00eatre soumise \u00e0 des exigences strictes en mati\u00e8re de licences ou \u00e0 des contr\u00f4les \u00e0 l\u2019exportation<sup>11<\/sup>. Parall\u00e8lement, des travaux r\u00e9cents men\u00e9s par des chercheurs ont utilement complexifi\u00e9 ces affirmations, m\u00eame s\u2019ils n\u2019ont pas red\u00e9fini le d\u00e9bat public, en apportant des nuances et des fondements gr\u00e2ce \u00e0 l\u2019\u00e9valuation des risques et des avantages de l\u2019ouverture des mod\u00e8les<sup>12,13<\/sup> et en cr\u00e9ant des taxonomies de mod\u00e8les plus ou moins ouverts dans le but d\u2019apporter une clart\u00e9 conceptuelle<sup>14,15<\/sup>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">L\u2019IA ouverte et l\u2019arbitrage d\u00e9finitionnel<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">La d\u00e9finition m\u00eame de l\u2019IA est contest\u00e9e et floue, ce qui brouille encore davantage la question de savoir ce que signifie \u00ab ouvert \u00bb dans le contexte de l\u2019IA. Au cours de ses plus de 70 ans d\u2019histoire, le terme \u00ab IA \u00bb a \u00e9t\u00e9 appliqu\u00e9 \u00e0 une grande vari\u00e9t\u00e9 d\u2019approches, moins en tant que terme technique sp\u00e9cifique qu\u2019en tant qu\u2019argument marketing et aspiration<sup>4,16<\/sup>. Certains syst\u00e8mes d\u2019IA sont d\u00e9terministes, comme les syst\u00e8mes bas\u00e9s sur des r\u00e8gles, qui \u2014 \u00e0 partir d\u2019un ensemble d\u2019entr\u00e9es \u2014 suivent un ensemble d\u2019instructions pour produire des r\u00e9sultats clairement d\u00e9finis. D\u2019autres sont probabilistes : ils effectuent des comparaisons avec de vastes ensembles de donn\u00e9es et tirent des conclusions \u00e0 partir des liens entre les points de donn\u00e9es. \u00c0 l\u2019heure actuelle, ce terme d\u00e9signe souvent des syst\u00e8mes d\u2019apprentissage automatique probabilistes, de grande envergure et gourmands en ressources, l\u2019IA dite \u00ab g\u00e9n\u00e9rative \u00bb retenant particuli\u00e8rement l\u2019attention dans le discours populaire. C\u2019est sur ces syst\u00e8mes que nous nous concentrons, car ce sont les syst\u00e8mes d\u2019IA de grande envergure et g\u00e9n\u00e9ratifs qui remettent le plus clairement en cause les d\u00e9finitions traditionnelles de l\u2019open source et qui sont au c\u0153ur des politiques et des d\u00e9bats actuels.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La n\u00e9cessit\u00e9 d\u2019une clart\u00e9 d\u00e9finitionnelle a suscit\u00e9 un d\u00e9bat consid\u00e9rable<sup>17<\/sup>, qui a abouti \u00e0 une proposition de l\u2019Open Source Initiative18. Dans les discussions plus grand public sur l\u2019IA, s\u2019appuyant sur des id\u00e9ologies relatives aux logiciels libres forg\u00e9es il y a plusieurs d\u00e9cennies dans le but de r\u00e9sister au contr\u00f4le des entreprises<sup>19<\/sup>, les conceptions conventionnelles des logiciels libres et open source sont projet\u00e9es sur les syst\u00e8mes d\u2019IA ouverts, m\u00eame lorsqu\u2019elles ne s\u2019y appliquent pas<sup>19,20<\/sup>. Partant de la promesse selon laquelle l\u2019open source d\u00e9mocratise le d\u00e9veloppement logiciel, que de nombreux regards port\u00e9s sur un code ouvert pourraient garantir son int\u00e9grit\u00e9 et sa s\u00e9curit\u00e9<sup>21<\/sup>, ou que l\u2019open source uniformise les r\u00e8gles du jeu et permet \u00e0 l\u2019innovation de triompher<sup>22,23<\/sup>, les logiciels open source ont concr\u00e9tis\u00e9 bon nombre de ces promesses, \u00e0 des degr\u00e9s divers<sup>18<\/sup>.<\/p>\n\n\n\n<figure class=\"wp-block-table\"><table class=\"has-fixed-layout\"><tbody><tr><td colspan=\"2\"><strong>M\u00e9thodes pour affirmer sa domination gr\u00e2ce aux logiciels libres \u2014 et non en d\u00e9pit d\u2019eux<\/strong> Tout au long de l\u2019histoire des logiciels libres et open source, les entreprises technologiques \u00e0 but lucratif ont utilis\u00e9 leurs ressources pour s\u2019emparer d\u2019\u00e9cosyst\u00e8mes, ou se sont servies de projets open source pour affirmer leur domination de diverses mani\u00e8res. Voici quelques exemples d\u2019initiatives men\u00e9es par des entreprises par le pass\u00e9.<\/td><\/tr><tr><td><strong>Investir dans l\u2019open source pour d\u00e9fier ses concurrents propri\u00e9taires.<\/strong><\/td><td><strong>IBM et Linux.<\/strong> En 1999, IBM a investi 1 milliard de dollars am\u00e9ricains dans le syst\u00e8me d\u2019exploitation open source Linux \u2014 un logiciel d\u2019exploitation positionn\u00e9 comme une alternative open source \u00e0 Microsoft, alors dominant \u2014 et a cr\u00e9\u00e9 la Linux Foundation<sup>24<\/sup>.<\/td><\/tr><tr><td><strong>Publier un logiciel libre pour contr\u00f4ler une plateforme.<\/strong><\/td><td><strong>Google et Android.<\/strong> En 2007, Google a ouvert le code source du syst\u00e8me d\u2019exploitation Android et y a massivement investi, ce qui lui a permis de s\u2019imposer sur le march\u00e9 des syst\u00e8mes d\u2019exploitation mobiles face \u00e0 son concurrent Apple et d\u2019attirer l\u2019attention des autorit\u00e9s de r\u00e9gulation pour des pratiques anticoncurrentielles<sup>25<\/sup>.<\/td><\/tr><tr><td><strong>R\u00e9impl\u00e9menter et commercialiser sous forme de logiciel en tant que service (SaaS).<\/strong><\/td><td><strong>Amazon et MongoDB.<\/strong> En 2019, Amazon a mis en \u0153uvre sa propre version de la c\u00e9l\u00e8bre base de donn\u00e9es open source MongoDB, baptis\u00e9e DocumentDB26, et l\u2019a commercialis\u00e9e en tant que service sur sa plateforme AWS. En 2022, l\u2019entreprise est pass\u00e9e \u00e0 un accord de partage des revenus avec MongoDB<sup>27,28,29<\/sup>.<\/td><\/tr><tr><td><strong>D\u00e9velopper un framework open source permettant \u00e0 l\u2019entreprise d\u2019int\u00e9grer des produits open source dans ses syst\u00e8mes propri\u00e9taires.<\/strong><\/td><td><strong>Meta et PyTorch.<\/strong> Le PDG de Meta, Mark Zuckerberg, a expliqu\u00e9 comment l\u2019ouverture du code source du framework PyTorch a facilit\u00e9 l\u2019exploitation de nouvelles id\u00e9es d\u00e9velopp\u00e9es en externe et gratuitement<sup>30,31<\/sup>.<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019IA ouverte se distingue des logiciels open source sur des points essentiels. Contrairement aux logiciels open source, l\u2019identification des pr\u00e9judices et des failles dans les syst\u00e8mes d\u2019IA n\u00e9cessite bien plus que la mise \u00e0 disposition des poids et d\u2019une interface de programmation d\u2019application (API) accessible ou d\u2019un mod\u00e8le d\u2019IA sous licence libre (comme dans la s\u00e9rie de mod\u00e8les LLaMA de Meta) ; et bien que la mise \u00e0 disposition des donn\u00e9es d\u2019entra\u00eenement et d\u2019une documentation ouverte rigoureuse ait des effets b\u00e9n\u00e9fiques sur la capacit\u00e9 \u00e0 auditer les syst\u00e8mes d\u2019IA, ce qui est essentiel pour la responsabilit\u00e9, il existe des limites inh\u00e9rentes \u00e0 la capacit\u00e9 de pr\u00e9dire le comportement de syst\u00e8mes qui sont probabilistes<sup>32<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">De m\u00eame, bien que l\u2019ouverture puisse favoriser la concurrence \u00e0 la p\u00e9riph\u00e9rie \u2014 en permettant \u00e0 d\u2019autres de s\u2019appuyer sur des mod\u00e8les d\u2019IA de base gr\u00e2ce \u00e0 un r\u00e9glage fin d\u2019une grande efficacit\u00e9 \u2014, cela ne modifie pas les caract\u00e9ristiques du march\u00e9 dans son ensemble. Le r\u00e9glage fin n\u2019\u00e9limine pas non plus l\u2019impact des d\u00e9cisions cl\u00e9s prises pendant la phase de d\u00e9veloppement du mod\u00e8le de base<sup>33<\/sup>. Parmi les facteurs qui rendent les r\u00e8gles du jeu in\u00e9gales dans le domaine de l\u2019IA, on peut citer les effets de r\u00e9seau, l\u2019acc\u00e8s aux ensembles de donn\u00e9es, l\u2019acc\u00e8s et le co\u00fbt des ressources informatiques n\u00e9cessaires \u00e0 l\u2019inf\u00e9rence \u00e0 grande \u00e9chelle, l\u2019absence de mod\u00e8le \u00e9conomique viable et, \u00e0 l\u2019heure actuelle, des taux d\u2019int\u00e9r\u00eat gonfl\u00e9s<sup>34,35,36,37,38<\/sup>. Ensemble, ces facteurs limitent fortement la comp\u00e9titivit\u00e9 des start-ups sp\u00e9cialis\u00e9es dans l\u2019IA dans le contexte \u00e9conomique actuel et contribuent \u00e0 un march\u00e9 o\u00f9 les voies vers la rentabilit\u00e9 passent, dans l\u2019ensemble, par les grandes entreprises technologiques \u2014 dont les infrastructures sont indispensables au d\u00e9veloppement de l\u2019IA et dont l\u2019acc\u00e8s aux march\u00e9s est indispensable \u00e0 tout retour sur investissement<sup>39<\/sup>. L\u2019ouverture peut permettre une plus grande capacit\u00e9 \u00e0 modifier des mod\u00e8les d\u2019IA d\u00e9j\u00e0 d\u00e9velopp\u00e9s, mais ces facteurs environnementaux plus larges d\u00e9terminent si le produit d\u2019une telle exp\u00e9rimentation a une chance d\u2019acc\u00e9der au march\u00e9<sup>40<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dans la pratique, les diff\u00e9rents degr\u00e9s d\u2019ouverture en mati\u00e8re d\u2019IA offrent des possibilit\u00e9s tr\u00e8s vari\u00e9es, m\u00eame s\u2019ils sont tous regroup\u00e9s de mani\u00e8re pr\u00eatant \u00e0 confusion sous le m\u00eame terme, \u00ab ouverture \u00bb<sup>41<\/sup>. Certains syst\u00e8mes d\u00e9crits comme ouverts, tels que le LLaMA-3 de Meta (r\u00e9f.\u200942), n\u2019offrent gu\u00e8re plus qu\u2019une API ou la possibilit\u00e9 de t\u00e9l\u00e9charger un mod\u00e8le soumis \u00e0 des restrictions d\u2019utilisation clairement non ouvertes<sup>42,43<\/sup>. Dans ces cas, il s\u2019agit de syst\u00e8mes de \u00ab openwashing \u00bb qu\u2019il convient de consid\u00e9rer comme ferm\u00e9s<sup>44,45,46<\/sup>. D\u2019autres variantes extr\u00eames de l\u2019IA ouverte, telles que la s\u00e9rie Pythia d\u2019EleutherAI, vont beaucoup plus loin en offrant l\u2019acc\u00e8s au code source, aux donn\u00e9es d\u2019entra\u00eenement sous-jacentes et \u00e0 la documentation compl\u00e8te, ainsi qu\u2019en accordant une licence pour le mod\u00e8le d\u2019IA permettant une r\u00e9utilisation \u00e0 grande \u00e9chelle selon des conditions conformes \u00e0 la d\u00e9finition de longue date de l\u2019open source donn\u00e9e par l\u2019Open Source Initiative.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Compte tenu de ces d\u00e9finitions confuses, \u00e0 moins de citer mot pour mot certaines affirmations, nous \u00e9vitons d\u2019utiliser le terme \u00ab open source \u00bb dans la suite de cet article et utilisons \u00e0 la place le terme g\u00e9n\u00e9rique \u00ab ouvert \u00bb.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Qu\u2019est-ce qui est (et n\u2019est pas) \u00ab ouvert \u00bb dans l\u2019IA ouverte ?<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Les syst\u00e8mes d\u2019IA n\u00e9cessitent des processus de d\u00e9veloppement sp\u00e9cifiques et s\u2019appuient sur des ressources sp\u00e9cialis\u00e9es et co\u00fbteuses concentr\u00e9es entre les mains de quelques grandes entreprises technologiques<sup>5,47,48,49<\/sup>. Compte tenu des ressources n\u00e9cessaires \u00e0 la production de syst\u00e8mes d\u2019IA \u00e0 grande \u00e9chelle, les entreprises commerciales d\u2019IA disposant de puissance de calcul, de jeux de donn\u00e9es et d\u2019\u00e9quipes de recherche dominent de plus en plus le domaine de la recherche et du d\u00e9veloppement en IA. De ce fait, ces entreprises d\u00e9terminent non seulement l\u2019orientation des d\u00e9veloppements, mais aussi les conditions dans lesquelles les syst\u00e8mes d\u2019IA peuvent \u00eatre construits, y compris quels \u00e9l\u00e9ments d\u2019un syst\u00e8me (poids et ensembles de donn\u00e9es) sont rendus accessibles \u00e0 d\u2019autres pour qu\u2019ils puissent y acc\u00e9der et les r\u00e9utiliser. Bien que de nouvelles techniques aient facilit\u00e9 la cr\u00e9ation de cas d\u2019utilisation plus l\u00e9gers et plus efficaces, affin\u00e9s \u00e0 partir de mod\u00e8les de base plus vastes<sup>50<\/sup>, elles l\u2019ont fait sans modifier ces caract\u00e9ristiques sous-jacentes du march\u00e9. En fin de compte, le co\u00fbt et les ressources n\u00e9cessaires \u00e0 l\u2019entra\u00eenement, ainsi que les goulots d\u2019\u00e9tranglement que les grandes entreprises contr\u00f4lent en mati\u00e8re d\u2019acc\u00e8s au march\u00e9, font que l\u2019IA ouverte n\u2019\u00e9quivaut pas pour autant \u00e0 un changement direct des conditions de concurrence sur le march\u00e9 de l\u2019IA, bien que, dans ses manifestations les plus pouss\u00e9es, elle offre trois avantages cl\u00e9s :<\/p>\n\n\n\n<ol class=\"wp-block-list\">\n<li>Transparence. De nombreux syst\u00e8mes d\u2019IA qualifi\u00e9s d\u2019\u00ab ouverts \u00bb publient les poids, la documentation ou les donn\u00e9es relatives au syst\u00e8me. Les exemples les plus pouss\u00e9s d\u2019IA ouverte donnent acc\u00e8s aux donn\u00e9es d\u2019entra\u00eenement sous-jacentes et aux informations sur les poids associ\u00e9s \u00e0 un mod\u00e8le donn\u00e9. Ces deux \u00e9l\u00e9ments sont utiles pour permettre certaines formes de validation et d\u2019audit<sup>51,52<\/sup> et contribuent tous deux \u00e0 fournir des informations a posteriori sur le comportement du syst\u00e8me, qui sont essentielles pour la responsabilit\u00e9. En raison de la nature probabiliste des syst\u00e8mes d\u2019IA actuels, les affirmations concernant la transparence de ces syst\u00e8mes, aussi ouverts soient-ils, doivent \u00eatre nuanc\u00e9es, en particulier lorsqu\u2019on les compare \u00e0 des logiciels traditionnels : conna\u00eetre les poids, le code et la documentation ne permet pas de d\u00e9terminer exactement comment un mod\u00e8le se comportera dans un contexte donn\u00e9, ni d\u2019expliquer pourquoi un r\u00e9sultat donn\u00e9 se produit, ni de pr\u00e9dire les propri\u00e9t\u00e9s dites \u00ab \u00e9mergentes \u00bb du syst\u00e8me<sup>53,54,55<\/sup>.<\/li>\n\n\n\n<li>R\u00e9utilisabilit\u00e9. Certains mod\u00e8les et donn\u00e9es d\u2019IA ouverts sont mis \u00e0 disposition de tiers sous licence en vue de leur r\u00e9utilisation<sup>56<\/sup>. Les donn\u00e9es et les poids de mod\u00e8les sous licence libre, ainsi que le recours fr\u00e9quent \u00e0 des licences open source traditionnelles pour les rendre accessibles, ont aliment\u00e9 l\u2019id\u00e9e selon laquelle l\u2019IA ouverte aurait des effets b\u00e9n\u00e9fiques intrins\u00e8ques sur la concurrence sur le march\u00e9<sup>7<\/sup>. Cependant, l\u2019acc\u00e8s au march\u00e9 reste une ressource limit\u00e9e. M\u00eame les acteurs disposant de ressources importantes, qui poss\u00e8dent le capital, les talents et les donn\u00e9es n\u00e9cessaires pour cr\u00e9er des mod\u00e8les \u00e0 grande \u00e9chelle, n\u2019ont pas toujours de moyen \u00e9vident de d\u00e9ployer ces mod\u00e8les ou d\u2019assurer un retour sur investissement, en raison d\u2019importants goulots d\u2019\u00e9tranglement dans l\u2019acc\u00e8s au march\u00e9, qui \u2014 \u00e0 l\u2019heure actuelle \u2014 passe par les grandes entreprises, soit via des offres cloud, soit par le biais d\u2019int\u00e9grations \u00e0 grande \u00e9chelle dans des plateformes. On le constate notamment dans l\u2019exemple de la d\u00e9cision de Mistral AI, une entreprise d\u2019IA \u00ab ouverte \u00bb, de conclure un contrat avec Microsoft, permettant ainsi \u00e0 ce dernier d\u2019accorder sous licence une version de son mod\u00e8le d\u2019IA \u00ab Mixtral Large \u00bb \u00e0 ses clients du cloud via son activit\u00e9 Azure Cloud. Cela est d\u2019autant plus remarquable que Mistral est l\u2019une des start-ups d\u2019IA les mieux financ\u00e9es d\u00e9veloppant des mod\u00e8les ouverts<sup>57<\/sup> et qu\u2019elle s\u2019est positionn\u00e9e sur le march\u00e9 gr\u00e2ce \u00e0 son utilisation efficace des ressources informatiques<sup>58<\/sup>. Mais malgr\u00e9 ces atouts, elle a tout de m\u00eame choisi \u2014 \u00e0 l\u2019instar d\u2019OpenAI et d\u2019Inflection AI \u2014 d\u2019acc\u00e9der au march\u00e9 via la plateforme cloud de Microsoft<sup>59<\/sup>.<\/li>\n\n\n\n<li>Extensibilit\u00e9. L\u2019extensibilit\u00e9 nous permet de nous appuyer sur des mod\u00e8les pr\u00eats \u00e0 l\u2019emploi pour les affiner en fonction d\u2019un objectif pr\u00e9cis. Il s\u2019agit d\u2019une caract\u00e9ristique cl\u00e9 d\u00e9fendue en particulier par les acteurs du monde des entreprises engag\u00e9s dans l\u2019IA ouverte60. Cela s\u2019explique en grande partie par le fait que le travail d\u2019\u00ab extension \u00bb des mod\u00e8les pr\u00eats \u00e0 l\u2019emploi fait office de d\u00e9veloppement de produit gratuit pour ceux qui souhaiteraient r\u00e9utiliser un mod\u00e8le affin\u00e9. \u00c9tendre un mod\u00e8le d\u2019IA ouverte signifie que ceux qui effectuent ce travail ne partent pas de z\u00e9ro. Ils prennent un grand mod\u00e8le, d\u00e9j\u00e0 entra\u00een\u00e9 au prix d\u2019efforts consid\u00e9rables et de co\u00fbts \u00e9lev\u00e9s, en ajustent les param\u00e8tres et, en g\u00e9n\u00e9ral, l\u2019entra\u00eenent \u00e0 nouveau sur des donn\u00e9es suppl\u00e9mentaires, souvent sp\u00e9cialis\u00e9es, afin d\u2019adapter ses performances \u00e0 un domaine ou \u00e0 une t\u00e2che particuli\u00e8re. Des choix \u00e9ditoriaux notables ont d\u00e9j\u00e0 \u00e9t\u00e9 op\u00e9r\u00e9s au cours du processus de d\u00e9veloppement du \u00ab mod\u00e8le de base \u00bb<sup>61,62,63<\/sup>.<\/li>\n<\/ol>\n\n\n\n<h2 class=\"wp-block-heading\">L\u2019\u00e9conomie politique de l\u2019IA ouverte<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Nous passons ici en revue les \u00e9l\u00e9ments \u2014 mod\u00e8les, donn\u00e9es, main-d\u2019\u0153uvre, cadres et puissance de calcul \u2014 fr\u00e9quemment impliqu\u00e9s dans la cr\u00e9ation et l\u2019utilisation de grands syst\u00e8mes d\u2019IA<sup>2,64<\/sup>. Cela nous aide \u00e0 \u00e9valuer quelles parties de ces syst\u00e8mes sont ou peuvent \u00eatre rendues ouvertes, lesquelles ne le sont pas ou ne le peuvent pas, et de quelles mani\u00e8res.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Mod\u00e8les d\u2019IA<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Une grande partie du d\u00e9bat actuel sur l\u2019IA ouverte se concentre sur les mod\u00e8les d\u2019IA, qui ne constituent qu\u2019une partie d\u2019un syst\u00e8me d\u2019IA op\u00e9rationnel et qui, \u00e0 eux seuls, ne couvrent pas l\u2019int\u00e9gralit\u00e9 du cycle de vie d\u2019un syst\u00e8me d\u2019IA, du d\u00e9veloppement au d\u00e9ploiement. Un mod\u00e8le d\u2019IA d\u00e9signe un syst\u00e8me algorithmique qui a \u00e9t\u00e9 entra\u00een\u00e9 et \u00e9valu\u00e9 \u00e0 l\u2019aide de grandes quantit\u00e9s de donn\u00e9es afin de produire des r\u00e9sultats statistiquement probables en r\u00e9ponse \u00e0 une entr\u00e9e donn\u00e9e, stock\u00e9s sous forme de poids num\u00e9riques. Par exemple, ChatGPT fonctionne en appliquant des mod\u00e8les GPT (Generative Pre-trained Transformer), qui ont \u00e9t\u00e9 entra\u00een\u00e9s sur d\u2019\u00e9normes quantit\u00e9s de donn\u00e9es textuelles, dont une grande partie a \u00e9t\u00e9 extraite du Web. Ces mod\u00e8les GPT constituent une partie de la suite logicielle sp\u00e9cifique aux clients de ChatGPT, qui comprend un client web et des applications iOS et Android, dont chacune n\u00e9cessite des biblioth\u00e8ques et un savoir-faire distincts pour sa maintenance, ainsi que du personnel qualifi\u00e9 pour les entretenir tant qu\u2019elles existent48. Ces clients int\u00e8grent les mod\u00e8les GPT comme un \u00e9l\u00e9ment parmi d\u2019autres de l\u2019interface destin\u00e9e aux utilisateurs. Une fois entra\u00een\u00e9, un mod\u00e8le d\u2019IA peut \u00eatre publi\u00e9 de la m\u00eame mani\u00e8re que n\u2019importe quel autre code logiciel : sous une licence ouverte permettant sa r\u00e9utilisation, ou mis \u00e0 disposition en ligne d\u2019une autre mani\u00e8re. La r\u00e9utilisation d\u2019un mod\u00e8le d\u2019IA d\u00e9j\u00e0 entra\u00een\u00e9 ne n\u00e9cessite pas d\u2019avoir acc\u00e8s aux donn\u00e9es d\u2019entra\u00eenement ou d\u2019\u00e9valuation sous-jacentes, ni que les poids ou d\u2019autres d\u00e9tails du syst\u00e8me soient rendus publics. En ce sens, de nombreux syst\u00e8mes d\u2019IA qualifi\u00e9s d\u2019\u00ab ouverts \u00bb utilisent ce terme de mani\u00e8re approximative. Au lieu de fournir une documentation et un acc\u00e8s pertinents, ils constituent en r\u00e9alit\u00e9 des \u00ab enveloppes \u00bb autour de mod\u00e8les ferm\u00e9s, h\u00e9ritant de donn\u00e9es non document\u00e9es, ne fournissant pas de donn\u00e9es d\u2019entra\u00eenement annot\u00e9es issues de l\u2019apprentissage par renforcement \u00e0 partir de retours d\u2019exp\u00e9rience humains (RLHF) ni d\u2019informations sur les processus de travail, et publiant rarement leurs r\u00e9sultats, sans parler de les documenter dans des publications \u00e9valu\u00e9es par des pairs<sup>15<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il existe d\u00e9sormais plusieurs exemples de mod\u00e8les d\u2019IA ouverts \u00e0 grande \u00e9chelle disponibles pour une r\u00e9utilisation publique dans une certaine mesure : parmi ceux-ci figurent le LLaMA-2 de Meta (r\u00e9f.\u2009<sup>60<\/sup>) et le LLaMA-3 (r\u00e9f.\u2009<sup>43<\/sup>) ; Falcon 40B, d\u00e9velopp\u00e9 par l\u2019Institut d\u2019innovation technologique des \u00c9mirats arabes unis, entra\u00een\u00e9 sur AWS<sup>65<\/sup> ; les mod\u00e8les MPT<sup>66<\/sup> de MosaicML et Mixtral 8x22B de Mistral AI, tous deux li\u00e9s \u00e0 Azure de Microsoft ; le mod\u00e8le BLOOM de BigScience, entra\u00een\u00e9 sur le supercalculateur fran\u00e7ais Jean Zay<sup>67<\/sup>. Regrouper tous ces mod\u00e8les sous l\u2019\u00e9tiquette unique d\u2019\u00ab ouverts \u00bb ne rend pas justice aux distinctions importantes qui les s\u00e9parent et contribue \u00e0 la confusion autour de ce terme.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Des entreprises telles que Hugging Face et Stability AI proposent des mod\u00e8les d\u2019IA ouverts \u00e0 leurs clients et au grand public. Leurs mod\u00e8les \u00e9conomiques ne reposent pas sur l\u2019octroi de licences pour les mod\u00e8les propri\u00e9taires eux-m\u00eames, mais consistent plut\u00f4t \u00e0 facturer des fonctionnalit\u00e9s suppl\u00e9mentaires et des prestations de service en compl\u00e9ment des mod\u00e8les ouverts, telles que l\u2019acc\u00e8s \u00e0 l\u2019API, l\u2019entra\u00eenement des mod\u00e8les sur des donn\u00e9es personnalis\u00e9es, ainsi que la s\u00e9curit\u00e9 et l\u2019assistance technique en tant que services payants<sup>68<\/sup>. Elles proposent \u00e9galement \u00e0 leurs clients de proc\u00e9der \u00e0 l\u2019ajustement fin de mod\u00e8les priv\u00e9s, en affinant et en calibrant les performances de mod\u00e8les d\u00e9j\u00e0 entra\u00een\u00e9s pour une t\u00e2che ou un domaine donn\u00e9.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019association \u00e0 but non lucratif EleutherAI propose \u00e9galement des mod\u00e8les d\u2019IA open source \u00e0 grande \u00e9chelle, accompagn\u00e9s de la documentation et des bases de code utilis\u00e9es pour les entra\u00eener. EleutherAI se consacre exclusivement \u00e0 la promotion de la recherche sur l\u2019IA \u00e0 grande \u00e9chelle<sup>69<\/sup>, en mettant ses mod\u00e8les sous licence Apache 2.0, une licence open source tr\u00e8s permissive destin\u00e9e aux chercheurs en IA56. Parmi les acteurs engag\u00e9s dans l\u2019IA ouverte, EleutherAI offre sans doute les syst\u00e8mes d\u2019IA les plus ouverts qui soient.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Une poign\u00e9e de projets universitaires ont \u00e9galement produit de grands mod\u00e8les d\u2019IA ouverts \u00e0 plus petite \u00e9chelle. Parmi ceux-ci figure le mod\u00e8le Alpaca de Stanford, bien connu pour avoir \u00e9t\u00e9 d\u00e9velopp\u00e9 afin de fonctionner sur un simple ordinateur portable \u2014 un exploit remarquable compte tenu de la nature tr\u00e8s gourmande en ressources de calcul du d\u00e9ploiement de tels mod\u00e8les<sup>70<\/sup>. Cependant, m\u00eame un chatbot bas\u00e9 sur ce mod\u00e8le extr\u00eamement efficace sur le plan informatique est devenu trop co\u00fbteux \u2014 et trop risqu\u00e9, en raison des \u00ab hallucinations \u00bb du mod\u00e8le \u2014 pour continuer \u00e0 fonctionner, et l\u2019\u00e9quipe l\u2019a depuis retir\u00e9<sup>71<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">La tendance actuelle dans le d\u00e9veloppement de l\u2019IA suit une approche \u00ab plus c\u2019est gros, mieux c\u2019est \u00bb en mati\u00e8re de donn\u00e9es, de puissance de calcul et de taille des mod\u00e8les<sup>33<\/sup>. Plus le mod\u00e8le est grand, plus son apprentissage et son calibrage mobilisent de ressources, et plus il est donc difficile de le produire en dehors des grandes entreprises technologiques. Bien que nous sachions que le plus grand mod\u00e8le d\u2019IA accessible au public est actuellement LLaMA-3 et qu\u2019il a \u00e9t\u00e9 entra\u00een\u00e9 sur 15 000 milliards de tokens<sup>42<\/sup>, les informations sur les ensembles de donn\u00e9es utilis\u00e9s pour les mod\u00e8les sont devenues de plus en plus opaques, tant pour les mod\u00e8les ferm\u00e9s que pour ceux pr\u00e9tendument ouverts. OpenAI n\u2019a pas communiqu\u00e9 la taille de GPT-4 (r\u00e9f.\u2009<sup>72<\/sup>), le rapport technique d\u2019Anthropic n\u2019aborde pas la taille des donn\u00e9es d\u2019entra\u00eenement de Claude 3<sup>73<\/sup> et Mistral AI a refus\u00e9 de divulguer ne serait-ce que la taille des donn\u00e9es d\u2019entra\u00eenement de son mod\u00e8le accessible au public, invoquant la \u00ab nature hautement concurrentielle du domaine \u00bb<sup>74<\/sup>. De plus, bien que l\u2019ajustement d\u2019un mod\u00e8le \u00e0 une t\u00e2che ou \u00e0 un domaine particulier soit moins co\u00fbteux en termes de calcul par instance (mais beaucoup plus co\u00fbteux pour l\u2019environnement dans l\u2019ensemble), ces tiers ne peuvent s\u2019appuyer que sur des mod\u00e8les qu\u2019ils ne peuvent ni examiner de pr\u00e8s ni reproduire, ce qui conduit \u00e0 une \u00ab classe sup\u00e9rieure d\u2019IA \u00bb<sup>33<\/sup>.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Donn\u00e9es<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Des donn\u00e9es fa\u00e7onn\u00e9es selon des sp\u00e9cifications rigoureuses (et n\u00e9cessitant beaucoup de main-d\u2019\u0153uvre) sont n\u00e9cessaires pour construire des syst\u00e8mes d\u2019IA \u00e0 grande \u00e9chelle. Certains chercheurs ont m\u00eame affirm\u00e9 que l\u2019acc\u00e8s aux donn\u00e9es pouvait \u00eatre plus important que l\u2019acc\u00e8s \u00e0 la puissance de calcul lors de la construction d\u2019une IA \u00e0 grande \u00e9chelle<sup>48,75<\/sup>. Les deux sont essentiels et, dans la dynamique actuelle de \u00ab course \u00e0 l\u2019\u00e9chelle \u00bb, plus on en dispose, \u00ab meilleures \u00bb sont les performances de ces mod\u00e8les<sup>33,76<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les donn\u00e9es constituent souvent un \u00e9l\u00e9ment ferm\u00e9 de nombreuses offres d\u2019IA qui se pr\u00e9sentent comme ouvertes : de nombreux mod\u00e8les d\u2019IA \u00e0 grande \u00e9chelle d\u00e9crits comme ouverts n\u00e9gligent de fournir ne serait-ce que des informations de base sur les donn\u00e9es sous-jacentes utilis\u00e9es pour entra\u00eener le syst\u00e8me<sup>77<\/sup>, sans parler de mettre ouvertement \u00e0 disposition les donn\u00e9es d\u2019entra\u00eenement sous-jacentes ou d\u2019en documenter la provenance. Le manque de transparence des donn\u00e9es remet s\u00e9rieusement en cause toute affirmation concernant les avantages de l\u2019IA ouverte et entrave le type de validation ou de reproductibilit\u00e9 n\u00e9cessaire \u00e0 une science rigoureuse.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">L\u2019extraction de donn\u00e9es pour cr\u00e9er des ensembles de donn\u00e9es destin\u00e9s au d\u00e9veloppement de l\u2019IA soul\u00e8ve des questions d\u2019extraction et de propri\u00e9t\u00e9 intellectuelle qui sont particuli\u00e8rement pertinentes au regard des pr\u00e9occupations concernant la concentration dans le secteur de l\u2019IA. Ces ensembles de donn\u00e9es, qu\u2019ils soient ouverts ou ferm\u00e9s, sont souvent constitu\u00e9s \u00e0 partir d\u2019images, de textes et de codes prot\u00e9g\u00e9s par le droit d\u2019auteur provenant du Web, ou en copiant et en r\u00e9utilisant des ensembles de donn\u00e9es compil\u00e9s par des groupes linguistiques issus du \u00ab monde majoritaire \u00bb, tels que GhanaNLP<sup>78<\/sup> et Lesan AI<sup>79<\/sup>. Cela signifie que, m\u00eame s\u2019il est possible d\u2019entra\u00eener des mod\u00e8les sans contenu prot\u00e9g\u00e9 par le droit d\u2019auteur<sup>80<\/sup>, ceux qui utilisent ces ensembles de donn\u00e9es pour entra\u00eener et \u00e9valuer des mod\u00e8les d\u2019IA recourent souvent au travail et \u00e0 la propri\u00e9t\u00e9 intellectuelle d\u2019autrui pour ce faire, invoquant l\u2019usage loyal alors m\u00eame que ces arguments font l\u2019objet de contestations juridiques<sup>81<\/sup>, et sont dispos\u00e9s et en mesure d\u2019assumer le co\u00fbt des poursuites judiciaires dans les deux cas<sup>82<\/sup>. Qu\u2019elle soit l\u00e9gale ou non, la pratique consistant \u00e0 p\u00eacher sans discernement des donn\u00e9es sur le Web pour cr\u00e9er des syst\u00e8mes qui sont d\u00e9sormais sur le point de menacer les moyens de subsistance des \u00e9crivains, des artistes et des programmeurs \u2014 dont le travail a cr\u00e9\u00e9 ces donn\u00e9es \u00ab Web \u00bb au d\u00e9part \u2014 a suscit\u00e9 l\u2019inqui\u00e9tude et la col\u00e8re<sup>83<\/sup>, et des poursuites judiciaires engag\u00e9es au nom de ces acteurs sont d\u00e9sormais en cours<sup>84<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Ces pr\u00e9occupations sont particuli\u00e8rement pressantes compte tenu des \u00e9chos coloniaux pr\u00e9sents dans les pratiques actuelles de travail sur les donn\u00e9es : les syst\u00e8mes d\u2019IA s\u2019appuient fr\u00e9quemment sur des donn\u00e9es et des ressources humaines provenant du monde de la majorit\u00e9<sup>85<\/sup>, et le fondateur du projet open source GhanaNLP a fait remarquer que l\u2019open source des g\u00e9ants de la tech risque de permettre la poursuite de l\u2019exploitation coloniale<sup>86,87,88<\/sup>. Une telle exploitation va \u00e9galement \u00e0 l\u2019encontre des mouvements du \u00ab monde majoritaire \u00bb en faveur de la souverainet\u00e9 des donn\u00e9es, illustr\u00e9s par des projets tels que Te Hiku Media, qui soulignent que \u00ab la majorit\u00e9 des tangata whenua et des autres peuples autochtones n\u2019ont peut-\u00eatre pas acc\u00e8s aux ressources leur permettant de b\u00e9n\u00e9ficier des technologies open source\u2026 En rendant simplement nos donn\u00e9es et nos connaissances open source, nous nous laissons encore davantage coloniser num\u00e9riquement dans le monde moderne \u00bb<sup>89<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Il ne s\u2019agit pas ici de plaider en faveur de jeux de donn\u00e9es ferm\u00e9s, qui ne font qu\u2019aggraver ce probl\u00e8me. Il s\u2019agit plut\u00f4t d\u2019un appel \u00e0 clarifier pr\u00e9cis\u00e9ment ce que les jeux de donn\u00e9es ouverts peuvent et ne peuvent pas accomplir. Lorsque les jeux de donn\u00e9es ne sont pas mis \u00e0 disposition pour \u00eatre examin\u00e9s, ou lorsqu\u2019ils sont d\u2019une taille insondable, il devient tr\u00e8s difficile de v\u00e9rifier si ces jeux de donn\u00e9es ne d\u00e9tournent pas la propri\u00e9t\u00e9 intellectuelle d\u2019autrui ou n\u2019utilisent pas \u00e0 des fins commerciales des donn\u00e9es qui avaient \u00e9t\u00e9 sp\u00e9cifiquement conc\u00e9d\u00e9es sous licence pour un usage non commercial ou dans le cadre de mandats de souverainet\u00e9 particuliers. Par exemple, il a \u00e9t\u00e9 d\u00e9montr\u00e9 que l\u2019assistant de programmation GitHub Copilot de Microsoft \u2014 un syst\u00e8me d\u2019IA g\u00e9n\u00e9rative qui produit du code \u2014 a \u00e9t\u00e9 entra\u00een\u00e9 sur du code sous licence GPL<sup>90<\/sup>, une licence open source qui exige que le code d\u00e9riv\u00e9 soit publi\u00e9 selon les m\u00eames conditions, et qu\u2019il reproduit ensuite ce code. Cependant, m\u00eame l\u2019utilisation de code sous licence permissive pour entra\u00eener une IA g\u00e9n\u00e9rative peut de la m\u00eame mani\u00e8re enfreindre les dispositions exigeant l\u2019attribution, que les syst\u00e8mes d\u2019IA g\u00e9n\u00e9rative actuels pourraient fournir, mais ne fournissent pas \u00e0 l\u2019heure actuelle.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Des ensembles de donn\u00e9es tels que Pile<sup>91<\/sup> et Common Crawl<sup>92,93<\/sup> sont largement disponibles, mais un travail suppl\u00e9mentaire est n\u00e9cessaire pour rendre ces ensembles de donn\u00e9es utiles \u00e0 la construction de grands mod\u00e8les d\u2019IA. Une curation et un remixage minutieux des ensembles de donn\u00e9es sont n\u00e9cessaires pour cr\u00e9er une IA performante : Le mod\u00e8le BLOOM de BigScience a \u00e9t\u00e9 entra\u00een\u00e9 sur un ensemble composite de 498 ensembles de donn\u00e9es, ce qui a impliqu\u00e9 un processus complexe de gouvernance des donn\u00e9es, ainsi qu\u2019un processus manuel de filtrage de qualit\u00e9 visant \u00e0 supprimer le code, le spam et autres \u00e9l\u00e9ments parasites<sup>67<\/sup>. Bien que l\u2019on puisse supposer que les ensembles de donn\u00e9es plus volumineux utilis\u00e9s par les entreprises n\u00e9cessitent des niveaux de travail proportionnellement similaires, nous n\u2019en savons pratiquement rien, m\u00eame concernant ceux qui se pr\u00e9tendent ouverts.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Main-d\u2019\u0153uvre<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Le besoin insatiable des syst\u00e8mes d\u2019IA \u00e0 grande \u00e9chelle en donn\u00e9es cur\u00e9es, \u00e9tiquet\u00e9es et soigneusement organis\u00e9es signifie que la mise en place d\u2019une IA \u00e0 grande \u00e9chelle n\u00e9cessite une main-d\u2019\u0153uvre humaine consid\u00e9rable. C\u2019est ce travail qui cr\u00e9e l\u2019\u00ab intelligence \u00bb que les syst\u00e8mes d\u2019IA sont cens\u00e9s produire, selon leur argumentaire commercial<sup>94,95<\/sup>. Ce travail peut \u00eatre globalement class\u00e9 selon les domaines suivants :<\/p>\n\n\n\n<ul class=\"wp-block-list\">\n<li>\u00c9tiquetage et classification des donn\u00e9es<\/li>\n\n\n\n<li>Calibrage des mod\u00e8les (apprentissage par renforcement avec retour d\u2019information humain, et processus similaires)<\/li>\n\n\n\n<li>La mod\u00e9ration de contenu, la confiance et la s\u00e9curit\u00e9, ainsi que d\u2019autres formes d\u2019assistance post-d\u00e9ploiement<\/li>\n\n\n\n<li>L\u2019ing\u00e9nierie, le d\u00e9veloppement de produits et la maintenance.<\/li>\n<\/ul>\n\n\n\n<p class=\"wp-block-paragraph\">Les syst\u00e8mes d\u2019IA g\u00e9n\u00e9rative sont entra\u00een\u00e9s et \u00e9valu\u00e9s \u00e0 partir d\u2019un large \u00e9ventail de textes, de discours ou d\u2019images g\u00e9n\u00e9r\u00e9s par l\u2019homme. Le processus consistant \u00e0 fa\u00e7onner un mod\u00e8le de mani\u00e8re \u00e0 ce qu\u2019il puisse imiter une production de type humain sans reproduire de contenu offensant ou dangereux n\u00e9cessite une implication humaine intensive afin de garantir que les r\u00e9sultats du mod\u00e8le restent dans les limites de ce qui est \u00ab acceptable \u00bb<sup>96<\/sup> \u2014 et permettent ainsi \u00e0 celui-ci d\u2019\u00eatre commercialis\u00e9, vendu et appliqu\u00e9 dans le monde r\u00e9el par des entreprises et d\u2019autres institutions soucieuses de conserver leurs clients et de pr\u00e9server leur r\u00e9putation. Ce processus est souvent appel\u00e9 \u00ab apprentissage par renforcement \u00e0 partir de retours d\u2019information humains \u00bb (RLHF), un terme \u00e0 consonance technique qui, dans la pratique, fait r\u00e9f\u00e9rence \u00e0 des milliers d\u2019heures de travail humain, au cours desquelles les travailleurs peuvent \u00eatre charg\u00e9s de s\u00e9lectionner, parmi quelques extraits de texte produits par un syst\u00e8me d\u2019IA g\u00e9n\u00e9rative, celui qui ressemble le plus \u00e0 un texte g\u00e9n\u00e9r\u00e9 par un humain, leurs choix \u00e9tant ensuite r\u00e9inject\u00e9s dans le syst\u00e8me<sup>97<\/sup>. Bien que la pr\u00e9paration des donn\u00e9es et l\u2019\u00e9talonnage des mod\u00e8les n\u00e9cessitent un travail consid\u00e9rable, rarement mis en avant, qui est pourtant fondamental pour donner du sens aux donn\u00e9es qui fa\u00e7onnent les syst\u00e8mes d\u2019IA, les entreprises ne divulguent g\u00e9n\u00e9ralement que peu, voire aucune information sur les pratiques de travail qui sous-tendent ce travail sur les donn\u00e9es, et le fait de ne pas divulguer ces informations est rarement critiqu\u00e9 comme une forme de manque de transparence. Ce que nous savons de ces processus est en grande partie le fruit soit du journalisme d\u2019investigation<sup>98,99,100<\/sup>, soit de l\u2019action collective men\u00e9e par des travailleurs et des chercheurs<sup>101,102,103<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Le travail n\u00e9cessaire \u00e0 la s\u00e9lection, \u00e0 la pr\u00e9paration des donn\u00e9es et \u00e0 l\u2019\u00e9talonnage des syst\u00e8mes est mal r\u00e9mun\u00e9r\u00e9, mais il repr\u00e9sente tout de m\u00eame un co\u00fbt consid\u00e9rable compte tenu du nombre de travailleurs et du temps requis pour traiter les donn\u00e9es afin de construire les syst\u00e8mes d\u2019IA contemporains. Cela constitue un obstacle suppl\u00e9mentaire \u00e0 un acc\u00e8s d\u00e9mocratique et ouvert aux ressources n\u00e9cessaires \u00e0 la cr\u00e9ation et au d\u00e9ploiement de grands mod\u00e8les d\u2019IA (m\u00eame si nous ne pouvons accepter le terme \u00ab d\u00e9mocratique \u00bb pour d\u00e9signer une structure qui repose sur des travailleurs pr\u00e9caires et faiblement r\u00e9mun\u00e9r\u00e9s, qui ne tirent que peu d\u2019avantages de leur travail tout en subissant des pr\u00e9judices et qui sont eux-m\u00eames exclus de cette d\u00e9mocratie imaginaire).<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Cadres de d\u00e9veloppement<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Les cadres de d\u00e9veloppement permettent aux d\u00e9veloppeurs de logiciels de cr\u00e9er et de d\u00e9ployer plus facilement leurs applications de mani\u00e8re structur\u00e9e, pr\u00e9visible et efficace. Ils font partie des pratiques de d\u00e9veloppement standard et ne sont pas propres \u00e0 l\u2019IA. Ils fonctionnent en fournissant des morceaux de code pr\u00e9-\u00e9crits, des flux de travail mod\u00e9lis\u00e9s, des outils d\u2019\u00e9valuation et d\u2019autres m\u00e9thodes standardis\u00e9es pour les t\u00e2ches de d\u00e9veloppement courantes. Cela contribue \u00e0 cr\u00e9er des syst\u00e8mes informatiques plus fongibles, interop\u00e9rables et testables, tout en minimisant le temps pass\u00e9 \u00e0 \u00ab r\u00e9inventer la roue \u00bb et en \u00e9vitant les bogues facilement introduits lors de la mise en \u0153uvre de syst\u00e8mes \u00e0 partir de z\u00e9ro. Comme pour le d\u00e9veloppement logiciel en g\u00e9n\u00e9ral, le d\u00e9veloppement de l\u2019IA s\u2019appuie sur une poign\u00e9e de frameworks de d\u00e9veloppement open source populaires. Ceux-ci comprennent des r\u00e9f\u00e9rentiels de plus en plus vastes de jeux de donn\u00e9es, des outils de validation des donn\u00e9es, des outils d\u2019\u00e9valuation, des outils de construction de mod\u00e8les, des outils d\u2019entra\u00eenement et d\u2019exportation de mod\u00e8les, des biblioth\u00e8ques de pr\u00e9-entra\u00eenement et bien plus encore, qui, ensemble, fa\u00e7onnent la mani\u00e8re dont l\u2019IA est cr\u00e9\u00e9e et d\u00e9ploy\u00e9e<sup>4<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les deux frameworks de d\u00e9veloppement d\u2019IA dominants sont PyTorch et TensorFlow. Tous deux ont \u00e9t\u00e9 cr\u00e9\u00e9s au sein de grandes entreprises technologiques commerciales, respectivement Meta et Google, qui continuent de les financer et de les maintenir. Il existe bien plus de mod\u00e8les d\u2019IA pr\u00e9-entra\u00een\u00e9s fonctionnant exclusivement au sein du framework PyTorch que de mod\u00e8les fonctionnant avec TensorFlow<sup>33,104<\/sup>. PyTorch est \u00e9galement le framework le plus populaire dans la recherche universitaire en IA, utilis\u00e9 dans la plupart des articles scientifiques<sup>105,106<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">PyTorch a \u00e9t\u00e9 initialement d\u00e9velopp\u00e9 pour un usage interne chez Meta, mais a \u00e9t\u00e9 rendu public en 2017. Bien que PyTorch fonctionne comme une fondation de recherche sous l\u2019\u00e9gide de la Linux Foundation<sup>107<\/sup>, il continue de b\u00e9n\u00e9ficier du soutien financier de Meta<sup>107,108<\/sup> et ses principaux responsables de la maintenance (charg\u00e9s de la gouvernance et de la prise de d\u00e9cision) sont tous des employ\u00e9s de Meta<sup>109<\/sup>. TensorFlow a \u00e9t\u00e9 initialement d\u00e9velopp\u00e9 et publi\u00e9 par Google Brain en 2015 (r\u00e9f.\u2009<sup>110<\/sup>) et continue d\u2019\u00eatre dirig\u00e9 et soutenu financi\u00e8rement par Google, qui emploie \u00e9galement bon nombre de ses principaux contributeurs<sup>111<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les frameworks de d\u00e9veloppement open source offrent des outils qui rendent le processus de d\u00e9veloppement et de d\u00e9ploiement de l\u2019IA plus rapide, plus pr\u00e9visible et plus robuste. Ils pr\u00e9sentent \u00e9galement des avantages importants pour les entreprises qui les d\u00e9veloppent. Ils permettent notamment \u00e0 Meta, \u00e0 Google et \u00e0 ceux qui pilotent le d\u00e9veloppement de ces frameworks de standardiser la construction de l\u2019IA afin que les r\u00e9sultats soient compatibles avec leurs propres plateformes d\u2019entreprise \u2014 garantissant ainsi que leur framework am\u00e8ne les d\u00e9veloppeurs \u00e0 cr\u00e9er des syst\u00e8mes d\u2019IA qui, \u00e0 l\u2019instar des Lego, s\u2019embo\u00eetent parfaitement avec leurs propres syst\u00e8mes d\u2019entreprise<sup>112<\/sup>. Dans le cas de Meta, cela lui permet d\u2019int\u00e9grer et de commercialiser plus facilement les syst\u00e8mes d\u00e9velopp\u00e9s, optimis\u00e9s ou d\u00e9ploy\u00e9s \u00e0 l\u2019aide de PyTorch. Zuckerberg a clairement expos\u00e9 ces avantages pour Meta lors d\u2019une conf\u00e9rence t\u00e9l\u00e9phonique sur les r\u00e9sultats financiers de 2023, au cours de laquelle il a d\u00e9clar\u00e9 : \u00ab [PyTorch] est g\u00e9n\u00e9ralement devenu la norme dans le secteur [\u2026] cela s\u2019est globalement av\u00e9r\u00e9 tr\u00e8s pr\u00e9cieux pour nous [\u2026] Comme il est int\u00e9gr\u00e9 \u00e0 notre pile technologique, lorsqu\u2019il y a des opportunit\u00e9s d\u2019int\u00e9gration avec des produits, il est beaucoup plus facile de s\u2019assurer que les d\u00e9veloppeurs et les autres collaborateurs sont en phase avec ce dont nous avons besoin, compte tenu du fonctionnement de nos syst\u00e8mes. \u00bb<sup>113<\/sup> et a r\u00e9it\u00e9r\u00e9 ce point lors d\u2019une conf\u00e9rence t\u00e9l\u00e9phonique sur les r\u00e9sultats financiers de 2024<sup>31<\/sup>. Cela vaut \u00e9galement pour Google et TensorFlow. Dans le cas de Google, TensorFlow a \u00e9t\u00e9 con\u00e7u pour fonctionner de mani\u00e8re simple et intuitive avec le mat\u00e9riel Tensor Processing Unit (TPU) de Google, cette puissante infrastructure informatique propri\u00e9taire qui est au c\u0153ur de l\u2019activit\u00e9 de calcul IA dans le cloud de Google. Cela permet \u00e0 Google d\u2019optimiser ses offres cloud commerciales pour le d\u00e9veloppement de l\u2019IA, positionnant ainsi ces produits comme le moteur de l\u2019IA. De cette mani\u00e8re, les frameworks de d\u00e9veloppement ouverts peuvent contribuer \u00e0 consolider et \u00e0 renforcer la domination des entreprises en mati\u00e8re d\u2019IA.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Les cadres de d\u00e9veloppement ouverts en IA peuvent \u00e9galement permettre \u00e0 ceux qui financent et orientent leur d\u00e9veloppement de cr\u00e9er des passerelles vers des offres informatiques et autres services rentables. \u00c0 l\u2019instar de la mani\u00e8re dont les repr\u00e9sentants des entreprises orientent la gouvernance des normes Internet \u00e0 l\u2019exclusion des autres<sup>114<\/sup>, les entreprises sp\u00e9cialis\u00e9es dans l\u2019IA fa\u00e7onnent les pratiques de travail des chercheurs et des d\u00e9veloppeurs<sup>33<\/sup> de mani\u00e8re \u00e0 ce que les nouveaux mod\u00e8les d\u2019IA puissent \u00eatre facilement int\u00e9gr\u00e9s et commercialis\u00e9s. Cela conf\u00e8re \u00e0 l\u2019entreprise proposant le cadre un pouvoir indirect consid\u00e9rable au sein de l\u2019\u00e9cosyst\u00e8me : elle forme les d\u00e9veloppeurs, les chercheurs et les \u00e9tudiants qui interagissent avec ces outils aux normes du cadre qu\u2019elle privil\u00e9gie, contribuant ainsi \u00e0 d\u00e9finir \u2014 et, d\u2019une certaine mani\u00e8re, \u00e0 s\u2019approprier \u2014 le domaine de l\u2019IA<sup>4,115<\/sup>.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\">Puissance de calcul<\/h3>\n\n\n\n<p class=\"wp-block-paragraph\">Le d\u00e9veloppement de grands mod\u00e8les d\u2019IA n\u00e9cessite des ensembles de donn\u00e9es massifs, dont le traitement requiert une puissance de calcul consid\u00e9rable<sup>49,76<\/sup>. Le d\u00e9veloppement actuel de l\u2019IA se caract\u00e9rise par une course \u00e0 l\u2019\u00e9chelle<sup>33<\/sup>, des estimations ant\u00e9rieures montrant que la quantit\u00e9 de calcul utilis\u00e9e pour entra\u00eener les mod\u00e8les a \u00e9t\u00e9 multipli\u00e9e par environ 300 000 en 6 \u2009ans, soit une multiplication par environ 8 chaque ann\u00e9e<sup>116<\/sup>, et des estimations r\u00e9centes de l\u2019utilisation des donn\u00e9es indiquant une augmentation de la taille des ensembles de donn\u00e9es d\u2019environ 2,4 fois par an<sup>117<\/sup>. L\u2019acc\u00e8s \u00e0 la puissance de calcul reste un obstacle notable \u00e0 la r\u00e9utilisabilit\u00e9 pratique de nombreux syst\u00e8mes d\u2019IA ouverts, en raison du co\u00fbt \u00e9lev\u00e9 impliqu\u00e9 tant pour l\u2019entra\u00eenement que pour l\u2019ex\u00e9cution de l\u2019inf\u00e9rence (51 686 kWh, 7 571 kWh et 1 \u00d7 10\u22124 kWh pour les co\u00fbts \u00e9nerg\u00e9tiques de l\u2019entra\u00eenement, du r\u00e9glage fin et de l\u2019inf\u00e9rence, respectivement, dans un cas<sup>118<\/sup>) sur de grands mod\u00e8les d\u2019IA \u00e0 grande \u00e9chelle (c\u2019est-\u00e0-dire leur int\u00e9gration dans un produit ou une API en vue d\u2019une utilisation publique g\u00e9n\u00e9ralis\u00e9e). De plus, tirer le maximum de capacit\u00e9 de calcul d\u2019un mat\u00e9riel sp\u00e9cialis\u00e9 n\u00e9cessite des syst\u00e8mes logiciels sp\u00e9cialis\u00e9s et, dans certains cas, propri\u00e9taires.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">On ne saurait trop insister sur la position dominante de Nvidia dans ce domaine : l\u2019entreprise d\u00e9tient une part de march\u00e9 de 70 \u00e0 90 % pour les puces d\u2019IA de pointe<sup>119<\/sup>. De plus, plus de quatre millions de d\u00e9veloppeurs s\u2019appuient sur CUDA<sup>120<\/sup>, le \u00ab standard de facto de l\u2019industrie \u00bb<sup>121<\/sup>, un framework en partie propri\u00e9taire d\u00e9velopp\u00e9 par Nvidia qui ne prend en charge l\u2019entra\u00eenement que sur les processeurs graphiques propri\u00e9taires de l\u2019entreprise (GPU) de l\u2019entreprise (des processeurs informatiques sp\u00e9cialis\u00e9s, initialement d\u00e9velopp\u00e9s pour les jeux vid\u00e9o, d\u00e9sormais principalement utilis\u00e9s pour l\u2019entra\u00eenement en IA car ils permettent d\u2019effectuer rapidement de nombreux calculs en parall\u00e8le). L\u2019\u00e9cosyst\u00e8me de d\u00e9veloppement CUDA est un \u00e9l\u00e9ment cl\u00e9 de la puissante domination de Nvidia sur le march\u00e9<sup>49<\/sup> (la part de march\u00e9 de l\u2019entreprise s\u2019\u00e9levant \u00e0 88 % pour les GPU<sup>122<\/sup>) ; il a \u00e9t\u00e9 entretenu et \u00e9tendu depuis 2006, ce qui lui a donn\u00e9 une longueur d\u2019avance consid\u00e9rable. \u00c0 l\u2019instar de l\u2019\u00e9cosyst\u00e8me de d\u00e9veloppeurs d\u2019Apple \u2014 qui offre aux personnes souhaitant cr\u00e9er des applications et des services pour les syst\u00e8mes d\u2019exploitation propri\u00e9taires de l\u2019entreprise des composants de haute qualit\u00e9 \u2014, CUDA fournit aux chercheurs et d\u00e9veloppeurs en IA des ressources \u00e9tendues et qui font r\u00e9f\u00e9rence.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">En bref, les ressources de calcul n\u00e9cessaires pour cr\u00e9er de nouveaux mod\u00e8les d\u2019IA et utiliser ceux qui existent d\u00e9j\u00e0 \u00e0 grande \u00e9chelle, en dehors des contextes d\u2019entreprises privatis\u00e9es et des exp\u00e9rimentations individuelles, sont rares, extr\u00eamement co\u00fbteuses et concentr\u00e9es entre les mains d\u2019une poign\u00e9e d\u2019entreprises seulement (avec Nvidia \u00e0 leur t\u00eate<sup>49,122<\/sup>), qui b\u00e9n\u00e9ficient elles-m\u00eames d\u2019\u00e9conomies d\u2019\u00e9chelle, de la capacit\u00e9 \u00e0 contr\u00f4ler les logiciels optimisant le calcul et de la possibilit\u00e9 de vendre un acc\u00e8s co\u00fbteux aux ressources de calcul<sup>33,123<\/sup>. La fluidit\u00e9 de l\u2019int\u00e9gration entre la fourniture de ressources de calcul et l\u2019acc\u00e8s aux mod\u00e8les est consid\u00e9r\u00e9e par certains comme un moteur de la demande envers les fournisseurs d\u2019infrastructures cloud<sup>124,125<\/sup>, ce qui sugg\u00e8re en outre que c\u2019est la ma\u00eetrise d\u2019un \u00e9cosyst\u00e8me, plut\u00f4t que la capacit\u00e9 \u00e0 produire un mod\u00e8le ou une offre de produits performants, qui d\u00e9termine la comp\u00e9titivit\u00e9 en mati\u00e8re d\u2019IA.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Conclusion<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">En d\u00e9cortiquant les \u00e9l\u00e9ments qui, ensemble, composent les syst\u00e8mes d\u2019IA modernes et en examinant lesquels de ces \u00e9l\u00e9ments peuvent ou ne peuvent pas \u00eatre rendus ouverts, nous dressons une carte de l\u2019IA ouverte qui montre que, m\u00eame dans sa forme la plus pouss\u00e9e, l\u2019IA ouverte d\u00e9pend fortement des ressources d\u2019un petit nombre de grandes entreprises, qui contr\u00f4lent de fait le secteur de l\u2019IA et l\u2019\u00e9cosyst\u00e8me de la recherche au-del\u00e0.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">C\u2019est pourquoi la poursuite d\u2019une IA, m\u00eame la plus ouverte qui soit, ne conduira pas \u00e0 elle seule \u00e0 un \u00e9cosyst\u00e8me plus diversifi\u00e9, plus responsable ou plus d\u00e9mocratis\u00e9, m\u00eame si elle peut pr\u00e9senter d\u2019autres avantages. Nous constatons \u00e9galement que, comme par le pass\u00e9, les grandes entreprises technologiques en lice pour s\u2019assurer un avantage en mati\u00e8re d\u2019IA utilisent l\u2019IA ouverte pour consolider leur position dominante sur le march\u00e9, tout en brandissant le slogan de l\u2019ouverture pour d\u00e9tourner l\u2019attention des accusations de monopole dans le domaine de l\u2019IA et de la r\u00e9glementation qui en d\u00e9coule<sup>1<\/sup>. La r\u00e9alit\u00e9 est que, quelle que soit leur ouverture, lorsque les syst\u00e8mes d\u2019IA sont d\u00e9ploy\u00e9s \u00e0 grande \u00e9chelle dans des domaines sensibles, ils peuvent avoir des effets diffus et profonds qui ne devraient pas \u00eatre d\u00e9termin\u00e9s par la poign\u00e9e d\u2019entreprises \u00e0 but lucratif qui contr\u00f4lent actuellement les ressources n\u00e9cessaires pour cr\u00e9er et d\u00e9ployer ces syst\u00e8mes \u00e0 grande \u00e9chelle, les mettant ainsi \u00e0 la disposition des millions de clients qui en seront directement affect\u00e9s, en particulier lorsque ces effets ne peuvent \u00eatre pr\u00e9vus simplement en examinant le code du syst\u00e8me, les poids des mod\u00e8les et la documentation. La cr\u00e9ation d\u2019alternatives significatives au mod\u00e8le actuel d\u2019IA ne se fera pas uniquement par la poursuite d\u2019un d\u00e9veloppement ouvert de l\u2019IA, m\u00eame si des \u00e9l\u00e9ments tels que la transparence des donn\u00e9es et la documentation sont pr\u00e9cieux pour la responsabilit\u00e9, et que les projets d\u2019IA aussi ouverts que possible illustrent utilement les limites du possible. Concentrer l\u2019intervention politique sur la question de savoir si l\u2019IA sera ouverte ou ferm\u00e9e d\u00e9tourne l\u2019attention de la nature extr\u00eamement opaque de la plupart des syst\u00e8mes d\u2019IA d\u2019entreprise, qu\u2019ils soient ouverts ou ferm\u00e9s, ce qui, en retour, d\u00e9tourne une \u00e9nergie et une initiative pr\u00e9cieuses des questions relatives aux implications de l\u2019IA dans la pratique.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u00c0 moins d\u2019\u00eatre accompagn\u00e9e d\u2019autres mesures \u00e9nergiques visant \u00e0 lutter contre la concentration du pouvoir dans le domaine de l\u2019IA, notamment l\u2019application des lois antitrust et la protection de la vie priv\u00e9e, la recherche de l\u2019ouverture ne sera probablement pas, \u00e0 elle seule, source d\u2019avantages significatifs. En effet, les conditions de transparence, ainsi que les infrastructures n\u00e9cessaires \u00e0 la r\u00e9utilisation et \u00e0 l\u2019extension, continueront d\u2019\u00eatre d\u00e9finies par ces m\u00eames entreprises puissantes, qui ne seront gu\u00e8re enclines \u00e0 accepter des contr\u00f4les significatifs allant \u00e0 l\u2019encontre de leurs motivations de profit et de croissance.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Nous avons besoin d\u2019un champ d\u2019action plus large pour le d\u00e9veloppement de l\u2019IA et d\u2019une plus grande diversit\u00e9 de m\u00e9thodes, ainsi que d\u2019un soutien aux technologies qui r\u00e9pondent de mani\u00e8re plus significative aux besoins du public, et non \u00e0 des int\u00e9r\u00eats commerciaux. Et nous avons besoin d\u2019un espace pour nous demander \u00ab pourquoi l\u2019IA \u00bb dans le contexte de nombreux d\u00e9fis sociaux et \u00e9cologiques urgents. Cr\u00e9er les conditions permettant de rendre ces alternatives possibles est un projet qui peut coexister avec la r\u00e9glementation, voire \u00eatre soutenu par celle-ci. Mais placer tous nos espoirs dans une IA \u00ab ouverte \u00bb de mani\u00e8re isol\u00e9e ne nous m\u00e8nera pas vers ce monde et pourrait, \u00e0 bien des \u00e9gards, aggraver la situation, car les d\u00e9cideurs politiques et le public misent leurs espoirs et leur \u00e9lan sur l\u2019IA ouverte<sup>126<\/sup>, en partant du principe qu\u2019elle apportera des avantages qu\u2019elle ne peut offrir dans un contexte de concentration du pouvoir des entreprises.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">R\u00e9f\u00e9rences<\/h2>\n\n\n\n<ol class=\"wp-block-list\">\n<li>LeCun, Y. Testimony before the U.S. Senate Select Committee on Intelligence (2023).<\/li>\n\n\n\n<li>Luitse, D. &amp; Denkena, W. The great transformer: examining the role of large language models in the political economy of AI. <em>Big Data Soc.<\/em> <strong>8<\/strong>, 20539517211047734 (2021).<\/li>\n\n\n\n<li>Rikap, C. Same End By Different Means: Google, Amazon, Microsoft and Meta\u2019s Strategies to Organize Their Frontier AI Innovation Systems. City, University of London <a href=\"https:\/\/www.cdh.cam.ac.uk\/wp-content\/uploads\/2023\/06\/8.-Rikap-2023-Same-end-different-means-longer-version-CITYPERC.pdf\">https:\/\/www.cdh.cam.ac.uk\/wp-content\/uploads\/2023\/06\/8.-Rikap-2023-Same-end-different-means-longer-version-CITYPERC.pdf<\/a> (2023).<\/li>\n\n\n\n<li>Whittaker, M. The steep cost of capture. Interactions 28, 50\u201355 (2021). Through a historical analysis of the military\u2019s influence over AI of the past, this piece <strong>shows how AI of the present depends on resources held by a few companies, thus allowing them to capture AI research agendas<\/strong>.<\/li>\n\n\n\n<li>Luitse, D. Platform power in AI: the evolution of cloud infrastructures in the political economy of artificial intelligence. Internet Policy Rev. 13, 1\u201344 (2024).<\/li>\n\n\n\n<li>O\u2019Brien, M. White House wades into debate on \u2018open\u2019 versus \u2018closed\u2019 artificial intelligence systems. Associated Press <a href=\"https:\/\/apnews.com\/article\/ai-executive-order-biden-opensource-models-1c42092e55729d731d246440094f7fed\">https:\/\/apnews.com\/article\/ai-executive-order-biden-opensource-models-1c42092e55729d731d246440094f7fed<\/a> (2024).<\/li>\n\n\n\n<li>Staff in the Office of Technology. On Open-Weights Foundation Models. Federal Trade Commission <a href=\"https:\/\/www.ftc.gov\/policy\/advocacy-research\/tech-at-ftc\/2024\/07\/open-weights-foundation-models\">https:\/\/www.ftc.gov\/policy\/advocacy-research\/tech-at-ftc\/2024\/07\/open-weights-foundation-models<\/a> (2024).<\/li>\n\n\n\n<li>Competition &amp; Markets Authority. CMA AI strategic update. UK Government <a href=\"https:\/\/www.gov.uk\/government\/publications\/cma-ai-strategic-update\/cma-ai-strategic-update\">https:\/\/www.gov.uk\/government\/publications\/cma-ai-strategic-update\/cma-ai-strategic-update<\/a> (2024).<\/li>\n\n\n\n<li>Bommasani, R. et al. Considerations for Governing Open Foundation Models. Stanford University <a href=\"https:\/\/hai.stanford.edu\/issue-brief-considerations-governing-open-foundation-models\">https:\/\/hai.stanford.edu\/issue-brief-considerations-governing-open-foundation-models<\/a> (2023).<\/li>\n\n\n\n<li>Karabus, J. GitHub CEO says EU AI Act shouldn\u2019t apply to open source devs. The Register <a href=\"https:\/\/www.theregister.com\/2023\/02\/07\/github_ceo_ai_act\/\">https:\/\/www.theregister.com\/2023\/02\/07\/github_ceo_ai_act\/<\/a> (2023).<\/li>\n\n\n\n<li>Deutsch, J. OpenAI Backs Idea of Requiring Licenses for Advanced AI Systems. Bloomberg <a href=\"https:\/\/www.bloomberg.com\/news\/articles\/2023-07-20\/internal-policy-memo-shows-how-openai-is-willing-to-be-regulated\">https:\/\/www.bloomberg.com\/news\/articles\/2023-07-20\/internal-policy-memo-shows-how-openai-is-willing-to-be-regulated<\/a> (2023).<\/li>\n\n\n\n<li>Kapoor, S. et al. Position: On the societal impact of open foundation models. Proc. Machine Learning Res. 235, 23082\u201323104 (2024).<\/li>\n\n\n\n<li>Seger, E. et al. Open-sourcing highly capable foundation models: an evaluation of risks, benefits, and alternative methods for pursuing open-source objectives. Preprint at <a href=\"http:\/\/arxiv.org\/abs\/2311.09227\">http:\/\/arxiv.org\/abs\/2311.09227<\/a> (2023).<\/li>\n\n\n\n<li>Bommasani, R. et al. The Foundation Model Transparency Index. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2310.12941\">https:\/\/doi.org\/10.48550\/arXiv.2310.12941<\/a> (2023).<\/li>\n\n\n\n<li>Liesenfeld, A., Lopez, A. &amp; Dingemanse, M. in Proc. 5th International Conference on Conversational User Interfaces 1\u20136 <a href=\"https:\/\/doi.org\/10.1145\/3571884.3604316\">https:\/\/doi.org\/10.1145\/3571884.3604316<\/a> (ACM, 2023).<\/li>\n\n\n\n<li>Suchman, L. The uncontroversial \u2018thingness\u2019 of AI. Big Data Soc. 10, 20539517231206794 (2023). An important short piece problematizing the stability of the notion of \u2018AI\u2019.<\/li>\n\n\n\n<li>Gent, E. The tech industry can\u2019t agree on what open-source AI means. That\u2019s a problem. MIT Technology Review <a href=\"https:\/\/www.technologyreview.com\/2024\/03\/25\/1090111\/tech-industry-open-source-ai-definition-problem\/\">https:\/\/www.technologyreview.com\/2024\/03\/25\/1090111\/tech-industry-open-source-ai-definition-problem\/<\/a> (2024).<\/li>\n\n\n\n<li>Open Source Initiative. The Open Source AI Definition \u2013 1.0. Open Source Initiative <a href=\"https:\/\/opensource.org\/ai\/open-source-ai-definition\">https:\/\/opensource.org\/ai\/open-source-ai-definition<\/a> (2024).<\/li>\n\n\n\n<li>Coleman, E. G. Coding Freedom: The Ethics and Aesthetics of Hacking (Princeton Univ. Press, 2013). An ethnography examining the politics and ethics of free and open source software communities.<\/li>\n\n\n\n<li>Kelty, C. M. Two Bits: The Cultural Significance of Free Software (Duke Univ. Press, 2008).<\/li>\n\n\n\n<li>Meneely, A. &amp; Williams, L. in Proc. 16th ACM Conference on Computer and Communications Security 453\u2013462 <a href=\"https:\/\/doi.org\/10.1145\/1653662.1653717\">https:\/\/doi.org\/10.1145\/1653662.1653717<\/a> (ACM, 2009).<\/li>\n\n\n\n<li>Rosenberg, J. The meaning of open. Google Public Policy Blog <a href=\"https:\/\/publicpolicy.googleblog.com\/2009\/12\/meaning-of-open.html\">https:\/\/publicpolicy.googleblog.com\/2009\/12\/meaning-of-open.html<\/a> (2009).<\/li>\n\n\n\n<li>Alexy, O. Free Revealing: How Firms Can Profit From Being Open (Springer, 2009).<\/li>\n\n\n\n<li>IBM. A strong history and commitment to open source. IBM <a href=\"https:\/\/www.ibm.com\/opensource\/story\/\">https:\/\/www.ibm.com\/opensource\/story\/<\/a>.<\/li>\n\n\n\n<li>AT.40099 &#8211; Google Android. European Commission <a href=\"https:\/\/competition-cases.ec.europa.eu\/cases\/AT.40099\">https:\/\/competition-cases.ec.europa.eu\/cases\/AT.40099<\/a> (2015).<\/li>\n\n\n\n<li>Barr, J. Amazon DocumentDB (with MongoDB Compatibility): Fast, Scalable, and Highly Available. AWS News Blog <a href=\"https:\/\/aws.amazon.com\/blogs\/aws\/new-amazon-documentdb-with-mongodb-compatibility-fast-scalable-and-highly-available\/\">https:\/\/aws.amazon.com\/blogs\/aws\/new-amazon-documentdb-with-mongodb-compatibility-fast-scalable-and-highly-available\/<\/a> (2019).<\/li>\n\n\n\n<li>Staff in the Office of Technology. Cloud Computing: Taking Stock and Looking Ahead. Federal Trade Commission <a href=\"https:\/\/www.ftc.gov\/news-events\/events\/2023\/05\/cloud-computing-taking-stock-looking-ahead\">https:\/\/www.ftc.gov\/news-events\/events\/2023\/05\/cloud-computing-taking-stock-looking-ahead<\/a> (2023).<\/li>\n\n\n\n<li>McLaughlin, K. &amp; Gardizy, A. After Years of Resistance, AWS Opens Checkbook for Open-Source Providers. The Information <a href=\"https:\/\/www.theinformation.com\/articles\/after-years-of-resistance-aws-opens-checkbook-for-open-source-providers\">https:\/\/www.theinformation.com\/articles\/after-years-of-resistance-aws-opens-checkbook-for-open-source-providers<\/a> (2023).<\/li>\n\n\n\n<li>Asay, M. &amp; Mehla, A. MongoDB and AWS Expand Global Collaboration. MongoDB <a href=\"https:\/\/www.mongodb.com\/blog\/post\/mongodb-aws-expand-global-collaboration\">https:\/\/www.mongodb.com\/blog\/post\/mongodb-aws-expand-global-collaboration<\/a> (2022).<\/li>\n\n\n\n<li>Zuckerberg, M. Open Source AI Is the Path Forward. Meta <a href=\"https:\/\/about.fb.com\/news\/2024\/07\/open-source-ai-is-the-path-forward\/\">https:\/\/about.fb.com\/news\/2024\/07\/open-source-ai-is-the-path-forward\/<\/a> (2024).<\/li>\n\n\n\n<li>Zuckerberg, M. &amp; Dorell, K. Fourth Quarter 2023 Results conference call (2024).<\/li>\n\n\n\n<li>Ojewale, V., Steed, R., Vecchione, B., Birhane, A. &amp; Raji, I. D. Towards AI accountability infrastructure: gaps and opportunities in AI audit tooling. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2402.17861\">https:\/\/doi.org\/10.48550\/arXiv.2402.17861<\/a> (2024).<\/li>\n\n\n\n<li>Gururaja, S., Bertsch, A., Na, C., Widder, D. &amp; Strubell, E. in Proc. 2023 Conference on Empirical Methods in Natural Language Processing (eds Bouamor, H., Pino, J. &amp; Bali, K.) 13310\u201313325 <a href=\"https:\/\/doi.org\/10.18653\/v1\/2023.emnlp-main.822\">https:\/\/doi.org\/10.18653\/v1\/2023.emnlp-main.822<\/a> (Association for Computational Linguistics, 2023). This is an interview study of academic NLP researchers on the incentives governing their field and on the effect of corporate power in their practice.<\/li>\n\n\n\n<li>Khan, L. M. Sources of tech platform power. Georgetown Law Technol. Rev. 2, 325 (2018).<\/li>\n\n\n\n<li>Vipra, J. &amp; Korinek, A. Market concentration implications of foundation models: the invisible hand of ChatGPT. Brookings Center on Regulation and Markets <a href=\"https:\/\/www.brookings.edu\/articles\/market-concentration-implications-of-foundation-models-the-invisible-hand-of-chatgpt\/\">https:\/\/www.brookings.edu\/articles\/market-concentration-implications-of-foundation-models-the-invisible-hand-of-chatgpt\/<\/a> (2023).<\/li>\n\n\n\n<li>Ezrachi, A. &amp; Stucke, M. E. Virtual Competition: The Promise and Perils of the Algorithm-Driven Economy (Harvard Univ. Press, 2019).<\/li>\n\n\n\n<li>OECD. Artificial intelligence, data and competition. OECD <a href=\"https:\/\/www.oecd.org\/en\/publications\/artificial-intelligence-data-and-competition_e7e88884-en.html\">https:\/\/www.oecd.org\/en\/publications\/artificial-intelligence-data-and-competition_e7e88884-en.html<\/a> (2024).<\/li>\n\n\n\n<li>Competition and Markets Authority, UK Government. AI Foundation Models Technical Update Report. UK Government <a href=\"https:\/\/www.gov.uk\/cma-cases\/ai-foundation-models-initial-review\">https:\/\/www.gov.uk\/cma-cases\/ai-foundation-models-initial-review<\/a> (2024).<\/li>\n\n\n\n<li>West, S. M. &amp; Kak, A. AI Now 2023 Landscape: Confronting Tech Power. AI Now Institute <a href=\"https:\/\/ainowinstitute.org\/2023-landscape\">https:\/\/ainowinstitute.org\/2023-landscape<\/a> (2023).<\/li>\n\n\n\n<li>Nathan, A., Grimberg, J. &amp; Rhodes, A. Gen AI: Too Much Spend, Too Little Benefit? Goldman Sachs <a href=\"https:\/\/www.goldmansachs.com\/intelligence\/pages\/gs-research\/gen-ai-too-much-spend-too-little-benefit\/report.pdf\">https:\/\/www.goldmansachs.com\/intelligence\/pages\/gs-research\/gen-ai-too-much-spend-too-little-benefit\/report.pdf<\/a> (2024).<\/li>\n\n\n\n<li>Solaiman, I. in Proc. 2023 ACM Conference on Fairness, Accountability, and Transparency 111\u2013122 <a href=\"https:\/\/doi.org\/10.1145\/3593013.3593981\">https:\/\/doi.org\/10.1145\/3593013.3593981<\/a> (ACM, 2023). This is a key piece that was the first to argue that AI is not \u2018binary\u2019 in an AI context.<\/li>\n\n\n\n<li>Meta. Introducing Meta Llama 3: The most capable openly available LLM to date. Meta AI <a href=\"https:\/\/ai.meta.com\/blog\/meta-llama-3\/\">https:\/\/ai.meta.com\/blog\/meta-llama-3\/<\/a> (2024).<\/li>\n\n\n\n<li>Meta. Meta Llama 3 License. Meta <a href=\"https:\/\/llama.meta.com\/llama3\/license\/\">https:\/\/llama.meta.com\/llama3\/license\/<\/a> (2024).<\/li>\n\n\n\n<li>Maffulli, S. Meta\u2019s LLaMa 2 license is not Open Source. Open Source Initiative <a href=\"https:\/\/opensource.org\/blog\/metas-llama-2-license-is-not-open-source\">https:\/\/opensource.org\/blog\/metas-llama-2-license-is-not-open-source<\/a> (2023).<\/li>\n\n\n\n<li>Nolan, M. Llama and ChatGPT Are Not Open-Source. IEEE Spectrum <a href=\"https:\/\/spectrum.ieee.org\/open-source-llm-not-open\">https:\/\/spectrum.ieee.org\/open-source-llm-not-open<\/a> (2023).<\/li>\n\n\n\n<li>Hull, C. Is Llama 2 open source? No &#8211; and perhaps we need a new definition of open\u2026 OpenSource Connections <a href=\"https:\/\/opensourceconnections.com\/blog\/2023\/07\/19\/is-llama-2-open-source-no-and-perhaps-we-need-a-new-definition-of-open\/\">https:\/\/opensourceconnections.com\/blog\/2023\/07\/19\/is-llama-2-open-source-no-and-perhaps-we-need-a-new-definition-of-open\/<\/a> (2023).<\/li>\n\n\n\n<li>Buchanan, B. The AI Triad and What It Means for National Security Strategy. Center for Security and Emerging Technology <a href=\"https:\/\/cset.georgetown.edu\/publication\/the-ai-triad-and-what-it-means-for-national-security-strategy\/\">https:\/\/cset.georgetown.edu\/publication\/the-ai-triad-and-what-it-means-for-national-security-strategy\/<\/a> (2020).<\/li>\n\n\n\n<li>Musser, M., Gelles, R., Kinoshita, R., Aiken, C. &amp; Lohn, A. The Main Resource Is the Human. Center for Security and Emerging Technology <a href=\"https:\/\/cset.georgetown.edu\/publication\/the-main-resource-is-the-human\/\">https:\/\/cset.georgetown.edu\/publication\/the-main-resource-is-the-human\/<\/a> (2023).<\/li>\n\n\n\n<li>Vipra, J. &amp; West, S. M. Computational Power and AI. AI Now Institute <a href=\"https:\/\/ainowinstitute.org\/publication\/policy\/compute-and-ai\">https:\/\/ainowinstitute.org\/publication\/policy\/compute-and-ai<\/a> (2023).<\/li>\n\n\n\n<li>Dettmers, T., Pagnoni, A., Holtzman, A. &amp; Zettlemoyer, L. QLoRA: Efficient Finetuning of Quantized LLMs. Proc. 37th Int. Conf. Neural Inf. Process. (NIPS &rsquo;23) Article 441, 10088\u201310115 (Curran Assoc., Red Hook, NY, 2024).<\/li>\n\n\n\n<li>Birhane, A., Prabhu, V., Han, S., Boddeti, V. N. &amp; Luccioni, A. S. Into the LAION&rsquo;s Den: Investigating Hate in Multimodal Datasets. 37th Conf. Neural Inf. Process. Syst. Datasets Benchmarks Track <a href=\"https:\/\/openreview.net\/forum?id=6URyQ9QhYv\">https:\/\/openreview.net\/forum?id=6URyQ9QhYv<\/a> (2023).<\/li>\n\n\n\n<li>Gerchick, M. et al. in Proc. 2023 ACM Conference on Fairness, Accountability, and Transparency 1292\u20131310 <a href=\"https:\/\/doi.org\/10.1145\/3593013.3594081\">https:\/\/doi.org\/10.1145\/3593013.3594081<\/a> (ACM, 2023).<\/li>\n\n\n\n<li>Rudin, C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat. Mach. Intell. 1, 206\u2013215 (2019).<\/li>\n\n\n\n<li>Lipton, Z. C. The mythos of model interpretability: in machine learning, the concept of interpretability is both important and slippery. Queue 16, 31\u201357 (2018).<\/li>\n\n\n\n<li>Poursabzi-Sangdeh, F., Goldstein, D. G., Hofman, J. M., Wortman Vaughan, J. W. &amp; Wallach, H. in Proc. 2021 CHI Conference on Human Factors in Computing Systems 1\u201352 <a href=\"https:\/\/doi.org\/10.1145\/3411764.3445315\">https:\/\/doi.org\/10.1145\/3411764.3445315<\/a> (ACM, 2021).<\/li>\n\n\n\n<li>EleutherAI. License &#8211; EleutherAI\/gpt-neox. GitHub <a href=\"https:\/\/github.com\/EleutherAI\/gpt-neox?tab=Apache-2.0-1-ov-file\">https:\/\/github.com\/EleutherAI\/gpt-neox?tab=Apache-2.0-1-ov-file<\/a> (2024).<\/li>\n\n\n\n<li>Metz, C. Mistral, French A.I. Start-Up, Is Valued at $2 Billion in Funding Round. The New York Times <a href=\"https:\/\/www.nytimes.com\/2023\/12\/10\/technology\/mistral-ai-funding.html\">https:\/\/www.nytimes.com\/2023\/12\/10\/technology\/mistral-ai-funding.html<\/a> (2023).<\/li>\n\n\n\n<li>Mistral AI. <a href=\"https:\/\/mistral.ai\/\">https:\/\/mistral.ai\/<\/a>.<\/li>\n\n\n\n<li>Boyd, E. Introducing Mistral-Large on Azure in partnership with Mistral AI. Microsoft Azure Blog <a href=\"https:\/\/azure.microsoft.com\/en-us\/blog\/microsoft-and-mistral-ai-announce-new-partnership-to-accelerate-ai-innovation-and-introduce-mistral-large-first-on-azure\/\">https:\/\/azure.microsoft.com\/en-us\/blog\/microsoft-and-mistral-ai-announce-new-partnership-to-accelerate-ai-innovation-and-introduce-mistral-large-first-on-azure\/<\/a> (2024).<\/li>\n\n\n\n<li>Touvron, H. et al. Llama 2: open foundation and fine-tuned chat models. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2307.09288\">https:\/\/doi.org\/10.48550\/arXiv.2307.09288<\/a> (2023).<\/li>\n\n\n\n<li>Bender, E. M., Gebru, T., McMillan-Major, A. &amp; Shmitchell, S. in Proc. 2021 ACM Conference on Fairness, Accountability, and Transparency 610\u2013623 <a href=\"https:\/\/doi.org\/10.1145\/3442188.3445922\">https:\/\/doi.org\/10.1145\/3442188.3445922<\/a> (ACM, 2021). This article documents that the creation of massive training datasets renders them difficult to scrutinize and increasingly opaque.<\/li>\n\n\n\n<li>Bertsch, A. et al. in Proc. 4th Workshop on Gender Bias in Natural Language Processing (GeBNLP) (eds Hardmeier, C., Basta, C., Costa-juss\u00e0, M. R., Stanovsky, G. &amp; Gonen, H.) 235\u2013243 <a href=\"https:\/\/doi.org\/10.18653\/v1\/2022.gebnlp-1.24\">https:\/\/doi.org\/10.18653\/v1\/2022.gebnlp-1.24<\/a> (Association for Computational Linguistics, 2022).<\/li>\n\n\n\n<li>Longpre, S. et al. A Pretrainer\u2019s Guide to Training Data: Measuring the Effects of Data Age, Domain Coverage, Quality, &amp; Toxicity. Proc. 24 Conf. N. Am. Ch. Assoc. Comp. Linguistics Hum. Language Tech. Vol. 1, 3245\u20133276 (Assoc. Comp. Linguistics, Mexico City, Mexico, 2023).<\/li>\n\n\n\n<li>Widder, D. G. &amp; Nafus, D. Dislocated accountabilities in the \u201cAI supply chain\u201d: modularity and developers\u2019 notions of responsibility. Big Data Soc. 10, 20539517231177620 (2023).<\/li>\n\n\n\n<li>Almazrouei, E. et al. The Falcon series of open language models. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2311.16867\">https:\/\/doi.org\/10.48550\/arXiv.2311.16867<\/a> (2023).<\/li>\n\n\n\n<li>The MosaicML NLP Team. Introducing MPT-7B: A New Standard for Open-Source, Commercially Usable LLMs. Databricks <a href=\"https:\/\/www.databricks.com\/blog\/mpt-7b\">https:\/\/www.databricks.com\/blog\/mpt-7b<\/a> (2023).<\/li>\n\n\n\n<li>Scao, T. L. et al. BLOOM: a 176B-parameter open-access multilingual language model. Preprint at <a href=\"https:\/\/arxiv.org\/abs\/2211.05100\">https:\/\/arxiv.org\/abs\/2211.05100<\/a> (2023).<\/li>\n\n\n\n<li>Osman, L. &amp; Sewell, D. Hugging Face. Contrary Research <a href=\"https:\/\/research.contrary.com\/company\/hugging-face\">https:\/\/research.contrary.com\/company\/hugging-face<\/a> (2022).<\/li>\n\n\n\n<li>EleutherAI. EleutherAI &#8211; About. EleutherAI <a href=\"https:\/\/www.eleuther.ai\/about\">https:\/\/www.eleuther.ai\/about<\/a>.<\/li>\n\n\n\n<li>Edwards, B. You can now run a GPT-3-level AI model on your laptop, phone, and Raspberry Pi. Ars Technica <a href=\"https:\/\/arstechnica.com\/information-technology\/2023\/03\/you-can-now-run-a-gpt-3-level-ai-model-on-your-laptop-phone-and-raspberry-pi\/\">https:\/\/arstechnica.com\/information-technology\/2023\/03\/you-can-now-run-a-gpt-3-level-ai-model-on-your-laptop-phone-and-raspberry-pi\/<\/a> (2023).<\/li>\n\n\n\n<li>Germain, T. Stanford Researchers Take Down Alpaca AI Due to \u2018Hallucinations\u2019 and Rising Costs. Gizmodo Australia <a href=\"https:\/\/gizmodo.com\/stanford-ai-alpaca-llama-facebook-taken-down-chatgpt-1850247570\">https:\/\/gizmodo.com\/stanford-ai-alpaca-llama-facebook-taken-down-chatgpt-1850247570<\/a> (2023).<\/li>\n\n\n\n<li>OpenAI. GPT-4 technical report. Preprint at <a href=\"http:\/\/arxiv.org\/abs\/2303.08774\">http:\/\/arxiv.org\/abs\/2303.08774<\/a> (2023).<\/li>\n\n\n\n<li>Anthropic. The Claude 3 Model Family: Opus, Sonnet, Haiku. Anthropic <a href=\"https:\/\/www-cdn.anthropic.com\/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627\/Model_Card_Claude_3.pdf\">https:\/\/www-cdn.anthropic.com\/de8ba9b01c9ab7cbabf5c33b80b7bbc618857627\/Model_Card_Claude_3.pdf<\/a>.<\/li>\n\n\n\n<li>Mensch, A. mistralai\/Mistral-7B-v0.1. Training data? Hugging Face <a href=\"https:\/\/huggingface.co\/mistralai\/Mistral-7B-v0.1\/discussions\/8\">https:\/\/huggingface.co\/mistralai\/Mistral-7B-v0.1\/discussions\/8<\/a> (2023).<\/li>\n\n\n\n<li>Xu, H. et al. Demystifying CLIP data. Preprint at <a href=\"https:\/\/arxiv.org\/abs\/2309.16671\">https:\/\/arxiv.org\/abs\/2309.16671<\/a> (2023).<\/li>\n\n\n\n<li>Kaplan, J. et al. Scaling laws for neural language models. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2001.08361\">https:\/\/doi.org\/10.48550\/arXiv.2001.08361<\/a> (2020).<\/li>\n\n\n\n<li>Gebru, T. et al. Datasheets for datasets. Commun. ACM 64, 86\u201392 (2021).<\/li>\n\n\n\n<li>GhanaNLP. About Us. GhanaNLP <a href=\"https:\/\/ghananlp.org\/about\">https:\/\/ghananlp.org\/about<\/a>.<\/li>\n\n\n\n<li>Deck, A. The AI startup outperforming Google Translate in Ethiopian languages. Rest of World <a href=\"https:\/\/restofworld.org\/2023\/3-minutes-with-asmelash-teka-hadgu\/\">https:\/\/restofworld.org\/2023\/3-minutes-with-asmelash-teka-hadgu\/<\/a> (2023).<\/li>\n\n\n\n<li>Knibbs, K. Here\u2019s Proof You Can Train an AI Model Without Slurping Copyrighted Content. WIRED <a href=\"https:\/\/www.wired.com\/story\/proof-you-can-train-ai-without-slurping-copyrighted-content\/\">https:\/\/www.wired.com\/story\/proof-you-can-train-ai-without-slurping-copyrighted-content\/<\/a> (2024).<\/li>\n\n\n\n<li>Khan, M. &amp; Hanna, A. The subjects and stages of AI dataset development: a framework for dataset accountability. Ohio State Law J. 19, 171 (2023).<\/li>\n\n\n\n<li>Smith, B. &amp; Nowbar, H. Microsoft announces new Copilot Copyright Commitment for customers. Microsoft On the Issues <a href=\"https:\/\/blogs.microsoft.com\/on-the-issues\/2023\/09\/07\/copilot-copyright-commitment-ai-legal-concerns\/\">https:\/\/blogs.microsoft.com\/on-the-issues\/2023\/09\/07\/copilot-copyright-commitment-ai-legal-concerns\/<\/a> (2023).<\/li>\n\n\n\n<li>Jiang, H. H. et al. in Proc. 2023 AAAI\/ACM Conference on AI, Ethics, and Society 363\u2013374 <a href=\"https:\/\/doi.org\/10.1145\/3600211.3604681\">https:\/\/doi.org\/10.1145\/3600211.3604681<\/a> (ACM, 2023).<\/li>\n\n\n\n<li>Setty, R. Sarah Silverman, Authors Hit OpenAI, Meta With Copyright Suits. Bloomberg Law <a href=\"https:\/\/news.bloomberglaw.com\/ip-law\/sarah-silverman-authors-hit-openai-meta-with-copyright-suits\">https:\/\/news.bloomberglaw.com\/ip-law\/sarah-silverman-authors-hit-openai-meta-with-copyright-suits<\/a> (2023).<\/li>\n\n\n\n<li>Browne, G. AI Is Steeped in Big Tech\u2019s \u2018Digital Colonialism\u2019. WIRED <a href=\"https:\/\/www.wired.com\/story\/abeba-birhane-ai-datasets\/\">https:\/\/www.wired.com\/story\/abeba-birhane-ai-datasets\/<\/a> (2023).<\/li>\n\n\n\n<li>Azunre, P. [@pazunre]. If African AI\/ML researchers are not careful, this new \u201cOpen Source\u201d movement championed by the richest global tech companies will become a mechanism for continued exploitation of our human capital and continent\u2026 [1\/3]. Twitter <a href=\"https:\/\/twitter.com\/pazunre\/status\/1569743778524680192\">https:\/\/twitter.com\/pazunre\/status\/1569743778524680192<\/a> (2022).<\/li>\n\n\n\n<li>Abebe, R. et al. in Proc. 2021 ACM Conference on Fairness, Accountability, and Transparency 329\u2013341 <a href=\"https:\/\/doi.org\/10.1145\/3442188.3445897\">https:\/\/doi.org\/10.1145\/3442188.3445897<\/a> (ACM, 2021).<\/li>\n\n\n\n<li>Com\u00fan, T. Resisting Data Colonialism \u2013 A Practical Intervention (Institute of Network Cultures, 2023).<\/li>\n\n\n\n<li>Te Hiku Media. Kaitiakitanga-License\/LICENSE.md. GitHub <a href=\"https:\/\/github.com\/TeHikuMedia\/Kaitiakitanga-License\/blob\/tumu\/LICENSE.md\">https:\/\/github.com\/TeHikuMedia\/Kaitiakitanga-License\/blob\/tumu\/LICENSE.md<\/a> (2018).<\/li>\n\n\n\n<li>Vincent, J. The lawsuit that could rewrite the rules of AI copyright. The Verge <a href=\"https:\/\/www.theverge.com\/2022\/11\/8\/23446821\/microsoft-openai-github-copilot-class-action-lawsuit-ai-copyright-violation-training-data\">https:\/\/www.theverge.com\/2022\/11\/8\/23446821\/microsoft-openai-github-copilot-class-action-lawsuit-ai-copyright-violation-training-data<\/a> (2022).<\/li>\n\n\n\n<li>Gao, L. et al. The Pile: an 800GB dataset of diverse text for language modeling. Preprint at <a href=\"https:\/\/doi.org\/10.48550\/arXiv.2101.00027\">https:\/\/doi.org\/10.48550\/arXiv.2101.00027<\/a> (2020).<\/li>\n\n\n\n<li>Baack, S. A in Proc. 2024 ACM Conference on Fairness, Accountability, and Transparency 2199\u20132208 <a href=\"https:\/\/doi.org\/10.1145\/3630106.3659033\">https:\/\/doi.org\/10.1145\/3630106.3659033<\/a> (ACM, 2024).<\/li>\n\n\n\n<li>Luccioni, A. S. &amp; Viviano, J. D. What\u2019s In The Box? A Preliminary Analysis of Undesirable Content in the Common Crawl Corpus. Proc. 59th Annu. Meeting Assoc. Comp. Linguistics and 11th Int. Joint Conf. Natural Lang. Processing Vol. 2 182\u2013189 (Assoc. Comp. Linguistics, 2021).<\/li>\n\n\n\n<li>Taylor, A. The Automation Charade. Logic(s) Magazine <a href=\"https:\/\/logicmag.io\/failure\/the-automation-charade\/\">https:\/\/logicmag.io\/failure\/the-automation-charade\/<\/a> (2018).<\/li>\n\n\n\n<li>Williams, A., Miceli, M. &amp; Gebru, T. The Exploited Labor Behind Artificial Intelligence. Noema Magazine <a href=\"https:\/\/www.noemamag.com\/the-exploited-labor-behind-artificial-intelligence\/\">https:\/\/www.noemamag.com\/the-exploited-labor-behind-artificial-intelligence\/<\/a> (2022).<\/li>\n\n\n\n<li>Thylstrup, N. &amp; Talat, Z. Detecting \u2018Dirt\u2019 and \u2018Toxicity\u2019: Rethinking Content Moderation as Pollution Behaviour. SSRN <a href=\"https:\/\/doi.org\/10.2139\/ssrn.3709719\">https:\/\/doi.org\/10.2139\/ssrn.3709719<\/a> (2020).<\/li>\n\n\n\n<li>Christiano, P. et al. Deep Reinforcement Learning From Human Preferences. Proc. 31 Int. Conf. Neural Inf. Processing Syst. (NIPS &rsquo;17) 4302\u20134310 (Curran Assoc., Red Hook, NY, 2017).<\/li>\n\n\n\n<li>Perrigo, B. Exclusive: OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time.com <a href=\"https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/\">https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/<\/a> (2023).<\/li>\n\n\n\n<li>Hao, K. The Hidden Workforce That Helped Filter Violence and Abuse Out of ChatGPT. The Wall Street Journal <a href=\"https:\/\/www.wsj.com\/podcasts\/the-journal\/the-hidden-workforce-that-helped-filter-violence-and-abuse-out-of-chatgpt\/ffc2427f-bdd8-47b7-9a4b-27e7267cf413\">https:\/\/www.wsj.com\/podcasts\/the-journal\/the-hidden-workforce-that-helped-filter-violence-and-abuse-out-of-chatgpt\/ffc2427f-bdd8-47b7-9a4b-27e7267cf413<\/a> (2023).<\/li>\n\n\n\n<li>Hao, K. &amp; Hern\u00e1ndez, A. P. How the AI industry profits from catastrophe. MIT Technology Review <a href=\"https:\/\/www.technologyreview.com\/2022\/04\/20\/1050392\/ai-industry-appen-scale-data-labels\/\">https:\/\/www.technologyreview.com\/2022\/04\/20\/1050392\/ai-industry-appen-scale-data-labels\/<\/a> (2022).<\/li>\n\n\n\n<li>Perrigo, B. 150 African Workers for ChatGPT, TikTok and Facebook Vote to Unionize at Landmark Nairobi Meeting. Time.com <a href=\"https:\/\/time.com\/6275995\/chatgpt-facebook-african-workers-union\/\">https:\/\/time.com\/6275995\/chatgpt-facebook-african-workers-union\/<\/a> (2023).<\/li>\n\n\n\n<li>Mutemi, M. [@MercyMutemi]. On behalf of the young Kenyans whose lives have been ruined because they did the dirty work training the #ChatGPT algorithm, we have filed a petition to @NAssemblyKE to investigate how @OpenAI and @samasource got away with such exploitation and to urgently regulate tech work. <a href=\"https:\/\/t.co\/9seeyGKqFM\">https:\/\/t.co\/9seeyGKqFM<\/a>. Twitter <a href=\"https:\/\/twitter.com\/MercyMutemi\/status\/1678984336996028416\">https:\/\/twitter.com\/MercyMutemi\/status\/1678984336996028416<\/a> (2023).<\/li>\n\n\n\n<li>Irani, L. C. &amp; Silberman, M. S. in Proc. SIGCHI Conference on Human Factors in Computing Systems 611\u2013620 <a href=\"https:\/\/doi.org\/10.1145\/2470654.2470742\">https:\/\/doi.org\/10.1145\/2470654.2470742<\/a> (ACM, 2013).<\/li>\n\n\n\n<li>Foster, K. PyTorch vs TensorFlow: Who has More Pre-trained Deep Learning Models? HackerNoon <a href=\"https:\/\/hackernoon.com\/pytorch-vs-tensorflow-who-has-more-pre-trained-deep-learning-models\">https:\/\/hackernoon.com\/pytorch-vs-tensorflow-who-has-more-pre-trained-deep-learning-models<\/a> (2022).<\/li>\n\n\n\n<li>He, H. The State of Machine Learning Frameworks in 2019. The Gradient <a href=\"https:\/\/thegradient.pub\/state-of-ml-frameworks-2019-pytorch-dominates-research-tensorflow-dominates-industry\/\">https:\/\/thegradient.pub\/state-of-ml-frameworks-2019-pytorch-dominates-research-tensorflow-dominates-industry\/<\/a> (2019).<\/li>\n\n\n\n<li>Paszke, A. et al. PyTorch: An Imperative Style, High-Performance Deep Learning Library. In Proc. 33 Int. Conf. Neural Inf. Processing Syst. Article 721, 8026\u20138037 (Curran Assoc., Red Hook, NY, 2019).<\/li>\n\n\n\n<li>Meta. Announcing the PyTorch Foundation: A new era for the cutting-edge AI framework. Meta <a href=\"https:\/\/ai.meta.com\/blog\/pytorch-foundation\/\">https:\/\/ai.meta.com\/blog\/pytorch-foundation\/<\/a> (2022).<\/li>\n\n\n\n<li>Tarantola, A. Meta is spinning off the Pytorch framework into its own AI research foundation. Engadget <a href=\"https:\/\/www.engadget.com\/meta-is-spinning-off-its-pytorch-ai-framework-into-its-own-research-foundation-140051987.html\">https:\/\/www.engadget.com\/meta-is-spinning-off-its-pytorch-ai-framework-into-its-own-research-foundation-140051987.html<\/a> (2022).<\/li>\n\n\n\n<li>PyTorch Contributors. PyTorch Governance: Maintainers. PyTorch 2.2 documentation. PyTorch <a href=\"https:\/\/pytorch.org\/docs\/stable\/community\/persons_of_interest.html\">https:\/\/pytorch.org\/docs\/stable\/community\/persons_of_interest.html<\/a> (2023).<\/li>\n\n\n\n<li>Metz, C. Google Just Open Sourced TensorFlow, Its Artificial Intelligence Engine. WIRED <a href=\"https:\/\/www.wired.com\/2015\/11\/google-open-sources-its-artificial-intelligence-engine\/\">https:\/\/www.wired.com\/2015\/11\/google-open-sources-its-artificial-intelligence-engine\/<\/a> (2015).<\/li>\n\n\n\n<li>Contributors to tensorflow\/tensorflow. GitHub <a href=\"https:\/\/github.com\/tensorflow\/tensorflow\/graphs\/contributors\">https:\/\/github.com\/tensorflow\/tensorflow\/graphs\/contributors<\/a> (2024).<\/li>\n\n\n\n<li>Engler, A. How open-source software shapes AI policy. Brookings <a href=\"https:\/\/www.brookings.edu\/articles\/how-open-source-software-shapes-ai-policy\/\">https:\/\/www.brookings.edu\/articles\/how-open-source-software-shapes-ai-policy\/<\/a> (2021).<\/li>\n\n\n\n<li>Zuckerberg, M. &amp; Crawford, D. First Quarter 2023 Results conference call (2023).<\/li>\n\n\n\n<li>Cath-Speth, C. J. N. Changing Minds and Machines: A Case Study of Human Rights Advocacy in the Internet Engineering Task Force (IETF). Thesis, Univ. Oxford (2021).<\/li>\n\n\n\n<li>Langenkamp, M. &amp; Yue, D. N. in Proc. 2022 AAAI\/ACM Conference on AI, Ethics, and Society 385\u2013395 <a href=\"https:\/\/doi.org\/10.1145\/3514094.3534167\">https:\/\/doi.org\/10.1145\/3514094.3534167<\/a> (ACM, 2022). This study examines the economic value of open-source AI development.<\/li>\n\n\n\n<li>Schwartz, R., Dodge, J. &amp; Smith, N. A. Green AI. Commun. ACM 63, 54\u201363 (2020).<\/li>\n\n\n\n<li>Villalobos, P. et al. Will we run out of data? Limits of LLM scaling based on human-generated data. Preprint at <a href=\"http:\/\/arxiv.org\/abs\/2211.04325\">http:\/\/arxiv.org\/abs\/2211.04325<\/a> (2024).<\/li>\n\n\n\n<li>Luccioni, S., Jernite, Y. &amp; Strubell, E. in Proc. 2024 ACM Conference on Fairness, Accountability, and Transparency 85\u201399 <a href=\"https:\/\/doi.org\/10.1145\/3630106.3658542\">https:\/\/doi.org\/10.1145\/3630106.3658542<\/a> (ACM, 2024). This paper measures the carbon cost (and therefore, indirectly, the US$ cost) of different AI models, thus giving a scale of the resources they require to run.<\/li>\n\n\n\n<li>Leswing, K. Nvidia dominates the AI chip market, but there\u2019s more competition than ever. CNBC <a href=\"https:\/\/www.cnbc.com\/2024\/06\/02\/nvidia-dominates-the-ai-chip-market-but-theres-rising-competition-.html\">https:\/\/www.cnbc.com\/2024\/06\/02\/nvidia-dominates-the-ai-chip-market-but-theres-rising-competition-.html<\/a> (2024).<\/li>\n\n\n\n<li>Cherney, M. A. Exclusive: Behind the plot to break Nvidia\u2019s grip on AI by targeting software. Reuters <a href=\"https:\/\/www.reuters.com\/technology\/behind-plot-break-nvidias-grip-ai-by-targeting-software-2024-03-25\/\">https:\/\/www.reuters.com\/technology\/behind-plot-break-nvidias-grip-ai-by-targeting-software-2024-03-25\/<\/a> (2024).<\/li>\n\n\n\n<li>Why do Nvidia\u2019s chips dominate the AI market? The Economist <a href=\"https:\/\/www.economist.com\/the-economist-explains\/2024\/02\/27\/why-do-nvidias-chips-dominate-the-ai-market\">https:\/\/www.economist.com\/the-economist-explains\/2024\/02\/27\/why-do-nvidias-chips-dominate-the-ai-market<\/a> (2024).<\/li>\n\n\n\n<li>Dow, R. Shipments of graphics add-in boards decline in Q1 of 24 as the market experiences a return to seasonality. Jon Peddie Research <a href=\"https:\/\/www.jonpeddie.com\/news\/shipments-of-graphics-add-in-boards-decline-in-q1-of-24-as-the-market-experiences-a-return-to-seasonality\/\">https:\/\/www.jonpeddie.com\/news\/shipments-of-graphics-add-in-boards-decline-in-q1-of-24-as-the-market-experiences-a-return-to-seasonality\/<\/a> (2024).<\/li>\n\n\n\n<li>Patel, D. &amp; Nishball, D. Google Gemini Eats The World \u2013 Gemini Smashes GPT-4 By 5X, The GPU-Poors. Semianalysis <a href=\"https:\/\/www.semianalysis.com\/p\/google-gemini-eats-the-world-gemini\">https:\/\/www.semianalysis.com\/p\/google-gemini-eats-the-world-gemini<\/a> (2023).<\/li>\n\n\n\n<li>Dotan, T. Microsoft Earnings Growth Accelerates on Stronger-Than-Expected Cloud Demand. The Wall Street Journal <a href=\"https:\/\/www.wsj.com\/tech\/microsoft-msft-q1-earnings-report-2024-b19e51eb\">https:\/\/www.wsj.com\/tech\/microsoft-msft-q1-earnings-report-2024-b19e51eb<\/a> (2023).<\/li>\n\n\n\n<li>Vyas, I. AI and Machine Learning Integration in SaaS Applications. IEEE Computer Society <a href=\"https:\/\/www.computer.org\/publications\/tech-news\/trends\/ai-and-machine-learning-integration\/\">https:\/\/www.computer.org\/publications\/tech-news\/trends\/ai-and-machine-learning-integration\/<\/a> (2023).<\/li>\n\n\n\n<li>Lowe, L. AI, Startups, &amp; Competition: Shaping California\u2019s Tech Future. Chaindesk <a href=\"https:\/\/www.chaindesk.ai\/tools\/youtube-summarizer\/ai-startups-and-competition-shaping-california-s-tech-future-pieVtTrbDBs\">https:\/\/www.chaindesk.ai\/tools\/youtube-summarizer\/ai-startups-and-competition-shaping-california-s-tech-future-pieVtTrbDBs<\/a> (2024).<\/li>\n<\/ol>\n\n\n\n<hr class=\"wp-block-separator has-alpha-channel-opacity\"\/>\n\n\n\n<p class=\"has-text-align-center has-small-font-size wp-block-paragraph\">Les\u00a0<a href=\"https:\/\/gillesenvrac.ca\/carnet\/trad\/\">traductions<\/a> par\u00a0<em>Gilles en vrac<\/em> (.xlsx ou .html)<br>Les<strong>\u00a0caract\u00e8res gras<\/strong>\u00a0dans le texte sont de Gilles.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Traduction de Why \u2018open\u2019 AI systems are actually closed, and why this matters par David Gray Widder, Meredith Whittaker &amp; Sarah Myers West paru dans Nature volume 635, pages 827\u2013833, le 27 novembre 2024. [48 min] R\u00e9sum\u00e9 Cet article examine l\u2019intelligence artificielle (IA) \u00ab ouverte \u00bb. Les affirmations concernant l\u2019IA \u00ab ouverte \u00bb manquent souvent &hellip; <\/p>\n<p class=\"link-more\"><a href=\"https:\/\/gillesenvrac.ca\/carnet\/trad\/systemes-ia-ouverts-mais-fermes\/\" class=\"more-link\">Continuer la lecture<span class=\"screen-reader-text\"> de &laquo;&nbsp;Pourquoi les syst\u00e8mes d\u2019IA \u00ab ouverts \u00bb sont en r\u00e9alit\u00e9 ferm\u00e9s, et pourquoi cela a de l\u2019importance&nbsp;&raquo;<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":11825,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_jetpack_hide_featured_image":false,"_jetpack_featured_image_duplicate_dismissed":0,"footnotes":""},"class_list":["post-11910","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":9179,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/pile-publique-europeenne-dia\/","url_meta":{"origin":11910,"position":0},"title":"Construire la pile publique europ\u00e9enne d&rsquo;IA","author":"Gilles Beauchamp","date":"26 janvier 2026","format":false,"excerpt":"Traduction de Building Europe\u2019s Public AI Stack, par Felix Sieker, 13 janvier 2026 Dans une nouvelle note d'orientation, nous montrons pourquoi la d\u00e9pendance de l'Europe \u00e0 l'\u00e9gard des infrastructures \u00e9trang\u00e8res d'IA constitue un risque croissant pour l'autonomie strat\u00e9gique et le contr\u00f4le d\u00e9mocratique, et comment une approche publique de l'IA peut\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10515,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/aller-nulle-part-a-toute-vitesse\/","url_meta":{"origin":11910,"position":1},"title":"B\u00e2clage, productivit\u00e9 et pourquoi le monde aliment\u00e9 par l\u2019IA ne va nulle part \u00e0 toute vitesse","author":"Gilles Beauchamp","date":"8 juin 2026","format":false,"excerpt":"L\u2019IA g\u00e9n\u00e8re un volume de production important mais elle n\u2019a pas g\u00e9n\u00e9r\u00e9 un retour sur investissement significatif. Une productivit\u00e9 nominale \u00e9norme, mais peu d\u2019impact concret. Par Gary Marcus","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Slop_Marcus-1.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Slop_Marcus-1.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Slop_Marcus-1.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Slop_Marcus-1.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/06\/Slop_Marcus-1.webp?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":10167,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/canada-bases-de-lia-suite\/","url_meta":{"origin":11910,"position":2},"title":"Le Canada a pos\u00e9 les bases de l\u2019IA. \u00c0 nous maintenant de prendre en main la suite","author":"Gilles Beauchamp","date":"6 mai 2026","format":false,"excerpt":"Traduction de Canada built the foundation of AI. Now let\u2019s own what comes next, par Val\u00e9rie Pisano et Mark Surman dans The Globe and Mail, 6 mai 2026. Val\u00e9rie Pisano est pr\u00e9sidente et directrice g\u00e9n\u00e9rale de Mila.Mark Surman est pr\u00e9sident de Mozilla. Val\u00e9rie Pisano, pr\u00e9sidente-directrice g\u00e9n\u00e9rale de l'Institut des algorithmes\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Pisano.avif","width":350,"height":200,"srcset":"https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Pisano.avif 1x, https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Pisano.avif 1.5x, https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Pisano.avif 2x, https:\/\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/Pisano.avif 3x"},"classes":[]},{"id":11418,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/ethique-de-lia-198-poids-et-mesures\/","url_meta":{"origin":11910,"position":3},"title":"L&rsquo;\u00e9thique de l&rsquo;IA en bref #198:\u00a0Poids et mesures","author":"Gilles Beauchamp","date":"1 septembre 2026","format":false,"excerpt":"\u00c0 propos des mod\u00e8les \u00e0 poids ouverts, des responsabilit\u00e9s qui y sont associ\u00e9es et de la propri\u00e9t\u00e9 des couches sous-jacentes au mod\u00e8le. Traduction de The AI Ethics Brief #198: Weights and Measures par Montreal AI Ethics Institute, 1er septembre 2026. Source: Silicon Landscapes par Sinem G\u00f6r\u00fcc\u00fc \/ Better Images of\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/SinemGorucu-SiliconLandscapes-1280x905-1.jpg?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/SinemGorucu-SiliconLandscapes-1280x905-1.jpg?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/SinemGorucu-SiliconLandscapes-1280x905-1.jpg?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/SinemGorucu-SiliconLandscapes-1280x905-1.jpg?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/09\/SinemGorucu-SiliconLandscapes-1280x905-1.jpg?resize=1050%2C600&ssl=1 3x"},"classes":[]},{"id":9500,"url":"https:\/\/gillesenvrac.ca\/carnet\/trad\/openai-non-iapublic-oui\/","url_meta":{"origin":11910,"position":4},"title":"OpenAI a d\u00e9montr\u00e9 qu&rsquo;on ne pouvait pas lui faire confiance.","author":"Gilles Beauchamp","date":"2 mars 2026","format":false,"excerpt":"Le Canada a besoin d'une IA nationalis\u00e9e et publique. Traduction de OpenAI has shown it cannot be trusted. Canada needs nationalized, public AI paru dans le Globe and Mail, 2 mars 2026. Une Opinion, par Nathan Sanders et Bruce Schneier. Nathan Sanders est un scientifique des donn\u00e9es affili\u00e9 au Berkman\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10364,"url":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/risques-ia-et-intervention-gouv\/","url_meta":{"origin":11910,"position":5},"title":"Les risques li\u00e9s \u00e0 l&rsquo;IA n\u00e9cessitent-ils une intervention gouvernementale exceptionnelle ?","author":"Gilles Beauchamp","date":"22 mai 2026","format":false,"excerpt":"Ne n\u00e9gligeons pas le travail de fond que repr\u00e9sente la gouvernance de l'IA Traduction de Do AI Risks Require Extraordinary Government Intervention? par Sayash Kapoor et Arvind Narayanan, sur Substack, 21 mai 2026 Dans un essai r\u00e9cent, Derek Thompson se penche sur le concept de l\u2019IA en tant que technologie\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=700%2C400&ssl=1 2x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=1050%2C600&ssl=1 3x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/05\/risque_1.webp?resize=1400%2C800&ssl=1 4x"},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11910","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=11910"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11910\/revisions"}],"up":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/11825"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=11910"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}