{"id":9901,"date":"2026-04-11T20:34:28","date_gmt":"2026-04-12T00:34:28","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?page_id=9901"},"modified":"2026-06-10T15:59:53","modified_gmt":"2026-06-10T19:59:53","slug":"ethique-ia-suffit-pas","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/ia-debat\/ethique-ia-suffit-pas\/","title":{"rendered":"Pourquoi la mise en pratique de l’\u00e9thique de l’intelligence artificielle ne suffit pas : vers un cadre \u00e0 plusieurs niveaux"},"content":{"rendered":"\n

Traduction de Why putting artificial intelligence ethics into practice is not enough: Towards a multi-level framework<\/a> par Hao Wang et Vincent Blok dans Big Data and Society<\/em>, le 16 mai 2025. [12\u00a0080 mots]<\/p>\n\n\n\n

\n\n\n\n

R\u00e9sum\u00e9<\/h2>\n\n\n\n

L’\u00e9thique de l’intelligence artificielle (IA) conna\u00eet actuellement une \u00e9volution pratique visant \u00e0 int\u00e9grer les principes dans les pratiques de conception afin de d\u00e9velopper une IA responsable. Bien que ce tournant pratique soit essentiel, cet article met en \u00e9vidence le risque potentiel de se concentrer excessivement sur la r\u00e9solution de probl\u00e8mes au niveau des artefacts individuels, ce qui peut conduire \u00e0 n\u00e9gliger des d\u00e9fis structurels plus profonds et la n\u00e9cessit\u00e9 d’un changement syst\u00e9mique significatif. Une telle omission fait perdre \u00e0 l’\u00e9thique de l’IA sa capacit\u00e9 \u00e0 traiter certains pr\u00e9judices cach\u00e9s et \u00e0 long terme dans des contextes plus larges. Dans cet article, nous proposons que la r\u00e9flexion sur les questions structurelles fasse partie int\u00e9grante de l’\u00e9thique de l’IA. Pour y parvenir, nous d\u00e9veloppons un cadre \u00e0 plusieurs niveaux permettant d’analyser les enjeux socio-\u00e9thiques de l’IA tant au niveau des artefacts qu’\u00e0 un niveau structurel plus large. Ce cadre peut servir d’approche potentiellement transformatrice pour mettre au jour certaines hypoth\u00e8ses tacites dans les discours actuels sur l’\u00e9thique de l’IA et exposer certains angles morts dans les lignes directrices, les politiques et les r\u00e9glementations relatives \u00e0 l’IA. Notre article ouvre la voie \u00e0 l’\u00e9laboration d’une approche pratique capable d’int\u00e9grer efficacement ce cadre \u00e0 plusieurs niveaux dans la conception et l’\u00e9laboration des politiques de l’IA dans le monde r\u00e9el, afin d’aboutir \u00e0 un changement transformateur.<\/p>\n\n\n\n

Introduction<\/h2>\n\n\n\n

L’intelligence artificielle (IA) fa\u00e7onne consid\u00e9rablement notre monde moderne, mais elle soul\u00e8ve \u00e9galement une s\u00e9rie de d\u00e9fis \u00e9thiques, juridiques et sociaux. En r\u00e9ponse, on observe une tendance mondiale \u00e0 \u00e9tablir des lignes directrices \u00e9thiques pour r\u00e9guler les risques et les cons\u00e9quences n\u00e9gatives de l’IA (Corr\u00eaa et al., 2023 ; Jobin et al., 2019 ; HLEG, 2019). Cependant, cette gouvernance de l’IA par le biais de lignes directrices \u00e9thiques a fait l’objet de nombreuses critiques. L’une des principales pr\u00e9occupations est que ces lignes directrices et principes sont souvent trop abstraits pour \u00eatre appliqu\u00e9s dans des situations concr\u00e8tes (Bleher et Braun, 2023 ; Hagendorff, 2021 ; Mittelstadt, 2019 ; Veale, 2020). Ces principes, par exemple, ne s\u2019accompagnent souvent d\u2019aucun m\u00e9canisme r\u00e9el de mise en application, de sorte que le non-respect des codes \u00e9thiques n\u2019entra\u00eene g\u00e9n\u00e9ralement aucune cons\u00e9quence, ou des cons\u00e9quences tr\u00e8s mineures : ils sont \u00ab sans effet \u00bb (Ress\u00e9guier et Rodrigues, 2020) . Certaines entreprises utilisent m\u00eame cette \u00e9thique abstraite comme un outil de marketing ou un moyen de \u00ab blanchiment \u00e9thique \u00bb pour \u00e9chapper \u00e0 des r\u00e9glementations l\u00e9gales plus strictes (Wagner, 2018). En cons\u00e9quence, cette \u00e9thique de l\u2019IA fond\u00e9e sur des principes est souvent consid\u00e9r\u00e9e non seulement comme \u00ab inutile \u00bb, mais aussi comme \u00ab une distraction dangereuse \u00bb, qui d\u00e9tourne des fonds et des ressources consid\u00e9rables de meilleures utilisations (Munn, 2022).<\/p>\n\n\n\n

C’est pourquoi l’\u00e9thique de l’IA conna\u00eet actuellement un tournant pratique<\/em>, cherchant \u00e0 traduire des valeurs et des principes abstraits en pratiques de conception<\/em> concr\u00e8tes (Floridi, 2019 ; Hagendorff, 2022). Cette \u00e9thique de l’IA int\u00e9gr\u00e9e d\u00e8s la conception vise \u00e0 int\u00e9grer de mani\u00e8re transparente les valeurs humaines dans l’ensemble du cycle de vie du d\u00e9veloppement de l’IA. L\u2019approche \u00ab Ethics by Design \u00bb (EbD), par exemple, \u00ab part de valeurs de haut niveau pour l\u2019IA, qui sont ensuite traduites en exigences de conception pour les syst\u00e8mes d\u2019IA, puis en mesures sp\u00e9cifiques \u00e0 mettre en \u0153uvre \u00e0 des \u00e9tapes pr\u00e9cises du processus de conception \u00bb (Brey et Dainow, 2023 : 3). Cette approche \u00ab by-design \u00bb se retrouve \u00e9galement dans certaines m\u00e9thodologies similaires telles que \u00ab Ethics in\/for Design \u00bb (Dignum, 2018 : 2), \u00ab Design for Values \u00bb (Buijsman et al., 2025), ou dans l\u2019application de la conception sensible aux valeurs (VSD) pour cr\u00e9er une \u00ab IA sensible aux valeurs \u00bb (Sadek et al., 2023 ; Umbrello & van de Poel, 2021), entre autres. On met \u00e9galement de plus en plus l\u2019accent sur le d\u00e9veloppement de l\u2019approche du laboratoire ELSA (Ethical, Legal, and Social Aspects) pour concevoir de mani\u00e8re collaborative une IA responsable et centr\u00e9e sur l\u2019humain (Ryan et Blok, 2023), \u00ab en s\u2019assurant qu\u2019elle soit \u00e9thique dans la pratique \u00bb (NLAIC, 2025). Dans cet article, nous reconnaissons que pour rendre l\u2019\u00e9thique de l\u2019IA utile et applicable, il peut \u00eatre n\u00e9cessaire de passer de valeurs\/principes abstraits \u00e0 une conception pratique. Nous pensons que des approches pratiques telles que les laboratoires VSD, EbD et les laboratoires ELSA sont essentielles pour traiter les questions \u00e9thiques et sociales dans le d\u00e9veloppement sp\u00e9cifique de l\u2019IA, en particulier dans leurs efforts pour int\u00e9grer des valeurs dans tous les aspects des artefacts de l\u2019IA. Cependant, notre hypoth\u00e8se est que nous devrions \u00e9galement faire preuve de prudence face \u00e0 ce tournant pratique, car il tend \u00e0 se concentrer sur la conception d\u2019artefacts individuels<\/em>, ce qui peut ignorer des probl\u00e8mes structurels<\/em> plus profonds qui sont souvent trop abstraits et complexes pour \u00eatre trait\u00e9s par la seule conception technique.<\/p>\n\n\n\n

Dans cet article, les probl\u00e8mes structurels font r\u00e9f\u00e9rence \u00e0 des probl\u00e8mes caus\u00e9s par des relations structur\u00e9es, souvent produites et reproduites par le biais de processus multiples et \u00e0 grande \u00e9chelle o\u00f9 aucun agent identifiable ne dirige, ne contr\u00f4le ou n’a d’intention (Haslanger, 2023 ; Ryan et al. 2024 ; Young, 2011). Les probl\u00e8mes structurels se distinguent de ceux au niveau des artefacts, posant des formes de pr\u00e9judice diff\u00e9rentes auxquelles l\u2019\u00e9thique de l\u2019IA devrait s\u2019attaquer. Prenons la m\u00e9taphore de la cage \u00e0 oiseaux de Marilyn Frye (1983). Imaginons un oiseau enferm\u00e9 dans une cage. Examiner un fil m\u00e9tallique individuellement n\u2019explique pas pourquoi l\u2019oiseau ne peut pas voler. Ce n’est qu’en consid\u00e9rant l’ensemble de l’agencement des fils \u2014 comment ils sont reli\u00e9s et renforcent mutuellement leur rigidit\u00e9 \u2014 que l’on comprend pourquoi le vol de l’oiseau est restreint. De m\u00eame, l’\u00e9thique de l’IA par conception d\u00e9compose souvent les syst\u00e8mes d’IA en composants individuels, tels que les donn\u00e9es, les algorithmes et le contenu g\u00e9n\u00e9r\u00e9. L’hypoth\u00e8se est que r\u00e9soudre les probl\u00e8mes \u00e9thiques dans chacun de ces composants rendra automatiquement l’ensemble du syst\u00e8me d’IA responsable et digne de confiance. Cependant, cette approche revient \u00e0 se concentrer sur un fil \u00e0 la fois dans la m\u00e9taphore de la cage \u00e0 oiseaux de Frye : elle se perd souvent dans les d\u00e9tails des artefacts individuels de l’IA tout en n\u00e9gligeant les effets syst\u00e9miques caus\u00e9s par les \u00ab structures \u00bb. Pour d\u00e9velopper v\u00e9ritablement une IA responsable, il ne suffit pas<\/em> de se contenter de traiter les probl\u00e8mes au niveau des artefacts, tout en ignorant les pr\u00e9judices structurels que les syst\u00e8mes d\u2019IA produisent et reproduisent.<\/p>\n\n\n\n

Sans prendre en compte les probl\u00e8mes structurels sous-jacents, l\u2019\u00e9thique de l\u2019IA risque de perdre sa capacit\u00e9 \u00e0 traiter certains pr\u00e9judices pertinents dans des contextes plus larges, manquant ainsi des occasions de changement transformateur<\/strong>. Elle pourrait finir par ne traiter que les \u00ab sympt\u00f4mes \u00bb plut\u00f4t que de s\u2019attaquer aux structures profondes et aux causes profondes qui donnent naissance \u00e0 ces sympt\u00f4mes. Elle corrigera ainsi les biais dans les ensembles de donn\u00e9es, par exemple, mais ne remettra pas en cause les structures racistes et patriarcales qui cr\u00e9ent ces biais. De plus, en ignorant les probl\u00e8mes structurels, l\u2019\u00e9thique int\u00e9gr\u00e9e d\u00e8s la conception pourrait involontairement devenir une forme de \u00ab blanchiment \u00e9thique \u00bb (Van Maanen, 2022). Certains d\u00e9veloppeurs d\u2019IA pourraient affirmer que leurs technologies sont fiables parce qu\u2019ils ont trait\u00e9 tous les probl\u00e8mes possibles tels que la confidentialit\u00e9, la transparence et les biais. Cependant, ils n\u2019ont peut-\u00eatre r\u00e9solu que certains probl\u00e8mes ponctuels au sein de leurs technologies d\u2019IA, tandis que les groupes marginalis\u00e9s continuent de souffrir d\u2019injustices structurelles plus larges que l\u2019IA renforce au sein des syst\u00e8mes de pouvoir in\u00e9gaux existants. Cela cr\u00e9e l\u2019illusion que le probl\u00e8me est \u00ab r\u00e9solu \u00bb (au sens strict) et que l\u2019IA semble \u00ab digne de confiance \u00bb, mais en r\u00e9alit\u00e9, cela masque les d\u00e9s\u00e9quilibres de pouvoir sous-jacents, marginalisant davantage ceux qui sont d\u00e9j\u00e0 touch\u00e9s par l\u2019oppression structurelle (Birhane et al., 2022) . Pour rem\u00e9dier aux pr\u00e9judices et promouvoir une soci\u00e9t\u00e9 \u00e9quitable, nous proposons que la r\u00e9flexion sur les questions structurelles fasse partie int\u00e9grante<\/em> de toute \u00e9thique de l\u2019IA<\/strong> int\u00e9gr\u00e9e d\u00e8s la conception.<\/p>\n\n\n\n

Souligner la n\u00e9cessit\u00e9 de prendre en compte les questions structurelles n\u2019est pas nouveau. Dans la litt\u00e9rature sur l\u2019IA et l\u2019\u00e9thique des donn\u00e9es, de nombreux auteurs ont d\u00e9j\u00e0 \u00e9voqu\u00e9 diff\u00e9rentes questions structurelles, directement ou indirectement. Plusieurs chercheurs ont soulign\u00e9 l\u2019importance de pratiques qui ne se limitent pas \u00e0 se concentrer uniquement sur les artefacts et les pr\u00e9judices individuels (Attard-Frost et al., 2023 ; Crawford, 2021 ; Hagendorff, 2022 ; Smuha 2021). Certains ont critiqu\u00e9 le fait que le discours \u00e9thique actuel sur l\u2019IA n\u00e9glige souvent les aspects relationnels<\/em> de l\u2019\u00e9thique de l\u2019IA<\/strong> (Metcalf et al., 2023), pr\u00e9f\u00e9rant \u00ab s\u2019approprier le langage des critiques et les int\u00e9grer dans une vision limit\u00e9e, technologiquement d\u00e9terministe et dict\u00e9e par les experts de ce que signifie une IA\/un ML \u00e9thiques et de la mani\u00e8re dont ils pourraient fonctionner \u00bb (Greene et al., 2019 : 2122). D\u2019autres \u00e9tudes explorent la mani\u00e8re dont l\u2019IA refl\u00e8te ou perp\u00e9tue des structures <\/strong>sociopolitiques plus larges, telles que le capitalisme<\/strong> (Zuboff, 2019), le colonialisme (Birhane, 2020 ; Couldry et Mejias, 2018 ; Muldoon et Wu, 2023), le sexisme<\/strong> (Rafanelli, 2022), le racisme<\/strong> (Benjamin, 2019) et les syst\u00e8mes de castes<\/strong> (Sambasivan et al., 2021). Des inqui\u00e9tudes ont \u00e9galement \u00e9t\u00e9 soulev\u00e9es concernant les implications fondamentales de l’IA, caus\u00e9es par des structures ontologiques pour l’existence humaine \u00e0 l’\u00e8re num\u00e9rique, telles que le data\u00efsme (Blok, 2023b), l’ali\u00e9nation par l’IA (Haga, 2022), l’anthropocentrisme (Hagendorff, 2022), l’instrumentalisme de l’IA (Gill, 2020), la d\u00e9shumanisation (Fritts et Cabrera, 2021) et l’objectivation (Wang, 2023).<\/p>\n\n\n\n

Il semble toutefois y avoir un manque d’analyse approfondie des questions structurelles en \u00e9thique de l’IA. Le terme \u00ab question structurelle \u00bb est souvent utilis\u00e9 de mani\u00e8re large, mais qu’est-ce qu’une \u00ab structure \u00bb exactement, et qu’est-ce qui rend une question \u00ab structurelle \u00bb ? S’il s’agit d’une question de structure, en quoi les probl\u00e8mes structurels diff\u00e8rent-ils des probl\u00e8mes non structurels, et comment sont-ils li\u00e9s ? Pourquoi devrions-nous nous soucier moralement des probl\u00e8mes structurels<\/strong> s’ils ne sont ni voulus ni caus\u00e9s par un agent individuel<\/strong> ? Ces questions n’ont pas encore \u00e9t\u00e9 clarifi\u00e9es th\u00e9oriquement dans le contexte de l’\u00e9thique de l’IA. De plus, si la litt\u00e9rature existante sur l’\u00e9thique de l’IA souligne \u00e0 juste titre l’importance de traiter les probl\u00e8mes structurels, elle a tendance \u00e0 les traiter comme si tous les probl\u00e8mes structurels se situaient au m\u00eame niveau. Cependant, un examen plus approfondi montrera que les effets structurels de l\u2019IA s\u2019\u00e9tendent sur un spectre de niveaux<\/em> pr\u00e9sentant diff\u00e9rents degr\u00e9s de complexit\u00e9 et d\u2019orientation. Comprendre ces nuances des probl\u00e8mes structurels est crucial pour l\u2019\u00e9thique de l\u2019IA, car cela aide \u00e0 clarifier comment diff\u00e9rents effets structurels sont li\u00e9s \u00e0 diff\u00e9rentes responsabilit\u00e9s dans le d\u00e9veloppement d\u2019une IA responsable. Par cons\u00e9quent, cet article proc\u00e9dera \u00e0 une analyse d\u00e9taill\u00e9e des probl\u00e8mes structurels en \u00e9thique de l\u2019IA et proposera une approche \u00e0 plusieurs niveaux fond\u00e9e sur la litt\u00e9rature sociale, politique et philosophique. Nous tenterons ensuite d\u2019explorer comment mettre en \u0153uvre cette approche dans la conception d\u2019une IA responsable.<\/p>\n\n\n\n

Cet article commence par une revue de la litt\u00e9rature sur l\u2019\u00e9thique de l\u2019IA afin d\u2019illustrer les impacts structurels de l\u2019IA qui sont souvent n\u00e9glig\u00e9s dans l\u2019\u00e9thique de l\u2019IA ax\u00e9e sur la conception. Pour guider cette revue, nous avons appliqu\u00e9 le cadre analytique \u00ab input\/throughput\/output \u00bb, initialement propos\u00e9 et dont l\u2019efficacit\u00e9 a \u00e9t\u00e9 d\u00e9montr\u00e9e pour mettre au jour les hypoth\u00e8ses sous-jacentes dans la litt\u00e9rature sur l\u2019innovation et la recherche responsables (Blok & Lemmens, 2015). Ce cadre consid\u00e8re le d\u00e9veloppement responsable de l’IA comme un processus comportant trois \u00e9tapes analytiques : l’entr\u00e9e, le traitement et la sortie. L’entr\u00e9e fait r\u00e9f\u00e9rence aux objectifs et aux valeurs qui d\u00e9finissent le point de d\u00e9part de la conception de l’IA. Le traitement examine comment ces \u00e9l\u00e9ments sont int\u00e9gr\u00e9s dans le processus de conception r\u00e9el par le biais d’une collaboration avec les parties prenantes. La sortie se concentre sur les r\u00e9sultats de la conception. Dans cet article, les trois premi\u00e8res sections analysent de mani\u00e8re critique une s\u00e9rie de questions \u00e9mergeant au cours des phases d\u2019entr\u00e9e (identification des valeurs) (Section Remise en question de l\u2019entr\u00e9e de l\u2019\u00e9thique de l\u2019IA par conception : traduire des valeurs non critiques en actions), de traitement (conception proprement dite) (section \u00ab Remettre en question le traitement de l\u2019\u00e9thique de l\u2019IA par conception : participation sans changement structurel \u00bb) et de la sortie (\u00e9valuation des r\u00e9sultats) (section \u00ab Remettre en question la sortie de l\u2019\u00e9thique de l\u2019IA par conception : r\u00e9sultats impr\u00e9visibles \u00bb). Nous montrons ensuite que la plupart de ces probl\u00e8mes sont de nature structurelle, mais qu\u2019ils sont souvent ignor\u00e9s dans l\u2019\u00e9thique de l\u2019IA. Pour combler cette lacune, nous d\u00e9veloppons un cadre \u00e0 plusieurs niveaux permettant d\u2019analyser clairement les impacts de l\u2019IA, depuis les pr\u00e9occupations sp\u00e9cifiques au niveau des artefacts jusqu\u2019aux implications structurelles plus larges (Section Le d\u00e9veloppement d\u2019un cadre \u00e0 plusieurs niveaux pour l\u2019\u00e9thique de l\u2019IA). Pour aller plus loin, nous proposons une m\u00e9thode pratique pour mettre en \u0153uvre cette approche \u00e0 plusieurs niveaux dans des conceptions d\u2019IA responsables (Section Mise en \u0153uvre du cadre \u00e0 plusieurs niveaux comme outil de diagnostic des enjeux socio-\u00e9thiques).<\/p>\n\n\n\n

Remettre en question les fondements de l\u2019\u00e9thique de l\u2019IA par la conception : traduire des valeurs non critiques en actions<\/h2>\n\n\n\n

L’\u00e9thique de l’IA par conception commence souvent par des donn\u00e9es d’entr\u00e9e abstraites, telles que des objectifs id\u00e9aux (par exemple, d\u00e9velopper une IA fiable et centr\u00e9e sur l’humain) ou des valeurs et principes connexes qui devraient \u00eatre int\u00e9gr\u00e9s au processus de conception. Cependant, lors de la traduction de ces objectifs, valeurs et principes en conception concr\u00e8te, ils sont souvent trait\u00e9s comme allant de soi, comme s’il suffisait simplement de les mettre en \u0153uvre. En r\u00e9alit\u00e9, ces donn\u00e9es d’entr\u00e9e sont plus complexes qu’elles n’y paraissent. Dans cette section, nous examinerons de mani\u00e8re critique comment l’\u00e9thique de l’IA int\u00e9gr\u00e9e d\u00e8s la conception a tendance \u00e0 n\u00e9gliger les effets plus larges du techno-solutionnisme, des dynamiques de pouvoir et de la perturbation de la vie quotidienne lors de la traduction de ces valeurs en pratiques de conception.<\/p>\n\n\n\n

Techno-solutionnisme<\/h3>\n\n\n\n

L’\u00e9thique de l’IA int\u00e9gr\u00e9e d\u00e8s la conception est souvent guid\u00e9e par une approche pragmatique des valeurs, se concentrant sur celles qui peuvent \u00eatre op\u00e9rationnalis\u00e9es et incorpor\u00e9es dans des conceptions sp\u00e9cifiques d’IA. Bien que cette approche soit pratique, elle peut simplifier \u00e0 l’exc\u00e8s des questions sociales complexes qui n\u00e9cessitent un engagement politique plus large et des actions s’inscrivant dans un contexte social plus vaste, en les r\u00e9duisant \u00e0 des attributs techniques pouvant \u00eatre corrig\u00e9s (Hagendorff, 2020 ; Greene et al., 2019) . Ce techno-solutionnisme dans la s\u00e9lection et l’int\u00e9gration des valeurs peut conduire \u00e0 n\u00e9gliger des probl\u00e8mes structurels plus profonds, souvent consid\u00e9r\u00e9s comme trop abstraits ou complexes pour \u00eatre trait\u00e9s par les concepteurs d’IA.<\/p>\n\n\n\n

L’objectif d’une IA digne de confiance, par exemple, est souvent r\u00e9duit \u00e0 quelques valeurs fondamentales telles que la confidentialit\u00e9, la transparence, la s\u00e9curit\u00e9 et la responsabilit\u00e9 (HLEG, 2019). Si ces aspects sont essentiels au d\u00e9veloppement \u00e9thique de l’IA, ce sont aussi ceux qui \u00ab sont les plus facilement op\u00e9rationnalisables math\u00e9matiquement et ont donc tendance \u00e0 \u00eatre mis en \u0153uvre sous forme de solutions techniques \u00bb (Hagendorff, 2020 : 103) . M\u00eame lorsque des valeurs ayant un poids social et politique significatif sont int\u00e9gr\u00e9es, elles sont souvent simplifi\u00e9es en probl\u00e8mes techniques pouvant \u00eatre r\u00e9solus dans la conception d\u2019un produit d\u2019IA sp\u00e9cifique. Prenons les exemples de \u00ab l\u2019\u00e9quit\u00e9 \u00bb et de la \u00ab justice \u00bb. Dans l\u2019\u00e9thique par la conception, elles sont souvent r\u00e9duites \u00e0 des probl\u00e8mes techniquement r\u00e9solubles li\u00e9s \u00e0 des ensembles de donn\u00e9es et des algorithmes \u00ab purement objectifs \u00bb (Benjamin, 2019). Cela conduit \u00e0 des tentatives de r\u00e9solution du probl\u00e8me, telles que la suppression des biais dans les ensembles de donn\u00e9es \u00e0 l\u2019aide d\u2019outils comme \u00ab AI Fairness 360 \u00bb (Birhane et al., 2022). Cependant, cette approche r\u00e9ductionniste n\u00e9glige le fait que le biais des donn\u00e9es n\u2019est pas seulement un probl\u00e8me technique, mais qu\u2019il est ancr\u00e9 dans des structures plus larges d\u2019in\u00e9galit\u00e9s historiques (par exemple, le racisme, le sexisme, le postcolonialisme) (Madaio et al., 2022) . Lorsque l’injustice sociale est r\u00e9duite \u00e0 une simple in\u00e9quit\u00e9 dans les donn\u00e9es et les algorithmes, l’\u00e9thique de l’IA ne parvient pas \u00e0 s’attaquer \u00e0 ses causes profondes et n\u00e9glige le contexte social plus large ainsi que les structures de pouvoir<\/strong> qui contribuent \u00e0 la marginalisation de certains groupes.<\/p>\n\n\n\n

Dynamiques de pouvoir<\/h3>\n\n\n\n

Lorsqu’il s’agit de traduire des valeurs en pratique, l’\u00e9thique par conception a tendance \u00e0 supposer que ces valeurs sont largement partag\u00e9es et pr\u00eates \u00e0 \u00eatre mises en \u0153uvre. Cependant, le choix des valeurs \u00e0 privil\u00e9gier<\/strong> dans le d\u00e9veloppement de l’IA est souvent fa\u00e7onn\u00e9 par les dynamiques de pouvoir.<\/strong> Il est peut-\u00eatre vrai que le choix de ces valeurs n\u2019est pas al\u00e9atoire, car on pr\u00e9tend souvent qu\u2019il repose sur un large consensus international ou qu\u2019il est conforme aux droits humains fondamentaux (HLEG, 2019 ; Brey et Dainow, 2023). Mais la question de savoir s\u2019il existe des droits humains universels accept\u00e9s par toutes les cultures reste sujette \u00e0 d\u00e9bat, d\u2019autant plus que cette id\u00e9e d\u2019universalisme des valeurs a \u00e9t\u00e9 critiqu\u00e9e pour son occidentalisme (Zwart et al. , 2024). Par exemple, la valeur de l\u2019autonomie, qui appara\u00eet fr\u00e9quemment dans les lignes directrices \u00e9thiques relatives \u00e0 l\u2019IA, est profond\u00e9ment enracin\u00e9e dans le lib\u00e9ralisme et l\u2019individualisme occidentaux. Dans les cultures qui mettent l\u2019accent sur le collectivisme, l\u2019autonomie peut rev\u00eatir une signification diff\u00e9rente<\/strong> ou occuper une place moins importante (Nakada et Tamura, 2005). De plus, les lignes directrices \u00e9thiques relatives \u00e0 l\u2019IA, en particulier celles \u00e9manant des gouvernements et des entreprises priv\u00e9es, sont principalement fa\u00e7onn\u00e9es par les pays occidentaux et les entreprises qui dominent le secteur de l\u2019IA (Jobin et al., 2019). Les voix des pays du Sud sont souvent sous-repr\u00e9sent\u00e9es dans ces discussions (Birhane, 2020 ; Wakunuma et al., 2021). Il est donc quelque peu na\u00eff de pr\u00e9tendre qu’il existe un large consensus sur les valeurs \u00e9thiques actuelles de l’IA<\/strong>, surtout compte tenu de la participation et de l’influence limit\u00e9es du Sud dans l’\u00e9laboration de ces valeurs lors de la conception de l’IA.<\/p>\n\n\n\n

La perturbation de la vie quotidienne<\/h3>\n\n\n\n

Dans la litt\u00e9rature sur l’\u00e9thique de l’IA, les id\u00e9aux d’une IA centr\u00e9e sur l’humain et d’une IA digne de confiance sont souvent pr\u00e9sent\u00e9s comme des choses intrins\u00e8quement positives, sans \u00eatre vraiment remis en question. Cependant, ce cadre optimiste peut occulter l’exp\u00e9rience v\u00e9cue complexe des individus qui peuvent \u00eatre confront\u00e9s quotidiennement \u00e0 des difficult\u00e9s avec les syst\u00e8mes d’IA. Pour bien comprendre la confiance en l\u2019IA, par exemple, nous devrions aller au-del\u00e0 d\u2019une liste de valeurs abstraites telles que la transparence, la vie priv\u00e9e et la non-discrimination, afin de prendre en compte les \u00e9motions, les peurs, les frustrations et les difficult\u00e9s quotidiennes qui alimentent la m\u00e9fiance<\/strong>. Les gens peuvent craindre de perdre le contr\u00f4le, ressentir de la col\u00e8re face \u00e0 la manipulation politique ou s\u2019inqui\u00e9ter d\u2019\u00eatre remplac\u00e9s par des machines. Cette \u00e9rosion de la confiance ne se produit pas du jour au lendemain : elle s\u2019installe au fil du temps, aliment\u00e9e par des scandales, des pratiques irresponsables de la part des entreprises technologiques et une r\u00e9glementation insuffisante <\/strong>en mati\u00e8re d\u2019IA. La m\u00e9fiance n’est donc pas seulement une r\u00e9action \u00e0 des probl\u00e8mes sp\u00e9cifiques tels que les violations de la vie priv\u00e9e ou le manque de transparence ; elle refl\u00e8te une perturbation plus large des exp\u00e9riences quotidiennes des gens avec l’IA.<\/p>\n\n\n\n

Compte tenu de cette complexit\u00e9, promouvoir la confiance dans l’IA n’est peut-\u00eatre pas toujours la meilleure approche. Dans certains cas, il peut \u00eatre n\u00e9cessaire d’encourager un scepticisme sain, voire une m\u00e9fiance justifi\u00e9e. Certains ont fait valoir que pour les groupes marginalis\u00e9s, comme les personnes noires confront\u00e9es au racisme syst\u00e9mique, la m\u00e9fiance sociale est justifi\u00e9e (Davidson et Satta, 2021). Ce scepticisme justifi\u00e9 peut \u00e9galement s’\u00e9tendre aux syst\u00e8mes d’IA, en particulier dans le contexte d’un capitalisme de surveillance omnipr\u00e9sent et de la datafication incessante des vies humaines en produits commerciaux (Zuboff, 2019 ; Crawford, 2021). Une telle m\u00e9fiance ne vise pas \u00e0 \u00e9roder la confiance soci\u00e9tale, mais plut\u00f4t \u00e0 faire pression pour la cr\u00e9ation de conditions qui la m\u00e9ritent v\u00e9ritablement<\/strong> (Davidson et Satta, 2021 : 23). De cette mani\u00e8re, la m\u00e9fiance devient un moyen de remettre en question les probl\u00e8mes syst\u00e9miques, de plaider en faveur de la responsabilit\u00e9 et, en fin de compte, de rendre notre soci\u00e9t\u00e9 algorithmique plus digne de confiance<\/strong> (Wang, 2022a).<\/p>\n\n\n\n

Dans l’ensemble, cette section critique le fait que l’\u00e9thique de l’IA \u00ab by-design \u00bb n\u00e9glige souvent certaines questions importantes telles que le techno-solutionnisme, les dynamiques de pouvoir et la perturbation de la vie quotidienne lors de la phase d’entr\u00e9e de la conception de l’IA. Elle se concentre souvent trop sur la traduction de valeurs abstraites en actions de conception applicables sans examiner de plus pr\u00e8s les valeurs elles-m\u00eames.<\/p>\n\n\n\n

Remettre en question le rendement de l’\u00e9thique de l’IA \u00ab by-design \u00bb : la participation sans changement structurel<\/h2>\n\n\n\n

La phase de rendement de l’\u00e9thique de l’IA \u00ab by-design \u00bb concerne le processus de conception de l’IA proprement dit, en collaboration avec diverses parties prenantes. Ce processus de co-conception met l’accent sur la participation et son potentiel de transformation. En tant que \u00ab r\u00e9flexion dans l\u2019action \u00bb, il permet au public de mettre en lumi\u00e8re des enjeux pertinents, de r\u00e9v\u00e9ler des dynamiques de pouvoir cach\u00e9es et de plaider en faveur d\u2019un changement institutionnel significatif (Robertson et Simonsen, 2012 : 5). Cependant, dans cette section, nous montrerons que le potentiel transformateur de la participation peut \u00eatre compromis et d\u00e9form\u00e9 si l\u2019\u00e9thique de l\u2019IA se concentre uniquement sur la conception d\u2019artefacts IA sp\u00e9cifiques sans prendre en compte d\u2019importants changements structurels. Cette omission risque de r\u00e9duire la participation \u00e0 une simple extraction de main-d’\u0153uvre, \u00e0 une manipulation de la l\u00e9gitimit\u00e9 et \u00e0 une d\u00e9connexion des exp\u00e9riences v\u00e9cues par les personnes.<\/p>\n\n\n\n

La participation comme extraction de main-d’\u0153uvre<\/h3>\n\n\n\n

Id\u00e9alement, par participation, l’\u00e9thique de l’IA inclurait les retours du public ou des utilisateurs concern\u00e9s dans le processus de conception de l’IA (Hansson, 2017). Cela permet au public de servir de ressource suppl\u00e9mentaire aux concepteurs d’IA pour identifier les enjeux \u00e9thiques et am\u00e9liorer la conformit\u00e9 \u00e9thique dans le processus de conception. Cependant, cette vision id\u00e9alis\u00e9e de la participation peut ignorer la structure \u00e9conomiquement extractive qui sous-tend les conceptions r\u00e9elles de l’IA. Par exemple, dans de nombreux projets interdisciplinaires, des experts en \u00e9thique\/droit et des citoyens peuvent jouer un r\u00f4le de consultation pour identifier les probl\u00e8mes \u00e9thiques, juridiques et sociaux potentiels dans des syst\u00e8mes d\u2019IA particuliers. Cependant, cette consultation pourrait se limiter \u00e0 certaines formes particuli\u00e8res qui ne s\u2019alignent que sur les objectifs commerciaux. D\u2019une part, les entreprises peuvent utiliser les contributions des parties prenantes pour extraire des informations commerciales qui servent principalement leurs objectifs commerciaux (Brand et Blok, 2019). D’autre part, lorsque les valeurs sociales entrent en conflit avec l’accent mis par les entreprises sur la cr\u00e9ation de valeur \u00e9conomique et la recherche du profit, les valeurs sociales sont souvent \u00e9cart\u00e9es comme \u00e9tant moins pertinentes dans les conceptions d’IA (Blok et Lemmens, 2015: 22). En cons\u00e9quence, cette participation peut r\u00e9duire le r\u00f4le consultatif des experts en \u00e9thique\/droit et des citoyens \u00e0 une forme de travail gratuit, aidant indirectement les entreprises d\u2019IA \u00e0 maximiser leurs profits.<\/p>\n\n\n\n

Cette forme de participation illustre ce que Mona Sloane appelle la \u00ab participation extractive \u00bb, o\u00f9 le travail humain est utilis\u00e9 pour am\u00e9liorer les syst\u00e8mes d\u2019IA existants sans reconnaissance ni compensation ad\u00e9quates (Sloane, 2024). Cette participation extractive va au-del\u00e0 du r\u00f4le consultatif des experts et des citoyens. Un exemple plus direct est le recours \u00e0 des travailleurs faiblement r\u00e9mun\u00e9r\u00e9s pour effectuer des t\u00e2ches r\u00e9p\u00e9titives, telles que l’\u00e9tiquetage et le signalement de contenus contraires \u00e0 l’\u00e9thique (Perrigo, 2023) . De plus, cette extraction se produit dans la vie quotidienne, o\u00f9 les interactions des utilisateurs avec des produits d\u2019IA tels que ChatGPT g\u00e9n\u00e8rent en continu des retours d\u2019information et des donn\u00e9es, permettant aux entreprises d\u2019affiner leurs technologies sans reconna\u00eetre ni r\u00e9mun\u00e9rer les utilisateurs pour leurs contributions (Sloane, 2024).<\/p>\n\n\n\n

La participation comme manipulation de la l\u00e9gitimit\u00e9<\/h3>\n\n\n\n

Dans un sc\u00e9nario id\u00e9al, la participation sert de pont entre les concepteurs d\u2019IA et le public, favorisant la confiance et garantissant la l\u00e9gitimit\u00e9 d\u00e9mocratique dans le d\u00e9veloppement de l\u2019IA. Dans cette vision, la participation ne consiste pas seulement \u00e0 identifier les d\u00e9fis \u00e9thiques, mais \u00e0 int\u00e9grer l\u2019inclusion et la l\u00e9gitimit\u00e9 dans le processus de d\u00e9veloppement (Ten Holter, 2022). Cependant, cette image id\u00e9alis\u00e9e n\u00e9glige souvent les dynamiques de pouvoir inh\u00e9rentes au processus de co-conception, o\u00f9 la participation peut \u00eatre manipul\u00e9e par les puissants pour acqu\u00e9rir de la l\u00e9gitimit\u00e9. Cette forme d\u00e9form\u00e9e de participation est ce que Sherry Arnstein appelle la \u00ab manipulation \u00bb dans son c\u00e9l\u00e8bre mod\u00e8le de l’\u00e9chelle de participation (2019). Arnstein soutient que lorsque des d\u00e9s\u00e9quilibres de pouvoir existent, la participation peut devenir illusoire : les citoyens peuvent croire qu’ils ont leur mot \u00e0 dire, mais le processus est structur\u00e9 de mani\u00e8re \u00e0 leur refuser tout pouvoir r\u00e9el.<\/strong> De telles formes de participation, d\u00e9guis\u00e9es en inclusives et d\u00e9mocratiques, servent souvent \u00e0 pacifier la dissidence en offrant une implication symbolique plut\u00f4t que substantielle (Gilman, 2022).<\/p>\n\n\n\n

Dans la conception de l\u2019IA dans le monde r\u00e9el, ces d\u00e9s\u00e9quilibres de pouvoir sont courants<\/strong>, les processus de participation \u00e9tant souvent surd\u00e9termin\u00e9s par ceux qui d\u00e9tiennent le plus grand pouvoir d\u2019influence (Blok et Lemmens, 2015). Cette structure asym\u00e9trique permet aux entit\u00e9s puissantes de manipuler le processus de conception pour \u00ab acqu\u00e9rir une l\u00e9gitimit\u00e9 soci\u00e9tale et \u00e9thique \u00bb (2015 : 25) . Par exemple, la participation interdisciplinaire est fr\u00e9quemment critiqu\u00e9e pour traiter l\u2019\u00e9thique comme une r\u00e9flexion apr\u00e8s coup ou un simple ajout aux programmes d\u2019innovation \u2014 utilis\u00e9e pour valider les pratiques existantes plut\u00f4t que pour relever v\u00e9ritablement les d\u00e9fis sociaux (Zwart et Nelis, 2009 ; Ryan et Blok, 2023). Cette manipulation est particuli\u00e8rement pr\u00e9judiciable aux groupes d\u00e9j\u00e0 marginalis\u00e9s, dont la participation active peut n\u2019\u00eatre consid\u00e9r\u00e9e que comme de simples points de donn\u00e9es ou des abstractions statistiques pour les entreprises d\u2019IA en qu\u00eate de preuves \u00e9thiques. Apr\u00e8s leur participation, leur situation de marginalisation reste inchang\u00e9e. Cette dynamique manipulatrice peut m\u00eame cr\u00e9er un cercle vicieux : lorsque les participants constatent que leur implication ne parvient pas \u00e0 remettre en cause les structures de pouvoir existantes, ils deviennent plus sceptiques \u00e0 l\u2019\u00e9gard du processus, rendant ainsi encore plus difficile la r\u00e9alisation d\u2019un engagement significatif et transformateur (Wang, 2022b).<\/p>\n\n\n\n

La participation comme d\u00e9tachement du monde de la vie<\/h3>\n\n\n\n

Lorsque la participation n\u2019est pas fauss\u00e9e par les structures \u00e9conomiques et de pouvoir, et lorsque les d\u00e9tenteurs du pouvoir souhaitent r\u00e9ellement impliquer les citoyens et les autres parties prenantes dans les d\u00e9cisions de conception de l\u2019IA, il subsiste toutefois une crainte de n\u00e9gliger la structure perturbatrice de la datafication sur le monde de la vie o\u00f9 les participants vivent et agissent au quotidien. Par exemple, lorsque l\u2019on demande aux participants d\u2019identifier les enjeux \u00e9thiques pertinents dans les processus de co-conception, ils sont souvent incit\u00e9s \u00e0 fonder leurs choix sur des valeurs abstraites existantes telles que la vie priv\u00e9e, la transparence, la responsabilit\u00e9, l\u2019\u00e9quit\u00e9, etc. (Boenink et Kudina, 2020). Cependant, les pr\u00e9occupations quotidiennes des \u00eatres humains ne sont pas seulement des concepts abstraits ou th\u00e9oriques, mais impliquent plut\u00f4t des sentiments r\u00e9els et subjectifs v\u00e9cus au quotidien. Ces sentiments sont facilement \u00e9cart\u00e9s comme des plaintes individuelles et consid\u00e9r\u00e9s comme non pertinents dans la conception de l\u2019IA, mais ils pourraient en r\u00e9alit\u00e9 refl\u00e9ter un probl\u00e8me structurel plus vaste li\u00e9 \u00e0 l\u2019utilisation g\u00e9n\u00e9ralis\u00e9e de l\u2019IA dans nos soci\u00e9t\u00e9s, comme la datafication du monde de la vie<\/em>. Cette datafication implique le processus de transformation de chaque aspect de notre vie quotidienne en donn\u00e9es pouvant \u00eatre quantifi\u00e9es, analys\u00e9es et utilis\u00e9es <\/strong>pour la prise de d\u00e9cision, la pr\u00e9diction et l\u2019optimisation (Couldry et Mejias, 2018 ; Zuboff, 2019). Cela signifie que lorsque nous concevons des technologies d\u2019IA, nous ne nous contentons pas de concevoir des artefacts individuels, mais nous contribuons au processus plus large de datafication qui fa\u00e7onne et bouleverse le sens du monde.<\/p>\n\n\n\n

Lors de r\u00e9unions avec les parties prenantes, par exemple, certains agriculteurs (en particulier les petits exploitants) expriment souvent un sentiment d\u2019impuissance face \u00e0 l\u2019utilisation de l\u2019IA (van der Burg et al., 2022). Ils doivent d\u00e9cider s\u2019ils s\u2019adaptent, acqui\u00e8rent de nouvelles comp\u00e9tences ou risquent de se retrouver \u00e0 la tra\u00eene. Ce sentiment que l\u2019IA est une force imparable est souvent consid\u00e9r\u00e9 comme un probl\u00e8me personnel, sans lien direct avec une technologie d\u2019IA sp\u00e9cifique ou les valeurs \u00e9nonc\u00e9es dans les cadres \u00e9thiques existants ; il est donc souvent ignor\u00e9 dans la conception des IA. Cependant, ce sentiment personnel d\u2019\u00eatre contraint d\u2019adopter et d\u2019int\u00e9grer l\u2019IA<\/strong> dans leurs exploitations agricoles peut en r\u00e9alit\u00e9 refl\u00e9ter un enjeu plus large : l\u2019impact perturbateur de la datafication<\/strong> sur les pratiques agricoles traditionnelles des agriculteurs. La datification ne consiste pas seulement \u00e0 cr\u00e9er un environnement num\u00e9ris\u00e9 ; il s\u2019agit de red\u00e9finir le sens de la vie quotidienne (Blok, 2023b). Elle cultive la nouvelle hypoth\u00e8se selon laquelle, en transformant tous les aspects de la vie quotidienne en donn\u00e9es, nous pouvons obtenir des informations pr\u00e9cieuses et optimiser les processus<\/strong> pour une meilleure efficacit\u00e9 (Korenhof et al., 2021). Mais les petits exploitants n\u2019adh\u00e8rent pas n\u00e9cessairement \u00e0 ces approches ax\u00e9es sur l\u2019efficacit\u00e9 et l\u2019optimisation. Au contraire, ils peuvent privil\u00e9gier leur lien avec la communaut\u00e9 et pratiquer des m\u00e9thodes respectueuses de l\u2019environnement, m\u00eame si celles-ci ne sont pas aussi efficaces<\/strong>. Cette pr\u00e9occupation plus large incite les concepteurs d\u2019IA \u00e0 r\u00e9fl\u00e9chir attentivement \u00e0 certaines exigences diff\u00e9rentes dans leurs pratiques de conception, comme la prise en compte des perturbations potentielles des pratiques agricoles locales lors du d\u00e9veloppement de technologies d\u2019IA, et la garantie que l\u2019utilisation de l\u2019IA dans l\u2019agriculture respecte les m\u00e9thodes de travail existantes et les traditions communautaires.<\/strong><\/p>\n\n\n\n

Dans l\u2019ensemble, l’\u00e9thique de l’IA int\u00e9gr\u00e9e \u00e0 la conception met souvent en avant l’importance d’une participation active et inclusive au processus de conception de l’IA. Cependant, comme nous l’avons expliqu\u00e9, si la structure de pouvoir in\u00e9gale ne change pas et si la structure perturbatrice de la datification n’est pas correctement prise en compte, la participation risque de tomber dans le pi\u00e8ge de l’extraction, de la manipulation ou du d\u00e9tachement par rapport aux exp\u00e9riences quotidiennes des gens.<\/p>\n\n\n\n

Remise en question des r\u00e9sultats de l’\u00e9thique de l’IA \u00ab by-design \u00bb : des r\u00e9sultats impr\u00e9visibles<\/h2>\n\n\n\n

On suppose souvent que l’\u00e9thique de l’IA \u00ab by-design \u00bb produit des r\u00e9sultats pr\u00e9visibles, tels que l’att\u00e9nuation des impacts n\u00e9gatifs de l’IA et la promotion d’avantages sociaux gr\u00e2ce \u00e0 l’int\u00e9gration de valeurs dans la conception de l’IA. Dans cette section, cependant, nous remettons en question cette croyance en des r\u00e9sultats pr\u00e9visibles de l’IA en examinant de mani\u00e8re critique ses hypoth\u00e8ses sous-jacentes de r\u00e9ductionnisme<\/strong> lin\u00e9aire, d’action anthropocentrique<\/strong> des concepteurs et d’immat\u00e9rialisme<\/strong>.<\/p>\n\n\n\n

R\u00e9ductionnisme lin\u00e9aire<\/h3>\n\n\n\n

L’\u00e9thique de l’IA par conception repose souvent sur un r\u00e9ductionnisme lin\u00e9aire selon lequel un syst\u00e8me d’IA peut \u00eatre d\u00e9compos\u00e9 en diff\u00e9rents composants de produits d’IA tels que les donn\u00e9es, l’algorithme et le contenu g\u00e9n\u00e9r\u00e9, et si l’on r\u00e9sout les probl\u00e8mes \u00e9thiques et sociaux associ\u00e9s \u00e0 chaque composant (Dignum, 2018 ; Brey et Dainow, 2023), l’ensemble du syst\u00e8me d’IA produira automatiquement des r\u00e9sultats responsables. Cependant, l\u2019IA est plus qu\u2019un simple artefact ou syst\u00e8me individuel ; elle constitue un \u00e9cosyst\u00e8me socio-technique complexe marqu\u00e9 par la non-lin\u00e9arit\u00e9 et les incertitudes. Cet enchev\u00eatrement complexe avec des dynamiques et des structures sociales plus larges rend l\u2019IA intrins\u00e8quement impr\u00e9visible.<\/p>\n\n\n\n

L’IA est profond\u00e9ment imbriqu\u00e9e dans les structures sociopolitiques<\/strong>, formant un syst\u00e8me complexe qui ne peut \u00eatre directement d\u00e9compos\u00e9 en parties ind\u00e9pendantes ou en processus lin\u00e9aires. Comme le montre Carsten Stahl, cette IA en tant qu’\u00e9cosyst\u00e8me complexe pr\u00e9sente une interaction complexe entre ses diff\u00e9rents composants, affichant souvent des relations hautement non lin\u00e9aires<\/em> (2021). Par cons\u00e9quent, l’intervention sur un aspect de l’\u00e9cosyst\u00e8me peut souvent entra\u00eener des r\u00e9sultats inattendus qui ne correspondent pas \u00e0 ce qui \u00e9tait initialement pr\u00e9vu. Un exemple typique est le paradoxe de Jevons ou l’effet de rebond dans le contexte de l’IA : l’efficacit\u00e9 accrue de l’IA dans l’ex\u00e9cution de t\u00e2ches peut en r\u00e9alit\u00e9 d\u00e9clencher une demande accrue pour ces t\u00e2ches, entra\u00eenant une consommation plus importante de ressources (York et McGee, 2016). Cet effet non lin\u00e9aire peut \u00eatre encore plus marqu\u00e9 lorsqu’on \u00e9value les impacts \u00e0 long terme de l’IA. Imaginez que l’on tente d’\u00e9valuer l’impact de l’impression de la premi\u00e8re Bible par Gutenberg en 1455. \u00c0 l’\u00e9poque, personne ne pouvait pr\u00e9voir que cela remettrait en cause l’autorit\u00e9 de l’\u00c9glise catholique et ouvrirait la voie \u00e0 la science moderne et \u00e0 de nouvelles industries (Naughton, 2023). Si la technologie de l’IA est aussi transformatrice qu’on le pr\u00e9tend, ses impacts \u00e0 long terme peuvent \u00eatre encore plus profonds et impr\u00e9visibles.<\/p>\n\n\n\n

L’action anthropocentrique des concepteurs<\/h3>\n\n\n\n

L’\u00e9thique de l’IA par conception part souvent du principe que les humains ont le contr\u00f4le ultime sur la mani\u00e8re dont les syst\u00e8mes d’IA sont d\u00e9velopp\u00e9s et utilis\u00e9s, ce qui leur permet de les orienter vers des avantages sociaux. Elle part du principe que les humains peuvent fa\u00e7onner les technologies d’IA et contr\u00f4ler les r\u00e9sultats de mani\u00e8re \u00e0 ce qu’ils s’alignent sur des valeurs \u00e9thiques, morales et sociales, garantissant ainsi que l’IA serve le bien commun <\/strong>(van den Hoven, 2013). Cette conviction refl\u00e8te le degr\u00e9 \u00e9lev\u00e9 d’action anthropocentrique<\/em> des concepteurs (Donia et Shaw, 2021), o\u00f9 les technologies sont souvent consid\u00e9r\u00e9es comme des objets passifs en attente d\u2019\u00eatre (re)con\u00e7ues par des concepteurs humains, tandis que les humains sont per\u00e7us comme l\u2019exact oppos\u00e9 des objets, caract\u00e9ris\u00e9s comme des sujets actifs et pensants capables de contr\u00f4ler les technologies (Rosenberger, 2014). Cependant, la trajectoire historique de l\u2019innovation<\/strong> r\u00e9v\u00e8le que la conception n\u2019est pas uniquement dict\u00e9e par des acteurs humains, mais suit parfois son propre cours ou des tendances inh\u00e9rentes au progr\u00e8s technologique<\/strong>.<\/p>\n\n\n\n

La notion de \u00ab milieu technologique \u00bb de Gilbert Simondon <\/strong>peut aider \u00e0 expliquer plus clairement cette id\u00e9e de tendances inh\u00e9rentes. Il sugg\u00e8re que les innovations ne se concr\u00e9tisent pas de mani\u00e8re isol\u00e9e, mais sont fa\u00e7onn\u00e9es par le contexte plus large des avanc\u00e9es technologiques au fil du temps (2017). La conception d\u2019un nouveau smartphone, par exemple, n\u2019est pas simplement d\u00e9termin\u00e9e par les intentions de ses concepteurs, mais est \u00e9galement influenc\u00e9e par les progr\u00e8s de la science des mat\u00e9riaux, de la technologie des semi-conducteurs et des protocoles de communication sans fil. Cet exemple sugg\u00e8re que les d\u00e9cisions de conception<\/strong> en mati\u00e8re d\u2019IA ne sont pas enti\u00e8rement d\u00e9termin\u00e9es ou contr\u00f4l\u00e9es par les intentions des concepteurs, mais sont parfois fa\u00e7onn\u00e9es par les effets cumulatifs des innovations pass\u00e9es<\/strong>, de la recherche en cours et de l\u2019infrastructure technologique. Notre intention n\u2019est pas de laisser entendre que la technologie de l\u2019IA se d\u00e9veloppe de mani\u00e8re autonome ou ind\u00e9pendante. Nous mettons plut\u00f4t en \u00e9vidence la relation de co\u00e9volution entre les humains et les technologies<\/strong> de l\u2019IA, o\u00f9 les d\u00e9cisions de conception sont influenc\u00e9es \u00e0 la fois par l\u2019action humaine et par les tendances technologiques inh\u00e9rentes (Simondon, 2017). Cette relation signifie que la technologie de l\u2019IA ne peut \u00eatre enti\u00e8rement orient\u00e9e et con\u00e7ue par les d\u00e9sirs ou les intentions humaines. Les cons\u00e9quences \u00e9thiques et sociales de l\u2019IA ne sont souvent pas uniquement d\u00e9termin\u00e9es et contr\u00f4l\u00e9es par les concepteurs.<\/p>\n\n\n\n

Immat\u00e9rialit\u00e9<\/h3>\n\n\n\n

L’\u00e9thique de l’IA, telle qu’elle est con\u00e7ue, se concentre souvent sur les aspects num\u00e9riques et immat\u00e9riels de l’IA, tels que les donn\u00e9es, les algorithmes et le contenu g\u00e9n\u00e9r\u00e9, tandis qu’elle a tendance \u00e0 ignorer les relations de production mat\u00e9rielle et l’infrastructure physique sous-jacente<\/strong> qui rendent tous ces \u00e9l\u00e9ments num\u00e9riques possibles. Elle consid\u00e8re souvent l’IA comme quelque chose qui imite les capacit\u00e9s cognitives humaines et n’existe que dans le \u00ab cloud \u00bb (Wyatt, 2021), ce qui donne l’impression trompeuse que l’IA ne concerne que des aspects num\u00e9riques, virtuels et immat\u00e9riels (Newlands, 2021 ; Brevini, 2023). Ce mythe de l\u2019immat\u00e9rialisme occulte certains impacts \u00e9thiques et sociaux importants de l\u2019IA, les rendant souvent invisibles aux yeux du public. Trois enjeux mat\u00e9riels <\/strong>souvent n\u00e9glig\u00e9s de l\u2019IA sont l\u2019exploitation<\/strong> par le travail, les co\u00fbts environnementaux<\/strong> et l\u2019extraction<\/strong> de la vie quotidienne<\/strong>.<\/p>\n\n\n\n

Des recherches ont r\u00e9v\u00e9l\u00e9 que les syst\u00e8mes dits d\u2019IA d\u00e9pendent souvent du travail de millions de travailleurs \u00ab fant\u00f4mes \u00bb faiblement r\u00e9mun\u00e9r\u00e9s \u00e0 travers le monde. Ces travailleurs effectuent des t\u00e2ches r\u00e9p\u00e9titives dans des conditions pr\u00e9caires, mais leurs contributions sont d\u00e9lib\u00e9r\u00e9ment dissimul\u00e9es au regard du public (Gray et Suri, 2019 ; Perrigo, 2023). En dissimulant ce travail humain, les entreprises d\u2019IA cr\u00e9ent l\u2019illusion que l\u2019IA est hautement avanc\u00e9e<\/strong>, enti\u00e8rement automatis\u00e9e et objective, ce qui les aide \u00e0 \u00e9chapper \u00e0 la r\u00e9glementation et \u00e0 attirer davantage d\u2019investissements commerciaux (Newlands, 2021 : 8).<\/p>\n\n\n\n

Au-del\u00e0 du travail cach\u00e9, les co\u00fbts environnementaux de l\u2019IA sont \u00e9galement souvent tenus secrets par les entreprises (Crawford, 2021). Des \u00e9tudes r\u00e9centes ont toutefois montr\u00e9 que les syst\u00e8mes d’IA consomment des quantit\u00e9s importantes d’\u00e9nergie et \u00e9mettent des quantit\u00e9s substantielles de gaz \u00e0 effet de serre pendant leur apprentissage, leur r\u00e9glage fin et leur utilisation (Luccioni et al., 2023). De plus, ils s’appuient sur des processus industriels tels que l’extraction de ressources naturelles, la fabrication de composants techniques et la gestion des d\u00e9chets \u00e9lectroniques (Wynsberghe et al., 2023).<\/p>\n\n\n\n

Enfin, l’IA ne se r\u00e9sume pas \u00e0 l’ex\u00e9cution de donn\u00e9es et d’algorithmes abstraits ; elle repose fondamentalement sur l’extraction d’exp\u00e9riences humaines issues de la vie quotidienne<\/strong> et leur conversion en marchandises de donn\u00e9es. Les critiques soutiennent que cette marchandisation des donn\u00e9es de la vie<\/strong> ne devrait pas se faire de mani\u00e8re arbitraire, car ces donn\u00e9es sont profond\u00e9ment li\u00e9es aux exp\u00e9riences et aux \u00e9motions humaines (Zuboff, 2019). Ces exp\u00e9riences sont essentielles pour fa\u00e7onner le sentiment d’identit\u00e9 des individus et leurs relations significatives avec les autres (Roessler, 2015). Malgr\u00e9 cela, l’\u00e9thique de l’IA fond\u00e9e sur la conception actuelle ne parvient souvent pas \u00e0 prendre en compte l’impact profond de la surveillance continue en temps r\u00e9el <\/strong>sur la compr\u00e9hension que les individus ont d’eux-m\u00eames et du monde.<\/p>\n\n\n\n

En r\u00e9sum\u00e9, cette section remet en question la croyance largement r\u00e9pandue dans l’\u00e9thique de l’IA fond\u00e9e sur la conception actuelle selon laquelle les impacts de l’IA sont pr\u00e9visibles et peuvent \u00eatre orient\u00e9s vers des avantages sociaux. Pour ce faire, nous examinons de mani\u00e8re critique trois hypoth\u00e8ses fondamentales qui sous-tendent cette croyance en la pr\u00e9visibilit\u00e9<\/strong>. \u00c0 l\u2019instar des deux sections pr\u00e9c\u00e9dentes, nous avons explor\u00e9 les pr\u00e9occupations d\u00e9coulant des phases d\u2019entr\u00e9e (section Remise en question de l\u2019entr\u00e9e de l\u2019\u00e9thique de l\u2019IA par la conception : traduire des valeurs non critiques en actions), de traitement (section Remise en question du traitement de l\u2019\u00e9thique de l\u2019IA par la conception : participation sans changement structurel) et de sortie (section Remise en question de la sortie de l\u2019\u00e9thique de l\u2019IA par la conception : r\u00e9sultats impr\u00e9visibles) de l\u2019\u00e9thique de l\u2019IA par la conception. Bon nombre de ces pr\u00e9occupations portent sur des questions structurelles souvent n\u00e9glig\u00e9es dans les pratiques de l’\u00e9thique de l’IA (voir Tableau 1). Dans la suite de cet article, nous nous attacherons \u00e0 bien comprendre les caract\u00e9ristiques structurelles de ces questions.<\/p>\n\n\n\n

Tableau 1. Questions socio-\u00e9thiques n\u00e9glig\u00e9es dans l’\u00e9thique de l’IA par conception.<\/h2>\n\n\n
\n
\"\"<\/figure>\n<\/div>\n\n\n

IA : intelligence artificielle.<\/p>\n\n\n\n

D\u00e9veloppement d’un cadre \u00e0 plusieurs niveaux pour l’\u00e9thique de l’IA<\/h2>\n\n\n\n

Les sections pr\u00e9c\u00e9dentes ont pr\u00e9sent\u00e9 une revue de l’\u00e9thique de l’IA dans le tournant pratique<\/strong>. Nous avons identifi\u00e9 deux types de questions socio-\u00e9thiques : l’une concerne des artefacts d’IA sp\u00e9cifiques, sur lesquels l’\u00e9thique de la conception se concentre souvent, tandis que l’autre porte sur des d\u00e9fis plus larges qui sont souvent n\u00e9glig\u00e9s dans l’\u00e9thique de l’IA. La plupart de ces enjeux plus larges sont de nature structurelle. Dans cette section, nous explorerons ce qui rend ces enjeux structurels<\/strong>, comment les enjeux structurels sont li\u00e9s \u00e0 ceux au niveau des artefacts, et pourquoi l\u2019\u00e9thique de l\u2019IA devrait int\u00e9grer les deux dans le d\u00e9veloppement d\u2019une IA responsable. Pour y parvenir, nous nous tournons vers des th\u00e9ories sociales, politiques et philosophiques<\/strong> afin de construire une approche \u00e0 plusieurs niveaux de l\u2019\u00e9thique<\/strong> de l\u2019IA.<\/p>\n\n\n\n

Nous commencerons par clarifier ce que signifie le terme \u00ab structure \u00bb. Comme le souligne Sally Haslanger (2023), en philosophie sociale et politique, le terme \u00ab structure<\/strong> \u00bb est souvent utilis\u00e9 de mani\u00e8re interchangeable avec \u00ab syst\u00e8me<\/strong> \u00bb. Une structure ou un syst\u00e8me d\u00e9signe en gros un tout qui est plus grand que la somme de ses parties individuelles. Par exemple, une for\u00eat est plus qu\u2019un simple ensemble d\u2019arbres, et un groupe de musique est plus que la somme de ses musiciens individuels. Dans le cas d\u2019un groupe de musique, cela inclut non seulement les membres, mais aussi les r\u00f4les formels (comme chanteur ou batteur) et les \u00e9l\u00e9ments informels, tels que les convictions communes, les go\u00fbts musicaux et les styles de jeu, qui d\u00e9finissent collectivement ce qu\u2019est le groupe. Dans ce contexte, une structure peut \u00eatre consid\u00e9r\u00e9e comme une repr\u00e9sentation abstraite de relations structur\u00e9es, ou, comme le d\u00e9crit William Sewell, un \u00ab sch\u00e9ma \u00bb qui d\u00e9finit ce que signifie former un tout coh\u00e9rent (Sewell, 2005). Cependant, Iris Young (2001, 2011) et Haslanger (2023 ; 2012) soutiennent que les structures ne sont pas seulement des repr\u00e9sentations passives et abstraites, mais qu\u2019elles fa\u00e7onnent activement les r\u00e9alit\u00e9s dans lesquelles nous vivons et agissons<\/em>. Par exemple, ces structures \u00ab conditionnent fondamentalement les opportunit\u00e9s et les perspectives de vie des personnes occupant ces positions \u00bb (Young, 2001 : 14). Ainsi, \u00e0 la suite de Young et Haslanger, nous consid\u00e9rons une structure comme la combinaison de sch\u00e9mas et d\u2019actions concr\u00e8tes<\/strong> qui s\u2019y rapportent, exer\u00e7ant une force active pour influencer la r\u00e9partition des ressources et les exp\u00e9riences v\u00e9cues.<\/p>\n\n\n\n

Pour Young, une question n\u2019est \u00ab structurelle \u00bb que parce qu\u2019elle est caus\u00e9e par l\u2019existence de structures, plut\u00f4t que par les actions ou les fautes d\u2019un individu en particulier. Elle soutient que les individus ne sont pas responsables de la cr\u00e9ation initiale de ces structures, car celles-ci persistent souvent bien avant leur naissance et bien apr\u00e8s leur mort. Cela signifie que la cr\u00e9ation de structures injustes, telles que les hi\u00e9rarchies raciales, est souvent involontaire, voire \u00ab va \u00e0 l\u2019encontre \u00bb des intentions individuelles (Young 2011 : 63). Cependant, les individus jouent un r\u00f4le dans la reproduction<\/em> continue de ces structures. Young s\u2019appuie sur la th\u00e9orie de la \u00ab structuration \u00bb d\u2019Anthony Giddens<\/strong> (1979) pour expliquer cette dynamique : \u00ab Lorsque les individus agissent, ils font deux choses \u00e0 la fois : 1) ils tentent de cr\u00e9er une situation qu\u2019ils souhaitent, et 2) ils reproduisent les propri\u00e9t\u00e9s structurelles, les relations positionnelles des r\u00e8gles et des ressources, sur lesquelles ils s\u2019appuient pour ces actions \u00bb (Young, 2011 : 60). Par exemple, l\u2019injustice structurelle du travail dans les ateliers clandestins existe ind\u00e9pendamment de toute personne en particulier. Cependant, lorsqu\u2019une personne ach\u00e8te des v\u00eatements dans une boutique de centre-ville, elle perp\u00e9tue involontairement les pratiques qui entretiennent cette injustice. Les structures agissent comme des conditions pr\u00e9alables aux actions individuelles<\/strong>, mais ces actions<\/strong>, \u00e0 leur tour, contribuent \u00e0 reproduire ces structures.<\/strong><\/p>\n\n\n\n

Il est important de noter que cette reproduction ne signifie pas que les individus sont la cause du probl\u00e8me structurel lui-m\u00eame. Au contraire, les probl\u00e8mes structurels sont le r\u00e9sultat de processus complexes et \u00e0 grande \u00e9chelle impliquant de nombreux acteurs et syst\u00e8mes au fil du temps. Revenons \u00e0 l\u2019exemple du travail dans les ateliers clandestins en tant que probl\u00e8me structurel. Fondamentalement, ce travail est maintenu par les dynamiques structurelles de production et de consommation au sein de l\u2019\u00e9conomie capitaliste mondiale. Ces dynamiques font partie de multiples syst\u00e8mes interconnect\u00e9s. Comme l\u2019explique Young (2006), les travailleurs des pays en d\u00e9veloppement occupent une position de classe structurelle par rapport aux petits entrepreneurs qui les emploient. Ces propri\u00e9taires et dirigeants d’usines d\u00e9pendent quant \u00e0 eux des contrats pass\u00e9s avec les multinationales de l’habillement, elles-m\u00eames engag\u00e9es dans une concurrence f\u00e9roce au sein de l’industrie mondiale du v\u00eatement. Les consommateurs sont tout aussi pris dans cet enchev\u00eatrement, influenc\u00e9s par la cr\u00e9ation, par l\u2019industrie de la mode, d\u2019un \u00ab besoin \u00bb de nouveaux v\u00eatements. Ce d\u00e9sir de suivre la mode est int\u00e9rioris\u00e9<\/strong> et perp\u00e9tu\u00e9 par les habitudes et les normes sociales \u2014 ce que Young appelle l\u2019\u00ab habitus<\/strong> \u00bb (Young, 2011 : 61) . Il peut donc sembler que les individus puissent \u00e9viter de contribuer \u00e0 ces relations in\u00e9gales en faisant des choix diff\u00e9rents, comme n\u2019acheter que des v\u00eatements issus du commerce \u00e9quitable ou d\u2019occasion, mais de telles actions men\u00e9es par des individus seuls<\/em> ne peuvent pas perturber les forces structurelles sous-jacentes qui perp\u00e9tuent l\u2019in\u00e9galit\u00e9.<\/p>\n\n\n\n

Sur la base de l\u2019analyse ci-dessus, nous pouvons d\u00e9finir un probl\u00e8me structurel comme suit : Un probl\u00e8me est structurel lorsqu\u2019il est caus\u00e9 par des relations st\u00e9r\u00e9otyp\u00e9es ou des effets de conditionnement qui sont souvent produits et reproduits par le biais de multiples processus \u00e0 grande \u00e9chelle, sans qu\u2019un agent unique ne dirige, ne contr\u00f4le ou n\u2019ait l\u2019intention d\u2019aboutir \u00e0 ce r\u00e9sultat.<\/em>1<\/a><\/sup>Cette d\u00e9finition devrait s\u2019appliquer tant \u00e0 l\u2019ontologie qu\u2019aux structures sociopolitiques. Ainsi, l\u2019expression \u00ab processus \u00e0 grande \u00e9chelle \u00bb d\u00e9signe aussi bien un processus social qu\u2019un processus ontologique.<\/span><\/p>\n\n\n\n

Notre volont\u00e9 de d\u00e9finir et de traiter les probl\u00e8mes structurels ne vise pas \u00e0 remplacer la prise en compte des probl\u00e8mes individuels, mais plut\u00f4t \u00e0 pr\u00e9coniser une approche \u00e0 plusieurs niveaux pour les analyser. Young, par exemple, a d\u00e9j\u00e0 soulign\u00e9 la n\u00e9cessit\u00e9 d\u2019une analyse \u00ab \u00e0 deux niveaux \u00bb pour comprendre l\u2019injustice du travail dans les ateliers clandestins (2004 : 377). Au niveau individuel, les directeurs et propri\u00e9taires d\u2019usines peuvent \u00eatre tenus moralement ou l\u00e9galement responsables de violations sp\u00e9cifiques des droits de l\u2019homme ou du droit du travail (2006 : 116). Au niveau structurel, cependant, tous les individus dont les actions reproduisent cette pratique partagent<\/em> une responsabilit\u00e9 politique d\u2019\u0153uvrer en faveur d\u2019un changement structurel<\/strong>. Ces individus ne sont pas responsables de la cr\u00e9ation initiale de ces structures, mais ont l\u2019obligation prospective<\/strong> de participer \u00e0 une action collective visant \u00e0 transformer les pratiques injustes. Ainsi, selon elle, le concept de responsabilit\u00e9 politique, r\u00e9sultant de la reproduction de structures injustes, devrait compl\u00e9ter, et non remplacer, le mod\u00e8le de responsabilit\u00e9 fond\u00e9 sur la responsabilit\u00e9 civile. Cette approche \u00e0 deux niveaux se retrouve \u00e9galement dans d\u2019autres ouvrages sociaux et philosophiques. Par exemple, dans son ouvrage influent, The Sociological Imagination (1959)<\/em>, Wright Mills critique la mani\u00e8re dont les probl\u00e8mes sociaux sont souvent abord\u00e9s \u00e0 tort comme des questions individuelles isol\u00e9es plut\u00f4t que d\u2019\u00eatre consid\u00e9r\u00e9s dans le cadre des structures plus larges qui les fa\u00e7onnent. De m\u00eame, comme indiqu\u00e9 dans l\u2019introduction, Frye (1983) utilise la m\u00e9taphore de la cage \u00e0 oiseaux pour illustrer comment les facteurs structurels s\u2019interconnectent pour cr\u00e9er des barri\u00e8res.<\/p>\n\n\n\n

Nous pouvons d\u00e9sormais voir comment cette analyse \u00e0 plusieurs niveaux peut s\u2019appliquer \u00e0 l\u2019\u00e9thique de l\u2019IA. Dans les sections pr\u00e9c\u00e9dentes, nous avons identifi\u00e9 certaines questions socio-\u00e9thiques n\u00e9glig\u00e9es, telles que le solutionnisme technique\/IA, les asym\u00e9tries de pouvoir et le data\u00efsme\/la datafication. La plupart d\u2019entre elles sont des questions structurelles en ce sens qu\u2019elles ne sont pas caus\u00e9es par des concepteurs ou des entreprises individuels. Elles sont plut\u00f4t produites et reproduites par des processus sociaux, \u00e9conomiques et technologiques \u00e0 grande \u00e9chelle et interconnect\u00e9s. Par exemple, le \u00ab solutionnisme IA \u00bb<\/strong> \u2014la tendance \u00e0 consid\u00e9rer que les probl\u00e8mes sociaux complexes peuvent \u00eatre r\u00e9solus par des solutions techniques\u2014ne d\u00e9coule pas de l\u2019intention d\u2019un concepteur isol\u00e9, mais d\u2019une culture plus large d\u2019optimisme technologique<\/strong> (technophilie) et d\u2019innovation dict\u00e9e par le march\u00e9<\/strong>. De m\u00eame, les \u00ab asym\u00e9tries de pouvoir \u00bb dans les syst\u00e8mes d\u2019IA sont le r\u00e9sultat d\u2019in\u00e9galit\u00e9s socio-\u00e9conomiques g\u00e9n\u00e9ralis\u00e9es, de lacunes r\u00e9glementaires et de la concentration du pouvoir d\u00e9cisionnel entre les mains d\u2019une poign\u00e9e de grandes entreprises technologiques. Le \u00ab data\u00efsme<\/strong> \u00bb, id\u00e9ologie qui privil\u00e9gie les donn\u00e9es comme solution ultime aux probl\u00e8mes sociaux, est renforc\u00e9 par des tendances acad\u00e9miques, des incitations commerciales<\/strong> et des agendas politiques qui mettent l\u2019accent sur les approches fond\u00e9es sur les donn\u00e9es. Ces probl\u00e8mes structurels ne peuvent \u00eatre trait\u00e9s de mani\u00e8re ad\u00e9quate en se concentrant uniquement sur la responsabilit\u00e9 individuelle ou sur des changements politiques isol\u00e9s. Au contraire, elles n\u00e9cessitent une analyse plus large et \u00e0 plusieurs niveaux qui examine comment ces probl\u00e8mes s\u2019inscrivent dans des sch\u00e9mas syst\u00e9miques et sont perp\u00e9tu\u00e9s par ceux-ci.<\/p>\n\n\n\n

Pour aller plus loin, nous souhaitons approfondir cette analyse \u00e0 plusieurs niveaux en distinguant quatre niveaux de probl\u00e8mes plut\u00f4t que de nous appuyer uniquement sur la dichotomie entre individuel et structurel. L\u2019influence structurelle de l\u2019IA r\u00e9v\u00e8le un spectre<\/em> de d\u00e9fis structurels couvrant diff\u00e9rents degr\u00e9s de complexit\u00e9 et de port\u00e9e. Par exemple, certains probl\u00e8mes structurels sont de nature sociopolitique<\/strong>, tels que le racisme<\/strong> des donn\u00e9es, le sexisme des donn\u00e9es et le colonialisme algorithmique. Ceux-ci trouvent leur origine dans les structures sociales et politiques in\u00e9gales existantes. D’autre part, d’autres probl\u00e8mes, comme le data\u00efsme ou la perte de sens<\/strong>, sont de nature plus ontologique<\/strong>. Ils concernent notre compr\u00e9hension fondamentale du monde et de la r\u00e9alit\u00e9 \u2014 nos croyances, nos mentalit\u00e9s et nos visions du monde<\/strong>. Ces structures ontologiques sont plus stables et persistantes, refl\u00e9tant des processus plus vastes et plus fondamentaux qui sont encore plus \u00ab structurels \u00bb que les structures sociopolitiques. De plus, nous pouvons identifier un niveau interm\u00e9diaire<\/strong> entre l\u2019individuel et le structurel : le niveau organisationnel<\/strong>. Ce niveau concerne les plateformes num\u00e9riques ou les entreprises d\u2019IA qui, sans cr\u00e9er de r\u00e9sultats structurels, peuvent provoquer des effets de groupe allant au-del\u00e0 des actions individuelles. Les enjeux organisationnels comprennent, par exemple, les tensions entre les objectifs de rentabilit\u00e9 et les objectifs sociaux, ou le d\u00e9fi de gagner la confiance du public. Ces enjeux constituent une couche de transition<\/strong> entre les actions individuelles et les forces structurelles.<\/p>\n\n\n\n

Nous pouvons donc d\u00e9velopper un cadre multiniveau affin\u00e9 pour comprendre les impacts \u00e9thiques de l\u2019IA, allant du niveau de l\u2019artefact individuel aux niveaux organisationnel, sociopolitique et ontologique (voir Figure 1). Si un probl\u00e8me est principalement<\/em> caus\u00e9 par le d\u00e9veloppement et l’utilisation de technologies d’IA sp\u00e9cifiques, nous le classons comme un probl\u00e8me au niveau de l’artefact<\/em><\/strong>. Par exemple, l’application Facebook peut poser des probl\u00e8mes de confidentialit\u00e9 des donn\u00e9es, comme l’a montr\u00e9 le scandale Cambridge Analytica (Hu, 2020) . Le FICO Score (un syst\u00e8me de notation de cr\u00e9dit aux \u00c9tats-Unis) peut soulever des probl\u00e8mes de transparence si les utilisateurs ne comprennent pas clairement pourquoi leurs demandes de cr\u00e9dit sont rejet\u00e9es (Wang, 2022b). En traitant ces probl\u00e8mes sp\u00e9cifiques, la responsabilit\u00e9 de cet artefact d’IA particulier peut \u00eatre largement am\u00e9lior\u00e9e. Au niveau organisationnel<\/em><\/strong>, les enjeux socio-\u00e9thiques portent sur la mani\u00e8re dont les organisations (entreprises ou institutions) int\u00e8grent, g\u00e8rent et r\u00e9gissent les syst\u00e8mes d’IA. Dans le cas du scandale Cambridge Analytica, par exemple, la question \u00e0 ce niveau ne se limite pas \u00e0 r\u00e9pondre aux pr\u00e9occupations en mati\u00e8re de confidentialit\u00e9 sur le plan technique. Il s’agit surtout de gagner la confiance du public, de modifier la structure ou la culture de l’organisation et de r\u00e9fl\u00e9chir \u00e0 la mani\u00e8re de g\u00e9n\u00e9rer des profits tout en respectant les valeurs \u00e9thiques.<\/p>\n\n\n\n

\"\"
Figure 1. Probl\u00e9matiques socio-\u00e9thiques pertinentes de l’IA \u00e0 plusieurs niveaux. IA : intelligence artificielle.<\/figcaption><\/figure>\n\n\n\n

Au niveau sociopolitique<\/em><\/strong>, les enjeux socio-\u00e9thiques traitent des impacts sociaux, \u00e9cologiques et politiques plus larges des syst\u00e8mes d\u2019IA. Nous examinerons plus en d\u00e9tail, par exemple, comment Facebook, ancr\u00e9 dans la structure plus large du capitalisme de surveillance, bouleverse le paysage sociopolitique en transformant les exp\u00e9riences humaines priv\u00e9es en une marchandise d\u2019\u00e9change <\/strong>et en sapant la d\u00e9mocratie<\/strong> (Zuboff, 2019). Les enjeux au niveau ontologique<\/em><\/strong> abordent des pr\u00e9occupations philosophiques et existentielles plus profondes concernant la mani\u00e8re dont l\u2019IA remod\u00e8le la nature de l\u2019existence humaine,<\/strong> l\u2019identit\u00e9 et notre compr\u00e9hension fondamentale de la r\u00e9alit\u00e9. Par exemple, lorsqu\u2019on applique les technologies num\u00e9riques dans les villes intelligentes, cela revient \u00e0 faire deux choses \u00e0 la fois : i) elles utilisent des capteurs et collectent des donn\u00e9es pour cr\u00e9er des artefacts individuels, et ii) elles reproduisent une structure ontologique de datafication<\/em>, o\u00f9 des technologies interconnect\u00e9es forment un ensemble d\u2019\u00e9cosyst\u00e8mes num\u00e9riques dans lesquels les humains vivent et agissent (Blok, 2023a : 5). Cette structure de datafication cr\u00e9e d\u2019une part une nouvelle infrastructure pour la vie quotidienne, o\u00f9 tous les aspects de la vie sont datafi\u00e9s ou r\u00e9duits \u00e0 des donn\u00e9es. D’autre part, elle remod\u00e8le nos hypoth\u00e8ses et croyances fondamentales selon lesquelles les donn\u00e9es constituent la pierre angulaire de la r\u00e9alit\u00e9 et que tout, y compris le comportement des \u00eatres humains et non humains, peut \u00eatre quantifi\u00e9 et compris par l’analyse des donn\u00e9es. Ces croyances modifient fondamentalement la mani\u00e8re dont nous percevons le monde et interagissons avec lui, ce qui, \u00e0 son tour, influence la mani\u00e8re dont nous mettons en \u0153uvre les pratiques concr\u00e8tes en mati\u00e8re d’\u00e9thique, de gouvernance et de conception de l’IA.<\/p>\n\n\n\n

En adoptant cette analyse multi-niveaux affin\u00e9e, nous pouvons pr\u00e9ciser quels types de probl\u00e8mes appartiennent \u00e0 chaque cat\u00e9gorie<\/strong> et reconna\u00eetre la diversit\u00e9 au sein m\u00eame des probl\u00e8mes structurels. Cette compr\u00e9hension nuanc\u00e9e est cruciale pour l\u2019\u00e9thique de l\u2019IA, car identifier ces niveaux avec plus de pr\u00e9cision permet de clarifier les responsabilit\u00e9s<\/strong> impliqu\u00e9es dans le d\u00e9veloppement d\u2019une IA responsable. Cependant, il est important d\u2019\u00e9viter<\/strong> de \u00ab r\u00e9ifier la m\u00e9taphore de la structure \u00bb (Young, 2001 : 18) et de traiter les structures comme des entit\u00e9s ind\u00e9pendantes des artefacts<\/strong>. En r\u00e9alit\u00e9, il existe des interconnexions entre les niveaux. Par exemple, un algorithme biais\u00e9 (niveau de l\u2019artefact) peut conduire \u00e0 des pratiques d\u2019embauche discriminatoires au sein d\u2019une entreprise et affecter la confiance du public dans cette organisation (niveau organisationnel). Cela peut \u00e0 son tour renforcer les structures de pouvoir in\u00e9gales existantes et perp\u00e9tuer des biais syst\u00e9miques (niveau sociopolitique), ce qui peut influencer davantage les croyances et les discours plus larges sur la justice et la m\u00e9ritocratie (niveau ontologique). Compte tenu de ces interconnexions, lorsque nous attribuons un probl\u00e8me \u00e0 un niveau particulier, cela ne signifie pas que ce probl\u00e8me existe uniquement<\/em> \u00e0 ce niveau. Chaque niveau a plut\u00f4t son principal<\/em> centre d\u2019int\u00e9r\u00eat, allant de l\u2019impact imm\u00e9diat des technologies d\u2019IA (niveau des artefacts) \u00e0 la dynamique des organisations (niveau organisationnel), en passant par les in\u00e9galit\u00e9s syst\u00e9miques (niveau sociopolitique) et enfin les visions du monde et les id\u00e9ologies plus larges (niveau ontologique) . Cette approche par niveaux permet une compr\u00e9hension plus nuanc\u00e9e de la mani\u00e8re dont les enjeux se manifestent et interagissent \u00e0 travers diff\u00e9rents domaines.<\/p>\n\n\n\n

Mise en \u0153uvre d’un cadre \u00e0 plusieurs niveaux pour le diagnostic des enjeux socio-\u00e9thiques<\/h2>\n\n\n\n

Dans cette section, nous effectuons une premi\u00e8re tentative de mise en \u0153uvre du cadre \u00e0 plusieurs niveaux. Bien qu’une explication d\u00e9taill\u00e9e d\u00e9passe le cadre de cet article, nous proposons ici une matrice d’impact \u00e0 plusieurs niveaux pour illustrer bri\u00e8vement comment cette approche peut aider \u00e0 identifier ces enjeux. Nous classons les impacts socio-\u00e9thiques en quatre niveaux : artefact, organisationnel, socio-politique et ontologique. \u00c0 chaque niveau, nous analysons trois types d\u2019impacts en fonction de l\u2019entr\u00e9e, du traitement et de la sortie de l\u2019influence de l\u2019IA. Pour chaque type d\u2019impact, nous utilisons une question-guide pour diagnostiquer les probl\u00e8mes<\/strong> socio-\u00e9thiques potentiels li\u00e9s \u00e0 l\u2019IA. Comme d\u00e9fini dans l\u2019introduction, le cadre d’analyse \u00ab entr\u00e9e\/traitement\/sortie \u00bb fournit une analyse structur\u00e9e. L’entr\u00e9e fait r\u00e9f\u00e9rence aux objectifs ou aux ressources qui doivent \u00eatre pris en compte avant le processus de conception. Le traitement implique l’int\u00e9gration de ces objectifs ou ressources dans la conception proprement dite ou dans des processus sociaux plus larges. La sortie se concentre sur les effets intentionnels ou non intentionnels de ces processus et sur les moyens potentiels d’y rem\u00e9dier.<\/p>\n\n\n\n

Nous appliquons donc le cadre d’analyse \u00ab entr\u00e9e\/traitement\/sortie \u00bb pour effectuer une analyse structur\u00e9e des impacts de l’IA \u00e0 diff\u00e9rents niveaux. Au niveau de l’artefact<\/strong>, l’entr\u00e9e concerne les objectifs que l’IA doit atteindre et les d\u00e9fis qu’elle est cens\u00e9e relever. Le traitement porte sur la mani\u00e8re dont les parties prenantes sont impliqu\u00e9es dans le processus de conception. La sortie se concentre sur les effets non intentionnels de l’IA. Au niveau organisationnel<\/strong>, l’entr\u00e9e concerne la mani\u00e8re dont les objectifs \u00e9conomiques et sociaux sont d\u00e9finis et comment ils peuvent entrer en conflit. Le traitement aborde la mani\u00e8re dont les organisations g\u00e8rent les risques \u00e9thiques,<\/strong> juridiques et sociaux de l\u2019IA et comment la rendre conforme aux r\u00e9glementations et aux normes \u00e9thiques. La production concerne l\u2019\u00e9tablissement et le maintien de la confiance lorsque des probl\u00e8mes surviennent. Au niveau sociopolitique<\/strong>, l\u2019entr\u00e9e concerne les structures de pouvoir existantes, les injustices et les groupes marginalis\u00e9s. Le traitement explore comment l\u2019IA peut refl\u00e9ter ou reproduire ces in\u00e9galit\u00e9s. La production se concentre sur la mani\u00e8re de contribuer de mani\u00e8re responsable \u00e0 un paysage sociopolitique plus juste. Au niveau ontologique<\/strong>, les intrants concernent les hypoth\u00e8ses implicites existantes dans la r\u00e9flexion des d\u00e9veloppeurs d\u2019IA lorsqu\u2019ils commencent \u00e0 concevoir la technologie. Le flux examine comment ces hypoth\u00e8ses sont int\u00e9gr\u00e9es dans les syst\u00e8mes d\u2019IA et comment elles influencent les modes de vie humains. Les extrants nous invitent \u00e0 repenser des solutions ou des croyances alternatives.<\/p>\n\n\n\n

Toutes les questions li\u00e9es aux impacts de l\u2019IA \u00e0 diff\u00e9rents niveaux, ainsi que les questions diagnostiques permettant de les identifier, sont r\u00e9sum\u00e9es dans le tableau 2. Cette matrice ne fournit pas une liste exhaustive des questions que les d\u00e9veloppeurs d\u2019IA peuvent traiter directement. Au contraire, nous l\u2019avons intentionnellement con\u00e7ue non pas comme une liste de contr\u00f4le pour les d\u00e9veloppeurs d\u2019IA, mais pour qu\u2019elle soit plus adapt\u00e9e \u00e0 des ateliers ou \u00e0 des groupes de discussion, o\u00f9 diverses parties prenantes peuvent s\u2019engager dans des discussions constructives. Le cadre d\u2019un atelier est ici plus appropri\u00e9 car, comme nous l\u2019avons soutenu tout au long de cet article, de nombreuses questions socio-\u00e9thiques, en particulier certaines questions structurelles, ne peuvent \u00eatre r\u00e9solues par la conception seule et n\u00e9cessitent que diverses parties prenantes n\u00e9gocient des solutions. Ainsi, les questions sont soigneusement adapt\u00e9es pour garantir qu\u2019elles permettent d\u2019identifier efficacement les enjeux pertinents parmi les impacts \u00e0 diff\u00e9rents niveaux, tout en restant suffisamment ouvertes et g\u00e9n\u00e9riques pour saisir les nuances, les perspectives diverses et favoriser le d\u00e9bat sur ces questions.<\/p>\n\n\n\n

Tableau 2. Matrice d’impact \u00e0 plusieurs niveaux pour identifier les enjeux socio-\u00e9thiques de l’IA.<\/h2>\n\n\n\n
\"\"<\/figure>\n\n\n\n

IA : intelligence artificielle.<\/p>\n\n\n\n

Cette matrice d’impact \u00e0 plusieurs niveaux peut \u00eatre utilis\u00e9e lors de la phase initiale de conception, lorsque les technologies d’IA sont encore adaptables, afin que les d\u00e9veloppeurs d’IA puissent travailler avec les parties prenantes pour identifier les probl\u00e8mes potentiels et ajuster l’IA de mani\u00e8re responsable. Prenons par exemple le cas bien connu du syst\u00e8me de recrutement automatis\u00e9 d’Amazon, qui a fait preuve de discrimination \u00e0 l’\u00e9gard des candidates (Kodiyan, 2019). Au cours des premi\u00e8res \u00e9tapes du d\u00e9veloppement, diverses parties prenantes \u2014 telles que les d\u00e9veloppeurs d’IA d’Amazon, les d\u00e9cideurs politiques, les candidats \u00e0 l’emploi et les experts en \u00e9thique et en droit \u2014 pourraient utiliser cette matrice et son ensemble de questions pour diagnostiquer les probl\u00e8mes socio-\u00e9thiques. Cette matrice aiderait \u00e0 r\u00e9v\u00e9ler que le biais n’est pas seulement un probl\u00e8me li\u00e9 \u00e0 des ensembles de donn\u00e9es biais\u00e9s (BBC, 2018), mais qu\u2019il est ancr\u00e9 dans les donn\u00e9es d\u2019entr\u00e9e, le traitement et les r\u00e9sultats du processus de conception de l\u2019IA, et qu\u2019il est li\u00e9 \u00e0 des cultures organisationnelles plus larges, \u00e0 des in\u00e9galit\u00e9s patriarcales historiques et \u00e0 des croyances culturelles. Elle pourrait \u00e9galement susciter une r\u00e9flexion sur le \u00ab solutionnisme \u00bb de l\u2019IA, en encourageant Amazon et les parties prenantes \u00e0 se demander si de tels syst\u00e8mes de recrutement automatis\u00e9s devraient m\u00eame \u00eatre d\u00e9velopp\u00e9s<\/strong>, ou \u00e0 explorer d\u2019autres philosophies de conception qui privil\u00e9gient les candidats plut\u00f4t que les profits et l\u2019efficacit\u00e9.<\/p>\n\n\n\n

Conclusion<\/h2>\n\n\n\n

Cet article \u00e9value de mani\u00e8re critique le paysage de l’\u00e9thique de l’IA, en mettant particuli\u00e8rement l’accent sur sa tendance pratique \u00e0 int\u00e9grer des valeurs \u00e9thiques dans les pratiques de conception de l’IA. Si cette \u00e9thique de l\u2019IA \u00ab by-design \u00bb peut s\u2019av\u00e9rer b\u00e9n\u00e9fique pour traiter des questions \u00e9thiques et sociales explicites li\u00e9es \u00e0 des artefacts sp\u00e9cifiques de l\u2019IA, elle risque de n\u00e9gliger des probl\u00e8mes structurels pertinents et de ne pas rem\u00e9dier aux pr\u00e9judices cach\u00e9s et \u00e0 long terme. Nous commen\u00e7ons par un examen d\u00e9taill\u00e9 des phases d\u2019entr\u00e9e (Section Remettre en question l\u2019entr\u00e9e de l\u2019\u00e9thique de l\u2019IA \u00ab by-design \u00bb : traduire des valeurs non critiques en actions), de traitement (section \u00ab Remettre en question le traitement de l\u2019\u00e9thique de l\u2019IA par conception : une participation sans changement structurel \u00bb) et de la sortie (section \u00ab Remettre en question la sortie de l\u2019\u00e9thique de l\u2019IA par conception : des r\u00e9sultats impr\u00e9visibles \u00bb) de l\u2019\u00e9thique de l\u2019IA par conception, r\u00e9v\u00e9lant ainsi l\u2019accent mis sur les artefacts individuels au d\u00e9triment de pr\u00e9occupations structurelles plus larges. Pour combler cette lacune, nous proposons un cadre \u00e0 plusieurs niveaux permettant d\u2019identifier les enjeux socio-\u00e9thiques de l\u2019IA tant au niveau des artefacts qu\u2019au niveau structurel plus large (sections \u00ab Le d\u00e9veloppement d\u2019un cadre \u00e0 plusieurs niveaux pour l\u2019\u00e9thique de l\u2019IA \u00bb et \u00ab Mise en \u0153uvre d\u2019un cadre \u00e0 plusieurs niveaux pour diagnostiquer les enjeux socio-\u00e9thiques \u00bb). Ce cadre peut aider les experts en \u00e9thique, les concepteurs d\u2019IA et les d\u00e9cideurs politiques \u00e0 d\u00e9velopper des technologies d\u2019IA responsables en examinant de mani\u00e8re critique les hypoth\u00e8ses cach\u00e9es et les angles morts au sein des lignes directrices, des politiques et des cadres r\u00e9glementaires relatifs \u00e0 l\u2019IA. Les recherches futures exploreront comment int\u00e9grer ce cadre \u00e0 plusieurs niveaux dans la conception et l’\u00e9laboration des politiques de l’IA dans le monde r\u00e9el afin de favoriser un changement structurel et transformateur.<\/p>\n\n\n\n

Note 1 <\/h2>\n\n\n\n

Cette d\u00e9finition devrait s’appliquer tant \u00e0 l’ontologie qu’aux structures sociopolitiques. Ainsi, l’expression \u00ab processus \u00e0 grande \u00e9chelle \u00bb d\u00e9signe aussi bien un processus social qu’un processus ontologique.<\/p>\n\n\n\n

\n\n\n\n

R\u00e9f\u00e9rences <\/h2>\n\n\n\n