Pourquoi la mise en pratique de l’éthique de l’intelligence artificielle ne suffit pas : vers un cadre à plusieurs niveaux

Traduction de Why putting artificial intelligence ethics into practice is not enough: Towards a multi-level framework par Hao Wang et Vincent Blok dans Big Data and Society, le 16 mai 2025. [12 080 mots]

Résumé

L’éthique de l’intelligence artificielle (IA) connaît actuellement une évolution pratique visant à intégrer les principes dans les pratiques de conception afin de développer une IA responsable. Bien que ce tournant pratique soit essentiel, cet article met en évidence le risque potentiel de se concentrer excessivement sur la résolution de problèmes au niveau des artefacts individuels, ce qui peut conduire à négliger des défis structurels plus profonds et la nécessité d’un changement systémique significatif. Une telle omission fait perdre à l’éthique de l’IA sa capacité à traiter certains préjudices cachés et à long terme dans des contextes plus larges. Dans cet article, nous proposons que la réflexion sur les questions structurelles fasse partie intégrante de l’éthique de l’IA. Pour y parvenir, nous développons un cadre à plusieurs niveaux permettant d’analyser les enjeux socio-éthiques de l’IA tant au niveau des artefacts qu’à un niveau structurel plus large. Ce cadre peut servir d’approche potentiellement transformatrice pour mettre au jour certaines hypothèses tacites dans les discours actuels sur l’éthique de l’IA et exposer certains angles morts dans les lignes directrices, les politiques et les réglementations relatives à l’IA. Notre article ouvre la voie à l’élaboration d’une approche pratique capable d’intégrer efficacement ce cadre à plusieurs niveaux dans la conception et l’élaboration des politiques de l’IA dans le monde réel, afin d’aboutir à un changement transformateur.

Introduction

L’intelligence artificielle (IA) façonne considérablement notre monde moderne, mais elle soulève également une série de défis éthiques, juridiques et sociaux. En réponse, on observe une tendance mondiale à établir des lignes directrices éthiques pour réguler les risques et les conséquences négatives de l’IA (Corrêa et al., 2023 ; Jobin et al., 2019 ; HLEG, 2019). Cependant, cette gouvernance de l’IA par le biais de lignes directrices éthiques a fait l’objet de nombreuses critiques. L’une des principales préoccupations est que ces lignes directrices et principes sont souvent trop abstraits pour être appliqués dans des situations concrètes (Bleher et Braun, 2023 ; Hagendorff, 2021 ; Mittelstadt, 2019 ; Veale, 2020). Ces principes, par exemple, ne s’accompagnent souvent d’aucun mécanisme réel de mise en application, de sorte que le non-respect des codes éthiques n’entraîne généralement aucune conséquence, ou des conséquences très mineures : ils sont « sans effet » (Rességuier et Rodrigues, 2020) . Certaines entreprises utilisent même cette éthique abstraite comme un outil de marketing ou un moyen de « blanchiment éthique » pour échapper à des réglementations légales plus strictes (Wagner, 2018). En conséquence, cette éthique de l’IA fondée sur des principes est souvent considérée non seulement comme « inutile », mais aussi comme « une distraction dangereuse », qui détourne des fonds et des ressources considérables de meilleures utilisations (Munn, 2022).

C’est pourquoi l’éthique de l’IA connaît actuellement un tournant pratique, cherchant à traduire des valeurs et des principes abstraits en pratiques de conception concrètes (Floridi, 2019 ; Hagendorff, 2022). Cette éthique de l’IA intégrée dès la conception vise à intégrer de manière transparente les valeurs humaines dans l’ensemble du cycle de vie du développement de l’IA. L’approche « Ethics by Design » (EbD), par exemple, « part de valeurs de haut niveau pour l’IA, qui sont ensuite traduites en exigences de conception pour les systèmes d’IA, puis en mesures spécifiques à mettre en œuvre à des étapes précises du processus de conception » (Brey et Dainow, 2023 : 3). Cette approche « by-design » se retrouve également dans certaines méthodologies similaires telles que « Ethics in/for Design » (Dignum, 2018 : 2), « Design for Values » (Buijsman et al., 2025), ou dans l’application de la conception sensible aux valeurs (VSD) pour créer une « IA sensible aux valeurs » (Sadek et al., 2023 ; Umbrello & van de Poel, 2021), entre autres. On met également de plus en plus l’accent sur le développement de l’approche du laboratoire ELSA (Ethical, Legal, and Social Aspects) pour concevoir de manière collaborative une IA responsable et centrée sur l’humain (Ryan et Blok, 2023), « en s’assurant qu’elle soit éthique dans la pratique » (NLAIC, 2025). Dans cet article, nous reconnaissons que pour rendre l’éthique de l’IA utile et applicable, il peut être nécessaire de passer de valeurs/principes abstraits à une conception pratique. Nous pensons que des approches pratiques telles que les laboratoires VSD, EbD et les laboratoires ELSA sont essentielles pour traiter les questions éthiques et sociales dans le développement spécifique de l’IA, en particulier dans leurs efforts pour intégrer des valeurs dans tous les aspects des artefacts de l’IA. Cependant, notre hypothèse est que nous devrions également faire preuve de prudence face à ce tournant pratique, car il tend à se concentrer sur la conception d’artefacts individuels, ce qui peut ignorer des problèmes structurels plus profonds qui sont souvent trop abstraits et complexes pour être traités par la seule conception technique.

Dans cet article, les problèmes structurels font référence à des problèmes causés par des relations structurées, souvent produites et reproduites par le biais de processus multiples et à grande échelle où aucun agent identifiable ne dirige, ne contrôle ou n’a d’intention (Haslanger, 2023 ; Ryan et al. 2024 ; Young, 2011). Les problèmes structurels se distinguent de ceux au niveau des artefacts, posant des formes de préjudice différentes auxquelles l’éthique de l’IA devrait s’attaquer. Prenons la métaphore de la cage à oiseaux de Marilyn Frye (1983). Imaginons un oiseau enfermé dans une cage. Examiner un fil métallique individuellement n’explique pas pourquoi l’oiseau ne peut pas voler. Ce n’est qu’en considérant l’ensemble de l’agencement des fils — comment ils sont reliés et renforcent mutuellement leur rigidité — que l’on comprend pourquoi le vol de l’oiseau est restreint. De même, l’éthique de l’IA par conception décompose souvent les systèmes d’IA en composants individuels, tels que les données, les algorithmes et le contenu généré. L’hypothèse est que résoudre les problèmes éthiques dans chacun de ces composants rendra automatiquement l’ensemble du système d’IA responsable et digne de confiance. Cependant, cette approche revient à se concentrer sur un fil à la fois dans la métaphore de la cage à oiseaux de Frye : elle se perd souvent dans les détails des artefacts individuels de l’IA tout en négligeant les effets systémiques causés par les « structures ». Pour développer véritablement une IA responsable, il ne suffit pas de se contenter de traiter les problèmes au niveau des artefacts, tout en ignorant les préjudices structurels que les systèmes d’IA produisent et reproduisent.

Sans prendre en compte les problèmes structurels sous-jacents, l’éthique de l’IA risque de perdre sa capacité à traiter certains préjudices pertinents dans des contextes plus larges, manquant ainsi des occasions de changement transformateur. Elle pourrait finir par ne traiter que les « symptômes » plutôt que de s’attaquer aux structures profondes et aux causes profondes qui donnent naissance à ces symptômes. Elle corrigera ainsi les biais dans les ensembles de données, par exemple, mais ne remettra pas en cause les structures racistes et patriarcales qui créent ces biais. De plus, en ignorant les problèmes structurels, l’éthique intégrée dès la conception pourrait involontairement devenir une forme de « blanchiment éthique » (Van Maanen, 2022). Certains développeurs d’IA pourraient affirmer que leurs technologies sont fiables parce qu’ils ont traité tous les problèmes possibles tels que la confidentialité, la transparence et les biais. Cependant, ils n’ont peut-être résolu que certains problèmes ponctuels au sein de leurs technologies d’IA, tandis que les groupes marginalisés continuent de souffrir d’injustices structurelles plus larges que l’IA renforce au sein des systèmes de pouvoir inégaux existants. Cela crée l’illusion que le problème est « résolu » (au sens strict) et que l’IA semble « digne de confiance », mais en réalité, cela masque les déséquilibres de pouvoir sous-jacents, marginalisant davantage ceux qui sont déjà touchés par l’oppression structurelle (Birhane et al., 2022) . Pour remédier aux préjudices et promouvoir une société équitable, nous proposons que la réflexion sur les questions structurelles fasse partie intégrante de toute éthique de l’IA intégrée dès la conception.

Souligner la nécessité de prendre en compte les questions structurelles n’est pas nouveau. Dans la littérature sur l’IA et l’éthique des données, de nombreux auteurs ont déjà évoqué différentes questions structurelles, directement ou indirectement. Plusieurs chercheurs ont souligné l’importance de pratiques qui ne se limitent pas à se concentrer uniquement sur les artefacts et les préjudices individuels (Attard-Frost et al., 2023 ; Crawford, 2021 ; Hagendorff, 2022 ; Smuha 2021). Certains ont critiqué le fait que le discours éthique actuel sur l’IA néglige souvent les aspects relationnels de l’éthique de l’IA (Metcalf et al., 2023), préférant « s’approprier le langage des critiques et les intégrer dans une vision limitée, technologiquement déterministe et dictée par les experts de ce que signifie une IA/un ML éthiques et de la manière dont ils pourraient fonctionner » (Greene et al., 2019 : 2122). D’autres études explorent la manière dont l’IA reflète ou perpétue des structures sociopolitiques plus larges, telles que le capitalisme (Zuboff, 2019), le colonialisme (Birhane, 2020 ; Couldry et Mejias, 2018 ; Muldoon et Wu, 2023), le sexisme (Rafanelli, 2022), le racisme (Benjamin, 2019) et les systèmes de castes (Sambasivan et al., 2021). Des inquiétudes ont également été soulevées concernant les implications fondamentales de l’IA, causées par des structures ontologiques pour l’existence humaine à l’ère numérique, telles que le dataïsme (Blok, 2023b), l’aliénation par l’IA (Haga, 2022), l’anthropocentrisme (Hagendorff, 2022), l’instrumentalisme de l’IA (Gill, 2020), la déshumanisation (Fritts et Cabrera, 2021) et l’objectivation (Wang, 2023).

Il semble toutefois y avoir un manque d’analyse approfondie des questions structurelles en éthique de l’IA. Le terme « question structurelle » est souvent utilisé de manière large, mais qu’est-ce qu’une « structure » exactement, et qu’est-ce qui rend une question « structurelle » ? S’il s’agit d’une question de structure, en quoi les problèmes structurels diffèrent-ils des problèmes non structurels, et comment sont-ils liés ? Pourquoi devrions-nous nous soucier moralement des problèmes structurels s’ils ne sont ni voulus ni causés par un agent individuel ? Ces questions n’ont pas encore été clarifiées théoriquement dans le contexte de l’éthique de l’IA. De plus, si la littérature existante sur l’éthique de l’IA souligne à juste titre l’importance de traiter les problèmes structurels, elle a tendance à les traiter comme si tous les problèmes structurels se situaient au même niveau. Cependant, un examen plus approfondi montrera que les effets structurels de l’IA s’étendent sur un spectre de niveaux présentant différents degrés de complexité et d’orientation. Comprendre ces nuances des problèmes structurels est crucial pour l’éthique de l’IA, car cela aide à clarifier comment différents effets structurels sont liés à différentes responsabilités dans le développement d’une IA responsable. Par conséquent, cet article procédera à une analyse détaillée des problèmes structurels en éthique de l’IA et proposera une approche à plusieurs niveaux fondée sur la littérature sociale, politique et philosophique. Nous tenterons ensuite d’explorer comment mettre en œuvre cette approche dans la conception d’une IA responsable.

Cet article commence par une revue de la littérature sur l’éthique de l’IA afin d’illustrer les impacts structurels de l’IA qui sont souvent négligés dans l’éthique de l’IA axée sur la conception. Pour guider cette revue, nous avons appliqué le cadre analytique « input/throughput/output », initialement proposé et dont l’efficacité a été démontrée pour mettre au jour les hypothèses sous-jacentes dans la littérature sur l’innovation et la recherche responsables (Blok & Lemmens, 2015). Ce cadre considère le développement responsable de l’IA comme un processus comportant trois étapes analytiques : l’entrée, le traitement et la sortie. L’entrée fait référence aux objectifs et aux valeurs qui définissent le point de départ de la conception de l’IA. Le traitement examine comment ces éléments sont intégrés dans le processus de conception réel par le biais d’une collaboration avec les parties prenantes. La sortie se concentre sur les résultats de la conception. Dans cet article, les trois premières sections analysent de manière critique une série de questions émergeant au cours des phases d’entrée (identification des valeurs) (Section Remise en question de l’entrée de l’éthique de l’IA par conception : traduire des valeurs non critiques en actions), de traitement (conception proprement dite) (section « Remettre en question le traitement de l’éthique de l’IA par conception : participation sans changement structurel ») et de la sortie (évaluation des résultats) (section « Remettre en question la sortie de l’éthique de l’IA par conception : résultats imprévisibles »). Nous montrons ensuite que la plupart de ces problèmes sont de nature structurelle, mais qu’ils sont souvent ignorés dans l’éthique de l’IA. Pour combler cette lacune, nous développons un cadre à plusieurs niveaux permettant d’analyser clairement les impacts de l’IA, depuis les préoccupations spécifiques au niveau des artefacts jusqu’aux implications structurelles plus larges (Section Le développement d’un cadre à plusieurs niveaux pour l’éthique de l’IA). Pour aller plus loin, nous proposons une méthode pratique pour mettre en œuvre cette approche à plusieurs niveaux dans des conceptions d’IA responsables (Section Mise en œuvre du cadre à plusieurs niveaux comme outil de diagnostic des enjeux socio-éthiques).

Remettre en question les fondements de l’éthique de l’IA par la conception : traduire des valeurs non critiques en actions

L’éthique de l’IA par conception commence souvent par des données d’entrée abstraites, telles que des objectifs idéaux (par exemple, développer une IA fiable et centrée sur l’humain) ou des valeurs et principes connexes qui devraient être intégrés au processus de conception. Cependant, lors de la traduction de ces objectifs, valeurs et principes en conception concrète, ils sont souvent traités comme allant de soi, comme s’il suffisait simplement de les mettre en œuvre. En réalité, ces données d’entrée sont plus complexes qu’elles n’y paraissent. Dans cette section, nous examinerons de manière critique comment l’éthique de l’IA intégrée dès la conception a tendance à négliger les effets plus larges du techno-solutionnisme, des dynamiques de pouvoir et de la perturbation de la vie quotidienne lors de la traduction de ces valeurs en pratiques de conception.

Techno-solutionnisme

L’éthique de l’IA intégrée dès la conception est souvent guidée par une approche pragmatique des valeurs, se concentrant sur celles qui peuvent être opérationnalisées et incorporées dans des conceptions spécifiques d’IA. Bien que cette approche soit pratique, elle peut simplifier à l’excès des questions sociales complexes qui nécessitent un engagement politique plus large et des actions s’inscrivant dans un contexte social plus vaste, en les réduisant à des attributs techniques pouvant être corrigés (Hagendorff, 2020 ; Greene et al., 2019) . Ce techno-solutionnisme dans la sélection et l’intégration des valeurs peut conduire à négliger des problèmes structurels plus profonds, souvent considérés comme trop abstraits ou complexes pour être traités par les concepteurs d’IA.

L’objectif d’une IA digne de confiance, par exemple, est souvent réduit à quelques valeurs fondamentales telles que la confidentialité, la transparence, la sécurité et la responsabilité (HLEG, 2019). Si ces aspects sont essentiels au développement éthique de l’IA, ce sont aussi ceux qui « sont les plus facilement opérationnalisables mathématiquement et ont donc tendance à être mis en œuvre sous forme de solutions techniques » (Hagendorff, 2020 : 103) . Même lorsque des valeurs ayant un poids social et politique significatif sont intégrées, elles sont souvent simplifiées en problèmes techniques pouvant être résolus dans la conception d’un produit d’IA spécifique. Prenons les exemples de « l’équité » et de la « justice ». Dans l’éthique par la conception, elles sont souvent réduites à des problèmes techniquement résolubles liés à des ensembles de données et des algorithmes « purement objectifs » (Benjamin, 2019). Cela conduit à des tentatives de résolution du problème, telles que la suppression des biais dans les ensembles de données à l’aide d’outils comme « AI Fairness 360 » (Birhane et al., 2022). Cependant, cette approche réductionniste néglige le fait que le biais des données n’est pas seulement un problème technique, mais qu’il est ancré dans des structures plus larges d’inégalités historiques (par exemple, le racisme, le sexisme, le postcolonialisme) (Madaio et al., 2022) . Lorsque l’injustice sociale est réduite à une simple inéquité dans les données et les algorithmes, l’éthique de l’IA ne parvient pas à s’attaquer à ses causes profondes et néglige le contexte social plus large ainsi que les structures de pouvoir qui contribuent à la marginalisation de certains groupes.

Dynamiques de pouvoir

Lorsqu’il s’agit de traduire des valeurs en pratique, l’éthique par conception a tendance à supposer que ces valeurs sont largement partagées et prêtes à être mises en œuvre. Cependant, le choix des valeurs à privilégier dans le développement de l’IA est souvent façonné par les dynamiques de pouvoir. Il est peut-être vrai que le choix de ces valeurs n’est pas aléatoire, car on prétend souvent qu’il repose sur un large consensus international ou qu’il est conforme aux droits humains fondamentaux (HLEG, 2019 ; Brey et Dainow, 2023). Mais la question de savoir s’il existe des droits humains universels acceptés par toutes les cultures reste sujette à débat, d’autant plus que cette idée d’universalisme des valeurs a été critiquée pour son occidentalisme (Zwart et al. , 2024). Par exemple, la valeur de l’autonomie, qui apparaît fréquemment dans les lignes directrices éthiques relatives à l’IA, est profondément enracinée dans le libéralisme et l’individualisme occidentaux. Dans les cultures qui mettent l’accent sur le collectivisme, l’autonomie peut revêtir une signification différente ou occuper une place moins importante (Nakada et Tamura, 2005). De plus, les lignes directrices éthiques relatives à l’IA, en particulier celles émanant des gouvernements et des entreprises privées, sont principalement façonnées par les pays occidentaux et les entreprises qui dominent le secteur de l’IA (Jobin et al., 2019). Les voix des pays du Sud sont souvent sous-représentées dans ces discussions (Birhane, 2020 ; Wakunuma et al., 2021). Il est donc quelque peu naïf de prétendre qu’il existe un large consensus sur les valeurs éthiques actuelles de l’IA, surtout compte tenu de la participation et de l’influence limitées du Sud dans l’élaboration de ces valeurs lors de la conception de l’IA.

La perturbation de la vie quotidienne

Dans la littérature sur l’éthique de l’IA, les idéaux d’une IA centrée sur l’humain et d’une IA digne de confiance sont souvent présentés comme des choses intrinsèquement positives, sans être vraiment remis en question. Cependant, ce cadre optimiste peut occulter l’expérience vécue complexe des individus qui peuvent être confrontés quotidiennement à des difficultés avec les systèmes d’IA. Pour bien comprendre la confiance en l’IA, par exemple, nous devrions aller au-delà d’une liste de valeurs abstraites telles que la transparence, la vie privée et la non-discrimination, afin de prendre en compte les émotions, les peurs, les frustrations et les difficultés quotidiennes qui alimentent la méfiance. Les gens peuvent craindre de perdre le contrôle, ressentir de la colère face à la manipulation politique ou s’inquiéter d’être remplacés par des machines. Cette érosion de la confiance ne se produit pas du jour au lendemain : elle s’installe au fil du temps, alimentée par des scandales, des pratiques irresponsables de la part des entreprises technologiques et une réglementation insuffisante en matière d’IA. La méfiance n’est donc pas seulement une réaction à des problèmes spécifiques tels que les violations de la vie privée ou le manque de transparence ; elle reflète une perturbation plus large des expériences quotidiennes des gens avec l’IA.

Compte tenu de cette complexité, promouvoir la confiance dans l’IA n’est peut-être pas toujours la meilleure approche. Dans certains cas, il peut être nécessaire d’encourager un scepticisme sain, voire une méfiance justifiée. Certains ont fait valoir que pour les groupes marginalisés, comme les personnes noires confrontées au racisme systémique, la méfiance sociale est justifiée (Davidson et Satta, 2021). Ce scepticisme justifié peut également s’étendre aux systèmes d’IA, en particulier dans le contexte d’un capitalisme de surveillance omniprésent et de la datafication incessante des vies humaines en produits commerciaux (Zuboff, 2019 ; Crawford, 2021). Une telle méfiance ne vise pas à éroder la confiance sociétale, mais plutôt à faire pression pour la création de conditions qui la méritent véritablement (Davidson et Satta, 2021 : 23). De cette manière, la méfiance devient un moyen de remettre en question les problèmes systémiques, de plaider en faveur de la responsabilité et, en fin de compte, de rendre notre société algorithmique plus digne de confiance (Wang, 2022a).

Dans l’ensemble, cette section critique le fait que l’éthique de l’IA « by-design » néglige souvent certaines questions importantes telles que le techno-solutionnisme, les dynamiques de pouvoir et la perturbation de la vie quotidienne lors de la phase d’entrée de la conception de l’IA. Elle se concentre souvent trop sur la traduction de valeurs abstraites en actions de conception applicables sans examiner de plus près les valeurs elles-mêmes.

Remettre en question le rendement de l’éthique de l’IA « by-design » : la participation sans changement structurel

La phase de rendement de l’éthique de l’IA « by-design » concerne le processus de conception de l’IA proprement dit, en collaboration avec diverses parties prenantes. Ce processus de co-conception met l’accent sur la participation et son potentiel de transformation. En tant que « réflexion dans l’action », il permet au public de mettre en lumière des enjeux pertinents, de révéler des dynamiques de pouvoir cachées et de plaider en faveur d’un changement institutionnel significatif (Robertson et Simonsen, 2012 : 5). Cependant, dans cette section, nous montrerons que le potentiel transformateur de la participation peut être compromis et déformé si l’éthique de l’IA se concentre uniquement sur la conception d’artefacts IA spécifiques sans prendre en compte d’importants changements structurels. Cette omission risque de réduire la participation à une simple extraction de main-d’œuvre, à une manipulation de la légitimité et à une déconnexion des expériences vécues par les personnes.

La participation comme extraction de main-d’œuvre

Idéalement, par participation, l’éthique de l’IA inclurait les retours du public ou des utilisateurs concernés dans le processus de conception de l’IA (Hansson, 2017). Cela permet au public de servir de ressource supplémentaire aux concepteurs d’IA pour identifier les enjeux éthiques et améliorer la conformité éthique dans le processus de conception. Cependant, cette vision idéalisée de la participation peut ignorer la structure économiquement extractive qui sous-tend les conceptions réelles de l’IA. Par exemple, dans de nombreux projets interdisciplinaires, des experts en éthique/droit et des citoyens peuvent jouer un rôle de consultation pour identifier les problèmes éthiques, juridiques et sociaux potentiels dans des systèmes d’IA particuliers. Cependant, cette consultation pourrait se limiter à certaines formes particulières qui ne s’alignent que sur les objectifs commerciaux. D’une part, les entreprises peuvent utiliser les contributions des parties prenantes pour extraire des informations commerciales qui servent principalement leurs objectifs commerciaux (Brand et Blok, 2019). D’autre part, lorsque les valeurs sociales entrent en conflit avec l’accent mis par les entreprises sur la création de valeur économique et la recherche du profit, les valeurs sociales sont souvent écartées comme étant moins pertinentes dans les conceptions d’IA (Blok et Lemmens, 2015: 22). En conséquence, cette participation peut réduire le rôle consultatif des experts en éthique/droit et des citoyens à une forme de travail gratuit, aidant indirectement les entreprises d’IA à maximiser leurs profits.

Cette forme de participation illustre ce que Mona Sloane appelle la « participation extractive », où le travail humain est utilisé pour améliorer les systèmes d’IA existants sans reconnaissance ni compensation adéquates (Sloane, 2024). Cette participation extractive va au-delà du rôle consultatif des experts et des citoyens. Un exemple plus direct est le recours à des travailleurs faiblement rémunérés pour effectuer des tâches répétitives, telles que l’étiquetage et le signalement de contenus contraires à l’éthique (Perrigo, 2023) . De plus, cette extraction se produit dans la vie quotidienne, où les interactions des utilisateurs avec des produits d’IA tels que ChatGPT génèrent en continu des retours d’information et des données, permettant aux entreprises d’affiner leurs technologies sans reconnaître ni rémunérer les utilisateurs pour leurs contributions (Sloane, 2024).

La participation comme manipulation de la légitimité

Dans un scénario idéal, la participation sert de pont entre les concepteurs d’IA et le public, favorisant la confiance et garantissant la légitimité démocratique dans le développement de l’IA. Dans cette vision, la participation ne consiste pas seulement à identifier les défis éthiques, mais à intégrer l’inclusion et la légitimité dans le processus de développement (Ten Holter, 2022). Cependant, cette image idéalisée néglige souvent les dynamiques de pouvoir inhérentes au processus de co-conception, où la participation peut être manipulée par les puissants pour acquérir de la légitimité. Cette forme déformée de participation est ce que Sherry Arnstein appelle la « manipulation » dans son célèbre modèle de l’échelle de participation (2019). Arnstein soutient que lorsque des déséquilibres de pouvoir existent, la participation peut devenir illusoire : les citoyens peuvent croire qu’ils ont leur mot à dire, mais le processus est structuré de manière à leur refuser tout pouvoir réel. De telles formes de participation, déguisées en inclusives et démocratiques, servent souvent à pacifier la dissidence en offrant une implication symbolique plutôt que substantielle (Gilman, 2022).

Dans la conception de l’IA dans le monde réel, ces déséquilibres de pouvoir sont courants, les processus de participation étant souvent surdéterminés par ceux qui détiennent le plus grand pouvoir d’influence (Blok et Lemmens, 2015). Cette structure asymétrique permet aux entités puissantes de manipuler le processus de conception pour « acquérir une légitimité sociétale et éthique » (2015 : 25) . Par exemple, la participation interdisciplinaire est fréquemment critiquée pour traiter l’éthique comme une réflexion après coup ou un simple ajout aux programmes d’innovation — utilisée pour valider les pratiques existantes plutôt que pour relever véritablement les défis sociaux (Zwart et Nelis, 2009 ; Ryan et Blok, 2023). Cette manipulation est particulièrement préjudiciable aux groupes déjà marginalisés, dont la participation active peut n’être considérée que comme de simples points de données ou des abstractions statistiques pour les entreprises d’IA en quête de preuves éthiques. Après leur participation, leur situation de marginalisation reste inchangée. Cette dynamique manipulatrice peut même créer un cercle vicieux : lorsque les participants constatent que leur implication ne parvient pas à remettre en cause les structures de pouvoir existantes, ils deviennent plus sceptiques à l’égard du processus, rendant ainsi encore plus difficile la réalisation d’un engagement significatif et transformateur (Wang, 2022b).

La participation comme détachement du monde de la vie

Lorsque la participation n’est pas faussée par les structures économiques et de pouvoir, et lorsque les détenteurs du pouvoir souhaitent réellement impliquer les citoyens et les autres parties prenantes dans les décisions de conception de l’IA, il subsiste toutefois une crainte de négliger la structure perturbatrice de la datafication sur le monde de la vie où les participants vivent et agissent au quotidien. Par exemple, lorsque l’on demande aux participants d’identifier les enjeux éthiques pertinents dans les processus de co-conception, ils sont souvent incités à fonder leurs choix sur des valeurs abstraites existantes telles que la vie privée, la transparence, la responsabilité, l’équité, etc. (Boenink et Kudina, 2020). Cependant, les préoccupations quotidiennes des êtres humains ne sont pas seulement des concepts abstraits ou théoriques, mais impliquent plutôt des sentiments réels et subjectifs vécus au quotidien. Ces sentiments sont facilement écartés comme des plaintes individuelles et considérés comme non pertinents dans la conception de l’IA, mais ils pourraient en réalité refléter un problème structurel plus vaste lié à l’utilisation généralisée de l’IA dans nos sociétés, comme la datafication du monde de la vie. Cette datafication implique le processus de transformation de chaque aspect de notre vie quotidienne en données pouvant être quantifiées, analysées et utilisées pour la prise de décision, la prédiction et l’optimisation (Couldry et Mejias, 2018 ; Zuboff, 2019). Cela signifie que lorsque nous concevons des technologies d’IA, nous ne nous contentons pas de concevoir des artefacts individuels, mais nous contribuons au processus plus large de datafication qui façonne et bouleverse le sens du monde.

Lors de réunions avec les parties prenantes, par exemple, certains agriculteurs (en particulier les petits exploitants) expriment souvent un sentiment d’impuissance face à l’utilisation de l’IA (van der Burg et al., 2022). Ils doivent décider s’ils s’adaptent, acquièrent de nouvelles compétences ou risquent de se retrouver à la traîne. Ce sentiment que l’IA est une force imparable est souvent considéré comme un problème personnel, sans lien direct avec une technologie d’IA spécifique ou les valeurs énoncées dans les cadres éthiques existants ; il est donc souvent ignoré dans la conception des IA. Cependant, ce sentiment personnel d’être contraint d’adopter et d’intégrer l’IA dans leurs exploitations agricoles peut en réalité refléter un enjeu plus large : l’impact perturbateur de la datafication sur les pratiques agricoles traditionnelles des agriculteurs. La datification ne consiste pas seulement à créer un environnement numérisé ; il s’agit de redéfinir le sens de la vie quotidienne (Blok, 2023b). Elle cultive la nouvelle hypothèse selon laquelle, en transformant tous les aspects de la vie quotidienne en données, nous pouvons obtenir des informations précieuses et optimiser les processus pour une meilleure efficacité (Korenhof et al., 2021). Mais les petits exploitants n’adhèrent pas nécessairement à ces approches axées sur l’efficacité et l’optimisation. Au contraire, ils peuvent privilégier leur lien avec la communauté et pratiquer des méthodes respectueuses de l’environnement, même si celles-ci ne sont pas aussi efficaces. Cette préoccupation plus large incite les concepteurs d’IA à réfléchir attentivement à certaines exigences différentes dans leurs pratiques de conception, comme la prise en compte des perturbations potentielles des pratiques agricoles locales lors du développement de technologies d’IA, et la garantie que l’utilisation de l’IA dans l’agriculture respecte les méthodes de travail existantes et les traditions communautaires.

Dans l’ensemble, l’éthique de l’IA intégrée à la conception met souvent en avant l’importance d’une participation active et inclusive au processus de conception de l’IA. Cependant, comme nous l’avons expliqué, si la structure de pouvoir inégale ne change pas et si la structure perturbatrice de la datification n’est pas correctement prise en compte, la participation risque de tomber dans le piège de l’extraction, de la manipulation ou du détachement par rapport aux expériences quotidiennes des gens.

Remise en question des résultats de l’éthique de l’IA « by-design » : des résultats imprévisibles

On suppose souvent que l’éthique de l’IA « by-design » produit des résultats prévisibles, tels que l’atténuation des impacts négatifs de l’IA et la promotion d’avantages sociaux grâce à l’intégration de valeurs dans la conception de l’IA. Dans cette section, cependant, nous remettons en question cette croyance en des résultats prévisibles de l’IA en examinant de manière critique ses hypothèses sous-jacentes de réductionnisme linéaire, d’action anthropocentrique des concepteurs et d’immatérialisme.

Réductionnisme linéaire

L’éthique de l’IA par conception repose souvent sur un réductionnisme linéaire selon lequel un système d’IA peut être décomposé en différents composants de produits d’IA tels que les données, l’algorithme et le contenu généré, et si l’on résout les problèmes éthiques et sociaux associés à chaque composant (Dignum, 2018 ; Brey et Dainow, 2023), l’ensemble du système d’IA produira automatiquement des résultats responsables. Cependant, l’IA est plus qu’un simple artefact ou système individuel ; elle constitue un écosystème socio-technique complexe marqué par la non-linéarité et les incertitudes. Cet enchevêtrement complexe avec des dynamiques et des structures sociales plus larges rend l’IA intrinsèquement imprévisible.

L’IA est profondément imbriquée dans les structures sociopolitiques, formant un système complexe qui ne peut être directement décomposé en parties indépendantes ou en processus linéaires. Comme le montre Carsten Stahl, cette IA en tant qu’écosystème complexe présente une interaction complexe entre ses différents composants, affichant souvent des relations hautement non linéaires (2021). Par conséquent, l’intervention sur un aspect de l’écosystème peut souvent entraîner des résultats inattendus qui ne correspondent pas à ce qui était initialement prévu. Un exemple typique est le paradoxe de Jevons ou l’effet de rebond dans le contexte de l’IA : l’efficacité accrue de l’IA dans l’exécution de tâches peut en réalité déclencher une demande accrue pour ces tâches, entraînant une consommation plus importante de ressources (York et McGee, 2016). Cet effet non linéaire peut être encore plus marqué lorsqu’on évalue les impacts à long terme de l’IA. Imaginez que l’on tente d’évaluer l’impact de l’impression de la première Bible par Gutenberg en 1455. À l’époque, personne ne pouvait prévoir que cela remettrait en cause l’autorité de l’Église catholique et ouvrirait la voie à la science moderne et à de nouvelles industries (Naughton, 2023). Si la technologie de l’IA est aussi transformatrice qu’on le prétend, ses impacts à long terme peuvent être encore plus profonds et imprévisibles.

L’action anthropocentrique des concepteurs

L’éthique de l’IA par conception part souvent du principe que les humains ont le contrôle ultime sur la manière dont les systèmes d’IA sont développés et utilisés, ce qui leur permet de les orienter vers des avantages sociaux. Elle part du principe que les humains peuvent façonner les technologies d’IA et contrôler les résultats de manière à ce qu’ils s’alignent sur des valeurs éthiques, morales et sociales, garantissant ainsi que l’IA serve le bien commun (van den Hoven, 2013). Cette conviction reflète le degré élevé d’action anthropocentrique des concepteurs (Donia et Shaw, 2021), où les technologies sont souvent considérées comme des objets passifs en attente d’être (re)conçues par des concepteurs humains, tandis que les humains sont perçus comme l’exact opposé des objets, caractérisés comme des sujets actifs et pensants capables de contrôler les technologies (Rosenberger, 2014). Cependant, la trajectoire historique de l’innovation révèle que la conception n’est pas uniquement dictée par des acteurs humains, mais suit parfois son propre cours ou des tendances inhérentes au progrès technologique.

La notion de « milieu technologique » de Gilbert Simondon peut aider à expliquer plus clairement cette idée de tendances inhérentes. Il suggère que les innovations ne se concrétisent pas de manière isolée, mais sont façonnées par le contexte plus large des avancées technologiques au fil du temps (2017). La conception d’un nouveau smartphone, par exemple, n’est pas simplement déterminée par les intentions de ses concepteurs, mais est également influencée par les progrès de la science des matériaux, de la technologie des semi-conducteurs et des protocoles de communication sans fil. Cet exemple suggère que les décisions de conception en matière d’IA ne sont pas entièrement déterminées ou contrôlées par les intentions des concepteurs, mais sont parfois façonnées par les effets cumulatifs des innovations passées, de la recherche en cours et de l’infrastructure technologique. Notre intention n’est pas de laisser entendre que la technologie de l’IA se développe de manière autonome ou indépendante. Nous mettons plutôt en évidence la relation de coévolution entre les humains et les technologies de l’IA, où les décisions de conception sont influencées à la fois par l’action humaine et par les tendances technologiques inhérentes (Simondon, 2017). Cette relation signifie que la technologie de l’IA ne peut être entièrement orientée et conçue par les désirs ou les intentions humaines. Les conséquences éthiques et sociales de l’IA ne sont souvent pas uniquement déterminées et contrôlées par les concepteurs.

Immatérialité

L’éthique de l’IA, telle qu’elle est conçue, se concentre souvent sur les aspects numériques et immatériels de l’IA, tels que les données, les algorithmes et le contenu généré, tandis qu’elle a tendance à ignorer les relations de production matérielle et l’infrastructure physique sous-jacente qui rendent tous ces éléments numériques possibles. Elle considère souvent l’IA comme quelque chose qui imite les capacités cognitives humaines et n’existe que dans le « cloud » (Wyatt, 2021), ce qui donne l’impression trompeuse que l’IA ne concerne que des aspects numériques, virtuels et immatériels (Newlands, 2021 ; Brevini, 2023). Ce mythe de l’immatérialisme occulte certains impacts éthiques et sociaux importants de l’IA, les rendant souvent invisibles aux yeux du public. Trois enjeux matériels souvent négligés de l’IA sont l’exploitation par le travail, les coûts environnementaux et l’extraction de la vie quotidienne.

Des recherches ont révélé que les systèmes dits d’IA dépendent souvent du travail de millions de travailleurs « fantômes » faiblement rémunérés à travers le monde. Ces travailleurs effectuent des tâches répétitives dans des conditions précaires, mais leurs contributions sont délibérément dissimulées au regard du public (Gray et Suri, 2019 ; Perrigo, 2023). En dissimulant ce travail humain, les entreprises d’IA créent l’illusion que l’IA est hautement avancée, entièrement automatisée et objective, ce qui les aide à échapper à la réglementation et à attirer davantage d’investissements commerciaux (Newlands, 2021 : 8).

Au-delà du travail caché, les coûts environnementaux de l’IA sont également souvent tenus secrets par les entreprises (Crawford, 2021). Des études récentes ont toutefois montré que les systèmes d’IA consomment des quantités importantes d’énergie et émettent des quantités substantielles de gaz à effet de serre pendant leur apprentissage, leur réglage fin et leur utilisation (Luccioni et al., 2023). De plus, ils s’appuient sur des processus industriels tels que l’extraction de ressources naturelles, la fabrication de composants techniques et la gestion des déchets électroniques (Wynsberghe et al., 2023).

Enfin, l’IA ne se résume pas à l’exécution de données et d’algorithmes abstraits ; elle repose fondamentalement sur l’extraction d’expériences humaines issues de la vie quotidienne et leur conversion en marchandises de données. Les critiques soutiennent que cette marchandisation des données de la vie ne devrait pas se faire de manière arbitraire, car ces données sont profondément liées aux expériences et aux émotions humaines (Zuboff, 2019). Ces expériences sont essentielles pour façonner le sentiment d’identité des individus et leurs relations significatives avec les autres (Roessler, 2015). Malgré cela, l’éthique de l’IA fondée sur la conception actuelle ne parvient souvent pas à prendre en compte l’impact profond de la surveillance continue en temps réel sur la compréhension que les individus ont d’eux-mêmes et du monde.

En résumé, cette section remet en question la croyance largement répandue dans l’éthique de l’IA fondée sur la conception actuelle selon laquelle les impacts de l’IA sont prévisibles et peuvent être orientés vers des avantages sociaux. Pour ce faire, nous examinons de manière critique trois hypothèses fondamentales qui sous-tendent cette croyance en la prévisibilité. À l’instar des deux sections précédentes, nous avons exploré les préoccupations découlant des phases d’entrée (section Remise en question de l’entrée de l’éthique de l’IA par la conception : traduire des valeurs non critiques en actions), de traitement (section Remise en question du traitement de l’éthique de l’IA par la conception : participation sans changement structurel) et de sortie (section Remise en question de la sortie de l’éthique de l’IA par la conception : résultats imprévisibles) de l’éthique de l’IA par la conception. Bon nombre de ces préoccupations portent sur des questions structurelles souvent négligées dans les pratiques de l’éthique de l’IA (voir Tableau 1). Dans la suite de cet article, nous nous attacherons à bien comprendre les caractéristiques structurelles de ces questions.

Tableau 1. Questions socio-éthiques négligées dans l’éthique de l’IA par conception.

IA : intelligence artificielle.

Développement d’un cadre à plusieurs niveaux pour l’éthique de l’IA

Les sections précédentes ont présenté une revue de l’éthique de l’IA dans le tournant pratique. Nous avons identifié deux types de questions socio-éthiques : l’une concerne des artefacts d’IA spécifiques, sur lesquels l’éthique de la conception se concentre souvent, tandis que l’autre porte sur des défis plus larges qui sont souvent négligés dans l’éthique de l’IA. La plupart de ces enjeux plus larges sont de nature structurelle. Dans cette section, nous explorerons ce qui rend ces enjeux structurels, comment les enjeux structurels sont liés à ceux au niveau des artefacts, et pourquoi l’éthique de l’IA devrait intégrer les deux dans le développement d’une IA responsable. Pour y parvenir, nous nous tournons vers des théories sociales, politiques et philosophiques afin de construire une approche à plusieurs niveaux de l’éthique de l’IA.

Nous commencerons par clarifier ce que signifie le terme « structure ». Comme le souligne Sally Haslanger (2023), en philosophie sociale et politique, le terme « structure » est souvent utilisé de manière interchangeable avec « système ». Une structure ou un système désigne en gros un tout qui est plus grand que la somme de ses parties individuelles. Par exemple, une forêt est plus qu’un simple ensemble d’arbres, et un groupe de musique est plus que la somme de ses musiciens individuels. Dans le cas d’un groupe de musique, cela inclut non seulement les membres, mais aussi les rôles formels (comme chanteur ou batteur) et les éléments informels, tels que les convictions communes, les goûts musicaux et les styles de jeu, qui définissent collectivement ce qu’est le groupe. Dans ce contexte, une structure peut être considérée comme une représentation abstraite de relations structurées, ou, comme le décrit William Sewell, un « schéma » qui définit ce que signifie former un tout cohérent (Sewell, 2005). Cependant, Iris Young (2001, 2011) et Haslanger (2023 ; 2012) soutiennent que les structures ne sont pas seulement des représentations passives et abstraites, mais qu’elles façonnent activement les réalités dans lesquelles nous vivons et agissons. Par exemple, ces structures « conditionnent fondamentalement les opportunités et les perspectives de vie des personnes occupant ces positions » (Young, 2001 : 14). Ainsi, à la suite de Young et Haslanger, nous considérons une structure comme la combinaison de schémas et d’actions concrètes qui s’y rapportent, exerçant une force active pour influencer la répartition des ressources et les expériences vécues.

Pour Young, une question n’est « structurelle » que parce qu’elle est causée par l’existence de structures, plutôt que par les actions ou les fautes d’un individu en particulier. Elle soutient que les individus ne sont pas responsables de la création initiale de ces structures, car celles-ci persistent souvent bien avant leur naissance et bien après leur mort. Cela signifie que la création de structures injustes, telles que les hiérarchies raciales, est souvent involontaire, voire « va à l’encontre » des intentions individuelles (Young 2011 : 63). Cependant, les individus jouent un rôle dans la reproduction continue de ces structures. Young s’appuie sur la théorie de la « structuration » d’Anthony Giddens (1979) pour expliquer cette dynamique : « Lorsque les individus agissent, ils font deux choses à la fois : 1) ils tentent de créer une situation qu’ils souhaitent, et 2) ils reproduisent les propriétés structurelles, les relations positionnelles des règles et des ressources, sur lesquelles ils s’appuient pour ces actions » (Young, 2011 : 60). Par exemple, l’injustice structurelle du travail dans les ateliers clandestins existe indépendamment de toute personne en particulier. Cependant, lorsqu’une personne achète des vêtements dans une boutique de centre-ville, elle perpétue involontairement les pratiques qui entretiennent cette injustice. Les structures agissent comme des conditions préalables aux actions individuelles, mais ces actions, à leur tour, contribuent à reproduire ces structures.

Il est important de noter que cette reproduction ne signifie pas que les individus sont la cause du problème structurel lui-même. Au contraire, les problèmes structurels sont le résultat de processus complexes et à grande échelle impliquant de nombreux acteurs et systèmes au fil du temps. Revenons à l’exemple du travail dans les ateliers clandestins en tant que problème structurel. Fondamentalement, ce travail est maintenu par les dynamiques structurelles de production et de consommation au sein de l’économie capitaliste mondiale. Ces dynamiques font partie de multiples systèmes interconnectés. Comme l’explique Young (2006), les travailleurs des pays en développement occupent une position de classe structurelle par rapport aux petits entrepreneurs qui les emploient. Ces propriétaires et dirigeants d’usines dépendent quant à eux des contrats passés avec les multinationales de l’habillement, elles-mêmes engagées dans une concurrence féroce au sein de l’industrie mondiale du vêtement. Les consommateurs sont tout aussi pris dans cet enchevêtrement, influencés par la création, par l’industrie de la mode, d’un « besoin » de nouveaux vêtements. Ce désir de suivre la mode est intériorisé et perpétué par les habitudes et les normes sociales — ce que Young appelle l’« habitus » (Young, 2011 : 61) . Il peut donc sembler que les individus puissent éviter de contribuer à ces relations inégales en faisant des choix différents, comme n’acheter que des vêtements issus du commerce équitable ou d’occasion, mais de telles actions menées par des individus seuls ne peuvent pas perturber les forces structurelles sous-jacentes qui perpétuent l’inégalité.

Sur la base de l’analyse ci-dessus, nous pouvons définir un problème structurel comme suit : Un problème est structurel lorsqu’il est causé par des relations stéréotypées ou des effets de conditionnement qui sont souvent produits et reproduits par le biais de multiples processus à grande échelle, sans qu’un agent unique ne dirige, ne contrôle ou n’ait l’intention d’aboutir à ce résultat.¹

Notre volonté de définir et de traiter les problèmes structurels ne vise pas à remplacer la prise en compte des problèmes individuels, mais plutôt à préconiser une approche à plusieurs niveaux pour les analyser. Young, par exemple, a déjà souligné la nécessité d’une analyse « à deux niveaux » pour comprendre l’injustice du travail dans les ateliers clandestins (2004 : 377). Au niveau individuel, les directeurs et propriétaires d’usines peuvent être tenus moralement ou légalement responsables de violations spécifiques des droits de l’homme ou du droit du travail (2006 : 116). Au niveau structurel, cependant, tous les individus dont les actions reproduisent cette pratique partagent une responsabilité politique d’œuvrer en faveur d’un changement structurel. Ces individus ne sont pas responsables de la création initiale de ces structures, mais ont l’obligation prospective de participer à une action collective visant à transformer les pratiques injustes. Ainsi, selon elle, le concept de responsabilité politique, résultant de la reproduction de structures injustes, devrait compléter, et non remplacer, le modèle de responsabilité fondé sur la responsabilité civile. Cette approche à deux niveaux se retrouve également dans d’autres ouvrages sociaux et philosophiques. Par exemple, dans son ouvrage influent, The Sociological Imagination (1959), Wright Mills critique la manière dont les problèmes sociaux sont souvent abordés à tort comme des questions individuelles isolées plutôt que d’être considérés dans le cadre des structures plus larges qui les façonnent. De même, comme indiqué dans l’introduction, Frye (1983) utilise la métaphore de la cage à oiseaux pour illustrer comment les facteurs structurels s’interconnectent pour créer des barrières.

Nous pouvons désormais voir comment cette analyse à plusieurs niveaux peut s’appliquer à l’éthique de l’IA. Dans les sections précédentes, nous avons identifié certaines questions socio-éthiques négligées, telles que le solutionnisme technique/IA, les asymétries de pouvoir et le dataïsme/la datafication. La plupart d’entre elles sont des questions structurelles en ce sens qu’elles ne sont pas causées par des concepteurs ou des entreprises individuels. Elles sont plutôt produites et reproduites par des processus sociaux, économiques et technologiques à grande échelle et interconnectés. Par exemple, le « solutionnisme IA » —la tendance à considérer que les problèmes sociaux complexes peuvent être résolus par des solutions techniques—ne découle pas de l’intention d’un concepteur isolé, mais d’une culture plus large d’optimisme technologique (technophilie) et d’innovation dictée par le marché. De même, les « asymétries de pouvoir » dans les systèmes d’IA sont le résultat d’inégalités socio-économiques généralisées, de lacunes réglementaires et de la concentration du pouvoir décisionnel entre les mains d’une poignée de grandes entreprises technologiques. Le « dataïsme », idéologie qui privilégie les données comme solution ultime aux problèmes sociaux, est renforcé par des tendances académiques, des incitations commerciales et des agendas politiques qui mettent l’accent sur les approches fondées sur les données. Ces problèmes structurels ne peuvent être traités de manière adéquate en se concentrant uniquement sur la responsabilité individuelle ou sur des changements politiques isolés. Au contraire, elles nécessitent une analyse plus large et à plusieurs niveaux qui examine comment ces problèmes s’inscrivent dans des schémas systémiques et sont perpétués par ceux-ci.

Pour aller plus loin, nous souhaitons approfondir cette analyse à plusieurs niveaux en distinguant quatre niveaux de problèmes plutôt que de nous appuyer uniquement sur la dichotomie entre individuel et structurel. L’influence structurelle de l’IA révèle un spectre de défis structurels couvrant différents degrés de complexité et de portée. Par exemple, certains problèmes structurels sont de nature sociopolitique, tels que le racisme des données, le sexisme des données et le colonialisme algorithmique. Ceux-ci trouvent leur origine dans les structures sociales et politiques inégales existantes. D’autre part, d’autres problèmes, comme le dataïsme ou la perte de sens, sont de nature plus ontologique. Ils concernent notre compréhension fondamentale du monde et de la réalité — nos croyances, nos mentalités et nos visions du monde. Ces structures ontologiques sont plus stables et persistantes, reflétant des processus plus vastes et plus fondamentaux qui sont encore plus « structurels » que les structures sociopolitiques. De plus, nous pouvons identifier un niveau intermédiaire entre l’individuel et le structurel : le niveau organisationnel. Ce niveau concerne les plateformes numériques ou les entreprises d’IA qui, sans créer de résultats structurels, peuvent provoquer des effets de groupe allant au-delà des actions individuelles. Les enjeux organisationnels comprennent, par exemple, les tensions entre les objectifs de rentabilité et les objectifs sociaux, ou le défi de gagner la confiance du public. Ces enjeux constituent une couche de transition entre les actions individuelles et les forces structurelles.

Nous pouvons donc développer un cadre multiniveau affiné pour comprendre les impacts éthiques de l’IA, allant du niveau de l’artefact individuel aux niveaux organisationnel, sociopolitique et ontologique (voir Figure 1). Si un problème est principalement causé par le développement et l’utilisation de technologies d’IA spécifiques, nous le classons comme un problème au niveau de l’artefact. Par exemple, l’application Facebook peut poser des problèmes de confidentialité des données, comme l’a montré le scandale Cambridge Analytica (Hu, 2020) . Le FICO Score (un système de notation de crédit aux États-Unis) peut soulever des problèmes de transparence si les utilisateurs ne comprennent pas clairement pourquoi leurs demandes de crédit sont rejetées (Wang, 2022b). En traitant ces problèmes spécifiques, la responsabilité de cet artefact d’IA particulier peut être largement améliorée. Au niveau organisationnel, les enjeux socio-éthiques portent sur la manière dont les organisations (entreprises ou institutions) intègrent, gèrent et régissent les systèmes d’IA. Dans le cas du scandale Cambridge Analytica, par exemple, la question à ce niveau ne se limite pas à répondre aux préoccupations en matière de confidentialité sur le plan technique. Il s’agit surtout de gagner la confiance du public, de modifier la structure ou la culture de l’organisation et de réfléchir à la manière de générer des profits tout en respectant les valeurs éthiques.

Figure 1. Problématiques socio-éthiques pertinentes de l’IA à plusieurs niveaux. IA : intelligence artificielle.

Au niveau sociopolitique, les enjeux socio-éthiques traitent des impacts sociaux, écologiques et politiques plus larges des systèmes d’IA. Nous examinerons plus en détail, par exemple, comment Facebook, ancré dans la structure plus large du capitalisme de surveillance, bouleverse le paysage sociopolitique en transformant les expériences humaines privées en une marchandise d’échange et en sapant la démocratie (Zuboff, 2019). Les enjeux au niveau ontologique abordent des préoccupations philosophiques et existentielles plus profondes concernant la manière dont l’IA remodèle la nature de l’existence humaine, l’identité et notre compréhension fondamentale de la réalité. Par exemple, lorsqu’on applique les technologies numériques dans les villes intelligentes, cela revient à faire deux choses à la fois : i) elles utilisent des capteurs et collectent des données pour créer des artefacts individuels, et ii) elles reproduisent une structure ontologique de datafication, où des technologies interconnectées forment un ensemble d’écosystèmes numériques dans lesquels les humains vivent et agissent (Blok, 2023a : 5). Cette structure de datafication crée d’une part une nouvelle infrastructure pour la vie quotidienne, où tous les aspects de la vie sont datafiés ou réduits à des données. D’autre part, elle remodèle nos hypothèses et croyances fondamentales selon lesquelles les données constituent la pierre angulaire de la réalité et que tout, y compris le comportement des êtres humains et non humains, peut être quantifié et compris par l’analyse des données. Ces croyances modifient fondamentalement la manière dont nous percevons le monde et interagissons avec lui, ce qui, à son tour, influence la manière dont nous mettons en œuvre les pratiques concrètes en matière d’éthique, de gouvernance et de conception de l’IA.

En adoptant cette analyse multi-niveaux affinée, nous pouvons préciser quels types de problèmes appartiennent à chaque catégorie et reconnaître la diversité au sein même des problèmes structurels. Cette compréhension nuancée est cruciale pour l’éthique de l’IA, car identifier ces niveaux avec plus de précision permet de clarifier les responsabilités impliquées dans le développement d’une IA responsable. Cependant, il est important d’éviter de « réifier la métaphore de la structure » (Young, 2001 : 18) et de traiter les structures comme des entités indépendantes des artefacts. En réalité, il existe des interconnexions entre les niveaux. Par exemple, un algorithme biaisé (niveau de l’artefact) peut conduire à des pratiques d’embauche discriminatoires au sein d’une entreprise et affecter la confiance du public dans cette organisation (niveau organisationnel). Cela peut à son tour renforcer les structures de pouvoir inégales existantes et perpétuer des biais systémiques (niveau sociopolitique), ce qui peut influencer davantage les croyances et les discours plus larges sur la justice et la méritocratie (niveau ontologique). Compte tenu de ces interconnexions, lorsque nous attribuons un problème à un niveau particulier, cela ne signifie pas que ce problème existe uniquement à ce niveau. Chaque niveau a plutôt son principal centre d’intérêt, allant de l’impact immédiat des technologies d’IA (niveau des artefacts) à la dynamique des organisations (niveau organisationnel), en passant par les inégalités systémiques (niveau sociopolitique) et enfin les visions du monde et les idéologies plus larges (niveau ontologique) . Cette approche par niveaux permet une compréhension plus nuancée de la manière dont les enjeux se manifestent et interagissent à travers différents domaines.

Mise en œuvre d’un cadre à plusieurs niveaux pour le diagnostic des enjeux socio-éthiques

Dans cette section, nous effectuons une première tentative de mise en œuvre du cadre à plusieurs niveaux. Bien qu’une explication détaillée dépasse le cadre de cet article, nous proposons ici une matrice d’impact à plusieurs niveaux pour illustrer brièvement comment cette approche peut aider à identifier ces enjeux. Nous classons les impacts socio-éthiques en quatre niveaux : artefact, organisationnel, socio-politique et ontologique. À chaque niveau, nous analysons trois types d’impacts en fonction de l’entrée, du traitement et de la sortie de l’influence de l’IA. Pour chaque type d’impact, nous utilisons une question-guide pour diagnostiquer les problèmes socio-éthiques potentiels liés à l’IA. Comme défini dans l’introduction, le cadre d’analyse « entrée/traitement/sortie » fournit une analyse structurée. L’entrée fait référence aux objectifs ou aux ressources qui doivent être pris en compte avant le processus de conception. Le traitement implique l’intégration de ces objectifs ou ressources dans la conception proprement dite ou dans des processus sociaux plus larges. La sortie se concentre sur les effets intentionnels ou non intentionnels de ces processus et sur les moyens potentiels d’y remédier.

Nous appliquons donc le cadre d’analyse « entrée/traitement/sortie » pour effectuer une analyse structurée des impacts de l’IA à différents niveaux. Au niveau de l’artefact, l’entrée concerne les objectifs que l’IA doit atteindre et les défis qu’elle est censée relever. Le traitement porte sur la manière dont les parties prenantes sont impliquées dans le processus de conception. La sortie se concentre sur les effets non intentionnels de l’IA. Au niveau organisationnel, l’entrée concerne la manière dont les objectifs économiques et sociaux sont définis et comment ils peuvent entrer en conflit. Le traitement aborde la manière dont les organisations gèrent les risques éthiques, juridiques et sociaux de l’IA et comment la rendre conforme aux réglementations et aux normes éthiques. La production concerne l’établissement et le maintien de la confiance lorsque des problèmes surviennent. Au niveau sociopolitique, l’entrée concerne les structures de pouvoir existantes, les injustices et les groupes marginalisés. Le traitement explore comment l’IA peut refléter ou reproduire ces inégalités. La production se concentre sur la manière de contribuer de manière responsable à un paysage sociopolitique plus juste. Au niveau ontologique, les intrants concernent les hypothèses implicites existantes dans la réflexion des développeurs d’IA lorsqu’ils commencent à concevoir la technologie. Le flux examine comment ces hypothèses sont intégrées dans les systèmes d’IA et comment elles influencent les modes de vie humains. Les extrants nous invitent à repenser des solutions ou des croyances alternatives.

Toutes les questions liées aux impacts de l’IA à différents niveaux, ainsi que les questions diagnostiques permettant de les identifier, sont résumées dans le tableau 2. Cette matrice ne fournit pas une liste exhaustive des questions que les développeurs d’IA peuvent traiter directement. Au contraire, nous l’avons intentionnellement conçue non pas comme une liste de contrôle pour les développeurs d’IA, mais pour qu’elle soit plus adaptée à des ateliers ou à des groupes de discussion, où diverses parties prenantes peuvent s’engager dans des discussions constructives. Le cadre d’un atelier est ici plus approprié car, comme nous l’avons soutenu tout au long de cet article, de nombreuses questions socio-éthiques, en particulier certaines questions structurelles, ne peuvent être résolues par la conception seule et nécessitent que diverses parties prenantes négocient des solutions. Ainsi, les questions sont soigneusement adaptées pour garantir qu’elles permettent d’identifier efficacement les enjeux pertinents parmi les impacts à différents niveaux, tout en restant suffisamment ouvertes et génériques pour saisir les nuances, les perspectives diverses et favoriser le débat sur ces questions.

Tableau 2. Matrice d’impact à plusieurs niveaux pour identifier les enjeux socio-éthiques de l’IA.

IA : intelligence artificielle.

Cette matrice d’impact à plusieurs niveaux peut être utilisée lors de la phase initiale de conception, lorsque les technologies d’IA sont encore adaptables, afin que les développeurs d’IA puissent travailler avec les parties prenantes pour identifier les problèmes potentiels et ajuster l’IA de manière responsable. Prenons par exemple le cas bien connu du système de recrutement automatisé d’Amazon, qui a fait preuve de discrimination à l’égard des candidates (Kodiyan, 2019). Au cours des premières étapes du développement, diverses parties prenantes — telles que les développeurs d’IA d’Amazon, les décideurs politiques, les candidats à l’emploi et les experts en éthique et en droit — pourraient utiliser cette matrice et son ensemble de questions pour diagnostiquer les problèmes socio-éthiques. Cette matrice aiderait à révéler que le biais n’est pas seulement un problème lié à des ensembles de données biaisés (BBC, 2018), mais qu’il est ancré dans les données d’entrée, le traitement et les résultats du processus de conception de l’IA, et qu’il est lié à des cultures organisationnelles plus larges, à des inégalités patriarcales historiques et à des croyances culturelles. Elle pourrait également susciter une réflexion sur le « solutionnisme » de l’IA, en encourageant Amazon et les parties prenantes à se demander si de tels systèmes de recrutement automatisés devraient même être développés, ou à explorer d’autres philosophies de conception qui privilégient les candidats plutôt que les profits et l’efficacité.

Conclusion

Cet article évalue de manière critique le paysage de l’éthique de l’IA, en mettant particulièrement l’accent sur sa tendance pratique à intégrer des valeurs éthiques dans les pratiques de conception de l’IA. Si cette éthique de l’IA « by-design » peut s’avérer bénéfique pour traiter des questions éthiques et sociales explicites liées à des artefacts spécifiques de l’IA, elle risque de négliger des problèmes structurels pertinents et de ne pas remédier aux préjudices cachés et à long terme. Nous commençons par un examen détaillé des phases d’entrée (Section Remettre en question l’entrée de l’éthique de l’IA « by-design » : traduire des valeurs non critiques en actions), de traitement (section « Remettre en question le traitement de l’éthique de l’IA par conception : une participation sans changement structurel ») et de la sortie (section « Remettre en question la sortie de l’éthique de l’IA par conception : des résultats imprévisibles ») de l’éthique de l’IA par conception, révélant ainsi l’accent mis sur les artefacts individuels au détriment de préoccupations structurelles plus larges. Pour combler cette lacune, nous proposons un cadre à plusieurs niveaux permettant d’identifier les enjeux socio-éthiques de l’IA tant au niveau des artefacts qu’au niveau structurel plus large (sections « Le développement d’un cadre à plusieurs niveaux pour l’éthique de l’IA » et « Mise en œuvre d’un cadre à plusieurs niveaux pour diagnostiquer les enjeux socio-éthiques »). Ce cadre peut aider les experts en éthique, les concepteurs d’IA et les décideurs politiques à développer des technologies d’IA responsables en examinant de manière critique les hypothèses cachées et les angles morts au sein des lignes directrices, des politiques et des cadres réglementaires relatifs à l’IA. Les recherches futures exploreront comment intégrer ce cadre à plusieurs niveaux dans la conception et l’élaboration des politiques de l’IA dans le monde réel afin de favoriser un changement structurel et transformateur.

Note 1

Cette définition devrait s’appliquer tant à l’ontologie qu’aux structures sociopolitiques. Ainsi, l’expression « processus à grande échelle » désigne aussi bien un processus social qu’un processus ontologique.

Références

Arnstein SR (2019) A ladder of citizen participation. Journal of the American Planning Association 85(1): 24–34.
Attard-Frost B, De los Ríos A, Walters DR (2023) The ethics of AI business practices: A review of 47 AI ethics guidelines. AI and Ethics 3(2): 389–406.
BBC (2018, October 10) Amazon scrapped ‘sexist AI’ tool. BBC News. https://www.bbc.com/news/technology-45809919
Benjamin R (2019) Assessing risk, automating racism. Science 366(6464): 421–422.
Birhane A (2020) Algorithmic colonization of Africa. SCRIPT-ed 17(2): 389–409.
Birhane A, Ruane E, Laurent T, et al. (2022) The forgotten margins of AI ethics. In: 2022 ACM Conference on Fairness, Accountability, and Transparency, pp.948–958.
Bleher H, Braun M (2023) Reflections on putting AI ethics into practice: How three AI ethics approaches conceptualize theory and practice. Science and Engineering Ethics 29(3): 21.
Blok V (2023a) The ontology of technology beyond anthropocentrism and determinism: The role of technologies in the constitution of the (post)Anthropocene world. Foundations of Science 28(3): 987–1005.Blok V (2023b) Philosophy of Technology in the Digital Age: The Datafication of the World, the Homo Virtualis, and the Capacity of Technological Innovations to Set the World free. Wageningen: Wageningen University & Research.
Blok V, Lemmens P (2015) The emerging concept of responsible innovation. Three reasons why it is questionable and calls for a radical transformation of the concept of innovation. In: Koops B, Oosterlaken R, Swierstra T and van den Hoven J (eds) Responsible Innovation 2. Cham: Springer Internal Publishing, pp.19–35.
Boenink M, Kudina O (2020) Values in responsible research and innovation: From entities to practices. Journal of Responsible Innovation 7(3): 450–470.
Brand T, Blok V (2019) Responsible innovation in business: A critical reflection on deliberative engagement as a central governance mechanism. Journal of Responsible Innovation 6(1): 4–24.
Brevini B (2023) Myths, techno solutionism and artificial intelligence: reclaiming AI materiality and its massive environmental costs. In: Handbook of Critical Studies of Artificial Intelligence. Regency: Edward Elgar Publishing, pp.869–877.
Brey P, Dainow B (2023) Ethics by design for artificial intelligence. AI and Ethics 4(4): 1265–12777.
Buijsman S, Klenk M, Van den Hoven J (2025) Ethics of AI: Toward a “Design for Values” Approach. In: Smuha N (ed) The Cambridge Handbook of the Law, Ethics and Policy of Artificial Intelligence edit. Cambridge: Cambridge University Press, pp.59–78.
Corrêa NK, Galvão C, Santos JW, et al. (2023) Worldwide AI ethics: A review of 200 guidelines and recommendations for AI governance. Patterns 4(10): 1–14.
Couldry N, Mejias UA (2018) Data colonialism: Rethinking big data’s relation to the contemporary subject. Television & New Media 20(4): 336–349.
Crawford K (2021) The Atlas of AI Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press.
Davidson L, Satta M (2021) Justified social distrust. In: Weber K (eds) Social Trust. New York: Routledge, 123.
Dignum V (2018) Ethics in artificial intelligence: Introduction to the special issue. Ethics and Information Technology 20(1): 1–3.
Donia J, Shaw JA (2021) Ethics and values in design: A structured review and theoretical critique. Science and Engineering Ethics 27(5): 57.
Floridi L (2019) Translating principles into practices of digital ethics: Five risks of being unethical. Philosophy & Technology 32(2): 185–193.
Fritts M, Cabrera F (2021) AI recruitment algorithms and the dehumanization problem. Ethics and Information Technology 23(4): 791–801.
Frye M (1983) Oppression. The Politics of Reality. Trumansburg, N.Y.: The Crossing Press.
Giddens A (1979) Central Problems in Social Theory: Action, Structure and Contradiction in Social Analysis. London: MacMillan.
Gill KS (2020) Prediction paradigm: The human price of instrumentalism. Ai & Society 35(3): 509–517.
Gilman ME (2022) Beyond window dressing: Public participation for marginalized communities in the datafied society. Fordham Law Review 91(2): 556.
Gray M, Suri S (2019) Ghost Work: How to Stop Silicon Valley from Building a New Global Underclass. New York: Houghton Mifflin Harcourt.
Greene D, Hoffmann AL, Stark L (2019) Better, nicer, clearer, fairer: A critical assessment of the movement for ethical artificial intelligence and machine learning.
Haga T (2022) Alienation in a digitalized world. Ai & Society 37(2): 801–814.
Hagendorff T (2020) The ethics of AI ethics: An evaluation of guidelines. Minds and Machines 30(1): 99–120.
Hagendorff T (2021) Blind spots in AI ethics. AI and Ethics 2(4): 851–867.
Hagendorff T (2022) A virtue-based framework to support putting AI ethics into practice. Philosophy & Technology 35(3): 1–24.
Hansson SO (2017) The Ethics of Technology: Methods and Approaches. London: Rowman & Littlefield International.
Haslanger S (2012) Resisting Reality: Social Construction and Social Critique. Oxford: Oxford University Press.
Haslanger S (2023) Systemic and structural injustice: Is there a difference? Philosophy 98(1): 1–27.
Hleg A (2019) European Commission’s Ethics Guidelines for Trustworthy Artificial Intelligence.
Hu M (2020) Cambridge Analytica’s black box. Big Data & Society 7(2): 2053951720938091.
Jobin A, Ienca M, Vayena E (2019) The global landscape of AI ethics guidelines. Nature Machine Intelligence 1(9): 389–399.
Kodiyan AA (2019) An overview of ethical issues in using AI systems in hiring with a case study of Amazons AI based hiring tool. Researchgate Preprint 12(1): 1–9.
Korenhof P, Blok V, Kloppenburg S (2021) Steering representations—Towards a critical understanding of digital twins. Philosophy & Technology 34(4): 1751–1773.
Luccioni AS, Viguier S, Ligozat AL (2023) Estimating the carbon footprint of BLOOM, a 176B parameter language model. Journal of Machine Learning Research 24(1): 15.
Madaio M, Blodgett SL, Mayfield E, et al. (2022) Beyond Fairness Structural (IN)justice lenses on AI for Education. In: Holmes W, Porayska Pomsta K (eds) The Ethics of Artificial Intellingence in Education. New York: Routledge, pp.203–239.
Metcalf J, Singh R, Moss E, et al. (2023) Taking algorithms to courts: A relational approach to algorithmic accountability. In: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency, pp.1450–1462.
Mills CW (1959) The Sociological Imagination. Oxford: Oxford University Press.
Mittelstadt B (2019) Principles alone cannot guarantee ethical AI. Nature Machine Intelligence 1(11): 501–507.
Muldoon J, Wu BA (2023) Artificial intelligence in the colonial matrix of power. Philosophy & Technology 36(4): 80.
Munn L (2022) The uselessness of AI ethics. AI and Ethics 3(3): 869–877.
Nakada M, Tamura T (2005) Japanese Conceptions of privacy: An intercultural perspective. Ethics and Information Technology 7(1): 27–36.
Naughton J (2023, December 30) For all the Hype in 2023, We Still Don’t Know What AI’s Long-Term Impact Will Be. The Guardian.
Newlands G (2021) Lifting the curtain: Strategic visibility of human labour in AI-as-a-Service. Big Data & Society 8(1): 1–14.
NLAIC (2025) ELSA Concept. (accessed 13/04/2025).
Perrigo B (2023) OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic. Time.
Rafanelli LM (2022) Justice, injustice, and artificial intelligence: Lessons from political theory and philosophy. Big Data & Society 9(1): 20539517221080676.
Rességuier A, Rodrigues R (2020) AI Ethics should not remain toothless! A call to bring back the teeth of ethics. Big Data & Society 7(2): 2053951720942541.
Robertson T, Simonsen J (2012) Challenges and opportunities in contemporary participatory design. Design Issues 28(3): 3–9.
Roessler B (2015) Should personal data be a tradable good? On the moral limits of markets in privacy. In: Roessler B, Mokrosinska D (eds) Social Dimensions of Privacy: Interdisciplinary Perspectives. Cambridge: Cambridge University Press, pp.141–161.
Rosenberger R (2014) Multistability and the agency of mundane artifacts: From speed bumps to subway benches. Human Studies 37(3): 369–392.
Ryan M, Blok V (2023) Stop re-inventing the wheel: Or how ELSA and RRI can align. Journal of Responsible Innovation 10(1): 2196151.
Ryan M, De Roo N, Wang H, et al. (2024) AI through the looking glass: an empirical study of structural social and ethical challenges in AI. AI & Soc, 1–17.
Sadek M, Calvo RA, Mougenot C (2023) Designing value-sensitive AI: A critical review and recommendations for socio-technical design processes. AI and Ethics 4(4): 949–967.
Sambasivan N, Arnesen E, Hutchinson B, et al. (2021) Re-imagining algorithmic fairness in India and beyond. In: Proceedings of the 2021 ACM conference on fairness, accountability, and transparency, pp.315–328.
Sewell W (2005) Logics of History: Social Theory and Social Transformation. Chicago: University of Chicago Press.
Simondon G (2017) On the Mode of Existence of Technical Objects. Minneapolis: Univocal Publishing.
Sloane M (2024) Controversies, contradiction, and “participation” in AI. Big Data & Society 11(1): 20539517241235862.
Smuha NA (2021) Beyond the individual: governing AI’s societal harm. Internet Policy Review 10(3): 1–31.
Stahl BC (2021) Artificial Intelligence for a Better Future. Cham: Springer Nature. pp.91–115.
Ten Holter C (2022) Participatory design: Lessons and directions for responsible research and innovation. Journal of Responsible Innovation 9(2): 275–290.
Umbrello S, van de Poel I (2021) Mapping value sensitive design onto AI for social good principles. AI Ethics 1(3): 283–296.
Van den Hoven J (2013) Value sensitive design and responsible innovation. In: Owen, R, Bessant, J, and Heintz, M (eds) Responsible Innovation: Managing the Responsible Emergence of Science and Innovation in Society. The Atrium: John Wiley & Sons Ltd, pp.75–83.
van der Burg S, Giesbers E, Bogaardt MJ, et al. (2022) Ethical aspects of AI robots for agri-food; a relational approach based on four case studies. Ai & Society 39(2): 541–555.
Van Maanen G (2022) AI ethics, ethics washing, and the need to politicize data ethics. Digital Society 1(2): 9.
Veale M (2020) A critical take on the policy recommendations of the EU high-level expert group on artificial intelligence. European Journal of Risk Regulation 11(1): e1.
Wagner B (2018) Ethics as an Escape from regulation. In: Bayamlioğlu E, Baraliuc I, Janssens L, et al. (eds) Being Profiled: Cogitas Ergo Sum. 10 Years of ‘Profiling the European Citizen‘. Amsterdam: Amsterdam University Press, pp.84–89.
Wakunuma K, de Castro F, Jiya T, et al. (2021) Reconceptualising responsible research and innovation from a global south perspective. Journal of Responsible Innovation 8(2): 267–291.
Wang H (2022a) Algorithmic Colonization: Automating Love and Trust in the Big Data Society. Amsterdam: University of Amsterdam Library.
Wang H (2022b) Transparency as manipulation? Uncovering the disciplinary power of algorithmic transparency. Philosophy & Technology 35(3): 69.
Wang H (2023) Algorithmic Colonization of Love: Ethical Challenges of Dating App Algorithms. Techne.
Wyatt S (2021) Metaphors in critical internet and digital media studies. New Media & Society 23(2): 406–416.
Wynsberghe AV, Vandemeulebroucke T, Bolte L, et al. (2023) Towards the Sustainability of AI: Multi-Disciplinary Approaches to Investigate the Hidden Costs of AI. Basel: MDPI.
York R, McGee JA (2016) Understanding the Jevons paradox. Environmental Sociology 2(1): 77–87.
Young I (2001) Equality of whom? Social groups and judgments of injustice. Journal of Political Philosophy 9(1): 18.
Young I (2004) Responsibility and global labor justice. Journal of Political Philosophy 12(1): 365–388.
Young I (2006) Responsibility and global justice: A social connection model. Social Philosophy and Policy 23(1): 102–130.
Young I (2011) Responsibility for Justice. Oxford: Oxford University Press.
Zuboff S (2019) The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. London: Profile Books.
Zwart H, Barbosa Mendes A, Blok V (2024) Epistemic inclusion: A key challenge for global RRI. Journal of Responsible Innovation 11(1): 2326721.
Zwart H, Nelis A (2009) What is ELSA genomics? Embo Reports.

Liste évolutive des traductions par Gilles en vrac
Les caractères gras dans le texte sont des auteurs et Gilles.

Notes

1
Cette définition devrait s’appliquer tant à l’ontologie qu’aux structures sociopolitiques. Ainsi, l’expression « processus à grande échelle » désigne aussi bien un processus social qu’un processus ontologique. ↩︎

Résumé

Introduction

Remettre en question les fondements de l’éthique de l’IA par la conception : traduire des valeurs non critiques en actions

Techno-solutionnisme

Dynamiques de pouvoir

La perturbation de la vie quotidienne

Remettre en question le rendement de l’éthique de l’IA « by-design » : la participation sans changement structurel

La participation comme extraction de main-d’œuvre

La participation comme manipulation de la légitimité

La participation comme détachement du monde de la vie

Remise en question des résultats de l’éthique de l’IA « by-design » : des résultats imprévisibles

Réductionnisme linéaire

L’action anthropocentrique des concepteurs

Immatérialité

Tableau 1. Questions socio-éthiques négligées dans l’éthique de l’IA par conception.

Développement d’un cadre à plusieurs niveaux pour l’éthique de l’IA

Mise en œuvre d’un cadre à plusieurs niveaux pour le diagnostic des enjeux socio-éthiques

Tableau 2. Matrice d’impact à plusieurs niveaux pour identifier les enjeux socio-éthiques de l’IA.

Conclusion

Note 1

Références

Notes

Partager :

J’aime ça :