{"id":8471,"date":"2025-09-02T11:22:09","date_gmt":"2025-09-02T15:22:09","guid":{"rendered":"https:\/\/www.gillesenvrac.ca\/carnet\/?page_id=8471"},"modified":"2025-09-09T20:41:06","modified_gmt":"2025-09-10T00:41:06","slug":"limites-des-donnees","status":"publish","type":"page","link":"https:\/\/gillesenvrac.ca\/carnet\/limites-des-donnees\/","title":{"rendered":"Les limites des donn\u00e9es"},"content":{"rendered":"\n

Par <\/strong>C. THI NGUYEN<\/p>\n\n\n\n

Traduction de l’article The Limits of Data<\/a>, dans le VOL. XL, NO. 2, WINTER 2024<\/a> de la revue ISSUES<\/p>\n\n\n\n

\u00ab\u00a0Data is powerful because it\u2019s universal. The cost is context.<\/em>\u00ab\u00a0<\/p>\n\n\n\n

\n\n\n\n

Je me suis un jour retrouv\u00e9 dans une pi\u00e8ce avec un groupe de sp\u00e9cialistes du machine learning<\/a> qui d\u00e9veloppaient une intelligence artificielle cr\u00e9ative pour produire du \u00ab bon art \u00bb. J’ai interrog\u00e9 l’un des chercheurs sur les donn\u00e9es utilis\u00e9es pour l’entra\u00eenement. Comment avaient-ils choisi d’op\u00e9rationnaliser le \u00ab bon art \u00bb ? Leur r\u00e9ponse : ils avaient utilis\u00e9 les donn\u00e9es Netflix sur le temps pass\u00e9 \u00e0 regarder des contenus.<\/p>\n\n\n\n

Le probl\u00e8me, c’est que le temps pass\u00e9 \u00e0 regarder n’est pas synonyme de bonne \u0153uvre d’art. L’art peut \u00eatre important pour nous de nombreuses fa\u00e7ons. Il peut nous \u00e9mouvoir, nous apprendre des choses, nous bouleverser profond\u00e9ment. Mais ces qualit\u00e9s ne se mesurent pas n\u00e9cessairement en nombre d’heures pass\u00e9es \u00e0 regarder. Si nous optimisons nos outils cr\u00e9atifs en fonction du temps pass\u00e9 \u00e0 regarder, nous risquons d’optimiser davantage l’addiction que toute autre chose. J’ai dit tout cela. Ils ont r\u00e9pondu : montrez-moi un grand ensemble de donn\u00e9es avec une meilleure op\u00e9rationnalisation du \u00ab bon art \u00bb, nous l’utiliserons. Et c’est l\u00e0 le probl\u00e8me central, car il est tr\u00e8s improbable qu’un tel ensemble de donn\u00e9es existe un jour.<\/p>\n\n\n\n

\u00c0 l’heure actuelle, le langage de l’\u00e9laboration des politiques est celui des donn\u00e9es<\/em>. (Je parle ici des \u00ab donn\u00e9es \u00bb en tant que concept, et non en tant que mesures particuli\u00e8res.) Les agences gouvernementales, les entreprises et les autres d\u00e9cideurs politiques veulent tous prendre des d\u00e9cisions bas\u00e9es sur des donn\u00e9es claires concernant des r\u00e9sultats positifs. Ils veulent r\u00e9ussir sur le plan des mesures, c’est-\u00e0-dire r\u00e9ussir en termes clairs, objectifs et compr\u00e9hensibles par le public. Mais les mesures et les donn\u00e9es sont incompl\u00e8tes<\/a> de par leur nature m\u00eame. Toutes les m\u00e9thodes de collecte de donn\u00e9es sont limit\u00e9es et tous les ensembles de donn\u00e9es sont filtr\u00e9s.<\/p>\n\n\n\n

Certaines choses tr\u00e8s importantes ne sont pas prises en compte dans les donn\u00e9es. Il est plus facile de justifier les d\u00e9cisions en mati\u00e8re de soins de sant\u00e9 en termes de r\u00e9sultats mesurables : augmentation de la long\u00e9vit\u00e9 moyenne ou augmentation du nombre de vies sauv\u00e9es dans les services d’urgence, par exemple. Mais il existe de nombreux facteurs importants qui sont beaucoup plus difficiles \u00e0 mesurer : le bonheur, la communaut\u00e9, la tradition, la beaut\u00e9, le confort et toutes les singularit\u00e9s qui composent la \u00ab qualit\u00e9 de vie \u00bb.<\/p>\n\n\n\n

Prenons, par exemple, une proposition politique selon laquelle les m\u00e9decins devraient inciter leurs patients \u00e0 r\u00e9duire consid\u00e9rablement leur consommation de graisses satur\u00e9es. Cela devrait conduire \u00e0 de meilleurs r\u00e9sultats en mati\u00e8re de sant\u00e9, du moins pour ceux qui sont plus faciles \u00e0 mesurer : le nombre de crises cardiaques et la long\u00e9vit\u00e9 moyenne. Mais l’accent mis sur les r\u00e9sultats faciles \u00e0 mesurer diminue souvent l’importance d’autres cons\u00e9quences en aval : la perte des traditions culinaires, la d\u00e9connexion d’un patrimoine culinaire et la r\u00e9duction du plaisir culinaire quotidien. Il est facile de rejeter ces \u00e9l\u00e9ments comme \u00e9tant \u00ab intangibles \u00bb. Mais en r\u00e9alit\u00e9, quoi de plus tangible<\/em> qu’un bon fromage ou une joyeuse soir\u00e9e fondue entre amis ?<\/p>\n\n\n\n

Il est tentant d’utiliser le terme intangible<\/em> lorsque nous voulons en r\u00e9alit\u00e9 dire que ces \u00e9l\u00e9ments sont difficiles \u00e0 quantifier dans notre environnement institutionnel moderne avec les outils de mesure utilis\u00e9s par les syst\u00e8mes bureaucratiques modernes. L’\u00e9cart entre la r\u00e9alit\u00e9 et ce qui est facile \u00e0 mesurer est omnipr\u00e9sent. Prenons l’exemple de l’analyse co\u00fbts-avantages, qui est cens\u00e9e \u00eatre une proc\u00e9dure objective \u2013 et donc irr\u00e9prochable \u2013 pour prendre des d\u00e9cisions en calculant les co\u00fbts financiers attendus et les avantages financiers attendus. Mais ce processus est fortement limit\u00e9 par les types d’informations sur les co\u00fbts qui sont faciles \u00e0 recueillir. Il est relativement simple de fournir des donn\u00e9es pour \u00e9tayer les affirmations selon lesquelles un nouveau viaduc pourrait contribuer \u00e0 fluidifier la circulation, permettre aux gens de se rendre plus rapidement au travail et attirer davantage d’entreprises dans le centre-ville. Il est plus difficile de produire des donn\u00e9es \u00e0 l’appui d’affirmations selon lesquelles le viaduc pourrait nuire \u00e0 la beaut\u00e9 d’une ville, ou que le bruit pourrait affecter le bien-\u00eatre des citoyens, ou encore qu’un mur s\u00e9parant les quartiers pourrait \u00e9roder la communaut\u00e9. Du point de vue politique, tout ce qui est difficile \u00e0 mesurer peut commencer \u00e0 dispara\u00eetre de la vue.<\/p>\n\n\n\n

Un optimiste pourrait esp\u00e9rer contourner ces probl\u00e8mes gr\u00e2ce \u00e0 de meilleures donn\u00e9es et mesures. Ce que je veux montrer ici, c’est que ces limites des donn\u00e9es ne sont pas le fruit du hasard. La m\u00e9thodologie de base des donn\u00e9es, telles qu’elles sont collect\u00e9es par des institutions r\u00e9elles ob\u00e9issant aux forces r\u00e9elles de l’\u00e9conomie et de l’\u00e9chelle, omet syst\u00e9matiquement certains types d’informations. Les grands ensembles de donn\u00e9es ne sont pas neutres et ne sont pas exhaustifs. Il existe des limites profondes \u00e0 ce que les grands ensembles de donn\u00e9es peuvent capturer.<\/p>\n\n\n\n

La m\u00e9thodologie de base des donn\u00e9es, telles qu’elles sont collect\u00e9es par des institutions r\u00e9elles ob\u00e9issant aux forces r\u00e9elles de l’\u00e9conomie et de l’\u00e9chelle, omet syst\u00e9matiquement certains types d’informations.<\/em><\/p>\n\n\n\n

Je ne parle pas seulement des contingences des pr\u00e9jug\u00e9s sociaux. Il est \u00e9vident que les ensembles de donn\u00e9es sont mauvais lorsque les proc\u00e9dures de collecte sont biais\u00e9es par un sur\u00e9chantillonnage en fonction de la race, du sexe ou de la richesse. Mais m\u00eame si les analystes peuvent corriger ce type de biais, il existe d’autres biais intrins\u00e8ques int\u00e9gr\u00e9s dans la m\u00e9thodologie des donn\u00e9es. Les techniques de collecte de donn\u00e9es doivent \u00eatre reproductibles \u00e0 grande \u00e9chelle. Elles n\u00e9cessitent des cat\u00e9gories standardis\u00e9es. La reproductibilit\u00e9 et la standardisation rendent les m\u00e9thodes bas\u00e9es sur les donn\u00e9es puissantes, mais cette puissance a un prix. Elle limite les types d’informations que nous pouvons collecter.<\/p>\n\n\n\n

Un petit groupe de chercheurs s’est pench\u00e9 sur cette question, principalement dans le domaine des \u00e9tudes scientifiques et technologiques, un domaine interdisciplinaire ax\u00e9 sur le fonctionnement de la science qui m\u00e8ne des \u00e9tudes en philosophie, histoire, anthropologie, sociologie, etc. Ces travaux permettent de comprendre les limites intrins\u00e8ques du processus de collecte de donn\u00e9es et du contenu des grands ensembles de donn\u00e9es. Et ces limites ne sont pas le fruit du hasard ou de mauvaises politiques. Elles sont inh\u00e9rentes \u00e0 la nature m\u00eame des donn\u00e9es. Les donn\u00e9es sont cens\u00e9es \u00eatre coh\u00e9rentes et stables dans tous les contextes. La m\u00e9thodologie des donn\u00e9es exige de laisser de c\u00f4t\u00e9 certaines de nos fa\u00e7ons plus sensibles et dynamiques de comprendre le monde afin d’atteindre cette stabilit\u00e9.<\/p>\n\n\n\n

Ces limites sont particuli\u00e8rement pr\u00e9occupantes lorsque nous r\u00e9fl\u00e9chissons \u00e0 la r\u00e9ussite, aux objectifs, aux buts et aux r\u00e9sultats. Lorsque les actions doivent \u00eatre justifi\u00e9es par le langage des donn\u00e9es, les limites inh\u00e9rentes \u00e0 la collecte de donn\u00e9es deviennent des limites aux valeurs humaines. Et je ne m’inqui\u00e8te pas seulement des incitations perverses et des situations dans lesquelles des acteurs malveillants manipulent les indicateurs. Je crains qu’une importance excessive accord\u00e9e aux donn\u00e9es puisse induire en erreur m\u00eame les d\u00e9cideurs politiques les mieux intentionn\u00e9s, qui ne se rendent pas compte que l’exigence d’\u00ab objectivit\u00e9 \u00bb \u2013 dans ce sens tr\u00e8s sp\u00e9cifique et institutionnel \u2013 les conduit \u00e0 ignorer syst\u00e9matiquement une partie cruciale du monde.<\/em><\/p>\n\n\n\n

D\u00c9CONTEXTUALISATION<\/strong><\/em><\/strong><\/h2>\n\n\n\n

Tous les types de connaissances et tous les types de compr\u00e9hension ne peuvent pas \u00eatre consid\u00e9r\u00e9s comme des informations et des donn\u00e9es. L’historien de la quantification Theodore Porter d\u00e9crit l’\u00ab information \u00bb comme une forme de \u00ab communication entre des personnes qui ne se connaissent pas et qui n’ont donc aucune base personnelle pour une compr\u00e9hension commune \u00bb. En d’autres termes, l’\u00ab information \u00bb a \u00e9t\u00e9 pr\u00e9par\u00e9e pour \u00eatre comprise par des \u00e9trangers \u00e9loign\u00e9s. L’exemple le plus clair de ce type d’information est la donn\u00e9e quantitative. Les donn\u00e9es ont \u00e9t\u00e9 con\u00e7ues pour \u00eatre collect\u00e9es \u00e0 grande \u00e9chelle et agr\u00e9g\u00e9es. Les donn\u00e9es doivent pouvoir \u00eatre collect\u00e9es et \u00e9chang\u00e9es entre diff\u00e9rentes personnes dans tous types de contextes, avec tous types de parcours. Les donn\u00e9es sont portables, ce qui les rend particuli\u00e8rement puissantes. Mais cette portabilit\u00e9 a un prix cach\u00e9 : pour transformer notre compr\u00e9hension et nos observations en donn\u00e9es, nous devons proc\u00e9der \u00e0 une d\u00e9contextualisation.<\/p>\n\n\n\n

\n

Les donn\u00e9es doivent pouvoir \u00eatre collect\u00e9es et \u00e9chang\u00e9es entre diff\u00e9rentes personnes dans tous types de contextes, avec tous types de parcours.<\/em><\/p>\n<\/blockquote>\n\n\n\n

Un exemple simple est la notation. Je suis professeur de philosophie. Je donne deux \u00e9valuations pour chaque dissertation d’\u00e9tudiant : l’une est une \u00e9valuation qualitative longue et d\u00e9taill\u00e9e (paragraphes de commentaires \u00e9crits) et l’autre est une note alphab\u00e9tique (une \u00e9valuation quantitative). L’\u00e9valuation quantitative peut facilement circuler entre les institutions. Diff\u00e9rentes personnes peuvent saisir des donn\u00e9es dans le m\u00eame syst\u00e8me, ce qui permet de g\u00e9n\u00e9rer facilement des agr\u00e9gats et des moyennes, par exemple la moyenne pond\u00e9r\u00e9e cumulative de l’\u00e9tudiant. Mais pensez \u00e0 tout ce qui est retir\u00e9 de l’\u00e9valuation pour permettre cette noyau portable et agr\u00e9gable.<\/p>\n\n\n\n

Les \u00e9valuations qualitatives peuvent \u00eatre flexibles et r\u00e9actives et s’appuyer sur une histoire commune. Je peux adapter mon \u00e9valuation \u00e9crite aux objectifs de l’\u00e9tudiant. Si un devoir cherche \u00e0 \u00eatre original, je peux commenter son originalit\u00e9. Si un devoir cherche \u00e0 expliquer pr\u00e9cis\u00e9ment un passage d’Aristote, je peux l’\u00e9valuer en fonction de la rigueur de son argumentation. Si un \u00e9tudiant souhaite devenir journaliste, je peux me concentrer sur la qualit\u00e9 de son \u00e9criture. Si un \u00e9tudiant en soins infirmiers s’int\u00e9resse aux applications concr\u00e8tes des th\u00e9ories \u00e9thiques, je peux r\u00e9pondre en cons\u00e9quence. Plus important encore, je peux m’appuyer sur notre contexte commun. Je peux dire des choses qui pourraient sembler obscures \u00e0 un observateur ext\u00e9rieur, car l’\u00e9tudiant et moi avons pass\u00e9 du temps ensemble en classe, nous avons discut\u00e9 pendant des heures de philosophie, de pens\u00e9e critique et d’\u00e9criture, et j’ai une id\u00e9e de ce que veut et de ce dont a besoin un \u00e9tudiant en particulier. Je peux fournir des r\u00e9ponses plus subtiles, complexes et multidimensionnelles. Mais contrairement \u00e0 une note alphab\u00e9tique, ces \u00e9valuations \u00e9crites sont difficiles \u00e0 transmettre \u00e0 des administrateurs, des doyens et des services de recrutement \u00e9loign\u00e9s.<\/p>\n\n\n\n

La quantification, telle qu’elle est utilis\u00e9e dans les institutions du monde r\u00e9el, fonctionne en supprimant les informations sensibles au contexte. Le processus de quantification est con\u00e7u pour produire des informations hautement transf\u00e9rables, comme une note alphab\u00e9tique. Les notes alphab\u00e9tiques peuvent \u00eatre comprises par tout le monde ; elles sont faciles \u00e0 transmettre. Une note alphab\u00e9tique est un classement simple sur un spectre unidimensionnel. Une fois qu’une institution a cr\u00e9\u00e9 ce noyau stable et invariant dans le contexte, elle peut facilement agr\u00e9ger ce type d’informations, pour les \u00e9tudiants, pour les cohortes d’\u00e9tudiants, pour des universit\u00e9s enti\u00e8res. Une pile d’informations qualitatives, sous la forme de milliers de commentaires \u00e9crits, par exemple, ne peut pas \u00eatre agr\u00e9g\u00e9e. Elle est difficile \u00e0 manier, voire inutilisable, pour l’administrateur, le responsable des admissions \u00e0 la facult\u00e9 de droit ou le futur employeur, \u00e0 moins qu’elle n’ait \u00e9t\u00e9 transform\u00e9e et d\u00e9contextualis\u00e9e.<\/p>\n\n\n\n

Voici donc le premier principe des donn\u00e9es : la collecte de donn\u00e9es implique un compromis. Nous gagnons en portabilit\u00e9 et en agr\u00e9gabilit\u00e9 au prix de la sensibilit\u00e9 au contexte et des nuances. Que manque-t-il aux donn\u00e9es ? Les donn\u00e9es sont con\u00e7ues pour \u00eatre utilisables et compr\u00e9hensibles par des personnes tr\u00e8s diff\u00e9rentes, issues de contextes et d’horizons tr\u00e8s divers. Les proc\u00e9dures de collecte de donn\u00e9es ont donc tendance \u00e0 filtrer les informations fortement li\u00e9es au contexte. Cela d\u00e9pend en grande partie des personnes autoris\u00e9es \u00e0 saisir les donn\u00e9es et des destinataires de ces donn\u00e9es. Les donn\u00e9es produites par et pour des sp\u00e9cialistes en m\u00e9decine l\u00e9gale, par exemple, peuvent s’appuyer sur un bagage technique commun, \u00e0 d\u00e9faut de d\u00e9tails sp\u00e9cifiques au travail dans un lieu ou une communaut\u00e9 particuliers.<\/p>\n\n\n\n

Les cas les plus \u00e9vidents de d\u00e9contextualisation concernent la transparence publique, o\u00f9 les indicateurs bas\u00e9s sur des donn\u00e9es doivent \u00eatre compr\u00e9hensibles par tous. La sociologue <\/em>Jennifer Lena<\/em><\/a> fournit un excellent exemple tir\u00e9 de l’histoire du financement des arts. \u00c9valuer quels projets artistiques sont int\u00e9ressants et m\u00e9ritent d’\u00eatre financ\u00e9s n\u00e9cessite une expertise sp\u00e9cifique consid\u00e9rable. Pour d\u00e9terminer ce qui est original, cr\u00e9atif et marquant, il faut conna\u00eetre en profondeur le m\u00e9dium et le genre en question, qu’il s’agisse de cin\u00e9ma, de bandes dessin\u00e9es ou d’art performatif avant-gardiste. Et il n’existe pas vraiment d’expertise g\u00e9n\u00e9rique en mati\u00e8re de critique artistique. \u00catre expert en jazz ne vous donne aucune id\u00e9e de ce qui est passionnant dans le monde des jeux vid\u00e9o ind\u00e9pendants.<\/p>\n\n\n\n

Mais les indicateurs de transparence ont tendance \u00e0 \u00e9viter de s’appuyer sur une expertise sp\u00e9cialis\u00e9e, pr\u00e9cis\u00e9ment parce que cette expertise n’est pas accessible au grand public. Lena \u00e9crit que lorsque le Congr\u00e8s s’est inqui\u00e9t\u00e9 de la possibilit\u00e9 de n\u00e9potisme et de corruption dans les d\u00e9cisions de financement du National Endowment for the Arts, il a impos\u00e9 un r\u00e9gime de responsabilit\u00e9 qui a \u00e9cart\u00e9 l’expertise au profit d’un indicateur simple et compr\u00e9hensible par le public : les ventes de billets. Le probl\u00e8me est \u00e9vident : le statut de blockbuster n’est pas une mesure de la qualit\u00e9 artistique. Mais les ventes de billets sont faciles \u00e0 mesurer, \u00e0 agr\u00e9ger et \u00e0 comprendre \u00e0 grande \u00e9chelle.<\/p>\n\n\n\n

Plus la base d’utilisateurs des donn\u00e9es est large, plus les donn\u00e9es doivent \u00eatre d\u00e9contextualis\u00e9es. L’ouvrage phare de Theodore Porter, Trust in Numbers, donne un bel exemple tir\u00e9 d’une histoire de la mesure des terres compil\u00e9e par Witold Kula, \u00e9conomiste polonais du d\u00e9but du XXe si\u00e8cle. Les anciennes mesures des terres \u00e9taient souvent li\u00e9es \u00e0 leur productivit\u00e9. Par exemple, un \u00ab hide<\/em><\/a> \u00bb de terre correspondait \u00e0 la superficie n\u00e9cessaire pour subvenir aux besoins d’une famille moyenne. Ces mesures sont incroyablement riches en informations fonctionnelles. Mais elles n\u00e9cessitaient une grande expertise sur le terrain et une connaissance approfondie du contexte. L’\u00e9valuateur foncier devait comprendre la fertilit\u00e9 du sol, le nombre de poissons dans les rivi\u00e8res et de cerfs dans les bois, et dans quelle mesure tout cela pouvait changer en cas de s\u00e9cheresse. Ces mesures ne sont pas utilisables ni \u00e9valuables par des bureaucrates et des gestionnaires \u00e9loign\u00e9s. Les soci\u00e9t\u00e9s ont tendance \u00e0 abandonner ces mesures et \u00e0 passer des hides aux acres lorsqu’elles passent d’une gouvernance locale d\u00e9centralis\u00e9e \u00e0 de grandes bureaucraties centralis\u00e9es. Les exigences en mati\u00e8re de donn\u00e9es \u2014 et certainement les donn\u00e9es \u00e0 grande \u00e9chelle \u2014 sont en tension avec l’opacit\u00e9 de l’expertise et de la sensibilit\u00e9 hautement locales. Ce type de conscience locale est g\u00e9n\u00e9ralement remplac\u00e9 par des mesures m\u00e9caniquement reproductibles dans le cadre du passage \u00e0 une bureaucratie \u00e0 plus grande \u00e9chelle.<\/p>\n\n\n\n

\n

Plus la base d’utilisateurs des donn\u00e9es est large, plus les donn\u00e9es doivent \u00eatre d\u00e9contextualis\u00e9es.<\/em><\/p>\n<\/blockquote>\n\n\n\n

Derri\u00e8re ces changements se cache la pression d’\u00eatre objectif d’une mani\u00e8re tr\u00e8s particuli\u00e8re. Le terme \u00ab objectif \u00bb a de nombreuses significations diff\u00e9rentes. Parfois, lorsque nous disons que quelque chose est \u00ab objectif \u00bb, nous voulons dire qu’il est pr\u00e9cis ou impartial. Mais d’autres fois, nous demandons une transformation sociale tr\u00e8s sp\u00e9cifique de nos processus afin qu’ils s’adaptent \u00e0 notre vie institutionnelle. Nous demandons une objectivit\u00e9 m\u00e9canique, c’est-\u00e0-dire qu’une proc\u00e9dure soit reproductible par n’importe qui (ou par toute personne ayant suivi une formation professionnelle donn\u00e9e), avec \u00e0 peu pr\u00e8s les m\u00eames r\u00e9sultats. La quantification institutionnelle est con\u00e7ue pour soutenir des proc\u00e9dures qui peuvent \u00eatre ex\u00e9cut\u00e9es par des employ\u00e9s interchangeables.<\/p>\n\n\n\n

Cette objectivit\u00e9 m\u00e9canique est devenue centrale dans la vie institutionnelle contemporaine. Il est facile d’oublier que l’objectivit\u00e9 m\u00e9canique n’est pas tout. Les gens supposent souvent, par exemple, que si vous avez une objectivit\u00e9 m\u00e9canique, vous avez alors la pr\u00e9cision, mais ce sont deux choses diff\u00e9rentes. Un jugement pr\u00e9cis permet d’aller \u00e0 l’essentiel. Mais la m\u00e9thodologie qui conduit aux jugements les plus pr\u00e9cis n’est pas forc\u00e9ment applicable \u00e0 grande \u00e9chelle. Prenons, par exemple, la norme juridique permettant d’inculper une personne pour conduite en \u00e9tat d’ivresse lorsque son taux d’alcool\u00e9mie est de 0,08 %<\/em><\/a>. Ce n’est pas le crit\u00e8re le plus fiable pour \u00e9valuer ce qui importe vraiment, \u00e0 savoir l’\u00e9tat d’\u00e9bri\u00e9t\u00e9 au point d’entraver les facult\u00e9s. Il s’av\u00e8re que certaines personnes ont leurs facult\u00e9s affaiblies \u00e0 des taux d’alcool\u00e9mie plus faibles, et d’autres \u00e0 des taux plus \u00e9lev\u00e9s. Mais il est tr\u00e8s difficile de trouver une proc\u00e9dure \u00e9volutive et reproductible pour juger de l’affaiblissement des facult\u00e9s. Nous utilisons donc la norme de 0,08 % d’alcool\u00e9mie, car toute personne disposant d’un \u00e9thylotest peut l’appliquer avec des r\u00e9sultats approximativement identiques.<\/p>\n\n\n\n

Consid\u00e9rons \u00e9galement la relation entre la notion complexe d’\u00ab \u00e2ge adulte \u00bb et la notion plus m\u00e9canique d’\u00ab \u00e2ge l\u00e9gal \u00bb. Le droit de vote, la capacit\u00e9 \u00e0 donner son consentement et tous les autres droits associ\u00e9s \u00e0 l’\u00e2ge adulte devraient probablement \u00eatre li\u00e9s \u00e0 la maturit\u00e9 intellectuelle et \u00e9motionnelle. Mais il n’existe aucun moyen m\u00e9canique objectif d’\u00e9valuer cela. Certaines personnes peuvent \u00eatre dou\u00e9es pour \u00e9valuer la maturit\u00e9 intellectuelle et \u00e9motionnelle, en particulier chez celles qu’elles connaissent bien. Mais ces proc\u00e9dures ne sont pas reproductibles. C’est pourquoi des pays comme les \u00c9tats-Unis lient le droit de vote \u00e0 une norme tr\u00e8s simple, \u00e0 savoir l’\u00e2ge de 18 ans, afin d’atteindre une objectivit\u00e9 m\u00e9canique.<\/p>\n\n\n\n

L’historienne Lorraine Daston l’explique <\/em>ainsi<\/em><\/a> : les anciennes formes de r\u00e8gles laissaient souvent une grande marge de man\u0153uvre et de jugement. Mais au cours des derniers si\u00e8cles, les jugements complexes ont \u00e9t\u00e9 remplac\u00e9s par des r\u00e8gles claires et explicites, qu’elle appelle \u00ab r\u00e8gles algorithmiques \u00bb. Au d\u00e9part, l’algorithmisation n’avait pas pour but de rendre les informations calculables par des machines, mais plut\u00f4t de r\u00e9duire le co\u00fbt de la main-d’\u0153uvre, en rempla\u00e7ant des sp\u00e9cialistes hautement qualifi\u00e9s par des travailleurs peu qualifi\u00e9s et rempla\u00e7ables, capables d’ex\u00e9cuter simplement un ensemble de r\u00e8gles explicites. Le probl\u00e8me, selon Daston, est que les ensembles de r\u00e8gles explicites et m\u00e9caniques ne fonctionnent bien que lorsque le contexte ne change pas beaucoup.<\/p>\n\n\n\n

La premi\u00e8re le\u00e7on, encore une fois, est que les donn\u00e9es impliquent un compromis. La puissance des donn\u00e9es r\u00e9side dans le fait qu’elles peuvent \u00eatre collect\u00e9es par de nombreuses personnes et format\u00e9es pour \u00eatre transmises et agr\u00e9g\u00e9es. Le processus de portabilit\u00e9 des donn\u00e9es exclut \u00e9galement les modes de compr\u00e9hension sensibles, locaux ou hautement contextuels. En transformant la compr\u00e9hension en donn\u00e9es, nous \u00e9liminons ou r\u00e9duisons g\u00e9n\u00e9ralement les m\u00e9thodes d’\u00e9valuation qui n\u00e9cessitent une exp\u00e9rience significative ou un jugement discr\u00e9tionnaire au profit de m\u00e9thodes hautement reproductibles et m\u00e9caniques. Et si les d\u00e9cideurs politiques insistent pour fonder leur politique sur des ensembles de donn\u00e9es publiques \u00e0 grande \u00e9chelle, ils filtrent alors syst\u00e9matiquement la discr\u00e9tion, la sensibilit\u00e9 et l’exp\u00e9rience contextuelle de leur processus d\u00e9cisionnel.<\/p>\n\n\n\n

LA POLITIQUE DE LA CLASSIFICATION<\/h2>\n\n\n\n

Les efforts de collecte de donn\u00e9es n\u00e9cessitent une classification, qui constitue un deuxi\u00e8me type de filtre. Imaginez un formulaire de recensement am\u00e9ricain o\u00f9 chacun inscrirait simplement dans un espace vide son identit\u00e9 raciale, selon ses propres termes. Il serait impossible d’agr\u00e9ger facilement ces donn\u00e9es. Les collecteurs doivent trier les informations dans des cat\u00e9gories pr\u00e9\u00e9tablies pour permettre leur agr\u00e9gation. Il existe donc des cat\u00e9gories distinctes \u2014 blanc, noir, am\u00e9rindien, asiatique et, dans le dernier recensement, \u00ab deux ou plus \u00bb \u2014 qui organisent un spectre complexe en un ensemble discret de segments. Soit nous trions au pr\u00e9alable les r\u00e9ponses des personnes dans ces cat\u00e9gories en les obligeant \u00e0 choisir parmi une liste limit\u00e9e, soit nous les classons a posteriori en codant leurs r\u00e9ponses libres.<\/p>\n\n\n\n

Geoffrey Bowker, sp\u00e9cialiste en informatique, et Susan Leigh Star, sp\u00e9cialiste en \u00e9tudes scientifiques, proposent une analyse approfondie de ces pressions dans <\/em>Sorting Things Out: Classification and its Consequences<\/em><\/a>, leur histoire politique des syst\u00e8mes de classification. Les cat\u00e9gories \u00e9tablies par les collecteurs de donn\u00e9es constituent une sorte d’oubli intentionnel et institutionnel. Le classement des informations en cat\u00e9gories met l’accent sur les informations situ\u00e9es aux fronti\u00e8res, par exemple la diff\u00e9rence entre les Blancs et les Asiatiques, et stocke ces informations. Mais ces cat\u00e9gories agissent \u00e9galement comme un filtre ; elles ne stockent pas les informations \u00e0 l’int\u00e9rieur des cat\u00e9gories. Les cat\u00e9gories du recensement am\u00e9ricain, par exemple, \u00e9ludent la diff\u00e9rence entre les Cor\u00e9ens, les Chinois, les Philippins, les Khmers et bien d’autres encore, qui sont tous regroup\u00e9s sous la cat\u00e9gorie \u00ab Asiatiques \u00bb. Ce regroupement est n\u00e9cessaire, selon Bowker et Star : le processus de classification est con\u00e7u pour r\u00e9duire la complexit\u00e9 \u00e9crasante du monde \u00e0 quelque chose de plus g\u00e9rable, de plus facile \u00e0 traiter pour les individus et les institutions dont la capacit\u00e9 de stockage et d’attention est limit\u00e9e. Les syst\u00e8mes de classification d\u00e9cident \u00e0 l’avance ce qu’il faut retenir et ce qu’il faut oublier.<\/p>\n\n\n\n

\n

Tous les syst\u00e8mes de classification sont le r\u00e9sultat de processus politiques et sociaux, qui impliquent des d\u00e9cisions sur ce qui m\u00e9rite d’\u00eatre retenu et ce que nous pouvons nous permettre d’oublier. <\/em><\/p>\n<\/blockquote>\n\n\n\n

Mais ces cat\u00e9gories ne sont pas neutres. Tous les syst\u00e8mes de classification sont le r\u00e9sultat de processus politiques et sociaux, qui impliquent des d\u00e9cisions sur ce qui m\u00e9rite d’\u00eatre retenu et ce que nous pouvons nous permettre d’oublier. Certaines de ces contraintes sont simplement pratiques. Selon Bowker et Star, la collecte des donn\u00e9es sur la mortalit\u00e9 pr\u00e9coce \u00e9tait limit\u00e9e par la taille maximale de certains formulaires : il ne pouvait y avoir plus de causes de d\u00e9c\u00e8s que de lignes dans le formulaire standard. Et il est tr\u00e8s difficile d’ajouter de nouvelles causes de d\u00e9c\u00e8s au syst\u00e8me de collecte de donn\u00e9es, car cela impliquerait de convaincre des centaines de bureaux nationaux de collecte de donn\u00e9es de modifier tous leurs formulaires de d\u00e9claration de d\u00e9c\u00e8s.<\/p>\n\n\n\n

Voici le deuxi\u00e8me principe : chaque syst\u00e8me de classification repr\u00e9sente les int\u00e9r\u00eats d’un groupe. Ces int\u00e9r\u00eats sont souvent r\u00e9v\u00e9l\u00e9s par les domaines dans lesquels un syst\u00e8me de classification est tr\u00e8s pr\u00e9cis et ceux dans lesquels il ne l’est pas. Par exemple, la Classification internationale des maladies (CIM) est un syst\u00e8me mondial standardis\u00e9 de classification des maladies qui est utilis\u00e9, entre autres, pour collecter des statistiques sur la mortalit\u00e9. Sans un syst\u00e8me centralis\u00e9 et standardis\u00e9, les donn\u00e9es collect\u00e9es par les diff\u00e9rents bureaux ne peuvent pas \u00eatre agr\u00e9g\u00e9es. Mais la CIM pr\u00e9sente une granularit\u00e9 tr\u00e8s variable. Elle comporte des cat\u00e9gories distinctes pour les accidents impliquant une chute depuis un \u00e9quipement de terrain de jeu, une chute depuis une chaise, une chute depuis un fauteuil roulant, une chute depuis un lit et une chute depuis une chaise perc\u00e9e. Mais elle ne comporte que deux cat\u00e9gories pour les chutes dans la nature : la chute depuis une falaise et une cat\u00e9gorie \u00ab autres chutes \u00bb qui regroupe toutes les autres chutes, y compris, dans son exemple, les chutes depuis des talus, des meules de foin et des arbres. L’ICD s’int\u00e9resse manifestement beaucoup plus \u00e0 l’enregistrement des types d’accidents qui peuvent arriver aux personnes dans un environnement urbain industriel que dans un environnement rural, notent Bowker et Star. Le syst\u00e8me de classification de l’ICD sert les int\u00e9r\u00eats de certaines personnes plut\u00f4t que d’autres.<\/p>\n\n\n\n

Les syst\u00e8mes de classification d\u00e9cident \u00e0 l’avance ce qu’il faut retenir et ce qu’il faut oublier. Ce n’est pas mauvais en soi, affirment Bowker et Star. L’agr\u00e9gation des donn\u00e9es n\u00e9cessite un tel filtrage. Le probl\u00e8me survient lorsque les utilisateurs des donn\u00e9es oublient que les cat\u00e9gories sont des inventions sociales cr\u00e9\u00e9es dans un but pr\u00e9cis. Lorsque ces syst\u00e8mes de classification entrent dans une infrastructure d’information, ils deviennent invisibles ; ils font partie de la structure op\u00e9rationnelle de fond de notre monde. Les gens commencent \u00e0 supposer que les cat\u00e9gories \u00ab asiatique \u00bb, \u00ab blanc \u00bb et \u00ab noir \u00bb sont naturelles, et ces suppositions remod\u00e8lent discr\u00e8tement le monde dans lequel nous vivons.<\/p>\n\n\n\n

Les int\u00e9r\u00eats politiques fa\u00e7onnent les syst\u00e8mes de classification, et les syst\u00e8mes de classification fa\u00e7onnent tous les efforts institutionnels de collecte de donn\u00e9es. Le gouvernement collecte des donn\u00e9es sur le lieu de r\u00e9sidence des citoyens, leurs revenus et les biens qu’ils poss\u00e8dent. Les cha\u00eenes de supermarch\u00e9s collectent des informations sur ce que les consommateurs ach\u00e8tent et quand. Les compagnies d’assurance maladie collectent des informations sur le rythme cardiaque, la temp\u00e9rature et le diagnostic m\u00e9dical officiel de la personne assur\u00e9e chaque fois que celle-ci a un contact officiel avec des \u00e9tablissements m\u00e9dicaux. Chacune de ces institutions utilise une infrastructure d’information, qui est mise en place pour enregistrer des types d’informations tr\u00e8s sp\u00e9cifiques, mais qui rend \u00e9galement difficile l’enregistrement de toute autre information.<\/p>\n\n\n\n

Parfois, les infrastructures d’information offrent un espace pour des notes non structur\u00e9es. Lorsque je saisis mes notes dans la base de donn\u00e9es de l’\u00e9cole, je dispose d’une petite case vide pour d’autres notes. Les informations sont collect\u00e9es dans un certain sens, mais elles ne circulent pas vraiment bien ; elles ne sont pas agr\u00e9g\u00e9es. Le syst\u00e8me agr\u00e8ge selon les crit\u00e8res de classification pour lesquels il a \u00e9t\u00e9 pr\u00e9par\u00e9. Je peux fournir au syst\u00e8me des informations contextuelles importantes, mais le syst\u00e8me d’agr\u00e9gation les filtrera g\u00e9n\u00e9ralement ; elles ne sont plus tr\u00e8s visibles lorsque les d\u00e9cideurs de haut niveau obtiennent leurs rep\u00e8res et leurs indicateurs. Les informations non structur\u00e9es ne sont pas lisibles<\/em><\/a> pour l’institution. Nous qui saisissons des informations dans les syst\u00e8mes de donn\u00e9es, nous pouvons souvent ressentir leurs limites, alors nous essayons d’ajouter de la richesse et de la texture, que le syst\u00e8me collecte nominalement, puis ignore fonctionnellement.<\/em><\/p>\n\n\n\n

Les efforts de collecte de donn\u00e9es ne sont ni neutres ni complets. Ils mettent l’accent sur un type particulier de connaissances format\u00e9es d’une mani\u00e8re particuli\u00e8re, ce qui permet aux donn\u00e9es de passer facilement d’un contexte \u00e0 l’autre, d’\u00eatre collect\u00e9es par toutes sortes de personnes diff\u00e9rentes pour \u00eatre utilis\u00e9es \u00e0 grande \u00e9chelle. Cette \u00e9volutivit\u00e9, cette ind\u00e9pendance par rapport au contexte, a un co\u00fbt. La m\u00e9thodologie de collecte de donn\u00e9es tend \u00e0 filtrer les informations personnelles, intimes et les connaissances particuli\u00e8res.<\/p>\n\n\n\n

MESURES ET VALEURS<\/h2>\n\n\n\n

Les cons\u00e9quences de ce nettoyage sont peut-\u00eatre plus \u00e9videntes dans le cas des mesures et autres objectifs bas\u00e9s sur les donn\u00e9es. Prenons l’exemple des mesures de transparence. J’ai soutenu que les programmes de transparence ont un co\u00fbt \u00e9vident ; la transparence est une forme de surveillance<\/em><\/a>. La transparence publique exige que le raisonnement et les actions des acteurs institutionnels soient \u00e9valu\u00e9s par le public, \u00e0 l’aide de mesures compr\u00e9hensibles par celui-ci. Mais cela lie le raisonnement des experts \u00e0 ce que le public peut comprendre, sapant ainsi leur expertise. Cela est particuli\u00e8rement probl\u00e9matique dans les cas o\u00f9 l’\u00e9valuation du succ\u00e8s d\u00e9pend d’une compr\u00e9hension sp\u00e9cialis\u00e9e. La demande de transparence publique tend \u00e0 \u00e9liminer l’expertise approfondie du syst\u00e8me. Les syst\u00e8mes de transparence ont tendance \u00e0 \u00e9viter les m\u00e9thodes d’\u00e9valuation qui exigent une expertise et une sensibilit\u00e9, et pr\u00e9f\u00e8rent plut\u00f4t des normes simples et compr\u00e9hensibles par le public, telles que les ventes de billets, les taux de diplomation ou les clics.<\/p>\n\n\n\n

Les syst\u00e8mes de transparence ont tendance \u00e0 \u00e9viter les m\u00e9thodes d’\u00e9valuation qui exigent une expertise et une sensibilit\u00e9, et pr\u00e9f\u00e8rent plut\u00f4t des normes simples et compr\u00e9hensibles par le public.<\/em><\/p>\n\n\n\n

Cela ne veut pas dire que la transparence est mauvaise. La demande de transparence fond\u00e9e sur des donn\u00e9es est un outil incroyablement puissant et efficace pour lutter contre les pr\u00e9jug\u00e9s et la corruption. Mais cette demande nous expose \u00e9galement \u00e0 une s\u00e9rie de co\u00fbts. Les mesures de transparence sont bas\u00e9es sur des donn\u00e9es compr\u00e9hensibles par le public. Prenons le cas de Charity Navigator, qui promet de guider vos dons en classant l’efficacit\u00e9 de diverses organisations \u00e0 but non lucratif. Pendant des ann\u00e9es, les classements de Charity Navigator \u00e9taient largement bas\u00e9s sur un \u00ab ratio de frais g\u00e9n\u00e9raux \u00bb, qui mesure la part des dons affect\u00e9e \u00e0 un objectif externe par rapport \u00e0 la part d\u00e9pens\u00e9e en interne, sous forme de frais g\u00e9n\u00e9raux. Cela semble \u00eatre un excellent indicateur d’efficacit\u00e9, et Charity Navigator est devenu une force dominante dans l’orientation des dons vers les organisations \u00e0 but non lucratif. Mais comme l’ont d\u00e9plor\u00e9<\/em><\/a> de nombreux experts du secteur \u00e0 but non lucratif, la mesure du ratio de frais g\u00e9n\u00e9raux est imparfaite et trompeuse. Supposons qu’une organisation \u00e0 but non lucratif s’engage \u00e0 am\u00e9liorer la purification de l’eau dans les r\u00e9gions pauvres. La distribution de machines de purification de l’eau est consid\u00e9r\u00e9e comme une d\u00e9pense externe, ce qui am\u00e9liore le ratio des frais g\u00e9n\u00e9raux de l’organisation. Mais l’embauche d’un expert en bact\u00e9ries d’origine hydrique ou la cr\u00e9ation d’une meilleure base de donn\u00e9es interne pour suivre l’utilisation \u00e0 long terme de ces machines de purification sont consid\u00e9r\u00e9es comme des co\u00fbts internes, ce qui fait baisser le classement de l’organisation.<\/p>\n\n\n\n

Pour comprendre ce qui est important, il faut g\u00e9n\u00e9ralement consacrer \u00e9norm\u00e9ment d’expertise et de temps<\/em><\/a>\u00e0 ce domaine particulier. La regrett\u00e9e anthropologue Sally Engle Merry a explor\u00e9 un exemple particuli\u00e8rement d\u00e9vastateur dans son livre publi\u00e9 en 2016, <\/em>The Seductions of Quantification<\/em><\/a>. \u00c0 l’\u00e9poque, elle rapportait que les efforts internationaux visant \u00e0 r\u00e9duire le trafic sexuel s’articulaient autour du suivi des r\u00e9sultats \u00e0 l’aide d’un indicateur unique et clair, g\u00e9n\u00e9r\u00e9 par le d\u00e9partement d’\u00c9tat am\u00e9ricain dans le rapport Trafficking in Persons (TIPS). Cet indicateur, expliquait Merry, \u00e9tait bas\u00e9 sur le taux de condamnation des trafiquants sexuels. Cela peut sembler logique pour les non-initi\u00e9s, mais pour les experts en la mati\u00e8re, il s’agit d’un indicateur d\u00e9sastreux. Le trafic sexuel est \u00e9troitement li\u00e9 \u00e0 la pauvret\u00e9 ambiante. Si un pays r\u00e9duit la pauvret\u00e9 ambiante, cela r\u00e9duit g\u00e9n\u00e9ralement le trafic sexuel. Mais cela appara\u00eetrait dans le rapport TIPS comme un \u00e9chec dans la lutte contre le trafic sexuel. Si le trafic sexuel diminuait pour des raisons \u00e9conomiques, il y aurait moins de trafiquants sexuels \u00e0 condamner. Le rapport TIPS en est venu \u00e0 dominer le d\u00e9bat international, \u00e9crit Merry, car le trafic sexuel r\u00e9el est extr\u00eamement difficile \u00e0 mesurer, tandis que les taux de condamnation sont assez faciles \u00e0 collecter. <\/p>\n\n\n\n

Cette dangereuse s\u00e9paration entre l’indicateur et sa signification s’acc\u00e9l\u00e8re lorsque les gens int\u00e9riorisent certains indicateurs comme des valeurs fondamentales. J’ai appel\u00e9 ce processus \u00ab capture de valeur \u00bb : lorsque nos valeurs les plus profondes sont captur\u00e9es par des indicateurs institutionnels, puis dilu\u00e9es ou d\u00e9form\u00e9es en cons\u00e9quence.<\/em><\/a> Les universitaires visent les taux de citation plut\u00f4t que la compr\u00e9hension r\u00e9elle ; les journalistes visent le nombre de clics plut\u00f4t que l’int\u00e9r\u00eat journalistique. Dans la capture de valeur, nous externalisons nos valeurs \u00e0 des institutions \u00e0 grande \u00e9chelle. Ensuite, tous ces filtres impersonnels, d\u00e9contextualisants et d\u00e9-expertisants sont import\u00e9s dans nos valeurs fondamentales. Et une fois que nous avons int\u00e9rioris\u00e9 ces valeurs impersonnalis\u00e9es comme \u00e9tant les n\u00f4tres, nous ne remarquons m\u00eame plus ce que nous n\u00e9gligeons.<\/em><\/a><\/p>\n\n\n\n

Et aujourd’hui, \u00e0 l’\u00e8re des algorithmes, ce probl\u00e8me prend une nouvelle dimension : ces valeurs filtr\u00e9es seront tellement int\u00e9gr\u00e9es dans l’infrastructure de notre environnement technologique que nous oublierons qu’elles ont \u00e9t\u00e9 filtr\u00e9es au d\u00e9part. Comme l’ont soulign\u00e9<\/em><\/a> les sp\u00e9cialistes de l’\u00e9thique de l’intelligence artificielle <\/em>Sina Fazelpour et David Danks<\/em><\/a>, la d\u00e9finition des objectifs est l’un des points d’entr\u00e9e les plus importants, mais aussi les plus n\u00e9glig\u00e9s, du biais algorithmique. Imaginons que des programmeurs entra\u00eenent un mod\u00e8le d’apprentissage automatique afin d’am\u00e9liorer certaines qualit\u00e9s : r\u00e9duire la criminalit\u00e9, par exemple, ou cr\u00e9er de belles \u0153uvres d’art. De nombreuses proc\u00e9dures d’entra\u00eenement contemporaines consistent \u00e0 g\u00e9n\u00e9rer al\u00e9atoirement des variations d’un mod\u00e8le, puis \u00e0 les opposer les unes aux autres pour voir laquelle atteint le mieux l’objectif. Fazelpour et Danks discutent d’un cas r\u00e9el dans lequel des algorithmes d’apprentissage automatique ont \u00e9t\u00e9 entra\u00een\u00e9s pour pr\u00e9dire la r\u00e9ussite des \u00e9tudiants. Mais la proc\u00e9dure d’entra\u00eenement elle-m\u00eame peut introduire des biais, selon qui fixe les objectifs et quels objectifs sont s\u00e9lectionn\u00e9s. Dans ce cas, les objectifs d’entra\u00eenement ont \u00e9t\u00e9 fix\u00e9s par les administrateurs et non par les \u00e9tudiants, refl\u00e9tant ainsi les int\u00e9r\u00eats des administrateurs. La \u00ab r\u00e9ussite des \u00e9tudiants \u00bb \u00e9tait g\u00e9n\u00e9ralement op\u00e9rationnalis\u00e9e en termes de taux de diplomation et de taux d’abandon, plut\u00f4t qu’en termes de sant\u00e9 mentale ou d’exp\u00e9riences sociales enrichissantes, par exemple. Les algorithmes d’apprentissage automatique ont \u00e9t\u00e9 entra\u00een\u00e9s pour atteindre un objectif, mais cet objectif lui-m\u00eame peut \u00eatre biais\u00e9.<\/p>\n\n\n\n

\n

\u00c0 l’\u00e8re des algorithmes, ce probl\u00e8me prend une nouvelle dimension : ces valeurs filtr\u00e9es seront tellement int\u00e9gr\u00e9es dans l’infrastructure de notre environnement technologique que nous oublierons qu’elles ont \u00e9t\u00e9 filtr\u00e9es au d\u00e9part.<\/em><\/p>\n<\/blockquote>\n\n\n\n

Les enseignements de Porter s’appliquent \u00e9galement ici. Pour former un algorithme d’apprentissage automatique, les ing\u00e9nieurs ont besoin d’un vaste ensemble de donn\u00e9es de formation dans lequel les succ\u00e8s et les \u00e9checs sont clairement identifi\u00e9s. Il est facile d’entra\u00eener un algorithme d’apprentissage automatique \u00e0 pr\u00e9dire quels \u00e9tudiants sont susceptibles d’obtenir une moyenne \u00e9lev\u00e9e, d’obtenir rapidement leur dipl\u00f4me ou de trouver un emploi par la suite. Il est facile de disposer d’une proc\u00e9dure m\u00e9canique, reproductible et \u00e9volutive pour \u00e9valuer avec pr\u00e9cision la vitesse d’obtention du dipl\u00f4me, mais il est tr\u00e8s difficile de disposer d’une proc\u00e9dure m\u00e9canique, reproductible et \u00e9volutive pour \u00e9valuer avec pr\u00e9cision l’am\u00e9lioration de la r\u00e9flexion. Il n’existe pas non plus de grands ensembles de donn\u00e9es permettant d’entra\u00eener un algorithme d’apprentissage automatique \u00e0 pr\u00e9dire quels \u00e9tudiants deviendront plus heureux, plus sages ou plus curieux gr\u00e2ce \u00e0 leur \u00e9ducation. Les algorithmes peuvent cibler en fonction du contenu des ensembles de donn\u00e9es, et ces ensembles de donn\u00e9es sont adapt\u00e9s \u00e0 ce qui peut \u00eatre facilement et m\u00e9caniquement collect\u00e9 \u00e0 grande \u00e9chelle.<\/p>\n\n\n\n

Plus la proc\u00e9dure d’entra\u00eenement des algorithmes est opaque, plus ces d\u00e9cisions sp\u00e9cifiques, biais\u00e9es et politiques seront cach\u00e9es dans la d\u00e9finition des cibles. Plus les utilisateurs sont \u00e9loign\u00e9s du processus d’entra\u00eenement, plus il leur sera facile de supposer que les r\u00e9sultats de l’algorithme refl\u00e8tent fid\u00e8lement la r\u00e9alit\u00e9, \u00e0 savoir la r\u00e9ussite des \u00e9tudiants, et plus il leur sera facile d’oublier que les exigences de la collecte de donn\u00e9es institutionnelles ont d\u00e9j\u00e0 filtr\u00e9 des pans entiers de la vie humaine et de la valeur humaine.<\/p>\n\n\n\n

QUE POUVONS-NOUS FAIRE ?<\/h2>\n\n\n\n

Je ne dis pas que nous devrions cesser compl\u00e8tement d’utiliser les m\u00e9thodes bas\u00e9es sur les donn\u00e9es. Les principales caract\u00e9ristiques des m\u00e9thodologies bas\u00e9es sur les donn\u00e9es \u2013 d\u00e9contextualisation, standardisation et impersonnalit\u00e9 \u2013 sont pr\u00e9cis\u00e9ment ce qui permet l’agr\u00e9gation de vastes ensembles de donn\u00e9es et sont essentielles pour tirer pleinement parti des nombreuses avantages des m\u00e9thodologies bas\u00e9es sur les donn\u00e9es.<\/p>\n\n\n\n

Mais les d\u00e9cideurs politiques et les autres utilisateurs de donn\u00e9es doivent garder \u00e0 l’esprit les limites inh\u00e9rentes \u00e0 cet outil puissant. Les m\u00e9thodes bas\u00e9es sur les donn\u00e9es sont intrins\u00e8quement biais\u00e9es en faveur des formes d’information \u00e0 faible contexte. Et chaque m\u00e9thode de collecte de donn\u00e9es n\u00e9cessite un syst\u00e8me de normalisation qui repr\u00e9sente les int\u00e9r\u00eats de quelqu’un.<\/p>\n\n\n\n

Cela sugg\u00e8re au moins deux r\u00e9ponses aux limites des donn\u00e9es. Premi\u00e8rement, lorsqu’il est confront\u00e9 \u00e0 un ensemble de donn\u00e9es volumineux, l’utilisateur doit se demander : qui l’a collect\u00e9 ? Qui a cr\u00e9\u00e9 le syst\u00e8me de cat\u00e9gories dans lequel les donn\u00e9es sont class\u00e9es ? Quelles informations ce syst\u00e8me met-il en avant et quelles informations omet-il ? \u00c0 qui profite ce syst\u00e8me de filtrage ?<\/p>\n\n\n\n

Ce sont des questions ordinaires. Dans des situations sociales ordinaires, nous en savons suffisamment pour poser des questions fondamentales : quelles sont les motivations d’un interlocuteur ? Quels sont ses int\u00e9r\u00eats et ses pr\u00e9jug\u00e9s ? Ces m\u00eames soup\u00e7ons fondamentaux devraient \u00e9galement s’appliquer aux donn\u00e9es. Il est toutefois tentant de consid\u00e9rer les ensembles de donn\u00e9es comme \u00e9tant d’une mani\u00e8re ou d’une autre magiquement neutres et exempts de lacunes informationnelles. Cela s’explique peut-\u00eatre par le fait que lorsqu’une personne nous parle, il est \u00e9vident qu’il y a une personnalit\u00e9 en jeu, un agent ind\u00e9pendant avec ses propres int\u00e9r\u00eats, motivations et projets. Mais les donn\u00e9es sont souvent pr\u00e9sent\u00e9es comme si elles provenaient d’une sorte de conception immacul\u00e9e de la connaissance pure.<\/p>\n\n\n\n

Comme le dit Merry, les mesures et les indicateurs n\u00e9cessitent toutes sortes de compromis politiques et de jugements pour compresser autant d’informations riches en un seul classement. Mais la nature superficiellement simple du produit final \u2013 la mesure \u2013 tend \u00e0 dissimuler toutes sortes de subjectivit\u00e9 et de politique. C’est pourquoi, comme l’observe Porter, les fonctionnaires et les bureaucrates pr\u00e9f\u00e8rent souvent se justifier en termes de mesures. Les chiffres semblent justes et impartiaux. Porter \u00e9crit : \u00ab La quantification est un moyen de prendre des d\u00e9cisions sans donner l’impression de d\u00e9cider. \u00bb La premi\u00e8re r\u00e9action face aux donn\u00e9es est donc de se rappeler qu’elles ont une source, qu’elles ne surgissent pas myst\u00e9rieusement, exemptes de tout int\u00e9r\u00eat humain. La premi\u00e8re r\u00e9action est de se rappeler que les donn\u00e9es sont cr\u00e9\u00e9es par des institutions, qui d\u00e9cident des cat\u00e9gories \u00e0 utiliser et des informations \u00e0 collecter, et de celles \u00e0 ignorer.<\/p>\n\n\n\n

Deuxi\u00e8mement, les d\u00e9cideurs politiques et les utilisateurs de donn\u00e9es doivent se rappeler que tout ne se pr\u00eate pas aux m\u00e9thodologies des donn\u00e9es. Il est tentant d’agir comme si les m\u00e9thodes bas\u00e9es sur les donn\u00e9es offraient simplement un acc\u00e8s direct, objectif et sans entrave au monde, comme si le fait de suivre les m\u00e9thodes des donn\u00e9es permettait d’\u00e9liminer tout biais, toute subjectivit\u00e9 et toute ambigu\u00eft\u00e9 du monde. La puissance des donn\u00e9es r\u00e9side dans leur grande \u00e9volutivit\u00e9 ; le prix \u00e0 payer est le contexte. Nous devons nous affranchir du r\u00e9gime exclusivement bas\u00e9 sur les donn\u00e9es, afin d’\u00e9quilibrer la puissance des m\u00e9thodologies bas\u00e9es sur les donn\u00e9es avec la sensibilit\u00e9 au contexte et la flexibilit\u00e9 des m\u00e9thodes qualitatives et des experts locaux dot\u00e9s d’une compr\u00e9hension approfondie mais non transf\u00e9rable. Les donn\u00e9es sont puissantes mais incompl\u00e8tes ; ne les laissez pas \u00e9touffer compl\u00e8tement les autres modes de compr\u00e9hension.<\/p>\n\n\n\n

Ce n’est pas comme si les m\u00e9thodes qualitatives \u00e9taient parfaites ; chaque m\u00e9thode qualitative ouvre la porte \u00e0 d’autres types de biais. Les m\u00e9thodes narratives ouvrent la porte aux biais personnels. Faire confiance \u00e0 des experts locaux sensibles peut ouvrir la porte \u00e0 la corruption. Le fait est que les m\u00e9thodologies bas\u00e9es sur les donn\u00e9es ont \u00e9galement leurs propres biais intrins\u00e8ques. Il n’existe pas de m\u00e9thode unique, fiable et parfaite pour comprendre ou analyser le monde. Nous devons \u00e9quilibrer nos nombreuses m\u00e9thodologies, afin de confronter sciemment et d\u00e9lib\u00e9r\u00e9ment leurs faiblesses les unes aux autres.<\/p>\n\n\n\n

\n\n\n\n

Une r\u00e9f\u00e9rence de Henry Farrell<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"

Par C. THI NGUYEN Traduction de l’article The Limits of Data, dans le VOL. XL, NO. 2, WINTER 2024 de la revue ISSUES \u00ab\u00a0Data is powerful because it\u2019s universal. The cost is context.\u00ab\u00a0 Je me suis un jour retrouv\u00e9 dans une pi\u00e8ce avec un groupe de sp\u00e9cialistes du machine learning qui d\u00e9veloppaient une intelligence artificielle cr\u00e9ative pour produire … <\/p>\n

Continuer la lecture de « Les limites des donn\u00e9es »<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"footnotes":""},"class_list":["post-8471","page","type-page","status-publish","hentry"],"jetpack-related-posts":[{"id":10454,"url":"https:\/\/gillesenvrac.ca\/carnet\/sociologie-au-dela-de-linformatique\/","url_meta":{"origin":8471,"position":0},"title":"La sociologie au-del\u00e0 de l’informatique ? D’autres fa\u00e7ons d’\u00e9tudier la vie num\u00e9rique","author":"Gilles Beauchamp","date":"3 juin 2026","format":false,"excerpt":"Traduction de Sociology beyond computation? Alternative ways of researching digital life, publi\u00e9 par Greti-Iulia Ivana dans Acta Sociologica le 21 mai 2026. [R\u00e9f. The-Syllabus] R\u00e9sum\u00e9 Cela fait plus de 15 ans que Savage et Burrows ont publi\u00e9 leur article influent sur la crise de la sociologie empirique. Depuis, de nombreux\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":8512,"url":"https:\/\/gillesenvrac.ca\/carnet\/manger-lavenir\/","url_meta":{"origin":8471,"position":1},"title":"Manger l’avenir : la logique m\u00e9tabolique de la bouillie de l’IA","author":"Gilles Beauchamp","date":"14 septembre 2025","format":false,"excerpt":"Traduction de Eating the Future: The Metabolic Logic of AI Slop, par Kate Crawford, septembre 2025. Une image d'un avion am\u00e9ricain F-35 abattu, les ailes d\u00e9truites, le postcombustion encore incandescent, commence \u00e0 faire le buzz. Des millions de personnes regardent une vid\u00e9o de Tel Aviv en ruines fumantes apr\u00e8s une\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":9929,"url":"https:\/\/gillesenvrac.ca\/carnet\/farrell\/ia-limites-ne-les-voient-pas\/","url_meta":{"origin":8471,"position":2},"title":"L’IA a ses limites, m\u00eame si de nombreux sp\u00e9cialistes de l’IA ne les voient pas","author":"Gilles Beauchamp","date":"17 avril 2026","format":false,"excerpt":"\u00c0 propos du formidable nouveau livre de Ben Recht Traduction de AI has limits, even if many AI people can't see them, par Henry Farrell, le 6 avril 2026. Vers la fin de son nouveau livre, The Irrational Decision, Ben Recht explique ce qu\u2019il s\u2019est fix\u00e9 comme objectif. La plupart\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/04\/irrational.webp?resize=350%2C200&ssl=1","width":350,"height":200},"classes":[]},{"id":9611,"url":"https:\/\/gillesenvrac.ca\/carnet\/politiques-cyclables-donnees-probantes\/","url_meta":{"origin":8471,"position":3},"title":"Est-il temps de repenser les politiques cyclables fond\u00e9es sur des donn\u00e9es probantes ?","author":"Gilles Beauchamp","date":"12 mars 2026","format":false,"excerpt":"Pourquoi les donn\u00e9es probantes les plus pertinentes ne se trouvent pas toujours dans les revues \u00e0 comit\u00e9 de lecture Traduction de Is It Time to Rethink Evidence-Based Cycling Policy?, par Urban Cycling Institute\u00a0et\u00a0Dylan Power, 12 mars 2026 Les chercheurs bien intentionn\u00e9s de tous les domaines consacrent leur \u00e9nergie et leur\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/cycling3-420x560.webp?resize=350%2C200&ssl=1","width":350,"height":200,"srcset":"https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/cycling3-420x560.webp?resize=350%2C200&ssl=1 1x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/cycling3-420x560.webp?resize=525%2C300&ssl=1 1.5x, https:\/\/i0.wp.com\/gillesenvrac.ca\/carnet\/wp-content\/uploads\/2026\/03\/cycling3-420x560.webp?resize=700%2C400&ssl=1 2x"},"classes":[]},{"id":9461,"url":"https:\/\/gillesenvrac.ca\/carnet\/socialisme-numerique\/","url_meta":{"origin":8471,"position":4},"title":"Socialisme num\u00e9rique ?","author":"Gilles Beauchamp","date":"26 f\u00e9vrier 2026","format":false,"excerpt":"Le d\u00e9bat sur le calcul \u00e0 l'\u00e8re du Big Data Traduction de Digital Socialism? par Evgeny Morozov, dans New Left Review, mai\/juin 2019. Plus d'une d\u00e9cennie apr\u00e8s le d\u00e9but de la crise financi\u00e8re, les id\u00e9ologues capitalistes sont avides de bonne publicit\u00e9. Les promesses autrefois s\u00e9duisantes de m\u00e9ritocratie et de mobilit\u00e9\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]},{"id":10064,"url":"https:\/\/gillesenvrac.ca\/carnet\/gouvernance-democratique-de-lia\/","url_meta":{"origin":8471,"position":5},"title":"Une gouvernance d\u00e9mocratique de l’IA : la v\u00e9ritable solution","author":"Gilles Beauchamp","date":"30 avril 2026","format":false,"excerpt":"Les risques d'effets n\u00e9gatifs graves li\u00e9s \u00e0 l'essor de l'IA exigent une r\u00e9flexion approfondie et une v\u00e9ritable gouvernance d\u00e9mocratique. Les moratoires sur les centres de donn\u00e9es ne nous permettront pas d'y parvenir. Traduction de Democratic Governance of AI Is the Real Solution, par Holly Buck sans Jacobin, 26 avril 2026.\u2026","rel":"","context":"Article similaire","block_context":{"text":"Article similaire","link":""},"img":{"alt_text":"","src":"","width":0,"height":0},"classes":[]}],"jetpack_likes_enabled":true,"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/8471","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/comments?post=8471"}],"version-history":[{"count":0,"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/pages\/8471\/revisions"}],"wp:attachment":[{"href":"https:\/\/gillesenvrac.ca\/carnet\/wp-json\/wp\/v2\/media?parent=8471"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}