{"id":5844,"date":"2018-03-08T15:41:40","date_gmt":"2018-03-08T20:41:40","guid":{"rendered":"http:\/\/www.gillesenvrac.ca\/carnet\/?p=5844"},"modified":"2018-03-20T13:13:47","modified_gmt":"2018-03-20T17:13:47","slug":"principes-ia-gouv","status":"publish","type":"post","link":"https:\/\/gillesenvrac.ca\/carnet\/2018\/03\/principes-ia-gouv\/","title":{"rendered":"principes pour ne pas automatiser l’injustice – IA3"},"content":{"rendered":"

Je poursuis ma qu\u00eate autour de l’IA, la responsabilit\u00e9 publique, la gestion et la protection des donn\u00e9es personnelles, la transparence et l’acc\u00e8s aux donn\u00e9es, les gouvernements ouverts (GO) \u00a0et la participation des organisations de la soci\u00e9t\u00e9 civile (OSC) \u00e0 la d\u00e9finition et \u00e0 la surveillance des GO. Un centre d’int\u00e9r\u00eat particuli\u00e8rement dynamique en ce moment.<\/p>\n

D\u00e9laissant momentan\u00e9ment Twitter comme source d’information je suis retourn\u00e9 \u00e0 la lecture des quelques 150 fils RSS issus de blogues et magazines que je consulte pour l’essentiel avec Feedly<\/a>.<\/span><\/p>\n

Cl\u00e9ment Laberge, dont\u00a0Intelligence artificielle et services\u00a0publics<\/a>, publi\u00e9 il 5 jours, m’apprend que de nouveaux textes ont \u00e9t\u00e9 d\u00e9pos\u00e9s dans le r\u00e9pertoire th\u00e9matique<\/a> de l’IRPP<\/a>\u00a0auquel je r\u00e9f\u00e9rais<\/a> il y a peu, dont un par Jean-No\u00e9 Landry,\u00a0AI in government: for whom, by whom?<\/a>\u00a0Cl\u00e9ment pointe aussi vers le m\u00eame document mis en discussion par le Conseil du Tr\u00e9sor du Canada :\u00a0Responsible Artificial Intelligence in the Government of Canada<\/a>, en soulignant l’int\u00e9r\u00eat de la section\u00a0Policy, Ethical, and Legal Considerations of AI. En effet c’est l\u00e0 que Michael Karlin, premier auteur du document, r\u00e9sume en 7 principes ses consid\u00e9rations \u00e9thiques et politiques (traduction de Google, presque seul) :<\/p>\n

    \n
  1. Les humains (people<\/em>) devraient toujours \u00eatre gouvern\u00e9s – et percevoir \u00eatre gouvern\u00e9s – par des humains;<\/li>\n
  2. Les syst\u00e8mes d’IA d\u00e9ploy\u00e9s pour le compte du gouvernement devraient \u00eatre form\u00e9s pour refl\u00e9ter les valeurs et l’\u00e9thique du secteur public ainsi que les obligations canadiennes et internationales en mati\u00e8re de droits de la personne; ils devraient \u00eatre utilis\u00e9s pour renforcer ces valeurs dans la mesure du possible;<\/li>\n
  3. Les organisations sont responsables des actions des syst\u00e8mes d’IA et doivent mettre en place des syst\u00e8mes v\u00e9rifiables;<\/li>\n
  4. Comprenant la n\u00e9cessit\u00e9 de prot\u00e9ger la vie priv\u00e9e et la s\u00e9curit\u00e9 nationale, les syst\u00e8mes d’IA devraient \u00eatre d\u00e9ploy\u00e9s de la mani\u00e8re la plus transparente possible;<\/li>\n
  5. Les organisations doivent veiller \u00e0 ce que des mesures d’urgence fiables soient prises en cas de d\u00e9faillance des syst\u00e8mes d’IA ou pour fournir des services \u00e0 ceux qui ne peuvent pas acc\u00e9der \u00e0 ces syst\u00e8mes.<\/li>\n
  6. Les syst\u00e8mes d’IA devraient \u00eatre d\u00e9velopp\u00e9s dans une \u00e9quipe diversifi\u00e9e comprenant des individus capables d’\u00e9valuer les implications \u00e9thiques et socio-\u00e9conomiques du syst\u00e8me;<\/li>\n
  7. Les syst\u00e8mes d’IA doivent \u00eatre d\u00e9ploy\u00e9s de mani\u00e8re \u00e0 minimiser l’impact n\u00e9gatif sur les employ\u00e9s lorsque cela est possible, et devraient, dans la mesure du possible, \u00eatre cr\u00e9\u00e9s aux c\u00f4t\u00e9s des employ\u00e9s qui travailleront avec eux.<\/li>\n<\/ol>\n

    Les commentaires faits par les lecteurs du billet de Laberge sont int\u00e9ressants en r\u00e9ponse \u00e0 sa question \u00ab\u00a0Existe-il un\u00a0r\u00e9pertoire des d\u00e9cisions qui sont prises,\u00a0par l’administration qu\u00e9b\u00e9coise, sur la base d\u2019un proc\u00e9d\u00e9 algorithmique ?\u00a0\u00bb (\u00c0 lire, de Hubert Guillaud L’aust\u00e9rit\u00e9 est un algorithme<\/a><\/em>)<\/p>\n

    Dans le m\u00eame ordre d’id\u00e9es, publi\u00e9 par Nesta<\/a>\u00a0(21\/02\/18), reproduit (traduit) par InternetActu, et pr\u00e9sent\u00e9 par Hubert Guillaud,\u00a0Principes pour la prise de d\u00e9cision algorithmique du secteur public.<\/a>\u00a0Ici les 10 principes \u00e9mis par l’organisme britannique :<\/p>\n

      \n
    1. Tout algorithme utilis\u00e9 par une organisation du secteur public devrait \u00eatre accompagn\u00e9e d\u2019une description de ses fonctions, objectifs et impacts attendus, mis \u00e0 disposition de ceux qui l\u2019utilisent.<\/li>\n
    2. Les organisations du secteur public devraient publier les d\u00e9tails d\u00e9crivant les donn\u00e9es avec lesquels l\u2019algorithme a \u00e9t\u00e9 entra\u00een\u00e9 et les hypoth\u00e8ses utilis\u00e9es \u00e0 sa cr\u00e9ation ainsi qu\u2019une \u00e9valuation des risques pour att\u00e9nuer ses biais potentiels.<\/li>\n
    3. Les algorithmes devraient \u00eatre cat\u00e9goris\u00e9s sur une \u00e9chelle de risque (de 1 \u00e0 5) pour distinguer leur impact sur les individus.<\/li>\n
    4. La liste de toutes les donn\u00e9es d\u2019entr\u00e9es utilis\u00e9es par l\u2019algorithme pour prendre une d\u00e9cision devrait \u00eatre publi\u00e9e.<\/li>\n
    5. Les citoyens doivent \u00eatre inform\u00e9s lorsque leur traitement a \u00e9t\u00e9 en partie ou enti\u00e8rement d\u00e9cid\u00e9 par un algorithme.<\/li>\n
    6. Tout algorithme doit \u00eatre disponible en version de test, afin que les auditeurs puissent tester leur impact (et confirmer qu\u2019il fait ce qu\u2019il pr\u00e9tend notamment pour ceux qui ne peuvent pas \u00eatre ouverts par d\u00e9faut).<\/li>\n
    7. Lorsque les services publics ont recours \u00e0 des tiers pour cr\u00e9er ou ex\u00e9cuter des algorithmes en leur nom, ils devraient s\u2019assurer que ces tiers respectent ces principes.<\/li>\n
    8. Une personne de la direction doit \u00eatre tenue responsable de toute mesure prise \u00e0 la suite d\u2019une d\u00e9cision algorithmique.<\/li>\n
    9. Les organisations du secteur public qui souhaitent adopter des proc\u00e9dures de prise de d\u00e9cision algorithmique \u00e0 haut risque devraient souscrire une assurance capable d\u2019offrir des compensations aux personnes n\u00e9gativement touch\u00e9es par une d\u00e9cision algorithmique erron\u00e9e.<\/li>\n
    10. Les organisations du secteur public devraient s\u2019engager \u00e0 \u00e9valuer l\u2019impact de leurs algorithmes et \u00e0 publier les r\u00e9sultats de ces \u00e9tudes.<\/li>\n<\/ol>\n

      Ce m\u00eame Hubert Guillaud (et son magazine InternetActu.net<\/a>) publiait r\u00e9cemment \u00a0Pourquoi mes donn\u00e9es personnelles ne peuvent pas \u00eatre \u00e0 vendre\u00a0!<\/a> (06\/02\/18); et aussi :<\/p>\n