Mois : mars 2018

Publié le

principes pour ne pas automatiser l’injustice – IA3

Je poursuis ma quête autour de l’IA, la responsabilité publique, la gestion et la protection des données personnelles, la transparence et l’accès aux données, les gouvernements ouverts (GO)  et la participation des organisations de la société civile (OSC) à la définition et à la surveillance des GO. Un centre d’intérêt particulièrement dynamique en ce moment.

Délaissant momentanément Twitter comme source d’information je suis retourné à la lecture des quelques 150 fils RSS issus de blogues et magazines que je consulte pour l’essentiel avec Feedly.

Clément Laberge, dont Intelligence artificielle et services publics, publié il 5 jours, m’apprend que de nouveaux textes ont été déposés dans le répertoire thématique de l’IRPP auquel je référais il y a peu, dont un par Jean-Noé Landry, AI in government: for whom, by whom? Clément pointe aussi vers le même document mis en discussion par le Conseil du Trésor du Canada : Responsible Artificial Intelligence in the Government of Canada, en soulignant l’intérêt de la section Policy, Ethical, and Legal Considerations of AI. En effet c’est là que Michael Karlin, premier auteur du document, résume en 7 principes ses considérations éthiques et politiques (traduction de Google, presque seul) :

  1. Les humains (people) devraient toujours être gouvernés – et percevoir être gouvernés – par des humains;
  2. Les systèmes d’IA déployés pour le compte du gouvernement devraient être formés pour refléter les valeurs et l’éthique du secteur public ainsi que les obligations canadiennes et internationales en matière de droits de la personne; ils devraient être utilisés pour renforcer ces valeurs dans la mesure du possible;
  3. Les organisations sont responsables des actions des systèmes d’IA et doivent mettre en place des systèmes vérifiables;
  4. Comprenant la nécessité de protéger la vie privée et la sécurité nationale, les systèmes d’IA devraient être déployés de la manière la plus transparente possible;
  5. Les organisations doivent veiller à ce que des mesures d’urgence fiables soient prises en cas de défaillance des systèmes d’IA ou pour fournir des services à ceux qui ne peuvent pas accéder à ces systèmes.
  6. Les systèmes d’IA devraient être développés dans une équipe diversifiée comprenant des individus capables d’évaluer les implications éthiques et socio-économiques du système;
  7. Les systèmes d’IA doivent être déployés de manière à minimiser l’impact négatif sur les employés lorsque cela est possible, et devraient, dans la mesure du possible, être créés aux côtés des employés qui travailleront avec eux.

Les commentaires faits par les lecteurs du billet de Laberge sont intéressants en réponse à sa question « Existe-il un répertoire des décisions qui sont prises, par l’administration québécoise, sur la base d’un procédé algorithmique ? » (À lire, de Hubert Guillaud L’austérité est un algorithme)

Dans le même ordre d’idées, publié par Nesta (21/02/18), reproduit (traduit) par InternetActu, et présenté par Hubert Guillaud, Principes pour la prise de décision algorithmique du secteur public. Ici les 10 principes émis par l’organisme britannique :

  1. Tout algorithme utilisé par une organisation du secteur public devrait être accompagnée d’une description de ses fonctions, objectifs et impacts attendus, mis à disposition de ceux qui l’utilisent.
  2. Les organisations du secteur public devraient publier les détails décrivant les données avec lesquels l’algorithme a été entraîné et les hypothèses utilisées à sa création ainsi qu’une évaluation des risques pour atténuer ses biais potentiels.
  3. Les algorithmes devraient être catégorisés sur une échelle de risque (de 1 à 5) pour distinguer leur impact sur les individus.
  4. La liste de toutes les données d’entrées utilisées par l’algorithme pour prendre une décision devrait être publiée.
  5. Les citoyens doivent être informés lorsque leur traitement a été en partie ou entièrement décidé par un algorithme.
  6. Tout algorithme doit être disponible en version de test, afin que les auditeurs puissent tester leur impact (et confirmer qu’il fait ce qu’il prétend notamment pour ceux qui ne peuvent pas être ouverts par défaut).
  7. Lorsque les services publics ont recours à des tiers pour créer ou exécuter des algorithmes en leur nom, ils devraient s’assurer que ces tiers respectent ces principes.
  8. Une personne de la direction doit être tenue responsable de toute mesure prise à la suite d’une décision algorithmique.
  9. Les organisations du secteur public qui souhaitent adopter des procédures de prise de décision algorithmique à haut risque devraient souscrire une assurance capable d’offrir des compensations aux personnes négativement touchées par une décision algorithmique erronée.
  10. Les organisations du secteur public devraient s’engager à évaluer l’impact de leurs algorithmes et à publier les résultats de ces études.

Ce même Hubert Guillaud (et son magazine InternetActu.net) publiait récemment  Pourquoi mes données personnelles ne peuvent pas être à vendre ! (06/02/18); et aussi :

Sur la question de la vente de ses données personnelles : Revendre ses données « personnelles », la fausse bonne idée

Still digging… 

Publié le

IA n’est pas conscience

On parle beaucoup, de plus en plus de l’intelligence artificielle (IA). Surtout depuis que Montréal est reconnue comme centre international de recherche en la matière. Même Juan-Luis Klein en parlait dans sa conférence de clôture du colloque sur le développement des collectivités de décembre dernier.

La crise… la quatrième révolution industrielle et l’IA transforment nos modèles d’action. Il faut réagir, se donner les outils pour le défier et transformer ce contexte. Il faut développer une alternative et pas juste refuser le modèle dominant. Refabriquer le rapport de la société au territoire pour fabriquer des communautés. (conférence sur Youtube)

L’AIIA organisait, en janvier dernier, un colloque de deux jours sur IA en mission sociale, auquel j’ai participé avec intérêt (intelligence artificielle et finalités sociales). Mais les principes d’équité ou l’éthique ne semblent pas les premières préoccupations lorsque les gouvernements investissent pour soutenir le développement du secteur. C’est d’abord en termes de performance et compétitivité que les programmes sont définis.

Avec l’annonce récente du fédéral (15 février 2018) d’un financement milliardaire (950M$  pour les 5 grappes) qui « misera sur l’intelligence artificielle et la robotique afin de faire du Canada un chef de file mondial de la numérisation des chaînes d’approvisionnement industrielles » on ne semble pas s’orienter particulièrement vers la mission sociale ou la mesure de l’impact social des entreprises… On précise plutôt que l’objectif est d’accroître les revenus et la performance de ces entreprises. On comprend qu’il s’agit de la performance économique. (extrait du billet IA et finalités sociales)

Cet engouement pour l’IA n’est pas qu’un effet de mode ou de fierté devant la réussite d’un secteur économique, d’une grappe locale. Il y a vraiment des choses qui se passent et qui s’en viennent. Les grands du numérique investissent dans l’IA, ce qui veut dire dans l’IA en santé (Cherchez et vous trouverez. L’évangile médical selon Google.) et l’IA en aménagement urbain (Values-based AI and the new smart cities).

Si les informations recueillies déjà par Google pouvaient être couplées à celles de votre dossier médical… ce serait très… efficace ? payant ? Pour qui ? Nous ne pourrons nous défendre contre de telles entreprises uniquement en renforçant les exigences de « consentement éclairé » personnel. Il faut repenser les questions de protection et de propriété des données personnelles. Certains proposent même de verser ces données dans le « domaine public » (Evgeny Morozov et le « domaine public » des données personnelles). Autrement dit, les données recueillies par Google ou Apple seraient versées au domaine public et rendues accessibles aux autres. C’est en payant une redevance que les entreprises pourraient ensuite les utiliser… Dans un long article, Lionel Maurel et Laura Aufrère (Pour une protection sociale des données personnelles) proposent de recadrer la protection de la vie privée et des renseignements personnels comme une « protection sociale » qui doit faire l’objet d’une négociation, d’une convention impliquant les travailleurs et usagers. Ce sont des questions trop importantes pour les laisser à la seule discrétion des individus isolés devant leur écran… ou plutôt bienficelés dans la plateforme (voir Plateform Capitalism) qui les relie au monde.

Comme disait Klein, « Il faut se donner les outils pour le défier et transformer ce contexte. » Il y a bien quelques associations et mouvements sur lesquels s’appuyer pour développer ces réflexions et batailles : réseau de la société civile pour un gouvernement ouvert, la Déclaration de Montréal pour une IA responsable, les mouvements pour des données ouvertes, des logiciels libres… Les universités, souvent soutenues par la grande entreprise, auront leurs centres et leurs échanges… Avons-nous des réseaux et outils pour la « société civile » ayant un minimum d’indépendance devant les centres privés et institutions publiques ? Il faudrait aux communautés locales, régionales et nationales des moyens pour se positionner, participer et se défendre parfois. Des courtiers de connaissances et de données, au service d’associations citoyennes ou de syndicats d’usagers et de travailleurs, pour connaitre, suivre l’évolution et négocier l’utilisation, les conditions de production des données et les usages et interprétations qui en seront faits.

Dans son document de travail, Responsible artificial intelligence in the Government of Canada, Michael Karlin décrit bien les limites dans lesquelles la question se pose aujourd’hui pour un gouvernement. Il souligne, avec raison devant la toute-puissance des machines imaginées par la science-fiction ou le cinéma, que l’utilisation faite ou envisageable de l’IA par un gouvernement est très étroite : en fonction d’une tâche bien précise. Il nous rappelle que l’IA n’est pas une personne, ni un être conscient, mais plutôt un logiciel. Et qu’on ne devrait pas reconnaître à ce logiciel une autonomie d’action qui aurait pour conséquence de réduire la responsabilité de l’entreprise ou du ministère qui l’utilise.

Billet d’abord publié sur le blogue du développement collectif Nous.blogue

Voir aussi billet précédent : licence de réciprocité et index social

Publié le

licence de réciprocité et index social

La question des licences (copyright, copyleft…) appliquée aux coopératives, puis à l’économie sociale. Un texte intéressant sur le site S.I.Lex. Une association (La Coop des Communs) tente de « Construire des alliances entre l’économie sociale et solidaire et les communs ». Une manière de forger de telles alliances serait de permettre que les droits commerciaux soient partagés en fonction du partage des valeurs, ou de la participation aux travaux et réseaux coopératifs ou d’ESS. De là l’élaboration (déposée et ouverte aux commentaires sur GitLab) d’une licence « coopyright ».

Réciprocité en acte, réciprocité renforcée ou encore lucrativité limitée sont des concepts utilisés pour définir ces nouvelles relations, alliances.

Plateformes en communs, un groupe de travail de la Coop des Communs, se présente comme la (une) Communauté française des plateformes collaboratives équitables, productrice de communs et prenant en compte les enjeux sociaux et sociétaux de leurs activités. On veut développer des alternatives aux plateformes collaboratrice qui construisent d’abord la richesse privé avec peu ou pas d’égards aux impacts sociaux qu’ils génèrent.

Mais ces plateformes alternatives ont à confronter un écosystème dominé par quelques conglomérats…

Plateform capitalism un petit bouquin qui fait le point sur l’impact des méga entreprises Google, Apple, Facebook, Uber… sur le mode de fonctionnement des entreprises en général.

How do we make sense of the rise of platform-based businesses that are increasingly monopolising the global economy?

La conclusion : “ Rather than just regulating corporate platforms, efforts could be made to create public platforms –platforms owned and controlled by the people. (And, importantly, independent of the surveillance state apparatus.) This would mean investing the state’s vast resources into the technology necessary to support these platforms and offering them as public utilities.” 

Une plateforme publique qui permettrait de qualifier l’impact social, la qualité et les valeurs associées aux entreprises et services des sociétés commerciales actives ? Qui nous permettrait de savoir combien de profits ont engrangés telle ou telle compagnie ? Quels ont été les satisfactions et plaintes des clients précédents ? Une plateforme publique qui nous permettrait de savoir combien d’impôts ont payé tel ou tel citoyen corporatif ? Ou encore une plateforme qui permettrait, comme l’envisage la Norvège actuellement, dans son plan de Open data, d’identifier le bénéficiaire ultime d’une entreprise…

“A publicly accessible register with information about direct shareholders and ultimate beneficial owners of Norwegian companies will strengthen the work of public authorities and civil society in their efforts to combat economic crime and will make it easier for banks and other actors who have reporting obligations under the money laundering legislation.”

Comme je le soulignais dans un récent billet, le gouvernement du Canada s’est investi dans le Partenariat international pour un gouvernement ouvert… mais cela ne semble pas s’être traduit par une présence très active lors de la dernière « journée internationale des données ouverte », qui semble s’être organisée, à Montréal en tout cas, à la dernière minute : “ Robin Millette, constatant que personne n’avait encore pris l’initiative, s’est lancé dans l’organisation de la journée à un peu plus de 10 jours de l’événement.” La Ville de Montréal y était, pour annoncer ses derniers jeux de données ouvertes… mais nous sommes encore loin d’un gouvernement ouvert capable de répondre aux enjeux du XXIe siècle.

Publié le

la santé ou la médecine à l’acte ?

Le débat entourant la rémunération des médecins, en particulier les spécialistes, risque fort de se limiter au décompte, en dollars et en cents, qui est le plus, qui est le moins payé ? Combien faudrait-il investir de plus en services infirmiers ?

Dans un « Duel économique » La Presse demandait à deux groupes de recherche, l’un de droite (Institut économique de Montréal) et l’autre de gauche (Institut de recherche et d’informations socioéconomiques), de se prononcer sur les causes des problèmes de notre système de santé. Les deux groupes conviennent du fait qu’il s’agit plus d’un problème d’organisation que d’argent. Mais alors que l’IEDM conclut en demandant que les hôpitaux soient « financés à l’activité », l’étude de l’IRIS, publiée en janvier 2017, démontre clairement qu’un tel mode de financement ne règlerait pas les problèmes.

Dans L’allocation des ressources pour la santé et les services sociaux au Québec : État de la situation et propositions alternatives, l’IRIS fait un retour sur 25 années de réformes du réseau de la santé; décrit les conséquences néfastes qu’un financement à l’activité (promu comme la solution miracle par plusieurs, dont l’IEDM) aurait; relate les difficultés posées par la rémunération médicale actuelle et propose 7 pistes de solutions pour un réseau de santé public, démocratique et décentralisé :

 

  1. Rompre avec la gouvernance entrepreneuriale
  2. Ne pas implanter le financement à l’activité
  3. Accroître le nombre d’actes que peuvent effectuer des professionnelles de la santé autres que les médecins
  4. Abolir le statut de travailleur autonome des médecins et modifier leur
    mode de rémunération
  5. Réduire la rémunération des médecins québécois
  6. Restituer l’autonomie des CLSC, accroître leurs pouvoirs et leur assujettir les GMF
  7. Accroître la transparence du réseau de la santé et des services sociaux

____________

Dans un article révélateur («Au salaire qu’on te paie») retraçant un échange anonyme avec un urgentologue, Patrick Lagacé, de La Presse, citait le médecin décrivant les conditions difficiles de son travail : « Ces patients sur civière… Ils ont une moyenne d’âge de plus de 80 ans. Ils n’ont pas été réévalués depuis leur arrivée pour la plupart et ils sont là depuis plus de 18 heures. » (c’est moi qui souligne).

Ces patients âgés, dont plusieurs ont été transportés en ambulance (sans doute après la venue des pompiers comme « premiers répondants ») en provenance de CHSLD ou de résidences pour personnes âgées auraient mérité pour plusieurs qu’on les soignent chez eux. Jean-Robert Sansfaçon, éditorialiste au Devoir, soulignait il y a quelques jours dans Le tout-à-l’hôpital, à quel point les services à domicile ont été négligés. Mais il n’a pas relevé cette contradiction : les CHSLD et résidences collectives sont le domicile de personnes âgées qui devraient avoir accès à des services médicaux beaucoup plus soutenus. Cela libérerait certainement quelques corridors d’hôpitaux, tous en soulageant des gens malades et âgés du besoin de se déplacer pour mieux convenir à une chaine de production inique.