intelligence artificielle et finalités sociales

La conférence de Yoshua Bengio (32 minutes) est sans doute ce qui m’a convaincu de m’inscrire à ce colloque « Intelligence artificielle en mission sociale ».  En tant que figure de prou (montréalaise et internationale) du secteur en forte croissante du Deep Learning j’étais curieux de voir ce qu’il avait à dire en général sur l’intelligence artificielle et en particulier sous cet angle novateur proposé par le colloque “en mission sociale”.

L’intervention de monsieur Bengio, faite en français et sur un ton presque “zen”, mettait la table pour deux jours de discussions et conférences faites par des intervenants du monde des OBNL, de la recherche universitaire ou du monde des affaires (entreprises sociales, innovation sociale, services juridiques). Les avancées de l’intelligence artificielle sont réelles même si le monde ne changera pas du jour au lendemain. On est encore loin de l’intelligence du cerveau humain. C’était le message de Bengio : Les changements se feront graduellement aussi il est encore temps de prévenir les dérapages par une règlementation éthique.

Après avoir identifié les secteurs où les changements seront les plus importants, et les risques soulevés ou prévisibles, Bengio souligne l’importance d’améliorer le filet de sécurité (ex: revenus garantis) afin de soutenir l’adaptation des personnes à ces changements. Il en appelle à une meilleure fiscalité afin que la richesse produite par ces puissantes nouvelles technologies ne fassent pas que la concentrer encore plus tout en excluant, appauvrissant des masses de plus en plus grandes. Le remplacement des audits comptables par des audits moraux est suggéré afin de mesurer la contribution des entreprises au bien-être collectif.

La conférence de Charles C Onu (11 minutes) suivait : Saving Newborn with AI, où il expliquait comment l’enregistrement des pleurs des bébés naissants a permis de dépister, grâce au “machine learning”, les enfants souffrant d’asphyxie périnatale au Nigeria. Voir le site de l’organisme www.ubenwa.com

L’intervention de Kathryn Hume (34 minutes) de chez Integrate.ai, s’intitulait Ethical Algorithms, Bias and Explainability in Machine Learning. L’intelligence artificielle est déjà utilisée par la justice américaine (entre autre pour aider les juges à statuer sur le risque associé à la liberté sous caution ou la libération sur parole) avec parfois des biais importants. Les algorithmes et “boites noires” qui définissent l’intelligence artificielle doivent être corrigés et expurgés des biais qui sont les nôtres (concepteurs, codeurs, analystes et usagers).

Et ce n’était que le début, la plénière d’ouverture de ce colloque de deux jours tenu les 25 et 26 janvier dernier à Montréal au Centre canadien d’architecture. Organisé par Alliance Impact Intelligence Artificielle (AIIA), on peut revoir la plupart des conférences et panels sur la chaine Youtube de AIIA.  La principale animatrice de l’évènement, Valentine Goddard, résume mieux que je ne saurais le faire les questions soulevées et pistes ouvertes dans un article (en anglais) au sous-titre (en français) synthétique : Pour que l’intelligence articifielle contribue au bien public, les citoyens doivent participer au débat sur les valeurs qui seront intégrées aux politiques et aux systèmes d’IA. Cet article et au moins deux autres, issus de conférences données au colloque1, font partie du dossier Dimensions éthique et sociale de l’intelligence artificielle, publié par la revue Options politique de l’IRPP, l’Institut de recherche en politiques publiques. Tracey Lauriaut mérite d’être lue : Values-based AI and the new smart cities, à propos du projet Sidewalk Labs (du groupe Alphabet) à Toronto.

L’intelligence artificielle est un terme flou, qui réfère autant à l’aide à la décision déjà à l’oeuvre dans les domaines juridique et médical, grâce à la consultation de masses importantes de données formelles accumulées dans ces secteurs, qu’aux systèmes de gestion des flux de circulation dans les villes ou encore aux méthodes du “deep learning” où les machines apprennent par elles-mêmes à partir de masses de données ou d’interactions pratiques dont elles tirent les leçons. Parce que les leçons ou décisions tirées de ces “apprentissages profonds” ne sont pas toujours explicables ou explicites (les interactions, corrélations et computations étant trop nombreuses et complexes), plusieurs conférenciers et auteurs ont mis de l’avant la nécessité de connaître et d’avoir accès aux algorithmes qui fondent les décisions et recommandations de l’IA. Une accessibilité aux algorithmes et aux données qui pourrait être garantie par une instance publique. On a parlé d’une éventuelle certification ISO pour le caractère éthique et respectueux des droits humains des mécanismes d’IA développés par les entreprises et les États.

Si on veut éviter que les règles habituelles s’appliquent au développement de l’IA, et ne servent qu’à accentuer et accélérer la concentration de richesse plutôt qu’à résoudre les problèmes qui confrontent nos collectivités, il est proposé de développer un Index de l’impact social qui permettrait de mesurer, en les distinguant des indicateurs habituels de rendement et résultats financiers, les coûts et rendements sociaux d’une entreprise ou une institution. La méthode proposée du Social Return On Investment (SROI) a fait l’objet d’une page et d’une fiche synthèse (pdf, 8 pages) par le TIESS l’an dernier. On y indique cependant que la « méthode SROI est très souvent coûteuse en ressources. »

Les annonces du gouvernement fédéral en soutien à une supergrappe d’entreprises autour de l’IA (SCALE.AI) n’avaient pas été faites au moment du colloque de janvier. Les gouvernements provincial et fédéral avaient annoncé en 2017 quelques 225M$ pour soutenir de développement des réseaux canadiens et québécois de recherche et développement en intelligence artificielle. Avec l’annonce récente du fédéral (15 février 2018) d’un financement milliardaire (950M$  pour les 5 grappes) qui « misera sur l’intelligence artificielle et la robotique afin de faire du Canada un chef de file mondial de la numérisation des chaînes d’approvisionnement industrielles » on ne semble pas s’orienter particulièrement vers la mission sociale ou la mesure de l’impact social des entreprises… On précise plutôt que l’objectif est d’accroître les revenus et la performance de ces entreprises. On comprend qu’il s’agit de la performance économique.

Les questions soulevées par le colloque de janvier, mais aussi par d’autres initiatives telle la Déclaration de Montréal IA Responsable_, sont d’autant pertinentes et urgentes que ces investissements massifs des gouvernements et entreprises privées risquent d’accélérer la concentration des richesses, des savoirs, des droits et des pouvoirs entre les mains d’un nombre de plus en plus restreint de corporations et de personnes.

Rôles des gouvernements, des OBNL, de la philanthropie

Le gouvernement fédéral Libéral se veut un leader mondial en matière de gouvernement numérique et ouvert : il occupe depuis peu un des quatre postes de représentants gouvernementaux (avec Italie, Afrique du Sud et Corée du Sud) au comité directeur du Partenariat pour un gouvernement ouvert 2; le Canada est aussi devenu en mars 2017 l’un des 7 États membres du “Digital 7”, le D7, avec l’Estonie, Israël, la Nouvelle-Zélande, le Royaume-Uni, la Corée du Sud et l’Uruguay. Un groupe d’États dont la mission vise « à adopter la technologie numérique dans l’intérêt des citoyens.» Ce comité se veut « une tribune qui permet aux nations membres d’échanger des pratiques exemplaires, de déterminer la façon d’améliorer la prestation de services numériques aux citoyens, de collaborer à des projets communs et d’appuyer et de promouvoir leurs économies numériques respectives en expansion.» La représentante de la Nouvelle-Zélande, qui semble avoir le leadership pour le moment, insiste sur les dimensions citoyenne et démocratique de l’orientation : « develop a fully citizen-centric approach (…)  make sure all our citizens are thriving in a digital world. »

Le président du Conseil du Trésor, Scott Bryson, est le ministre représentant le Canada sur ces deux comités internationaux. De manière congruente avec les principes d’un gouvernement ouvert, Michael Karlin, du Secrétariat du Conseil du Trésor du Canada, proposait récemment pour commentaires et co-construction un document intitulé  :  Responsible artificial intelligence in the Government of Canada. En plus d’identifier différentes avenues concrètes par lesquelles l’IA pourrait aider à “mieux servir les canadiens”, de même que les risques qui doivent être pris en compte, l’auteur nous rappelle que l’IA n’est pas une personne, mais bien un logiciel qui ne devrait en rien diminuer la responsabilité de l’organisation qui l’utilise.

AI is software, not a conscious being, and should not be ascribed agency over its actions. Doing so removes the accountability of an organization over its software. 

Une telle consultation semble bien reçue par le milieu, qui souligne toutefois l’effort à faire pour inclure des populations marginalisées ou réticentes (autochtones, syndicats). On note aussi les ressources limitées que les OBNL ont pour participer à de telles consultations, dont l’utilité ou l’impact sur les orientations gouvernementales sont loin d’être toujours évidents. Michael Geist parle même d’une « crise de la consultation » (Too Much of a Good Thing: What Lies Behind Canada’s Emerging Consultation Crisis).

Des initiatives comme celles de l’AIIA, ou encore la Déclaration de Montréal, ont le mérite de poser des questions, identifier des principes qui devraient guider l’action, de créer des ponts entre des mondes trop souvent étrangers (mission sociale et développement technologique). Que le gouvernement fédéral réfléchisse de manière ouverte et réactive aux conditions à réunir pour une application judicieuse et d’intérêt public de l’IA, c’est une bonne nouvelle. Mais c’est d’abord une question de régie interne des programmes et services gouvernementaux. Sûr que le gouvernement peut et doit jouer un rôle de bon élève, d’utilisateur exemplaire et responsable de la puissance de l’IA. Mais l’exemple suffira-t-il ? À la vitesse Grand V à laquelle les investissements se précipitent dans le domaine ?

Le fait d’assujettir chaque supergrappe à des chaines de production, de fabrication ou d’approvisionnement et à un financement au moins équivalent apporté par le privé, cela garantie que les investissements publics seront alliés à la croissance des intérêts dominants des secteurs retenus. Il est peut-être des réflexions qui mériteraient d’être menées à l’abris des pressions avides du marché.

La Fondation Ford et la Fondation MacArthur financent le AI Now Institute, logé à l’Université de New-York. L’institut a publié deux rapports. Le premier (2016) portait sur les impacts sociaux et économique de l’IA sur un horizon de 10 ans, alors que le second rapport, publié en 2017, se concentrait sur “labor and automation, bias and inclusion, rights and liberties, and ethics and governance.”

  1. How can Indigenous knowledge shape our view of AI? et L’IA et nos principes de justice fondamentale  (retour)
  2. Une organisation regroupant 75 gouvernements et des centaines d’organisations de la société civile  (retour)

un avenir déprimant

Sommes-nous responsables ? Ou non ?

Pas tout à fait, pas les seuls… mais tout de même responsables de ce que nous ferons ou ne ferons pas.


Croissance zéro ou décroissance n’ont jamais été vraiment populaires. Dès le départ, en réponse au rapport du Club de Rome, Limits to growth (1972), les meilleurs esprits se sont ligués pour montrer qu’on ne pouvait arrêter de croître…

Il est rafraichissant de lire des blogues citoyens qui posent de bonnes questions…

Peut-être qu’il faudrait parler de décélération plutôt que de décroissance. Ralentissement de notre vitesse, de l’intensité de notre déprédation des ressources de cette planète. Car il aurait fallu trouver d’autres manières de croître, de se développer. Nous aurions pu, il y a quarante ans, changer de cap, réorienter nos processus… Nous ne l’avons pas fait.

De plus en plus on pense que les équilibres climatiques sont inéluctablement ébranlés et ont amorcé leur transformation chaotique. Les négationnistes pourront toujours prétendre que nous n’aurions pu, de toute façon, infléchir un processus qui s’était amorcé des centaines (milliers) d’années plus tôt.

Que faire si l’avenir qui s’annonce n’est pas la poursuite du développement et du progrès mais bien une lutte pour la survie dans des conditions de plus en plus difficiles ? Est-il encore temps de construire des résiliences ? Aurons-nous le temps de construire des sociétés de droits ?

Quand la mèche des gaz congelés s’allumera, il ne sera plus nécessaire de se priver pour éviter le réchauffement… car ça ne pèsera plus grand chose dans la balance ! Les « sociétés riches » (des villes, des régions, des îlots) prendront tous les moyens à leur disposition pour « se rafraichir », se protéger, se déplacer, se nourrir…

Les biens autrefois prisés par les classes moyennes (vins, viandes, automobiles) deviendront des biens rares, réservés aux nouvelles classes aristocratiques.requiemspecies Quand je lis des textes comme Requiem for a Species: Why We Resist the Truth About Climate Change, enfin, quand j’en lis le résumé offert par Dave Pollard, ça me déprime. Parce que j’ai tendance à croire que l’auteur de ce livre dit vrai : il est déjà trop tard, nous allons y passer dans le malaxeur de changements climatiques catastrophiques…

Peut-être est-ce inévitable, cette dépression. Pour changer de régime, de valeurs, de rythme. Pour perdre ses illusions, parce que nous ne pouvons plus être ce que nous avons tenté d’être… ce que nous avons été, partiellement, aveuglément, obstinément. (Relire Ehrenberg – La fatigue d’être soi) Pollard identifie des qualités à cultiver en ces temps de « transformations radicales » : autonomie, attachements communautaires, résilience, indépendance à l’endroit des pouvoirs centralisés…

Saurons-nous mobiliser nos pairs, l’humanité dans une action commune pour « sauver » ce qui peut l’être… pour transmettre aux générations futures plus que des cendres ? La Science est-elle du bon côté ? Les sciences sont par trop imbriquées, inextricablement entremêlées aux appareils techno-industriels pour être jugées en dehors des cultures et sociétés qui les ont nourries.

Les débats qui ont ponctué la prise de conscience des limites de la planète montrent à l’évidence les dimensions politiques des modèles scientifiques utilisés pour poser les questions pertinentes, fournir les outils méthodologiques et les concepts utiles à l’appréhension de la situation  collective de l’humanité.

Les choix méthodologiques et scientifiques ne sont pas neutres.

Les sujets humains sont-ils responsables ? Ou s’ils ne sont que des animaux doués de langage et d’une exceptionnelle capacité d’abstraction et de planification qui auront fait de lui l’espèce dominante sur terre pendant quelques millénaires.

 

science d’intérêt public

Aujourd’hui, le 16 septembre se tiennent à travers le Canada des assemblées “Standup for Science” ou Tous ensemble pour la science.

 Au cours des dernières années, nous avons vu plusieurs coupures budgétaires touchant d’importantes institutions scientifiques, nous avons vu le financement des programmes redirigé vers la commercialisation de la recherche, et nous avons vu les scientifiques du gouvernement perdre leur capacité à communiquer les résultats de leur recherche au public.

La science est importante pour les Canadiens et Canadiennes. La recherche scientifique de qualité, lorsque associée à un processus décisionnel éclairé, protège notre eau et qualité d’air, nous garde en santé, s’assure que notre nourriture est saine et prépare les Canadiens et Canadiennes à l’avenir. Notre bien-être ainsi que notre prospérité à long terme va de pair avec l’alignement de la science et de l’intérêt public.

“[L]’alignement de la science et de l’intérêt public” il me semble que cette manière de dire affaiblit l’ensemble de l’appel au public. C’est parce que la “science” et le savoir académique n’avaient pas si bonne presse ni n’était près du coeur du public que le gouvernement Harper a pu la maltraiter autant. L’anti-intellectualisme cher aux populistes a bien servi les conservateurs : en y sacrifiant même le recensement canadien, un joyau de la science statistique internationale, Harper réaffirmait la primauté de la volonté, de la décision politique sur l’analyse, la réflexion, l’interprétation des faits.

Pourtant nous avons à la fois besoin de réflexion ET d’action. Et il serait plus qu’intéressant, essentiel même que les deux soient articulées, idéalement harmonisées. Mais il n’y a pas qu’avec le pouvoir politique que la science a parfois “maille à partir”. Les medias participent aussi à ces déformation des faits et ventes de vessies pour des lanternes. Le dossier du pétrole fantôme à Anticosti en est un bel exemple (voir Pas une goutte de pétrole à Anticosti).

Nous avons et aurons besoin de plus de science, non pas moins. Une science qui soit d’intérêt public. Dont les résultats soient publics, d’accès libre. Dont les grandes orientations soient délibérées.

l’histoire longue

À raconter le soir à ses petits enfants… David Christian la raconte ici en 18 minutes, l’histoire de l’Univers. Qui se complexifie et se fragilise…

Une référence d’InternetActu : Sortir de la tyrannie du présent qui cite et commente un article de Wired : Stop Hyping Big Data and Start Paying Attention to ‘Long Data’

éloquence graphique

Deux graphiques tirés du concours 2012 Visualization Challenge de la revue Science. Le premier résume 4,6 milliards d’année d’évolution de la terre (géologie, biologie…)

2012 Changing PlanetLe second illustre les enjeux liés à la production, l’utilisation et au recyclage des médicaments et produits pharmaceutiques.

Pharma_transport_diagram

J’ai dû chercher sur Internet des versions plus détaillées que celles présentées sur le site de Science… Vous pourrez en faire des posters !

séquençage du Néandertal

Un article en accès libre de la revue Science décrit l’avancée que représente le séquençage du génome de notre cousin Néandertal (à partir de trois individus). Des comparaisons ont été faites avec les génomes humains tirés de 5 régions du globe.

Une section spéciale d’accès plus facile que l’article, elle aussi en accès libre, fait le point sur les recherches récentes et moins récentes sur l’homme de Néandertal.

Comme le dit le NouvelObs : Un examen détaillé du génome de l’homme de Néandertal révèle qu’il y a un peu de lui en chacun de nous: de 1 à 4% des gênes des peuples d’Europe et d’Asie proviennent des Néandertaliens, selon une nouvelle étude.

le bien-être : 1,2 millions de répondants

Qu’est-ce que le progrès, et comment devrait-on mesurer le bien-être d’une population ? L’OCDE a organisé deux grandes conférences sur le sujet, et l’année dernière, le Président Sarkozy de la France a créé une commission de premier ordre pour faire rapport sur ces questions [GB: j’en parlais ici]. Ce grand débat reflète le fait que la hausse du revenu national n’a pas apporté l’amélioration de la qualité de vie que beaucoup attendaient, et des enquêtes aux États-Unis ne montrent aucune augmentation du bonheur au cours des 60 dernières années. Ces enquêtes reposent sur une évaluation subjective du bien-être, et il est raisonnable de se demander si ces réponses sont des mesures fiables de la qualité de vie, telle que les gens la vivent. Oswald et Wu ont fait un un test intéressant. Continuer la lecture de « le bien-être : 1,2 millions de répondants »