The AI + Society Initiative is excited to continue amplifying the voices of emerging scholars from around the world through our bilingual blog series Global Emerging Voices in AI and Society, stemming from the Global AI & Regulation Emerging Scholars Workshops and the Shaping AI for Just Futures conference. This series showcases the innovative research and insightful discoveries presented during these events–and beyond–to facilitate broad knowledge sharing, and engage a global network in meaningful interdisciplinary dialogue.
The following blog is authored by Alexandra Bouchard who was selected by an international committee to present her poster “Une administration publique augmentée par l’intelligence artificielle ? Le droit transformé pour réguler l’utilisation des nouvelles technologies dans les administrations publiques canadienne et québécoise” as part of the poster session at the Shaping AI for Just Futures conference.
This research contribution is only available in French.
Une administration publique augmentée par l’intelligence artificielle? Le cas des programmes québécois de prestations sociales
Depuis plusieurs décennies, les administrations publiques constituent des lieux d’expérimentations où se mettent en place des solutions technologiques innovantes que ce soit pour assurer la mise en œuvre de réformes managériales ou, plus récemment, pour participer au déploiement d’outils numériques s’appuyant sur l’intelligence artificielle.
En effet, les récents développements technologiques invitent les États et leurs gouvernements à adapter leurs modes de gouvernance en recourant par exemple à des plateformes gouvernementales numériques ou à des solutions d’intelligence artificielle afin d’aider à la prise de décisions. Pour plusieurs, c’est signe que la gouvernance publique se transforme en une gouvernance que l’on pourrait qualifier d’algorithmique.
Au Québec, cette transition numérique s’est amorcée en 2019 notamment avec l’entrée en vigueur de la Loi favorisant la transformation numérique de l’administration publique. Elle s’est concrétisée avec l’élaboration de la Stratégie de transformation numérique gouvernementale, de la Stratégie d’intégration de l’intelligence artificielle dans l’administration publique et plus récemment, de la Stratégie gouvernementale de cybersécurité et du numérique. Cette grande réforme de l’administration publique repose sur plusieurs objectifs, dont de faciliter les interactions entre l’État et les personnes citoyennes et d'accroître l’efficacité et l’agilité de l’État et est donc motivée par des prérogatives managériales associées à l’approche de la gouvernance, plutôt qu’une approche privilégiant la protection du public.
L’élaboration d’un droit de la gouvernance à l’ère des algorithmes
Dans le cadre de mes travaux de recherche doctoraux, je me suis intéressée aux transformations juridiques provoquées à la fois par la gouvernance des algorithmes et par la gouvernance par les algorithmes. Je soutiens que ces deux facettes du contexte actuel témoignent de l’émergence d’un droit de la gouvernance, voire un droit de la gouvernance algorithmique.
L’approche du droit de la gouvernance permet de mettre en lumière les limites du droit moderne face aux défis contemporains et la nécessité d’intégrer d’autres normativités dans le corpus du droit. Elle conçoit le droit comme un réseau normatif composé à la fois d’exigences (p. ex. transparence, imputabilité, efficacité, réflexivité, participation, etc.), de normes (p. ex. règles de droit, normes managériales, normes éthiques, normes techniques, etc.), d’instruments normatifs (p. ex. politiques, directives, plans d’action, etc.) et de processus (p. ex. certification, évaluation, normalisation, etc.). Cette approche intrinsèquement interdisciplinaire est construite grâce à l’apport de plusieurs disciplines, dont le droit, le management, la philosophie politique, l’éthique et les sciences comportementales.
Afin de valider cette hypothèse, j’ai effectué trois études de cas : le programme d’identité numérique québécois, la dématérialisation des dossiers à l’aide sociale et le logiciel auto-apprenant à Revenu Québec. La suite de ce billet sera consacrée uniquement au deuxième cas : la dématérialisation des dossiers à l’aide sociale, afin d’examiner ses spécificités et ses implications pour la théorie du droit.
La dématérialisation des dossiers au ministère de l’Emploi et de la Solidarité sociale
En 2018, le ministère de l’Emploi et de la Solidarité sociale annonçait dans son Plan directeur en ressources informationnelles 2018-2023 le programme de gestion partagée de la prestation de services. Désormais appelé « UNIR », le projet comprend différentes phases dont la numérisation des documents et dossiers d’assistance sociale, le décloisonnement de la gestion des dossiers et l’automatisation du traitement des dossiers. Ce projet est fondé sur la même logique managériale qui soutient la plupart des dossiers en lien avec la transformation numérique de l’État québécois. Il fait fi de la dimension humaine centrale au traitement et à l’analyse des dossiers de prestation sociale.
La numérisation des dossiers permet de mettre en place une plateforme informatique capable d’assurer d’abord, la gestion décloisonnée des dossiers et ensuite, leur traitement automatisé. Camouflé au sein de cette plateforme se retrouve un algorithme capable de trier, classer et hiérarchiser les dossiers. Les personnes agentes travaillant au sein du ministère n’auront donc plus d’inventaire de dossier individualisé. Elles se verront plutôt attribuer en temps réel des tâches à accomplir dans différents dossiers.
Plusieurs syndicats et organismes se sont joints pour rédiger une lettre ouverte décriant les nombreux enjeux associés à la mise sur pied de ce projet. Selon ces derniers, les impacts d’un tel projet seront ressentis à la fois par les personnes travailleuses sociales et les personnes citoyennes qui bénéficient des prestations. En effet, la centralisation de services gouvernementaux sur des plateformes numériques peut provoquer une perte d’expertise au sein des services. Plus spécifiquement, l’utilisation de logiciels comme dans le cas du programme UNIR auront pour effet de limiter les occasions lors desquelles les personnes agentes exercent leur discrétion et offrent un service personnalisé qui tient compte des particularités des personnes ayant recours aux services d’assistance sociale. Cette utilisation aura aussi pour effet d’augmenter la cadence de travail des personnes agentes en leur imposant les tâches qu’elles auront à effectuer au courant d’une journée. Le projet UNIR est par ailleurs en décalage avec des recommandations du Protecteur citoyen qui appelait à une application moins rigide des règles en vigueur et donc plus adaptées au contexte des personnes bénéficiaires.
Ces changements technologiques s’inscrivent dans un chantier bien plus vaste : la mise sur pied d’une gouvernance algorithmique. Primavera de Filippi définit la gouvernance algorithmique comme une « nouvelle forme de gouvernementalité qui n’essaie pas de réguler les individus par l’intermédiaire d’un régime établi de règles et de contraintes, mais plutôt par un système de règles fluides et dynamiques, qui agissent sur les individus par anticipation, et qui en façonne les comportements en s’appuyant sur une nouvelle typologie de “normes algorithmiques” floues et de légitimité incertaine, issues des analyses statistiques, des inférences et des prédictions tirées de ces grandes masses de données ».
La genèse d’une nouvelle normativité algorithmique
Les transformations associées à la gouvernance algorithmique s’inscrivent dans un paradigme qui va bien au-delà de l’État de droit et du droit positif. Le droit est relégué au profit d’autres systèmes normatifs, dont la technologie en elle-même. Il ne s’agit pas d’un droit qui émane d’une délibération et d’un vote collectif qui tienne compte de l’avis des parties prenantes, soumis à des critères de constitutionnalité, mais plutôt d’un droit fondé sur des normes encapsulées au sein d’objets techniques et automatiquement appliquées. Alors que les personnes bénéficiaires de ce type de programme ont besoin d’assistance pour faire reconnaître leurs droits, le contexte numérique les rend d’autant plus vulnérables. En effet, leurs comportements sont régis par des règles invisibles qui sont appliquées par des algorithmes alimentés par des données dont on ne connaît pas la provenance.
Plusieurs craignent que ce programme ne soit que le début d’une transformation plus vaste qui aurait pour objectif final l’automatisation de l’analyse et du traitement des dossiers, comme ce fut le cas en Australie. On assisterait ainsi au passage d’une logique fondée sur l’expertise et l’expérience des personnes agentes à une rationalité statistique fondée sur des a priori et des généralités. Ce type de transformation vient ébranler les représentations que la théorie du droit se fait de la discipline juridique et appelle ainsi à sa réinterrogation par les juristes.
Key resources to learn more
Bernatchez, Stéphane, Bouchard, Alexandra & Bélanger, Sarah-Maude (2021), Le droit de la gouvernance pour réguler la gouvernance algorithmique 23:2 Éthique publique 1-15.
Charron, Catherine (2022), « Virage numérique et dématérialisation des services au MTESS : quels impacts sur les prestataires d’une aide financière de dernier recours ? », Syndicat de la fonction publique et parapublique du Québec.
De Filippi, Primavera (2017), Repenser le droit à l’ère numérique : entre la régulation technique et la gouvernance algorithmique dans Pierre-Emmanuel Moyse & Vincent Gautrais, Droit + Machine, Thémis.
Mockle, Daniel (2019), La question du droit dans la transformation numérique des administrations publiques 49 Revue de droit de l’Université de Sherbrooke 223.
Raso, Jennifer (2021), Implementing Digitalisation in an Administrative Context dans Marc Hertogh, Richard Kirkmann, Robert Thomas & Joe Tomlinson, The Oxford Handbook of Administrative Justice, Oxford University Press.
Raso, Jennifer (2017), Displacement as Regulation: New Regulatory Technologies and Front-Line Decision-Making in Ontario Works, 32:1 Canadian Journal of Law & Society 75.
About the author
Alexandra Bouchard est candidate au doctorat à l'Université de Sherbrooke, sous la direction du professeur Stéphane Bernatchez. Dans le cadre de son projet de recherche doctoral, Alexandra s'intéresse à la gouvernance des nouvelles technologies et à leur utilisation par l'administration publique dans des contextes de solidarité sociale. Avocate, Alexandra est titulaire d’un baccalauréat en droit de l’Université du Québec à Montréal et d’une maîtrise en droit de l’Université de Sherbrooke. Elle occupe actuellement un poste de chercheuse émergente à la Commission du droit du Canada.
Ce contenu est fourni par l'Initiative IA + Société afin d’amplifier les conversations et la recherche autour des implications éthiques, juridiques et sociétales de l'intelligence artificielle. Les opinions et les erreurs sont celles des auteur(e)s et non celles de l'Initiative IA + Société, du Centre de recherche en droit, technologie et société, ou de l'Université d'Ottawa.