Depuis avril 2019, la plupart des ministères du gouvernement fédéral sont tenus de se conformer à la Directive sur la prise de décision automatisée. Cet instrument de politique vise à réduire les risques associés au déploiement des systèmes de décision automatisés utilisés par le gouvernement pour prendre des décisions administratives concernant les clients. Tous ces systèmes font l'objet d'une analyse d'impact algorithmique, qui attribue au système une note de risque de 1 à 4. La directive exige que les systèmes de décision automatisés auxquels est attribuée une note de risque de 2 ou plus fassent l'objet d'un examen par les pairs.
Le rapport « Peer Review for Automated Decision-Making Tools Under Canada’s Directive on Automated Decision-Making » (en anglais seulement), rédigé par les chercheur(e)s régulier(ère)s Jason Millar et Kelly Bronson du Centre de recherche en droit, technologie et société, a constitué une référence majeure dans l’élaboration du nouveau Guide sur l’examen par les pairs des systèmes décisionnels automatisés du SCT en proposant des améliorations à la Directive sur la prise de décisions automatisée.
Le Guide sur l’examen par les pairs des systèmes décisionnels automatisés adopte un grand nombre des recommandations du CRAiEDL pour aider la fonction publique fédérale à se conformer à la directive sur la prise de décision automatisée lorsqu'elle utilise l'IA et d'autres outils d'automatisation.
L'engagement du CRAiEDL dans ce processus permet de s'assurer que l'IA est achetée, développée et déployée de manière responsable au sein du gouvernement du Canada, ce qui a un impact positif durable sur le paysage politique canadien en matière d'IA. Depuis 2020, le CRAiEDL collabore avec le SCT et l’École de la fonction publique du Canada (EFPC) sur l’encadrement des systèmes automatisés.
En mai 2024, l'équipe du CRAiEDL, composée du professeur Jason Millar, de la professeure Kelly Bronson et de Jennie Day, Talia Cameron, Caitlin Heppner et Chantal Rodier, s’est réuni dans le cadre d'un processus d'engagement participatif afin de discuter et d’examiner une version préliminaire du Guide sur l'examen par les pairs des systèmes décisionnels automatisés fournissant des commentaires essentiels au SCT pour son élaboration.
Le Guide sur l’examen par les pairs des systèmes décisionnels automatisés est disponible sur le site du Gouvernement du Canada.