Plusieurs scientifiques, commissions et groupes de travail prévoient que l’intelligence artificielle (IA) transformera et démocratisera les systèmes de santé en améliorant la qualité, la sécurité et l’efficacité des soins, et offrira aux patients la formidable possibilité de prendre en main leur propre santé. L’IA peut améliorer la santé humaine en bonifiant les systèmes et les prestations de services. Des algorithmes bien conçus pourraient, par exemple, corriger les taux actuellement élevés d’erreurs médicales évitables. Pourtant, dans le même temps, l’utilisation de l’IA en santé présente des risques et des problèmes de mise en œuvre évidents, tels que ceux liés à la discrimination, au consentement éclairé, à la sécurité ou à la qualité (et à la responsabilité des préjudices causés) ainsi qu’à la protection de la vie privée. L’absence de réglementation visant à atténuer ces risques pourrait compromettre la capacité du Canada à tirer parti des avantages potentiels de l’IA dans le domaine des soins de santé. Par exemple, il est peu probable que l’IA réduise les erreurs médicales si elle a été entraînée à partir de données non représentatives (et donc biaisées) à l’origine de telles erreurs. L’utilisation d’une IA de mauvaise qualité en santé risque d’entraîner une réaction négative du public et des réglementations contraignantes qui freineraient l’innovation. Cette « réalité qui dérange » pourrait perturber le développement de l’IA au service de la santé et causer la perte du soutien financier et des efforts de recherche qui ont été consacrés à une IA inutilisable ou sous-utilisée.
Avec le soutien du programme IA et socété du CIFAR, l’équipe du projet “IA et soins de santé : la fusion du droit et de la science” a réunit un groupe de spécialistes en IA, en droit, en éthique, en politique et en médecine afin d’aborder les principaux enjeux réglementaires soulevés par ces difficultés : comment le Canada peut-il optimiser les bénéfices potentiels de l’IA au service de la santé tout en atténuant ses dangers potentiels ? Plus précisément, les spécialistes ont commencé à examiner si les lois existantes, soit les protections constitutionnelles, la législation et la réglementation, la jurisprudence et les règles non contraignantes (par exemple, les codes d’éthique des professions et de la recherche), étaient en mesure de protéger les patients des préjudices et d’optimiser les avantages qui peuvent découler des technologies de l’IA.
Le rapport IA et soins de santé : la fusion du droit et de la science présente les résultats d’un atelier de travail organisé en Octobre 2020 chqui s’est concentré sur les défis que présentent les questions liées à la protection de la vie privée, à la sécurité et à la qualité dans les réglementations et sur les questions éthiques liées à l’utilisation de l’IA en santé. Soulignant la nécessité d’un examen plus approfondi des réglementations existantes, le rapport insiste sur le besoin de recherches pour déterminer si les lois existantes sont bien adaptées pour traiter les problèmes réglementaires potentiels. L’équipe de recherche, qui entreprendra ces travaux lors de la prochaine séance parrainée par le CIFAR, se concentrera sur la réglementation de l’IA utilisée comme outil ou intégrée à des dispositifs médicaux. Cette séance abordera les préoccupations liées à la sécurité et à la qualité, mais sera également l’occasion de discuter davantage de la protection de la vie privée et de la discrimination.
Le rapport est également disponible en anglais.
L’atelier était organisé par la professeure Colleen M. Flood, responsable de l'axe IA + Santé et titulaire de la Chaire de recherche de l'Université d'Ottawa en droit et en politique de la santé, en collaboration avec la professeure Joelle Pineau, professeure agrégée et chercheure William Dawson à l'Université McGill et membre de Mila, et la professeure Céline Castets-Renard, chercheure régulière au CDTS et titulaire de la Chaire de recherche de l'Université d'Ottawa en IA responsable dans le monde global.
Le rapport a été préparé par Michael Da Silva, chercheur postdoctoral Alex-Trebek en IA et santé à l’Initiative IA + Société. Le professeur Florian Martin-Bariteau, Chaire de recherche de l’Université d’Ottawa en technologie et société et la professeure Teresa Scassa, Chaire de recherche du Canada en droit et politiques de l’information, ont également contribué aux conclusions du rapport.