Qui serre la vis aux robots?

Les recherches d’Ian R. Kerr portait sur l’intelligence artificielle (IA). Vu son potentiel énorme, l’IA peut sembler un progrès sur toute la ligne. Des voitures autonomes parcourent des millions de kilomètres avec peu d’accidents. La police envoie des engins mobiles là où elle n’ose s’aventurer pour éliminer des objets dangereux. Des robots chirurgicaux d’une précision extrême aident à sauver des vies sur la table d’opération.

Pas si vite, lançait toutefois Ian Kerr, qui travaillait à comprendre les conséquences plus larges de ces avancées. Selon l’ancien professeur de droit et titulaire de la Chaire de recherche du Canada en éthique, en droit et en technologie, l’IA n’est pas totalement inoffensive.

Cette technologie permet de créer des systèmes qui fonctionnent sans supervision ou intervention humaine. Pour le meilleur et pour le pire, nous sommes en train de donner volontairement aux robots une liberté et une autonomie sans précédent.

« Les nouvelles techniques d’IA permettent aux machines de manifester des comportements émergents qui vont au-delà de leur programme initial, sans qu’on sache toujours ce qu’elles vont faire ni pourquoi, expliquait M. Kerr. Même si les décisions que prennent ces machines sont souvent bonnes, on ne les comprend pas toujours. C’est inquiétant. »

Surtout quand on pense à l’arrivée des armes guidées par l’IA. On ne parle pas ici de robots tueurs qui s’en prendront à leurs créateurs. Par contre, si on permet aux machines de fonctionner sans supervision humaine adéquate, de telles armes pourraient finir par cibler et éliminer des victimes imprévues.

C’est pour éviter un tel scénario qu’Ian Kerr avait lancé un mouvement regroupant des centaines de chercheurs en IA pour demander au gouvernement canadien de se joindre aux efforts mondiaux pour interdire la construction et l’utilisation des armes autonomes. Selon ces chefs de file du domaine, cette question devrait être au sommet des priorités mondiales.

Pour Ian Kerr, il était aussi important de se pencher sur les applications moins inquiétantes de l’IA, notamment en médecine diagnostique. Des travaux récents ont montré que des outils employant l’IA pouvaient surpasser les médecins les plus chevronnés dans la détection de tumeurs cancéreuses et d’autres maladies.

Les médecins devraient-ils donc confier à des machines la tâche de diagnostiquer le cancer? Ce serait risqué, croyait Ian Kerr. Ici encore, la sagesse exige que l’humain joue un rôle de surveillance et participe à des décisions d’une telle importance.

En tant qu’éthicien, juriste et gardien de l’intérêt public, Ian Kerr avait pour mission de chercher des réponses à ces questions et de proposer des mécanismes juridiques pour encadrer ces technologies dont l’évolution s’accélère. L’Université d’Ottawa est un milieu on ne peut plus propice aux activités du chercheur : l’établissement et la ville sont au carrefour de la recherche en haute technologie, des politiques gouvernementales et du droit.

« Il n’est pas exagéré de dire que la Faculté de droit de l’Université d’Ottawa est reconnue mondialement pour son expertise en droit des technologies – tant en matière de lois et de politiques qui encadrent l’IA, mais aussi quant à la robotique, aux chaînes de blocs, aux mégadonnées, à l’Internet et à la biotechnologie », disait-il.

Le chercheur tenait aussi à faire participer les étudiants au débat et à les amener à penser autrement. Traditionnellement, le droit est un domaine qui cherche dans le passé les précédents qui guideront les jugements. Pour Ian Kerr, il était temps de changer ce paradigme et de tourner le droit vers l’avenir pour mieux anticiper les situations et prévoir des solutions.

Une belle chance pour l’humain de veiller à ce que les robots soient utilisés pour nous faire progresser, et non le contraire.

En 2015, l’Université d’Ottawa a lancé la campagne Défier les conventions, dont l’objectif est de 400 millions de dollars, pour recueillir des fonds à l’appui des priorités de chaque faculté. Cette campagne aidera l’Université à recruter les meilleurs candidats et à les retenir, ainsi qu’à enrichir l’expérience étudiante. Les dons serviront également à financer des projets d’immobilisations innovateurs.