Zohreh Aghababaeyan, étudiante au doctorat en informatique à la Faculté de génie, mène des recherches sur la fiabilité des systèmes d’IA et des technologies autonomes.
La recherche innovatrice de Zohreh Aghababaeyan redéfinit les normes de fiabilité de l’IA, ce qui en rehausse du même coup la sûreté. Son travail ne fait pas qu’améliorer les technologies actuelles d’IA, mais pose également les bases d’une intégration harmonieuse de l’IA dans notre quotidien.
Nous avons discuté avec la chercheuse pour en savoir plus sur ses travaux révolutionnaires et sur ses projets à venir.
Qu’est-ce qui vous a incitée à faire des recherches dans ce domaine?
Je m’intéresse aux réseaux neuronaux profonds (RNP) et à l’IA à cause de leur incroyable potentiel pour changer le monde. L’IA est maintenant partout, et elle est utilisée dans des domaines névralgiques. Saurons-nous en assurer la fiabilité? Là est la question.
Ce qui me motive au quotidien, c’est le désir d’améliorer l’efficacité des systèmes d’IA. En réglant le problème de la fiabilité et de la sûreté de l’IA, nous pourrons véritablement commencer à en exploiter le plein potentiel et ainsi améliorer et faciliter la vie de tous et toutes.
Pouvez-vous nous expliquer vos recherches?
Les technologies autonomes, comme les véhicules Tesla, par exemple, peuvent générer jusqu’à 11 gigaoctets de données par jour. Il devient donc très difficile de sélectionner et d’étiqueter efficacement les données essentielles à l’évaluation des réseaux neuronaux profonds. Pour évaluer les modèles de RNP, il est impossible de se fier uniquement aux mesures conventionnelles, comme la précision, car elles ne font que quantifier le nombre d’erreurs de prédiction sans nous renseigner sur les causes profondes ou sur les similarités.
Dans mon doctorat, je cherche des solutions à ces problèmes en élaborant une stratégie pour choisir la bonne méthode de test en tenant compte de la diversité et de l’incertitude afin de gérer les ensembles de données volumineux et l’étiquetage complexe nécessaires à l’évaluation des RNP. Ma stratégie fait appel à un cadre automatisé pour reconnaître les données pertinentes qui révèlent les failles importantes des RNP sans exiger un accès interne. Mon « cadre de détection des failles des RNP » dépasse la simple précision; il brosse aussi un portrait clair du rendement. Cette approche, validée à l’aide d’expériences exhaustives, s’est montrée supérieure pour améliorer la sûreté, la fiabilité et la compréhension des RNP, ce qui a permis de redéfinir les normes d’évaluation de l’IA.
Mes recherches ciblent les critères essentiels à la mise à l’essai et à l’évaluation précise des modèles d’IA, ce qui est d’autant plus nécessaire dans les secteurs où la sécurité est vitale, comme la médecine et la conduite autonome. Les méthodologies d’avant-garde que j’ai élaborées pour tester les RNP non seulement rehaussent la fiabilité des systèmes d’IA, mais réduisent aussi les coûts en ressources de l’étiquetage de données. Ces progrès permettent d’accroître la confiance envers les technologies de l’IA et ouvrent la voie au déploiement d’applications plus sûres et plus fiables qu’avant dans différents secteurs.
Quels sont vos plans de carrière?
Comme doctorante et chercheuse qui travaille sur la fiabilité de l’IA, mon but est d’améliorer la fiabilité et l’accessibilité de l’IA afin que tous et toutes puissent en faire une utilisation efficace en toute confiance. J’aspire à contribuer à la recherche de pointe sur la fiabilité de l’IA et à stimuler l’innovation qui permettra d’intégrer l’IA de façon sûre et harmonieuse à la vie quotidienne.
Infrastructures durables et résilientes
Le projet de recherche de Zohreh Aghababaeyan lui a valu la première place dans la catégorie « Infrastructures durables et résilientes » lors de l’édition 2024 de la Compétition d’affiches des études supérieures en génie et en informatique de la Faculté de génie. Son projet, intitulé « Elevating DNN Reliability: A Comparative Study of Test Selection Metrics » (Hausser la fiabilité des RNP : étude comparative des mesures de choix des tests) est dirigé par le professeur Lionel Briand, titulaire d’une Chaire de recherche du Canada sur la conformité et la fiabilité intelligentes des logiciels.
Les recherches de la Faculté de génie s’articulent autour de cinq grands axes, dont les infrastructures durables et résilientes.
Le présent article s’inscrit dans notre série de présentation des lauréats et lauréates de la Compétition d’affiches des études supérieures en génie et en informatique 2024.
