Mais quelles sont les différences entre l’équité, la diversité et l’inclusion?
Équité : « Principe qui est fondé sur le sentiment du juste et de l'injuste, au-delà des normes juridiques. »
Diversité : « Qualité d'un ensemble hétérogène de personnes qui, dans un milieu donné, diffèrent les une des autres par des caractéristiques qui sont généralement d'ordre social, culturel, physique ou psychologique. »
Inclusion : « L’inclusion est relative à la collectivité. Il s’agit de la création d’une culture qui promeut l’équité, et qui célèbre, respecte, accepte et fait valoir la différence. La diversité et l’inclusion ont pour but de saisir l’unicité de la personne, de créer un milieu qui valorise et respecte les personnes pour les talents, les compétences, les aptitudes qu’elles mettent au service de la collectivité. »
L'inclusion est davantage perçue comme étant un état d'esprit. Elle est beaucoup plus difficile à atteindre que l’équité et la diversité, car tout le monde doit avoir une voix et être entendu.
Les biais dans les systèmes d’intelligence artificielle
Les biais discriminatoires introduits dans les données sur des segments de la population dans les systèmes d’intelligence artificielle peuvent avoir une forte incidence négative sur la société, car ils peuvent nuire à un grand nombre de personnes à la fois. Un biais provient parfois du manque de données sur un segment en particulier. Disons que vous construisez les parties d'un système, mais il vous manque de données historiques sur les personnes de couleur. Par conséquent, ce système fera plus d'erreurs pour ce micro segment de la population, car il ne le perçoit pas.
Une autre source possible de biais est une partie de la représentation. Par exemple, dans la conception d’un logiciel de recrutement, ce qui compte en réalité ce sont les compétences des candidats. Les informations démographiques ne devraient pas être importantes. Il ne devrait pas être nécessaire de connaître le lieu de naissance, le genre, l’origine ethnique et la religion des candidats. Les organisations peuvent prétendre qu’elles n’utiliseront pas ces informations, mais c'est beaucoup plus complexe que cela, car de nombreux autres attributs ont été codés indirectement dans le segment démographique. Cela pose un grand problème : c'est comme un bogue dans un logiciel.
Tous les processus dirigés par des humains sont biaisés. À titre d’exemple, une femme fait une demande de prêt hypothécaire et doit parler à un agent d'une banque. Il est possible que cet agent soit raciste ou sexiste et qu’elle n'obtienne pas le prêt simplement parce que cet agent a des préjugés. Pourquoi cela peut-il être lourd de conséquences pour le système d'IA ? C’est parce qu'un agent peut traiter avec une ou deux dizaines de personnes maximum par jour. Tandis que des milliers de personnes par jour peuvent être touchées par un système d'IA biaisé. L'impact d'un tel système est donc beaucoup plus considérable que s’il y avait un individu raciste ou sexiste au sein d'un établissement financier. C'est pourquoi il est essentiel d’avoir de meilleures gouvernance et assurance de la qualité pour de tels systèmes.
Les répercussions du manque de diversité dans les équipes
La société bénéficie du rassemblement de points de vue divergents, tout comme les entreprises, qui performent mieux lorsque leurs équipes présentent de la diversité. Selon Julia Elvidge, ingénieure retraitée et ancienne présidente de Chipworks, sans diversité dans les équipes :
« Vous n’obtenez pas de meilleures prises de décisions, de résolutions de problèmes et de bonnes discussions. Vous pouvez aussi regarder la diversité en fonction des types de personnalité Myers-Briggs. Il y a des personnes rationnelles et d’autres qui sont émotionnelles. Il y a des extravertis et des introvertis, donc il faut également rechercher ce type de diversité au sein de votre équipe. Plus vous avez de diversité, plus vous avez d’idées, et plus vous pouvez les brasser et décider ensemble laquelle est la bonne. Vous voulez éviter une approche de pensée de groupe où tout le monde a la même idée. »
Il peut s'agir de diversité au sein des conseils d'administration, de la direction, voire dans les postes de niveau débutant.
Par ailleurs, une plus grande diversité au sein des équipes de travail en technologies favorise l’innovation, le rendement économique et une meilleure offre de produits. Selon Eli Fathi, PDG de MindBridge Ai et diplômé de la maîtrise et du baccalauréat en génie électrique de l’Université d’Ottawa :
« Si l'on considère la question des technologies et des biais, actuellement, moins de 11% de femmes travaillent dans le secteur de l’intelligence artificielle (IA). Dans l'IA, on apprend à partir des données. Lorsque vous n'avez pas de femmes dans l'équipe, le nombre de biais augmente de manière considérable dans les résultats. Pour cette raison, votre produit n'est donc pas aussi bon qu'il devrait l'être. Maintenant, la question est de savoir combien de femmes sont disponibles sur le marché du travail. Si toutes les entreprises avaient de la diversité au niveau de la direction, le PIB de l'Amérique du Nord passerait à un billion et demi de dollars. Les chiffres sont stupéfiants. »
De ce fait, si plus de femmes devenaient ingénieures, cela apporterait une solution pour contrer la pénurie de main-d’œuvre.
