Diversité dans l’IA

Bien plus qu’une affaire de chiffres

Publish date:

Diversité dans l’IA : bien plus qu’une affaire de chiffres

Dans cette tribune d’Anne Laure Thieullent co-signée par Moojan Asghari, fondatrice du réseau Women in AI, nous discutons d’un aspect parfois oublié sur le sujet de la diversité dans l’intelligence artificielle. Sommes-nous prêts à nous questionner sur les « vrais » critères de succès d’une solution #IA ? La précision mathématique de son modèle, ou l’acceptation de la solution par ses utilisateurs et la valeur réelle que la solution leur apporte ?

Pour favoriser la diversité dans l’IA, des initiatives visant à renforcer la visibilité des catégories de personnes sous-représentées sont déjà mises en place telles que le Women in AI Awards. En récompensant des fondatrices ou co-fondatrices de startups qui placent l’intelligence artificielle au cœur de leur modèle, ces trophées valorisent le parcours de ces femmes et soulignent, à travers elles, l’importance de la mixité dans le domaine de l’IA. L’augmentation significative du nombre de candidates pour cette deuxième édition (+ 48 %) et la diversité des secteurs dont elles sont issues (RH, santé, éducation, énergie, finance…) sont le reflet de la féminisation croissante de l’écosystème IA, même si l’on est encore loin de la parité.

Le déséquilibre perdurera sans doute tant que la mixité sera majoritairement perçue dans les entreprises comme une sorte de case à cocher, un impératif qui se traduirait seulement par un objectif chiffré. Or, dans l’intelligence artificielle plus encore qu’ailleurs, la diversité est beaucoup plus qu’une question d’équité élémentaire : c’est un levier puissant et nécessaire de création de valeur. Si l’équipe n’est constituée que de personnes de même sexe, de même origine, de même culture, de même formation, le risque est grand que toutes regardent les sujets sous le même angle, avec les mêmes critères et les mêmes préjugés. Autrement dit, sans diversité, on risque d’obtenir des résultats qui peuvent négliger, désavantager ou heurter des groupes de personnes, voire des pans entiers de la population. Et, en définitive, la solution sera mal comprise, peu adoptée et peu utilisée.

Bien que ces discriminations soient en général involontaires, elles n’en sont pas moins dommageables à plusieurs égards : pour les profils désavantagés, bien sûr ; pour l’entreprise, qui peut passer à côté d’opportunités, fonder ses décisions sur une vision déformée de la réalité, ou même se trouver épinglée pour des choix malencontreux ; pour la société, enfin, qui risque de voir se perpétuer certains schémas parce qu’ils auront été implémentés, via des jeux de données biaisés, dans les algorithmes de choix, de recommandation ou d’automatisation. Comme l’ont déjà montré des expériences malheureuses, des élèves pourraient être notés plus défavorablement selon leur quartier d’origine, des suspects déclarés plus facilement coupables selon leur couleur de peau et des candidatures féminines plus fréquemment rejetées dans des professions très majoritairement masculines.

Selon une étude réalisée par Capgemini, près d’un décideur sur trois considère que le manque de diversité au sein des équipes est l’une des causes des biais, des problèmes éthiques ou du déficit de transparence des solutions d’IA. Au-delà des équipes projets proprement dites, cette nécessaire diversité doit aussi s’étendre jusqu’au top management, de façon à instaurer au sein de l’organisation un climat favorable à l’expression de toutes les sensibilités.

Pour promouvoir une diversité qui ne soit pas qu’un chiffre mais véritablement créatrice de valeur, deux approches complémentaires sont nécessaires :

Premièrement, il est important de bien définir les critères de succès de l’IA. Il ne faut pas les réduire à un taux de précision mathématique, mais considérer davantage l’acceptabilité de la solution par les utilisateurs, l’explicabilité de l’algorithme, son utilisation effective, la « bonne » valeur créée, et les bénéfices concrets finalement obtenus.

Deuxièmement, il faut prendre en compte dans le recrutement et la constitution des équipes que la finalité n’est pas seulement d’améliorer les indicateurs de diversité ou de parité, mais bien de pouvoir multiplier les points de vue afin d’avoir l’approche la plus complète possible des problèmes. Les projets d’IA ont vocation à être pluridisciplinaires. À l’image des candidates aux trophées WAI, l’IA a besoin de femmes économistes, sociologues, linguistes, géographes, autant que de femmes data scientists et développeuses. Les femmes doivent prendre conscience que l’IA est une opportunité pour elles, quel que soit leur profil, leurs compétences et leur parcours. Des acteurs comme Microsoft et Capgemini les aident à saisir cette chance grâce à leurs académies qui forment à l’IA des personnes d’horizons divers. Dans le monde de l’IA, il y a une place pour chacun.

L’IA va façonner le monde de demain. Parce qu’il est de l’intérêt de toutes et de tous de ne pas laisser l’IA entre les mains d’une catégorie restreinte de la population, les femmes et, plus largement, toutes les personnes sous-représentées dans la tech doivent s’engager massivement et sans plus attendre pour être les acteurs de cette révolution plutôt que les victimes de ses travers.

Anne Laure Thieullent

Articles associés

AI

MLOPS, l’IA appliquée au domaine des opérations informatiques

Nicolas Claudon
Date icon 18 janvier 2021

Tout projet data/IA a pour ambition d’atteindre une forte qualité de données couplée à une...

Intelligence Artificielle

L’Intelligence Artificielle pour booster l’efficacité opérationnelle des organisations

Fabrice Perrier
Date icon 10 décembre 2020

Aujourd’hui, avec la pression sur les coûts engendrés par la crise du COVID, les entreprises...

Intelligence Artificielle

Le secteur public est prêt à se saisir de l’IA !

Date icon 12 juin 2020

Pour réaliser un gouvernement numérique potentialisé grâce à l’IA, il est essentiel de...