L’éthique de l’IA au coeur de votre stratégie

Les consommateurs ont déjà de fortes attentes à son égard et souhaitent que les organisations l’utilisent de façon éthique. Comment les entreprises répondent-elles à cette demande ?

L’étude du Capgemini Research Institute, « Why addressing ethical questions in AI will benefit organizations », a été menée auprès de 1 580 dirigeants de grandes entreprises dans dix pays et auprès de plus de 4 400 consommateurs dans six pays. En voici les principales conclusions :

Les entreprises qui utilisent l’IA de façon éthique seront récompensées : Parmi les consommateurs interrogés, 62% feraient davantage confiance à une entreprise dont l’utilisation de l’IA est considérée éthique

Des problèmes éthiques engendrés par des systèmes IA ont été constatés : Parmi les organisations interrogées, 9 dirigeants sur 10 estiment que des problèmes d’ordre éthique ont résulté de l’utilisation de l’IA au cours des 2 ou 3 dernières années.

Consommateurs, employés et citoyens se disent inquiets vis-à-vis des questions éthiques liées à l’IA et demandent une certaine forme de réglementation : Près de la moitié des personnes interrogées (47%) estiment qu’elles ont vécu au moins deux cas d’utilisation de l’IA ayant entraîné des problèmes d’ordre éthique au cours des 2 ou 3 dernières années.

Les organisations commencent à prendre conscience de l’importance d’une IA éthique : 51 % des dirigeants considèrent qu’il est important de veiller à ce que les systèmes d’IA soient éthiques et transparents.

Les organisations doivent privilégier une stratégie IA éthique afin de répondre aux préoccupations des consommateurs et accroître leur confiance vis-à-vis de l’utilisation éthique de l’IA.

Comment adresser la question de l’éthique dans l’IA ?

1. Pour les dirigeants, chefs d’entreprise et tous ceux qui ont un devoir de confiance et d’éthique : Établir une base solide avec une stratégie et un code de conduite pour une IA éthique ; élaborer des politiques qui définissent les pratiques acceptables pour les employés et les applications d’IA ; créer des structures de gouvernance de l’éthique et assurer la responsabilité des systèmes d’IA ; et constituer des équipes diversifiées pour assurer la sensibilité à l’ensemble des questions éthiques.
2. Pour les équipes en contact avec les clients et les employés, telles les RH, le marketing, la communication et le service client : Assurer l’utilisation éthique des applications IA ; éduquer et informer les utilisateurs afin qu’ils aient confiance dans les systèmes IA ; donner aux utilisateurs plus de contrôle et la possibilité d’exercer des recours ; et communiquer de façon proactive sur les questions d’IA en interne et à l’externe afin de renforcer la confiance.
3. Pour les responsables de l’intelligence artificielle, des données et de l’informatique et leurs équipes : Chercher à rendre les systèmes IA aussi transparents et compréhensibles que possible pour gagner la confiance des utilisateurs ; pratiquer une bonne gestion des données et atténuer les mauvaises interprétations potentielles des données ; surveillance continue pour garantir la précision et l’exactitude ; et utiliser les outils technologiques qui permettent d’intégrer l’éthique dans les systèmes IA.

La presse en parle

05/07/2019, Décideo : « Les organisations doivent faire preuve d’initiative en matière d’intelligence artificielle pour fidéliser et gagner la confiance du consommateur »
08/07/2019, Mindfintech : « L’IA va monter en puissance dans les programmes de lutte contre la fraude »
08/07/2019, Global Security Mag : « L’utilisation de l’IA pour la détection de la fraude devrait tripler d’ici 2021 »
09/07/2019, Maddyness : « Faut-il encadrer l’intelligence artificielle pour la rendre éthique ? »

Trust is something very difficult to gain and very easy to lose. But a classic way of gaining trust, with AI interactions in particular, can be summarized in three words: transparency, accountability, and empowerment. That means transparency so that people can see what you are doing; accountability because you take responsibility for what you are doing, and empowerment because you put people in charge to tell you if something you did was not right or not good.

Luciano Floridi, professor of Philosophy and Ethics of Information and director of Digital Ethics Lab, Oxford Internet Institute, University of Oxford3

If a data science team is working on a machine learning project that will be affecting humans, I think that they have both ethical and commercial responsibility to do basic disparate impact analysis.”

Patrick Hall, senior director of Product, H20

Today, we don’t really have a way of evaluating the ethical impact of an AI product or service.

Marija Slavkovik, associate professor at University of Bregen

Experts

Jerome Buvat

Expert in Digital Transformation & Strategy, Strategy & Transformation

Capgemini

Sébastien Guibert

Directeur du Centre d’Excellence Intelligence Artificielle

Capgemini