L’intelligence artificielle dans l’Education

Les défis à relever en matière d’éthique et de transparence

Publish date:

Dans leur quête d’amélioration de l’éducation grâce à l’intelligence artificielle, la société doit s’emparer du sujet pour déterminer où commence et où s’arrête cette technologie.

En effet, des feuilles de route concrètes doivent encore être établies en ce qui concerne la protection des données, de la vie privée et des droits numériques des enfants, et il sera très important de réfléchir à la manière de réduire la fracture numérique mondiale pour faciliter l’égalité d’accès aux avantages des applications de l’IA.

Une autre préoccupation concerne les droits des enfants à l’ère des algorithmes, notamment la protection des enfants contre la discrimination fondée sur la race, l’origine ethnique, le sexe ou le statut économique. À ce jour, par exemple, il existe une ségrégation scolaire et une iniquité éducative concomitante aux États-Unis en raison de secteurs ethniquement concentrés. Si l’on considère que la réussite scolaire est positivement liée à la performance professionnelle, un algorithme entraîné en utilisant uniquement des données sur l’emplacement des lycées pourrait attribuer un rang élevé à moins d’élèves de couleur et ne pas identifier les élèves très performants malgré la fréquentation d’une école moins favorisée (Darling-Hammond, 2018). Dans ce cas, le biais racial dans les systèmes d’IA affecte négativement l’avenir des élèves issus de minorités qui fréquentent des écoles académiquement faibles.

Enfin, l’éthique, la transparence de la collecte des données et, surtout, la protection des données et de la vie privée des enfants doit être au cœur des préoccupations. L’accès aux systèmes éducatifs et les concentrations d’informations personnelles sur les élèves et les enseignants, notamment les adresses et les résultats scolaires, pourraient accroître le risque de cybercriminalité et conduire à une utilisation abusive des données. L’exploitation de l’IA et des données devra aller de pair avec une stratégie de résilience contre les cyberattaques.

Le dernier défi, comme dans d’autres secteurs où l’humain est clé, est d’établir une relation durable entre les humains et la technologie. Les enseignants, ainsi que les élèves, doivent être préparés aux applications de l’IA dans les écoles afin d’utiliser cette technologie de manière bénéfique. Du point de vue du développement, les pays et les régions dont les capacités techniques sont moins solides rencontreront des difficultés accrues lors de l’adoption de ces solutions intelligentes dans l’enseignement. En outre, une IA fiable implique l’implication de tous les acteurs dans une phase précoce du projet, avec des ateliers et une gestion du changement.

Articles associés

éducation

La responsabilité éducative des entreprises

Jean-Baptiste Perrin
Date icon 8 septembre 2021

Dans quelle mesure l’éducation peut-elle relever de la responsabilité des entreprises ?

éducation

Vers un self data de l’éducation, pour des élèves maitres de leurs parcours

Jean-Baptiste Perrin
Date icon 27 juillet 2021

Ces dernières années, le numérique a transformé notre économie et notre société faisant...

éducation

Comment l’IA se met au service de l’éducation ?

Date icon 28 mai 2021

A l’occasion d’Explor’IA, l’événement organisé par le collectif Impact AI, nous publions une...