L’intelligence artificielle dans l’Education

Une autre préoccupation concerne les droits des enfants à l’ère des algorithmes, notamment la protection des enfants contre la discrimination fondée sur la race, l’origine ethnique, le sexe ou le statut économique. À ce jour, par exemple, il existe une ségrégation scolaire et une iniquité éducative concomitante aux États-Unis en raison de secteurs ethniquement concentrés. Si l’on considère que la réussite scolaire est positivement liée à la performance professionnelle, un algorithme entraîné en utilisant uniquement des données sur l’emplacement des lycées pourrait attribuer un rang élevé à moins d’élèves de couleur et ne pas identifier les élèves très performants malgré la fréquentation d’une école moins favorisée (Darling-Hammond, 2018). Dans ce cas, le biais racial dans les systèmes d’IA affecte négativement l’avenir des élèves issus de minorités qui fréquentent des écoles académiquement faibles.

Enfin, l’éthique, la transparence de la collecte des données et, surtout, la protection des données et de la vie privée des enfants doit être au cœur des préoccupations. L’accès aux systèmes éducatifs et les concentrations d’informations personnelles sur les élèves et les enseignants, notamment les adresses et les résultats scolaires, pourraient accroître le risque de cybercriminalité et conduire à une utilisation abusive des données. L’exploitation de l’IA et des données devra aller de pair avec une stratégie de résilience contre les cyberattaques.

Le dernier défi, comme dans d’autres secteurs où l’humain est clé, est d’établir une relation durable entre les humains et la technologie. Les enseignants, ainsi que les élèves, doivent être préparés aux applications de l’IA dans les écoles afin d’utiliser cette technologie de manière bénéfique. Du point de vue du développement, les pays et les régions dont les capacités techniques sont moins solides rencontreront des difficultés accrues lors de l’adoption de ces solutions intelligentes dans l’enseignement. En outre, une IA fiable implique l’implication de tous les acteurs dans une phase précoce du projet, avec des ateliers et une gestion du changement.