Search
  • Nouvelles

Un atelier IA et société explore les risque de l’IA sur les enfants

by Krista Davidson
avr. 30 / 19

Un atelier Intelligence artificielle et société du CIFAR explorera comment l’IA peut façonner le développement des enfants et ce qui doit être mis en œuvre pour atténuer les risques potentiels et ouvrir de nouvelles perspectives aux enfants qui grandissent à l’ère numérique.

Les jeunes représentent un tiers des internautes, et l’IA et les technologies numériques pourraient avoir des effets importants sur leur développement. Cependant, peu de recherches sont consacrées à cette question.

_RM14457-3378713569-O (2)« Au cours de la dernière décennie, mon équipe a suivi l’usage que faisaient des adolescents de leurs appareils mobiles et a été témoin de la croissance rapide de l’utilisation des appareils, du temps d’écran et de l’engagement en ligne. En même temps, nous avons constaté que les préoccupations concernant les effets de cette connectivité constante sur la santé des jeunes ne cessent de croître », mentionne Candice Odgers, codirectrice du programme Développement du cerveau et de l’enfant du CIFAR et psychologue du développement à l’Université de Californie à Irvine.

Elle dirigera l’atelier Génération IA : Réduire l’inégalité et améliorer l’inclusion numérique par la conception intelligente et la science du développement, qui regroupera des chercheurs internationaux spécialisés dans différents domaines, dont l’apprentissage automatique, la pédiatrie et la psychologie.

Les membres de l’équipe comprennent également Anna Goldenberg (Institut Vecteur, Université de Toronto, SickKids), Ronald Dahl (Université de Californie à Berkley) et Mizuko Ito (Université de Californie à Irvine).

L’un des champs d’intérêt de l’équipe est l’utilisation des algorithmes dans le contenu en ligne offert aux enfants. Les enfants qui grandissent dans des contextes familiaux et des quartiers différents peuvent être exposés à des contenus distincts et moins appropriés pouvant avoir des répercussions sur leur développement éducatif ou social, surtout lorsque les adultes surveillent moins leurs activités en ligne.

« Comment les algorithmes évaluent-ils et utilisent-ils l’information sur l’enfant, son code postal et les habitudes d’écoute et d’achat de sa famille ? se demande Candice Odgers. Les algorithmes de personnalisation sont conçus pour optimiser le temps passé en ligne à des fins publicitaires et non pas en fonction des besoins de développement ou d’apprentissage des enfants. »

Elle espère que l’atelier permettra d’établir de nouveaux partenariats entre les chercheurs, les entreprises technologiques et d’autres intervenants clés afin de corriger cette situation. « Pouvons-nous créer de meilleurs algorithmes qui offrent des chances égales d’apprentissage, protègent la vie privée et élargissent les possibilités des jeunes, quel que soit leur revenu familial ou leur code postal ? »    

L’équipe se concentre également sur l’élaboration de cadres de travail en vue de soutenir les droits des enfants et les droits algorithmiques à l’ère numérique. L’objectif est d’assurer un accès équitable aux ressources, aux programmes de développement des compétences et aux possibilités en ligne tout en protégeant les droits des enfants qui sont trop jeunes pour donner leur consentement ou comprendre la signification du consentement.

Les algorithmes de personnalisation sont conçus pour optimiser le temps passé en ligne à des fins publicitaires et non pas en fonction des besoins de développement ou d’apprentissage des enfants.

« L’atelier Génération IA reconnaît qu’Internet n’a pas été créé pour les enfants, mais cinq enfants sur sept l’utilisent », précise Anna Goldengerg, boursière du programme Développement du cerveau et de l’enfant du CIFAR, membre du corps professoral de l’Institut Vecteur et titulaire de la chaire de la famille Varma en bio-informatique médicale et en intelligence artificielle de SickKids.

« D’une certaine façon, les enfants constituent une population vulnérable parce qu’ils ne sont pas en mesure de donner leur consentement sur Internet. Ils dépendent des décisions des autres, ajoute-t-elle. Nous voulons voir comment cela les touche au fil de leur développement et si cela crée des disparités ou accentue celles qui existent déjà. Que pouvons-nous faire en tant que société pour réduire ces effets ? »

L’atelier examinera également l’utilisation des données sur les enfants par le système de santé. Des ensembles de données robustes sont nécessaires pour élaborer des traitements pour les enfants, mais l’information sur leur santé est souvent incomplète. Bien que cela soit également le cas pour les adultes, le problème est encore plus grave chez les enfants. L’atelier explorera des solutions pour partager des données entre différentes autorités et élaborer de meilleurs algorithmes afin de soutenir la santé des enfants tout en respectant leur vie privée.

Génération IA est l’un des quatre ateliers organisés dans le cadre du premier appel de propositions du programme IA et société du CIFAR. Ce programme vise à examiner les répercussions de l’IA sur la société, notamment sur les plans économique, politique, philosophie et juridique.

Les ateliers sont conçus pour offrir aux équipes de recherche interdisciplinaire un financement par projets qui leur permet d’explorer des sujets fondamentaux et importants pour l’IA et la société. Le premier atelier Génération IA se tiendra au Forum économique mondial, les 6 et 7 mai, et réunira des intervenants clés comme l’UNICEF, LEGO, YouTube Kids et le MIT Media Lab afin de déterminer et de définir les domaines de recherche prioritaires.

Autres ressources :
Algorithmic Rights and Protections for Children
Optimize Algorithms to Support Kids Online, Not Exploit Them