Nouvelles

  • Nouvelles
  • Apprentissage automatique, apprentissage biologique

Les neurones ont une forme propice à l’apprentissage profond

by Juanita Bawagan
déc. 5 / 17

Recorded neuron

Image d’un neurone enregistré dans le laboratoire de Blake Richards. (Photo : Blake Richards)

Grâce à l’apprentissage profond, les machines peuvent maintenant « voir » le monde davantage comme le font les humains, et peuvent reconnaître le langage.

Et bien que les chercheurs se soient inspirés du cerveau humain pour concevoir l’apprentissage profond, la question suivante demeure : Le cerveau apprend-il vraiment de cette manière? La réponse pourrait mener à une intelligence artificielle encore plus puissante et percer les mystères de l’intelligence humaine.

Dans une étude publiée aujourd’hui dans eLife, le Boursier principal de l’ICRA Blake Richards et ses collègues ont dévoilé un algorithme qui simule comment fonctionne l’apprentissage profond dans notre cerveau. Le réseau illustre que certains neurones mammaliens ont une forme et des propriétés électriques propices à l’apprentissage profond. De plus, il s’agit d’une illustration plus réaliste sur le plan biologique de la façon dont un cerveau humain pourrait exécuter l’apprentissage profond.

Ces recherches ont été réalisées par Richards et son étudiant diplômé Jordan Guerguiev, à l’Université de Toronto à Scarborough, en collaboration avec Timothy Lillicrap de Google DeepMind. Leur algorithme se fonde sur les neurones du néocortex qui est responsable de la réflexion d’ordre supérieur.« La plupart de ces neurones ont la forme d’un arbre, avec des “racines” profondes dans le cerveau et des “branches” près de la surface », dit Richards.

« Il est intéressant de noter que les racines reçoivent un ensemble d’intrants différent de celui que reçoivent les branches qui se trouvent tout en haut de l’arbre. »Grâce à ces connaissances sur la structure des neurones, Richards et Guerguiev ont conçu un modèle qui recevait aussi des signaux dans des compartiments isolés. Ces sections ont permis aux neurones simulés appartenant à des couches différentes de collaborer et d’exécuter l’apprentissage profond.« Il ne s’agit que d’un ensemble de simulations, alors on ne peut pas savoir exactement ce que fait notre cerveau, mais c’est suffisamment révélateur pour justifier d’autres expériences afin de voir si notre cerveau utilise le même genre d’algorithmes que ceux utilisés en intelligence artificielle », dit Richards.

Neuron outline

Illustration d’un modèle de réseau neuronal à multiples compartiments pour l’apprentissage profond. Gauche : Reconstruction de neurones pyramidaux du cortex visuel primaire d’une souris. Droite : Illustration de modèles simplifiés de neurones pyramidaux.

Cette idée de recherche remonte aux travaux des pionniers de l’intelligence artificielle que sont Geoffrey Hinton, Membre distingué de l’ICRA et fondateur du programme Apprentissage automatique, apprentissage biologique, et Yoshua Bengio, codirecteur du programme, et constitue la motivation principale de la création du programme. Ces chercheurs ont souhaité non seulement développer l’intelligence artificielle, mais aussi comprendre le mécanisme d’apprentissage du cerveau humain, dit Richards.

Au début des années 2000, Richards et Lillicrap ont suivi un cours avec Hinton à l’Université de Toronto et étaient convaincus que les modèles d’apprentissage profond captaient « quelque chose de véritable » sur le fonctionnement du cerveau humain. À l’époque, la mise à l’essai de cette idée comportait plusieurs défis. D’abord, on ne savait pas vraiment si les compétences de l’apprentissage profond pouvaient être à la hauteur des compétences humaines. Ensuite, les algorithmes allaient à l’encontre de faits biologiques prouvés par des neuroscientifiques.

Maintenant, Richards et un certain nombre de chercheurs cherchent à combler l’écart entre la neuroscience et l’intelligence artificielle. Cet article mise sur des recherches du laboratoire de Bengio sur une façon plus plausible sur le plan biologique de former des réseaux neuronaux et sur un algorithme conçu par Lillicrap qui assouplit davantage certaines des règles dictant l’entraînement des réseaux neuronaux. L’article incorpore aussi des recherches de Matthew Larkam sur la structure des neurones dans le néocortex. En associant les connaissances neurologiques et les algorithmes existants, l’équipe de Richards a réussi à créer un algorithme plus réaliste et meilleur qui simule l’apprentissage cérébral.

Les neurones arborescents du néocortex ne sont que l’un de plusieurs types de cellules dans le cerveau. Selon Richards, les recherches futures devraient modéliser différentes cellules cérébrales et examiner comment celles-ci pourraient interagir pour réaliser l’apprentissage profond. À long terme, il espère que les chercheurs pourront surmonter certains défis de taille, comme d’élucider comment apprendre par l’expérience sans rétroaction.«

Dans la prochaine décennie, il pourrait se créer un cycle vertueux de recherche entre la neuroscience et l’intelligence artificielle, où des découvertes en neuroscience nous aideraient à faire avancer l’intelligence artificielle et où l’intelligence artificielle pourrait nous aider à interpréter et à comprendre les données expérimentales issues des neurosciences », dit Richards.


L’article « Towards deep learning with segregated dendrites » a été publié dans eLife le 5 décembre.