Search
  • Article de fond
  • Apprentissage automatique, apprentissage biologique

Les travaux de Geoff Hinton révolutionnent l’apprentissage automatique

by CIFAR déc. 17 / 12

En octobre dernier, Rich Rashid, directeur de la recherche chez Microsoft, a fait la démonstration d’un nouveau logiciel de reconnaissance de la voix à un auditoire bondé à Tianjin, en Chine.

Au fil de son allocution, un ordinateur diffusait ses mots en anglais sur un écran et en chinois, sur un autre. Rashid a ensuite fait une pause le temps que l’ordinateur traduise ce qu’il venait de dire et le répète en chinois, tout en imitant le son de sa voix. La foule a réagi avec euphorie à cette démonstration.

Artificial-Intelligence-web1-300x167
Intelligence artificielle. IMAGE: Shutterstock

La technologie mise en vedette par Rashid découle d’une percée dans les réseaux neuronaux profonds, un domaine de l’apprentissage automatique ou intelligence artificielle, réalisée par le Boursier de l’ICRA Geoff Hinton (Université de Toronto) et son équipe de chercheurs. Les travaux de l’équipe entraînent des améliorations importantes dans de nombreux domaines : vision artificielle, reconnaissance de la parole et extraction de données. Des géants mondiaux de la technologie, comme IBM, Microsoft et Google adoptent maintenant le plus clair de ces recherches. Une avancée récente dans la capacité des réseaux neuronaux profonds, ou apprentissage profond, suscite l’attention de par le monde; le New York Times a d’ailleurs publié un article de fond à la une sur le sujet en novembre dernier.

Dans les années 1980, le Dr Hinton a été l’un des premiers à démontrer qu’il était possible de « former » des réseaux neuronaux profonds pour que l’ordinateur puisse accumuler de l’information et apprendre à reconnaître des motifs, comme des styles d’écriture, des images ou des sons. Qualifiés de « neuronaux », ces réseaux créés à l’aide d’algorithmes informatiques tirent leur inspiration dans les structures à multiples niveaux du cerveau humain.

En 2006, le Dr Hinton a projeté cette idée à un tout autre niveau grâce à sa percée en apprentissage profond. Dans un article publié dans la revue Science, le Dr Hinton et son équipe ont introduit une nouvelle technique de formation des ordinateurs pour qu’ils s’enseignent eux-mêmes sans supervision. L’apprentissage profond a amélioré la reconnaissance des motifs de façon significative et selon Rich Rashid, « ce changement, cette percée particulière a augmenté le taux de reconnaissance d’environ 30 pour cent. C’est gros. »

La puissance de traitement des ordinateurs a augmenté en parallèle avec l’amélioration des techniques. « Il devait arriver un moment où les modèles d’apprentissage profond amélioreraient la reconnaissance de la parole, dit le Dr Hinton. Nous avons pu tirer profit de la rapidité croissante des ordinateurs qui nous a permis de faire un meilleur travail que ce qui avait été fait avec les modèles antérieurs. »

La décision du Dr Hinton de ne pas breveter la technologie a contribué à encourager d’autres scientifiques à explorer l’apprentissage profond et a accru l’enthousiasme généralisé pour les sociétés de haute technologie. En plus de la nouvelle technologie de reconnaissance de la parole dont Microsoft tire maintenant profit, Google aussi tire profit des travaux du Dr Hinton, car il utilise les réseaux neuronaux profonds pour la fonction de recherche vocale du système d’exploitation Android 4.1. De même, la technologie est bien installée dans les laboratoires sur la parole d’IBM, un chef de file de longue date dans le domaine.

Les répercussions de l’apprentissage profond sont encore plus vastes quand on songe aux possibilités qu’il recèle pour la gestion de grands ensembles de données. En octobre 2012, un groupe d’étudiants diplômés du Dr Hinton a remporté la première place dans un concours commandité par la société pharmaceutique Merck visant à contribuer à la conception d’un logiciel identifiant les molécules qui ont la plus grande probabilité d’être des agents thérapeutiques efficaces. L’équipe a profité de ce concours pour démontrer qu’il est possible d’utiliser les modèles de réseaux neuronaux profonds pour accroître la précision de la reconnaissance de motifs même dans des domaines comme les soins de santé.

Le programme Apprentissage automatique, apprentissage biologique (anciennement connu sous le nom ‘Calcul neuronal et perception adaptative révolutionne’) de l’ICRA est un joueur important dans ce nouveau domaine. « Depuis dix ans, mon groupe principal de pairs provient du programme de l’ICRA et, grâce à ce groupe, nous avons accéléré le développement de l’apprentissage profond de plusieurs années, ce qui est extrêmement précieux pour nombre de gens », dit le Dr Hinton.