Ma situation

Je travaille en tant que post-doctorant au sein du projet IMPACT , pour "Intelligent Machine Perception Project", au České vysoké učení technické v Praze, ou Université technique de Prague, en Français.
Mon travail porte sur la construction et la justification d'algorithmes d'optimisation stochastiques appliqués à des systèmes d'apprentissage profond.

Dans le cadre de mon contrat, je suis amené à effectuer des séjours à INRIA Paris.

Contact : pierre-yves.masse [at] lri.fr


Publications

Avec Yann Ollivier. Version sur HAL, et sur arxiv. Le lecteur trouvera plus de détails ici, en Anglais uniquement pour le moment.
Nous démontrons la convergence de plusieurs algorithmes d'apprentissage en temps réel, appliqués à des systèmes récurrents, tels que les réseaux de neurones récurrents. Il s'agit notamment de l'algorithme apprentissage récurrent en temps réel (RTRL en Anglais), de la rétro-propagation dans le temps tronquée (TBPTT) sur des intervalles de temps bien choisis, ainsi que des approximations de faible rang, probabilistes, de RTRL No Back Track et UORO. Nous prouvons également la convergence d'algorithmes adaptatifs tels que Adam. Comme nous prouvons la convergence à partir d'un ensemble général d'hypothèses appliquéees à un modèle abstrait d'un algorithme d'entraînement, notre cadre d'étude peut couvrir d'autres variantes des algorithmes considérés.

2015. "Speed learning on the fly",pré-publication.

Avec Yann Ollivier. Version sur arxiv.
Nous décrivons un algorithme de mise au point adaptative, et en temps réel, du pas de descente d'une descente de gradient, construit par Yann Ollivier. Nous testons l'algorithme sur des modèles synthétiques.

Avec William Meiniel. Version sur le site du JNPS, et version sur arxiv.
Nous établissons l'existence d'ensembles de confiance adaptatifs dans un modèle de régression non paramétrique à abscisses fixées. Nous établissons également l'existence d'estimateurs adaptatifs pour la régression.

Manuscrit.
Le manuscrit contient les preuves de convergence des algorithmes "Real Time Recurrent Learning" et "No Back Track", ainsi que l'article "Speed learning on the fly".

Haut de page


Mon cursus

2018- Post-Doctorat. Projet IMPACT, České vysoké učení technické v Praze, Prague.
2014-2017. Doctorat en Mathématiques et Informatique, sous la direction de Yann Ollivier. Laboratoire de Recherche en Informatique, Université Paris-Sud, Orsay.
2012-2013. Master Probabilités et Modèles Aléatoires, Université Pierre et Marie Curie, Paris.
2010-2014. Études. Département de Mathématiques, École Nationale Supérieure de Cachan (ENS Cachan), Cachan.

Haut de page