L'objectif de ce cours est double:
-
Présenter les principes des modèles de réseaux neuronaux profonds, ainsi que les moyens de les implémenter pour résoudre des problèmes de classification et régression.
-
Proposer un apperçu des bases mathématiques des techniques d'apprentissage modernes basée sur ces réseaux.
Le cours commencera avec la propriété d'approximation universelle des réseaux de neurones. Nous verrons ensuite pourquoi la profondeur améliore la capactié des réseaux à donner des apprpoximations précises de fonctions pour un budget de calcul donné.
Des outils permettant de traiter les problèmes d'apprentissages rencontrés dans l'entrainement de ces réseaux sur de grands jeux de données seront proposés, et des éléments de convergence seront discutés.
Finally, des résultats statistiques sur les garantie en généralisation des réseaux de neurones profonds seront présentés, à la fois dans des scénarios (classique) de sous-apprentissage, mais aussi dans le cas de sur-apprentissage conduisant au phénomène de 'double descente'.
