Plan du cours
JOUR 1 - RÉSEAUX DE NEURONES ARTIFICIELS
Introduction et structure des RNN.
- Neurones biologiques et neurones artificiels.
- Modèle d'un RNN.
- Fonctions d'activation utilisées dans les RNN.
- Classes typiques d'architectures de réseaux.
Fondements mathématiques et mécanismes d'apprentissage.
- Rappel de l'algèbre vectorielle et matricielle.
- Concepts d'espace d'état.
- Concepts d'optimisation.
- Apprentissage par correction d'erreur.
- Apprentissage basé sur la mémoire.
- Apprentissage de Hebb.
- Apprentissage compétitif.
Perceptrons à couche unique.
- Structure et apprentissage des perceptrons.
- Classificateur de motifs - introduction et classificateurs bayésiens.
- Le perceptron comme classificateur de motifs.
- Convergence du perceptron.
- Limites d'un perceptron.
RNN en avant (Feedforward).
- Structures des réseaux multicouches en avant.
- Algorithme de rétropropagation.
- Rétropropagation - entraînement et convergence.
- Approximation fonctionnelle par rétropropagation.
- Enjeux pratiques et de conception de l'apprentissage par rétropropagation.
Réseaux à fonctions de base radiale (RBF).
- Séparabilité des motifs et interpolation.
- Théorie de la régularisation.
- Régularisation et réseaux RBF.
- Conception et entraînement des réseaux RBF.
- Propriétés d'approximation des RBF.
Apprentissage compétitif et RNN auto-organisants.
- Procédures de regroupement généralistes.
- Quantification vectorielle d'apprentissage (LVQ).
- Algorithmes et architectures d'apprentissage compétitif.
- Cartes auto-organisatrices de caractéristiques.
- Propriétés des cartes de caractéristiques.
Réseaux de neurones flous.
- Systèmes neuro-flous.
- Fondements des ensembles et de la logique flous.
- Conception de systèmes flous.
- Conception de RNN flous.
Applications
- Quelques exemples d'applications de réseaux de neurones, leurs avantages et leurs problèmes seront discutés.
JOUR 2 - APPRENTISSAGE AUTOMATIQUE
- Cadre d'apprentissage PAC
- Garanties pour un ensemble hypothèses finis – cas cohérent
- Garanties pour un ensemble hypothèses finis – cas incohérent
- Généralités
- Scénarios déterministes vs stochastiques
- Bruit d'erreur bayésienne
- Erreurs d'estimation et d'approximation
- Sélection de modèle
- Complexité de Rademacher et dimension VC
- Compromis biais-variance
- Régularisation
- Surtitrage (Over-fitting)
- Validation
- Machines à vecteurs de support (SVM)
- Kriging (régression à processus gaussien)
- ACP et ACP à noyau
- Cartes auto-organisatrices (SOM)
- Espace vectoriel induit par noyau
- Noyaux de Mercer et métriques de similarité induites par noyau
- Apprentissage par renforcement
JOUR 3 - APPRENTISSAGE PROFOND
Ce module sera enseigné en relation avec les sujets abordés les jours 1 et 2
- Régression logistique et Softmax
- Auto-encodeurs creux
- Vectorisation, ACP et blanchiment
- Auto-apprentissage (Self-Taught Learning)
- Réseaux profonds
- Décodeurs linéaires
- Convolution et pooling
- Encodage creux
- Analyse en composantes indépendantes
- Analyse de corrélation canonique
- Démonstrations et applications
Pré requis
Bonne compréhension des mathématiques.
Bonne compréhension de la statistique de base.
Les compétences en programmation de base ne sont pas requises mais recommandées.
Nos clients témoignent (2)
Travailler à partir des principes fondamentaux de manière concentrée, puis passer à l'application d'études de cas le même jour
Maggie Webb - Department of Jobs, Regions, and Precincts
Formation - Artificial Neural Networks, Machine Learning, Deep Thinking
Traduction automatique
It was very interactive and more relaxed and informal than expected. We covered lots of topics in the time and the trainer was always receptive to talking more in detail or more generally about the topics and how they were related. I feel the training has given me the tools to continue learning as opposed to it being a one off session where learning stops once you've finished which is very important given the scale and complexity of the topic.
Jonathan Blease
Formation - Artificial Neural Networks, Machine Learning, Deep Thinking
Traduction automatique
