A l'issue de cette formation, vous serez capable de :

• Décrire les concepts de Machine Learning et l'évolution vers le Deep Learning (réseaux de neurones profonds)
• Identifier les briques de base du Deep Learning : réseaux de neurones simples, convolutifs et récursifs
• Définir les modèles plus avancés : auto-encodeurs, GAN (Generative Adversarial Network), apprentissage par renforcement
• Utiliser les bases théoriques et pratiques d'architecture et de convergence de réseaux de neurones
• Appliquer les méthodologies de mise en place de réseaux de neurones, les points forts et les limites de ces outils.

Jour 1 - Matin

Introduction au Deep Learning

• Définition et vocabulaire
• Process pour entraîner un modèle

Exemple de travaux pratiques (à titre indicatif)

• Préparation de l'environnement

Fonctionnement d'un réseau de neurones

• Rappel de bases mathématiques
• Le réseau de neurones
• Architecture, fonctions d'activation et de pondération des activations précédentes...
• L'apprentissage d'un réseau de neurones
• Fonctions de coût, backpropagation, Stochastic gradient descent...
• Modélisation d'un réseau de neurones
• Modélisation des données d'entrée et de sortie selon le type de problème
• Appréhender une fonction et une distribution par un réseau de neurones
• Data Augmentation
• Comment équilibrer un dataset ?
• Généralisation des résultats d'un réseau de neurones
• Initialisations et régularisations d'un réseau de neurones
• L1 / L2 Regularization, Batch normalization
• Optimisations et algorithmes de convergence

Jour 1 - Après-midi

Gestion d'un projet de Deep Learning

• Choix des architectures existantes
• Gestion du biais-variance
• Problématique du surapprentissage
• Accélérer l'apprentissage

Deep Learning : pour quels cas ?

• Les limites du Machine Learning classique
• Quand le Deep Learning devient pertinent ?
• Quand faut-il éviter d'avoir recours au Deep Learning ?

Jour 2 - Matin

Outils de développement du Deep Learning

• Frameworks haut niveau
• PyTorch, Keras, Lasagne
• Frameworks bas niveau
• Theano, Torch, Caffe, TensorFlow

Exemples de travaux pratiques (à titre indicatif)

• Applications et limites des outils présentés

Jour 2 - Après-midi

CNN (Convolutional Neural Network)

• Présentation des CNN
• Principes fondamentaux et applications
• Les différents types de convolution
• Stride, Padding, 3D
• Les couches convolutives et les couches de pooling
• Apprentissage : la rétropropagation convolutive

Exemple de travaux pratiques (à titre indicatif)

• Utilisation de CNN dans le cadre du traitement de l'image

Jour 3 - Matin

RNN (Recurrent Neural Network)

• Présentation des RNN
• Principes fondamentaux et applications
• Les différentes cellules neuronales
• GRU et LSTM
• Apprentissage : la rétropropagation dans le temps

Exemples de travaux pratiques (à titre indicatif)

• Entraîner et évaluer un modèle pour classifier du texte

Jour 3 - Après-midi

Deep RL (Deep Reinforcement Learning)

• Les auto-encodeurs
• Représentation sémantique des mots
• Interpolation et extrapolation

Exemples de travaux pratiques (à titre indicatif)

• Deepfake, falsification et anonymisation