Deep learning - niveau expert : maîtriser sa mise en oeuvre

• Comprendre et maîtriser les principes fondamentaux du Deep Learning et des réseaux de neurones
• Appliquer les techniques de Deep Learning pour la construction de modèles de réseaux de neurones simples, convolutifs et récursifs
• Analyser et interpréter les modèles avancés de Deep Learning tels que les auto-encodeurs, les GANs et l'apprentissage par renforcement
• Développer des compétences pour le déploiement efficace des modèles de Deep Learning dans différents environnements
• Évaluer les performances des modèles de Deep Learning et optimiser leur efficacité à travers des techniques appropriées.

1. INTRODUCTION AU DEEP LEARNING

• L'évolution et l'importance du Deep Learning
• Chronologie du Deep Learning
• Comprendre ce que les machines peuvent apprendre

2. LES BASES DES RÉSEAUX DE NEURONES

• Le perceptron et le perceptron multicouche
• L'entraînement d'un perceptron
• Principes de la rétropropagation
• Les optimiseurs du Deep Learning
• La régularisation des réseaux de neurones
• Techniques de réglage des réseaux de neurones
• Pratique : mise en œuvre d'un perceptron multicouche

3. LES RÉSEAUX DE NEURONES CONVOLUTIFS (CNNs)

• L'intérêt des CNNs
• Fonctionnement des CNNs
• Les champs de réception locaux et les poids partagés
• Notions de convolution et de sous-échantillonnage
• Les CNNs très profonds (DCNNs)
• Modèles et architectures CNNs
• L'apprentissage par transfert (Transfer Learning)
• Mise en pratique : mise en œuvre de CNNs pour la reconnaissance d'objets

4. LES RÉSEAUX DE NEURONES AUTO-ENCODEURS ET VARIATIONNELS (AEs et VAEs)

• Principes de fonctionnement des AEs et VAEs
• Les fonctions d'encodage/décodage et l'opération de déconvolution
• Utilités des auto-encodeurs et modes d'apprentissage
• Mise en pratique : développement et application d'auto-encodeurs pour le débruitage et la génération de variations de données

5. LES RÉSEAUX ANTAGONISTES GÉNÉRATIFS (GANs)

• L'exemple des Deep Fake Faces
• Taxonomie des modèles génératifs
• Les GANs : fonctionnement, intérêts et problématiques
• Les GANS convolutionnels profonds type DCGANs
• Mise en pratique : mise en œuvre de GANs pour la génération d'images

6. LES RÉSEAUX DE NEURONES SÉQUENTIELS (RNNs, Transformers, etc.)

• Introduction aux réseaux neuronaux récursifs simples
• Les différentes topologies des RNNs
• Les variantes LSTM des RNNs et autres variantes
• Le Traitement de très longues séquences
• Les approches encodeur - décodeur
• L’architecture des Transformers
• Mise en pratique : construction d'un agent conversationnel avec un modèle Transformer

7. LES RÉSEAUX DE NEURONES PROFONDS AUTO-APPRENANTS

• L'apprentissage profond par renforcement (DRL)
• Les algorithmes profonds basés sur la valeur
• Les méthodes types de gradient de la politique
• Les algorithmes mixtes
• Mise en pratique : mise en œuvre de réseaux d'apprentissage par renforcement

8. LES MODÈLES MASSIFS

• Une loi d’échelle fondamentale en Deep Learning
• Évolution des Large Language Models (LLMs)
• L’architecture des modèles BERT et GPT
• L’apprentissage non supervisé avec DALL-E
• Modèles multi-modaux (texte + image)