v2.11.0 (5776)

Enseignement scientifique & technique - CSC_4AI07_TP : Introduction to deep learning

Domaine > Image-Données-Signal.

Descriptif

  • Enseignants : Geoffroy Peeters, Stéphane Lathuilière (Telecom Paris, IP-Paris)
  • Abstract : Le Deep Learning (apprentissage automatique basé sur des réseaux de neurones artificiels profonds) est devenu extrêmement populaire ces dernières années en raison des très bons résultats qu'il permet d'obtenir pour des tâches telles que la régression, la classification ou la génération.
  • Objectifs: fournir une compréhension théorique et une utilisation pratique des trois principaux types de réseaux (Multi-Layer-Perceptron, Réseau de neurones récurrents et Réseau de neurones convolutifs) et des prinipaux paradigmes de génération (GAN et VAE) Le contenu de ce cours va du perceptron à la génération d'images adverses.
  • Format :
    • 7 sessions de 3 heures + examen
    • Chaque cours théorique est suivi d'un TP sur le contenu correspondant où les étudiants apprennent à implémenter ces réseaux en utilisant les trois frameworks les plus populaires : pytorch et keras.
  • Notation : examen écrit

Objectifs pédagogiques

A la fin de ce programme, l'étudiant sera capable de

  • comprendre la théorie sous-jacentes aux principales architectures d'apprentissage profond
  • comprendre les différents paradigmes de génération: GAN, VAE
  • programmer ces architectures en python en utilisant les frameworks d'apprentissage profond les plus populaires (pytorch et keras)
  • les appliquer à des problèmes typiques de vision par ordinateur, de NLP ou d'audio tels que la classification, la régression ou la génération.

21 heures en présentiel (14 blocs ou créneaux)
réparties en:
  • Contrôle de connaissance : 2.5
  • Travaux Pratiques : 9
  • Leçon : 12

38.5 heures de travail personnel estimé pour l’étudiant.

Diplôme(s) concerné(s)

Parcours de rattachement

Pour les étudiants du diplôme Echange international non diplomant

  • mathématique: calcul différentiel, matriciel
  • informatique: programmation en python, jupyter notebook

Format des notes

Numérique sur 20

Littérale/grade européen

Pour les étudiants du diplôme Diplôme d'ingénieur

Vos modalités d'acquisition :

  • examen final écrit sur site

L'UE est acquise si Note finale >= 10
  • Crédits ECTS acquis : 2.5 ECTS
  • Crédit d'UE électives acquis : 2.5

La note obtenue rentre dans le calcul de votre GPA.

L'UE est évaluée par les étudiants.

Pour les étudiants du diplôme Echange international non diplomant

Vos modalités d'acquisition :

  • examen final écrit sur site

L'UE est acquise si Note finale >= 10
  • Crédits ECTS acquis : 2.5 ECTS

La note obtenue rentre dans le calcul de votre GPA.

Programme détaillé

  • Cours 1 : de la régression, de la régression à noyau au multicouche-percetron, y compris l'optimisation (SDG, Newton, Momentum, AdaGrad), la régression logistique/softmax, la classification, la rétropropagation, la règle de la chaîne, la régularisation (L1, L2) et les définitions des pertes.
  • Lab 1 : implémentation d'un MLP dans pytorch
  • Cours 2 : Réseau de neurones convolutifs : rétropropagation, pooling, réseaux les plus connus, apprentissage par transfert.
  • Lab 2 : implémentation de CNN dans pytorch
  • **Cours 3 : Modèles génératifs profonds : Génération d'images avec GAN (Déconvolution, DCGAN, Score d'Inception, Wasserstein GAN, Traduction d'image à image, CycleGAN), Génération de vidéos avec GAN (MoCoGAN), Auto-Encoders, VAE
  • Cours 4 : des réseaux neuronaux récurrents aux transformateurs, y compris la rétropropagation à travers le temps, LSTM, applications au NLP.
  • Lab 4: implémentation de RNN dans keras

Mots clés

apprentissage machine, apprentissage profond, intelligence artificielle, logistic regression, multi-layer-perceptron, recurrent-neural-network, transformer, convolutional-neural-network, GAN, VAE

Méthodes pédagogiques

Cours magistral (leçon) + TP
Veuillez patienter