Objectifs pédagogiques

Acquis d'apprentissage
À l'issue de l'UE, l'élève sera capable de:
- Calculate the gradient of the loss of a generalized linear model.
- Manipulate convex inequalities in order to prove the convergence of an algorithm.
- Identify the properties of an optimization problem in order to choose an appropriate resolution method.
- Reformulate an optimization problem using Lagrangian duality
- Implement an optimization algorithm using a closed form gradient or automatic differentiation.

Compétences de rattachement (et justification)
- BC5.3 – Structurer, dimensionner un système de traitement de données, d’intelligence artificielle, d’apprentissage machine dans un objectif d’aide à la décision ou de recherche automatique d’information; Justification : Design choices have a direct impact on the type of algorithm that can be used and the computing cost associated to their resolution.
- BC1.5 – Réaliser un système complexe en mettant en œuvre les solutions technologiques nécessaires, en s’appuyant sur les ressources humaines, techniques, matérielles disponibles en faisant preuve de rigueur, d’esprit critique et d’adaptabilité; Justification : Complex systems often have many parameters that need to be set using available data. The size of these optimization problems may require dedicated solutions that are taught in this course.
- BC5.1 – Modéliser mathématiquement une situation, des données, des phénomènes physiques dans le contexte du numérique; Justification : Minimizing a fitting error is the most natural way to incorporate data within a model that uses prior knowledge.