Apprentissage probablement approximativement correct, dimension de Vapnik et Chervonenkis et minimisation du risque empirique. La minimisation du risque structurel et la longueur de description minimale. Les arbres de décision, les classificateurs premiers voisins, les classificateurs linéaires, le « Boosting », la régression logistique et les moindres carrés. La minimisation du risque régularisé et la régularisation de Tikhonov.
Les problèmes d'apprentissage convexes et la descente de gradient stochastique. Les méthodes à noyaux et les machines à vecteurs de support (SVM). Les classificateurs multiclasses, la prédiction de sorties structurées et l'apprentissage d'ordonnancement. Les réseaux de neurones et l'algorithme de la rétropropagation du gradient de l'erreur.
