Introduction — Expliquer ou prévoir : deux objectifs distincts

Calculatrice interactive — Apprentissage statistique

1. Erreur réductible et irréductible

Erreur totale

Bruit irréductible $\sigma^2$

2. Découper une base en apprentissage / validation / test

Taille totale $n$

% apprentissage

% validation

% test

3. Diagnostiquer sous-ajustement / sur-ajustement

Erreur d'apprentissage

Erreur de test

Rappels : $\text{EQM}=\text{biais}^2+\text{variance}+\sigma^2$, où $\sigma^2$ fixe une limite infranchissable ; un écart important entre erreur de test et erreur d'apprentissage signale un sur-ajustement, un écart faible avec deux erreurs élevées signale un sous-ajustement ; découper d'abord, normaliser ensuite, pour éviter toute fuite de données.