Apprentissage statistique

Interpréter un modèle de prévision

Apprentissage statistique

Apprentissage statistique

Chapitre 11 : Interpréter un modèle de prévision

Auteur·rice
Affiliation

Jaouad Madkour

Faculté d’Économie et de Gestion de Tanger

Date de publication

25 septembre 2026

Pourquoi interpréter

Trois raisons, de nature différente

Ce qui rend l’interprétation nécessaire
  1. Réglementaire — un refus de crédit doit être motivé auprès du client et du superviseur.
  2. Technique — comprendre un modèle est le seul moyen de repérer une fuite de données ou un biais.
  3. Confiance — un modèle qu’on ne comprend pas ne sera pas adopté par ceux qui doivent s’en servir.
Un usage souvent oublié

La deuxième raison est la plus négligée et la plus utile au quotidien.

Un modèle qui accorde une importance démesurée à une variable improbable signale presque toujours un problème dans les données — pas un phénomène économique.

Les méthodes globales

Ce que le modèle fait dans l’ensemble

L’importance par permutation

Mélanger au hasard les valeurs d’une variable et mesurer la dégradation de la performance.

Si la performance chute, la variable comptait. Si rien ne bouge, elle ne servait pas.

Ses deux limites
  1. Variables corrélées — permuter l’une laisse l’information disponible via l’autre : les deux paraissent inutiles.
  2. Combinaisons impossibles — la permutation crée des observations irréalistes, comme un revenu élevé avec un encours nul.
Les graphiques de dépendance partielle

Ils montrent comment la prédiction moyenne évolue quand une variable varie, les autres étant maintenues.

Ils révèlent la forme de la relation — linéaire, en seuil, non monotone — que l’importance seule ne dit pas.

Une découverte typique

Sur un modèle de crédit, la dépendance partielle de l’âge montre souvent un risque élevé aux deux extrémités et faible au milieu.

Aucun modèle linéaire n’aurait capté cette forme sans qu’on la spécifie. La lire permet à la fois de valider le modèle et de comprendre le phénomène.

Les méthodes locales

Expliquer une décision individuelle

Le besoin

Les méthodes globales décrivent le modèle. Elles ne disent pas pourquoi ce dossier-ci a été refusé — qui est la question du client.

Deux approches

LIME — approcher localement le modèle par un modèle simple, autour de l’observation à expliquer.

Valeurs de Shapley — répartir l’écart entre la prédiction et la moyenne entre les variables, selon une règle issue de la théorie des jeux.

Une explication de refus

Exemple
Variable Contribution
Prédiction moyenne 0{,}10
Endettement élevé +0{,}22
Ancienneté faible +0{,}13
Revenu correct -0{,}05
Probabilité prédite \mathbf{0{,}40}

0{,}10 + 0{,}22 + 0{,}13 - 0{,}05 = 0{,}40

Les contributions s’additionnent exactement à la prédiction : c’est la propriété qui fait la valeur de la méthode.

Ce que Shapley garantit, et ne garantit pas

Intuition

Elle garantit une décomposition cohérente : les contributions somment à la prédiction, et une variable inutile reçoit zéro.

Elle ne garantit aucune causalité. Dire que l’endettement contribue pour +0{,}22 signifie que le modèle s’en sert, non que le réduire ferait baisser le risque.

C’est une explication du modèle, pas du monde.

Ce que ce cours ne fait pas

La limite, posée franchement

Le fil qui traverse tout le cours

Le chapitre 3 l’a dit du lasso, le chapitre 8 de l’importance des variables, ce chapitre le redit de Shapley : rien ici n’établit une causalité.

Un modèle apprend des associations. Il ne dit pas ce qui se passerait si l’on intervenait — et c’est pourtant la question de celui qui décide d’une politique.

Un exemple qui tranche

Le nombre de relances prédit excellemment le défaut. Faut-il en conclure qu’il faut cesser de relancer pour réduire les défauts ?

Évidemment non : la relance est une conséquence de la difficulté. Le modèle ne peut pas faire cette distinction, parce que rien dans les données ne la porte.

Aucune méthode d’interprétation ne sauve d’une question mal posée.

Ce qu’il faut donc

Répondre à « quel serait l’effet de ? » exige un cadre différent : résultats potentiels, identification, stratégies quasi expérimentales.

C’est l’objet du cours Inférence causale et machine learning, troisième de cette branche — et il commencera précisément là où ce chapitre s’arrête.

Bilan du cours

Le parcours

Ce que vous savez faire
Chapitres Compétence
1–3 Distinguer explication et prévision ; découper ; valider par rééchantillonnage
4–5 Régulariser, sélectionner, travailler en grande dimension
6–7 Classer, et évaluer honnêtement un classifieur
8–11 Arbres, forêts, boosting, SVM
12 Interpréter, et connaître la limite de l’interprétation

Le fil rouge chiffré

Exemple
Chapitre Élément Valeur
2 EQM minimale, complexité 5 4{,}0
3 Validation croisée à 5 blocs 800 / 200
7 Exactitude du modèle 0{,}87
7 Exactitude du classifieur trivial \mathbf{0{,}90}
7 Rappel, précision, F_1 0{,}60 ; 0{,}40 ; 0{,}48
8 Gini à la racine 0{,}18
9 Proportion hors sac 36{,}8\,\%

Les trois réflexes à conserver

Intuition
  1. Comparer au trivial. Une performance ne signifie rien dans l’absolu.
  2. Chercher la fuite. Un résultat excellent est d’abord un soupçon.
  3. Ne jamais lire une importance comme un effet.

Le reste — les algorithmes — change tous les cinq ans. Ces trois réflexes, non.

← Chapitre précédentLes machines à vecteurs de support

Ressources du chapitre