Inférence causale
Graphes causaux et variables à ne pas contrôler
- Présentation du cours
- Corrélation et causalité : ce que la régression ne dit pas
- Le cadre des résultats potentiels
- Graphes causaux et variables à ne pas contrôler
- L'expérience aléatoire, référence de toutes les méthodes
- Appariement et pondération par le score de propension
- Les doubles différences
- La régression sur discontinuité
- Les variables instrumentales, revisitées
- Le contrôle synthétique
- Le double machine learning
- Effets hétérogènes et forêts causales
- Décider sous incertitude : de l'effet estimé à la politique
Inférence causale et machine learning
Chapitre 2 : Graphes causaux et variables à ne pas contrôler
Écrire ses hypothèses
Le graphe causal
Un graphe causal représente les variables par des nœuds et les effets directs par des flèches orientées. Aucun cycle n’est permis : rien ne peut être sa propre cause.
Le dessiner oblige à expliciter ce qu’on croit du monde, avant de toucher aux données.
Il ne se déduit pas des données : deux graphes différents peuvent produire les mêmes corrélations. C’est un objet d’hypothèses — et c’est précisément sa valeur, puisqu’il rend ces hypothèses discutables.
Trois configurations
Toute la théorie tient en trois motifs
T \;\rightarrow\; M \;\rightarrow\; Y
M est un médiateur : le traitement agit à travers lui.
Le contrôler bloque une partie de l’effet qu’on cherche à mesurer.
T \;\leftarrow\; X \;\rightarrow\; Y
X est un confondant : il cause les deux, et crée une association non causale entre eux.
Il faut le contrôler.
Le collisionneur
T \;\rightarrow\; C \;\leftarrow\; Y
C est un collisionneur : il est causé par les deux.
Le contrôler crée une association là où il n’y en avait aucune. C’est le résultat le plus contre-intuitif du chapitre.
Un collisionneur, sur notre programme
Deux causes indépendantes d’être embauché : avoir suivi la formation, et avoir un réseau personnel.
Parmi les seuls embauchés, celui qui n’a pas suivi la formation avait probablement un bon réseau — sinon il n’aurait pas été recruté.
En restreignant l’analyse aux embauchés, on crée une corrélation négative entre formation et réseau, alors qu’elles étaient indépendantes dans la population.
Les erreurs qui en découlent
Trois biais nommés
Contrôler une variable située sur le chemin causal retire une partie de l’effet.
Contrôler le salaire pour estimer l’effet de la formation sur la satisfaction, alors que la formation agit précisément par le salaire, sous-estime l’effet total.
Conditionner sur un collisionneur — ou sur l’un de ses descendants — introduit une association artificielle.
C’est le mécanisme de nombreux biais d’échantillonnage : n’observer que les entreprises survivantes, que les patients hospitalisés, que les candidats retenus.
Le biais du survivant du chapitre 10 d’Apprentissage profond est exactement un collisionneur.
Rester coté dépend à la fois de la performance passée et de la stratégie de l’entreprise. Analyser les seules entreprises encore cotées, c’est conditionner sur cette survie — et fabriquer des relations qui n’existent pas dans la population complète.
On appelle mauvais contrôle toute variable postérieure au traitement.
La règle pratique la plus sûre : ne contrôler que des variables déterminées avant le traitement. Elle évite d’un coup le biais du médiateur et celui du collisionneur.
Le critère de sélection
Comment choisir l’ensemble de contrôles
Un ensemble X identifie l’effet de T sur Y si :
- il bloque tous les chemins de T vers Y qui commencent par une flèche entrant dans T ;
- il ne contient aucun descendant de T.
Il faut fermer les chemins par lesquels une cause commune fait passer de l’information, sans toucher aux chemins qui portent l’effet lui-même.
Contrôler n’est donc pas « ajouter des variables » : c’est fermer les bonnes portes et laisser les autres ouvertes.
Le paradoxe de Simpson se résout ici. La qualification cause à la fois la participation à la formation et l’emploi : c’est une fourche, donc un confondant.
Il fallait la contrôler — et les taux par groupe donnaient la bonne réponse, tandis que le total donnait la mauvaise.
Le graphe dit pourquoi, là où l’intuition seule hésitait.
Implications pour le ML
Une mise en garde décisive
Le réflexe du praticien de l’apprentissage statistique est de fournir toutes les variables disponibles et de laisser la méthode trier.
En prévision, c’est raisonnable. En causalité, c’est dangereux : l’algorithme retiendra volontiers un médiateur ou un collisionneur, parce que tous deux améliorent la prévision.
Un lasso qui sélectionne des variables pour prévoir ne sélectionne pas un ensemble de contrôles valide.
Le double machine learning utilisera des méthodes d’apprentissage pour estimer des fonctions de nuisance de grande dimension. C’est un progrès considérable.
Il suppose néanmoins que l’ensemble des contrôles a été choisi correctement, sur des bases théoriques. L’algorithme gère la dimension ; il ne décide pas de l’identification.
Aucune méthode ne remplace le graphe.
Ce qu’il faut retenir
Le résumé du chapitre
- Le graphe causal explicite les hypothèses ; il ne se déduit pas des données.
- Trois motifs : chaîne (médiateur), fourche (confondant), collisionneur.
- Contrôler un confondant est nécessaire ; contrôler un médiateur ou un collisionneur nuit.
- Règle sûre : ne contrôler que des variables antérieures au traitement.
- Le machine learning ne choisit pas les contrôles : il gère la dimension, pas l’identification.
Il existe une situation où tous ces problèmes disparaissent d’un coup. Le chapitre 3 l’examine — et elle sert de référence à toutes les méthodes suivantes.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)