Introduction à l’analyse des données
La corrélation linéaire
- Présentation du cours
- Voir en deux dimensions ce qui en a beaucoup
- De la statistique descriptive à l'analyse des données
- Rappels sur une variable : centrer et réduire
- La covariance, généralisation de la variance
- La corrélation linéaire
- Le tableau de données et le nuage
- L'inertie, ou l'information d'un nuage
- L'idée de l'analyse en composantes principales
- Axes, valeurs propres et inertie expliquée
- Combien d'axes retenir
- Le cercle des corrélations
- Le plan des individus
- Du khi-deux à l'analyse des correspondances
- Lire un plan de correspondances, et la suite
Introduction à l’analyse des données
Chapitre 4 : La corrélation linéaire
Rendre la covariance lisible
La définition
Le coefficient de corrélation linéaire
r_{xy} = \frac{\operatorname{cov}(x,y)}{s_x \, s_y}
On divise la covariance par le produit des deux écarts-types.
Pourquoi cette division précisément
La covariance s’exprime en « unité de x × unité de y », et le produit s_x s_y exactement dans la même unité. Le quotient est donc sans unité — la condition pour comparer, établie au chapitre 2.
Sur le fil rouge
s_x \, s_y = \sqrt{8} \times \sqrt{32} = \sqrt{8 \times 32} = \sqrt{256} = 16
r_{xy} = \frac{14{,}4}{16} = \mathbf{0{,}9}
Le produit des écarts-types tombe exactement sur 16, et la corrélation vaut exactement 0{,}9.
Ce que r vaut, et ce qu’il dit
La borne
Le résultat central
-1 \;\leq\; r_{xy} \;\leq\; +1
Cette borne ne dépend d’aucune hypothèse : elle est une propriété algébrique du quotient.
La lecture
| Valeur de r | Situation |
|---|---|
| +1 | les points sont exactement alignés, pente positive |
| proche de +1 | liaison positive forte |
| 0 | aucune liaison linéaire |
| proche de -1 | liaison négative forte |
| -1 | alignement exact, pente négative |
Sur nos cinq clients
Application économique
r = 0{,}9 est une liaison très forte. Accueil et fidélité vont ensemble de façon presque parfaitement linéaire.
Sur des données réelles, un tel r entre deux critères est d’ailleurs suspect : il suggère que les deux questions mesurent la même chose. L’analyse en composantes principales exploitera précisément ces redondances.
La lecture géométrique
La corrélation est une covariance de variables réduites
Une écriture équivalente
Si z_x et z_y désignent les variables centrées réduites du chapitre 2 :
r_{xy} = \operatorname{cov}(z_x, z_y) = \frac{1}{n}\sum_{i=1}^{n} z_{x,i} \, z_{y,i}
Ce que cela révèle
Corréler, c’est réduire d’abord, covarier ensuite.
Les trois chapitres de rappel se referment ici : centrer et réduire (chapitre 2), covarier (chapitre 3), et le quotient du chapitre 4 n’est que la combinaison des deux.
Une fois les variables réduites, covariance et corrélation sont le même nombre. C’est pourquoi l’analyse en composantes principales travaillera systématiquement sur données réduites : elle n’aura plus à choisir entre les deux.
La matrice des corrélations
La matrice
R = \begin{pmatrix} 1 & 0{,}9 \\ 0{,}9 & 1 \end{pmatrix}
Sa diagonale ne contient que des 1 : \operatorname{cov}(z,z) = V(z) = 1.
Ce qu’on y lit avant tout calcul
Application économique
Sur un fichier réel, la matrice des corrélations se regarde avant de lancer quoi que ce soit :
- des blocs de variables fortement corrélées entre elles signalent des groupes de critères redondants ;
- une variable corrélée à aucune autre n’apportera rien aux premiers axes ;
- une corrélation proche de 1 entre deux variables indique qu’on en mesure une deux fois.
C’est déjà de l’analyse des données, faite à l’œil.
Les trois pièges
Ce que r ne dit pas
Premier piège : la liaison non linéaire
r ne mesure que la liaison linéaire.
Deux variables liées par une relation en cloche parfaitement déterministe peuvent avoir une corrélation nulle. Un r de zéro signifie « pas de liaison linéaire », jamais « pas de liaison ».
Il faut donc toujours regarder le nuage de points, et ne jamais se contenter du coefficient.
Deuxième piège : les points aberrants
Un seul point très éloigné peut créer une corrélation forte là où il n’y en a aucune, ou détruire une corrélation réelle.
Le coefficient est une moyenne : il est sensible aux valeurs extrêmes, comme toute moyenne.
Troisième piège : la causalité
Application économique
Une corrélation forte n’établit aucun lien de cause à effet. Trois explications restent ouvertes :
- x agit sur y ;
- y agit sur x ;
- une troisième variable agit sur les deux.
Le troisième est le plus fréquent : l’ancienneté du client, par exemple, peut produire à elle seule la corrélation entre accueil et fidélité.
Les distinguer est l’objet du cours d’inférence causale, au Master. Celui-ci décrit des associations, et s’y tient.
Ce qu’il faut retenir
Le résumé du chapitre
Cinq points
- r_{xy} = \operatorname{cov}(x,y) / (s_x s_y) : la covariance débarrassée de ses unités.
- Sur le fil rouge : s_x s_y = \sqrt{256} = 16, donc r = 14{,}4/16 = \mathbf{0{,}9} exactement.
- r est toujours compris entre -1 et +1.
- La corrélation est la covariance des variables réduites — les trois rappels se referment ici.
- Trois pièges : liaison non linéaire, points aberrants, et causalité.
La suite
Les rappels sont terminés. Le chapitre 5 change de regard : il cesse de voir un tableau de chiffres et se met à voir un nuage de points dans un espace à p dimensions.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)