Analyse des données avancée
L’ACP en écriture matricielle
- Présentation du cours
- Reprendre l'analyse des données par l'algèbre
- Le tableau, les poids et la métrique
- L'inertie, formalisée
- Diagonalisation et décomposition en valeurs singulières
- L'ACP en écriture matricielle
- Dualité et relations de transition
- Combien d'axes retenir
- Contributions, cosinus carrés et éléments supplémentaires
- L'AFC et la métrique du khi-deux
- Profils, barycentres et lecture conjointe
- L'analyse des correspondances multiples
- Distances et dissimilarités
- La classification ascendante hiérarchique
- Les k-means et la consolidation
- Décrire et nommer les segments
- L'analyse factorielle discriminante
- Classer un nouveau client
- Le positionnement multidimensionnel
- Étude de cas
- Mise en œuvre sur R et Python
Analyse des données avancée
Chapitre 4 : L’ACP en écriture matricielle
Le problème et sa solution
L’énoncé
Chercher la direction \mathbf{a} qui maximise l’inertie du nuage projeté :
\max_{\mathbf{a}} \ \mathbf{a}'\mathbf{V}\mathbf{a} \qquad \text{sous la contrainte} \qquad \mathbf{a}'\mathbf{a} = 1
où \mathbf{V}=\mathbf{X}'\mathbf{D}\mathbf{X}, sur données centrées.
Sans elle, le problème n’a pas de solution : doubler \mathbf{a} quadruple \mathbf{a}'\mathbf{V}\mathbf{a}, et l’on peut monter indéfiniment.
La contrainte dit qu’on cherche une direction, non une longueur. C’est exactement ce qu’on veut : l’axe, pas l’échelle.
La résolution, en trois lignes
\mathcal{L}(\mathbf{a},\lambda) = \mathbf{a}'\mathbf{V}\mathbf{a} - \lambda\,(\mathbf{a}'\mathbf{a}-1)
\frac{\partial \mathcal{L}}{\partial \mathbf{a}} = 2\mathbf{V}\mathbf{a} - 2\lambda\mathbf{a} = \mathbf{0} \qquad \Longleftrightarrow \qquad \boxed{\ \mathbf{V}\mathbf{a} = \lambda\mathbf{a}\ }
La direction cherchée est un vecteur propre de \mathbf{V}. Ce n’était pas une convention de calcul : c’est la conclusion d’une maximisation.
Et laquelle prendre ? En multipliant à gauche par \mathbf{a}' : \mathbf{a}'\mathbf{V}\mathbf{a} = \lambda\,\mathbf{a}'\mathbf{a} = \lambda
L’inertie projetée sur l’axe est la valeur propre elle-même. On prend donc la plus grande.
Les axes suivants
Le deuxième axe maximise la même quantité sous deux contraintes : \mathbf{a}'\mathbf{a}=1 et \mathbf{a}'\mathbf{a}_1=0.
La solution est le vecteur propre associé à \lambda_2, la deuxième valeur propre par ordre décroissant. Et ainsi de suite.
On aurait pu craindre que la contrainte d’orthogonalité complique le problème. Il n’en est rien : le théorème spectral garantit que les vecteurs propres d’une matrice symétrique sont déjà orthogonaux.
La contrainte est donc automatiquement satisfaite. C’est pourquoi l’ACP se calcule d’un coup, et non axe après axe.
Les composantes principales
Définition et propriétés
\mathbf{F}_k = \mathbf{Z}\,\mathbf{u}_k
où \mathbf{Z} est le tableau centré réduit et \mathbf{u}_k le k-ième vecteur propre de \mathbf{R}.
\bar{F}_k = 0 \qquad V(\mathbf{F}_k) = \lambda_k \qquad \operatorname{cov}(\mathbf{F}_k, \mathbf{F}_m) = 0 \ \ (k \neq m)
Les huit notes de départ sont fortement corrélées entre elles — c’est même tout le problème.
Les composantes, elles, sont rigoureusement non corrélées. On a remplacé huit variables redondantes par huit variables indépendantes deux à deux, rangées par ordre d’importance décroissante. C’est cela, changer de point de vue.
La matrice des corrélations de départ
Ce que la matrice annonçait
Toutes les corrélations sont positives : un client sévère sur un critère l’est sur tous. Cela donnera un premier axe où les huit notes seront du même côté.
Deux blocs apparaissent pourtant : prix–choix–qualité–agencement d’un côté, propreté–rapidité–conseil–accueil de l’autre, moins liés entre blocs qu’à l’intérieur. Cela donnera le second axe. Les deux axes se lisaient déjà dans le tableau des corrélations.
Le résultat sur nos données
Les valeurs propres
| Rang | \lambda_k | Part | Cumul |
|---|---|---|---|
| 1 | 4{,}535 | 56{,}69 | 56{,}69 |
| 2 | 1{,}645 | 20{,}57 | 77{,}26 |
| 3 | 0{,}382 | 4{,}77 | 82{,}03 |
| 4 | 0{,}349 | 4{,}37 | 86{,}40 |
| 5 | 0{,}327 | 4{,}09 | 90{,}49 |
| 6 | 0{,}283 | 3{,}54 | 94{,}02 |
| 7 | 0{,}249 | 3{,}11 | 97{,}14 |
| 8 | 0{,}229 | 2{,}86 | 100{,}00 |
Somme : 8{,}000, comme le chapitre 2 l’exigeait.
Les corrélations avec les axes
Ce que les deux axes signifient
Les huit corrélations sont positives et comprises entre 0{,}63 et 0{,}83.
Un tel axe s’appelle un effet taille : il oppose les clients globalement satisfaits aux clients globalement mécontents, sans distinguer les critères. Il porte à lui seul 56{,}7\,\% de l’information — autrement dit, la première chose que le questionnaire mesure est l’humeur du répondant.
Il oppose \ prix, choix, qualité, agencement\ à \ rapidité, conseil, accueil.
Ce sont les produits contre les personnes. À satisfaction générale égale, certains clients viennent pour l’assortiment, d’autres pour la relation. Voilà une distinction que huit moyennes n’auraient jamais montrée — et sur laquelle une politique commerciale peut se construire.
Le petit tableau, entièrement traité
\mathbf{R}=\begin{pmatrix}1 & 0{,}6\\ 0{,}6 & 1\end{pmatrix} \qquad \lambda_1 = 1{,}6, \quad \lambda_2 = 0{,}4
Somme : 2 = p. Premier axe : 1{,}6/2 = 80\,\%.
Les coordonnées
Sur \mathbf{u}_1=(1,1)/\sqrt2, avec z_{ij}=x_{ij}/\sqrt{2{,}5} :
| Individu | F_1 | F_2 |
|---|---|---|
| 1 | -1{,}789 | \phantom{-}0 |
| 2 | \phantom{-}0 | -0{,}894 |
| 3 | \phantom{-}0 | \phantom{-}0{,}894 |
| 4 | \phantom{-}1{,}789 | \phantom{-}0 |
Contrôle : V(F_1)=\tfrac{1}{4}(3{,}2+0+0+3{,}2)=1{,}6=\lambda_1.
Ce qu’il faut retenir
Le résumé du chapitre
- L’ACP maximise \mathbf{a}'\mathbf{V}\mathbf{a} sous \mathbf{a}'\mathbf{a}=1 : c’est un lagrangien, rien de plus.
- La condition du premier ordre est l’équation aux valeurs propres \mathbf{V}\mathbf{a}=\lambda\mathbf{a}.
- L’inertie portée par un axe est sa valeur propre : \mathbf{a}'\mathbf{V}\mathbf{a}=\lambda.
- Les composantes sont centrées, de variance \lambda_k, et non corrélées entre elles.
- Sur nos données : \lambda_1=4{,}535 et \lambda_2=1{,}645, soit 77{,}3\,\% sur deux axes.
- Axe 1 : la satisfaction générale. Axe 2 : l’offre contre le service.
Tout a été fait du côté des variables. Le chapitre 5 montre que le côté des individus n’exige aucun calcul supplémentaire — et pourquoi.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)