Économétrie avancée
Annexe D — Rappels d’algèbre matricielle
- Présentation du cours
- Nature de l'économétrie et données économiques
- Le modèle de régression simple
- Régression multiple : estimation
- Régression multiple : inférence
- Régression multiple : propriétés asymptotiques des MCO
- Régression multiple : approfondissements
- Variables qualitatives (indicatrices)
- Hétéroscédasticité
- Problèmes de spécification et de données
- Introduction aux séries temporelles
- Séries temporelles — approfondissements
- Autocorrélation et hétéroscédasticité en séries temporelles
- Données de panel — méthodes simples
- Données de panel — méthodes avancées
- Variables instrumentales et doubles moindres carrés
- Modèles à équations simultanées
- Variables dépendantes limitées et sélection d'échantillon
- Sujets avancés en séries temporelles
- Réaliser un projet empirique
- Annexe A — Rappels d'outils mathématiques de base
- Annexe B — Rappels de probabilité
- Annexe C — Rappels de statistique mathématique
- Annexe D — Rappels d'algèbre matricielle
- Annexe E — Le modèle de régression linéaire sous forme matricielle
Économétrie avancée
Annexe D : Rappels d’algèbre matricielle
Avant de commencer
Pourquoi cette annexe
Toute la régression multiple des chapitres 1 à 9 a été présentée coefficient par coefficient, somme par somme. L’écriture matricielle condense l’ensemble du modèle — n observations, k régresseurs — en quelques équations compactes, et généralise immédiatement chaque résultat déjà établi. Ce chapitre rassemble les outils d’algèbre matricielle nécessaires au chapitre 13, qui reformule la régression MCO dans ce langage.
Définitions de base
Matrices et vecteurs
Une matrice m\times n est un tableau rectangulaire de nombres à m lignes et n colonnes, notée \mathbf A=[a_{ij}]. Un vecteur ligne est une matrice 1\times n ; un vecteur colonne, une matrice n\times1. Une matrice carrée a autant de lignes que de colonnes.
Une matrice diagonale n’a de termes non nuls que sur sa diagonale principale. La matrice identité \mathbf I_n est diagonale avec des 1 sur la diagonale — l’élément neutre de la multiplication matricielle. La matrice nulle \mathbf 0 a tous ses termes égaux à zéro.
Opérations matricielles
Addition, multiplication scalaire, produit
L’addition \mathbf A+\mathbf B=[a_{ij}+b_{ij}] exige des dimensions identiques. Le produit \mathbf{AB} n’est défini que si le nombre de colonnes de \mathbf A égale le nombre de lignes de \mathbf B ; l’élément (i,j) de \mathbf{AB} est le produit scalaire de la ligne i de \mathbf A par la colonne j de \mathbf B.
Contrairement à la multiplication de nombres réels, \mathbf{AB}\neq\mathbf{BA} en général — et l’un des deux produits peut même ne pas exister. C’est la source d’erreurs la plus fréquente en calcul matriciel : l’ordre des facteurs compte toujours.
Transposée et matrices symétriques
La transposée \mathbf A' échange lignes et colonnes de \mathbf A. Propriété clé pour la suite : (\mathbf{AB})'=\mathbf{B}'\mathbf{A}' (l’ordre s’inverse). Une matrice carrée est symétrique si \mathbf A'=\mathbf A ; pour toute matrice \mathbf X (n\times k), \mathbf X'\mathbf X est toujours définie et toujours symétrique — c’est exactement la matrice qui apparaîtra au cœur de l’estimateur MCO au chapitre 13.
Trace et inverse
\operatorname{tr}(\mathbf A)=\sum_i a_{ii} (somme des termes diagonaux, matrice carrée uniquement). Propriété utile : \operatorname{tr}(\mathbf{AB})=\operatorname{tr}(\mathbf{BA}), même quand \mathbf{AB}\neq\mathbf{BA}.
\mathbf A (carrée) est inversible (non singulière) s’il existe \mathbf A^{-1} tel que \mathbf A^{-1}\mathbf A=\mathbf{AA}^{-1}=\mathbf I. Propriété essentielle : (\mathbf{AB})^{-1}=\mathbf B^{-1}\mathbf A^{-1} — encore un renversement de l’ordre. L’inverse généralise la division scalaire : résoudre \mathbf{Ax}=\mathbf b revient à écrire \mathbf x=\mathbf A^{-1}\mathbf b, exactement l’opération centrale du système d’équations normales des MCO.
Les notions d’inversion, de rang et de déterminant ont déjà été traitées en détail — avec exemples économiques (modèle de Leontief, systèmes de prix d’équilibre) — dans les chapitres 2, 4 et 5 du cours d’algèbre linéaire (Licence). Ce chapitre ne fait qu’en rappeler l’essentiel dans la notation utilisée pour la régression.
Rang et formes quadratiques
Rang d’une matrice
Des vecteurs \{\mathbf x_1,\dots,\mathbf x_n\} sont linéairement indépendants si la seule combinaison a_1\mathbf x_1+\dots+a_n\mathbf x_n=\mathbf 0 est a_1=\dots=a_n=0. Le rang d’une matrice est le nombre maximal de colonnes linéairement indépendantes. Une matrice n\times k a rang plein de colonnes si son rang vaut k — condition exacte d’absence de colinéarité parfaite (hypothèse MLR.3 des chapitres 1–3, reformulée matriciellement).
Formes quadratiques et matrices définies positives
Pour \mathbf A symétrique n\times n, la forme quadratique est f(\mathbf x)=\mathbf x'\mathbf{Ax}. \mathbf A est définie positive si \mathbf x'\mathbf{Ax}>0 pour tout \mathbf x\neq\mathbf 0 ; semi-définie positive si \mathbf x'\mathbf{Ax}\ge0. Résultat central : si \mathbf X est n\times k de rang plein k, alors \mathbf X'\mathbf X est définie positive, donc inversible — c’est la condition exacte sous laquelle l’estimateur MCO matriciel existe et est unique.
La variance d’un portefeuille, \mathbf w'\boldsymbol\Sigma\mathbf w où \boldsymbol\Sigma est la matrice de covariance des rendements, est une forme quadratique — sa positivité pour tout vecteur de poids \mathbf w\neq\mathbf 0 (matrice \boldsymbol\Sigma définie positive) garantit qu’aucun portefeuille non trivial n’a une variance nulle ou négative. C’est exactement le rôle joué par les formes quadratiques au chapitre 6 du cours d’algèbre linéaire, appliqué à la gestion de portefeuille.
Matrices idempotentes
\mathbf A symétrique est idempotente si \mathbf{AA}=\mathbf A. Propriété clé : \operatorname{rang}(\mathbf A)=\operatorname{tr}(\mathbf A). Les matrices \mathbf P=\mathbf X(\mathbf X'\mathbf X)^{-1}\mathbf X' et \mathbf M=\mathbf I_n-\mathbf P (avec \operatorname{rang}(\mathbf X)=k) sont toutes deux idempotentes, de rangs respectifs k et n-k.
\mathbf P et \mathbf M ne sont pas des objets abstraits : \mathbf P\mathbf y produira exactement les valeurs ajustées \hat{\mathbf y} de la régression MCO, et \mathbf M\mathbf y les résidus \hat{\mathbf u}. Le rang n-k de \mathbf M n’est autre que le nombre de degrés de liberté n-k-1 (en comptant l’intercept) qui apparaît dans tous les tests t et F depuis le chapitre 3 — cette coïncidence n’en est pas une : elle sera démontrée au chapitre suivant.
Moments de vecteurs aléatoires
Espérance et matrice de variance-covariance
Pour un vecteur aléatoire \mathbf y (n\times1), E(\mathbf y) est le vecteur des espérances, et \operatorname{Var}(\mathbf y)=\begin{pmatrix}\sigma_{11}&\cdots&\sigma_{1n}\\ \vdots& &\vdots\\ \sigma_{n1}&\cdots&\sigma_{nn}\end{pmatrix} est la matrice de variance-covariance, symétrique, avec les variances sur la diagonale et les covariances hors diagonale. Si les composantes de \mathbf y sont non corrélées et de même variance \sigma^2, \operatorname{Var}(\mathbf y)=\sigma^2\mathbf I_n — c’est précisément l’écriture matricielle de l’hypothèse d’homoscédasticité et d’absence d’autocorrélation réunies (chapitres 7 et 9) en une seule condition.
Pour \mathbf A non aléatoire, E(\mathbf{Ay}+\mathbf b)=\mathbf AE(\mathbf y)+\mathbf b et \operatorname{Var}(\mathbf{Ay}+\mathbf b)=\mathbf A\operatorname{Var}(\mathbf y)\mathbf A' — la généralisation matricielle exacte des propriétés E.2 et VAR.2 du chapitre 10.
La loi normale multivariée et ses dérivées
\mathbf y\sim\mathcal N(\boldsymbol\mu,\boldsymbol\Sigma) est entièrement caractérisée par sa moyenne et sa matrice de covariance ; toute combinaison linéaire \mathbf{Ay}+\mathbf b reste normale. Si \mathbf u\sim\mathcal N(\mathbf 0,\mathbf I_n) et \mathbf A est symétrique idempotente de rang q, alors \mathbf u'\mathbf{Au}\sim\chi^2_q ; et si \mathbf{AB}=\mathbf 0 pour deux matrices idempotentes, les formes quadratiques associées sont indépendantes — le résultat technique exact qui permettra, au chapitre 13, de redémontrer que t et F suivent leurs lois de référence sous le modèle linéaire classique.
Synthèse
Ce qu’il faut retenir
- Le produit matriciel n’est pas commutatif ; la transposée inverse l’ordre des facteurs dans un produit.
- \mathbf X'\mathbf X est toujours symétrique, et définie positive (donc inversible) si et seulement si \mathbf X est de rang plein de colonnes — condition matricielle exacte de l’absence de colinéarité parfaite.
- Les matrices idempotentes \mathbf P et \mathbf M=\mathbf I-\mathbf P préfigurent directement les valeurs ajustées et les résidus de la régression MCO, avec des rangs égaux aux degrés de liberté usuels.
- La matrice de variance-covariance \sigma^2\mathbf I_n condense en une seule écriture l’homoscédasticité et l’absence d’autocorrélation.
Tous les outils sont maintenant réunis. Le dernier chapitre du cours applique directement ces résultats pour redériver, en notation matricielle compacte, l’estimateur MCO, son non-biais, sa matrice de variance-covariance, le théorème de Gauss-Markov, et l’inférence exacte sous normalité — une synthèse de l’ensemble du cours.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)