Introduction à l’économétrie
Les moindres carrés ordinaires
- Présentation du cours
- Qu'est-ce que l'économétrie
- De la théorie au modèle
- Le modèle économétrique
- Les moindres carrés ordinaires
- La qualité de l'ajustement
- L'inférence sur les coefficients
- La prévision
- Le modèle multiple et le ceteris paribus
- Estimation et R carré ajusté
- Les trois niveaux de test
- Les variables qualitatives
- Les hypothèses de Gauss-Markov
- La carte des violations
- La multicolinéarité
- L'hétéroscédasticité
- Les erreurs groupées
- La variable omise
- Normalité et points influents
- Les formes fonctionnelles
- Choisir un modèle, et le seuil de la causalité
- Étude de cas
- Mise en œuvre sur R et Python
Introduction à l’économétrie
Chapitre 3 : Les moindres carrés ordinaires
Le critère
Trois questions sur une même figure
Le programme d’optimisation
Ce que l’on minimise
\min_{\beta_0,\beta_1} \; S(\beta_0,\beta_1) = \sum_{i=1}^{n}\big(y_i - \beta_0 - \beta_1 x_i\big)^2
On cherche la droite qui rend la somme des carrés des écarts verticaux la plus petite possible.
Un problème du cours de mathématiques
Une fonction de deux variables, dont on cherche le minimum : on annule les deux dérivées partielles.
C’est le chapitre 6 du cours de mathématiques pour la gestion, appliqué tel quel. Le système obtenu — deux équations, deux inconnues — se résout par la méthode du chapitre 10.
Les équations normales
Annuler les deux dérivées
\frac{\partial S}{\partial \beta_0} = -2\sum_i (y_i-\beta_0-\beta_1 x_i) = 0
\frac{\partial S}{\partial \beta_1} = -2\sum_i x_i(y_i-\beta_0-\beta_1 x_i) = 0
La solution
\boxed{\;\widehat{\beta}_1 = \frac{\mathrm{cov}(x,y)}{V(x)} \qquad\qquad \widehat{\beta}_0 = \overline{y} - \widehat{\beta}_1\,\overline{x}\;}
Sur nos deux jeux de données
Les salaires
\mathrm{cov} = 9\,859{,}9 \qquad V(x) = 35{,}574
\widehat{\beta}_1 = \frac{9\,859{,}9}{35{,}574} = 277{,}17 \qquad \widehat{\beta}_0 = 7\,158{,}26 - 277{,}17 \times 10{,}142 = 4\,347{,}23
La consommation
\widehat{C} = 101{,}23 + 0{,}779\,R
La propension marginale à consommer vaut 0{,}779 : comprise entre zéro et un, comme Keynes l’annonçait.
Ce que les formules disent
Deux lectures de la pente
La covariance, normalisée
\widehat{\beta}_1 = \frac{\mathrm{cov}(x,y)}{V(x)} \qquad\text{et}\qquad r = \frac{\mathrm{cov}(x,y)}{\sigma_x\,\sigma_y}
La pente et la corrélation ont le même numérateur. Ils portent donc toujours le même signe, et l’un est nul si et seulement si l’autre l’est.
Le lien exact
\widehat{\beta}_1 = r\,\frac{\sigma_y}{\sigma_x}
La corrélation est sans unité ; la pente ne l’est pas. La pente dit combien, la corrélation dit à quel point. Ce sont deux questions distinctes, et le chapitre 4 y reviendra.
Trois propriétés algébriques
Vraies par construction, quelles que soient les données
- \displaystyle\sum_i e_i = 0 : les résidus somment à zéro.
- \displaystyle\sum_i x_i e_i = 0 : ils sont orthogonaux à la variable explicative.
- La droite passe par le point moyen (\overline{x}, \overline{y}).
Elles ne prouvent rien sur le modèle
Ces trois propriétés découlent des équations normales : elles sont vraies même si le modèle est absurde.
Voir des résidus de somme nulle n’est donc pas un contrôle de qualité — c’est une identité. Le vrai diagnostic viendra du chapitre 12.
Pourquoi ce critère plutôt qu’un autre
Trois raisons, dans l’ordre d’importance
- La solution est unique et explicite : deux formules, aucun algorithme.
- Elle est optimale : le théorème de Gauss-Markov, chapitre 11.
- Elle est dérivable : la valeur absolue ne l’est pas en zéro.
Sa faiblesse, et il faut la connaître
Le carré pénalise lourdement les grands écarts : une seule observation aberrante peut déplacer sensiblement la droite.
C’est le même compromis que celui de la moyenne contre la médiane, chapitre 6 de l’inférence. Les moindres carrés sont efficaces et fragiles — le chapitre 17 montrera comment repérer les points qui en abusent.
Ce qu’il faut retenir
Le résumé du chapitre
Six points
- On minimise la somme des carrés des écarts verticaux : \sum_i (y_i-\beta_0-\beta_1 x_i)^2.
- Verticaux parce qu’on explique y par x ; au carré pour ne pas compenser et rester dérivable.
- \widehat{\beta}_1 = \mathrm{cov}(x,y)/V(x) et \widehat{\beta}_0 = \overline{y}-\widehat{\beta}_1\overline{x}.
- \widehat{\beta}_1 = r\,\sigma_y/\sigma_x : la pente dit combien, la corrélation dit à quel point.
- Trois propriétés algébriques, vraies par construction — donc sans valeur de diagnostic.
- Les MCO sont efficaces et fragiles : une observation extrême pèse lourd.
La suite
La droite est calculée. Reste à savoir si elle vaut quelque chose : de quelle part de la dispersion rend-elle compte ?
Le chapitre 4 y répond par une décomposition que le cours d’inférence a déjà rencontrée sous un autre nom.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)