Statistique inférentielle
Tester un coefficient
- Présentation du cours
- La troisième face
- Échantillonner
- La distribution d'échantillonnage de la moyenne
- Proportion et variance
- Les trois lois de l'inférence
- Estimateur et biais
- Les qualités d'un estimateur
- Construire un estimateur
- Le principe de l'intervalle de confiance
- L'intervalle pour une moyenne
- Proportion et variance : les intervalles
- Choisir la taille de l'échantillon
- La logique d'un test
- Les deux risques et la puissance
- La p-value
- Tester une moyenne, tester une proportion
- Comparer deux groupes
- L'analyse de la variance
- Les tests du khi-deux
- La régression devient un modèle
- Tester un coefficient
- Mise en œuvre sur R et Python
Statistique inférentielle
Chapitre 20 : Tester un coefficient
La pente, variable aléatoire
Sa distribution d’échantillonnage
Rien de nouveau, tout est déjà là
Le parallèle complet
| Chapitre 2 | Chapitre 20 |
|---|---|
| \overline{X} estime m | \widehat{\beta}_1 estime \beta_1 |
| E(\overline{X}) = m | E(\widehat{\beta}_1) = \beta_1 |
| \sigma(\overline{X}) = \sigma/\sqrt{n} | \sigma(\widehat{\beta}_1) = \sigma_\varepsilon/\sqrt{\sum(x_i-\overline{x})^2} |
| loi normale par le TCL | loi normale par le TCL |
La conséquence
Tout ce que les chapitres 9 et 15 ont fait pour la moyenne s’applique à la pente sans une formule nouvelle.
Il suffit de remplacer \overline{x} par \widehat{\beta}_1 et l’erreur-type par la sienne.
L’erreur-type estimée
Deux estimations emboîtées
\widehat{\sigma}_\varepsilon^2 = \frac{\sum_i e_i^2}{n-2} \qquad\qquad \widehat{\sigma}(\widehat{\beta}_1) = \frac{\widehat{\sigma}_\varepsilon}{\sqrt{\sum_i (x_i-\overline{x})^2}}
Pourquoi n-2
La règle du chapitre 3 : un degré de liberté par paramètre estimé.
Ici deux, \widehat{\beta}_0 et \widehat{\beta}_1. Le dénominateur était n-1 pour une variance simple ; il sera n-k-1 pour une régression à k variables explicatives. Le principe ne change jamais.
Le test de significativité
La question
La variable explicative sert-elle à quelque chose
H_0 : \beta_1 = 0 \qquad\qquad H_1 : \beta_1 \neq 0
Sous H_0, l’ancienneté n’a aucun effet sur le salaire : la droite vraie est horizontale.
La statistique
t = \frac{\widehat{\beta}_1 - 0}{\widehat{\sigma}(\widehat{\beta}_1)} \;\sim\; \text{Student à } n-2 \text{ degrés de liberté}
C’est exactement la forme du chapitre 12 : (observé - prévu par H_0) divisé par l’erreur-type.
L’application
Sur nos cinq cents salariés
\widehat{\sigma}_\varepsilon = 2\,008{,}34 \qquad \widehat{\sigma}(\widehat{\beta}_1) = 15{,}06
t = \frac{277{,}17}{15{,}06} = 18{,}41 \qquad \text{ddl} = 498 \qquad p < 0{,}0001
On rejette H_0 : l’ancienneté explique significativement le salaire.
L’intervalle de confiance de la pente
277{,}17 \;\pm\; 1{,}96 \times 15{,}06 \;=\; [\,247{,}65 \;;\; 306{,}68\,]
Chaque année d’ancienneté vaut entre 248 et 307 dirhams de salaire mensuel.
La lecture de gestion
Ce qui est utilisable dans un rapport
« Une année d’ancienneté supplémentaire s’accompagne d’une hausse de salaire estimée à 277 dirhams, avec une marge de \pm 30 dirhams au seuil de 95\,\%. »
C’est l’intervalle, non la p-value, qui permet de négocier une grille. Le test dit seulement qu’il y a bien un effet à discuter.
Significatif ne veut toujours pas dire tout expliquer
t = 18{,}41 est écrasant. Et pourtant R^2 = 0{,}405 : l’ancienneté n’explique que 40\,\% de la dispersion des salaires.
Un coefficient très significatif dans un modèle médiocre reste un coefficient dans un modèle médiocre. Les deux indicateurs répondent à deux questions différentes.
La sortie d’un logiciel
Tout s’y trouve, et l’on sait maintenant tout lire
Le tableau standard
| Coefficient | Erreur-type | t | p | |
|---|---|---|---|---|
| Constante | 4\,347{,}23 | 177{,}18 | 24{,}54 | <0{,}0001 |
| Ancienneté | 277{,}17 | 15{,}06 | 18{,}41 | <0{,}0001 |
Et les indicateurs globaux
R^2 = 0{,}405 \qquad \widehat{\sigma}_\varepsilon = 2\,008{,}34 \qquad F(1\,;498) = 338{,}8
Le F et le t, sur une seule variable
Ils disent la même chose
18{,}41^2 = 338{,}8
En régression simple, le F global est le carré du t de la pente : une seule variable, un seul test.
La distinction ne prend son sens qu’en régression multiple, où le F teste toutes les variables ensemble et chaque t une variable à la fois.
Ce que le cours suivant ajoutera
Plusieurs variables explicatives, la multicolinéarité, les variables qualitatives, l’hétéroscédasticité, l’autocorrélation, l’endogénéité.
Aucun de ces sujets n’exige un outil statistique nouveau. Ils appliquent tous ce cours à des situations où l’une des quatre hypothèses du chapitre 19 tombe.
Ce qu’il faut retenir
Le résumé du chapitre
Six points
- \widehat{\beta}_1 est une variable aléatoire, sans biais et asymptotiquement normale — comme \overline{X}.
- \widehat{\sigma}_\varepsilon^2 = \sum e_i^2/(n-2) : deux degrés de liberté perdus, deux paramètres estimés.
- Test de significativité : \;t = \widehat{\beta}_1/\widehat{\sigma}(\widehat{\beta}_1), loi de Student à n-2 ddl.
- Sur nos données : t = 18{,}41, p < 0{,}0001, et \text{IC}_{95\,\%} = [247{,}65\,;306{,}68].
- C’est l’intervalle, non la p-value, qui sert à décider d’une grille salariale.
- En régression simple, F = t^2 : les deux tests n’en font qu’un.
La suite
Tout le cours a été conduit à la main, pour que chaque nombre soit vérifiable.
Le chapitre 21 refait l’ensemble en quelques lignes de R et de Python — et montre que les logiciels n’affichent rien d’autre que ce que nous venons de calculer.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)