Statistique inférentielle
Les qualités d’un estimateur
- Présentation du cours
- La troisième face
- Échantillonner
- La distribution d'échantillonnage de la moyenne
- Proportion et variance
- Les trois lois de l'inférence
- Estimateur et biais
- Les qualités d'un estimateur
- Construire un estimateur
- Le principe de l'intervalle de confiance
- L'intervalle pour une moyenne
- Proportion et variance : les intervalles
- Choisir la taille de l'échantillon
- La logique d'un test
- Les deux risques et la puissance
- La p-value
- Tester une moyenne, tester une proportion
- Comparer deux groupes
- L'analyse de la variance
- Les tests du khi-deux
- La régression devient un modèle
- Tester un coefficient
- Mise en œuvre sur R et Python
Statistique inférentielle
Chapitre 6 : Les qualités d’un estimateur
Trois qualités
Ce que l’on demande à un estimateur
Les trois critères
| Qualité | Ce qu’elle exige |
|---|---|
| Sans biais | il vise le bon point : E(\widehat{\theta}) = \theta |
| Convergent | il s’améliore quand n grandit |
| Efficace | il est le moins dispersé de sa catégorie |
Elles ne se déduisent pas les unes des autres
Un estimateur peut être sans biais et ne pas converger. Il peut converger et rester biaisé à distance finie.
Les trois se vérifient séparément — et, comme on le verra, elles peuvent entrer en conflit.
La convergence
La définition
Estimateur convergent
\widehat{\theta} est convergent si sa valeur se rapproche de \theta quand n augmente indéfiniment.
Condition suffisante, et commode : le biais tend vers zéro et la variance tend vers zéro.
La moyenne d’échantillon
Biais nul quel que soit n, et
V(\overline{X}) = \frac{\sigma^2}{n} \;\longrightarrow\; 0
C’est la loi des grands nombres, chapitre 19 des probabilités : \overline{X} est convergent.
La convergence n’est pas la précision
Une distinction opérationnelle
La convergence est une propriété asymptotique : elle décrit ce qui se passe à l’infini.
Un gestionnaire ne travaille jamais à l’infini. Il travaille sur cinquante observations, et ce qui l’intéresse est la précision à cette taille-là.
Un estimateur convergent peut être inutilisable
Sur nos salaires, \sigma/\sqrt{n} vaut 821 dirhams à n=10. L’estimateur est convergent, sans biais, irréprochable en théorie — et incapable de fonder la moindre décision salariale.
La convergence garantit qu’une méthode n’est pas absurde ; elle ne garantit pas qu’elle soit utile.
L’efficacité
Comparer deux estimateurs sans biais
Estimateur efficace
Entre deux estimateurs sans biais, le plus efficace est celui de plus petite variance.
Moyenne contre médiane
Pour une population normale, tous deux estiment m sans biais. Mais
V(\text{médiane}) \approx \frac{\pi}{2}\,V(\overline{X}) \approx 1{,}57\,V(\overline{X})
La médiane est 57\,\% plus dispersée : à précision égale, elle exige un échantillon une fois et demie plus grand.
Quand la médiane reprend l’avantage
Le compromis efficacité-robustesse
La supériorité de la moyenne suppose une population normale et sans valeurs aberrantes.
Une seule saisie erronée — un salaire tapé à 75\,000 au lieu de 7\,500 — déplace la moyenne de plusieurs dizaines de dirhams. La médiane, elle, ne bouge pas.
La règle de choix
Données propres et distribution régulière : la moyenne, plus efficace.
Données réelles, mal contrôlées, à queues épaisses : la médiane, moins efficace mais robuste. C’est exactement pourquoi les revenus se publient en médiane.
L’erreur quadratique moyenne
Un critère qui réunit les deux
La décomposition
Erreur quadratique moyenne
\text{EQM}(\widehat{\theta}) = E\big[(\widehat{\theta}-\theta)^2\big] = \big[\text{biais}(\widehat{\theta})\big]^2 + V(\widehat{\theta})
Une seule mesure de l’erreur totale
Le biais dit où l’on vise ; la variance dit comment on groupe. L’EQM les additionne dans la même unité.
C’est le critère qui permet de comparer un estimateur biaisé mais précis à un estimateur sans biais mais dispersé — ce qu’aucun des deux critères ne permettait séparément.
Le résultat qui dérange
Le minimum n’est pas en zéro de biais
Sur la figure, le minimum de l’EQM se trouve à gauche de c=1, c’est-à-dire du côté des estimateurs légèrement biaisés.
Accepter un peu de biais peut réduire l’erreur totale.
Où cela sert réellement
C’est le principe des estimateurs rétrécis, et celui de la régression pénalisée qu’emploient tous les modèles de prévision modernes.
En licence, on s’en tient aux estimateurs sans biais — c’est la convention. Mais il faut savoir que ce n’est pas un impératif mathématique : c’est un choix, et il a un coût.
Ce qu’il faut retenir
Le résumé du chapitre
Six points
- Trois qualités : sans biais, convergent, efficace — indépendantes les unes des autres.
- Convergent signifie que biais et variance tendent vers zéro quand n grandit.
- La convergence est asymptotique ; elle ne dit rien de la précision à n = 50.
- Efficace : de plus petite variance parmi les estimateurs sans biais.
- La moyenne est plus efficace que la médiane, mais la médiane est robuste aux valeurs aberrantes.
- \text{EQM} = \text{biais}^2 + \text{variance} : un peu de biais peut réduire l’erreur totale.
La suite
Nous savons juger un estimateur. Nous ne savons toujours pas d’où il sort : pourquoi \overline{X} pour m, et que faire pour un paramètre moins évident ?
Le chapitre 7 donne les deux méthodes qui construisent un estimateur au lieu de le deviner.
Ressources du chapitre
- Diapositives
- Polycopié du chapitre
- Exercices corrigés
- Application interactive
- — Vidéo
- QCM (bientôt)