Beruflich Dokumente
Kultur Dokumente
Statistique Infrentielle
S. Achchab
cole Nationale Suprieure dInformatique et dAnalyse des Systmes (ENSIAS)
2009-2010
S. Achchab
Statistique Infrentielle
Introduction Infrence statistique - chantillonnage Estimation : Estimation ponctuelle Estimation par intervalle de confiance Test
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Statistiques ?
Dfinition
S. Achchab
Statistique Infrentielle
Statistiques ?
Dfinition
Statistiques : Ensemble de donnes.
S. Achchab
Statistique Infrentielle
Statistiques ?
Dfinition
Statistiques : Ensemble de donnes.
Statistique : Science qui consiste collecter, analyser et
interprter des donnes.
S. Achchab
Statistique Infrentielle
Statistiques ?
Dfinition
Statistiques : Ensemble de donnes.
Statistique : Science qui consiste collecter, analyser et
interprter des donnes.
Statistique : Fonction de variables alatoires.
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dmarche statistique
Dmarche statistique
Comporte deux grands aspects :
S. Achchab
Statistique Infrentielle
Dmarche statistique
Dmarche statistique
Comporte deux grands aspects :
Aspect descriptif ou exploratoire
S. Achchab
Statistique Infrentielle
Dmarche statistique
Dmarche statistique
Comporte deux grands aspects :
Aspect descriptif ou exploratoire
Aspect infrentiel ou dcisionnel
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dfinitions et notations
Dfinition
Unit statistique (ou individus) :
On appelle unit statistique llment de base de lensemble
que lon veut tudier.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
Si lon sintresse lensemble des petites et moyennes
entreprises (PME). Une PME est considre comme unit
statistique.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
Si lon sintresse lensemble des petites et moyennes
entreprises (PME). Une PME est considre comme unit
statistique.
Si lon sintresse au revenu mensuel des mnages
marocains, une famille est considre comme unit
statistique.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Population :
On appelle population lensemble des units statistiques.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
Si lon sintresse aux salaris dune entreprise, alors
lensemble des salaris forme la population.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemple
Si lon sintresse aux salaris dune entreprise, alors
lensemble des salaris forme la population.
Si lon sintresse au parc automobile marocain, ce parc
est considr comme population
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
On appelle modalit, laspect du caractre retenu dans le cadre
de lanalyse.
Exemple
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
On appelle modalit, laspect du caractre retenu dans le cadre
de lanalyse.
Exemple
Pour une personne : la couleur des cheveux, la taille ...
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
On appelle modalit, laspect du caractre retenu dans le cadre
de lanalyse.
Exemple
Pour une personne : la couleur des cheveux, la taille ...
Pour un mnage : le revenue mensuel, le nombre denfants
...
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Caractre qualitatif :
Cest un caractre qui ne peut pas tre mesur, ni tre
repr.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Caractre qualitatif :
Cest un caractre qui ne peut pas tre mesur, ni tre
repr.
Caractre quantitatif :
Le caractre quantitatif peut tre reprable ou mesurable,
cest--dire susceptible dtre soumise une mesure
donnant une valeur numrique.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
Caractre qualitatif : situation familiale : clibataire,
mari, veuf...
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
Caractre qualitatif : situation familiale : clibataire,
mari, veuf...
Caractre quantitatif : Le revenu des mnages est
mesurable en Dirhams, Taille dun individu, poids ...
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Variable statistique : Cest lexpression numrique ou littraire
retenue dans le cadre de lanalyse. On la note Xi .
Exemples
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Variable statistique : Cest lexpression numrique ou littraire
retenue dans le cadre de lanalyse. On la note Xi .
Exemples
Taille dune entreprise : la variable exprimera les
diffrentes tailles dune entreprise : petite, moyenne,
grande
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Variable statistique : Cest lexpression numrique ou littraire
retenue dans le cadre de lanalyse. On la note Xi .
Exemples
Taille dune entreprise : la variable exprimera les
diffrentes tailles dune entreprise : petite, moyenne,
grande
Nombre denfants charge des familles : la variable sera
numrique : 0, 1, 2, . . . , n enfants charge.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Exemples
Dans une classe de 20 tudiants : 7 sont redoublants et 13 ne
le sont pas.
n1 = 7 et n2 = 13.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Effectif : Cest le nombre dindividus pouvant tre
rattachs une variable. On le note ni .
Exemples
Dans une classe de 20 tudiants : 7 sont redoublants et 13 ne
le sont pas.
n1 = 7 et n2 = 13.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Dfinition
Effectif : Cest le nombre dindividus pouvant tre
rattachs une variable. On le note ni .
Frquence : Elle peut tre de deux types : soit absolue
(cest leffectif lui-mme ni ), soit relative (rapport dun
effectif leffectif total). On note la frquence relative :
f =
ni
N
N=
p
X
ni
i=1
Exemples
Dans une classe de 20 tudiants : 7 sont redoublants et 13 ne
le sont pas.
n1 = 7 et n2 = 13.
S. Achchab
Statistique Infrentielle
Dfinition
S. Achchab
Statistique Infrentielle
Dfinition
Variable discrte :
Lorsque la variable ne peut prendre quune valeur
numrique, on parle de variable discrte.
S. Achchab
Statistique Infrentielle
Dfinition
Variable discrte :
Lorsque la variable ne peut prendre quune valeur
numrique, on parle de variable discrte.
Variable continue :
On parle de variable continue lorsque celle-ci peut prendre
plusieurs valeurs dans un intervalle donn. Lintervalle des
valeurs possibles est divis en n petits intervalles.
[, ] = [A0 , A1 [[A1 , A2 [ . . . [An1 , An ],
o A0 = < A1 < . . . < An1 < An =
S. Achchab
Statistique Infrentielle
Exemples
S. Achchab
Statistique Infrentielle
Exemples
Variable discrte : Nombre dautomobiles possdes par
les mnages.
S. Achchab
Statistique Infrentielle
Exemples
Variable discrte : Nombre dautomobiles possdes par
les mnages.
Variable continue : Dure dune conversation
tlphonique, la variable pourrait tre la suivante pour un
effectif de 34 personnes :
Temps Ecouls (en mn) Xi
[0, 5[
[5, 15[
[15, 30[
Total
S. Achchab
Statistique Infrentielle
Effectifs ni
10
9
15
34
Dfinition
Une variable qualitative peut tre nominale ou ordinale.
Elle est nominale lorsque lensemble des modalits ne possde
pas de structure particulire.
Une variable est ordinale lorsque lensemble des modalits est
ordonn.
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
Variable nominale : Dans un sondage, on sintresse
lavis des consommateurs envers un produit : la variable X
prend les modalits suivantes : " satisfait " ; " non satisfaits
" et " ne sait pas ".
S. Achchab
Statistique Infrentielle
Dfinitions et notations
Exemples
Variable nominale : Dans un sondage, on sintresse
lavis des consommateurs envers un produit : la variable X
prend les modalits suivantes : " satisfait " ; " non satisfaits
" et " ne sait pas ".
Variable ordinale :Si on prend la variable X " tat des
voitures ", X prend les modalits : " Neuf ", " Moyen " et "
Mdiocre ". X est une variable ordinale.
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Statistique
S. Achchab
Statistique Infrentielle
Statistique
Dfinition
Une statistique T est une variable alatoire fonction de
(X1 , X2 , . . . , Xn )
T = f (X1 , X2 , . . . , Xn )
S. Achchab
Statistique Infrentielle
Statistique
Dfinition
La moyenne empirique
Elle est note X et elle est dfinie par :
n
1X
X =
Xi .
n
i=1
S. Achchab
Statistique Infrentielle
Statistique
Dfinition
La frquence empirique
Soit un caractre qualitatif deux modalits A et B que lon
peut coder par 0 et 1. On note p la proportion dans la
population des individus qui possdent la modalit A. Le
nombre alatoire Yn dindividus de lchantillon qui ont la
modalit A, scrit :
n
X
Yn =
Xi ,
i=1
S. Achchab
Statistique Infrentielle
Statistique
Dfinition
La variance empirique
La variance empirique du caractre X dans lchantillon est
dfinie par :
n
i=1
i=1
1X 2
1X
2
(Xi X )2 =
Xi X
S =
n
n
2
S 2 =
n
1X
S2 =
(Xi X )2
n1
n
i=1
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
E(Fn ) = p
p(1 p)
;
n
S. Achchab
Statistique Infrentielle
o p est la proportion des
individus
dans la population qui
Var (Fn ) =
Proposition
Soit X une variable alatoire telle que m4 = E[X 4 ] existe. Alors,
pour tout entier n > 1,
E(S 2 ) =
n1 2
E(S 2 ) = 2 .
En outre, Var [S 2 ] et Var [S 2 ] sont majores par une expression
c
de la forme , o c est une constante dpendant de m4 .
n
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dfinition
La suite infinie (Yn )n de variables alatoires converge en
probabilit vers la v.a. Y si, pour tout > 0,
P
S. Achchab
Statistique Infrentielle
1X
Xn =
Xi
n
i=1
S. Achchab
Statistique Infrentielle
Application
Grce la loi des grands nombres, on peut montrer que :
P
Sn2 2 ,
de mme
Sn2 2 ,
Quand n tend vers linfini et condition que E(X 2 ) existe.
S. Achchab
Statistique Infrentielle
S. Achchab
Statistique Infrentielle
p,
S. Achchab
p(1 p)
n
!
.
Statistique Infrentielle
Exemple
Pour un chantillon de 400 pices issues dune fabrication o
10% sont dfectueuses. On peut sattendre trouver dans 95%
des cas un pourcentage de pices dfectueuses
dans
r
0.1 0.9
lchantillon comprise entre : 10% 1.96
soit
400
9.7% < F < 10.3%
S. Achchab
Statistique Infrentielle
Corollaire
Soit X une v.a. de moment E[X 2 ] fini, alors pour toute suite
infinie (Xn )n de v.a indpendantes et de mme loi que
X , la
S. Achchab
Statistique Infrentielle
Exemple
Soit un lot de 500 chocolats. Le poids dun chocolat est une v.a.
telle que m = 5g et = 0.5g. Quelle est la probabilit quune
boite de 50 chocolats issus de ce lot ait un poids total suprieur
260g ?
S. Achchab
Statistique Infrentielle
Proposition
Si X est une v.a. desprance m et dcart-type , si g est une
fonction numrique drivable au voisinage de m et vrifiant
g 0 (m) 6= 0, si enfin X n dsigne la moyenne empirique dun
n-chantillon de X , alors la suite des v.a.
g 0 (m)
g(X n ) g(m)
,
/ n
tend en loi vers la loi normale N(0, 1) lorsque n tend vers linfini.
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dfinition
Soit X une v .a. normale desprance m et dcart-type . La
densit associes est dfinie pour tout rel x par :
"
#
1 x m 2
1
.
fX (x) = exp
2
2
De plus, on appelle chantillon normal tout chantillon de la
v.a. X . Le rsultat suivant sur la stabilit de la loi normale
affirme que la somme de v.a. normales indpendantes est
encore une v.a. normale.
S. Achchab
Statistique Infrentielle
Proposition
Si X1 , X2 , . . . , Xn sont des v.a. indpendantes de lois
respectives N(mi , i2 ), alors la variable alatoire
Y = X1 + . . . + Xn suit la loi normale desprance
mathmatique
q
m = m1 + . . . + mn et dcart-type =
S. Achchab
12 + . . . + n2 .
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Estimation
Dfinition
Lestimation consiste donner des valeurs approches aux
paramtres dune population (m, , etc.) laide dun
chantillon de n observations issues de cette population. On
suppose vrifie lhypothse dchantillonnage alatoire
simple.
S. Achchab
Statistique Infrentielle
Estimation
Exemple
Daprs la loi des grands nombres :
P
X n m,
de mme
Sn2 2 ,
et
Fn p,
Les variables alatoires X n , Sn2 et Fn sont appeles alors
estimateurs de m, 2 et p respectivement.
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Estimation
S. Achchab
Statistique Infrentielle
Estimation
Convergence
S. Achchab
Statistique Infrentielle
Estimation
Convergence
Biais
S. Achchab
Statistique Infrentielle
Estimation
Convergence
Biais
Prcision
S. Achchab
Statistique Infrentielle
Estimation
Convergence
Il est souhaitable que si n , Tn
S. Achchab
Statistique Infrentielle
Estimation
Biais
Lerreur destimation Tn qui est une variable alatoire se
dcompose de faon lmentaire en :
Tn = Tn E(Tn ) + E(Tn )
{z
} | {z }
|
(1)
S. Achchab
(2)
Statistique Infrentielle
Estimation
Biais
Lerreur destimation Tn qui est une variable alatoire se
dcompose de faon lmentaire en :
Tn = Tn E(Tn ) + E(Tn )
{z
} | {z }
|
(1)
(2)
S. Achchab
Statistique Infrentielle
Estimation
Biais
Lerreur destimation Tn qui est une variable alatoire se
dcompose de faon lmentaire en :
Tn = Tn E(Tn ) + E(Tn )
{z
} | {z }
|
(1)
(2)
S. Achchab
Statistique Infrentielle
Estimation
Biais
Il est souhaitable dutiliser des estimateurs sans biais tels que
E(Tn ) =
S. Achchab
Statistique Infrentielle
Estimation
Exemple
S. Achchab
Statistique Infrentielle
Estimation
Exemple
X n est un estimateur sans biais de m
S. Achchab
Statistique Infrentielle
Estimation
Exemple
X n est un estimateur sans biais de m
Sn2 est un estimateur avec biais de 2
S. Achchab
Statistique Infrentielle
Estimation
Exemple
X n est un estimateur sans biais de m
Sn2 est un estimateur avec biais de 2
n
Sn2 =
S 2 est un estimateur sans biais de 2
n1 n
S. Achchab
Statistique Infrentielle
Estimation
Prcision
On mesure gnralement la prcision dun estimateur Tn par
lerreur quadratique moyenne :
E[(Tn )2 ].
On peut dmontrer que :
E[(Tn )2 ] = V (Tn ) + [E(Tn ) ]2 .
De deux estimateurs sans biais, le plus prcis est donc celui de
variance minimale.
S. Achchab
Statistique Infrentielle
Estimation
Exemple
n
1X
(Xi m)2
n
i=1
S. Achchab
Statistique Infrentielle
Estimation
Dfinition
Lestimateur Tn est dit asymptotiquement sans biais si :
lim E(Tn ) = 0.
n+
S. Achchab
Statistique Infrentielle
Estimation
Exemple
n
S2 =
1X
(Xi X )2 est un estimateur asymptotiquement sans
n
i=1
biais de 2 .
S. Achchab
Statistique Infrentielle
Estimation
Dfinition
Un estimateur Tn du paramtre est dit convergent en
moyenne quadratique (m.q) sil vrifie :
lim E[(Tn )2 ] = 0.
n+
S. Achchab
Statistique Infrentielle
Estimation
Proposition
Un estimateur Tn du paramtre est convergent en moyenne
quadratique si et seulement si, il est asymptotiquement sans
biais et si sa variance tend vers 0 lorsque n tend vers linfini.
Preuve
Il suffit de voir :
E[(Tn )2 ] = V (Tn ) + [E(Tn ) ]2 .
S. Achchab
Statistique Infrentielle
Estimation
Exemple
Pour estimer la moyenne thorique = m dune variable
alatoire X , on peut prendre Tn = X n . Cet estimateur est sans
biais, si de plus sa variance Var (X ) est finie, la relation
Var (X )
montre que Var (X n ) tend vers 0 lorsque n
Var (X n ) =
n
tend vers linfini. La proposition prcdente permet alors
daffirmer que X n est un estimateur convergent en moyenne
quadratique de m = E(X ).
S. Achchab
Statistique Infrentielle
Estimation
S. Achchab
Statistique Infrentielle
Estimation
Proposition
Soit (Yn )n1 une suite infinie de v.a. qui converge en probabilit
vers la v.a. Y et si g est une fonction dune variable relle,
continue sur lensemble des valeurs possibles de Y et des Yn ,
alors la suite des v.a. g(Yn )n1 converge en probabilit vers
g(Y ) lorsque n tend vers linfini, soit :
g(Y ) = lim g(Y ).
n+
S. Achchab
Statistique Infrentielle
Estimation
Exemple
Lestimateur S 2 (et aussi S 2 ) est convergent en moyenne
quadratique vers 2 . Il est donc
convergent en probabilit, or la
fonction g dfinie par g(u) = u est continue sur R. Daprs la
proposition prcdente, S = S 2 tend donc en probabilit vers
lorsque n tend vers linfini. S est donc un estimateur
convergent du paramtre .
S. Achchab
Statistique Infrentielle
Estimation
Dfinition
S. Achchab
Statistique Infrentielle
Estimation
Dfinition
Soit Tn et Tn0 deux estimateurs sans biais de . Tn et dit
plus efficace que Tn0 si :
Var (Tn ) Var (Tn0 )
S. Achchab
Statistique Infrentielle
Estimation
Dfinition
Soit Tn et Tn0 deux estimateurs sans biais de . Tn et dit
plus efficace que Tn0 si :
Var (Tn ) Var (Tn0 )
Lestimateur sans biais et de convergence minimale est
appel estimateur efficace.
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Estimation de la moyenne
Proposition
Soit Xn une variable alatoire dont on veut estimer la moyenne
(ou esprance) = E(X ) partir dun n-chantillon
(X1 , X2 , . . . , Xn ) de X .
On ne suppose rien sur la loi de X .
n
1X
, la moyenne empirique est un estimateur efficace
Xn =
n
i=1
de .
S. Achchab
Statistique Infrentielle
Estimation de la moyenne
Preuve
X n est sans biais de , car E(X n ) = . De plus, partir de
n+
Var (X n ) = Varn(X ) 0, on dmontre que
T , un autre estimateur de, Var (Tn ) > Var (X n )
S. Achchab
Statistique Infrentielle
S. Achchab
Statistique Infrentielle
Tn2
1X
=
(Xi )2
n
i=1
S. Achchab
Statistique Infrentielle
Tn2
1X
=
(Xi )2
n
i=1
Tn2 =
1X
(Xi X n )2
n
i=1
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dfinition
La vraisemblance dun chantillon (X1 , X2 , . . . , Xn ) de la v.a. X
est la fonction L de n + 1 variables dfinie par :
L(x1 , x2 , . . . , xn , ) = f (x1 , )f (x2 , ) . . . f (xn , ),
o x1 , x2 , . . . , xn sont des ralisations possibles de X , est le
paramtre inconnu. On rappelle que f (x, ) dfinie la loi de la
v.a. X par la formule :
p[X = x], si X est une v.a. discrte ;
f (x, ) =
fX (x),
si X est une v.a. continue.
S. Achchab
Statistique Infrentielle
Remarque
Compte tenu de lindpendance des v.a. X1 , X2 , . . . , Xn , la
vraisemblance L(x1 , x2 , . . . , xn , ) nest autre que la probabilit
de ralisation de la suite des valeurs x1 , x2 , . . . , xn lorsque le
paramtre inconnu vaut .
S. Achchab
Statistique Infrentielle
Principe de la mthode
tant donn un chantillon x1 , x2 , . . . , xn prendre comme
estimation de la valeur de qui rend maximale la
vraisemblance L(x1 , x2 , . . . , xn , ). Il sagit l dun problme
doptimisation : on cherche une valeur 0 de qui maximise la
fonction L(x1 , x2 , . . . , xn , ).
La fonction de vraisemblance tant positive, on peut aussi se
borner rechercher le maximum sur lensemble des o cette
fonction est strictement positive. Sur cet ensemble, il est alors
commode et quivalent de chercher le maximum de la fonction :
S. Achchab
Statistique Infrentielle
n
X
log f (xi , ),
i=1
pour = 0 .
Et si elle remplie, une condition suffisante pour 0 , alors on :
2 log L(x1 , x2 , . . . , xn , )
< 0,
2
pour = 0 .
S. Achchab
Statistique Infrentielle
Principe de la mthode
Lestimateur du maximum de vraisemblance tant alors :
bn = 0 (X1 , X2 , . . . , Xn ).
S. Achchab
Statistique Infrentielle
(1 , 2 ),
o 1 = m et 2 = 2 .
De plus :
"
2 #
1
1
x
m
f (x, ) = f (x, m, 2 ) = exp
.
2
S. Achchab
Statistique Infrentielle
,
exp
L(x1 , x2 , . . . , xn , ) =
2
2
i=1
S. Achchab
n
1
1 X xi m 2
n log .
2
i=1
Statistique Infrentielle
log L
1 X
(xi m) = 0,
m = 2
i=1
n
2 log L
n
1 X
+
(xi m)2 = 0.
2
2 2 2 4
i=1
S. Achchab
Statistique Infrentielle
m0 = x, n
1X
2
=
(xi x)2 .
n
i=1
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Dfinition
Il est souvent plus raliste et plus intressant de fournir un
renseignement du type a < < b plutt que dcrire
schement b = c.
Fournir un tel intervalle [a, b] sappelle donner une estimation
par intervalle de confiance de .
S. Achchab
Statistique Infrentielle
Statistique Infrentielle
Principe de la mthode
On adopte alors la rgle de dcision suivante :
Soit t la valeur observe de T :
si t appartient lintervalle [t1 , t2 ], on conserve 0 comme
valeur possible de ;
si t nappartient pas lintervalle [t1 , t2 ], on limine 0 .
On rpte cette opration pour toutes les valeurs de .
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
m u < X n < m + u ,
n
n
do lintervalle de confiance :
x n u < m < x n + u .
n
n
Si 1 = 0.95, on a u = 1.96
S. Achchab
Statistique Infrentielle
=
suit une loi de
Sn / n
Sn / n 1
student n 1 degrs de libert.
Lintervalle de probabilit pour t est
On utilise le fait que T =
t <
Xn m
n 1 < t .
S
Do lintervalle de confiance :
x n t
S
S
< m < x n + t
,
n1
n1
S. Achchab
Statistique Infrentielle
S
S
x n t < m < x n + t .
n
n
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
nT
1X
(xi m)2 est le meilleur estimateur de 2 et 2 suit
T =
n
i=1
Statistique Infrentielle
m est inconnu
n
On utilise S 2 =
1X
nS 2
(xi X )2 et on sait que 2 suit la loi
n
i=1
2n1 .
Soit l1 et l2 les bornes de lintervalle de probabilit ;
nS 2
p l1 < 2 < l2 = 1 ,
on a alors :
ns2
ns2
< 2 <
,
l1
l2
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
S. Achchab
Statistique Infrentielle
p,
p(1 p)
n
!
.
S. Achchab
Statistique Infrentielle
k 2 p(1 p)
,
n
k2
k2
2py p = 0,
y +p 1+
n
n
2
S. Achchab
Statistique Infrentielle
2
k
k2
+ 2f + f 2 = 0
p2 1 +
p
n
n
S. Achchab
Statistique Infrentielle
k2
+ 2f
n
p=
k2
4 1+
n
f
2
k2
k4
2k
+
4f
4f
.
n
n
n2
Do
2
2f +
k2
n
k4
n2
2 1+
S. Achchab
+ 4f kn 4f 2 kn
.
2
k
n
Statistique Infrentielle
S. Achchab
Statistique Infrentielle
S. Achchab
Statistique Infrentielle
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Lestimateur Jack-Knife
Cette technique a t propos pour diminuer le biais dun
estimateur
Dfinition
Soit T un estimateur calcul sur un chantillon de taille n.
On note Ti lestimateur calcul sur le (n 1)-chantillon
obtenu en enlevant lobservation i. On appelle pseudo-valeur
Ti :
Ti = nT (n 1)Ti .
Lestimateur Jack-knife est alors la moyenne des
pseudo-valeurs :
n
1X
TJ =
Ti ,
n
i=1
S. Achchab
Statistique Infrentielle
Lestimateur Jack-Knife
Dfinition
ce qui donne
n
TJ = T (n 1)
1X
(Ti T ).
n
i=1
SJ2 =
1 X (Ti TJ )2
n
n1
i=1
S. Achchab
Statistique Infrentielle
Lestimateur de Jack-knife
Rduction du biais
Supposons que E(T ) = +
En effet :
a
, alors E(TJ ) = .
n
S. Achchab
Statistique Infrentielle
Lestimateur de Jack-knife
Exercice :
A titre dexercice, on peut vrifier que la mthode de Jack-knife
applique la variance S 2 donne lestimateur S 2 et que
applique X , on retrouve X . Le calcul de Jack-knife est
surtout utile pour des statistiques biaises dont le biais est trs
difficile calcul (coefficient de corrlation par exemple).
S. Achchab
Statistique Infrentielle
Introduction Infrence statistique - chantillonnage Estimation : Estimation ponctuelle Estimation par intervalle de confiance Test
Plan
1
Introduction
Statistique
La dmarche statistique
Dfinitions et notations
Infrence statistique - chantillonnage
statistique
proprits lmentaires
Cas des grands chantillons
Cas des petits chantillons
Estimation : Estimation ponctuelle
Introduction
Qualit dun estimateur
Estimation ponctuelle des paramtres usuels
Mthodes du maximum de vraisemblance
Estimation par intervalle de confiance
Principe de le mthode
Estimation de la moyenne dune variable de Laplace
S. Achchab
Statistique Infrentielle
Gauss
Introduction Infrence statistique - chantillonnage Estimation : Estimation ponctuelle Estimation par intervalle de confiance Test
Et cest facile.
S. Achchab
Statistique Infrentielle