Beruflich Dokumente
Kultur Dokumente
Tema 3: Estimadores de m
axima verosimilitud
Metodo de obtenci
on del E.M.V.
Estadstica I
A. Arribas Gil
Poblaci
on y muestra
Estadsticos y parametros
Estadstica I
A. Arribas Gil
1.
En una urna hay 4 bolas que pueden ser blancas o negras. La proporcion,
, de bolas blancas en la urna es desconocida.
Nuestro objetivo es estimar el valor de . Para ello, extraemos de la urna 2
bolas con reemplazamiento. Supongamos que la primera bola extrada es
blanca (B) y la segunda es negra (N).
Que valor de te resulta mas verosmil?
verosmil.
1. adj. Que tiene apariencia de verdadero.
2. adj. Creble por no ofrecer caracter alguno de falsedad.
c Todos los derechos reservados.
Real Academia Espa
nola
http://www.rae.es
Estadstica I
A. Arribas Gil
A. Arribas Gil
Verosimilitud
Definici
on
1.
si X es continua
Observaciones:
La notaci
on L() indica que L es una funci
on de y no de (x1 , . . . , xn ).
El subndice en la funci
on de probabilidad o de densidad indica que
dicha funci
on depende del valor del parametro. Utilizaremos tambien las
notaciones P( ; ) y f ( ; ).
Estadstica I
A. Arribas Gil
Verosimilitud
Ejemplo 1 (cont.) Escribir la funci
on de verosimilitud en el caso de extraer
dos bolas de la urna con reemplazamiento.
Al extraer una bola al azar
X =
1
0
si es blanca
si es negra
B()
indep.
Si realizamos la extracci
on sin reemplazamiento, cual sera la funcion de
verosimilitud?
Estadstica I
A. Arribas Gil
Verosimilitud
El caso mas frecuente (y el que vais a tener en el examen) es aquel en el que
las v.a. son i.i.d., es decir, tenemos una muestra aleatoria simple.
=
indep.
i.d.
P(X1 = x1 , . . . , Xn = xn ; )
P(X1 = x1 ; ) . . . P(Xn = xn ; )
n
Y
P(X = xi ; )
i=1
=
indep.
i.d.
f (x1 , . . . , xn ; )
fX1 (x1 ; ) . . . fXn (xn ; )
n
Y
f (xi ; )
i=1
Estadstica I
A. Arribas Gil
Verosimilitud
Ejemplo
2.
f (x ; , ) =
(x)2
1
e 22 ,
2
x R.
Funci
on de verosimilitud de = (, ):
L(x1 , . . . , xn ; , )
indep.
= f (x1 , . . . , xn ; ) =
n
Y
i.d.
fXi (xi ; , ) =
i=1
n
Y
n
Y
f (xi ; , )
i=1
1
(xi )2
exp
=
2 2
2
i=1
(
)
n
n
1
1 X
2
exp 2
(xi )
=
2
2
i=1
x1 , . . . , xn R
Estadstica I
A. Arribas Gil
Estadstica I
A. Arribas Gil
10
`() = 0
j
y denotarlo por j .
4. Comprobar que realmente es un maximo, es decir, que
2
`()|j =j < 0
j2
Estadstica I
A. Arribas Gil
11
3.
n
exp
n
1 X
2
2
(xi )
2
i=1
2. Escribir la funci
on soporte:
`() = ln L() = n ln
n
1 X
2
2 2
(xi )
2
i=1
Estadstica I
A. Arribas Gil
12
Ejemplo
`()
= 21 2
`()
Pn
i=1
`()
2 (xi ) =
= 0.
1
2
Pn
i=1
(xi ) =
1
2
n +
Pn
i=1 xi
Pn
Pn
n + i=1 xi = 0 n + i=1 xi = 0
Pn
Pn
n = i=1 xi = n1 i=1 xi = x
=0
1
2
Por tanto
= x.
4. Comprobar que realmente es un maximo, es decir, que
2
n
`() = 2 < 0
2
2 `()|=
<0
2
`()|= < 0
2
A. Arribas Gil
13
4.
El E.M.V. de (, 2 ) si X N(, ).
El E.M.V. de p si X B(p).
El E.M.V. de si X Exp().
El E.M.V. de si X P().
Estadstica I
A. Arribas Gil
14
5.
3. INSESGADEZ ASINTOTICA:
Se verifica que limn E [nMV ] = .
Estadstica I
A. Arribas Gil
15
4. NORMALIDAD ASINTOTICA:
Bajo ciertas condiciones generales,
n(MV ) N(0,
donde
"
i() = E
p
i()1 )
ln f (X ; )
2 #
es la cantidad de informaci
on de Fisher correspondiente a una observacion.
La cantidad de informaci
on de Fisher correspondiente a n observaciones es
"
"
2 #
2 #
m.a.s.
ln f (X1 , . . . , Xn ; )
= nE
ln f (X ; )
I () = E
= n i()
Estadstica I
A. Arribas Gil
16
4. NORMALIDAD ASINTOTICA
(cont.):
Se tiene que
"
I () = E
ln f (X1 , . . . , Xn ; )
La varianza asint
otica de MV es:
h
i
1
1
A
=
Var MV =
n i()
I ()
2 #
= E
i
ln f (X1 , . . . , Xn ; )
1
2
2 `()|=MV
E
2
ln f (X1 , . . . , Xn ; )
2
2
2
La aproximaci
on final es muy u
til en la practica.
Estadstica I
A. Arribas Gil
17
6.
MV .
Sabemos que
Por tanto
Var [
MV ]
Var [
MV ]
1
2
MV
2 `()|=
2
n
`() = 2 .
2
2
.
n
A. Arribas Gil
18
7.
2
2
2
1
1
= n
= MV
2 |= MV
n
`()|= MV
Si observamos la muestra particular (0.37, 2.16, 0.07, 1.86, 7.11, 0.67, 0.49,
0.11), cual es la estimaci
on maximo-verosmil de para esta muestra? Y la
aproximacion de la varianza asint
otica del estimador maximo-verosmil?
MV =
Estimacion maximo-verosmil:
1
x
1
1.605
0.623.
MV (estimador):
Aproximacion de la varianza asint
otica de
h
i A
2
0.6232
MV
MV
Var
=
= 0.049
n
8
Estadstica I
A. Arribas Gil