Sie sind auf Seite 1von 6

Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.

org/wiki/Mxima_verosimilitud

Mxima verosimilitud
En estadstica, la estimacin por mxima verosimilitud (conocida tambin como EMV y, en ocasiones,
MLE por sus siglas en ingls) es un mtodo habitual para ajustar un modelo y estimar sus parmetros.

ndice
1 Historia
2 Fundamento
3 Propiedades del estimador de mxima verosimilitud
3.1 Consistencia
3.2 Normalidad asinttica
3.3 Invariancia funcional
3.4 Otras propiedades
4 Ejemplos
4.1 Distribucin uniforme discreta
4.2 Distribucin discreta con parmetros discretos
5 Aplicaciones
6 Vase tambin
7 Notas
8 Referencias
9 Enlaces externos

Historia
Fue recomendado, analizado y popularizado por R. A. Fisher entre
1912 y 1922, aunque haba sido utilizado antes por Carl Friedrich
Gauss, Pierre-Simon Laplace, Thorvald N. Thiele y Francis
Edgeworth.1

Fundamento
Supngase que se tiene una muestra x1, x2, , xn de n observaciones
independientes e idnticamente distribuidas extradas de una funcin
de distribucin desconocida con funcin de densidad (o funcin de
probabilidad) f0(). Se sabe, sin embargo, que f0 pertenece a una
familia de distribuciones {f(|), }, llamada modelo
paramtrico, de manera que f0 corresponde a = 0, que es el
verdadero valor del parmetro. Se desea encontrar el valor (o
estimador) que est lo ms prximo posible al verdadero valor 0.

Tanto xi como pueden ser vectores. Ronald Fisher en 1913

La idea de este mtodo es el de encontrar primero la funcin de


densidad conjunta de todas las observaciones, que bajo condiciones de independencia, es

1 de 6 26/09/2017 22:48
Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.org/wiki/Mxima_verosimilitud

Observando esta funcin bajo un ngulo ligeramente distinto, se puede suponer que los valores observados
x1, x2, , xn son fijos mientras que puede variar libremente. Esta es la funcin de verosimilitud:

En la prctica, se suele utilizar el logaritmo de esta funcin:

El mtodo de la mxima verosimilitud estima 0 buscando el valor de que maximiza . Este es el


llamado estimador de mxima verosimilitud (MLE) de 0:

En ocasiones este estimador es una funcin explcita de los datos observados x1, , xn, pero muchas veces
hay que recurrir a optimizaciones numricas. Tambin puede ocurrir que el mximo no sea nico o no
exista.

En la exposicin anterior se ha asumido la independencia de las observaciones, pero no es un requisito


necesario: basta con poder construir la funcin de probabilidad conjunta de los datos para poder aplicar el
mtodo. Un contexto en el que esto es habitual es el del anlisis de series temporales.

Propiedades del estimador de mxima verosimilitud


En muchos casos, el estimador obtenido por mxima verosimilitud posee un conjunto de propiedades
asintticas atractivas:

consistencia,
normalidad asinttica,
eficiencia,
e incluso eficiencia de segundo orden tras corregir el sesgo.

Consistencia

Bajo ciertas condiciones bastante habituales,2 el estimador de mxima verosimilitud es consistente: si el


nmero de observaciones n tiende a infinito, el estimador converge en probabilidad a su valor verdadero:

Bajo condiciones algo ms fuertes,2 la convergencia es casi segura:

Normalidad asinttica
Si las condiciones para la consistencia se cumplen y, adems,

1. 0 interior();
2. f(x|) > 0 y es dos veces continuamente diferenciable respecto a en algn entorno N de 0;

2 de 6 26/09/2017 22:48
Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.org/wiki/Mxima_verosimilitud

3. supN||f(x|)||dx < , y supN||f(x|)||dx < ;


4. I = E[lnf(x|0) lnf(x|0)] existe y no es singular;
5. E[ supN||lnf(x|)||] < ,

entonces el estimador de mxima verosimilitud tiene una distribucin asinttica normal:3

Invariancia funcional

Si es el EMV de y g() es una transformacin de , entonces el EMV de = g() es

Adems, el EMV es invariante frente a ciertas transformaciones de los datos. En efecto, si y


una aplicacin biyectiva que no depende de los parmetros que se estiman, entonces la funcin de densidad
de Y es

Es decir, las funciones de densidad de X e Y difieren nicamente en un trmino que no depende de los
parmetros. As, por ejemplo, el EMV para los parmetros de una distribucin lognormal son los mismos
que los de una distribucin normal ajustada sobre el logaritmo de los datos de entrada.

Otras propiedades
El EMV es n-consistente y asintticamente eficiente. En particular, esto significa que el sesgo es cero hasta
el orden n1/2. Sin embargo, al obtener los trminos de mayor orden de la expansin de Edgeworth de la
distribucin del estimador, emv tiene un sesgo de orden 1. Este sesgo es igual a4

frmula donde se ha adoptado la convencin de Einstein para expresar sumas; Ijk representa la j,k-sima
componente de la inversa de la matriz de informacin de Fisher y

Gracias a estas frmulas es posible estimar el sesgo de segundo orden del estimador y corregirlo mediante
substraccin:

Este estimador, insesgado hasta el orden n1, se llama estimador de mxima verosimilitud con correccin
del sesgo.

Ejemplos
Distribucin uniforme discreta

3 de 6 26/09/2017 22:48
Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.org/wiki/Mxima_verosimilitud

Supngase que n bolas numeradas de 1 a n se colocan en una urna y que una de ellas se extrae al azar. Si se
desconoce n, su EMV es el nmero m que aparece en la bola extrada: la funcin de verosimilitud es 0 para
n < m y 1/n para n m; que alcanza su mximo cuando n = m. La esperanza matemtica de , es (n + 1)/2.
Como consecuencia, el EMV de n infravalorar el verdadero valor de n por (n 1)/2.

Distribucin discreta con parmetros discretos


Supngase que se lanza una moneda sesgada al aire 80 veces. La muestra resultante puede ser algo as como
x1 = H, x2 = T, ..., x80 = T, y se cuenta el nmero de caras, "H". La probabilidad de que salga cara es p y la
de que salga cruz, 1 p (de modo que p es el parmetro ). Supngase que se obtienen 49 caras y 31 cruces.
Imagnese que la moneda se extrajo de una caja que contena tres de ellas y que stas tienen probabilidades p
iguales a 1/3, 1/2 y 2/3 aunque no se sabe cul de ellas es cul.

A partir de los datos obtenidos del experimento se puede obtener saber cul es la moneda con la mxima
verosimilitud. Usando la funcin de probabilidad de la distribucin binomial con una muestra de tamao 80,
nmero de xitos igual a 49 y distintos valores de p, la funcin de verosimilitud toma tres valores siguientes:

La verosimilitud es mxima cuando p = 2/3 y ste es, por lo tanto, el EMV de p.

Aplicaciones
El estimador de mxima verosimilitud se usa dentro de un gran nmero de modelos estadsticos:

modelos lineales los modelos lineales generalizados;


Anlisis factorial, tanto exploratorio como confirmatorio;
anlisis de ecuaciones estructurales;
y otras muchas situaciones en el contexto de los tests estadsticos

Vase tambin
Funcin de verosimilitud
Algoritmo esperanza-maximizacin

Notas
1. Edgeworth (Sep 1908, Dec 1908)
2. Newey y McFadden (1994, Theorem 2.5.)
3. Newey y McFadden (1994, Theorem 3.3.)
4. Cox y Snell (1968, formula (20))

Referencias

4 de 6 26/09/2017 22:48
Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.org/wiki/Mxima_verosimilitud

Aldrich, John (1997). R.A. Fisher and the making of maximum likelihood 19121922. Statistical
Science 12 (3): 162-176. doi:10.1214/ss/1030037906 (http://dx.doi.org/10.1214%2Fss%2F1030037906).
MR 1617519 (http://www.ams.org/mathscinet-getitem?mr=1617519).
Anderson, Erling B. 1970. "Asymptotic Properties of Conditional Maximum Likelihood Estimators".
Journal of the Royal Statistical Society B 32, 283-301.
Andersen, Erling B. 1980. Discrete Statistical Models with Social Science Applications. North
Holland, 1980.
Debabrata Basu. Statistical Information and Likelihood : A Collection of Critical Essays by Dr. D.
Basu ; J.K. Ghosh, editor. Lecture Notes in Statistics Volume 45, Springer-Verlag, 1988.
Cox, D.R.; Snell, E.J. (1968). A general definition of residuals. Journal of the Royal Statistical
Society. Series B (Methodological): 248-275. .
Edgeworth, F.Y. (Sep de 1908). On the probable errors of frequency-constants. Journal of the Royal
Statistical Society 71 (3): 499-512. .
Edgeworth, F.Y. (Dec de 1908). On the probable errors of frequency-constants. Journal of the Royal
Statistical Society 71 (4): 651-678. .
Ferguson, Thomas S (1996). A course in large sample theory. Chapman & Hall.
Hald, Anders (1998). A history of mathematical statistics from 1750 to 1930. Nueva York: Wiley.
Hald, Anders (1999). On the history of maximum likelihood in relation to inverse probability and
least squares. Statistical Science 14 (2): 214-222. .
Kano, Y. (1996). Third-order efficiency implies fourth-order efficiency
(http://www.journalarchive.jst.go.jp/english/jnlabstract_en.php?cdjournal=jjss1995&cdvol=26&
noissue=1&startpage=101). Journal of the Japan Statistical Society 26: 101-117.
Le Cam, Lucien (1990). Maximum likelihood an introduction. ISI Review 58 (2): 153-171.
Le Cam, Lucien; Lo Yang, Grace (2000). Asymptotics in statistics: some basic concepts. Springer.
ISBN 0-387-95036-2.
Le Cam, Lucien (1986). Asymptotic methods in statistical decision theory. Springer-Verlag.
Lehmann, E.L.; Casella, G. (1998). Theory of Point Estimation, 2nd ed. Springer. ISBN 0-387-98502-6.
Newey, Whitney K.; McFadden, Daniel (1994). Large sample estimation and hypothesis testing.
Handbook of econometrics, vol.IV, Ch.36. Elsevier Science. pp. 2111-2245.
Pratt, John W. (1976). F. Y. Edgeworth and R. A. Fisher on the efficiency of maximum likelihood
estimation. The Annals of Statistics 4 (3): 501-514. .
Savage, Leonard J. (1976). On rereading R. A. Fisher. The Annals of Statistics 4 (3): 441-500. .
Stigler, Stephen M. (1978). Francis Ysidro Edgeworth, statistician. Journal of the Royal Statistical
Society. Series A (General) 141 (3): 287-322. .
Stigler, Stephen M. (1986). The history of statistics: the measurement of uncertainty before 1900.
Harvard University Press. ISBN 0-674-40340-1.
Stigler, Stephen M. (1999). Statistics on the table: the history of statistical concepts and methods.
Harvard University Press. ISBN 0-674-83601-4.
van der Vaart, A.W. (1998). Asymptotic Statistics. ISBN 0-521-78450-6.

Enlaces externos
Tutorial (http://statgen.iop.kcl.ac.uk/bgim/mle/sslike_1.html)
Implementacin de la estimacin por mxima verosimilitud usando R (http://www.mayin.org/ajayshah
/KB/R/documents/mle/mle.html)
Tutorial on maximum likelihood estimation (http://citeseerx.ist.psu.edu/viewdoc
/download?doi=10.1.1.74.671&rep=rep1&type=pdf) en el Journal of Mathematical Psychology
(http://www.elsevier.com/locate/jmp)

5 de 6 26/09/2017 22:48
Mxima verosimilitud - Wikipedia, la enciclopedia libre https://es.wikipedia.org/wiki/Mxima_verosimilitud

Obtenido de https://es.wikipedia.org/w/index.php?title=Mxima_verosimilitud&oldid=101379495

Se edit esta pgina por ltima vez el 25 ago 2017 a las 03:11.
El texto est disponible bajo la Licencia Creative Commons Atribucin Compartir Igual 3.0; pueden
aplicarse clusulas adicionales. Al usar este sitio, usted acepta nuestros trminos de uso y nuestra
poltica de privacidad.
Wikipedia es una marca registrada de la Fundacin Wikimedia, Inc., una organizacin sin nimo de
lucro.

6 de 6 26/09/2017 22:48