Modelo de regresin simple: Y = |

1
+ |
2
X + u
Ahora, demostraremos que el estimador ordinario de mnimos cuadrados (OLS) del
coeficiente de la pendiente en un modelo de regresin no tiene sesgo. (unbiased)
1
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Vimos en una presentacin anterior que el coeficiente de la pendiente se puede
descomponer en el valor real y una suma ponderada de los valores del trmino de error.
weighted sum of the values of the disturbance term.
2
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Por lo tanto, el valor esperado de b
2
es igual al valor esperado de |
2
y el valor esperado de
la suma ponderada de los valores del trmino de error.
3
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
|
2
es fijo, por lo que no es afectado por las expectativas. La primera regla del valor
esperado (captulo de revisin) indica que la expectativa de una suma de varias cantidades
es igual a la suma de sus expectativas.
4
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
( ) ( ) ( ) ( ) ( )

= + + = + + =
i i n n n n i i
u a E u a E u a E u a u a E u a E ... ...
1 1 1 1
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Ahora para cada i, E(a
i
u
i
) = a
i
E(u
i
). Este es un paso realmente importante y slo lo podemos
llevar a cabo con el Modelo A.
5
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Bajo el Modelo A, estamos asumiendo que los valores de X en las observaciones no son
aleatorios. Por lo que cada a
i
no es eleatoria dado que slo es una combinacin de los
valores de X.
6
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
De este modo puede ser tratado como constante, permitiendo que la saquemos de la
expectativa usando la segunda regla del valor esperado (captulo de la revisin).
7
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Bajo el supuesto, A.3, E(u
i
) = 0 para toda i, yel estimador es insesgado. La prueba de la
imparcialidad del estimador del intercepto se dejar como un ejercicio.
8
( )( )
( )

+ =

=
i i
i
i i
u a
X X
Y Y X X
b
2
2
2
|
( )

=
2
X X
X X
a
j
i
i
( ) ( ) ( )
( ) ( )
2
2 2
2 2
|
| |
|
=
+ = + =
+ =


i i i i
i i
u E a u a E
u a E E b E
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Es importante notar que los estimadores OLS de los parmetros no son los nicos
insesgados. Daremos ejemplos de otros.
9
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Alguien que nunca ha odo hablar de anlisis de regresin, viendo un diagrama de
dispersin de una muestra de observaciones, podra estimar la pendiente uniendo la
primera y la ltima observaciones, y dividiendo el aumento en la altura por la distancia
horizontal entre ellas.
10
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
Y
Y
1

X
1
X
n

Y
n

X
Y
n
Y
1

X
n
X
1

INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Por lo tanto, el estimador es (Y
n
Y
1
) dividido entre (X
n
X
1
). Investigaremos si est sesgado
o no.
11
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
Y
Y
1

X
1
X
n

Y
n

X
Y
n
Y
1

X
n
X
1

INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Para hacer esto, comenzaremos substituyendo los compoenetes Y en la expresin.
12
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
Y
Y
1

X
1
X
n

Y
n

X
n n n
u X Y + + =
2 1
| |
1 1 2 1 1
u X Y + + = | |
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Los trminos |
1
se anulan y el resto de la expresin se simplifica como se muestra. As
hemos descompuesto este estimador en dos componentes, el valor real y un trmino de
error. Esta descomposicin es paralela a la del estimador OLS, pero el trmino del error es
diferente.
13
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Ahora tomamos expectativas para investigar imparcialidad.
14
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple : Y = |
1
+ |
2
X + u
El denominador del trmino de error puede sacarse porque los valores de X no son
aleatorios.
15
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Dado el supuesto A.3, las expectativas de u
n
y u
1
son cero. Por lo tanto, a pesar de ser
nave, este estimador no est sesgado..
16
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Es intuitivamente fcil saber que no preferiremos el estimador nave sobre el OLS. A
diferencia del OLS, que toma cuenta de cada observacin, emplea solamente la primera y la
ltima, por lo que est perdiendo la mayor parte de la informacin en la muestra.
17
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
El estimador nave ser sensible al valor del trmino de error u en esas dos observaciones,
mientras que el estimador OLS combina todo los valores del trmino de error y aprovecha
la posibilidad de que, hasta cierto punto, se anulen.
18
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN

Modelo de regresin simple: Y = |
1
+ |
2
X + u
Con mayor rigor, puede ser demostrado que la variacin de poblacin del estimador nave
es mayor que la del estimador OLS, y que el estimador nave es por lo tanto menos
eficiente.
19
( ) ( )
( ) ( )
1
1
2
1
1 1 2
1
1 1 2 1 2 1
1
1
2
X X
u u
X X
u u X X
X X
u X u X
X X
Y Y
b
n
n
n
n n
n
n n
n
n

+ =

+
=

+ + + +
=

=
|
|
| | | |
2 1
1
2
1
1
2 2
) (
1
) ( ) (
| |
|
=

+ =
|
|
.
|

\
|

+ =
u u E
X X
X X
u u
E E b E
n
n
n
n
INSESGAMIENTO DE LOS COEFICIENTES DE REGRESIN
Copyright Christopher Dougherty 19992006. This slideshow may be freely copied for
personal use.
01.07.06