Captulo 7

Regresin y correlacin

Contenidos:

Dependencia funcional o exacta y dependencia estadstica

Concepto de regresin
Mtodo de mnimos cuadrados
Anlisis de la bondad de ajuste. Error cuadrtico medio, varianza residual
y coeficiente de determinacin lineal

Estadstica Econmica
2007-2008. Sara Mateo.
 Independencia - Dependencia
Cuando se estudian dos caractersticas simultneamente sobre una muestra,
se puede considerar que una de ellas influye sobre la otra de alguna
manera. Por ejemplo la altura y el peso o las horas de estudio y la
calificacin en un examen.

El objetivo principal de la regresin es descubrir el modo en que se relacionan.

Dos variables pueden considerarse:

Variables independientes No tienen relacin (una de ellas no sirve para

explicar los movimientos de la otra)
Dependencia funcional Y=f(x)
Dependencia estadstica

Dependencia
Independencia estadstica Dependencia funcional
estadstica

- +
Grado de asociacin entre dos variables
 GRFICOS DE DISPERSIN: Permite ver si hay asociacin
Dadas dos variables X y Y tomadas sobre el mismo elemento de la
poblacin, el diagrama de dispersin es simplemente un grfico de
dos dimensiones, donde en un eje (la abscisa) se sita una
variable, y en el otro eje (la ordenada) se sita la otra variable. Si
las variables estn correlacionadas, el grfico mostrara algn nivel
de correlacin (tendencia) entre las dos variables. Si no hay
ninguna correlacin, el grfico presentara una figura sin forma,
una nube de puntos dispersos en el grfico.

Asociacin
positiva. Si
aumenta X
aumenta Y

Estadstica Econmica
2007-2008. Sara Mateo.
 GRFICOS DE DISPERSIN / RECTA DE REGRESIN
La relacin entre dos variables mtricas puede ser
representada mediante la lnea de mejor ajuste a los datos.
Esta recta se le denomina recta de regresin, que puede ser
negativa o positiva, la primera con tendencia decreciente y la
segunda creciente.
 GRFICOS DE DISPERSIN / RECTA DE REGRESIN
Para el clculo de la recta de regresin se aplica el mtodo de
mnimos cuadrados entre dos variables. Esta lnea es la que
hace mnima la suma de los cuadrados de los residuos, es
decir, es aquella recta en la que las diferencias elevadas al
cuadrado entre los valores calculados por la ecuacin de la
recta y los valores reales de la serie, son las menores posibles.

y = a + bx
 Recta de regresin Pendiente

yn
yn 1 y i
y3
u3 ui
yi
y1 yi
y2

Intercepto
x1 x2 x3 xi xn 1 xn

yi a bxi ui ui yi yi
Error
Llamemos a u perturbacin o error, siendo la diferencia que hay entre el
valor observado de la variable exgena (y) y el valor estimado que
obtendremos a travs de la recta de regresin y i .

y i a bxi
La metodologa para la obtencin de la recta ser hacer MNIMA la suma de
los CUADRADOS de las perturbaciones. Por qu se elevan al cuadrado?

n n

u ( yi yi ) 2
2
i i
u 2

i 1
i i
( y
i 1

y ) 2

n 2 n n
2
ui ( yi yi ) yi aq bpxi
2
min
q, p i 1 i 1 i 1
Estadstica Econmica
2007-2008. Sara Mateo.
 En el modelo de regresin lineal simple la funcin elegida para aproximar la relacin entre las
variables es una recta, es decir y=a+bx, donde a,b son los parmetros. A esta recta la
llamaremos RECTA DE REGRESIN DE Y SOBRE X.

Vamos a deducir su ecuacin usando el mtodo de los mnimos cuadrados. Dado un valor de
X, tenemos los dos valores de Y, el observado, yi , y el terico, yi* = a + bxi. Hemos de
minimizar los errores cometidos:
n n

y abx y abx 2 2 MINIMIZAR

i i i i
i 1 El valor que hemos
i 1
Errores cometidos al
aproximar por una recta
aproximado para y con
la recta de regresin y*
na y b x
i
i
i
i
a y bx

x y y bx x b x
i
i i
i
i
i
2
i

x y
y
x bxnx b x
i

yi a bxi 0 y ab x
2
2 i i
i i
n
i i
a
i i i
i i i i

x y a x b x

2 yi a bxi xi 0 i i i
2
i
xi yi ynx b

xi2 nx 2

b
i i i i i i
S xy
S xy bSx2 b
S x2
y obtenemos que la recta de regresin de Y sobre X: y = a + bx con los
valores a y b anteriormente calculados, o bien la siguiente expresin:

S xy
y y x x
S x2

Aplicando el mismo razonamiento llegaramos a la expresin de la recta de

regresin de X sobre Y: x = a + by con los valores a y b calculados como:

S xy
b' y a' x b' y
S y2

Por tanto, se podra expresar como:

S xy
x x y y
Estadstica Econmica S y2
2007-2008. Sara Mateo.
 Varianza residual: Ayuda a medir la dependencia.

yi yi
2
Si es grande, los residuos, por trmino
VR = Su2 S R2y medio, sern grandes. Dependencia
N pequea y viceversa.

Varianza marginal: Es la varianza total de X o de Y. Si dividimos la

varianza residual entre esta se elimina el problema de unidades de
medida.
2 Su2 VR
2 Sx
Ayuda a determinar la
Sy S y2 VT y
asociacin pero en
sentido inverso. La
mejor medida es R.
Coeficiente de correlacin general:

Su2 rxy R
Haciendo unas transformaciones se demuestra que r(xy)
R 1 2 visto en el captulo 6 slo es un caso particular de R
SY
R2
Elevado al cuadrado obtenemos el coeficiente de determinacin que sirve como medida
del buen ajuste de la recta de regresin

2
Cuando solo exista una variable explicativa o S xy S xy S xy
2
R bb' r 2
S x2 S y2 S x S y
independiente y una sola dependiente se cumple: xy

 1 r 1 1 R 1 0 r 2 1 0 R2 1

Para el caso de distribuciones bidimensionales: R r R2 r 2

S S S
Recta de regresin: yi y XY2 x XY2 xi y XY2 xi x
SX SX SX

S XY S X SY S XY SY SY
yi y 2 i
x x y i
x x y r xi x
S X SY S X S X SY S X SX

r 1 1 r 0 r 0 0 r 1 r 1

Pendiente Negativa Positiva

Nula

Estadstica Econmica
2007-2008. Sara Mateo.
 2
S Y
Se descompone en:

S S VR
2
u
2
ry

S S S
2
R
2
Y
2
u
VE

S S
2
S 2
S 2 2
VR VE
R 1
2 u
Y R 1 u
SY2
22
S SY
Y
VT VT

S S S
2
Y
2
R
2
u VT VR VE

2
R Tanto por uno de la Y que viene explicado por la X

SIRVE PARA DETERMINAR SI EL AJUSTE HECHO ES BUENO. ES DECIR, SI LA

VARIABLE X EXPLICA LAS VARIACIONES DE LA VARIABLE Y. DEBER SER > 0.75
 S XY
yi qa bpxi y 2 xi x
SX
El objetivo ltimo de la regresin es la prediccin de una variable para un
valor determinado de la otra. La prediccin de Y para X = x0 ser simplemente
el valor obtenido en la recta de regresin de Y sobre X al sustituir el valor de x
por x0. La fiabilidad de esta prediccin ser tanto mayor cuando mayor sea la
correlacin entre las variables (es decir mayor sea R2 )

Dado un valor de la variable X que no ha sido observado, estimar el

correspondiente valor de Y
Dado x0 estimar y0

S XY
y 0 aq bpx0 y 2 x0 x
SX