1.

Introduccion

EYP2305 - A N ALISIS DE R EGRESI ON

Clase 2

Primer Semestre 2016

Prof. Ana Mara Alvarado C.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

El Modelo Lineal General

Las medias, varianzas y covarianzas de las observaciones pueden

escribirse como una funcion lineal de parametros desconocidos.

Notacion:
n: Numero de observaciones.
i: Indice de la observacion.
p 1: Numero de variables explicativas o inputs.
Yi : Respuesta o output i-esimo.
xij : valor del j-esimo input que dio origen a i-esimo output.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Supuesto sobre las medias

p1
X
E(Yi ) = 0 + j Xij
j=1
= 0 + 1 Xi1 + 2 Xi2 + ... + p Xi(p1)

Donde:
i = 1, ..., n
j = 1, ..., (p 1)

j es un parametro desconocido.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Ejemplos
Ejemplo 1:
Y : Tamano de vocabulario de un nino
X : Nivel educacional de los padres.

E(Yi ) = 0 + 1 Xi

Ejemplo 2:
R: Edad del nino.

E(Yi ) = 0 + 1 Xi + 2 R

Ejemplo 3: El siguiente, es un modelo lineal?

E(Yi ) = 0 + 1 Ti + 3 Ti2

.
EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Notacion Matricial

Convencion:
Matrices y vectores se indicaran con negrita.
Los vectores se asumen vectores columna.
Escribimos M = (mij ) para indicar que la matriz M tiene
elementos (escalares) mij .

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Definiciones

Definicion 1: El valor esperado de una matriz o vector aleatorio M

es la matriz de valores esperados de sus elementos:

E(M) = E(mij )

Definicion 2: La varianza de un vector aleatorio Y se define como

sigue:

Var (Y) = E ([Yi E(Yi )][Yk E(Yk )])

 
= E [Y E(Y)][Y E(Y)]T

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

El Modelo Lineal en Notacion Matricial

Y1 0 X1j
Yn1 = ...

p1 =
..
Xj = ...

.
Yn (p1) Xij

Xnp = (1, X1 , ..., X(p1) )

1 X11 . . . X1(p1)
= ... .. .. ..

. . .
1 Xn1 . . . Xn(p1)

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

p1
X
E(Y) = 0 + j Xj (1)
j=1
= X

c
X
V = Var (Y) = t Vt (2)
t=1

Donde V es una matriz simetrica y semi-definida positiva conocida.

(1) +(2) definen el modelo lineal general.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Recuerdo:
Cuando una matriz V de dimension n n cumple que, para cualquier
vector n-dimensional, y, no nulo siempre

yT Vy 0

se dice entonces que esa matriz V es semi-definida positiva y se

denota como V 0.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Estimacion en un Modelo Lineal

Es posible estimar el modelo sin supuestos distribucionales.

No es posible hacer inferencia.
Supuesto distribucional usual: Normalidad.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Modelos de Regresion Lineal

Caso especial del Modelo Lineal Simple, donde las medias de

las observaciones se asumen funcionalmente relacionadas.
La relacion depende de una o mas variables conocidas como
regresores, predictores o variables independientes.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Ejemplo: Modelo de Regresion Lineal Simple.

Interesa estudiar el efecto de la temperatura de fabricacion de un
producto sobre su resistencia.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Ejemplo: Modelo de Regresion Lineal Multiple

n observaciones.
p regresores.
Y: resistencia.
T: temperatura.
R: rapidez.

E(Yi ) = 0 + 1 Ti + 2 Ri
E(Yi ) = 0 + 1 Ti + 2 Ri + 3 Ti2 + 4 Ri2 + 5 Ti Ri

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Ejemplo: Modelo con Regresores Cualitativos

Interesa estudiar el efecto de la educacion de los padres sobre el

tamano de vocabulario de sus hijos, para ninos de distintas edades.
Y: Tamano del vocabulario.
X: Edad de los ninos.
E: Educacion de los padres.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Debemos definir:

1 Solamente E. B.
E1 =
0 Si no

1 Hasta E. M.
E2 =
0 Si no

1 E. S.
E3 =
0 Si no

El modelo es:

E(Yi ) = 0 + 1 Ei1 + 2 Ei2 + 3 Ei3 + 4 Xi

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Es decir, para hijos de padres con solo educacion basica:

E(Yi ) =

Para hijos de padres con educacion media:

E(Yi ) =

Para hijos de padres con algun nivel de educacion superior:

E(Yi ) =

Todas estas rectas son paralelas.

Si el supuesto de rectas paralelas no es valido se estudian modelos
con interaccion.

EYP1016
 Modelo Lineal General
1. Introduccion
Modelos de Regresion Lineal

Graficamente:

EYP1016