Regresin lineal simple

Integrantes:
Pool Diego Hituza Moscoso
Aldo Borda Pumacota
 INTRODUCCION
La primera forma de regresin lineal documentada fue el
mtodo de los mnimos cuadrados que fue publicada por
Legendreen1805,y en dnde se inclua una versin
del teorema de Gauss-Mrkov.
El trminolinealse emplea para distinguirlo del resto de
tcnicas deregresin, que emplean modelos basados en
cualquier clase defuncin matemtica. Los modelos lineales
son una explicacin simplificada de la realidad, mucho ms
giles y con un soporte terico mucho ms extenso por parte
de lamatemticay laestadstica.
Los mtodos de regresin estudian la construccin de
modelos para explicar o representar la dependencia entre
una variable respuesta o dependiente (Y ) y la(s) variable(s)
explicativa(s) o dependiente(s), X .
 DATOS Y GRAFICA DE DISPERSION
MODELO DE REGRESION LINEAL

La estructura del modelo de regresin lineal es la siguiente:

En esta expresin estamos admitiendo que todos los factores o

causas que influyen en la variable respuesta Y pueden dividirse en
dos grupos: el primero contiene a una variable explicativa X y el
segundo incluye un conjunto amplio de factores no controlados que
englobaremos bajo el nombre de perturbacin o error aleatorio, ,
que provoca que la dependencia entre las variables dependiente e
independiente no sea perfecta, sino que est sujeta a incertidumbre.
Lo que en primer lugar sera deseable en un modelo de regresin es
que estos errores aleatorios sean en media cero para cualquier valor
x de X, es decir, E[/X = x] = E[]=0, , y por lo tanto:
 . Propiedades descriptivas en la
regresin lineal simple
1. La suma de los residuos mnimo-cuadrticos es igual a cero:

 LA GRAFICA DE DISPERSION
Una forma de determinar si puede existir o no dependencia entre
variables, y en caso de haberla deducir de qu tipo puede ser, es
grficamente representando los pares de valores observados. A dicho
grfico se le llama nube de puntos o diagrama de dispersin.

En a) hay ausencia de relacin (independencia).

En b) existe asociacin lineal positiva (varan en general en el mismo
sentido).
En c) existe asociacin lineal negativa (varan en sentido contrario).
En d) existe fuerte asociacin, pero no lineal.
 LA COVARIANZA
Covarianza entre las variables X e Y. Es una
medida de la variacin conjunta. Se define como

La covarianza a diferencia de la varianza, puede

ser negativa.
 EL COEFICIENTE O INDICE DE
CORRELACION LINEAL
Como solucin al inconveniente planteado, para medir la asociacin lineal entre dos variables
X e Y se utiliza una medida adimensional denominada coeficiente de correlacin lineal, dado
por:

y su estimacin a partir de datos de una muestra resulta:

Un valor cercano o igual a 0 indica respectivamente poca o ninguna relacin lineal entre las
variables. Cuanto ms se acerque en valor absoluto a 1 mayor ser el grado de asociacin
lineal entre las variables. Un coeficiente igual a 1 en valor absoluto indica una dependencia lineal
exacta entre las variables.
Un coeficiente positivo indica asociacin lineal positiva, es decir, tienden a variar en el mismo
sentido. Un coeficiente negativo indica asociacin lineal negativa, es decir, tienden a variar en
sentido opuesto. Ntese que si 1 = 0 entonces r = 0 , en cuyo caso hay ausencia de linealidad.
Por lo tanto, contrastar si el coeficiente de correlacin lineal es significativamente distinto de 0
sera equivalente a contrastar si 1 es significativamente distinto de cero, contraste que ya
vimos en la seccin anterior.
 EL COEFICIENTE DE
DETERMINACION
Segn hemos visto, el coeficiente de correlacin lineal puede
interpretarse como una medida de la bondad del ajuste del modelo
lineal, concretamente, un valor del coeficiente igual a 1 o -1 indica
dependencia lineal exacta, en cuyo caso el ajuste es perfecto. No
obstante, para cuantificar la bondad del ajuste de un modelo, lineal
o no, se utiliza una medida que se denomina coeficiente de
determinacin lineal R2, que es la proporcin de variabilidad de la
variable Y que queda explicada por el modelo de entre toda la
presente, y cuya expresin es:

que en modelo de regresin lineal coincide con el cuadrado del

coeficiente de correlacin lineal:
 RECTA DE REGRESION DE MINIMOS
CUADRADOS

A continuacin se expone el proceso para la obtencin por

mnimos cuadrados de los estimadores 1 y 2 . El objetivo es
minimizar la suma de los cuadrados de los residuos (S). Para ello,
en primer lugar expresamos S en funcin de los estimadores 1
y2:
 Las ecuaciones (14) se denominan ecuaciones normales de la recta de
regresin. Resolviendo este sistema, segn puede verse en el recuadro
adjunto, a partir de (21) se obtiene de forma inmediata el estimador de
2:
 A su vez 1 se obtiene a travs de la relacin (17). Es decir,

Dividiendo numerador y denominador (15) por T se tiene que

De acuerdo con (23), la estimacin de 2 se obtiene dividiendo la

covarianza muestra de X e Y por la varianza muestra de X. Dado que
la varianza de X no puede ser negativa, el signo de 2 ser el
mismo que el de la covarianza muestra de X e Y.
Particin de la varianza de Y
Coeficiente de
determinacin