Capitulo 2 Sistemas de Ecuaciones Lineales

Universidad de Chile
Departamento de Ingeniera Matemtica
Clculo Numrico MA-33A

Mtodos Numricos
para Sistemas de
Ecuaciones Lineales
Gonzalo Hernndez Oliva
GHO SEL - MA33A 1
MN para SEL: Temario
1) Motivacin Aplicaciones SEL:
a) Interpolacin Polinomial
b) Mnimos Cuadrados
c) Mtodo Simplex Optimizacin Lineal
2) Definiciones y Resultados Bsicos
3) Mtodos de Pivoteo (Directos) para SEL:
Gauss y Gauss-Jordan
4) Anlisis de Error del Mtodo de Gauss
GHO SEL - MA33A 2
MN para SEL: Temario
5) Matriz Inversa y Determinante
6) Factorizacin de Matrices
7) Mtodos Iterativos para SEL
a) Mtodo de Jacobi y Gauss-Seidel
b) Mtodo de Relajacin SOR y Gradiente
Conjugado
c) Anlisis de Error de los Mtodos Iterativos
d) Mtodos para Vectores y Valores Propios
GHO SEL - MA33A 3
MN para Sist. de Ecs. Lineales:
1) Motivacin 1: Interpolacin Polinomial
n Dados (n+1) puntos ( xi , yi )

yi = p ( xi ) = ak xi k Encontrar un polinomio de
k =0 grado n tal que:
p(xi ) = yi i =1,..., n +1
yi x x
x p(x)
x x
x x x
x
xi
GHO SEL - MA33A 4
1) Motivacin 1: Interpolacin Polinomial
yi = p ( xi ) i = 1,..., (n + 1)
n
yi = p ( xi ) = ak xi k
k =0
1 x1 x 21 x n1 a0 y1
1 x2 x 22 x n2 a1 y2
1 x3 x 23 x n3 a2 y3

1 x n1 x 2n1 x nn1 an y n1
GHO SEL - MA33A 5
1) Motivacin 2: Mnimos Cuadrados
yk = 0 + 1 xk
Nube de puntos Dados n puntos (xi , yi )
con tendencia Encontrar la recta que mejor
lineal los representa:
+
yi + + + ++ ++ + +
+ + +
+ + + ++ + + + + n
+ + + ++
+ + + ++ + + + + min [ yk ( 0 + 1 xk )]
2
++ ++ + + + 0 , 1
k =1
xi
GHO SEL - MA33A 6
GHO SEL - MA33A 7

Sea f [a, b] . Se quiere determinar un
polinomio pn ( x) de grado n segn MCC:
b
bi + j +1 a i + j +1
min T = [ f ( x) pn ( x) ] dx
2
ij =
pn ( x )
a
i + j +1
ntes
c ie Matriz tipo Hilbert !
Ecuaciones Normales: co
e f i
b b b b b
a x 0 dx a x 1 dx a x 2 dx a x n dx a0
a x 0 fxdx
b b b 3 b b
a x dx a x dx
1 2
x dx a x n1
dx a1 a x 1 fxdx
a

b b b b an b
GHO a x dx a x dx a x dx SEL -MA33A
n n1
a
n2
x dx 2n
a x n fxdx 8
Sea f ( x) = sin( x) . Determinemos p3 ( x)
polinomio de grado 3 segn MC:
2
1 1/2 1/3 1/4 a0 2/ sin(pi*x) v/s -1/20+103/25x-103/25x
1
1/2 1/3 1/4 1/5 a1 1/

1/3 1/4 1/5 1/6 a2 2 4/
0.8 3
1/4 1/5 1/6 1/7 a3 sin(pi*x) v/s p 3(x)

2 6/
0.6 3
p3 ( x) = 4.12x + 4.12x 0.05

0.4
2
0.2
GHO 0
SEL - MA33A 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 91
x
Ejemplo 1:
f ( x) = sin( x)
5,6
f ( x) = sin( x) p ( x) = ak xi k
GHO SEL - MA33A k =0 10

Ejemplo 2:
x
f ( x) = 2
0.5
0.4
x +1
0.3 7
0.2 p ( x) = ak xi k
0.1
k =0
9
0
p ( x) = ak xi k
y=x/(x 2+1)
-0.1
7th degree
k =0
9th degree
-0.2
-0.3
-0.4
-0.5
-5 -4 -3 -2 -1 0 1 2 3 4 5
GHO SEL - MA33A 11
1) Motivacin 3: Programacin Lineal
n
z
cT x = ck xk
minn c t x k =1
x\
Ax b
x0 Regin Factible
x2
Ax b
x0 Vrtices
x1
GHO SEL - MA33A 12

2) Defs. y Resultados Bsicos 1
Resolver un sistema de n ecuaciones lineales y
n incgnitas consiste en determinar los valores
de las variables: x1 , x2 , ... , xn tales que, dados:
A = (aij) y b = (bi) (i =1,...,n ; j =1,...,n) se satisfagan
las ecuaciones: Ax = b
a11 a12 " a1n x1 b1
. . . .
a22 " . a2 n .x2 b2
.. a21
.. . . =
# % # # #

GHO
an1 an 2 " ann xn bn
SEL - MA33A 13
Todo SEL se puede resolver bien
numricamente ?
Sea A mn invertible y b m. Entonces
es posible demostrar que si se perturba A o b
se tiene:
x 1 A
A A (1)
x+x A
x 1 b
A A (2)
x b
GHO SEL - MA33A 14
La norma de C mn se define segn:

n n n
C
= max cij = max c1 j ,..., cnj
i =1,...,n i =1,...,n
j =1 j =1 j =1
Se define el nmero de condicionamiento*
de A segn: 1
cond ( A) = A A

Se tiene que: cond (A) 1.

GHO SEL - MA33A 15
*Revisar clculo del cond(A) en Matlab
Veamos un ejemplo:
0.550 0.423 0.127 1
A=
0.484 0.372
b=
0.112
x =
-1
0.550 0.423 0.127 -0.4536

A+A =
0.48 3 0.372
b=
0.112
x =
0.89
Se tiene: cond(A) = 0.9737833.3 = 7621.8 !!!

El sistema es mejor condicionado si se tiene
que cond (A) esta cerca de 1 (Mat. de Hilbert)
GHO SEL - MA33A 16
MN para Sist. de Ecs. Lineales
3) Mtodo de Gauss 1
Mtodo de Gauss sin Anulacin de Pivote:
Parte 1: Eliminacin de variables bajo la
diagonal en las ecuaciones mediante
operaciones elementales:
Multiplicar una ecuacin por un real
Sumar dos ecuaciones
Se entonces producen ceros bajo la diagonal.
Parte 2: Sustitucin backward de las
variables en las ecuaciones
GHO SEL - MA33A 17
MN para Sist. de Ecs. Lineales
3) Mtodo de Gauss 2
Sustitucin Backwards:
u n ( n +1)
xn =
u nn
1 n
xk =
u kk
u k ( n +1) u kj x j k = ( n 1),...,1
j = k +1
Veamos un ejemplo.
GHO SEL - MA33A 18
3) Mtodo de Gauss 3
Estrategias de Pivoteo
En la iteracin k de la primera etapa del
mtodo de Gauss es posible que el pivote
akii (elementos de la diagonal de la ecuacin
i) se anule. En este caso se permuta la
ecuacin i con la ecuacin m de mayor
pivote en mdulo (pivoteo . parcial):
..
| a mi | | a ji | para todo j = i+1,,n
k k
Investigue la estrategia de pivoteo completo

GHO SEL - MA33A 19
3) Mtodo de Gauss 4: # de Ops
Una medida de la eficiencia de un algoritmo
es el tiempo que demora en ejecutarse, el
cual es proporcional al nmero de
operaciones aritmticas (ops)
n-1 Parte 1
Ops_Gauss(n) = (n - i)(2n - 2i + 6) O(n3)
i=1
+
,, n
Parte 2
(2i - 1)
i=1
O(n2)
GHO SEL - MA33A 20
3) Mtodo de Gauss - Jordan:
El mtodo de Gauss Jordan consiste en
aplicar 2 veces la primera parte del mtodo
de Gauss, es decir: triangularizar superior e
inferiormente la matriz A
n-1 Parte 1
Ops_G-J(n) = (n - i)(2n - 2i + 6) O(n3)
i=1
+
, , n-1
4i + n
Parte 2
i=1
O(n2)
GHO SEL - MA33A 21
4) Anlisis de Error del M. de Gauss:
Es posible hacer un anlisis de propagacin
de errores, que se obtienen al realizar las
operaciones aritmticas de la primera y
segunda etapa del mtodo de Gauss o
Gauss Jordan
Se demuestra que esta propagacin de
errores disminuye si se utiliza alguna tcnica
de pivoteo (parcial o completo)
GHO SEL - MA33A 22
5) Matriz Inversa y Determinante 1:
Matriz inversa A: Se aplica el mtodo de
Gauss Jordan al SEL aumentado con las
columnas de la matriz identidad
a 11 a 12 a 1n 1 0 0
a 21 a 22 a 2n 0 1 0

a n1 a n2 a nn 0 0 1
GHO SEL - MA33A 23
El det(A) se puede definir recursivamente

mediante la frmula de Laplace:
n
det( A) = (1) i+ j
aij det( Aij )
j =1
Frmula vlida Matriz Cofactor ij de A

para cualquier Se obtiene eliminando
fila i o columna j fila i y columna j
GHO SEL - MA33A 24

Propiedades del Determinante:
a) Si todos los coeficientes de una fila o
columna de A son ceros det(A) = 0
b) Si dos o ms filas o columnas de A son
linealmente dependientes det(A) = 0
c) Si se reemplaza la fila i (Fi) por la fila j (Fj)
donde i j entonces det(A) = -det(A)
d) Si se reemplaza la fila i (Fi) por (Fi + Fj)
donde i j entonces det(A) = det(A)
GHO SEL - MA33A 25
Propiedades del Determinante:
e) Si A y B son dos matrices cuadradas de
igual tamao: det(AB) = det(A)det(B)
f) det(At) = det(A)
g) Si A es invertible: det(A-1) = 1/det(A)
h) Si A es una matriz triangular inferior,
superior o diagonal:
n
det( A) = akk
GHO k =1
SEL - MA33A 26
Para calcular el det(A) se aplica el mtodo de
Gauss y la descomposicin A = LU:
Efectivamente, si se puede triangularizar la
matriz A, entonces:
PA = LU det(A) = det(PTLU)
det(A) = det(PT)det(L)det(U) = det(PT)det(U)
n
det(U ) = ukk
GHO
k =1 SEL - MA33A 27
6) Factorizacin de Matrices 1: A=LU
Descomposicin A = LU (Alg. Gauss)
1 0 0 0 u11 u12 u1n-1 u1n
m21 1 0 0 0 u22 u2n-1 u2n

m31 m32 0 0 0

1
un-1n-1

mn1 mn2 mnn-1 1 0 0 0 unn
L A = LU U
GHO SEL - MA33A 28
6) Factorizacin de Matrices 2: Crout
Una matriz A cuadrada es tridiagonal si sus
coeficientes no nulos se ubican en las
diagonales principal y secundarias
a 11 a 12 0 0 0
a 21 a 22 a 23 0 0
0 a 32 a 33 a 34 0
A
0 0 a 43 a 44 0

0 0 0 a nn1 a nn
GHO SEL - MA33A 29
Una matriz A cuadrada tridiagonal puede ser
factorizada segn A=LU donde:
l 11 0 0 0 0 1 u 12 0 0
l 21 l 22 0 0 0
0 1 u 23 0
0 l 32 l 33 0 0
0 0 1 0
0 0 l 43 l 44 0
u n1n

0 0 0 1
0 0 0 l nn1 l nn
U
GHO
L SEL - MA33A 30
Mtodo de Crout para matrices tridiagonales:
Paso 1: l 11 a 11
a 12
u 12
l 11
Paso 2: Para i=2,,n-1 l ii1 a ii1
l ii a ii l ii1 u i1i
a ii1
u ii1
l ii
Paso 3: l nn1 a nn1
l nn a nn l nn1 u n1n
GHO SEL - MA33A 31
6) Fact. de Matrices 5: Cholesky
Una matriz cuadrada A es definida positiva
si y solo si: xtAx > 0 para todo x n
Teorema: Si A es definida positiva:
a) det(A) 0
b) akk > 0 para todo k=1,,n
c) 1max akj max akk
k , j n 1 k n
d) (aij ) 2 < aii a jj i j

GHO SEL - MA33A 32
Teorema: A es definida positiva si y solo si
los determinantes de las matrices cofactores
principales son positivos: det(Akk) > 0 para
todo k=1,,n.
a11 a1k
Matriz cofactor
Akk =

principal k
ak1 akk
GHO SEL - MA33A 33
Teorema: A es definida positiva si y solo si
puede factorizarse como A = LLT donde L es
una matriz triangular inferior con lii > 0 para
todo i=1,,n.
En este caso para resolver un SEL Ax = b
se debe aplicar la sustitucin forward -
backward
GHO SEL - MA33A 34
6) Fact. de Matrices 8: Met. Cholesky
Paso 1: l 11 a 11
Paso 2: Para j=2,,n l j1 a j1 /l 11

i1 1/2
Paso 3: Para i=2,,n-1 l ii a ii l2ik

k1
i1
a ji ljk l ik
k1
Para j=(i+1),,n l ji
l ii
n1 1/2
Paso 4: l nn
GHO
a nn l2nkSEL - MA33A 35
k1
6) Fact. Matrices 9: Ortogonalizacin
Factorizacin QR:
A = QR
Q matriz ortogonal: QtQ = I (Gram-Schmidt)
R = QtA
Factorizacin SVD:
Anxm = USVt
Unxn , Vmxm matrices ortogonales
Snxm matriz valores singulares (raz v.p. At*A)
GHO SEL - MA33A 36
7) Mtodos Iterativos para SEL 1:
Mtodos Iterativos:
(0) n
x
(k+1) (k)
x = F(x ) k0
Los mtodos para SEL son de la forma:

(k) (k)
F(x ) = Bx +h
nn n
donde B ,h
GHO SEL - MA33A 37
En general se construyen B y h de la
siguiente forma:
nn
Sean M y N tales que:
M es invertible y A = M N
Entonces:
-1 -1
Ax = b Mx = Nx + b x = M Nx + M b
Esto sugiere definir:
-1 -1
B=M N y h= M b
GHO SEL - MA33A 38
Luego, si descomponemos A = (aij ) invertible
segn:
A = diag(A) + low(A) + up(A)
nn
Donde diag(A) , low(A) , up(A) se
definen segn:
aij si i = j
diag(A)ij =
0 si i j
GHO SEL - MA33A 39
aij si i > j
low(A)ij =
0 si i j
aij si i < j
up(A)ij =
0 si i j
En base a estas definiciones se tienen los
mtodos de Jacobi y Gauss - Seidel
GHO SEL - MA33A 40
Jacobi: define M y N segn:
M = diag(A)
N = -[low(A) + up(A)]
-1
B = - diag(A) [low(A) + up(A)]
-1
h = diag(A) b
GHO SEL - MA33A 41
Si x(k) = (xi(k)) i = 1,,n es el vector de la
iteracin k del mtodo de Jacobi, entonces
satisface la siguiente frmula iterativa:
n
a x ( k 1) + b

j =1
ij j i

xi (k )
= j i 1 i n, k = 1, 2,3...
aii
GHO SEL - MA33A 42
Gauss - Seidel: define M y N segn
M = [diag(A) + low(A)] N = - up(A)
-1
B = - [diag(A) + low(A)] [up(A)]
-1
h = [diag(A) + low(A)] b
J y G-S convergen x0 si A es estrictamente
diagonal dominante:
akk > j =1, j k akj k = 1,..., n
n
GHO SEL - MA33A 43

iteracin k del mtodo de Gauss-Seidel,
satisface la siguiente frmula iterativa:
i 1 n

ij j a x ( k 1)
a x (k )
ij j +bi
xi (k )
= j =1 j =i +1 1 i n,
aii
k = 1, 2,3...
GHO SEL - MA33A 44
iteracin k del mtodo de SOR, satisface
la siguiente frmula iterativa:
i 1 n
aij x j aij x j
( k 1)
(k )
+bi
xi ( k ) = (1 ) xi ( k 1)
+ j =1 j =i +1
aii
1 i n, k = 1,2,3...
GHO SEL - MA33A 45
Para matrices tridiagonales y definidas
positivas, el valor ptimo de est dado
por la frmula:
2

1 1T
Donde:
1
TJ = [ Diag ( A)] ( Low( A) + Up ( A))
1
TG = [ Diag ( A) + Low( A)] Up ( A)
GHO SEL - MA33A 46
Si A es definida positiva, el mtodo del
gradiente conjugado est dado por:
minn q ( x) = x Ax x b Ax = b
1
2
t t
x\
Paso 0: x \ , g = Ax b, d = g
0 n 0 0 0 0
k t k
(g ) d
Paso 1: = k t
k
k
(d ) Ad
Paso 2: x = x + d
k +1 k k k
GHO SEL - MA33A 47
Mtodo del gradiente conjugado:
k +1 k +1
Paso 3: g = Ax b
k +1 t k
( g ) Ad
Paso 4: =
k
k t k
(d ) Ad
Paso 5: d = g + d
k +1 k +1 k k
Si no hay errores de redondeo el mtodo

del gradiente conjugado converge en a lo
ms n iteraciones.
GHO SEL - MA33A 48
Anlisis de Error de los Mtodos Iterativos
Es posible hacer un anlisis de propagacin
de errores que se obtienen al realizar las
operaciones aritmticas de las iteraciones del
mtodo de Jacobi y Gauss Seidel
Si x(k) es la iteracin k de J o G-S y Ax = b:
xx (k )
1
b Ax (k )
A A
x b
GHO cond(A)
SEL - MA33A 49
Si A es una matriz cuadrada, el polinomio en
definido por:
p() = det(A- I)
es el polinomio caracterstico de A
El polinomio p es de grado n y tiene a lo ms
n races distintas (complejas). Estas races
de p se denominan valores propios de A.
GHO SEL - MA33A 50
Definicin: El radio espectral de A: (A) se
define como:
(A) = max | i |
i=1,,n
donde i es un valor propio de A

Proposicin: Si A es una matriz cuadrada:
a) || A ||2 = (AtA)
b) (A) || A ||
GHO SEL - MA33A 51
La relacin entre mtodos iterativos para
SEL y valores propios la establece los
siguientes resultados:
Proposicin: Si xk es la iteracin k de un
mtodo iterativo para un SEL que tiene la
forma:
xk+1 = Txk + c y Ax = b
Entonces:
Para k || xk x || (T)k || x0 x ||
GHO SEL - MA33A 52
Proposicin: Si xk es la iteracin k de un
mtodo iterativo para un SEL que tiene la
forma:
xk+1 = Txk + c y Ax = b
Entonces: xk x ssi (T) < 1
Proposicin: Si los mtodos de Jacobi y
Gauss-Seidel convergen se tiene que:
0 (TGS) < (TJ) < 1
GHO SEL - MA33A 53
Bibliografa
1) R. Burden & J. D. Faires, Anlisis
Numrico, Sptima Edicin, Thomson
Learning, 2002.
2) J. Stoer & R. Burlisch, Introduction to
Numerical Analysis, Second Edition,
Springer, 1992.
3) G. Hernndez O.: Apuntes de Clculo
Numrico 2007
GHO SEL - MA33A 54

Capitulo 2 Sistemas de Ecuaciones Lineales

Hochgeladen von

Dokumentinformationen

Originalbeschreibung:

Copyright

Verfügbare Formate

Dieses Dokument teilen

Dokument teilen oder einbetten

Freigabeoptionen

Stufen Sie dieses Dokument als nützlich ein?

Sind diese Inhalte unangemessen?

Copyright:

Verfügbare Formate

Capitulo 2 Sistemas de Ecuaciones Lineales

Hochgeladen von

Copyright:

Verfügbare Formate

Universidad de Chile

Departamento de Ingeniera Matemtica

Clculo Numrico MA-33A

n Dados (n+1) puntos ( xi , yi )

GHO SEL - MA33A 7

1/4 1/5 1/6 1/7 a3 sin(pi*x) v/s p 3(x)

p3 ( x) = 4.12x + 4.12x 0.05

GHO SEL - MA33A k =0 10

GHO SEL - MA33A 12

La norma de C mn se define segn:

Se tiene que: cond (A) 1.

0.550 0.423 0.127 -0.4536

Se tiene: cond(A) = 0.9737833.3 = 7621.8 !!!

Investigue la estrategia de pivoteo completo

El det(A) se puede definir recursivamente

Frmula vlida Matriz Cofactor ij de A

GHO SEL - MA33A 24

d) (aij ) 2 < aii a jj i j

Paso 2: Para j=2,,n l j1 a j1 /l 11

Paso 3: Para i=2,,n-1 l ii a ii l2ik

Los mtodos para SEL son de la forma:

GHO SEL - MA33A 43

Si no hay errores de redondeo el mtodo

donde i es un valor propio de A

Das könnte Ihnen auch gefallen