T F iT

T T T T T m rn i nrrn

Ajustamento | per nimos Quadrados

tm m m m t o o t

UNIVERSIDADE FEDERAL DO PARAN C U RSO D E PS-GRADUAO EM CINCIAS GEODSICAS

AJUSTAMENTO POR MNIMOS QUADRADOS

Quintino Dalmolin

Curitiba 2002

SUMRIO

CAPITULO I - INTRODUO........................................................1 1.1 CONCEITO DE AJUSTAMENTO..................... ............. ........... 1 1.2 OBSERVAES............ .................................... ................... .... 1 1.3 MODELO MATEMTICO.......................................... ...................2 CAPTULO 2 - CONCEITOS FUNDAMENTAIS EM PROBABILIDADE.......................... ....................... ............_ _3 2.1 INTRODUO........................................................... .....................3 2.2 CONCEITOS BSICOS EM PROBABILIDADE____________ 4 CAPTULO 3 - CONCEITOS BSICOS DE ESTATSTICA.... 13 3.1 INTRODUO................................................ .............. .............13 3.2 CONCEITOS BSICOS DE ESTATSTICA......... .................. 13 CAPTULO 4 - TEORIA DOS ERROS............................. ...........47 4.1 INTRODUO___________________________ ___ ________47 4.2 LEI GAUSSIANA E DISTRIBUIO NORMAL__________ 48 4.3 LEI DE PROPAGAO DAS COVARINCIAS...................... 56 4.4 INTRODUO PR-ANLISE DE LEVANTAMENTOS ..64 4.4.1 Conceituao 64 4.4.2 Exemplificao de Aplicaes Simplificadas........................... 66 4.4.3 Aplicao s Redes...................... .^................72 CAPTULO 5 - INTRODUO AO MTODO DOS MNIMOS QUADRADOS........................... ..................................................77 [5.1 CONSIDERAES INTRODUTRIAS----------------- ---------77 |5.2 DISCUSSO DE SISTEMAS DE EQUAES LINEARES NO HOMOGNEAS________________________________ 79 5.3 PRINCPIO DO MTODO DE MNIMOS QUADRADOS__84 CAPTULO 6 - AJUSTAMENTO COM MODELO PARAMTRICO.........................................................................89 6.1 INTRODUO--------------- ------------------------------------------- 89 1.1 Ajuntamento Paramtrico Linear................................ ..............89

6.1.2 Ajustamento Paramtrico no Linear.............................................93f 6.2 ESTIMATIVA DE PRECISO DOS PARMETROS CALCULADOS_________ _____________________________ 97] 6.3 EXERCCIOS E EXEMPLOS------------------------------------------ 100 CAPTULO 7 - AJUSTAMENTO MODELO IMPLCITO..... 121 7.1 CONCEITO______________ _____________________ _____.... 121 7.2 FORMA LINEAR DO MODELO............................................. . 121 7.3 SISTEMA DE EQUAES NORMAIS....................................... 123 FIGL 7.4 SOLUO DAS EQUAES NORMAIS................................... 124 expei 7.4.1 Particularizao para o Caso Paramtrico............................ . 127 F IG l 7.5 MTODO DOS CORRELATOS COMO CASO PARTICULAR oexe FIG l DO COMBINADO.........................................................................128 j freqv 7.6 ITERAO NO MTODO COMBINADO.................................. 129 de 5( 7.7 PRECISO DOS VALORES ESTIMADOS.................................132 FIGl 7.8 EXERCCIOS.............................. ........................ ...................... . 135; freqi CAPTULO 8 - INCLUSO DE NOVAS OBSERVAES, os c INJUNES E GENERALIZAO DO M ODELO.........145 FIGl 8.1 INCLUSO DE NOVAS OBSERVAES............................... 145 de i 8.2 INJUNES AOS PARMETROS..............................................147 novs 8.3 GENERALIZAO DO M O D ELO ...............................................151 FIGl 8.4 EXEMPLO DE INJUNES AOS PARM ETROS..................156 FIG CAPTULO 09 - REFERENCIAS...................................................... 167 repr ANEXOS........................................... ................................. ..................171 esqi | FIG con FIG ch erre FIG FIG 1 nor

93
97 IfjJ J* lOQ l is t a d e f ig u r a s I 121 |1 2 1 121 J2 3 FIGURA 3.1 - Diagrama de barras das probabilidades 1 2 . experimentais............................................................................................ 16 ^ 2 1 FIGURA 3.2 - Representao grfica da distribuio acumulada para exemPlc 3 A - .......................................................................................17 IFIGURA 3.3 - Diagrama de barra representando distribuio de frequncia e frequncia relativa do numero de filhos em uma amostra de 50 famlias brasileiras........................................................................23 FIGURA 3.4 - Histograma representando a distribuio de frequncias, frequncias relativas (classes ordenadas da direita) para O ES, os dados da tabela 3.2.............................................................................. 24 J O ..........145 FIGURA 3.5 - Redefinio da escala das ordenadas para a obteno .H rea unitria sob o histograma. fr = escala prvia; fr' = escala ................ 147 npya......................................................................................................... 26 ................151 FIGURA 3.6 - Polgono de frequncias............................................... 27 ............ 156 FIGURA 3.7 - Grfico da funo cumulativa FDC. As ordenadas ....... 167 representam probabilidade experimental ou rea do histograma ...... 171 esquerda de X......................................................................................... 28 FIGURA 3.8 - Ilustra diferentes formas de FDP < |> , e as correspondentes FDC < |> ........................................................................... 31 FIGURA 3.9 - a, probabilidade de ocorrncias do erro tipo I; 100a% chamado nvel de signifcncia; (3, probabilidade de ocorrncia de em> do tipo II; 1 - J3 a potncia do teste.............................................. 35 FIGURA 3.10 - Ilustra o exemplo 12.................................................... 36 FIGURA 4 . 1 - 0 histograma das observaes (a) tende para a curva normal (forma de sino) (b)......................................................................49 TICULAR ~~ 128 129 132 135

LISTA DE TABELAS

TABELA 3.1. D a frequncia e a frequncia relativa do nmero de filhos de uma amostra fictcia de 50 famlias brasileiras...................... 22 TABELA 3.2. D limites e pontos mdios de classes, frequncias e frequncias relativas de uma amostra de 200 estudantes da UFPR (amostra hipottica)................... ........................ ......... ....................... 23 TABELA 3.3. Reproduo da tabela 3.2. com uma coluna adicional C(X) que a funo distribuio de probabilidade cumulativa.... 28 ? TABELA 8.1-Coordenadas calibradas e medidas para as marcas fiduciais. Coordenadas observadas para pontos adicionais...---------- 156 TABELA 8.2 - Coordenadas fotogrficas x^y, estimadas pelas transformaes afim, isogonal e ortogonal............................ ............... 166 TABELA 8 3 - Parmetros das transformaes afim, TA; transformao afim com 2 injunes para restringi-la a isogonal TA 1^ com trs injunes, para restringi-la a ortogonal: TA10------- 166

j j ^q ] ^

aj niffaiT ocotri

ajustan no ex<

1.2 CM

eivada preciii certa r e x p rn medid probd

CAPTULO 1 - INTRODUO IUmero de uncias"e" 22 lU F P R 11 CONCEITO DE AJUSTAMENTO ......;*;...... 23 adicional O ajustamento um ramo da matemtica aplicada. Tem por itiva........ objetivo soluo nica para problemas onde o nmero de observaes m arcas superabundante e o sistema de equaes lineares inconsistente. I ........... Objetiva ainda a estimativa da qualidade da soluo. Consiste numa la s expanso do mtodo dos mnimos quadrados desenvolvidos independentemente por Gauss (1795) e Legendre (1805). O ....... ajustamento, nas ltimas dcadas, beneficiou-se do desenvolvimento ***** ocorrido na computao eletrnica, no clculo matricial e nas tcnicas estatsticas. Tambm, deve-se lembrar que, no faz sentido falar em ....... ^ ajustamento para problemas onde os dados (observaes ou medidas) no excedem o mnimo requerido para a sua soluo.

1.2 OBSERVAES Classicamente dizia-se que as observaes esto sempre eivadas de erros, isto , quando se repete n vezes uma medida de preciso, os n valores no so idnticos, mas esto dispersos numa certa regio ou intervalo, disperso esta devida a erros. Modernamente expressa-se o mesmo conceito admitindo que as observaes (ou medidas) possuem uma propriedade inerente a elas, de flutuaes probabilsticas ou aleatrias.

Ajustamento por Mimma uuaarad,,

1.3 MODELO MATEMTICO Sempre que se necessita descrever matematicamente uma realidade fsica, recorre-se a frmulas, expresses ou equaes na tentativa de representar tal realidade com a melhor aproximao possvel. Ao principiante em ajustamento til ressaltar os dois aspectos: realidade fsica e modelo terico, uma vez que nas disciplinas de matemtica pura, quase s o ltimo evidenciado. Ressalta-se ainda o fator aproximao. O modelo terico est ^ estritamente relacionado aproximao desejada, o que pode ser ilustrado: c 1. Para a representao da Terra ou parte dela (realidade fsica nas disciplinas de Topografia e Geodsia) utilizam-se os modelos tericos, e plano, esfera, elipside biaxial, etc; I 2. Em Fotogrametria, pode-se considerar com uma aproximao menor, isto , que uma fotografia area perfeitamente vertical; e/ou que o raio luminoso que se propaga atravs da atmosfera e sistema de lentes, tem trajetria reta; ou ainda, num modelo mais preciso, considera-se a inclinao da foto ou efeitos de no colineardade dos raios. Nota-se que o modelo matemtico no descreve exaustivamente o fenmeno, os eventos ou a realidade fsica. Descreve aspectos de interesse desta realidade e com a aproximao requerida. O modelo matemtico envolve no apenas o modelo chamado funcional, referido acima e que constitui a parte determinstica da realidade fsica, mas tambm o modelo estocstico, destinado a descrever as propriedades no determinsticas das variveis. O modelo estocstico engloba a totalidade das hipteses estabelecidas sobre as propriedades estatsticas. Envolve todas a variveis do modelo, desde as de peso nulo at as de peso infinito (ot constantes).

te

lini ^
U* 7 * r . ** . " ' do

CAPTULO 2 - CONCEITOS FUNDAMENTAIS KM PROHABIUDADK

cst(5 2.1. I N T R O D U O
ser

Os fundamentos da teoria de conjuntos so necessrios para a compreenso dos conceitos que brevemente se revisa neste captulo, ica nas A definio clssica de probabilidade, como por exemplo: "Se um .tricot evento pode resultar em n equiprovveis eventos e se m destes elementos so favorveis ocorrncia do evento E, ento a probabilidade P(E), de ocorrncia de E, a razo m por ri'.

imao li; e/ou P(E) = ? (2.1) ema de >reciso, Q tt de outra forma: a probabilidade de ocorrncia do evento E dada ide dos P^a rctao entre o nmero de eventos favorveis e o nmero de eventos possveis. Esta relao entretanto, viciosa, pois pressupe eventos equiprovveis.

A utilizao da probabilidade experimental, definida pela freqnciarelativa, superior ao conceito vicioso ilustrado acima, entretanto 6 mais descritivo que formal. O conceito mais acatado em P'v'g nossos dias aquele que se baseia na estrutura axiomtica e liga a i probabilidade teoria dos conjuntos.
*0

Ajustamento por Mnimos Quadrados Quinlii

2.2. CONCEITOS BSICOS EM PROBABILIDADE

5. sisten Revisam-se a seguir alguns conceitos importantes de Exem event probabilidade, entre os quais conceitua-se a prpria probabilidade. 1. Espao de probabilidade ou amostrai: seja o conjunto D no vazio, e que pode ser particionado em subconjuntos D; disjuntos; D constitui um espao amostrai. Na teoria moderna de probabilidade imagina-se que todos os resultados possveis de uma experincia so representados por pontos de um espao n-dimensional, espao este denominado de espao amostrai. De modo simples pode-se dizer que o espao amostrai o conjunto de todos os resultados possveis de um experimento estatstico. 6. expei (seja ocorr da fai

7. 2. Evento: ao se efetuar um experimento (observao, medida, num lanamento de dado, etc.) vrios ou infinitos resultados, ou conjunto deles, podem ocorrer. A estes resultados chama-se eventos simples e Exeri aos conjuntos deles, eventos compostos. Os casos limites, o evento certeza, e o evento impossvel so tambm considerados no conjunto dos eventos. Exemplo: seja o experimento, arremesso de um dado. Evento simples - ocorrncia da face 5; evento composto - ocorrncia 8 de face par. divei vari 3. Eventos mutuamente exclusivos (ou incompatveis): so dens eventos tais que, em um experimento, apenas um pode ocorrer. Exemplo: no arremesso de um dado os eventos face 1, face 2, etc., so 9 eventos mutuamente exclusivos. para 4. Sistema completo de eventos: o conjunto de todos os eventos 1( mutuamente exclusivos de um experimento. Exemplo: o conjunto prob {fi,2, ...f } no arremesso de um dado.

Q u in tin o

Dalmolin

5. Evento complementar: se dois eventos Ei e E 2 formam t^lj. sistema completo de eventos, ento Ei e E 2 so complementares, [j^ s (j Exemplo: cara (H) e coroa (T) no arremesso de uma moeda so c* e. eventos complementares. n fe u* Sjuntos^ ^ la d e Alicia s|q spao e. le-se dj2 ssveis a,
Qe

6 . Soma ou unio de eventos: sejam A e B dois eventos num experimento e seja; C = A u B. Ento, C a unio dos eventos A e B. Exemplos: ( ^ j 3 0 experimento: arremesso de um dado e os eventos: Ei = ocorrncia de face mpar; E 2 = ocorrncia de face par; E 3 = ocorrncia da face 3 ou 4) a) Ci = Ei + E 2 = { fi, f2, f< * . fs, s }
b ) C 2 = E 1 + E 2 = { f 1, f 3, f 4 , f 5 , f 6 }

7. Produto ou interseo de eventos:sejam A e Bdois eventos m e d id a jnum experimento e seja conjunto C = A n B. Ento, C interseo dos eventos A e B. " e Exemplos: (seja o experimento e eventos do exemplo anterior) evento a) Q = Ei E 2 = { } conjunto b) C2 = Ei E 3 = {f3} u m dado. ocorrncia g Varivel aleatria: uma varivel que assume valores diversos, dependendo do resultado de um experimento estatstico. A varivel, aleatria ou randmica est associada a uma funo eis): so densidade de probabilidade, (fdp ) 1 : ocorrer , etc., 9. Funo aleatria: uma funo definida em cada ponto, ou para cada elem ento do espao amostrai assumindo valores reais. I cVCntoS 10 . Funo de probabilidade: seja P uma aplicao do espao de Lgnhiflf0 probabilidade D no intervalo real (0,1), com as propriedades: a) Se D ' c D - P(D') = 1 - P(D - D)

! A dp ter v u nas sees mais adiante.

fOI

(Jtuuh

(jHlrtthn b)s (0* di^jUtUOS)cD*4 P(U 1)|) P(D|)i P(FilUl3 P chaivaulti fun&o de probabilidade, P(Bi)+ l| 11. hvlMluUnvlc H O valor da (ou valor assumido pela) fonyflo o o os ovontoa probabilidade, num dado ponto denomina-se probabilidade, Am n I^ h) M BEj l P(D [0,1], P(K) I P(Ka) 12. Probabilidade total ou cumulativa: dcnomina*No pmbahllUliulu total ou probabilidade cumulativa da uniio do Nubcoi\juntoN dlnjunio uDj, ao somatrio SP(Dt), ou soja: n ( ) P (v D ,)- Pj (d ,) 14. Probahlf (A, B )e D, "probabilidade ( 2 .2) ocorrncia do A

Exemplo: P(uDj), para o arremesso de um dado suposto homogneo o regular, 6: P(D|) + P(D2) + P(Dj) 1/2 Excnipl determinar, P (E |/E P(E|) J P(Ei r j

13. Adiyfio de probabilidade: seja a soma dos eventos E = E| + I2 = Ei u E2; a probabilidade, P(E), do evento E , dada por P(E) = P(Ei U Ej) P(Ei) + P(E2) - P(E|E2). Exemplo: veja ainda o experimento do exemplo anterior. Sejam os eventos E| = faces mltiplas de 3; E 2 faces pares; Ej = faces mpares. a) Se Ei e E2 sSo nfio mutuamente exclusivos e E Ei + E2 Ei u Ea P(E)P(E,) + P(E2)-P (E ,E 2) P(Ei) + P(E2) - P(E| n E2) P(Ei)= P(face.t, facee) = 2/6 P(E2)v P(face2l face,, face) = 3/6

P(E|/bI
P(E2/b' P(E2/F

13. Probe que se 16: "p| multlplicativ por:

a Para P(B) Se B c A SAnB 0

Q uintino D alm olln

P(E|UE2) P(facc2, facci, facc<i, face<-,) 4/6 B*)JfoOlo, P(E|)+ P(E2)- P(E|E2) 2/6 + 3/6 - 1/6 - 4/6 idade 8- AS S | b) Se os eventos so mutuamente exclusivo; como E2 e Ej e % E = E2 + Ej P(E) P(E2)+ P(E,) probabilicjjjj P(E2) = 3/6 ; P(E3) = 3/6 ; P(E) = 1 os disjUni 14. Probabilidade condicionada: se A e B so subconjuntos de D, (A, B)c D, a probabilidade condicionada P(A/B), que se 16: "probabilidade de A dado B" e se interpreta como: "a probabilidade de ( 2 .2) ocorrncia de A sob a condio de que B j ocorreu", dada por2: ido suposto
P(A / B) = P(A n B) P(B)

(2.3)

Exemplo: seja o experimento e eventos do exemplo acima: determinar, P(E,/E2); P(E2/Ei ); P(E2/E3) P(E,) = 2/6 ; P(Ea)= 3/6 e P(Ei n E 2) = 1/6 ; P(E2n E 3) = 0 ento, P(E,/E2) = l/6:3/6 = 1/6 ; PEj/E,) = l/6:2/6 = 1/2 e P (^ /E s) = 0:1/2 = 0 15. Probabilidade combinada: a probabilidade combinada P(A,B), que se l: "probabilidade de ocorrncia de A e B" tambm chamada lei multiplicativa das probabilidades de eventos independentes, dada por: P(A,B) = P(A).P(B) (2.4)

i = E, + Ej

I anterior. E j = faces

I Pari P(B) 0 -> P(A/B) no definida. Se B c A AuB = B c P(A?B) 1 Se Ar \B I (< J), conjunto vazio) -> P(A/B) = 0.

Ajustamento por Mnimos Quadra^

Quintino Dalmolin

ou genericamente,

= 1

1 -1

,
(2-5):

Admita-se dados e

16.1 Q u al, ,v (espao amostrai) c

ou interpretada como a probabilidade de ocorrncia do. Para o experimente eventos independentes A e B ou Di e D 2 etc. Dizer que os eventos A e B so independentes eqivale a dizer ' ^ que, P(A/B) = P(A) A equao (2.6) substituda na (2.3) resulta a (2.4). J h o o a f r B .

, . Para o experiment Exemplo: seja o expenmento, dois arremessos sucessivos de um dado homogneo regular. Sejam os eventos: E i, ocorrncia de f, 1 D = { HHF no primeiro arremesso; E 2, ocorrncia de ^ no segundo; E 3, ocorrncia de { 3.6 } nos dois. P(E,) = P({f3}) = 1 /6 ; P(E 2) = P({f 6} ) = l / 6 ; P(E 3 = Ei a E 2 ) = 1/6 .1 /6 pgra o experimenl

E
=

1/36

16. Exerccios e Exemplos: Considere-se os experimentos: (a) arremesso de um dado uma vez; (b) arremesso de uma moeda uma vez; (c) arremesso de uma moeda trs vezes; (d) arremesso de dois dados uma vez; (e) um espao amostrai D ilustrado abaixo e particionado em subconjuntos Di disjuntos com as seguintes probabilidades: D = { D i;D 2;D 3;D 4; D 5} onde D-, disjuntos, e D j c D e P(D ,)= 1/20 ; P(D2)= 3/20 ; P(D 3)=6/20 ; P(D4)= 2/20 ; P(D5)= 8/20

16.2 Dete seja a ocorrem de face par no e um a coroa no ex] de dois dados tot Teramos ento:

Q u in tin o D a lm o lin

Q*

Admita-se dados e moedas fiis nos experimentos (a), (b), (c) e (d). 16.1 Qual seria o conjunto de todos os resultados possveis (espao amostrai) dos experimentos (a), (b), (c) e (d) ? Para o experimento (a):

C * d i* D = { 1,2,3,4,5,6 } = { di,d2,d3,d4,d5,d6 }
(2 g,

Para o experimento (b): D = { cara, coroa } = {H,T} = {di,d2 }

iv o s de ia de f3 >mncia

Para o experimento (c): D = { HHH, HHT, HTH, THH, HTT, THT, TTH, TTT } Para o experimento (d), associado a pontos do plano: D = {(1,6) (2,6) (3,6) (4,6) (5,6) (6,6) (1,5) (2,5) (3,5) (4,5) (5,5) (6,5) (1,4) (2,4) (3,4) (4,4) (5,4) (6,4) (1,3) (2,3) (3,3) (4,3) (5,3) (6,3) (1,2) (2,2) (3,2) (4,2) (5,2) (6,2) (1,1) (2,1) (3,1) (4,1) (5,1) (6,10)} 16.2 Determinar o conjunto dos eventos tais que: Ej seja a ocorrncia da face 4 no experimento (a); E2 seja a ocorrncia de face par no experimento (a); E3 seja a ocorrncia de duas caras e uma coroa no experimento (c); E seja a ocorrncia da soma de pontos de dois dados totalizar seis no experimento (d). Teramos ento:

o uma c uma j um tos Di

ao

E, = { F4 }
E 2 = { F 2, F 4, F 6 }

10

Ajustamento por Mnimos Qu

\ E3 = { HHT, HTH, THH } E 4 = {(1,5); (2,4); (3,3); (4,2); (5 ,1 )) Quintlno Dalmoltn j3 = { faces com n(

16.3 Calcular as probabilidades acumuladas: Pt(d|); ^ ^ ace8c0fnn< Pt(d5) e Pt(d6) no experimento (a); Pt(d3) e Pt(ds) para o experinw Supondo-s< (c); P,(D2); P,(D4) e P,(D5) para o experimento (e). ocorrncia proporc 16.4 Considerando os eventos Ei - total de pontos par, total de pontos mpar, E 3 - total de pontos nmero primo, E4 . u de pontos nmero mltiplo de trs e E 5 - total de pontos dois,* experimentos (a) e (d), calcular: P(Ei), P(E 2), P(E3), P(E4), prc P(E,/E2), P(E,/E3), P(Ei/Rt), P0E3/E2) e P(E5/Ei). i 6 .8.a) - Qual oes| I 6 .8 .b) - Qual a pn I 6 .8 .c) - Quais as j 16 .8 .d) - Qual a pr< 16.8.e) - Qual a pr (C ou B) 1

16.5 No experimento (c), qual a probabilidade P(A,B) d 16.8.f) ' 9 ua^ ? ^ ocorrncia dos eventos: A - cara na segunda jogada e B - coroa n pnmc terceira jogada ? . , J 0 Soluo: ^ 16.8.a) D = 16.6 Considerando o experimento (d), e com o m teress voltado apenas para o total de pontos (e no em pares ordenados), q iu 16 8 b) Sej seria o espao amostrai? Quais seriam as probabilidades associadz aos elementos dj de D? Qual a probabilidade total? 16.7 Fazer a representao grfica, onde o espao D sej representado nas abscissas e as probabilidades nas ordenadas para: (16.7.a) - probabilidades acumuladas no experimento (a); (16.7.b)- probabilidades acumuladas de (c) e (d) onde se considera resultado total (sem ordenao), isto , duas caras e uma coroa passai a ser um s elemento dj D, no experimento (c) e todos os elemento que resultem a mesma soma de pontos no experimento (d) passafl tam bm a ser um s elemento. .i ' , . 16.8 Sejam os subconjuntos dos nmeros do dado: A S I acet com nmeros pares }

k = 1/21 , 1 _ . , P (l)= 1/21 P(5) = 5/21 g v ^ _ P(A) P(2; p<A) = \2T.

i MStfttw Q uoct,.^

Qvintvw Dalmolm (5,1) }

o - { faces com nmeros primos } P { faces com nmeros mpares }

]|

is: Pt(d,); Pt((j3 ) ra o experimeW

pontos par, primo, E 4 I toiai ontos dois, n0s 0, POE4), P(Ej)

Supondo-se que a face de um dado tem a probabilidade de ocorrncia proporcional ao seu nmero (nmero de face) pede-se: 16.8 a) - Qual o espao D ? 16.8.b) - Qual a probabilidade de dj de D ? 16.8.C) - Quais as probabilidades de A, B e C ? 16.8.d) - Qual a probabilidade de A ou B ? 16.8.e) 1 Qual a probabilidade de que um nmero mpar primo ocorra (C ou B) ? 16.8 f) - Qual a probabilidade de ocorrncia de um nmero par mas no primo?

[ade P(A,B) de e B 1 coroa na

m o interesse rdenados), qual ides associadas

Soluo: 16.8.a) D = { 1,2,3,4,5 ,6 } 16.8.b) Seja kj a probabilidade da face i: ^1 _ ^2 _ ^3 _ ^4 _ ^5_ _ ^6 1 2 3 4 5 6

espao D seja iadas para:

I
se considera 0 i coroa passam 5 os elementos to (d) passam
21

=
21

=
1

____ K
6

k, = 1/21 ; k2= 2/21 k6= 6/21

;k 3 = 3/21 ;k4 = 4/21; k5 = 5/21;

P (l) 1 1/21; P(2) = 2/21; P(3) = 3/21; P(4) = 4/21 P(5) 5 /2 1 ; P(6) = 6/21 16.8.C) A = { 2,4,6 } P(A) 1 P(2) I P(4) I P(6) = 2/21 +4/21 + 6/21 P(A) = 12/21

A jm m m tu # * # .w**,.., ..

H i IAJJ |

i\m- i/:i :: \ +3/2i +s/ai

\m * n

l\&) l \ h l\2> >.') + P(5)

21

C ( IA S }

CAPTULO 3 * I

F<C) * l \ l W IV ) + P(5) 1/21 + 3/21 + 5/21 (\0 W 2 I

3.1. INTRODUO
Pt A U B*' a P (f 2 A 6 ) U { 1. 2 , 3.5 }) P l A o R * * F \ ( l . 2. 3 A 5 .f h 21/21 I

A Estatfstic visando coletar dadi

I M . , * C r , t t * * f IA S I n | I A M | ) P ( C o B ) * P ( { 1.3,5 ) ) * 9/21

I6&I) Pvj\*r tto primoV = P(A mas no BI F\jw aio prinxV) = P(A - (A O B)) * 10/21

subsdios para a i porm, sio de eomp o mtodo d i para o especfico oi em obter informa conhecimento do pi
3.2. CONCEITOS Revisa-se estreitamente s s observaes. 1- Amostra: am amostrai, e d > amostra deve 2. Progresso: p necessariame

itencio
jIflfepf OBB00ttttCHKfltXT

CAPTULO 3 - CONCEITOS BSICOS DE ESTATSTICA

3.1. INTRODUO A Estatstica trata com a aplicao das leis da probabilidade visando coletar dados adequadamente, analis-los e extrair concluses vlidas para a populao a partir de amostras (inferncia). A Estatstica complementa a probabilidade na obtenSo de subsdios para a tomada de decises apropriadas. Estas decises porm, so de competncia humana. O mtodo dedutivo consiste na extrao de concluses vlidas para o especfico ou particular, a partir do geral. A inferncia consiste em obter informaes vlidas para o geral (populao) a partir do conhecimento do particular (amostra).

3.2. CONCEITOS BSICOS DE ESTATSTICA Revisa-se alguns conceitos que se relacionam mais estreitamente s aplicaes e estudos do clculo do ajustamento de observaes. 1. Amostra: amostra um subconjunto da populao, ou do espao amostrai, e deve ser representativa da mesma. Isto implica que a amostra deve ser aleatria ou randmica1. 2. Progresso: progresso um conjunto ordenado de elementos, no necessariamente distintos.

1Ver (tem 4 mais adiante.

14

Ajustamento por Mnimos Quadrru

a 1:

3. Conjunto definio: Conjunto definio o subconjunto progresso constitudo somente dos elementos distintos desta.

Exemplo 3.1. Dadas as progresses Li = {1, 2, 2, 0, 1, 7, 5, 2 } L 2 = {7, 5 ,1 ,1 ,1 , 2 ,0 } os conjuntos definidos so: Di = { 1 , 2, 0, 7, 5 } e D 2 = { 7, 5, 1, 2 ,0 }2. Exemplo 3.2. Dada a progresso L = { 1, A, V, 1, 1, = 7 ,o conjunto definio : D = { 1 , , A , V,

, V }, c o tn j

} = {di, d2, d 3, d 4 } = {d,}, com i = 1.....m;

as freqncias so: (ver conceito de frequncia, 9.) Ci = 3; C2 = 1; C3 = 2; c 4 = 1 ; As freqncias relativas so:

P(dj) = P (l) = 3/7 P(d2) = P(A) = 1/7 P(D3) = P(V) = 2/7 P(d4) = P( ) = 1/7 E a probabilidade total,
P(D)= P (u rf() = X p (d ,) = i

geralmente D c R (nmeros reais).

1Note-sc que progresses distintas podem ter o mesmo conjunto definio. Isto st

If r Mnimos y i o subconju^ l o s distintos dest^ * 1 . 2 . 2, 0 , 1 , 7 , 5,2

d o s s o :
Quintino Dalmolin IS

4. Amostra aleatria ou randmica: numa definio simplificada, a amostra aleatria aquela tomada de modo que qualquer elemento da populao tenha igual probabilidade de ser includo na amostra. Num sentido mais geral, e segundo, a amostra aleatria uma progresso finita tal que: seu conjunto definio D um espao de probabilidade ou espao amostrai; tem uma funo de probabilidade definida para todo di D, tal que / ) =

0 }2, V , 1, 1, ,V } ,

d j } , c o m i = 1....JJ. lu n c ia , 9 .) n

isto , igual a freqncia relativa. c4 = l; 5. Funo distribuio de probabilidade experimental: se a progresso da amostra randmica for uma progresso numrica e P for uma funo discreta de D em [0,1]; P chamada de FDPE (funo distribuio de probabilidade experimental). P(dj) = probabilidade experimental ou frequencia relativa. Mais adiante sero abordadas as funes de distribuio de probabilidade contnuas. Exemplo 3.3. Diga-se que um certo experimento originou a amostra randmica L = { 2, 2, 3,5 , 5,5, 7, 7,8 } com n = 9, sendo o conjunto definio D = { 2, 3, 5, 7, 8 } com m = 5. As frequencias correspondentes aos di so: Ci = 2; C2 = 1; C3 = 3; C 4 = 2; c5 = 1
I

As probabilidades experimentais so:

3 Isto ser admitido nestas notas e consequentemente D numrico.

Ajustamento por Mnimos Qua < il

P(di) = 2/9; P(d2) = l/9 P(d3) = 3/9; P(d4) = 2/9 P(d3) = 1/9 D subconjunto de R e P funo distribuio de probabidad experimental. Graficamente pode-se representar a FDPE como n I figura 3.1.

no IX#** > ntin Q1

e0totem -se:

I
Que
f ig u r a

FIGURA 3.1 - Diagrama de barras das probabilidades experimentais I

P(d)

3.: o exemplo 3
C(d,)

7/0 6/9 5/9 4/9 3/9

-> d,

6. Funo de distribuio acumulada - FDC : a funo deH distribuio acumulada de probabilidade definida para D discreto I

como:
C(<f,) = P ( d , ) (3.1

' M d ia d 2 ........

>,

jm l

elnaet

Exemplo 3.4. Considere-se a amostra randmica L = {1, 2,4,1.I 1 ,2 ,1 ,1 ,2 } com n = 9, e conjunto definio D = { 1, 2 ,4 }, m * 3 I com frequencias C| = 5; c2 = 3 e C3 = 1. As p r o b a b i lid a d e , experimentais so: P(di) = 5/9 ; P(d2) 1 3/9 e P(d,) = 1/9

por;

QutntlM Dalm olin

n
C(df) * P(df) 5/9 C d)* Pdi) 4 Pdj) * m Ci<U) * Pd|) + Pdj) + Pdj) * 1

ento tem-te:

Que graficamente pode ser representada por FIGURA 3.2 - Representao grfica da distribuio acumulada para o exemplo 3 A C(d,)

3/0

7. Mdia da amostra: Seja a amostra L = {//, h .... U com D = {dl, d2, .... dm), onde n o tamanho da amostra e m o nmero de elementos do conjunto definio. A mdia pode ser definida por

II uma vez que, P(d.)

Ajuntamento por Mnimos

XI

Quintino Dalmolln O U

M = 1.(5/9 I _

M m y d , P { d , ) m y d, C

8, Varincia da amostra: com mdia M. O nmt

M m - ] L d< c <m - 1 L l n i-i /*i

chamada varincia da am A comparao das equac

Pode-se ainda repreNentar a mdia M por, M= E (/)

i ' n* < ! 1
Esta equao aplicada a m

Onde E a Esperana Matemtica, entendida como o operador linear aplicado ao produto P(dj).di O operador E tem as seguintes propriedades, sendo k uma constante c / amostra: a) E(k) = k b) E(k) b kE(/) c) E(k + /) * k + E(/) d) E ( I /) I E ( /) Exemplo 3.5. Cacular a mdia amostrai L usando as equaes (3.2)1 a (3.3) Nendo L * { 1 , 2 , 4 , 1 , 1 , 2 , 1 , 1 , 2 }. M 11/9(1 + 2 + 4 + l + l + 2 + l + l + 2 ) = 15/9 A equao (3.5) pode aind

n7 = ((/-] = ( /J)

42 = E(l2 ou ainda usando o conceil

*A varincia dada pela (3.5) definida por:

* Ponieriormcntc uxur-xe- o operador E em conjunto Intogrdvold com varivel

I
n - I

Icutria. linto,

| (x , .

J X Q ( X )dX

Q u in tin o

Dalmolin

19

OU

M = 1.(5/9) + 2.(3/9) + 4 .(l/9 ) = 15/9 8. V arincia da amostra: seja a amostra aleatria L = {/t, l2....... /} com m dia M. O nm ero real s dado por.l ** ( /,- * ) * (3.5)

cham ada varincia da am ostra .. uma medida de disperso. A com parao das equaes (3.2) e (3.3) permite escrever:

-* i.i - < * )
Esta equao aplicada a m dia dos quadrados d: operador - l> = J J d - P ( d l) constante e A equao (3.5) pode ainda ser desenvolvida com o segue:

(3.6)

(3.7)

*2 = - S ( / , - w ) 2
n =i = E ( ( /- A f ) 2) = E ( l 2 -2 1 M + M 2) = ( / 2) 2 M E (/) + E (M 2) e s (3.2)1 s 2 = E ( l 2) - M 2 (3.8)

ou ainda usando o conceito da (3.7),

| A varincia dada pela (3.5) dita parcial. Seria uma estimativa imparcial se
definida por:

I[

( / ( - Af ) 2 . (ver Mikhail, 1976).

20

Ajustamento por Mnimos Quadi

' d o ,

(3.9)

Exemplo 3.6. Calcular a varincia da amostra do exemplo (3 c. usando as equaes (3.5), (3.8) e (3.9). Soluo Da (3.5) tem-se: S2 11/9[(-6/9)2 + (3/9)2 + (21/9)2 + (-6/9)2 + (-6/9)2 + (3/9)2 + (-6/9)2 + (-6/9)2 + (3/9)2] S2 = 1/9(648/81) Sz = 8/9 Da (3.8) tem-se: s2 11/9(1 + 4 + 1 6 + 1 + 1 + 4 + 1 + 1 + 4 ) - (15/9) sl = 8/9 Da (3.9) tem-se: s2 = 1(5/9) + 4(3/9) + 16(1/9) -(15/9)2 s2 = 8/9 O desvio padro dado pela raiz quadrada positiva da varincia:
<7 = +y[s*

Quintino Dalmolin

21

9. Histogramas e polgonos de frequncia: o nmero n de elementos de uma amostra chamado tamanho da amostra. Grandes amostras so geralmente subdivididas em classes contendo fj elementos da amostra. Os nmeros fj de elementos das amostras contados nas diferentes classes constituem as frequncias das classes. A amplitude da am ostra dada por: A = Imax- - Imm(3.10)

Onde Imax. o m aior 1, e lm{. o menor elemento da amostra. A am ostra subdividida em um nmero, arbitrariamente escolhido, k de sub-intervalos, geralmente equidistantes, e com (k + 1) fronteiras de classes. A razo dada por fj /n chama-se frequncia relativa da classe i.

Exemplo 3.7. N um a am ostra de 50 famlias brasileiras, o nmero X de filhos foi registrado (X varivel randmica discreta que assume valores 0 ,1 , 2 ,3 ,...) . A am ostra resultante6 algo como: L = {3, 1, 1, 2, 0, 5, 2, 2, 3, 2, 6, ....0, 1, 2}

A tabela 3.1 m ostra o resultado do experimento. Na primeira coluna d-se o nm ero X de filhos; na Segunda, o nmero de famlias da amostra com X filhos (frequncia) e na terceira a frequncia relativa. Cada linha foi escolhida para representar uma classe.

Etta amostra 6 hipottica.

22

Ajustamento por Mnimos Quadr^

. D a frequncia ' a frequncia relativa do nmcoj, TABELA 3.1 dee50 filhos de uma amostra fictcia d Mfamlias M H brasileiras, jM g fi = frequncia X = n de filhos fi/n = freq.T d^r 04 00 0.08 05 01 o .io ^ 07 02 0.14 ' 10 03 0.20 04 12 0.24 05 08 0.16 06 03 0.06 07 01 0.02 Z (fi / n ) = 1 w O I I

Exemplo 3.8. Considere-se que numa amostra de 200 estudantes do sexo masculino da UFPR mediu-se as alturas em metros. O nm ero registrado X constitui agora uma varivel dita randmica 7 contnua (X I R). Nota-se que agora no faz sentido falar na frequncia de um dado valor X, digamos frequncia de X = l,853m, e sim pode-se e deve-se falar em frequncia de estaturas dentro de uma classe (digamos entre l,850m e l,900m). assim que dada a tabela 3.2. Esta tabela mostra: na primeira coluna o ordinal da classe; na segunda os limites da classe; na terceira o ponto mdio da classe; na quarta a frequncia ; na quinta a frequncia relativa e na sexta uma escala especial para a frequncia que graficamente representada no eixo das ordenadas faz com que se obtenha reas unitrias para o histograma (fig. 3.5).]

7 O conceito de varivel randmica ser visto adiante.

Quintino Dalmolin

23

TABELA 3.2 - D limites e pontos mdios de classes, frequncias e frequncias relativas de uma amostra de 200 estudantes da UFPR (amostra hipottica). ___________________ Classes Limites Ponto Escala Freq. Frequncia n da classe mdio Relativa especial 01 1,50-1,55 1,525 02 0,01 0,2 02 1,55-1,60 1,575 08 0,04 0,8 03 1,60-1,65 1,625 20 0,10 2,0 04 1,65-1,70 1,675 40 0,20 4,0 05 1,70-1,75 1,725 50 0,25 5,0 06 1,75-1,80 1,775 42 0,21 4,2 07 1,80-1,85 1,825 28 0,14 2,8 08 1,85-1,90 1,875 06 0,03 0,6 09 1,90-1,95 1.925 04 0,01 0,4 I(fi In) = 1 Ifi = 2,0 A distribuio de frequncia por classes, dada na tabela 3.1 pode ser representada graficamente conforme a figura 3.3. FIGURA 3.3.- Diagrama de barra representando distribuio de frequncia e frequncia relativa do numero de filhos em uma amostra de 50 famlias brasileiras M I I O

24

Ajustamento p o r Mnimos Quadr^

Note-se que o mesmo grfico pode representar distribuio d frequncias e distribuio de frequncias relativas com uma simpfe mudana de escaia. A distribuio da tabela 3.2 pode ser representada graficamente como na figura FIGURA 3.4 - Histograma representando a distribuio de frequncias, frequncias relativas (classes ordenadas da direita) para os dados da tabela 3.2.

d iv id i^ p o r L

Qotn rea u n itria atfavs da rea. Ist

f, 4
60 40 30
20

0,25 0,20 0,15 0,10 0.05

gxemplo 3 .9 . C o i escala das ordena< se o nmero provs e l,78m, sa b e n d o < R edefinio d o mesmo). Considerando a e s

10

1,50 1,55 1,60 1,65 1,70 1,75 1,80 1,85 1,90 1,95

> X (estrutura em cm)

Considerando a e; tem-se:

Viu-se que a probabilidade experimental dada pela frequncia relativa; V-se agora que no histograma esta distribuio de frequncias relativas associada a uma rea coberta pelos blocos retangulares do diagrama. Para que esta rea possa expressar a probabilidade, a rea total do histograma deve ser igual unidade. Para que isto ocorra deve-se fazer com que as bases dos retngulos do histograma sejam unitrias ou ento redefinir a escala das ordenadas do histograma como sendo fr'= f/(An), sendo A a medida das bases e D o tamanho da amostra, pois a rea total A dada por: A I Af1 1 H 1 .......... = AZfi = An

Onde, f ' = ^ clculo de p

^churada na fig l

 j \
25

O l
N k I
tm m

A = (An) unidades Ouc dividida por An resulta, A = (1) unidade Com rea unitria para o histograma, pode-se estimar a probabilidade atravs da rea. Isto ser melhor esclarecido no exemplo a seguir: Exemplo 3.9. Considere-se o histograma da figura 3.4. Adaptando a escala das ordenadas, obtenha-se rea unitria e atravs desta estimese o nmero provvel de estudantes da UFPR de estatura entre 1,70m e l,78m, sabendo que a populao tem 12.584 estudantes masculinos. Redefinio da escala para a obteno da rea unitria ( o grfico o mesmo).

Considerando a escala fr tem-se: A = 0,05 unidades <

ian)

Considerando a escala redefinida f / (ver Sexta coluna da tabela 3.2.), tem-se: A ' = 1 unidade. Onde, fr = {0,2; 0,8; 2,0; 4,0; 5,0; 4,2; 2,8; 0,6; 0,4} P ( l,7 0

requncia uio de ps blocos |

pitssar *
U f lld * ^

[Igulo*^0

clculo de

X < 1,78) a partir da rea A' dado pela rea

hachurada na figura 3.5. ou seja: p = 0,05 x 5 + 0,03 x 4,2

-0

AjusUtmento por Mininut\

qu

%X

y n iin o D a M o ttn

O nvtuven> provvel de estudantes serri: 0,376 x 12.584 4.732 FIGURA 3.5 - Redefinio da oscula das ordenadas para u oht de rea unitria sob O histograma. tf escala prvia; f,. = csculu u0v

| | j prtica, probubida* jtnit verifici P .- A constrv histogramas. < procedimentos Exemplo 3 .1 0 do distribui< das abcissas jj histogramas). Partindo classe de freq As coordena mdios das relativa, o u ^

%
a QkSO <M8 a io 0,06

0.05
{ a 04

{ 0,01

5 ).00 1.05 1.00 1.05 1.30 1.55 l.eo 1,05 1. >0 1.79

= = !_

Exerccio: Considere-se a amostra L abaixo, e faa-se uma ta b ela como a do exemplo 3.8. L={ 1 7 .3 .2 .8 ,1 .5 ,2 .4 .6 ,1 5 .8 .9 ,2 ,3 ,1 0 ,9 ,1 1 ,1 2 ,4 .5 ,8 ,6 ,7 ,4 .5 1 sempre possvel associar a rea coberta pelo histograma i probabilidade conforme exem plo 3.9. Naquele exemplo, a r e a compreendida entre as abcissas (1 ,70 e 1,78) estim a a probabilidade de estaturas neste intervalo. til lembrar que a estimativa feita para a populao e queo histograma constitudo a partir de uma amostra. Portanto, ao setffl analisados os resultados, necessrio questionar: a am os representa a populao? Se o nmero de classes for variado, a ii* 1 tambm poder variar? Por que? Que confiana pode-se ter estimativa e que fatores a influenciam?

Quintino Dalmolin

27

j tu \ S

Na prtica, as inferncias so feitas a partir da funo densidade de probabilidade FDP postulada para a populao e o histograma permite verificar a adequao dessa FDP postulada. A construo de polgonos se assemelha em muito de histogramas. O exem plo que se segue ilustra a sequncia de procedimentos. Exemplo 3.10. A partir dos dados da tabela 3.2. construir o polgono de distribuio de frequncias (a rea limitada pela poligonal e o eixo das abcissas pode ser feita unitria de modo semelhante ao caso de histogramas). Partindo da figura 3.4. (ou da 3.5. para A = 1), acrescenta-se uma classe de frequncia nula em cada extremo das classes de frequncias. As coordenadas dos vrtices da poligonal tero por abcissa os pontos mdios das classes e por ordenadas as frequncias, a frequncia relativa, ou esta com escala redefinida, conforme ilustrado na figura 3.6. O polgono de rea unitria, como o histograma, pode ser utilizado para a estimativa de probabilidade. A estimativa de rea entretanto, fica facilitada se for utilizada a funo de distribuio cumulativa FDC. N este caso a funo C(X) j fornece a rea, sob o histograma ou polgono, acumulada desde at x. Para os dados do exem plo 3.8. a FDC(C(X)) serie dada na stima coluna acrescentada, mostrada adiante e ilustrada na figura 3.7. FIGURA 3.6 - Polgono de frequncias.
f, OU f o u f,

i*

i*

a-sc UB*

IP tflqrt pk jj j} u f l

28

Ajustamento por Mnimos Quadrado

TABELA 3.3 - Reproduo da tabela 3.2. com uma coluna adicional Classe Lim.da n classe 01 1,50-1,55 02 03 04 05 06 07 08 09 1,55-1,60 1,60-1,65 1,65-1,70 1,70-1,75 1,75-1,80 1,80-1,85 1,85-1,90 1,90-1,95 Ponto mdio 1,525 1,575 1,625 1,675 1,725 1,775 1,825 1,875 1,925 Freq. 02 08 20 40 50 42 28 06 04 Freq. relativa 0,01 0,04 0,10 0,20 0,25 0,21 0,14 0,03 0,01 X 1,50-1,55 1,60 1,65 1,70 1,75 1,80 1,85 1,90 1,95
fdc T

C(X) 0,000,01 0,05 0,15 0,35 0,60 0,81 0,95 0,98 1,00

se cd

FIGURA 3.7 - Grfico da funo cumulativa FDC. As ordenadas representam probabilidade experimental ou rea do histograma esquerda de X. , C(x)

imiado e cad a vez r amanho I Ao

s 9
B

es

com o faiode
* F W , )

C Q ito n o

hxcrccio: Resolver novamente o exemplo 3.9. usando agora o ff**" 11 figura 3.7.

Qjjfltino Dahnolin

29

gxcrccio: Representar graficamente o polgono cumulativo para os (jaj0S do exemplo 3.7.

]0. Varivel randmica unidimensional e funo densidade de probabilidade: Considere-se a funo X de expresso completamente desconhecida com domnio no espao amostrai tambm incgnito ou parcialmente incgnito, assumindo valores X em R tal que X = X(d) e R (R = reais e d e D) pode-se conhecer apenas valores de X. Imagine-se agora que se pode tomar uma amostra de tamanho ilimitado em X e construir histogramas com intervalos de classes A cada vez menores. Ao tender A para dX arbitrariamente pequeno e o tamanho da amostra , n, parao histograma tende a uma curva contnua. No limite a razo P(X)/dX = <D (X ) constituiria ento, a funo densidade de probabilidade (FDP) de X. Ao par (X, <J>(X )) denomina-se varivel randmica ou varivel estocstica contnua. Na literatura comum referir-se apenas a X como varivel randmica, ficando subentendido implicitamente a funo densidade de probabilidade 4>(X) a ela associada. Como (X) a FDP, a rea limitada pela funo < ) >e o eixo das abeissas ser:
4>(X

A. ; I iP 1

As frdenjfc

)dx = 1

como no caso do histograma do exemplo 3.9. Exemplo 3.11. Exemplificando no caso discreto, considere-se o espao amostrai anteriormente visto (lanamento de uma moeda trs vezes).

D = { di, d2...... dg }= 1 {TTT, TTH, THT, HTT, THH, HTH, HHT, HHH)

30

Ajustamento por Mnimos Q ,.^

Defina-se a associao dos dj a R, pela funo nmero de cara t H). Tem-se: lD * X, = X(di) = 0 R X2 = X(d2) = X(d3) = X(d4) = 1 e R X3 = X(d5) = X(d) 1 X(d7) = 2 e R X, I X(d8) = 3 R A funo densidade de probabilidade <|>(X ), neste caso discreto substituda pela probabilidade P(X). Tem-se P(X,) = 1/8 = P(X4) P(X2) = 3/8 = P(X3) E o par [X, P(X)] constitui um exemplo de varivel randm ica discreta. 11. Funo de distribuio de probabilidade cumulativa (FDPQ: a funo distribuio de probabilidade acumulada dada p ela integrao da FDP de at X. Por exemplo:

Quintino Dalmolin 31

do probabilidades. A FDPC enfio definida por:

X

<*>(*) = <D(y)</y

(3.15)

FTGURA 3.8 - Ilustra diferentes formas de FDP < J > , e as correspondentes FDC < |> .

(p<xyi

< P -- X t

12. Mdia da varivel randomica: a mdia da varivel randmica dada por:

Quintino D alm olin

31

do probabilidades. A FDPC ento definida por:

X < t> (X )= J o ( y > d y

(3.15)

FIGURA 3.8 - Ilustra diferentes formas de FDP < j), e as correspondentes FDC < J > .

Cp(X)

12. Mdia da varivel randmica: a mdia da varivel randmica dada por:

II

Ajustamento por Minimot

Q u a d ra d o

(juintino Dalmol

n * | X Q ( X )dX = E( X)

(3.16)

13. Varincia da varivel aleatria ou randmica: a varincia da varivel aleatria X expressa pela seguinte frmula:
<j* = J ( X - n ) 2<>(X)dX
o

No sui populao, d< falar em distri FD Pdas mdi Avarincia da

(3.17)

Vi ou ainda, desenvolvendo
a 2= j x 2 <t>(X)dX - 2 n \X<&(X)dX + n 2 J<D(X)ZX

onde n o nr Amdiadas r

ecv

<r2 = | x 20i(x)f -M 2
no

(3.18)

razo pela qu; Semelhantem

14. Estimativa Pontuai: nas inferncias estatsticas pode-se utilizar estatsticas (valores calculados a partir da amostra, com mdia, varincia e desvio padro) para estimar os parmetros correspondentes da populao. Assim: M para estimar ji; sf para estimar cr2

e tambm a estimator . Para um mtodos de critrios de mparcialida Viu-se* ^ distnbui stnbui .stnbui

I Sn m m latnnua iw iiii H FDP um pequeno numero. entretanto, de uso

mhu

ju*iettiuUa

jijgM Z p aram etro v

vaknr do parmetro nu o n

lias PDPuamifc

(femtino Ckilmolin

33

No surpreendente que diferentes amostras de uma mesma populafo, dem origem a diferentes Mi e (s2)i , podendo-se ento falar en\ distribuio das estatsticas da amostra. Assim pode-se ter FDP das mdias e das varincias. A varincia da distribuio das mdias o 2 (M) dada por: Var (M) = a 2 (M) = a 2 / n onde n o nmero de observaes que geram a mdia M. A mdia das mdias : i (3.19)

E(fi) = (M f) = jU

(3.20)

razo pela qual a mdia chamada estimador imparcial. Semelhantemente: g,

E( z ) = E( s 2) = o 2

(3.21)

e tambm a varincia chamada estimador imparcial, unbiased estimator . Para um m esm o parmetro da populao, as vezes existem vrios mtodos de estimativa. A escolha do melhor baseia-se ento nos critrios de mnima varincia, de mxima probabilidade ou de imparcialidade. Viu-se, portanto, trs distribuies distintas: 4} dbtrbuiio de elementos de uma amostra; H dtfttnbujo dos elementos da populao e; 1 istnbuio djis estatsticas das amostras.

34

Ajustamento por Mnimos Quadrado,

Geralmente postula-se: i) Toda a amostra randmica possui uma varivel randmica X que a populao e que infinita; ii) X possui uma FDP, <|>(X), que denominada FDP postulada; A partir de uma amostra randmica testa-se a validade da FDP postulada. 15. Estimativa de intervalo: A estimativa pontual s eventualmente pode coincidir com o valor real, pois como foi visto, diferentes amostras do origem a diferentes estatsticas. Para ser mais criterioso, ao se fazer inferncias, mais prudente que se estime um intervalo ( /i, h ) dentro do qual o parmetro E da populao provavelmente estar. Esta probabilidade permite o estabelecimento de uma confiabilidade. />(/, < E < l 2) = P
(3.22)

O intervalo ( l u h ) chamado, o intervalo de 100% de confiana. 16. Testes de hipteses: quando se testa uma hiptese, que pode ser verdadeira (hv) ou falsa (hf), para, em funo do resultado do teste, aceit-la ou rejeit-la, pode ocorrer que: a) a hiptese seja verdadeira e aceita (hv - A); b) a hiptese seja verdadeira, e rejeitada (hv - R) (erro tipo I); c) a hiptese seja falsa e aceita (hf - A) (erro tipo II); d) a hiptese seja falsa e rejeitada (hf - R). Se a probabilidade de ocorrncia de erro do tipo I , P(hv - R) = a (3.23)

a ou 100a% chamado nvel de significncia do teste. O valor (1a) ou 100(l-cx)% chamado nvel de confiana. Este escolhido arbitrariamente. Em geral escolhe-se valores com 90%, 95% ou 99%

Dulmotin

35

^ consequentenwnte, o a respectivo 0,i; 0,05; ou 0,019. O nvel de sigmticfcKta a representa a probabilidade de que uma amostra, jvtraida da populao postulada, possua estatsticas que indiquem que amesma amostra procede de outra populao. Se a probabilidade de ocorrncia do erro do tipo n , P(hf - R ) = (5 (3.24)

Ento (1 - p) chamado de potncia do teste, (Fig.2.9). O exemplo que segue ilustra os conceitos de erros dos tipos I e E, bem como o conceito de teste de hiptese.

FIGURA 3.9 - a, probabilidade de ocorrncias do erro tipo I; 100a% chamado nvel de significncia; jp, probabilidade de ocorrncia de aro do tipo II; 1 - (3 a potncia do teste.

Mo

ac8ita

rejeita

a)
b)

c)

iido levando-se em conta

Ajustamento por Mnimos Quadrudot

Exemplo 12: Uma indstria tem produzido tubos de TV com vida mdia de 1.200 horas e desvio padro de 300 horas. Usando agora um novo processo obteve-se, numa amostra de 100 tubos, uma mdia de 1265 horas de vida. o novo processo melhor, ou esta variao coincidncia? Hiptese nula: Ho : |H= 1200horas ou fio = 1200horas. Hiptese alternativa: Hi = > 1200horas ou jj-i > 1200horas. Em qualquer dos casos ( Hi ou Ho sejam verdadeiros ) admite-se ainda < ) > = 300 horas. Em outras palavras, se Ho verdadeira temos como ilustrado na figura 3.10, rea hachurada, uma probabilidade de 0,05 de rejeit-la cometendo o erro tipo I. FIGURA 3.10 - Ilustra o exemplo 12.

H0 aceito -4

H0 rejeitado

a)
1200 1^48 X

1240

tetm bwyewunye 14 1

H B m DtUmolin

37

F*
de

I d 1 FDP hipotizada para a populao de mdias cm Ho; ^ d a FDP para fi = 1240horas. 0 valor crtico X = 1249 mostrado na figura 3.10 a) procede da tabela de distribuio normal reduzida atravs de Zc tabelado para ot = 0,05.
* z. = , ___________________________________

id a

onde, de x c = z c- ^ + ^
v n

X c=49+1200 =1249 S c a mdia da populao for, por exemplo jij = 1240 (distribuio m ostrada na fig. 3.10 b) a deciso correta seria rejeitar Ho. Neste caso ocorrer erro sempre que a mdia da amostra cair na regio aceitvel. Por exemplo, se a mdia fosse = 1242, cairia na regio tal que H o seria aceito. Estaria ento sendo aceita a hiptese falsa: erro tipo II. E sta probabilidade J 3 ilustrada na figura 3.10 b), rea achurada. A m d ia obtida no novo processo X ' = 1265 cai na regio de rejeio do leste ( X = 1265 >1249), isto , X ' maior que o valor crtico. Logo, rejeita-se Ho e admite-se que o novo processo melhor neste nvel de gnificncia. Supondo verdadeira a hiptese nula, qual a probabilidade de obteno de mdia X' = 1265?
pV P (X > 1265 ) = P ( ~fi > l - <7 yfn ~ 1200 ) 300 V500

P ( z * 2,17) =0,015

38

Ajustamento por Mnimos Quadrados

Em outras palavras: Assume-se Ho, ilustrado em (a), fig. 3.9 e fica definido, para um nvel de significncia arbitrrio a , o valor crtico Xc , fronteira entre regies de aceitao e rejeio para o teste. Ento, analisando um novo valor de |X i , pode ocorrer que caia na regio de aceitao ou de rejeio, isto , ser Xc ^ [\ ou |Xi > Xc . A aceitao significa admitir que o novo valor estimado igual a ^ ou que ambos no diferem significativamente. A rejeio significa o contrrio. Acontecendo no teste, a aceitao, pode estar ocorrendo erro do tipo n. o que ilustra a figura 3.9 (b), a populao tem, de fato, uma distribuio diferente da (a), mas aceita com o igual por ter o parmetro \i\ cado na regio de aceitao. O valor crtico Xc estabelecido na distribuio postulada (a) separa a nova distribuio em duas regies P (achurada) e (1 - (3). I representa, na verdadeira distribuio (b), a probabilidade de que o erro do tipo II seja cometido. Das figuras (a) e (b) observa-se que esta probabilidade de erro (3, cresce quando |ii se aproxima de ^ e cresce tambm quando a diminui. 1 - p, chamado de potncia do teste, constitui evento complementar de p. Quando p aumenta a potncia diminui. Para pormenores a respeito de testes o leitor dever recorrer literatura estatstica que abundante. E oportuno notar que para a estimativa pontual no h necessidade da FDP da populao; enquanto que para a estimativa de intervalo e o teste de hipteses a FDP requerida. 17. Varivel randmica multi-dimensional e sua FDP: a exemplo do que foi visto no caso unidimensional , o conceito de varivel randmica multi-dimensional tem, implicitamente, a associao de uma FDP. A varivel randmica n-dimensional dada para [ X, 0X)j, onde X o vetor:

3*

Ajustamento por Mnimos Quadrado3

Em outras palavras: Assume-se Ho, ilustrado em (a), fig. 3.9 e fica definido, para um nvel de significncia arbitrrio a, o valor crtico Xc , fronteira entre regies de aceitao e rejeio para o teste. Ento, analisando um novo valor de jii , pode ocorrer que caia na regio de aceitao ou de rejeio, isto , ser Xc > ou fii > Xc . A aceitao significa admitir que o novo valor estimado jii igual a jJo ou que ambos no diferem significativamente. A rejeio significa o contrrio. Acontecendo no teste, a aceitao, pode estar ocorrendo erro do tipo Et o que ilustra a figura 3.9 (b), a populao tem, de fato, um a distribuio diferente da (a), mas aceita como igual por ter 0 parmetro cado na regio de aceitao. O valor crtico X c estabelecido na distribuio postulada (a) separa a nova distribuio em duas regies p (achurada) e (1 - p ) . P representa, na verdadeira distribuio (b), a probabilidade de que o erro do tipo II seja cometido. Das figuras (a) e (b) observa-se que esta probabilidade de erro p, cresce quando jii se aproxima de (Iq e cresce tambm quando a diminui. 1 - P, chamado de potncia do teste, constitui evento complementar de p. Quando P aumenta a potncia diminui. Para pormenores a respeito de testes o leitor dever recorrer literatura estatstica que abundante. E oportuno notar que para a estimativa pontual no h necessidade da FDP da populao; enquanto que para a estimativa de intervalo e o teste de hipteses a FDP requerida. 17. Varivel randmica multi-dimensional e sua FDP: a exemplo do que foi visto no caso unidimensional , o conceito de varivel randmica multi-dimensional tem, implicitamente, a associao de uma FDP. A varivel randmica n-dimensional dada para [ X, X , onde X o vetor:

Mm d rm o t,

Qttmrmo Datmotin

ara um 9 cofre

ko um i ou de
g m fiC

KM AIO

errio. 10 tipo
k, x rn i

e cada XJ deste vetor uma varivel randmica unidimensional; $(X) tal que: (X) = <KX\ X2...... X" ) (RD-> R ) so negativa e integrvel em Rn 18. Probabilidade no espao multi-dimensional: Considere-se dois valores especficos para o vetor X, isto , Xo e Xi formando o intervalo ( Xo, X\ ). A probabilidade de X g ( Xo, Xj) c Rn:
J

(3.25)

ler o ioo Xc btiio ade de

rv i-te

ide n
P ( X 0 < X < X { ) = \ < -t >y( X ) d X -w e I[0,1] V ) j

(3.26)

neatar xes a que

0 h

X0

oade: B | : x 0 = [x;S * ,= { * ,'

iva de

x\
x?

. . X0 'f e
. . x jf

A o do pwl iod e ix .

dX = { d X' , d X* .... dX") I tfltfefrao n Rn

40

Ajustamento por Mnimos Quadrado

19. Funo distribuio de probabilidade acumulada da varivel randmica n-dimensional, dada por:
A

<P(X) = j<t>(Y)dY 6 (R" -> [0,1])

(3.27)

onde Y varivel de integrao n-dimensional. 20. Dependncia estatstica e probabilidade acumulada: se a FDP, < k de uma multivarivel X puder ser escrita na forma: <P(X) = <t,(X ')<& , ( X a).... | x " ) = n o J(x ')
y*i

(3.28)

ento a integrao da equao (3.26) se toma:

IJ X, n

[ ( X )dX = m

O j ( X J)dX J

= n />(*' < . x < .xd

P( X0 |

I I H = JJ P ( X '
y -i

ou H probabilidade combinada para o intervalo acima igual ao proctoto da* probabilidades das componentes. Isto satisfaz a definico de probabilidade combinada de eventos independentes, equuo (2.4).

Quintino D ahm liH

41

Neste caso as componentes XJ e X so ditas estatisticamente independentes. Se FDP no pode ser colocada na forma (3.28) as componentes Xj de X so ditas estatisticamente dependentes.
2 1 , Mdia e varincia da varivel multi-dimensional: a mdia da

varivel randmica n-dimensional possui n componentes que so as mdias das componentes da varivel. ju = k A *2 nJ = E ( X ) e R n (3.30)

E ( X l)
E ( X 2)

(3.31)

E ( X n)

Semelhantemente a varincia da varivel randmica dimensional possui n componentes cada qual dada por: t e

n-

a ) = E ( ( X J - H j ) 2)

(3.32)

ou, como anteriormente,

a)

(3 3 3 >

3 12

Dada a arnostra tridimensional:

42

Ajustam ento por Mnimos

Quadrado$

"(2,3,4,7,4)' L = /2 = (6,4,0,3,2) (5,2,5,5,8) _/3. Estimar a mdia e a varincia da amostra: (2 + 3 + 4 + 7 + 4)

, M

i =

E(/2)
_ (/3)_

4 (6+ 4 + 0 + 3 + 2) = 3 5 5 -=-(5+ 2 + 5 + 5 + 8)
5 5
1 A

a \ = ( ( / , - A , ) 2 = - ( 4 + l + 0 + 9 + 0) =

((/, - M , ) 2 = (9 + l + 9 + 0 + l) = 4 1 <r2 =((Z3 - M 3) 2 = - ( 0 + 9 + 0 + 0 + 9 ) = -

Ao contrrio do que ocorre com a varivel unidimensional, no Cfpao n-dimensional a varivel no expressa as propriedades estatsticas to satisfatoriamente. O conceito de matriz varinciacovanncia se toma agora necessrio.

22. Main/ vannctacovarincia du varivel n-dimensional: a matr vannaa tovarincia ser representada por:

Q u i n ti n o D a l m o i i n

43

" < * 1 1 < * 2 1 2 > _^nl

< * 1 2 2 2 . * <*2 -

- < % L _ e M b (3.34)

onde.
< *ij ~ E X 1 ~ H j ) ( X J ~ H j )

J ( x ' -/*,)( x j - Hj ) ( X ) d x

(3.35)

Note-se que, quando i =j a equao (3.35) d as varincias que constituem os elementos da diagonal de Zx . A matriz varinciacovarincia pode ainda ser definida como:

' Z x = E ( ( X - / l x) ( X - fi xf )
Para um conjunto discreto, a equao (3.35) assume a forma:

(3.36)

(3.37)

Exemplo 3.13: Calcular I para o caso bi-dimensional (X1= x e XJ= y) Mtrado abaixo, onde as probabilidades: 0,1 e 0,2 so associadas aos p0 g da distribuio atravs do tamanho das circunferncias ^stmerncia maior - maior probabilidade). Os valores de (x , y) so M na tabela abaixo.

44

Ajustamento por Mnimos Quadrad 'o

Ponto n

Coordenadas
X

P(x , y)
0,1 0,2 0,1 0,2 0,1 0,2 01

1 2 3 4 5 6 7

10 15 15 20 25 25 30

y 06 08 12 10 08 12 14

Aplicando a equao 3.37 aos dados: Mx = 10x0,1+15x0,2+ 15x0,1+ ...... + 2 5 x 0,2+ 30x0,1 = 20 My = 6 x0,1+8 x0,2+ 12 x 0 ,1 + ........... + 1 2 x 0 ,2 + 1 4 x 0 ,1 = 10 (sx )2 =(10-20)2x0, 1+(1 5-20)2x 0 ,2 + ....+ (2 5 -2 0 )2x 0 ,2 + (3 0 -2 0 )2x0,1=35 (s,)2 =((6-10)2x0, l+(8- 10)2x0 ,2 + .... + (12-10)2x0,2+(14-10)2x0,1=5,6

Sxy Syx 10

logo,
35 10 10 5,6

Eierccio 1: Fazer um estudo para constatar que informaes a covarincia contm; que medida ela faz; sua utilidade prtica; sua dependncia ou independncia da posio da distribuio com respeito ao sistema referencial e das unidades de medida,________________

[o$

^ ..... A , .

Quintino Dalmolin

45

23. Coeficiente de correlao: o coeficiente de correlao p(Xj , Xj ) definido por: P , , = e M .+ U

(3 3 8 )

que expressa o grau de dependncia linear entre as variveis x' e x J . O resultado advindo da expresso (3.38) pode ser estatisticamente interpretado da seguinte maneira: a) Se p . =1 : existe uma correlao linear perfeita entre as
/[ A

variveis x e x J, ou que xJ uma funo linear de x1. b) Se p = 0 : diz-se que as variveis x1 e xJ no so

correlacionadas. No entanto, isso no significa necessariamente que as componentes das variveis sejam estatisticamente independentes. Sugere-se, a ttulo de exerccio, que seja refeito o exerccio anterior para o caso de p.

Exerccio 2: Considere as variveis aleatrias xi e X2 com mdias |ii funo conjunta f(xj ). Considere ainda a funo:

yi = ao + ajXi + a2x2 y2 = bo + b)X| + b2x2

 Fede-se:

Ajus,amentoPorMtnlno a*oifol

a) derivar as varincias e covarincias de yi e y2. b) derivar o vaior de |p > 1> 21 ; c) Estabelecer a matriz varincia-covarincia de v, 1 . yi e y2 teralmente>

C A P T U L O 4 - T E O R IA DOS ERRO S

41. INTRODUO

As observaes so representaes numricas de quantidades fsicas como comprimento, ngulo, peso, etc. As quantidades numricas so obtidas atravs de medies; possuem portanto no apenas as flutuaes randmicas prprias das observaes, como foi visto anteriormente, mas tambm toda sorte de erros possveis de ocorrer nas medies, identificaes, anotaes e transferncia de dados. As medidas que representam uma mesma quantidade possuem disperso com respeito a uma mdia, o que se chama de flutuaes randmicas prprias das observaes ou erros randmicos, tambm chamados erros acidentais na literatura clssica. As medidas podem ainda possuir erros enormes procedentes de engano de notao, erro de digitao ou erro de formato na leitura computacional, erro de identificao do objeto medido, etc. Estes so chamados de erros grosseiros. O significado de enorme ou grande um tanto vago e depende especificamente do problema considerado. Uma idia geral feria considerar erros maiores que trs desvios padres (3a) como lendo erros grosseiros. As medidas podem tambm estar afetadas de erros que no so poueirm , nem so flutuaes randmicas. Estes so os erros chamados erros sistemticos. Ocorrem, por exemplo, quando se efetua uma W de comprimento com um instrumento mal calibrado que H p H licain en te aumenta ou diminui o comprimento; quando se i nlr que o raio luminoso se propaga em linha reta na atmosfera ou H jp fl dftft lente* de uma cmara; quando se ignoram os efeitos das

48

Ajustamento p o r Mnimos Quadrad0s

variaes de tenso e de temperatura numa fita de medida, etc. Os erros sistemticos so erros cujas causas so conhecidas e que se pode minimiz-los ou elimin-los teoricamente (clculo do efeito da refrao no deslocamento da imagem ou da variao de temperatura na medida de comprimento, por exemplo) ou atravs da tcnica de medida (leitura de r e de vante a distncias iguais para eliminar o erro de no paralelismo dos eixos da bolha do nvel e de visada no nivelamento geomtrico, por exemplo). s E til notar que os erros sistemticos se confundem com erros randmicos quando so pequenos e de causas no conhecidas. Existem mtodos mais sofisticados de ajustamento que permitem levar em considerao erros sistemticos. Tais mtodos esto fora do escopo deste trabalho. Portanto, o ajustamento aqui considerado trata de observaes isentas de erros grosseiros e de erros sistemticos. O leitor interessado no tratamento de erros sistemticos no ajustamento deve consultar literatura que trata de ajustamento e parametrizao; determinao de "trend" ou "collocation". Aqui, neste trabalho, as observaes so consideradas conter apenas erros randmicos. Por hiptese admite-se que elas foram depuradas de erros grosseiros e sistemticos. As observaes constituiro portanto amostras randmicas por hiptese. A qualidade dos resultados do ajustamento depende da validade desta hiptese. Ela deve portanto , ser verificada. Os histogramas so importantes para as verificaes do comportamento da distribuio das observaes.

4.2. LEI GAUSSIANA E DISTRIBUIO NORMAL Gauss observou que os histogramas ou polgonos de freqncias de amostras randmicas representando observaes prticas, geralmente tendem para a forma de sino.

Quintino Dalmolin

49

FIGURA 4.1 - O histograma das observaes (a) tende para a curva normal (forma de sino) (b)

A teoria aceita, e que descreve este fenmeno, foi proposta por Gauss e por Legendre independentemente e conhecida como a FDP M normal. E dada por:

(x-nr
N(m ,o 2, X ) = ^ { X ) = 1
2a2

o jlr t

(4.1)

onde: X a varivel randmica; e a base dos logaritmos neperianos e as demais so anotaes anteriormente usadas. Os parmetros que definem a distribuio (|) so |i e o. A mdia \i d a translao da distribuio $ ao longo do eixo X e o desvio padro o fixa sua forma. A FDP normal < ( > possui as seguintes propriedades: mxmo de 0(X) para X = fi; b) #(X ) assntota ao eixo X; simtrica com respeito a X = p.; ^ X ) pob#ui ik)ta pontos de inflexo;

50

Ajustamento por Mnimos Quadrado,

Quintino Dal

donde se conclui que: erros pequenos so mais provveis que grandeserros positivos e negativos tm a mesma probabilidade. Para fins de tabulao conveniente que < j >seja dependente de um s parmetro. Isto conseguido, no caso da FDP normal, atravs de uma translao f| e do estabelecimento de uma nova escala a. Matematicamente feito:
z =

An1
probabilid

de partk

^
<7

a) P(H - O ou equi
(4.2)
P ( - l

na equao (4.1), tem-se:

W Z ) = - 1 L = . e 0J

V2k

(4.3)

e a FDC correspondente ser: b) P(^(Z) = dz (4.4)

OU

P (-2

Portanto, dada uma distribuio normal geral N(fi, o2, X) por seus parmetros ji e a 2, atravs da equao (4.2) podemos obter Z, efetuar estimativas usando tabelas1 de distribuio normal reduzida, equao (4.4), com um nico argumento Z e retomar distribuio original:
X ss oZ

+ |X

(4.5)

c)P( ! O uko de 1t em decadncia devido a facilidade* computacionais, mas as de probabilidade sub o %iu ainda muito usada, oue

Quintino Dalmolin

SI

Anteriormente viu-se que a rea sob a FDP fornece a probabilidade, ver equaes (3.12) a (3.15). de particular interesse que se verifiquem as seguintes probabilidades: a) PQx - o < X < | i + a ) = ? ou equivalente, P ( - l < z < 1) = ?

-C T \1 *0
b) P(^i - 2 a < X < |i + 2o) = ? ou equivalente, P( -2 < z < 2) = ?

*x

-1

c) P(ji - 3 o X ^ i + 3 o ) = '? ou equivalente,

52

Ajustamento por Mnimos Quadrados

P (-3 z 3 ) = ?

As probabilidades (ou reas hachuradas na fig. 4.2) dos casos acima poderiam ser estimadas diretamente com ajuda da tabela B2 ou por integrao atravs da equao (4.4), lembrando que: 2/ +-2-+ ...
3!

Fica a critrio do leitor a verificao de que:

P(-J < z < > I) = 68% P(-2 < z < 2) = 95% P (-3 < Z < 3)

99%

A lei de Gauss se estende tambm no espao n-dimensional. A FDP normal neste caso dada por:

X
(21 1 ) 2 ( det Zm )2

(X n ) ' Z x <X

(4.5)

onde Z* d matrix vanncia-covanncia da varivel randmica ndnetifciufiiil X e |i a sua mdia.

Quintino Dalmolin

53

No sero feitas aqui consideraes sobre a FDP normal multi dimensional. Os estudantes interessados devero consultar a literatura especfica, por exemplo.

Exemplo 4.1. Admita-se que as alturas h dos estudantes de uma populao so normalmente distribudas com: h -N (Uh. O, h) * N (1,676; 0,127; h). Estimar o nmero de estudantes que, numa amostra de 500, satisfazem: (a) h 1,727; (b) h 1,549; (c) h 1,895; (d) [ 1,633 h 1,778 ]. Para cada caso estima-se a probabilidade com o uso da tabela e ilustra-se pela rea hachurada sob a curva. (a) h < 1,727
<p(h)

P(h S /, 727) = PfzS

1,727-1,676

--- ) = P ( z S 0,0402)

e da tabela, paia z = 0,0402 temos P = 0,656 e o nmero de estudantes da amostra com h < 1,727 ser estimado em: Na = 0,656. 500 = 328

54

Ajustamento por Mnimos Quadrados

< * > < * >

(b) h < 1,549

P(h < 1.549)= P(z < 1 -- 4- - - 1676 )= P (z< -l) 0,127

e da tabela, para z = 1 temos P = 0,8413 e P = 1 - 0,8413 = 0,159 e o nmero de estudantes da amostra com h < 1,549 ser estimado em: Nb = 0,159. 500 = 80 (c) h > 1,895 < P (h ) i < P (z) ii

< a

&h

.1

P(h 2 1,895)* P(z2 I,89q I ^ 76 PU 2 U 2 4 )

>1 tabela abfirti-fc H 1 1,724) i 0,9577 e P i 1 - 0,9577 8 0,042.

Quintino Dalmolin

55

Logo o nmero de estudantes estimado ser: Nc = 0,042 . 500 = 21 (d) [1,633 < h < 1,778] < p < h )

1,633 -1,676 1,778 -1,676 --- ------------------ ) P(1,633<h< 1,778) = P( - - * 0,127 0,127 = P(-0,340<z< 0,800)

Esta probabilidade dada por: P(z < 0,80) - P(z < - 0,34) = = P(z < 0,8) - ( 1 - P(z < 0,34)) = 0,7881 - (1 - 0,6331) = = 0,7881 - 0,3669 = 0,4212. Logo o nmero de estudantes estimados ser: Nd = 0,4212. 500 = 211 Exemplo 4.2. No exemplo anterior calcular Hj tal que : (a) P(h < H,) = 0,6554; (b) P(h > H2) = 0,250; (c) P(h < H3) = 0,200; (d) P(H4 < h ^ H) 0,95. Procedimento; os argumentos de entrada na tabela agora so as probabiJidades dadas. Das tabelas se extraem z ou Z je Z j. Atravs da relao (4.2) se obtm os Hj correspondentes. Soluo deixada para o estudante.

56

Ajustamento por Mnimos Quadrados

4.3. LEI DE PROPAGAO DAS COVARINCIAS O problema de propagao da distribuio <X >(X ) de X para 4>(Y) de Y quando Y = f(X) nem sempre tem soluo e complexo e este assunto foge do escopo destas notas. A soluo usual em ajustamento a aplicao da lei de propagao das covarincias. Esta lei permite a obteno da matriz varincia-covarincia da varivel dependente Y, em funo da matriz varincia-covarincia da varivel independente X, desde que Y = (F(X); X e Y sendo variveis multidimensionais. Seja a funo f, tal que Y = f(X) e f linear, isto , pode ser expressa na forma: Y = f(X) = AX + C (4.8) (4.7)

onde X e Y so vetores multidimensionais com flutuaes randmicas, A a matriz de transformao e C um vetor constante de translao. A esperana E(Y) ser: E(Y) = E(AX + C) = E(AX) + E(C) = AE(X) + C ou E(Y) = A.E(X) + C e a matriz varincia-covarincia y, equao (3.36), ser: (4.9)

Zy E((Y - m)(Y - Hy)T)

(4.10)

Quintino Dalmolin

57

Substituindo Y por seu valor dado para equao (4.8), tem-se: Zy = E((AX + C - mXAX + C - m,)t ) substituindo jiy por seu valor da (4.9), vem:
ly = E((AX + C - AE(X) - C). (AX + C - AE(X) - C)T)

= E((AX - AE(X)) (AX - AE(X))t )

= E(A(X - |i*)(A(X - n*))T )

= E(A(X - n x) (X - n,)T AT) = AE((X - nO (X - h OT)AT = AZ, A t

logo 2 y = AX*AT (4.11)

Esta a lei de propagao decovarincia de grande aplicao em ajustamento. Ela se aplica tambm s funes nolineares como ver-se- abaixo. Para isto as funes no lineares soprimeiramente linearizadas e ento a equao (4.11) usada. Seja a funo (ou funcional) no linear: Y = F(X) (4.12)

onde X e Y tm o mesmo significado dado na (4.7) e F o funcional:

58

Ajustamento por Mnimos Quadrados

Seja ainda dado um vetor Xo nas vizinhanas de X. Xo ser chamado vetor dos valores aproximados de X.

A funo F(X) pode ser desenvolvida em srie de Taylor como segue:

F ( X ) = F ( X 0) + dF
d X x x0

d 2F
dX 2

1 AX T x=x, 2!

(4.13)

onde
d F i d X i d F 2 d X i d F i d X 2 d F 2
3
X 2

9F

'

d X n
.

3 F 2

d X n

dF

dx

dF m dx,

d Fm d x

d Fm d X

c o valor numrico desta expresso para X = Xo ser representado por:

A - I oX x=x 9 (4.14)

| ainda: F(Xo) = C (4 .1 4 a)

tem-te foto, negligenciando os termos de 2* ordem e de ordens superiofet,| equalo (4.12) expres&a por:

Quintino Dalmolin

59

Y = F(X) = C + A.AX

(4.15)

A comparao das equaes (4.15) e (4.8) toma bvio que, aps a linearizao do modelo (4.12) para a forma (4.15), pode-se aplicar a lei de propagao de covarincia, equao (4.11), tambm a este modelo. O modelo linearizado tende para o valor F(X) quando X tende para X; logo a qualidade da aproximao depende dos valores aproximados. Para fins de propagao de covarincia esta aproximao no crtica. Exemplo 4.3. (lei de propagao para F linear): Admita-se que foram observadas no campo quatro direes d,:
d

/,

d , y

*4

d 4

e que a matriz varincia-covarincia das observaes foi estimada:

3,2 0,9 0,8 0,5 0,9 3,2 0,7 0,9 0,8 0,7 3,8 1,2 0,5 0,9 1,2 4,1

Os ngulos (X foram calculados a partir das observaes, como:

60

Ajustamento por Mnimos Quadrados

' X,' X =

a/

X 2 = 02 l , h Xi

ai

14 ~ l i

Estime-se a matriz varincia covarincia Zx de a,. Da funo X = F(/) que d os valores dos ngulos a,, tem-se a = F(/) A.L, donde:
1 0 0
I I < c r A / 0 0' 0 /

i
-/

0 1
-y

0
/

Aplicando a lei de propagao das covarincias tem-se:

La =

>/

'J,2 0,9 0,?

0,9 3,2 0,7

0,8 0,7 3,8 1,2

0,5 "f- y 0,9 1,2 y

0
-y /

I .*
P| | 3 |

-/
0

/ -/

0
-/ /j

.0,5

0,9

M i [ 0

<6 III - 2,4 0,5

2,4 - 2,8

0,5 5,5

5,6 ~ 2,8

Quintino Dalmolin

61

Exemplo 4.4. Os ngulos observados com a preciso:

_ 2

A e B do tringulo plano ABC foram

'Jll ^ 2 yill

CT^ = 3 e a B = 4

O ngulo C foi calculado por: C = 180o - A - B Estimar a preciso ac = do ngulo C computado na expresso acima:

Fazendo y = F(X), na frmula matricial de y = AX + C, temos:

X = A B \y - C

C * [-/

-1 ]

180

Onde A * [ -1 4 ] Aplicando a lei de propagao da covarincias temos:

62

Ajustamento por Mnimas Qtttdrmos

I 0]
10

4.

o i * 7* 0

ff *

Exemplo 4.5. Seja a amostra bidimensional L a resultante das medidas do comprimento e da largura de um terreno retangular em m:
232.5 J. 72,8 232.7 716 232.5 72.3 2314 72,4 232.4 72.7 4

O vetor X, tal que:

diagonal

do retngulo

drea do retngulo

foi calculado das observaes. Estimar a preciso de X, isto , determinar L*. Sugesto: determinar Ll da amostra: escrever as equaes do funcional F = [Fi F2]T ; linearizar F; aplicar a lei de propagao das covarincias; verificar quais as unidades em El e Exemplo 4.6. Supe-se que as distncias do ponto C s estaes A e B devam ser determinadas a partir das medidas dos ngulos A e B e do lado AB (ver figura).

Quintino Dalmolin

63

A mdia das observaes L foi:

/ / L= h * ~a ' B s C
com

90' 45 * tQQm 0 0 (5cm f

./j.

<-r f M V
0 ( -4* f 0

O vetor, x =

a b

foi calculado a partir das observaes pela lei dos senos:

c senA / sen(A + B) c senB / sen(A + B)

I matriz varincia covarifincia L* dos lados calculados, em c For razes de ordem numrica, no modificar as unidades de m

64

Ajustamento por Mnimos Quadrados

4.4. INTRODUO PR-ANLISE DE LEVANTAMENTOS

4.4.1. Conceituao O objetivo da pr-anlise tambm conhecida como otimizao do levantamento. E projetar o levantamento geodsico de modo a obter resultados com a qualidade desejada, e com as observaes mais viveis prtica e economicamente. Em outras palavras poder-se-ia dizer que a pr-anlise visa definir especificaes timas, necessrias e suficientes, para o levantamento, de modo a produzir parmetros com a qualidade mnima desejada e pr-estabelecida. A pr-anlise , portanto, desenvolvida antes da realizao das observaes. Os problemas de pr-anlise podem ser agrupados em trs casos gerais a saber: a) Problemas de primeira ordem; onde so dados: a matriz varincia-covarincia (Xx), estabelecida para os parmetros e a matriz varincia-covarincia das observaes (Zl) I se procura determinar G, A ou A e B nas equaes X = GL + C V = AX + L ou ou (4.16) (4.17) (4.18)

AX + BV + W = 0

onde X o vetor dos parmetros, L o vetor das observaes, G, A e B so matrizes numricas de transformaes, C e W vetores numricos constantes e V vetor de resduos. Mais sobre estes modelos matemticos ser visto nos prximos captulos;

Quintino Dalmolin

65

b) Problemas de segunda ordem; onde so dados: E* e G ou A ou A e B e se quer estimar El nas mesmas relaes matemticas do item a) acima;

c) Problemas de terceira ordem; onde dada apenas a matriz Ex e se quer definir El e G ou A ou A e B, ainda nos modelos matemticos anteriores. O tratamento matemtico dos problemas acima pode ser direto ou pelo mtodo ensaio/erro. O mtodo direto s se aplica ao caso b) acima (problema de segunda ordem e a casos mais simples da pranlise). Nos problemas mais complexos a soluo direta se toma pouco atrativa ou invivel. A soluo mais abrangente e vivel a do ensaio/erro. Este mtodo no produz solues teoricamente otimizadas e sim solues eleitas a partir de experimentos simulados computacionalmente, dentre um certo nmero de solues viveis. No estabelecimento de um projeto de levantamentos, pela pr-anlise, fatores como: 1. a satisfao da qualidade (Ex), pr-estabelecida, dos parmetros estimados; 2. o tipo, a qualidade e o nmero de observaes necessrias e/ou suficientes para atender o item 1.; 3. a distribuio geogrfica das medies e a configurao geomtrica dos elementos observados; 4. a viabilidade e eficincia (agilidade e economia) de diferentes alternativas; 5. a disponibilidade de recursos instrumentais, humanos e econmicos das alternativas so levados em conta. O mtodo ensaio/erro, com a

concorrncia do computador nas solues grficas e iterativas altamente atrativo. A aplicao de pr-anlise mais relevante em projetos de redes de levantamentos. Alguns procedimentos simplificados da pr anlise so bastante atrativos a pequenos levantamentos.

4.4.2. Exemplificao de Aplicaes Simplificadas Nos exemplos que seguem, algumas aplicaes dos conceitos da pranlise so ilustradas a partir de casos bastantes simplificados. Somente em casos simplificados a soluo direta aplicada. Em geral adota-se o mtodo ensaio/erro. Exemplo 4.7. Uma distncia de aproximadamente 500m (D = 500m) deve ser medida com fita de 50 m de comprimento (d = 50m). O desvio padro mximo tolerado em D, Od = lOmm. Determinar qual a preciso mnima necessria para cada lance de fita. Admitir que os lances ou trenadas so de igual preciso, C T d i= C fd j= O dSoluo: aplicando a lei de propagao de co-varincias relao: D = di + d2 +.... + dio tem-se:
o o = l 2 a 2<n+ l 2 o 2< /2 + .... + l 2a 2 d\o

< j = 10 a 2 d a d lOmm
yfJ Cf 4 s 3,l6mm

rr^~

H I pncio mnima necessria cm cada lance de fita de 3,16mm.

Quintino Dalmolin

67

Exemplo 4.8. A distncia inclinada entre os pontos A, no terreno, e B, no alto de uma torre deve ser determinada com a preciso Od = 2mm. Sabe-se que a distncia horizontal d de 400m e tem erro desprezvel e que a altura da torre de aproximadamente 80m. Qual a preciso Oh mnima com a qual a altura deve ser medida para assegurar o Gd especificado ? Soluo: A relao entre D e h dada por D = (d2 + h2) 1 4

O =
r,

( BD

Oh

dD

dh

80 D ~ 408

Aplicando a lei de propagao de covarincias tem-se

80 V Od = oi 408

(Th= O "d /

80

408

O h=

1 0 ,2 mm

Ch = 10,2mm
logo, a preciso mnima com a qual a altura deve ser determinada de aproximadamente Z* 10mm.

Ajustamento por Mnimos QuadnidQ i

68

Qui

Exemplo 4.9.

1
-

--'1

O o l ) 1 i

P n 1 1 ; f %d * J. 4 < dn 1 \ (p . // 2 \ p E 1 i \ /' p1 h
------- ----------- ------V

Q j

-------

_________

....

Considere-se a poligonal aberta da Figura anterior. Sejam P0 e Pn pontos conhecidos da rede com G e Cyi dados e seja otoi o azimute de PoPi com Gao tambm dado. As coordenadas (Xn, Yn) do ponto Pn so calculadas, em funo dos ngulos Pi e das distncias d * observadas e dos dados iniciais, atravs das frmulas:

m -/
X '= X i + J^diSenQi

im l -/ Y ^ Y t +ZdiCosO,

(4.19)

I = a ol + I f l - 1.180 M
4

Quintino Dobnolln
69

\ l*

J " ' fl

(4 20)

4i*P> 4la iU
efetuando as efetivaes e as substituies nas (4.20):
o i , = 0,

+<r. - Y , faL,*< Y.-Y f<Ai*(Y. Y, ia 1** *.... -HY. /a+

(x,-x,
4 +

x,x,
d.

(T +...+

/a iv + x .- j r ./a /* (4.21)
fX m * X , / CT/ia+*+ f X , *
f O0+i*

L tf;

<

r^ + _+

r .- r - , d.-i

< tL

ou ainda:

70

Ajustam ento po r Mnimos Quadrado.

,2

i= i{

d l

(4.22)

g 2y

= o \ + ( X n - X l f a l o i + J X X H- X i ) o % +

.2

>

.n

n-l /

___

--

v2

Nas equaes (4.22), com os dados iniciais e com coordenadas aproximadas dos vrtices 2,3,...n da poligonal, possvel: Io arbitrando diferentes precises para as medies das distncias, averiguar as precises correspondentes mnimas exigidas nas medies de ngulos para satisfazer as exigncias iniciais; ou, 2o arbitrando diferentes precises para as medies dos ngulos, determinar as precises mnimas necessrias correspondentes na determinao das distncias, para atender aos requisitos iniciais especificados. Exemplo 4.10. Considere-se a poligonal fechada da Figura: FIGURA 4.10 ilustra o problema 4.10
Y

Quintino Dalmolin

71

Seja ela a representao esquemtica de um tnel em construo, visto de cima. O segmento P^Pj, j foi desenvolvido e se quer ativar outra frente de trabalho de P5 a Pn. A tolerncia de erro de fechamento em Pn, na direo Y de 21 mm (Gy * 7mm). Conforme a figura, o ponto P4 ser usado para ligar P3 a P5 . As distncias e os ngulos aproximados so os dados na figura. Supondo que todos os ngulos sero medidos com a mesma preciso 0b e sabendo que cada distncia foi determinada com Gd = 2mm, estimar Gq que atenda s especificaes iniciais. Os valores aproximados das coordenadas dos vrtices so obtidos de:
PnPi = P 1P 2 = P 2P 3 = P 5P 6 = P 6P 7 = P 7Pn = 100 m

P3P4 = P4 P5 = 424m

P3 = P5 = 45 P4 = 90 Azimute inicial e

(Xn, Y) = (500t100)m

Ctoi =Onl =90,Ganl = 0 eG y i = 0 Soluo: da segunda das equaes (4.22) pode-se escrever:
n -J

(4.23)

onde p fator de converso de unidades. Corresponde a FVsenl. Ou p =206265.

72

Ajustamento por Mnimos Quadrados

Nesta inequao tem-se : (J2yn = 49mm2; a 2d i = 4mm2; p" = 206265e as coordenadas dos vrtices: Vrtice Coord
xm

1 600 100

2 700 100

3 800 100

4 500 400

5 200 100

6 300 100

7 400 100

Ym

Com estes valores, a equao (4.23) d:

49 mm -

424

300 ,424 7

m /n

(Jpi

2.5.70 (t^ < 6,5 r 7 <7* < 2,6"

fp '/

Logo os ngulos devem ser medidos com desvio padro melhor ou igual a 2,6" para satisfazer as exigncias impostas.

4.4.3. Aplicao s Redes Foi visto, no n 21 da Seo 3.2, como estimar a matriz varincia covarincia Zl das observaes, a partir das sries de medies. Foi visto, na Seo 4.3, que se o vetor de parmetros X estiver linearmente relacionado com o vetor das observaes L, i. ., X 8 GL1 C (4.24)

Quintino Dalmolin

73

onde G a matriz de transformao e C vetor constante; ento Zx estimado, pela lei de propagao das co-varincias, em funo de G e de Ll: 2* = G El GT (4.25)

Foi visto ainda, na mesma Seo, que se a relao entre X e L no linear, ela pode ser aproximada opor uma transformao linear. Tal procedimento de uso comum em ajustamento e geralmente satisfatrio para a pr-anlise por ensaio/erro. A matriz de transformao G traz para a estimativa de Zx os dados da geometria, nmero, distribuio e tipos das observaes, enquanto Zl leva em considerao a qualidade das mesmas (fatores 2 e 3 da Seo 4.4.1). A satisfao das exigncias em Zx (fator 1 da Seo 4.4.1), decorre do procedimento iterativo ensaio/erro e escolha comparativa do elemento humano envolvido no processo. A viabilidade (fatores 4 e 5 daquela Seo) tambm apreciada pelo elemento humano envolvido no processo, durante e aps a interao com o sistema de processamento para escolha das melhores opes. Assim, dado Zx pela especificao2 e deixado livre ao perito para definir: qualidade, tipo, nmero e distribuio das observaes que satisfaam as especificaes (problema dito de terceira ordem, Seo 4.4.1), este ir arbitrar diferentes proposies (diferentes Gj e diferentes Zy), e para cada uma estabelecer o modelo (4.24) e aplicar a propagao (4.25). Cada Zx estimado ser comparado com o Zx especificado. No caso de redes de pontos no plano, a sub-matriz varincia co-varincia correspondente a um dado ponto utilizada para definir uma elipse que representa a qualidade da determinao daquele ponto. Este procedimento facilita a comparao entre Zx projetado e Zx
importante notar que quem especifica a qualidade dos parmetros desejados, no estabelece covaiincias, apenas varincias.

74

Ajustamento por Mnimos Q u a d ra d o s

especificado. Tambm facilita a deteco de pontos fracos e sua comeao com a incluso de novas observaes numa rede planimtrica. O problema de terceira ordem acima o mais livre, onde apenas I* estabelecido. Ao resolv-lo, entretanto, pelo mtodo iterativo, o perito arbitra Zl e G ou A ou A e B, e estima a matriz Zx. Esta aceita como uma soluo, se satisfaz a especificao I x. Caso contrrio 'descartada. Entre as diferentes solues aceitas, elege-se a mais vivel.

* E fcil perceber que o mesmo procedimento pode ser aplicado em casos de 2* ou Ia ordem. A nica diferena que se El (qualidade das medies) ou G, ou A ou A e B (configurao geomtrica) forem dados, estes deixaro de ser livremente arbitrados na busca de solues.
O programa computacional para o procedimento interativo (ensaio/erro) da pr-anlise de rede planimtrica, tem geralmente as possibilidades de: 1. receber informaes sobre as posies dos pontos da rede e a qualidade destas posies e plot-los; 2. receber Zx especificada e definir e "plotar" a elipse de erros correspondentes (respeitado o intervalo de confiana e as escalas estabelecidas ); 3. receber informaes sobre o tipo de observaes propostas na tJerao (distncia, ngulo, azimute), sua localizao e qualidade e inclu-la na matriz G ou A ou A e B;

Quintino Dalmolin

75

4. estimar Lx e definir e "plotar" a elipse de erros correspondente, sobreposta especificada e comparvel quela em cada ponto. Como resultado, o programa gera num grfico/tabela, para uma rede de trs pontos, algo como:

Escalas:

X I .........H Y HH

2cm 1cm

que representa uma tentativa sem sucesso, e

iMiM'

XI

'H

lem

v hH

s im

76

Ajustamento por Mnimos Quadrados

que representa uma soluo, a qual pode ou no ser escolhida como a mais vivel, pelo perito. Os mtodos de ajustamento, que sero vistos nos prximos captulos, todos estabelecem relaes do tipo (4.15), (4.16) e (4.17) ao ajustar uma rede. Assim, a pr-anlise se beneficia dos prprios programas de ajustamento, para a resoluo de seus problemas.

CAPTULO 5 | INTRODUO AO M TODO DOS M NIM OS QUADRADOS

5.1 CONSIDERAES INTRODUTRIAS oportuno, uma vez mais, lembrar-se que s faz sentido falar em ajustamento ou aplicao do mtodo dos mnimos quadrados (M.M.Q.) quando se dispe de observaes redundantes. No sentido geral o MMQ consiste em estimar variveis estocsticas X e seus parmetros de distribuio Ex, a partir de amostras L observadas com preciso El. DADOS :
(L ,Z l)

->

ESTIMAR : (X, E)

Estaro envolvidos nos problemas de ajustamento trs espaos: (a) o espao das observaes ou medidas, Rn; (b) o espao do modelo matemtico Rm e; (c) o espao dos parmetros incgnitos Ru. Mtodos particulares podero envolver um ou dois destes espaos. O modelo matemtico funcional que inter-relaciona estes espaos constitui um sistema de equaes lineares (ou linearizadas) incompatvel. A incompatibilidade procede das flutuaes randmicas que propriedade das observaes. Dada uma famlia de modelos matemticos, um modelo fica determinado por um nmero mnimo de parmetros obtidos numa soluo nica. Assim, por exemplo: a) a famlia de modelos: y = ax + b

78

Ajustamento por Mnimos Quadrados

possui infinitos elementos, um dos quais fica determinado fixando-se (o nmero mnimo de) dois parmetros a* e bi. b) a forma de um tringulo plano definida por seus ngulos: o nmero mnimo de parmetros que individualizam uma forma dois (dois ngulos) e o modelo: oc + p + y = 180 c) se o problema for fixar a forma e as dimenses do tringulo plano, j o nmero de parmetros trs; uma escala tem que ser acrescentada ao problema anterior e; d) se a pretenso determinar a posio com respeito a um referencial, as dimenses e a forma de um tringulo plano, cinco parmetros seriam requeridos. A medida em que a complexidade da realidade fsica que se pretende representar cresce, o nmero de parmetros mnimo requerido tambm aumenta. Num sistema de equaes lineares redundantes e inconsistente, as solues que se obteriam para o conjunto (nmero mnimo) de parmetros a partir de diferentes subsistemas (formados com o mnimo de equaes necessrias para dar soluo nica) seriam distintas. Da a necessidade do princpio dos mnimos quadrados. Antes porm de se passar para o MMQ, parece til um breve retrospecto do significado de sistemas de equaes lineares redundante e inconsistente dentro do contexto da discusso de sistemas lineares no homogneos.

O s Quintino Dalmolin

79

5.2 DISCUSSO DE SISTEMAS DE EQUAES LINEARES NO HOMOGNEAS

De um modo geral e simplificado, pode-se discutir algebricamente um sistema de equaes lineares no homogneas, procurando responder as duas questes que seguem: a) O sistema consistente? b) Sendo consistente, a soluo nica? Seja o sistema de equaes: AX = L (5.1)

onde A a matriz n x n dos coeficientes; X o vetor das incgnitas e L o vetor dos termos independentes. Para este sistema a questo (a) pode ser respondida atravs de uma anlise das caractersticas ou posto das matrizes A e A', isto : Posto (A) = Posto (A') =? (5.2)

onde A' uma matriz obtida da A pela substituio de uma de suas colunas pelo vetor L. Se Posto (A) * Posto (A') o sistema incompatvel ou inconsistente, e ser consistente se a igualdade (5.2) se verificar.

A segunda questo (que se aplica somente ao sistema compatvel) ser respondida examinando o determinante A. det (A) * 0 ? (5.3)

gO

n j u iu m e m u p u i m u n m u wuaavrmm

Quintii

Ento, o sistema ter soluo nica1. Determinante nulo implica que o sistema possui infinitas solues. Considere-se agora o sistema AX = L onde A de dimenses (n x u) e o vetor de incgnitas (u x 1) e o dos 2 termos independentes (n x 1) e ( n > u) . Este o caso dos sistemas superabundantes. As duas questes anteriores podem agora ser respondidas como segue: a) O sistema compatvel ? Examina-se: Posto (A) = Posto (A,B) = r (5.4)

Se c rand<

ou * dife do inc<

Exi sis

te

onde (A,B) a matriz aumentada, obtida de A, acrescentandose a esta a coluna L do vetor dos termos independentes
(A , B ) = [A : L

(5.5)

b) Satisfazendo a equao (5.4), o sistema teria soluo determinada se r = u ou seja: o posto comum r igual ao nmero de parmetros. Este caso semelhante ao caso de n equaes a n incgnitas com soluo nica, pois tem-se (n - r) equaes que so combinaes lineares das r outras equaes do sistema.

Numericamente eMe conceito requer estudos adicionais. O caso o < u pude ver discutido como o caso n = u visto acima.

Quintino Dalmolin

81

Sc o sistema (5.1) for constitudo para L medido, as flutuaes randmicas, que so prprias das observaes, daro origem a: Posto (A) * Posto (A,B) ou seja, tem-se um sistema superabundante inconsistente. Neste caso diferentes subsistemas, constitudos de u quaisquer equaes dentre as n do sistema, tero diferentes solues, soluo nica destes sistemas incompatveis objeto do ajustamento. Exemplo 5.1. (sistema n x u compatvel e indeterminado). Seja o sistema: x+y=5 2x + 2y = 10 temos:
"

A=

1 1 2 2_

;A' =

5"

2 10_

e Posto (A) = Posto (A') = 1 O sistema n x n compatvel. Como det (A) = 0, o sistema no possui soluo nica3 Exemplo 5.2. (sistema n x n consistente com soluo nica) Seja o sistema: x+y=5 x-y= 1 onde:
Puder-te-ia dizer, posto como r < u, e o sistema nflo possui soluSo nica.

82

Ajustamento por Mnimos Quadrados

1 :i

-L

;A' =

1 5' J

Posto (A) = Posto (A') = 2 O sistema consistente. Como det (A) * 0 (ou como r = u), o sistema possui soluo nica. Exemplo 5.3. (sistema n x u consistente e indeterminado) Seja o sistema: x+y+z=9 2x + y + z = 11 3x + 2y + 2z = 20 -y - z = -7 temos
"/ 2 3 0 1 1 2 -1 1 2 -1 .
~1

1 1 2 -/

1 1 2 -/

9 11 20 -7 .

2 3 .0

e Posto (A) = Posto (A,B ) = 2 O sistema consistente. Como: r= 2 < 3 = u o sistema no possui soluo nica.

Exemplo 5.4. ( sistema n x u consistente e determinado) Seja o sistema* x+y+z=9 2x + y + z = l l x + 2y + z = 12 4x + 3 y + 4z = 33 onde

1 A= 1 1

7 1 1
2 1 2

1 1 11 1 12

7 2

_4 3 4_

4 3 4 33.

sendo: Posto (A) = Posto (A,B) = r = 3 = u e o sistema compatvel e tem soluo nica.

Exemplo 5.5. (sistema n x u inconsistente) Seja o sistema do exemplo 5.4

'7 2
1 2

7 7'
X

' 9

7 7
1

y
z

i:

77 72
.33.

3 4_

Considere-se agora que os elementos L foram obtidos atravs de medidas. So portanto observaes afetadas de flutuaes randmicas, como por exemplo:

84

Ajustamento por Mnimos Quadrados

' 9,2 10,9

L= U =

11,8
33,3]

O sistema assim constitudo: AX = Lb

ter Posto (A) = Posto (A,B)

(5.6)

um sistema inconsistente. objeto do ajustamento. Este o problema com o qual se tratar.

5.3 PRINCPIO DO MTODO DE MNIMOS QUADRADOS Revendo o exemplo 5.5 anterior, nota-se que a discrepncia V (tambm chamada de resduo4) entre L, valor final, e Lb, valor mdio: V = L - Lb fosse conhecida, poder-se-ia corrigir as observaes L = U +V obtendo um sistema AX = U + V
(5.9) (5.8) (5.7)

Terminologia no muito adequada 111, mas de uso corrente e que ser portanto empregada.

Quintino Dalmolin

85

consistente. Como V incgnito, o sistema (5.10) possui agora (u + n ) incgnitas, logo tem-se mais incgnitas que equaes.

O princpio do mtodo dos mnimos quadrados estabelece que "a soma dos quadrados dos resduos seja mnima". O = VT V s min ou <p = VT PV s mn (5.11) (5.10)

onde V o vetor dos resduos e P uma matriz simtrica dos pesos, dada por: P = (C T o)2 Z l 1 (5.12) e (ao) um escalar que ser discutido mais adiante. A aplicao do princpio do MMQ no requer conhecimento apriori da distribuio associada s observaes. A aplicao deste princpio possibilita a resoluo de um sistema de equaes com maior nmero de incgnitas que equaes. Assim, o sistema AX = U inconsistente, toma-se consistente mas indeterminado. A equao AX = Lb + V pela adio das correes V, pode ser resolvido atravs da aplicao deste principio, como se ver mais adiante.

86

Ajustamento po r Mnimos Quadrados

A mdia aritmtica M um estimador que satisfaz o principio dos mnimos quadrados. Supe-se ento, a seguinte pergunta: dada uma amostra L = (lj) i= 1.... ,n; qual valor r que toma a soma do quadrado das discrepncias mnimas ?

v ? = t ( h ' l /sm m .?
/=/
= i

Para responder a esta questo, a equao (5.13) pode ser substituda pela varincia definida como: s 2= - ( / , * / " / = - vi = m im .? ft im I W // Tem-se ento que achar r tal que a equao(5.14) d ummnimo para S2, pois o f que minimiza o S2 na (5.14) tambm minimiza o L(v2)j na (5.13). S2 = S2 (7o) = F(7) Para obter um mnimo de F(7) (5.15)

i . o de

<5.1

Derivando a equao (5.14) com respeito a 7o e igualando a zero o resultado, tem-se:

^
or

-= -Z2v,-U=-X(-v,,)=
n n n

ZV f= 0

(5-17)

Quintino Dalmolin

87

ento ZV, = o - > / , - 2 / = 0 ( 5 . 1 8 ) (5.19)

1 = = / = M n

V-se assim que a mdia M um estimador pontual que satisfaz o principio de mnimos quadrados. Para isto nenhuma considerao foi feita com respeito funo densidade de probabilidade. Se for postulado que a amostra L = (/j), i = 7, n est associada a uma FDP normal, pode-se facilmente verificar que o valor de Io que satisfaz a condio de mxima probabilidade e a mdia. Por isto a mdia um estimador de mxima probabilidade no caso de amostras com distribuio normal (ou simtrica). Esta verificao de mxima probabilidade, uma vez postulada a distribuio normal, simples. A FDP associada amostra seria

o2n

P2 O P

= k.t I e

O propsito verificar qual o valor do parmetro |i tal que a funo de probabilidade combinada de eventos independentes
5 A probabilidade para eventos independentes P[ ( lt 1 /, + (XLj) , i = 1.] = J " | ( k A 2 ^.ali P ( l l 1 / , + < ! / , ) = P,

12 :E i

pois,

P ( / 2 ^ 1 / 2 + cr/2 = P 2 onde a probabilidade combinada: F1P| ^ nN(|Xj ,0, A ).o/j

88

Ajustamento por Mnimos Quadrados

F = k.e t onde K l seja mxima.

E\.CFl2.... O l,.h.e l

(5.20)

G in

(5.21)

la

1 A funo F pode ser escrita como: F =

i=I

l .e TEi O li

(5.22)

Como ali depende de li, e no de ju t, pode-se consider-lo constante, e F se toma: F = C., l lE

*

5.23)

E imediato que F na equao (5.21) ser mxima (e a probabilidade ser tambm mxima) se:
X E i = min

(5.24)

o que implica
L( h - H ) = 0

donde I l t = nu e n
= M

(5.25)

A condio (5.24) assegura tambm a obteno de varincia mnima, o que um outro critrio de estimativa usual.

CAPITULO 6 - AJUSTAMENTO COM MODELO PARAMTRICO

6.1. INTRODUO O modelo matemtico do ajustamento paramtrico (tambm chamado modelo explcito ou mtodo das observaes indiretas ou ainda mtodo das equaes de observaes) : La = F(Xa) (6.1)

onde La o vetor (nxl) das observaes ajustadas, Xa o vetor (uxl) dos parmetros ajustados e F um funcional que relaciona La a Xa. Conforme a funo F seja linear ou no linear, o ajustamento se chamar de: paramtrico linear ou no linear. Consideraremos inicialmente o primeiro caso.

6.1.1. Ajustamento Paramtrico Linear Neste caso a funo F linear e a equao (6.1) pode ser escrita na forma L= A X (6.2) onde o sistema de equaes lineares superabundante (n > u), com A (nxu).

90

Ajustamento por Mnimos Quadrados

Este sistema consistente no pode ser formado inicialmente, pois o vetor La no est disponvel. Isto , dispe-se somente do vetor Lb dos valores medidos que forma um sistema inconsistente, U = AX que requer uma correo V ao vetor das medidas Lb. Assim: L |sL b + V e (6.4) (6.3)

A X -L t+ V

(6.5)

constitui um sistema compatvel, mas com maior nmero de incgnitas que o nmero n de equaes (X* e V possuem u + n incgnitas). Recorre-se ento ao princpio do Mtodo dos Mnimos Quadrados (MMQ), equaes (5.11a) ou (5.11b), para a obteno da soluo nica do sistema (6.5) Considerando a soluo quando se utiliza a equao (5.1 la): VT V = min temos da equao (6.5), V = AX - U que substitudo na equao (6.5a),e designando-a por < X > , resulta: O i (AX | Lb)T(AX - Lb) = mn. ou 0 = (A jx j - LT b) (AX - U ) = mn (6.6) (6.5a)

Quintino Dalmolin

91

e efetuando a distribuio tem-se:

O = X t A t AX - X TA TLb - LT bAX + L^Lb

Para minimizar a funo, faa-se :

d$>
=

dX ou seja

^ - =2xTATA-aA-A=0 dX
= X TArA-lZA=0 e
XTATA = l l A

Transpondo ambos os membros:

a ta x

= a tu

(6.7)

que chamada equao normal e cuja soluo :

X =(A t A ? A t U (6.8)

admitindo AT A no singular. Se fosse considerada a condio (5.11b) que levou em conta as varincias das observaes em lugar da (5.1 la) ter-se-ia:
1 Na verdade, impor que a derivada de 4> com respeito a X seja nula, procedimento para determinar o mximo ou mnimo de O. No caso em pauta, podese provar tratar-se de um mnimo.

92

Ajustamento por Mnimos Quadrados

< D= VT PV = mn. no qual, substituindo a equao (6.6), resulta:

< J > = (AX - Lb)T P(AX - Lb) = mn.

Efetuando a transposio e multiplicando vem:

< & = X TA TPAX - X TA TPLb - L[PAX + LT b PLb

Como no caso anterior, minimizando a funo, tem-se: i = 0

ou
= f e f e i X TAt

Bx

dX

PAX X tAtPLb-liP AX +lPLb)=0

= 2 x TATP A - P rA - P A = 0 = 2 x TATP A - 2 d P A = 0 - x ta tp a - l I p a = o

transpondo tem-se: A t PAX I A TPLb (6-9)

que constitui o sistema de equaes normais, e cuja soluo :

Quintino Dalmolin

93

X - ( A TPA)'l ATP U

(6 1 )

admitindo que AT PA no singular. Pode-se portanto estimar, pelo Mtodo de Mnimos Quadrados, (equaes (6.8) e (5.10) os valores dos parmetros X a partir da matriz A dos coeficientes das incgnitas, do vetor Lb de valores observados e da matriz dos pesos referida na equao (5.12), dada por

P -a it

(6.11)

onde Zl amatriz varincia co-varincia dasobservaes e (ao)2 a varincia daunidade de peso, a ser tratada mais adiante, eque pode ser arbitrada igual a 1, a priori, para fins de resoluo dos parmetros. O vetor V das correes s observaes Lb pode ento ser calculado utilizando o X na equao (6.6) e o valor ajustado das observaes obtido por: La = Lb + V (6.12)

6.1.2. Ajustamento Paramtrico no Linear Nos casos em que a funo F(Xa), do modelo dados pela equao (6.1), La = F(Xa) I no linear, o ajustamento paramtrico dito no linear. O ajustamento paramtrico, para este caso no linear, mais geral, A resoluo do problema engloba o caso linear mas inclui uma fase preparatria de linearizao do modelo e, em decorrncia da (6.13)

94

Ajustamento por Mnimos Quadrados

aproximao introduzida nesta fase preparatria, uma fase de testes e iteraes so requeridas. Na fase preparatria usam-se valores aproximados Xo dos parmetros Xa como ponto de expanso da funo F(Xa) em srie de Taylor, e, com o objetivo de linearizar a funo, tomam-se apenas os dois primeiros termos da srie. Tem-se conscincia do erro de aproximao introduzido com esta linearizao, erro este tanto menor quanto melhor forem os valores aproximados do vetor Xo. A expanso de F(Xa) d:
F ( x j = F (X o)+ t
a

(Xa-Xo)

(6.14)
= Zo+AX

onde se est representando Lo = F(Xo) e (6.16) (6.15)

e ambos Lo e A so vetor e matriz numricos calculados a partir do valor aproximado Xo e do modelo matemtico F. A equao (6.13) pode ser escrita como: Lb + V = F(Xa) (6.17)

Quintino Lkilmolin

95

Nesta equao, substituindo F(Xa) por seu valor da aproximao linear dada pela equao (6.15) vem: U + V - L o = AX ou (6.18)

AX + L = V

(6.19)

onde L = Lo-U um vetor numrico calculado a partir de Lo e das observaes L * > . O modelo (6.19) ento obtido linear e resolvido pelo procedimento visto no item anterior, a saber equaes (6.8) ou (6.10) e (6.6). O vetor X estimado constitui correo ao vetor Xo dos parmetros aproximados para obteno de parmetros X* que sero melhores aproximaes dos parmetros desde que exista convergncia. X* = Xo* X (6.21) (6.20)

O vetor Xa assim obtido ser utilizado como novo valor aproximado dos parmetros.. Com base nestes, a matriz A eos vetores Lo e L sero numericamente reavaliados e ento novo vetordecorreoX ser calculado e aplicado na equao (6.21X para obteno de X, que o novo valor ajustado dos parmetros e que pode ser novamente utilizado como valor aproximado melhorado., A a sequncia abaixo ilustra o processo. O processo iterativo encerradoquando no converge e ultrapassa um certo nmero de iteraes ouquando os elementos do

96

Ajustamento por Mnimos Quadrados

vetor de correo X so menores que um 5 arbitrariamente escolhido como constante para teste de convergncia. Lo = F(Xo)
A = F (X o )

X ,= N - ',U , X .'= X o + X,

Lo1 = F(X .') A, = F(X*')

X2 = N1 2U2
x ,2 = x .' + x 2

Lo2= F(Xa2) A2 = F(Xa2) X3 = N'1 3U3 Xa 3 = Xa 2 + X3

Lon = F(Xa) An = F(X.n)

Quintino Dalmolin

97

Xn+i =N~1 n+i Uo+1

X."*1 = Xa" + X*i

comum representar-se o sistema de equaes normais (6.9) e (6.7) por NX = U onde N = AtPA e U = At PL Ento as equaes (6.10) e (6.8) seriam dadas por: X * N!U 6.2 ESTIMATIVA DE PRECISO DOS PARMETROS CALCULADOS Como j foi referido anteriormente,quando se faz estimativa de um valor ou deum conjunto de valores (parmetros), necessrio se faz tambm estimar a qualidade dos mesmos. No mtodo paramtrico de ajustamento, mede-se e estima-se (L,Il ) e a partir destes estimar-se- (X,Zx), que representam os parmetros e suapreciso. Viu-se nas subsees anteriores a estimativa dos parmetros X; note-se agora como estimar sua preciso 2*. Considere-se a equao (6.10) X,= (AT PA) AT PLb = GLb onde G = (AT PA) AtP (6.27) (6.26) (6.25) (6.24) (6.23) (6.22)

98

Ajustamento por Mnimos Quadrados

matriz constante e U o vetor de observaes feitas com a preciso El. Aplicando-se a lei de propagao de covarincias, vista na seo 4.3 e dada pela equao (4.11), equao (6.26), tem-se: Z, = GZlGt ou, substituindo G por seu valor dado pela equao (6.27), e lembrando a equao (6.23):

Zx = N_IAT PZL PAN'1

Lembrando a definio de P dada na equao (5.12)

(6.28)

P - G oT l
o que implica

que substituda na (6.28) d:

I = < tf,ATPP1PAN1

1V=(N'1ATPAN1 Lx-G oN 1

mm

Quintino Dalmolin

99

equao que d estimativa da preciso dos parmetros, a partir da varincia da unidade de peso a posteriori Go e da inversa da matnz N de coeficientes das equaes normais.
*2
} /P V

< T o = -----------

n-u

onde P e V so dados pela equaes (5.12) e (6.19), n o nmero de equaes linearmente independentes e u o nmero de parmetros incgnitos. A diferena (n - u) chamada de nmero de graus de liberdade. Freqentemente tem-se interesse no conhecimento da preciso dos valores observados ajustados La. Esta preciso pode ser estimada atravs da lei de propagao de covarincia equao (6.2) aps ter sido estimado Exa. O problema se resume em: dados a equao La=AXa e a matriz Xxa; estimar Zu- Aplicando a lei de propagao das covarincias, tem-se:

YiMAYxa/F
2 ^ = A tfo N '/? e

ZL a= 1 o ANAT

100

Ajustamento por Mnimos Quadrados

D relao
V = La Lb

pode-se estimar ainda Zv Z v= Lto "T ,L b 6.3 EXERCCIOS E EXEMPLOS 1. Um certo fenmeno tem variao y linear com respeito a x (y = ax + b). O valor yj foi medido para diferentes x,, conforme dados abaixo. A abcissa x considerada sem erro. Calcular os valores ajustados dos parmetros a e b da funo linear. para x -6 -4 -2 0 Observaes: " 0,10 0,97 2,06 _ 3,11 incgnitas: " l\
li
1 3

y medido 0,10 0,97 2,06 3,11

_ / 4 _

Quintino Dalmolin

a
X a
=

Modelo matemtico funcional y = ax + b La = AX Modelo matemtico na forma matricial:

U b x- 4^,

6 1
4 1

0,10' 0,97 2,06 3,11 .

V / V 2 V i v <

2 1 0 l
Matriz peso:

P=I desde que se considere que todas as medidas so de igual preciso Sistema de equaes normais NXa - U = 0 Onde

Ajustamento por Mnimos Quadrados

56
L- 12

A T PA i

-1 2 4

- 8,60 11 - A T PL = 6,24
[ 0,506

X . * N *.U

3,078

Estimativa da preciso:
- 0,058
0,084 V = AX - L b 0,006

- 0,052
.2

< 7o = ------------------------------------ = -----= 0,00574

n-u

V T PV

0,01148 2

Preciso de X,
0,000287
Zx* = 2o. N ' =

0,000861 0,004018

0,000861

Preciso de L*
0,042 1,054

2,066

L 3*078

Quintino Dalmolin

103

Lu =ct2 0AN',At
0,004018 0,002296 0,000574 - 0.001148 0,002296 0,001722 0,001148 0,000574 0,001148 0,001722 0,001148 0,000574 0,002296 0,000574 0,002296 0.004018

2.

Ajustar a rede de nivelamento representada na figura:

/
o

As altitudes A, B, F e G so consideradas fixas e iguais a: Ha = 1000,182 m Hb = 1004,356 m Hf = 1010,860 m Ho = 1005,429 m Os desnveis medidos com aclive no sentido das setas foram: hj =4,185 m hi = 8,340 m h31 6,008 m I14 = 4,005 m tis = 12,851 m

Ajustamento por Mnimos Quadrados

h = 7,428 m Considerar que todas as observaes tenham a mesma preciso.

Observaes:
hi

4,184 ' 8,340 6,008 4,005 12,851 _ 7,428 _

h 13 14 ls

h2 h3 h4 h5 h_

J6_

Incgnitas:
X\

Hc = H d . H e.

* a

X2

-*3_ Modelo matemtico:

Hc HA~hj Hc = HB-h2
H d - H c + h3 ou

H a - H hj+V H b - H c - h2+ v 2
H d - # c - h3-+v3

He - H D't4 H p - He+hs Ha = HB+ h6

Modelo na forma matricial:

HD- H E= h4+v4 H f - H e = hs+Vs H o - H t - h t +V

Quintino Dalmolin

II -7 -7 0 0 .0
onde:
-7 -7 -7 0 0 _0 0 0 7 7 0 0

0 0 / 7 0 0

0 7/b-/i2 0 VI gS 0 -A 5 5 g VJ // d + -7 -fu V 4 -7 .7/. H,h, v$ -7_

'
t

-//'

W/

0' 0 0 li
O h u

'995,997 ' 996,016 - 6,008 -4,005 998,009 998,001

*>

_Vtf_

-7 -7 -7 .

= A

Matriz peso:
P = I

Sistema de equaes normais:

1 3 -7 N = A t PA = -7

7986,005'
u

-7
5

= a tp l =

- 10,013 - 1992,005

0 -7

996.00575
X

11 - N ' U

1002,01225

998.00575 Estimativa de precUo:

106

Ajustamento por Mnimos Quadrados

1 0,00875

0,01025
V AX
+

1=

- 0,00150 0,00150 0,00325 0,00475

V =

pv - n- u

0,000073

0,00003 0,00002 0,00001 la = l - N1= 0,00002 0,00005 0,00002 0,00001 0,00002 0,00003
3. Utilizando ajustamento paramtrico estimar as altitudes dos pontos B, C e D da rede:

Sendo Ha = 200m e He = 320m altitudes fixas e h* medidos como: hi = 79,91m; h2 = 30,04m; h3119,96m; h4 = 9,93m Considere a matriz P = I

4.

Calcular os parmetros da transformao:

Quintino Dalmolin

107

M M

a
_c

Xo

+
d. p _
'T *

L KJ

Yo_

considere o vetor [X Y] como observaes e o vetor [x y] como isento de erros: Parmetros a determinar: [a b c d Xo Yo ]
T

Coordenadas de pontos dados: Pontos n x

y 80 -60 70

01 02 03 04
5.

100,0 200,0 50 120 -100

1.700,0 100,02 1.310 550

1.260 -1.130 840 -750

Seja o tringulo plano ABC com as seguintes observaes: A = 40o19 02" = li B = 70300 r = 1 2 C = 69ir00" = l3 Todos os ngulos foram medidos com igual preciso. Considere os ngulos A e B como parmetros incgnitos xi e x2 e ajuste.

6.

Uma linha de nivelamento foi feita ligando dois pontos A e D de altitudes conhecidas conforme figura. As altitudes A e D so respectivamente 842,00m e 785,53m. As setas na figura indicam o declive.

Ajustamento por Mnimos Quadrados

B

Seo AB = hi BC = h2 CD = h3

desnvel 32,54m 5,93m 17,97m

distncia 2 Km 1 Km 2,5 Km

A distncia de cada seo representada por d* e o desnvel medido por hi, dados na tabela. As observaes no so correlacionadas e as varincias (c t 2 ) so proporcionais s distncias (d,) em Km. Calcular as altitudes Hb e Hc ajustadas usando ajustamento paramtrico. O segmento AD foi subdividido em trs partes aproximadamente iguais e seis medidas de comprimento foram efetuadas conforme ilustra a figura.

A___________ B__________ C__________ D

Os valores observados foram: AB=lj = 100,01; BC=l2 = 99,97; CD=13 = 100,02; AC=14 = 200,04; BD=15 = 199,98 e AD=l6 = 299,96. Os pesos das observaes so inversamente proporcionais s distncias. Estimar as distncias ajustadas entre AB, BC e CD.

Quintino Dalmolin

109

8.

Considere a seguinte rede de nivelamento: B

As setas indicam o sentido do aclive. O ponto A admitido possuir altitude 0. As varincias so proporcionais s distncias em Km. As observaes so dadas pela tabela. Estaes de 01 02 03 04 05 06 A A C A B B para C D D B D C 6,16 12,57 6,41 1,09 11,58 5,07 4 2 2 4 2 4

Seo

Desn. hi(m)

Comp.(Km)

Ajuste a rede parametricamente e compute Hb, Hc e Hd9. Efetuar o ajustamento da rede de nivelamento da figura e calcular a altitude dos pontos Pj, i = 1,12. Considerar a altitude de A fixa, J ia = lOOOm.

Os valores observados so dados na tabela abaixo. Os pesos so inversamente proporcionais aos comprimento das linhas dadas. Na rede de nivelamento observada: li so linhas medidas. As setas indicam o sentido do aclive da linha, isto , hj (estao final) (inicial). Seo 01 02 03 04 05 06 07 08 09 10 11 12 Linha 1-A 2-1 A-2 1-3 3-A 5-4 4-1 2-5 7-4 6-7 5-6 7-8 Observao -5,49656 4,87375 0,62323 -2,39967 -3,09626 -5,09272 0,89394 9,07447 1,57579 -8,97621 2,30729 11,37965 Comprimento 0,80 0,83 3,45 1,05 1,30 0,58 0,70 1,70 1,30 0,48 0,83 2,29

Quintino Dalmolin

111

13 14 15 16 17 18 19

8-3 7-11 11-10 10-9 9-8 12-11 6-12

-1130937 -0,22322 2,99252 9,80366 -1,19376 -5*28810 -3,91266

2J20 0.74 1,20 2,11 0,15 030 2,00

10.

Determinar as coordenadas planas (x,y) do ponio P, a partir da medida de trs distncias de pontos conhecidos A, B, e C a P. Coordenadas dos pontos conhecidos: A = (200,00; 400,00); B =(600,00; 700.00); C = (1100.00; 300,00)
B

Coordenadas aproximadas de P: P (585,00; 112,00) Distncias medidas com o = 0,05m: AP = 499,92m BP = 600,02m

Ajustamento por Mnimos Quadrados

CP = 538,48m Incgnitas (parmetros):

'X Xk

m ym

Observaes:
li Lb = h . * AP BP CP ' 499,92 3 B 600,02 538,48

Parmetros aproximados:
Xl = 1585,00 112,00

Modelo matemtico:
d = ( ( x - x, f + ( y - y, f)" *
OU

F / > d ] = ( f x - x a f + ( y - y A / )
f

2 - > d 2 = (( x - x b f - ( y - y b

F 3- > d 3= ( ( x - X c f + ( y - Y c / )
Modelo matemtico linearizado:

Q uintino DaUmriin

AX

+ L m V

onde:

BFi dx
A=

d_Fi dy au an
3 Fj

fi dx

dy

X = Xo = 2I a2 2

an an
d Ws d f 3
dx dy

L0 - L b = F ( X 0 ) - L b
0,8007 A = - 0,0255
-

- 0,5990 '

480,80

- 0,9997
-

> ' Lo = 588,19

548,24

0,9394

0,5429 - 19,1196

L = - 11,8287
9,7617

Sistema de equaes normais: NX + U = 0 onde:

609,703 -52,813 590,297

N m \ TPA

- 52,813

9671,2793

U m a t PL

7972,0386

114

Ajustamento p o r M nimos Quadrados

Clculo da correo dos parmetros aproximados:

14,8072

X = - N 'U =

- 12,1803

Parmetros corrigidos:
599,8072

X a = X 0+ X =

99,8197

Correo mxima Xi = 14,8072 > 8 ( = 0,01 como critrio de convergncia), iterao requerida, Xa o novo Xo. Os coeficientes A e L so reavaliados e tem-se:
' 0,7997 A = -0,0003 - 0,9284 '600,579 j 53,947 -0,6004' '0,0340'

-1,0000 ;L = 0,1604 - 0,3716 -53,947' 0,2825

N=

-94,035' ;U = s 114,309 _ 599,421 _

X -

'0,1751' ; x a= 0,2065

'599,9823' 100,0261

Correo mxima X j j 0,2065 > 0,01 (8 iterao requerida Xa o novo Xq. Os coeficientes A e L so reavaliados e tem-se:

Quintino Dalmolin
0,8000 A = 0,0000
- 0,9285

llS
-0 ,6 0 0 0 ' -1,0000 ;L =
- 0,3713

0,0502 0,0461 0,0432

N =

600,851 _- 54,071

- 54,071' ;U = 599,149

' 0,01746 '

0,01752 .
5 9 9 ,9 8 2 3 "

- 0,000027 " X _ 0,000027 .

;X a = _100,0261 .

Correo mxima X 3 = 0,000027 < 8 (= 0,01), convergncia satisfatria. Estimativa de preciso:

0,0502
V = AX + L = -0,0461

0,0432
, V PV o = ------- = 2.6046 n-u

0,00437

0,00039 0,00438

Xx= o 2-Nl=

0,00039

iI I

Determinar as coordenadas (x, y, z) de um ponto P, a partir das medidas de 5 distncias de pontos conhecidos A, B, C, D e E a I As coordenadas medidas dos pontos conhecidos so:

116

Ajustamento por Mnimos Quadrados

Q uintino l

P (530,0; 480,0; 350,0) E as distncias medidas com c = 0,lm so:

AP = 541,28 ~BP = 5 8 1 , 6 0 C~P = 7 8 8 , 3 0 ~DP = 1 0 1 0 , 9 1 E~P I 5 5 7 , 7 8

12.

Determinar os parmetros a, b e c da parbola y = f(x) que melhor se ajuste s observaes das coordenadas: Ordenadas (yj) -0,98 -2,03 1,99 -1,04 6,97 2,01 Preciso (aO 0,03 0,03 0,01 0,04 0,04 0,01 Abcissas (xj) 0 1 -1 2 -2 3

As abcissas X j so isentas de erros. 13. Determinar as coordenadas planas do ponto P(X,Y), da figura, com o respectivo referencial AXY dado. As coordenadas dos pontos so: A(0,0) B(10,0) C(15,0)

Quintino Dalmolin

117

Os valores dos ngulos observados a,, i = 1, 2, 3, foram medidos ai = 4500' com Ci = 2 a 2 = 6648' com c 2 = 2' a 3 = 4 1 ir com 03 = 1 e a distncia PA = d = 9,9 lm foi medida com 04 = 5mm. V
P<X.Y)

// / &L

//

\\
_______ " v \ B

% \c

I M s I
15-x

Os parmetros (X,Y) aproximados so: Xo = 6,4 Incgnitas (parmetros): e Yo = 6,6

Xa =

~Xi X 2.

x'

_Y_

Observaes:
r45,0000 * I 66,8000 9 41,1833 * 9,9/m . '0,785398 rad 1,165879 rad 0,718785 rad 9,9/m

['l
1* * r

118

Ajustamento po r Mnimos Quadrcuio\

Parmetros aproximados:

Xi _X 2_
Peso:
'2.954.525,7 0 0 2.954.525, 7

~6,4~ 6,6 _

o o

o o

0 0

0 0 11.818.103,0 0 40.000 0

Modelo matemtico funcional:

<Y_\
X
_ y ___

a 2 i arctg a 3= arctg
f 4 ->

io - x Y \ 15 - X /

P= ((X - x o f + (r -Y c f ) ' ' a = arctg

r M
K -X

Modelo matemtico linearizado:

AX + L = V Roteiro para a soluo do problema:

I* iterao: Sistema de equaes normais:

NiXi+Ui=0

Clculo da correo aos parmetros aproximados: Xi Parmetros corrigidos: Xa= Xo + Xi Correo mxima Xi = 0,59305 > 0,001 = o (a = critrio de convergncia), nova iterao requerida, Xa o novo Xo. Os coeficientes A e L so reavaliados e tem-se, 2* iterao: Clculo da correo X2 e do novo valor corrigido
Xa + Xo + X2

Correo mxima X 2 = -0,01566 > 0,001 = a, nova iterao requerida, Xa o novo Xo- Os coeficientes A e L so reavaliados e tem-se, 3* iterao: Idem, Idem sequencia anterior para X 3 e novo Xa Correo mxima X3 = 0,00006 < a, convergncia satisfatria. Estimativa de preciso: a cargo do leitor...

Dadas as coordenadas fotogrficas (x,y) e geodsicas locais (X,Y,Z) de sete pontos conforme a tabela abaixo e dados ainda:

120

Ajustamento por Mnimos Quadrados

1) A distncia focal calibrada da cmara: f = 305,24mm.

2) Os parmetros aproximados de orientao exterior: (0 = c j) = K = 0; Xc = 300m; Yc = 145m;Zc = 1000m

Calcular os parmetros de orientao exterior da cmara. Fotocoordenadas Ponto

X

Coordenadas geodsicas X 8496,051 8019,938 8490,372 8319,553 8173,213 7946,993 8274,429 Y 5143,856 5022,347 5160,541 5083,466 5085,928 5431,920 4884,132 Z 76,000 92,677 75,783 80,904 87,320 84,483 108,10

y 17,505 -28,820 22,820 -4,621 -6,076 103,011 -71,030

46 49 53 54 55 16
21

73,245 -78,582 71,182 17,039 -30,227 -119,191 5,342

O modelo matemtico funcional relacionando os dois sistema so as equaes de colinearidade (Ver LUGNANI, J.B) Considere (x, y) como observaes.

111

CAPTULO 7 - AJUSTAMENTO MODELO IMPLCITO

7.1 CONCEITO O ajustamento de modelos matemticos implcitos, frequentemente chamado modelo implcito ou mtodo combinado de ajustamento, mais geral que o mtodo paramtrico visto na seo anterior. Seu modelo matemtico funcional : F(Xa,La) = 0 (7.1)

onde Xa e La so como definidos anteriormente e F uma funo genericamente no linear. 7.2 FORMA LINEAR DO MODELO Com o propsito de obter um modelo linear, F ser expandido em srie de Taylor. Os valores observados dados pelo vetor L *, e os parmetros aproximados Xo, constituiro o ponto de expanso inicial da srie, que ser truncada de modo que somente os termos lineares sejam considerados, como foi mencionado no caso paramtrico no linear, o erro decorrente dessa aproximao depende da qualidade dos valores dados ao ponto de expanso. Representando por X as correes aos valores aproximados Xo e por V as correes s observaes L *, a expanso F pode ser escrita como:

dX .

( X . - X 0) + ^ oLa

I ( L .- ,)

.22

Ajustamento por Mnimos Quadrados

OU

AX + BV + W = 0

(7.2)

Onde
A= dX a I (7-3)

=*f dL

(7.4)

W = F(Xo,Lb)

(7.5) (7.7) (7.7)

e
X = Xa - Xo V= U -U

E oportuno notar que a aproximao expressa pela equao (7.2) tende ao valor da F(Xa,La) quando P(Xo,Lb) > P(Xa,La). O propsito agora resolver o sistema (7.2) com respeito a X e V, onde supe-se independncia entre os parmetros. Seja m o nmero de equaes do sistema, uo nmero de parmetros X en o nmerode observaes. O sistema(7.2):

(7.8)

constitui um sistema de equaes lineares com (n+u) incgnitas a m equaes, com (m<(n+u)) a ser resolvido em X e V. O princpio do MMQ, (5.11), ento deve ser usado.

Quintino Dalmolin

123

7.3 SISTEMA DE EQUAES NORMAIS Para resolver o sistema (7.8) impondo tambm o princpio do MMQ, O = VT PV = min (7.9)

usar-se- o mtodo de mnimos quadrados impostoatravs dos multiplicadores de Lagrange, que consiste em minimizar a funo: o = VTPV + 2 Kt (AX + BV + W) (7.10)

Notar que quando a equao (7.8) satisfeita o parntese da equao (7.10) se anula. Para minimizar O, suas derivadas parciais com respeito a X, K e V so igualadas a zero. Ento tem-se: 30
dX
=

2 (K

*y T

y A)

90
dK e

= 2

(AX + B V + W )

dv

2 ( V t P ) t + 2 ( K t B) t

que podem ser escritas como: At K = 0 PV + Bt K = 0

Ver ltima noG do capitulo anterior.

(7.11) (7.12)

124

Ajustamento por Mnimos Quadrados

AX + BV + W = 0

(7.13)

Tem-se agora um conjunto de (u+n+m) equaes respectivamente procedentes das equaes (7.11), (7.12) e (7.8) e o mesmo nmero de incgnitas. O sistema global pode ser escrito, em forma matricial, como: ou

P Bt B O A
O1

o'
.

"v~

~o~ K + w = 0 _o_ _X.

(7.14)

que constitui o sistema de equaes normais. Para pequenos problemas, possvel resolver o sistema de equaes normais atravs da inverso da hipermatriz de coeficientes. Para inversa de Cayley, supondo no singularidade, tem-se:

v'
X

~P

K B

Esta soluo, no entanto, no recomendvel porque muito dispendiosa computacionalmente. Como se sabe, o tempo de processamento cresce com o cubo da ordem da matriz a ser invertida, alm do problema de espao de armazenamento.

7.4 SOLUO DAS EQUAES NORMAIS Visando a obteno de uma soluo computacional mais atrativa, considere-se a equao (7.14).

1 O K
bt

0~ A

"o"
. w

O
AT

(7.15)

125

p B O

Br O

O'

"V'

'

O'
SE

O' O
m

Ar O

K + w X 0

OJ

NY + U = O que pode ser particionada em:

N n _ N 2i N
n
12 '

(7.16)

Y1

+
22_
y 2_

~i

(7.17)

e que pode ser desenvolvida em: NnYi + N 12Y3 + Ui = 0 N21Y 1 + N22Y2 + U2 = 0 Supondo Nu no singular a (7.18) pode ser escrita:
K/= - N ' u ( U i + N 1 2 Y 2 )

(7.18) (7.19)

(7.20)

que substituda na (7.19), d: ( N 22 N v N u N ,2 ) Y 2 +( U2- N 21 NU, ) =0 (7.21)

Aplicando o deduzido na equao (7.21) ao sistema de equaes normaj* apfo particion-lo convenientemente:

n o' ! P 11 u i. + k O A : Ar o_ .x .

o' w o .

Da pr 11

tem-se

' p
.o.

Ar o .
ou efetuando

vv" B + i[ b t o] 1 - * 9 . x . . o . .o.
'

dond

* 3

Repetindo o processo para eliminar a varivel K tem-se.

a

com a aplicao da (7.21) resulta:

a t( b f 'b V a

r>

/ ~ , [o]=o

As e ma mni

-BPBt A
.X.

vv" .o .

= 0

7.4.

con (7.2

"

"vv" +
=0
_

( 7 . 2 2 )

A7

o_ _x_

o.

ed

X + a t(b p ' b V w = 0

Cc

ou X - - |At (BP 'b V A l1 At (BP 'b V w

(7.24)

Quintino Dalmolin

127

Da primeira equao matricial em (7.22), tem-se: K = (BP-'BT)-' (AX + W) e da primeira equao em (7.15) tem-se:
pv

(7.25)

+ b tk = o

donde V = - P 1BTK (7.26)

As equaes (7.24), (7.25) e (7.26) pressupem no singularidade das matrizes a serem invertidas por Cayley, e constituem a soluo de mnimos quadrados do modelo implcito ou mtodo combinado. 7.4.1 Particularizao para o Caso Paramtrico Sendo o ajustamento paramtrico um caso particular do mtodo combinado, suas equaes (6.6) e (6.10) podem ser obtidas das (7.26), (7.25) e (7.24), fazendo B = -I (I = matriz identidade). Da (7.24) resulta: X = - (AtPA) a t pw e da (7.26) e (7.25) temos: V = + P IK = F 1 P(AX + W) V = AX +W Com W= Le L= F(X0 - U )

128

Ajustamento por Mnimos Quadrados

7.5 MTODO DOS CORRELATOS COMO CASO PARTICULAR DO COMBINADO

O ajustamento pelo mtodo dos corre latos, classicamen chamado mtodo das equaes de condio ou das observaes diretas condicionadas, consiste no ajustamento somente de observaes (os parmetros no participam do ajustamento). O modelo matemtico assume ento a forma:
F(U ) 0 (7.27)

ou na forma linear: BV + W = 0 (7*28)

A equao (7.28) corresponde (7.8) com A = 0 (derivada parcial com respeito aos parmetros zero, j que estes no existem no modelo). A soluo da equao (7.28), para V, obtida da (7.26) e (7.25) fazendose A = 0 nestas equaes: V = -P V B P ^ B 1) 1 W K = (BP 'Bt )'' W e =
p

(7.29) (7.30)

' ' p ' B T( B P ' B t ) ' B P

Quando o modelo matemtico no linear, no caso paramtrico ou combinado, envolve a estimativa de X, e este deve ser adicionado aos valores aproximados dos parmetros Xo para obter o valor ajustado Xa, isto : Xa = Xo + X (7.32)

Quintino Dalmolin

129

Oa mesma forma o vetor dos reskfeios V, em todos os deve ser adicionado ao vetor dos valores observados L*, tal que: L = L b + V 7.6 ITERAO NO MTODO COMBINADO Os resultados das equaes (7.32) e (7.33) s seriam os resultados finais se os valores utilizados como pomo de expanso da srie de Taylor Xo e U estivessem suficientemente prximos dos pontos X. e L*. Geralmente este no o caso e iteraes so requeridas. Chamando de X l aella os valores finais aps a iterao i; de X ,, Vi as correes estimadas na iterao i e de A* B, e Wt os coeficientes da i-sima iterao no ponto de expanso i-1. A expanso da funo F em srie de Taylor, d: (733)

como

pode-se escrever
A, X , + B,V, + B, (Lb - t i . ') + F (X . 1 ti. 1) -

130

Ajustamento por Mnimos Quadrado*

ou ainda AX + BiVj + Wi * 0 onde:

Wt

i H (7.34)

B t( L ,

V ; 1)

F (X l

(7.35)

Oc osvul

Na primeira soluo ( i s 1) o ponto de expanso X*el% devem ser dados com boa aproximao dentro dos limites da nature/a da no linearidade do problema considerado. Para Lu a pode se adotar l* observado e para X recomendvel que se obtenha valores atravs c* * ci Ter-se-ia ento: 1. Na soluo inicial: AiXi + BiV, + Wi = 0 (7.36) de uma soluo nica a partir de um subsistema do sistema original.

Onde Ai, Bj e Wj so as matrizes determinadas no ponto de expanso da srie de Taylor ( X tLb) e onde Wj tem um s termo como na (7.5) pois o primeiro termo do segundo membro da equao (7.35) desaparece j que L~l = Lb. Utiliza-se as equaes (7.24), (7.26) (7.32) e (7.33) para obten

Quintino Dalmolin

131

2. Primeira Iterao: o ponto de expanso agora temos:

. e par i = 2

Onde A2 , B2 e W2 so matrizes cujos elemento* so deternunadu* com os valores ajustados na iterao anterior, assim:

(738)
B m B. X S . L S )

(739)
(7-40)

e semelhantemente estima-se

(741)
3. Segunda Iterao: O processo iterativo continua att * convcffncia. admitida esta. numa iterao t ou atravs de um tnie comparativo da diferena dos parmetros ajustados numa iterao t com os da iterao i 1 ser menor que um 5 pr estabelecida Notar que X, tende a zero no ponto de convergncia e que V, tende a se estabilizar num vetor que representa as correes mais provveis s observaes originais L*. Considerando a equao (735) w; = ,(!* - C , ) + F ( x ; - \ 0 e considerando que na convergncia

Ajustamento por Mnimos Quadrados

entto:

F(X ',L ) = 0

W , = fl, (t. - L .)= 7.7 PRECISO DOS VALORES ESTIMADOS 2 Considerando a equao (7.5) W = F(Xo,Lt>), tem-se : X* = I t flr

(7.42)

(7.43)

que representa a propagao da varincia-covarincia para o erro de fechamento W. Da equao (7.24) tem-se:
x = c .w

onde C-N^'AT(BPrlBT )'1 .

l . * C l mc r
CmmW f , 4 a ^ * > ( 7 5. derivada parciwi de W com

m tfm m l+ 4M bpar9-

Quintino Dalmolin

133

ou, substituindo C pelo valor acima vem, com alguma stmphficaio algbrica

Z, = ( A t(BZ l b ' / ' /lr f * N

Geralmente quando se efetua um ajuvtamento nio seconhece l i plenamente. Entoadota-se ou arbitra-se umcerto(<*)* (a-pnan), normalmente igual a unidade tal que:

p -o fc
e trabalhasse ao longo do ajustamento com esta exprcuJo. Finalmente o fator

OM)

, deve ser estimado com c\ptr\*o:

V 7P V

(745)

com r graus de liberdade c introduzido a posteriori pera euma preciso dos parmetros:

N 1

(746)

A equao (7.46) seria usada somente quando X < no for plenamente conhecido, pois em caso contrrio seria (o**)2 neutro (= 1). Na prtica estima-se sempre o fator d j a posteriori e este serve para testar a qualidade do ajustamento e dos valores estimados ao mesmo tempo. Se q no passar no teste h a possibilidade da existncia de

134

Ajustamento por Mnimos Quadrados

erros grosseiros ou mal estimativa das varincias das observaes. O circunflexo acentua o fato do valor ser estimado: Lembrando que: U =U +V e substituindo V e K das equaes (7.26) e (7.25): V = -P'1b t k K = (B P1Bt) ' (AX + W) temos L, = U - F 1Bt (B P1Bt) (AX + W) (7.48) Est aa ond (7.47) obda u ea
derivl

simp

Substituindo ainda X por seu valor dado pela (7.24) tem-se:

La - Lt>+ P B t ( BP 1B t f Al At ( B P 1B t f A ] A t ( BP 1B t ) w - p Bt ( B P ' B t f W

A matriz varincia-covarincia de La, pela lei de propagao de covarincia ser:

Quintino Dalmolin

135

As expresses das duas derivadas parciais da (7.49) podem ser obtidas da (7.48); substituindo-se Lb por I e W por B para a derivada de L, em relao a Lb eliminando Lb e substituindo W por A para a derivada de La em relao a X. Efetuando a substituio das derivadas mencionadas na (7.48) e simplificando as expresses obtem-se:
XL . = t i P ' + P 1B 7 PwAN ' AT P W BP ' - P 1BTP BP 1) =
= < f Z ( Q i - Q v )

,7 5 0 ,

onde
Ql = p 1

Este mesmo resultado poderia ser obtido a partir da equao (7.47) com a aplicao da lei de propagao de covarincias.

Qv = p 1b t p wb p 1- p 1b t p wa n , a t p wb p j p w=(B2, u b t y1

(7.51)

A matriz varincia-covarincia dos resduos seria portanto: Iv = Cf r f i , (7.52)

7.8 EXERCCIOS ( .Determinar as coordenadas (X,Y,Z) do ponto P a partir das distncias medidas com desvio padro o = 0,02mm de trs pontos de

136

Ajustamento por Mnimos Quadradas

Qttintim i

coordenadas conhecidas A, B, C ao ponto P e dos ngulos verticais (Xa, Ob, O L c medidos em A, B e C com o = l M . As coordenadas das estaes so: A = (200,400, 50) B = (900, 100,70) C = (1000,400, 60) ngulos observados: (X a = 4450 Ob = 3757* ac = 4408 Distncias observadas: dA = 581,453 m dB= 634,120 m dc = 574,466 m Coordenadas aproximadas do ponto P: Incgnitas (parmetros): P (599. 501.460*$)

' Xa i ~ Xa2

YP .Zr.

Observaes:

X _____ 1 _____

fantino Dabnolin

Ibl lb 2 lb3 lb4 IbS Jb6_

'

d
d B d c OCd
CC e

581,453' 634,120 574,466 44,833333

37,95

581,453 ~ 634,120 574,120 0,7824893 rd 0,6623525 rd

0,7702720 r d j

JXf _

44,133333

Parmetros aproximados:
599.0 Xn = 501.0 460,5

Matriz varincia-covarincia: ~4xl04 0 0 0 0 0 0 0 0 0 0 & 0 0 0 0

0 4x104 0 0 0 n

0 4x1o4 0 0 0

0 2t35xl 0n 0 0

0 2,35x1o1 1 0

0 2.35x10n

158

Ajustamento p or Mnimos

Modelo matemtico funcionai:

F, = < x * - X , f + ( y A- y l. f + ( z A- Z , ? ] U2- d = 0 F*~ f Xt - X p f + ( Y b - Y r ) 2+ ( Z b - Z r f / " -d = 0

F >= (

Xc - X P f

+ (Yc-Yr f + ( Z c - Z r f

/*

-dc = 0

F4 = l < X * - X p f + ( Y A- Y , f j t g a - ( Z A - Z r f = 0 Fs ~ l ( X - X f f + ( Y i - Y r f ] t g 2a , - ( Z , - Z r f = 0
F = [ ( X c - X r f + ( Y c - Y , f ] t g 2a c - ( Z c ~ Z p f - 0

Modelo matemtico estocstico:

Modelo matemtico linearizado:

A X+BtV , +wt =0
onde; r bfj 1d X p 1 F2
r>

dFJ
d Vp

dF/ 1

d Zp
dF2 I

dF2

X
i

ti

3yp

dZP1

1 &F6

dF6
d Y,

dF6 1

L^Xp

dZrl

Qmmtino Dalmotin

fa r/

dFl ddB
dF2 ddB

dFl ddc dF2 d d

dFl

dFl daB dF2 daB

dFl 1 dac dF2 dac

da*
dF2 daA

dF2
dd

dF6 ddA

dF6 ddb

dF6 ddc

dF6 daA

dF6 daB

dF6 dac

= Bi ( L b - K

F(x;\ L ? )

1* iterao:
0,686390 -0,473624 -0,696573 788,768606 -366,145277 -754,907050 0,173748 0,630974 0,175446 199,663231 487,788226 190,138683 0,706173 0,614452 0,695704 -821,000000 - 781,000000 - 801,000000_

0,150798 1,405/77 1,209473

W*I

- 1067,91982 9 4 J6, J53493

140

A justam ento p o r M nim os Quadrado

Da equao (7.24) tem-se:

X

[ A t (B P 1 B t )A ] l A t(B P 1 f f

1,009776

X = - 0, 9514/2
-0,519527

Parmetros corrigidos:

600,009776

X a= Xo+ X = 500,048588
459,980473

Clculo das correes das observaes: P = -P 1 Bt K K = (BP 1 B J y ] (AX 4 W)

0,0 / 0/20
0,007381
- 0,022269

0,000052 0,000019 0,000052

Quintino Dalmolin

141

Correo mxima X = 1,009776 > 0,01 = 5 (6 = critrio de convergncia), nova iterao requerida, X , o novo Xo. Os coeficientes A, B e W so reavaliados e tem-se:

2* iterao:

0,687934 -0,473076 -0,696308 790,929491 - 364,945375 - 752,849049

0,172063 0,630865 0,174166 197,823613 486,668800 188,308314

0,705082 " 0,614987 0,696291 - 819,960945 - 779,960945 -799,960945 .

-1 0
B=
-

0 1 0 0 0 0

0 0 -1 0 0 0

0 0 0 672353,978 497 0 0

0 0 0 0 672233,946 160 0

0' 0 0 0 0 640239,455 935

0 0 0 0

142

Ajustamento por Mnimos Quadra

- 0.008255 0.007191
W 0,022859 36,766810 12,680211 - 31,626106 -0,000853 X * -0,002190 0,000029

parmetros corrigidos:
600,008923
X .* Xo+ x * 500,046397

459,980502

Correo das observaes:

*0,009199 - 0,008151 0,023092
V " Lm* Lm"

0,(MMJ05J 0,000019 0,000049

Quintino Dalmolin

143

Correo mxima de X 0,002 < 0,01 = , convergncia satisfatria.

Estimativa de preciso:
I
v tp v

o = --------n-u

0= 136,122060

32*3 o sATS
onde | = A t (B P V )' a

0,000003

0,000002
0,000009 - 0,000001 0,000245 0,001179 -0,000170

- 0,000000 - 0,000001

0,000002 - 0,000000
0,000371 0,000245 - 0,000011

0,000002 - 0,000011
-0,000170 0,000281

Aos pontos Pi, de ordenadas observadas (L*) dados abaixo cc o a = 0,10; ajustar, pelo uma circunferncia de raio r e cen (Xc,Yc). Os parmetros aproximados so:

144

Ajustamento por Mnimos Quadrados

Coofxfcnttdas observadas:
P ,* (100,5; 9,8) P j - (149,7 ;60,2) P* = (99,7; 110,1)

P4 = (50,2 ; 59,7)

CAPTULO 8 - INCLUSO DE NOVAS OBSERVAES, INJUNES E GENERALIZAO DO MODELO grande a variedade de modelos e tratamentos dispensados a diferentes problemas em ajustamento. Considerar-se- aqui dois casos mais gerais e de aplicaes mais freqentes.

8.1 INCLUSO DE NOVAS OBSERVAES E comum efetuar-se o ajustamento e estimar-se um conjunto de parmetros, diga-se Xa, utilizando as observaes L*i, disponveis no momento e posteriormente dispor-se de observaes adicionais e pretender-se atualizar a estimativa dos parmetros. Refazer o ajustamento completo, em certos casos, no um procedimento atrativo, pelo elevado custo ou ineficincia. Este o problema que se enfocar aqui. Considere-se o modelo implcito total:
F(Xa,La) = 0 (8.1)

particionado em:
Fi(Xa,Lai) = 0 (8.2)

e
F2 (X..U2) = 0 (8.3)

e com as formas linearizadas respectivas

146

Ajustamento por Mnimos Quadra^

Quinti

A 1 X + B 1 Vi + W i = 0 A2 X + B2 V2 + W2 = 0 As equaes (8.4) e (8.5) podem ser colocadas na forma:

(8.4) (8.5)

OU

Al [ x b BiO y + V / _a 2_ o b 2_ Vi. -W2. ou AX + BV +W = 0

(8.6)

Des exe

com matriz dos pesos, admitindo no correlao entre Lai e L^,

p=

Pi

O
P
2.

o
e: O
~

(8.7)
'v
eW -

;B =

Bi O

;V =
Bi .

w _W 2.

.A z .

_v 2 _

pc u ac P ai

A soluo da equao (8.6) pelo mtodo dos mnimos quadrados , como se viu nas sees 7.3 e 7.4, equaes (7.24) a (7.26);

* = [ a t (B p b t / ' ] ' A T( B p - B T f w

(8.8)

Substituindo nesta equao A, B, P e W pelos valores dados pela (8.7) e efetuando as operaes matriciais tem-se:

x - l i ' ( BiPi Bi t f A 1+ a U B i P b \ y A l ] W< B,p/BT , ) W i + A ( B i P BT 2 ) ' w 2\

(8.9)

Quintino Dalmolin
OU

147

X = O ,+ j vJ 1 ' [(/, + (/,]

(8.10)

Destas equaes, considerando as dimenses das matrizes, por exemplo: mlAlu ralBjnl m 2A 2U m 2B2 1 1 2 pode-se perceber a necessidade de inverso de matrizes de ordens ml e u quando somente as observaes Lbi esto disponveis, e as inverses adicionais de ordens m2 e u para a incluso de novas observaes. A partir da pode-se verificar em que condies a aplicao da (8.9) atrativa. Esta verificao deixada para o leitor.

8.2 INJUNES AOS PARMETROS As injunes so de extrema importncia na soluo de sistemas de equaes lineares que apresentam deficincia de posto (caracterstica), isto , a matriz das equaes normais singular. Em ajustamento usual subdividir as injunes em trs categorias: as injunes absolutas, as injunes relativas e as funcionais. As injunes absolutas consistem em impor invariabilidade a certas variveis, como por exemplo, fixar os valores das coordenadas de um ponto durante o ajustamento. As injunes relativas so introduzidas atravs da atribuio de pesos s observaes ou parmetros. Na prtica estas injunes podem substituir

148

Ajustamento por Mnimos Quadrados

as absolutas com vantagem. Este procedimento permite tratar todos os valores envolvidos em L e X como variveis aleatrias, com as possibilidades de serem considerados totalmente livres (peso nulo) e constantes (peso praticamente infinito), alm da ponderao usual em funo das varincias e covarincias. As injunes funcionais consistem em impor condies matemticas aos parmetros. A esta dedicar-se- um pouco mais de ateno a seguir: Considere-se o modelo implcito:
F i(X a, La) = 0 (8.11)

aos parmetros do qual se quer impor ainjuno funcional definida genericamente por:
F2 (X a) = 0 (8.12)

O significado dos termos so os j mencionados anteriormente. A linearizao de ambos os modelos por expanso em srie de Taylor a partir dos pontos (Xo, Lb) e Xo resulta:
A iX + B i V i + W ! = 0 A 2X + W 2 = 0 (8.13) (8.14]

Estas equaes matriciais podem ser combinadas num sistema de hipermatrizes, daforma:
AX + BV + W = 0 (8.15

onde

Qniftffno Dalmolin

149

A X

'

B M

_ 2_

' B ' O

W 1

"

(8.16)

. w 1.

0 sistema de equaes normais dado pela equao (7.13), para o caso das equaes (8.16) propiciam o seguinte sistema de equaes normais:
P B Bt O

O
o

O
A,

V~ K, Ki
1
.

O" w, w2
_ o. (8.17)

O
O

O
A]

X.

onde surgem dois vetores de correlatos Ki e K2 em conseqncia do modelo matemtico adicional. Eliminando V deste sistema tem-se:
BP ' Bt
O At

Ki
k

~ wi
+

O At ,

O Al

A2 O

w2 _ o.

(8.18)

_ x_

Eliminando Kj deste novo sistema obtem-se: 1

Ai
AT , M 1A ,

Ki' _ X_

Wi~ + < ' 1 1

(8.19)

Ai

onde

M - n r 1n '

( 8.20)

150

Ajustamento por Mnimos QuadrodO J

q&n*0
0 valoi

que pode ser reescrita na forma:

A, T M ~ ' A,

Ai O

X'

easob (8.21)

1 ______________________________

Az

Ki.

W 'i.

Eliminando desta o X tem-se:

Tamb empre

K i =\ a N 1

Ai N 1A M 'W.]

( 8. 22)

Aprc

onde
N = A] M 1 Ai

(8.23) ond<

Da equao (8.20) obtem-se:

X = - n ( A 2 T k 2+ a ] ~' W i )

(8.24)

8.3

Da equao (8.18) tem-se: (8.25) mc pa Pa Bi as (8.26) T 0 p

e da equao (8.17) obtem-se os resduos: V

i -P 1 Bt Kl

mm

Quintino Dalmolin

151

0 valor dos parmetros ajustados ser ento, como anteriormente visto Xa = Xo + X e as observaes ajustadas La = Lfe + V (8.27)

||B

(8.28)

Tambm aqui, iterao pode ser requerida devido linearizao empregada, como visto anteriormente em (7.5). (8.22} A preciso dos parmetros estimados apresentada sem demonstrao:
I , = Oo 2 N ,' [ / ( 8 . 2 3 )
N/Al)'

A j ( A

A, N /]

(8.29)

onde
N, = A T , p A,

(8.30)

(8.24) 8.3 GENERALIZAO DO MODELO Na seo precedente do presente captulo tratou-se com o modelo matemtico principal, o qual relaciona as observaes aos parmetros e com o modelo matemtico de injuno que relaciona os parmetros entre si. Busca-se agora um modelo que dispense tratamento diferenciados para as observaes e os parmetros. (8.26j Toda varivel envolvida no modelo matemtico ser agora tratada como observao. Assim tanto as observaes convencionais como os parmetros passaro a constituir o vetor das "observaes". Se distino

(8.25)

152

Ajustamento p o r Mnimos Quadrados

entre grupos (subvetores das observaes) for requerida, ser efetuada atravs da matriz varincia-covarincia e dos pesos. Isto no impe restries ao modelo, uma vez que, se a uma "observao" for atribuda varincia infinita, ento ela varia livremente no ajustamento e funciona como um parmetro; se, por outro lado, se atribui varincia nula a uma observao, ela no varia no ajustamento e funciona como constante, entre estes extremos tem-se toda forma de flexibilidade de variao desejada. Como a matriz varincia-covarincia engloba grupos distintos de elementos, especial cuidado requerido com respeito s unidades envolvidas. Com este tratamento, o modelo matemtico linear ou linearizado assumir a forma de modelo dos correlatos, cujas matrizes B e V so compostas pela unio das matrizes de observao e das pseudoobservaes conforme abaixo: f l V+ W= 0 onde (8.31)

B = [/t : ]
Vr = [x :V]

(8.32)

a matriz

varincia-covarincia

deste

conjunto

ampliado de grupos (dos

"observaes", admitindo no correlao entre os parmetros e observaes originais), : I i i =p 1

(8.33)

As flHUUHM das matrizes 9 vetores so:

Quadra^

Quintin0 Dalmolin

153

efetua^
O impe
atribuda
m ^n+ u *

n+it^ *

m ^ \

n + u ^ n + t

(8 .3 4 )

ftinciona la a u m a instante. variao d iS tin tO S

inidades

I soluo da (8.31) como vimos nas equaes (7.29) e (7.30) ser: V =-p ' bt K e
g, , D -/ T yl ... mg - I 1 1 /

(8.35) e (8.36)
W

K=(Bp

B > W =M

sarizado e V so B S l

Substituindo nestas equaes e por seus valores dados pelas equaes p | 9 e (8-33) tem-se:

x = - p ! a t [m + a p ! a t ] w
(8.37 e (8.38)
V = - p b t [ m + A p - . ' A r ]'W

(8.31)

Usando as identidades matriciais:

(832)

Q=RSTZ Q 1 = R 1 - R 1 S (T 1 Z R 1 S )' Z R 1 jo I
1

(8.39)

e admitindo a existncia das inversas obtem-se, para a equao (8.37):

(*.33)

x = - p ' A t [ m ~' r M ~ l A( p , + A M 'A f ATM~'\

(8.40)

que com operaes algbricas adicionais propicia:

1
A ju x u im r n to

por Mttmos Quadrada,

X = -F! V + F, N(P, * N f ' U

onde
U /f M ~ * W f * N * rM~t A

(8.41)

I I
(8.42)

Aplicando a identidade matncial

( a + b / ' - a W + b 'jb 1
(A

' (A -* + B 'V A'1

a equao (8.40) tem-se:

X = - r i U + Fj ( Fj + AT'J F! V

(843)

e esta equao, aplicando novamente a identidade (839), obtemos, aps

simplificaes:
X = -<N + PJ"1 U (8 4 4 )

ou equivalentemente.

jj

s
I I

Quintino Dalmolin

155

importante notar que esta soluo difere daquela apresentada no mtodo combinado, apenas no peso Px atribudo a priori, aos parmetros. Se atribuirmos peso nulo estaremos particularizando para o mtodo combinado. Aplicando as identidades (8.39) equao (8.38) obtemos:

V = - P 1B t M K - p I B TM~l A(M + ATM~l A )' ATM " *W

(8.45)

que simplificada resulta

V = - p *BTM~l (W + A X)

(8.46)

Ao final de um processo iterativo X tende a zero, ento W=F(Xa,La,Lb). V = -P'1Bt M'1W (8.47)

<A teaR |i

A preciso dos valores estimados dada pela lei de propagao de covarincias, aplicada s equaes (8.44) e (8.47) e lembrando que as derivadas parciais de W com respeito a Xa e a La resultam nas matrizes A e B respectivamente. e X, = a 2 o(N + P J (8.48) (8-49)

fe = a l P 1Bt M

(B p l - A(N + p x k At M 1 I P 1)

156

Ajustamento por Mnimos Quadrada

8.4 EXEMPLO DE INJUNES AOS PARMETROS

1.

Enunciado

Na tabela abaixo, considere xj, yj, coordenadas das m arcas fiduciais calibradas, como constantes e Xj, Yj, coordenadas observadas para as mesmas marcas e para outros pontos.
TABELA 8.1- Coordenadas calibradas e medidas para as m arcas fiduciais. Coordenadas observadas para pontos adicionais._______

Coord. Calibradas Ponto

X 1 2

Coordenadas Medidas X -112.266 113.869 1.792 -0.177 -89.750 -71.918 -11.516 -5.276 Y 1.270 -0.267 113.804 -112.350 -0.906 -37.866 -87.300 -0.572 71.793

y 0.000 0.000 113.000 -113.000

-113.000 133.000 0.000 0.000

3 4 208 212 104 205 206

.........

-20.588

Estimar os parmetros das transformaes, a partir dos pontos comuns, e aplic-las aos demais pontos, para as transformaes afim , isogonal e ortogonal, no plano. Resolver o problema para a transformao afim:

wrMbumo, fROS

Quintino Dalmolin

at 02

as O
( 8. 50)

H iadas d a sk

_ 4 as. y

Jenadasot*^
e, a partir desta, impondo as injunes (8.12) is para a s onais. idas M ed id a ai = a5 e a: = 4 estimar os parmetros da transformao isogonal
X (8.51)

m
-0^ 67 mm
-1123 -0.9 -37M

= A

cos# senO - send cos0

o
(8.52)
Os

KJ

e impondo adicionalmente que

a) + a \ = /

(8.53)

estimar os parmetros da transformao ortogonal

-0572 71.793

X Y]

= X

cosd senO sen6 cosd.

+
y

as

(8 3 4 )
_O_

artirdaj
om uoai

Comparar os parmetros e os transformadas. Criticar os modelos.

resultados

das coordenadas

58

Ajustamento por Mnimos Quadrados

2. Soluo A transformao afim, nas condies propostas , proporciona o modelo paramtrico: U + V = AX ou numericamente:
- 112. 288 1.720 113. 869 - 0. 267 1.792 113.804 - 0. 177 ,-112.350.
-113 0 113 0 0 0 0 0 0 0 0 0 113 0 -113 0 1 0 1 0 1 0 1 0

(8.55)

Vi

V2 vi
v4

Vi
Vfi

V7 Vs. 0 113 0 113 0 0 0

0

0 0 0 0 0 113 0
-113

0 1 0 1 0 1 0
0J

a \ 02 a3 4 a$ \a*\ A imp equ referic

Coordenadas calibrada das marca fiduciais admitida como constantes

159

As equaes normais correspondentes so: H)

25538

0 0 0 4 0 0 0 0 0 0

0 0 0 25538 0 0

0 25538 0 1 0 0 0 0

0 0' V 0 0 2 0 0 I 0 0 4 25538 0 05 0 4 . fl*.

25553.255' - 224.531 3.218 25555.402 222.497

2.907. (8.56)

e a soluo resulta:

ai a2
X =

1.000599 0.008710 0.804250

* X

a$ < 2 4 a5 .a 6.

(8.57)

- 0.008790

1.000681 0.726375

A imposio das injunes (8.51) aos parmetros a* (que correspondem equao (8.12), consiste em ajustar as equaes (8.55) sob a injuno referida. Ou seja

U = F, (X.)

(8.58)

160

A justamento por M inimos Quadrados

F2 (Xa) = 0
ou U +V=AX

(8.59)

(8.60)

com
A2X + W2 = 0 (8.61)

A equao (8.58) caso particular da equao (8.11) e na presente aplicao corresponde a equao (8.55); e a (8.59), em sua forma linear (8.51), dada por:

a. a2

1 0 0 0 -1 0
0 10 1 0 0

a3 a4 a5 'Mi

'ai

(8.62)

_a2 ai.

onde a * so os parmetros ajustados aproximados. Os novos parmetros, estimados pela equao (8.24) so:
Xa = x+x

(8.63) e (8.64)
N''
A t i

P L + N Ai Ki

ladrados

Quintino Dalmolin

16)

(8.59)

(8.60)

onde Xo representa o vetor dos parmetros ajustados sem a injuno; X o vetor das correes aos parmetros imposta pelas injunes; X* o vetor dos novos parmetros da transformao afim isogonal e K? dado pela equao (8.22) particularizada: K i = (A i N 1 A l f (W 2 - A , X ' ) (8.65)

(8.61)

esente forma

Os parmetros da transformao afim isogonal X, dados pela (8.63), tem a principal parcela Xo, do segundo membro j estimada do ajustamento da transformao afim. Resta estimar a segunda parcela X N 1 A l Kj (8.66)

0 vetor K2 (multiplicador de Lagrange das injunes, tambm chamado dc vetor dos correlatos), estimado para o problema cm pauta pela equao (8.65), : 1.045215 1.017001

K2 =

0.000041 0.000040

X = A T 'A K 2
.6 4 )

0.000000
0.000040 -0.000041

0.000000

162

Ajustamento por Mnimos Quadnadu

Os parmetros estimados da transformao isogonal sero:

0.008750 0.0804250
- 0.008750
(8.67)

1.000641 0.726375
Por ltimo, impondo a injuno (8.53), (no linear, e que acarneu iterao no ajustamento ) com procedimento semelhante ao anterior, temos o modelo linear das injunes,

dai
/ 0 0 0 -7 0 0 1 0 1 0 0 o a2 _o 0 0 0 0 2ai 2
da 2 da 3
o <Z/ _o Os

da4 das
da 6

a + a 4

(8.68)

correspondendo a equao
a 2x

=w2

(8.69)

O vetor L fc tem que ser substitudo pelo L.

s ff

1.000641

a p p p Dotmolm

163

e tomando como pontos de expanso para a linearizao das duas fones (a original e a injuno) o vetor dos parmetros da transformao afim sub-dividido em duas parcelas X ** e Xo:

0.000599 0.008710 0.804250 -0.008790 0.000681 _ 0.726375.

0 0 e Xo " = 0 1
_0_

tem-se, aps a segunda iterao, utilizando sempre a vetor Xa como novo ponto de expanso (valor aproximado):

/
A/ = 0 2.00/3

0 1 0 .0 1 7 5

0 0 0

0 1 0

-1 0 0

0~ 0 e W2 = 0_

00 0.0 0.00007656_

164

Ajustamento por Mnimos Qudttt

18.377 15 1.1685 1 ^ 1 7 .3 3 1 95 j - 0.00003 8 - 0.000006

X = N
-i

0.0

0.000006 - 0.00003 8

0.0

0.999962 0.008744 0.804250

- 0.008744

(8.

0.999962 0.726375

Oi parmetros da transformao afim aqui obtidos satisfa praticamente as injunes e a mxima correo aos parmetros n iterao foi 0,000038, contra 0.8 na anterior, o que in eoevergneta da soluo. Para a estimativa de x,y, para os pontos 208, 212, 104, 205 e 106 c< apicao das 3 transformaes, definem se transformaes inversa: equaes ($.30), (H.32> e (8.54), i :

p H H Dalmolm

------ 1

165

,y m
X

ti >>
=

* a 3 y-at_
*~ai

= x 'e 1
L>\

y - a6_

c: X
B x - 3

y_

< 5 _ y - 0

onde

A = 04 5_

cosO sen 9 _-senO COS0_

A aplicao das equaes acima aos dados de observaes da Tabela 8.1, trft valores para cada coordenada medida so obtidos. Estes valore* *o mostrados lado a lado na Tabela 8.2, abaixo.

166

Ajustamento p o r M nimos Quadrados

TABELA 8.2 - Coordenadas fotogrficas xjyi estimadas pelas transformaes afim, isogonal e ortogonal.______________________
X

y
ortog -90.537 -72.382 -11.550 -0.069 -22.013
afim

Ponto
afim

isog. 90.475 -72.332 -11.542 -6.065 -21.848

isog -2.423 -39.201 -88.071 -1.351 70.830

ortog -2.424 -39.227 -88.131 -1.351 70.877

208 212 104 205 206

-90.478 -72.337 -11.547 -6.065 -21.846

-2.427 -39.202 -88.068 -1.351 70.826

Note-se que os modelos afim e isogonal so razoavelmente equivalentes (apresentam resultados aproximadamente iguais) enquanto que o modelo ortogonal da origem a discrepncias elevadas. Os dois primeiros modelos se aproximam melhor da realidade fsica que o segundo. Aqueles podem ser aceitos como modelos adequados e este inadequado. A Tabela 8.3 mostra os parmetros estimados; sem injuno, afim; com duas injunes, isogonal; e com trs, ortogonal. TABELA 8.3 - Parmetros das transformaes afim, TA; transformao afim com 2 injunes para restringi-la a isogonal TA1 ;e com trs injunes, para restringi-la a ortogonal: TA10._______
transf a,
1.000599

s 0.008710 0.008750 0.008744

a3
0.804250 0.804250 0.804250

a4 -0.008790 -0.008750 -0.008744

a5
1.000681 1,00064 1 0.999962 0.726375 0.726375 0.726375

TA
TAI TA10

1.000641 0.999962