Ajustamento de observações: conceitos e métodos

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS
AJUSTAMENTO
DE OBSERVAES
PROF . NILTON RICETTI XAVIER
DE
NAZARENO
SUMRIO
1.
Introduo
1.1.
2.
3.
4.
5.
Definio
Conceito de Observao
1
3
4
2.1.
Modelo Matemtico
2.2.
Propriedade dos Erros de Observao
2.3.
O conceito de preciso e exatido
Propagao das Covarincias
13
3.1.
Varivel aleatria.
13
3.2.
Matriz varincia-covarincia (M.V.C.)
13
3.3.
Matriz de correlao
14
3.4.
Lei de Propagao das Covarincias
16
Sistema de Equaes Lineares e o Mtodo dos Mnimos Quadrados
27
4.1.
Resoluo de Sistema de Equaes Lineares
27
4.2.
O Mtodo dos Mnimos Quadrados
28
4.3.
Condicionamento de Sistemas
30
Ajustamento de Observaes
33
5.1.
Ajustamento de observaes diretas
5.1.1.
Estimativa pontual: mdia.
5.1.2.
Estimativa da preciso: Desvio Padro.
5.1.3.
Estimativa por intervalo
5.1.3.1. Intervalo de confiana para a mdia
5.1.3.2. Intervalo de confiana para a varincia
34
34
34
36
37
38
5.2.
Ajustamento de observaes indiretas
5.2.1.
Mtodo Paramtrico
5.2.1.1. Qualidade do ajustamento.
5.2.1.2. Matriz varincia covarincia dos parmetros, das observaes e dos resduos
5.2.1.3. Sequncia prtica de clculo
47
49
50
53
54
5.3.
Ajustamento de observaes diretas condicionadas
5.3.1.
Mtodo dos Correlatos
62
62
5.4.
68
Mtodo Combinado
Referncias Bibliobrficas
78
Apndice A
79
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
1. INTRODUO
Ao serem feitas medidas, pela prpria condio da imperfeio dos homens e
dos instrumentos, estas esto impregnadas dos erros de observao. Tanto assim, que
normalmente se procedem a mais de uma medida para se ter garantias sobre o valor
encontrado. Se as medidas forem de uma nica grandeza como, por exemplo, distncias ou
ngulos, a mdia uma boa soluo. Contudo, quando esto envolvidas ao mesmo tempo
grandezas de naturezas diferentes e que se relacionam atravs de uma funo matemtica,
a soluo no to imediata. Outro fato importante reside na premissa de que somente o
valor da grandeza no suficiente, do ponto de vista tcnico-cientfico. preciso saber qual
o grau de confiana no valor obtido. Isto proporcionado pela estimativa de preciso da
medida que numericamente igual ao desvio-padro.
Como exemplo, vamos imaginar que se pretenda determinar as coordenadas de
um ponto P a partir de uma estao E (com coordenadas conhecidas), da distncia entre a
estao e o ponto, e do azimute da direo estao-ponto. Este um problema clssico da
topografia cuja soluo a seguinte:
N
P
XP = XE + d E-P senAE-P
AE-P
dE-P
YP = YE + d E-P cosAE-P
B
onde :
(XP,YP)
- coordenadas do ponto (incgnitas);
(XE,YE)
- coordenadas da estao;
d E-P
- distncia entre a estao e o ponto;
AE-P
- azimute da direo estao ponto.
Observa-se que para resolver o sistema so necessrias duas observaes: a

distncia e o Azimute. No caso, a soluo nica.
1
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Agora imaginemos o mesmo problema s que introduzindo mais uma estao

E2. Este tambm um problema clssico. A soluo dada por:
N
N
P
AE1-P
XP = XE1 + d E1-P senAE1- P

B
YP = YE1 + d E1-P cosAE1- P
dE2-P
dE1-P
XP = XE2 + d E2-P senAE2- P

B
E1
E2
YP = YE2 + d E2-P cosAE2- P

B
AE2-P
onde :
(XP,YP)
B
- coordenadas do ponto (incgnitas);
(XE1,YE1)
- coordenadas da estao 1;
d E1-P
- distncia entre a estao 1 e o ponto;
AE1- P
- azimute da direo estao 1 ponto.
(XE2,YE2)
- coordenadas da estao 2;
d E2-P
- distncia entre a estao 2 e o ponto;
AE2- P
- azimute da direo estao 2 ponto.
Observa-se agora que existem duas maneiras de se obter as coordenadas do

ponto P. Uma atravs da estao 1 e outra da estao 2. Se as medidas fossem isentas de
erros, qualquer uma das solues levaria ao mesmo resultado, contudo isso no ocorre e a
soluo que parece obvia adotar a mdia como resposta ao problema.
Imaginemos ainda que de cada uma das estaes mediu-se com equipamentos
com precises diferentes e com operadores diferentes. Qual das solues a mais correta?
neste tipo de problema que as tcnicas de ajustamentos so importantes porque
permitem que se equacionem todas as nuances do problema.
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
1.1. Definio
O ajustamento o ramo da matemtica aplicada que tem por objetivo a soluo
nica para problemas onde o nmero de observaes (ou medidas) redundante e o
sistema de equaes inconsistente, bem como a preciso da soluo adotada
Camargo (2000).
A redundncia representada pelo nmero de medidas a mais do que as

necessrias para se obter a soluo e, a inconsistncia, pelas diferentes solues que se
obtm quando o nmero de observaes excede o de incgnitas.
A figura a seguir mostra um problema passvel de ajustamento. Trata-se de uma
rede de nivelamento onde Lb1, Lb2 ... Lb12 so os desnveis medidos nas linhas de
nivelamento independentes. Para se determinar o desnvel entre o ponto P e a RN existem
vrias possibilidades, como por exemplo:
Lb1
RN
h = Lb1 + Lb8
Lb2
h = Lb2 + Lb5 + Lb7 + Lb11

Lb4
Lb5
Lb3
Lb6
h = Lb3 + Lb10 +Lb12
Lb8
h = Lb1 + Lb4 + Lb7 + Lb11
Lb7
Lb9
h = Lb3 + Lb6 + Lb5 + Lb7 + Lb11
Lb11
P
Lb10
Lb12
h = Lb3 + Lb10 + Lb9 + Lb11

..
Estas so algumas das possibilidades de soluo. Todavia a probabilidade de

cada uma delas gerar uma resposta diferente muito grande.
O processo de ajustamento neste caso vai possibilitar que independentemente
da soluo adotada a resposta ser nica.
possvel ainda, com base nas tcnicas do ajustamento, detectar a presena de
erros grosseiros em um conjunto de observaes, efetuar o planejamento da coleta de
dados e saber, a priori, se atendero as prescries estabelecidas.
3
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
2. CONCEITO DE OBSERVAO
Segundo Camargo (2000) o termo observao ou medida frequentemente
usado na prtica para referir-se operao, bem como para o resultado da operao. O
valor numrico da observao de fundamental importncia para a cincia e engenharia,
pois submete o instrumento anlise e manipulao.
Ainda em Camargo (2000), so listadas as propriedades fundamentais da
medida:
Medir significa realizar uma operao fsica, e o processo de medida consiste de vrias
operaes elementares; tais como: preparao, calibrao, pontaria, leitura e etc.;
O resultado do processo representa a medida;
A no ser na contagem de certos eventos, a medida sempre realizada com auxlio de
instrumentos;
As medidas esto referenciadas a um padro, os quais so estabelecidos por conveno.
Medir comparar uma grandeza a um padro, tendo dimenso e unidade;
A medida um conceito terico, tal como uma abstrao geomtrica usada para
distncia e ngulo, os quais no tm equivalente direto na natureza fsica. No entanto,
tais conceitos permitem descrever certos elementos da natureza, como localizao, rea
e etc.
Para descrever certos elementos da natureza necessrio utilizar modelos,

como o caso da forma da Terra, onde se utiliza a esfera ou o elipside de revoluo. No
caso do ajustamento, o modelo que interessa o matemtico que relaciona as medidas
efetuadas com as grandezas procuradas. Este o caso das equaes que unem a distncia e
o azimute com as coordenadas do ponto.
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
2.1. Modelo Matemtico

Define-se modelo matemtico ao sistema terico ou abstrato que descreve uma
situao fsica ou uma srie de eventos. Tal descrio no necessita explicar totalmente a
situao fsica, mas relacionar somente os aspectos, ou propriedades de interesse. Tendo
em vista que o modelo tem o propsito de atender um interesse particular, dependendo do
propsito, ele pode assumir formas diferentes.
Costuma-se dividir o modelo matemtico em funcional e estocstico. O modelo
funcional constitui a parte determinstica da realidade fsica e o estocstico descreve as
propriedades estatsticas das observaes.
Um exemplo de modelo funcional, j explorado no incio desta apostila, o da
determinao das coordenadas de um ponto a partir da distncia e do azimute da direo
entre esse ponto e outro de coordenadas conhecidas. Esse modelo funcional do tipo
geomtrico, como a maioria dos modelos adotados na rea de geomtica.
O modelo estocstico aborda a variabilidade dos resultados oriundos de
influncias fsicas que no podem ser controladas, da falibilidade humana e das
imperfeies dos instrumentos de medida. De qualquer modo, ambos os modelos devem
ser tratados no ajustamento de forma conjunta.
2.2. Propriedade dos Erros de Observao
As observaes so representaes numricas de quantidades fsicas como
comprimento, ngulo, peso, entre outras. Estas observaes so obtidas atravs de
medidas e, portanto possuem o que classicamente se chamava de erros de observao.
Embora este conceito esteja sendo gradualmente substitudo por propriedades estatsticas
das observaes, ainda comum o uso convencional do conceito de erro.
Sabe-se que, mesmo se cercando de precaues e cuidados especiais no
momento da obteno de uma medida, estas esto acompanhadas dos inevitveis erros de
observao. Este fato esta relacionado falibilidade humana, imperfeio dos
equipamentos e as condies ambientais nas quais se processa a mensurao.
5
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Estes erros so classificados em:

a)
erros grosseiros quando o valor medido extrapola a 3 vezes o valor do desvio

padro da medida. Esse erro normalmente de fcil deteco e est associado
desateno do operador ou mesmo do anotador;
b)
erros sistemticos quando o valor medido acrescido ou diminudo de uma

quantidade constante. Estes erros so de causas conhecidas e podem ser evitados
ou minimizados por tcnicas de observao ou por formulaes matemticas. o
caso do erro causado pela catenria de uma trena que pode ser posteriormente
eliminado;
c)
erros aleatrio quando existe uma flutuao do valor medido ao redor de um

valor dito mdio. Este erro tambm conhecido como acidentais, estocstico ou
randmico no tem causa conhecido e est intimamente ligado as propriedades
estatsticas das observaes.
Para se proceder ao ajustamento necessrio que no existam os erros

grosseiros e os sistemticos nas observaes. No entanto, os aleatrios so modelados pelo
processo de ajustamento e distribudos pelo critrio desenvolvido separadamente por
Gauss em 1795 e Legendre em 1805, denominado mtodo dos mnimos quadrados
(M.M.Q.).
Segundo Gemael (1994), a experincia tem demonstrado que ao aumentar o
nmero de observaes de uma mesma grandeza, os erros aleatrios tendem a ter um
comportamento regular, de modo que a distribuio de frequncia dos erros se aproxima
muito da distribuio normal (curva de Gauss). Este fato foi notado por Bradley no incio do
sculo XVII, quando visando obter a posio do ponto vernal atravs de 462 determinaes
da asceno reta do Sol, verificou que ao retirar as influncias sistemticas conhecidas na
poca e calcular os desvios em relao mdia aritmtica existia uma grande simetria e o
predomnio de valores ao redor da mdia.
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Tabela 1 -Experincia de Bradley

INTERVALOS
Frequncia
(fi)
f2i
P
PB
fivi
B
fiv2i
B
PB
Fi
0,9
1,0
2,85
2,7075
2,3
0,8
0,9
25
4,25
3,6125
4,1
0,7
0,8
49
5,25
3,9375
7,1
0,6
0,7
13
169
8,45
5,4925
11,4
0,5
0,6
18
324
9,9
5,4450
17,0
0,4
0,5
25
625
11,25
5,0625
24,9
0,3
0,4
29
841
10,15
3,5525
31,7
0,2
0,3
39
1521
9,75
2,4375
38,7
0,1
0,2
44
1936
6,60
0,9900
44,3
0,0
0,1
47
2209
2,35
0,1175
47,4
0,0
-0,1
47
2209
-2,35
0,1175
47,4
-0,1
-0,2
44
1936
-6,60
0,9900
44,3
-0,2
-0,3
39
1521
-9,75
2,4375
38,7
-0,3
-0,4
29
841
-10,15
3,5525
31,7
-0,4
-0,5
26
676
-11,70
5,2650
24,9
-0,5
-0,6
18
324
-9,90
5,4450
17,0
-0,6
-0,7
13
169
-8,45
5,4925
11,4
-0,7
-0,8
49
-5,25
3,9375
7,1
-0,8
-0,9
25
-4,25
3,6125
4,1
-0,9
-1,0
16
-3,80
3,6100
2,3
462
15474
-1,40
67,8150
Onde fi a frequncia real e Fi a terica.

Ao se observar a Tabela 1, que reproduz os dados de Bradley, nota-se a partir da
coluna das frequncias que existem 230 desvios positivos e 232 desvios negativos. Esses
desvios foram determinados pela diferena entre o valor medido e a mdia aritmtica
desses valores. A simetria e o predomnio de valores ao redor da mdia dos desvios (zero)
sugerem claramente a distribuio normal, visualizada no histograma e no polgono de
frequncia a seguir. Ao se comparar a frequncia real com a terica (Fi) verifica-se uma
impressionante concordncia de valores.
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Existem outros exemplos prticos que demonstram esta tendncia. A partir

desta constatao pode-se afirmar que quando o nmero de observaes cresce:
Os resduos de mesmo mdulo e sinais opostos so equiprovveis;
Os resduos menores ocorrem com menor frequncia;
A mdia dos resduos praticamente nula.
O predomnio de resduos com um sinal deve servir de alerta para a existncia

de algum erro sistemtico.
2.3. O conceito de preciso e exatido
O termo acurcia utilizado na rea de geomtica para indicar a qualidade de
uma grandeza observada ou de um parmetro estimado. No entando, o termo preciso
tambm usado com o mesmo emprego. Isto demonstra haver uma confuso quanto ao
significado destes dois vocbulos. Inicialmente preciso esclarecer que essas palavras tm
origem na lngua inglesa, accuracy e precision, que foram traduzidas respectivamente por
acuracidade (exatido) e preciso. A relao desses dois conceitos est intimamente ligada
aos erros sistemticos e aos aleatrios. Em Monico (2009), onde se discute essa temtica,
citada a seguinte definio proposta por Mikhail e Ackermann (1976, p. 64):
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Acurcia o grau de proximidade de uma estimativa com seu parmetro (ou valor
verdadeiro), enquanto preciso expressa o grau de consistncia da grandeza medida com
sua mdia. A acurcia reflete a proximidade de uma grandeza estatstica ao valor do
parmetro para o qual ela foi estimada e que preciso est diretamente ligada com a
disperso da distribuio das observaes.
Analisando essa definio percebe-se que a preciso est ligada apenas aos
efeitos aleatrios da medida (erro aleatrio) enquanto que acurcia envolve erros
sistemticos (tendncia) associados aos erros aleatrios.
Os mesmos autores citados por Monico (2009) apresentam uma medida de
acurcia proposta por Gauss denominada Erro Mdio Quadrtico (EMQ) ou em ingls
mean square error (MSE) dada por:
onde:
{( )}
= {( {( )} )} =
+( )
Esperana matemtica ou valor esperado para a varivel p
representa a disperso das medidas (varincia ou incerteza)
representa a tendncia ou vcio do estimador
quadrado dos erros verdadeiros

nmero de elementos da amostra ou de observaes
Essa expresso, para amostras grandes, praticamente igual mdia

quadrtica dos erros verdadeiros (). Por definio o erro verdadeiro a diferena entre
um valor observado (ou medido) e o tomado como referncia (conhecido).
Para se entender a idia imagine dois atiradores a e b e um alvo onde os dois
atiraram. Observa-se que o atirador a tem os tiros mais concentrados enquanto o atirador
Esperana matemtica E{ } ou valor esperado a mdia ponderada dos valores que a varivel aleatria
ou funo assume, usando-se, como pesos para ponderao, as probabilidades correspondentes a cada
valor.
1
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
b tem os tiros mais dispersos. No entanto o centro da concentrao dos tiros de b est mais
prximo do centro do alvo do que a do atirador a. Pode-se ento afirmar que:
o atirador a tem uma preciso maior que o
b.
a
b
existe um erro sistemtico maior

conduzindo os tiros mais precisos de a.
a acurcia ou exatido depender da

disperso (preciso) e do erro sistemtico.
Mikhail e Ackermann (1976) apud Monico (2009) fazem a anlise do problema atravs
dos histogramas que representam trs conjuntos de medidas (p1, p2 e p3) de uma mesma
grandeza.
Frequncia
f(p)
b
tendncia
(1)
(3)
(2)
^p )}
E{(
3
^p )} =
p = E{(
1
^p )}
E{(
Grandeza
Observando os histogramas pecebe-se que as esperanas E{( )} e E{( )}

coincidem com o valor de referncia p (correto). A diferena reside na disperso que
maior em p2. Assim pode-se afirmar que p1 e p2, embora no apresentem erro sistemtico
(tendncia), no so igualmente acurados uma vez que possuem precises distintas, ou
10
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
seja, p1 mais acurado que p2. Por outro lado, a esperana E{( )} apresenta um erro
sistemtico ou tendncia, representado pelo valor b, o que implica em se afirmar que p3
no possui acurcia.
Analisando s o aspecto da preciso, deixando de lado as questes de
tendncia, pode-se afirmar pela ordem que p1 a mais precisa que p3 que por sua vez
mais precisa que p2.
Para a rea das mensuraes, como dito anteriormente, a acurcia representa a
qualidade da observao ou, a confiana que se tem no resultado obtido a partir de um
nmero de medidas. Se o valor de referncia da medida for conhecido, possvel se
estimar a tendncia e eliminar os possveis efeitos sistemticos nas medidas. Porm,
quando isso no acontece, utiliza-se a prpria preciso como um indicador da acurcia. A
adoo da preciso como acurcia no implica em dizer que a tendncia no exista, mas
que apenas no se conhece o seu valor. Esse o caso da maioria dos processos de medida
e assim, para evitar a presena dos erros sistemticos, necessrio que se utilizem
equipamentos aferidos e mtodos consagrados de observao. Este procedimento no
garante a total ausncia de tendncia, mas, com certeza, um mtodo seguro de minimizla.
Finalmente podem-se extrair as seguintes afirmaes de Monico (2009):
Dois valores mdios iguais podem ter precises diferentes;
No faz sentido dizer que um valor acurado preciso ou no, pois a preciso faz
parte da prpria definio de acurcia;
Dada a preciso de uma grandeza, o valor de sua acurcia no mnimo igual a ela;
Conhecido o valor da tendncia, a acurcia , no mnimo, igual a ela.
11
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 1 - Suponha que voc quer testar a capacidade profissional de trs topgrafos. Para
tanto voc mediu uma distncia com uma estao total que ser, para efeito de clculo,
considerada correta. Os trs topgrafos fizeram a mesma medida com trena. Baseado nos
valores obtidos por eles, qual o mais acurado?
Topgrafo
Distncia
Preciso
99,90 m
2 cm
100,01 m
3 cm
100,00 m
5 cm
Distncia com estao = 100 m => valor de referncia

Partindo-se da equao proposta por Gauss => EMQ = m = + (b) e considerando que 100 m o
valor de referncia, podem-se obter os erros sistemticos para as trs medidas, ou seja:
b1 = 99,90m 100m = -0,10m; b2 = 100,01m 100m = 0,01m; b3 =100m 100m = 0m.
Aplicando a equao para o trs casos:
m1 = (0,02 m) + (-0,10 m) = 0, 0104 m
m2 = (0,03 m) + (0,01 m) = 0,0010 m
m3 = (0,05 m) + ( 0,0 m) = 0,0025 m
Extraindo-se a raiz quadrada dos trs valores obtidos, tem-se a acurcia de cada topgrafo.
m 1 = 0,102 m;
m 2 = 0,032 m;
m 3 = 0,050 m;
Observa-se que se no fosse conhecido o valor de referncia, o topgrafo 1 seria o mais preciso, pois o
desvio padro de suas medidas o menor. No entanto, nota-se que o topgrafo 2 apresenta a maior acurcia
e, na sequncia, o topgrafo 3, que o de pior preciso. Como na maioria das vezes no se tem conhecimento
de valores de referncia, refora-se assim a afirmativa de que se devem utilizar equipamentos aferidos e
seguir as normas de levantamento indicadas.
12
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
3. PROPAGAO DAS COVARINCIAS

3.1. Varivel aleatria.
Varivel aleatria (v.a.) uma funo que associa a cada elemento de um
espao amostral um nmero real, ou aquela, cujo valor o resultado numrico de um
experimento aleatrio. Considerando que cada medida resulta em um nico valor, o
conjunto destas medidas constitui uma v.a.
Dependendo dos valores numricos, a varivel aleatria poder ser discreta ou
contnua. Ela dita:
discreta quando assume valores em pontos isolados ao longo de uma escala (nmero
finito ou infinito enumervel de valores). Exemplo: os valores possveis de se obter
quando se joga um dado ou uma moeda.
contnua quando assume qualquer valor ao longo de um intervalo (nmero infinito no
enumervel de valores). Exemplo: conjunto de medidas de um mesmo ngulo dentro de
uma srie.
Se o conjunto que constitui a v.a. de mesma natureza, diz-se que ele uma
varivel aleatria unidimensional. Entretanto, quando no conjunto tm-se grandezas de
natureza diversa, diz-se que uma v.a. multidimensional. Por exemplo, o conjunto
constitudo por uma srie de medidas angulares uma v.a. unidimensional, e o conjunto
constitudo por azimute e distncia, multidimensional.
3.2. Matriz varincia-covarincia (M.V.C.)
A estimativa de preciso de uma v.a. fornecida pelo desvio padro dessa
varivel (i). Quando se tem uma v.a. multidimensional, a preciso representada pela
B
matriz varincia covarincia () que formada pelas varincias ( i2 ) dos i indivduos ou

elementos que compe a v.a., e pelas covaricias (ij) desses mesmos elementos. A raiz
quadrada das varincias fornece a preciso e a covarincia indica o grau de dependncia ou
relao entre dois elementos dessa v.a.
13
AJUSTAMENTO
DE OBSERVAES
Por exemplo, as varincias
2
i
DE
NAZARENO
e covarincias ij de um conjunto de n
observaes (Lb) podem ser dispostas de maneira a formar uma matriz quadrada (nxn),
representada por Lb, ou seja:
B
Lb
12 12 1n
21 22 2 n
2
n1 n 2 n
A matriz Lb, simtrica (ij = ji), recebe o nome de matriz varincia-covarincia

B
(M.V.C.), ou simplesmente matriz covarincia (M.C.). No caso das observaes serem

independentes entre si, as covarincia sero nulas e Lb se degenera numa matriz diagonal.
B
3.3. Matriz de correlao

Na matriz varincia-covarincia, como dito anteriormente, a varincia ( i2 )
fornece, atravs da extrao da raiz quadrada, a preciso de cada v.a. e a covarincia ij)
indica que existe dependncia entre elas.
A matriz dos coeficientes de correlao, derivada da matriz varinciacovarincia, fornece o grau de dependncia entre as diversas v.a.
21

n1
12 1n
1 2 n
n2 1
onde :
ij
ij
coeficiente de correlao entre a
i j
v.a. i e a j;
BijB
covarincia entre a v.a. i e a j;
BiB , BjB
desvio padro das v.a. i e j .
Os valores dessa matriz variam entre -1 e 1, sendo que se:

| BijB | = 1 dependncia total
| BijB | = 0 independncia total
Na diagonal principal o valor igual a 1, mostra que a correlao entre uma

varivel com ela mesma de 100%, o que uma constatao lgica.
14
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 2 Dada a matriz varincia-covarincia da v.a. A, calcule a matriz de correlao

associada.
36 18 12
A= 18 9
0 m
12 0 16
Extraindo-se a raiz quadrada dos elementos da diagonal principal tm-se as precises dessas variveis.
a1 = 36 = 6 m; a2 = 9 = 3 m; a3 = 16 = 4 m.
Aplicando-se a equao da correlao:
18
= 1 = 100%
63
12
= 0,5 = 50%
64
1 1 0,5
A= 1 1 0
0,5 0 1
0
= 0 = 0%
34
A matriz de correlao mostra que o grau de dependncia entre as v.a. a1 e a2 de 100%, ou

seja, existe 100% de probabilidade de que um erro cometido na medida ou clculo de a1 interfira no clculo
de a2.
No caso de a1 com a3 essa dependncia de 50% e entre a2 e a3 de 0% o que mostra a total
independncia entre essas duas ltimas variveis.
15
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
3.4. Lei de Propagao das Covarincias

Consideremos duas v.a. multidimensionais Y e X, ligadas por um modelo
funcional linear:
Y m Gn n X 1 m C1
m 1
onde :
matriz dos coeficientes;
matriz dos termos independentes.
A Lei de propagao das Covarincias nos diz que se conhecermos a matriz

varincia-covarincia da v.a. X (X) e o modelo funcional que a relaciona com a v.a. Y, a
B
matriz varincia-covarincia dessa matriz (Y) calculada por:

B
Y = G.X.GT
Ou seja, obtida pela simples multiplicao de matrizes.
Quando o modelo funcional no linear, a Lei de Propagao toma a seguinte
forma:
Y = D. X.DT
onde D a derivada da funo em relao aos valores medidos.
Este conceito muito importante porque atravs dele possvel se determinar
qual a preciso das coordenadas de um ponto obtidas com um equipamento de onde se
conhece a sua preciso.
16
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 3 - Foram realizadas as medidas de 5 direes (d1, d2, d3, d4 e d5) com um
equipamento cuja preciso angular de 5. Pretende-se calcular os ngulos a1, a2, a3 e a4
entre essa direes conforme a figura a seguir. Ao se determinar o ngulo entre duas
direes, qual ser a preciso do resultado obtido?
A priori algum poderia imaginar que a preciso seria

os mesmos 5. Outro acharia que seria o dobro. A
propagao das covarincias resolve o problema.
O primeiro passo determinar o modelo funcional,

ou seja, aquele que mostra a relao entre as direes e os
ngulos:
a1 = d2 d1
a1 = -1 d1 + 1 d2 + 0 d3 + 0 d4 + 0 d5
a2 = d3 d1
a2 = -1 d1 + 0 d2 + 1 d3 + 0 d4 + 0 d5
ou
a3 = d4 d3
a3 = 0 d1 + 0 d2 1 d3 + 1 d4 + 0 d5
a4 = d5 d4
a4 = 0 d1 + 0 d2 + 0 d3 1 d4 + 1 d5
Este modelo pode ser escrito na forma matricial e assume o seguinte formato:
a1 1
a 2 1

a3 0

a4 0
d1
0 0 0
d2
0 0 0
d 3
0 - 1 1 0 0
d4
0 0 - 1 1 0
d 5
1
0
0
1
< = > A = G.D + C
O segundo passo reside em se determinar a matriz varinia-covarincia das direes (d). Sabendo-se
que a determinao das direes independente, pois o erro cometido em uma no afeta a outra, conclui-se
2
que a matriz em questo possui elementos apenas na diagonal principal e iguais a varincia ( i 25" ), ou
seja :
17
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
25 0 0 0 0
0 25 0 0 0
2
d 0 0 25 0 0 "
0 0 0 25 0
0 0 0 0 25
Finalmente no terceiro passo procede-se multiplicao.
1
1
A
0
25 0 0 0 0 1 1 0 0
0 0
0 25 0 0 0 1 0 0 0
0 0
0 0 25 0 0 0
1 1 0
0 1 1 0

1 1
0 0 0 25 0 0 0
0 0 1 1
0 0 0 0 25 0 0 0
1
1
0
0
1
25
0
0
50
25
50 25
0 2
A
"
0 25
50 25
0 25
50
0
A partir desta matriz varincia-covarincia podem-se fazer algumas consideraes:
a preciso dos ngulos a1, a2, a3 e a4 so iguais a BiB = 7,07 ( = 50);

existe covarincia entre as variveis a1 com a2, a2 com a3 e a3 com a4;
no existe covarincia entre as variveis a1 com a3, a1 com a4 e a2 com a4;
o fator de correlao entre a1 com a2, a2 com a3 e a3 com a4, a menos do sinal,
numericamente igual ao valor determinado pela equao de correlao.
a1a 2
25
0,5 ou 50%
7,07 7.07
Este fator de correlao indica que o grau de dependncia da ordem de 50% ou seja, que existe 50%
de probabilidade de que um erro cometido no clculo da varivel a1 interfira no clculo da varivel a2. No
caso das correlaes entre a2 com a3 e a3 com a4, o valor negativo, ( a2a3 = -50% e a3a4 = -50%) o que indica
que existe 50% de chances de que um erro cometido no clculo da varivel a2 ou a3 interfira no clculo da
varivel a3 ou a4 respectivamente e, se isso ocorrer, afetar no sentido inverso.
18
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 4 - Um observador com uma estao total mediu o azimute da direo 01 e a

distncia entre as estaes 0 e 1 a partir do ponto 0 cujas coordenadas so (0, 0). Os valores
obtidos foram respectivamente, A01 = 60 e d01 = 2.000 m. Considere que ele utilizou um
B
equipamento cuja preciso angular de 5 e a linear de 5mm 5ppm. Quais so as

coordenadas do ponto 1 (x1,y1) e a respectiva preciso?
B
Da mesma forma que no exemplo anterior, o primeiro

passo estabelecer qual o modelo matemtico que faz a
ligao entre os valores medidos (AB01B e dB01B) com os valores
A01
d01
procurados (xB1,y
B B1).
B
A frmula bastante conhecida da topografia:
x1 x0 d 01senA01
y1 y0 d 01 cosA01
Observa-se que esta frmula do tipo no linear e, portanto o modelo de propagao o seguinte:
xy D Ad DT
A matriz D obtida derivando-se as equaes de xB1B e yB1B em relao ao azimute AB01B e a distncia dB01,B
obtendo-se as seguintes expresses:
x
d 01 cos A01 1.000 m
A
x
senA01 0,866025
d
y
d 01 senA01 - 1.732,05 m
A
y
cos A01 0,500000
d
colocando-se estes valores na matriz D, vem :
1.000,00m 0,866025
D
1.732,05m 0,500000
19
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Definida a matriz D, o passo seguinte montar a matriz varincia-covarincia das observaes.
A2 Ad
Ad
2
dA d
O valor da varincia do Azimute oriundo da preciso angular do equipamento.
A2
2P
= (5)P P = 25P
Embora este valor esteja correto, necessrio pass-lo para radianos porque, ao se proceder a
multiplicao entre as matrizes, se estar misturando metro com segundo de arco.
Ento o valor de

5"
-10
A2
= 5,876107 x 10P P radianos.

3600 180
A varincia da distncia tambm originada da preciso do equipamento.
5 2.000m
2
2
0,005m
= (0,015 m)P P = 0,000225 mP
1
.
000
.
000
2
d
As correlaes
BAdB = BdAB = 0
porque no existe nenhuma dependncia entre o azimute e a
distncia, ou seja, um erro no azimute no afeta a distncia e vice-versa.

Finalmente a matriz varincia covarincia das coordenas obtida da seguinte multiplicao:
1000,00m 1.732,05m
1.000,00m 0,866025 5,876107 1010
0
xy
2
0
0,000225m 0,866025 0,500000
1.732,05m 0,500000
20
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
0.00075636 - 0.00092034 2
xy
m
- 0.00092034 0.0018191
Da matriz varincia-covarincia obtm-se as precises das coordenadas xB1 Be yB1B . Ento :

xB1B = 0 + 2000sen(60) = 1.732,05 m e x1 0.00075636
yB1B = 0 + 2000cos(60) = 1.000,00 m e y1 0.0018191
ou seja,
xB1B = 1.732,05 m 0,0275 m
y1 = 1.000,00 m 0,0426 m
O grau de dependncia entre as v.a. xB1B e yB1B calculada pelo coeficiente de correlao
x1 y 2
- 0.00092034
0,7846 ou - 78,5%
0,0275 0,0426
Este valor mostra que existe uma forte correlao entre as duas variveis e que um erro em
uma delas afeta a outra em -78,5% e no sentido inverso.
O exemplo proposto acima teve apenas o propsito de demonstrar como se

propagam as covarincias, e por esta razo, no enunciado, o observador mediu
diretamente o azimute. Na prtica, isso no acontece, o que se faz determinar o ngulo
azimutal atravs da tcnica das direes. Neste caso necessrio se fazer a propagao dos
azimutes. No prximo exemplo este processo ser abordado e ficar mais claro.
21
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 5 - Executou-se uma poligonal eletrnica a partir de um vrtice e do azimute de

uma direo.
Com os dados do levantamento calcule as coordenadas do ponto 3 e
verifique qual a preciso dessas coordenadas considerando um equipamento cuja preciso

angular de 2 e a linear de 3mm + 10 ppm.
A2
a2
A0
A1
Lb2
a3
A3
2 Lb
3
a1
Lb 1
0
Obs.: AB0B = 45
dados:
40
20
10
Lb1 =
6.000 m
209
47
59
Lb2 =
3.000 m
202
00
17
Lb3 =
1.500 m
1 Passo Modelo funcional
x3 x0 x01 x12 x23

y3 y0 y01 y12 y23
(1)
onde:
xi Lbi senAi
yi Lbi cos Ai
(2)
Na equao observa-se que apenas o valor observado LbBiB aparece. Isto ocorre porque na prtica
no se l o azimute diretamente, e sim a direo. Ento necessrio se estabelecer a equao que envolve os
ngulos medidos BiB com os azimutes.
22
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Da figura se extrai as seguintes equaes:

AB1B = AB0B + B1
= 85 2010
B
AB2B = AB0B + B1B + B2B 180
= 115 08 09
AB3B = AB0B + B1B + B2B + B3B 360
= 137 08 26
(3)
que genericamente pode ser escrita como :

n
Ai A0 i (n 1) 180
i 1
Escrevendo as equaes acima sob a forma matricial vem:
A1 1 0 0 1 A0
A 1 1 0 A 180 A G C
2
2 0
A3 1 1 1 3 A0 360
analisando a equao, conclui-se que ela do tipo linear e a propagao utiliza a frmula
A = GGTP
Assim
2
1 0 0 4"
A 1 1 0 0
1 1 1 0
0
4"2
0
1 1 1 4 4 4

2
0 1 1 4 8 8 "
4"2 0 0 1 4 8 12
0
0
Os valores desta matriz esto em 2P P . Para no se ter problemas com unidades, estes devem ser
2
convertidos em radianos. Existe um modo prtico quando os valores esto em P P que multiplicar por senP P(
1).
Ento:
9,402 9,402 9,402

A 9,402 18,804 18,804 10 11 radianos
9,402 18,804 28,205
23
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Calculada a propagao para o azimute passa-se propagao para as coordenadas. Substituindo as

equaes (2) em (1).
x3 x0 Lb1 senA1 Lb2 senA2 Lb3 senA3

y3 y0 Lb1 cos A1 Lb2 cos A2 Lb3 cos A3
Estas equaes, por causa das funes trigonomtricas so do tipo no linear e, portanto,
utilizam outra forma de propagao.
xy = D Lb DPT
A matriz D obtida derivando-se as equaes de xB3B e yB3B em relao aos azimutes ABi Be as distancia lBiB,
obtendo-se as seguintes expresses:
x
Lb1 cos A1
A1
487,862 m
x
senA1
Lb1
0,99668883
x
Lb2 cos A2 =
A2
-1.274,297 m
x
senA2 =
Lb2
0,90530332
x
Lb3 cos A3 =
A3
-1.099,537 m
x
senA3
Lb3
0,68020218
y
Lb1 senA1 =
A1
-5.980,133 m
y
cos A1 =
Lb1
0,08131035
y
Lb2 senA2
=
A2
-2.715,910 m
y
Lb3 senA3
=
A3
-1.020,303 m
y
cos A2
=
Lb2
y
cos A3 =
Lb3
-0,42476569
-0,73302455
24
AJUSTAMENTO
DE OBSERVAES
x
A2
y
A2
x
A3
y
A3
DE
NAZARENO
Substituindo os valores na matriz D
x
A
D 1
y
A1
x
Lb1
y
Lb1
x
Lb2
y
Lb2
x
Lb3
y
Lb3
487,862m 1.274,297m 1.099,537m 0,99668883 0,90530332 0,68020218

D
5.980,133m 2.715,910m 1.020,303m 0,08131035 0,42476569 0,73302455

Finalmente monta-se a matriz varincia-covarincia das observaes.
A21
A1 A2 A1 A3 A1Lb1 A1Lb2 A1Lb3
A2 2
A2 A3 A2 Lb1 A 2 Lb 2 A 2 Lb3
A 2 A1
A3 A 2
A2 3
A3 Lb1 A3Lb 2 A3Lb3
Al A3 A1
2
Lb1 A1 Lb1A 2 lLb1 A3 Lb1 Lb1Lb2 Lb1Lb3
2
Lb2 A2 Lb2 A3 Lb 2 Lb1 Lb

Lb2 Lb3
2
Lb 2 A1
2
Lb3 A1 Lb3 A 2 Lb3 A3 Lb3 Lb1 Lb3Lb 2 Lb3
Os valores da matriz varincia-covarincia dos azimutes j foram determinados na propagao dos
ngulos para os azimutes e basta substituir na matriz Al. Contudo falta ainda calcular as varincia das
distncias. Como as distncias no so correlacionadas entre si e nem com os azimutes, as covarincias que
relacionam estas variveis so nulas. Ento:
10 6.000m
2
2
0,063m Lb
1 0,003969 m
1.000.000
10 3.000 m
2
2
0,003m
0,033m Lb
2 0,001089 m
1.000.000
10 1.500m
2
2
0,003m
0,018m Lb
3 0,000324 m
1.000.000
Lb1 0,003m
Lb 2
Lb 3
Substituindo-se pelos valores numricos:

9,402 10 11 9,402 10 11
11
18,804 10 11
9,402 10
11
9,402 10
18,804 10 11
Al
0
0
0
0
0
0
9,402 10 11
18,804 10 11
28,205 10 11
0
0
0
0
0
0
0,003969 m 2
0
0
0
0
0
0
0,001089 m 2
0
0
0
0
0
0
0,000324 m 2
25
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Finalmente basta proceder multiplicao para obter a matriz varincia-covarincia das

coordenadas xB3B,yB3.
0,0059631
x3 y 3
0,0024035
0,0024035
m 2
0,010683
A partir da matriz varincia-covarincia extraem-se as precises das coordenadas do ponto 3.

xB3B = 9.716,346 m 0,0772 m
yB3B = -1.885,972 m 0,1034 m
O grau de dependncia entre as v.a. xB3 Be yB3B calculada pelo coeficiente de correlao
x3 y3
0,0024035
0,3011 30,1%
0,0772 0,1034
Este valor mostra que existe uma baixa correlao entre as duas variveis e que um erro em uma delas
tem 30,1% de probabilidade de afetar a outra.
Os exemplos 4 e 5 demonstram que a priori no se pode prever qual o grau de correlao entre
duas variveis antes de se efetuar a propagao.
No exemplo anterior, o grau de correlao de -78,5%
enquanto neste, atinge 30,1 %.

Neste exemplo calculou-se o valor da preciso do terceiro ponto diretamente. Para se saber
qual o valor do ponto 1 e 2 basta eliminar alguns elementos das matrizes D e Al. Procedendo-se desta forma
encontram-se os seguintes valores.
xB1B = 5.980,133 m 0,0630 m
yB1 =B
487,862 m 0,0582 m
xB1ByB1B = 1,3 %
xB2B = 8.696,043 m 0,0710 m

yB2B = -786,435 m 0,0896 m
xB2yB B2B = 13,7 %
26
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
4. SISTEMA DE EQUAES LINEARES E O MTODO DOS MNIMOS QUADRADOS

4.1. Resoluo de Sistema de Equaes Lineares
Dada uma equao do tipo
ax = L
onde: x um valor incgnito, L um valor conhecido e a uma constante
qualquer. Ento a soluo :
L
a
No entanto, quando se tem um conjunto de equaes formando um sistema, a

soluo no to direta.
Vamos imaginar um sistema de equaes
a1 x1 + a2 x2 + a3 x3 = L1
B
a4 x1 + a5 x2 + a6 x3 = L2
a7 x1 + a8 x2 + a9 x3 = L3
B
Escrevendo este sistema na forma matricial

nAuuX1
onde :
= nL1
matriz formada pelos coeficiente ai
vetor formado pelos valores incgnitos xi
vetor formado pelos termos conhecidos Li
nmero de linhas (3)
nmero de colunas (3)
27
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
No caso de matrizes as operaes possveis so a soma, a subtrao e a

multiplicao, no existindo a diviso. Deste modo a soluo dada por:
X 1 u Au1 u L1
onde: A-1 a matriz inversa de A.

P
4.2. O Mtodo dos Mnimos Quadrados

Quando um sistema de equaes possui o nmero de equaes iguais ao de
incgnitas a soluo nica. No entanto, quando existem mais equaes que as
necessrias, deve-se agrupa-las de forma que se tenham vrios sistemas formados pelas
combinaes lineares destas equaes. Na teoria, independentemente do conjunto que se
escolha, tem-se sempre a mesma soluo.
Entretanto, quando se trabalha com dados reais, pela prpria caracterstica
estocstica das observaes, via de regra, se faz mais medidas que as necessrias. Cada
observao (Lb) resulta em uma equao e como, toda medida vem acompanhada de erros
aleatrios, o sistema de equaes resultante inconsistente. necessrio ento se
proceder a uma homogeneizao do sistema de modo que independente do conjunto de
equaes que se escolha tenha-se sempre a mesma soluo.
Esta homogeneizao alcanada adicionando uma correo, tambm
conhecida como resduo, a cada observao de modo a tornar o sistema consistente.
a1 x1 + a2 x2 = Lb1 + v1
B
a3 x1 + a4 x2 = Lb2 + v2
B
a5 x1 + a6 x2 = Lb3 + v3
B
ou no formato matricial
AX Lb V
28
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Dependendo do critrio que se escolha para definir os valores desses resduos,
tm-se solues diferentes para a incgnita X , que agora um valor estimado. Entretanto,
o critrio aceito o do Mtodo dos Mnimos Quadrados (M.M.Q.), proposto por Gauss em
1795 e Legendre em 1805 que estudaram o problema de forma independente e sem que
um, conhecesse o estudo do outro.
O M.M.Q. diz que a soma do quadrado dos resduos tem que ser mnima, e
pode ser expresso matematicamente:
n
2
i
min
i 1
Na forma matricial:
VTV = min
P
Para o caso de observaes com graus diferentes de confiana introduz-se o

critrio de peso, e as equaes passam a ser escritas:
n
2
i i
p v
min ou
VTPV = min
P
i 1
Isolando o vetor dos resduos na equao matricial, vem:
V A X Lb
Substituindo no critrio de M.M.Q.
T
AX Lb AX Lb min < = > X T AT Lb T AX Lb min
X T AT AX Lb T AX X T AT Lb Lb T Lb min
29
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Para se determinar o mnimo da funo deriva-se esta em relao s incgnitas

e iguala a zero:
2 AT AX AT Lb AT Lb 0
X
2 AT AX 2 AT Lb 0
Finalmente
X AT A
A
1
Lb
Se derivarmos novamente
2
X
2 AT A 0
o resultado maior que zero indicando que a funo resultante da 1 derivada

representa um ponto de mnimo.
Considerando observaes com graus diferentes de confiana a equao
assume o seguinte aspecto:
X AT PA
A
1
PLb
Esta equao representa a soluo dos mnimos quadrados.
4.3. Condicionamento de Sistemas

Um sistema dito mal condicionado quando, pequena variao nos valores dos
coeficientes ou dos termos independentes significa uma grande variao na soluo. Este
fato ficar compreendido com o exemplo a seguir:
30
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Dado o sistema de equaes

1 1 x1 10
1 2 x 5
cuja soluo
x1 = 5 e x2 = 5
B
Se introduzirmos uma pequena variao no termo independente, por exemplo,

1 x1 10,01
1
1 2 x 5
o resultado passa a ser x1 = 5,007 e x2 = 5,003.

B
Observa-se que esta pequena variao introduziu uma pequena variao na

resposta do problema. Este o exemplo de um sistema bem condicionado.
Agora repetindo a experincia com outro sistema
1 1 x1 10
1,001 1 x 10,005
cuja soluo x1 = 5 e x2 = 5
B
Efetuando uma pequena alterao no termo independente, vem

1 x1 10
1
1,001 1 x 10,1
o resultado passa a ser x1 = 100 e x2 = -90.

B
Nota-se agora que uma variao no muito significativa resultou numa soluo
completamente diferente. Quando isso acontece, diz-se que o sistema mal condicionado.
31
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Este tipo de problema importante porque os sistemas de equaes utilizados

na rea da geomtica so formados por valores observados e sabe-se que os erros de
observao acompanham estes nmeros.
Embora no seja um critrio conclusivo, quando o determinante da matriz dos
coeficientes resulta em um nmero pequeno e em contra posio a matriz inversa
composta por elementos grandes, geralmente este um indicador de mal
condicionamento.
Nos exemplos acima se verifica que no primeiro caso o determinante igual a
A 3 e sua inversa vale :
1 2 1
A1
3 1 1
e no segundo caso
A 0,001
1000 1001
A 1
1000 1000
32
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5. AJUSTAMENTO DE OBSERVAES
As observaes so classificadas em diretas, indiretas e diretas condicionadas.

As diretas so aquelas onde se utiliza um medidor de mesma natureza que a
grandeza procurada. Por exemplo, quando se emprega uma trena para medir uma distncia
ou um teodolito para um ngulo.
Ao contrrio, so classificadas como indiretas quando se mede uma grandeza
que se relaciona funcionalmente ou fisicamente com o valor procurado. o caso de se
determinar uma distncia por estadimetria, onde se l os fios, superior e inferior, da estdia
e se obtm a distncia entre o aparelho e ela.
Finalmente classificada como direta condicionada quando alm de ser direta,
existir uma condio funcional. o caso da medida dos ngulos de um tringulo. Se forem
medidos apenas dois, a medida direta, no entanto se o terceiro ngulo for medido, passa
a existir a condio de que o somatrio tem que ser 180.
Em qualquer das situaes, quando os valores no forem do mesmo grau de
confiana, emprega-se o critrio de pesos diferentes.
Cada um destes casos utiliza um processo de ajustamento especfico.
33
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.1. Ajustamento de observaes diretas

5.1.1. Estimativa pontual: mdia.
Quando se mede vrias vezes a mesma grandeza, o melhor estimador para ela
a mdia aritmtica ou a ponderada dependendo da amostra. Pode-se demonstrar que este
critrio atende o dos mnimos quadrados, no entanto isso no ser feito aqui. A equao
para a mdia a seguinte:
i 1
onde:
Lbi
- mdia aritmtica
~
x
- mdia ponderada
ou
Lbi
- valores observados
pi
- pesos das observaes
- nmero de elementos da amostra
~
x
n
i 1 i
n
p Lb
p
i1
A primeira equao a da mdia aritmtica e a segunda da ponderada.
5.1.2. Estimativa da preciso: Desvio Padro.

No tpico 2.3 foi demonstrada a diferena entre acurcia e preciso. L fica
claro que a preciso refere-se a disperso das medidas ao redor de um valor mdio e est
intimamente ligada aos erros aleatrios. Esta grandeza calculada atravs do desviopadro () que, no caso, deve considerar o duplo sinal ().
34
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Gauss definiu que o desvio-padro a raiz quadrada da mdia do quadrado dos

erros verdadeiros (Gemael, 1994, p. 88), ou seja:
i 1 i
onde:
- desvio-padro
i2
- quadrado dos erros verdadeiros
- nmero de elementos da amostra ou de observaes
Entretanto, a no ser em alguns casos como os ngulos de um polgono

fechado, no se tm como determinar o erro verdadeiro. Neste caso, se utilizam os erros
aparentes que so calculados atravs dos resduos em relao mdia, ou seja:
v2
i 1 i
n 1
lb x
i 1
n 1
Observa-se que esta equao calcula o desvio padro amostral.

Na rea de geomtica, os valores utilizados nos clculos, geralmente so
resultado de uma srie de observaes de onde se determina o valor mais provvel, ou
seja, a mdia. Neste caso, a estimativa de preciso que se necessita no diz respeito
amostra, mas sim mdia. Assim necessrio que se calcule o desvio padro dela.
n
2
i 1 i
nn 1
A demostrao de como se chega a esta equao pode ser encontrada em

Gemael, 1994, p. 89.
35
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
No caso de medidas de desigual confiana as equaes ficam assim

modificadas:
p v2
i 1 i i
~~x
n 1
n
i 1
pi vi2
n
(n 1)i 1 pi
n
i 1
pi
5.1.3. Estimativa por intervalo

A estimativa por intervalo de confiana fornece dois valores entre os quais,
deve estar um parmetro populacional estimado, com certa probabilidade, ou nvel de
confiana. Escrevendo em linguagem matemtica:
P(a b) = 1-
onde: a e b - extremos do intervalo
- valor estimado
- nvel de significncia
- grau de confiana
O valor do nvel de significncia normalmente prefixado. Supondo o valor =

5%, ento:
P(a b) = 0,95
A expresso acima indica que h 95% de probabilidade que a varivel estimada
esteja entre os valores a e b.
36
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.1.3.1. Intervalo de confiana para a mdia

O intervalo de confiana pode ser aplicado na mdia em funo da varincia
amostral. A expresso para o clculo a seguinte:
P x X t x X t 1
1
1
2
2
onde:
- mdia amostral
X - desvio-padro da mdia aritmtica

n
t
1

- valor interpolado da tabela de distribuio de STUDENT
- mdia populacional
Esta expresso indica que existe (1-)% de probabilidade de que a mdia

populacional esteja entre os valores extremos.
No caso de medidas com desigual confiana, a expresso acima assume a
seguinte forma:
P ~
x ~x t ~
x ~x t 1
1
1
2
2
onde:
- mdia amostral ponderada
~x
- desvio-padro da mdia ponderada
37
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.1.3.2. Intervalo de confiana para a varincia

Da mesma forma que para a mdia, pode-se aplicar o intervalo de confiana
para a varincia. A expresso para este caso a seguinte:
2 n 1
2 n 1
2
P

1
2
2

1
2
2
onde:
- varincia amostral
n-1 - graus de liberdade
- valor interpolado da tabela de Qui-Quadrado
Na rea de geomtica substituem-se os valores medidos pelo valor mdio e

neste caso na frmula, se substitui a varincia amostral pela varincia da mdia.
n 1
1
P n 2
2 n 2
1
2
2
ou
2
x2 n 1
P
2 x 2
1
2

1
2
2
38
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
No caso de medidas com desigual confiana a expresso acima assume a

seguinte forma:
2
~x2 n 1
~x n 1
2
P

1
2
2
2
2
Para se obter o intervalo do desvio padro basta extrair a raiz quadrada dos
extremos calculados, ou seja:
x2 n 1
x n 1
P

1
2
2
1
2
2
< = Para medidas de igual confiana
~x2 n 1
~x2 n 1
P

1
2
2
1
2
2
< = Para medidas de desigual confiana.
Exemplo 6 - Um ngulo foi medido dez vezes, com o resultado mostrado na tabela a seguir.
Calcule os estimadores pontuais e os por intervalo.
Medida
Lbi
Medida
Lbi
120
31
40,1
42,4
41,2
43,0
40,8
40,7
42,1
41,9
42,9
10
41,5
39
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Clculo dos estimadores pontuais:
Medida
lbi
(lbi -
x)
(lbi -
x )2
120
31
40,1
-1,56
2,4336
41,2
-0,46
0,2116
40,8
-0,86
0,7396 2
42,1
0,44
0,1936 2
42,9
1,24
1,5376
42,4
0,74
0,5476
43,0
1,34
1,7956 2
40,7
-0,96
0,9216 2
41,9
0,24
0,0576 2
10
41,5
-0,16
0,0256 2
1200
8,4640 2
310 416,6
a) mdia aritmtica
lb
i 1
1200 310' 416,6"

10
x 120 31' 41,66"
b) desvio-padro
2
i
n 1
lb x
8, 4640
0,9698
10 1
8,4640
0,3067
10(10 1)
n 1
c ) desvio-padro da mdia
2
i
nn 1
40
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Clculo dos estimadores por intervalo de confiana:

Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento
supondo um nvel de significncia = 5%.
a) Clculo do intervalo para a mdia:
P x
t x
t 1
n 1 2
n 1 2
Dos estimadores pontuais se obtm os valores
x 120 31' 41,66"
O valor de
1
2
x 0,3067"
n
obtido na tabela de distribuio de Student (pg. 42) com
GL = n - 1 graus de liberdade
GL = 10 1 = 9
P = 1 0,05 = 95%
P = 1 - de probabilidade
ento
9
t0GL
, 975 2,26
1 - 0,05/2 = 0,975
assim,
P12031'41,66"0,3067"2,26 12031'41,66"0,3067"2,26 95%

P12031'41,66"0,6931 12031'41,66"0,6931 95%
P 12031'40,97" 12031'42,35" 95%

Esta expresso nos diz que a mdia populacional tem probabilidade de 95% de estar entre os
valores 1203140,97 e 1203142,35.
Se diminuirmos o nvel de significncia e consequentemente aumentarmos o nvel de confiana
este intervalo ampliado.
41
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
1-
t
t1-
Percentis da distribuio de Student (t1-

P 0,550 0,600 0,650 0,700 0,750 0,800 0,850 0,900 0,950 0,975 0,990 0,995
GL
1
2
3
4
5
0,158
0,142
0,137
0,134
0,132
0,325
0,289
0,277
0,271
0,267
0,510
0,445
0,424
0,414
0,408
0,727
0,617
0,584
0,569
0,559
1,000
0,817
0,765
0,741
0,727
1,376
1,061
0,979
0,941
0,920
1,963
1,386
1,250
1,190
1,156
3,078
1,886
1,638
1,533
1,476
6,314 12,71 31,82 63,65

2,920 4,30
6,96 9,43
2,353 3,18
4,54 5,84
2,132 2,78
3,75 4,60
2,015 2,57
3,36 4,03
6
7
8
9
10
0,131
0,130
0,130
0,129
0,129
0,265
0,263
0,262
0,261
0,260
0,404
0,402
0,400
0,398
0,397
0,553
0,549
0,546
0,544
0,542
0,718
0,711
0,706
0,703
0,700
0,906
0,896
0,889
0,883
0,879
1,134
1,119
1,108
1,100
1,093
1,440
1,415
1,397
1,383
1,372
1,943
1,895
1,860
1,833
1,813
2,45
2,36
2,31
2,26
2,23
3,14
3,00
2,90
2,82
2,76
3,71
3,50
3,36
3,25
3,17
11
12
13
14
15
0,129
0,128
0,128
0,128
0,128
0,260
0,259
0,259
0,258
0,258
0,396
0,395
0,394
0,393
0,393
0,540
0,539
0,538
0,557
0,536
0,697
0,696
0,694
0,692
0,691
0,876
0,873
0,870
0,868
0,866
1,088
1,083
1,080
1,076
1,074
1,363
1,356
1,350
1,345
1,341
1,796
1,782
1,771
1,761
1,753
2,20
2,18
2,16
2,14
2,13
2,72
2,68
2,65
2,62
2,60
3,11
3,05
3,01
2,98
2,95
16
17
18
19
29
0,128
0,125
0,127
0,127
0,127
0,258
0,257
0,257
0,257
0,257
0,392
0,392
0,392
0,391
0,391
0,535
0,534
0,534
0,533
0,533
0,690
0,689
0,688
0,688
0,687
0,865
0,863
0,862
0,861
0,860
1,071
1,069
1,067
1,066
1,064
1,337
1,333
1,330
1,328
1,325
1,746
1,740
1,734
1,729
1,725
2,12
2,11
2,10
2,09
2,09
2,58
2,57
2,55
2,54
2,53
2,92
2,90
2,88
2,86
2,85
21
22
23
24
25
0,128
0,125
0,127
0,127
0,127
0,257
0,256
0,256
0,256
0,256
0,391
0,390
0,390
0,390
0,390
0,533
0,532
0,532
0,531
0,531
0,686
0,686
0,685
0,685
0,684
0,859
0,858
0,858
0,857
0,856
1,063
1,062
1,060
1,059
1,058
1,323
1,321
1,320
1,318
1,316
1,721
1,717
1,714
1,711
1,708
2,08
2,07
2,07
2,06
2,06
2,52
2,51
2,50
2,49
2,49
2,83
2,82
2,81
2,80
2,79
26
27
28
29
30
0,128
0,125
0,127
0,127
0,127
0,256
0,256
0,256
0,256
0,256
0,390
0,389
0,389
0,389
0,389
0,531
0,531
0,530
0,530
0,530
0,684
0,684
0,683
0,683
0,683
0,856
0,855
0,855
0,854
0,854
1,058
1,057
1,056
1,055
1,055
1,315
1,314
1,313
1,311
1,310
1,706
1,703
1,701
1,699
1,697
2,06
2,05
2,05
2,05
2,04
2,48
2,47
2,47
2,46
2,46
2,78
2,77
2,76
2,76
2,75
40
50
60
70
80
0,127
0,126
0,126
0,126
0,126
0,255
0,255
0,255
0,254
0,254
0,388
0,388
0,387
0,387
0,387
0,529
0,528
0,527
0,527
0,527
0,681
0,679
0,679
0,678
0,678
0,851
0,849
0,848
0,847
0,846
1,050
1,047
1,046
1,044
1,043
1,303
1,299
1,296
1,294
1,292
1,684
1,676
1,671
1,667
1,664
2,02
2,01
2,00
1,99
1,99
2,42
2,40
2,39
2,38
2,37
2,70
2,68
2,66
2,65
2,64
90
100
200
300
400
0,126
0,126
0,126
0,126
0,126
0,254
0,254
0,254
0,253
0,253
0,387
0,386
0,386
0,386
0,386
0,526
0,526
0,525
0,525
0,525
0,677
0,677
0,676
0,675
0,675
0,846
0,845
0,843
0,843
0,842
1,042
1,042
1,039
1,038
1,037
1,291
1,290
1,285
1,284
1,283
1,662
1,660
1,652
1,649
1,648
1,99
1,98
1,97
1,97
1,96
2,37
2,36
2,34
2,34
2,33
2,63
2,63
2,60
2,59
2,58
500
600
700
800
900
0,126
0,126
0,126
0,126
0,126
0,253
0,253
0,253
0,253
0,253
0,385
0,385
0,385
0,385
0,385
0,525
0,525
0,525
0,524
0,524
0,675
0,675
0,675
0,675
0,675
0,842
0,842
0,842
0,842
0,842
1,037
1,037
1,037
1,037
1,037
1,283
1,283
1,282
1,282
1,282
1,647
1,647
1,646
1,646
1,646
1,96
1,96
1,96
1,96
1,96
2,33
2,33
2,33
2,33
2,33
2,58
2,58
2,58
2,58
2,58
0,126 0,253 0,385 0,524 0,675 0,842 1,037 1,282 1,645
1,96
2,33
2,58
42
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
b) Clculo do intervalo para a varincia da mdia:
2
x2 n 1
2
x
P
1
2
2

1
2
2
Adotando o mesmo procedimento do clculo anterior vem:
x2 ( 0,3067 " ) 2 0,09406489 "2

o valor da varivel 2 obtida de uma tabela (pg. 43) com
GL = 9
L 9
0G,975
19,02
P1 =1- /2 = 0,975
0GL,025 9 2,70
P2 = /2 = 0,025.
substituindo os valores na frmula vem:
0,09406489 (10 1)
0,09406489 (10 1)
P
2
95%
19
,
02
2,70
P 0,0445"2 2 0,3135"2 95%

Extraindo-se a raiz quadrada da expresso acima se obtm o intervalo para o desvio padro.
P0,211" 0,560" 95%

Se o nvel de significncia for diminudo e, consequentemente o nvel de confiana aumentado, o
intervalo tende a aumentar.
43
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
1-
2
21-
Distribuio de Qui-Quadrado (2)

0,005
0,010
0,025
0,050
0,100
0,250
0,750
0,900
0,950
0,975
0,990
0,995
GL
1
2
3
4
5
0,00
0,01
0,07
0,21
0,41
0,00
0,02
0,12
0,30
0,55
0,00
0,05
0,22
0,49
0,83
0,00
0,10
0,35
0,71
1,15
0,02
0,21
0,58
1,06
1,61
0,10
0,58
1,21
1,92
2,68
1,32
2,77
4,11
5,39
6,63
2071
4,61
6,25
7,78
9,24
3,84
5,99
7,82
9,49
11,07
5,02
7,38
9,35
11,14
12,83
6,64
9,21
11,35
13,28
15,09
7,88
10,60
12,84
14,86
16,75
6
7
8
9
10
0,68
0,99
1,34
1,74
2,16
0,87
1,24
1,65
2,09
2,56
1,24
1,69
2,18
2,70
3,25
1,64
2,17
2,73
3,33
3,94
2,20
2,83
3,49
4,17
4,87
3,46
4,26
5,07
5,90
6,74
7,82
9,04
10,22
11,39
12,55
10,65
12,02
13,36
14,68
15,99
12,59
14,07
15,51
16,92
18,31
14,45
16,01
17,54
19,02
20,48
16,81
18,48
20,09
21,67
23,21
18,55
20,28
21,96
23,59
25,19
11
12
13
14
15
2,60
3,07
3,57
4,08
4,60
3,05
3,57
4,11
4,66
5,23
3,82
4,40
5,01
5,63
6,26
4,58
5,23
5,89
6,57
7,26
5,58
6,30
7,04
7,79
8,55
7,58
8,44
9,30
10,17
11,04
13,70
14,85
15,98
17,12
18,25
17,28
18,55
19,81
21,06
22,31
19,68
21,03
22,36
23,69
25,00
21,92
23,34
24,74
26,12
27,49
24,73
26,22
27,69
29,14
30,58
26,76
28,30
29,82
31,32
32,80
16
17
18
19
29
5,14
5,70
6,27
6,84
7,43
5,81
6,41
7,02
7,63
8,26
6,91
7,56
8,23
8,91
9,59
7,96
8,67
9,39
10,12
10,85
9,31
10,09
10,67
11,65
12,44
11,91
12,79
13,68
14,56
15,45
19,37
20,49
21,61
22,72
23,83
23,54
24,77
25,99
27,20
28,41
26,30
27,59
28,87
30,14
31,41
28,85
30,19
31,53
32,85
34,17
32,00
33,41
34,81
36,19
37,57
34,27
35,72
37,16
38,58
40,00
21
22
23
24
25
8,03
8,64
9,26
9,89
10,52
8,90
9,54
10,20
10,86
11,52
10,28
10,98
11,69
12,40
13,12
11,59
12,34
13,09
13,85
14,61
13,24
14,04
14,85
15,66
16,47
16,34
17,24
18,14
19,04
19,94
24,94
26,04
27,14
28,24
29,34
29,62
30,81
32,01
33,20
34,38
32,67
33,92
35,17
36,42
37,65
35,48
36,78
38,08
39,36
40,65
38,93
40,29
41,64
42,98
44,31
41,40
42,80
44,18
45,56
46,93
26
27
28
29
30
11,16
11,81
12,46
13,12
13,79
12,20
12,88
13,57
14,26
14,95
13,84
14,57
15,31
16,05
16,79
15,38
16,15
16,93
17,71
18,49
17,29
18,11
18,94
19,77
20,60
20,84
21,75
22,66
23,57
24,48
30,42
31,53
32,62
33,71
34,80
35,56
36,74
37,92
39,09
40,26
38,89
40,11
41,34
42,56
43,77
41,92
43,19
44,46
45,72
46,98
45,64
46,96
48,28
49,59
50,89
48,29
48,29
50,99
52,37
53,67
35
40
45
50
55
17,19
20,71
24,31
27,99
31,74
18,51
22,16
25,90
29,71
33,57
20,57
24,43
28,37
32,36
36,40
22,47
26,51
30,61
34,76
38,96
24,80
29,05
33,35
37,69
42,06
29,05
33,66
38,29
42,94
47,61
40,22
45,62
50,99
56,33
61,67
46,06
51,81
57,51
63,17
68,80
49,80
55,76
61,66
67,51
73,31
53,20
59,34
65,41
71,42
77,58
57,34
63,69
69,96
76,15
82,29
60,28
66,77
73,17
79,49
85,75
60
65
70
75
80
35,53
39,38
43,28
47,21
51,17
37,49
41,44
45,44
49,48
53,54
40,58
44,60
48,76
52,94
57,15
43,19
47,45
51,74
56,05
60,39
46,46
50,88
55,33
59,80
64,28
52,29
56,99
61,70
66,42
71,15
66,98
72,29
77,58
82,86
88,13
74,40
79,97
87,53
91,06
96,58
79,08
84,82
90,53
96,22
101,9
83,30
89,18
95,02
100,8
106,6
88,40
94,42
100,4
106,4
112,3
91,95
98,11
104,2
110,3
116,3
85
90
95
100
110
55,17
59,20
63,25
67,33
75,55
57,63
61,75
65,90
70,07
78,46
61,39
65,65
69,93
74,22
82,87
64,75
69,13
73,52
77,93
86,79
68,78
73,29
77,82
82,36
91,47
75,88
80,63
85,38
90,13
99,67
93,39
98,65
103,9
109,1
119,6
102,1
107,6
113,0
118,5
129,4
107,5
113,1
118,8
124,3
135,5
112,4
118,1
123,9
129,6
140,9
118,2
124,1
130,0
135,8
147,4
122,3
128,3
134,2
140,2
151,9
120
130
140
150
200
83,85
92,22
100,7
109,1
152,2
86,92
95,45
104,0
112,7
156,4
91,57
100,3
109,1
118,0
162,7
95,71
104,7
113,7
122,7
168,3
100,6
109,8
119,0
128,3
174,8
109.2
118.8
128.4
138.0
186.2
130.1
140.5
150.9
161.3
213.1
140.2
151.0
161.8
172.6
226.0
146.6
157.6
168.6
179.6
234.0
152.2
163.5
174.6
185.8
241.1
159.0
170.4
181.8
193.2
249.4
163.6
175.3
186.8
198.4
255.3
250
300
400
500
600
196,2
240,7
330,9
422,3
514,5
200,9
246,0
337,2
429,4
522,4
208,1
253,9
346,5
439,9
534,0
214,4
260,9
354,6
449,1
544,2
221,8
269,1
364,2
459,9
556,1
234.6
283.1
380.6
478.3
576.3
264.7
316.1
418.7
521.0
523.0
279.1
331.8
436.6
540.9
644.8
287.9
341.4
447.6
553.1
658.1
295.7
350.0
457.3
553.1
658.1
304.9
359.9
468.7
576.5
683.5
311.3
366.8
476.6
585.2
893.0
700
800
900
1000
607,4
700,7
794,5
888,6
615,9
709,9
804,3
898,9
628,6
723,5
818,8
914,3
639,6
735,4
831,4
927,6
652,5
749,2
846,1
943,1
674.4
772.7
871.0
969.5
724.9
826.6
928.2
1030.0
748.4
851.7
954.8
1058.0
762.7
866.9
970.9
1075.0
762.7
866.9
970.9
1090
790.0
896.0
1002.0
1107.0
800.1
907.0
1013.0
1119.0
44
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 7 - Um ngulo foi medido em quatro etapas, conforme a tabela abaixo. Adotando
pesos proporcionais ao nmero de observaes calcule os estimadores pontuais e por
intervalo de confiana.
ngulo ( lbi )
n de
obs
pi
pilbi
(lbi -
x)
pi(lbi -
x )2
80
50
12
160
100
24
-1,75
6,12502
14
80
50
14
0,25
0,0625
12
240
150
36
-1,75
9,1875
18
160
100
36
4,25
36,1252
24
640
400
110
51,5002
Estimadores pontuais:
a) Mdia ponderada
pl
i i
i 1
n
640 400 '110 "

80 50 '13,75"
8
i 1
b) Desvio padro de uma observao isolada
pi vi2
n 1
51,500
4,14"
4 1
c) Desvio padro da mdia ponderada
~x
pi vi2
(n 1) pi
~x
51,500
1,46"
(4 1) 8
45
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Clculo dos estimadores por intervalo de confiana:

Para se calcular utilizando intervalo de confiana necessrio escolher um nvel de significncia. Ento
supondo um nvel de significncia = 5%.
a) Clculo do intervalo para a mdia:
P ~
x ~x t ~
x ~x t 1
1
1
2
2
da tabela de Student
3
t0GL
, 975 3,18 ento :
P8050'13,75" 1,46"3,18 8050'13,75" 1,46"3,18 95%
P8050'09,09" 8050'18,41" 95%

b) Clculo do intervalo para a varincia da mdia
x~2 n 1
~x n 1
2
P

1
2
2
1
2
2
da tabela de qui-quadrado
GL 3
2 0 , 025 0, 22
GL 3
2 0,975 9,35
1,462 (4 1)
1,462 (4 1)
95%
P
2
9,35
0,22
ento:
P 0,68"2 2 29,07"2 95%
Extraindo-se a raiz tem-se o intervalo de confiana para o desvio padro
P 0,83" 5,39" 95%
46
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.2. Ajustamento de observaes indiretas

As observaes so classificadas como indiretas quando se mede uma grandeza
de natureza diferente da procurada. Por exemplo, um ngulo para se determinar uma
distncia.
A soluo deste problema reside em se determinar qual o modelo matemtico
que expressa a relao entre o valor medido e o procurado. Dependendo do tipo de
equao encontrada se pode ter trs solues: a soluo pelo mtodo paramtrico, pelo
correlato ou pelo combinado.
Vamos supor que existam trs incgnitas (x, y e z) que se ligam aos valores
medidos (lbi) pelas equaes abaixo:
aix + biy +ciz + lbi = 0
onde: i = 1,n (n 3)
Se n = 3 a soluo nica, porm como lbi so observaes, e seus valores
esto contaminados com os erros de observao, so feitas mais medidas que as
necessrias. Para resolver o problema da inconsistncia do sistema formado (cada conjunto
de 3 equaes fornece uma soluo diferente) aplica-se o principio dos mnimos quadrados.
VTPV = min
O sistema de equaes pode ser matricialmente representado como:
AX + Lb =0
onde:
A - a matriz formada pelos coeficientes do sistema (ai; i=1,n);

X - so os valores incgnitos (x,y e z)
b - so os valores medidos (Lbi).
47
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Aps aplicarmos o M.M.Q. os valores observados no sero mais os originais e

sim ajustados (La), assim como, os parmetros calculados sero denominados de ajustados
(Xa).
Se ao montarmos o sistema de equaes for possvel isolar pela igualdade os
valores incgnitos (parmetros) dos valores observados, resolve-se pelo mtodo
paramtrico.
F(Xa) = La
Se ao montarmos o sistema de equaes s aparecerem valores medidos e

nenhum parmetro, a soluo dada pelo mtodo correlato.
F(La) = 0
Finalmente, se no sistema de equaes no for possvel isolar os parmetros

dos valores observados, a soluo dada pelo mtodo combinado.
F(Xa, La) = 0
48
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.2.1. Mtodo Paramtrico

As equaes que relacionam os valores medidos com os incgnitos, tambm
denominados parmetros, so conhecidas como equaes de observao. A caracterstica
delas que se pode separar observao de incgnita.
F(Xa) = La
fazendo
Xa = X0 + X
La = Lb + V
onde :
Ento
Xa
parmetros incgnitos ajustados
Xo
parmetros aproximados
correes aos parmetros aproximados
La
valores observados ajustados
Lb
valores observados
correes aos valores observados (resduos)
F(X0 + X) = Lb + V
O primeiro termo da igualdade normalmente uma funo do tipo no linear,

portanto a sua linearizao feita por Taylor:
F(X 0)
F
X a
X Lb V
xa x 0
49
AJUSTAMENTO
DE OBSERVAES
fazendo
L0 = F(X0)
L0 + AX = Lb + V
fazendo
L = L0 - Lb
Finalmente
AX + L = V
F
X a
DE
NAZARENO
vem:
xa x 0
AX + L0 Lb = V
Aplicando o mtodo dos mnimos quadrados
= VTPV = ( AX + L )TP(AX + L ) = min

Derivando essa equao e igualando a zero encontra-se um ponto de mnimo.
Esse procedimento j foi realizado no item sobre o M.M.Q. Assim:
X = - (ATPA) -1(ATPL)
Fazendo
N = (ATPA)
X = - N -1U
U = (ATPL)
<=>
Xa = Xo + X
Que a soluo de M.M.Q. para o mtodo paramtrico.
5.2.1.1. Qualidade do ajustamento.

Aps o ajustamento preciso verificar a qualidade dos resultados. No mtodo
dos mnimos quadrados aplica-se um teste de hiptese para verificar se estatisticamente o
sigma a priori ( 02 ), valor terico normalmente igual a 1, igual ao sigma a posteriori (
02 ), valor calculado.
50
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
O valor do sigma a posteriori calculado pela seguinte equao
02
onde :
V T PV
nu
vetor dos resduos
matriz dos pesos
nmero de equaes superabundantes
nmero de parmetros incgnitos
A diferena entre n u
denominado de graus de liberdade (GL).
A matriz peso normalmente definida como sendo a inversa da matriz

varincia-covarincia das observaes vezes o fator sigma a priori.
P 02 Lb1
Para essa comparao utiliza-se um teste de hiptese que pode ser bicaudal ou
unicaudal. No teste bicaudal, a hiptese bsica (Ho) define que estatisticamente sigma a
priori igual ao sigma a posteriori, contra a hiptese alternativa (H1) que sigma a priori
diferente do sigma a posteriori.
No caso do teste unicaudal, a hiptese bsica (Ho) define que estatisticamente
sigma a priori igual ao sigma a posteriori, contra a hiptese alternativa (H1) que sigma a
priori maior que o sigma a posteriori.
Hiptese
Ho :
BICAUDAL
UNICAUDAL
H1 :
>
Para fazer essas comparaes utiliza-se a distribuio de qui-quadrado ( 2 )

onde se define valores tericos, formando um intervalo onde Ho vlida, no caso da
bicaudal, ou apenas, um nico valor terico, no caso da unicaudal (figura 1).
51
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Esses valores tericos so definidos a partir do nvel de significncia () e

dos grau de liberdade (GL = n u).
Ho
H1
GL = n - u
/2
Ho
H1
GL = n - u
1 /2
H1
Teste bicaudal
GL = n - u
1
Teste unicaudal
Figura 1 Teste de hiptese com a distribuio 2 . Caso bicaudal e unicaldal.
A partir do estabelecimento dos limites calcula-se um qui-quadrado amostral

pela seguinte expresso:
2
V T PV
02
Para a hiptese Ho ser considerada vlida esse valor calculado deve estar na
rea de aceitao, como mostra a figura 1, ou seja:
P( 2 / 2GL n -u 2 12GL/ 2 n -u ) 1
=>
P( 2 12GL n -u ) 1
=> caso unicaudal
caso bicaudal
Se a hiptese Ho for considerada vlida o ajustamento no apresenta

problemas e a qualidade dele est atestada.
52
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
No caso da hiptese alternativa H1 ser vlida, o ajustamento apresenta

problemas que podem ter como causa:
a) modelo matemtico inadequado;
b) modelo estocstico inadequado ao se superestimar as observaes e gerando uma
matriz dos pesos com valores muito grandes;
c) presena de erros grosseiros na amostra, o que afeta os valores dos resduos;
Embora existam as duas possibilidades de teste (uni e bicaudal), atualmente

utiliza-se o unicaudal para testar a qualidade do ajustamento
5.2.1.2. Matriz varincia covarincia dos parmetros, das observaes e dos

resduos
Neste mtodo a matriz varincia-covarincia dos parmetros obtida
diretamente da matriz normal invertida (N-1) mais um fator de varincia da unidade de peso
a posteriori. ( 02 )
02 N 1
A matriz varincia-covarincia dos valores ajustados obtida pela seguinte

equao:
02 A N 1 AT
e a matriz varincia-covarincia dos resduos por:
02 ( A N 1 AT P 1 )
53
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.2.1.3. Sequncia prtica de clculo

Quando se pretende ajustar pelo mtodo paramtrico existe uma sequncia de
procedimentos que facilitam o clculo.
1 Passo Define-se o modelo matemtico que liga parmetros com observaes;
2 Passo A partir da matriz varincia-covarincia das observaes, se estabelece a matriz dos
pesos;
3 Passo atribuem-se valores aproximados aos parmetros incgnitos gerando o vetor X0;
4 Passo Calcula-se o vetor L = L0 - Lb. O vetor L0 obtido substituindo-se nas equaes de
observao os parmetros por seus valores aproximados e o vetor Lb montado com as
observaes.
5 Passo Gera-se a matriz dos coeficientes (A). Se o modelo no linear necessrio derivar as
equaes de observao em relao aos parmetros e substituir nestas derivadas, os parmetros
por valores aproximados;
6 Passo Calculam-se as matrizes N = ATPA (matriz normal) e a matriz U = ATPL;
7 Passo Inverte-se a matriz normal (N-1);
8 Passo Calcula-se o vetor de correo aos parmetros aproximados X= - N-1 U;
9 Passo Calculam-se os parmetros ajustados (Xa) e retorna-se ao quarto passo no caso de
modelo no linear. Procede-se desta forma at que o vetor das correes (X) tenda a um valor
que ns consideremos igual a zero.
10 Passo Encerrado o processo de iterao, calcula-se o valor das observaes ajustadas
substituindo-se os parmetros ajustados nas equaes de observao.
La = F (Xa)
11 Passo Calcula-se o vetor dos resduos fazendo a diferena entre os valores observados
ajustados e os observados. V = La Lb;
12 Passo Calcula-se o valor de sigma a posteriori
54
AJUSTAMENTO
DE OBSERVAES
02
DE
NAZARENO
V T PV
nu
13 Passo Aplica-se o teste de hiptese. Se o teste for bem sucedido calculam-se as matrizes
varincia-covarincia dos parmetros, dos valores observados e dos resduos.
14 Passo Clculo das matrizes varincia-covarincia dos parmetros, das observaes e dos
resduos.
Esta sequncia de clculo no precisa ser seguida exatamente nesta ordem,

mas, ela privilegia uma lgica no clculo.
Exemplo 8 - A partir de quatro marcos com coordenadas conhecidas foi medida a distncia
a um ponto central. Calcule as coordenadas desse ponto, ajuste as distncias observadas e
determine a preciso dos valores ajustados.
M1
Marco
M2
l1
l2
X (m)
Y (m)
M1
842,281
925,523
M2
1337,554
996,249
M3
1831,727
723,962
M4
840,408
658,345
l4
l3
M3
M4
Caderneta de Campo
Lbi
Distncia (m)
(m)
244,512
0,012
321,570
0,016
773,154
0,038
279,992
0,014
1 Passo Modelo matemtico

Inicialmente devemos levar em conta que os parmetros procurados so as coordenadas do ponto
central P, que foram observadas distncias e finalmente, que se conhece as coordenadas dos marcos. Ento a
equao que envolve todos esses valores a equao da reta, ou seja:
55
AJUSTAMENTO
DE OBSERVAES
La i
m
i
x Pa
DE
NAZARENO
( yim y Pa ) 2
i 1, 4
onde :
x im , y im
so as coordenadas dos quatro marcos
xPa , yPa
so os parmetros incgnitos ajustadas
Lai
so as distncias observadas ajustadas
Observa-se que neste modelo os parmetros esto de um lado da igualdade e as observaes do outro.
2 Passo Matriz dos Pesos

A matriz dos pesos e formada pela matriz inversa da varincia-covarincia das observaes. As
observaes no so correlacionadas. Ento:
0,012 2
0
Lb
0
0,0162
0
0
0
0
0,0382
0
0 2
m
0
0,014 2
1
0,012 2
P
0
0
1
0,0162
0
0
0
0
1
0,0382
0
0
1
2
m
0
0,014 2
0
3 Passo Atribuio de valores aproximados aos parmetros.

Podem-se utilizar vrios critrios para se estabelecer um valor inicial, como por exemplo, obter
o valor mdio entre os quatros marcos, ou ainda, escolher arbitrariamente um valor. Independentemente do
valor escolhido, aps algumas iteraes, os parmetros convergem para uma nica resposta. Adotaremos,
para efeito de exemplo, os valores da penltima iterao como valores iniciais aproximados.
X0 =
1065,2 m
825,2 m
56
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
4 Passo Clculo do valor L

L = L0 - Lb
L0 = F(X0)
842,281 1065, 2 2 925,523 825,2 2 244, 45365m
1337,544 1065, 2 2 996, 249 825, 2 2 321,60382 m

L0
2
2
1831,727 1065, 2 723,962 825, 2 773,18353m

840,408 1065, 2 2 658,345 825,2 2 279,95006 m
244 , 45365 244 ,512 0, 05835 m

321,60382 321,570 0 ,03382 m
L
773 ,18353 773 ,154 0, 02953 m
279 ,95006 279 ,992 0 , 04194 m

5 Passo Matriz dos coeficientes (A)
O modelo matemtico do tipo no linear. Deste modo necessrio se determinar as equaes
derivadas da funo em relao a xp e yp e substituir nelas os parmetros aproximados.
La i
m
i
x Pa
( yim y Pa ) 2
xm xp
F (la1 )
1
= 0,911907
x p
lo1
ym y p
F (la1 )
1
0,410397
y p
lo1
xm xp
F (la 2 )
2
-0,846831
x p
lo 2
ym y p
F (la2 )
2
0,531862
y p
lo2
xm xp
F (la3 )
3
0,991391
x p
lo3
y 3m y p
F (la3 )
0,130937
y p
lo3
xm x p
F (la4 )
4
0,802972
x p
lo4
ym yp
F (la4 )
4
0,596017
y p
lo4
Colocando estes resultados na matriz dos coeficientes:

0,911907 0,410397
0,846831 0,531862
A
0,991391 0,130937
0,596017
0,802972
57
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
6 Passo Clculo da matriz N (normal) e da matriz U

N = ATPA e U = ATPL
0
0
0
6.944, 44
0,911907 0,410397
0,846831 0,531862
0
3.906,25
0
0
0,911907 0,846831 0,991391 0,802972
0,991391 0,130937
0
0
692,52
0
0, 410397 0,531862 0,130937 0,596017
0
0
0
5.102,04 0,802972
0,596017
12.546,340 3 1.512,3141
N
1.512,3141 4.098,9158
0
0
0 0,05835
6.944,44
3.906,25
0
0 0,03382
0,911907 0,846831 0,991391 0,802972 0
0
692,52
0 0,02953
0,410397 0,531862 0,130937 0,596017 0
0
0
5.102,04 0,04194
0
- 673,5104
U
- 28,8255
7 Passo Clculo da matriz inversa de N
0,083414 - 0.03078
3
N 1
10
0.03078
0,25532
8 Passo Vetor de correo aos parmetros.

-1
X=-N U
X = [0,055294 -0,013371]
58
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
9 Passo Parmetros ajustados.
1 .065 ,2 m 0 ,055294 m 1.065,2553 m

Xa
825 , 2 m 0 ,013371 m 825,1866m

Voltando com esses valores no 4 Passo fazendo Xo = Xa, obtem-se
X = [0,000000 -0,000002]T
Este vetor de correo pode ser considerado igual a zero e, portanto chegou-se ao valor
ajustado para as coordenadas do ponto P.
1.065,2553 m
Xa
825,1866 m
10 Passo Clculo dos valores observados ajustados

842,281 1.065,25532 925,523 825,18662 244,50956m
1337,544 1.065,25532 996,249 825,18662 321,56411m

La
2
2
1831,727 1.065,2553 723,962 825,1866 773,12696m

840,408 1.065,25532 658,345 825,18662 279,98649m
11 Passo Clculo dos resduos
V = La - Lb
244,50956 m 244,512m - 0,0024m

321,56411m 321,570m - 0,0059m
V
773,12696m 773,154 m - 0,0270m
279,98649 m 279,992m - 0,0055m
12 Passo Clculo do sigma a posteriori.

VTPV = 0,8383
0,8383
02
0,4191
42
59
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
13 Passo Teste de Hiptese

Embora exista o teste bicaudal, alguns autores entendem que o unicaudal mais representativo e por
essa razo ele ser empregado nesse exerccio.
Hiptese bsica
Hiptese alternativa
Ho:
H1:
qui-quadrado amostral
Com 02 1
=
>
V T PV
02
2 0,8383
Determinao do2 terico.
Considerando
= 5% de nvel de significncia 1 = 95%
GL = n u = 4 2 = 2 (graus de liberdade)
GL2
Da tabela de 2 obtm-se : 2
5,99
0, 95
P0,8383 5,99 95%

Como o qui-quadrado amostral menor que o terico, ento a hiptese H0 considerada vlida, e
neste caso considera-se que o ajustamento no apresenta problemas.
14 Passo Clculo das matrizes varincia-covarincia
02 N 1
0,00003496 - 0,00001290 2
Xa
m
- 0,00001290 0,00010703
60
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
02 A N 1 AT
1,856 44,147
3,328
56,753
1,856
43,732
16,520 45,680
La
10 6 m 2
44,147
16,520
39,546 13, 218
48,203
3,328 45,680 13,218
A partir destes resultados monta-se uma tabela resumo:

lbi
Distncia medidas (m)
(m)
Distncia ajustadas (m)
(m)
244,512
0,012
244,50955
0,008
321,570
0,016
321,56411
0,007
773,154
0,038
773,12697
0,006
279,992
0,014
279,98649
0,007
Coordenadas (m)
(m)
xp
1.065,2551
0,006
yp
825,1866
0,010
xBpByBpB = -21,09 %
A partir desse exemplo, observa-se que a grande diferena entre um processo de compensao,
comum em topografia, com o de mnimos quadrados, que no segundo, alm de se ter a coordenadas
ajustadas, tem-se tambm a estimativa de preciso dos valores envolvidos.
61
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.3. Ajustamento de observaes diretas condicionadas

As observaes diretas condicionadas so aquelas onde as observaes so
obtidas diretamente com um mensurador de mesma natureza que a grandeza procurada e
se relacionam atravs de uma equao ou funo de condio. Neste caso a soluo de
mnimos quadrados dada pelo mtodo conhecido como Correlatos.
5.3.1. Mtodo dos Correlatos
O modelo matemtico do mtodo dos correlatos ou das equaes de condio
envolve apenas os valores observados e dado por:
F(La) = 0
onde :
La = Lb + V
La
valores observados ajustados
Lb
valores observados
Aplicando a equao no modelo, vem

F(Lb + V) = 0
Fazendo-se uma linearizao por Taylor, obtm-se
F ( La ) F ( Lb V ) F ( Lb )
chamando por
onde :
W = F(Lb)
F
La
F
La
L a Lb 0
Lb
Lb
que corresponde a um vetor erro de fechamento;
a matriz das derivadas derivadas parciais das equaes de

condio em relao as observaes.
62
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
BV + W = 0
Equao correspondente ao modelo dos correlatos ou das equaes de condio
linearizado.
Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:
V T PV 2K T ( BV W ) min
onde :
matriz dos pesos
vetor dos multiplicadores de Lagrange ou dos

correlatos
matriz das derivadas parciais
vetor erro de fechamento
Derivando a equao acima parcialmente em relao aos resduos e aos multiplicadores

de Lagrange e igualando a zero as duas equaes resultantes, tem-se :
2 PV 2 B T K 0
V
PV - B T K 0 (1)
2( BV W ) 0
K
BV W 0 (2)
isolando V na equao (1)

V =P-1BTK
e substituindo na (2), vem:
K = -(BP-1BT)-1W
ou
K = -M-1W
63
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Reescrevendo as equaes numa sequncia lgica.

W = F(Lb)
F
La
Lb
M = BP-1BT
K = -M-1W
V =P-1BTK
La = Lb + V
Essa sequncia a soluo de M.M.Q para o mtodo dos correlatos.
Neste mtodo a matriz varincia-covarincia dos valores ajustados obtida pela
seguinte equao:
02 P 1 I B T M 1 BP 1
e a matriz varincia-covarincia dos resduos pela equao:
V P
2
0
B T M 1 BP 1
o valor de sigma a posteriori pode ser calculado como no mtodo paramtrico ou pela seguinte
frmula:
K TW
02
r
onde :
nmero de equaes de condio ou graus de liberdade

do problema
A qualidade do ajustamento tambm, neste caso feita com a aplicao do

mesmo teste de hiptese utilizado no mtodo paramtrico.
64
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Exemplo 9 - Ajustar a rede de nivelamento geomtrico dado, pelo mtodo das equaes de
condio (correlato). A preciso da observao dada por : 20mm K , sendo K em
quilmetros.
Linha
h (m)
Dist. (km)
6,16
4,5
12,57
2,0
6,41
1,8
1,09
4,0
11,58
2,2
5,07
4,5
3
1
RNA
Obs.: as setas indicam o sentido em que
o terreno se eleva.
1 - Modelo Matemtico
Observando o esquema se extrai trs circuitos diferentes que corresponde a trs equaes de
condio. Considerando que todas as vezes que o sentido de caminhamento for contrrio a seta (elevao do
terreno) adota-se o sinal negativo na equao, vem:
Lb1 - Lb2 + Lb3 = 0
Lb2 - Lb4 - Lb5 = 0
que so as equaes de condio
Lb3 - Lb5 + Lb6 = 0

2 - Vetor das observaes (LB) e dos erros de fechamento (W)
6,16
12,57
6,41
Lb
1,09
11,58
5,07
6,16 12,57 6,41 0,00

W F (Lb) 12,57 1,09 11,58 0,10
6,41 11,58 5,07 0,10
65
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
3 - Matriz das derivadas parciais (B) e dos Pesos (P)
F ( La )
B
La
0 0
1 1 1 0
1 0 1 1 0
Lb 0
0 0 1 0 1 1
Como as observaes so no correlacionadas, a matriz dos pesos s ter valores na diagonal principal.
Estes valores sero calculados multiplicando-se a raiz das distncias em quilmetros por 0,004 m e
quadrando-se em seguida o resultado. No mtodo correlato necessita-se do peso invertido. Neste caso ser
gerada a matriz inversa diretamente. No caso de matrizes diagonais, basta inverter os valores da diagonal.
Ento a matriz invertida de P recebe os seguintes valores:
0
0
0
0
0
0,00180
0
0
,
00080
0
0
0
0
0
0
0,00072
0
0
0
P 1
0
0
0
0
,
00160
0
0
0
0
0
0
0,00088
0
0
0
0
0
0,00180
0
4 - Clculo da Matriz M e dos vetores dos coeficientes de Lagrange (K), dos resduos (V) e dos valores
observados (La)
0,00332 0,0008 0,00072

M BP 1 B T 0,0008 0,00328 0,00088
0,00072 0,00088 0,0034
0,9742
K M 1W 24,5979
22,8390
113,4371 103,6954
351,0272
M 1 113,4371
364,2868 118,3080
103,6954 118,3080 346,6976
0,0018
0,0189
0,0171
1 T
V P B K
0,0394
0,0417
0,0411
6,162
12,589
6,427
La Lb V
1,051
11,538
5,111
66
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
2
5 - Clculo de sigma a posteriori ( 0 ) e da Matriz varincia-covarincia dos valores observados ajustados
(La)
K T W 4,743
02
1,581
r
3
10,48
5,41
5,07
1
2 1
La 0 P ( I BT M 1P1 ) 10000 5,17
0,24
5,31
5,41 5,07
7,71
2,30
5,08
2,63
0,33
5,17
0,24
5,31
2,30
5,08
2,63
0,33
7,37 0,09 2,39 4,98
0,09 10,55 5,48 5,39

2,39 5,48 8,11
5,72
4,98 5,39 5,72 10,70
A partir desta matriz obtm-se as precises dos valores observados ajustados

Linha
1
2
3
4
5
6
hobs (m)
6,16
12,57
6,41
1,09
11,58
5,07
Dist. (km)
4,5
2,0
1,8
4,0
2,2
4,5
Calculando o qui-quadrado amostral para o problema
Considerando
hajust (m)
6,162
12,589
6,427
1,051
11,538
5,111
h(m)
0,032
0,028
0,027
0,032
0,028
0,033
2 4,7437
= 5% de nvel de significncia 1 = 95%

GL = n u = 6 3 = 3 (graus de liberdade)
2
Da tabela de obtm-se : 02,95;GL3 7,82
P4,7437 7,82 95%

Como o qui-quadrado amostral menor que o terico, ento a hiptese H0 considerada vlida, e
neste caso considera-se que o ajustamento no apresenta problemas.
67
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5.4. Mtodo Combinado

Quando no for possvel explicitar as observaes em funo dos parmetros a
soluo por M.M.Q. dada pelo mtodo Combinado, cuja equao de definio a
seguinte:
F(La,Xa) = 0
onde :
La = Lb + V
- valores observados ajustados
Xa = Xo + X
- parmetros ajustados
Aplicando a equao no modelo, vem

F(Lb + V, Xo + X) = 0
Fazendo-se uma linearizao por Taylor, obtm-se
F ( La ) F ( Lb V , X 0 X ) F ( Lb , X 0 )
chamando por
onde :
W = F(Lb; Xa) ;
F
X a
F
X a
X a X 0
Xo
e
X0
F
La
F
La
L a Lb 0
Lb
Lb
que corresponde a um vetor erro de fechamento;

observao em relao aos parmetros.

observao em relao s observaes.
AX + BV + W = 0
Equao correspondente ao modelo Linearizado do mtodo combinado.
68
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Aplicando o princpio do mtodo dos mnimos quadrados ao modelo, vem:
V T PV 2K T ( AX BV W ) min
onde :
matriz dos pesos
vetor dos multiplicadores de Lagrange ou dos

correlatos
Matriz das derivadas parciais (parmetros)
matriz das derivadas parciais (observaes)
vetor erro de fechamento
Derivando a equao acima parcialmente em relao aos resduos (V), aos

multiplicadores de Lagrange (K) e as correes (X) e igualando a zero as trs equaes
resultantes, tem-se :
2 PV 2 B T K 0
V
2( AX BV W ) 0
K
2 AT K 0
X
PV - B T K 0 (1)
AX BV W 0 (2)
AT K 0 (3)
isolando V na equao (1)
V =P-1BTK
69
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
e substituindo na equao (2), vem:
AX + BP-1BTK + W = 0
Fazendo M = BP-1BT
AX + MK + W = 0
Isolando K
K = -M-1(AX +W )
Substituindo em (3)
-ATM-1(AX +W ) = 0
< = > X = -(ATM-1A)-1ATM-1W
Reescrevendo numa sequncia lgica

W = F(Lb;Xo)
F
X a
X0
F
La
Lb
M = BP-1BT
X = -(ATM-1A)-1ATM-1W
K = -M-1(AX +W )
V =P-1BTK
La = Lb + V
Xa = Xo + X
70
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
O conjunto destas equaes a soluo de M.M.Q para o mtodo combinado.
Neste mtodo a matriz varincia-covarincia dos parmetros obtida pela

seguinte equao
02 AT M 1 A
A matriz varincia-covarincia dos valores observados ajustados obtida pela

seguinte equao:
02 P 1 I B T M 1 BP 1
Exemplo 10 Um agrimensor precisa medir a rea coberta por um piv central e s dispe,
no momento, de um GPS de Navegao. Uma soluo possvel seria a de se obter as
coordenadas do centro e de um ponto na periferia do piv e calcular o seu raio. Ocorre que
a definio do centro no lhe pareceu algo simples e ele optou por determinar as
coordenadas de 4 pontos no alinhados pertencentes ao contorno da rea do piv. Tendo
as coordenadas e sabendo que a acurcia de um GPS de Navegao gira ao redor de 10 m,
calcule a rea do piv central e estime a preciso dessa determinao.
Ponto
1
2
3
4
(m)
654.216
654.445
654.422
654.221
N (m)
8.250.517
8.250.498
8.250.299
8.250.302
1 - Modelo Matemtico
Para determinar a rea do piv necessrio se calcular o raio desse piv. Ento, indispensvel que se
gere um modelo onde seja possvel o clculo dessa grandeza. Assim, pdemos usar a equao da circunferncia
que envolve as coordenadas medidas, as coordenadas do centro e o raio da circunferncia.
71
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Fazendo a coordenada E = x e N = y, vem:
(x1 xc) + (y1 Yc) - R = 0
onde:
xi,yi coordenadas medidas (LB)
(x2 xc) + (y2 Yc) - R = 0
xc,yc coordenadas do centro (parmetro)
(x3 xc) + (y3 Yc) - R = 0
R raio do piv (parmetro)
(x4 xc) + (y4 Yc) - R = 0

Neste modelo se tem trs incgnitas e quatro equaes, o que nos d 1 grau de liberdade, o que
permite proceder ao ajustamento. Observa-se ainda, que incgnitas e observaes, no podem ser separadas
pelo sinal de igualdade. Assim, o ajustamento feito pelo mtodo combinado.
F(xa,La) = 0
2 - Parmetro aproximados
Existem vrias formas de se escolher o parmetro inicial. Vamos adotar a mdia das coordenadas
observadas para determinar as coordenadas do ponto central e a distncia do ponto 1 at esse, como raio
inicial.
Procedendo-se aos clculos chega-se a: Xo = [654.326 8.250.404 157,7]T
3 - Clculo do vetor W
(654.216 654.326)
(654.445 654.326)
=
(654.422 654.326)
(654.221 654.326)
+ (8.250.517 8.250.404)
+ (8.250.498 8.250.404)
+ (8.250.299 8.250.404)
+ (8.250.302 8.250.404)
157,7
157,7
157,7
157,7
0,29
1.872,29
=
4.628,29
3.440,29
4 - Clculo das Matrizes A e B
F
X a
B
X0
F
La
Lb
72
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Derivando as equaes do modelo em relao aos parmetros xc,yc e R vem:
F1
2 ( x1 xc ) = 220
xc
F1
2 ( y1 yc ) = - 226
y c
F1
2 R = - 315,40
R
F 2
2 ( x2 xc ) = - 238
xc
F 2
2 ( y 2 yc ) = - 188
y c
F 2
2 R = - 315,40
R
F 3
2 ( x2 xc ) = - 192
xc
F 3
2 ( y3 yc ) = 210
yc
F 3
2 R = - 315,40
R
F 4
2 ( x4 xc ) = 210
xc
F 4
2 ( y4 yc ) = 204,97
yc
F 2
2 R = - 315,40
R
e derivando em relao as observaes x1, y1, x2, y2, x3, y3, x4, y4 , tem-se:
F1
2 ( x1 xc ) = - 220
x1
F1
2 ( y1 y c ) = 226
y1
F 1
0
x2
F 1
0
y 2
F1
0
x3
F 1
0
y 3
F1
0
x4
F 1
0
y 4
F 2
2 ( x2 xc ) = 238
x2
F 2
2 ( y 2 y c ) = 188
y 2
F 2
0
x 1
F 2
0
y 1
F 2
0
x 3
F 2
0
y 3
F 2
0
x 4
F 2
0
y 4
F 3
2 ( x 3 x c ) = 192
x3
F 3
2 ( y 3 y c ) = - 210
y 3
F 3
0
x 1
F 3
0
y 1
F 3
0
x 2
F 3
0
y 2
F 3
0
x 4
F 3
0
y 4
F 4
2 ( x 4 x c ) = - 210
x 4
F 4
2 ( y 4 y c ) = - 204,97
y 4
F 4
0
x1
F 4
0
y1
F 4
0
x 2
F 4
0
y 2
F 4
0
y 3
F 4
0
x 3
Arranjando esses valores nas respectivas matrizes, vem

220
226
238 188
=
192
210
210 204,97
-220 226
0
0
0 238
B=
0
0
0
0
0
0
315,40
315,40
315,40
315,40
0
0
0
0
0
188 0
0
0
0
0 192 -210
0
0
0
0
0
-210 -204,97
73
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
5 - Clculo da Matriz dos Pesos.

A matriz dos pesos calculada multiplicando-se a matriz varincia covarincia das observaes
invertida pelo sigma a priori. Considerando que a acurcia de um GPS de navegao de 10m e que no se
tem como saber da existncia de tendncia na presente situao, vamos assumir que este valor tambm o
da preciso. Decompondo esse valor nas componentes X e Y, assumidas como iguais:
=
= 7,07
Elevando-se esse valor ao quadrado tm-se as varincias das coordenadas x e y de todos os pontos
=
= 50
Montando-se a matriz dos pesos e no esquecendo que sigma a priori igual a 1:

1
50
0
P
0
1
50
1
50
1
50
1
50
0
0
1
50
1
50
0
1
2
0 m
50
P 1
50 0 0 0 0 0 0 0
0 50 0 0 0 0 0 0
0 0 50 0 0 0 0 0
0 0 0 50 0 0 0 0 2
m
0 0 0 0 50 0 0 0
0 0 0 0 0 50 0 0
0 0 0 0 0 0 50 0
0 0 0 0 0 0 0 50
6 - Clculo das Matrizes M, X, K e V.
= .
= (
4.973.800
0
0
0
0
4.599.400
0
0
=
0
0
4.048.200
0
0
0
0
4.305.601,2
. ) .
3,2919
= 7,4984
7,7958
74
AJUSTAMENTO
DE OBSERVAES
.( .
DE
NAZARENO
0,0000077
0,0000083
)=
0,0000095
0,0000089
0,0848
0,0871
0,0991
0,0783
=
0,0910
0,0995
0,0929
0,0907
7 - Clculo das Matrizes dos parmetros ajustados (Xa) e das observaes ajustadas (La).
3,2979
654.326,00
654.322,7021
+ = 8.250.404,00 + 7,4984 = 8.250.411,4989
7,7958
157,70
149,9042
0,0848
654.216,0000
654.216,085
8.250.517,0000 0,0871
8.250.516,913
0,0991
654.445,0000
654.445,099
8.250.498,0000 0,0783
8.250.498,078
+ =
+
=
654.422,0000
0,0910

654.421,909
8.250.299,0000
0,0995
8.250.299,099
654.221,0000 0,0929
654.220,907
8.250.302,0000 0,0907
8.250.301,425
O modelo deste problema do tipo no linear, e por essa razo, necessrio se aplicar algumas
iteraes at que o vetor X (das correes) se aproxime de zero. Fazendo Xa = Xo aps 3 iteraes o vetor
das correes X se aproxima de zero e como resultado tem-se:
654.322,69
= 8.250.411,50
149,92
654.216,80
8.250.516,90
654.445,10
8.250.498,10
=
654.421,91
8.250.299,10
654.220,91
8.250.301,40
75
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
8 - Clculo das Matrizes varincia-covarincia dos parmetros e das observaes ajustadas
K T W 0,0013121
02
0,0013121
r
1
2
0
A M A
0,0317101 0,0003591 0,0006815

0,000359
0,0341984 0,0017317 m
0,0006815 0,0017317 0,0165042
INCGNITA
Xc =
654.322,69 m
0,178 m
Yc =
8.250.411,50 m
0,185 m
R=
149,92 m
0,128 m
% ;
0,03243
0,0328
0
La 0
Ponto
0,0328
0,0332
0
0
0
0
0
0
(m)
0
0
, %;
, %
02 P 1 I B T M 1 BP 1
0
0
0
0
0
0
0
0
0
0
0,0219 0,0309
0
0
0
0
0,0309 0,0437
0
0
0
0
0
0
0,0369 0,0325
0
0
0
0
0,0325 0,0287
0
0
0
0
0
0
0,0354 0,0327
0
0
0
0
0,0327 0,0302
E (m)
E (m)
N (m)
N (m)
654.216,08
0,1801
8.250.516,90
0,1821
654.445,10
0,1479
8.250.498,10
0,2091
654.421,91
0,1920
8.250.299,1 0
0,1695
654.220,91
0,1881
8.250.301,40
0,1739
76
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Se for calculada a matriz de correlao correspondente a La contatar-se- que as coordenadas x e y

tem xy = 1, ou seja, um erro na determinao da coordenada x tem 100% de probabilidade de afetar a
coordenada Y.
9 - Clculo da rea do piv e preciso da rea.
A equao da rea de uma circunferncia dada por:
= .
Basta substituir o valor do raio calculado na equao para se obter a rea.
= . (149,92 m) = 70.610,46 m
Para se determinar a preciso dessa rea s fazer uma propagao de varincia.
A =D.R.DT
=
2. .
= 2. . 149,92 = 941,98 m
= (0,128) =0,0164m
A = 941,98m 0,0164 m 941,98m = 14.537,845m4

Extraindo-se a raiz da varincia da rea, obtem-se a preciso:
A = 120,573 m
Finalmente, a rea e a preciso procuradas so:
A = 70.610,46 m 120,573 m
77
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
REFERNCIAS BIBLIOBRFICAS
CAMARGO, P. O. Ajustamento de Observaes. Presidente Prudente. (Notas de aula do

Curso de Graduao em Engenharia Cartogrfica, FCT/UNESP) , 2000.
DALMOLIM, Q. Ajustamento por Mnimos Quadrados. Curitiba: Ed. UFPR, 2002.
GEMAEL, C. Introduo ao Ajustamento de Observaes: Aplicaes Geodsicas. Curitiba:
Ed. UFPR, 1994.
MONICO, J. F. G eti alli. Acurcia e preciso: Revendo os conceitos de forma acurada.
Boletim Cincias Geodsicas, sec. Comunicaes, Curitiba, v. 15, no 3, p.469-483, jul-set,
2009.
78
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
APNDICE A
79
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Ajustamento de poligonais topogrficas/geodsicas pelo mtodo dos

correlatos.
Normalmente quando feito um levantamento topogrfico, seja ele para definir a
divisa de uma propriedade ou para alguma obra de engenharia, necessria a utilizao de
poligonais neste levantamento. As poligonais podem ser classificadas como abertas ou
fechadas e com controle e sem controle. O que se tratar neste texto o ajustamento de
poligonais planas abertas e controladas.
Se os dados da poligonal forem oriundos da superfcie elipsoidal, deve-se proceder
inicialmente a transformao destes para a superfcie de projeo (UTM). Estas
transformaes so objetos da Geodsia e no sero tratadas aqui.
Inicialmente preciso estabelecer algumas condies deste problema:
a) toda poligonal controlada sai de um marco de coordenadas conhecidas e
termina em outro de coordenadas tambm conhecidas;
b) necessrio que se conhea o azimute de uma direo tanto no marco inicial
como no final. Estes azimutes so definidos como de sada e chegada;
Para entender o processo de ajustamento vamos imaginar a poligonal
esquematizada na figura 1.
M1
a2
a4
a3
a1
d M 21
d1
d 23
2
a5
d 34
M2
M4
a6
4
d4M
M3
Figura 1 Poligonal plana controlada
Os marcos M1, M2, M3 e M4 tm coordenadas conhecidas e, deste modo, tem-se

as coordenadas de sada (M2) e chegada (M3) e os marcos M2 associado ao M1 e o M3
associado ao M4 permitem que se calcule os azimutes de sada e chegada. Esto
explicitados ainda nesta figura, os valores observados (ngulos e distncias).
80
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Nota-se que o nmero de distncias medidas igual aos dos ngulos horizontais
diminudos de 1, ou seja: so 6 ngulos e 5 distncias. Essa regra vale sempre e o nmero
de observaes totais (ngulos horizontais e distncias) dado por:
n = 2v-1
onde: v = o nmero de vrtices efetivamente ocupados.
No presente caso, 6 vrtices (M2, 1, 2, 3, 4 e M3).
O mtodo correlato ou das equaes de condio, ao ser aplicado a este tipo de
problema, impe 3 equaes de condio, independente do nmero de observaes; uma
relativa ao azimute e outras duas as coordenadas x e y.
No que diz respeito equao de azimute, ao se transportar o azimute da direo
M2M1, atravs dos ngulos horizontais medidos, para a direo M3M4, esse valor
calculado, se no existissem erros de observao, seria igual ao azimute calculado atravs
das coordenadas dessa direo. Assim, a equao de condio do azimute :

onde:
= 0 (1)
o azimute final ou de chegada transportado a

partir dos ngulos horizontais.
o azimute de chegada calculado pelas

coordenadas (conhecido).
Com respeito s equaes de coordenadas, o princpio de raciocnio o mesmo, ou

seja, as coordenadas X e Y, do marco M3, transportadas atravs das observaes devem ser
iguais s coordenadas do prprio marco, ou seja:
onde:
= 0; (2)
= 0; (3)
so as coordenadas do marco M3 transportadas

a partir das observaes.
- so as coordenadas do marco M3 (conhecido).
81
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
O azimute transportado pela seguinte equao genrica:

( 1) 180
(4)
i = 1, v
Considerando que no caso estudado v = 6, vem:
900
As coordenadas por sua vez so transportadas pelas equaes:

(5)
(6)
i = 1, v-1
Ento, aplicando ao problema:
Estas equaes nos mostram que necessrio fazer uma propagao de varincias
para determinar a preciso dos azimutes, uma vez que foram medidos ngulos horizontais.
Como a equao dos azimutes do tipo linear basta aplicar a seguinte equao de
propagao:
onde:
Matriz dos coeficientes
Matriz varincia-covarincia (M.V.C.) dos ngulos

horizontais medidos.
Az
Matriz varincia-covarincia (M.V.C.) dos azimutes

calculados.
82
AJUSTAMENTO
DE OBSERVAES
A partir da equao (4) e adotando o superndice

ser calculados por:
=
180
360
540
720
DE
NAZARENO
para transportado, os azimutes podem
900
Escrevendo sobre forma matricial:
1
1
= 1
1

1
0
1
1
1
1
1
0
0
1
1
1
1
0
0
0
1
1
1
0
0
0
0
1
1
0

0
180
360
540
720
900
que uma expresso do tipo Y = G X + C

Os ngulos horizontais so oriundos de observaes independentes e, portanto, a M.V.C uma
matriz diagonal.
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
Feita a propagao para os azimutes, o prximo passo e gerar a matriz dos pesos do
problema que definida por:
P 02 Lb1
onde:
02
Sigma-a-priori ou fator de varincia da matriz de peso

unitria, normalmente igual a 1.
Lb1
M.V.C. das observaes invertida.

83
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
A M.V.C. das observaes composta por 4 sub-matrizes.
A sub-matriz dos azimutes foi obtida pela propagao dos ngulos horizontais, e
considerando que azimutes e distncias so medidas no correlacionadas, as sub-matrizes
referentes ao azimute e distncia so nulas. As distncias tambm so no correlacionadas entre si,
o que faz com que a sub-matriz das distncias seja uma matriz diagonal.
0
0
0
0
0
0
0
0
0
0
0
0
0
Definidos os elementos que compes a M.V.C. da Lb s proceder inverso.
0
0
02 .
0
0
Dando continuidade, necessrio ainda montar as matrizes W = F(Lb) e a B
F
La
.
Lb
A matriz W representa o erro de fechamento e obtida substituindo-se os valores

observados nas equaes de condio, ou seja:
+
+
+
+
+
+
+
+
+
+
e a matriz B gerada pela derivada parcial destas mesmas equaes pelas observaes. O termo
observao est entre aspas porque o azimute no uma observao, mas um valor derivado dos
ngulos horizontais observados.
84
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
aplicando as derivaes s equaes:
Finalmente s proceder a sequncia de clculos do mtodo.

M = BP-1BT
K = -M-1W
V =P-1BTK
La = Lb + V
Calculado os valores observados ajustados s aplic-los no modelo matemtico e obter as
coordenadas dos vrtices.
As M.V.C dos valores observados ajustados e dos resduos so calculados pelas seguintes expresses
matriciais :
La 02 P 1 I B T M 1 BP 1
V P
2
0
B T M 1 BP 1
O clculo do sigma-a-posteriori feito pela seguinte frmula:

T
2 K W
0
r
onde :
nmero de equaes de condio ou graus de liberdade

do problema (r = 3)
85
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Com este valor faz-se o teste de qualidade do ajustamento para verificar se no existem
erros grosseiros nos dados.
Para entender todo processo, vamos aplicar o mtodo num exemplo prtico.
Exemplo - Foi executada uma poligonal eletrnica cujos dados esto na sequncia. Ajuste a
poligonal pelo mtodo dos mnimos quadrados, calcule as coordenadas dos vrtices 1, 2, 3 e 4, bem
como a preciso de cada um deles.
Marcos
E (m)
N (m)
M1
806.473,6434
8.161.899,6488
d = +/- 5mm +/- 10ppm
(preciso linear)
M2
806.772,2698
8.160.426,9561
= 5
(preciso angular)
M3
811.367,2610
8.159.608,7935
M4
812.089,7437
8.160.840,8501
ESTAO
DIREO
Distncia
(m)
ESTAO
1.056,1560
M2
M1
72 34 46,50
1
M2
242 17 44,20
Distncia
(m)
1.063,5452
4
4
233 15 53,20
1.025,9100
DIREO
154 59 00,00
1.014,3341
M3
M3
141 14 06,30
1.123,7600
97 29 27,00
M4
M1
a2
a4
a3
a1
d12
M4
d 23
2
a5
d 34
M2
1
M2
a6
4
d4M
M3
86
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
O ajuste pelo mtodo dos mnimos quadrados pelo mtodo dos correlatos implica em trs equaes de
condio, uma relativa a azimute e duas as coordenadas:
=0
= 0;
= 0;
Para se ter o azimute e as coordenadas transportadas so necessrios inicialmente se calcular os azimutes de

sada e chegada, depois calcular os azimutes de todas as direes e finalmente transportar as coordenadas. O
clculo dos azimutes de sada e chegada feito pelas coordenadas dos marcos M1, M2, M3 e M4. Como se
quer o azimute da direo M2M1 e M3M4 importante se calcular a diferena de coordenadas E e N de
forma correta. Isto feito utilizando-se uma regra bsica: coordenada do ponto visado menos a coordenada
do ponto onde se est estacionado. Ento:
E2E1 = E1 E2
806.473,6434m -
806.772,2698m
E2E1 =
-298,6264 m
N2N1 = N1 N2
8.161.899,6488m -
8.160.426,9561m
N2N1 =
1.472,6927m
E3E4 = E4 E3
812.089,7437m -
811.367,2610m
E3E4 =
722,4827m
N3N4 = N4 N3
8.160.840,8501m -
8.159.608,7935m
N3N4 =
1.232,0566m
Aplicando uma relao trigonomtrica calculam-se os azimutes

Norte
E2E1
M1
N2N1
=
1
(0,202775773)
298,6264 m
1.472,6927m
AZM2M1 = -1127 45,9851
Fazendo um estudo de sinal chega-se a concluso que o azimute um arco do 4

quadrante (E2E1 e N2N1 +).
d M21
AZM2M1 = 34832 14,0149 (azimute de sada)
M2
Fazendo o mesmo clculo para a direo M3M4, vem:
AZM2M1
Norte
=
M4

AZM3M4
6
d4M
E3E4
N3N4
722,4827m
1.232,0566m
(0,586403823) AZM3M4 = 3023 15,0816
Pelo estudo de sinal chega-se a concluso que o azimute de chegada um arco

do 1 quadrante (E3E4 + e N3N4 +).
M3
87
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Com o azimute de sada se pode calcular todos os azimutes pela equao genrica:

( 1) 180
i = 1, v
Ento:
= 34832 14,0149 + 72 34 46,50
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 180
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 360
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 540
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 + 154 59 00,00 720
= 34832 14,0149 + 72 34 46,50 + 233 15 53,20 + 141 14 06,30 + 242 17 44,20 + 154 59 00,00
+ 97 29 27,00 900
= 42107 00,5149"
6107 00,5149"
= 47422 53,7149"
11422 53,7149"
= 43537 00,0149"
7537 00,0149"
= 49754 44,2149"
13754 44,2149"
= 47253 44,2149"
11253 44,2149"
= 39023 11,2149"
3023 11,2149"
Com os azimutes calculados associado s distncias medidas, se pode agora calcular as coordenadas
transportadas do marco M3.
(6107 00,5149") + 1.025,9100

(11422 53,7149") + 1.123,7600
'
(7537 00,0149) + 1.063,5452 sen(13754 44,2149) + 1.014,3341
(11253 44,2149")
= 806.772,2698 + 1.056,1560
= 8.160.426,9561 + 1.056,1560
(6107 00,5149") + 1.025,9100
(11422 53,7149") + 1.123,7600
(7537 00,0149) + 1.063,5452

(13754' 44,2149) + 1.014,3341
(11253 44,2149")
= 811.367,2783 m
= 8.159.608,8419 m
Com estes valores calculados se determina o vetor erro de fechamento.
3023 11,2149" 3023 15,0816

811.367,2783 m 811.367,2610m
8.159.608,8419 m 8.159.608,7935m
03,8667
0,0173m
0,0484m
88
AJUSTAMENTO
DE OBSERVAES
NAZARENO
DE
Para dar continuidade no mtodo necessrio se gerar a matriz dos pesos P e a dos coeficientes
F
La
Lb
Para gerar a matriz P precisamos inicialmente propagar a preciso dos ngulos para os azimutes. A propagao
feita pela equao matricial:
A matriz G obtida do modelo matemtico de clculos dos azimutes na forma matricial

1
1
= 1

1
1
0
1
1
1
1
1
0
0
1
1
1
1
0
0
0
1
1
1
0
0
0
0
1
1
0

0
1
1
180
360
1
G =
540
1
1
720
1
900
0
1
1
1
1
1
0
0
1
1
1
1
0
0
0
1
1
1
0
0
0
0
1
1
0
0
0
0
0
1
e a M.V.C dos ngulos uma matriz diagonal composta pelas varincias dos ngulos25"2)
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
"
25
0
= 0
0
0
0
0
25"
0
0
0
0
0
0
25"
0
0
0
0
0
0
25"
0
0
0
0
0
25"
0
0
0
0
0
0
25"
0
0
0
0
0
25"
0
0
0
0
0
0
25"
aplicando a multiplicao matricial

1
1
1
=
1
1
1
0
1
1
1
1
1
0
0
1
1
1
1
0
0
0
1
1
1
"
0
25
0 0
0 0
0 0
0 0
1 0
0
0
0
0
1
1
"
25"
25
"
= 25"
25
25"
25"
0
25"
0
0
0
0
25"
50"
50"
50"
50"
50"
0
0
25"
0
0
0
25"
50"
75"
75"
75"
75"
25"
50"
75"
100"
100"
100"
0
0
0
0
0
25"
25"
50"
75"
100"
125"
125"
1
0
0
0
0
0
25"
50"
75"
100"
125"
150"
1
1
0
0
0
0
1
1
1
0
0
0
1
1
1
1
0
0
1
1
1
1
1
0
1
1
1
1
1
1
Para que haja compatibilidade de unidades os valores dessa matriz tm que ser transformado em radianos. Como os
valores esto em segundos de arco ao quadrado (2) basta multiplicar todos os elementos por
(1").
"
25"
25
"
= 25"
25
25"
25"
25"
50"
50"
50"
50"
50"
25"
50"
75"
75"
75"
75"
25"
50"
75"
100"
100"
100"
25"
50"
75"
100"
125"
125"
25"
50"
75"
100"
125"
150"
(1")
89
AJUSTAMENTO
DE OBSERVAES
0,587611
0,587611
0,587611
=
0,587611
0,587611
0,587611
0,587611
1,17522
1,17522
1,17522
1,17522
1,17522
0,587611
1,17522
1,76283
1,76283
1,76283
1,76283
0,587611
1,17522
1,76283
2,35044
2,35044
2,35044
0,587611
1,17522
1,76283
2,35044
2,93805
2,93805
DE
NAZARENO
0,587611
1,17522
1,76283
109 radianos
2,35044
2,93805
3,52566
Com a M.V.C. dos azimutes conhecida, necessrio que se calcule a varincia das distncias.
A especificao do equipamento informa que a preciso da distncia e dada pela equao:
d =+/- 5mm +/- 10ppm
Ento:
10 1.056,1560m
1.000.000
= 0,0156
= 0,0002422m
10 1.025,9100m
1.000.000
= 0,0153
= 0,0002328m
= 0,005
10 1.123,7600m
1.000.000
= 0,0162
= 0,0002637m
1.063,5452m
= 0,005
10 1.063,5452m
1.000.000
= 0,0156
= 0,0002445m
1.014,3341m
= 0,005
10 1.014,3341m
1.000.000
= 0,0151
= 0,0002293m
dM21 =
1.056,1560m
= 0,005
d12 =
1.025,9100m
= 0,005
d23 =
1.123,7600m
d34 =
d4M3 =
Lembrando que a M.V.C das distncias uma matriz diagonal, com esses valores possvel montar a matriz Peso.
importante lembrar que no mtodo correlato, o que se utiliza a matriz peso invertida e assim se aplicam as prprias
matrizes varincias covarincias.
0
=
0,587 10
0,587 10
0,587 10
0,587 10
0,587 10
= 0,587 10
0,587 10
1,175 10
1,175 10
1,175 10
1,175 10
1,175 10
0
0
0
0
0
0,587 10
1,175 10
1,762 10
1,762 10
1,762 10
1,762 10
0
0
0
0
0
02
0,587 10
1,175 10
1,762 10
2,350 10
2,350 10
2,350 10
0
0
0
0
0
0,587 10
1,175 10
1,762 10
2,350 10
2,938 10
2,938 10
0
0
0
0
0
0,587 10
1,175 10
1,762 10
2,350 10
2,938 10
3,526 10
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0
0,0002422
0
0
0
0
0
0,0002328
0
0
0
0
0
0,0002637
0
0
0
0
0
0,0002445
0
0
0
0
0
0,0002293
Finalmente necessrio se calcular a matriz B que obtida derivando-se parcialmente as equaes de condio pelas
observaes.
1
0
90
AJUSTAMENTO
0
= 510,15
924,78
DE OBSERVAES
423,51
279,15

0
DE
NAZARENO
789,28 394,63
0,87561
0,91082
0,96866
0,67027
934,42 1088,54 712,86 934,42
0,48303 0,41281 0,24841 0,74212 0,38905
0,92122
Agora apenas uma questo de operaes com matrizes:

M = BP-1BT
K = -M-1W
V =P-1BTK
La = L b + V
3,52566 10
= 2,72045 10
7,98137 10
2,72045 10
0,003756798
0,007765259
7,98137 10
0,007765259
0,027109793
949.839.096,3969 269.160,1818 202.543,8692

269.160,1818
728,7857
129,5082
202.543,8692
129,5082
133,6138
3.341,3684
1,3240
0,4215
0,0000037 rad
0,7710"
0,0000076 rad
1,5766"
0,0000110 rad
2,2666"
0,0000143 rad
2,9457"
0,0000168 rad
3,4618"
= 0,0000187 rad transformando a correo dos ngulos para segundos = 3,8667"
0,0003300 m
0,0003 m
0,0002403 m
0,0002 m
0,0003657 m
0,0004 m
0,0001405 m
0,0001 m
0,0002421 m
0,0002 m
Finalmente:
61 07 01,2859
114 22 55,2915
75 37 02,2814
137 54 47,1606
112 53 47,6766
= 30 23 15,0816
1.056,1557 m
1.025,9098 m
1.123,7596 m
1.063,5451 m
1.014,3339 m
Esses so os valores ajustados das observaes usando o critrio de mnimos quadrados. No entanto, antes
de se passar para os clculos das coordenas dos vrtices da poligonal, necessrio se testar a qualidade do
ajustamento.
91
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
O teste feito aplicando-se um teste de hiptese onde se compara o sigma-a-priori (
posteriori (
) com o sigma-a-
), ou seja:
Teste de hiptese.
Hiptese bsica
Hiptese alternativa
=
qui-quadrado amostral
Ho
H1
>
verificado se o qui-quadrado amostral atende a equao abaixo:

<
( ,
= 1
O terico obtido de uma tabela ou diretamente no Excel atravs da funo inv.Qui(,GL).

Considerando um nvel de significncia = 10% e GL = 3, vem
Aplicando a equao
e lembrando que
% , )
=1
= 6,25 (valor terico)
= 0,1060
Como esse valor menor que o qui-quadrado terico entende-se que estatisticamente
=
o que indica que
a hiptese Ho vlida e o ajustamento no apresenta problemas e, portanto, os resultados so confiveis.
Dando continuidade ao problema preciso calcular as M.V.C dos valores observados ajustados. Isso feito atravs da
equao matricial:
La =
02 P 1 I B T M 1 BP 1
8,76x10-12
1,88x10-12
-2,90x10-12
-2,71x10-12
-2,45x10-12
-4,38x10-10
-1,79x10-9
-1,01x10-9
-2,06x10-9
-1,74x10-9
1,88x10-12
8,80x10-12
-4,75x10-13
-4,00x10-12
-4,30x10-12
8,27x10-10
-1,04x10-9
3,37x10-10
-1,74x10-9
-9,75x10-10
-2,90x10-12
-4,75x10-12
7,23x10-12
4,06x10-13
-2,44x10-12
1,10
x10-9
-9,70x10-10
5,90x10-10
-1,79x10-9
-9,03x10-10
-2,71x10-12
-4,00x10-12
4,06x10-13
7,95x10-12
1,19 x10-12
2,44 x10-9
9,75x10-10
2,42x10-9
1,66x10-11
1,02x10-9
-2,45x10-12
-4,30x10-12
-2,44x10-12
1,19x10-12
x10-12
1,68
x10-9
7,81x10-10
1,70x10-9
1,53x10-10
8,05x10-10
-3,71x10-24
3,74x10-24
3,74x10-24
2,10x10-24
2,81x10-24
-4,38x10-10
8,27x10-10
1,10x10-9
2,44x10-9
1,68x10-9
-3,71x10-24
7,56x10-6
-1,08x10-6
-1,23x10-6
-8,83x10-7
-1,08x10-6
-1,79x10-9
-1,04x10-9
-9,70x10-10
9,75x10-10
7,81x10-10
3,74x10-24
-1,08x10-6
6,84x10-6
-1,41x10-6
-1,23x10-6
-1,37x10-6
-1,01x10-9
3,37x10-10
5,90x10-10
2,42x10-9
1,70x10-9
3,74x10-24
-1,23x10-6
-1,41x10-6
7,77x10-6
-1,18x10-6
-1,40x10-6
-2,06x10-9
-1,74x10-9
-1,79x10-9
1,66x10-11
1,53x10-10
-2,34x10-25
-8,83x10-7
-1,23x10-6
-1,18x10-6
7,52x10-6
-1,21x10-6
-1,74x10-9
-9,75x10-10
-9,03x10-10
1,02x10-9
8,05x10-10
2,64x10-24
-1,08x10-6
-1,37x10-6
-1,40x10-6
-1,21x10-6
6,74x10-6
9,17
92
AJUSTAMENTO
DE OBSERVAES
DE
NAZARENO
Calculando a raiz quadrada das varincias se chega s precises dos valores ajustados, ou seja:
Azimutes Ajustados
Segmento
Distncia
Ajustadas
Az12 =
61
7'
1,2859 ''
+/- 0,6107 ''
Az23 =
114
22 '
55,2915 ''
+/- 0,6118 ''
M2 - 1
1.056,1557 m
+/- 0,0027 m
Az34 =
75
37 '
2,2814 ''
+/- 0,5546 ''
1-2
1.025,9098 m
+/- 0,0026 m
Az45 =
137
54 '
47,1606 ''
+/- 0,5815 ''
2-3
1.123,7596 m
+/- 0,0028 m
Az5M3 =
112
53 '
47,6766 ''
+/- 0,6247 ''
3-4
1.063,5451 m
+/- 0,0027 m
AzM3M4 =
30
23'
15,0816 ''
+/- 0,0000 ''
4 - M3
1.014,3339 m
+/- 0,0026 m
Do ponto de vista do ajustamento por mnimos quadrados o clculo terminaria aqui, todavia foram solicitadas as
coordenadas dos vrtices da poligonal e as respectivas precises.
Com os valores observados ajustados aplicando-se as equaes

i = 1, v-1

i = 1, v-1
calcula-se as coordenadas ajustadas dos vrtices da poligonal e, aplicando-se uma propagao de varincias
determina-se as precises dessas coordenadas
Coordenadas Calculadas Ajustadas

Vrtice
E
807.697,0482 m +/- 0,0028 m 8.160.937,1028 m +/- 0,0031 m
808.631,4604 m +/- 0,0033 m 8.160.513,5880 m +/- 0,0044 m
809.719,9994 m +/- 0,0035 m 8.160.792,7270 m +/- 0,0044 m
810.432,8479 m +/- 0,0026 m 8.160.003,4393 m +/- 0,0031 m
M3c
811.367,2610 m +/- 0,0000 m 8.159.608,7935 m +/- 0,0000 m
Obs: O ltimo vrtice se refere s coordenadas do marco M3 calculadas
93

Ajustamento de observações: conceitos e métodos

Hochgeladen von

Dokumentinformationen

Originalbeschreibung:

Originaltitel

Copyright

Verfügbare Formate

Dieses Dokument teilen

Dokument teilen oder einbetten

Freigabeoptionen

Stufen Sie dieses Dokument als nützlich ein?

Sind diese Inhalte unangemessen?

Copyright:

Verfügbare Formate

Ajustamento de observações: conceitos e métodos

Hochgeladen von

Copyright:

Verfügbare Formate

IFG - INSTITUTO FED ERA L DE EDUC AO, CI NCIAS E TECNO LOGI A D E GOIS

PROF . NILTON RICETTI XAVIER

Propriedade dos Erros de Observao

O conceito de preciso e exatido

Propagao das Covarincias

Matriz varincia-covarincia (M.V.C.)

Lei de Propagao das Covarincias

Sistema de Equaes Lineares e o Mtodo dos Mnimos Quadrados

Resoluo de Sistema de Equaes Lineares

O Mtodo dos Mnimos Quadrados

PROF . NILTON RICETTI XAVIER

- coordenadas do ponto (incgnitas);

- distncia entre a estao e o ponto;

- azimute da direo estao ponto.

Observa-se que para resolver o sistema so necessrias duas observaes: a

PROF . NILTON RICETTI XAVIER

Agora imaginemos o mesmo problema s que introduzindo mais uma estao

XP = XE1 + d E1-P senAE1- P

YP = YE1 + d E1-P cosAE1- P

XP = XE2 + d E2-P senAE2- P

YP = YE2 + d E2-P cosAE2- P

- coordenadas do ponto (incgnitas);

- distncia entre a estao 1 e o ponto;

- azimute da direo estao 1 ponto.

- distncia entre a estao 2 e o ponto;

- azimute da direo estao 2 ponto.

Observa-se agora que existem duas maneiras de se obter as coordenadas do

PROF . NILTON RICETTI XAVIER

A redundncia representada pelo nmero de medidas a mais do que as

h = Lb2 + Lb5 + Lb7 + Lb11

h = Lb3 + Lb10 +Lb12

h = Lb1 + Lb4 + Lb7 + Lb11

h = Lb3 + Lb6 + Lb5 + Lb7 + Lb11

h = Lb3 + Lb10 + Lb9 + Lb11

Estas so algumas das possibilidades de soluo. Todavia a probabilidade de

PROF . NILTON RICETTI XAVIER

Para descrever certos elementos da natureza necessrio utilizar modelos,

PROF . NILTON RICETTI XAVIER

2.1. Modelo Matemtico

PROF . NILTON RICETTI XAVIER

Estes erros so classificados em:

erros grosseiros quando o valor medido extrapola a 3 vezes o valor do desvio

erros sistemticos quando o valor medido acrescido ou diminudo de uma

erros aleatrio quando existe uma flutuao do valor medido ao redor de um

Para se proceder ao ajustamento necessrio que no existam os erros

PROF . NILTON RICETTI XAVIER

Tabela 1 -Experincia de Bradley

Onde fi a frequncia real e Fi a terica.

PROF . NILTON RICETTI XAVIER

Existem outros exemplos prticos que demonstram esta tendncia. A partir

O predomnio de resduos com um sinal deve servir de alerta para a existncia

PROF . NILTON RICETTI XAVIER

Esperana matemtica ou valor esperado para a varivel p

representa a disperso das medidas (varincia ou incerteza)

representa a tendncia ou vcio do estimador

quadrado dos erros verdadeiros

Essa expresso, para amostras grandes, praticamente igual mdia

PROF . NILTON RICETTI XAVIER

existe um erro sistemtico maior

a acurcia ou exatido depender da

Observando os histogramas pecebe-se que as esperanas E{( )} e E{( )}

PROF . NILTON RICETTI XAVIER