III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

Recife - PE, 27-30 de Julho de 2010

p. 001 - 009

ANLISE DO AJUSTAMENTO POR MNIMOS QUADRADOS DE

UMA TRILATERAO TOPOGRFICA COM INJUNES NOS
PLANOS UTM E TOPOCNTRICO
FRANCISCO JAIME BEZERRA MENDONA
SILVIO JACKS DOS ANJOS GARNS
CAROLINE MARTINS PEREIRA
JOS ARIMATIA BARROSO NETO
WEYLLER DIOGO ALBUQUERQUE MELO
Universidade Federal de Pernambuco - UFPE
Centro de Tecnologia e Geocincias - CTG
Departamento de Engenharia Cartogrfica, Recife, PE
jaime@ufpe.br
silvio.jacks@ufpe.br
carol.martins49@yahoo.com.br
ze_teteia@hotmail.com
wdiogo19@gmail.com
RESUMO No ajustamento das observaes uma das etapas fundamentais a anlise dos resultados a
fim de verificar a normalidade das observaes. No presente trabalho o teste do qui-quadrado foi utilizado
para essa anlise e permitiu a identificao da inconsistncia do modelo de projeo no ajuste das observaes lineares obtidas com estao total. Alm da preocupao com a anlise em si, neste trabalho
mostrado como proceder ao ajustamento livre e como estabelecer implicitamente injunes de pontos de
controle.
ABSTRACT In the adjustment of observations is important to analyze the results to verify the goodness of the adjustment. In this work the chi-square test was used for this analysis and allowed the identification of the inconsistency of the projection model in the observations of the distances obtained with total
station. Besides the concern about the analysis itself, this work showed the application of the free adjustment and of the constraints adjustment with control points implicitly.

INTRODUO

O ajustamento de observaes pelo mtodo dos mnimos quadrados surgiu independentemente com Gauss em
1795 e Legendre em 1805, apud Gemael (1974). Embora
o mtodo tenha sido difundido na Europa e nos Estados
Unidos, no Brasil, essa difuso s foi iniciada a partir de
meados do sculo passado com Publicaes da Diretoria
do Servio Geogrfico do Exrcito (DSG), por professores do Instituto Militar de Engenharia (IME). Na obra de
Branco Filho (1968) raras citaes so feitas na lngua
portuguesa datadas do incio do sculo passado. Todavia,
com a criao do Curso de Ps-Graduao em Cincias
Geodsicas da UFPR em 1971, a convite do Prof. Camil
Gemael, o Prof. Uotila da Universidade de Ohio, Columbus, ministrou a disciplina de ajustamento de observaes
e iniciou em nosso pas a divulgao do ajustamento por
mnimos quadrados a luz da teoria matricial - Introdution
to adjustment computatios with matrices (UOTILA,
1967). A propagao desse conhecimento foi continuada
no Programa de Ps-Graduao em Cincias Geodsicas

da UFPR, pelo Prof. Camil Gemael, com destaque a algumas de suas publicaes: Gemael (1974), Gemael
(1975), Gemael (1976), Gemael (1977), Gemael (1987),
culminando com sua mais recente obra no tema: Introduo ao ajustamento de observaes (GEMAEL, 1994).
Sob o enfoque matricial se destacam ainda como primeiros trabalhos no Brasil: Lugnani (1975), Dalmolin (1976),
Abib (1976), Wandresen (1980).
Na dcada de 1990, o mtodo dos mnimos quadrados passa a ser um dos mtodos de ajustamento de poligonais normalizado pela Associao Brasileira de Normas
Tcnicas (ABNT), por meio da NBR 13133 (1994). A
partir da, o mtodo ganha importncia tambm s aplicaes topogrficas no Brasil, cabendo, pois, a citao de
alguns estudos j publicados a respeito do assunto, entre
eles: Abib (1976); Monico (1989), Camargo et al. (1996);
Moraes (1997); Assuno at al. (2003); Stringhini (2005)
e Stringhini at al. (2008); Azevedo at. al. (2006); e Carvalho at. al. (2007).

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

Recife - PE, 27-30 de Julho de 2010

p. 002 - 009

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

Um fato novo e de grande relevncia coloca definitivamente a necessidade do ajustamento de observaes,

com o mtodo dos mnimos quadrados nos levantamentos
topogrficos. No dia 04 de maro de 2010 foi aprovada no
Dirio Oficial da Unio, a 2 edio da Norma Tcnica do
INCRA para o georreferenciamento de imveis rurais.
Essa norma deixa explcito que os ajustamentos de poligonais enquadradas devem ser pelo mtodo dos mnimos
quadrados. Os pontos de controle de sada e de chegada
dessas poligonais devem ser proporcionados pelo posicionamento por satlites do grupo: Global Navigation Satellite System (GNSS); ver DOU (2010) ; INCRA (2010).
Atualmente praticamente inconcebvel um trabalho
de mensurao totalmente isolado (sem o georreferenciamento) e desta forma, junto com o ajustamento, devem-se
aprimorar cada vez mais os mtodos de conexo de posicionamento GNSS e topogrficos. nesse sentido que
este trabalho aponta, mostrando a inconsistncia de modelo, quando simplesmente se aplica o plano UTM como se
fosse topogrfico. Um arrazoado de conceitos do ajustamento apresentado, mas, o importante voltar ateno
para o tradicional teste de hiptese qui-quadrado, na deteco de problemas no ajustamento.
Neste trabalho investigaram-se as possveis causas
quando o teste qui-quadrado rejeita a normalidade das
observaes. E para demonstrar, trs ajustamentos foram
realizados: o ajustamento livre; o ajustamento com pontos
de controle injuncionados ao plano UTM; e ajustamento
com pontos de controle injuncionados ao plano topocntrico (geodsico local) - est sendo evitado chamar de
plano topogrfico pelo desconhecimento do desvio da
vertical na origem do sistema, conforme discutido em
Garns (1998).
2

PROCEDIMENTOS METODOLGICOS

Escolheu-se, para ilustrar a aplicao dos procedimentos metodolgicos da trilaterao topogrfica e ajustamento por mnimos quadrados, uma rea localizada no
campus Joaquim Amazonas da UFPE. Nesta rea havia
sido implantada em 2008, uma rede de pontos geodsicos
no padro da RIBaC/RBMC durante o projeto financiado
pelo CNPq Determinao de Limites de Imveis para
Fins Legais coordenado pela Profa. Andrea Carneiro UFPE. O ajustamento preliminar do rastreio GPS foi
realizado por Vila Flor (2008). A estrutura do marco
ilustrada na figura 1. As coordenadas dos marcos, bem
como os desvios padro em SIRGAS 2000, so apresentadas na tabela 1. E, A configurao geomtrica dos marcos no campus ilustrada na figura 2.

Figura 1. Estrutura dos marcos geodsicos no campus

Joaquim Amazonas da UFPE, padro RIBaC/RBMC.

Tabela 1. Coordenadas geodsicas do ajustamento preliminar em SIRGAS 2000, da rede cadastral do campus
Joaquim Amazonas, UFPE.
Latitude
Long.
ID
2,58 Alt. ge
2,58
marco
(Sul)
Oeste)
(m)
(m)
(m)
RECF

803
03,46970

0= fixa

3457
05,45910

0=fixa

20,180

EPS
1

802
53,44031

0,001

3456
53,45504

0,001

2,787

EPS
2

802
50,24854

0,001

3457
09,19544

0,001

4,332

EPS
3

803
07,57601

0,001

3456
50,66166

0,001

5,200

EPS
4

803
05,84148

0,001

3457
11,62465

0,001

4,892

EPS
5

803
23,36084

0,001

3456
51,38975

0,001

3,083

EPS
6

803
21,26425

0,001

3457
16,23980

0,001

4,586

EPS
7

803
08,21201

0,002

3457
14,65599

0,001

4,637

Fonte: Vila Flor (2008)

A estao RECF integrante da RBMC sob cdigo internacional 93.110, operando 24 horas por dias
podendo ser acessada via RIBaC pelo site do INCRA ou
via RBMC pelo site do IBGE.

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

Recife - PE, 27-30 de Julho de 2010

p. 003 - 009

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

Tabela 2. Coordenadas na projeo UTM e no sistema

topocntrico (geodsico local) das estaes da rede cadastral do campus Joaquim Amazonas da UFPE, Recife-PE.continuao
EPS3

285384,804

9109430,884

150453,087

249873,847

EPS4

284742,576

9109481,118

149811,215

249927,136

EPS5

285364,818

9108945,773

150430,788

249388,919

EPS6

284603,506

9109006,560

149669,906

249453,330

EPS7

284650,091

9109407,837

149718,398

249854,310

Nota: As frmulas utilizadas na transformao para o sistema

topocntrico foram as cartesianas conforme apresentadas em
Garns (1998) e Garns (2005), em preferncias as da NBR
14166 (1998) por causa das aproximaes e simplificaes nelas
contidas.

Figura 2. Em crculos alaranjados ilustra-se a configurao geomtrica da rede cadastral dos marcos geodsicos,
no campus Joaquim Amazonas da UFPE, Recife-PE.
Fonte: Vila Flor (2008).
As coordenadas na Projeo UTM (Universal Transversa de Mercator) em SIRGAS 2000 das estaes da
tabela 1, so apresentadas na tabela 2. E ainda, estabelecendo-se como origem do sistema topocntrico (coordenadas geodsicas locais) a posio horizontal da estao
RECF e a posio vertical do plano topocntrico como a
mdia das altitudes EPS1, EPS2,...,EPS7. O sistema topocntrico para a rede cadastral do campus Joaquim Amazonas da UFPE de Recife, fica definido, com a origem:

Objetivando determinar as coordenadas planimtricas

de trs novos pontos: P1, P2 e P3, foram medidas nove
distncias horizontais, entre esses pontos e dois pilares da
rede cadastral do campus. Os pilares da rede utilizados
foram o EPS7 e o EPS4, e as distncias medidas foram s
ilustradas na figura 3.
P3

l5
l8

l6
l1

l3

l4
l7

l9
P1

EPS7

l2

Dist.medidas
l1=81,979m
l2=75,079m
l3=83,786m
l4=64,576m
l5=68,644m
P2
l6=41,037m
l7=43,016m
l8=95,452m
l9=115,245m

EPS4

Figura3. Configurao da rede de trilaterao topogrfica.

Latitude : 803'03,46970" S

RECF Longitude : 3457'05,45910"W

altitude : 4,217 m

Tabela 2. Coordenadas na projeo UTM e no sistema

topocntrico (geodsico local) das estaes da rede cadastral do campus Joaquim Amazonas da UFPE, Recife-PE.
ID
Projeo UTM
Coord.Topocntricas
marco
(F=25 MC=33 Wgr.)
X (m)
Y (m)
E (m)
N (m)
RECF

284931,043

9109554,895

150000,000

250000,000

EPS1

285297,190

9109864,811

150367,559

250308,113

EPS2

284814,681

9109960,583

149885,595

250406,169

As medies das distncias foram realizadas com a

estao total TC-500- Leica, de preciso angular 5 e
linear 5mm+5ppm (LEICA, 2010). Utilizou-se o procedimento da centragem forada, e em cada ponto a determinar, foi instalado um trip com uma base nivelante. As
medies foram realizadas sem que os trips tenham sido
deslocados. As observaes foram distncias horizontais,
j reduzidas ao horizonte pela prpria estao total,
levando em conta os correspondentes valores de temperatura e presso, no instante da observao.
2.1 O Ajustamento pelo mtodo dos mnimos quadrados.
Para cada distncia medida, reduzida ao horizonte,
formou-se uma equao de distncia do tipo:

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

Recife - PE, 27-30 de Julho de 2010

p. 004 - 009

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

l i j = ( xi x j ) 2 + ( y i y j ) 2 .

(1)

Representando as observaes de distncias como

uma varivel aleatria m-dimensional, L, e colocando-as
em funo das coordenadas dos pontos (n-parmetros
nesse caso), pode-se escrever um sistema de equaes na
forma:

R n R m , no-linear.

si. Em particular isso feito pelo chamado ajustamento

livre com a soluo pelas inversas generalizadas
(ver seo 2.3).
Explicitando cada uma das equaes (1) para a configurao usada na figura 3, e notao da figura 4, as nove
equaes de distncia ficariam:

(2)

l1 = ( x3 x A ) 2 + ( y 3 y A ) 2

2.2 Formao da geometria da rede e equaes

gerais do ajustamento

l 2 = ( x1 x A ) 2 + ( y1 y A ) 2

L=F(x), F :

Antes de prosseguir para a formao das equaes de

mnimos quadrados cabe uma breve anlise para formao da rede a que se prope (figura 3). Partindo-se de um
ponto arbitrrio A traam-se duas circunferncias de raios
l1(vermelha) e l2(verde). Escolhendo um local qualquer
para P3 sobre a circunferncia de raio l1, traa-se uma
nova circunferncia de raio l3 (cyan). A interseo da
circunferncia em cyan com a circunferncia em verde
definem o ponto P1. A partir de P1 traa-se a circunferncia de raio l4 (amarelo) e a partir de P3 traa-se a circunferncia de raio l5 (azul). A interseo dessas duas circunferncias definem o ponto B. Do ponto B traa-se a circunferncia de raio l6 (magenta) e a partir do ponto P1 traase a circunferncia de raio l7 (preto). A interseo das
circunferncias em magenta e preto definem o ponto P2 e,
com isso, se completa o desenho da rede sem a necessidade de pontos de controle nem de orientao.

l 3 = ( x1 x3 ) 2 + ( y1 y 3 ) 2
l 4 = ( x B x1 ) 2 + ( y B y1 ) 2
l5 = ( x B x3 ) 2 + ( y B y 3 ) 2

(3)

l6 = ( x B x2 ) 2 + ( y B y 2 ) 2
l 7 = ( x 2 x1 ) 2 + ( y 2 y1 ) 2
l 8 = ( x 2 x3 ) 2 + ( y 2 y 3 ) 2
l9 = ( x2 x A ) 2 + ( y 2 y A ) 2
O desenvolvimento linear do modelo paramtrico de
ajuste por mnimos quadrados na forma usual em Geodsia (GEMAEL, 1994); (DALMOLIN, 2002) :

P3
l5

l4

l1

L a = L b + v = F (x 0 ) +

B
l6

Os elementos da matriz jacobiana A=

l3
P2
l2

F
| x (x x 0 ) = F (x a ) (4)
x 0

l7
P1

Figura 4. Formao da rede de trilaterao com observaes mnimas.

Cada ponto desta rede, sendo incgnita ao problema
do ajustamento, iria conduzir a 10 parmetros incgnitos
(cada ponto tem duas coordenadas x e y como parmetro).
Logo a equao (2), considerando a figura 4, teria sete
equaes a 10 incgnitas. E, considerando a figura (3) o
sistema ficaria com nove equaes a 10 incgnitas. Em
ambos os casos o problema indeterminado. Antes, porm, de eliminar a indeterminao seria de fundamental
importncia verificar a consistncia das observaes em

F
|x , quando
x 0

no nulos seriam obtidos por:

l ij
xi
l ij
y i

( xi x j )
l ij
( yi y j )
l ij

l ij
x j
l ij
y j

( x j xi )

(5)

l ij
( y j yi )

(6)

l ij

Usando-se a seqncia das coordenadas no vetor dos

parmetros x, conforme segue:
x=[xA yA x1 y1 x3 y3 x2 y2 xB yB] T,
A matriz A ficaria definida como:

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

(7)

Recife - PE, 27-30 de Julho de 2010

p. 005 - 009

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

l1
x
A
l2
x A

l9
x
A

l1
y A
l2
y A

l1
x3

l1
y3

l3
x3

l3
y3

l6
x3
l7
x2
l8
x2
l9
x2

l6
y3
l7
y2
l8
y2
l9
y2

l2
x1
l3
x1
l4
x1

l 2
y1
l3
y1
l 4
y1

l5
x3

l5
y3

l7
x1

l 7
y1

0
l8
y3
0

0
0

l9
y A

l8
x3

l4
xB
l5
xB
l 6
xB
0
0
0

l4

y B
l5
y B

l 6
y B

e, contudo, a varincia da distancia medida deve ser obtida por:

d2 = a 2 + b 2 (D / 1000) 2 ,

(8)

v = Ax [L b F ( x 0 )] ,

sendo

(9)

sendo x=xa-x0 : vetor de correo aos parmetros aproximados.

2.3 Ajustamento livre pelo mtodo dos mnimos
quadrados.
A soluo por ajustamento livre fundamental para
verificao da consistncia das medies entre si, pois a
soluo independe de referencial.
O problema do ajustamento livre por mnimos
quadrados definido como (MITTERMAYER, 1972):

min v T Pv
x

sujeito a : x T x = mnimo
trao( x ) = mnimo

(10)

2
0

(13)

a varincia da unidade peso a priori.

Em Garns (1998) so apresentadas e discutidas trs

solues equivalentes para o problema (10), a saber: i)
soluo por eliminao de injuno; ii) soluo pelo mtodo de Bjerhammar; e iii) soluo pela Decomposio de
Valor Singular (SVD). No obstante em recair em uma
das solues mencionadas, pode-se usar a forma simplificada para representar essa soluo pela pseudoinversa
(N+) da matriz N das equaes normais como (GEMAEL,
1977):

x = N+U,

(14)

onde:
N=ATPA
U=ATP[Lb-F(x0)].
A soluo (14) chamada de soluo com injuno
interna (LEICK, 1995). O vetor estimado dos resduos
ficaria definido substituindo a soluo (14) na equao
(9). A estimativa para a varincia da unidade peso seria
calculada pelo caminho usual substituindo o nmero de
parmetros pelo posto da matriz (posto(A) = posto(N))
conforme equao(15)

02 =

v T Pv
.
m posto ( A )

(15)

Nota: o posto da matriz corresponde ao mnimo entre o nmero de linhas

ou nmero de colunas linearmente independentes da matriz.

Onde P a matriz dos pesos, em que para o caso da

trilaterao, pode ser definida com base na preciso linear
do equipamento; x a matriz varincia-covarincia dos
parmetros a ser estimada no ajustamento.
Segundo Pacilo Netto (1990) a preciso de um
medidor eletrnico de distncia especificada
simbolicamente pelo fabricante como:

= (a + b x D) , ou

= (a mm + b ppm)

onde D na expresso (12), a distncia medida em

metros. A diviso por 1000 para transformao da distncia em quilmetros.
A matriz dos pesos P em geral uma matriz simtrica
e definida positiva, e neste caso particular das distncias
medidas serem independentes umas das outras, a matriz
dos pesos passa a ser diagonal e representada como:

P = 02 diag (1 / di2 ), i = 1,...,9 ,

O vetor residual em (4) poderia ser colocado da

seguinte forma:

(12)

(11)

A matriz varincia-covarincia dos parmetros ajustados tambm poderia ser representada por:

x = 02 N + .

(16)

2.4 Ajustamento pelo mtodo dos mnimos quadrados de equaes no-lineares

Quando as equaes de observao so no-lineares
em relao aos parmetros, como o caso das distncias,
a soluo at aqui apresentada, corresponde a um passo da
do mtodo de Gauss-Newton e a seqncia:

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

Recife - PE, 27-30 de Julho de 2010

p. 006 - 009

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

xk {k=0,1,2,3,..},

(17)

quando bem escolhidos os valores aproximados, x0,

devem convergir para um mnimo local de vTPv. Valores
menos exatos deveriam usar mtodos de convergncia
global, como exemplo, o de Marquardt e o de GaussNewton modificado globalizado conforme exposto em
Garns (1996) e Garns (2001).
2.5 Teste de hiptese
O teste global qui-quadrado verifica se a funo objetivo vTPv tem distribuio qui-quadrado. Em tendo, comprova-se a hiptese de que os resduos aleatrios so
provenientes de uma distribuio normal. O teste assim
formulado (Gemael, 1994):
H0 : 02 = 02 (hiptese nula)
H1: 02 02 (hiptese alternativa)
H0 no rejeitada ao nvel de significncia (em geral 5%) se a estatstica do teste:

2*

As injunes mnimas nesse caso seriam um ponto de

controle para evitar a translao, e um azimute de controle
para evitar a rotao. Assim a indeterminao do sistema
seria tirada com o decrscimo de 3 parmetros, restariam
7 parmetros, donde: nmero de parmetros = posto (A).
Neste trabalho, no entanto, foram introduzidos dois
pontos de controle, os quais devem fazer aumentar os
valores dos resduos estimados, pois uma escala independente da escala do equipamento foi introduzida.
Com os pontos de injuno A=EPS7 e B=EPS4 a matriz A dos coeficientes dos parmetros, equao (8), ficaria sem as duas primeiras colunas e sem as duas ltimas
colunas, sua dimenso se reduziria para 9 linhas x 6 colunas, e o posto(A)=6, o que significa posto completo, logo
N=ATPA admitiria uma inversa ordinria (nesse caso a
pseudoinversa tambm coincidiria com a inversa ordinria, N + = N 1 ). Os efeitos das injunes afetariam o
clculo de F(x0) e conseqentemente os elementos da
matriz A. A expresso (15) e (16) por serem gerais poderiam ficar como esto. Seno, poderia ser feita a substituio nos graus de liberdade por =m-n, sendo m o nmero
de observaes e n o nmero de parmetros; e, N+ poderia
ser substituda por N-1.
3.

v T Pv

02

estiver no intervalo da regio de aceitao da distribuio

qui-quadrado, isto , entre o percentil inferior e o percentil superior (figura 5). A direita ou a esquerda dos percentis a hiptese nula rejeitada ao nvel de significncia
adotado.

RESULTADOS

Os clculos foram realizados no ambiente Matlab 6.0

em um programa desenvolvido pelos autores considerando o ajustamento livre; o ajustamento com injunes
dos pontos EPS7 e EPS4 em coordenadas UTM; e, tambm em coordenadas topocntricas (geodsicas locais).
A tabela (3) resume os resultados dos trs ajustamentos
citados.
Tabela 3. Resumo dos resultados dos ajustamentos
Ajustamento
Ajustamento
Ajustamento
injuno em
injuno Topolivre
UTM
cntrica
Injunes:
Injunes:
Injunes:
Nenhuma
Parm. Aprox.

2 / 2

12 / 2

Figura 5. Regies de aceitao e rejeio da distribuio

qui-quadrado.
Caso o teste de hiptese global por qui-quadrado no
rejeite a hiptese nula, significa que as observaes so
consistentes entre si e uma fase adiante deveria se seguir,
com a introduo das injunes mnimas que estabelecem
o referencial.

x = 0,000
A A
y A = 0,000
x1 = 74,999
1
y1 = 3,452
x = 112,667
2 2
y 2 = 24,225

x = 32,109
3 3
y 3 = 75,428

x = 284650,091
A A
y A = 9109407,83 7
x B = 284742,576
B
y B = 9109481,11 8

x = 149718,398
A A
y A = 249854,310
x B = 149811,215
B
y B = 249927,136

Parm. Aprox.

Parm. Aprox.

x = 284724,318
1 1
y1 = 9109419,16 5

x = 149792,619
1 1
y1 = 249865,623
x = 149827 ,896
x 2 = 284759,59
2 2
2
y 2 = 249890,238
y
=
9109443,76
6
2
x 3 = 149742,405
3
y 3 = 249932,695
x 3 = 284674,110
3
y
=
9109486,22
9
3

x = 99,645
B B
y B = 63,141

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

Tabela 3. Resumo dos resultados dos ajustamentos (cont)

n. iterao para
convergncia k=3
mt. Gauss-Newton

n.
iterao
para
convergncia k=3
mt. Gauss-Newton

n. iterao para
convergncia k=4
mt. Gauss-Newton

Critrio de parada

Critrio de parada

Critrio de parada

||xk+1-xk||2=5,9E-13

||xk+1-xk||2=8,1E-10

||xk+1-xk||2=2,6E-11

Parm. Ajustados

Parm. Ajustados

Parm. Ajustados

x = 0,001
A A
y A = -0,001

x = 284724,312
1 1
y1 = 9109419,15 1
x = 284759,596
2 2
y 2 = 9109443,774

x = 149792,675
1 1
y1 = 249865,274
x = 149828,070
2 2
y 2 = 249889,719

x 3 = 284674,110
3
y 3 = 9109486,22 9

x 3 = 149742,783
3
y 3 = 249932,582

n. Obs. = 9
Posto(N) =7
Graus liberdade = 2
vTPv = 0,1588
02 = 0,07938

n. Obs. = 9
Posto(N) =6
Graus liberdade = 3
vTPv = 24,3027
02 = 8,1009

n. Obs. = 9
Posto(N) =6
G. liberdade = 3
vTPv = 2,7707
02 = 0,9236

Teste Global 2(=5%)

2 / 2 = 0,051

Teste Global 2(=5%)

2 / 2 = 0,216

T. Global 2(=5%)
2 / 2 = 0,216

x = 74,999
1 1
y1 = 3,452
x = 112,668
2 2
y 2 = 24,225

x = 32,110
3 3
y 3 = 75,428
x = 99,645
B B
y B = 63,141

12 / 2 = 7,378

12 / 2 = 9,348

12 / 2 = 9,348

Concluso: Hiptese
H0 no rejeitada

Concluso: Hiptese
H0 rejeitada

Conc.: Hiptese H0
no rejeitada

Numero condio
*****

Nmero condio
Cond(N)=5,2419
Desvio-padro estimado

Mximo em xB de
xB=1,08mm e mnimo
em x3 de x3=0,675mm.
Com exceo de xB,
todos os demais esto na
ordem do dcimo do
milmetro.

x = 11,92mm
1 1
y1 = 12,13mm
x = 10,41mm
2 2
y 2 = 12,86mm

Nmero condio
Cond(N)=5,2452
Desvio-padro estimado

x = 11,22mm
3 3
y 3 = 12,83mm

x = 4,02mm
1 1
y1 = 4,10mm
x = 3,51mm
2 2
y 2 = 4,33mm
x = 3,79mm
3 3
y3 = 4,33mm

4. DISCUSSO
indispensvel no ajustamento de observaes pelo
mtodo dos mnimos quadrados a anlise dos resultados.
O mtodo pressupe a necessidade da redundncia, ou
seja, o nmero de observaes independentes deve ser
sempre maior que o numero mnimo de observaes que
definem a geometria da rede ou, do modelo a ser tratado.
So tambm condicionantes para a qualidade dos resultados que as medies s estejam sujeitas aos inevitveis
erros acidentais, e que a estimativa de preciso das observaes seja adequada. Na presena de erros grosseiros
alm do ajustamento em si, deve-se usar algum filtro (ou
detector) para encontrar e eliminar essas observaes com
erros. Entre os filtros (ou detectores) os mais populares
em Geodsia so o teste Tau por Pope (1976) e Data
Snoop por Baarda (1968).
Os erros sistemticos ou grosseiros podem, em geral,
indicar suas presenas quando da aplicao do teste de
hiptese por qui-quadrado, pois a normalidade dos res-

Recife - PE, 27-30 de Julho de 2010

p. 007 - 009

duos estimados ficaria comprometida na presena destes.

Todavia no so apenas erros sistemticos ou grosseiros
nas observaes que so indicados nos resduos fazendo
com que a hiptese nula H0 seja rejeitada. Gemael (1994)
elenca alm desses, os seguintes fatores que podem contribuir para a no normalidade destes:
Sistema mal-condicionado;
Modelo matemtico inconsistente; e
Estimativa da preciso das observaes superestimadas ou subestimadas.
Em relao ao primeiro dos fatores, amplamente discutido em Garns (1996), afirma-se que, pela magnitude
do nmero de condio na norma-2 da matriz N,
cond(N)=5,2, apresentado na Tabela (3), fica descartada
essa hiptese. Com essa magnitude do nmero de condio, no resta qualquer dvida sobre o condicionamento
do sistema de equaes normais, cuja confirmao poderia ser feita em termos da variao relativa do vetor,
[L b F ( x 0 )] , ou mesmo da matriz A.
A possibilidade da existncia de erros grosseiros
tambm fica descartada, pois o teste de hiptese no ajustamento livre mostrou a normalidade das observaes
quando no rejeitou a hiptese nula ao nvel de significncia de 5%, isso significa que as observaes entre si
so consistentes.
Na estimativa da preciso das observaes lineares da
estao total, TC 500-Leica, a preciso nominal de
(5mm+5ppm) foi levada em conta, assim como as varincias das distncias medidas, as quais foram obtidas pela
expresso (12). Se os pesos das observaes estivessem
superestimados ou subestimados no ajustamento livre
poderia ser detectado pela variao da preciso linear.
Essa variao foi testada em ambos os casos: superestimando e subestimando as precises. Realizando a variao para o caso de superestimar as observaes, mesmo
com (1mm+1ppm), a hiptese nula no rejeitada no
ajustamento livre. No caso de subestimar a preciso, somente quando a preciso de (9mm+5ppm) que o ajustamento livre detecta a subestimao da preciso. Logo
com a preciso nominal fornecida pelo fabricante fica
descartada a hiptese de sub ou superestimao da preciso. Cabe observar que essa anlise s tem sucesso para o
ajustamento livre. Na anlise com injunes, os erros de
pontos de controle mascaram os resultados.
O nico ajustamento que a hiptese nula (H0) foi rejeitada, foi o caso das injunes dos pontos de controle no
plano da projeo Universal Transversa de Mercator
UTM, tabela (3). Para verificar a inconsistncia desse
modelo, deve-se relembrar que as coordenadas planas
UTM so obtidas a partir das coordenadas geodsicas
(latitude e longitude) com uma lei de projeo conforme
(as projees conforme mantm os ngulos), mas que, no
entanto, no mantm as distncias elipsoidais. Alm de
que as distncias medidas para esse modelo deveriam ser
reduzidas da superfcie da Terra ao elipside e posteriormente ao plano UTM. Para determinao da magnitude
desta correo na rede da figura 3, foram calculados os

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

fatores de escala UTM para os pontos EPS4 (fator de

escala 1,000173019) e EPS7 (fator de escala
1,000173512). O fator de escala mdio entre os dois pontos resultou 1,000173266. Ento, a distncia UTM
dAB=117,998m
no
elipside
corresponderia
a
dAB-elip=117,978m e corrigida do fator de elevao com
frmula apresentada na NBR14166 (c=1+1,57.10-7xHm)
c=1,00000074803, resultaria para a distncia horizontal
na superfcie da Terra o valor idntico a distncia elipsoidal, face a pouca altitude dos pontos, apenas de 4,765m
para a altitude mdia entre os dois pontos no
SIRGAS2000. A discrepncia entre a distncia medida
(topogrfica) com a distncia UTM seria 2cm.
Fazendo uso da tabela 2, o clculo da distancia plana
topocntrica entre os pontos EPS4 e EPS7 de 117,977m,
discrepando 1mm com esta ltima e portanto consistente
com a calculada via passagens mencionadas
anteriormente.
Os dois centmetros que diferem a distncia pelos
dois diferentes modelos UTM e Topocntrico seria o erro
sistemtico detectado no teste de hiptese por
qui-quadrado.
5. CONCLUSES
O ajustamento de observao com o mtodo dos
mnimos quadrados s deve ser considerado concludo
depois de validado pelo teste de hiptese qui-quadrado,
caso contrrio, uma investigao minuciosa em relao
aos fatores que afetam a rejeio da hiptese nula deveria
ser levada a cabo.
Com o exposto neste trabalho pde-se concluir que,
mesmo para pequenas distncias (inferiores a 100m), o
modelo injuncionando pontos de controle diretamente em
coordenadas UTM para a regio metropolitana de Recife
(para outras localidades deveria ser observado o fator de
escala) resultaria numa inconsistncia do modelo de
ajuste e faria o teste global por qui-quadrado rejeitar a
hiptese nula.
AGRADECIMENTOS
Os autores agradecem ao acadmico de Engenharia
Cartogrfica Cludio David Vila Flor por ter cedido o
relatrio contendo as coordenadas dos pontos de controle
apresentados na tabela (2).
REFERNCIAS
ABIB, O. A. Ajustamento de poligonal pelo clculo matricial. Revista Brasileira de Cartografia. n.15. ano 5.
mai 76.
ASSOCIAO
BRASILEIRA
DE
NORMAS
TCNICAS- NBR 13.133 - Execuo de levantamento
topogrfico - Procediemnto. Rio de Janeiro , 1994, 35 p.

Recife - PE, 27-30 de Julho de 2010

p. 008 - 009

ASSOCIAO
BRASILEIRA
DE
NORMAS
TCNICAS- NBR 14.166 - Rede de Referncia Cadastral Municipal- Procedimentos. Rio de Janeiro , 1998,
23 p.
ASSUNO, V. de S., at. al. Comparao de mtodos e
softwares voltados ao ajustamento de poligonais topogrficas.
Disponvel
em
http://www.cartografia.org.br/xxi_cbc/151-G26.pdf
.
Acesso: 10 maro 2010.
AZEVEDO, V. W. B.; CARNEIRO, A.F.T.; SILVA,
D.C; BARROS, E.R.O. Anlise da teoria dos mtodos
de compensao e ajustamento de poligonais para
delimitao de imveis. In: Anais 1 Simpsio de Geotecnologias no Pantanal, Campo Grande, Brasil,
BAARDA, W. A testing procedure for use in geodetic
networks. Netherlands Geodetic Commission. Publications on Geodesy. Srie 2. N. 5. Delft , Netherlands.
1968, 97p.
BRANCO FILHO, M. C. Sntese do clculo das compensaes: anexo IV emprego dos computadores eletrnicos. Ministrio do Exercito, Diretoria do Servio
Geogrfico, 1968.
CARVALHO, A. S.; RODRIGUES, D. D.; LUZ, N. B.
Comparao dos mtodos de Bowditch e MMQ no
ajuste de poligonal topogrfica, 2007. Disponvel em
http://www.ufv.br/dec/eam/Publicacoes/2007/Comp_200
7.pdf Acesso: 10 maro 2010.
CAMARGO, P.O; CORDINI, J.; FABRI, S. M. Ajustamento de poligonais topogrficas pelo mtodo paramtrico. In.: II Congresso Brasileiro de Cadastro Tcnico
COBRAC. Anais. Florianpolis SC, 13 a 17 de outubro
de 1996.
DALMOLIN, Q. Ajustamento de observaes pelo
processo iterativo. Curitiba, 1976. 96 f. Dissertao
(Mestrado em Geodsia) Setor de Tecnologia, Universidade Federal do Paran.
DALMOLIN, Q. Ajustamento por mnimos quadrados.
Departamento de Geomtica-UFPR. Curitiba, 2002.
DIARIO OFICIAL DA UNIO DOU, seo 1 - n. 42,
quinta-feira, 4 de maro de 2010.
VILA FLOR, C. D. R. Rede geodsica cadastral do
campus Recife da UFPE: Fase I planejamento e
implantao da rede principal. Trabalho final de graduao. Relatrio parcial. Departamento de Engenharia
Cartogrfica, Universidade Federal de Pernambuco, Recife, 2008.
GARNS, S. J. A. Ajustamento por mnimos quadrados com anlise na estabilidade da soluo. Dissertao

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo

III Simpsio Brasileiro de Cincias Geodsicas e Tecnologias da Geoinformao

(Mestrado em Cincias Geodsicas) Curso de Psgraduao em Cincias Geodsicas, UFPR, Curitiba,

1996. 148f.
GARNS, S. J. A. Sistema de projeo e orientao das
plantas topogrficas. In.: COBRAC 98. Congresso Brasileiro de Cadastro Tcnico Multifinalitrio UFSC Florianpolis 18 a 22 de Outubro 1998.
GARNS,S.J.A; DALMOLIN, Q. Trilaterao em redes
topogrficas: soluo do problema linear por ajustamento
livre. Cartografia e Cadastro, Lisboa, n.9, dez. 1998.
GARNS, S. J A. Resoluo das ambigidades GPS
para linhas de base curta: anlise dos algoritmos de
otimizao. Tese (Doutorado em Cincias Geodsicas)
Curso de Ps-Graduao em Cincias Geodsicas, UFPR,
Curitiba, 2001. 204 p.
GARNS, S..J.A., SIQUEIRA, V.P.; CACHO, J.P. Definio para implantao do sistema topogrfico local
de Campo Grande-MS e anlise das frmulas da
NBR-14.166. In: Anais do IV Colquio Brasileiro de
Cincias Geodsicas, CD-ROM, 2005, Curitiba-PR, 2005
GEMAEL, C. Aplicaes do clculo matricial em geodsia: 2 parte: ajustamento de observaes. Curso de
Ps-Graduao em Cincias Geodsicas. Curitiba, 1974.
GEMAEL, C. Ajustamento de observaes geodsicas:
noes de estatstica. Curso de Ps-Graduao em Cincias Geodsicas. Curitiba, 1975.
GEMAEL, C. Ajustamento: variao de coordeandas:
1 parte conceituao do mtodo; equaes de observaes e normais; 2 parte resoluo do sistema de
equaes normais. Curso de Ps-Graduao em Cincias
Geodsicas. Curitiba, 1976.
GEMAEL, C. Inversas generalizadas. Curso de PsGraduao em Cincias Geodsicas. Curitiba, 1977.
GEMAEL, C. Elipse e elipside dos erros. Curso de
Ps-Graduao em Cincias Geodsicas. Curitiba, 1987.
GEMAEL, C. Introduo ao ajustamento de observaes: aplicaes geodsicas. Curitiba: Editora da UFPR,
1994. 319p.
INSTITUTO NACIONAL DE COLONIZAO E
REFORMA AGRRIA INCRA (2010), Norma tcnica para georreferenciamento de imveis rurais. 2 Ed.
fev., 2010.
LUGNANI, J.B. O problema dos sistemas de equaes
lineares mal condicionados e suas implicaes em geodsia. Curitiba, 1975. 106 f. Dissertao (Mestrado em

Recife - PE, 27-30 de Julho de 2010

p. 009 - 009

Geodsia) Setor de Tecnologia, Universidade Federal

do Paran.
MORAES, C.V. Aplicao do ajustamento s poligonais. Dissertao (Mestrado em Cincias Geodsicas)
Curso de Ps-graduao em Cincias Geodsicas, UFPR,
Curitiba, 1997. 162f.
LEICA. Leica Instrument EDM Specifications. Disponvel
em:
<www.dse.vic.gov.au/CA256F310024B6
28/0/B7F449C8F7F6F393CA2575A8000ADDF6/$File/L
eica+Instrument+parameters.pdf > Acesso: mar. 2010.
LEICK, A. GPS satellite surveying. 2a ed. New York:
John Wiley & Sons, Inc., 1995
MITTERMAYER. E. A generalisation of the leastsquares method the adjustment of free networks. Bulletin
Godsique. N.104, 1972.
MONICO, J. F. G. Ajustamento de poligonais geodsicas
pelos mtodos paramtrico e correlatos anlise da MVC
dos parmetros. In.: XIV Congresso Brasileiro de Cartografia. Anais, vol 1, de 21 a 26 de maio de 1989, Gramados RS.
MONICO, J. F. G. Posicionamento pelo GNSS: descrio, fundamentos e aplicaes. 2 ed. Presidente Prudente :
Editora UNESP, 2007.
PACILO NETTO, N. Calibrao de medidores eletrnicos de distncia, construo de uma base multipilar na USP e metodologia de aferio. So Paulo: Escola Politcnica da Universidade de So de Paulo Engenharia Civil, 1990, 187p. Tese de Doutorado.
POPE, A. J. The statistics of residuals and the detection of outliers. NOAA Technical Rep. NOS 65 NGS 1,
U.S. National Geodetic Survey, Silver Spring, Md. 1976,
136p.
STRINGHINI, M. Ajustamento e controles de qualidade aplicveis s linhas poligonais. Dissertao (Mestrado em Geomtica) - Curso de Ps-graduao em Geomtica, UFSM, 2005. 129f.
STRINGHIN, M.; MORAES, C.V; FARRET, J. C. Estimativas da qualidade de linhas poligonais topogrficas. Cincia Rural, set, 2008, v.38, n.6, p.1604-1609.
UOTILA, U. A. Introduction to adjustment computations with matrices. The Ohio State University, Columbus, 1967.
WANDRESEN, R. Mtodos iterativos para soluo de
sistemas de equaes normais. 1980. 214 f. Dissertao
(Mestrado em Geodsia) Setor de Tecnologia, Universidade Federal do Paran.

F. J. B. Mendona , S. J dos A. Garns, C. M .Pereira, J .A. Barroso Neto, W. D. A. Melo