Dois aspectos sobre o ajustamento pela norma L1 de redes de nivelamento

Resumo

O ajustamento pela norma L1 corresponde à minimização da soma dos resíduos ponderados. Diferentemente do Método dos Mínimos Quadrados, ele é robusto, ou seja, insensível a outliers. Em redes geodésicas, a principal aplicação da norma L1 refere-se à identificação de outliers. Não há uma expressão analítica geral para sua solução. Programação Linear é a estratégia usual, mas isso demanda observações decorrelacionadas. No contexto dos Mínimos Quadrados, sabe-se que a aplicação da fatoração de Cholesky decorrelaciona observações sem modificar os resultados do ajustamento. Porém, não há demonstração matemática de que o mesmo vale para a norma L1. Além disso, outro aspecto sobre a norma L1 é que pesos iguais podem garantir a máxima robustez na prática. Assim, se espera que também provenha maior efetividade na identificação de outliers. Este trabalho apresentou contribuições com relação a dois aspectos do ajuste pela norma L1 de redes de nivelamento: a validade da fatoração de Cholesky para decorrelacionamento de observações e a efetividade de identificação de outliers com um modelo estocástico de pesos iguais para as observações. Dois experimentos foram conduzidos em redes de nivelamento simuladas pelo método de Monte Carlo. No primeiro, verificamos que a aplicação da fatoração como previamente realizada na literatura parece inadequada e necessita de maior investigação. No segundo experimento, comparações foram feitas entre ajustamentos pela norma L1 com pesos iguais e com pesos inversamente proporcionais ao comprimento das linhas de nivelamento. Os resultados mostram que a primeira abordagem foi mais efetiva para identificação de outliers. Assim, essa é uma alternativa interessante para o modelo estocástico no ajuste da norma L1. Além de proporcionar um melhor desempenho na identificação de outliers, a necessidade de decorrelacionamento das observações torna-se irrelevante se pesos iguais forem adotados.