Ajustamento de observações: uma interpretação geométrica para o método dos mínimos quadrados

O Método dos Mínimos Quadrados (MMQ) é um dos critérios mais utilizados para o ajustamento de informações onde o número de observações é superabundante e o sistema de equações, devido à presença de erros no processo experimental de medições, inconsistente. Este método adota como solução única para tais problemas aquela que minimiza a soma do quadrado dos erros aleatórios, e é largamente empregado em aplicações geodésicas. A fundamentação teórica envolvida no MMQ, contendo o desenvolvimento matemático do método, é amplamente difundida na comunidade geodésica. Porém, neste artigo, o objetivo é apresentar uma revisão teórica sobre a interpretação geométrica do MMQ, e uma solução alternativa de cálculo para este, advinda desta interpretação. Dois exemplos também são apresentados, onde a interpretação geométrica foi demonstrada numericamente para problemas envolvendo duas observações e um parâmetro e também quatro observações e dois parâmetros

Teoria de confiabilidade generalizada para múltiplos outliers: apresentação, discussão e comparação com a teoria convencional

Após o ajustamento de observações pelo método dos mínimos quadrados (MMQ) ter sido realizado, é possível a detecção e a identificação de erros não aleatórios nas observações, por meio de testes estatísticos. A teoria da confiabilidade faz uso de medidas adequadas para quantificar o menor erro detectável em uma observação, e a sua influência sobre os parâmetros ajustados, quando não detectado. A teoria de confiabilidade convencional foi desenvolvida para os procedimentos de teste convencionais, como o data snooping, que pressupõem que apenas uma observação está contaminada por erros grosseiros por vez. Recentemente foram desenvolvidas medidas de confiabilidade generalizadas, relativas a testes estatísticos que pressupõem a existência, simultânea, de múltiplas observações com erros (outliers). O objetivo deste trabalho é apresentar, aplicar e discutir a teoria de confiabilidade generalizada para múltiplos outliers. Além da formulação teórica, este artigo também apresenta experimentos realizados em uma rede GPS (Global Positioning System), onde erros propositais foram inseridos em algumas observações e medidas de confiabilidade e testes estatísticos foram calculados utilizando a abordagem para múltiplos outliers. Comparações com a teoria de confiabilidade convencional também são realizadas. Por fim, apresentam-se as discussões e conclusões obtidas com estes experimentos

Elimination of some unknown parameters and its effect on outlier detection

Outliers in observation set badly affect all the estimated unknown parameters and residuals, that is because outlier detection has a great importance for reliable estimation results. Tests for outliers (e.g. Baarda's and Pope's tests) are frequently used to detect outliers in geodetic applications. In order to reduce the computational time, sometimes elimination of some unknown parameters, which are not of interest, is performed. In this case, although the estimated unknown parameters and residuals do not change, the cofactor matrix of the residuals and the redundancies of the observations change. In this study, the effects of the elimination of the unknown parameters on tests for outliers have been investigated. We have proved that the redundancies in initial functional model (IFM) are smaller than the ones in reduced functional model (RFM) where elimination is performed. To show this situation, a horizontal control network was simulated and then many experiences were performed. According to simulation results, tests for outlier in IFM are more reliable than the ones in RFM

DESIGN OF GEODETIC NETWORKS BASED ON OUTLIER IDENTIFICATION CRITERIA: AN EXAMPLE APPLIED TO THE LEVELING NETWORK

We present a numerical simulation method for designing geodetic networks. The quality criterion considered is based on the power of the test of data snooping testing procedure. This criterion expresses the probability of the data snooping to identify correctly an outlier. In general, the power of the test is defined theoretically. However, with the advent of the fast computers and large data storage systems, it can be estimated using numerical simulation. Here, the number of experiments in which the data snooping procedure identifies the outlier correctly is counted using Monte Carlos simulations. If the network configuration does not meet the reliability criterion at some part, then it can be improved by adding required observation to the surveying plan. The method does not use real observations. Thus, it depends on the geometrical configuration of the network; the uncertainty of the observations; and the size of outlier. The proposed method is demonstrated by practical application of one simulated leveling network. Results showed the needs of five additional observations between adjacent stations. The addition of these new observations improved the internal reliability of approximately 18%. Therefore, the final designed network must be able to identify and resist against the undetectable outliers – according to the probability levels

Planejamento de redes geodésicas resistentes a múltiplos outliers

Ao se planejar o levantamento de uma rede geodésica, deseja-se que as observações a serem realizadas e as coordenadas dos pontos a serem estimadas atendam critérios de precisão e confiabilidade pré-estabelecidos de acordo com os objetivos do projeto. Na etapa de pré-análise, antes mesmo da coleta das observações, é possível estimar a precisão e confiabilidade da rede, estipulando uma geometria/configuração para a mesma e a precisão esperada para as observações. O objetivo deste artigo é apresentar o planejamento de uma rede geodésica que atenda critérios de precisão e confiabilidade, considerando a possível existência de dois ou mais erros não detectados nas observações, bem como a influência (simultânea) destes erros sobre os parâmetros (coordenadas ajustadas dos vértices). Além da revisão teórica, experimentos foram realizados em uma rede GNSS, onde foram estipulados critérios de precisão e confiabilidade considerando a existência de até duas observações contaminadas por erros (outliers), de maneira simultânea. O planejamento da rede foi feito por meio do método da tentativa e erro. Depois do processamento dos dados e do ajustamento da rede, se verificou que os critérios de precisão e confiabilidade que foram estipulados na etapa de pré-análise foram devidamente obtidos

VALIDAÇÃO DO SISTEMA DE AUTOMAÇÃO DE NÍVEL DIGITAL APLICADO NA DETERMINAÇÃO DE RECALQUES

O objetivo desta pesquisa é validar um sistema de automação de níveis digitais, desenvolvido em uma tese de doutorado (Andolfato, 2010) e apresentado ao curso de pós-graduação em ciências Geodésicas da UFPR. O procedimento de validação consiste em utilizar o nível digital através do nivelamento geométrico pelo método das visadas extremas para determinar desníveis entre alvos distribuídos com diferentes distâncias em relação ao nível. A simulação do recalque foi realizada através de pinos fixados em várias colunas, em diferentes alturas. A primeira fase consistiu em determinar os desníveis e consequentemente os recalques com o sistema convencional, utilizando um técnico como observador. Posteriormente estes mesmos recalques foram determinados utilizando o SAND (Sistema de Automação de Nível Digital). Depois de concluídos os levantamentos, os resultados obtidos com o SAND foram comparados com os do levantamento convencional e constatou-se que as diferenças de valores entre os recalques detectados/calculados por ambos os métodos variaram no décimo do milímetro. As variâncias dos recalques calculados, em ambos os métodos, foram testadas utilizando o teste F de Snedecor ao nível de significância de 5% e constatou-se que a maioria dos resultados passou no teste de hipótese, ou seja, foram determinados com o mesmo grau de precisão