Ajustamento de observações: uma interpretação geométrica para o método dos mínimos quadrados

O Método dos Mínimos Quadrados (MMQ) é um dos critérios mais utilizados para o ajustamento de informações onde o número de observações é superabundante e o sistema de equações, devido à presença de erros no processo experimental de medições, inconsistente. Este método adota como solução única para tais problemas aquela que minimiza a soma do quadrado dos erros aleatórios, e é largamente empregado em aplicações geodésicas. A fundamentação teórica envolvida no MMQ, contendo o desenvolvimento matemático do método, é amplamente difundida na comunidade geodésica. Porém, neste artigo, o objetivo é apresentar uma revisão teórica sobre a interpretação geométrica do MMQ, e uma solução alternativa de cálculo para este, advinda desta interpretação. Dois exemplos também são apresentados, onde a interpretação geométrica foi demonstrada numericamente para problemas envolvendo duas observações e um parâmetro e também quatro observações e dois parâmetros

Teoria de confiabilidade generalizada para múltiplos outliers: apresentação, discussão e comparação com a teoria convencional

Após o ajustamento de observações pelo método dos mínimos quadrados (MMQ) ter sido realizado, é possível a detecção e a identificação de erros não aleatórios nas observações, por meio de testes estatísticos. A teoria da confiabilidade faz uso de medidas adequadas para quantificar o menor erro detectável em uma observação, e a sua influência sobre os parâmetros ajustados, quando não detectado. A teoria de confiabilidade convencional foi desenvolvida para os procedimentos de teste convencionais, como o data snooping, que pressupõem que apenas uma observação está contaminada por erros grosseiros por vez. Recentemente foram desenvolvidas medidas de confiabilidade generalizadas, relativas a testes estatísticos que pressupõem a existência, simultânea, de múltiplas observações com erros (outliers). O objetivo deste trabalho é apresentar, aplicar e discutir a teoria de confiabilidade generalizada para múltiplos outliers. Além da formulação teórica, este artigo também apresenta experimentos realizados em uma rede GPS (Global Positioning System), onde erros propositais foram inseridos em algumas observações e medidas de confiabilidade e testes estatísticos foram calculados utilizando a abordagem para múltiplos outliers. Comparações com a teoria de confiabilidade convencional também são realizadas. Por fim, apresentam-se as discussões e conclusões obtidas com estes experimentos

Robustness analysis of geodetic networks in the case of correlated observations

GPS (or GNSS) networks are invaluable tools for monitoring natural hazards such as earthquakes. However, blunders in GPS observations may be mistakenly interpreted as deformation. Therefore, robust networks are needed in deformation monitoring using GPS networks. Robustness analysis is a natural merger of reliability and strain and defined as the ability to resist deformations caused by the maximum undetecle errors as determined from internal reliability analysis. However, to obtain rigorously correct results; the correlations among the observations must be considered while computing maximum undetectable errors. Therefore, we propose to use the normalized reliability numbers instead of redundancy numbers (Baarda's approach) in robustness analysis of a GPS network. A simple mathematical relation showing the ratio between uncorrelated and correlated cases for maximum undetectable error is derived. The same ratio is also valid for the displacements. Numerical results show that if correlations among observations are ignored, dramatically different displacements can be obtained depending on the size of multiple correlation coefficients. Furthermore, when normalized reliability numbers are small, displacements get large, i.e., observations with low reliability numbers cause bigger displacements compared to observations with high reliability numbers

DESIGN OF GEODETIC NETWORKS BASED ON OUTLIER IDENTIFICATION CRITERIA: AN EXAMPLE APPLIED TO THE LEVELING NETWORK

We present a numerical simulation method for designing geodetic networks. The quality criterion considered is based on the power of the test of data snooping testing procedure. This criterion expresses the probability of the data snooping to identify correctly an outlier. In general, the power of the test is defined theoretically. However, with the advent of the fast computers and large data storage systems, it can be estimated using numerical simulation. Here, the number of experiments in which the data snooping procedure identifies the outlier correctly is counted using Monte Carlos simulations. If the network configuration does not meet the reliability criterion at some part, then it can be improved by adding required observation to the surveying plan. The method does not use real observations. Thus, it depends on the geometrical configuration of the network; the uncertainty of the observations; and the size of outlier. The proposed method is demonstrated by practical application of one simulated leveling network. Results showed the needs of five additional observations between adjacent stations. The addition of these new observations improved the internal reliability of approximately 18%. Therefore, the final designed network must be able to identify and resist against the undetectable outliers – according to the probability levels

Elimination of some unknown parameters and its effect on outlier detection

Outliers in observation set badly affect all the estimated unknown parameters and residuals, that is because outlier detection has a great importance for reliable estimation results. Tests for outliers (e.g. Baarda's and Pope's tests) are frequently used to detect outliers in geodetic applications. In order to reduce the computational time, sometimes elimination of some unknown parameters, which are not of interest, is performed. In this case, although the estimated unknown parameters and residuals do not change, the cofactor matrix of the residuals and the redundancies of the observations change. In this study, the effects of the elimination of the unknown parameters on tests for outliers have been investigated. We have proved that the redundancies in initial functional model (IFM) are smaller than the ones in reduced functional model (RFM) where elimination is performed. To show this situation, a horizontal control network was simulated and then many experiences were performed. According to simulation results, tests for outlier in IFM are more reliable than the ones in RFM

Planejamento de redes geodésicas resistentes a múltiplos outliers

Ao se planejar o levantamento de uma rede geodésica, deseja-se que as observações a serem realizadas e as coordenadas dos pontos a serem estimadas atendam critérios de precisão e confiabilidade pré-estabelecidos de acordo com os objetivos do projeto. Na etapa de pré-análise, antes mesmo da coleta das observações, é possível estimar a precisão e confiabilidade da rede, estipulando uma geometria/configuração para a mesma e a precisão esperada para as observações. O objetivo deste artigo é apresentar o planejamento de uma rede geodésica que atenda critérios de precisão e confiabilidade, considerando a possível existência de dois ou mais erros não detectados nas observações, bem como a influência (simultânea) destes erros sobre os parâmetros (coordenadas ajustadas dos vértices). Além da revisão teórica, experimentos foram realizados em uma rede GNSS, onde foram estipulados critérios de precisão e confiabilidade considerando a existência de até duas observações contaminadas por erros (outliers), de maneira simultânea. O planejamento da rede foi feito por meio do método da tentativa e erro. Depois do processamento dos dados e do ajustamento da rede, se verificou que os critérios de precisão e confiabilidade que foram estipulados na etapa de pré-análise foram devidamente obtidos