Automatic detection of signals by using artificial intelligence techniques

Premio Extraordinario de Doctorado de la UAH en 2013Premio a la Mejor Tesis Doctoral en Seguridad y Defensa por el Colegio Oficial de Ingenieros de Telecomunicación (COIT) y la Asociación Española de Ingenieros de Telecomunicación (AEIT) en 2013La detección automática de señales (blancos) en interferencia aditiva (clutter más ruido) es un problema no resuelto hoy en día. Muchos y diversos esquemas de detección son propuestos constantemente en revistas especializadas sobre temas de investigación radar y de procesado de señal. Esos esquemas son adaptados normalmente a la casuística del problema, es decir, a los blancos y al tipo de clutter presentes en esos experimentos. Es por ello que la tesis presentada a continuación busca proponer un esquema de detección que trabaje con altas prestaciones en distintos entornos. En esta tesis se pretende resolver dos tipos de problemas: uno centrado en la detección de blancos radar de tipo Swerling 0 en presencia de clutter sintético modelado con una distribución Weibull y ruido blanco Gaussiano; y otro centrado en la detección de barcos en movimiento a partir de imágenes radar provenientes de un radar marino comercial. Se ha comprobado que los datos reales están estadísticamente relacionados con los datos sintéticos simulados, lo cual permitirá proponer un único esquema de detección que trabaje en ambos casos. Teniendo en cuenta los problemas de detección planteados, se asumen varias premisas. Las imágenes radar generadas en entornos simulados tienen en cuenta una correlación temporal entre celdas consecutivas de la imagen y una distribución espacial constante de los parámetros estadísticos del clutter dentro de una misma imagen, pero variable de una imagen a otra. Dentro de este entorno simulado, se asumen distintos tamaños y formas de blanco. Estos entornos han sido simulados mediante el uso de los parámetros estadísticos del clutter descritos en la literatura. Comparando dichos entornos, se observa una gran disparidad en sus parámetros estadísticos, haciendo más difícil aún si cabe la tarea de proponer un detector radar que trabaje correctamente y con altas prestaciones en distintos entornos radar. Para resolver los problemas de detección planteados, se han considerado detectores radar utilizados habitualmente en la literatura. Así, se ha seleccionado como detector de referencia para el caso de trabajar con datos procedente de un radar coherente el detector de blanco conocido a priori (TSKAP: target sequence known a priori). Detectores basados en técnicas CFAR (constant false alarm rate) han sido elegidos para el caso de trabajar con datos procedentes de un radar incoherente. Por otro lado, se ha estudiado el uso de técnicas de inteligencia artificial (IA) para crear detectores que resuelvan los dos problemas de detección planteados. De las posibles técnicas de IA existentes en la literatura, se han elegido dos tipos de redes neuronales artificiales (RNAs): el perceptron multicapa (MLP: Multilayer perceptron) y las RNAs basadas en funciones de base radial (RBFNs: Radial basis function networks). Mediante este tipo de técnicas, se proponen nuevas estrategias de detección para los casos coherente e incoherente. Aparte de la contribución en el uso de técnicas de IA en temas de detección radar, se presenta otra contribución importante: el uso de nuevos modos de selección de celdas de una imagen para la mejora de las prestaciones del detector radar propuesto. Estos modos están basados en esquemas de selección con retardo (en una o dos dimensiones), dentro de los cuales se pueden elegir más celdas para poder realizar una mejor estimación de los parámetros del clutter que rodea al blanco. Además, el uso de estos modos de selección en dos dimensiones en detectores CFAR también puede ser considerado contribución ya que antes no se habían presentado resultados para los modos aquí propuestos. Los experimentos desarrollados consideran entornos simulados de mar, mar helado y tierra para el diseño y test de los detectores coherentes tomados como referencia y los basados en IA. En estos experimentos, se estudió la influencia de los siguientes parámetros durante el diseño de los detectores bajo estudio: las propiedades del clutter presente en las imágenes de los conjuntos de diseño (para entrenar RNAs y establecer el umbral de detección); los modos de selección; el número de celdas seleccionadas; así como el número de neuronas ocultas en las RNAs. A partir de estos estudios, se obtienen los valores de dichos parámetros, de tal forma que se obtienen altas prestaciones, mientras que se mantiene un coste computacional moderado en el detector propuesto. Una vez diseñados los detectores, éstos se testean utilizando un conjunto de datos de test no utilizado previamente. Este conjunto de test está compuesto por imágenes radar con distintas propiedades estadísticas para simular lo que ocurre en entornos reales. Las prestaciones observadas para este conjunto son ligeramente inferiores a los obtenidas en la etapa de diseño. Además, se observa que las prestaciones del detector para las distintas imágenes radar del con- junto, es decir, para distintos condiciones de clutter, presentan pequeñas variaciones. Esto nos indica un alto grado de robustez en los detectores cuando las condiciones de clutter cambian con el tiempo. Teniendo en cuenta estas pequeñas variaciones de las prestaciones del detector, podemos inferir que las mismas prestaciones presentadas aquí se pueden obtener cuando el detector diseñado procese nuevas imágenes radar en el futuro. Por otro lado, se han realizado estudios similares para el caso de detectores incoherentes en entornos simulados de mar, mar helado y tierra. De estos estudios, destacamos las diferencias que existen entre los resultados obtenidos por los detectores coherentes e incoherentes en entornos simulados de clutter de mar. La primera diferencia que se observa es que las prestaciones del detector incoherente son ligeramente menores que las obtenidas por el coherente, aspecto que era de esperar porque sólo considera la información de amplitud. La segunda diferencia observada es la alta reducción de coste computacional que se obtiene, siendo esto debido a que en estos detectores se utiliza menos información a la entrada. Los resultados obtenidos para los entornos simulados de mar helado y tierra no han sido incorporados en la memoria de la tesis porque tanto las prestaciones como el coste computacional obtenidos son similares a los obtenidos para el caso de entornos marinos. Finalmente, se han diseñado y testeado detectores incoherentes para trabajar con imágenes provenientes de un radar marino comercial situado en la plataforma de investigación alemana FINO-1, la cual se encuentra localizada en el mar del Norte (Alemania). Antes de proceder con el diseño de estos detectores, se comprobó que las medidas de clutter contenidas en las imágenes radar seguían una distribución Weibull, tal y como se asumió en el entorno simulado de mar. Acto seguido a esta comprobación, se procedió con el ajuste de los parámetros de cada uno de los detectores bajo estudio (CFAR y basados en técnicas de IA) para obtener las mejores prestaciones posibles, así como un coste computacional moderado. Una vez diseñados los detectores, se procedió a testearlos, llegando a las mismas conclusiones a las que se llegó para el caso sintético: alta robustez frente a cambios en las condiciones de diseño y baja pérdida de prestaciones cuando se procesan nuevas imágenes radar. También se muestra cual es el coste computacional de la configuración seleccionada en los casos de detectores incoherentes basados en MLPs y RBFNs, así como la velocidad de computo necesaria para poder procesar imágenes radar en tiempo real. A partir de estos resultados, se llega a la conclusión final de que como las unidades de procesado disponibles en el mercado permiten trabajar a las velocidades que necesita el sistema, el procesado en tiempo real está garantizado. A partir del análisis de las prestaciones obtenidas para los distintos casos de estudio abordados en la tesis, se llega a la siguiente conclusión general: los detectores basados en técnicas de IA mejoran las prestaciones obtenidas por los detectores de referencia seleccionados de la literatura en todos los casos de estudio presentados. Ésta conclusión se obtiene para radares que trabajan a distintas frecuencias, con distintas resoluciones y con receptores diferentes (coherentes e incoherentes). Además, esta conclusión también es independiente del entorno radar bajo estudio (mar, mar helado y tierra)

Automatic detection of signals by using artificial intelligence techniques

Premio Extraordinario de Doctorado de la UAH en 2013Premio a la Mejor Tesis Doctoral en Seguridad y Defensa por el Colegio Oficial de Ingenieros de Telecomunicación (COIT) y la Asociación Española de Ingenieros de Telecomunicación (AEIT) en 2013La detección automática de señales (blancos) en interferencia aditiva (clutter más ruido) es un problema no resuelto hoy en día. Muchos y diversos esquemas de detección son propuestos constantemente en revistas especializadas sobre temas de investigación radar y de procesado de señal. Esos esquemas son adaptados normalmente a la casuística del problema, es decir, a los blancos y al tipo de clutter presentes en esos experimentos. Es por ello que la tesis presentada a continuación busca proponer un esquema de detección que trabaje con altas prestaciones en distintos entornos. En esta tesis se pretende resolver dos tipos de problemas: uno centrado en la detección de blancos radar de tipo Swerling 0 en presencia de clutter sintético modelado con una distribución Weibull y ruido blanco Gaussiano; y otro centrado en la detección de barcos en movimiento a partir de imágenes radar provenientes de un radar marino comercial. Se ha comprobado que los datos reales están estadísticamente relacionados con los datos sintéticos simulados, lo cual permitirá proponer un único esquema de detección que trabaje en ambos casos. Teniendo en cuenta los problemas de detección planteados, se asumen varias premisas. Las imágenes radar generadas en entornos simulados tienen en cuenta una correlación temporal entre celdas consecutivas de la imagen y una distribución espacial constante de los parámetros estadísticos del clutter dentro de una misma imagen, pero variable de una imagen a otra. Dentro de este entorno simulado, se asumen distintos tamaños y formas de blanco. Estos entornos han sido simulados mediante el uso de los parámetros estadísticos del clutter descritos en la literatura. Comparando dichos entornos, se observa una gran disparidad en sus parámetros estadísticos, haciendo más difícil aún si cabe la tarea de proponer un detector radar que trabaje correctamente y con altas prestaciones en distintos entornos radar. Para resolver los problemas de detección planteados, se han considerado detectores radar utilizados habitualmente en la literatura. Así, se ha seleccionado como detector de referencia para el caso de trabajar con datos procedente de un radar coherente el detector de blanco conocido a priori (TSKAP: target sequence known a priori). Detectores basados en técnicas CFAR (constant false alarm rate) han sido elegidos para el caso de trabajar con datos procedentes de un radar incoherente. Por otro lado, se ha estudiado el uso de técnicas de inteligencia artificial (IA) para crear detectores que resuelvan los dos problemas de detección planteados. De las posibles técnicas de IA existentes en la literatura, se han elegido dos tipos de redes neuronales artificiales (RNAs): el perceptron multicapa (MLP: Multilayer perceptron) y las RNAs basadas en funciones de base radial (RBFNs: Radial basis function networks). Mediante este tipo de técnicas, se proponen nuevas estrategias de detección para los casos coherente e incoherente. Aparte de la contribución en el uso de técnicas de IA en temas de detección radar, se presenta otra contribución importante: el uso de nuevos modos de selección de celdas de una imagen para la mejora de las prestaciones del detector radar propuesto. Estos modos están basados en esquemas de selección con retardo (en una o dos dimensiones), dentro de los cuales se pueden elegir más celdas para poder realizar una mejor estimación de los parámetros del clutter que rodea al blanco. Además, el uso de estos modos de selección en dos dimensiones en detectores CFAR también puede ser considerado contribución ya que antes no se habían presentado resultados para los modos aquí propuestos. Los experimentos desarrollados consideran entornos simulados de mar, mar helado y tierra para el diseño y test de los detectores coherentes tomados como referencia y los basados en IA. En estos experimentos, se estudió la influencia de los siguientes parámetros durante el diseño de los detectores bajo estudio: las propiedades del clutter presente en las imágenes de los conjuntos de diseño (para entrenar RNAs y establecer el umbral de detección); los modos de selección; el número de celdas seleccionadas; así como el número de neuronas ocultas en las RNAs. A partir de estos estudios, se obtienen los valores de dichos parámetros, de tal forma que se obtienen altas prestaciones, mientras que se mantiene un coste computacional moderado en el detector propuesto. Una vez diseñados los detectores, éstos se testean utilizando un conjunto de datos de test no utilizado previamente. Este conjunto de test está compuesto por imágenes radar con distintas propiedades estadísticas para simular lo que ocurre en entornos reales. Las prestaciones observadas para este conjunto son ligeramente inferiores a los obtenidas en la etapa de diseño. Además, se observa que las prestaciones del detector para las distintas imágenes radar del con- junto, es decir, para distintos condiciones de clutter, presentan pequeñas variaciones. Esto nos indica un alto grado de robustez en los detectores cuando las condiciones de clutter cambian con el tiempo. Teniendo en cuenta estas pequeñas variaciones de las prestaciones del detector, podemos inferir que las mismas prestaciones presentadas aquí se pueden obtener cuando el detector diseñado procese nuevas imágenes radar en el futuro. Por otro lado, se han realizado estudios similares para el caso de detectores incoherentes en entornos simulados de mar, mar helado y tierra. De estos estudios, destacamos las diferencias que existen entre los resultados obtenidos por los detectores coherentes e incoherentes en entornos simulados de clutter de mar. La primera diferencia que se observa es que las prestaciones del detector incoherente son ligeramente menores que las obtenidas por el coherente, aspecto que era de esperar porque sólo considera la información de amplitud. La segunda diferencia observada es la alta reducción de coste computacional que se obtiene, siendo esto debido a que en estos detectores se utiliza menos información a la entrada. Los resultados obtenidos para los entornos simulados de mar helado y tierra no han sido incorporados en la memoria de la tesis porque tanto las prestaciones como el coste computacional obtenidos son similares a los obtenidos para el caso de entornos marinos. Finalmente, se han diseñado y testeado detectores incoherentes para trabajar con imágenes provenientes de un radar marino comercial situado en la plataforma de investigación alemana FINO-1, la cual se encuentra localizada en el mar del Norte (Alemania). Antes de proceder con el diseño de estos detectores, se comprobó que las medidas de clutter contenidas en las imágenes radar seguían una distribución Weibull, tal y como se asumió en el entorno simulado de mar. Acto seguido a esta comprobación, se procedió con el ajuste de los parámetros de cada uno de los detectores bajo estudio (CFAR y basados en técnicas de IA) para obtener las mejores prestaciones posibles, así como un coste computacional moderado. Una vez diseñados los detectores, se procedió a testearlos, llegando a las mismas conclusiones a las que se llegó para el caso sintético: alta robustez frente a cambios en las condiciones de diseño y baja pérdida de prestaciones cuando se procesan nuevas imágenes radar. También se muestra cual es el coste computacional de la configuración seleccionada en los casos de detectores incoherentes basados en MLPs y RBFNs, así como la velocidad de computo necesaria para poder procesar imágenes radar en tiempo real. A partir de estos resultados, se llega a la conclusión final de que como las unidades de procesado disponibles en el mercado permiten trabajar a las velocidades que necesita el sistema, el procesado en tiempo real está garantizado. A partir del análisis de las prestaciones obtenidas para los distintos casos de estudio abordados en la tesis, se llega a la siguiente conclusión general: los detectores basados en técnicas de IA mejoran las prestaciones obtenidas por los detectores de referencia seleccionados de la literatura en todos los casos de estudio presentados. Ésta conclusión se obtiene para radares que trabajan a distintas frecuencias, con distintas resoluciones y con receptores diferentes (coherentes e incoherentes). Además, esta conclusión también es independiente del entorno radar bajo estudio (mar, mar helado y tierra)

Practical Statistics for the LHC

This document is a pedagogical introduction to statistics for particle physics. Emphasis is placed on the terminology, concepts, and methods being used at the Large Hadron Collider. The document addresses both the statistical tests applied to a model of the data and the modeling itself.Comment: presented at the 2011 European School of High-Energy Physics, Cheile Gradistei, Romania, 7-20 September 2011 I expect to release updated versions of this document in the futur

A guide for deploying Deep Learning in LHC searches: How to achieve optimality and account for uncertainty

Deep learning tools can incorporate all of the available information into a search for new particles, thus making the best use of the available data. This paper reviews how to optimally integrate information with deep learning and explicitly describes the corresponding sources of uncertainty. Simple illustrative examples show how these concepts can be applied in practice.Comment: 22 pages, 7 figures. v2: expanded discussion on removing sensitivity to theory nuisance parameters. v3: Updated with suggestions from referee

Anomaly detection on trigger-less muon data streams

open

Underwater target detection using multiple disparate sonar platforms

2010 Fall.Includes bibliographical references.The detection of underwater objects from sonar imagery presents a difficult problem due to various factors such as variations in the operating and environmental conditions, presence of spatially varying clutter, and variations in target shapes, compositions, and orientation. Additionally, collecting data from multiple platforms can present more challenging questions such as "how should I collaboratively perform detection to achieve optimal performance?", "how many platforms should be employed?", "when do we reach a point of diminishing return when adding platforms?", or more importantly "when does adding an additional platform not help at all?". To perform multi-platform detection and answer these questions we use the coherent information among all disparate sources of information and perform detection on the premise that the amount of coherent information will be greater in situations where a target is present in a region of interest within an image versus a situation where our observation strictly consists of background clutter. To exploit the coherent information among the different sources, we recast the standard Neyman-Pearson, Gauss-Gauss detector into the Multi-Channel Coherence Analysis (MCA) framework. The MCA framework allows one to optimally decompose the multi-channel data into a new appropriate coordinate system in order to analyze their linear dependence or coherence in a more meaningful fashion. To do this, new expressions for the log-likelihood ratio and J-divergence are formulated in this multichannel coordinate system. Using the MCA framework, the data of each channel is first whitened individually, hence removing the second-order information from each channel. Then, a set of linear mapping matrices are obtained which maximizes the sum of the cross-correlations among the channels in the mapped domain. To perform detection in the coordinate system provided by MCA, we first of all construct a model suited to this multiple sensor platform problem and subsequently represent observations in their MCA coordinates associated with the H1 hypothesis. Performing detection in the MCA framework results in a log-likelihood ratio that is written in terms of the MCA correlations and mapping vectors as well as a local signal-to-noise ratio matrix. In this coordinate system, the J-divergence, which is a measure of the difference in means of the likelihood ratio, can effectively be represented in terms of the multi-channel correlations and mapping vectors. Using this J-divergence expression, one can get a more clear picture of the amount of discriminatory information available for detection by analyzing the amount of coherent information present among the channels. New analytical and experimental results are also presented to provide better insight on the effects of adding a new piece of data to the multi-channel Gauss-Gauss detector represented in the MCA framework. To answer questions like those posed in the first paragraph, one must carefully analyze the amount of discriminatory information that is brought to the detection process when adding observations from an additional channel. Rather than attempting to observe the increase (or lack thereof) from the full detection problem it is advantageous to look at the change incrementally. To accomplish this goal, new updating equations for the likelihood ratio are derived that involve linearly estimating the new data from the old (already existing) and updating the likelihood ratio accordingly. In this case, the change in J-divergence can be written in terms of error covariance matrices under each hypothesis. We then derive a change in coordinate system that can be used to perform dimensionality reduction. This especially becomes useful when the data we wish to add exists in high-dimensional space. To demonstrate the usefulness of log-likelihood updating, we conduct two simulation studies. The first simulation corresponds to detecting the presence of dynamical structure in data we have observed and corresponds to a temporal updating scheme. The second is concerned with detecting the presence of a single narrow-band source using multiple linear sensor arrays in which case we consider a platform (or channel) updating scheme. A comprehensive study is carried out on the MCA-based detector on three data sets acquired from the Naval Surface Warfare Center (NSWC) in Panama City, FL. The first data set consists of one high frequency (HF) and three broadband (BB) side-looking sonar imagery coregistered over the same region on the sea floor captured from an Autonomous Underwater Vehicle (AUV) platform. For this data set we consider three different detection schemes using different combinations of these sonar channels. The next data set consists of one HF and only one BB beamformed sonar imagery again coregistered over the same region on the sea floor. This data set consists of not only target objects but also lobster traps giving us experimental intuition as how the multi-channel correlations change for different object compositions. The use of multiple disparate sonar images, e.g., a high frequency, high resolution sonar with good target definition and a multitude of lower resolution broadband sonar with good clutter suppression ability significantly improves the detection and false alarm rates comparing to situations where only single sonar is utilized. Finally, a data set consisting of synthetically generated images of targets with differing degrees of disparity such as signal-to-noise ratio (SNR), aspect angle, resolution, etc., is used to conduct a thorough sensitivity analysis in order to study the effects of different SNR, target types, and disparateness in aspect angle