Convergence and Fluctuations of Regularized Tyler Estimators

This article studies the behavior of regularized Tyler estimators (RTEs) of scatter matrices. The key advantages of these estimators are twofold. First, they guarantee by construction a good conditioning of the estimate and second, being a derivative of robust Tyler estimators, they inherit their robustness properties, notably their resilience to the presence of outliers. Nevertheless, one major problem that poses the use of RTEs in practice is represented by the question of setting the regularization parameter $\rho$. While a high value of $\rho$ is likely to push all the eigenvalues away from zero, it comes at the cost of a larger bias with respect to the population covariance matrix. A deep understanding of the statistics of RTEs is essential to come up with appropriate choices for the regularization parameter. This is not an easy task and might be out of reach, unless one considers asymptotic regimes wherein the number of observations $n$ and/or their size $N$ increase together. First asymptotic results have recently been obtained under the assumption that $N$ and $n$ are large and commensurable. Interestingly, no results concerning the regime of $n$ going to infinity with $N$ fixed exist, even though the investigation of this assumption has usually predated the analysis of the most difficult $N$ and $n$ large case. This motivates our work. In particular, we prove in the present paper that the RTEs converge to a deterministic matrix when $n\to\infty$ with $N$ fixed, which is expressed as a function of the theoretical covariance matrix. We also derive the fluctuations of the RTEs around this deterministic matrix and establish that these fluctuations converge in distribution to a multivariate Gaussian distribution with zero mean and a covariance depending on the population covariance and the parameter $\rho$

Détection robuste de cibles en imagerie Hyperspectrale.

Hyperspectral imaging (HSI) extends from the fact that for any given material, the amount of emitted radiation varies with wavelength. HSI sensors measure the radiance of the materials within each pixel area at a very large number of contiguous spectral bands and provide image data containing both spatial and spectral information. Classical adaptive detection schemes assume that the background is zero-mean Gaussian or with known mean vector that can be exploited. However, when the mean vector is unknown, as it is the case for hyperspectral imaging, it has to be included in the detection process. We propose in this work an extension of classical detection methods when both covariance matrix and mean vector are unknown.However, the actual multivariate distribution of the background pixels may differ from the generally used Gaussian hypothesis. The class of elliptical distributions has already been popularized for background characterization in HSI. Although these non-Gaussian models have been exploited for background modeling and detection schemes, the parameters estimation (covariance matrix, mean vector) is usually performed using classical Gaussian-based estimators. We analyze here some robust estimation procedures (M-estimators of location and scale) more suitable when non-Gaussian distributions are assumed. Jointly used with M-estimators, these new detectors allow to enhance the target detection performance in non-Gaussian environment while keeping the same performance than the classical detectors in Gaussian environment. Therefore, they provide a unified framework for target detection and anomaly detection in HSI.L'imagerie hyperspectrale (HSI) repose sur le fait que, pour un matériau donné, la quantité de rayonnement émis varie avec la longueur d'onde. Les capteurs HSI mesurent donc le rayonnement des matériaux au sein de chaque pixel pour un très grand nombre de bandes spectrales contiguës et fournissent des images contenant des informations à la fois spatiale et spectrale. Les méthodes classiques de détection adaptative supposent généralement que le fond est gaussien à vecteur moyenne nul ou connu. Cependant, quand le vecteur moyen est inconnu, comme c'est le cas pour l'image hyperspectrale, il doit être inclus dans le processus de détection. Nous proposons dans ce travail d'étendre les méthodes classiques de détection pour lesquelles la matrice de covariance et le vecteur de moyenne sont tous deux inconnus.Cependant, la distribution statistique multivariée des pixels de l'environnement peut s'éloigner de l'hypothèse gaussienne classiquement utilisée. La classe des distributions elliptiques a été déjà popularisée pour la caractérisation de fond pour l’HSI. Bien que ces modèles non gaussiens aient déjà été exploités dans la modélisation du fond et dans la conception de détecteurs, l'estimation des paramètres (matrice de covariance, vecteur moyenne) est encore généralement effectuée en utilisant des estimateurs conventionnels gaussiens. Dans ce contexte, nous analysons de méthodes d’estimation robuste plus appropriées à ces distributions non-gaussiennes : les M-estimateurs. Ces méthodes de détection couplées à ces nouveaux estimateurs permettent d'une part, d'améliorer les performances de détection dans un environment non-gaussien mais d'autre part de garder les mêmes performances que celles des détecteurs conventionnels dans un environnement gaussien. Elles fournissent ainsi un cadre unifié pour la détection de cibles et la détection d'anomalies pour la HSI

Algorithmes d’Estimation et de Détection en Contexte Hétérogène Rang Faible

One purpose of array processing is the detection and location of a target in a noisy environment. In most cases (as RADAR or active SONAR), statistical properties of the noise, especially its covariance matrix, have to be estimated using i.i.d. samples. Within this context, several hypotheses are usually made: Gaussian distribution, training data containing only noise, perfect hardware. Nevertheless, it is well known that a Gaussian distribution doesn’t provide a good empirical fit to RADAR clutter data. That’s why noise is now modeled by elliptical process, mainly Spherically Invariant Random Vectors (SIRV). In this new context, the use of the SCM (Sample Covariance Matrix), a classical estimate of the covariance matrix, leads to a loss of performances of detectors/estimators. More efficient estimators have been developed, such as the Fixed Point Estimator and M-estimators.If the noise is modeled as a low-rank clutter plus white Gaussian noise, the total covariance matrix is structured as low rank plus identity. This information can be used in the estimation process to reduce the number of samples required to reach acceptable performance. Moreover, it is possible to estimate the basis vectors of the clutter-plus-noise orthogonal subspace rather than the total covariance matrix of the clutter, which requires less data and is more robust to outliers. The orthogonal projection to the clutter plus noise subspace is usually calculated from an estimatd of the covariance matrix. Nevertheless, the state of art does not provide estimators that are both robust to various distributions and low rank structured.In this Thesis, we therefore develop new estimators that are fitting the considered context, to fill this gap. The contributions are following three axes :- We present a precise statistical model : low rank heterogeneous sources embedded in a white Gaussian noise.We express the maximum likelihood estimator for this context.Since this estimator has no closed form, we develop several algorithms to reach it effitiently.- For the considered context, we develop direct clutter subspace estimators that are not requiring an intermediate Covariance Matrix estimate.- We study the performances of the proposed methods on a Space Time Adaptive Processing for airborne radar application. Tests are performed on both synthetic and real data.Une des finalités du traitement d’antenne est la détection et la localisation de cibles en milieu bruité.Dans la plupart des cas pratiques, comme par exemple pour les traitements adaptatifs RADAR, il fautestimer dans un premier temps les propriétés statistiques du bruit, plus précisément sa matrice de covariance.Dans ce contexte, on formule généralement l’hypothèse de bruit gaussien. Il est toutefois connuque le bruit en RADAR est de nature impulsive et que l’hypothèse gaussienne est parfois mal adaptée.C’est pourquoi, depuis quelques années, le bruit, et en particulier le fouillis de sol, est modélisé pardes processus couvrant un panel plus large de distributions, notamment les Spherically Invariant RandomVectors (SIRVs). Dans ce nouveau cadre théorique, la Sample Covariance Matrix (SCM) estimantclassiquement la matrice de covariance du bruit entraîne des pertes de performances importantes desdétecteurs/estimateurs. Dans ce contexte non-gaussien, d’autres estimateurs (e.g. les M-estimateurs),mieux adaptés à ces statistiques de bruits impulsifs, ont été développés.Parallèlement, il est connu que le bruit RADAR se décompose sous la forme d’une somme d’unfouillis de rang faible (la réponse de l’environnement) et d’un bruit blanc (le bruit thermique). La matricede covariance totale du bruit a donc une structure de type rang faible plus identité. Cette informationpeut être utilisée dans le processus d’estimation afin de réduire le nombre de données nécessaires. Deplus, il aussi est possible de construire des traitements adaptatifs basés sur un estimateur du projecteurorthogonal au sous espace fouillis, à la place d’un estimateur de la matrice de covariance. Les traitementsadaptatifs basés sur cette approximation nécessitent aussi moins de données secondaires pour atteindredes performances satisfaisantes. On estime classiquement ce projecteur à partir de la décomposition envaleurs singulières d’un estimateur de la matrice de covariance.Néanmoins l’état de l’art ne présente pas d’estimateurs à la fois robustes aux distributions impulsives,et rendant compte de la structure rang faible des données. C’est pourquoi nos travaux se focalisentsur le développement de nouveaux estimateurs (de covariance et de sous espace fouillis) directementadaptés au contexte considéré. Les contributions de cette thèse s’orientent donc autour de trois axes :- Nous présenterons le modèle de sources impulsives ayant une matrice de covariance de rang faiblenoyées dans un bruit blanc gaussien. Ce modèle, fortement justifié dans de nombreuses applications, acependant peu été étudié pour la problématique d’estimation de matrice de covariance. Le maximum devraisemblance de la matrice de covariance pour ce contexte n’ayant pas une forme analytique directe,nous développerons différents algorithmes pour l’atteindre efficacement- Nous développerons de plus nouveaux estimateurs directs de projecteur sur le sous espace fouillis, nenécessitant pas un estimé de la matrice de covariance intermédiaire, adaptés au contexte considéré.- Nous étudierons les performances des estimateurs proposés sur une application de Space Time AdaptativeProcessing (STAP) pour radar aéroporté, au travers de simulations et de données réelles

Quantiles univariés et multivariés, approches probabilistes et statistiques : applications radar

The description and the estimation of univariate and multivariate models whose underlyingdistribution is heavy-tailed is a strategic challenge. L-moments have becomeclassical tools alternative to central moments for the description of dispersion, skewnessand kurtosis of a univariate heavy-tailed distribution. Indeed, contrary to correspondingcentral moments, they are well defined since the expectation of the distribution of interestis finite. L-moments can be seen as projections of the quantile function on a family oforthogonal polynomials. First, we will estimate parameters of semi-parametric modelsdefined by constraints on L-moments through divergence methods.We will then propose a generalization of L-moments for multivariate distributions using amultivariate quantile function defined as a transport of the uniform distribution on [0; 1]dand the distribution of interest. As their univariate versions, these multivariate L-momentsare adapted for the study of heavy-tailed distributions. We explicitly give their formulationsfor models with rotational parameters.Finally, we propose M-estimators of the scatter matrix of complex elliptical distributions.The family of these distributions form a multivariate semi-parametric model especiallycontaining heavy-tailed distributions. Specific M-estimators adapted to complex ellipticaldistribution with an additional assumption of stationarity are proposed. Performancesand robustness of introduced estimators are studied.Ground and sea clutters are often modelized by complex elliptical distributions in the fieldof radar processing. We illustrate performances of detectors built from estimators of thescatter matrix through proposed methods for different radar scenarios.La description et l’estimation des modèles aussi bien univariés que multivariés impliquantdes distributions à queue lourde est un enjeu applicatif majeur. Les L-moments sontdevenus des outils classiques alternatifs aux moments centraux pour décrire les comportementsen dispersion, asymétrie, kurtosis d’une distribution univariée à queue lourde. Eneffet, contrairement aux moments centraux correspondants, ils sont bien définis dès quel’espérance de la distribution d’intérêt est finie. Les L-moments peuvent être vus comme laprojection de la fonction quantile sur une famille orthogonale de polynômes, récupérant lalinéarité inhérente aux quantiles. Nous estimerons dans un premier temps les paramètresde modèles semi paramétriques définis par des contraintes sur ces L-moments par des méthodesde minimisation de divergences.Nous proposons dans un second temps une généralisation des L-moments aux distributionsmultivariées qui passe par la définition d’un quantile multivarié défini comme untransport entre la distribution uniforme sur [0; 1]d et la distribution d’intérêt. Cela nouspermet de proposer des descripteurs pour des distributions multivariées adaptés à l’étudedes queues lourdes. Nous détaillons leurs expressions dans le cadre de modèles possédantdes paramètres de rotation.Enfin, nous proposons des M-estimateurs de la matrice de dispersion des distributions complexeselliptiques. Ces dernières forment un modèle multivarié semi-paramétrique contenantnotamment des distributions à queue lourde. Des M-estimateurs spécifiques adaptésaux distributions elliptiques avec une hypothèse supplémentaire de stationnarité sont égalementproposés. Les performances et la robustesse des estimateurs sont étudiées.Les signaux radar provenant de fouillis tels les fouillis de mer ou les fouillis de sol sontsouvent modélisés par des distributions elliptiques. Nous illustrerons les performances dedétecteurs construits à partir de l’estimation de la matrice de dispersion par les méthodesproposées pour différents scénarios radar pour lesquels la robustesse de la procédure d’estimationest cruciale

Massive MIMO is a Reality -- What is Next? Five Promising Research Directions for Antenna Arrays

Massive MIMO (multiple-input multiple-output) is no longer a "wild" or "promising" concept for future cellular networks - in 2018 it became a reality. Base stations (BSs) with 64 fully digital transceiver chains were commercially deployed in several countries, the key ingredients of Massive MIMO have made it into the 5G standard, the signal processing methods required to achieve unprecedented spectral efficiency have been developed, and the limitation due to pilot contamination has been resolved. Even the development of fully digital Massive MIMO arrays for mmWave frequencies - once viewed prohibitively complicated and costly - is well underway. In a few years, Massive MIMO with fully digital transceivers will be a mainstream feature at both sub-6 GHz and mmWave frequencies. In this paper, we explain how the first chapter of the Massive MIMO research saga has come to an end, while the story has just begun. The coming wide-scale deployment of BSs with massive antenna arrays opens the door to a brand new world where spatial processing capabilities are omnipresent. In addition to mobile broadband services, the antennas can be used for other communication applications, such as low-power machine-type or ultra-reliable communications, as well as non-communication applications such as radar, sensing and positioning. We outline five new Massive MIMO related research directions: Extremely large aperture arrays, Holographic Massive MIMO, Six-dimensional positioning, Large-scale MIMO radar, and Intelligent Massive MIMO.Comment: 20 pages, 9 figures, submitted to Digital Signal Processin