Subspace Leakage Analysis and Improved DOA Estimation with Small Sample Size

Classical methods of DOA estimation such as the MUSIC algorithm are based on estimating the signal and noise subspaces from the sample covariance matrix. For a small number of samples, such methods are exposed to performance breakdown, as the sample covariance matrix can largely deviate from the true covariance matrix. In this paper, the problem of DOA estimation performance breakdown is investigated. We consider the structure of the sample covariance matrix and the dynamics of the root-MUSIC algorithm. The performance breakdown in the threshold region is associated with the subspace leakage where some portion of the true signal subspace resides in the estimated noise subspace. In this paper, the subspace leakage is theoretically derived. We also propose a two-step method which improves the performance by modifying the sample covariance matrix such that the amount of the subspace leakage is reduced. Furthermore, we introduce a phenomenon named as root-swap which occurs in the root-MUSIC algorithm in the low sample size region and degrades the performance of the DOA estimation. A new method is then proposed to alleviate this problem. Numerical examples and simulation results are given for uncorrelated and correlated sources to illustrate the improvement achieved by the proposed methods. Moreover, the proposed algorithms are combined with the pseudo-noise resampling method to further improve the performance.Comment: 37 pages, 10 figures, Submitted to the IEEE Transactions on Signal Processing in July 201

Iтеративний метод виявлення радiосигналiв на основi вирiшуючих статистик

Iнформатизацiя радiотехнiчних систем стимулює використання найрiзноманiтнiших технологiй в радiолокацiйних системах та системах передавання iнформацiї, що ускладнює вирiшення завдання виявлення сигналiв та потребує використання в системах радiомонiторингу сучасних алгоритмiв оброблення з можливiстю модифiкацiї їх окремих частин для налаштування на конкретний вид сигналу i завадову обстановку. Для вирiшення даного завдання було розроблено iтеративний метод виявлення радiосигналiв на основi вирiшуючих статистик. Ключовою iдеєю запропонованого методу є використання статистичних вiдмiнностей мiж сигналом i шумом не за самими величинами вiдлiкiв прийнятого сигналу, а за деякими вирiшуючими статистиками вiд них. Сутнiсть методу полягає у перетвореннi вибiрки прийнятого радiосигналу iз застосуванням деякого оператора з подальшим обчисленням вирiшуючої статистики та ї ї порiвняннi з пороговим значенням. При перевищеннi порогу вiдкидається максимальне значення вiдлiку iз перетвореної вибiрки i процедура повторюється доки значення вирiшуючої статистики не стане менше порогового. Вiдкинутi вiдлiки вiдносяться до сигнальних, а решта − до шумових. Вид оператора обирається iз апрiорних вiдомостей про сигнал i повинен пiдвищити його контраст на фонi випадкового шуму. Вирiшуюча статистика повинна мати малi характеристики розсiювання, а вiдстань мiж ї ї значеннями для шуму i сигнальної сумiшi повинна бути якомога бiльшою для заданого значення вiдношення сигнал-шум. Дослiдження розробленого методу для виявлення вузькосмугових сигналiв у частотнiй областi показали, що оптимальним видом оператора є перетворення Фур’є, вирiшуючої статистики − коефiцiєнт варiацiї. Розроблений iтеративний метод для частотної областi дозволяє виявляти вузькосмуговi сигнали при невiдомих значеннях потужностi шуму у динамiчному дiапазонi, який обмежується лише рiвнем бiчних пелюсток вiконної функцiї, при завантаженостi смуги частот аналiзу не менше 60 %.Intensive computerization of radio systems stimulates the use of various technologies in radar and communication systems, which makes it difficult to solve the problem of signal detection and requires the use of modern processing algorithms in radio monitoring systems with the possibility of modifying their parts according to a specific type of signal and interference. To solve this problem, an iterative method for detecting radio signals based on decisive statistics was developed. The key idea of the proposed method is using of statistical differences between the signal and noise not according to the values of the samples of the received signal, but according to some decisive statistics from them. The essence of the method is to transform the sample of the received radio signal using some operator, followed by the calculation of the decisive statistics and its comparison with some threshold. When the threshold is exceeded, the maximum value of the sample from the converted sample is discarded and the procedure is repeated until the value of the decision statistics becomes less than the threshold. The discarded samples refer to the signal, and the rest to noise. The type of operator is selected based on a priori information about the signal and increases its contrast against random noise. Decisive statistics should have small scattering characteristics, and the distance between its values for noise and the signal mixture should be as large as possible for a given signal-to-noise ratio. A study of the developed method for detecting narrowband signals in the frequency domain showed that the Fourier transform is the optimal form of the operator, and the coefficient of variation is optimal decisive statistic. The developed iterative method for the frequency domain allows detecting narrowband signals at unknown values of noise power in the dynamic range, which is limited only by the level of the side lobes of the window function, when the analysis frequency band is loaded no less than 60 %.Информатизация радиотехнических систем стимулирует использование разнообразных технологий в радиолокационных системах и системах передачи информации, что затрудняет решение задачи обнаружения сигналов и требует использования в системах радио-мониторинга современных алгоритмов обработки с возможностью модификации их отдельных частей для настройки на конкретный вид сигнала и помехи. Для решения данной задачи был разработан итеративный метод обнаружения радиосигналов на основе решающих статистик. Ключевой идеей предложенного метода является использование статистических различий между сигналом и шумом не за величинами отсчетов принятого сигнала, а по некоторым решающим статистикам от них. Сущность метода заключается в преобразовании выборки принятого радиосигнала с применением некоторого оператора с последующим вычислением решающей статистики и ее сравнении с пороговым значением. При превышении порога отбрасывается максимальное значение отсчета с преобразованной выборки и процедура повторяется пока значение решающей статистики не станет меньше порогового. Отброшенные отсчеты относятся к сигнальным, а остальные — к шумовым. Вид оператора выбирается на основании априорных сведений о сигнале и повышает его контраст на фоне случайного шума. Решающая статистика должна иметь малые характеристики рассеивания, а расстояние между ее значениями для шума и сигнальной смеси должно быть как можно больше для заданного значения отношения сигнал-шум. Исследование разработанного метода для обнаружения узкополосных сигналов в частотной области показали, что оптимальным видом оператора является преобразование Фурье, а решающей статистики — коэффициент вариации. Разработанный итеративный метод для частотной области позволяет обнаруживать узкополосные сигналы при неизвестных значениях мощности шума в динамическом диапазоне, который ограничивается только уровнем боковых лепестков оконной функции, при загруженности полосы частот анализа не менее 60 %