Analysis of the correntropy-based criterion for blind equalization with precoded sources

Orientador: Levy BoccatoDissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: Dentro da área de processamento de sinais, o problema de equalização de canais tornou-se um tópico de pesquisa muito relevante devido a seu vasto horizonte de aplicações em, por exemplo, telecomunicações, processamento sísmico e medicina. De uma forma geral, as técnicas e métodos desenvolvidos para este problema baseiam-se no pressuposto de que a fonte do sinal é estatisticamente independente no tempo. No entanto, a ocorrência de fontes dotadas de dependência temporal (como sinais de áudio e vídeo) é significativa, e ainda há a necessidade de uma análise mais profunda dos métodos de equalização para este contexto. De fato, fontes com dependência temporal exigem um processamento mais profundo dos dados, de forma que a informação contida na estrutura temporal dos dados seja aproveitada para desempenhar a equalização. Neste contexto, emerge uma abordagem promissora que envolve o uso de uma medida chamada correntropia. Esta medida, pertencente ao campo de aprendizado baseado na Teoria da Informação, é capaz de explorar tanto a informação estatística quanto a estrutura temporal dos sinais envolvidos e, por isso, vem sendo amplamente utilizada em equalização de canais com fonte dotada de estrutura temporal. Baseando-se nisso, neste trabalho, realiza-se uma análise detalhada do critério baseado em correntropia para equalização cega, dedicando especial atenção ao efeito dos parâmetros ajustáveis para estimação. Mais detalhadamente, investiga-se a relação entre as versões estimada e analítica da correntropia, em que, neste último caso, alcança-se a derivação analítica para alguns cenários de interesse, o que é outra contribuição deste trabalho. Os resultados experimentais indicam algumas relações entre os principais parâmetros e o desempenho alcançávelAbstract: Within the area of signal processing, the channel equalization problem has become a very relevant research topic due to its wide range of applications, for example, in telecommunications, in seismic imaging and in medicine. In general, the techniques and methods developed for this problem are based on the assumption that the signal provided by the source is statistically independent in time. However, the occurrence of sources with temporal dependence (such as audio and video signals) is significant and still requires a more in-depth analysis of the equalization methods for this context. In fact, temporally structured sources require deeper processing of the data, so that the information contained in the temporal structure of the data is explored to perform the channel equalization. In this context, a promising approach emerges, which involves the use of a measure called correntropy. This measure comes from the field of the Information Theoretic Learning (ITL), and is capable of exploring both the statistical information and the temporal structure of the signals involved and, therefore, it has been widely used in channel equalization with sources with temporal structure. Based on this, in this work, a detailed analysis of the criterion based on correntropy for blind equalization is performed, giving particular attention to the effect of the adjustable parameters for estimation. In more detail, the relationship between the estimated and analytical versions of the correntropy is investigated, in which, in the latter case, the analytical derivation is reached for some scenarios of interest, which is another contribution of this work. The experimental results indicate some relationships between the main parameters and the attainable performanceMestradoEngenharia de ComputaçãoMestre em Engenharia ElétricaCAPE