Análise de desempenho de receptores baseados em reticulados para MIMO e fastICA em sistemas MIMO cego massivos

Orientador: Gustavo FraidenraichTese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: Estatísticas da taxa-soma dos decodificadores Integer Forcing (IF) e outros decodificadores baseados em reticulados para sistemas de Múltipla Entrada e Múltipla Saída (MIMO) são analisadas. Duas aproximações para a taxa-soma de decodificadores lineares são derivadas. A primeira aproximação é baseada no algoritimo Gauss-Lagrange para sistemas com duas antenas no transmissor e receptor (arranjo 2x2) e canais descorrelacionados. A segunda aproximação considera um sistema com um arranjo nxn de antenas, para o caso correlacionado e descorrelacionado e é baseado no segundo teorema de Minkowiski O desempenho de decodificadores IF e Compute and Forward Transform (CFT) são analisados na presença de erro de estimação de canal. Uma aproximação para a taxa-soma média na presença de erros de estimação de canal e canais com realização fixa é derivada. Uma aproximação para a taxa-soma ergódica dos decodificadores IF na presença de canais correlacionados e descorrelacionados também é derivada. Decodificadores lineares IF atraíram atenção significativa devido ao seu potencial de atingir melhor desempenho do que outros decodificadores lineares, especialmente quando as matrizes de canal são aproximadamente singulares. No entanto, uma análise mais profunda de seu desempenho na presença de canais não determinísticos é necessária para que se possa quantificar sua vantagem em relação a decodificadores lineares clássicos e para que se possa corretamente projetar sistemas baseados nestes decodificadoresAbstract: The statistics of the sum-rate of Integer Forcing (IF) and other lattice-based Multiple Input Multiple Output (MIMO) systems are analyzed. Two approximations to the achievable sum-rate of the IF linear receiver and their respective analytical probability density functions (PDF) are derived. The first approximation is based on the Gauss-Lagrange algorithm for systems with two antennas at the transmitter and receiver (2x2 arrays) and uncorrelated channels. The second approximation considers an nxn array for both correlated and uncorrelated channels and its derivation is based on Minkowiski's second theorem. The performance of IF and Compute and Forward Transform (CFT) receivers is also analyzed under the presence of channel estimation errors. An approximation to their average sum-rate in the presence of these errors for fixed channel realizations is derived. An approximation to the Ergodic IF sum-rate for correlated and uncorrelated channels is also derived. IF linear receiver has attracted significant attention recently due to their potential to perform better than other linear receivers, especially in the presence of channel matrices that are close to singular. However, a more in-depth analysis of its performance in the presence of non-deterministic channels is necessary in order to quantify its advantage over classical linear receivers and to correctly design systems that rely on these decoders. Another contribution of this work involves blind decoding in Massive MIMO systems. We propose a variation to the fast Independent Component Analysis (fastICA) which takes into consideration the shape of the constellations to obtain better performanceDoutoradoTelecomunicações e TelemáticaDoutor em Engenharia ElétricaCAPE