Tese (doutorado) - Universidade Federal de Santa Catarina, Centro Tecnológico, Programa de Pós-Graduação em Engenharia Elétrica, Florianópolis, 2016.Esta tese apresenta um estudo sobre o chamado canal de retransmissão bidirecional (TWRC, do inglês Two Way Relay Channel) sob diferentes técnicas de transmissão. Como primeira contribuição, é obtido para cada técnica de transmissão o limitante teórico para a taxa efetiva de transferência, em função da relação sinal-ruído (SNR, do inglês Signal to Noise Ratio), bem como é indicada a correspondente taxa de mensagem ótima, ou seja, aquela com a qual a máxima taxa efetiva pode ser alcançada. Expressões otimizadas para as duas taxas (ambas expressas em bits por símbolo complexo) são derivadas para o TWRC sob desvanecimento quase-estático do tipo Rayleigh e sob as técnicas de transmissão de roteamento (RO), de codificação de rede (NC) e de codificação de rede na camada física (PNC). Para PNC, foram consideradas as estratégias de retransmissão Decodifica-e-Encaminha (DF) e Computa-e-Encaminha (CF). Além disso, para aumentar a taxa de transferência na técnica PNC, foi considerada a utilização de um buffer de pacotes (PB) na estação relay. A partir dos resultados numéricos, várias conclusões importantes foram obtidas, como por exemplo que CF-PNC com PB é a melhor técnica para SNR de moderada a alta. Como segunda contribuição desta tese, formas de codificação de canal integrada à codificação de rede na camada física foram consideradas, visando alcançar ou se aproximar da máxima taxa efetiva de transferência e assim validar os limitantes obtidos. Para a estratégia DF-PNC, foram projetados códigos de canal integrados turbo com diferentes taxas de mensagens. A fim de melhorar o desempenho, foram implementadas modificações no algoritmo de decodificação dos códigos turbo propostos. Para a estratégia CF-PNC, a técnica de codificação de rede via reticulados sobre anéis de inteiros, recentemente introduzida por Feng, Silva e Kschischang, foi considerada. Foram projetados códigos de reticulados sobre anéis de inteiros complexos obtidos a partir de códigos turbo binários, fazendo uso da Construção A Levantada. Resultados de simulação envolvendo as duas propostas de codificação de canal integrada à codificação de rede na camada física associadas às técnicas DF-PNC e CF-PNC corroboram os resultados teóricos sobre taxas obtidos na primeira parte desta tese.Abstract : This Ph.D. dissertation presents a study of the so-called two-way relay channel (TWRC) under different transmission techniques. As a first contribution, the theoretical limit on the effective transfer rate, as a function of the signal-to-noise ratio (SNR), as well as the corresponding message rate (i.e., the information rate at which the maximum effective transfer rate is achieved) are obtained. Optimized expressions for the two rates (both expressed in bits per complex symbol) are derived for the TWRC under quasi-static Rayleigh fading and under three transmission techniques, namely, routing (RO), network coding (NC), and physical-layer network coding (PNC). For PNC, the decode-and-forward (DF) and compute-and-forward (CF) retransmission strategies are considered. Additionally, in order to increase the transfer rate in PNC, the utilization of a packet buffer (PB) is considered in the relay station. From numerical simulation results, several important conclusions are drawn, for instance, that CF-PNC with PB is the best technique for moderate-to-high SNR. As a second contribution of this dissertation, forms of channel coding integrated to physical-layer network coding are considered, aiming at achieving or approaching the maximum effetive transfer rate, thus validating the derived limits. For the DF-PNC strategy, integrated turbo channel codes with different message rates are designed. To get a better performance, some modifications are implemented in the decoding algorithms for the proposed turbo codes. For CF-PNC, the techique named network coding via lattices over integer rings, recently introduced by Feng, Silva, and Kschischang, is considered. Lattice codes over complex integer rings obtained from binary turbo codes, making use of Lifted Construction A, are designed. Simulation results for the two proposed channel coding techniques integrated to physical-layer network coding, associated with DF-PC and CF-PNC, corroborate the theoretical results on rates obtained in the first part of the dissertation