基于OAMP算法辅助稀疏连接神经网络的MIMO信号检测

最大似然检测(Maximum likelihood detection,ML)是传统多输入多输出(Multi-input Multi-output,MIMO)信号检测中的最优算法,但是受到天线数量、收发天线比例以及调制信号的约束,致使其仅适用于天线数量少、天线比例较低且调制信号阶数较低的场景。作为一种新型的解决方案,目前基于深度学习(DL)的信号检测算法得到了广泛关注,但同样存在收发天线规模相近时检测性能恶化问题。该文将正交近似消息传递(OAMP)算法与稀疏连接神经网络(ScNet)结合成为可训练的网络结构,提出一种新的适用于MIMO系统上行链路的信号检测算法,称作ScNet-OAMP。该算法通过神经网络提供精确的信号传输参数初始解,改善OAMP过程的线性估计和非线性估计,由此增强其降噪能力,达到提高检测精度的目的,相比于ScNet和OAMP,其能够在同等实验参数下获得最佳检测性能。实验结果表明,此算法适用于QPSK、4QAM及16QAM等不同调制信号,能够处理不同比例收发天线及数量规模的系统配置,尤其是在收发天线数量相近的情况下亦能表现出较好的性能,并且在10-3误码率上有至少0.5 dB,甚至2.2 dB以上的性能增益。