1.2　深度学习在无线通信中的基本应用

目前深度学习技术已经在无线通信领域得到了广泛的应用，在常见的调制模式识别、信道状态信息压缩与恢复、信道估计、信号检测等工作中都能看见基于深度学习的算法尝试。深度学习是一种监督学习，它通过设计具体的结构，确定结构中的可训练参数，然后在一个大数据集上训练，使得神经网络充分“适应”这个数据集。神经网络会“专注”于对它进行训练的数据集，在对它进行训练的数据集上会表现得非常好，而在不同分布的其他数据集上则表现较差，也就是泛化能力较差。而传统算法通常不考虑数据集的影响，在所有的数据集上都可以有较好的表现，也就是泛化能力较强。在特定数据集下，“精一枝”必然会优于“精百枝”，所以处理数据分布相对固定的问题时，基于深度学习的算法相比传统算法确实会更有优势，并且深度学习的网络结构变化多端、优化便捷，因此其在无线通信领域有着广阔的应用前景。

1.2.1　调制模式识别

调制模式识别是一种非常重要的技术，它在军用和民用无线通信系统中都发挥了重要的作用。在军用领域，调制模式识别主要用于电子对抗；所谓“知己知彼，百战不殆”，只有正确识别敌方干扰信号才能做到有针对性的对抗。在民用领域，调制模式识别主要用于频谱检测与干扰识别。调制模式识别本质上是一个分类问题，它的目标在于将给定的基带接收符号分类为不同的调制模式，如四相移相键控（Quaternary Phase-Shift Keying，QPSK）、16QAM（Quadrature Amplitude Modulation，正交振幅调制）等。在分类问题中，深度学习算法展现了它强大的分类性能，所以将深度学习应用于调制模式识别非常直观。常见的基于深度学习的调制模式识别算法采用全连接神经网络的结构；对于二维的信号，也有采用卷积神经网络进行调制模式识别的。

1.2.2　信道状态信息压缩与恢复

在今天，大规模多输入多输出（Multiple-Input Multiple-Output，MIMO）无线通信系统面临着天线阵列扩增带来的高维信道状态信息（Channel State Information，CSI）传输的挑战，首先发送端对CSI进行压缩以减少传输开销，之后接收端再进行解压缩与恢复，重建原始的高维CSI。通常将信道信息看作高维低秩的图像来进行压缩与恢复处理。因为深度学习在图像压缩领域取得了优异的成绩，所以一些学者开始考虑将深度学习应用于CSI的压缩与恢复，如Wen等人提出的CsiNet（参考文献[2]、[3]、[7]），以及Cai等人提出的Attention CsiNet（参考文献[4]），都利用神经网络进行CSI压缩与恢复，并取得了不错的效果。

1.2.3　信道估计

信道估计对于高频率、高效率的相干通信来说具有重要影响，是决定接收机性能的关键因素之一，所以信道估计在无线通信系统中至关重要，只有正确估计出信道的信息，才能采取对应的举措消除信道变化带来的信号衰落，并且在MIMO系统中，信道估计是信号检测与预编码的前提。由于信道天然存在着频域、时域、空域上的相关性，所以一些学者考虑采用卷积神经网络进行信道估计（参考文献[8]～[10]），典型的成果如Liao等人提出的ChanEstNet（参考文献[5]）。他们利用卷积神经网络提取信道特征，又利用循环神经网络进行信道估计与插值。

1.2.4　信号检测

信号检测负责从接收符号中恢复出发送符号，接收端信号检测的性能表征着整个通信系统的可靠性。检测出的错误较多时，会涉及重传，进一步增加系统传输的开销；同时，若信号检测的复杂度较高，耗费时间较久，则会降低系统的传输速率。所以对于信号检测算法来说，做好性能与复杂度的权衡非常重要。在大规模MIMO系统当中，传统的线性信号检测算法不能满足低误码率的需求，而高性能的检测算法往往复杂度极高，所以人们开始将视线转移到深度学习上来，一些优秀的基于深度学习的MIMO信号检测算法被提出，典型代表如Samuel等人提出的DetNet（参考文献[6]）。与前文叙述的网络不同，DetNet并没有直接采用全连接神经网络或者卷积神经网络的结构，而是基于一些已有的迭代算法，将迭代算法展开成网络；具体来说就是将迭代算法的每一次迭代展开成网络的一层，这样如果迭代算法迭代30次，对应就可以展开成一个30层的深度神经网络。本书把这样的处理称为深度展开。深度展开的好处在于，对比展开之前的迭代算法，展开后的网络可以自适应地优化原始迭代算法的超参数，达到性能优化的目的。