书名：智能无线通信前沿技术与应用
ISBN：978-7-115-63040-7
本书由人民邮电出版社发行数字版。版权所有，侵权必究。
您购买的人民邮电出版社电子书仅供您个人使用，未经授权，不得以任何方式复制和传播本书内容。
我们愿意相信读者具有这样的良知和觉悟，与我们共同保护知识产权。
如果购买者有侵权行为，我们可能对该用户实施包括但不限于关闭该帐号等维权措施，并可能追究法律责任。
著 戴金晟 吴泊霖 王思贤 牛 凯 王 森
责任编辑 张天怡
人民邮电出版社出版发行 北京市丰台区成寿寺路11号
邮编 100164 电子邮件 315@ptpress.com.cn
网址 http://www.ptpress.com.cn
读者服务热线：(010)81055410
反盗版热线：(010)81055315
本书共分为四篇，涵盖了12章。第1章为第一篇，介绍了无线通信中的人工智能基础理论与算法，重点介绍了无线通信常用的人工智能方法。第2章至第5章为第二篇，探讨了人工智能在无线通信传输技术中的应用，详细解析了物理层信号处理中的典型案例。第6章至第9章为第三篇，聚焦于人工智能在无线通信组网技术中的应用，深入讲解了资源管理中的典型案例。第10章到第12章为第四篇，讨论了人工智能在语义通信中的应用，详细阐述了面向未来无线通信的语义通信系统。
本书可作为高等院校人工智能、信息与通信工程学科的教材，也可为工程技术人员提供人工智能在无线通信中的理论、算法与应用方面的参考。
随着相关理论的突破和硬件算力的提升，深度学习相关的研究热潮如波涛般汹涌澎湃，近年来，大批优秀的成果涌现在多个领域当中，如计算机视觉、自然语言处理、游戏博弈、推荐搜索等。深度学习技术在无线通信物理层中的价值也正在逐步被认可，目前已知在无线通信领域，深度学习已经被用于调制模式识别、信道状态信息压缩与恢复、信道估计、信号检测、信道编译码、信号同步等众多关键场景当中，深度学习已然成为无线通信算法研究的一个重要分支。本章将简述深度学习的历史和原理，并简单介绍当前深度学习在无线通信领域中应用的一些成果。
科学技术的发展是曲折的。回顾70多年的发展历史，受算法瓶颈、硬件算力的影响，深度学习的发展经历了多次低潮。直到2006年，“深度学习鼻祖”杰里弗·欣顿（Geoffrey Hinton）提出了梯度消失问题的解决方案，深度学习研究才开始了新一轮的热潮。
深度学习（参考文献[1]）的历史最早可以追溯到1943年，心理学家沃伦·麦卡洛克（Warren McCulloch）和数学家沃尔特·皮茨（Walter Pitts）根据生物的神经元结构，提出了最早的神经元数学模型——MCP（McCulloch-Pitts）模型。MCP模型实际上是按照生物的神经元结构及其工作原理简化抽象出来的，麦卡洛克和皮茨希望能够用计算机来模拟人的神经元反应过程，也就是所谓的“模拟人脑”。该模型将神经元的数据处理工作简化为3个阶段，分别是对输入信号的加权、求和与激活。其中激活阶段为了模拟神经元采用了非线性的激活方式，这也是神经网络与线性计算的根本区别。
普通的MCP模型并没有学习能力，只能完成一些固定的逻辑判定，直到1958年美国科学家弗兰克·罗森布拉特（Frank Rosenblatt）提出了第一个可以自动学习权重的神经元模型，其被称为“感知机”。感知机常被用于分类任务，即使在今天，感知机仍然是入门机器学习学科必学的基础模型，1962年，该模型被证明能够收敛，它的理论与实践效果引起第一次神经网络研究的热潮。
科学技术的发展总是迂回曲折上升的，深度学习也不例外。1969年，美国科学家马尔温·明斯基（Marvin Minsky）等人指出了感知机的缺陷——它无法解决简单的异或问题，这直接导致以感知机为基础的相关神经网络研究陷入低潮。
20世纪80年代，神经网络研究迎来了复兴。1986年，欣顿提出了反向传播（Back Propagation，BP）算法与非线性映射函数Sigmoid，BP算法和Sigmoid有效解决了非线性分类和神经网络学习的问题。放眼现在，BP算法仍然是当今绝大多数神经网络进行训练的方法，欣顿也因此被誉为“神经网络之父”。20世纪八九十年代，卷积神经网络、循环神经网络、长短期记忆（Long Short-Term Memory，LSTM）网络等被相继提出。但是随着以支持向量机（Support Vector Machine，SVM）为代表的浅层机器学习算法研究的兴起，神经网络的研究再次陷入低潮。
2006年，神经网络又一次迎来了复兴，欣顿和他的学生提出了多层神经网络训练时梯度消失问题的解决方案，即采用多层预训练的方式， 同时他们还提出了深度学习的概念， 至此“深度学习时代”到来！2011年，泽维尔·格罗特（Xavier Glorot）提出了线性整流单元（Rectified Linear Unit，ReLU）激活函数，它是当今使用最多的非线性激活函数之一，此后大量的深度神经网络如雨后春笋般“破土而出”，如AlexNet、VGG（Visual Geometry Group）、GoogLeNet、ResNet、DenseNet等。值得注意的是，这些网络都是应用在计算机视觉领域的。除此之外，还有应用于自然语言处理的网络，如LSTM和最近火热的BERT（Bidirectional Encoder Representations from Transformers，一种预训练语言模型）等。当然近年来也有学者提出了应用于无线通信领域的网络，如DetNet、CsiNet等。总而言之，目前深度学习研究正处于新一轮的热潮，同时工业界关于深度学习技术的应用也已硕果累累。
1.1.1小节提到了神经元模型，神经元模型的工作流程可分为3个步骤，首先输入数据向量，然后进行数据处理，最后输出处理好的数据向量。神经元模型在进行数据处理时又分成3个阶段，依次是加权、求和与激活。许多神经元以特定的规则排列并连接成网状就形成了神经网络。如图1.1所示，图中的网络称为全连接（Fully Connected，FC）神经网络，其中每一个圆圈表示一个神经元。如图1.1所示，通过排列，神经元之间形成了固定的层级关系。图1.1中的网络共分3层：习惯上将第一层称为输入层；将最后一层称为输出层；因为外部看不到输入层与输出层之间的网络结构，所以将第一层与最后一层中间包含的所有层称为隐藏层。之所以把图1.1所示网络称为全连接神经网络，是因为后一层的神经元会把它前一层的所有神经元的输出都作为自己的输入。值得注意的是，神经元之间的每一个连接都代表着一个权重（用w表示）。
图1.1 全连接神经网络结构
神经网络实际上是一个将输入向量映射到输出向量的非线性函数，其中非线性主要由神经元的非线性激活函数提供。图1.1所示的神经网络可以记为
（1.1）
神经网络能够通过反向传播进行“训练”来缩小输出值与期望值之间的差距。具体来说，在获得了输出值以后，在监督学习条件下，便可以计算出网络输出值与期望值之间的损失函数
值，然后通过BP算法（依据的是链式求导法则），能够计算出损失函数关于神经网络中每一个权重的梯度，这样通过梯度下降算法，如式（1.2）所示，就可以实现权重的迭代更新，使得损失函数值变得更小，其中lr是梯度下降算法的学习率（Learning Rate，LR）。通过大量数据不断地训练，神经网络会越来越“适应”当前数据集，在当前数据集中的损失函数值就会越来越小，那么预测得也就会越来越准，同时在一些分布相似但未参与训练的数据集上也会有不错的表现。
（1.2）
深度学习网络可以看作多层的神经网络，当然神经网络不仅限于全连接神经网络，还包括卷积神经网络、循环神经网络等一众变化多端、风格各异的优秀网络。也正是因为网络结构多变，深度学习才具备了巨大的潜力与更多的可能。虽然不同的网络结构迥异，但相通的是，绝大多数神经网络都是依托大量数据进行监督学习，并通过BP算法来实现参数迭代更新的。
下面介绍一种计算机视觉领域常见的神经网络——卷积神经网络。常见卷积神经网络的结构如图1.2所示。与全连接神经网络相比，卷积神经网络在结构上有很大差异，全连接神经网络中的神经元都是按照一维排列的，而卷积神经网络中的神经元是按照三维排列的，3个维度分别是长度、宽度和高度，可以分别与图像中的长、宽、通道一一对应，所以卷积神经网络天然适用于处理图像问题。卷积神经网络通常包含卷积层、池化层和全连接层，其中池化层负责对图像进行“过滤”，卷积层负责对图像进行卷积操作。相比于全连接层，卷积层的参数更少，并且卷积层能够考虑到图像像素位置的相关性。基于以上特点，卷积神经网络常常是图像领域的不二之选，同时，一些包含位置相关性的问题也会考虑应用卷积神经网络。
图1.2 常见卷积神经网络的结构
目前深度学习技术已经在无线通信领域得到了广泛的应用，在常见的调制模式识别、信道状态信息压缩与恢复、信道估计、信号检测等工作中都能看见基于深度学习的算法尝试。深度学习是一种监督学习，它通过设计具体的结构，确定结构中的可训练参数，然后在一个大数据集上训练，使得神经网络充分“适应”这个数据集。神经网络会“专注”于对它进行训练的数据集，在对它进行训练的数据集上会表现得非常好，而在不同分布的其他数据集上则表现较差，也就是泛化能力较差。而传统算法通常不考虑数据集的影响，在所有的数据集上都可以有较好的表现，也就是泛化能力较强。在特定数据集下，“精一枝”必然会优于“精百枝”，所以处理数据分布相对固定的问题时，基于深度学习的算法相比传统算法确实会更有优势，并且深度学习的网络结构变化多端、优化便捷，因此其在无线通信领域有着广阔的应用前景。
调制模式识别是一种非常重要的技术，它在军用和民用无线通信系统中都发挥了重要的作用。在军用领域，调制模式识别主要用于电子对抗；所谓“知己知彼，百战不殆”，只有正确识别敌方干扰信号才能做到有针对性的对抗。在民用领域，调制模式识别主要用于频谱检测与干扰识别。调制模式识别本质上是一个分类问题，它的目标在于将给定的基带接收符号分类为不同的调制模式，如四相移相键控（Quaternary Phase-Shift Keying，QPSK）、16QAM（Quadrature Amplitude Modulation，正交振幅调制）等。在分类问题中，深度学习算法展现了它强大的分类性能，所以将深度学习应用于调制模式识别非常直观。常见的基于深度学习的调制模式识别算法采用全连接神经网络的结构；对于二维的信号，也有采用卷积神经网络进行调制模式识别的。
在今天，大规模多输入多输出（Multiple-Input Multiple-Output，MIMO）无线通信系统面临着天线阵列扩增带来的高维信道状态信息（Channel State Information，CSI）传输的挑战，首先发送端对CSI进行压缩以减少传输开销，之后接收端再进行解压缩与恢复，重建原始的高维CSI。通常将信道信息看作高维低秩的图像来进行压缩与恢复处理。因为深度学习在图像压缩领域取得了优异的成绩，所以一些学者开始考虑将深度学习应用于CSI的压缩与恢复，如Wen等人提出的CsiNet（参考文献[2]、[3]、[7]），以及Cai等人提出的Attention CsiNet（参考文献[4]），都利用神经网络进行CSI压缩与恢复，并取得了不错的效果。
信道估计对于高频率、高效率的相干通信来说具有重要影响，是决定接收机性能的关键因素之一，所以信道估计在无线通信系统中至关重要，只有正确估计出信道的信息，才能采取对应的举措消除信道变化带来的信号衰落，并且在MIMO系统中，信道估计是信号检测与预编码的前提。由于信道天然存在着频域、时域、空域上的相关性，所以一些学者考虑采用卷积神经网络进行信道估计（参考文献[8]～[10]），典型的成果如Liao等人提出的ChanEstNet（参考文献[5]）。他们利用卷积神经网络提取信道特征，又利用循环神经网络进行信道估计与插值。
信号检测负责从接收符号中恢复出发送符号，接收端信号检测的性能表征着整个通信系统的可靠性。检测出的错误较多时，会涉及重传，进一步增加系统传输的开销；同时，若信号检测的复杂度较高，耗费时间较久，则会降低系统的传输速率。所以对于信号检测算法来说，做好性能与复杂度的权衡非常重要。在大规模MIMO系统当中，传统的线性信号检测算法不能满足低误码率的需求，而高性能的检测算法往往复杂度极高，所以人们开始将视线转移到深度学习上来，一些优秀的基于深度学习的MIMO信号检测算法被提出，典型代表如Samuel等人提出的DetNet（参考文献[6]）。与前文叙述的网络不同，DetNet并没有直接采用全连接神经网络或者卷积神经网络的结构，而是基于一些已有的迭代算法，将迭代算法展开成网络；具体来说就是将迭代算法的每一次迭代展开成网络的一层，这样如果迭代算法迭代30次，对应就可以展开成一个30层的深度神经网络。本书把这样的处理称为深度展开。深度展开的好处在于，对比展开之前的迭代算法，展开后的网络可以自适应地优化原始迭代算法的超参数，达到性能优化的目的。
本章介绍了深度学习技术的历史，阐述了深度学习技术的基本原理，对基本的神经网络（全连接神经网络、卷积神经网络）进行了简要介绍。
本章还介绍了深度学习技术在无线通信领域中的基本应用，包括调制模式识别、信道状态信息（CSI）压缩与恢复、信道估计、信号检测，它们当中很多都应用了前文介绍的全连接神经网络和卷积神经网络。在信号检测部分，本章介绍了深度展开方法，深度展开方法在MIMO信号检测领域非常常见，有很多基于深度展开的优秀信号检测算法被提出。深度展开方法是研究MIMO信号检测问题的一个重要方向。
深度学习技术经过漫长、曲折的发展，如今已经进入新一轮的研究热潮。在无线通信领域，深度学习技术被广泛应用，并且由于深度学习技术自身网络结构多变、容易优化的特点，其在无线通信领域仍有大量的可能性等待我们去探索与发现。
[1] LECUN Y, BENGIO Y, HINTON G. Deep learning [J]. nature, 2015, 521(7553)： 436.
[2] WANG T Q, et al. Deep learning-based CSI feedback approach for time-varying massive MIMO channels [J]. IEEE Wireless Communications Letters, 2018,8(2)： 416-419.
[3] WEN C K, SHIH W T, JIN S. Deep learning for massive MIMO CSI feedback[J]. IEEE Wireless Communications Letters, 2018,7(5)：748-751.
[4] CAI Q Y, DONG C, NIUK Attention model for massive MIMO CSI compression feedback and recovery： 2019 IEEE Wireless Communications and Networking Conference (WCNC)[C]. New York：IEEE, 2019.
[5] LIAO Y, et al. ChanEstNet： A deep learning based channel estimation for high-speed scenarios： ICC 2019-2019 IEEE international conference on communications (ICC) [C]. New York：IEEE, 2019.
[6] SAMUEL N,DISKIN T, WIESEL A. Learning to detect [J]. IEEE Transactions on Signal Processing,2019,67(10)：2554-2564.
[7] GUO J J, et al. Convolutional neural network-based multiple-rate compressive sensing for massive MIMO CSI feedback： Design, simulation, and analysis [J]. IEEE Transactions on Wireless Communications ,2020,19(4)： 2827-2840.
[8] LIN B, et al. A novel OFDM autoencoder featuring CNN-based channel estimation for internet of vessels[J]. IEEE Internet of Things Journal, 2020, 7(8)： 7601-7611.
[9] MASHHADI M B,GÜNDÜZ D. Pruning the pilots： Deep learning-based pilot design and channel estimation for MIMO-OFDM systems [J]. IEEE Transactions on Wireless Communications ,2021,20(10)： 6315-6328.
[10] SARADHI P P, PANDYA R J, IYER S, et al. Deep Learning Oriented Channel Estima- tion for Interference Reduction for 5G：2021 International Conference on Innovative Computing, Intelligent Communication and Smart Electrical Systems (ICSES) [C]. New York： IEEE, 2021.
