多元LDPC编码调制系统CNN辅助迭代检测译码算法 万飞.pdf

该【多元LDPC编码调制系统CNN辅助迭代检测译码算法 万飞 】是由【琪官】上传分享，文档一共【9】页，该文档可以免费在线阅读，需要了解更多关于【多元LDPC编码调制系统CNN辅助迭代检测译码算法 万飞 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。无线电通信技术
RadioCommunicationsTechnology
ISSN1003-3114,CN13-1099/TN
《无线电通信技术》网络首发论文
题目:多元LDPC编码调制系统CNN辅助迭代检测译码算法
作者:万飞,白宝明,朱敏
网络首发日期:2022-06-13
引用格式:万飞,白宝明,
[J/OL].无线电通信技术.
.
网络首发:在编辑部工作流程中,稿件从录用到出版要经历录用定稿、排版定稿、整期汇编定稿等阶
段。录用定稿指内容已经确定,且通过同行评议、主编终审同意刊用的稿件。排版定稿指录用定稿按照期
刊特定版式(包括网络呈现版式)排版后的稿件,可暂不确定出版年、卷、期和页码。整期汇编定稿指出
版年、卷、期、页码均已确定的印刷或数字出版的整期汇编稿件。录用定稿网络首发稿件内容必须符合《出
版管理条例》和《期刊出版管理规定》的有关规定;学术研究成果具有创新性、科学性和先进性,符合编
辑部对刊文的录用要求,不存在学术不端行为及其他侵权行为;稿件内容应基本符合国家有关书刊编辑、
出版的技术标准,正确使用和统一规范语言文字、符号、数字、外文字母、法定计量单位及地图标注等。
为确保录用定稿网络首发的严肃性,录用定稿一经发布,不得修改论文题目、作者、机构名称和学术内容,
只可基于编辑规范进行少量文字的修改。
出版确认:纸质期刊编辑部通过与《中国学术期刊(光盘版)》电子杂志社有限公司签约,在《中台上创办与纸质期刊内容一致的网络版,以单篇或整期出版形式,在印刷
出版之前刊发论文的录用定稿、排版定稿、整期汇编定稿。因为《中国学术期刊(网络版)》是国家新闻出
版广电总局批准的网络连续型出版物(ISSN2096-4188,CN11-6037/Z),所以签约期刊的网络版上网络首
发论文视为正式出版。
网络首发时间:2022-06-1314:58:53
网络首发地址:.
多元LDPC编码调制系统CNN辅助迭代检测译码算法
万飞,白宝明,朱敏
(西安电子科技大学综合业务网理论及关键技术国家重点实验室,陕西西安710071)
摘要:针对相关噪声信道,提出了一种适用于多元LDPC码的深度学习辅助译码算法,将卷积神经
网络(ConvolutionNeuralNetwork,CNN)引入到基于硬信息的迭代大数逻辑算法中,以对抗相关信道噪声
影响。在CNN与硬判决译码器之间的迭代能够减弱噪声对编码调制系统的影响,使得译码器可以获得更为
准确的估计。为了充分发挥CNN的能力,对于经过高阶调制的复数形式信号数据,通过预处理转化为实数
形式。仿真结果表明,相较于已有研究中提出的联合迭代检测译码结构,GF(64)域上的(42,21)多元LDPC
码经64-QAM调制传输,CNN方案能够获得最高1dB的性能增益,验证了其在抵抗相关信道噪声的有效
性。
关键词:多元LDPC码;卷积神经网络;迭代检测译码算法;相关噪声
中图分类号:TN919文献标志码:A
CNN-aidedIterativeDetectionandDecodingforNonbinaryLDPCCoded
ModulationSystems
WANFei,BAIBaoming,ZHUMin
(StateKeyLaboratoryofISN,XidianUniversity,Xi’an710071,China)
Abstract:Inthispaper,weproposeadeeplearningassistediterativedetectionanddecodingmethodfor
nonbinaryLDPC(NB-LDPC)codedmodulationsystemsundercorrelatedchannelnoise,inwhichtheconvolution
neuralnetwork(CNN)isincorporatedintoiterativehard--based
-decision
decoderalleviatestheeffectofthenoise,
CNN,weadjustitandtransformcomplex-valueddatasetintoreal-
proposedschemecanachieveimprovementupto1dBcomparedwiththeoriginaliterativejointdetectiondecoding
algorithmfor(42,21)NB-LDPCcodeoverGF(64)transmittedwith64-
proposedCNNhastheabilitytorecovertheprocesseddata.
Keywords:NB-LDPCcodes;CNN;Iterativedetectionanddecodingarchitecture;Correlatednoise
收到了广泛的关注。DL在物理层的典型应
0引言
用包括模型/数据驱动的检测、均衡和译码。
近年来,深度学习(DeepLearning,DL)当前,将DL应用到译码中已经成为学
已经在图像处理、机器翻译、语音识别等领术界和工业界的广泛认同。文献[2]将神经网
域展现出了显著的性能提升,也在通信领域络(NeuralNetwork,NN)引入到信道译码
(BCH码)中,其展现的优异性能激发了DL
基金项目:国家自然科学基金面上项目(62171356);中国电子科技集团公司第五十四研究所合作课题(SKX212010038);
陕西省重点研发计划(2020ZDLGY05-04)
FoundationItem:NationalNaturalScienceFoundationofChina(62171356);Cooperativeprojectofthe54thResearchInstitute
ofChinaElectronicsTechnologyGroupCorporation(SKX212010038);KeyIndustryInnovationChainProjectofShaanxi
(2020ZDLGY05-04)
与译码结合的研究热潮。随后,越来越多基虑译码的方案。基于相关噪声的特性,采用
于DL的译码方案被提出[3,4],例如,自编码DL来减弱噪声的影响以提升传输的性能。
器[5]和不同类型的NN译码方案的性能分析本文提出了一种CNN辅助的迭代检测
[6-7]。同时,DL与经典算法的结合也被视为译码(IterativeDetectionandDecoding,IDD)
另一种有效利用深度学习能力的方案。文献框架,可以有效抵抗相关信道噪声。神经网
[8]基于置信传播译码算法与NN的结合,络从接收序列中恢复出相关噪声,然后迭代
将因子图上的权重视为分枝重要性度量,剪地从接收序列中减去学习到的噪声数据,减
枝低重要性的因子图分枝,对于Reed-Muller弱了噪声影响的信号能够得到更好的BER
码和短LDPC码取得了良好的比特错误率性能。并且,受利用NN译码方案的启发,
(BitErrorRate,BER)性能,并且显著降低在CNN辅助的IDD方案(CNN-IDD)后再
了译码复杂度。其他传统译码算法,比如最级联一个网络,可以达到进一步的性能提升。
小和译码算法及偏移最小和算法[9]通过NN
1基础原理
给因子图增加乘性训练权重和偏移参数减
少了近似误差,也取得了性能提升。
相关噪声的影响,文献[10]在二元LDPC码
考虑定义在有限域上的多元LDPC码。
中使用卷积神经网络(ConvolutionNeural
假设GFq()是一个拥有q个元素的伽罗华
Network,CNN)来辅助收端抵抗噪声的影响,
域,其中q通常是素数的幂次。一个q元的
同样的方案也被采用辅助Polar码译码[11]。
码定义为在上的
当下,大部分的工作都集中在二元码上,并LDPC[,nk]GFq()mn
多元稀疏矩阵的零空间,其中,
且除了基于掩模图的方案[12],其他所有方案H[]hi,jmn
且。当且仅有T成
都受限于信息长度,基本都在中短码长下使mnhij,GF()qvH0
立,向量n才是
用[13]。v(,,,)()vvvGFq011n
而一般来说,在等效比特长度下,相较的一个合法码字。关于多元LDPC码的构造
于二元LDPC码,多元LDPC码有着更小的方法,有包括代数和图构造等多种方法。
生成矩阵和更优异的误码性能。因此,神经至于多元LDPC码的译码算法,在1988
网络的规模随着码长的增长呈指数增长的年,Davey和MacKay将用于二元LDPC码
限制对于多元码不再是困难。并且,多元的和积算法(Sum-productAlgorithm,SPA)
[15]
LDPC码天然适合与高阶调制相结合的特性扩展到多元应用中,称为QSPA。到2000
也使得其更具有实用性。但是,软判决译码年,他们又提出了基于快速傅里叶变换的
算法的复杂度太高,这是限制多元LDPC码QSPA,将计算复杂度下降至(log)qq[16]。
实用的最大问题。在文献[1]中,对于加性
高斯白噪声(AdditivewhiteGaussianNoise,为了进一步降低复杂度,Declercq和
AWGN)信道传输的符号使用sinc脉冲成形,Fossorier提出了一种简化的译码(Extended
[17]
一种基于硬消息传递的多元LDPC码联合Min-sum,EMS)算法。随后,基于EMS
[18]
检测译码迭代(IterativeJointDetection又有两种简化算法被提出。
Decoding,IJDD)方案被提出。在中短码长下,多元LDPC码的性能优
在本文中,考虑到更实际的场景,我们于二元LDPC码,尤其是与高阶调制相结合
在发端使用了平方根升余弦(square-root时。然而,软判决译码算法的高复杂度限制
raised-cosine,RRC)脉冲成形滤波器。对于了其的实际使用。在文献[19-20]中,基于硬
AWGN信道,在收端也使用对应的RRC滤信息的IJDD译码算法被提出来,在复杂度
波器和适当的采样。因此,端到端的等效离与性能之间实现了良好的平衡。IJDD算法
散模型可以视为信号经历了一个相关噪声的基本思想是采用硬消息迭代将信号检测
信道。同时,文献[14]及后续的工作也展现器和多元LDPC译码器融为一个整体,在信
出了一种全新的角度——从噪声的角度考号空间上通过多次迭代将有噪接收信号逐
步修正到正确信号点上。此后,基于符号投
票准则的大数逻辑算法被提出[1,21]。
InputlayerHiddenlayerOutputLayer

DL在图像分类、语言处理和机器翻译
等方面的巨大成功引起了跨领域合作的热
潮。常用的NN包括多层感知机、CNN和循
环NN,本文使用CNN来辅助译码。
如图1所示,神经网络从左到右分别由
输入层、隐藏层和输出层组成。输入层将数
据集传入NN,因此,其包含的神经元数目
图1NN结构图
与数据集的特征数一致。对应地,输出层将

预测结果传出NN,其包含的神经元数目与
另一种重要的函数是损失函数,它衡量
标签维度一致。隐藏层是整个NN最为重要
了模型预测与真实标签之间的差异,比如均
的部分,对应于第i层的操作为:
方差(MeanSquareError)损失函数:
zwxbg()i(),(1)
iiiiiN
12
LyyMSEpred,()ii。(3)
其中,zi是当前层的输出,xi是第i1层的Ni1
输出z。w和b分别是第i层的权重矩阵
i1ii因为其在像素图上强大的特征提取能
和偏置向量。激活函数g()给NN引入了非
力,CNN被广泛应用在图像处理中。如图
线性,也是DL强大表达能力的原因之一。
2所示,CNN利用卷积操作从部分像素点
常用的两种激活函数——线性整流
中提取特征。卷积核的重使用能够减少数
()和函数
Rectifiedlinearunit,Relusigmoid据集规模需求,同时也会加速训练过程。后
如下所示:
续的池化操作能够避免过拟合。
gxx()max(0,)
Relu
1(2)
g(x)
sigmoid1ex
TransformationConvolutionLayersPoolingFully-connectedLayer
OutputLayer
InputLayer
图2CNN处理框图

2CNN辅助的迭代检测译码框架

结合CNN-IJDD的多元LDPC码编码
调制系统框图如图3所示。
uNB-LDPCcHigh-orderxx(,,,)xxx。其中每个检测符号表示
SourceChannel011n
EncoderModulator
y为:

nxnjjargmin|||yxj|,0,1,,1(6)
yˆx
ˆNB-LDPCzcˆ
Complex/RealnˆxDetector
Decoder
rˆˆj其中,||||表示欧几里得范数。
r
CNNReal/Complex
j随后,x被解映射为z(,,,)zzz011n,
1
其中zjj()x。检测器将结果传给译码
图3CNN-IDD传输框图
器,向量z是一个合法码字当且仅当下式成
-IDDscheme
立:
zH0T(7)
在发端,令u(,,,)uuu011k表示消息序列,
()k
令ij,表示第k次迭代中从校验节点
其中。经过多元编码器可以得到
uiGF()qCNi传给变量节点VNj的消息,则校验节点
的消息更新准则为
()1()kk
多元码字c(,,,)ccc011n,其中ciGFq()。(8)
ijijj,,'h()hij,'z
ji'()C
然后,码字被c映射到一个大小为M(假设
其中,C()i表示第i行非零元素的索引。
Mq)的星座集上,得到了复信号
变量节点VNj基于其相邻校验节点的
()k
消息{}ij,做少数服从多数投票。所有变量
x(,,,)xxx,其中,
011nxcij()()节点的投票结果联合得到译码结果cˆ,将
cˆ(,,,)cccˆˆˆ通过()星座映射到
表示信号映射函数。011n
xˆ(,,,)xxxˆˆˆ,得到第k次的译码结果。
如图4所示,经过RRC脉冲成形,等011n
因此,估计的噪声序列为:
效离散时间信道输出为
yxn(4)nyxˆˆ,(9)
其中,噪声n是拥有自相关矩阵R的复高斯这就是NN的原始数据。
CNN在获取噪声序列之后,利用实/复
随机向量。令Ri,j为R的第(ij,)个元素,则
数转换、卷积和非线性函数等操作,在损失
||ij函数和标签指引下进行训练。
Rij,(5)
对于训练好的CNN网络,在得到估计
其中,为相关系数。这样的信道模型在文
的噪声序列nˆ后,会输出网络恢复的噪声序
献[22]中也被引用。
列n。将其送给收端检测器,从而能够在检
测之前减少相关噪声对于消息序列的影响,
nt()从而IDD能够得到性能提升。
pt()q(tp)(t)
xt()yt()
-IDD优化结构
RRCRRC
受NN可以直接用于译码的启发,我们
图4等效离散时间信道模型在CNN-IDD迭代后再级联CNN网络,得
-timemodel到图5中的优化CNN-IDD结构,对最后一
在接收端,令CNN学习到的噪声序列次迭代的译码器输出再经过一次CNN网络
表示为n,且初始化为0。则可用yˆyn修正来辅助CNN-IDD框架的译码输出。
表示传给检测器的去噪序列。检测器通过最
大似然准则得到硬判决符号
uNB-LDPCcHigh-orderx
SourceChannel

y
在将原始数据传入CNN的时候,简单地将
ncˆ
yˆ复数向量直接联合得到类似图像的矩阵是
ˆNB-LDPCz
Complex/RealnˆxDetectorCNN
Decoder不合理的。考虑到实际通信传输中复数信号
rˆˆj
r的特点,如图6所示,利用实部虚部分离和
CNNReal/Complex
j重构的预处理操作,对应图3中的红色虚线
框操作。
图5优化的CNN-IDD传输框图
-IDDscheme
Convolutionwithoutpooling
Complex/RealchangedatamatrixReal/Complexchange
InputLayerOutputLayer
combine
图6CNN设计流程

估计的复数噪声序列nˆ经过实部虚部
分离可以得到算法1CNN处理过程
rnˆ()ˆ输入:
(10)
ˆjn()ˆ数据集:rˆ,ˆj
特征向量:()n,()n
通过此操作,训练所需要的数据集数量
网络参数:长度n,批量大小Bz,卷积
可以减半。将实部与虚部按列放置组合构造
层数L,每一层神经元数目[]aaa0,,,
得到数据矩阵。01L
和滤波器大小[,bb,,b]
由于池化操作和输出层前的全连接结12L
目标:
构在本文提出的方案中会引起较大的性能
输出估计噪声r,j
损失,因此本文并不推荐采用。为了得到与
1:将rˆ,ˆj传入输入层;
标签向量相同的特征维度,设定最后一层隐
2:将输入向量转化为(Bz,n,0,1)形式张量;
藏层中卷积核的水平滑动步长为2,其余层
3:foriL[1,]do
中水平滑动步长均为1。垂直滑动步长由超
4:令卷积核大小为[]b,1,,aa;
参数设定,CNN的详细处理过程如算法1所iii1
:使用步长移动卷积核;
示。5[1,1,1,1]foriL
相对应的,在输出层后,需要将预测数使用步长[1,1,2,1]移动卷积核foriL;
据按照下式,进行实部虚部重新组合,整合6:使用“same”填充进行卷积操作;
为复数形式,即网络学习到的噪声序列:7:endfor
8:将数据整形为[Bz,n],并传给输出层;
nrji(11)9:输出r,j
并将n作为输入传给检测器。从而,下一次
3仿真结果与分析
迭代中检测器和译码器处理时能够减弱噪
声对于信号的影响。因此,随着迭代地进行,
噪声对于信号的影响愈小,CNN-IDD的抗
干扰性能也就越好。
IDD后都调用网络的做法在保证性能的前
仿真使用GF(64)域构造的多元LDPC
提下进一步减少了复杂度的提交。
图9比较了CNN-IDD方案和优化的
码(42,21),其行列重分别为3和6。传输为
CNN-IDD方案的性能,对于2次迭代,优
64QAM调制以及噪声相关系数。化的CNN-IDD比原IJDD算法取得近1dB
,比CNN-
[23],同时,使用了NVIDAGTXdB的性能增益。
1080TiGPU加速。
在训练阶段,本文使用在多个信噪比
[8dB,18dB,]下生成的数据,对于每
个信噪比生成200000个符号,其中90%用
于网络训练,剩下的用于测试。模型共使用
5层网络,每一层的神经元数目和激活函数
设置如表1所示,其中“(a,bc)”指的是通
道数目a和卷积核大小bc。利用Xavier初
始化[24]、Adam优化算法[25]和MSE损失函
数。,。训图7采用CNN译性能图
练的截止条件设定为损失不再下降或者达

到最大迭代次数5000次。为了提高模型对
于信噪比的稳健性,使用了批量归一化,对
于每个信噪比下选取了50个样本。同时,

均来改善模型的泛化能力。
表1CNN参数设置表

层神经元参数激活函数
输入层42—
第一层隐藏层(64,91)Relu
第二层隐藏层(32,31)Relu
图8CNN-IDD方案在不同迭代次数下的性能
第三层隐藏层(16,31)Relu
-IDDschemeunder
输出层(1,152)—
differentiterations

图7比较了多元LDPC码硬判决译码和
仅采用CNN的译码性能,对于BER为104
时,CNN方案可以取得约1dB的性能增益。
这也验证了优化的CNN-IDD方案的出发点。
图8展现了迭代次数对于BER性能的
影响。可以看到,对于BER为104时,两次
迭代和10次迭代的CNN-IDD方案分别取
。对10次图9优化的CNN-IDD性能图
-IDDscheme
4结束语coding[C]//InternationalConferenceon
advancedNetworksandTelecommunications
本文针对多元LDPC码编码调制系统
:IEEE,2018:1-6.
提出了CNN-IDD方案及其优化来减小相关
[7]LYUW,ZHANGZ,JIAOC,
信道噪声影响。通过从接收信号中删除CNN
evaluationofchanneldecodingwithdeepneural
预测噪声的迭代操作,收端减弱了噪声对于
networks[C]//InternationalConferenceon
信息的影响,从而给检测和译码提供了经过
:IEEE,2018:1-6.
去噪处理的数据,即改善了接收信号的信噪
[8]BUCHBERGERA,HAGERC,PFISTERHD,
比。仿真结果表明,对于GF(64)域上的(42,21)

多于LDPC码,优化的CNN-IDD算法可以
decoders[C]//InternationalSymposiumon
取得近1dB的性能增益。后续,将考虑更
:IEEE,
高域上的多元LDPC码的CNN-IDD方案,
2020:338-342.
同时将信道扩展至衰落噪声信道和码间干
[9]LUGOSCHL,-
扰信道。
sumdecoding[C]//InternationalSymposiumon
:IEEE,2017:1361-
参考文献
1365.
[1]ZHUM,GUOQ,BAIBM,-
[10]LIANGF,SHENC,-CNN
basedjointdetectiondecodingalgorithmfor
architectureforchanneldecoding[J],IEEE
nonbinaryLDPC-codedmodulationsystems[J],
JournalofSelectedTopicsinSignalProcessing,
IEEETransactionsonCommunications,2016,
2018,12(1):144-159.
64(1):2-14.
[11]WENC,XIONGJ,GUIL,
[2]NACHMANIE,BE’ERYY,BURSHTEIND.
decodingschemeforPolarcodeusing
Learningtodecodelinearcodesusingdeep
convolutionalneuralnetworks[C]//International
learning[C]//54thAnnualAllertonConferenceon
SymposiumonBroadbandMultimediaSystems
Communication,Control,andComputing.
andBroadcasting,Jeju:IEEE,2019:1-5.
Monticello:IEEE,2016:341-346.
[12]DAIJC,TANK,SIZW,
[3]GRUBERT,CAMMERERS,HOYDISJ,etal.
DecodeProtographLDPCCodes[J],IEEE
Ondeeplearning-basedchanneldecoding[C]//
JournalonSelectedAreasinCommunications,
201751stAnnualConferenceonInformation
2021,39(7):1983-1999.
:IEEE,2017:1-
[13]LEUNGCT,MOTANIM,-
6.
labelandconcatenatedneuralblock
[4]WANGY,ZHANGZ,ZHANGS,
decoders[C]//InternationalSymposiumon
deeplearningbasedPolar-LDPCdecoderfor5G
InformationTheory,LosAngeles:IEEE,
communicationsystems[C]//10thInternational
2020:274-279.
ConferenceonWirelessCommunicationsand
[14]DUFFYKR,LIJ,,
:Hangzhou,2018:1-6.
notcode-words[C]//2018IEEEInternational
[5]XUJ,CHENW,AIB,
Sympos