复数多电平离散Hopfield网络盲检测算法
张昀,张志涌
(南京邮电大学 自动化学院,江苏 南京,210003)
摘要:提出了一个新的复数多电平离散Hopfield神经网络,构造了新的适用于复数多电平离散神经网的能量函数,分别在异步与同步更新模式下讨论了神经网的稳定性。为利用CMDHNN盲检测MQAM信号,用接收信号补投影算子构造了联结权阵,通过求解带整数约束的二次规划问题实现多电平复数信号盲检测。仿真试验表明:本算法所需接收数据较短,可实现计算目标,搜索空间缩小,系统性能得到提高。仿真结果也证明了系统真平衡点的稳定性推论。
关键词:复数多电平离散Hopfield神经网络;盲检测;MQAM信号
中图分类号:TN911.23 文献标志码:A 文章编号:1672-7207(2011)S1-0026-06
Blind detection algorithm of complex multi-valued discrete Hopfield network
ZHANG Yun, ZHANG Zhi-yong
(College of Automation, Nanjing University of Posts & Telecommunications, Nanjing 210003, China)
Abstract: A new complex multi-valued discrete Hopfield neural network (CMDHNN) is proposed. A multi-valued discrete activation function and a new energy function for CMDHNN is constructed. The stability for multi-valued CMDHNN with asynchronous operating mode and synchronous operating mode is also analyzed. Furthermore, while the weighted matrix of CMDHNN is constructed by the complementary projection operator of received signals, the problem of quadratic optimization with integer constraints can successfully be solved by the CMDHNN. Simulation results show that the algorithm reaches the real equilibrium points with shorter received signals and the stability corollary of the equilibrium points is testified.
Key words: complex multi-valued discrete Hopfield neural network; blind detection; MQAM
离散Hopfield神经网络(Discrete Hopfield neural network,以下简称DHNN)是在联想记忆、模式识别和组合优化等方面有着广泛应用的一类反馈网络,因此,DHNN的稳定性不仅本身有重要的理论意义,而且也是网络各种应用的基础,因而受到许多学者的极大关注。文献[1-2]对DHNN的稳定性进行了研究,得到了一系列关于稳定性方面的结果。但是,这些都是讨论二电平神经元模型的,局限于处理二进制信号,且也只讨论了实数神经网的情况。随着现代通信发展,对复杂多电平复数信号研究的需求日益迫切。文献[3-4]提出了多电平连续激励函数和相应的实数域连续Hopfield神经网络CHNN (Continuous Hopfield neural network),但是,此文献局限于解决实数域多电平信号联想记忆问题。文献[5]构造了多电平DHNN,初步探讨了DHNN处理多电平信号。关于多电平CHNN的稳定性分析直至2008年才出现[6],由于分析时隐性利用李普希兹(Lipschitz)条件,所以,该文献分析方法不适用于多电平DHNN。还有一种在极坐标中定义的“单位圆等分角多值激励函数”。由该激励函数构成的HNN用指数形式的复数表达[7],因此,有的文献也把它称为Complex-valued neural network。这种激励函数适用于信息和权矩阵可以幅相编码(Amplitude and phase coding)的联想记忆场合,不能应用于权矩阵无法幅相编码的组合优化问题。DHNN用于复数多电平信号盲检测问题迄今未见,其稳定性研究更是缺乏,在此,本文作者构造一个复数多电平离散Hopfield神经网络(Complex multi-valued discrete Hopfield neural network,简称CMDHNN),设计多电平离散激励函数,提出了新的适用于CMDHNN的能量函数,并分别在异步和同步更新模式下给出网络稳定性的证明。为利用CMDHNN盲检测MQAM信号,根据SIMO系统接收信号与发送信号之间的子空间关系,建立直接盲检测发送信号的优化性能函数,并将其映射到CMDHNN的能量函数上,用接收信号补投影算子构造了联结权阵,通过求解二次规划问题实现多电平复数信号盲检测。由于离散激励函数利用了发送信号的字符集信息,信号的状态空间相当于一个超多面体,神经元在此超多面体的顶点上进行状态转换,因此,克服了盲检测后信号弥散、旋转的固有问题。
1 复数多电平离散Hopfield神经网的构造
鉴于经典DHNN无法处理多电平复数信号,构造新的复数多电平离散Hopfield神经网,如图1和图2所示。设计了新的多电平离散激励函数,并给出了新网络的能量函数。
图1 离散时间离散空间Hopfield神经网结构
Fig.1 Structure of Hopfield neural network of discrete time and space
图2 复Sigmoid函数σ(?)结构
Fig.2 σ(?) structure of sigmoid
如图1和2所示,CMDHNN的动态方程为:
(1)
其中:状态向量,复信号;| j=1, 2, …, N}; ;d1=1; ;,2n为发送信号集合的电平数。权矩阵,且(上标H表示共轭转置)。复多电平离散激活函数 ,且为本文构造的多电平离散激活函数,
(2)
其中:m为R或者I;为的实数部分;为的虚数部分;为向下取整运算;t为函数自变量;为模N运算。当n=4,d1=1,,dn=7时,对应的多电平离散激励函数如图3所示。
图3 函数σR(t)示意图
Fig.3 Diagram of σR(t)
式(1)中第j个状态变量具体定义如下:
, (3)
(4)
由于多电平离散激励函数的引入,使式(1)和式(4)所描写的系统呈现出与文献的经典Hopfield神经网络具有显著不同的动力学特性。文献中二电平信号下离散Hopfield网络的能量函数定义为[8]。
(5)
(6)
式(5)和(6)分别为网络在异步和同步更新模式下的能量函数。
此能量函数仅适用于“实数二电平激活函数”,当激励函数为多电平时,式(5)和(6)不能保证能量随时间进程而始终下降。在64QAM信号下,表1中的第1和第4行数据表明:当与正负号相同,且>时,就会使能量增量为“正”(见表1中Aj的数值)。
基于前面设计的Hopfield神经网络及离散激活函数,下面给出不同于二电平信号的新的能量函数。
定理1 假设W是Hermitian阵,且对角元非负,则有:
(7)
(8)
(9)
式(7)为多电平CMDHNN在异步更新模式下的能量函数。式(7)中,,其几何意义见图3。
证明:假设,在异步模式下,每次只有向量中的一个神经元状态得到更新。不失一般性,假设更新,则
,
,。
改写式(7)为全实数形式:
(10)
其中:,。
(11)
在推演中,第3个等号仅在W是Hermitian阵时成立。式中,; 。
显然式(11)中的第1项为负。以64QAM信号为 例,图4所示为表1中第5行Bi+Ai计算图示。对于和的任意取值,只要两者不等,那么,根据表1所列的典型情况讨论,可知Bi+Ai始终小于0。同理,也小于0,进而可知<0。换句话说,神经网的能量始终下降,直至为止。证毕。
图4 对应于表1第5行计算示意图
Fig.4 Computation diagram corresponded to
5th line in Table 1
定理2 假设W是Hermitian阵,则
(12)
式(12)为CMDHNN在同步更新模式下的能量函数。其证明思路与定理1的异步模式证明思路类似。
2 盲检测信号的神经网权阵配置
忽略噪声时,单输入多输出SIMO(Single-input multi-output)离散时间信道的接收方程、盲处理方程分别如下:
(13)
(14)
在此,发送信号阵为:
其中:是h构成的块Toeplitz矩阵(j=0, 1, …, M);是通信信道的冲激响应;
接收数据阵为。
式(14)表明:满列秩时,一定有满足。其中:d=0, …, M+L,且,是奇异值分解 中的酉基阵。据此构造性能函数及优化问题[7]:
(15)
(16)
其中:表示复向量,其元素的实部、虚部都属于集合A;。
为运用CMDHNN求解式(16)的信号盲检测问题,设计神经网的连接矩阵取如下形式:
(17)
其中:;QR和QI分别表示补投影算子Q的实部和虚部。
由于的点即为网络平衡点,人们需要的点则应该同时满足和。而且,在不同的字符集信号下,能量函数是否相同呢?下面讨论如何从大量的平衡点中去除伪平衡点,找出真平衡点。
定理3 无噪声时,当连接矩阵取,CMDHNN达到真平衡状态时,在同步模式下,能量函数达到最小值-2N;在异步模式下,能量函数达到最小值-N。
表1 在64QAM信号下,关于?E3(k)几种典型可能取值的讨论
Table 1 Some typical values of ?E3(k) in signal 64QAM
证明:将式(17)代入式(12)可得:
(18)
式(18)中的第2个等式在真平衡点处可得,Cj的计算结果见表2。
表2 解真平衡点处的单个神经元能量Cj
Table 2 Energy of signal neural at real equilibrium points
由定理2可知:在更新过程中,始终有。换句话说,神经网的能量始终下降,直至CMDHNN达到真平衡状态为止,因此,真平衡点的能量函数为网络的最小值。由式(12)可得 时,同步模式下CMDHNN达到真平衡状态,此时能量函数达到最小值-2N。证毕。
异步模式下的证明过程同理可得。
当CMDHNN到达极值点时,有
所以,排除了伪平衡点,得到的真平衡点即为所需检测的发送信号。
3 仿真实验
实验采用通道为h(t)经q=3过采样得到的多径合成复数通道:
其中:NL为路径数,NL=2;和分别是滚降因子、延迟因子和随机产生的升余弦脉冲响应;和是在(0,1)间均匀分布的随机权系数。考虑噪声时,接收信号方程为
式中:n(k)是正态白噪声,与s(k)独立。
实验1:固定数据长度时,分别采用同步更新模式与异步更新模式采用Monte Carlo试验算法计算误码率BER。
对于64QAM信号,固定数据长度N=500,各自进行100次Monte Carlo实验,本文算法平均误码率如图5所示。为做图方便,误码率BER为0的点设定为10-5。试验表明:CMDHNN算法有效地克服了传统神经网络算法局限于二电平信号和实数域的缺点,在随机复信道下成功盲检测高阶QAM信号。
图5 固定数据长度N=500时64QAM信号算法误码率
Fig.5 SNR of signal 64QAM when data length N is 500
实验2:算法与数据量的关系。
本实验针对64QAM信号的不同接收数据量进行误码率比较,结果见图6。从图6可以看出:对于64QAM信号,需要N=500的数据,才能成功检测。值得指出的是:本文方法所需的数据量约是其他二阶统计盲检测算法所需数据量的1/5,仅是高阶统计盲检测算法所需数据量的1/10。
实验3:在信噪比为40 dB时,在本文CMDHNN 2种更新模式下,能量函数的最小值。
图7所示是信噪比为40 dB情况下,在异步和同步更新模式下,CMDHNN能量函数式(7)和(12)随迭代次数变化。从图7可以看出:在异步更新模式下,能量函数在迭代过程中逐步下降,直到最小值-N;在同步模式下,真平衡点的能量函数为-2N。从表3也可以看出,N=500时,真平衡点的能量函数略大于理论值-500和-1 000。
图6 64QAM信号下,盲检测性能与数据长度关系
Fig.6 Relationship between blind detection performance and data length in signal 64QAM
图7 在40 dB和N=500时盲检测64QAM信号能量函数变化图
Fig.7 Energy function of 64QAM in 60 dB and N=500
4 结论
提出了同步更新模式下CMDHNN算法的能量函数并研究了其稳定性,给出相应推论。仿真结果表示,本文的CMDHNN网络仅需较小数据量,就能很好地检测64QAM信号,收敛速度极快,具有实时处理的潜力,也证明了本文提出的能量函数具有稳定性。
参考文献:
[1] Gao H S, Zhang J. Stability for discrete Hopfield neural networks with delay[C]//2008 Fourth International Conference on Natural Computation. Jinan, China, 2008: 560-563.
[2] Ma R N, Chu P, Zhang S R. Stability conditions for discrete delayed Hopfield neural networks[C]//Third International Conference on Natural Computation (ICNC 2007). Haikou, China, 2007: 468-472.
[3] Quan Q, Kim J. Intercarrier interference suppression for OFDM systems using Hopfield neural network[J]. Journal of Computer Science and Network Security, 2006, 6(6): 157-162.
[4] Zurada J M. Neural networks. Binary Monotonic and Multiple-Valued[C]//Proceedings of the 30th IEEE International Symposium on Multiple-Valued Logic, Portland, Oregon, 2000: 67-74.
[5] Zhang Y, Zhang Z Y. Blind multi-valued signals detection using discrete Hopfield network[C]//2010 Proceedings of Sixth International Conference on Natural Computation. Yantai, China, 2010: 1079-1083.
[6] Liu Y, You Z. Stability analysis for the generalized Hopfield neural networks with multi-level activation functions[J]. Neurocomputing, 2008, 71(16/17/18): 3595-3601.
[7] Zhou W, Zurada J M. A class of discrete time recurrent neural networks with multivalued neurons[J]. Neurocomputing, 2009, 72(16/17/18): 3782-3788.
[8] Gupta M M, Jin L, Homma N. Static and dynamic neural networks: From fundamentals to advanced theory[M]. New Jersey: IEEE Press, 2003: 469-577.
(编辑 陈灿华)
收稿日期:2011-04-15;修回日期:2011-06-15
基金项目:国家自然科学基金资助项目(60772060)
通信作者:张昀(1975-),女,江苏南京人,博士研究生,从事通信信号中的盲信号处理和神经网络的研究;电话:13851438437;E-mail: y021001@njupt.edu.cn