自1982年美国加州理工学院生物物理学家Hopfield 提出了神经网络的数学模型以来[1],各种类型的网络模型相继被建立[2-3].由于神经网络具有自学习功能、联想记忆功能和鲁棒性强等特点,现已广泛应用于联想记忆、图像处理、信号传输、保密通讯、模式识别等诸多领域[4].从神经网络稳定性的研究工作来看,无论是实值神经网络还是复值神经网络,其模型都是用整数阶微积分描述的.然而,在实际研究中,整数阶微积分也有局限性,其整数阶导数建立的神经网络无法准确地描述大部分神经元具有的记忆特性和历史依赖性.人们发现,利用分数阶微积分所建立的模型比用经典的整数阶微积分建立的模型能更准确地描述这些自然现象及反映系统的性态,这也是分数阶微积分最主要的优势.因此,分数阶微积分具有的功能是整数阶微积分不能替代的.最近,一些学者利用分数阶微积分描述模型所具有的良好的记忆能力和遗传特性,将分数阶微积分理论引入到神经网络,建立了分数阶神经网络模型.在设计神经网络解决实际问题时,往往需要对其稳定性进行讨论与分析,稳定性是保证控制系统正常工作的先决条件,合理选择网络的参数和激活函数,可以确保网络正常、高效地完成工作[5].因此,对分数阶神经网络稳定性进行深入研究具有重要意义.Lyapunov直接方法是非线性系统中稳定性分析的重要工具.当Lyapunov直接方法扩展到分数阶系统时,就产生了Mittag-Leffler稳定性[6-7].近年来,一大批关于分数阶神经网络的Mittag-Leffler稳定性研究理论被相继报道[6-12].
众所周知,在计算机模拟和仿真中,离散化过程是研究人员分析系统行为最主要的方法,几乎所有的数值仿真实验结果都是通过把连续系统离散化得到的.因此,我们直接关心的是离散系统是否保持了连续系统的性质.同样地,那些适用于分析连续分数阶系统所建立的稳定性判据是否能应用于离散分数阶系统.一些学者对于离散的分数阶微积分进行了研究,也得到了一些理论结果[13-16]:文献[13-14]给出了离散的Mittag-Leffler函数的定义和性质,并且研究了离散Laplace变换在Caputo分数阶差分算子和Mittag-Leffler函数上的应用;文献[15]基于离散分数阶微积分、不等式技巧和不动点定理,考虑了具有泄漏时滞的离散分数阶双向联想记忆神经网络的存在性、唯一性和一致稳定性;文献[16]通过利用Krasnoselskii不动点定理和Arzela-Ascoli定理,研究了具有非线性时滞的离散分数阶Lotka-Volterra模型.然而,这些文献研究的大多是离散分数阶微积分的性质,很少有文献涉及到离散分数阶神经网络的Mittag-Leffler稳定性.
鉴于以上分析,本文通过构造合适的Lyapunov函数,结合不等式技巧和离散Laplace变换,研究了一类离散分数阶神经网络的全局Mittag-Leffler稳定性,得到了确保网络平衡点稳定的充分性判据.相比于已有的文献,本文的贡献主要体现在两个方面:
1) 据笔者所知,本文第一次研究了离散分数阶神经网络的全局Mittag-Leffler稳定性.根据连续分数阶神经网络和离散分数阶微积分的理论,得到了Lyapunov直接法在实数域上的几个引理,从而将连续分数阶神经网络的部分性质扩展应用到离散分数阶神经网络.
2) 应用离散的Laplace变换和不等式技巧,得到了判定Mittag-Leffler稳定的充分条件.
本文的结构如下: 第1节介绍了有关离散分数阶微积分的预备知识,包括离散分数阶神经网络模型、相关的定义及引理; 第2节给出了离散分数阶神经网络全局Mittag-Leffler稳定的充分性判据; 第3节通过一个数值仿真实例验证了提出理论的有效性; 最后总结了全文所做的工作.
为了方便表达,本文使用以下记号.
Rn和Cn分别表示由n维实数和复数向量构成的空间,Rn×n表示由n×n维实数矩阵构成的集合;In表示n×n的单位矩阵; 对于
表示z(t)的范数; 对于A∈Rn×n,λmax(A)表示矩阵A的最大特征值; I={1,2,…,n};N={0,1,2,…},类似地N+={1,2,…}.
本文考虑如下的一类离散分数阶神经网络:
(1)
其向量形式为
(2)
其中
表示一类阶数为α(0<α<1)的Caputo分数阶差分算子,j表示神经元的数量; z(t)=(z1(t),z2(t),…,zn(t))T∈Rn表示神经元的状态向量;C=diag(c1,c2,…,cn)∈Rn×n表示自反馈连接权向量矩阵,其中cj>0;A=(ajk)n×n∈Rn×n表示连接权矩阵; f(z(t))=(f1(z1(t)), f2(z2(t)),…, fn(zn(t)))T: Rn→Rn表示神经元的向量值激活函数; U=(U1(t),U2(t),…,
Un(t))T∈Rn表示系统(1)的外部输入.
系统(1)的初始条件为
zj(0)=φj0,
(3)
其向量形式为
z(0)=φ0.
(4)
为了获得主要结果, 做出如下假设.
假设1 系统(1)存在唯一的平衡点
使得下面的等式成立:
假设2 对于任意给定的u,v∈R, 存在常数Lk>0,使得
|fk(u)-fk(v)|≤Lk|u-v|, k∈I,
定义
L=diag(L1,L2,…,Ln).
根据假设1, 令
则系统(1)可以表示为
(5)
系统(5)的初值条件为
本小节中将给出如下的基本定义和引理.
定义1[15-16] 对于自然数α,t 的α次上升函数被定义为
其中Γ(·)表示Gamma函数.另外, 定义迭代运算符
α=
(
(α-1)).
定义2[15-16] 对于任意的阶数α>0, 令x:N→R, ρ(s)=s-1,则
1)x(t)的nabla差分被定义为
x(t)=x(t)-x(t-1), t∈N+.
2) x(t)的Riemann-Liouville和算子被定义为
3) x(t)的Caputo差分算子被定义为
![]()

![]()
x(s), t∈N+.
4) 令μ>-1,则差分算子的幂被定义为
注1 根据定义2, 对任意的常数a,b∈R, 可以得![]()
定义3[13-14] 对于任意的ϑ∈R, |ϑ|<1和α,β,γ∈C且Re(α)>0,双参数的离散nabla Mittag-Leffler函数被定义为
ϑ,![]()
(6)
特别地, 当β=1时,
ϑ,
ϑ,![]()
(7)
定义4(Mittag-Leffler稳定性) 系统(5)的平衡点z*被称为全局Mittag-Leffler稳定的, 如果存在正常数ϑ,d且0<ϑ<1,使得
(-ϑ,t)}d, t∈N
(8)
成立, 其中z(t)是系统(5)的任意解, φ0 是系统的初值条件, α∈(0,1), m(0)=0, m(z)≥0, m(z)在Rn上是局部Lipschitz函数.
引理1[13-14] 函数f(t),Caputo差分算子函数
与g(t)的卷积以及Mittag-Leffler函数的离散Laplace变换分别为
N{f(t)*g(t)}=N{f(s)}N{g(s)},
ϑ,![]()
ϑ,![]()
引理2 令函数x(t): N→R, 则对任意的0<α<1,有
(9)
证明 根据定义2,1/Γ(1-α)>0和
可将不等式(9)的左边表示为
![]()
|x(s)|=
不失一般性, 如果x(s)-x(s-1)≥0,那么
如果x(s)-x(s-1)≤0,那么
因此
引理3 令函数x(t): N→R,则对任意的0<α<1,有
(10)
证明 不等式(10)可以等价为下列形式:
根据定义2,可得
![]()
x(s)-
![]()
x2(s)=
不失一般性, 可以假设
x(s)-x(s-1)≥0, s=1,2,…,t.
由此, 可以得到x(t)-x(s)≥0和x(t)-x(s-1)≥0,那么
(x(s)-x(s-1))(x(t)-x(s)+x(t)-x(s-1))≥0.
同样地, 假设
x(s)-x(s-1)≤0, s=1,2,…,t.
可以推出x(t)-x(s)≤0和x(t)-x(s-1)≤0,那么
(x(s)-x(s-1))(x(t)-x(s)+x(t)-x(s-1))≥0.
因为
且
(x(s)-x(s-1))(x(t)-x(s)+x(t)-x(s-1))/2≥0,
所以
故
引理4 令V(t,z(t)):N×Rn→R是一个正定递减的标量函数, 如果存在一个常数ϑ,使得
ϑV(t,z(t)), 0<α<1
(11)
成立, 那么
(ϑ,t), t∈N.
(12)
证明 由不等式(11)可得, 如果存在一个非负函数M(t)满足
ϑV(t,z(t)).
根据引理1, 对上式的左右两边应用离散Laplace变换得
ϑV(t,z(t))},
即
sαV(s)-sα-1V(0)+M(s)=ϑV(s),
其中V(s)=N{V(t,z(t))}, 且M(s)=N{M(t)}.其可以写成如下形式:
取V(s)的离散Laplace逆变换, 则
ϑ,
(ϑ,t),
其中*表示卷积运算.因为
(ϑ,t)是非负函数, 所以
(ϑ,t).
引理5[10](Young不等式) 如果存在常数a>0, b>0, 1<p<+∞和1/p+1/q=1,那么
当且仅当b=ap-1上面的等号成立.此外, 对于任意的ζ>0,有
在本节中, 通过构造合适的Lyapunov函数, 结合不等式技巧, 给出了一类离散分数阶神经网络的全局Mittag-Leffler稳定的充分性判据.
定理1 若假设1和假设2成立, 且对于任意的ζ>0,有
(13)
则系统(5)的平衡点是全局Mittag-Leffler稳定的.
证明 构造下列正定的Lyapunov函数:
(14)
对任意的ζ>0, 取p,q=2,由引理5可得
(15)
计算
沿着系统(5)的Caputo差分, 根据假设2、引理 2、引理3和式(15), 有
(16)
其中![]()
根据引理4, 可以得到
ϑ1,t), t∈N.
所以
ϑ1,t),
其中m=‖φ0-z*‖, 并且当m=0时, 有φ0=z* 成立.根据定义4, 系统(5)的平衡点z* 是全局Mittag-Leffler稳定的.
定理2 若假设1和假设2成立, 且有
(17)
其中
则系统(5)的平衡点是全局Mittag-Leffler稳定的.
证明 考虑矩阵
作初等变换
可知Ξ的特征多项式为
|λI2n-Ξ |=|λIn||λIn-λ-1ΩΩT|=|λ2 In-ΩΩT|.
显然,λ和-λ是矩阵Ξ 的两个特征值.对于矩阵Ξ≠0, 总可以得到λmax(Ξ)>0.考虑下列正定的Lyapunov函数:
(18)
计算
沿着系统(5)的Caputo差分, 根据假设2、引理2和引理3可得
(19)
其中
根据引理4, 可以得到
ϑ2,t), t∈N.
所以
ϑ2,t),
其中m=‖φ0-z*‖, 并且当m=0时, 有φ0=z* 成立.根据定义4, 系统(5)的平衡点z*是全局Mittag-Leffler稳定的.
注2 近年来, 由于分数阶神经网络具有良好的记忆能力和遗传特性, 分数阶神经网络的动力学行为引起了学者们的广泛关注(见文献[6-12]).但他们都是研究的连续时间分数阶神经网络的Mittag-Leffler稳定性或者同步性.不同于已有的文献,本文考虑了离散时间分数阶神经网络的全局Mittag-Leffler稳定性.并且, 文中的研究结果表明Lyapunov直接法在离散分数阶神经网络上的应用也是可能的, 从而在某种意义上推广了 Lyapunov 直接法的适用范围.
注3 文献[15-16]利用离散分数阶微积分理论和不动点定理, 研究了一类离散分数阶神经网络的解的存在性和稳定性.与文献[15-16]中的方法不同, 本文首次考虑了将Lyapunov直接法运用于离散分数阶神经网络全局Mittag-Leffler稳定性分析.
例1 考虑如下的离散分数阶神经网络系统:
(20)
其中
激活函数f1(z1(t))=0.7tanh(z1(t)), f2(z2(t))=0.5tanh(z2(t)), 阶数α=0.96.
取定参数为ζ=2.4, L=diag(L1,L2)=diag(0.7,0.5), 容易验证满足假设2.我们可以得到0<ϑ1=min{0.845 4,0.861 1}=0.845 4<1和0<ϑ2=0.916 1<1,其分别满足定理1和定理2中的条件.因此系统(20)的平衡点是全局Mittag-Leffler稳定的.图1和图2分别给出了状态变量z1(t)和z2(t)在初值条件φ0=(-0.216 1, 0.013 5)T下随时间t变化的轨迹图, 其验证了平衡点的稳定性.
图1 系统(20)状态变量z1(t)的时间响应轨线 图2 系统(20)状态变量z2(t)的时间响应轨线
Fig. 1 The time response trajectory of state Fig. 2 The time response trajectory of state variable z1(t) for system (20) variable z2(t) for system (20)
基于离散分数阶微积分理论, 本文提出了一类实数域上的离散分数阶神经网络, 通过构造合适的Lyapunov函数, 给出了该网络的全局Mittag-Leffler稳定性判据.数值仿真算例验证了所提出理论的有效性.在未来的工作中, 我们将考虑带有时滞的离散分数阶神经网络的存在性、唯一性以及Mittag-Leffler同步性和基于忆阻的离散分数阶神经网络的动力学行为分析.
[1] 廖晓昕. Hopfield 型神经网络的稳定性[J]. 中国科学(A辑), 1993, 23(10): 1025-1035.(LIAO Xiaoxin. Stability of Hopfield neural networks[J]. Science in China (Series A), 1993, 23(10): 1025-1035.(in Chinese))
[2] 马儒宁, 陈天平. 基于投影算子的回归神经网络模型及其在最优化问题中的应用[J]. 应用数学和力学, 2006, 27(4): 484-494.(MA Runing, CHEN Tianping. Recurrent neural network model based on projective operator and its application to optimization problems[J]. Applied Mathematics and Mechanics, 2006, 27(4): 484-494.(in Chinese))
[3] 王利敏, 宋乾坤, 赵振江. 基于忆阻的分数阶时滞复值神经网络的全局渐进稳定性[J]. 应用数学和力学, 2017, 38(3): 333-346.(WANG Limin, SONG Qiankun, ZHAO Zhenjiang. Global asymptotic stability of memristor-based fractional-order complex-valued neural networks with time delays[J]. Applied Mathematics and Mechanics, 2017, 38(3): 333-346.(in Chinese))
[4] 曾德强, 吴开腾, 宋乾坤, 等. 时滞神经网络随机抽样控制的状态估计[J]. 应用数学和力学, 2018, 39(7): 821-832.(ZENG Deqiang, WU Kaiteng, SONG Qiankun, et al. State estimation for delayed neural networks with stochastic sampled-data control[J]. Applied Mathematics and Mechanics, 2018, 39(7): 821-832.(in Chinese))
[5] ZHANG L, SONG Q, ZHAO Z. Stability analysis of fractional-order complex-valued neural networks with both leakage and discrete delays[J]. Applied Mathematics and Computation, 2017, 298: 296-309.
[6] LI Y, CHEN Y Q, PODLUBNY I. Mittag-Leffler stability of fractional order nonlinear dynamic systems[J]. Automatica, 2009, 45(8): 1965-1969.
[7] LI Y, CHEN Y Q, PODLUBNY I. Stability of fractional-order nonlinear dynamic systems: Lyapunov direct method and generalized Mittag-Leffler stability[J]. Computers & Mathematics With Applications, 2010, 59(5): 1810-1821.
[8] CHEN J, ZENG Z, JIANG P. Global Mittag-Leffler stability and synchronization of memristor-based fractional-order neural networks[J]. Neural Networks, 2014, 51: 1-8.
[9] CHEN J, LI C, YANG X. Global Mittag-Leffler projective synchronization of nonidentical fractional-order neural networks with delay via sliding mode control[J]. Neurocomputing, 2018, 313: 324-332.
[10] YANG X, LI C, HUANG T, SONG Q, et al. Global Mittag-Leffler synchronization of fractional-order neural networks via impulsive control[J]. Neural Processing Letters, 2018, 48(1): 459-479.
[11] PRATAP A, RAJA R, CAO J, et al. Stability and synchronization criteria for fractional order competitive neural networks with time delays: an asymptotic expansion of Mittag Leffler function[J]. Journal of the Franklin Institute, 2019, 356(4): 2212-2239.
[12] YE R, LIU X, ZHANG H, et al. Global Mittag-Leffler synchronization for fractional-order BAM neural networks with impulses and multiple variable delays via delayed-feedback control strategy[J]. Neural Processing Letters, 2019, 49(1): 1-18.
[13] ABDELJAWAD T, JARAD F, BALEANU D. A semigroup-like property for discrete Mittag-Leffler functions[J]. Advances in Difference Equations, 2012, 2012(1): 72.
[14] ABDELJAWAD T, AL-MDALLAL Q M. Discrete Mittag-Leffler kernel type fractional difference initial value problems and Gronwall’s inequality[J]. Journal of Computational and Applied Mathematics, 2018, 339: 218-230.
[15] ALZABUT J, TYAGI S, ABBAS S. Discrete fractional-order BAM neural networks with leakage delay: existence and stability results[J]. Asian Journal of Control, 2018. DOI: 10.1002/asjc.1918.
[16] ALZABUT J, ABDELJAWAD T, BALEANU D. Nonlinear delay fractional difference equations with applications on discrete fractional Lotka-Volterra competition model[J]. Journal of Computational Analysis and Applications, 2018, 25(5): 889-898.