采用一种基于flAnn-PSO的SISO非线性动态系统辨识方法,构造了基于flAnn的辨识模型,然后运用PSO优化算法实现模型权值辨识.通过对4种典型非线性动态系统进行了辨识仿真,结果表明该方法具有良好的性能和高辨识精度,它将更适合于工程实际需要.A method of SISO Nonlinear Dynamic System Identification was proposed based on FLANN-PSO.At first,identification model based on FLANN was constructed,and then its weights were calculated by PSO optimization algorithm.The simulation result of four models for nonlinear dynamic systems showed that the method had excellent identification performance and accuracy,and thus it would be more applicable to the engineering practice.广东省科技项目(2009390004202223

朱昱

王荣杰

Xiamen University Institutional Repository

第 16 卷 第 2 期 集美大学学报 ( 自然科学版) Vol． 16 No． 22011 年 3 月 Journal of Jimei University( Natural Science) Mar． 2011［收稿日期］ 2010 － 01 － 30 ［修回日期］ 2010 － 05 － 11［基金项目］广东省科技项目 ( 2009390004202223)［作者简介］王荣杰 ( 1981—) ，男，讲师，博士生，从事智能信息处理方向的研究．［文章编号］1007 － 7405( 2011) 02 － 0128 － 07基于 FLANN的非线性动态系统辨识王荣杰1，2，朱 昱3( 1． 集美大学轮机工程学院，福建 厦门 361021; 2． 中山大学信息科学与技术学院，广东 广州 510006;3． 厦门大学信息科学与技术学院，福建 厦门 361005)［摘要］采用一种基于 FLANN － PSO的 SISO非线性动态系统辨识方法，构造了基于 FLANN 的辨识模型，然后运用 PSO优化算法实现模型权值辨识． 通过对 4 种典型非线性动态系统进行了辨识仿真，结果表明该方法具有良好的性能和高辨识精度，它将更适合于工程实际需要．［关键词］非线性; 动态; 系统辨识; FLANN; PSO优化算法［中图分类号］ TP 18 ［文献标志码］ ANonlinear Dynamic System Identification Based on FLANNWANG Rong-jie1，2，ZHU yu3( 1． Marine Engineering Institute，Jimei University，Xiamen 361021，China;2． School of Information Science and Technology，Sun Yat-sen University，Guangzhou 510006，China;3． School of Information Science and Technology，Xiamen University，Xiamen 361005，China)Abstract: A method of SISO Nonlinear Dynamic System Identification was proposed based on FLANN －PSO． At first，identification model based on FLANN was constructed，and then its weights were calculated byPSO optimization algorithm． The simulation result of four models for nonlinear dynamic systems showed that themethod had excellent identification performance and accuracy，and thus it would be more applicable to the engi-neering practice．Key words: nonlinear; dynamic; system identification; FLANN; PSO optimization algorithm0 引言复杂动态装置的非线性系统辨识在控制、通信、电力系统和测量等领域具有潜在的应用前景，建立具有与实际装置相同输入输出特性的数学模型或智能控制模型是必不可少的． 基于神经网络技术的非线性系统辨识一直是研究热点［1 － 2］，很多研究验证了 ANN 对于模型来说是一种有效的软计算技术［3］． 在 ANN被成功应用于系统辨识中，DNN模型［4］的设计起着关键性的作用，这主要是由于其具有合适的误差函数的优化特性和对非线性函数良好的逼近特性． 虽然 ANN 神经网络被成功应用于很多辨识和控制系统［5］，但都是以巨大的运算工作量为代价的． 文献 ［6 － 8］提出基于 RBF ( RadialBasis Function) 网络的非线性动态系统辨识方法，虽然这种方法可以有效地实现复杂动态过程的辨识和控制，却有一个实际的难题，就是如何选择有效训练的合适的 RBF 核． 文献 ［9］提出 MLP 辨识第 2 期 王荣杰，等: 基于 FLANN的非线性动态系统辨识模型和 BP训练算法来解决非线性动态系统辨识问题，文献 ［10 － 11］将这种方法用于高非线性的Truck － Backer － Upper系统的辨识和控制中，并获得了满意的实验结果． 文献 ［3］将这些模型与训练算法结合起来对复杂动态非线性动态系统进行辨识和控制，但是为了获得较好的辨识特性都同时增加了这些方法的计算量． 为了简化辨识模型和减少运算工作量，本文提出了一种 FLANN ( 函数链接型人工网络，Functional Link Artificial Neural Networks) 和 PSO ( 粒群优化算法，Particle Swarm Opti-mization) 相结合的非线性动态系统辨识方法，该方法利用具有三角函数 sin 和 cos 的 FLANN 网络来逼近系统，并通过 PSO优化算法来训练获得与 FLANN网络中各个三角函数相连接的权值，从而实现系统辨识目的．1 系统特性与辨识原理系统辨识是系统理论最基本的问题，而它与代表系统的模型紧密相关． 随机时不变离散系统辨识方案如图 1 所示． 设 X为系统输入，Y为系统输出，P表示系统算子，系统辨识的目的是要找出与实际系统相符的算子P^，也就是要使得P^在一定程度上逼近 P． 文献 ［12］证明了算子 P可通过某些特定的输入输出对来定义． 而P^ 可通过 y － ŷ =P( x) － P̂( x) ＜ ε来确定． 其中，ε为一个很小的期望正数， · 被定义为关于输出空间归一化运算; P̂( x) = ŷ 和P( x) = y分别表示辨识模型和装置的输出，e = y － ŷ为装置输出观测信号与 P̂( x) 所产生输出信号之间的误差． 辨识问题的目标就是要构造一个合适的模型，使得对于相同输入P̂( x) ，输出值 ŷ以最大程度接近于装置输出 y，使 e最小．SISO ( 单输入单输出，Single Input Single Output) 系统有 4 种模型，这 4 种模型可分别通过如下非线性差分方程来描述［13］:模型Ⅰ y( k + 1) = ∑n－1i = 0αi y( k － i) + g［x( k) ，x( k － 1) ，…，x( k － m + 1) ］;模型Ⅱ y( k + 1) = f［y( k) ，y( k － 1) ，…，y( k － n + 1) ］+∑n－1i = 0βi x( k － i) ;模型Ⅲ y( k + 1) = f［y( k) ，y( k － 1) ，…，y( k － n + 1) ］+ g［x( k) ，x( k － 1) ，…，x( k － m + 1) ］;模型Ⅳ y( k + 1) = f［y( k) ，y( k － 1) ，…，y( k － n + 1) ，x( k) ，x( k － 1) ，…，x( k － m + 1) ］．其中，x( k) 和 y( k) 分别表示 SISO装置的输入和输出，m≤n．2 基于 FLANN － PSO的非线性动态系统辨识2. 1 基于 FLANN的辨识模型非线性动态装置自适应辨识模型如图 2 所示．它在 ( k + 1) 时刻的输出可描述为:ŷ( k + 1) = g［x( k) ］+ f［y( k) ］， ( 1)其中的 f和 g分别表示 FLANN结构的前馈和反馈部分，本文用 PSO算法来训练它们的权值．输入 x( k) 经非线性扩展式为:φ( k) = ［φ0 ( k) ，φ1 ( k) ，φ2 ( k) ，…，φ2n－1 ( k) ，φ2n ( k) ］T ． ( 2)·921·集美大学学报 ( 自然科学版) 第 16 卷其中，φ0 ( k) = 1，φ1 ( k) = sin( πx( k) ) ，φ2 ( k) = cos( π( k) ) ，…φ2n－1 ( k) = sin( nπx( k) ) ，φ2n ( k) = cos( nπx( k) )．( 3)由此可看出，扩展后 sin和 cos函数分别有 n 项，第 1 项为单位输入，因此可得到输入向量含有( 2n + 1) 项．令式 ( 2) 和式 ( 3) 中在第 k时刻输入向量权值为W1 ( k) = ［w10 ( k) ，w11 ( k) ，w12 ( k) ，…，w1，2n－1 ( k) ，w1，2n ( k) ］T， ( 4)这样，式 ( 1) 中第一部分的输出估计值为 ŷ1 ( k + 1) = φT ( k) W1 ( k) ，同样，式 ( 1) 中第二部分的输出估计值为 ŷ1 ( k + 1) = T ( k) W2 ( k) ，其中，W2 ( k) = ［w20 ( k) ，w21 ( k) ，w22 ( k) ，…，w2，2n－1 ( k) ，w2，2n ( k) ］T ;( k) = ［0 ( k) ，1 ( k) ，2 ( k) ，…，2n－1 ( k) ，2n ( k) ］T ．·031·第 2 期 王荣杰，等: 基于 FLANN的非线性动态系统辨识即0 ( k) = 1，1 ( k) = sin( πx( k) ) ，2 ( k) = cos( π( k) ) ，…2n－1 ( k) = sin( nπx( k) ) ，2n ( k) = cos( nπx( k) ) ，图 2 所示模型的输出估计值为 ŷ( k + 1) = ŷ1 ( k + 1) + ŷ2 ( k + 1) ．2. 2 基于 PSO优化算法的参数辨识PSO算法是一种基于群体的演化算法［14］，求解优化问题时，首先在解空间内随机初始化粒子，每个粒子都有自己的位置和速度，还有一个由被优化函数决定的适应值． 在每一次迭代中，粒子通过跟踪两个“极值”来更新自己，一个极值为粒子本身所找到最优解，叫做个极值点 ( Pbest) ; 另一个极值是整个粒子种群目前找到的最优解，叫全局极值点 ( Gbest) ． 设 S 为粒子群个数，Xi = ( xi1，xi2，…，xip ) ∈ Rp 表示第 i粒子的位置，Vi = ( vi1，vi2，…，vip ) ∈ Rp 表示第 i 粒子的速度，粒子搜索到的Pbest为 Pi = ( pi1，pi2，…，pip ) ∈ Rp ，整个粒子搜索到的 GPbest为 Pg = ( pg1，pg2，…，pgp ) ∈ Rp ． 在找到两个最优解后，粒子可根据式 ( 5) 和式 ( 6) 来更新自己的速度和位置．vij ( t + 1) = χ{ vij ( t) + c1 r1j ( t) ［pij ( t) － xij ( t) ］+ c2 r2j ( t) ［pgj ( t) － xij ( t) ］} ( 5)xij ( t + 1) = xij ( t) + vij ( t + 1) ( 6)其中，i = 1，2，…，S ; j = 1，2，…，p ; r1 和 r2 是介于 0 和 1 之间的均匀分布随机数; c1、c2 和 χ的值可由 χ = 2 / 2 － l － l2 － 4槡 l 且 l = c1 + c2，l ＞ 4 来确定．当 c1 = c2 = 2. 05，l = c1 + c2 = 4. 1 可获得较好的优化效果，具体的证明可见文献 ［15］．基于 PSO优化算法的参数辨识实现流程如下:步骤 1 进行相关参数的初始化，包括粒子个数的选择，粒子 Xi 和 Vi ;步骤 2 计算 Pbest和 Gbest;步骤 3 由式 ( 5) 和 ( 6) 更新粒子位置;步骤 4 评价新位置的适应函数值． 适应函数值可由 eval =∑Kk = 1［y( k) － ŷ( k) ］2 /K计算得到，其中，K为输入样本个数，̂y( k) 和 y( k) 分别表示与每个输入样本相对应的模型估计输出与实际装置输出．步骤 5 由步骤 4 计算的结果判断是否达到预先设定的精度，如果达到 Gbest 值就是待求的与FLANN的各项三角函数 sin和 cos连接的权值; 否则，先由步骤 4 的计算结果更新 Pbest和 Gbest，然后返回步骤 3．3 仿真实例为了验证 FLANN － PSO的有效性，作者用了 4 个非线性动态系统辨识的例子加以分析． 令例 1 －3 中辨识模型的输入为x( k) = sin 2πk /250 for k≤ 2500． 8 sin 2πk /250 + 0． 2sin 2πk /25 for k ＞{ 250 ( 7)同时，本文用式 ( 8) 中归一化的均方误差从量化角度来衡量本文方法的性能．NMSE = ∑TDk = 1σ2TD［y( k) － ŷ( k) ］2 ( 8)其中，σ2 为测试期间 TD 装置输出序列的标准方差．例 1 已知某二阶装置，可用差分方程描述为 y( k + 1) = 0． 3y( k) + 0． 6( y) ( k － 1) + g［x( k) ］，·131·集美大学学报 ( 自然科学版) 第 16 卷其中，线性部分的参数分别为 0. 3 和 0. 6，而未知非线性部分 g(·) 为 g( x( k) ) = 0． 6 sin( πx( k) ) +0． 3 sin( 3πx( k) ) + 0． 1 sin( 5πx( k) ) ．为了分析 FLANN － PSO辨识方法的性能，本文还将该方法与 MLP － PSO 辨识方法进行比较，两种不同辨识方法性能的比较归结于表 1． 而本例辨识结果如图 3 所示．表 1 不同辨识方法的性能比较Tab． 1 Comparison of Performances of Different Identification Methods辨识方法Identification methods MLP － PSO FLANN － PSO辨识方法Identification methods MLP － PSO FLANN － PSO例 1Example 1粒子个数Number of particles 30 15NN结构Structure of NN 1 － 20 － 1 1 － 14 － 1NMSE /dB － 9． 047 7 － 11． 850 0迭代次数Iteration 1 000 20 － 30例 3Example 3粒子个数Number of particles 40 20NN结构Structure of NN 1 － 20 － 1 1 － 14 － 1NMSE /dB － 4． 455 2 － 9． 114 0迭代次数Iteration 1 000 ＜ 100例 2Example 2粒子个数Number of particles 30 15NN结构Structure of NN 1 － 20 － 1 1 － 12 － 1NMSE /dB － 22． 099 3 － 24． 142 7迭代次数Iteration 1 000 15 － 20例 4Example 4粒子个数Number of particles 30 15NN结构Structure of NN 1 － 20 － 1 1 － 16 － 1NMSE /dB － 13． 969 6 － 19． 124 9迭代次数Iteration 1 000 15 － 20说明: NN为神经网络 ( Neural Network) ; FLANN － PSO 迭代次数为训练 FLANN 结构时收敛于 MLP － PSO 迭代1 000次收敛结果所需的训练次数; NMSE的定义见式 ( 8) ，这里单位为 dB．Notes: the NN means Neural Network; the iteration of FLANN － PSO that the training iterathons of FLANN is used to covergence to the train-ing results of MLP － PSO through 1 000 iterations． NMSE can be given by equation ( 8) ，and its unit is dB．例 2 设某装置可用差分方程描述为 y( k + 1) = f［y( k) ，y( k － 1) ］+ x( k) ，其中，未知非线性函数 f为 f［y( k) ，y( k － 1) ］ = y( k) y( k － 1) ［y( k) + 0． 5］［y( k － 1) － 1］/ ( 1 + y2 ( k) + y2 ( k － 1) ) ．同例 1，用两种方法来逼近它，辨识结果如图 4 所示．例 3 设某装置可用差分方程描述为 y( k + 1) = f( y( k) ) + g( x( k) ) = y( k) ［y( k) + 0． 3］/ ( 1 +y2 ( k) ) + x( k) ［x( k) + 0． 8］［x( k) － 0． 5］，用于辨识其模型可描述为 ŷ( k + 1) = NN1 ( y( k) ) +NN2 ( x( k) ) ，其中 NN1 (·) 和 NN2 (·) 表示用两个神经网络 ( FLANN或 MLP) 分别来逼近的非线性函数 f和 g． 辨识结果如图 5 所示．·231·第 2 期 王荣杰，等: 基于 FLANN的非线性动态系统辨识例 4 某实验装置模型可描述x( k) =sin( 2πk /25) k = 1，2，…，250，1 k = 251，252，…，500，－ 1 k = 501，502，…，750，0． 3sin( kπ /25) + 0． 1sin( kπ /32) + 0． 6sin( kπ /10) k = 751，752，…，1 000{，y( k + 1) = f［y( k) ，y( k － 1) ，y( k － 2) ，x( k) ，x( k － 1) ］ = ［y( k) y( k － 1) y( k － 2) x( k － 1) ×( ( y( k － 2) － 1) + 0． 5) + x( k + 1) ］/ ( 1 + y( k － 1) 2 + y( k － 2) 2］．在这个实验仿真中，有 600 个样本用于系统建模，400 个样本用于测试，辨识结果如图 6 所示．为了进一步验证基于 FLANN的非线性动态系统辨识的有效性，本文还将各个实例中的 FLANN －PSO算法中的 NN结构采用与表 1 中 MLP － PSO相同，而粒群个数选择与表 1 中 FLANN － PSO 相同．经仿真结果表明，各个实例中与 MLP － PSO 相同 NN 结构的 FLANN － PSO 平均收敛迭代次数小于200 次，而 NMSE分别为 － 13. 653 8 dB、 － 26. 580 0 dB、 － 10. 364 2 dB和 － 21. 001 0 dB．从表 1 不同辨识方法的比较结果和上面分析过程中可看出，基本 FLANN － PSO 非线性动态系统辨识具有良好的辨识性能，且辨识精度高． 该方法也可以推广应用于辨识 MIMO非线性动态系统．·331·集美大学学报 ( 自然科学版) 第 16 卷［参考文献］［1］ NARENDRA K S，PARTHASARATHY K． Identification and control of dynamical systems using neural networks ［J］．IEEE Transactions on Neural Networks，1990，1( 1) : 4-27．［2］ PURWAR S，KAR I N，JHA A N． On-line system idetification of complex systems using chebyshev neural networks［J］． Applied Soft Computing，2007，7( 1) : 364-372．［3］ GUPTA M M，JIN L，HOMMA N． Static and dynamic neural networks: from fundamentals to advanced theory ［M］．New York: Wiley Interscience，2003．［4］ ANTSAKLIS P J． Neural networks in control systems ［J］． IEEE Control Syst Mag，1990，1( 2) : 3-5．［5］ PARLOS A G，CHONG K T，ATIYA A F． Application of recurrent multilayer perceptron in modeling of complex processdynamics ［J］． IEEE Transactions on Neural Networks，1994，5( 2) : 255-266．［6］ POGGIOT，GIROSI F． Networks for approximation and learning ［J］． Proceeding of IEEE，1990，78( 9) : 1481-1497．［7］ CHEN S，BILLINGS S A，GRANT P M． Recursive hybrid algorithm for nonlinear system identification using radial basisfunction networks ［J］． International Journal of Control，1992，55( 5) : 1051-1070．［8］ PARK J，SANDBERG I W． Universal approximation sing radial basis function networks ［J］． Neural Computation，1991，3( 2) : 246-257．［9］ NGUYEN D H，WIDROW B． Neural networks for self-learning control system ［J］． International Journal of Control，1991，54( 6) : 1439-1451．［10］ GEMBRANO G，WELLS G，SARDA J． Dynamic control of a robot arm based on neural networks ［J］． Control Engi-neering Practice，1997，5( 4) : 485-492．［11］ ROY A，KIM L S，MUKHOPADHYAY S． A polynomial time algorithm for the construction and training of a class ofmultilayer perceptrons ［J］． Neural Networks，1993，6: 535-545．［12］ PATRA J C，KOT A C． Nonlinear dynamic system identification using chebyshev functional link artificial neural networks［J］． IEEE Transactions in Systems，Man and Cybernetics － Part B: Cybernetics，2002，32( 4) : 505-511．［13］ ZHAO H Q，ZHANG J S． Nonlinear dynamic system identification using pipelined functional link artificial recurrent neu-ral network ［J］． Neurocomputing，2009，72( 13 － 15) : 3046-3054．［14］王峰，刑科义，徐小平． 系统辨识的粒子群优化算法 ［J］． 西安交通大学学报，2009，43( 2) : 117-120．［15］王雪． 测试智能信息处理 ［M］． 北京: 清华大学出版社，2008．(责任编辑 陈 敏)·431·

Nonlinear Dynamic System Identification Based on FLANN

http://dspace.xmu.edu.cn/bitstream/handle/2288/122716/%e5%9f%ba%e4%ba%8eFLANN%e7%9a%84%e9%9d%9e%e7%ba%bf%e6%80%a7%e5%8a%a8%e6%80%81%e7%b3%bb%e7%bb%9f%e8%be%a8%e8%af%86.pdf?sequence=1&isAllowed=y

Nonlinear Dynamic System Identification Based on FLANN

Abstract

Similar works

Full text

Available Versions

Xiamen University Institutional Repository