用Ｄｉｒａｃ符号表示１６态四元数离散神经网络模型，用计算机模拟讨论了该模型的存贮容量和容错能力，与Ｈｏｐｆｉｅｌｄ模型对比，并进行了计算机１６值灰度或彩色图像识别模

刘瑞堂

吴伯僖

帅建伟

陈振湘

Xiamen University Institutional Repository

X四元数神经网络模型的计算机模拟研究*帅建伟　陈振湘　刘瑞堂　吴伯僖(厦门大学物理系,福建, 厦门, 361005)摘要　用 Dirac符号表示 16 态四元数离散神经网络模型,用计算机模拟讨论了该模型的存贮容量和容错能力, 与 Hopfield 模型对比,并进行了计算机 16 值灰度或彩色图像识别模拟.关键词　四元数, 神经网络,图像识别.引言人工神经网络[ 1]由于模拟人脑神经元的基本功能和网络的基本结构特征, 为高速自动识别多值图像提供了新的思路.为处理多值图像,建立多态神经网络模型,用一个多值神经元表示一个多值像点的状态,已引起人们的重视 [ 2～4] .我们把四元数[ 5]引入神经网络, 建立了 16态四元数神经网络模型[ 6], 该模型具有以下优点:为双极 16态模型,可用现在成熟的集成电路实现;其图像编码方式与计算机 16值图像编码一一对应;其存贮容量比与 Hopfield神经网络模型相同. 本文对四元数神经网络模型的存贮容量和纠错能力进行了进一步的计算机数值模拟研究,并与 Hopf ield 模型进行了对比.该模型可应用于 16值灰度或彩色图像的识别,本文还通过计算机数值模拟讨论了该模型 16值图像的识别应用.1　四元数神经网络模型的 Dirac 符号表示四元数也称为 Hamil ton代数,具有 1个实部和 3个虚部. 令四元数系Q ( R ) = {a: a= a+ bi+ cj+ dk, a, b, c , dER } ,其中 i , j , k 表示虚部的 3个基矢元,各基矢元间的乘法关系为1 i j k1 1 i j ki i - 1 k - jj j - k - 1 ik k j - i - 1　. ( 1)由上可知,四元数不满足乘法交换律,但满足结合律.对任意四元数 a= a+ bi+ cj + dk, 定义第 15卷 第 1 期1996 年 2 月红外与毫米波学报J. Inf rared M illim . WavesVo l. 15, No. 1February , 1996X国家自然科学基金资助项目本文 1994年 11月 21日收到,修改稿 1995年 3月 31日收到其共轭 a* = a- bi- cj - dk, 故有 a a* = a2+ b2+ c2+ d2.设四元数神经网络模型有 N 个神经元, 每个神经元的状态为如下 16种状态中的任一种: (±1±i±j±k) , 存储 M 个记忆模式 SL= {±1±i±j±k}N(L= 1, 2, . . . ,M ) ,我们写 SL= ûL> 为一基态矢,则连接矩阵表示为由基矢构成的投影算符之和J = ∑ML= 1ûL> < Lû. ( 2)这样我们自然在连接矩阵算符中引入了ûL> 的共轭空间< Lû,其矩阵表示即为J mn = ∑LSLm( SLn)*. ( 3)当用阶跃算符 ( 表示四元数阈值函数时,对任一输入态ût> ,网络的算符动力学方程为ût+ 1> = ( Jût> . ( 4)四元数阶跃算符 ( ( x )的取值规则如下:当 x 的实部以及某一虚部不小于 0时, ( ( x )的对应部分取为正单位元,当 x 的实部以及某一虚部小于 0时, ( ( x )的对应部分取为负单位元.对于四元数神经网络,态矢ûL> 具有实部和 3个虚部,故其模为< LûL> = 4N .若令 S= S1= û1> ,代入式( 4)得Sø= JS 1 = 4N û1 > + ∑L≠1ûL > ( < Lû1 > ) . ( 5)这里实际求得的是信号-噪声展开式, 式中右边第一项为信号项,第二项为噪声项. 展开上式可得该模型的信噪比为 N / (M- 1) ,运用文献[ 7]或[ 8]中的信噪比分析原理,可求得其存贮容量比a 为[ 6]a≈11 ln4N=12 lnN. ( 6)该结论与文献[ 7, 8]得到的 Hopfield模型的存贮容量比相同.2　计算机数值模拟我们用计算机数值模拟说明离散四元数神经网络模型的存贮容量. 设网络中有 N 个神经元,多次随机产生 M 个存贮图像 TL,把存贮图像作为输入,统计其正确回忆率 a 随 M 变化的统计曲线.图 1给出当 N = 100和 200时,四元数神经网络与 Hopfeld 模型的a-M 统计曲线, 由图知上述两模型的存贮容量曲线规律相似,但四元数模型的存贮容量比 Hopf ield模型略低.下面讨论该离散四元数神经网络模型的容错能力. 为表征图像ûS > 与ûT > 的差别大小,定义距离函数为D = ∑4i= 1∑Nm= 1ûs im - t imû, ( 7)511 期 帅建伟:四元数神经网络模型的计算机模拟研究图 1　随机存贮图像的正确回忆率a 随 M 变化析统计曲线(N = 100, 200)F ig . 1 Statistica l curv es a-M forN = 100, 200图 2　汉明距离 D 与神经元个数N 的关系曲线( M= 3, 5, 7; D= 80% )F ig . 2 Dependence o f D on N forM = 3, 5, 7; D= 80%这里 s im和 tim分别表示图像ûS> 和图像ûT > 的第 m 个分量(也即是一个四元数)的第 i 个部分,该距离即是广义的汉明距离.若图像ûS > 与存储样本ûM> 的四元数汉明距离为 D , 则表示图像ûS> 相对于存储样本ûM> 具有 C= D / 4N 的噪声比.图 2统计出当网络存贮 M = 3, 5, 7个图像时, 输入大量加噪图像, 其收敛百分比 D=80%时,汉明距离 D 与神经元个数 N 的关系曲线.从图中可知, 当 N≥M 时,容错半径即汉明距离 D 主要由神经元个数 N 决定.为比较离散四元数神经网络模型与 Hopf ield模型的容错能力, 图 3给出了存贮图像数M = 5 且其收敛百分比 D= 85%时, 两模型的加噪图像的噪声比 C与神经元个数 N 的统计关系曲线;图 4给出了N = 100、M = 5时两模型D与 C的统计关系曲线.由图3、4可知,两模型的统计曲线基本相似,且四元数神经网络模型的曲线稍低, 故得四元数神经网络模型与Hopfield模型具有相同的纠错规律,但其纠错能力略低于 Hopf ield模型. 对此我们可以定性理解为: 由于四元数的 3个虚基矢间对乘法具有轮换关系, 实际上构成了一种交叉干扰,从而使其纠错能力变小.3　16值灰度或彩色图像的识别计算机中 16值灰度或彩色图像编码为 4位二进制编码, 而四元数神经元实质上为 4位二态码,故可自然地把四元数神经元编码和 16色计算机编码对应起来: 实数部分对应色饱和度的两个级别, 3虚部对应三基色红、兰、绿, 则它可以存贮 16色彩色图像, 应用于 16色图像识别.实际上在图像识别应用中,对四元数的利用仅是其四维±1与计算机 4位 0, 1编码对应, 而在识别是利用该码的整体相似度,所以不仅只适用于 16 色图像识别, 也可用于16值灰度图像识别.52 红 外 与 毫 米 波 学 报 15卷图 3　加噪图像的噪声比 C与神经元个数 N 的统计关系曲线(M= 5, D= 85% )Fig . 3 Statist ical cur ves C-N fo rM= 5, D= 85%图 4　收敛百分比 D与噪声比C的统计关系曲线(N = 100, M= 5, 10)Fig. 4 Statistical cur ves D-Cfo rN = 100, M= 5, 10　　对于四元数离散神经网络模型的 16值灰度或彩色图像识别, 我们也进行了计算机模拟应用.如网络中存贮 4种不同灰度或颜色的 12×12点阵图像.模拟表明,这 4种图像均为该网络的稳定存贮图像. 输入随机产生的 10000个与记忆样本汉明距离达 60(即噪声约 10% )或 110(即噪声约 20%)的变形图像,统计其纠错能力, 该模型正确识别率分别约为 95%和75%.4　结果与讨论本文通过计算机数值模拟研究对比了四元数离散神经网络模型和 Hopf ield 模型的存贮容量和纠错能力. 它们具有相同的存贮容量比, 但四元数模型的存贮容量和纠错能力比Hopfield模型略低.该模型可用于 16值灰度或彩色图像的识别, 本文还通过计算机数值模拟讨论了该模型的 16值图像的识别应用.四元数神经网络模型对 16态图像的识别, 实质上是用一个高维数来表示一个多值像点的状态.由于该模型仅从数的角度推广了 Hopf iedl模型,因此它同样具有 Hopf ield 模型的各种不足,如存贮容量较低,对图像是按像点记忆,对相似图像不可区分等.从该模型的器件实现来看,神经元的结构以及神经元间的连接较为复杂, 而这也是所有多态神经网络所面临的问题.对于该模型,器件设计应能处理四元数的运算,这方面工作我们在文献[ 9]中已进行了初步的讨论.531 期 帅建伟:四元数神经网络模型的计算机模拟研究参考文献1　Hopfield J J. Proc. Natl A cad . Sci. U . S . A . , 1982, 79: 2554～25582　Noest A J. Phy s. R ev . A , 1988, 38: 2196～21993　Kanter I. P hy s. Rev . A , 1988, 37: 2739～27424　Rieger H. J . P hy s . A , 1990, 23: ( 23) : L1273～L12795　Condon E U , Odishaw H. H andbook of Phy sics, N ew York: M cGraw-Hill ( Second Edition) , 1967, 1: 226　帅建伟,陈振湘, 刘瑞堂,等. 计算机学报, 1995, 18: 372～3797　M celiece R J, Posner E C, Rodemich E R , et al. IEE E Tran. I nf o. T heory , 1987, IT-33( 4) : 461～4828　Bruce A D, Gardner E J, Wallace D J. J . P hy s. A , 1987, 20: 2909～29349　陈振湘,帅建伟, 刘瑞堂,等. 四元数神经元的电路实现原理,见: 中国神经网络理论及应用——’94 最新进展, 1994,武汉: 华中理论大学出版社, 190～193THE COMPUTER SIMULATION INVESTIGATION OFTHE HAMILTON NEURAL NETWORK MODELXShuai Jianwei　Chen Zhenxiang　Liu Ruitang　Wu Box i( P hy si cs Dep artment , X iamen Univ ersity , X iamen ,F uj iang 361005, China)Abstract　T he Dir ac symbol w as used to represent the 16-level Ham il ton discrete neur alnetw ork. By using the computer simulat ion, the storage capacity and the error tolerancecapacity of the model w er e studied and compared w ith the Hopf ield model. T he model w asapplied to recognize the 16-level gr ay o r color pat terns.Key words　Hamilton number, neur al netw ork, pattern recognt ion.54 红 外 与 毫 米 波 学 报 15卷X T he project supported b y the Nat ional Natural Science Foundat ion of China

四元数神经网络模型的计算机模拟研究

http://dspace.xmu.edu.cn/bitstream/handle/2288/16461/%e5%9b%9b%e5%85%83%e6%95%b0%e7%a5%9e%e7%bb%8f%e7%bd%91%e7%bb%9c%e6%a8%a1%e5%9e%8b%e7%9a%84%e8%ae%a1%e7%ae%97%e6%9c%ba%e6%a8%a1%e6%8b%9f%e7%a0%94%e7%a9%b6.pdf?sequence=1&isAllowed=y

四元数神经网络模型的计算机模拟研究

Abstract

Similar works

Full text

Available Versions

Xiamen University Institutional Repository