In this paper a multistage iterative method for solving the symmetric positive definite linear systems is established and the convergence of the method is proved. A numerical example is given to illustrate the effectiveness of
our method. The method is especially suitable for parallel computation, and can be viewed as a extension of the classical iterative method or as a preconditioner for the conjugate gradient method.Fundação para a Ciência e a Tecnologia (FCT) and National Natural Science Foundation of China under Grant No. 1077102

Liu Zhongyun

Lu Xuejing

Zhang Yulin

Universidade do Minho: RepositoriUM

第 33卷 第 1期 2013年3月 数学理论与应用 MATHEMATICAL THE0RY AND APⅢ CAT10NS V01．33 No．1 Mar．2013 对称正定矩阵的多级迭代法 鲁雪晶 刘仲云 张育林。 (1．长沙理工大学数学与计算科学学院，长沙，410114) (2．Minho大学数学系，葡萄牙，4710—057) 摘 要 本文主要研究解对称正定矩阵的多级迭代法，并对其收敛性进行证明，最后用数值实验验证此方法 的有效性．多级迭代法特别 适用于并行计算，并且可以被理解为古典迭代法的扩展，或共轭梯度法的预处理 子． 关键词 线性方程组 对称正定阵 多级分裂 迭代法 收敛性 Multistage Iterative Methods for Symmetric P0sitive Definite M atrices Lu Xuejing Liu Zhongyun Zhang Yulin (1．School of Mathematics and Computing Science，Changsha University of Science&Technology， Changsha 4101 14，China) (2．Centm de Matemdtiea，Univers!dade do Minho，4710一o57 Braga，Portuga1) Abstract In this paper a multistage iterative method for solving the symmetric positive definite linear systems is es。 tablished and the convergence of the method is proved．A numerical example is ven to ilustrate the efectiveness of our method．The method is especially suitable for parallel computation，and can be viewed as a extension of the clas‘ sical iterative method Or as a preconditioner for the co．jugate gradient method． Key words Linear Systems Symmetric Positive Definite Matrix Multistage Spliting Iterative Method Con。 vergence 1 引言 考虑大型线性方程组 Ax = b 的迭代解法，其中系数矩阵A∈R 为实对称正定矩阵． (1) Supported by the National Natural Science Foundation of China under Grant No．10771022，by FEDER Funds through“Pro。 granla Operacional Faetores de Competitividade—COMPETE”and by Portuguese Funds through “Funda~~o para a Cigneia e a Teenologia”，within the Project PEst—C／MAT／U10013／201 1 and PTDC／MAT／1 12273／2009，Portugal 收稿日期：2013年2月26日 8 数学理论与应用 令 A的一个分裂为A=M 一Ⅳ．那么用古典迭代法来求解线性方程组(1)的形式为 Mx =Nx +b， k=0，1，⋯． (2) 易知，对于任意给定的初始值‰，当且仅当p(M Ⅳ)<1时，由(2)所产生的迭代序列 是收 敛的，这里 Ⅳ称为迭代矩阵． 在另一方面，二级迭代法[2，3，4，5，7]，也称为内外迭代法，包括求解线性方程组(2)中的 迭代，即继续作分裂 M =F—G且对于 第 k次外迭代，进行P 次内迭代．迭代算法如下， 算法 1(两级迭代法) nction twostage(A，b， 0) 如r k=0，1，⋯， y0 = ， ，or =1，⋯，P ， =  一 l+(Nx +6)， Xk+l · 其中k是外迭代数，而P 是内迭代数．若对每一步外迭代，其内迭代次数P 都是固定不变的， 我们称之为定常二级迭代法；若内迭代次数p 随着外迭代指标k的不同而不同，则我们称之 为非定常二级迭代法． 在本文中，我们首先利用“分合方法”的思想对对称正定矩阵进行多级分裂，并以此为基 础构建多级迭代算法求解线性方程组(1)，其中系数矩阵的最里层的内迭代是块对角，所以求 它的逆是比较容易的．最后，我们证明了这种迭代方法是收敛的． 2 多级迭代法 在这一节中，我们将讨论对称正定矩阵A的多级迭代法的分裂构造． 对A进行分块A：fAl1 A1 ，其中，若 ：2m，4 ∈RmX~, ：1，2；若n：2m+1，A。 ＼A21 A22／ ∈ R ．A，，∈ R( ’) ( ．¨ 设 F㈩ = 0“ A：，]，G(1)=[一。A．， 一0 】，我们可以得到矩阵A的第一级分裂，即A L J L J 的2 X 2的块 Jacobi分裂． 同样的对 Fu 进行分块 F( )= A(2) ’ A Ai A5 Ai A： ． F( )= A 对称正定矩阵的多级迭代法 9 就得到A的二级分裂A：F( 一G‘ 一G ¨． 以此类推，对于t=1，2，3，⋯，我们可以对矩阵进行下面的分块， F(‘一 ) 厂 I= I L_F(‘)： I= (^t一1) l 1"12t一1．2t一1-I A』 ’ ￡ )2 )2。 A ，G‘ ’= F‘ 一F‘“， (3) 最后就得到了A的t级分裂A=F。 一∑G ’． = l 根据上面的多级分裂，现可以得到求解线性方程组(1)的多级迭代算法，为简化算法，设 = 2q． 算法2(多级迭代法) function multistage(A， ，b0) r k = 0，1，⋯ ， r i= 1，2 y0。i= ． s = 1 ，．t= ：一l：0 M‘ (n／2 +1：n／2 一 ，n／2‘+1：n／2 一 )=A(n／2‘+1：n／2 ～，n／2 +1：n／2 一 ) Ⅳ( )= M ( 一A 厂0r t=2s：一I：0 F‘ (n／2‘+1：n／2 _。，n／2 +1：n／2‘一 )= (n／2 +1：n／2 一，n／2 +1：n／2 一 ) G( )： F(” 一 ( ) ij S=q ， =twos—tage(F~ ¨ ，G 一1， +Ⅳ‘ +6， ’) elseforj=1，⋯， ， =multistage(F~ ¨ ，G 一l， +Ⅳ‘ +6， 6 ’) S= S+1 Xk+1．j ypl s—1)． · 10 数学理论与应用 3 收敛性证明 我们先回顾一下后面将要使用的定义和定理． 定义1 分裂 A=M—N称为： · 对称分裂，若 是对称且非奇异的； · P一正则分裂，若 。+Ⅳ是正定的； · 收敛分裂，若P(M N)<1． 定理1[9] 矩阵A∈R ，且A是对称阵，若分裂A=M—N是一 P一正则分裂，A是对 称正定的当且仅当P(M Ⅳ)<1． 定理2[6] 矩阵A∈R ，且A是正定阵，若分裂A=M—N是一个P一正则分裂，则 正定． 定理 3[8，3] 矩阵A∈R ，且A是对称正定阵，若分裂A=M —N和M =F—G为对 称收敛分裂，则对于任意的迭代初始向量‰和任意非负偶数P ，算法 1是收敛的． 基于以上结论，得到以下定理． 定理4 矩阵A∈R“ ，且A是对称正定阵，则按照(3)方式分裂得到的 F“ )=F“)一 G“’，都是收敛的，且 Fn’，t=0，1，2，⋯，都是正定的． 证明 因为每一个分裂都是类似的，我们只证明第一个分裂，其他分裂的证明用同样的方 法就可以了． 令A=【三 三2I】，则其分裂为A=M-N,其中M=【 0 A￡，】，Ⅳ=【一。A，一0 】． LA21A J L2 J  21 J令Q=[A：。 ：】，s=A 一Az A A z．记A =A刍，贝0有A=Q【 兰】Q ，那么A。 ①s 和A是合同的．因为A是对称正定的，所以A。①S也是对称正定的． 同时，令P=【一A A ：】，则P[ 三]P = +Ⅳ，那么A。①．s和 +Ⅳ是合同的， 所以 +Ⅳ也是对称正定的． 根据定义，分裂A=M一，、，是 P一正则分裂．根据定理 1，p(M N)<1，那么关于A的分 裂A=M一Ⅳ是收敛的．依照定理2，M正定的．也就是说A。 和A： 都是正定的，那么我们可以 用同样的方法来证明分裂 F‘ ’=F‘“一G‘’是收敛的且 F( 是正定的． 定理5 矩阵A∈R ，且A是对称正定阵，则对于任意的迭代初始向量 。和任意内迭代 次数是非负偶数序列P ≥；后=1，2，⋯，多级迭代算法2是收敛的． 证明 设矩阵分裂了s次，则 分裂 F‘ =F‘”¨ 一G‘ (内分裂)和分裂 F( )=F(”一 G ’(外分裂)构成了一个二级迭代，根据定理4，我们知道 当内迭代数是固定的时候，这两个 分裂都是P一正则分裂．因此，当内迭代数是偶数时最里面的二级迭代是收敛的．接着与上一 对称正定矩阵的多级迭代法 1 1 级分裂 F“ (同样是 P一正则分裂)结合可以得到一个新的二级迭代，同样当内迭代数是偶 数时这个新的二级迭代也是收敛的．不断重复这一过程，那么最后得到一个收敛的多级迭代 法． 4 数值实验 在这一节内，我们将通过一个数值例子来展示多级迭代算法2的几个特性，并将之与古典 Jacobi迭代法和 Ssor迭代法相比较．这个数值实验结果是使用 Matlab 7．2．0．232(R2006a)在 Pentium M1．6GHz的计算机上运算出来的． 数值例子是椭圆方程离散后得到的线性方程组，其生成的矩阵是对称正定的，我们采用阶 数是n=1024，其中b为元素全为 1的向量，初始值‰是零向量，终止条件是 + 一 l ≤ 10～．根据前面的分裂构造方法，对于同一层的内迭代，其矩阵的分裂构造和迭代 矩阵均相 同，因此，我们可以知道收敛速度只与迭代矩阵相关，因此我们只考虑定常的多级迭代． 表 1 迭代数值实验结果 12 数学理论与应用 从最后的实验结果来看，我们发现分裂次数和内迭代次数对于全局运算速度有很大的影 响，但是对于最终误差基本没影响．我们知道迭代矩阵的谱半径会随着内迭代次数的增加而 减少[3]．谱半径越小，那么收敛速度越快．在一定程度上，内迭代次数的增加可减少运行时 间，但太多的内部循环，将会增加运算的时间．例如，在分裂次数是3，内迭代次数是4时运算 结果要优于其他迭代．全局收敛速度主要依赖于外迭代次数．因此，无论是分裂次数还是内迭 代次数都应控制在一个较小的正整数[1，3]这个结论也曾在二级迭代法有过论述． 众所周知，对于对称正定方程组，Jacobi(block Jacobi)有可能不收敛，例如，在我们的数值 试验中并行 Jacobi迭代是不收敛的．但是，多级迭代算法是收敛的．多级迭代算法的另一个优 越性是特别适用于并行计算．即使在个人计算机上进行并行计算 ，也能缩短50％的运算时间． 最后，我们想指出的是，依然存在几个有意义的问题有待今后的研究，例如如何寻找最优 内迭代数以及多级分裂的预处理子的讨论。 参考文献 [1]F．Cai，Y．S．Xiong，z．G．Luo The approximate optimal number of inner iterations of block two iterative math— ods，Mathematica Numerica Sinica，30(1)(2008)，PP．89-98 [2]Z．H．Cao，On the convergence of nested stationary iterative methods，Linear Algebra App1．，221(1995)，PP． 159—170． [3]Z．H．Cao，Convergence of nested iterative methods for symmetric P—resular splittings，SIAM J．Matrix Ana1． App1．，22(2o0o)，PP．20—32． [4]A．Frommer，D．B．Szyld，H—splittings and two—stage iterative methods，Numer．Math．，63(1992)，PP． 345—356． [5]A．Frommer，D．B．Szyld，Asynchronous two—stage iterative methods，Numer．Math．，69(1994)，PP．141 — 153． [6]R．Nabben，A note on comparison theorems for splitings and multisplitings of Hermitian positive definite matri． ces，Linear Algebra App1．，233(1996)，PP．67—80． [7]N．K．Nichols，On the convergence of two—stage iterative process for solving linear equations，SIAM J．Numer． Ana1．，10(1973)，PP．460-469． [8]Zhong—Yun Liu，He—Bing Wu，Lu Lin，The two—stage iterative methods for symmetric positive definite ma． trices，Applied Mathematics and Computation，114(20oo)，PP．1一l2． [9]J．M．Ortega，Numerical Analysis：A Second Course，Academic Press，New York，1972． 

Multistage iterative methods for symmetric positive definite matrices

Abstract

Similar works

Full text

Available Versions

Universidade do Minho: RepositoriUM

Universidade do Minho: RepositoriUM