Spectral two-level preconditioners for sequences of linear systems

De nombreuses simulations numériques nécessitent la résolution d'une série de systèmes linéaires impliquant une même matrice mais des second-membres différents. Des méthodes efficaces pour ce type de problèmes cherchent à tirer bénéfice des résolutions précédentes pour accélérer les résolutions restantes. Deux grandes classes se distinguent dans la façon de procéder: la première vise à réutiliser une partie du sous-espace de Krylov, la deuxième à construire une mise à jour du préconditionneur à partir de vecteurs approximant un espace invariant. Dans cette thèse, nous nous sommes intéressés à cette dernière approche en cherchant à améliorer le préconditionneur d'origine. Dans une première partie, une seule mise à jour du préconditionneur est considérée pour tous les systèmes. Cette mise à jour consiste en une correction spectrale de rang faible qui permet de translater de un la position des plus petites valeurs propres en module de la matrice du système préconditionné de départ. Des expérimentations numériques sont réalisées en utilisant la méthode GMRES couplée à un préconditionneur de type inverse approchée. L'information spectrale est obtenue par un solveur de valeurs propres lors d'une phase préliminaire au calcul. Dans une deuxième partie, on autorise une possible mise à jour entre chaque système. Une correction spectrale incrémentale est proposée. Des expérimentations numériques sont réalisées en utilisant la méthode GMRES-DR, d'une part parce qu'elle est efficace en tant que solveur linéaire, et d'autre part parce qu'elle permet une bonne approximation des petites valeurs propres au cours de la résolution linéaire. Des stratégies sont développées afin de sélectionner l'information spectrale la plus pertinente. Ces approches ont été validées sur des problèmes de grande taille issus de simulations industrielles en électromagnétisme. Dans ce but, elles ont été implantées dans un code parallèle développé par EADS-CCR. ABSTRACT : Many numerical simulations in scientific and engineering applications require the solution of a set of large linear systems involving the same coefficient matrix but different right-hand sides. Efficient methods for tackling this problem attempt to benefit from the previously solved right-hand sides for the solution of the next ones. This goal can be achieved either by recycling Krylov subspaces or by building preconditioner updates based on near invariant subspace information. In this thesis, we focus our attention on this last approach that attempts to improve a selected preconditioner. In the first part, we consider only one update of the preconditioner for all the systems. This update consists of a spectral low-rank correction that shifts by one the smallest eigenvalues in magnitude of the matrix of the original preconditioned system. We perform experiments in the context of the GMRES method preconditioned by an approximate inverse preconditioner. The spectral information is computed by an eigensolver in a preprocessing phase. In the second part, we consider an update of the preconditioner between each system. An incremental spectral correction of the preconditioner is proposed. We perform experiments using the GMRES-DR method, thanks to its efficiency as a linear solver and its ability to recover reliable approximations of the desired eigenpairs at run time. Suitable strategies are investigated for selecting reliable eigenpairs. The efficiency of the proposed approaches is in particular assessed for the solution of large and challenging problems in electromagnetic applications. For this purpose, they have been implemented in a parallel industrial code developed by EADS-CCR

A study on block flexible iterative solvers with applications to Earth imaging problem in geophysics

Les travaux de ce doctorat concernent le développement de méthodes itératives pour la résolution de systèmes linéaires creux de grande taille comportant de nombreux seconds membres. L’application visée est la résolution d’un problème inverse en géophysique visant à reconstruire la vitesse de propagation des ondes dans le sous-sol terrestre. Lorsque de nombreuses sources émettrices sont utilisées, ce problème inverse nécessite la résolution de systèmes linéaires complexes non symétriques non hermitiens comportant des milliers de seconds membres. Dans le cas tridimensionnel ces systèmes linéaires sont reconnus comme difficiles à résoudre plus particulièrement lorsque des fréquences élevées sont considérées. Le principal objectif de cette thèse est donc d’étendre les développements existants concernant les méthodes de Krylov par bloc. Nous étudions plus particulièrement les techniques de déflation dans le cas multiples seconds membres et recyclage de sous-espace dans le cas simple second membre. Des gains substantiels sont obtenus en terme de temps de calcul par rapport aux méthodes existantes sur des applications réalistes dans un environnement parallèle distribué. ABSTRACT : This PhD thesis concerns the development of flexible Krylov subspace iterative solvers for the solution of large sparse linear systems of equations with multiple right-hand sides. Our target application is the solution of the acoustic full waveform inversion problem in geophysics associated with the phenomena of wave propagation through an heterogeneous model simulating the subsurface of Earth. When multiple wave sources are being used, this problem gives raise to large sparse complex non-Hermitian and nonsymmetric linear systems with thousands of right-hand sides. Specially in the three-dimensional case and at high frequencies, this problem is known to be difficult. The purpose of this thesis is to develop a flexible block Krylov iterative method which extends and improves techniques already available in the current literature to the multiple right-hand sides scenario. We exploit the relations between each right-hand side to accelerate the convergence of the overall iterative method. We study both block deflation and single right-hand side subspace recycling techniques obtaining substantial gains in terms of computational time when compared to other strategies published in the literature, on realistic applications performed in a parallel environment

Iterative solvers and preconditioning for electromagnetic boundary integral equations

In deze samenvatting zal ik proberen om, aan de hand van de titel, uit te leggen waar dit proefschrift over gaat. Als eerste is in de titel te vinden dat het onderzoek te maken heeft met methodes voor het oplossen van elektromagnetische vergelijkingen. Ik zal eerst uitleggen wat dit voor problemen zijn, en het vervolgens hebben over de methodes die we voorstellen om deze op te lossen. Elektrische ladingen en stromen (bewegende elektrische ladingen) wekken een elek- tromagnetisch (EM) veld op. Onder bepaalde omstandigheden wordt dit ook wel elektro- magnetische straling genoemd. Dit EM veld kan op zijn beurt weer ladingen en stromen genereren in een ander elektrisch geleidend voorwerp. Dit wordt ook wel inductie ge- noemd. Dit e®ect is al heel lang bekend en is de basis voor zeer veel toepassingen, zoals de radio en de inductiekookplaat. Dit verschijnsel heeft ook negatieve e®ecten. Zo kunnen elektrische apparaten die elektromagnetische straling produceren, onbedoeld stromen opwekken in andere appa- raten. Dit kan er voor zorgen dat dit andere apparaat slechter of helemaal niet meer werkt. Als voorbeeld zou men kunnen denken aan een videorecorder die vlak bij de tele- visie staat. Als de videorecorder een te sterk elektromagnetisch veld produceert kan dit onbedoelde stroompjes opwekken in de televisie, met het gevolg dat het televisiebeeld gestoord wordt. Serieuzere probleem zouden kunnen ontstaan in een ziekenhuis, waar b.v. in de operatiekamer veel vitale machines dicht bij elkaar staan. De hart-longmachine mag er niet voor zorgen dat de hartmonitor niet meer goed werkt. De elektromagnetische interactie tussen elektrische apparaten en hun omgeving is onderdeel van elektromagnetische compatibiliteit (EMC). Een apparaat wordt elektro- magnetisch compatibel genoemd als het in zijn omgeving goed kan functioneren en bo- vendien het goed functioneren van andere apparaten in zijn omgeving niet stoort. De Internationale Elektrotechnische Commissie (IEC) publiceert EMC standaards, waarin deze de¯nitie van elektromagnetische compatibiliteit wordt vastgelegd in meetbare eisen voor een apparaat. Deze standaards worden onder andere gebruikt voor nationale en ook Europese wetgeving. Dit betekent dat alle elektrische apparatuur moet voldoen aan bepaalde EMC standaards. Een belangrijk onderdeel van deze standaards is, dat het bij normaal gebruik door het apparaat opgewekte elektrisch veld gebonden is aan bepaalde maxima. Voor moderne elektrische apparatuur, waarin steeds meer en snellere digitale componenten gebruikt worden, wordt het steeds moeilijker om aan deze EMC standaards te voldoen. Het is daarom belangrijk om bij het ontwerpen van nieuwe elektronische apparatuur rekening te houden met deze EMC standaards. Als een eerste ontwerp gereed is moet er een prototype gemaakt worden zodat gemeten kan worden of het ontwerp voldoet aan de benodigde EMC standaards. Als dit niet het geval is moet het ontwerp aangepast wor- den waarna er weer een prototype gemaakt moet worden, enzovoort. Het maken van een prototype en het testen hiervan is een tijdrovend proces. Het ontwerpproces kan aanzienlijk versneld worden als de ontwerper door middel van computer simulaties kan controleren of een ontwerp voldoet. In het ideale geval zou de ontwerper met een druk op de knop een nauwkeurige voorspelling van het gegenereerde elektrische veld krijgen. Echter, om met behulp van computer simulaties een hoge precisie te krijgen, moeten er heel grote problemen opgelost worden, en dat kost veel tijd. Voor complexe ontwerpen leidt dit er toe dat veel te lang gerekend moet worden om een redelijke voorspelling te maken. Dit onderzoek heeft tot doel gehad om bij te dragen aan de ontwikkeling van methodes om deze computer simulaties zo snel te maken dat ze voor complexe ontwerpen toch praktisch toepasbaar zijn. Bij het uitvoeren van dit soort simulaties wordt er als eerste een vereenvoudigd com- putermodel opgesteld van het ontwerp. Dit houdt o.a. in dat alle niet geleidende onder- delen (zoals alle plastic delen) weggelaten worden. Het is natuurlijk de bedoeling dat de vereenvoudigingen het probleem makkelijker maken maar de uitkomst niet of slechts zeer weinig beijnvloeden. In onze situatie bestaat het vereenvoudigde model uit een aantal vlakke rechthoekige dunne geleidende platen en dunne geleidende draden. Op de punten waar de draden met de platen verbonden zijn, zijn in het model spanningsbronnetjes opgenomen die de elektrische componenten in het ontwerp vervangen. Voor het berekenen van het elektromagnetisch gedrag hebben we gebruik gemaakt van de randintegraal methode. Hierbij wordt door middel van integralen over het oppervlak van de geleider (de rand) het elektrisch veld uitgedrukt als functie van de ladingen en stromen in de geleider. Deze ladingen en stromen worden berekend met behulp van een randintegraalvergelijking over het oppervlak van de geleider. Het meest tijdrovende gedeelte van deze aanpak is het berekenen van de ladingen en stromen door het oplossen van de randintegraalvergelijking. Hiervoor wordt eerst het oppervlak van de geleider gediscretiseerd, wat betekent dat de geleidende platen in kleine rechthoekjes worden verdeeld en de draden in kleine stukjes worden opgedeeld. Hierdoor kan de integraalvergelijking geschreven worden als een (zeer) groot stelsel \gewone" lineaire vergelijkingen. Dit stelsel is een vol stelsel, wat betekent dat alle onbekenden in alle vergelijkingen voorkomen. Op de middelbare school leert men al hoe dit soort stelsels van lineaire vergelijkingen opgelost kunnen worden. Deze methodes zijn alleen niet meer erg praktisch voor stelsels van meer dan duizend vergelijkingen en onbekenden. We lossen deze stelsels vergelij- kingen op met iteratieve oplosmethodes. Dit zijn methodes die uitgaan van een eerste schatting voor de oplossing en deze stap voor stap iets corrigeren zodat hij beter wordt. Door de correctiestap te herhalen (itereren) hopen we dat de benaderende oplossing steeds beter wordt en convergeert naar de echte oplossing. De iteratie wordt herhaald totdat de benaderende oplossing goed genoeg is. Deze methodes werken doorgaans het best voor stelsels vergelijkingen met bepaalde eigenschappen. In hoofdstuk 3 laten we zien dat het stelsel lineaire vergelijkingen dat wij moeten oplossen deze eigenschappen niet heeft. Door naar de originele integraalvergelijking te kijken constateren we dat het probleem ligt in het verschillende gedrag van twee delen van de vergelijking, het capa- citieve en het inductieve e®ect. In dit hoofdstuk wordt vervolgens een transformatie geijntroduceerd die deze twee e®ecten splitst zodat ze apart te behandelen zijn. Deze splitsing maakt de weg vrij voor het verbeteren van de correctie stap in de iteratieve oplosmethode, zodat deze sneller kan convergeren. Deze techniek heet pre- conditionering en gebruikt doorgaans een alternatieve methode om het lineaire stelsel snel benaderend op te lossen. Hiervoor bestaan een aantal technieken, maar voor veel klassen van problemen voldoen deze niet zonder aanpassing. In dat geval moet, voor een goede convergentie, een van deze methodes aangepast worden of zelfs iets geheel nieuws bedacht worden. In hoofdstuk 4 beschrijven we de toepassing van geometrisch multigrid als precon- ditionering voor ons stelsel lineaire vergelijkingen. Deze methode maakt gebruik van een serie van steeds grover wordende discretisaties om met relatief weinig rekentijd een benaderende oplossing van het probleem te maken. Gebruik hiervan, samen met de trans- formatie uit Hoofdstuk 3, zorgt voor een redelijk snelle convergentie van de iteratieve oplosmethode. Een nadeel van geometrisch multigrid is dat het maken van de grovere discretisaties lastig kan zijn, vooral voor een model met een ingewikkelde geometrie. In hoofdstuk 6 hebben we daarom ook een variant hierop, genaamd algebraijsch multigrid, bekeken. De met algebraijsch multigrid behaalde resultaten zijn echter niet zo goed als die voor geometrisch multigrid. Voor het bepalen van het elektromagnetische gedrag van het model, moeten voor een groot aantal verschillende frequenties een aantal van dit soort stelsels van lineaire vergelijkingen opgelost worden. In hoofdstuk 5 maken we gebruik van het feit dat deze stelsels van lineaire vergelijkingen sterk op elkaar lijken en laten we zien hoe hiermee de benodigde rekentijd verder gereduceerd kan worden