A Bregman forward-backward linesearch algorithm for nonconvex composite optimization: superlinear convergence to nonisolated local minima

We introduce Bella, a locally superlinearly convergent Bregman forward backward splitting method for minimizing the sum of two nonconvex functions, one of which satisfying a relative smoothness condition and the other one possibly nonsmooth. A key tool of our methodology is the Bregman forward-backward envelope (BFBE), an exact and continuous penalty function with favorable first- and second-order properties, and enjoying a nonlinear error bound when the objective function satisfies a Lojasiewicz-type property. The proposed algorithm is of linesearch type over the BFBE along candidate update directions, and converges subsequentially to stationary points, globally under a KL condition, and owing to the given nonlinear error bound can attain superlinear convergence rates even when the limit point is a nonisolated minimum, provided the directions are suitably selected

Well-Posedness Properties In Variational Analysis And Its Applications

This dissertation focuses on the study and applications of some significant properties in well-posedness and sensitivity analysis, among which the notions of uniform metric regularity , higher-order metric subregularity and its strong subregularity counterpart play an essential role in modern variational analysis. We derived verifiable sufficient conditions and necessary conditions for those notions in terms of appropriate generalized differential as well as geometric constructions of variational analysis. Concrete examples are provided to illustrate the behavior and compare the results. Optimality conditions of parametric variational systems (PVS) under equilibrium constraints are also investigated via the terms of coderivatives. We derived necessary optimality and suboptimality conditions for various problems of constrained optimization and equilibria such as MPECs with amenable/full rank potentials and EPECs with closed preferences in finite-dimensional spaces

Multilevel optimization in infinity norm and associated stopping criteria

Cette thèse se concentre sur l'étude d'un algorithme multi niveaux de régions de confiance en norme infinie, conçu pour la résolution de problèmes d'optimisation non linéaires de grande taille pouvant être soumis a des contraintes de bornes. L'étude est réalisée tant sur le plan théorique que numérique. L'algorithme RMTR∞ que nous étudions ici a été élaboré a partir de l'algorithme présente par Gratton, Sartenaer et Toint (2008b), et modifie d'abord en remplaçant l'usage de la norme Euclidienne par une norme infinie, et ensuite en l'adaptant a la résolution de problèmes de minimisation soumis a des contraintes de bornes. Dans un premier temps, les spécificités du nouvel algorithme sont exposées et discutées. De plus, l'algorithme est démontré globalement convergent au sens de Conn, Gould et Toint (2000), c'est-a-dire convergent vers un minimum local au départ de tout point admissible. D'autre part, il est démontre que la propriété d'identification des contraintes actives des méthodes de régions de confiance basées sur l'utilisation d'un point de Cauchy peut être étendue a tout solveur interne respectant une décroissance suffisante. En conséquence, cette propriété d'identification est aussi respectée par une variante particulière du nouvel algorithme. Par la suite, nous étudions différents critères d'arrêt pour les algorithmes d'optimisation avec contraintes de bornes afin de déterminer le sens et les avantages de chacun, et ce pour pouvoir choisir aisément celui qui convient le mieux a certaines situations. En particulier, les critères d'arrêts sont analyses en termes d'erreur inverse (backward erreur), tant au sens classique du terme (avec l'usage d'une norme produit) que du point de vue de l'optimisation multicritères. Enfin, un algorithme pratique est mis en place, utilisant en particulier une technique similaire au lissage de Gauss-Seidel comme solveur interne. Des expérimentations numériques sont réalisées sur une version FORTRAN 95 de l'algorithme. Elles permettent d'une part de définir un panel de paramètres efficaces par défaut et, d'autre part, de comparer le nouvel algorithme a d'autres algorithmes classiques d'optimisation, comme la technique de raffinement de maillage ou la méthode du gradient conjugue, sur des problèmes avec et sans contraintes de bornes. Ces comparaisons numériques semblent donner l'avantage à l'algorithme multi niveaux, en particulier sur les cas peu non-linéaires, comportement attendu de la part d'un algorithme inspire des techniques multi grilles. En conclusion, l'algorithme de région de confiance multi niveaux présente dans cette thèse est une amélioration du précédent algorithme de cette classe d'une part par l'usage de la norme infinie et d'autre part grâce a son traitement de possibles contraintes de bornes. Il est analyse tant sur le plan de la convergence que de son comportement vis-à-vis des bornes, ou encore de la définition de son critère d'arrêt. Il montre en outre un comportement numérique prometteur. ABSTRACT : This thesis concerns the study of a multilevel trust-region algorithm in infinity norm, designed for the solution of nonlinear optimization problems of high size, possibly submitted to bound constraints. The study looks at both theoretical and numerical sides. The multilevel algorithm RMTR∞ that we study has been developed on the basis of the algorithm created by Gratton, Sartenaer and Toint (2008b), which was modified first by replacing the use of the Euclidean norm by the infinity norm and also by adapting it to solve bound-constrained problems. In a first part, the main features of the new algorithm are exposed and discussed. The algorithm is then proved globally convergent in the sense of Conn, Gould and Toint (2000), which means that it converges to a local minimum when starting from any feasible point. Moreover, it is shown that the active constraints identification property of the trust-region methods based on the use of a Cauchy step can be extended to any internal solver that satisfies a sufficient decrease property. As a consequence, this identification property also holds for a specific variant of our new algorithm. Later, we study several stopping criteria for nonlinear bound-constrained algorithms, in order to determine their meaning and their advantages from specific points of view, and such that we can choose easily the one that suits best specific situations. In particular, the stopping criteria are examined in terms of backward error analysis, which has to be understood both in the usual meaning (using a product norm) and in a multicriteria optimization framework. In the end, a practical algorithm is set on, that uses a Gauss-Seidel-like smoothing technique as an internal solver. Numerical tests are run on a FORTRAN 95 version of the algorithm in order to define a set of efficient default parameters for our method, as well as to compare the algorithm with other classical algorithms like the mesh refinement technique and the conjugate gradient method, on both unconstrained and bound-constrained problems. These comparisons seem to give the advantage to the designed multilevel algorithm, particularly on nearly quadratic problems, which is the behavior expected from an algorithm inspired by multigrid techniques. In conclusion, the multilevel trust-region algorithm presented in this thesis is an improvement of the previous algorithm of this kind because of the use of the infinity norm as well as because of its handling of bound constraints. Its convergence, its behavior concerning the bounds and the definition of its stopping criteria are studied. Moreover, it shows a promising numerical behavior

Arbitrary lagrangian-eulerian formulation of quasistatic nonlinear problems

En esta tesis se presenta una metodología para la simulación numérica de procesos cuasistaticos en mecánica de sólidos no lineal, basada en una formulación arbitrariamente lagrangiana-euleriana (ale) del problema. Se hace un enfoque generalista, que abarca algunas cuestiones fundamentales en mecánica computacional y en análisis numérico: la resolución de sistemas no lineales de ecuaciones algebraicas y la integración de las ecuaciones constitutivas no lineales. Como entorno de trabajo se utiliza un código orientado al objeto, una herramienta muy útil en tareas de investigación pues proporciona un lenguaje interactivo de programación altamente conceptual. Este lenguaje permite implementar y estudiar los algoritmos numéricos de manera sencilla y eficaz.Las principales aportaciones del trabajo son: (1) La adaptación de distintos métodos para la resolución de sistemas no lineales de ecuaciones a la técnica de los multiplicadores de lagrange: desarrollo de algoritmos, análisis de convergencia e implementación numérica.(2) El desarrollo de una estrategia para el análisis del orden del error de esquemas numéricos de integración de las ecuaciones constitutivas no lineales en mecánica de sólidos con grandes deformaciones, y la aplicación de dicha estrategia a dos algoritmos.(3) El tratamiento unificado de la formulación ale de problemas cuasistaticos y dinámicos(4) El desarrollo de algoritmos para el tratamiento de los términos conectivos en las ecuaciones constitutivas ale

Resoluções do problema assimetrico de inequações variacionais em dimensão finita, usando problemas de otimização equivalentes

Orientador: Jose Mario MartinezDissertação (doutorado) - Universidade Estadual de Campinas, Instituto de Matematica, Estatistica e Computação CientificaResumo: Não informado.Abstract: Not informed.DoutoradoDoutor em Matemática Aplicad