Particle algorithms for optimization on binary spaces

We discuss a unified approach to stochastic optimization of pseudo-Boolean objective functions based on particle methods, including the cross-entropy method and simulated annealing as special cases. We point out the need for auxiliary sampling distributions, that is parametric families on binary spaces, which are able to reproduce complex dependency structures, and illustrate their usefulness in our numerical experiments. We provide numerical evidence that particle-driven optimization algorithms based on parametric families yield superior results on strongly multi-modal optimization problems while local search heuristics outperform them on easier problems

Mixed Integer Linear Programming Formulation Techniques

A wide range of problems can be modeled as Mixed Integer Linear Programming (MIP) problems using standard formulation techniques. However, in some cases the resulting MIP can be either too weak or too large to be effectively solved by state of the art solvers. In this survey we review advanced MIP formulation techniques that result in stronger and/or smaller formulations for a wide class of problems

Uma nova relaxação quadrática para variáveis binárias com aplicações a confiabilidade de redes de energia elétrica, a segmentação de imagens médicas de nervos e a problemas de geometria de distâncias

Orientador: Christiano Lyra FilhoTese (doutorado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: Como o título sugere, o foco desta pesquisa é o desenvolvimento de uma nova relaxação quadrática para problemas binários, sua formalização em resultados teóricos, e a aplicação dos novos conceitos em aplicações à confiabilidade de redes de energia elétrica, à segmentação de imagens médicas de nervos e à problemas de geometria de distâncias. Modelos matemáticos contendo va-riáveis de decisões binárias podem ser usados para encontrar as melhores soluções em processos de tomada de decisões, normalmente caracterizando problemas de otimização combinatória difíceis. A solução desses problemas em aplicações de interesse prático requer um grande esforço computacional; por isso, ao longo dos últimos anos, têm sido objeto de pesquisas na área de metaheurísticas. As ideias aqui desenvolvidas abrem novas perspectivas para a abordagem desses problemas apoiando-se em métodos de otimização não-lineares, área que vem sendo povoada por "solvers" muito eficientes. Inicialmente, explorando aspectos formais, a relaxação desenvolvida é parti-cularizada para um problema de otimização quadrática binária irrestrita. O relaxamento permite o desenvolvimento de três estruturas para abordar esta classe de problemas, e explora a convexidade da função objetivo para obter melhorias computacionais. Estudos de casos compararam o relaxamento proposto com os relaxamentos similares apresentados na literatura. Foram desenvolvidas três aplicações para os desenvolvimentos teóricos da pesquisa. A primeira aplicação envolve a melhoria da confiabilidade de redes de energia elétrica. Especificamente, aborda o problema de definir a melhor alternativa para a alocação de sensores na rede, o que permite reduzir os efeitos de ocorrências indesejáveis e ampliar a resiliência das redes. A segunda aplicação envolve o problema de segmentação de imagens médicas associadas a estruturas de nervos. A abordagem proposta interpreta o problema de segmentação como um problema de otimização binária, onde medir cada axônio significa encontrar um ciclo Hamiltoniano, um caso do problema do caixeiro viajante; a solução desses problemas fornece a estatística descritiva para um conjunto de axônios, incluindo o número (de axônios), os diâmetros e as áreas ocupadas. A última aplicação elabora um modelo matemático para o problema de geometria de distâncias sem designação, área ainda pouco estudada e com muitos aspectos em aberto. A relaxação desenvolvida na pesquisa permitiu resolver instâncias com mais de vinte mil variáveis binárias. Esses resultados são bons indicadores dos benefícios alcançáveis com os aspectos teóricos da pesquisa, e abrem novas perspectivas para as aplicações, que incluem inovações em nanotecnologia e bioengenhariaAbstract: As the title suggests, the focus this research is the development of a new quadratic relaxation for binary problems, its formalization in theoretical results, and the application of the new concepts in applications to the reliability of electric power networks, segmentation of nerve root images, and distance geometry problems. Mathematical models with binary decision variables can be used to find the best solutions for decision-making process, usually leading to difficult combinatorial optimization problems. The solution to these problems in practical applications requires a high computational effort; therefore, over the past years it has been the subject of research in the area of metaheuristics. The ideas developed in this thesis open new perspectives for addressing these problems using nonlinear optimization approaches, an area that has been populated by very efficient solvers. The initial developments explore the formal aspects of the relaxation in the context of a quadratic unconstrained binary optimization problem. The use of the proposed relaxation allows to create three structures to deal with this class of problems, and explores the objective function convexity to improve the computational performance. Case studies compare the proposed relaxation with the previous relaxations proposed in the literature. Three new applications were developed to explore the theoretical developments of this research. The first application concerns the improvement of the reliability of electric power distribution networks. Specifically, it deals with the problem of defining the best allocation for remote fault sensor, allowing to reduce the consequence of the faults and to improve the resilience of the networks. The second application explores the segmentation of medical images related to nerve root structures. The proposed approach regards the segmentation problem as a binary optimization problem, where measuring each axon is equivalent to finding a Hamiltonian cycle for a variant of the traveling salesman problem; the solution to these problems provides the descriptive statistics of the axon set, including the number of axons, their diameters, and the area used by each axon. The last application designs a mathematical model for the unassigned distance geometry problem, an incipient research area with many open problems. The relaxation developed in this research allowed to solve instances with more than twenty thousand binary variables. These results can be seen as good indicators of the benefits attainable with the theoretical aspects of the research, and opens new perspectives for applications, which include innovations in nanotechnology and bio-engineeringDoutoradoAutomaçãoDoutora em Engenharia Elétrica148400/2016-7CNP

Quantum Annealing: Research and Applications

This thesis studies several aspects of the quantum annealing (QA) computing approach. Quantum annealers' primary objective is to solve hard computational optimization problems. Because these optimization problems are in the NP-Hard complexity class, they are of great interest in several fields. One of the leading open questions concerning quantum annealers asks whether they will outperform other classical methods for solving these problems; Some aspects of this question are addressed in this thesis. The first part of the thesis investigates whether quantum annealing provides improved performance for solving a particular family of NP problems, called the Quadratic Knapsack Problem (QKP), using the D-Wave Quantum Annealer. The performance metrics used to assess QKP solving are the solution quality and the total runtime, and are benchmarked against other classical solvers. Furthermore, we extend our research on quantum annealers to propose two use cases for such systems. One is for Blockchain technology, and the second is in the area of quantum chaos. For the first use case of QA, an application for Blockchain's Proof of Work (PoW) is proposed, based on having hard optimization problems as an alternative to PoW hashing challenge, and using quantum annealers as solvers. For the second use case of QA, we propose simulating quantum chaos on the D-Wave Quantum Annealer to study the transition between the deep quantum realm and the classical limit in a chaotic system, and obtain insights into the “quantumness" of quantum annealers