10 research outputs found

    On the Hybrid Minimum Principle On Lie Groups and the Exponential Gradient HMP Algorithm

    Full text link
    This paper provides a geometrical derivation of the Hybrid Minimum Principle (HMP) for autonomous hybrid systems whose state manifolds constitute Lie groups (G,)(G,\star) which are left invariant under the controlled dynamics of the system, and whose switching manifolds are defined as smooth embedded time invariant submanifolds of GG. The analysis is expressed in terms of extremal (i.e. optimal) trajectories on the cotangent bundle of the state manifold GG. The Hybrid Maximum Principle (HMP) algorithm introduced in \cite{Shaikh} is extended to the so-called Exponential Gradient algorithm. The convergence analysis for the algorithm is based upon the LaSalle Invariance Principle and simulation results illustrate their efficacy

    Generalizations of the Multicut Problem for Computer Vision

    Get PDF
    Graph decomposition has always been a very important concept in machine learning and computer vision. Many tasks like image and mesh segmentation, community detection in social networks, as well as object tracking and human pose estimation can be formulated as a graph decomposition problem. The multicut problem in particular is a popular model to optimize for a decomposition of a given graph. Its main advantage is that no prior knowledge about the number of components or their sizes is required. However, it has several limitations, which we address in this thesis: Firstly, the multicut problem allows to specify only cost or reward for putting two direct neighbours into distinct components. This limits the expressibility of the cost function. We introduce special edges into the graph that allow to define cost or reward for putting any two vertices into distinct components, while preserving the original set of feasible solutions. We show that this considerably improves the quality of image and mesh segmentations. Second, multicut is notorious to be NP-hard for general graphs, that limits its applications to small super-pixel graphs. We define and implement two primal feasible heuristics to solve the problem. They do not provide any guarantees on the runtime or quality of solutions, but in practice show good convergence behaviour. We perform an extensive comparison on multiple graphs of different sizes and properties. Third, we extend the multicut framework by introducing node labels, so that we can jointly optimize for graph decomposition and nodes classification by means of exactly the same optimization algorithm, thus eliminating the need to hand-tune optimizers for a particular task. To prove its universality we applied it to diverse computer vision tasks, including human pose estimation, multiple object tracking, and instance-aware semantic segmentation. We show that we can improve the results over the prior art using exactly the same data as in the original works. Finally, we use employ multicuts in two applications: 1) a client-server tool for interactive video segmentation: After the pre-processing of the video a user draws strokes on several frames and a time-coherent segmentation of the entire video is performed on-the-fly. 2) we formulate a method for simultaneous segmentation and tracking of living cells in microscopy data. This task is challenging as cells split and our algorithm accounts for this, creating parental hierarchies. We also present results on multiple model fitting. We find models in data heavily corrupted by noise by finding components defining these models using higher order multicuts. We introduce an interesting extension that allows our optimization to pick better hyperparameters for each discovered model. In summary, this thesis extends the multicut problem in different directions, proposes algorithms for optimization, and applies it to novel data and settings.Die Zerlegung von Graphen ist ein sehr wichtiges Konzept im maschinellen Lernen und maschinellen Sehen. Viele Aufgaben wie Bild- und Gittersegmentierung, Kommunitätserkennung in sozialen Netzwerken, sowie Objektverfolgung und Schätzung von menschlichen Posen können als Graphzerlegungsproblem formuliert werden. Der Mehrfachschnitt-Ansatz ist ein populäres Mittel um über die Zerlegungen eines gegebenen Graphen zu optimieren. Sein größter Vorteil ist, dass kein Vorwissen über die Anzahl an Komponenten und deren Größen benötigt wird. Dennoch hat er mehrere ernsthafte Limitierungen, welche wir in dieser Arbeit behandeln: Erstens erlaubt der klassische Mehrfachschnitt nur die Spezifikation von Kosten oder Belohnungen für die Trennung von zwei Nachbarn in verschiedene Komponenten. Dies schränkt die Ausdrucksfähigkeit der Kostenfunktion ein und führt zu suboptimalen Ergebnissen. Wir fügen dem Graphen spezielle Kanten hinzu, welche es erlauben, Kosten oder Belohnungen für die Trennung von beliebigen Paaren von Knoten in verschiedene Komponenten zu definieren, ohne die Menge an zulässigen Lösungen zu verändern. Wir zeigen, dass dies die Qualität von Bild- und Gittersegmentierungen deutlich verbessert. Zweitens ist das Mehrfachschnittproblem berüchtigt dafür NP-schwer für allgemeine Graphen zu sein, was die Anwendungen auf kleine superpixel-basierte Graphen einschränkt. Wir definieren und implementieren zwei primal-zulässige Heuristiken um das Problem zu lösen. Diese geben keine Garantien bezüglich der Laufzeit oder der Qualität der Lösungen, zeigen in der Praxis jedoch gutes Konvergenzverhalten. Wir führen einen ausführlichen Vergleich auf vielen Graphen verschiedener Größen und Eigenschaften durch. Drittens erweitern wir den Mehrfachschnitt-Ansatz um Knoten-Kennzeichnungen, sodass wir gemeinsam über Zerlegungen und Knoten-Klassifikationen mit dem gleichen Optimierungs-Algorithmus optimieren können. Dadurch wird der Bedarf der Feinabstimmung einzelner aufgabenspezifischer Löser aus dem Weg geräumt. Um die Allgemeingültigkeit dieses Ansatzes zu überprüfen, haben wir ihn auf verschiedenen Aufgaben des maschinellen Sehens, einschließlich menschliche Posenschätzung, Mehrobjektverfolgung und instanz-bewusste semantische Segmentierung, angewandt. Wir zeigen, dass wir Resultate von vorherigen Arbeiten mit exakt den gleichen Daten verbessern können. Abschließend benutzen wir Mehrfachschnitte in zwei Anwendungen: 1) Ein Nutzer-Server-Werkzeug für interaktive Video Segmentierung: Nach der Vorbearbeitung eines Videos zeichnet der Nutzer Striche auf mehrere Einzelbilder und eine zeit-kohärente Segmentierung des gesamten Videos wird in Echtzeit berechnet. 2) Wir formulieren eine Methode für simultane Segmentierung und Verfolgung von lebenden Zellen in Mikroskopie-Aufnahmen. Diese Aufgabe ist anspruchsvoll, da Zellen sich aufteilen und unser Algorithmus dies in der Erstellung von Eltern-Hierarchien mitberücksichtigen muss. Wir präsentieren außerdem Resultate zur Mehrmodellanpassung. Wir berechnen Modelle in stark verrauschten Daten indem wir mithilfe von Mehrfachschnitten höherer Ordnung Komponenten finden, die diesen Modellen entsprechen. Wir führen eine interessante Erweiterung ein, die es unserer Optimierung erlaubt, bessere Hyperparameter für jedes entdeckte Modell auszuwählen. Zusammenfassend erweitert diese Arbeit den Mehrfachschnitt-Ansatz in unterschiedlichen Richtungen, schlägt Algorithmen zur Inferenz in den resultierenden Modellen vor und wendet ihn auf neuartigen Daten und Umgebungen an

    High-dimensional-output surrogate models for uncertainty and sensitivity analyses

    Get PDF
    Computational models that describe complex physical phenomena tend to be computationally expensive and time consuming. Partial differential equation (PDE) based models in particular produce spatio-temporal data sets in high dimensional output spaces. Repeated calls of computer models to perform tasks such as sensitivity analysis, uncertainty quantification and design optimization can become computationally infeasible as a result. While constructing an emulator is one solution to approximate the outcome of expensive computer models, it is not always capable of dealing with high-dimensional data sets. To deal with high-dimensional data, in this thesis emulation strategies (Gaussian processes (GPs), artificial neural networks (ANNs) and support vector machines (SVMs)) are combined with linear and non-linear dimensionality reduction techniques (kPCA, Isomap and diffusion maps) to develop efficient emulators. For sensitivity analysis (variance based), a probabilistic framework is developed to account for the emulator uncertainty and the method is extended to multivariate outputs, with a derivation of new semi-analytical results for performing rapid sensitivity analysis of univariate or multivariate outputs. The developed emulators are also used to extend reduced order models (ROMs) based on proper orthogonal decomposition to parameter-dependent PDEs, including an extension of the discrete empirical interpolation method for non-linear problems PDE systems

    The University of Iowa 2020-21 General Catalog

    Get PDF

    The University of Iowa 2018-19 General Catalog

    Get PDF

    The University of Iowa 2019-20 General Catalog

    Get PDF

    Control and optimization of hybrid systems on Riemannian manifolds

    No full text
    The fundamental motivation for the work in this thesis is the analysis of the optimal control of hybrid systems on Riemannian manifolds using the language of differential geometry. Hybrid systems theory constitutes one of the major frameworks within which one may model and analyze the behaviour of large and complex systems; in particular, the optimal control of hybrid systems has been a focus of research over the last decades resulting in the important generalization of Minimum (Maximum) Principle of classic optimal control to hybrid systems. In the work of Shaikh and Caines (2007) and their predecessors, a formulation for a class of optimal control problems for general hybrid systems with nonlinear dynamics and autonomous or controlled switchings at switching states and times is proposed. In this thesis we extend the framework of Shaikh and Caines (2007) to a general class of hybrid systems defined on Riemannian manifolds. Due to the formulation generality, this class of hybrid systems covers a vast range of practical examples arising in such different areas as mechanical systems, chemical processes, air traffic control systems and cooperative robotic manipulator systems. In this thesis, a formulation for general hybrid systems on differentiable Riemannian manifolds is first presented. In the case of autonomous switchings, switching manifolds are modelled by embedded orientable submanifolds of the ambient state manifold and consequently hybrid optimal control problems are defined for hybrid systems in this general setting. Second, the classic Minimum Principle is extended to the Hybrid Minimum Principle (HMP) yielding the optimality necessary conditions for hybrid systems at the optimal switching states and times. The HMP statement in this thesis is obtained by employing the so-called needle control variation in the control value space. This class of control variations results in state trajectory variations along the nominal state trajectory in the ambient state manifold where the optimality conditions are derived by analyzing the cost function variation with respect to state variations. Third, in order to optimize switching states and times, numerical optimization algorithms (Gradient Geodesic-HMP, Newton Geodesic-HMP) are formulated by employing the HMP equations on general Riemannian state manifolds. The convergence analysis for the proposed algorithms is based upon the LaSalle Invariance Theorem. Technically these algorithms generalize the standard steepest descent and Newton methods in Euclidean spaces to Reimannian manifolds by employing the notion of Levi-Civita connections. Fourth, the derivation of the HMP results for hybrid systems on Riemannian manifolds is carried out for hybrid systems on Lie groups. The group structure of the ambient state manifold gives rise to a special form for the adjoint processes and Hamiltonian functions as the solutions for the optimality equations. In this thesis hybrid optimal control problems on Lie groups are only considered for the class of left invariant systems, however, the analysis can be easily modified to right invariant systems. In the setting of left invariant hybrid systems on Lie groups, the Gradient Geodesic-HMP and Newton Geodesic-HMP algorithm are modified into algorithms called the Gradient Exponential-HMP and Newton Exponential-HMP algorithms. The fifth and last part of the thesis focuses on the problem of optimization of autonomous hybrid optimal control problems with respect to the geometrical features of switching manifolds. Such features include first order and second order information on the switching manifolds such as curvature tensors and normal differential forms.La motivation première du travail accompli dans cette thèse est l'analyse du contrôle optimal de systèmes hybrides sur les variétés riemanniennes en utilisant le language de la géométrie differentielle. La théorie des systèmes hybrides constitue un des cadres majeurs dans lequel on peut modeler et analyser le comportement de systèmes grands et complexes; en particulier, le contrôle optimal de systèmes hybrides a été le centre d'intérêt des recherches dans les décennies précédentes ayant comme résultat une importante généralisation du Principe Minimum (Maximum) du contrôle optimal classique aux systèmes hybrides.Le travail de Shaikh et Caines (2007) et leurs prédécesseurs propose une formule pour une classe de problèmes de contrôle optimal pour les systèmes hybrides généraux avec des dynamiques non linéaires et autonomes ou des commutations contrôlées aux états et temps de commutation. Cette thèse élargit le cadre de Shaikh et Caines (2007) à une classe générale de systèmes hybrides définis sur les variétés riemanniennes. En raison de la nature générale de la formulation, cette classe de systèmes hybrides couvre un vaste éventail d'exemples pratiques survenant dans différents domaines tels que les systèmes mécaniques, les procédés chimiques, le contrôle des systèmes de navigation aérienne, ainsi que les systèmes de manipulation de la robotique coopérative. Premièrement, cette thèse présente une formulation pour le cas des systèmes hybrides généraux sur les variétés riemaniennes différentielles. Dans le cas des commutations autonomes, les variétés de commutation sont modélisées par les sous-variétés prolongées et orientables de la variété d'état ambiante et conséquemment, les problèmes de contrôle optimal hybrides sont définis pour les systèmes hybrides dans ce contexte général. Deuxièmement, le Principe Minimum classique est étendu au Principe Minimum Hybride (HMP), produisant les conditions nécessaires d'optimalité pour les systèmes hybrides aux états et temps optimaux de commutation. L'énoncé du Principe Minimum Hybride (HMP) dans cette thèse est obtenu en utilisant la commande de variation d'aiguille, ainsi nommée, dans l'espace de valeur de contrôle. Cette classe de variation donne des variations de trajectoire au long de la trajectoire d'état nominale dans la variété d'état ambiante. Les conditions d'optimalité sont obtenues en analysant la variation de la fonction de coût en respectant les variations d'état. Finalement, la dernière partie de la thèse met l'accent sur la question d'optimisation des problèmes de contrôle optimal autonomes hybrides en ce qui concerne les caractéristiques géométriques des variétés de commutation. De telles caractéristiques comprennent des informations de premier et de second ordre sur les variétés de commutation telles que les tenseurs de courbures et les formes différentielles normales
    corecore