Decoupling Multivariate Polynomials Using First-Order Information

We present a method to decompose a set of multivariate real polynomials into linear combinations of univariate polynomials in linear forms of the input variables. The method proceeds by collecting the first-order information of the polynomials in a set of operating points, which is captured by the Jacobian matrix evaluated at the operating points. The polyadic canonical decomposition of the three-way tensor of Jacobian matrices directly returns the unknown linear relations, as well as the necessary information to reconstruct the univariate polynomials. The conditions under which this decoupling procedure works are discussed, and the method is illustrated on several numerical examples

Unfolding Latent Tree Structures using 4th Order Tensors

Discovering the latent structure from many observed variables is an important yet challenging learning task. Existing approaches for discovering latent structures often require the unknown number of hidden states as an input. In this paper, we propose a quartet based approach which is \emph{agnostic} to this number. The key contribution is a novel rank characterization of the tensor associated with the marginal distribution of a quartet. This characterization allows us to design a \emph{nuclear norm} based test for resolving quartet relations. We then use the quartet test as a subroutine in a divide-and-conquer algorithm for recovering the latent tree structure. Under mild conditions, the algorithm is consistent and its error probability decays exponentially with increasing sample size. We demonstrate that the proposed approach compares favorably to alternatives. In a real world stock dataset, it also discovers meaningful groupings of variables, and produces a model that fits the data better

Numerical Methods for the Best Low Multilinear Rank Approximation of Higher-Order Tensors (Numerieke methoden voor de beste lage multilineaire rang benadering van hogere-orde tensoren)

In multilineaire algebra wordt gewerkt met veralgemeningen van vectoren en matrices, hogere-orde tensoren genoemd. Ze worden gebruikt in vele to epassingen, zoals hogere-orde statistiek, signaalverwerking en wetenscha ppelijke berekeningen. Efficiënte en betrouwbare algoritmes om dez e structuren te manipuleren zijn dus zeer belangrijk. Matrices zijn tweede-orde tensoren die uitgebreid bestudeerd zijn. De ra ng van een matrix is een concept dat goed begrepen is. In het bijz onder is de lage-rang benadering van een matrix essentieel voor verschil lende resultaten en algoritmes. De oplossing voor de lage-rang ben adering is gekend en kan bekomen worden op basis van de getrunceerde sin guliere waarde ontbinding (SWO). De rang van een matrix en de eigenschap pen ervan zijn echter niet gemakkelijk of eenduidig te veralgemenen naar hogere-orde tensoren. De thesis gaat over een veralgemening van de kolom- en rijrang van de ma trix, de multilineaire rang genoemd. De nadruk ligt op de beste la ge multilineaire rang benadering van hogere-orde tensoren. Wanneer een hogere-orde tensor gegeven is, zoeken we een andere tensor, zo dich t mogelijk bij de originele tensor en waarvan de multilineaire rang begr ensd is door vooraf gedefinieerde getallen. Deze benadering wordt gebrui kt voor dimensionaliteitsreductie en de schatting van een signaaldeelrui mte. Hogere-orde veralgemeningen van de SWO bestaan, maar hun truncatie levert een suboptimale oplossing voor het probleem. De verfijning met behulp van iteratieve algoritmes is nodig. De hogere-orde orth ogonale iteratie is een voorbeeld van zo'n algoritme met lineaire conver gentie. Wij zoeken naar conceptueel snellere algoritmes. Standaard optimal isatie algoritmes hebben echter problemen met een ongewenste symmetrie v an de kostfunctie. Er zijn namelijk oneindig veel equivalente oplo ssingen, terwijl numerieke algoritmen goed presteren wanneer de oplossin gen geïsoleerd zijn. Wij verwijderen de symmetrie door te werken op quot ient matrix manifolds, een concept dat bestudeerd is in het domein van o ptimalisatie op manifolds. Wij ontwikkelen drie nieuwe algoritmes, gebas eerd op Newton's methode, op het trust-region schema en op toegevoegde g radiënten. We bespreken ook het probleem van lokale minima en beschouwen een specifieke toepassing van de algoritmes.status: publishe