HPC algorithms for nonnegative decompositions

Muchos problemas procedentes de aplicaciones del mundo real pueden ser modelados como problemas matemáticos con magnitudes no negativas, y por tanto, las soluciones de estos problemas matemáticos solo tienen sentido si son no negativas. Estas magnitudes no negativas pueden ser, por ejemplo, las frecuencias en una señal sonora, las intensidades de los pixeles de una imagen, etc. Algunos de estos problemas pueden ser modelados utilizando un sistema de ecuaciones lineales sobredeterminado. Cuando la solución de dicho problema debe ser restringida a valores no negativos, aparece un problema llamado problema de mínimos cuadrados no negativos (NNLS por sus siglas en inglés). La solución de dicho problema tiene múltiples aplicaciones en ciencia e ingeniería. Otra descomposición no negativa importante es la Factorización de Matrices No negativas (NMF por sus siglas en inglés). La NMF es una herramienta muy popular utilizada en varios campos, como por ejemplo: clasificación de documentos, aprendizaje automático, análisis de imagen o separación de señales sonoras. Esta factorización intenta aproximar una matriz no negativa con el producto de dos matrices no negativas de menor tamaño, creando habitualmente representaciones por partes de los datos originales. Los algoritmos diseñados para calcular la solución de estos dos problemas no negativos tienen un elevado coste computacional, y debido a ese elevado coste, estas descomposiciones pueden beneficiarse mucho del uso de técnicas de Computación de Altas Prestaciones (HPC por sus siglas en inglés). Estos sistemas computacionales de altas prestaciones incluyen desde los modernos computadores multinucleo a lo último en aceleradores de calculo (Unidades de Procesamiento Gráfico (GPU), Intel Many Integrated Core (MIC), etc.). Para obtener el máximo rendimiento de estos sistemas, los desarrolladores deben utilizar tecnologías software tales como la programación paralela, la vectoración o el uso de librerías de computación altas prestaciones. A pesar de que existen diversos algoritmos para calcular la NMF y resolver el problema NNLS, no todos ellos disponen de una implementación paralela y eficiente. Además, es muy interesante reunir diversos algoritmos con propiedades diferentes en una sola librería computacional. Esta tesis presenta una librería computacional de altas prestaciones que contiene implementaciones paralelas y eficientes de los mejores algoritmos existentes actualmente para calcular la NMF. Además la tesis también incluye una comparación experimental entre las diferentes implementaciones presentadas. Esta librería centrada en el cálculo de la NMF soporta múltiples arquitecturas tales como CPUs multinucleo, GPUs e Intel MIC. El objetivo de esta librería es ofrecer un abanico de algoritmos eficientes para ayudar a científicos, ingenieros o cualquier tipo de profesionales que necesitan hacer uso de la NMF. Otro problema abordado en esta tesis es la actualización de las factorizaciones no negativas. El problema de la actualización se ha estudiado tanto para la solución del problema NNLS como para el calculo de la NMF. Existen problemas no negativos cuya solución es próxima a otros problemas que ya han sido resueltos, el problema de la actualización consiste en aprovechar la solución de un problema A que ya ha sido resuelto, para obtener la solución de un problema B cercano al problema A. Utilizando esta aproximación, el problema B puede ser resuelto más rápido que si se tuviera que resolver sin aprovechar la solución conocida del problema A. En esta tesis se presenta una metodología algorítmica para resolver ambos problemas de actualización: la actualización de la solución del problema NNLS y la actualización de la NMF. Además se presentan evaluaciones empíricas de las soluciones presentadas para ambos problemas. Los resultados de estas evaluaciones muestran que los algoritmos propuestos son más rápidos que resoMolts problemes procedents de aplicacions del mon real poden ser modelats com problemes matemàtics en magnituts no negatives, i per tant, les solucions de estos problemes matemàtics només tenen sentit si son no negatives. Estes magnituts no negatives poden ser, per eixemple, la concentració dels elements en un compost químic, les freqüències en una senyal sonora, les intensitats dels pixels de una image, etc. Alguns d'estos problemes poden ser modelats utilisant un sistema d'equacions llineals sobredeterminat. Quant la solució de este problema deu ser restringida a valors no negatius, apareix un problema nomenat problema de mínims quadrats no negatius (NNLS per les seues sigles en anglés). La solució de este problema te múltiples aplicacions en ciències i ingenieria. Un atra descomposició no negativa important es la Factorisació de Matrius No negatives(NMF per les seues sigles en anglés). La NMF es una ferramenta molt popular utilisada en diversos camps, com per eixemple: classificacio de documents, aprenentage automàtic, anàlisis de image o separació de senyals sonores. Esta factorisació intenta aproximar una matriu no negativa en el producte de dos matrius no negatives de menor tamany, creant habitualment representacions a parts de les dades originals. Els algoritmes dissenyats per a calcular la solució de estos dos problemes no negatius tenen un elevat cost computacional, i degut a este elevat cost, estes descomposicions poden beneficiar-se molt del us de tècniques de Computació de Altes Prestacions (HPC per les seues sigles en anglés). Estos sistemes de computació de altes prestacions inclouen des dels moderns computadors multinucli a lo últim en acceleradors de càlcul (Unitats de Processament Gràfic (GPU), Intel Many Core (MIC), etc.). Per a obtindre el màxim rendiment de estos sistemes, els desenrolladors deuen utilisar tecnologies software tals com la programació paralela, la vectorisació o el us de llibreries de computació de altes prestacions. A pesar de que existixen diversos algoritmes per a calcular la NMF i resoldre el problema NNLS, no tots ells disponen de una implementació paralela i eficient. Ademés, es molt interessant reunir diversos algoritmes en propietats diferents en una sola llibreria computacional. Esta tesis presenta una llibreria computacional de altes prestacions que conté implementacions paraleles i eficients dels millors algoritmes existents per a calcular la NMF. Ademés, la tesis també inclou una comparació experimental entre les diferents implementacions presentades. Esta llibreria centrada en el càlcul de la NMF soporta diverses arquitectures tals com CPUs multinucli, GPUs i Intel MIC. El objectiu de esta llibreria es oferir una varietat de algoritmes eficients per a ajudar a científics, ingeniers o qualsevol tipo de professionals que necessiten utilisar la NMF. Un atre problema abordat en esta tesis es la actualisació de les factorisacions no negatives. El problema de la actualisació se ha estudiat tant per a la solució del problema NNLS com per a el càlcul de la NMF. Existixen problemes no negatius la solució dels quals es pròxima a atres problemes no negatius que ya han sigut resolts, el problema de la actualisació consistix en aprofitar la solució de un problema A que ya ha sigut resolt, per a obtindre la solució de un problema B pròxim al problema A. Utilisant esta aproximació, el problema B pot ser resolt molt mes ràpidament que si tinguera que ser resolt des de 0 sense aprofitar la solució coneguda del problema A. En esta tesis es presenta una metodologia algorítmica per a resoldre els dos problemes de actualisació: la actualisació de la solució del problema NNLS i la actualisació de la NMF. Ademés es presenten evaluacions empíriques de les solucions presentades per als dos problemes. Els resultats de estes evaluacions mostren que els algoritmes proposts son més ràpits que resoldre el problema des de 0 en tots elsMany real world-problems can be modelled as mathematical problems with nonnegative magnitudes, and, therefore, the solutions of these problems are meaningful only if their values are nonnegative. Examples of these nonnegative magnitudes are the concentration of components in a chemical compound, frequencies in an audio signal, pixel intensities on an image, etc. Some of these problems can be modelled to an overdetermined system of linear equations. When the solution of this system of equations should be constrained to nonnegative values, a new problem arises. This problem is called the Nonnegative Least Squares (NNLS) problem, and its solution has multiple applications in science and engineering, especially for solving optimization problems with nonnegative restrictions. Another important nonnegativity constrained decomposition is the Nonnegative Matrix Factorization (NMF). The NMF is a very popular tool in many fields such as document clustering, data mining, machine learning, image analysis, chemical analysis, and audio source separation. This factorization tries to approximate a nonnegative data matrix with the product of two smaller nonnegative matrices, usually creating parts based representations of the original data. The algorithms that are designed to compute the solution of these two nonnegative problems have a high computational cost. Due to this high cost, these decompositions can benefit from the extra performance obtained using High Performance Computing (HPC) techniques. Nowadays, there are very powerful computational systems that offer high performance and can be used to solve extremely complex problems in science and engineering. From modern multicore CPUs to the newest computational accelerators (Graphics Processing Units(GPU), Intel Many Integrated Core(MIC), etc.), the performance of these systems keeps increasing continuously. To make the most of the hardware capabilities of these HPC systems, developers should use software technologies such as parallel programming, vectorization, or high performance computing libraries. While there are several algorithms for computing the NMF and for solving the NNLS problem, not all of them have an efficient parallel implementation available. Furthermore, it is very interesting to group several algorithms with different properties into a single computational library. This thesis presents a high-performance computational library with efficient parallel implementations of the best algorithms to compute the NMF in the current state of the art. In addition, an experimental comparison between the different implementations is presented. This library is focused on the computation of the NMF supporting multiple architectures like multicore CPUs, GPUs and Intel MIC. The goal of the library is to offer a full suit of algorithms to help researchers, engineers or professionals that need to use the NMF. Another problem that is dealt with in this thesis is the updating of nonnegative decompositions. The updating problem has been studied for both the solution of the NNLS problem and the NMF. Sometimes there are nonnegative problems that are close to other nonnegative problems that have already been solved. The updating problem tries to take advantage of the solution of a problem A, that has already been solved in order to obtain a solution of a new problem B, which is closely related to problem A. With this approach, problem B can be solved faster than solving it from scratch and not taking advantage of the already known solution of problem A. In this thesis, an algorithmic scheme is proposed for both the updating of the solution of NNLS problems and the updating of the NMF. Empirical evaluations for both updating problems are also presented. The results show that the proposed algorithms are faster than solving the problems from scratch in all of the tested cases.San Juan Sebastián, P. (2018). HPC algorithms for nonnegative decompositions [Tesis doctoral no publicada]. Universitat Politècnica de València. https://doi.org/10.4995/Thesis/10251/11306

Notes on the difficulties in determining the scientific status of criminology

Panorámica de los problemas que tiene enjuiciar a la criminología como ciencia. Se revisan los principales criterios usados normalmente para asignar el rótulo de ‘ciencia’ a una determinada disciplina y se concluye con una propuesta de ordenación de tales criterios

Gipuzkoako Museoak. 2008ko krisia eta krisialdi ondorengo planteamenduak

Honako lan honek John Coppolak idatzitako Never let a crisis go to waste artikulua hartzen du oinarri. Izan ere, John Coppola EEBBetako museoei buruzko ezagutza sakona izanik krisiak museoak berritzera bultzatzen dituen fenomenoa aztertzen du, fenomeno hori bereziki hiru pilareetan banatzen duelarik, batetik hezkuntzaren indartzea erabilera publiko moduan, bestetik teknologien garrantzia geroz eta handiagoa eta azkenik jendearen parte-hartzea. Horrela, John Coppolaren ideia hartuz Gipuzkoako museoen bilakaera eta 2008an, krisiaren ondorioz, izandako hausnarketa momentu batek ekarri ahal izan duen aldaketa aztertu nahi da, hiru pilare hauek zer influentzia izan duten aztertu nahirik, baina baita ere beste batzuk gehituz. Kontuan izan beharra dago John Coppolaren planteamendua EEBBko testuingurua hartzen duela oinarritzat, eta beraz, hori Gipuzkoako lurralde historikoan zehatz-mehatz aplikatzea oso zaila dela. Gainera ez dago oso zehaztua krisiak museoetan izandako eragina eta horregatik, museoen testuinguruko protagonistei eginiko elkarrizketez baliatu izan nahi da honako lan honetarako. Hortaz ere, lan honetatik atera daitezken ondorioak oso azalekoak direla aipatu beharra dago, lan honek ezartzen dituen mugengatik atera daitezkeen emaitzak azaleko edo gainetiko adierazle moduan bakarrik har daitezkeelarik

Diseño e implementación de software paralelo para tratamiento de datos en memoria masiva

[EN] This work focuses on designing and coding an out-of-core algorithm to solve the cholesky decomposition over a multicore machine.[ES] El trabajo se encarga del diseño e implementación de un algoritmo sobre memoria masiva para calcular la descomposición de cholesky en un computador multicoreSan Juan Sebastián, P. (2014). Diseño e implementación de software paralelo para tratamiento de datos en memoria masiva. http://hdl.handle.net/10251/52269Archivo delegad

Gipuzkoako Museoak. 2008ko krisia eta krisialdi ondorengo planteamenduak

Honako lan honek John Coppolak idatzitako Never let a crisis go to waste artikulua hartzen du oinarri. Izan ere, John Coppola EEBBetako museoei buruzko ezagutza sakona izanik krisiak museoak berritzera bultzatzen dituen fenomenoa aztertzen du, fenomeno hori bereziki hiru pilareetan banatzen duelarik, batetik hezkuntzaren indartzea erabilera publiko moduan, bestetik teknologien garrantzia geroz eta handiagoa eta azkenik jendearen parte-hartzea. Horrela, John Coppolaren ideia hartuz Gipuzkoako museoen bilakaera eta 2008an, krisiaren ondorioz, izandako hausnarketa momentu batek ekarri ahal izan duen aldaketa aztertu nahi da, hiru pilare hauek zer influentzia izan duten aztertu nahirik, baina baita ere beste batzuk gehituz. Kontuan izan beharra dago John Coppolaren planteamendua EEBBko testuingurua hartzen duela oinarritzat, eta beraz, hori Gipuzkoako lurralde historikoan zehatz-mehatz aplikatzea oso zaila dela. Gainera ez dago oso zehaztua krisiak museoetan izandako eragina eta horregatik, museoen testuinguruko protagonistei eginiko elkarrizketez baliatu izan nahi da honako lan honetarako. Hortaz ere, lan honetatik atera daitezken ondorioak oso azalekoak direla aipatu beharra dago, lan honek ezartzen dituen mugengatik atera daitezkeen emaitzak azaleko edo gainetiko adierazle moduan bakarrik har daitezkeelarik

Technological intervention in social housing to maximize energy efficiency, applying the energy performance index (IPE). Case Study: Universal Housing, Santa Fe, Argentina

En Argentina existe la norma IRAM 11900 de etiquetado edilicio, y en Santa Fe, la Ley Provincial 13903/19, la cual establece el etiquetado de las viviendas, para lo cual se ha desarrollado un aplicativo informático para poder simular los diseños constructivos aplicados. El presente trabajo tiene como objetivo, determinar la incidencia, en cuanto a eficiencia energética, a partir de la aplicación de diferentes intervenciones tecnológicas sobre la envolvente edilicia y la incorporación de agua caliente sanitaria (ACS), a través de la aplicación del Índice de Prestaciones Energéticas (IPE). Se trabaja sobre la denominada “Solución habitacional de un dormitorio o Vivienda Universal (VU)”, desarrollada por la Dirección Provincial de Vivienda y Urbanismo de la provincia de Santa Fe, construida en la localidad de Cayastá, departamento Garay. Se busca comparar el resultado del IPE, con la situación de diseño “Ex-ante” de manera de poder proponer variables de intervención tecnológica que permitan alcanzar un mejor desempeño energético. Como resultado del análisis del caso base, el IPE del prototipo alcanza un valor de 871 kwh/m2 año. Al incorporar variantes de mejoras en forma progresiva, se logran mejoras hasta del 83%, lo cual representa un ahorro energético significativo.In Argentina, there is the IRAM 11900 standard for building labeling, and in Santa Fe, the Provincial Law 13903/19, which establishes the labeling of homes, for which a computer application has been developed to simulate the appropriate construction designs. The objective of this work is to determine the influence, in terms of energy efficiency, from the application of different technological interventions on the building envelope and the incorporation of sanitary hot water (A.C.S. in spanish), through the application of the Performance Index Energy (I.P.E. in spanish). It works on the so-called "One-bedroom housing solution or Universal Housing (VU)", developed by the Provincial management of Housing and Urbanism of the province of Santa Fe, built in the town of Cayastá, department of Garay. It seeks to compare the result of the IPE, with the "Ex-ante" design situation in order to be able to propose variables of technological intervention that allow achieving a better energy performance. As a result of the base case analysis, the IPE of the prototype reaches a value of 871 kwh/m2year. By incorporating improvement variants progressively, 83% improvements are achieved, which represents significant energy savings.Fil: Puig, Sebastián. Universidad Nacional del Litoral; ArgentinaFil: San Juan, Gustavo Alberto. Universidad Nacional del Litoral; Argentina. Consejo Nacional de Investigaciones Científicas y Técnicas. Centro Científico Tecnológico Conicet - La Plata. Instituto de Investigaciones y Políticas del Ambiente Construido. - Universidad Nacional de La Plata. Instituto de Investigaciones y Políticas del Ambiente Construido; Argentin

Updating/downdating the NonNegative Matrix Factorization

This is the author’s version of a work that was accepted for publication in Journal of Computational and Applied Mathematics. Changes resulting from the publishing process, such as peer review, editing, corrections, structural formatting, and other quality control mechanisms may not be reflected in this document. Changes may have been made to this work since it was submitted for publication. A definitive version was subsequently published in Journal of Computational and Applied Mathematics 318 (2017) 59–68. DOI 10.1016/j.cam.2016.11.048.The Non-Negative Matrix Factorization (NNMF) is a recent numerical tool that, given a nonnegative data matrix, tries to obtain its factorization as the approximate product of two nonnegative matrices. Nowadays, this factorization is being used in many science fields; in some of these fields, real-time computation of the NNMF is required. In some scenarios, all data is not initially available and when new data (as new rows or columns) becomes available the NNMF must be recomputed. Recomputing the whole factorization every time is very costly and not suitable for real time applications. In this paper we propose several algorithms to update the NNMF factorization taking advantage of the previously computed factorizations, with similar error and lower computational cost. © 2016 Elsevier B.V. All rights reserved.This work has been partially supported by EU together with Spanish Government through TEC2015-67387-C4-1-R (MINECO/FEDER), by Generalitat Valenciana through PROMETEOII/2014/003 and by Programa de FPU del Ministerio de Educacion, Cultura y Deporte FPU13/03828 (Spain). We want to thank Dr. Pedro Vera and his team (University of Jaen) for providing us with their music analysis software.San Juan Sebastián, P.; Vidal Maciá, AM.; García Mollá, VM. (2016). Updating/downdating the NonNegative Matrix Factorization. Journal of Computational and Applied Mathematics. 318:59-68. https://doi.org/10.1016/j.cam.2016.11.048S596831

Sistema acumulador/amortiguador térmico solar pasivo para para el acondicionamiento de espacios agro-productivos

El trabajo expone el desarrollo de un sistema acumulador / amortiguador de calor solar industrializado y modular. Se trata de un sistema pasivo versátil, orientado a satisfacer requerimientos de climatización y/o estabilización térmica de espacios de uso productivo. Se muestra el estudio de antecedentes, el proceso de diseño y los prototipos desarrollados, teniendo en cuenta componentes constructivos, geometrías y materialidades. Se presentan los resultados de operación del sistema en un espacio productivo tipo invernadero emplazado en un laboratorio a cielo abierto. Los mismos muestran un comportamiento térmico favorable, registrándose una reducción de la amplitud térmica en el interior del espacio en comparación a la situación del invernadero sin el sistema. Se disminuyeron los picos de calentamiento diurno, se estabilizaron las temperaturas de base durante el período nocturno y se evitó el fenómeno de inversión térmica.This work exposes the development of a solar thermic accumulator / damper system. It is a modular passive system oriented to satisfy requirements of air conditioning and /or thermal stabilization for human / productive use spaces. Background study, design process, prototypes development are shown. Constructive components, geometries and materials are described. The results of performance tests of the system applied in a greenhouse in outdoor laboratory are presented. They showed favorable thermal behavior, registering a reduction in the thermal amplitude within the greenhouse space, in comparison with the reference situation. Diurnal heating peaks were diminished, stabilizing average indoor temperature and nocturnal thermal inversion phenomenon was avoided.Trabajo publicado en Actas de la XL Reunión de Trabajo de la Asociación Argentina de Energías Renovables y Medio Ambiente, vol. 5, 2017.Facultad de Arquitectura y Urbanism