Parallel evolutionary algorithms for scheduling on heterogeneous computing and grid environments

This thesis studies the application of sequential and parallel evolutionary algorithms to the scheduling problem in heterogeneous computing and grid environments, a key problem when executing tasks in distributed computing systems. Since the 1990's, this class of systems has been increasingly employed to provide support for solving complex problems using high-performance computing techniques. The scheduling problem in heterogeneous computing systems is an NP-hard optimization problem, which has been tackled using several optimization methods in the past. Among many new techniques for optimization, evolutionary computing methods have been successfully applied to this class of problems. In this work, several evolutionary algorithms in their sequential and parallel variants are specically designed to provide accurate solutions for the problem, allowing to compute an eficient planning for heterogeneous computing and grid environments. New problem instances, far more complex than those existing in the related literature, are introduced in this thesis in order to study the scalability of the presented parallel evolutionary algorithms. In addition, a new parallel micro-CHC algorithm is developed, inspired by useful ideas from the multiobjective optimization field. Eficient numerical results of this algorithm are reported in the experimental analysis performed on both well-known problem instances and the large instances specially designed in this work. The comparative study including traditional methods and evolutionary algorithms shows that the new parallel micro-CHC is able to achieve a high problem solving eficacy, outperforming previous results already reported for the problem and also having a good scalability behavior when solving high dimension problem instances.In addition, two variants of the scheduling problem in heterogeneous environments are also tackled, showing the versatility of the proposed approach using parallel evolutionary algorithms to deal with both dynamic and multi-objective scenarios.Esta tesis estudia la aplicación de algoritmos evolutivos secuenciales y paralelos para el problema de planicación de tareas en entornos de cómputo heterogéneos y de computación grid. Desde la década de 1990, estos sistemas computacionales han sido utilizados con éxito para resolver problemas complejos utilizando técnicas de computación de alto desempeo. El problema de planificación de tareas en entornos heterogéneos es un problema de optimización NP-difícil que ha sido abordado utilizando diversas técnicas. Entre las técnicas emergentes para optimización combinatoria, los algoritmos evolutivos han sido aplicados con éxito a esta clase de problemas. En este trabajo, varios algoritmos evolutivos en sus versiones secuenciales y paralelas han sido especificamente diseados para alcanzar soluciones precisas para el problema de planicación de tareas en entornos de heterogéneos, permitiendo calcular planificaciones eficientes para entornos que modelan clusters de computadores y plataformas de computación grid. Nuevas instancias del problema, con una complejidad mucho mayor que las previamente existentes en la literatura relacionada, son presentadas en esta tesis con el objetivo de analizar la escalabilidad de los algoritmos evolutivos propuestos. Complementariamente, un nuevo método, el micro-CHC paralelo es desarrollado, inspirado en ideas ítiles provenientes del área de optimización multiobjetivo. Resultados numéricos precisos y eficientes se reportan en el análisis experimental realizado sobre instancias estándar del problema y sobre las nuevas instancias especificamente diseñadas en este trabajo.El estudio comparativo que incluye a métodos tradicionales para planificación de tareas, los nuevos métodos propuestos y algoritmos evolutivos previamente aplicados al problema, demuestra que el nuevo micro-CHC paralelo es capaz de alcanzar altos valores de eficacia, superando a los mejores resultados previamente reportados en la literatura del área y mostrando un buen comportamiento de escalabilidad para resolver las instancias de gran dimensión. Además, dos variantes del problema de planificación de tareas en entornos heterogéneos han sido inicialmente estudiadas, comprobándose la versatilidad del enfoque propuesto para resolver las variantes dinámica y multiobjetivo del problema

A simple genetic algorithm for a minimal overlapping scheduling problem

This article introduces a new version of the Multiple Machine Scheduling Problem: the Scheduling Problem with Time Windows and Minimal Overlap (SPTWMO). Given a set of nonpreemptive jobs with time windows and a number of identical machines, the problem consists on finding a starting time for each job which satisfies time window constraints while minimizing a measure of resource infeasibility (the Total Overlap). The problem is NP-Complete even in the case when only one machine is considered. We present a simple genetic algorithm applied to the SPTWMO, reporting efficient numerical results according to lower bounds obtained solving the preemptive version of the problem.Eje: V - Workshop de agentes y sistemas inteligentesRed de Universidades con Carreras en Informática (RedUNCI

Una versión paralela del algoritmo evolutivo para optimización multiobjetivo NSGA-II

Este trabajo presenta una versión paralela del algoritmo evolutivo para optimización multiobjetivo NSGA-II (Non-dominated Sorting Genetic Algorithm, versión II), original de Deb, Agrawal, Pratab y Meyarivan (2000). Se introducen los detalles de diseño e implementación de una versión paralela basada en subpoblaciones semi-independientes y se analiza la calidad de resultados y la eficiencia computacional, comparando con los resultados y tiempos de ejecución de la versión secuencial del algoritmo NSGA-II sobre un conjunto de problemas de prueba estándar.Eje: V - Workshop de agentes y sistemas inteligentesRed de Universidades con Carreras en Informática (RedUNCI

Recovering historical climate records using artificial neural networks in GPU

This article presents a parallel implementation of Artificial Neural Networks over Graphic Processing Units, and its application for recovering his-torical climate records from the Digi-Clima project. Several strategies are intro-duced to handle large volumes of historical pluviometer records, and the paral-lel deployment is described. The experimental evaluation demonstrates that the proposed approach is useful for recovering the climate information, achieving classification rates up to 76% for a set of real images from the Digi-Clima pro-ject. The parallel algorithm allows reducing the execution times, with an accel-eration factor of up to 2.15×

Evaluating simple metaheuristics for the generalized steiner problem

This article presents the empirical evaluation of several simple metaheuristics applied to solve the Generalized Steiner Problem (GSP). This problem models the design of high-reliability communication networks, demanding a variable number of independent paths linking each pair of terminal nodes. GSP solutions are built using intermediate nodes for guaranteeing path redundancy, while trying to minimize the design total cost. The GSP is a NP-hard problem, and few algorithms have been proposed to solve it. In this work, we present the resolution of several GSP instances whose optimal solutions are known, using metaheuristic techniques. The comparative analysis shows promising results for some of the studied techniquesFacultad de Informátic

Evaluando la calidad de metaheurísticas simples para el problema de Steiner generalizado

Este trabajo presenta la evaluación empírica de la calidad de resultados obtenidos por técnicas metaheurísticas simples para la resolución del problema de Steiner generalizado (GSP). Este problema modela el diseño de redes de comunicaciones de alta confiabilidad topológica exigiendo la existencia de un número variable de caminos disjuntos entre cada par de nodos terminales de comunicación. La solución del GSP se construye utilizando nodos intermedios para asegurar la redundancia de caminos, y tratando de minimizar el costo total. Se trata de un problema NP-difícil, para el que existen pocos algoritmos propuestos. Este trabajo presenta la resolución de instancias del GSP cuyas soluciones óptimas son conocidas, utilizando diferentes técnicas metaheurísticas simples codificadas sobre MALLBA, una biblioteca de propósito general para optimización combinatoria. Se compara la calidad de los resultados obtenidos por los diferentes algoritmos, reportándose promisorios resultados para algunas de las técnicas estudiadasEje: VI Workshop de Agentes y Sistemas Inteligentes (WASI)Red de Universidades con Carreras en Informática (RedUNCI

Una versión paralela del algoritmo evolutivo para optimización multiobjetivo NSGA-II

Este trabajo presenta una versión paralela del algoritmo evolutivo para optimización multiobjetivo NSGA-II (Non-dominated Sorting Genetic Algorithm, versión II), original de Deb, Agrawal, Pratab y Meyarivan (2000). Se introducen los detalles de diseño e implementación de una versión paralela basada en subpoblaciones semi-independientes y se analiza la calidad de resultados y la eficiencia computacional, comparando con los resultados y tiempos de ejecución de la versión secuencial del algoritmo NSGA-II sobre un conjunto de problemas de prueba estándar.Eje: V - Workshop de agentes y sistemas inteligentesRed de Universidades con Carreras en Informática (RedUNCI

Evaluando la calidad de metaheurísticas simples para el problema de Steiner generalizado

Este trabajo presenta la evaluación empírica de la calidad de resultados obtenidos por técnicas metaheurísticas simples para la resolución del problema de Steiner generalizado (GSP). Este problema modela el diseño de redes de comunicaciones de alta confiabilidad topológica exigiendo la existencia de un número variable de caminos disjuntos entre cada par de nodos terminales de comunicación. La solución del GSP se construye utilizando nodos intermedios para asegurar la redundancia de caminos, y tratando de minimizar el costo total. Se trata de un problema NP-difícil, para el que existen pocos algoritmos propuestos. Este trabajo presenta la resolución de instancias del GSP cuyas soluciones óptimas son conocidas, utilizando diferentes técnicas metaheurísticas simples codificadas sobre MALLBA, una biblioteca de propósito general para optimización combinatoria. Se compara la calidad de los resultados obtenidos por los diferentes algoritmos, reportándose promisorios resultados para algunas de las técnicas estudiadasEje: VI Workshop de Agentes y Sistemas Inteligentes (WASI)Red de Universidades con Carreras en Informática (RedUNCI

Métodos cuasi Monte Carlo

Los métodos cuasi Monte Carlo constituyen una alternativa al método Monte Carlo tradicional para alcanzar resultados aproximados a problemas numéricos utilizando técnicas estadísticas. Este documento presenta conceptos básicos sobre los métodos cuasi Monte Carlo. Se analizan los principales aspectos teóricos involucrados en la definición del método, las formulaciones para el error cometido por el método y se presenta el análisis de dos trabajos que aplican técnicas estadísticas útiles en la práctica para obtener estimaciones del error

Including accurate user estimates in HPC schedulers: ban empirical analysis

This article focuses on the problem of dealing with low accuracy of job runtime estimates provided by users of high performance computing systems. The main goal of the study is to evaluate the benefits on the system utilization of providing accurate estimations, in order to motivate users to make an effort to provide better estimates. We propose the Penalty Scheduling Policy for including information about user estimates. The experimental evaluation is performed over realistic workload and scenarios, and validated by the use of a job scheduler simulator. We simulated different static and dynamic scenarios, which emulate diverse user behavior regarding the estimation of jobs runtime. Results demonstrate that the accuracy of users runtime estimates influences the waiting time of jobs. Under our proposed policy, in a scenario where users improve their estimates, waiting time of users with high accuracy can be up to 2.43 times lower than users with the lowest accuracy.XV Workshop de Procesamiento Distribuido y Paralelo (WPDP)Red de Universidades con Carreras en Informática (RedUNCI