Value and energy aware adaptive resource allocation of soft real-time jobs on many-core HPC data centers

Modern high performance computing (HPC) data centers consume huge energy to operate them. Therefore, appropriate measures are required to reduce their energy consumption. Existing efforts for such measures focus on consolidation and dynamic voltage and frequency scaling (DVFS). However, most of them do not perform adaptive resource allocation for the executing dependent tasks (or jobs) in order to optimize both value and energy. The value is achieved by completing the execution of a job and it depends on the completion time. A high value is achieved if the job is completed before its deadline, otherwise a lower value. In this paper, we propose an adaptive resource allocation approach that uses design-time profiling results of jobs for efficient allocation and adaptation in order to optimize both value and energy while executing dependent tasks. The profiling results for each job are obtained by exploiting efficient allocation combined with identification of voltage/frequency levels of used system cores and used in adapting to different number of cores based on the monitored execution progress of the job and available cores. Experiments show that the proposed approach enhances the overall value by about 10% when compare to existing approaches while showing reduction in energy consumption and percentage of rejected jobs leading to zero value

Planificación de sistemas de tiempo real

La presente línea de investigación se inscribe en la temática de Sistemas de Tiempo Real, profundizando sobre dos aspectos claves: planificación de tareas y latencia de los sistemas. Se utilizarán herramientas de simulación y sistemas reales. Una vez obtenidas posibles mejoras, se implementarán en algún Sistema Operativo de Tiempo Real (SOTR). Se debe tener en cuenta que la planificación impacta en todo el sistema con lo que surgen problemas tales como inversión de prioridades, lo cual también es tema de este trabajo.Eje: Procesamiento de señales y sistemas en tiempo realRed de Universidades con Carreras en Informática (RedUNCI

Planificación de sistemas de tiempo real

La presente línea de investigación se inscribe en la temática de Sistemas de Tiempo Real, profundizando sobre dos aspectos claves: planificación de tareas y latencia de los sistemas. Se utilizarán herramientas de simulación y sistemas reales. Una vez obtenidas posibles mejoras, se implementarán en algún Sistema Operativo de Tiempo Real (SOTR). Se debe tener en cuenta que la planificación impacta en todo el sistema con lo que surgen problemas tales como inversión de prioridades, lo cual también es tema de este trabajo.Eje: Procesamiento de señales y sistemas en tiempo realRed de Universidades con Carreras en Informática (RedUNCI

Planificación de sistemas de tiempo real

La presente línea de investigación se inscribe en la temática de Sistemas de Tiempo Real, profundizando sobre dos aspectos claves: planificación de tareas y latencia de los sistemas. Se utilizarán herramientas de simulación y sistemas reales. Una vez obtenidas posibles mejoras, se implementarán en algún Sistema Operativo de Tiempo Real (SOTR). Se debe tener en cuenta que la planificación impacta en todo el sistema con lo que surgen problemas tales como inversión de prioridades, lo cual también es tema de este trabajo.Eje: Procesamiento de señales y sistemas en tiempo realRed de Universidades con Carreras en Informática (RedUNCI

Planificación de sistemas de tiempo real

La presente línea de investigación se inscribe en la temática de Sistemas de Tiempo Real, profundizando sobre dos aspectos claves: planificación de tareas y latencia de los sistemas. Se utilizarán herramientas de simulación y sistemas reales. Una vez obtenidas posibles mejoras, se implementarán en algún Sistema Operativo de Tiempo Real (SOTR). Se debe tener en cuenta que la planificación impacta en todo el sistema con lo que surgen problemas tales como inversión de prioridades, lo cual también es tema de este trabajo.Eje: Procesamiento de señales y sistemas en tiempo rea

Value-based scheduling in real-time systems

A real-time system must execute functionally correct computations in a timely manner. Most of the current real-time systems are static in nature. However in recent years, the growing need for building complex real-time applications coupled with advancements in information technology drives the need for dynamic real-time systems. Dynamic real-time systems need to be designed not only to deal with expected load scenarios, but also to handle overloads by allowing graceful degradation in system performance. Value-based scheduling is a means by which graceful degradation can be achieved by executing critical tasks that offer high values/benefits/rewards to the functioning of the system. This thesis identifies the following two issues in dynamic real-time scheduling: (i) maintaining high system reliability without affecting its schedulability and (ii) providing graceful degradation to the system during overload and maintaining high schedulability during underloads or near full loads. Further, we use value-based scheduling techniques to address these issues. The first contribution of this thesis is a reliability-aware value-based scheduler capable of maintaining high system reliability and schedulability. We use a performance index (PI) based value function for scheduling, which can capture the tradeoff between schedulability and reliability. The proposed scheduler selects a suitable redundancy level for each task so as to increase the performance index of the system. We show through our simulation studies that proposed scheduler maintains a high system value (PI). The second contribution of this thesis is an adaptive value-based scheduler that can change its scheduling behavior from deadline-based scheduling to value-based scheduling based on the system workload, so that it can maintain a high system value with fewer deadline misses. Further, the scheduler is extended to heterogeneous computing (HC) systems, wherein the computing capabilities of processors/machines are different, and propose two adaptive schedulers (Basic and Integrated) for HC systems. The performance of the proposed scheduling algorithms is studied through extensive simulation studies for both homogeneous and heterogeneous computing systems. We have concluded that the proposed adaptive scheduling scheme maintains a high system value with fewer deadlines misses for all range workloads. Amongst the schedulers for HC systems, we conclude that the Basic scheduler, which has a lesser run-time complexity, performs better for most of the workloads. The last contribution of this thesis is the design and implementation of the proposed adaptive value-based scheduler for homogeneous computing systems in a real-time Linux operating system, RT-Linux. We compare the performance of the implementation with EDF and Highest Value-Density First (HVDF) schedulers for various ranges of workloads and show that the proposed scheduler performs better in maintaining a high system value with fewer deadline misses

Market-inspired Dynamic Resource Allocation in Many-core High Performance Computing Systems

Many-core systems are envisioned to fulfill the increased performance demands in several computing domains such as embedded and high performance computing (HPC). The HPC systems are often overloaded to execute a number of dynamically arriving jobs. In overload situations, market-inspired resource allocation heuristics have been found to provide better results in terms of overall profit (value) earned by completing the execution of a number of jobs when compared to various other heuristics. However, the conventional market-inspired heuristics lack the concept of holding low value executing jobs to free the occupied resources to be used by high value arrived jobs in order to maximize the overall profit. In this paper, we propose a market-inspired heuristic that accomplish the aforementioned concept and utilizes design-time profiling results of jobs to facilitate efficient allocation. Additionally, the remaining executions of the held jobs are performed on freed resources at later stages to make some profit out of them. The holding process identifies the appropriate jobs to be put on hold to free the resources and ensures that the loss incurred due to holding is lower than the profit achieved by high value arrived jobs by using the free resources. Experiments show that the proposed approach achieves 8% higher savings when compared to existing approaches, which can be a significant amount when dealing in the order of millions of dollars

Design Space Exploration and Resource Management of Multi/Many-Core Systems

The increasing demand of processing a higher number of applications and related data on computing platforms has resulted in reliance on multi-/many-core chips as they facilitate parallel processing. However, there is a desire for these platforms to be energy-efficient and reliable, and they need to perform secure computations for the interest of the whole community. This book provides perspectives on the aforementioned aspects from leading researchers in terms of state-of-the-art contributions and upcoming trends

Équilibrage de charge efficace et adaptatif avec contraintes temporelles pour les véhicules connectés

Pour améliorer l'expérience de la mobilité, il est envisagé que des millions de véhicules connectés agissent en tant que mineurs d'informations dans un système distribué massif. Dans ce système, chaque véhicule embarque de multiples capteurs pour acquérir des informations locales de l'environnement. Ces informations sont ensuite transférées vers le Cloud, où elles sont exploitées par des services pour générer une connaissance globale et fréquemment mise à jour de l'environnement. Cette connaissance rend possible une meilleure anticipation des situations futures dans un horizon électronique qui s'étend au-delà de la perception des capteurs embarqués. L’écrasante quantité de données générées par la flotte de véhicules ainsi que le caractère fortement dynamique de l'environnement imposent une optimisation efficace et adaptative du flux de données transférées des véhicules vers le Cloud. Dans cette thèse, nous proposons des éléments de solution à ce problème. D’abord nous posons le cadre du problème initial et des hypothèses que nous nous sommes imposées pour rendre l'étude du problème abordable. Nous proposons de décomposer notre problème dans un modèle multi-échelletemporelle, un modèle classiquement rencontré en recherche opérationnelle. Dans un premier temps, nous modélisons le problème au niveau des véhicules comme un problème d’ordonnancement basé-valeur en nous appuyant sur des concepts de temps-réel souple. Nous évaluons expérimentalement un ensemble d'algorithmes gloutons en-ligne choisis pour leur forte capacité adaptative et leur faible complexité, une caractéristique appropriée pour un contexte embarqué. Nous étendons une méthode de génération aléatoire de scénarios afin d’améliorer la transparence de nos résultats. Nous proposons aussi de réduire un effet de bord dû à la terminaison de la simulation, qui n’affecte pas de manière égale tous les algorithmes, afin d’améliorer la justesse de l’évaluation. Nos résultats pointent vers un biais d’analyse présent dans la littérature, et indiquent qu'un algorithme plus simple que celui précédemment considéré permet de résoudre plus efficacement le problème. Dans un second temps, nous étudions le problème au niveau du Cloud. Il faut trouver un compromis entre maximisation de la richesse globale générée et satisfaction des besoins individuels de chaque service. Nous cherchons un moyen d'abstraire l'expression concrète des besoins des différents services, et contrôler l'influence de chaque service sur le flux de données pour nous prémunir de situations de famines. Nous envisageons une solution de contrôle basémarché, où le pouvoir d'influence est matérialisé par du numéraire, qu'il est pratique d'imaginer comme de la monnaie. Le numéraire est distribué périodiquement aux services et peut être cumulé par un service pour lui permettre d’adapter dynamiquement son pouvoir d’influence avec l’évolution de ses besoins. Les services ont la liberté et la responsabilité de faire bon usage du numéraire pour acquérir les données qu’ils convoitent. L'influence des services sur le flux de données se réalise au travers d'intéractions avec un mécanisme de provision. Pour obtenir un mécanisme qui génère des effets désirables, nous proposons de construire une famille de mécanismes basés sur des concepts similaires à des mécanismes déjà existants dans la littérature. Nous simulons des services intelligents, dont le comportement est obtenu en tirant profit de techniques d’apprentissage par renforcement, pour évaluer les effets obtenus avec le mécanisme de provision. Nos résultats indiquent que le mécanisme NE-WR (No-Exclusion Weighted-Rebate), qui est simple et où la contribution de chaque service est libre, est un bon candidat. Ce mécanisme permet d’obtenir un bon compromis entre la richesse globale générée par l’ensemble des services et la satisfaction des besoins individuels, tout en permettant à chaque service d’influencer le flux de données dans une juste mesure

Dynamic Value-Density for Scheduling Real-Time Systems

Scheduling decisions in time-critical systems are very difficult, due to the vast number of systems' parameters and tasks' attributes involved in such decisions. Value-based scheduling heuristics have been found to experience a more graceful degradation under overload situations than various other heuristics. However, currently existing value-based heuristics utilize the tasks' static attributes, and therefore, they derive fixed scheduling priorities. In this paper, we propose value-based scheduling heuristics that utilize the tasks' dynamic attributes in order to enhance the overall system's performance under normal operating loads and to reduce performance degradation under overload situations