СЕТИ МАССОВОГО ОБСЛУЖИВАНИЯ ПРОИЗВОЛЬНОЙ ТОПОЛОГИИ С ДЕЛЕНИЕМ И СЛИЯНИЕМ ТРЕБОВАНИЙ: СЛУЧАЙ БЕСКОНЕЧНОПРИБОРНЫХ СИСТЕМ ОБСЛУЖИВАНИЯ

В работе рассматривается класс открытых сетей массового обслужи- вания произвольной топологии, который является развитием классиче- ских fork-join сетей массового обслуживания, используемых в качестве математических моделей стохастических систем с параллельным и рас- пределенным принципом функционирования (GRID-системы, RAID- массивы, MapReduce и т. д.) Системы обслуживания в рассматриваемой сети поделены на три типа в зависимости от их назначения: бесконечноприборные базовые систе- мы, дивайдеры, интеграторы. Наличие бесконечного числа обслужива- ющих приборов в базовых системах позволяет существенно упростить анализ и рассмотреть сети обслуживания с произвольной топологией. Требование, поступающее в дивайдер, делится на некоторое число частей — фрагментов. Полученные фрагменты обслуживаются независимо друг от друга в базовых системах сети, переходят по сети. Каждый из фрагментов может снова поделиться на фрагменты при поступлении в дивайдер. Объединение фрагментов происходит в интеграторах. Так, перед уходом из сети все фрагменты объединяются в одном из интеграторов в исходное требование. Главным результатом работы стал метод получения распределения длительности пребывания требований в изучаемой сети массового обслуживани

Approximations and Bounds for (n, k) Fork-Join Queues: A Linear Transformation Approach

Compared to basic fork-join queues, a job in (n, k) fork-join queues only needs its k out of all n sub-tasks to be finished. Since (n, k) fork-join queues are prevalent in popular distributed systems, erasure coding based cloud storages, and modern network protocols like multipath routing, estimating the sojourn time of such queues is thus critical for the performance measurement and resource plan of computer clusters. However, the estimating keeps to be a well-known open challenge for years, and only rough bounds for a limited range of load factors have been given. In this paper, we developed a closed-form linear transformation technique for jointly-identical random variables: An order statistic can be represented by a linear combination of maxima. This brand-new technique is then used to transform the sojourn time of non-purging (n, k) fork-join queues into a linear combination of the sojourn times of basic (k, k), (k+1, k+1), ..., (n, n) fork-join queues. Consequently, existing approximations for basic fork-join queues can be bridged to the approximations for non-purging (n, k) fork-join queues. The uncovered approximations are then used to improve the upper bounds for purging (n, k) fork-join queues. Simulation experiments show that this linear transformation approach is practiced well for moderate n and relatively large k.Comment: 10 page

Обзор систем параллельной обработки заявок

This paper is the first in a series of two articles devoted to the review of “fork-join” (inthe western classification) queuing systems or systems with the splitting of incoming queries.This system is a natural model for many other real systems. The article describes the fork-joinqueueing model construction and main characteristics of this model. Special attention is paid tomethods of analysis of the response time of the system. Since the exact expression for the meanresponse time is known only for the case of two servers, the article gives a detailed descriptionof the approach to obtaining an accurate expression of this characteristic. For the case whenthe number of servers is more than two, approximations of the mean response time are obtainedby different methods, which is explained by the complexity of the studies due to the existingdependence between the queues of subqueries due to common arrival moments. The paperpresents several methods of approximate analysis: various variants of empirical approximation,i.e. methods that refine the obtained characteristics by using the results of simulation modeling;interpolation methods using system load limit values in cases when the incoming flow and servicetime distributions are not exponential.Данная работа является первой в серии из двух статей, посвящённых обзору систем массового обслуживания вида «fork-join» (в западной классификации) или системам с расщеплением запросов. Указанная система является естественной моделью для многих других реальных систем. В статье описаны особенности построения этой модели и родственных ей систем, основные их характеристики. Отдельное внимание уделяется методам анализа времени отклика системы. Поскольку точное выражение для среднего времени отклика известно только для случая двух приборов, в статье приведено подробное описание подхода к получению точного выражения этой характеристики. Для случая, когда число приборов больше двух, различными методами получены аппроксимации среднего времени отклика,что объясняется сложностью исследований из-за существующей зависимости между очередями под запросов в силу общих моментов поступления. В работе представлено несколько методов приближенного анализа: различные варианты эмпирической аппроксимации, т.е. методы, уточняющие полученные характеристики благодаря использованию результатов имитационного моделирования; интерполяция с помощью предельных значений загрузки системы в случаях с отличными от экспоненциального распределениями для входящего потока и времени обслуживания

Обзор систем параллельной обработки заявок. Часть II

This paper is a continuation of the survey of the “fork-join” queuing systems (in the westernclassification) or the systems with splitting of queries. Interest in such systems is explainedby a wide range of problems that can be solved with their help, since in fact it is a matter ofparallel processing of data and their applications. For example, this may concern the analysis ofdisk arrays, cloud computing, high-performance services and even the process of picking ordersin a warehouse. In the first part of the survey, the main features of the described model (andrelated systems) and its construction were introduced. Also the detailed description of theapproach to obtaining an accurate expression of the average response time in the case of twodevices was presented as well as several methods of approximate analysis of this characteristic(the case when the number of devices is more than two). This part of the survey is devotedto the description of other existing methods for approximating the average response time. Inparticular, the approaches of the approximate analysis of the response time are as follows: thematrix-geometric method, the analysis with the help of order statistics for various types ofdistribution of the service time of subqueries.Данная работа является продолжением обзора методов исследования системы массовогообслуживания вида «fork-join» (в западной классификации) или системы с расщеплениемзапросов. Интерес к рассматриваемой системе объясняется широким спектром задач, которые могут быть решены с её помощью, поскольку фактически речь идёт о параллельнойобработке данных и их приложениях. К примеру, это может касаться анализа работы дисковых массивов, облачных вычислений, высокопроизводительных сервисов и даже процессакомплектации заказов на складе. Если в первой части обзора были описаны особенностипостроения данной модели и родственных ей систем, а также приведено подробное описание подхода к получению точного выражения среднего времени отклика в случае двухприборов и представлено несколько методов приближенного анализа данной характеристики в случае, когда число приборов больше двух, то во второй части обзора представленоописание других существующих методов аппроксимации среднего времени отклика. В частности, к рассматриваемым подходам приближенного анализа времени отклика относятся:матрично-геометрический метод, анализ с помощью порядковых статистик для различныхтипов распределения времени пребывания подзапросов

Характеристики производительности системы массового обслуживания с расщеплением запросов

Objectives. The problem of investigating a fork-join queuing system is considered. It is required to build the process of the system functioning, to find the condition for the existence of a stationary distribution, and propose algorithms for calculating the stationary distribution and the main stationary performance characteristics. The special interest of the study is to obtain the lower and upper bounds of the mean sojourn time of a customer in the system.Methods. Methods of probability theory, queuing theory and matrix theory are used.Results. The functioning of the system is described in terms of a multidimensional Markov chain. A constructive condition for the existence of a stationary distribution is found, and algorithms for calculating the stationary distribution and stationary performance characteristics of the system are proposed. Analytical expressions are obtained for the lower and upper bounds of the mean sojourn time of customers in the system.Conclusion. The functioning of the fork-join queuing system with a stationary Poisson flow has been studied. Each of the arriving customers forks into two tasks that go to two subsystems, each of which consists of a server and a buffer. We assume that the buffer to one of the servers is unlimited, and to the second server has a finite volume. Service times have, generally speaking, different phase distributions (PH-Phase type distributions). For this system, a condition for the existence of a stationary distribution is obtained, algorithms for calculating the stationary distribution and a number of stationary performance measures of the system are proposed. Analytical expressions for the lower and upper bounds of the mean sojourn time of a customer in the system from the moment it enters the system to the moment of synchronization, which is a critical performance indicator of the fork-join queues, are obtained. The results of the study can be used for modeling various computer and communication systems, in particular, systems that perform parallel computing, customer processing in distributed databases, and parallel disk access.Цели. Рассматривается задача построения и исследования математической модели стохастической системы с расщеплением и сборкой запросов. Требуется построить процесс функционирования системы, найти условие существования стационарного распределения, предложить алгоритмы его вычисления и основных стационарных характеристик производительности системы. Особый интерес вызывает задача получения нижней и верхней границ математического ожидания времени пребывания запроса в системе.Методы. Используются методы теории вероятностей, теории массового обслуживания и теории матриц.Результаты. Функционирование системы описано в терминах многомерной цепи Маркова. Найдено конструктивное условие существования стационарного распределения, предложены алгоритмы его вычисления и стационарных характеристик производительности системы. Получены аналитические выражения для нижней и верхней границ математического ожидания времени пребывания запросов в системе.Заключение. Исследован стационарный режим функционирования системы массового обслуживания с расщеплением и сборкой запросов, поступающих в систему в стационарном пуассоновском потоке. Каждый из поступающих запросов расщепляется на два задания, которые идут в две подсистемы, состоящие из обслуживающего прибора и буфера. Времена обслуживания заданий имеют разные фазовые распределения (PH-Phase type distributions). Для данной системы найдено условие существования стационарного распределения, предложены алгоритмы вычисления стационарного распределения и ряда стационарных характеристик производительности системы. Получены аналитические выражения для нижней и верхней границ математического ожидания времени пребывания запроса в системе от момента его поступления в систему до момента синхронизации, которое является критическим показателем производительности системы с расщеплением и сборкой запросов

A Taylor Series Approach for Service-Coupled Queueing Systems with Intermediate Load

This paper investigates the performance of a queueing model with multiple finite queues and a single server. Departures from the queues are synchronised or coupled which means that a service completion leads to a departure in every queue and that service is temporarily interrupted whenever any of the queues is empty. We focus on the numerical analysis of this queueing model in a Markovian setting: the arrivals in the different queues constitute Poisson processes and the service times are exponentially distributed. Taking into account the state space explosion problem associated with multidimensional Markov processes, we calculate the terms in the series expansion in the service rate of the stationary distribution of the Markov chain as well as various performance measures when the system is (i) overloaded and (ii) under intermediate load. Our numerical results reveal that, by calculating the series expansions of performance measures around a few service rates, we get accurate estimates of various performance measures once the load is above 40% to 50%