Mobility prediction and resource reservation in cellular networks with distributed Markov chains

Abstract-In recent years, mobile hosts desire to benefit a good level of satisfaction for the received services in wireless networks, with adequate quality of service guarantees. In this work the attention is focused on wireless services in cellular networks, where the hand-over effects need to be mitigated, through an appropriate reservation policy. Passive resources are used to ensure service continuity when mobile hosts are moving among different coverage cells. The system is modeled through a distributed set of Hidden Markov Chains and the related theory is used to design a mobility predictor (in terms of future probably visited cells), as the main component of the proposed idea, that does not depend on the considered transmission technology (GSM, UMTS, WLAN, etc.), mobility model or vehicular scenario (urban, suburban, etc.). MRSVP has been used in order to realize the active/passive bandwidth reservation in the considered network topology and a severe simulation campaign has been led-out in order to appreciate the robustness of the reservation scheme

Моделювання емерджентності за допомогою чотиришарової прихованої марковської моделі

The object of research is the process of selecting a synergistically determined pair for the elements of complex systems in the design, manufacture or repair. One of the most problematic places in the selection is the need to numerically evaluate the result of combining the elements, taking into account the explicit, additive properties of elements and hidden manifestations of the pair that are unusual for the elements alone (emergence). Lack of accounting for emergence can significantly distort the apparent picture of the processes taking place in systems, which makes many existing models of such processes inadequate.During the research, methods of extracting information from arrays known, hidden for direct observation were used. In particular, four-layer hidden Markov models with an additional hidden layer were used. The models were trained by the Baum-Welch method, adapted to work with an additional layer. As training samples used data obtained as a result of statistical processing of information available for object monitoring, expert assessments, as well as data obtained in the world's computer networks.The test of the method and model on real medical and technical objects confirms their clinical and technical effectiveness. In particular, thanks to this in the medical industry:in the medical industry, the incidence of thromboembolism of the branches of the pulmonary artery and deep veins of the thigh and lower leg are decreased by 65 %;frequency of postoperative bleeding is decreased by 43 %;by 36 % the total number of drug-related medicines aimed at correcting the blood coagulation system is decreased.In the technical field, the test results confirm the increase in the service life of rubber-metal shock absorbers by 14.5 %.This is due to the fact that the proposed method has a number of features, in particular, for the first time in its evaluation of emergence a four-layer hidden Markov model is used.The results obtained in the work make it possible to propose a general scheme of an intellectual decision support system in the selection of a synergistically determined pair of elements for complex systems of various purposes.Объектом исследования является процесс подбора синергетически обусловленной пары к элементам сложных систем при проектировании, изготовлении или ремонте. Одним из самых проблемных мест в подборе является необходимость численно оценить результат объединения элементов с учетом явных, аддитивных свойств элементов и скрытых проявлений работы пары, несвойственных элементам в отдельности (эмерджентность). Отсутствие учета эмерджентности может существенно исказить видимую картину процессов, протекающих в системах, что делает многие существующие модели таких процессов неадекватными. В ходе исследования использовались методы извлечения информации из массивов знаний, скрытых для прямого наблюдения. В частности использовали четырехслойные скрытые марковские модели с дополнительным скрытым слоем. Обучение моделей выполняли методом Баума–Велша, адаптированным под работу с дополнительным слоем. В качестве обучающих выборок использовали данные, полученные в результате статистической обработки информации, доступной при наблюдении за объектом, экспертных оценок, а также данные, полученные в мировых компьютерных сетях.Испытание метода и модели на реальных медицинских и технических объектах подтвердили их клиническую и техническую эффективность. В частности, благодаря этому в медицинской отрасли:на 65 % уменьшилось частота возникновения тромбоэмболии ветвей легочной артерии и глубоких вен бедра и голени;на 43 % уменьшилось частота послеоперационных кровотечений;на 36% уменьшилось общее количество назначаемых лекарственных средств, направленных на коррекцию свертывающей системы крови.В технической области результаты испытаний подтвердили увеличение срока эксплуатации резинометаллических амортизаторов на 14,5 %. Это связано с тем, что предложенный метод имеет ряд особенностей, в частности, в нем впервые для оценки эмерджентности применена четырехслойная скрытая марковская модель.Результаты, полученные в работе, позволили предложить общую схему интеллектуальной системы поддержки принятия решения о выборе синергетически обусловленной пары элементов для сложных систем различного назначения.Об'єктом дослідження є процес підбору синергетично обумовленої пари до елементів складних систем при проектуванні, виготовленні або ремонті. Одним з найбільш проблемних місць в підборі є необхідність чисельно оцінити результат об'єднання елементів з урахуванням явних, адитивних властивостей елементів і прихованих проявів роботи пари, невластивих елементам окремо (емерджентність). Відсутність врахування емерджентності може істотно спотворити видиму картину процесів, які протікають в системах, що робить багато існуючих моделей таких процесів неадекватними.В ході дослідження використовували методи добування інформації з масивів знань, прихованих для прямого спостереження. Зокрема використовували чотирьохшарові приховані марковские моделі з додатковим прихованим шаром. Навчання моделей виконували методом Баума–Велша, адаптованим під роботу з додатковим шаром. В якості навчальних вибірок використовували дані, отримані в результаті статистичної обробки інформації, доступної при спостереженні за об'єктом, експертних оцінок, а також дані, отримані в світових комп'ютерних мережах.Випробування методу і моделі на реальних медичних і технічних об'єктах підтвердили їх клінічну і технічну ефективність. Зокрема, завдяки цьому в медичній галузі:на 65 % зменшилася частота виникнення тромбоемболії гілок легеневої артерії і глибоких вен стегна і гомілки;на 43 % зменшилася частота післяопераційних кровотеч;на 36 % зменшилася загальна кількість призначених лікарських засобів, спрямованих на корекцію згортання крові.У технічній галузі результати випробувань підтвердили збільшення терміну експлуатації гумометалевих амортизаторів на 14,5 %.Це пов'язано з тим, що запропонований метод має ряд особливостей, зокрема, в ньому вперше для оцінки емерджентності застосована чотиришарова прихована марковська модель.Результати, отримані в роботі, дозволили запропонувати загальну схему інтелектуальної системи підтримки прийняття рішення про вибір синергетически обумовленої пари елементів для складних систем різного призначення

Моделювання емерджентності за допомогою чотиришарової прихованої марковської моделі

The object of research is the process of selecting a synergistically determined pair for the elements of complex systems in the design, manufacture or repair. One of the most problematic places in the selection is the need to numerically evaluate the result of combining the elements, taking into account the explicit, additive properties of elements and hidden manifestations of the pair that are unusual for the elements alone (emergence). Lack of accounting for emergence can significantly distort the apparent picture of the processes taking place in systems, which makes many existing models of such processes inadequate.During the research, methods of extracting information from arrays known, hidden for direct observation were used. In particular, four-layer hidden Markov models with an additional hidden layer were used. The models were trained by the Baum-Welch method, adapted to work with an additional layer. As training samples used data obtained as a result of statistical processing of information available for object monitoring, expert assessments, as well as data obtained in the world's computer networks.The test of the method and model on real medical and technical objects confirms their clinical and technical effectiveness. In particular, thanks to this in the medical industry:in the medical industry, the incidence of thromboembolism of the branches of the pulmonary artery and deep veins of the thigh and lower leg are decreased by 65 %;frequency of postoperative bleeding is decreased by 43 %;by 36 % the total number of drug-related medicines aimed at correcting the blood coagulation system is decreased.In the technical field, the test results confirm the increase in the service life of rubber-metal shock absorbers by 14.5 %.This is due to the fact that the proposed method has a number of features, in particular, for the first time in its evaluation of emergence a four-layer hidden Markov model is used.The results obtained in the work make it possible to propose a general scheme of an intellectual decision support system in the selection of a synergistically determined pair of elements for complex systems of various purposes.Объектом исследования является процесс подбора синергетически обусловленной пары к элементам сложных систем при проектировании, изготовлении или ремонте. Одним из самых проблемных мест в подборе является необходимость численно оценить результат объединения элементов с учетом явных, аддитивных свойств элементов и скрытых проявлений работы пары, несвойственных элементам в отдельности (эмерджентность). Отсутствие учета эмерджентности может существенно исказить видимую картину процессов, протекающих в системах, что делает многие существующие модели таких процессов неадекватными. В ходе исследования использовались методы извлечения информации из массивов знаний, скрытых для прямого наблюдения. В частности использовали четырехслойные скрытые марковские модели с дополнительным скрытым слоем. Обучение моделей выполняли методом Баума–Велша, адаптированным под работу с дополнительным слоем. В качестве обучающих выборок использовали данные, полученные в результате статистической обработки информации, доступной при наблюдении за объектом, экспертных оценок, а также данные, полученные в мировых компьютерных сетях.Испытание метода и модели на реальных медицинских и технических объектах подтвердили их клиническую и техническую эффективность. В частности, благодаря этому в медицинской отрасли:на 65 % уменьшилось частота возникновения тромбоэмболии ветвей легочной артерии и глубоких вен бедра и голени;на 43 % уменьшилось частота послеоперационных кровотечений;на 36% уменьшилось общее количество назначаемых лекарственных средств, направленных на коррекцию свертывающей системы крови.В технической области результаты испытаний подтвердили увеличение срока эксплуатации резинометаллических амортизаторов на 14,5 %. Это связано с тем, что предложенный метод имеет ряд особенностей, в частности, в нем впервые для оценки эмерджентности применена четырехслойная скрытая марковская модель.Результаты, полученные в работе, позволили предложить общую схему интеллектуальной системы поддержки принятия решения о выборе синергетически обусловленной пары элементов для сложных систем различного назначения.Об'єктом дослідження є процес підбору синергетично обумовленої пари до елементів складних систем при проектуванні, виготовленні або ремонті. Одним з найбільш проблемних місць в підборі є необхідність чисельно оцінити результат об'єднання елементів з урахуванням явних, адитивних властивостей елементів і прихованих проявів роботи пари, невластивих елементам окремо (емерджентність). Відсутність врахування емерджентності може істотно спотворити видиму картину процесів, які протікають в системах, що робить багато існуючих моделей таких процесів неадекватними.В ході дослідження використовували методи добування інформації з масивів знань, прихованих для прямого спостереження. Зокрема використовували чотирьохшарові приховані марковские моделі з додатковим прихованим шаром. Навчання моделей виконували методом Баума–Велша, адаптованим під роботу з додатковим шаром. В якості навчальних вибірок використовували дані, отримані в результаті статистичної обробки інформації, доступної при спостереженні за об'єктом, експертних оцінок, а також дані, отримані в світових комп'ютерних мережах.Випробування методу і моделі на реальних медичних і технічних об'єктах підтвердили їх клінічну і технічну ефективність. Зокрема, завдяки цьому в медичній галузі:на 65 % зменшилася частота виникнення тромбоемболії гілок легеневої артерії і глибоких вен стегна і гомілки;на 43 % зменшилася частота післяопераційних кровотеч;на 36 % зменшилася загальна кількість призначених лікарських засобів, спрямованих на корекцію згортання крові.У технічній галузі результати випробувань підтвердили збільшення терміну експлуатації гумометалевих амортизаторів на 14,5 %.Це пов'язано з тим, що запропонований метод має ряд особливостей, зокрема, в ньому вперше для оцінки емерджентності застосована чотиришарова прихована марковська модель.Результати, отримані в роботі, дозволили запропонувати загальну схему інтелектуальної системи підтримки прийняття рішення про вибір синергетически обумовленої пари елементів для складних систем різного призначення

t-Exponential Memory Networks for Question-Answering Machines

Recent advances in deep learning have brought to the fore models that can make multiple computational steps in the service of completing a task; these are capable of describ- ing long-term dependencies in sequential data. Novel recurrent attention models over possibly large external memory modules constitute the core mechanisms that enable these capabilities. Our work addresses learning subtler and more complex underlying temporal dynamics in language modeling tasks that deal with sparse sequential data. To this end, we improve upon these recent advances, by adopting concepts from the field of Bayesian statistics, namely variational inference. Our proposed approach consists in treating the network parameters as latent variables with a prior distribution imposed over them. Our statistical assumptions go beyond the standard practice of postulating Gaussian priors. Indeed, to allow for handling outliers, which are prevalent in long observed sequences of multivariate data, multivariate t-exponential distributions are imposed. On this basis, we proceed to infer corresponding posteriors; these can be used for inference and prediction at test time, in a way that accounts for the uncertainty in the available sparse training data. Specifically, to allow for our approach to best exploit the merits of the t-exponential family, our method considers a new t-divergence measure, which generalizes the concept of the Kullback-Leibler divergence. We perform an extensive experimental evaluation of our approach, using challenging language modeling benchmarks, and illustrate its superiority over existing state-of-the-art techniques

Data-free metrics for Dirichlet and generalized Dirichlet mixture-based HMMs - A practical study.

Approaches to design metrics between hidden Markov models (HMM) can be divided into two classes: data-based and parameter-based. The latter has the clear advantage of being deterministic and faster but only a very few similarity measures that can be applied to mixture-based HMMs have been proposed so far. Most of these metrics apply to the discrete or Gaussian HMMs and no comparative study have been led to the best of our knowledge. With the recent development of HMMs based on the Dirichlet and generalized Dirichlet distributions for proportional data modeling, we propose to design three new parametric similarity measures between these HMMs. Extensive experiments on synthetic data show the reliability of these new measures where the existing ones fail at giving expected results when some parameters vary. Illustration on real data show the clustering capability of these measures and their potential applications

Hidden Markov models with nonelliptically contoured state densities

Hidden Markov models (HMMs) are a popular approach for modeling sequential data comprising continuous attributes. In such applications, the observation emission densities of the HMM hidden states are typically modeled by means of elliptically contoured distributions, usually multivariate Gaussian or Student's-t densities. However, elliptically contoured distributions cannot sufficiently model heavy-tailed or skewed populations which are typical in many fields, such as the financial and the communication signal processing domain. Employing finite mixtures of such elliptically contoured distributions to model the HMM state densities is a common approach for the amelioration of these issues. Nevertheless, the nature of the modeled data often requires postulation of a large number of mixture components for each HMM state, which might have a negative effect on both model efficiency and the training data set's size required to avoid overfitting. To resolve these issues, in this paper, we advocate for the utilization of a nonelliptically contoured distribution, the multivariate normal inverse Gaussian (MNIG) distribution, for modeling the observation densities of HMMs. As we experimentally demonstrate, our selection allows for more effective modeling of skewed and heavy-tailed populations in a simple and computationally efficient manne

Non-Gaussian data modeling with hidden Markov models

In 2015, 2.5 quintillion bytes of data were daily generated worldwide of which 90% were unstructured data that do not follow any pre-defined model. These data can be found in a great variety of formats among them are texts, images, audio tracks, or videos. With appropriate techniques, this massive amount of data is a goldmine from which one can extract a variety of meaningful embedded information. Among those techniques, machine learning algorithms allow multiple processing possibilities from compact data representation, to data clustering, classification, analysis, and synthesis, to the detection of outliers. Data modeling is the first step for performing any of these tasks and the accuracy and reliability of this initial step is thus crucial for subsequently building up a complete data processing framework. The principal motivation behind my work is the over-use of the Gaussian assumption for data modeling in the literature. Though this assumption is probably the best to make when no information about the data to be modeled is available, in most cases studying a few data properties would make other distributions a better assumption. In this thesis, I focus on proportional data that are most commonly known in the form of histograms and that naturally arise in a number of situations such as in bag-of-words methods. These data are non-Gaussian and their modeling with distributions belonging the Dirichlet family, that have common properties, is expected to be more accurate. The models I focus on are the hidden Markov models, well-known for their capabilities to easily handle dynamic ordered multivariate data. They have been shown to be very effective in numerous fields for various applications for the last 30 years and especially became a corner stone in speech processing. Despite their extensive use in almost all computer vision areas, they are still mainly suited for Gaussian data modeling. I propose here to theoretically derive different approaches for learning and applying to real-world situations hidden Markov models based on mixtures of Dirichlet, generalized Dirichlet, Beta-Liouville distributions, and mixed data. Expectation-Maximization and variational learning approaches are studied and compared over several data sets, specifically for the task of detecting and localizing unusual events. Hybrid HMMs are proposed to model mixed data with the goal of detecting changes in satellite images corrupted by different noises. Finally, several parametric distances for comparing Dirichlet and generalized Dirichlet-based HMMs are proposed and extensively tested for assessing their robustness. My experimental results show situations in which such models are worthy to be used, but also unravel their strength and limitations

DYNAMIC MIXTURES OF FACTOR ANALYZERS TO CHARACTERIZE MULTIVARIATE AIR POLLUTANT EXPOSURES

The assessment of pollution exposure is based on the analysis of multivariate time series that include the concentrations of several pollutants as well as the measurements of multiple atmospheric variables. It typically requires methods of dimensionality reduction that are capable to identify potentially dangerous combinations of pollutants and, simultaneously, to segment exposure periods according to air quality conditions. When the data are high-dimensional, however, efficient methods of dimensionality reduction are challenging because of the formidable structure of cross-correlations that arise from the dynamic interaction between weather conditions and natural/anthropogenic pollution sources. In order to assess pollution exposure in an urban area while taking the above mentioned difficulties into account, we develop a class of parsimonious hidden Markov models. In a multivariate time-series setting, this approach allows to simultaneously perform temporal segmentation and dimensionality reduction. We specifically approximate the distribution of multiple pollutant concentrations by mixtures of factor analysis models, whose parameters evolve according to a latent Markov chain. Covariates are included as predictors of the chain transition probabilities. Parameter constraints on the factorial component of the model are exploited to tune the flexibility of dimensionality reduction. In order to estimate the model parameters efficiently, we propose a novel three-step Alternating Expected Conditional Maximization (AECM) algorithm, which is also assessed in a simulation study. In the case study, the proposed methods were capable (1) to describe the exposure to pollution in terms of a few latent regimes, (2) to associate these regimes with specific combinations of pollutant concentration levels as well as distinct correlation structures between concentrations, and (3) to capture the influence of weather conditions on transitions between regime