Information theoretic measures and their applications

The concept of entropy, an ever-growing physical magnitude that measured the degree of decay of order in a physical system, was introduced by Rudolf Clausius in 1865 through an elegant formulation of the second law of thermodynamics. Seven years later, in 1872, Ludwig Boltzmann proved the famous H-theorem, showing that the quantity H always decreases in time, and in the case of perfect gas in equilibrium, the quantity H was related to Clausius’ entropyS. The dynamical approach of Boltzmann, together with the elegant theory of statistical ensembles at equilibrium proposed by Josiah Willard Gibbs, led to the Boltzmann–Gibbs theory of statistical mechanics, which represents one of the most successful theoretical frameworks of physics. In fact, with the introduction of entropy, thermodynamics became a model of theoretical science.Fil: Rosso, Osvaldo Anibal. Universidade Federal de Alagoas; Brasil. Consejo Nacional de Investigaciones Científicas y Técnicas; ArgentinaFil: Montani, Fernando Fabián. Consejo Nacional de Investigaciones Científicas y Técnicas. Centro Científico Tecnológico Conicet - La Plata. Instituto de Física La Plata. Universidad Nacional de La Plata. Facultad de Ciencias Exactas. Instituto de Física La Plata; Argentin

Ідентифікація біржових крахів за нечіткими мірами складності

This study, for the first time, presents the possibility of using fuzzy set theory in combination with information theory and recurrent analysis to construct indicators (indicators-precursors) of crisis phenomena in complex nonlinear systems. In our study, we analyze the 4 most important crisis periods in the history of the stock market – 1929, 1987, 2008 and the COVID-19 pandemic in 2020. In particular, using the sliding window procedure, we analyze how the complexity of the studied crashes changes over time, and how it depends on events such as the global stock market crises. For comparative analysis, we take classical Shannon entropy, approximation and permutation entropy, recurrent diagrams, and their fuzzy alternatives. Each of the fuzzy modifications uses three membership functions: exponential, sigmoidal, and simple linear functions. Empirical results demonstrate the fact that the fuzzification of classical entropy and recurrence approaches opens up prospects for constructing effective and reliable indicators-precursors of critical events in the studied complex systems.В даному дослідженні вперше представлено можливість використання теорії нечітких множин у поєднанні з теорією інформації та рекурентним аналізом для побудови індикаторів (показників-передвісників) кризових явищ у складних нелінійних системах. У нашому дослідженні проаналізовано 4 найважливіші кризові періоди в історії фондового ринку - 1929, 1987, 2008 рр. та пандемія COVID-19 у 2020 році. Зокрема, використовуючи процедуру ковзного вікна, ми аналізуємо, як складність досліджуваних крахів змінюється з часом, і як вона залежить від таких подій, як глобальні кризи на фондовому ринку. Для порівняльного аналізу взято класичну ентропію Шеннона, ентропію апроксимації та перестановки, рекурентні діаграми та їх нечіткі альтернативи. Кожна з нечітких модифікацій використовує три функції належності: експоненціальну, сигмоїдальну та просту лінійну. Емпіричні результати демонструють той факт, що фазифікація класичних ентропійного та рекурентного підходів відкриває перспективи для побудови ефективних та надійних індикаторів-передвісників критичних подій у досліджуваних складних системах

Провісники нафтових потрясінь. Еконофізичний підхід в екологічній науці

The instability of the price dynamics of the energy market from a theoretical point of view indicates the inadequacy of the dominant paradigm of the quantitative description of pricing processes, and from a practical point of view, it leads to abnormal shocks and crashes. A striking example is the COVID-stimulated spring drop of spot prices for crude oil by 305% to $36.73 a barrel. The theory of complex systems with the latest complex networking achievements using pragmatically verified econophysical approaches and models can become the basis of modern environmental science. In this case, it is possible to introduce certain measures of complexity, the change in the dynamics of which makes it possible to identify and prevent characteristic types of critical phenomena. In this paper, the possibility of using some econophysical approaches for quantitative assessment of complexity measures: (1) informational (Lempel-Ziv measure, various types of entropies (Shannon, Approximate, Permutation, Recurrence), (2) fractal and multifractal (Multifractal Detrended Fluctuation Analysis), (3) recurrent (Recurrence Plot and Recurrence Quantification Analysis), (4) Lévy’s stable distribution properties, (5) network (Visual Graph and Recurrence based) and (6) quantum (Heisenberg uncertainty principle) is investigated. Each of them detects patterns that are general for crisis states. We conclude that these measures make it possible to establish that the socially responsive exhibits characteristic patterns of complexity and the proposed measures of complexity allow us to build indicators-precursors of critical and crisis phenomena. Proposed quantitative measures of complexity classified and adapted for the crude oil market. Their behavior in the face of known market shocks and crashes has been analyzed. It has been shown that most of these measures behave characteristically in the periods preceding the critical event. Therefore, it is possible to build indicators-precursors of crisis phenomena in the crude oil market.Нестабільність динаміки цін на енергетичному ринку з теоретичної точки зору свідчить про неадекватність домінуючої парадигми кількісного опису процесів ціноутворення, а з практичної точки зору це призводить до аномальних потрясінь і крахів. Яскравий приклад-весняне падіння спотових цін на нафту на 305% до 36,73 доларів за барель, викликане COVID-19. Теорія складних систем з найновішими досягненнями в комплексних мережах з використанням прагматично перевірених еконофізичних підходів та моделей може стати основою сучасної екологічної науки. У цьому випадку можна запровадити певні показники складності, зміна динаміки яких дає змогу виявити та запобігти характерним типам критичних явищ. У цій роботі розглядається можливість використання деяких еконофізичних підходів для кількісної оцінки заходів складності: (1) інформаційний (міра Лемпеля-Зіва, різні типи ентропій (Шеннон, наближена, перестановка, повторюваність), (2) фрактальна та мультифрактальна (багатофрактальна) Detrended Fluctuation Analysis), (3) рекуррентні (Recurrence Plot and Recurrence Quantification Analysis), (4) Stability Distribution Properties Lévy, (5) network (Visual Graph and Recurrence based) та (6) квант (принцип невизначеності Гейзенберга). Кожен із них виявляє загальні для кризових станів закономірності. Ми прийшли до висновку, що ці заходи дозволяють встановити, що соціально чутливі прояви характерних моделей складності, а запропоновані показники складності дозволяють будувати показники-попередники критичних та кризових явищ. Запропоновані кількісні показники складності, класифіковані та адаптовані для ринку сирої нафти, їх поведінка в умовах відомих ринків були проаналізовані скачки та аварії. Було показано, що більшість цих заходів поводяться характерно в періоди, що передують критичній події. Тому на ринку сирої нафти можна будувати індикатори-попередники кризових явищ

Entropy Analysis of Univariate Biomedical Signals:Review and Comparison of Methods

International audienc

Екофізика криптовалютних крахів: систематичний огляд

Cryptocurrencies refer to a type of digital asset that uses distributed ledger, or blockchain technology to enable a secure transaction. Like other financial assets, they show signs of complex systems built from a large number of nonlinearly interacting constituents, which exhibits collective behavior and, due to an exchange of energy or information with the environment, can easily modify its internal structure and patterns of activity. We review the econophysics analysis methods and models adopted in or invented for financial time series and their subtle properties, which are applicable to time series in other disciplines. Quantitative measures of complexity have been proposed, classified, and adapted to the cryptocurrency market. Their behavior in the face of critical events and known cryptocurrency market crashes has been analyzed. It has been shown that most of these measures behave characteristically in the periods preceding the critical event. Therefore, it is possible to build indicators-precursors of crisis phenomena in the cryptocurrency market.Криптовалюти відносяться до типу цифрових активів, які використовують технологію розподіленого реєстру, або блокчейн, для забезпечення безпечного проведення транзакцій. Як і інші фінансові активи, вони мають ознаки складних систем, побудованих з великої кількості нелінійно взаємодіючих складових, які демонструють колективну поведінку і завдяки обміну енергією або інформацією з навколишнім середовищем можуть легко змінювати свою внутрішню структуру і моделі діяльності. Ми розглядаємо методи та моделі еконофізичного аналізу, прийняті або винайдені для фінансових часових рядів, а також їх тонкі властивості, які можна застосувати до часових рядів в інших дисциплінах. Запропоновано, класифіковано та адаптовано до ринку криптовалют кількісні міри складності. Проаналізовано їх поведінку в умовах критичних подій та відомих обвалів криптовалютного ринку. Показано, що більшість з цих показників характерно поводять себе в періоди, що передують критичній події. Тому є можливість побудови індикаторів-передвісників кризових явищ на ринку криптовалют

Complexity in Economic and Social Systems

There is no term that better describes the essential features of human society than complexity. On various levels, from the decision-making processes of individuals, through to the interactions between individuals leading to the spontaneous formation of groups and social hierarchies, up to the collective, herding processes that reshape whole societies, all these features share the property of irreducibility, i.e., they require a holistic, multi-level approach formed by researchers from different disciplines. This Special Issue aims to collect research studies that, by exploiting the latest advances in physics, economics, complex networks, and data science, make a step towards understanding these economic and social systems. The majority of submissions are devoted to financial market analysis and modeling, including the stock and cryptocurrency markets in the COVID-19 pandemic, systemic risk quantification and control, wealth condensation, the innovation-related performance of companies, and more. Looking more at societies, there are papers that deal with regional development, land speculation, and the-fake news-fighting strategies, the issues which are of central interest in contemporary society. On top of this, one of the contributions proposes a new, improved complexity measure

Multivariate multiscale complexity analysis

Established dynamical complexity analysis measures operate at a single scale and thus fail to quantify inherent long-range correlations in real world data, a key feature of complex systems. They are designed for scalar time series, however, multivariate observations are common in modern real world scenarios and their simultaneous analysis is a prerequisite for the understanding of the underlying signal generating model. To that end, this thesis first introduces a notion of multivariate sample entropy and thus extends the current univariate complexity analysis to the multivariate case. The proposed multivariate multiscale entropy (MMSE) algorithm is shown to be capable of addressing the dynamical complexity of such data directly in the domain where they reside, and at multiple temporal scales, thus making full use of all the available information, both within and across the multiple data channels. Next, the intrinsic multivariate scales of the input data are generated adaptively via the multivariate empirical mode decomposition (MEMD) algorithm. This allows for both generating comparable scales from multiple data channels, and for temporal scales of same length as the length of input signal, thus, removing the critical limitation on input data length in current complexity analysis methods. The resulting MEMD-enhanced MMSE method is also shown to be suitable for non-stationary multivariate data analysis owing to the data-driven nature of MEMD algorithm, as non-stationarity is the biggest obstacle for meaningful complexity analysis. This thesis presents a quantum step forward in this area, by introducing robust and physically meaningful complexity estimates of real-world systems, which are typically multivariate, finite in duration, and of noisy and heterogeneous natures. This also allows us to gain better understanding of the complexity of the underlying multivariate model and more degrees of freedom and rigor in the analysis. Simulations on both synthetic and real world multivariate data sets support the analysis

Characteristics and coupling of cardiac and locomotor rhythms during treadmill walking tasks

Studying the variability of physiological subsystems (e.g., cardiac and locomotor control systems) has been insightful in understanding how functional and dysfunctional patterns emerge within their behaviors. The coupling of these subsystems (termed cardiolocomotor coupling) is believed to be important to maintain healthy functioning in the diverse conditions in which individuals must operate. Aging and pathology result in alterations to both the patterns of individual systems, as well as to how those systems couple to each other. By examining cardiac and locomotor rhythms concurrently during treadmill walking, it is possible to ascertain how these two rhythms relate to each other in different populations (i.e., younger and older adults) and with varying task constraints (i.e., a gait synchronization task or fast walking task). The purpose of this research was to simultaneously document the characteristics of cardiac and gait rhythms in younger (18-35 yrs) and older (63-80 yrs) healthy adults while walking and to establish the extent to which changes in these systems are coupled when gait is constrained. This study consisted of two repeated-measures experiments that participants completed on two separate days. Both experiments consisted of three 15-minute phases. During the first (baseline) and third (retention) phases of both experiments, participants walked with no cues or specific instructions at their preferred walking speed. During the second phase, participants were asked to synchronize their step falls to the timing of a visual cue (experiment 1) or to walk at 125% of their preferred walking speed (experiment 2). Fifty-one healthy adults (26 older, 67.67±4.70 yrs, 1.72±0.09 m, 70.13±14.30 kg; 25 younger, 24.57±4.29 yrs, 1.76±0.09 m, 73.34±15.35 kg) participated in this study. Participants’ cardiac rhythms (R-R interval time series) and locomotor rhythms (stride interval, step width, and step length time series) were measured while walking on a treadmill. Characteristics of variability in cardiac and locomotor rhythms and the coupling between cardiac and gait rhythms were measured. Results revealed that younger and older healthy adults alter gait patterns similarly when presented with a gait synchronization or fast walking task and that these tasks also alter cardiac patterns. Likewise, both groups exhibited enhanced cardiolocomotor coupling when tasked with a step timing constraint or increased speed during treadmill walking. Combined, these findings suggest that walking tasks likely alter both locomotor and cardiac dynamics and the coupling of physiological subsystems could be insightful in understanding the diverse effects aging and pathology have on individuals