Flexible Time Series Matching for Clinical and Behavioral Data

Time Series data became broadly applied by the research community in the last decades after a massive explosion of its availability. Nonetheless, this rise required an improvement in the existing analysis techniques which, in the medical domain, would help specialists to evaluate their patients condition. One of the key tasks in time series analysis is pattern recognition (segmentation and classification). Traditional methods typically perform subsequence matching, making use of a pattern template and a similarity metric to search for similar sequences throughout time series. However, real-world data is noisy and variable (morphological distortions), making a template-based exact matching an elementary approach. Intending to increase flexibility and generalize the pattern searching tasks across domains, this dissertation proposes two Deep Learning-based frameworks to solve pattern segmentation and anomaly detection problems. Regarding pattern segmentation, a Convolution/Deconvolution Neural Network is proposed, learning to distinguish, point-by-point, desired sub-patterns from background content within a time series. The proposed framework was validated in two use-cases: electrocardiogram (ECG) and inertial sensor-based human activity (IMU) signals. It outperformed two conventional matching techniques, being capable of notably detecting the targeted cycles even in noise-corrupted or extremely distorted signals, without using any reference template nor hand-coded similarity scores. Concerning anomaly detection, the proposed unsupervised framework uses the reconstruction ability of Variational Autoencoders and a local similarity score to identify non-labeled abnormalities. The proposal was validated in two public ECG datasets (MITBIH Arrhythmia and ECG5000), performing cardiac arrhythmia identification. Results indicated competitiveness relative to recent techniques, achieving detection AUC scores of 98.84% (ECG5000) and 93.32% (MIT-BIH Arrhythmia).Dados de séries temporais tornaram-se largamente aplicados pela comunidade científica nas últimas decadas após um aumento massivo da sua disponibilidade. Contudo, este aumento exigiu uma melhoria das atuais técnicas de análise que, no domínio clínico, auxiliaria os especialistas na avaliação da condição dos seus pacientes. Um dos principais tipos de análise em séries temporais é o reconhecimento de padrões (segmentação e classificação). Métodos tradicionais assentam, tipicamente, em técnicas de correspondência em subsequências, fazendo uso de um padrão de referência e uma métrica de similaridade para procurar por subsequências similares ao longo de séries temporais. Todavia, dados do mundo real são ruidosos e variáveis (morfologicamente), tornando uma correspondência exata baseada num padrão de referência uma abordagem rudimentar. Pretendendo aumentar a flexibilidade da análise de séries temporais e generalizar tarefas de procura de padrões entre domínios, esta dissertação propõe duas abordagens baseadas em Deep Learning para solucionar problemas de segmentação de padrões e deteção de anomalias. Acerca da segmentação de padrões, a rede neuronal de Convolução/Deconvolução proposta aprende a distinguir, ponto a ponto, sub-padrões pretendidos de conteúdo de fundo numa série temporal. O modelo proposto foi validado em dois casos de uso: sinais eletrocardiográficos (ECG) e de sensores inerciais em atividade humana (IMU). Este superou duas técnicas convencionais, sendo capaz de detetar os ciclos-alvo notavelmente, mesmo em sinais corrompidos por ruído ou extremamente distorcidos, sem o uso de nenhum padrão de referência nem métricas de similaridade codificadas manualmente. A respeito da deteção de anomalias, a técnica não supervisionada proposta usa a capacidade de reconstrução dos Variational Autoencoders e uma métrica de similaridade local para identificar anomalias desconhecidas. A proposta foi validada na identificação de arritmias cardíacas em duas bases de dados públicas de ECG (MIT-BIH Arrhythmia e ECG5000). Os resultados revelam competitividade face a técnicas recentes, alcançando métricas AUC de deteção de 93.32% (MIT-BIH Arrhythmia) e 98.84% (ECG5000)

ECG denoising and fiducial point extraction using an extended Kalman filtering framework with linear and nonlinear phase observations

International audienceIn this paper we propose an efficient method for denoising and extracting fiducial point (FP) of ECG signals. The method is based on a nonlinear dynamic model which uses Gaussian functions to model ECG waveforms. For estimating the model parameters, we use an extended Kalman filter (EKF). In this framework called EKF25, all the parameters of Gaussian functions as well as the ECG waveforms (P-wave, QRS complex and T-wave) in the ECG dynamical model, are considered as state variables. In this paper, the dynamic time warping method is used to estimate the nonlinear ECG phase observation. We compare this new approach with linear phase observation models. Using linear and nonlinear EKF25 for ECG denoising and nonlinear EKF25 for fiducial point extraction and ECG interval analysis are the main contributions of this paper. Performance comparison with other EKF-based techniques shows that the proposed method results in higher output SNR with an average SNR improvement of 12 dB for an input SNR of-8 dB. To evaluate the FP extraction performance, we compare the proposed method with a method based on partially collapsed Gibbs sampler and an established EKF-based method. The mean absolute error and the root mean square error of all FPs, across all databases are 14 msec and 22 msec, respectively, for our proposed method, with an advantage when using a nonlinear phase observation. These errors are significantly smaller than errors obtained with other methods. For ECG interval analysis, with an absolute mean error and a root mean square error of about 22 msec and 29 msec, the proposed method achieves better accuracy and smaller variability with respect to other methods. Keywords: Electrocardiogram (ECG), Extended Kalman Filter (EKF), Dynamic Time Warping (DTW), Fiducial Point Extraction, Denoising

ADAPTIVE MODELS-BASED CARDIAC SIGNALS ANALYSIS AND FEATURE EXTRACTION

Signal modeling and feature extraction are among the most crucial and important steps for stochastic signal processing. In this thesis, a general framework that employs adaptive model-based recursive Bayesian state estimation for signal processing and feature extraction is described. As a case study, the proposed framework is studied for the problem of cardiac signal analysis. The main objective is to improve the signal processing aspects of cardiac signals by developing new techniques based on adaptive modelling of electrocardiogram (ECG) wave-forms. Specially several novel and improved approaches to model-based ECG decomposition, waveform characterization and feature extraction are proposed and studied in detail. In the concept of ECG decomposition and wave-forms characterization, the main idea is to extend and improve the signal dynamical models (i.e. reducing the non-linearity of the state model with respect to previous solutions) while combining with Kalman smoother to increase the accuracy of the model in order to split the ECG signal into its waveform components, as it is proved that Kalman filter/smoother is an optimal estimator in minimum mean square error (MMSE) for linear dynamical systems. The framework is used for many real applications, such as: ECG components extraction, ST segment analysis (estimation of a possible marker of ventricular repolarization known as T/QRS ratio) and T-wave Alternans (TWA) detection, and its extension to many other applications is straightforward. Based on the proposed framework, a novel model to characterization of Atrial Fibrillation (AF) is presented which is more effective when compared with other methods proposed with the same aims. In this model, ventricular activity (VA) is represented by a sum of Gaussian kernels, while a sinusoidal model is employed for atrial activity (AA). This new model is able to track AA, VA and fibrillatory frequency simultaneously against other methods which try to analyze the atrial fibrillatory waves (f-waves) after VA cancellation. Furthermore we study a new ECG processing method for assessing the spatial dispersion of ventricular repolarization (SHVR) using V-index and a novel algorithm to estimate the index is presented, leading to more accurate estimates. The proposed algorithm was used to study the diagnostic and prognostic value of the V-index in patients with symptoms suggestive of Acute Myocardial Infraction (AMI)

Diffeomorphic Transformations for Time Series Analysis: An Efficient Approach to Nonlinear Warping

The proliferation and ubiquity of temporal data across many disciplines has sparked interest for similarity, classification and clustering methods specifically designed to handle time series data. A core issue when dealing with time series is determining their pairwise similarity, i.e., the degree to which a given time series resembles another. Traditional distance measures such as the Euclidean are not well-suited due to the time-dependent nature of the data. Elastic metrics such as dynamic time warping (DTW) offer a promising approach, but are limited by their computational complexity, non-differentiability and sensitivity to noise and outliers. This thesis proposes novel elastic alignment methods that use parametric \& diffeomorphic warping transformations as a means of overcoming the shortcomings of DTW-based metrics. The proposed method is differentiable \& invertible, well-suited for deep learning architectures, robust to noise and outliers, computationally efficient, and is expressive and flexible enough to capture complex patterns. Furthermore, a closed-form solution was developed for the gradient of these diffeomorphic transformations, which allows an efficient search in the parameter space, leading to better solutions at convergence. Leveraging the benefits of these closed-form diffeomorphic transformations, this thesis proposes a suite of advancements that include: (a) an enhanced temporal transformer network for time series alignment and averaging, (b) a deep-learning based time series classification model to simultaneously align and classify signals with high accuracy, (c) an incremental time series clustering algorithm that is warping-invariant, scalable and can operate under limited computational and time resources, and finally, (d) a normalizing flow model that enhances the flexibility of affine transformations in coupling and autoregressive layers.Comment: PhD Thesis, defended at the University of Navarra on July 17, 2023. 277 pages, 8 chapters, 1 appendi

Analysis of Ventricular Depolarisation and Repolarisation Using Registration and Machine Learning

Our understanding of cardiac diseases has greatly advanced since the advent of electrocardiography (ECG). With the increasing influx of available data in recent times, significant research efforts have been put forth to automate the study and detection of cardiac conditions. Naturally, the focus has progressed toward studying dynamic changes in ventricular depolarisation and repolarisation across serial recordings - as complex beat-to-beat changes in morphology manifest over time. Manual extraction of diagnostic and prognostic markers is a laborious task. Hence, automated and accurate methods are required to extract markers for the study of ventricular lability and detection of common diseases, such as myocardial ischemia and myocardial infarction. The aim of this thesis is to improve automated marker extraction and detection of diseases for the study of ventricular depolarisation and repolarisation lability in ECG. As such, two novel template adaptation methods capable of capturing complex beat-to-beat morphological changes are proposed for three-dimensional and two-dimensional data, respectively. The proposed three-dimensional template adaptation method provides an inhomogeneous method for transforming template vectorcardiogram (VCG) by exploiting registrationinspired parametrisation and an efficient kernel ridge regression formulation. Analysis across simulated data and clinical myocardial infarction data demonstrates state-of-the-art results. The two-dimensional template adaptation method draws from traditional registrationbased techniques and treats the ECG as a two-dimensional point set problem. Validation against previously employed simulated data and a gold-standard annotated clinical database demonstrate the highest level of performance. Subsequently, frameworks employing the proposed template adaptation techniques are developed for the automated detection of ischemic beats and myocardial infarction. Furthermore, a small study analysing ventricular repolarisation variability (VRV) in non-ischemic cardiomyopathy (CM) is considered, utilising markers of cardiac lability proposed in the development of the three-dimensional template adaptation system. In summary, this thesis highlights the necessity for custom template adaptation methods for the accurate measurement of beat-to-beat variability in cardiac data. Two novel stateof- the-art methods are proposed and extended to study myocardial ischemia, myocardial infarction and non-ischemic CM.Thesis (Ph.D.) -- University of Adelaide, School of Electrical and Electronic Engineering, 202

System-level design of energy-efficient sensor-based human activity recognition systems: a model-based approach

This thesis contributes an evaluation of state-of-the-art dataflow models of computation regarding their suitability for a model-based design and analysis of human activity recognition systems, in terms of expressiveness and analyzability, as well as model accuracy. Different aspects of state-of-the-art human activity recognition systems have been modeled and analyzed. Based on existing methods, novel analysis approaches have been developed to acquire extra-functional properties like processor utilization, data communication rates, and finally energy consumption of the system

Prediction of Cardiac Death Risk by Analysis of Ventricular Repolarization Restitution from the Electrocardiogram Signal

Las enfermedades cardiovasculares siguen siendo la mayor causa de muertes en todo el mundo, y se espera que el número de casos crezca progresivamente en los próximos años con el envejecimiento de la población. Por ello, se necesitan marcadores no invasivos con alta capacidad de predicción de muerte para reducir la incidencia de estos eventos fatales.La insuficiencia cardiaca crónica (CHF, del inglés "Chronic Heart Failure") describe la condición por la cual el corazón no es capaz de bombear suficiente sangre para alcanzar las demandas del cuerpo. Se ha demostrado que los pacientes con CHF pueden experimentar un empeoramiento progresivo de los síntomas, pudiendo llegar a producirse la muerte por fallo de bomba (PFD, del inglés "Pump Failure Death"), o sufrireventos arrítmicos malignos que lleven a la muerte súbita cardiaca (SCD, del inglés "Sudden Cardiac Death"). Uno de los factores electro-fisiológicos con mayor influencia en la generación de arritmias malignas es el aumento de la dispersión de la repolarización, o la variación espacio-temporal en los tiempos de repolarización. También se ha demostrado que la respuesta de esta dispersión a variaciones en el ritmo cardiaco, es decir, la dispersión de la restitución de la repolarización, está relacionada con mayor riesgo arrítmico y de SCD. Por otro lado, el empeoramiento de CHF se manifiesta con una reducción de la respuesta de los ventrículos a la estimulación autonómica, y con un balance simpato-vagal anormal. Con la llegada de los defibriladores cardioversores implantables (ICDs, del inglés "Implantable Cardioverter Defibrillators"), y de la terapia de resincronización cardiaca (CRT, del inglés "Cardiac Resynchronization Therapy"), los dos dispositivos más popularmente usados en la práctica clínica para prevenir SCD y PFD, respectivamente, la estratificación de riesgo se ha vuelto muy relevante. Específicamente, ser capaces de predecir el evento potencial que un paciente con CHF podría sufrir (SCD, PFD u otras causas) es de gran importancia. La señal de electrocardiograma (ECG) es un método barato y no invasivo que contiene información importante acerca de la actividad eléctrica del corazón.El objetivo principal de esta tesis es desarrollar marcadores de riesgo derivados del ECG que caractericen la restitución de la repolarización ventricular para mejorar la predicción de SCD y PFD en pacientes con CHF. Para ello, se han utilizado, por un lado, índices basados en intervalos temporales, como los intervalos QT y Tpe, ya que las dinámicas de estos intervalos están asociadas con la restitución de la repolarización, y con su dispersión, respectivamente, y, por el otro lado, índices basados en la morfología de la onda T. Para utilizar la información de la morfología, se ha desarrollado una metodología innovadora que permite la comparación de dos formas diferentes, y la cuantificación de sus diferencias.En el capítulo 2 se desarrolló un algoritmo completamente automático para estimar la pendiente y la curvatura de las dinámicas de los intervalos QT y Tpe a partir de registros ECG Holter de 24 horas de 651 pacientes con CHF. A continuación, se estudió la modulación del patrón circadiano de las estimaciones propuestas, y se evaluó su valor predictivo de SCD y PFD. Finalmente, se estudió la capacidad de clasificación del marcador analizado con mayor valor predictivo, individualmente y en combinación con otros dos marcadores de riesgo de ECG previamente propuestos, que reflejan mecanismos electro-fisiológicos y autonómicos. Los resultados demostraron que la dispersión de la restitución de la repolarización, cuantificada a partir de la pendiente de la dinámica del intervalo Tpe, tiene valor predictivo de SCD y de PFD, con pendientes altas indicativas de sustrato arrímico predisponiendo a SCD y pendientes planas indicativas de fatiga mecánica del corazón predisponiendo a PFD. Sin embargo, la pendiente de la restitución de la repolarización, cuantificada como la pendiente de la relación QT/RR, así como los parámetros de curvatura de las dos relaciones, no mostraron asociación con ningún tipo de muerte cardiaca. El patrón circadiano moduló estos parámetros, con valores significativamente mayores durante el día que durante la noche. Finalmente, los resultados de clasificación probaron que la combinación de los marcadores de riesgo derivados del ECG que reflejan información complementaria mejora la discriminación entre SCD, PFD y otros pacientes. Nuestros resultados sugieren que la pendiente de la dinámica del intervalo Tpe podría incluirse en la práctica clínica como herramienta para estratificar pacientes de acuerdo a su riesgo de sufrir SCD o PFD y, por lo tanto, aumentar el beneficio del tratamiento con ICDs o CRT.Considerando estos resultados, postulamos a continuación que la morfología de la onda T contiene información adicional, no tenida en cuenta al usar únicamente índices basados en intervalos temporales. Por lo tanto, en el capítulo 3 desarrollamos una metodología para comparar la morfología de dos ondas T, y propusimos y evaluamos la capacidad de nuevos marcadores derivados del ECG para cuantificar variaciones en la morfología de la onda T. Primero, comparamos la capacidad de eliminar la variabilidad en el dominio temporal de dos algoritmos, "Dynamic Time Warping" (DTW) y "Square-root Slope Function" (SRSF). Luego, se propusieron índices morfológicos y se evaluó su robustez ante la presencia de ruido aditivo con señales generadas sintéticamente. A continuación, se utilizó un modelo electrofisiológico cardiaco para investigarla relación entre los índices de variabilidad morfológica de onda T y los cambios morfológicos a nivel celular. Finalmente, se cuantificaron las variaciones en la morfología de la onda T producidas por una prueba de tabla basculante en registros de ECG con los marcadores propuestos y se estudió su correlación con el ritmo cardiaco y otros marcadores tradicionales. Nuestros resultados mostraron que SRSF fue capaz de separarlas variaciones en el tiempo y en la amplitud de la onda T. Además, los marcadores propuestos de variabilidad morfológica probaron ser robustos frente a ruido aditivo Laplaciano y demostraron reflejar variaciones en la dispersión de la repolarización a nivel celular en simulación y en registros de ECG reales. En conclusión, los índices propuestos que cuantifican variaciones morfológicas de la onda T han demostrado un gran potential para ser usados como predictores de riesgo arrítmico.En el capítulo 4, se exploró la restitución de la repolarización ventricular usando los índices de variabilidad morfológica presentados en el capítulo 3. Bajo la hipótesis de que la morfología de la onda T refleja la dispersión de la repolarización, hipotetizamos que la restitución de la morfología de la onda T reflejaría la dispersión de la restitución de la repolarización. Por lo tanto, calculamos la pendiente de la restituciónde la morfología de la onda T y evaluamos su valor predictivo de SCD y PFD. También estudiamos, como en el capítulo 2, la modulación del patrón circadiano y la capacidad de clasificación. Los resultados mostraron que la dispersión de la restitución de la repolarización cuantificada a través de la pendiente de la restitución de la morfología de la onda T, estaba asociada específicamente con SCD, sin ninguna relación con PFD. El patrón circadiano también moduló la restitución de la morfología de la onda T, con valores significativamente mayores durante el día que durante la noche. Finalmente, los resultados de clasificación también mejoraron al utilizar una combinación de marcadores de riesgo derivados del ECG. En conclusión, la pendiente de la restitución de la morfología de la onda T podría usarse en la práctica clínica como herramienta para definir una población de alto riesgo de SCD que podría beneficiarse de implantación con ICDs.Finalmente, aunque lo deseable es encontrar un índice individual con alto valor predictivo, los eventos de SCD y PFD son el resultado de una múltiple cadena de mecanismos. Por lo tanto, la predicción podría mejorarse todavía más si se usara un marcador que integrara varios factores de riesgo. En el capítulo 5 se propusieron modelos clínicos, basados en el ECG y otros combinando ambos tipos de variables, para predecir específicamente riesgo de SCD y de PFD. Además, se comparó su valor predictivo. Los modelos clínicos, basados en ECG y combinado demostraron mejorar la predicción de SCD y de PFD, comparado con los marcadores individuales. Para SCD, la combinación de variables clínicas y derivadas del ECG mejoró sustancialmente la predicción de riesgo, comparado con el uso de uno de los dos tipos de variables. Sinembargo, la predicción de riesgo de PFD demostró ser óptima al utilizar el modelo derivado del ECG, ya que la combinación con variables clínicas no añadió ninguna información predictiva de PFD. Nuestros resultados confirman la necesidad de utilizar un índice multi-factorial, que incluya información de mecanismos complementarios, para optimizar la estratificación de riesgo de SCD y de PFD.En conclusión, en esta tesis se han propuesto dos índices derivados del ECG, que reflejan dispersión de la restitución de la repolarización, y se ha demostrado su valor predictivo de SCD y PFD. Cada índice explota información diferente de la onda T, uno utiliza el intervalo Tpe y el otro utiliza la morfología completa de la onda T. Para la cuantificación de las diferencias en la morfología de la onda T, se ha desarrollado una metodología robusta que se basa en la re-parametrización en el tiempo.<br /

DICOM for EIT

With EIT starting to be used in routine clinical practice [1], it important that the clinically relevant information is portable between hospital data management systems. DICOM formats are widely used clinically and cover many imaging modalities, though not specifically EIT. We describe how existing DICOM specifications, can be repurposed as an interim solution, and basis from which a consensus EIT DICOM ‘Supplement’ (an extension to the standard) can be writte

Estimation of thorax shape for forward modelling in lungs EIT

The thorax models for pre-term babies are developed based on the CT scans from new-borns and their effect on image reconstruction is evaluated in comparison with other available models

Rapid generation of subject-specific thorax forward models

For real-time monitoring of lung function using accurate patient geometry, shape information needs to be acquired and a forward model generated rapidly. This paper shows that warping a cylindrical model to an acquired shape results in meshes of acceptable mesh quality, in terms of stretch and aspect ratio