Dynamically weighted evolutionary ordinal neural network for solving an imbalanced liver transplantation problem

Objective Create an efficient decision-support model to assist medical experts in the process of organ allocation in liver transplantation. The mathematical model proposed here uses different sources of information to predict the probability of organ survival at different thresholds for each donor–recipient pair considered. Currently, this decision is mainly based on the Model for End-stage Liver Disease, which depends only on the severity of the recipient and obviates donor–recipient compatibility. We therefore propose to use information concerning the donor, the recipient and the surgery, with the objective of allocating the organ correctly. Methods and materials The database consists of information concerning transplants conducted in 7 different Spanish hospitals and the King's College Hospital (United Kingdom). The state of the patients is followed up for 12 months. We propose to treat the problem as an ordinal classification one, where we predict the organ survival at different thresholds: less than 15 days, between 15 and 90 days, between 90 and 365 days and more than 365 days. This discretization is intended to produce finer-grain survival information (compared with the common binary approach). However, it results in a highly imbalanced dataset in which more than 85% of cases belong to the last class. To solve this, we combine two approaches, a cost-sensitive evolutionary ordinal artificial neural network (ANN) (in which we propose to incorporate dynamic weights to make more emphasis on the worst classified classes) and an ordinal over-sampling technique (which adds virtual patterns to the minority classes and thus alleviates the imbalanced nature of the dataset). Results The results obtained by our proposal are promising and satisfactory, considering the overall accuracy, the ordering of the classes and the sensitivity of minority classes. In this sense, both the dynamic costs and the over-sampling technique improve the base results of the considered ANN-based method. Comparing our model with other state-of-the-art techniques in ordinal classification, competitive results can also be appreciated. The results achieved with this proposal improve the ones obtained by other state-of-the-art models: we were able to correctly predict more than 73% of the transplantation results, with a geometric mean of the sensitivities of 31.46%, which is much higher than the one obtained by other models. Conclusions The combination of the proposed cost-sensitive evolutionary algorithm together with the application of an over-sampling technique improves the predictive capability of our model in a significant way (especially for minority classes), which can help the surgeons make more informed decisions about the most appropriate recipient for an specific donor organ, in order to maximize the probability of survival after the transplantation and therefore the fairness principle

Partial order label decomposition approaches for melanoma diagnosis

Melanoma is a type of cancer that develops from the pigment-containing cells known as melanocytes. Usually occurring on the skin, early detection and diagnosis is strongly related to survival rates. Melanoma recognition is a challenging task that nowadays is performed by well trained dermatologists who may produce varying diagnosis due to the task complexity. This motivates the development of automated diagnosis tools, in spite of the inherent difficulties (intra-class variation, visual similarity between melanoma and non-melanoma lesions, among others). In the present work, we propose a system combining image analysis and machine learning to detect melanoma presence and severity. The severity is assessed in terms of melanoma thickness, which is measured by the Breslow index. Previous works mainly focus on the binary problem of detecting the presence of the melanoma. However, the system proposed in this paper goes a step further by also considering the stage of the lesion in the classification task. To do so, we extract 100 features that consider the shape, colour, pigment network and texture of the benign and malignant lesions. The problem is tackled as a five-class classification problem, where the first class represents benign lesions, and the remaining four classes represent the different stages of the melanoma (via the Breslow index). Based on the problem definition, we identify the learning setting as a partial order problem, in which the patterns belonging to the different melanoma stages present an order relationship, but where there is no order arrangement with respect to the benign lesions. Under this assumption about the class topology, we design several proposals to exploit this structure and improve data preprocessing. In this sense, we experimentally demonstrate that those proposals exploiting the partial order assumption achieve better performance than 12 baseline nominal and ordinal classifiers (including a deep learning model) which do not consider this partial order. To deal with class imbalance, we additionally propose specific over-sampling techniques that consider the structure of the problem for the creation of synthetic patterns. The experimental study is carried out with clinician-curated images from the Interactive Atlas of Dermoscopy, which eases reproducibility of experiments. Concerning the results obtained, in spite of having augmented the complexity of the classification problem with more classes, the performance of our proposals in the binary problem is similar to the one reported in the literature

Partial order label decomposition approaches for melanoma diagnosis

Melanoma is a type of cancer that develops from the pigment-containing cells known as melanocytes. Usually occurring on the skin, early detection and diagnosis is strongly related to survival rates. Melanoma recognition is a challenging task that nowadays is performed by well trained dermatologists who may produce varying diagnosis due to the task complexity. This motivates the development of automated diagnosis tools, in spite of the inherent difficulties (intra-class variation, visual similarity between melanoma and non-melanoma lesions, among others). In the present work, we propose a system combining image analysis and machine learning to detect melanoma presence and severity. The severity is assessed in terms of melanoma thickness, which is measured by the Breslow index. Previous works mainly focus on the binary problem of detecting the presence of the melanoma. However, the system proposed in this paper goes a step further by also considering the stage of the lesion in the classification task. To do so, we extract 100 features that consider the shape, colour, pigment network and texture of the benign and malignant lesions. The problem is tackled as a five-class classification problem, where the first class represents benign lesions, and the remaining four classes represent the different stages of the melanoma (via the Breslow index). Based on the problem definition, we identify the learning setting as a partial order problem, in which the patterns belonging to the different melanoma stages present an order relationship, but where there is no order arrangement with respect to the benign lesions. Under this assumption about the class topology, we design several proposals to exploit this structure and improve data preprocessing. In this sense, we experimentally demonstrate that those proposals exploiting the partial order assumption achieve better performance than 12 baseline nominal and ordinal classifiers (including a deep learning model) which do not consider this partial order. To deal with class imbalance, we additionally propose specific over-sampling techniques that consider the structure of the problem for the creation of synthetic patterns. The experimental study is carried out with clinician-curated images from the Interactive Atlas of Dermoscopy, which eases reproducibility of experiments. Concerning the results obtained, in spite of having augmented the complexity of the classification problem with more classes, the performance of our proposals in the binary problem is similar to the one reported in the literature

New models for donor-recipient matching in lung transplantations

1. INTRODUCCIÓN. Uno de los principales problemas del trasplante de pulmón es la escasez de órganos y la reducción de las tasas de supervivencia. En ausencia de un modelo estandarizado internacional para la asignación de donante-receptor de pulmón, nos propusimos desarrollar un modelo de este tipo basado en las características de experiencias adquiridas con donantes y receptores de pulmón con el objetivo de mejorar los resultados de todo el proceso de donación y trasplante de pulmón. Será muy importante unificar criterios para seleccionar donantes y candidatos a trasplante de pulmón mejorando así el proceso. Esto podría incluir el uso de métodos predictivos [1] o la identificación temprana de comorbilidades en los pacientes, un factor que influye en la supervivencia tanto antes como después del trasplante. Muchas variables deben tenerse en cuenta a la hora de realizar un trasplante de pulmón y pueden influir en el resultado quirúrgico, como la edad, la compatibilidad anatómica e inmunológica entre donante y receptor, conservación y estado del órgano trasplantado, tipo de cirugía y tipo de trasplante. En consecuencia, los equipos multidisciplinares son responsables de gestionar y evaluar el proceso de trasplante [2]. La asignación de pulmón donante-receptor se basa en la experiencia de los neumólogos o cirujanos torácicos, mientras algunos de los equipos de trasplantes siguen el método de puntuación de asignación de pulmón LAS (Lung Allocations Score) para la asignación de donante-receptor. El LAS se diseñó en 2005 y se utiliza como modelo predictivo de morbilidad y mortalidad en el trasplante de pulmón. Sin embargo, contrariamente a los supuestos iniciales, no ha sido aceptado internacionalmente por varias limitaciones, como no considerar parámetros importantes de donantes y receptores [3,4]. Por ello, en este trabajo hemos revisado la asignación de órganos para intentar identificar áreas emergentes de conocimiento que puedan ayudar a mejorar y optimizar los injertos pulmonares, reducir la morbilidad y mortalidad hospitalaria y potenciar los resultados generales. 2. PACIENTES Y MÉTODO. En nuestro trabajo realizamos un análisis retrospectivo de 404 trasplantes de pulmón realizados en el Hospital Universitario Reina Sofía (Córdoba, España) durante 23 años, se analizan diversas variables clínicas obtenidas a través de nuestra experiencia de práctica clínica en el proceso de donación y trasplante. Estos se utilizaron para crear varios modelos de clasificación. En nuestra metodología aplicada combinamos regresión logística (LR) con un tipo especial de red neuronal para obtener las ventajas de ambos. LR es un método ampliamente utilizado y aceptado para analizar variables de resultado binarias o multiclase, que tiene la flexibilidad de usarse para predecir el estado de probabilidad de una variable dicotómica basada en variables predictivas. A su vez, los métodos de aprendizaje automático comprenden diferentes algoritmos de entrenamiento supervisados y su implementación ha llevado a mejoras significativas sobre los métodos estadísticos clásicos en muchos campos de aplicación. Tanto el aprendizaje automático como los métodos LR se utilizaron para diferentes propósitos para analizar los trasplantes de pulmón en este trabajo actual [5-6]. Primero llevamos a cabo comparaciones binarias (supervivencia / no supervivencia) y luego ampliamos la misma metodología a problemas multiclase [7]. 3. RESULTADOS Y DISCUSIÓN. Entre los resultados obtenidos destacan que la aparición del modelo propuesto representa una poderosa herramienta para el emparejamiento donante-receptor, así, en este trabajo actual, superó la capacidad de los métodos estadísticos clásicos. Las variables que predijeron un aumento de la probabilidad de supervivencia fueron: mayor capacidad vital funcional (FVC) pretrasplante y pos-trasplante, menor presión de dióxido de carbono (PCO2) pretrasplante, menor ventilación mecánica del donante y menor tiempo de isquemia. Los donantes masculinos tenían una mayor probabilidad de supervivencia. Es de destacar que el valor absoluto fue bastante bajo, por lo que esta influencia puede verse ensombrecida por interacciones con el resto de variables. El impacto del sexo del donante presentó resultados contradictorios en diferentes publicaciones [8]. En un estudio multicéntrico, el sexo no se identificó como un factor de riesgo independiente para un aumento de la disfunción pulmonar primaria o un aumento de la mortalidad [9]. El mayor riesgo atribuido al sexo del donante probablemente se relacionó con que el tamaño del órgano del donante era menor que el tamaño medio para el sexo de los receptores [10]. Los pulmones masculinos son generalmente aproximadamente un 20% más grandes que los pulmones femeninos [11], lo que puede explicar las diferencias de probabilidad que encontramos en este trabajo. Las variables que influyeron negativamente en la supervivencia del trasplante fueron bajo volumen espiratorio forzado en el primer segundo (FEV1) pretrasplante, menor cociente presión arterial de oxígeno (PaO2) / fracción de oxígeno inspirado (FiO2), trasplante bilobar, anciano receptor y donante, donante- desproporción del injerto receptor que requiere una reducción quirúrgica (Tailor), tipo de trasplante combinado, necesidad de bypass cardiopulmonar durante la cirugía. Este trabajo, intenta la optimización de los resultados de la asignación donante-receptor del trasplante de pulmón, considerando y atendiendo parte de la dificultad que plantean siguientes principios: Justicia: se debe garantizar el acceso equitativo y la asignación justa de los órganos obtenidos para el trasplante; esto puede estar influenciado por varios factores, entre los que se encuentran la edad del donante y del receptor, la urgencia clínica del trasplante, el tiempo en lista de espera, las características inmunológicas, entre otros. Eficiencia: que puede conceptualizarse como aprovechar al máximo los recursos limitados y evitar su uso indebido [12]; por ejemplo, la mayoría de los modelos de asignación no priorizan a los pacientes que consumirán menos recursos, tendrán una estancia hospitalaria más corta, un tiempo de supervivencia más largo, etc. Utilidad: entendida como la maximización del bien general deseado, basada en la supervivencia de los receptores y trasplantados. pulmones, calidad de vida del receptor y disponibilidad de tratamientos alternativos [13]. Conociendo estos principios, en este trabajo buscamos posibles nuevos modelos de asignación basados en la metodología estadística clásica asociada con la inteligencia artificial conocida como ‘redes neuronales’. Entre objetivos estarían estudiar la predictibilidad de la supervivencia a los seis meses del trasplante pulmonar, utilizando un conjunto de datos homogéneo donde todos los trasplantes se habían realizado en el mismo hospital; y valorar si el uso del aprendizaje automático podría superar los enfoques estadísticos tradicionales. 4. CONCLUSIÓNES. El trabajo y las actividades encaminadas a mejorar el problema de la escasez de órganos para trasplante, deben incluir medidas para optimizar los donantes que sufren muerte encefálica, promover la donación en vivo, evaluar criterios ampliados para el trasplante de órganos y aumentar la donación en asistolia o con el uso de máquinas de perfusión pulmonar “ex vivo”. Sería importante mejorar el proceso mediante la creación de un nuevo modelo de asignación donante-receptor. Creemos que el modelo que obtuvimos en esta revisión retrospectiva del sistema de asignación de pulmón donante-receptor puede ser un nuevo camino a seguir para optimizar el proceso de donación y trasplante de pulmón. Este sistema también debe considerar variables adicionales de beneficio del trasplante, es decir, la asignación considerando la supervivencia y el uso maximizado dada la mayor demanda de órganos que está fomentando el trasplante de órganos mediante la aplicación de criterios expandidos. Las redes neuronales artificiales, basadas en datos y variables resultantes de la experiencia y los resultados de trasplantes múltiples, podrían jugar un papel importante en el emparejamiento de donantes-receptores de trasplantes de pulmón, optimizando así la eficiencia, efectividad y equidad, y ayudando a evitar cualquier subjetividad que pueda jugar un papel en la toma de decisiones de los profesionales. La fusión de LR y redes neuronales puede aportar información sobre la importancia de cada una de las relaciones no lineales entre variables que influyen en la evolución del trasplante de pulmón. Finalmente, sería interesante validar estos resultados, tanto interna como externamente, y realizar una validación prospectiva de un ensayo clínico multicéntrico para intentar conseguir una mayor robustez a la hora de aplicar el modelo de asignación en pulmón en el contexto de las asignaciones de trasplantes

An Ordinal Approach to Affective Computing

Both depression prediction and emotion recognition systems are often based on ordinal ground truth due to subjectively annotated datasets. Yet, both have so far been posed as classification or regression problems. These naive approaches have fundamental issues because they are not focused on ordering, unlike ordinal regression, which is the most appropriate for truly ordinal ground truth. Ordinal regression to date offers comparatively fewer, more limited methods when compared with other branches in machine learning, and its usage has been limited to specific research domains. Accordingly, this thesis presents investigations into ordinal approaches for affective computing by describing a consistent framework to understand all ordinal system designs, proposing ordinal systems for large datasets, and introducing tools and principles to select suitable system designs and evaluation methods. First, three learning approaches are compared using the support vector framework to establish the empirical advantages of ordinal regression, which is lacking from the current literature. Results on depression and emotion corpora indicate that ordinal regression with proper tuning can improve existing depression and emotion systems. Ordinal logistic regression (OLR), which is an extension of logistic regression for ordinal scales, contributes to a number of model structures, from which the best structure must be chosen. Exploiting the newly proposed computationally efficient greedy algorithm for model structure selection (GREP), OLR outperformed or was comparable with state-of-the-art depression systems on two benchmark depression speech datasets. Deep learning has dominated many affective computing fields, and hence ordinal deep learning is an attractive prospect. However, it is under-studied even in the machine learning literature, which motivates an in-depth analysis of appropriate network architectures and loss functions. One of the significant outcomes of this analysis is the introduction of RankCNet, a novel ordinal network which utilises a surrogate loss function of rank correlation. Not only the modelling algorithm but the choice of evaluation measure depends on the nature of the ground truth. Rank correlation measures, which are sensitive to ordering, are more apt for ordinal problems than common classification or regression measures that ignore ordering information. Although rank-based evaluation for ordinal problems is not new, so far in affective computing, ordinality of the ground truth has been widely ignored during evaluation. Hence, a systematic analysis in the affective computing context is presented, to provide clarity and encourage careful choice of evaluation measures. Another contribution is a neural network framework with a novel multi-term loss function to assess the ordinality of ordinally-annotated datasets, which can guide the selection of suitable learning and evaluation methods. Experiments on multiple synthetic and affective speech datasets reveal that the proposed system can offer reliable and meaningful predictions about the ordinality of a given dataset. Overall, the novel contributions and findings presented in this thesis not only improve prediction accuracy but also encourage future research towards ordinal affective computing: a different paradigm, but often the most appropriate

Analyzing Granger causality in climate data with time series classification methods

Attribution studies in climate science aim for scientifically ascertaining the influence of climatic variations on natural or anthropogenic factors. Many of those studies adopt the concept of Granger causality to infer statistical cause-effect relationships, while utilizing traditional autoregressive models. In this article, we investigate the potential of state-of-the-art time series classification techniques to enhance causal inference in climate science. We conduct a comparative experimental study of different types of algorithms on a large test suite that comprises a unique collection of datasets from the area of climate-vegetation dynamics. The results indicate that specialized time series classification methods are able to improve existing inference procedures. Substantial differences are observed among the methods that were tested

Validación de las redes neuronales artificiales como metodología para la asignación donante-receptor en el trasplante hepático

1. Introducción o motivación de la tesis. El trasplante hepático constituye la mejor opción terapéutica para un gran número de patologías hepáticas en fase terminal. Desafortunadamente, existe un disbalance entre el número de candidatos y el número de donantes disponibles, lo que conlleva a muertes y exclusiones en lista de espera. En los últimos años se han realizado numerosos esfuerzos para incrementar el pool de donantes, así como para optimizar la priorización en lista de los posibles receptores. Entre ellos, destacan la utilización de los denominados “donantes con criterios extendidos” (ECD, extended criteria donors) y la adopción de un sistema de priorización mediante un score basado en la gravedad del candidato (MELD, Mayo Model for End Stage Liver Disease). La asignación donante-receptor es un factor determinante en los resultados del trasplante hepático, para lo cual se han propuesto múltiples “scores” en la literatura. Sin embargo, ninguno de ellos se considera óptimo para realizar este emparejamiento. En 2014, nuestro grupo publicó la utilidad de las redes neuronales artificiales (RNA) como una herramienta óptima para el matching donante-receptor en el trasplante hepático. Para ello se realizó un estudio multicéntrico a nivel nacional, en el que se demostró la superioridad de este modelo para predecir la supervivencia post-trasplante. El objetivo de nuestro estudio es analizar si las redes neuronales tienen un comportamiento similar al demostrado en España en un sistema de salud diferente, y si son una herramienta superior a los modelos actuales utilizados para el matching donante-receptor. 2. Contenido de la investigación. Se recogieron 822 pares donante-receptor (D-R) de trasplantes hepáticos realizados de forma consecutiva en el hospital King’s College de Londres durante los años 2002 a 2010, teniendo en cuenta variables del donante, del receptor y del trasplante. Para cada par, se calcularon dos probabilidades: la probabilidad de supervivencia (CCR) y la probabilidad de pérdida del injerto (MS) a los 3 meses del trasplante. Para ello se construyeron dos modelos de redes neuronales artificiales diferentes y no complementarios: el modelo de aceptación y el modelo de rechazo. Se construyeron varios modelos: 1) Entrenamiento y generalización con los pares D-R del hospital británico (a 3 y a 12 meses post-trasplante) , 2) Entrenamiento con pares D-R españoles y generalización con los británicos y 3) Modelo combinado: entrena y generaliza con pares españoles y británicos. Además, para ayudar en la toma de decisiones según los resultados obtenidos por la red neuronal, se construyó un sistema basado en reglas. Los modelos diseñados para el hospital King’s College demostraron una excelente capacidad de predicción para ambos: 3 meses (CCR-AUC=0,9375; MS-AUC=0,9374) y 12 meses (CCR-AUC=0,7833; MS-AUC=0,8153), casi un 15% superior a la mejor capacidad de predicción obtenida por otros scores como MELD o BAR (Balance of Risk). Además, estos resultados mejoran los publicados previamente en el modelo multicéntrico español. Sin embargo, esta capacidad de predicción no es tan buena cuando el modelo entrena y generaliza con pares D-R procedentes de sistemas de salud diferentes, ni tampoco en el modelo combinado. 3.Conclusiones. 1. El empleo de Redes Neuronales Artificiales para la Asignación Donante-Receptor en el Trasplante Hepático ha demostrado excelentes capacidades de predicción de Supervivencia y No Supervivencia del injerto, al ser validadas en un sistema de salud distinto de otro país, por lo tanto la metodología de la Inteligencia Artificial ha quedado claramente validada como herramienta óptima para el “matching D-R”. 2. Nuestros resultados apoyan que los distintos equipos de Trasplante Hepático consideren las Redes Neuronales Artificiales como el método más exhaustivo y objetivo descrito hasta la fecha para el manejo de la lista de espera del Trasplante Hepático, evitando criterios subjetivos y arbitrarios y maximizando los principios de equidad, utilidad y eficiencia. 3. Nuestro modelo de validación, es decir, la RNA generada con pares D-R del Hospital King’s College de Londres ha logrado la máxima capacidad de predicción, superando el resto de modelos y apoyando el hecho de que cada RNA debe ser entrenada, testada y optimizada para un propósito específico, en una única población. Así, cada programa de TH debería disponer de su propio modelo construido con sus propios datos, para apoyar la decisión del “matching D-R”. 4. El modelo de Asignación D-R generado por las RNAs combina lo mejor del sistema MELD con el Beneficio de Supervivencia Global, usando para ello un sistema basado en reglas, maximizando la utilidad de los injertos disponibles. Esto los convierte en sistemas complementarios para un mismo fin, en lugar de considerarlos competitivos