BronchoTrack: Airway Lumen Tracking for Branch-Level Bronchoscopic Localization

Localizing the bronchoscope in real time is essential for ensuring intervention quality. However, most existing methods struggle to balance between speed and generalization. To address these challenges, we present BronchoTrack, an innovative real-time framework for accurate branch-level localization, encompassing lumen detection, tracking, and airway association.To achieve real-time performance, we employ a benchmark lightweight detector for efficient lumen detection. We are the first to introduce multi-object tracking to bronchoscopic localization, mitigating temporal confusion in lumen identification caused by rapid bronchoscope movement and complex airway structures. To ensure generalization across patient cases, we propose a training-free detection-airway association method based on a semantic airway graph that encodes the hierarchy of bronchial tree structures.Experiments on nine patient datasets demonstrate BronchoTrack's localization accuracy of 85.64 \%, while accessing up to the 4th generation of airways.Furthermore, we tested BronchoTrack in an in-vivo animal study using a porcine model, where it successfully localized the bronchoscope into the 8th generation airway.Experimental evaluation underscores BronchoTrack's real-time performance in both satisfying accuracy and generalization, demonstrating its potential for clinical applications

Fluorescence microscopy image analysis of retinal neurons using deep learning

An essential goal of neuroscience is to understand the brain by simultaneously identifying, measuring, and analyzing activity from individual cells within a neural population in live brain tissue. Analyzing fluorescence microscopy (FM) images in real-time with computational algorithms is essential for achieving this goal. Deep learning techniques have shown promise in this area, but face domain-specific challenges due to limited training data, significant amounts of voxel noise in FM images, and thin structures present in large 3D images. In this thesis, I address these issues by introducing a novel deep learning pipeline to analyze static FM images of neurons with minimal data requirements and demonstrate the pipeline’s ability to segment neurons from low signal-to-noise ratio FM images with few training samples. The first step of this pipeline employs a Generative Adversarial Network (GAN) equipped to learn imaging properties from a small set of static FM images acquired for a given neuroscientific experiment. Operating like an actual microscope, our fully-trained GAN can then generate realistic static FM images from volumetric reconstructions of neurons with added control over the intensity and noise of the generated images. For the second step in our pipeline, a novel segmentation network is trained on GAN-generated images with reconstructed neurons serving as “gold standard” ground truths. While training on a large dataset of FM images is optimal, a 15\% improvement in neuron segmentation accuracy from noisy FM images is shown when architectures are fine-tuned only on a small subsample of real image data. To evaluate the overall feasibility of our pipeline and the utility of generated images, 2 novel synthetic and 3 newly acquired FM image datasets are introduced along with a new evaluation protocol for FM image ”realness” that incorporates content, texture, and expert opinion metrics. While this pipeline's primary application is to segment neurons from highly noisy FM images, its utility can be extended to automate other FM tasks such as synapse identification, neuron classification, or super-resolution

A Review of Artificial Intelligence in Breast Imaging

With the increasing dominance of artificial intelligence (AI) techniques, the important prospects for their application have extended to various medical fields, including domains such as in vitro diagnosis, intelligent rehabilitation, medical imaging, and prognosis. Breast cancer is a common malignancy that critically affects women’s physical and mental health. Early breast cancer screening—through mammography, ultrasound, or magnetic resonance imaging (MRI)—can substantially improve the prognosis for breast cancer patients. AI applications have shown excellent performance in various image recognition tasks, and their use in breast cancer screening has been explored in numerous studies. This paper introduces relevant AI techniques and their applications in the field of medical imaging of the breast (mammography and ultrasound), specifically in terms of identifying, segmenting, and classifying lesions; assessing breast cancer risk; and improving image quality. Focusing on medical imaging for breast cancer, this paper also reviews related challenges and prospects for AI

ROBUST DEEP LEARNING METHODS FOR SOLVING INVERSE PROBLEMS IN MEDICAL IMAGING

The medical imaging field has a long history of incorporating machine learning algorithms to address inverse problems in image acquisition and analysis. With the impressive successes of deep neural networks on natural images, we seek to answer the obvious question: do these successes also transfer to the medical image domain? The answer may seem straightforward on the surface. Tasks like image-to-image transformation, segmentation, detection, etc., have direct applications for medical images. For example, metal artifact reduction for Computed Tomography (CT) and reconstruction from undersampled k-space signal for Magnetic Resonance (MR) imaging can be formulated as an image-to-image transformation; lesion/tumor detection and segmentation are obvious applications for higher level vision tasks. While these tasks may be similar in formulation, many practical constraints and requirements exist in solving these tasks for medical images. Patient data is highly sensitive and usually only accessible from individual institutions. This creates constraints on the available groundtruth, dataset size, and computational resources in these institutions to train performant models. Due to the mission-critical nature in healthcare applications, requirements such as performance robustness and speed are also stringent. As such, the big-data, dense-computation, supervised learning paradigm in mainstream deep learning is often insufficient to address these situations. In this dissertation, we investigate ways to benefit from the powerful representational capacity of deep neural networks while still satisfying the above-mentioned constraints and requirements. The first part of this dissertation focuses on adapting supervised learning to account for variations such as different medical image modality, image quality, architecture designs, tasks, etc. The second part of this dissertation focuses on improving model robustness on unseen data through domain adaptation, which ameliorates performance degradation due to distribution shifts. The last part of this dissertation focuses on self-supervised learning and learning from synthetic data with a focus in tomographic imaging; this is essential in many situations where the desired groundtruth may not be accessible

Development of an MRI Template and Analysis Pipeline for the Spinal Cord and Application in Patients with Spinal Cord Injury

La moelle épinière est un organe fondamental du corps humain. Étant le lien entre le cerveau et le système nerveux périphérique, endommager la moelle épinière, que ce soit suite à un trauma ou une maladie neurodégénérative, a des conséquences graves sur la qualité de vie des patients. En effet, les maladies et traumatismes touchant la moelle épinière peuvent affecter l’intégrité des neurones et provoquer des troubles neurologiques et/ou des handicaps fonctionnels. Bien que de nombreuses voies thérapeutiques pour traiter les lésions de la moelle épinière existent, la connaissance de l’étendue des dégâts causés par ces lésions est primordiale pour améliorer l’efficacité de leur traitement et les décisions cliniques associées. L’imagerie par résonance magnétique (IRM) a démontré un grand potentiel pour le diagnostic et pronostic des maladies neurodégénératives et traumas de la moelle épinière. Plus particulièrement, l’analyse par template de données IRM du cerveau, couplée à des outils de traitement d’images automatisés, a permis une meilleure compréhension des mécanismes sous-jacents de maladies comme l’Alzheimer et la Sclérose en Plaques. Extraire automatiquement des informations pertinentes d’images IRM au sein de régions spécifiques de la moelle épinière présente toutefois de plus grands défis que dans le cerveau. Il n’existe en effet qu’un nombre limité de template de la moelle épinière dans la littérature, et aucun ne couvre toute la moelle épinière ou n’est lié à un template existant du cerveau. Ce manque de template et d’outils automatisés rend difficile la tenue de larges études d’analyse de la moelle épinière sur des populations variées. L’objectif de ce projet est donc de proposer un nouveau template IRM couvrant toute la moelle épinière, recalé avec un template existant du cerveau, et intégrant des atlas de la structure interne de la moelle épinière (e.g., matière blanche et grise, tracts de la matière blanche). Ce template doit venir avec une série d’outils automatisés permettant l’extraction d’information IRM au sein de régions spécifiques de la moelle épinière. La question générale de recherche de ce projet est donc « Comment créer un template générique de la moelle épinière, qui permettrait l’analyse non biaisée et reproductible de données IRM de la moelle épinière ? ». Plusieurs contributions originales ont été proposées pour répondre à cette question et vont être décrites dans les prochains paragraphes. La première contribution de ce projet est le développement du logiciel Spinal Cord Toolbox (SCT). SCT est un logiciel open-source de traitement d’images IRM multi-parametrique de la moelle épinière (De Leener, Lévy, et al., 2016). Ce logiciel intègre notamment des outils pour la détection et la segmentation automatique de la moelle épinière et de sa structure interne (i.e., matière blanche et matière grise), l’identification et la labellisation des niveaux vertébraux, le recalage d’images IRM multimodales sur un template générique de la moelle épinière (précédemment le template MNI-Poly-AMU, maintenant le template PAM50, proposé içi). En se basant sur un atlas de la moelle, SCT intègre également des outils pour extraire des données IRM de régions spécifiques de la moelle épinière, comme la matière blanche et grise et les tracts de la matière blanche, ainsi que sur des niveaux vertébraux spécifiques. D’autres outils additionnels ont aussi été proposés, comme des outils de correction de mouvement et de traitement basiques d’images appliqués le long de la moelle épinière. Chaque outil intégré à SCT a été validé sur un jeu de données multimodales. La deuxième contribution de ce projet est le développement d’une nouvelle méthode de recalage d’images IRM de la moelle épinière (De Leener, Mangeat, et al., 2017). Cette méthode a été développée pour un usage particulier : le redressement d’images IRM de la moelle épinière, mais peut également être utilisé pour recaler plusieurs images de la moelle épinière entre elles, tout en tenant compte de la distribution vertébrale de chaque sujet. La méthode proposée se base sur une approximation globale de la courbure de la moelle épinière dans l’espace et sur la résolution analytique des champs de déformation entre les deux images. La validation de cette nouvelle méthode a été réalisée sur une population de sujets sains et de patients touchés par une compression de la moelle épinière. La contribution majeure de ce projet est le développement d’un système de création de template IRM de la moelle épinière et la proposition du template PAM50 comme template de référence pour les études d’analyse par template de données IRM de la moelle épinière. Le template PAM50 a été créé à partir d’images IRM tiré de 50 sujets sains, et a été généré en utilisant le redressement d’images présenté ci-dessus et une méthode de recalage d’images itératif non linéaire, après plusieurs étapes de prétraitement d’images. Ces étapes de prétraitement incluent la segmentation automatique de la moelle épinière, l’extraction manuelle du bord antérieur du tronc cérébral, la détection et l’identification des disques intervertébraux, et la normalisation d’intensité le long de la moelle. Suite au prétraitement, la ligne centrale moyenne de la moelle et la distribution vertébrale ont été calculées sur la population entière de sujets et une image initiale de template a été générée. Après avoir recalé toutes les images sur ce template initial, le template PAM50 a été créé en utilisant un processus itératif de recalage d’image, utilisé pour générer des templates de cerveau. Le PAM50 couvre le tronc cérébral et la moelle épinière en entier, est disponible pour les contrastes IRM pondérés en T1, T2 et T2*, et intègre des cartes probabilistes et atlas de la structure interne de la moelle épinière. De plus, le PAM50 a été recalé sur le template ICBM152 du cerveau, permettant ainsi la tenue d’analyse par template simultanément dans le cerveau et dans la moelle épinière. Finalement, plusieurs résultats complémentaires ont été présentés dans cette dissertation. Premièrement, une étude de validation de la répétabilité et reproductibilité de mesures de l’aire de section de la moelle épinière a été menée sur une population de patients touchés par la sclérose en plaques. Les résultats démontrent une haute fiabilité des mesures ainsi que la possibilité de détecter des changements très subtiles de l’aire de section transverse de la moelle, importants pour mesurer l’atrophie de la moelle épinière précoce due à des maladies neurodégénératives comme la sclérose en plaques. Deuxièmement, un nouveau biomarqueur IRM des lésions de la moelle épinière a été proposé, en collaboration avec Allan Martin, de l’Université de Toronto. Ce biomarqueur, calculé à partir du ratio d’intensité entre la matière blanche et grise sur des images IRM pondérées en T2*, utilise directement les développements proposés dans ce projet, notamment en utilisant le recalage du template de la moelle épinière et les méthodes de segmentation de la moelle. La faisabilité d’extraire des mesures de données IRM multiparamétrique dans des régions spécifiques de la moelle épinière a également été démontrée, permettant d’améliorer le diagnostic et pronostic de lésions et compression de la moelle épinière. Finalement, une nouvelle méthode d’extraction de la morphométrie de la moelle épinière a été proposée et utilisée sur une population de patients touchés par une compression asymptomatique de la moelle épinière, démontrant de grandes capacités de diagnostic (> 99%). Le développement du template PAM50 comble le manque de template de la moelle épinière dans la littérature mais présente cependant plusieurs limitations. En effet, le template proposé se base sur une population de 50 sujets sains et jeunes (âge moyen = 27 +- 6.5) et est donc biaisée vers cette population particulière. Adapter les analyses par template pour un autre type de population (âge, race ou maladie différente) peut être réalisé directement sur les méthodes d’analyse mais aussi sur le template en lui-même. Tous le code pour générer le template a en effet été mis en ligne (https://github.com/neuropoly/template) pour permettre à tout groupe de recherche de développer son propre template. Une autre limitation de ce projet est le choix d’un système de coordonnées basé sur la position des vertèbres. En effet, les vertèbres ne représentent pas complètement le caractère fonctionnel de la moelle épinière, à cause de la différence entre les niveaux vertébraux et spinaux. Le développement d’un système de coordonnées spinal, bien que difficile à caractériser dans des images IRM, serait plus approprié pour l’analyse fonctionnelle de la moelle épinière. Finalement, il existe encore de nombreux défis pour automatiser l’ensemble des outils développés dans ce projet et les rendre robuste pour la majorité des contrastes et champs de vue utilisés en IRM conventionnel et clinique. Ce projet a présenté plusieurs développements importants pour l’analyse de données IRM de la moelle épinière. De nombreuses améliorations du travail présenté sont cependant requises pour amener ces outils dans un contexte clinique et pour permettre d’améliorer notre compréhension des maladies affectant la moelle épinière. Les applications cliniques requièrent notamment l’amélioration de la robustesse et de l’automatisation des méthodes d’analyse d’images proposées. La caractérisation de la structure interne de la moelle épinière, incluant la matière blanche et la matière grise, présente en effet de grands défis, compte tenu de la qualité et la résolution des images IRM standard acquises en clinique. Les outils développés et validés au cours de ce projet ont un grand potentiel pour la compréhension et la caractérisation des maladies affectant la moelle épinière et aura un impact significatif sur la communauté de la neuroimagerie.----------ABSTRACT The spinal cord plays a fundamental role in the human body, as part of the central nervous system and being the vector between the brain and the peripheral nervous system. Damaging the spinal cord, through traumatic injuries or neurodegenerative diseases, can significantly affect the quality of life of patients. Indeed, spinal cord injuries and diseases can affect the integrity of neurons, and induce neurological impairments and/or functional disabilities. While various treatment procedures exist, assessing the extent of damages and understanding the underlying mechanisms of diseases would improve treatment efficiency and clinical decisions. Over the last decades, magnetic resonance imaging (MRI) has demonstrated a high potential for the diagnosis and prognosis of spinal cord injury and neurodegenerative diseases. Particularly, template-based analysis of brain MRI data has been very helpful for the understanding of neurological diseases, using automated analysis of large groups of patients. However, extracting MRI information within specific regions of the spinal cord with minimum bias and using automated tools is still a challenge. Indeed, only a limited number of MRI template of the spinal cord exists, and none covers the full spinal cord, thereby preventing large multi-centric template-based analysis of the spinal cord. Moreover, no template integrates both the spinal cord and the brain region, thereby preventing simultaneous cerebrospinal studies. The objective of this project was to propose a new MRI template of the full spinal cord, which allows simultaneous brain and spinal cord studies, that integrates atlases of the spinal cord internal structures (e.g., white and gray matter, white matter pathways) and that comes with tools for extracting information within these subregions. More particularly, the general research question of the project was “How to create generic MRI templates of the spinal cord that would enable unbiased and reproducible template-based analysis of spinal cord MRI data?”. Several original contributions have been made to answer this question and to enable template-based analysis of spinal cord MRI data. The first contribution was the development of the Spinal Cord Toolbox (SCT), a comprehensive and open-source software for processing multi-parametric MRI data of the spinal cord (De Leener, Lévy, et al., 2016). SCT includes tools for the automatic segmentation of the spinal cord and its internal structure (white and gray matter), vertebral labeling, registration of multimodal MRI data (structural and non-structural) on a spinal cord MRI template (initially the MNI-Poly-AMU template, later the PAM50 template), co-registration of spinal cord MRI images, as well as the robust extraction of MRI metric within specific regions of the spinal cord (i.e., white and gray matter, white matter tracts, gray matter subregions) and specific vertebral levels using a spinal cord atlas (Lévy et al., 2015). Additional tools include robust motion correction and image processing along the spinal cord. Each tool included in SCT has been validated on a multimodal dataset. The second contribution of this project was the development of a novel registration method dedicated to spinal cord images, with an interest in the straightening of the spinal cord, while preserving its topology (De Leener, Mangeat et al., 2017). This method is based on the global approximation of the spinal cord and the analytical computation of deformation fields perpendicular to the centerline. Validation included calculation of distance measurements after straightening on a population of healthy subjects and patients with spinal cord compression. The major contribution of this project was the development of a framework for generating MRI template of the spinal cord and the PAM50 template, an unbiased and symmetrical MRI template of the brainstem and full spinal cord. Based on 50 healthy subjects, the PAM50 template was generated using an iterative nonlinear registration process, after applying normalization and straightening of all images. Pre-processing included segmentation of the spinal cord, manual delineation of the brainstem anterior edge, detection and identification of intervertebral disks, and normalization of intensity along the spinal cord. Next, the average centerline and vertebral distribution was computed to create an initial straight template space. Then, all images were registered to the initial template space and an iterative nonlinear registration framework was applied to create the final symmetrical template. The PAM50 covers the brainstem and the full spinal cord, from C1 to L2, is available for T1-, T2- and T2*-weighted contrasts, and includes probabilistic maps of the white and the gray matter and atlases of the white matter pathways and gray matter subregions. Additionally, the PAM50 template has been merged with the ICBM152 brain template, thereby allowing for simultaneous cerebrospinal template-based analysis. Finally, several complementary results, focused on clinical validation and applications, are presented. First, a reproducibility and repeatability study of cross-sectional area measurements using SCT (De Leener, Granberg, Fink, Stikov, & Cohen-Adad, 2017) was performed on a Multiple Sclerosis population (n=9). The results demonstrated the high reproducibility and repeatability of SCT and its ability to detect very subtle atrophy of the spinal cord. Second, a novel biomarker of spinal cord injury has been proposed. Based on the T2*-weighted intensity ratio between the white and the gray matter, this new biomarker is computed by registering MRI images with the PAM50 template and extracting metrics using probabilistic atlases. Additionally, the feasibility of extracting multiparametric MRI metrics from subregions of the spinal cord has been demonstrated and the diagnostic potential of this approach has been assessed on a degenerative cervical myelopathy (DCM) population. Finally, a method for extracting shape morphometrics along the spinal cord has been proposed, including spinal cord flattening, indentation and torsion. These metrics demonstrated high capabilities for the diagnostic of asymptomatic spinal cord compression (AUC=99.8% for flattening, 99.3% for indentation, and 98.4% for torsion). The development of the PAM50 template enables unbiased template-based analysis of the spinal cord. However, the PAM50 template has several limitations. Indeed, the proposed template has been generated with multimodal MRI images from 50 healthy and young individuals (age = 27+/- 6.5 y.o.). Therefore, the template is specific to this particular population and could not be directly usable for age- or disease-specific populations. One solution is to open-source the templategeneration code so that research groups can generate and use their own spinal cord MRI template. The code is available on https://github.com/neuropoly/template. While this project introduced a generic referential coordinate system, based on vertebral levels and the pontomedullary junction as origin, one limitation is the choice of this coordinate system. Another coordinate system, based spinal segments would be more suitable for functional analysis. However, the acquisition of MRI images with high enough resolution to delineate the spinal roots is still challenging. Finally, several challenges in the automation of spinal cord MRI processing remains, including the robust detection and identification of vertebral levels, particularly in case of small fields-of-view. This project introduced key developments for the analysis of spinal cord MRI data. Many more developments are still required to bring them into clinics and to improve our understanding of diseases affecting the spinal cord. Indeed, clinical applications require the improvement of the robustness and the automation of the proposed processing and analysis tools. Particularly, the detection and segmentation of spinal cord structures, including vertebral labeling and white/gray matter segmentation, is still challenging, given the lowest quality and resolution of standard clinical MRI acquisition. The tools developed and validated here have the potential to improve our understanding and the characterization of diseases affecting the spinal cord and will have a significant impact on the neuroimaging community

Advanced Sensing and Image Processing Techniques for Healthcare Applications

This Special Issue aims to attract the latest research and findings in the design, development and experimentation of healthcare-related technologies. This includes, but is not limited to, using novel sensing, imaging, data processing, machine learning, and artificially intelligent devices and algorithms to assist/monitor the elderly, patients, and the disabled population

Deep Learning-Based Action Recognition

The classification of human action or behavior patterns is very important for analyzing situations in the field and maintaining social safety. This book focuses on recent research findings on recognizing human action patterns. Technology for the recognition of human action pattern includes the processing technology of human behavior data for learning, technology of expressing feature values ​​of images, technology of extracting spatiotemporal information of images, technology of recognizing human posture, and technology of gesture recognition. Research on these technologies has recently been conducted using general deep learning network modeling of artificial intelligence technology, and excellent research results have been included in this edition

The “Knowledgeable” CT Scanner: Optimization by technological advancements

Optimization of a computed tomography (CT) exam can be challenging, as there is a wide variety in patient characteristics, continuously emerging technologies and the inc

Texture and Colour in Image Analysis

Research in colour and texture has experienced major changes in the last few years. This book presents some recent advances in the field, specifically in the theory and applications of colour texture analysis. This volume also features benchmarks, comparative evaluations and reviews