CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces

In this paper, we formalize the idea behind capsule nets of using a capsule vector rather than a neuron activation to predict the label of samples. To this end, we propose to learn a group of capsule subspaces onto which an input feature vector is projected. Then the lengths of resultant capsules are used to score the probability of belonging to different classes. We train such a Capsule Projection Network (CapProNet) by learning an orthogonal projection matrix for each capsule subspace, and show that each capsule subspace is updated until it contains input feature vectors corresponding to the associated class. We will also show that the capsule projection can be viewed as normalizing the multiple columns of the weight matrix simultaneously to form an orthogonal basis, which makes it more effective in incorporating novel components of input features to update capsule representations. In other words, the capsule projection can be viewed as a multi-dimensional weight normalization in capsule subspaces, where the conventional weight normalization is simply a special case of the capsule projection onto 1D lines. Only a small negligible computing overhead is incurred to train the network in low-dimensional capsule subspaces or through an alternative hyper-power iteration to estimate the normalization matrix. Experiment results on image datasets show the presented model can greatly improve the performance of the state-of-the-art ResNet backbones by $10-20\%$ and that of the Densenet by $5-7\%$ respectively at the same level of computing and memory expenses. The CapProNet establishes the competitive state-of-the-art performance for the family of capsule nets by significantly reducing test errors on the benchmark datasets.Comment: Liheng Zhang, Marzieh Edraki, Guo-Jun Qi. CapProNet: Deep Feature Learning via Orthogonal Projections onto Capsule Subspaces, in Proccedings of Thirty-second Conference on Neural Information Processing Systems (NIPS 2018), Palais des Congr\`es de Montr\'eal, Montr\'eal, Canda, December 3-8, 201

Generalized Syllogism Reasoning with the Quantifiers in Modern Square{no} and Square{most}

A modern Square{Q}={Q, Q_, Q_, _Q_} is composed of a generalized quantifier Q and its three types of negative quantifiers: inner, outer and dual negative one. This paper mainly discusses the non-trivial generalized syllogisms reasoning with the quantifiers in Square{no} and Square{most}. To this end, this paper firstly gives formalizes generalized syllogisms, then proves the validity of the syllogism AMM-1 with the generalized quantifier most, and further deduces the other 24 valid syllogisms. The reason why these valid generalized syllogisms studied in this paper can be mutually reduced is because: (1) any of the four Aristotelian quantifiers in Square{no} can define the other three ones; (2) so can any of the four generalized quantifiers in Square{most}. This study is undoubtedly beneficial not only for the development of modern logic, but also for the development of inference machines in artificial intelligence

A new treatment planning concept accounting for prompt gamma imaging for proton range verification

Protenentherapie zur Behandlung von Tumorerkrankungen ist stark abhängig von der Präzision des Protonenstrahls. Die Reichweite von Protonen unterliegt Unsicherheiten, zum Beispiel verursacht durch die Positionierung des Patienten, durch die semi-empirische Umwandlung von Röntgen-CT-Werten in das gewebespezifische Bremsvermögen (relativ zu dem von Wasser), oder durch anatomische Veränderungen. Prompt-Gamma-Bildgebung (PG) eröffnet die Möglichkeit, die Protonenreichweite in vivo zu beobachten, indem Prompt-Gammas detektiert werden, die durch Kernrelaxation innerhalb des Strahlengangs emittiert werden. Studien haben gezeigt, dass die Genauigkeit von PG von verschiedenen Faktoren abhängt, zum Beispiel von der Strahlstatistik, der Gewebeheterogenität, anatomischen Veränderungen und vom PG-Kamera Prototypen. Diese Effekte werden beim konventionellen Protonen-Bestrahlungsplanungsprozess nicht berücksichtigt, weshalb PG-Bildgebung noch nicht vollumfänglich möglich ist. In dieser Dissertation werden diese Effekte untersucht, die sowohl die PG Emission als auch Detektion betreffen. Ein neues Bestrahlungsplanungskonzept wird vorgeschlagen, das die PG-basierende in-vivo Reichweitenverifikation berücksichtigt. Im ersten Teil dieser Arbeit wird das Monte Carlo (MC) Simulationstoolkit Geant4 verwendet um die Spot-by-Spot-Dosis, die PG Emission und die PG Detektion zu simulieren. Dabei wird eine ideale Scoring-Ebene außerhalb des Targets verwendet (Phasenraumdaten, genannt phsp Daten). Die MC Bestrahlungspläne wurden erstellt mit Hilfe einer Forschungs-Softwareplattform, in der mit MC vorberechnete Nadelstrahlen (PB) mit dem analytischen, Matlab-basierten Bestrahlungsplanungssystem (TPS) CERR kombiniert wurden. Der Effekt der Protonenstrahl-Statistik auf die PG Genauigkeit wird zunächst untersucht, indem lateral integrierte Profile der phsp Daten des selben PBs in verschiedenen Szenarien verglichen werden. Die Ergebnisse zeigen, dass mindestens 1.35e8 Protonen pro PB nötig sind, um eine PG Genauigkeit von 1mm zu erreichen. Zweitens wird die Konformität zwischen der Dosis und der PG Emission (PG Dosiskorrelation) untersucht und quantifiziert indem der 80%-distale Abfall und der Abfall der PG Emissionsprofile verglichen wird mithilfe eines Machine Learning Mustererkennungsalgorithmus. Beim ursprünglichen Bestrahlungsplan konnten nur wenige PBs aus dem Optimierungsprozess eine ausreichende Statistik erreichen und nicht alle PBs hatten eine gute PG-Dosiskorrelation, insbesondere solche mit dem Bragg-Peak in der Nähe von Gewebeheterogenitäten, z.B. Luftkavitäten. In dieser Arbeit wird ein neues Bestrahlungsplanungskonzept vorgeschlagen, das PG Bildgebung berücksichtigt und wenige PBs verstärkt, basierend auf der PG-Dosiskorrelation, sodass sie eine ausreichende Statistik haben, während die Qualität der Bestrahlung unverändert bleibt. Die neuen Bestrahlungspläne wurden verglichen mit den ursprünglichen Bestrahlungsplänen basierund auf einer MC Simulation auf der selben Computertomographie (CT) für 3 Kopf-Hals-Tumoren Patienten. Es wird gezeigt, dass die neuen re-optimierten Bestrahlungspläne äquivalent sind zu den ursprünglichen bezüglich der Dosisverteilung, der Verteilung des Dosis-gemittelten linearen Energietransfers (LET) und der Robustheit gegenüber Verschiebungen/Reichweitenveränderungen, und gleichzeitig die statistischen Bedingungen für ein zuverlässiges PG-Monitoring der ausgewählten PBs erfüllen. Der zweite Teil dieser Arbeit beschäftigt sich mit dem Effekt von inter-fraktionalen anatomischen Veränderungen auf die Robustheit der PG-Dosiskorrelation. Dies wurde erreicht durch eine 2D distale Oberfläche (Dosisoberfläche), die von einer 3D MC Dosisverteilung der entsprechenden PBs abgeleitet wurde. Die Dosisoberfläche wurde als Indikator für PBs genutzt, die stärker abhängig von anatomischen Veränderungen waren. Mit Hilfe von CERR und Geant4, wurden die neuen re-optimisierten Bestrahlungspläne basierend auf einer Kombination der Dosisoberfläche und PG-Dosiskorrelations-Indikatoren vergleichen mit den ursprünglichen Bestrahlungsplänen auf den CTs von 1 Kopf-Hals-Tumor und 1 Prostata-Karzinom Patienten zu 3 verschiedenen Zeitpunkten. Die Verschiebung der Dosis und PG-Emissionsprofile auf verschiedenen CTs und mit den selben PBs wurden verglichen um zu entscheiden ob ein gegebener PB für PG Bildgebung verlässlich ist. Es wurde gezeigt, dass die re-optimisierten und ursprünglichen Bestrahlungspläne vergleichbar sind im Sinne der Dosisverteilung und der Verteilung des Dosis-gemittelten LET über alle CTs, während die Verschiebungsunterschiede zwischen der Dosis und PG-Emission der vorgeschlagenen PBs innerhalb von 1 mm waren. Der letzte Teil dieser Arbeit beschäftigt sich mit der realistischen Antwort einer Knife-edge Slit PG Kamera, welche ein Kandidat ist für die erste klinische Reichweitenbestimmung von PB scanning durch PG. Die Dosisverteilung und die PG Emission und Detektion wurden simuliert mit REGistration Graphical User Interface (REGGUI) für die selben PBs und die selben CTs (nur 2 Zeitpunkte wurden genutzt) aus dem zweiten Teil. Da diese Art von PG-Kamera-Prototyp die korrekte PG Information zur Verfügung stellen soll für PBs deren PG Abfall zentral im Blickfeld (FOV) der Kamera ist, wurde ein zweiter Indikator untersucht basierend darauf, ob ein PB zentral im FOV liegt oder nicht. Dieser Indikator wurde zusammen mit dem Indikator für PG-Dosiskorrelation und der Dosisoberfläche untersucht. Die Dosis und PG Emission generiert durch REGGUI wurden zunächst verglichen mit denen erstellt durch Geant4. Danach wurde das PG Detektionsprofil unter verschiedenen Statistiken des selben PBs verglichen, um den Einfluss der Statistik auf die PG Detektion mittels dieser PG Kamera zu untersuchen. Eine Genauigkeit von 0.8 mm konnte erreicht werden mit 2.00e8 Protonen. Als nächstes wurden Verschiebungen der Dosis und PG-Emission verglichen und die Ergebnisse sind konsistent mit den vorhergehenden Schlüssen. Danach wurden die PBs-of-Interest identifiziert basierend auf allen drei Indikatoren und deren Dosis- und PG-Detektionsprofile auf verschiedenen CTs wurden in diversen Szenarien verglichen. Abgesehen von zwei Ausnahmen, die durch unvorhersehbare und vergleichsweise große anatomische Veränderungen hervorgerufen wurden, sind alle PG Signale der meisten vorgeschlagenen PBs verlässlich zum Monitoring des Dosisabfalls, was bedeutet, dass der Verschiebungsunterschied zwischen der Dosis und dem detektierten PG-Signal unter 2 mm ist. Im Gegensatz dazu wurde ein Verschiebungsunterschied von bis zu 9.1 mm beobachtet für die abgelehnten PBs. Aus diesem Grund sind diese Indikatoren sehr wertvoll zur Identifikation von verlässlichen PBs für PG-basierte Protonen-Reichweitenverifikation. Der Ansatz der PB-Verstärkung wird zudem verglichen mit anderen alternativen Ansätzen der PB Aggregation, welche naheliegende PBs aggregieren um eine höhere Statistik zu erhalten, für alle vorgeschlagenen Indikatoren. Beide Ansätze sind vergleichbar bezüglich der Reichweitenverifikation, jedoch zeigt die PB-Verstärkung Vorteile im Sinne einer garantierten Statistik, einer verbesserten lateralen Auflösung und einer verringerten Reichweitenvermischung. Mit den Ergebnissen in dieser Dissertation wurde zum ersten Mal eine PG-basierte in vivo Protonen-Reichweitenverifikationsmethode integriert in den Protonen-Bestrahlungsplanungsprozess, was möglicherweise zu zukünftigen Verbesserungen der präzisen Protonen-Bestrahlung beitragen könnte.Proton therapy for cancer treatment is highly affected by the accuracy of the proton beam delivery. However, proton range has uncertainties caused by e.g. patient positioning along with the semi-empirical conversion of the X-ray CT numbers into tissue stopping power ratio (relative to water) and anatomical changes. Prompt gamma (PG) imaging provides the possibility to monitor the proton range in vivo by detecting the prompt gammas emitted by nuclei de-excitation in the beam path. Studies point out that the accuracy of PG is affected by factors e.g. the beam statistics, tissue heterogeneity, anatomical changes and the PG camera prototype. These effects are not considered in the conventional proton therapy treatment planning process thus the PG imaging technique is not fully supported. In this thesis, these effects are investigated at both the PG emission and detection level. A new treatment planning concept accounting for PG-based in-vivo proton range verification is proposed. In the first part of this work, the Monte Carlo (MC) simulation toolkit Geant4 is employed to simulate the spot-by-spot dose, PG emission and PG detection using an ideal scoring plane outside the target (phase space data, called phsp data). The MC treatment plans are made using a research computational platform, combining MC pre-calculated pencil beams (PB) with the analytical Matlab-based treatment planning system (TPS) engine CERR. The effect of the proton beam statistics to the PG precision is firstly investigated by comparing the laterally integrated phsp data profiles of the same PB under different statistics scenarios. The result shows that at least 1.35e8 protons per PB are needed to achieve a PG precision of 1 mm. Secondly, the conformity between the dose and PG emission (PG-dose correlation) has been investigated and quantified by comparing the 80% distal dose falloff and the falloff of the PG emission profiles, which is identified using a machine learning based pattern recognition algorithm. In the initial treatment plan, only a few PBs resulting from the optimization process can reach the wanted statistics and not all PBs have good PG-dose correlation, especially those with their Bragg peak near tissue heterogeneity, e.g. an air cavity. In this work, a new treatment planning concept accounting for PG imaging was proposed to boost a few PBs, selected based on the quantification of PG-dose correlation, above the required statistics while maintaining the treatment quality. The new treatment plans were compared to the initial treatment plans using MC simulation on the same computed tomography (CT) for 3 head and neck cancer patients. The new re-optimized treatment plans are shown to be equivalent to the initial ones in terms of dose distribution, dose averaged linear energy transfer (LET) distribution and robustness with respect to translational changes/range variations, while fulfilling the set statistical conditions for reliable PG monitoring for the selected PBs. The second part of this work is dedicated to investigate the effect of the inter-fractional anatomical changes on the robustness of PG-dose correlation. This is accomplished by using a 2D distal surface (dose surface) derived from 3D MC dose distribution of the corresponding PBs. The dose surface could be used as indicator of PBs more sensitive to anatomical changes. Using CERR and Geant4, the new re-optimized treatment plans based on the combination of the dose surface and PG-dose correlation indicators are compared to the initial treatment plans on the CTs of 1 head and neck and 1 prostate cancer patients at 3 different time points. The shift of the dose and PG emission profiles on different CTs of the same PB are compared to evaluate if a given PB is reliable or not, in terms of PG imaging. The re-optimized and the initial treatment plans are shown to be comparable in terms of dose distribution and dose-averaged LET distribution on all CTs, while the shift differences between the dose and PG emission of the recommended PBs are within 1 mm. The last part of this work focuses on the realistic response of a knife-edge slit PG camera, which is under investigation in the first clinical PG based proton range verification research for PB scanning. The dose distribution as well as the PG emission and detection are simulated using REGistration Graphical User Interface (REGGUI) for the same PBs and same patients CTs (only 2 time points are used) employed in the second part. As this kind of PG camera prototype provides is supposed to provide correct PG information for PBs whose PG falloffs are centered in the field of view (FOV) of the camera, another proposed indicator, identifying whether a given PB is centered in the FOV or not, is investigated together with the PG-dose correlation and dose surface indicators. The REGGUI generated dose and PG emission are firstly compared to those generated by Geant4. Secondly, the PG detection profile under different statistics for the same PB are compared to investigate the effect of the statistics to the PG detection using this PG camera. A precision of 0.8 mm can be achieved using 2.00e8 protons. Next, the shifts of the dose and PG emission are compared and the result is shown to be consistent to the previous findings. Then, the PBs of interest are identified by all the three indicators and their dose and PG detection profiles on different CTs are compared accounting for different scenarios. Besides two exceptions caused by unpredictable and comparably large anatomical changes, the PG signals of most of the PBs recommended are proven to be reliable for dose falloff monitoring, i.e. the shifts difference between the dose and detected PG signal are within 2 mm. In contrast, a shifts difference up to 9.1 mm has been observed for the counter-indicated ones. Hence, these indicators are valuable to be used to identify and recommend reliable PBs for PG based proton range verification. The PB boosting approach is compared to the other alternative approach of PB aggregation, which aggregates nearby PBs to achieve high statistics, for all the indicators proposed. Both approaches are comparable in terms of range verification but the PB boosting shows advantages in terms of guaranteed statistics, improved lateral resolution and reduced range mixing. With the results of this thesis, the PG based in-vivo proton range verification method is integrated in the proton treatment planning process for the first time, potentially contributing to a future improvement of precise proton delivery

Equivariance and Invariance for Robust Unsupervised and Semi-Supervised Learning

Although there is a great success of applying deep learning on a wide variety of tasks, it heavily relies on a large amount of labeled training data, which could be hard to obtain in many real scenarios. To address this problem, unsupervised and semi-supervised learning emerge to take advantage of the plenty of cheap unlabeled data to improve the model generalization. In this dissertation, we claim that equivariant and invariance are two critical criteria to approach robust unsupervised and semi-supervised learning. The idea is as follows: the features of a robust model ought to be sufficiently informative and equivariant to transformations on the input data, and the classifiers should be resilient and invariant to small perturbations on the data manifold and model parameters. Specifically, features are learnt via auto-encoding the transformations on the input data, and models are regularized through minimizing the effects of perturbations on features or model parameters. Experiments on several benchmarks show the proposed methods outperform many state-of-the-art approaches on unsupervised and semi-supervised learning, proving importance of the equivariance and invariance rules for robust feature representation learning

User Access Review and a UAR Supporting Tool for Improving Manual Access Review Process in Enterprise Environment

User Access Review is a process of re-evaluating the appropriateness of user access to systems or applications. It is a critical step of the user account management life cycle. Companies implement User Access Review processes to ensure that employees are given least privileges to access critical corporate IT systems, and segregation of duties (SoD) are enabled through effective access control to prevent fraud and error. User access review becomes mandatory for corporations that are in scope under federal regulations, industry standards, or compliances. With growing number of employees (users) and IT systems, the process of conducting user access review becomes increasingly complicated and time-consuming. Corporations often find it changeling to meet audit requirements with existing error prone manual review process and are searching for a better solution for delivering quality access review in a timely manner. A database based user access review tool (UAR Supporting Tool) is proposed in this thesis to improve the efficiency and accuracy of the manual review process