27 research outputs found

    Topographic VAEs learn Equivariant Capsules

    Get PDF

    Topographic VAEs learn Equivariant Capsules

    Get PDF
    In this work we seek to bridge the concepts of topographic organization and equivariance in neural networks. To accomplish this, we introduce the Topographic VAE: a novel method for efficiently training deep generative models with topographically organized latent variables. We show that such a model indeed learns to organize its activations according to salient characteristics such as digit class, width, and style on MNIST. Furthermore, through topographic organization over time (i.e. temporal coherence), we demonstrate how predefined latent space transformation operators can be encouraged for observed transformed input sequences -- a primitive form of unsupervised learned equivariance. We demonstrate that this model successfully learns sets of approximately equivariant features (i.e. "capsules") directly from sequences and achieves higher likelihood on correspondingly transforming test sequences. Equivariance is verified quantitatively by measuring the approximate commutativity of the inference network and the sequence transformations. Finally, we demonstrate approximate equivariance to complex transformations, expanding upon the capabilities of existing group equivariant neural networks

    Learning invariant features through topographic filter maps

    Full text link

    Adaptive Subspace Sampling for Class Imbalance Processing-Some clarifications, algorithm, and further investigation including applications to Brain Computer Interface

    Full text link
    © 2020 IEEE. Kohonen's Adaptive Subspace Self-Organizing Map (ASSOM) learns several subspaces of the data where each subspace represents some invariant characteristics of the data. To deal with the imbalance classification problem, earlier we have proposed a method for oversampling the minority class using Kohonen's ASSOM. This investigation extends that study, clarifies some issues related to our earlier work, provides the algorithm for generation of the oversamples, applies the method on several benchmark data sets, and makes an application to a Brain Computer Interface (BCI) problem. First we compare the performance of our method using some benchmark data sets with several state-of-The-Art methods. Finally, we apply the ASSOM-based technique to analyze a BCI based application using electroencephalogram (EEG) datasets. Our results demonstrate the effectiveness of the ASSOM-based method in dealing with imbalance classification problem

    Learning invariant features through topographic filter maps

    Get PDF

    Comparação de métodos e técnicas de análise multivariada linear (ACP) e não linear (SOFM) em SIG. Ensaio de modelação geográfica de indicadores de apoio a políticas públicas territoriais

    Get PDF
    A competitividade territorial é um assunto premente. Há medida que o tempo passa, as cidades e as regiões tornaram-se mais competitivas entre si. Para esta situação, diversas questões contribuíram maioritariamente, como a globalização e o incremento dos relacionamentos entre territórios, mas também entre as instituições (públicas, privadas e Organizações Não Governamentais – ONG’s), as empresas e a população. Como uma consequência (ou como uma causa) o território actua como um camaleão, sempre em mudança e a tentar adaptar-se ao ambiente circundante. Donde se conclui que, um conhecimento mais preciso e mais detalhado sobre a geografia que nos cerca, como também as linhas estratégicas para o território e as opções de localização para as empresas, ou mesmo as estratégias de políticas públicas definidas para o território, permanecem fundamentais para um modelo multivariado de avaliação, capaz de refinar processos de decisão. Neste artigo destacam-se os métodos e as técnicas para além do processo e sublinha-se o que sobressai dos resultados, que são geralmente o objectivo mais importante para a maioria dos trabalhos em SIG. Como Alan Wilson afirmou "nós vivemos no mundo da informação, onde as enormes quantidades de dados de origem e natureza diversas se arvoram em várias esferas da vida. Para retirar informação úteis destes dados, devem-se aplicar técnicas especiais de generalização e de visualização da informação contida numa determinada série de dados". Deve-se notar que existem outras questões relevantes para os resultados, como: que tipo de informação se aplica ao objectivo do trabalho; que tipo de tecnologia está disponível; que tipo de métodos estão a ser aplicados; o que é que eles fazem ; que vantagens e desvantagens têm e como podem influenciar o trabalho. Neste artigo são focados todos estes pontos de discussão emergentes e explica-se cada um deles, numa busca por novos padrões territoriais que poderiam advir enquanto contributo de uma política para o planeamento.info:eu-repo/semantics/publishedVersio

    Robot End Effector Tracking Using Predictive Multisensory Integration

    Get PDF
    We propose a biologically inspired model that enables a humanoid robot to learn how to track its end effector by integrating visual and proprioceptive cues as it interacts with the environment. A key novel feature of this model is the incorporation of sensorimotor prediction, where the robot predicts the sensory consequences of its current body motion as measured by proprioceptive feedback. The robot develops the ability to perform smooth pursuit-like eye movements to track its hand, both in the presence and absence of visual input, and to track exteroceptive visual motions. Our framework makes a number of advances over past work. First, our model does not require a fiducial marker to indicate the robot hand explicitly. Second, it does not require the forward kinematics of the robot arm to be known. Third, it does not depend upon pre-defined visual feature descriptors. These are learned during interaction with the environment. We demonstrate that the use of prediction in multisensory integration enables the agent to incorporate the information from proprioceptive and visual cues better. The proposed model has properties that are qualitatively similar to the characteristics of human eye-hand coordination
    corecore