Über die Selbstorganisation einer hierarchischen Gedächtnisstruktur für kompositionelle Objektrepräsentation im visuellen Kortex

At present, there is a huge lag between the artificial and the biological information processing systems in terms of their capability to learn. This lag could be certainly reduced by gaining more insight into the higher functions of the brain like learning and memory. For instance, primate visual cortex is thought to provide the long-term memory for the visual objects acquired by experience. The visual cortex handles effortlessly arbitrary complex objects by decomposing them rapidly into constituent components of much lower complexity along hierarchically organized visual pathways. How this processing architecture self-organizes into a memory domain that employs such compositional object representation by learning from experience remains to a large extent a riddle. The study presented here approaches this question by proposing a functional model of a self-organizing hierarchical memory network. The model is based on hypothetical neuronal mechanisms involved in cortical processing and adaptation. The network architecture comprises two consecutive layers of distributed, recurrently interconnected modules. Each module is identified with a localized cortical cluster of fine-scale excitatory subnetworks. A single module performs competitive unsupervised learning on the incoming afferent signals to form a suitable representation of the locally accessible input space. The network employs an operating scheme where ongoing processing is made of discrete successive fragments termed decision cycles, presumably identifiable with the fast gamma rhythms observed in the cortex. The cycles are synchronized across the distributed modules that produce highly sparse activity within each cycle by instantiating a local winner-take-all-like operation. Equipped with adaptive mechanisms of bidirectional synaptic plasticity and homeostatic activity regulation, the network is exposed to natural face images of different persons. The images are presented incrementally one per cycle to the lower network layer as a set of Gabor filter responses extracted from local facial landmarks. The images are presented without any person identity labels. In the course of unsupervised learning, the network creates simultaneously vocabularies of reusable local face appearance elements, captures relations between the elements by linking associatively those parts that encode the same face identity, develops the higher-order identity symbols for the memorized compositions and projects this information back onto the vocabularies in generative manner. This learning corresponds to the simultaneous formation of bottom-up, lateral and top-down synaptic connectivity within and between the network layers. In the mature connectivity state, the network holds thus full compositional description of the experienced faces in form of sparse memory traces that reside in the feed-forward and recurrent connectivity. Due to the generative nature of the established representation, the network is able to recreate the full compositional description of a memorized face in terms of all its constituent parts given only its higher-order identity symbol or a subset of its parts. In the test phase, the network successfully proves its ability to recognize identity and gender of the persons from alternative face views not shown before. An intriguing feature of the emerging memory network is its ability to self-generate activity spontaneously in absence of the external stimuli. In this sleep-like off-line mode, the network shows a self-sustaining replay of the memory content formed during the previous learning. Remarkably, the recognition performance is tremendously boosted after this off-line memory reprocessing. The performance boost is articulated stronger on those face views that deviate more from the original view shown during the learning. This indicates that the off-line memory reprocessing during the sleep-like state specifically improves the generalization capability of the memory network. The positive effect turns out to be surprisingly independent of synapse-specific plasticity, relying completely on the synapse-unspecific, homeostatic activity regulation across the memory network. The developed network demonstrates thus functionality not shown by any previous neuronal modeling approach. It forms and maintains a memory domain for compositional, generative object representation in unsupervised manner through experience with natural visual images, using both on- ("wake") and off-line ("sleep") learning regimes. This functionality offers a promising departure point for further studies, aiming for deeper insight into the learning mechanisms employed by the brain and their consequent implementation in the artificial adaptive systems for solving complex tasks not tractable so far.Gegenwärtig besteht immer noch ein enormer Abstand zwischen der Lernfähigkeit von künstlichen und biologischen Informationsverarbeitungssystemen. Dieser Abstand ließe sich durch eine bessere Einsicht in die höheren Funktionen des Gehirns wie Lernen und Gedächtnis verringern. Im visuellen Kortex etwa werden die Objekte innerhalb kürzester Zeit entlang der hierarchischen Verarbeitungspfade in ihre Bestandteile zerlegt und so durch eine Komposition von Elementen niedrigerer Komplexität dargestellt. Bereits bekannte Objekte werden so aus dem Langzeitgedächtnis abgerufen und wiedererkannt. Wie eine derartige kompositionell-hierarchische Gedächtnisstruktur durch die visuelle Erfahrung zustande kommen kann, ist noch weitgehend ungeklärt. Um dieser Frage nachzugehen, wird hier ein funktionelles Modell eines lernfähigen rekurrenten neuronalen Netzwerkes vorgestellt. Im Netzwerk werden neuronale Mechanismen implementiert, die der kortikalen Verarbeitung und Plastizität zugrunde liegen. Die hierarchische Architektur des Netzwerkes besteht aus zwei nacheinander geschalteten Schichten, die jede eine Anzahl von verteilten, rekurrent vernetzten Modulen beherbergen. Ein Modul umfasst dabei mehrere funktionell separate Subnetzwerke. Jedes solches Modul ist imstande, aus den eintreffenden Signalen eine geeignete Repräsentation für den lokalen Eingaberaum unüberwacht zu lernen. Die fortlaufende Verarbeitung im Netzwerk setzt sich zusammen aus diskreten Fragmenten, genannt Entscheidungszyklen, die man mit den schnellen kortikalen Rhythmen im gamma-Frequenzbereich in Verbindung setzen kann. Die Zyklen sind synchronisiert zwischen den verteilten Modulen. Innerhalb eines Zyklus wird eine lokal umgrenzte winner-take-all-ähnliche Operation in Modulen durchgeführt. Die Kompetitionsstärke wächst im Laufe des Zyklus an. Diese Operation aktiviert in Abhängigkeit von den Eingabesignalen eine sehr kleine Anzahl von Einheiten und verstärkt sie auf Kosten der anderen, um den dargebotenen Reiz in der Netzwerkaktivität abzubilden. Ausgestattet mit adaptiven Mechanismen der bidirektionalen synaptischen Plastizität und der homöostatischen Aktivitätsregulierung, erhält das Netzwerk natürliche Gesichtsbilder von verschiedenen Personen dargeboten. Die Bilder werden der unteren Netzwerkschicht, je ein Bild pro Zyklus, als Ansammlung von Gaborfilterantworten aus lokalen Gesichtslandmarken zugeführt, ohne Information über die Personenidentität zur Verfügung zu stellen. Im Laufe der unüberwachten Lernprozedur formt das Netzwerk die Verbindungsstruktur derart, dass die Gesichter aller dargebotenen Personen im Netzwerk in Form von dünn besiedelten Gedächtnisspuren abgelegt werden. Hierzu werden gleichzeitig vorwärtsgerichtete (bottom-up) und rekurrente (lateral, top-down) synaptische Verbindungen innerhalb und zwischen den Schichten gelernt. Im reifen Verbindungszustand werden infolge dieses Lernens die einzelnen Gesichter als Komposition ihrer Bestandteile auf generative Art gespeichert. Dank der generativen Art der gelernten Struktur reichen schon allein das höhere Identitätssymbol oder eine kleine Teilmenge von zugehörigen Gesichtselementen, um alle Bestandteile der gespeicherten Gesichter aus dem Gedächtnis abzurufen. In der Testphase kann das Netzwerk erfolgreich sowohl die Identität als auch das Geschlecht von Personen aus vorher nicht gezeigten Gesichtsansichten erkennen. Eine bemerkenswerte Eigenschaft der entstandenen Gedächtnisarchitektur ist ihre Fähigkeit, ohne Darbietung von externen Stimuli spontan Aktivitätsmuster zu generieren und die im Gedächtnis abgelegten Inhalte in diesem schlafähnlichen "off-line" Regime wiederzugeben. Interessanterweise ergibt sich aus der Schlafphase ein direkter Vorteil für die Gedächtnisfunktion. Dieser Vorteil macht sich durch eine drastisch verbesserte Erkennungsrate nach der Schlafphase bemerkbar, wenn das Netwerk mit den zuvor nicht dargebotenen Ansichten von den bereits bekannten Personen konfrontiert wird. Die Leistungsverbesserung nach der Schlafphase ist umso deutlicher, je stärker die Alternativansichten vom Original abweichen. Dieser positive Effekt ist zudem komplett unabhängig von der synapsenspezifischen Plastizität und kann allein durch die synapsenunspezifische, homöostatische Regulation der Aktivität im Netzwerk erklärt werden. Das entwickelte Netzwerk demonstriert so eine im Bereich der neuronalen Modellierung bisher nicht gezeigte Funktionalität. Es kann unüberwacht eine Gedächtnisdomäne für kompositionelle, generative Objektrepräsentation durch die Erfahrung mit natürlichen Bildern sowohl im reizgetriebenen, wachähnlichen Zustand als auch im reizabgekoppelten, schlafähnlichen Zustand formen und verwalten. Diese Funktionalität bietet einen vielversprechenden Ausgangspunkt für weitere Studien, die die neuronalen Lernmechanismen des Gehirns ins Visier nehmen und letztendlich deren konsequente Umsetzung in technischen, adaptiven Systemen anstreben

Semantics-Driven Aspect-Based Sentiment Analysis

People using the Web are constantly invited to share their opinions and preferences with the rest of the world, which has led to an explosion of opinionated blogs, reviews of products and services, and comments on virtually everything. This type of web-based content is increasingly recognized as a source of data that has added value for multiple application domains. While the large number of available reviews almost ensures that all relevant parts of the entity under review are properly covered, manually reading each and every review is not feasible. Aspect-based sentiment analysis aims to solve this issue, as it is concerned with the development of algorithms that can automatically extract fine-grained sentiment information from a set of reviews, computing a separate sentiment value for the various aspects of the product or service being reviewed. This dissertation focuses on which discriminants are useful when performing aspect-based sentiment analysis. What signals for sentiment can be extracted from the text itself and what is the effect of using extra-textual discriminants? We find that using semantic lexicons or ontologies, can greatly improve the quality of aspect-based sentiment analysis, especially with limited training data. Additionally, due to semantics driving the analysis, the algorithm is less of a black box and results are easier to explain

Knowledge Modelling and Learning through Cognitive Networks

One of the most promising developments in modelling knowledge is cognitive network science, which aims to investigate cognitive phenomena driven by the networked, associative organization of knowledge. For example, investigating the structure of semantic memory via semantic networks has illuminated how memory recall patterns influence phenomena such as creativity, memory search, learning, and more generally, knowledge acquisition, exploration, and exploitation. In parallel, neural network models for artificial intelligence (AI) are also becoming more widespread as inferential models for understanding which features drive language-related phenomena such as meaning reconstruction, stance detection, and emotional profiling. Whereas cognitive networks map explicitly which entities engage in associative relationships, neural networks perform an implicit mapping of correlations in cognitive data as weights, obtained after training over labelled data and whose interpretation is not immediately evident to the experimenter. This book aims to bring together quantitative, innovative research that focuses on modelling knowledge through cognitive and neural networks to gain insight into mechanisms driving cognitive processes related to knowledge structuring, exploration, and learning. The book comprises a variety of publication types, including reviews and theoretical papers, empirical research, computational modelling, and big data analysis. All papers here share a commonality: they demonstrate how the application of network science and AI can extend and broaden cognitive science in ways that traditional approaches cannot

Artificial general intelligence: Proceedings of the Second Conference on Artificial General Intelligence, AGI 2009, Arlington, Virginia, USA, March 6-9, 2009

Artificial General Intelligence (AGI) research focuses on the original and ultimate goal of AI – to create broad human-like and transhuman intelligence, by exploring all available paths, including theoretical and experimental computer science, cognitive science, neuroscience, and innovative interdisciplinary methodologies. Due to the difficulty of this task, for the last few decades the majority of AI researchers have focused on what has been called narrow AI – the production of AI systems displaying intelligence regarding specific, highly constrained tasks. In recent years, however, more and more researchers have recognized the necessity – and feasibility – of returning to the original goals of the field. Increasingly, there is a call for a transition back to confronting the more difficult issues of human level intelligence and more broadly artificial general intelligence

Testing the Effects of Targeted Memory Reactivation during Rapid Eye Movement Sleep and Wakefulness on Problem-Solving

Anecdotal references and sayings attribute a beneficial effect of sleep on solving problems, especially if these are difficult. Currently scientific results are split. Some sleep research teams found beneficial effects on problem-solving, particularly for difficult problems (Sio et al, 2013). Other teams could not corroborate this (Landmann et al, 2016). Moreover, results indicate that sleeping after solving analogical problems facilitates the solution of logical problems after wakening (Monaghan et al, 2015). Sleep is a heterogenous process of distinguishable sleep stages (Rechtschaffen, 1968). Although studies keep providing new evidence for models and theories that postulate how subconscious sleep-facilitated improvements in learning, memory and problem-solving occur, there are no definitive answers yet (Almeida-Filho et al, 2018). As a possible equivalent for memory consolidation, neuronal activity during a task is replayed in a coherent and temporal order in a succeeding rest period (Hoffman & McNaughton, 2002). The reactivations may help to incorporate new types of information into preexisting memories (Gisquet-Verrier & Riccio, 2012). The reactivation of specific memory loops can be triggered in subjects, even when asleep (Rasch et al, 2007). This “targeted memory reactivation” (TMR) at large has produced increases in sleep-dependent memory processing, utilizing either olfactory or auditory stimuli as triggers (Schouten et al, 2017). Evidence has emerged that the rapid eye movement sleep stage (REM sleep) may be directly involved with the selectivity of sleep-dependent memory consolidation (Oudiette et al, 2013; Stickgold & Walker, 2013). REM sleep memory reactivations may reduce self-imposed constraints, thereby facilitating creative and analogical problem-solving (Lewis et al, 2018). This present study used auditory targeted memory reactivation (TMR) of problem-associated memories to facilitate the solution of a specific video game level (Problem-Solving Test, PST). Furthermore, this study used a second video game level with an analogical solution strategy (Analogical Problem-Solving Test, APST), which had been shown to increase the solving rate of logical problems (Monaghan et al, 2015). In the present study 32 subjects participated and were allocated to the REM sleep TMR group (REM Stim) and to the active wakefulness TMR group (Wake Stim). After the video game training session (including an attempt at the Problem-Solving Test), REM Stim subjects slept overnight in the sleep laboratory and auditory TMR was applied during REM sleep. After a 45-minute break, Wake Stim subjects received auditory TMR while working on a vigilance task and pursued their regular day schedule outside the laboratory, to return in the evening for further testing. During the testing session half of each group started with the Problem-Solving Test (PST) and the other half with the Analogical Problem-Solving Test (APST) and all attempted to complete both levels. This study found no beneficial effect for REM sleep TMR over active wakefulness TMR on solving rate or speed of the PST. The theory that REM sleep memory reactivations facilitate problem-solving was not confirmed (Lewis et al, 2018). A beneficial effect of sleep for problem-solving as described by other authors was not found (Beijamini et al, 2014; Sio et al, 2013). PST solving was facilitated by prior APST solving only for REM Stim subjects. APST solving rate was higher in the REM Stim group. These results support that sleep improves analogical problem-solving (Monaghan et al, 2015). Possible confounding effects were mental and mood state, sleepiness and subjective video game experience. Apart from the latter, these effects seem to be partly related to the circadian rhythm (Borb & Achermann, 1999). Future studies should try to replicate these results with control conditions of slow wave sleep TMR and no TMR sleep and wake groups. Additionally, larger sample sizes should be used, to further assess the overall importance of sleep and TMR for problem-solving. Enhancing sleep procedures to optimize cognitive capabilities remain an interesting prospect for further research.Anekdoten und Redewendungen weisen Schlaf einen positiven Effekt insbesondere auf das Lösen von schwierigen Problemen zu. Derzeit ist der Forschungsstand uneins. Manche Studien fanden Belege für verbessertes Lösen vor allem schwieriger Probleme durch Schlaf (Sio et al, 2013). Andere fanden keinen Effekt (Landmann et al, 2016). Durch Schlafen nach dem Lösen analoger Probleme verbessere sich das Problemlösen danach (Monaghan et al, 2015). Schlaf ist ein heterogener Prozess unterscheidbarer Schlafstadien (Rechtschaffen, 1968). Obwohl Belege für Erklärungsmodelle der positiven Effekte von Schlaf auf Lernen, Gedächtnis und Problemlösung gefunden wurden, fehlen bisher die abschließenden Beweise (Almeida-Filho et al, 2018). Als mögliches Korrelat der Gedächtniskonsolidierung wiederholen sich kongruente neuronale Aktivierungen während einer Tätigkeit auch in den folgenden Ruhephasen (Hoffman & McNaughton, 2002). Diese Reaktivierungen können die Integration neuer Informationen in frühere Erinnerungen ermöglichen (Gisquet-Verrier & Riccio, 2012). Selbst während des Schlafes lassen sich Reaktivierungen bestimmter Erinnerungen triggern (Rasch et al, 2007). Mit olfaktorischen oder auditorischen Stimuli kann diese „Gezielte Erinnerungsreaktivierung“ (TMR) Effekte von Schlaf auf diese Erinnerungen verstärken (Schouten et al, 2017). Ein Zusammenhang des Rapid Eye Movement Schlafes (REM Schlaf) mit der Selektivität der schlafabhängigen Gedächtniskonsolidierung wurde beschrieben (Oudiette et al, 2013; Stickgold & Walker, 2013). Gedächtnisreaktivierungen im REM Schlaf können selbstauferlegte Einschränkungen abschwächen und damit kreatives und analoges Problemlösen fördern (Lewis et al, 2018). Die vorliegende Studie verwendete eine auditorische „Gezielte Erinnerungsreaktivierung“ (TMR) von Problem-assoziierten Erinnerungen um die Lösung eines speziellen Videospiellevels (Problem-Solving Test, PST) zu erleichtern. Ein weiteres Level mit einer analogen Lösungsstrategie (Analogical Problem-Solving Test, APST) wurde eingesetzt, welches Konzept in anderen Studien die Lösungsrate von Problemen erhöhte (Monaghan et al, 2015). An dieser Studie nahmen 32 Probanden teil und wurden der REM Schlaf TMR Gruppe (REM Stim) und der Gruppe mit TMR während aktiven Wachseins (Wake Stim) zugeteilt. Nach einer Trainingseinheit (inklusive eines Versuches am Problem-Solving Test) schlief die REM Stim Gruppe über Nacht im Schlaflabor und erhielt TMR während des REM Schlafes. Wake Stim Probanden hingegen erhielten nach einer 45-minütigen Pause die TMR während eines Vigilanztestes und gingen ihren täglichen Aktivitäten außerhalb des Labors nach, um abends für weitere Tests zurückzukehren. In der Testeinheit startete die Hälfte jeder Gruppe mit dem Problem-Solving Test (PST) und die andere Hälfte mit dem Analogical Problem-Solving Test (APST) und alle versuchten beide Level zu lösen. Diese Studie fand keine verbesserte Lösungsrate oder -geschwindigkeit des PST durch REM Schlaf TMR im Vergleich zu der TMR während des aktiven Wachseins. Die Theorie, dass Gedächtnisreaktivierungen im REM Schlaf Problemlösen erleichtern, wurde nicht bestätigt. (Lewis et al, 2018). Beschriebene Verbesserungen des Problemlösens durch Schlaf konnten nicht bestätigt werden (Beijamini et al, 2014; Sio et al, 2013). Nur in der REM Stim Gruppe war PST-Lösungsrate höher nach APST-Lösung. Die Lösungsrate des APST selbst war höher in der REM Stim Gruppe. Dies könnte ein Beleg für ein verbessertes Lösen analoger Probleme nach dem Schlafen sein (Monaghan et al, 2015). Mögliche konfundierende Faktoren waren geistige und emotionale Verfassung, Schläfrigkeit und subjektives Erleben des Videospiels. Außer letzterem lassen sich diese teilweise durch die zirkadiane Rhythmik erklären (Borb & Achermann, 1999). Zukünftige Studien sollten versuchen diese Ergebnisse mit größeren Stichproben zu replizieren. Kontrollgruppen mit „Slow Wave“ Schlaf TMR, sowie Schlaf- und Wachgruppen ohne TMR sollten zusätzlich untersucht werden, um die Bedeutung von Schlaf und TMR auf Problemlösen im Gesamten einzuschätzen. Die Möglichkeiten einer Optimierung kognitiver Fähigkeiten durch additive Prozeduren während des Schlafes bleiben eine interessante Idee

Machine Learning-Driven Decision Making based on Financial Time Series

L'abstract è presente nell'allegato / the abstract is in the attachmen

Toward Super-Creativity

What is super creativity? From the simple creation of a meal to the most sophisticated artificial intelligence system, the human brain is capable of responding to the most diverse challenges and problems in increasingly creative and innovative ways. This book is an attempt to define super creativity by examining creativity in humans, machines, and human-machine interactions. Organized into three sections, the volume covers such topics as increasing personal creativity, the impact of artificial intelligence and digital devices, and the interaction of humans and machines in fields such as healthcare and economics

26th Annual Computational Neuroscience Meeting (CNS*2017): Part 3 - Meeting Abstracts - Antwerp, Belgium. 15–20 July 2017

This work was produced as part of the activities of FAPESP Research,\ud Disseminations and Innovation Center for Neuromathematics (grant\ud 2013/07699-0, S. Paulo Research Foundation). NLK is supported by a\ud FAPESP postdoctoral fellowship (grant 2016/03855-5). ACR is partially\ud supported by a CNPq fellowship (grant 306251/2014-0)