Biological constraints on neural network models of cognitive function

Neural network models are potential tools for improving our understanding of complex brain functions. To address this goal, these models need to be neurobiologically realistic. However, although neural networks have advanced dramatically in recent years and even achieve human-like performance on complex perceptual and cognitive tasks, their similarity to aspects of brain anatomy and physiology is imperfect. Here, we discuss different types of neural models, including localist, auto-associative and hetero-associative, deep and whole-brain networks, and identify aspects under which their biological plausibility can be improved. These aspects range from the choice of model neurons and of mechanisms of synaptic plasticity and learning, to implementation of inhibition and control, along with neuroanatomical properties including area structure and local and long-range connectivity. We highlight recent advances in developing biologically grounded cognitive theories and in mechanistically explaining, based on these brain-constrained neural models, hitherto unaddressed issues regarding the nature, localization and ontogenetic and phylogenetic development of higher brain functions. In closing, we point to possible future clinical applications of brain-constrained modelling

Stimulus and task-dependent gamma activity in monkey V1

The single unit doctrine proposes that each one of our percepts and sensations is represented by the activity of specialized high-level cells in the brain. A common criticism applied to this proposal is the one referred to as the "combinatorial problem". We are constantly confronted with unlimited combinations of elements and features, and yet we face no problem in recognizing patterns and objects present in visual scenes. Are there enough neurons in the brain to singly code for each one of our percepts? Or is it the case that perceptions are represented by the distributed activity of different neuronal ensembles? We lack a general theory capable of explaining how distributed information can be efficiently integrated into single percepts. The working hypothesis here is that distributed neuronal ensembles signal relations present in the stimulus by selectively synchronizing their spiking responses. Synchronization is generally associated with oscillatory activity in the brain. Gamma oscillations in particular have been linked to various integrative processes in the visual system. Studies in anesthetized animals have shown a conspicuous increase in power for the gamma frequency band (30 to 60 Hz) in response to visual stimuli. Recently, these observations have been extended to behavioral studies which addressed the role of gamma activity in cognitive processes demanding selective attention. The initial motivation for carrying out this work was to test if the binding-by-synchronization (BBS) hypothesis serves as a neuronal mechanism for perceptual grouping in the visual system. To this aim we used single and superimposed grating stimuli. Superimposed gratings (plaids) are bi-stable stimuli capable of eliciting different percepts depending on their physical characteristics. In this way, plaids can be perceived either as a single moving surface (pattern plaids), or as two segregated surfaces drifting in different directions (component plaids). While testing the BBS hypothesis, we performed various experiments which addressed the role of both stimulus and cortical architecture on the properties of gamma oscillations in the primary visual cortex (V1) of monkeys. Additionally, we investigated whether gamma activity could also be modulated by allocating attention in time. Finally, we report on gamma-phase shifts in area V1, and how they depend on the level of neuronal activation. ...Einleitung: Die visuelle Hirnforschung hat eine große Informationsmenge über die analytischen Fähigkeiten des Nervensystems zusammengetragen. Die Einführung von Einzelzellableitungen ermöglichte eine detaillierte Beschreibung der Eigenschaften rezeptiver Felder im Sehsystem. Konzentrische rezeptive Felder in der Netzhaut antworten optimal auf einen Luminanzkontrast in ihren On- und Off-Regionen. Antworteigenschaften entwickeln sich schrittweise entlang der Sehbahn, indem zunehmend komplexere Eigenschaften des visuellen Reizes extrahiert werden. Die Pionierarbeiten von David Hubel und Torsten Wiesel beschrieben zunächst Orientierung- und Richtungsselektivität von Neuronen in frühen visuellen Kortexarealen. Später fand man Einzelzellen im medialen Temporallappen, die auf komplexe Objekte wie Hände und Gesichter antworten. Die Hirnforschung ist daher lange davon ausgegangen, dass die Repräsentation komplexer Objekte eine natürliche Entfaltung von Konvergenz entlang der Sehbahn darstellt. Zellen, welche auf elementare Merkmale des Stimulus antworteten, bildeten so durch ihr Muster anatomischer Verbindungen schrittweise die spezialisierten Neurone in höheren visuellen Arealen. Diese Sichtweise zeigt allerdings Limitationen auf. Eine beständige Kritik, die an der "Einzelzelldoktrin" geübt wird, ist das sogenannte kombinatorische Problem. Obwohl wir ständig mit einer unbegrenzten Fülle an Kombinationen verschiedener Elemente und Merkmale konfrontiert sind, laufen wir selten Gefahr, Muster und Objekte in einer visuellen Szene nicht zu erkennen. Ist es überhaupt möglich, dass jedes unserer möglichen Perzepte durch die Antwort eines einzelnen hoch spezialisierten Neurons im Hirn kodiert wird? Falls nicht, welcher Mechanismus könnte einen relationalen Code darstellen, der es ermöglicht, die Aktivität verschiedener neuronaler Ensembles zu integrieren? Die Anforderungen an einen solchen Mechanismus treten besonders hervor, wenn man sich die verteilte Struktur der visuellen Verarbeitung verdeutlicht. Die Merkmalsextraktion entlang der Sehbahn führt unvermeidbar zu einer räumlich verstreuten Repräsentation eines visuellen Reizes. Zusätzlich kommen parallele Bahnen neuronaler Verarbeitung im Hirn häufig vor. Es fehlt eine universale Theorie darüber, wie die verteilte Information effizient in eine einzige Wahrnehmung integriert wird. Die Arbeitshypothese hier lautet, dass das Hirn die Zeitdomäne benutzt, um visuelle Informationen zu integrieren und zu verarbeiten. Konkret würden neuronale Ensemble die aus dem Stimulus hervorgehenden Beziehungen durch eine selektive Synchronisation ihrer Aktionspotenziale signalisieren. Synchronisation ist normalerweise mit oszillatorischer Hirnaktivität assoziiert. Besonders die Oszillationen im Gamma Frequenzband sind mit verschiedensten integrativen Prozessen im Sehsystem in Verbindung gebracht worden. Arbeiten an anästhesierten Tieren haben einen auffälligen Anstieg von Energie im Gamma Frequenzband (30-60 Hz) unter visueller Stimulation gezeigt. Kürzlich sind diese Beobachtungen auf Verhaltensstudien ausgeweitet worden, welche die Rolle von Gamma Aktivität bei der für kognitive Prozesse erforderlichen gerichteten Aufmerksamkeit untersuchen. Die ursprüngliche Motivation dieser Arbeit war es, die von Wolf Singer und Mitarbeitern formulierte "binding-bysynchronization (BBS)" Hypothese zu testen. Dies wurde durch die Ableitung neuronaler Antworten in V1 bei Darbietung eines Paars übereinander gelegter Balkengitter ("Plaid" Stimulus) angegangen. Physikalische Manipulationen der Luminanz in Unterregionen des Plaid-Stimulus können die Wahrnehmung zugunsten der Bewegung der Einzelkomponenten (zwei Objekte, die sich übereinander schieben) oder der Bewegung des Gesamtmusters (ein einziges sich in eine gemeinsame Richtung bewegendes Objekt) beeinflussen. Die gleichzeitige Ableitung von zwei Neuronen, die jeweils nur selektiv auf eines der beiden Balkengitter antworteten, ermöglichte es uns, zwei Vorhersagen der BBS Hypothese zu testen. Falls beide V1 Neurone auf dasselbe Balkengitter antworteten, sollten sie ihre Aktivität unabhängig davon, ob das Plaid in Einzelkomponenten oder als Gesamtmuster wahrgenommen würde, synchronisieren. Der Grund dafür wäre, dass beide Neurone auf dasselbe Objekt reagierten. Im zweiten Fall antworten beide Ableitstellen auf jeweils eine der beiden Balkengitterkomponenten. Hier sagt die BBS Hypothese voraus, dass beide ihre Aktivität nur bei Gesamtmusterbewegung synchronisieren würden, da sie nur in dieser Bedingung auf dasselbe Objekt antworten würden. ..

The What and Why of Binding: The Modeler's Perspective

In attempts to formulate a computational understanding of brain function, one of the fundamental concerns is the data structure by which the brain represents information. For many decades, a conceptual framework has dominated the thinking of both brain modelers and neurobiologists. That framework is referred to here as "classical neural networks." It is well supported by experimental data, although it may be incomplete. A characterization of this framework will be offered in the next section. Difficulties in modeling important functional aspects of the brain on the basis of classical neural networks alone have led to the recognition that another, general mechanism must be invoked to explain brain function. That mechanism I call "binding." Binding by neural signal synchrony had been mentioned several times in the liter ature (Lege´ndy, 1970; Milner, 1974) before it was fully formulated as a general phenomenon (von der Malsburg, 1981). Although experimental evidence for neural syn chrony was soon found, the idea was largely ignored for many years. Only recently has it become a topic of animated discussion. In what follows, I will summarize the nature and the roots of the idea of binding, especially of temporal binding, and will discuss some of the objec tions raised against it