Training-induced Changes in the Dynamics of Attention as Reflected in Pupil Dilation

One of the major topics in attention literature is the attentional blink (AB), which demonstrates a limited ability to identify the second of two targets (T1 and T2) when presented in close temporal succession (200–500 msec). Given that the effect has been thought of as robust and resistant to training for over 2 decades, one of the most remarkable findings in recent years is that the AB can be eliminated after a 1-hr training with a color-salient T2. However, the underlying mechanism of the training effect as well as the AB itself is as of yet still poorly understood. To elucidate this training effect, we employed a refined version of our recently developed pupil dilation deconvolution method to track any training-induced changes in the amount and onset of attentional processing in response to target stimuli. Behaviorally, we replicated the original training effect with a color-salient T2. However, we showed that training without a salient target, but with a consistent short target interval, is already sufficient to attenuate the AB. Pupil deconvolution did not reveal any posttraining changes in T2-related dilation but instead an earlier onset of dilation around T1. Moreover, normalized pupil dilation was enhanced posttraining compared with pretraining. We conclude that the AB can be eliminated by training without a salient cue. Furthermore, our data point to the existence of temporal expectations at the time points of the trained targets posttraining. Therefore, we tentatively conclude that temporal expectations arise as a result of training

Kognitive Interpretationen mehrdeutiger visueller Reize

Unser Gehirn muss zu jeder Zeit relevante Signale von irrelevanten Informationen trennen. Dazu müssen diese als spezifische Einheiten erkannt und klassifiziert werden. Mehrdeutigkeit ist ein wesentlicher Aspekt dieses Verarbeitungsprozesses und kann durch verrauschte Eingangssignale und durch den Aufbau unserer sensorischer Systeme entstehen. Beispielsweise können Reize mehrdeutig sein, wenn sie verrauscht oder unvollständig sind oder nur kurzzeitig wahrgenommen werden. Unter solchen Bedingungen werden Wahrnehmung und Klassifikation eines Reizes deutlich erschwert. Bereits vorhandene kognitive Repräsentationen werden somit möglicherweise nicht aktiviert. Folglich müssen Rückschlüsse über die Reize aufgrund von Kontext und Erfahrung gezogen werden. Ein und derselbe Reiz kann jedoch unterschiedlich repräsentiert und im sensorischen System kodiert werden. Da nur eine Repräsentation die Basis zukünftigen Handelns bilden kann, entsteht eine Art Konkurrenz innerhalb der Wahrnehmung. Derartige Wahrnehmungsphänomene, die mit der Mehrdeutigkeit von Reizen in Verbindung stehen, bilden den Mittelpunkt der vorliegenden Dissertation. Wenn einem physikalisch konstanten Reiz mehrere Interpretationen zugeordnet werden, entsteht ein Wechsel zwischen diesen Einordnungen, den man wahrnimmt und Rivalität ("rivalry") nennt. In dieser Dissertation werden diverse neue Erkenntnisse zu diesem grundlegenden Phänomen der sensorischen Verarbeitung beschrieben. So wird gezeigt, dass Übergänge zwischen drei wahrgenommenen Interpretationen – ein vergleichsweise selten untersuchtes Phänomen, da Rivalität meist mit zweideutigen Reizen untersucht wird – vorhersehbaren Mustern folgen (Kapitel 2). Darüber hinaus zeigt sich, dass derartige Übergänge spezifische Eigenschaften aufweisen, welche die Geschwindigkeit und die Richtung ihrer räumlichen Ausbreitung im visuellen Feld bestimmen (Kapitel 3). Diese Eigenschaften der Mehrdeutigkeit werden weiterhin stark von Aufmerksamkeit und anderen, introspektiven Prozessen beeinflusst. Um die der Rivalität in der Wahrnehmung tatsächlich zugrundeliegenden Prozesse und die damit verbundenen Änderungen des Bewusstseins von derartigen subjektiven Prozessen abzugrenzen, müssen letztere kontrolliert oder sogar vollständig umgangen werden. Ein objektives Maß der Rivalität in der Wahrnehmung wird zur Lösung dieser Aufgabe vorgeschlagen und bietet eine wertvolle Alternative zu introspektivem Berichten über den Wahrnehmungszustand (Kapitel 4). Übergänge in der Wahrnehmung entstehen entlang einer bestimmten Merkmalsdimension des Reizes, wie beispielsweise der Orientierung des berühmten Neckerwürfels. Zudem kann auch eine Änderung in der Merkmalsdimension der Luminanz eine unterschiedliche Interpretation des Reizes hervorrufen. Es wird gezeigt, dass die Pupille kleiner wird, wenn eine Interpretation mit hoher Luminanz die Wahrnehmung übernimmt, und umgekehrt, dass die Pupille größer wird, wenn eine Interpretation mit niedriger Luminanz die Wahrnehmung übernimmt. Folglich kann die Pupille als ein zuverlässiges und objektives Maß für Änderungen in der Wahrnehmung verwendet werden. Durch die Verwendung solcher objektiven Maße konnten neue Eigenschaften der Übergänge in der Wahrnehmung aufgezeigt werden, welche die Theorie unterstützen, dass Introspektion die der Verarbeitung mehrdeutiger Situationen zugrundeliegenden Prozesse merklich beeinflussen kann. Als Nächstes wurden mehrdeutiger Reize im Zusammenhang mit der Wahrnehmung von Objekten eingesetzt (Kapitel 5). Am Beispiel der Kippfigur des "bewegten Diamanten" wird dabei die Bedeutung von mehrdeutigen Reizen veranschaulicht. Beim bewegten Diamanten werden zwei Interpretationen wahrgenommen, die sich entlang der Dimension der Objektkohärenz abwechseln. Das bedeutet, dass die Wahrnehmung zwischen einem einzelnen zusammenhängenden Objekt (Diamant) und mehreren unzusammenhängenden Komponenten kippt. Es wird gezeigt, dass die Interpretation des Reizes als ein einziges kohärentes Objekt, verglichen mit der Interpretation als mehrere Komponenten, zu einer Erhöhung der visuellen Empfindlichkeit innerhalb des Objektes führt. Diese Ergebnisse sind ein Beleg dafür, wie die Aktivierung einer Interpretation eines Reizes als Einzelobjekt (im Vergleich zur Komponentenwahrnehmung) dazu führt, dass die Aufmerksamkeit top-down zu den relevanten Bereichen des Gesichtsfeldes gelenkt wird. Es wird weiter untersucht, welche Eigenschaften des Reizes zu einer bottom-up Aktivierung der Interpretation solcher Objekte beitragen (Kapitel 6). Die Mehrdeutigkeit von Objekten kann erfolgreich aufgehoben werden, indem man einen starken Kontrast in Luminanz oder Farbe zwischen dem Objekt und dem Hintergrund erzeugt. Auch die Größe und die Form haben einen großen Einfluss auf die Detektion und Identifikation von Objekten. Des Weiteren sind die Eigenschaften eines Objektes nicht nur bestimmend für die Erfolgsquote bei der Objekterkennung, sondern ebenso bedeutend für die Speicherung der Repräsentation im Gedächtnis, beispielsweise von neu wahrgenommenen Objekten. Das Klassifizieren von Objekten durch die Versuchsperson wird ebenfalls durch Mehrdeutigkeit beeinflusst. So kann ein Objekt der Versuchsperson einerseits als neu erscheinen, obwohl es bereits bekannt war, weil es beispielsweise der Versuchsperson schon einmal gezeigt worden ist. Andererseits kann auch ein eigentlich unbekanntes Objekt der Versuchsperson dennoch vertraut vorkommen. In dieser Arbeit wird gezeigt, dass solche subjektiven Effekte einen Einfluss auf die Pupillengröße haben (Kapitel 7). Außerdem verkleinert sich die Pupille der Versuchspersonen beim Betrachten neuer Bilder stärker als bei bekannten. Ein ähnlicher Effekt wird gefunden, wenn das Bild vorher erfolgreich im Gedächtnis gespeichert wurde. Daher ist es wahrscheinlich, dass die Pupille die Verfestigung von neuen Objekten im Gedächtnis widerspiegelt. Abschließend wird untersucht, ob sich kognitive Prozesse, wie Entscheidungsfindung – ein wichtiger Prozess, falls mehreren Optionen zur Verfügung stehen und Mehrdeutigkeit aufgehoben werden soll – auch in der Pupille widerspiegeln (Kapitel 8). Es wird zunächst bestätigt, dass die Pupillen sich erweitern, nachdem man eine Entscheidung getroffen hat. Neu wird gezeigt, dass diese Pupillenausdehnungen erfolgreich von anderen Personen erkannt und verwendet werden können, um ein interaktives Spiel gegen die erste Person (den "Gegner") zu gewinnen. Insgesamt wird in dieser Dissertation untersucht, wie mehrdeutige Reize die Wahrnehmung beeinflussen und wie Mehrdeutigkeit verwendet werden kann, um Prozesse des Gehirns zu studieren. Es hat sich gezeigt, dass Mehrdeutigkeit vorhersehbaren Mustern folgt, sie objektiv mit Reflexen gemessen werden kann, und Einblicke in neuronale Prozesse wie Aufmerksamkeit, Objektwahrnehmung und Entscheidungsmechanismen liefern kann. Diese Ergebnisse zeigen, dass Mehrdeutigkeit eine zentrale Eigenschaft sensorischer Systeme ist, und Lebewesen in die Lage versetzt, mit ihrer Umwelt flexibel zu interagieren. Mehrdeutigkeit macht das Verhalten vielfältiger, ermöglicht es dem Gehirn, mit der Welt auf verschiedenen Wegen zu interagieren, und ist die Basis der Dynamik von Wahrnehmung, Interpretation und Entscheidung.Brains can sense and distinguish signals from background noise in physical environments, and recognize and classify them as distinct entities. Ambiguity is an inherent part of this process. It is a cognitive property that is generated by the noisy character of the signals, and by the design of the sensory systems that process them. Stimuli can be ambiguous if they are noisy, incomplete, or only briefly sensed. Such conditions may make stimuli indistinguishable from others and thereby difficult to classify as single entities by our sensory systems. In these cases, stimuli fail to activate a representation that may have been previously stored in the system. Deduction, through context and experience, is consequently needed to reach a decision on what is exactly sensed. Deduction can, however, also be subject to ambiguity as stimuli and their properties may receive multiple representations in the sensory system. In such cases, these multiple representations compete for perceptual dominance, that is, for becoming the single entity taken by the system as a reference point for subsequent behavior. These types of ambiguity and several phenomena that relate to them are at the center of this dissertation. Perceptual rivalry, the phenomenal experience of alternating percepts over time, is an example of how the brain may give multiple interpretations to a stimulus that is physically constant. Rivalry is a very typical and general sensory process and this thesis demonstrates some newly discovered properties of its dynamics. It was found that alternations between three perceptual interpretations – a relatively rare condition as rivalry generally occurs between two percepts – follow predictable courses (Chapter 2). Furthermore, such alternations had several properties that determine their speed and direction of spatial spread (suppression waves) in the visual field (Chapter 3). These properties of ambiguity were further strongly affected by attention and other introspective processes. To demarcate the true underlying process of perceptual rivalry and the accompanied changes in awareness, these subjective processes need to be either circumvented or controlled for. An objective measure of perceptual rivalry was proposed that resolved this issue and provided a good alternative for introspective report of ambiguous states (Chapter 4). Changes in percepts occur along a specific feature domain such as depth orientation for the famous Necker cube. Alternatively, luminance may also be a rivalry feature and one percept may appear brighter as the other rivaling percept. It was demonstrated that the pupil gets smaller when a percept with high luminance becomes dominant, and vice versa, gets bigger when a percept with low luminance gets dominant during perceptual rivalry. As such, the pupil can serve as a reliable objective indicator of changes in visual awareness. By using such reflexes during rivalry, several new properties of alternations were discovered and it was again confirmed that introspection can confound the true processes involved in ambiguity. Next, the usefulness of ambiguous stimuli was explored in the context of objects as entities (Chapter 5). Some ambiguous stimuli can induce two percepts that alternate along the feature domain of object coherency, that is, whether a single coherent object or multiple incoherent objects are seen. In other words, an ambiguous stimulus can induce two cognitive interpretations of either seeing an entity or not. It was reported that being aware of a single coherent object results in the increase in visual sensitivity for the areas that constitute the object. These results are evidence of how the activation of a representation of a single and unique object can guide and allocate attentional resources to relevant areas in the visual field in a top-down way. It was further explored which features help to bottom-up access such object representations (Chapter 6). Ambiguity of objects can be successfully resolved by adding strong contrasts between the object and its background in luminance and color. The size and variability of the object's shape was also found to be an important factor for its successful detection and identification. Furthermore, the characteristics of objects do not only determine the rate of success in a recognition task, but are equally important for the storage of their representations in memory if, for instance, the object is novel to the observer. The subjective experience of a novel object is also subject to ambiguity and objects may appear novel to the observer although they are familiar (i.e., previously shown to the observer), or vice versa, they appear familiar to the observer although they are actually novel. It was here shown that such subjective effects are reflected in the pupil (Chapter 7). In addition, if novel images were presented to observers, their pupils constricted stronger as compared to if familiar images were presented. Similarly, if novel stimuli were shown to observers, pupillary constrictions were stronger if these stimuli were successfully stored in memory as compared to those later forgotten. As such, the pupil reflected the cognitive process of novelty encoding. Finally, it was tested whether other cognitive processes, such as decision-making – an important process when multiple options are available and ambiguity has to be resolved with a conscious decision – were also reflected in changes of pupil size (Chapter 8). It was confirmed that the pupil tends to dilate after an observer has made a decision. These dilations can successfully be detected between individuals and further used to gain the upper hand during an interactive game. In sum, this thesis has explored how ambiguous signals affect perception and how ambiguity inside perceptual systems can be used to study processes of the brain. It is found that ambiguity follows predictable courses, can be objectively assessed with reflexes, and can provide insights into other neuronal mechanisms such as attention, object representations, and decision-making. These findings demonstrate that ambiguity is a core property of the sensory systems that enable living beings to interact with their surroundings. Ambiguity adds variation to behavior, allows the brain to flexibly interact with the world, and lies at the bottom of the dynamics of sense, interpretations, and behavioral decisions

Individual Differences in Temporal Selective Attention as Reflected in Pupil Dilation

Attention is restricted for the second of two targets when it is presented within 200-500 ms of the first target. This attentional blink (AB) phenomenon allows one to study the dynamics of temporal selective attention by varying the interval between the two targets (T1 and T2). Whereas the AB has long been considered as a robust and universal cognitive limitation, several studies have demonstrated that AB task performance greatly differs between individuals, with some individuals showing no AB whatsoever.Here, we studied these individual differences in AB task performance in relation to differences in attentional timing. Furthermore, we investigated whether AB magnitude is predictive for the amount of attention allocated to T1. For both these purposes pupil dilation was measured, and analyzed with our recently developed deconvolution method. We found that the dynamics of temporal attention in small versus large blinkers differ in a number of ways. Individuals with a relatively small AB magnitude seem better able to preserve temporal order information. In addition, they are quicker to allocate attention to both T1 and T2 than large blinkers. Although a popular explanation of the AB is that it is caused by an unnecessary overinvestment of attention allocated to T1, a more complex picture emerged from our data, suggesting that this may depend on whether one is a small or a large blinker.The use of pupil dilation deconvolution seems to be a powerful approach to study the temporal dynamics of attention, bringing us a step closer to understanding the elusive nature of the AB. We conclude that the timing of attention to targets may be more important than the amount of allocated attention in accounting for individual differences

Perceptual Rivalry: Reflexes Reveal the Gradual Nature of Visual Awareness

Rivalry is a common tool to probe visual awareness: a constant physical stimulus evokes multiple, distinct perceptual interpretations (“percepts”) that alternate over time. Percepts are typically described as mutually exclusive, suggesting that a discrete (all-or-none) process underlies changes in visual awareness. Here we follow two strategies to address whether rivalry is an all-or-none process: first, we introduce two reflexes as objective measures of rivalry, pupil dilation and optokinetic nystagmus (OKN); second, we use a continuous input device (analog joystick) to allow observers a gradual subjective report. We find that the “reflexes” reflect the percept rather than the physical stimulus. Both reflexes show a gradual dependence on the time relative to perceptual transitions. Similarly, observers' joystick deflections, which are highly correlated with the reflex measures, indicate gradual transitions. Physically simulating wave-like transitions between percepts suggest piece-meal rivalry (i.e., different regions of space belonging to distinct percepts) as one possible explanation for the gradual transitions. Furthermore, the reflexes show that dominance durations depend on whether or not the percept is actively reported. In addition, reflexes respond to transitions with shorter latencies than the subjective report and show an abundance of short dominance durations. This failure to report fast changes in dominance may result from limited access of introspection to rivalry dynamics. In sum, reflexes reveal that rivalry is a gradual process, rivalry's dynamics is modulated by the required action (response mode), and that rapid transitions in perceptual dominance can slip away from awareness