Misuse of Automation: The Impact of System Experience on Complacency and Automation Bias in Interaction with Automated Aids

Dieser Beitrag ist mit Zustimmung des Rechteinhabers aufgrund einer (DFG geförderten) Allianz- bzw. Nationallizenz frei zugänglich.This publication is with permission of the rights owner freely accessible due to an Alliance licence and a national licence (funded by the DFG, German Research Foundation) respectively.The study investigates how complacency and automation bias effects in interaction with automated aids are moderated by system experience. Participants performed a supervisory control task supported by an aid for fault identification and management. Groups differed with respect to how long they worked with the aid until eventually an automation failure occurred, and whether this failure was the first or second one the participants were exposed to. Results show that negative experiences, i.e., automation failures, entail stronger effects on subjective trust in automation as well as the level of complacency and automation bias than positive experiences (correct recommendations of the aid). Furthermore, results suggest that commission errors may be due to three different sorts of effects: (1) a withdrawal of attention in terms of incomplete cross-checks of information, (2) an active discounting of contradictory system information, and (3) an inattentive processing of contradictory information analogue to a “looking-but-not-seeing” effect

Human Performance Consequences of Automated Decision Aids : The Impact of Degree of Automation and System Experience

Dieser Beitrag ist mit Zustimmung des Rechteinhabers aufgrund einer (DFG geförderten) Allianz- bzw. Nationallizenz frei zugänglich.This publication is with permission of the rights owner freely accessible due to an Alliance licence and a national licence (funded by the DFG, German Research Foundation) respectively.Two experiments are reported that investigate to what extent performance consequences of automated aids are dependent on the distribution of functions between human and automation and on the experience an operator has with an aid. In the first experiment, performance consequences of three automated aids for the support of a supervisory control task were compared. Aids differed in degree of automation (DOA). Compared with a manual control condition, primary and secondary task performance improved and subjective workload decreased with automation support, with effects dependent on DOA. Performance costs include return-to-manual performance issues that emerged for the most highly automated aid and effects of complacency and automation bias, respectively, which emerged independent of DOA. The second experiment specifically addresses how automation bias develops over time and how this development is affected by prior experience with the system. Results show that automation failures entail stronger effects than positive experience (reliably working aid). Furthermore, results suggest that commission errors in interaction with automated aids can depend on three sorts of automation bias effects: (a) withdrawal of attention in terms of incomplete cross-checking of information, (b) active discounting of contradictory system information, and (c) inattentive processing of contradictory information analog to a “looking-but-not-seeing” effect

Human Performance Consequences of Automated Decision Aids in States of Sleep Loss

Dieser Beitrag ist mit Zustimmung des Rechteinhabers aufgrund einer (DFG geförderten) Allianz- bzw. Nationallizenz frei zugänglich.This publication is with permission of the rights owner freely accessible due to an Alliance licence and a national licence (funded by the DFG, German Research Foundation) respectively.Objective: The authors investigated how human performance consequences of automated decision aids are affected by the degree of automation and the operator’s functional state. Background: As research has shown, decision aids may not only improve performance but also lead to new sorts of risks. Whereas knowledge exists about the impact of system characteristics (e.g., reliability) on human performance, little is known about how these performance consequences are moderated by the functional state of operators. Method: Participants performed a simulated supervisory process control task with one of two decision aids providing support for fault identification and management. One session took place during the day, and another one took place during the night after a prolonged waking phase of more than 20 hr. Results: Results showed that decision aids can support humans effectively in maintaining high levels of performance, even in states of sleep loss, with more highly automated aids being more effective than less automated ones. Furthermore, participants suffering from sleep loss were found to be more careful in interaction with the aids, that is, less prone to effects of complacency and automation bias. However, cost effects arose that included a decline in secondary-task performance and an increased risk of return-to-manual performance decrements. Conclusion: Automation support can help protect performance after a period of extended wakefulness. In addition, operators suffering from sleep loss seem to compensate for their impaired functional state by reallocating resources and showing a more attentive behavior toward possible automation failures. Application: Results of this research can inform the design of automation, especially decision aids

Diagnostic workup for endometrioid borderline ovarian tumors (eBOT) requires histopathological evaluation of the uterus

BACKGROUND For young borderline ovarian tumor (BOT) patients, preservation of the uterus was incorporated as an accepted option into treatment guidelines. For the endometrioid subtype (eBOT) however, adequate histological evaluation is challenging and might be associated with synchronous endometrial disorders or misinterpreted as spread from uterine primaries. CASE PRESENTATION We report the cases of two young patients with eBOT who underwent treatment according to current guidelines. In both cases, unexpected findings of invasive uterine carcinomas were established in final histopathological evaluation. CONCLUSIONS This constellation highlights the challenging diagnostic workup of BOT and underlines that uterine curettage is indispensable for eBOT to exclude uterine primary tumors when fertility preservation is planned. Accordingly, we suggest to include this procedure into recommendations for diagnostic workup and to state the potential risk in treatment guidelines

Leistungsfolgen beim Umgang mit Assistenzsystemen : der Einfluss von Funktionsallokation, Systemerfahrung und Bedienerzustand

Introducing automation intends to yield performance benefits, increase system safety and efficiency, and decrease costs. However, the intended benefits are often offset by negative effects such as complacency and automation bias, loss of situation awareness, and skill degradation. Automating systems is not an all-or-none decision, and degree of automation (DOA) has been shown to influence both intended performance benefits as well as performance decrements. While performance benefits more from higher automation, results about the optimal degree of automation in terms of preventing negative effects are not so clear-cut. In a first study, we investigated effects of degree of automation on routine performance and failure performance using a simulated process control task. Results show that primary and secondary task performance as well as workload benefit from providing automation, and performance gains were higher for higher DOA. However, skill degradation was observed for the highest DOA when returning to manual performance. Regarding automation bias, there was no effect of DOA. The second study focused on the effects of system experience. Failure experience led to a strong decrease in trust, also reflected in more intense automation verification. Early failure experience reduced the risk of complacency and automation bias but did not prevent it completely. Moreover, we identified three possible causes of commission errors: a) incomplete automation verification, b) complete automation verification without attentive processing of contradictory information, analogous to a “looking-but-not-seeing” effect, c) discounting of contradictory system information. The third study looked into effects of operator functional state and DOA. Higher DOA could better protect performance after extended wakefulness, but return-to-manual performance suffered more. More information was sampled for automation verification during the night, and the risk of commission errors was lower compared to daytime performance.Mit der Einführung von Automation sollen Leistungsvorteile erzielt, eine Erhöhung der Systemsicherheit und Effizienz erreicht und Kosten reduziert werden. Leider ist sie oft auch von negativen Effekten wie complacency und automation bias, Verlust des Situationsbewusstseins und Fertigkeitsverlusten begleitet. Automatisierung ist keine Alles-oder-Nichts Entscheidung, und der Grad der Automatisierung beeinflusst sowohl die Vorteile als auch die Nachteile. Während Leistungsvorteile sich besonders bei hohen Automationsstufen zeigen, gibt es keine so klaren Ergebnisse darüber, welche Automationsstufe die optimale ist, um negative Automatisierungsfolgen zu vermeiden. In dieser Arbeit wurde in einer ersten Studie der Einfluss des Automationsgrades (degree of automation, DOA) auf die Leistung bei zuverlässiger Automationsunterstützung wie auch bei Automationsversagen untersucht. Die Ergebnisse zeigen, dass sowohl Primär- und Sekundäraufgabenleistung als auch workload von der Automationsunterstützung profitieren. Die Leistungsvorteile waren höher bei höherer DOA. Allerdings wurden bei der höchsten DOA auch Fertigkeitsverluste gefunden, wenn wieder ohne Unterstützung der Automation gearbeitet werden musste. Es wurde kein Einfluss von DOA auf automation bias gefunden. In einer zweiten Studie wurde der Einfluss der Systemerfahrung untersucht. Die Erfahrung von Automationsfehlern führte zu einem drastischen Einbruch des Vertrauens und einer stärkeren Überprüfung der Automation. Frühe Fehlererfahrung reduzierte das Risiko von complacency und automation bias, konnte es aber nicht komplett verhindern. Desweiteren wurden in der Studie drei mögliche Ursachen von commission errors identifiziert: a) die Automation wird unvollständig überprüft, b) die Automation wird vollständig überprüft, aber widersprechende Information nicht bewusst verarbeitet, c) widersprechende Information wird bei der Entscheidung nicht berücksichtigt. In der dritten Studie wurden Effekte von Bedienerzustand und DOA untersucht. Mit Unterstützung höherer Automation konnte die Leistung während der Nacht besser erhalten werden. Allerdings waren die Leistungseinbußen bei Ausfall der Automation stärker als bei niedrigerem Automationsgrad. Die Automation wurde nachts mehr überprüft als tagsüber, und das Risiko eines commission error war nachts geringer

Der väterliche Alterseffekt auf das Spermienmethylom und seine Auswirkungen auf die nächste Generation

The effect of late parenthood on the offspring´s physical and mental health status has recently become an increasingly important topic of discussion. Studies on neurodevelopmental disorders in children of older parents (Naserbakht et al., 2011) outline the negative consequences of aging fathers as unpredictable compared to the better-understood unfavorable maternal influences (Cedars et al. 2015). This may be due to the fact that lifelong production of male gametes becomes more susceptible to error, not only for somatic mutations. Non-genomic mechanisms such as epigenetic methylation also alter DNA dynamically throughout life (Jones et al., 2015) and influence the aging human sperm DNA (Jenkins et al., 2014). These methylation changes may be transmitted to the next generation via epigenetic inheritance mechanisms (Milekic et al., 2015), which may negatively impact the sensitive epigenetic regulation of cell differentiation in the embryonic period (Curley et al., 2011; Spiers et al., 2015). Accordingly, Nardone et al. (2014) reported several hypomethylated regions in autistic patients, illustrating potential epigenetic influences on the multifactorial pathogenesis of neuropsychiatric disorders. In the present study, the methylation status of five gene regions in the sperm DNA of males of different ages was analyzed by two techniques - pyrosequencing and deep bisulfite sequencing. Two gene regions, FOXK1 and DMPK, showed a highly significant age-related methylation loss and FOXK1 a reduced methylation variation at the level of single alleles. In addition, the examined gene region of FOXK1 showed significant methylation changes in the fetal cord blood DNA of the respective offspring of the sperm donor. This fact suggests a transfer of age-related methylation loss to the next generation. Interestingly, a methylation analysis at the level of single alleles showed that the methylation loss was inherited exclusively by the father. FOXK1 is a transcription factor that plays an important role in the epigenetic regulation of the cell cycle during embryonic neuronal development (Huang et al., 2004; Wijchers et al., 2006). For this reason, the methylation status of FOXK1 in the blood of autistic patients and an age- and sex-matched control group was investigated. While both groups showed age-associated FOXK1 methylation loss, a faster dynamics of methylation change was observed in the autistic group. Although further studies are needed to uncover inheritance mechanisms of epigenetic information, the present results show an evident influence of age-related methylation changes on offspring. When advising future fathers, it is important to consider how the paternal epigenome is altered by aging and can have a negative impact on the developing embryo.Die Auswirkungen einer späten Elternschaft auf die körperliche und geistige Gesundheit der Nachkommen wurde in letzter Zeit zunehmend diskutiert. Studien zu neurologischen Entwicklungsstörungen bei Kindern älterer Eltern (Naserbakht et al. 2011) skizzieren insbesondere die negativen Folgen alternder Väter (Cedars et al. 2015). Dies ist möglicherweise darauf zurückzuführen, dass die lebenslange Produktion männlicher Gameten im Laufe des Lebens nicht nur für somatische Mutationen fehleranfälliger wird. Auch nicht-genomische Mechanismen wie die epigenetische Methylierung verändert die DNA im Laufe des Lebens dynamisch (Jones et al. 2015) und beeinflussen die alternde menschliche Spermien-DNA (Jenkins et al. 2014). Möglicherweise werden diese Methylierungsveränderungen über epigenetische Vererbungsmechanismen an die nächste Generation übertragen (Milekic et al. 2015), was sich negativ auf die empfindliche epigenetische Regulation der Zelldifferenzierung in der Embryonalperiode auswirken kann (Curley et al. 2011; Spiers et al. 2015). Mögliche epigenetische Einflüsse auf die multifaktorielle Pathogenese neuropsychiatrischer Erkrankungen veranschaulichend, zeigten Nardone et al. (2014) mehrere hypomethylierte Regionen bei autistischen Patienten auf. In der vorliegenden Arbeit wurde der Methylierungsstatus von fünf Genregionen in der Spermien-DNA von Männern unterschiedlichen Alters durch zwei Techniken analysiert – das Pyrosequencing und das Deep Bisulfite Sequencing. Zwei Genregionen, FOXK1 und DMPK, zeigten einen hochgradig signifikanten altersbedingten Methylierungsverlust und FOXK1 auf der Ebene einzelner Allele eine verringerte Methylierungsvariation. Darüber hinaus zeigte die untersuchte Genregion von FOXK1 signifikante Methylierungsveränderungen in der Nabelschnurblut-DNA der jeweiligen Nachkommen der Samenspender. Diese Tatsache spricht für eine Übertragung des altersbedingten Methylierungsverlustes auf die nächste Generation. Anhand einer Methylierungsanalyse auf der Ebene einzelner Allele konnte interessanterweise gezeigt werden, dass der Methylierungsverlust ausschließlich durch den Vater vererbt wurde. FOXK1 ist ein Transkriptionsfaktor, der eine wichtige Rolle bei der epigenetischen Regulation des Zellzyklus während der embryonalen neuronalen Entwicklung spielt (Huang et al. 2004; Wijchers et al. 2006). Aus diesem Grund wurde der Methylierungsstatus von FOXK1 im Blut autistischer Patienten und einer alters- und geschlechtsentsprechenden Kontrollgruppe untersucht. Während beide Gruppen einen altersassoziierten FOXK1-Methylierungverlust zeigten, wurde in der autistischen Gruppe eine schnellere Dynamik der Methylierungsänderung beobachtet. Obwohl weitere Studien erforderlich sind, um Vererbungsmechanismen epigenetischer Information aufzudecken, zeigen die vorliegenden Ergebnisse einen offensichtlichen Einfluss altersbedingter Methylierungsveränderungen auf die Nachkommen. Bei der Beratung zukünftiger Väter ist es wichtig zu berücksichtigen, wie das väterliche Epigenom durch das Altern verändert wird und negative Auswirkungen auf den sich entwickelnden Embryo haben kann

Well done, Robot! – The importance of praise and presence in

human-robot collaboratio