Agentivité dans les systèmes fortement automatisés

Abstract

In our increasingly technological world, automation has improved many aspects of our lives. But automation can also have negative sides. Indeed, human operators seem often helpless to takeover an automated system in case of failure. This "out-of-the-loop" problem occurs when an operator is unable to understand the intentions and to predict the outcome of actions of the system, causing a decrease of control.The goal of this thesis was to study how the theoretical framework of agency can help identifying and evaluating the information required to make supervision of fully automated systems more efficient, to restore an appropriate sense of control and to increase the user acceptance of what the system is doing. To achieve this goal, we tested participants in four aircraft supervision tasks. We first showed that providing greater information about the system’s intentions increased the participants’ sense of control. However, this condition did not produce any change in a frequently-used implicit marker of the sense of agency, the so-called "intentional binding effect" (Experiment 1). We also found that this information led to better performances in detecting when the system’s decisions were non-optimal (Experiment 2, 3, and 4), to a change in the way participants allocated their attentional resources (Experiment 2 and 3) and also to increase the level of user acceptance (Experiment 3 and 4). Interestingly, we also showed in the last experiment that the delay between prime messages providing information about the system’s intentions and the system’s actions impacted differently the performance and the operator’s levels of control and acceptance.Finally, in the last section, we discuss the implications of our results for the field of human-machine interaction. We claim that the science of agency may be useful to elaborate concrete recommendations for designing automatic systems in which operators remain "in the loop" of control.Le développement des systèmes automatisés a permis d’améliorer de nombreux aspects de notre vie quotidienne. Toutefois, les bénéfices engendrés par l’utilisation croissante de l’automatisation masquent un problème fondamental. En effet, en cas de pannes ou de situations imprévues, les opérateurs présentent souvent des difficultés dans la reprise en main de tels systèmes. Ce phénomène de « sortie de boucle de contrôle » se produit lorsque l’opérateur est incapable de comprendre les intentions du système et de prédire ses actions futures, entraînant ainsi une perte de contrôle.Le but de cette thèse était d’étudier comment le cadre théorique de l’agentivité pouvait nous aider à identifier et évaluer les informations requises pour rendre la supervision de systèmes fortement automatisés plus efficace, pour restaurer un sentiment de contrôle approprié et pour augmenter l’acceptabilité du système par les opérateurs. Pour y parvenir, nous avons réalisé quatre expériences lors desquelles les participants devaient superviser le vol d’un avion sous pilote automatique. Dans un premier temps, nous avons montré que fournir des informations sur les intentions du système augmentait le sentiment de contrôle des participants. Cependant, ce gain d’information ne nous a pas permis d’observer le phénomène de liage intentionnel (Intentional Binding), fréquemment utilisé comme marqueur implicite de l’agentivité (Expérience 1). Nous avons également trouvé que cette information entraînait de meilleures performances pour détecter des décisions non-optimales du système (Expériences 2, 3 et 4), conduisait à un changement dans la façon dont les participants allouaient leurs ressources attentionnelles (Expériences 2 et 3) et aussi augmentait le niveau d’acceptabilité du système (Expériences 3 et 4). De façon intéressante, nous avons également montré dans la dernière expérience que le délai entre l’apparition de l’information sur les intentions du système et l’implémentation de son action impactait différemment la performance et les sentiments de contrôle et d’acceptabilité des opérateurs.Pour finir, dans la dernière partie, nous avons discuté des implications de nos résultats dans le champ des interactions homme-machine. Nous avançons l’idée que le cadre théorique de l’agentivité peut être utile pour élaborer des recommandations concrètes pour la conception de systèmes fortement automatisés permettant à l’opérateur de rester dans la « boucle de contrôle »