Modélisation et analyse de la dynamique de confiance dans une assistance de type IA : analyse et modélisation de l’effet du feedback différé sur la confiance d’un opérateur envers une intelligence artificielle d’aide à la décision au fil du temps

Abstract

In order to promote optimal use of decision support systems by human operators, we examined the effect of trust in artificial intelligence (AI) on usage behavior, as well as how this trust evolves over time. In particular, we studied how trust can be modulated over time to achieve optimal usage, based on the concept of delayed feedback. To do this, we proposed a conceptual framework structuring the evolution of trust according to three levels: the individual, the session, and the inter-session. Based on this framework, we conducted three experiments involving repeated sessions over time to assess the impact of the type and content of delayed feedback on trust and interaction behaviors. Our results show that these elements can effectively influence trust and behavior depending on the phase of interaction in which the operator finds themselves. We also highlighted a combined effect between trust in AI and self-confidence, which influences certain behaviors over the course of the sessions. Finally, we explored the automatic estimation of trust using six regression models. The best of these, a regression decision tree, explains up to 70% of the variance observed in our experimental context.Afin de favoriser un usage optimal des systèmes d'aide à la décision par les opérateurs humains, nous nous sommes intéressés à l'effet de la confiance envers l'intelligence artificielle (IA) sur les comportements d'utilisation, ainsi qu'à son évolution au fil du temps. Nous avons notamment étudié la manière dont la confiance peut être modulée dans le temps afin de tendre vers un usage optimal, en nous appuyant sur la notion de feedback différé. Pour ce faire, nous avons proposé un cadre conceptuel structurant l’évolution de la confiance selon trois niveaux : l’individu, la session et l’inter-session. À partir de ce cadre, nous avons mené trois expérimentations comprenant des sessions répétées dans le temps afin d'évaluer l'impact du type et du contenu du retour différé sur la confiance et les comportements d'interaction. Nos résultats montrent que ces éléments peuvent effectivement influencer les comportements en fonction de la phase d’interaction dans laquelle se trouve l’opérateur. Nous avons également mis en évidence un effet combiné entre la confiance envers l'IA et la confiance en soi, qui influence certains comportements au fil des sessions. Enfin, nous avons exploré l’estimation automatique de la confiance à l’aide de six modèles de régression. Le meilleur d'entre eux, un arbre de décision régressif, explique jusqu'à 70% de la variance observée dans notre contexte expérimental