ABC-EBDI: A cognitive-affective framework to support the modeling of believable intelligent agents.

El Grupo de Investigación de Interfaces Avanzadas (AffectiveLab), es un grupo reconocido por el Gobierno de Aragón (T60-20R) cuya actividad se enmarca en el área de la Interacción Humano-Computadora (IHC). Su actividad investigadora se ha centrado, en los últimos años, en cuatro temas principales: interacción natural, informática afectiva, accesibilidad e interfaces basadas en agentes inteligentes, siendo esta última en la que se enmarca esta tesis doctoral. Más concretamente, la realización de esta tesis doctoral se enmarca dentro de los proyectos de investigación nacionales JUGUEMOS (TIN2015-67149-C3-1R) y PERGAMEX (RTI2018-096986-B-C31). Una de sus líneas de investigación se centra en el desarrollo de arquitecturas cognitivo-afectivas para apoyar el modelado afectivo de los agentes inteligentes. El AffectiveLab tiene una sólida experiencia en el uso de agentes de interfaz incorporados que exhiben expresiones afectivas corporales y faciales (Baldassarri et al., 2008). En los últimos años, se han centrado en el modelado del comportamiento de los agentes inteligentes (Pérez et al., 2017).La definición de agente inteligente es un tema controvertido, pero se puede decir que es una entidad autónoma que recibe información dinámica del entorno a través de sensores y actúa sobre el medio ambiente a través de actuadores, mostrando un comportamiento dirigido a un objetivo (Russell et al., 2003). El modelado de los procesos cognitivos en los agentes inteligentes se basa en diferentes teorías (Moore, 1980; Newell, 1994; Bratman, 1987) que explican, desde diferentes puntos de vista, el funcionamiento de la mente humana. Los agentes inteligentes implementados sobre la base de una teoría cognitiva se conocen como agentes cognitivos. Los más desarrollados son los que se basan en arquitecturas cognitivas, como Soar (Laird et al., 1987), ACT-R (Anderson, 1993) y BDI (Rao and Georgeff, 1995). Comparado con Soar y otras arquitecturas complejas, BDI se destaca por su simplicidad y versatilidad. BDI ofrece varias características que la hacen popular, como su capacidad para explicar el comportamiento del agente en cada momento, haciendo posible una interacción dinámica con el entorno. Debido a la creciente popularidad del marco BDI se ha utilizado para apoyar el modelado de agentes inteligentes (Larsen, 2019; (Cranefield and Dignum, 2019). En los últimos años, también han aparecido propuestas de BDI que integran aspectos afectivos. Los agentes inteligentes construidos en base a la arquitectura BDI que también incorporan capacidades afectivas, se conocen como agentes EBDI (Emotional BDI) y son el foco de esta tesis. El objetivo principal de esta tesis ha sido proponer un marco cognitivo-afectivo basado en el BDI que sustente el modelado cognitivo-afectivo de los agentes inteligentes. La finalidad es ser capaz de reproducir un comportamiento humano creíble en situaciones complejas donde el comportamiento humano es variado y bastante impredecible. El objetivo propuesto se ha logrado con éxito en los términos descritos a continuación:• Se ha elaborado un exhaustivo estado del arte relacionado con los modelos afectivos más utilizados para modelar los aspectos afectivos en los agentes inteligentes.• Se han estudiado las arquitecturas de BDI y las propuestas previas de EBDI. El estudio, que dio lugar a una publicación (Sánchez-López and Cerezo, 2019), permitió detectar las cuestiones abiertas en el área, y la necesidad de considerar todos los aspectos de la afectividad (emociones, estado de ánimo, personalidad) y su influencia en todas las etapas cognitivas. El marco resultante de este trabajo doctoral incluye también el modelado de la conducta y el comportamiento comunicativo, que no habían sido considerados hasta ahora en el modelado de los agentes inteligentes. Estos aspectos colocan al marco resultante entre EBDI los más avanzados de la literatura. • Se ha diseñado e implementado un marco basado en el BDI para soportar el modelado cognitivo, afectivo y conductual de los agentes inteligentes, denominado ABC-EBDI (Sanchez et al., 2020) (Sánchez et al., 2019). Se trata de la primera aplicación de un modelo psicológico muy conocido, el modelo ABC de Ellis, a la simulación de agentes inteligentes humanos realistas. Esta aplicación implica:o La ampliación del concepto de creencias. En el marco se consideran tres tipos de creencias: creencias básicas, creencias de contexto y comportamientos operantes. Las creencias básicas representan la información general que el agente tiene sobre sí mismo y el entorno. Las conductas operantes permiten modelar la conducta reactiva del agente a través de las conductas aprendidas. Las creencias de contexto, que se representan en forma de cogniciones frías y calientes, se procesan para clasificarlas en creencias irracionales y racionales siguiendo las ideas de Ellis. Es la consideración de creencias irracionales/racionales porque abre la puerta a la simulación de reacciones humanas realistas.o La posibilidad de gestionar de forma unificada las consecuencias de los acontecimientos en términos de consecuencias afectivas y de comportamiento (conducta). Las creencias de contexto racionales conducen a emociones funcionales y a una conducta adaptativa, mientras que las creencias de contexto irracionales conducen a emociones disfuncionales y a una conducta maladaptativa. Este carácter funcional/disfuncional de las emociones no se había utilizado nunca antes en el contexto del BDI. Además, el modelado conductual se ha ampliado con el modelado de estilos comunicativos, basado en el modelo Satir, tampoco aplicado previamente al modelado de agentes inteligentes. El modelo de Satir considera gestos corporales, expresiones faciales, voz, entonación y estructuras lingüísticas.• Se ha elegido un caso de uso, "I wish a had better news" para la aplicación del marco propuesto y se han realizado dos tipos de evaluaciones, por parte de expertos y de usuarios. La evaluación ha confirmado el gran potencial del marco propuesto para reproducir un comportamiento humano realista y creíble en situaciones complejas.<br /

A BDI Empathic Agent Model Based on a Multidimensional Cross-Cultural Emotion Representation

Tesis por compendio[ES] Los seres humanos somos por naturaleza seres afectivos, las emociones, el estado de ánimo, nuestra personalidad, o nuestras relaciones con los demás guían nuestras motivaciones y nuestras decisiones. Una de las principales habilidades cognitivas relacionadas con el afecto es la empatía. La empatía es un constructo psicológico cuya definición ha ido evolucionando a lo largo de los años y cuyo significado hace referencia a un amplio abanico de competencias afectivas y cognitivas que son fundamentales en el desarrollo del ser humano como ser social. El uso de la empatía en el ámbito de la inteligencia artificial puede revolucionar la forma en la que interactuamos con las máquinas así como la forma en la que simulamos el comportamiento humano. Por otro lado, hay que tener en cuenta que los seres humanos habitualmente acudimos al uso de distintas palabras como ``triste'' o ``contento'' para expresar o verbalizar el estado afectivo. Sin embargo, estas palabras son simplificaciones que abarcan un amplio espectro de procesos cognitivos y estados mentales. Además, hay que considerar que estas palabras tienen una alta dependencia del idioma y la cultura en la que se utilizan. Por tanto, los modelos de representación computacional de los estados afectivos deben se capaces de adaptarse a distintos entornos culturales y de permitir que un agente exprese o represente, mediante palabras, un determinado estado afectivo. En esta tesis se propone un nuevo modelo de agente empático capaz de adaptar su comportamiento a distintos entornos culturales. Para ello, en primer lugar, se presenta una nueva metodología basada en la experimentación para adaptar un espacio de representación de emociones basado en las dimensiones del placer y la activación para la simulación y el reconocimiento computacional afectivo a diferentes entornos culturales. Los resultados del experimento realizado con hispanohablantes europeos se utilizan para proporcionar un nuevo modelo basado en la lógica difusa para representar estados afectivos en las dimensiones de placer y activación utilizando un enfoque de coordenadas polares. Para demostrar que las diferencias culturales afectan a los valores de placer y activación asociados a cada emoción, el experimento se repitió con participantes portugueses y suecos. En segundo lugar, se presenta un nuevo modelo de elicitación de emociones en agentes afectivos que utiliza lógica difusa. Las emociones generadas en el agente por las reglas de valoración difusa se expresan en el modelo de representación del afecto resultante de los experimentos previamente descritos. Además, se propone un nuevo proceso de regulación del afecto que adapta el estado de ánimo del agente, representado mediante un vector en el espacio placer-activación, cada vez que una emoción es elicitada. En tercer lugar, se propone una formalización de la sintaxis, la semántica y el ciclo de razonamiento de AgentSpeak para permitir el desarrollo de agentes afectivos con capacidades empáticas. Partiendo de las teorías de valoración empática y regulación empática, se modifica la estructura de razonamiento del agente para permitir que la empatía afecte al proceso de toma de decisiones. Finalmente, se presenta un modelo de agente pedagógico empático para la educación sobre buenas prácticas en el uso de las redes sociales. El agente es capaz de reconocer la emoción del usuario cuando interactúa con la red social. En base a la emoción del usuario y su comportamiento en la red social, el agente estima un plan para educar al usuario en el uso correcto y seguro de las redes sociales.[CA] Els éssers humans som per naturalesa éssers afectius, les emocions, l'estat d'ànim, la nostra personalitat o les nostres relacions amb els altres guien les nostres motivacions i les nostres decisions. Una de les habilitats cognitives principals relacionades amb l'afecte és l'empatia. L'empatia és un constructe psicològic la definició del qual ha anat evolucionant al llarg dels anys i el significat del qual fa referència a un ampli ventall de competències afectives i cognitives que són fonamentals en el desenvolupament de l'ésser humà com a ésser social. L'ús de l'empatia en l'àmbit de la intel·ligència artificial pot revolucionar la forma en la qual interactuem amb les màquines així com la forma en què simulem el comportament humà. D'altra banda, cal tenir en compte que els éssers humans habitualment acudim a l'ús de diferents paraules com ``trist'' o ``content'' per expressar o verbalitzar l'estat afectiu. Tot i això, aquestes paraules són simplificacions que abasten un ampli espectre de processos cognitius i estats mentals. A més, cal considerar que aquestes paraules tenen una alta dependència de l'idioma i la cultura en què s'utilitzen. Per tant, els models de representació computacional dels estats afectius han de ser capaços d'adaptar-se a diferents entorns culturals i de permetre que un agent expresse o represente, mitjançant paraules, un estat afectiu determinat. En aquesta tesi es proposa un nou model d'agent empàtic capaç d'adaptar el seu comportament a diferents entorns culturals. Per això, en primer lloc, es presenta una metodologia nova basada en l'experimentació per adaptar un espai de representació d'emocions basat en les dimensions del plaer i l'activació per a la simulació i el reconeixement computacional afectiu a diferents entorns culturals. Els resultats de l'experiment realitzat amb hispanoparlants europeus es fan servir per proporcionar un nou model basat en la lògica difusa per representar estats afectius en les dimensions de plaer i activació mitjançant un enfocament de coordenades polars. Per demostrar que les diferències culturals afecten els valors de plaer i activació associats a cada emoció, l'experiment es va repetir amb participants portuguesos i suecs. En segon lloc, es presenta un nou model d'elicitació d'emocions en agents afectius que fa servir lògica difusa. Les emocions generades a l'agent per les regles de valoració difusa s'expressen en el model de representació de l'afecte resultant dels experiments descrits prèviament. A més, es proposa un nou procés de regulació de l'afecte que adapta l'estat d'ànim de l'agent, representat mitjançant un vector a l'espai plaer-activació, cada cop que una emoció és elicitada. En tercer lloc, es proposa una formalització de la sintaxi, semàntica i cicle de raonament d'AgentSpeak per permetre el desenvolupament d'agents afectius amb capacitats empàtiques. Partint de les teories de valoració empàtica i regulació empàtica, es modifica l'estructura de raonament de l'agent per permetre que l'empatia afecti el procés de presa de decisions. Finalment, es presenta un model d'agent pedagògic empàtic per a l'educació sobre bones pràctiques en l'ús de les xarxes socials. L'agent és capaç de reconèixer l'emoció de l'usuari quan interactua amb la xarxa social. En base a l'emoció de l'usuari i el seu comportament a la xarxa social, l'agent estima un pla per educar l'usuari en l'ús correcte i segur de les xarxes socials.[EN] Human beings are, by nature, affective beings; our emotions, moods, personality, or relationships with others guide our motivations and our decisions. One of the main cognitive abilities related to affect is empathy. Empathy is a psychological construct whose definition has evolved over the years and whose meaning refers to a wide range of affective and cognitive competencies that are fundamental in the development of human beings as social beings. The use of empathy in the field of artificial intelligence can revolutionize the way we interact with machines as well as the way we simulate human behavior. On the other hand, it must be considered that human beings usually resort to the use of different words such as ``sad'' or ``happy'' to express or verbalize our affective state. However, these words are simplifications that cover a wide spectrum of cognitive processes and mental states. Moreover, it should be considered that these words have a high dependence on the language and culture in which they are used. Therefore, computational representation models of affective states must adaptable to different cultural environments and to allow an agent to express or represent, by means of words, a given affective state. In this thesis, a new model of empathic agent capable of adapting its behavior to different cultural environments is proposed. To this end, first, a new experiment-based methodology to adapt an emotion representation space based on the dimensions of pleasure and arousal for simulation and affective computational recognition to different cultural environments is presented. The results of an experiment conducted with European Spanish speakers are used to provide a new fuzzy logic-based model for representing affective states in the dimensions of pleasure and arousal using a polar coordinate approach. To prove that cultural differences affect the pleasure and arousal values associated with each emotion, the experiment was replicated with Portuguese and Swedish participants. Secondly, a new model of emotion elicitation in affective agents using fuzzy logic is presented. The emotions generated in the agent by the fuzzy appraisal rules are expressed in the model of affect representation resulting from the previously described experiments. In addition, a new affect regulation process is proposed to adapt the agent's mood, represented by a vector in the pleasure-arousal space, when an emotion is elicited. Third, a formalization of the syntax, semantics and reasoning cycle of AgentSpeak to enable the development of affective agents with empathic capabilities is presented. Drawing on the theories of empathic appraisal and empathic regulation, the agent's reasoning structure is modified to allow empathy to affect the decision-making process. Finally, a model of an empathic pedagogical agent for education on good practices in the use of social networks is introduced. The agent is able to recognize the user's emotion when interacting with the social network. Based on the user's emotion and behavior in the social network, the agent estimates a plan to educate the user in the correct and secure use of social networks.This thesis has been partially supported by the Generalitat Valenciana and European Social Fund by the FPI grant ACIF/2017/085 and by the Spanish Government project PID2020- 113416RB-I00.Taverner Aparicio, JJ. (2022). A BDI Empathic Agent Model Based on a Multidimensional Cross-Cultural Emotion Representation [Tesis doctoral]. Universitat Politècnica de València. https://doi.org/10.4995/Thesis/10251/181181TESISCompendi

Goal Formation through Interaction in the Situation Calculus: A Formal Account Grounded in Behavioral Science

Goal reasoning has been attracting much attention in AI recently. Here, we consider how an agent changes its goals as a result of interaction with humans and peers. In particular, we draw upon a model developed in Behavioral Science, the Elementary Pragmatic Model (EPM). We show how the EPM principles can be incorporated into a sophisticated theory of goal change based on the Situation Calculus. The resulting logical theory supports agents with a wide variety of relational styles, including some that we may consider irrational or creative. This lays the foundations for building autonomous agents that interact with humans in a rich and realistic way, as required by advanced Human-AI collaboration applications

Designing an Affective Intelligent Agent on GenIA³

GenIA³ is a General-purpose Intelligent Affective Agent Architecture, which can be committed with specific psychological theories to create the design of the final agent. Intelligent affective agents can be implemented by using the default design of GenIA³. Also GenIA³ helps experts on fields like psychology or behavioral computing, to provide more precise and refined ways of describing each particular affective process, facilitating the abstraction from irrelevant implementation or design details, and offering a default design for the main processes. Nevertheless an extensive set of domains need to be tested in order to properly validate and refine GenIA³. In this work we describe the default design of GenIA³, and we propose an alternative design which is based on a model of emotions previously proposed. This illustrates the flexibility of GenIA³ and may inspire other alternative designs.Alfonso Espinosa, B. (2017). Designing an Affective Intelligent Agent on GenIA³. http://hdl.handle.net/10251/7849

Computación afectiva y agilidad en entornos virtuales de educación: una revisión sistemática de la literatura

En el campo de la ingeniería de software es reconocida la importancia de las emociones en la adquisición, procesamiento de información y en el aprendizaje de las personas; sin embargo, es de particular interés relacionar estos y otros aspectos relevantes de la computación afectiva con el contexto actual de entornos de aprendizaje virtual para mostrar explícitamente su impacto real, y más en particular con la aplicación de prácticas ágiles como herramienta en educación superior. Así, este artículo presenta el desarrollo de una revisión sistemática de la literatura a fin de identificar las experiencias descriptas para la evaluación de emociones de los estudiantes en entornos virtuales de enseñanza. Se consultaron cuatro librerías digitales y se analizaron en profundidad 6 estudios, concluyendo que, si bien la literatura muestra avances a nivel de modelos teóricos e implementaciones de sistemas para el reconocimiento de emociones, su utilización en educación superior es escasa, y directamente nula cuando se introducen prácticas ágiles como una estrategia de enseñanza.Sociedad Argentina de Informática e Investigación Operativ

Towards Formal Modeling of Affective Agents in a BDI Architecture

[EN] Affective characteristics are crucial factors that influence human behavior, and often the prevalence of either emotions or reason varies on each individual. We aim to facilitate the development of agents reasoning considering their affective characteristics. We first identify core processes in an affective BDI agent, and we integrate them into an affective agent architecture (GenIA3). These tasks include the extension of the BDI agent reasoning cycle to be compliant with the architecture, and the extension of the agent language (Jason) to support affect-based reasoning, and the adjustment of the equilibrium between the agent s affective and rational sides.This work was supported by the Generalitat Valenciana grant PROMETEOII/2013/019, and the Spanish TIN2014-55206-R project of the Ministerio de Economa y Competitividad.Alfonso Espinosa, B.; Vivancos, E.; Botti, V. (2017). Towards Formal Modeling of Affective Agents in a BDI Architecture. ACM Transactions on Internet Technology. 17(1):5:1-5:23. https://doi.org/10.1145/3001584S5:15:23171Bexy Alfonso, Emilio Vivancos, and Vicente J. Botti. 2014. An open architecture for affective traits in a BDI agent. In Proceedings of the 6th ECTA 2014. Part of the 6th IJCCI 2014. 320--325.Bexy Alfonso, Emilio Vivancos, and Vicente J. Botti. 2016a. Design of an Affective Intelligent Agent on GenIA. Technical Report. DSIC, UPV, Spain.Bexy Alfonso, Emilio Vivancos, and Vicente J. Botti. 2016b. Toward a Systematic Development of Affective Intelligent Agents. Technical Report. DSIC, UPV, Spain.Gordon Willard Allport. 1937. Personality: A Psychological Interpretation. Henry Holt, New York.Albert Bandura. 1977. Self-efficacy: Toward a unifying theory of behavioral change. Psychological Review 84, 2 (1977), 191.Cristina Battaglino, Rossana Damiano, and Leonardo Lesmo. Emotional range in value-sensitive deliberation. In Proceedings of AAMAS&#8217;13. International Foundation for Autonomous Agents and Multiagent Systems, Richland, SC, 769--776.Antoine Bechara, Hanna Damasio, and Antonio R Damasio. 2000. Emotion, decision making and the orbitofrontal cortex. Cerebral Cortex 10, 3 (2000), 295--307.Rafael H. Bordini and Jomi Fred H&#252;bner. 2010. Semantics for the Jason variant of AgentSpeak (plan failure and some internal actions). In Proceedings of ECAI&#8217;10. IOS Press, Amsterdam, The Netherlands, 635--640.Rafael H. Bordini, Jomi Fred H&#252;bner, and Michael Wooldridge. 2007. Programming Multi-Agent Systems in AgentSpeak Using Jason. Wiley.Tibor Bosse, Joost Broekens, Jo&#227;o Dias, and Janneke van der Zwaan. 2014. Emotion Modeling. Springer.Scott Brave, Clifford Nass, and Kevin Hutchinson. 2005. Computers that care: Investigating the effects of orientation of emotion exhibited by an embodied computer agent. International Journal of Human-computer Studies 62, 2 (2005), 161--178.Jerome R. Busemeyer, Eric Dimperio, and Ryan K. Jessup. 2007. Integrating Emotional Processes Into Decision-Making Models. Oxford University Press, 29--44.Colin F Camerer, George Loewenstein, and Matthew Rabin. 2011. Advances in Behavioral Economics. Princeton University Press.Martin A Conway. 1990. Autobiographical Memory: An Introduction. Open University Press.Ronald De Sousa. 1990. The Rationality of Emotion. MIT Press.Jo&#227;o Dias, Samuel Mascarenhas, and Ana Paiva. 2014. FAtiMA Modular: Towards an Agent Architecture with a Generic Appraisal Framework. Springer International Publishing, 44--56. DOI:http://dx.doi.org/10.1007/978-3-319-12973-0_3Magy Seif El-Nasr, John Yen, and Thomas R Ioerger. 2000. Flame&#8212;fuzzy logic adaptive model of emotions. Autonomous Agents and Multi-agent systems 3, 3 (2000), 219--257.Hans J&#252;rgen Eysenck. 1982. Personality, Genetics, and Behavior: Selected Papers. Praeger, Chapter Development of a Theory, 1--48.Shane Frederick. 2005. Cognitive reflection and decision making. The Journal of Economic Perspectives 19, 4 (2005), 25--42.N. H. Frijda, A. S. R. Manstead, and S. Bem. 2000. Emotions and Beliefs: How Feelings Influence Thoughts. Cambridge University Press.Nico H. Frijda. 2007. The Laws of Emotion. Lawrence Erlbaum Associates, Incorporated.Patrick Gebhard. 2005. ALMA: A layered model of affect. In Proceedings of the 4th AAMAS. ACM, New York, NY, 29--36. DOI:http://dx.doi.org/10.1145/1082473.1082478Lewis R. Goldberg and others. 1990. An alternative &#8220;description of personality&#8221;: The big-five factor structure. Journal of Personality and Social Psychology 59, 6 (1990), 1216--1229.James J. Gross and Ross A. Thompson. 2011. Emotion regulation: Conceptual fundations. In Handbook of Emotion Regulation. Guilford Publications.JonathanY. Ito, DavidV. Pynadath, and StacyC. Marsella. 2010. Modeling self-deception within a decision-theoretic framework. AAMAS 20, 1 (2010), 3--13. DOI:http://dx.doi.org/10.1007/s10458-009-9096-7William G. Kennedy. 2012. Modelling human behaviour in agent-based models. In Agent-based Models of Geographical Systems. Springer, 167--179.Jonathan Klein, Youngme Moon, and Rosalind W. Picard. 2002. This computer responds to user frustration: Theory, design, and results. Interacting with Computers 14, 2 (2002), 119--140.Richard S. Lazarus and Susan Folkman. 1984. Stress, Appraisal, and Coping. Springer.Stacy Marsella and Jonathan Gratch. 2003. Modeling coping behavior in virtual humans: Don&#8217;t worry, be happy. In Proceedings of AAMAS&#8217;03. ACM, 313--320. DOI:http://dx.doi.org/10.1145/860575.860626Stacy C. Marsella and Jonathan Gratch. 2009. EMA: A process model of appraisal dynamics. Cognitive Systems Research 10, 1 (2009), 70--90.Stacy C. Marsella, Jonathan Gratch, and Paolo Petta. 2010. Computational models of emotion. In A Blueprint for Affective Computing: A Sourcebook and Manual. OUP Oxford, 21--46.Robert R. McCrae and Oliver P. John. 1992. An introduction to the five-factor model and its applications. Journal of Personality 60, 2 (1992), 175--215.Albert Mehrabian. 1996a. Analysis of the big-five personality factors in terms of the PAD temperament model. Australian Journal of Psychology 48, 2 (1996), 86--92. DOI:http://dx.doi.org/10.1080/00049539608259510Albert Mehrabian. 1996b. Pleasure-arousal-dominance: A general framework for describing and measuring individual differences in temperament. Current Psychology 14, 4 (1996), 261--292. DOI:http://dx.doi.org/10.1007/BF02686918Albert Mehrabian and James A. Russell. 1974. An Approach to Environmental Psychology. MIT Press.John-Jules Ch. Meyer. 2006. Reasoning about emotional agents. International Journal of Intelligent Systems 21, 6 (June 2006), 601--619. DOI:http://dx.doi.org/10.1002/int.v21:6Katherine Nelson. 1993. The psychological and social origins of autobiographical memory. Psychological Science 4, 1 (1993), 7--14.Magalie Ochs, David Sadek, and Catherine Pelachaud. 2012. A formal model of emotions for an empathic rational dialog agent. AAMAS 24, 3 (2012), 410--440. DOI:http://dx.doi.org/10.1007/s10458-010-9156-zAndrew Ortony. 2003. On making believable emotional agents believable. In Emotions in Humans and Artifacts, R. P. Trapple, P. Petta, and S. Payer (Eds.). MIT Press, Chapter 6, 189--212.Andrew Ortony, Gerald L. Clore, and Allan Collins. 1988. The Cognitive Structure of Emotions. Cambridge University Press.Rosalind W. Picard and Karen K. Liu. 2007. Relative subjective count and assessment of interruptive technologies applied to mobile monitoring of stress. International Journal of Human-Computer Studies 65, 4 (2007), 361--375.C&#233;sar F. Pimentel and Maria R. Cravo. 2005. Affective revision. In Progress in Artificial Intelligence, Carlos Bento, Am&#237;lcar Cardoso, and Ga&#235;l Dias (Eds.). LNCS, Vol. 3808. Springer Berlin, 115--126.Gordon D. Plotkin. 1981. A Structural Approach to Operational Semantics. Technical Report DAIMI FN-19. Aarhus University.Anand S. Rao. 1996. Agentspeak(L): BDI agents speak out in a logical computable language. In Proceedings of the 7th European Workshop on Modelling Autonomous Agents in a Multi-Agent World, Rudy Van Hoe (Ed.). Eindhoven, The Netherlands.Rainer Reisenzein, Eva Hudlicka, Mehdi Dastani, Jonathan Gratch, Koen Hindriks, Emiliano Lorini, and J-JC Meyer. 2013. Computational modeling of emotion: Toward improving the inter- and intradisciplinary exchange. IEEE Transactions on Affective Computing 4, 3 (2013), 246--266.Luis-Felipe Rodr&#237;guez and F&#233;lix Ramos. 2014. Development of computational models of emotions for autonomous agents: A review. Cognitive Computation 6, 3 (2014), 351--375. DOI:http://dx.doi.org/10.1007/s12559-013-9244-xIra J. Roseman. 2001. A Model of Appraisal in the Emotion System: Integrating Theory, Research, and Applications. Oxford University Press, 68--91.James A. Russell. 2003. Core affect and the psychological construction of emotion. Psychological Review 110, 1 (2003), 145--172.Klaus R. Scherer. 2001. Appraisal considered as a process of multilevel sequential checking. Appraisal Processes in Emotion: Theory, Methods, Research 92 (2001), 120.Norbert Schwarz. 2000. Emotion, cognition, and decision making. Cognition &#x38; Emotion 14, 4 (2000), 433--440.Leila Selimbegovi&#263;, Isabelle R&#233;gner, Pascal Huguet, and Armand Chatard. 2015. On the power of autobiographical memories: From threat and challenge appraisals to actual behaviour. Memory (2015), 1--8.Martin Sewell. 2010. Emotions help solve the prisoner&#8217;s dilemma. In Proceedings of the Behavioural Finance Working Group Conference: Fairness, Trust and Emotions in Finance, London. 1--2.Craig A. Smith and Richard S. Lazarus. 1990. Emotion and adaptation. In Handbook of Personality: Theory and Research, Lawrence A. Pervin (Ed.). 609--637.Bas R. Steunebrink, Mehdi Dastani, and John-Jules Ch. Meyer. 2009. A formal model of emotion-based action tendency for intelligent agents. In Proceedings of EPIA&#8217;09. Springer-Verlag, Berlin, 174--186. DOI:http://dx.doi.org/10.1007/978-3-642-04686-5_15Bas R. Steunebrink, Mehdi Dastani, and John-Jules Ch. Meyer. 2012. A formal model of emotion triggers: An approach for BDI agents. Synthese 185 (2012), 83--129. DOI:http://dx.doi.org/10.1007/s11229-011-0004-8AW Tucker. 1983. The mathematics of tucker: A sampler. The Two-Year College Mathematics Journal 14, 3 (1983), 228--232.Renata Vieira, &#193;lvaro F. Moreira, Michael Wooldridge, and Rafael H. Bordini. 2007. On the formal semantics of speech-act based communication in an agent-oriented programming language. J. Artif. Intell. Res. (JAIR) 29 (2007), 221--267.G. Weiss. 2013. Multiagent Systems. MIT Press

Effective Tutoring with Empathic Embodied Conversational Agents

This thesis examines the prospect of using empathy in an Embodied Tutoring System (ETS) that guides students through an online quiz (by providing feedback on student answers and responding to self-reported student emotion). The ETS seeks to imitate human behaviours successfully used in one-to-one human tutorial interactions. The main hypothesis is that the interaction with an empathic ETS results in greater learning gains than a neutral ETS, primarily by encouraging positive and reducing negative student emotions using empathic feedback. In a preparatory study we investigated different strategies for expressing emotion by the ETS. We established that a multimodal strategy achieves the best results regarding how accurately human participants can recognise the emotions. This approach was used in developing the feedback strategy for our empathic ETS. The preparatory study was followed by two studies in which we compared a neutral with an empathic ETS. The ETS in the second of these studies was developed using results from the first of these studies. In both studies, we found no statistically significant difference in learning gains between the neutral and empathic ETS. However, we did discover a number of interactions between the ETS system, learning gains and, in particular 1) student scores on an empathic tendency test and 2) student ability. We also analysed the subjective responses and the relation between self-reported emotions during the quiz and student learning gains. Based on our studies in a formal class room setting, we assess the prospects of using empathic agents in a classroom setting and describe a number of requirements for their effective use

Learning Data-Driven Models of Non-Verbal Behaviors for Building Rapport Using an Intelligent Virtual Agent

There is a growing societal need to address the increasing prevalence of behavioral health issues, such as obesity, alcohol or drug use, and general lack of treatment adherence for a variety of health problems. The statistics, worldwide and in the USA, are daunting. Excessive alcohol use is the third leading preventable cause of death in the United States (with 79,000 deaths annually), and is responsible for a wide range of health and social problems. On the positive side though, these behavioral health issues (and associated possible diseases) can often be prevented with relatively simple lifestyle changes, such as losing weight with a diet and/or physical exercise, or learning how to reduce alcohol consumption. Medicine has therefore started to move toward finding ways of preventively promoting wellness, rather than solely treating already established illness. Evidence-based patient-centered Brief Motivational Interviewing (BMI) interven- tions have been found particularly effective in helping people find intrinsic motivation to change problem behaviors after short counseling sessions, and to maintain healthy lifestyles over the long-term. Lack of locally available personnel well-trained in BMI, however, often limits access to successful interventions for people in need. To fill this accessibility gap, Computer-Based Interventions (CBIs) have started to emerge. Success of the CBIs, however, critically relies on insuring engagement and retention of CBI users so that they remain motivated to use these systems and come back to use them over the long term as necessary. Because of their text-only interfaces, current CBIs can therefore only express limited empathy and rapport, which are the most important factors of health interventions. Fortunately, in the last decade, computer science research has progressed in the design of simulated human characters with anthropomorphic communicative abilities. Virtual characters interact using humans’ innate communication modalities, such as facial expressions, body language, speech, and natural language understanding. By advancing research in Artificial Intelligence (AI), we can improve the ability of artificial agents to help us solve CBI problems. To facilitate successful communication and social interaction between artificial agents and human partners, it is essential that aspects of human social behavior, especially empathy and rapport, be considered when designing human-computer interfaces. Hence, the goal of the present dissertation is to provide a computational model of rapport to enhance an artificial agent’s social behavior, and to provide an experimental tool for the psychological theories shaping the model. Parts of this thesis were already published in [LYL+12, AYL12, AL13, ALYR13, LAYR13, YALR13, ALY14]