Plan Recognition in Exploratory Domains

This paper describes a challenging plan recognition problem that arises in environments in which agents engage widely in exploratory behavior, and presents new algorithms for effective plan recognition in such settings. In exploratory domains, agentsʼ actions map onto logs of behavior that include switching between activities, extraneous actions, and mistakes. Flexible pedagogical software, such as the application considered in this paper for statistics education, is a paradigmatic example of such domains, but many other settings exhibit similar characteristics. The paper establishes the task of plan recognition in exploratory domains to be NP-hard and compares several approaches for recognizing plans in these domains, including new heuristic methods that vary the extent to which they employ backtracking, as well as a reduction to constraint-satisfaction problems. The algorithms were empirically evaluated on peopleʼs interaction with flexible, open-ended statistics education software used in schools. Data was collected from adults using the software in a lab setting as well as middle school students using the software in the classroom. The constraint satisfaction approaches were complete, but were an order of magnitude slower than the heuristic approaches. In addition, the heuristic approaches were able to perform within 4% of the constraint satisfaction approaches on student data from the classroom, which reflects the intended user population of the software. These results demonstrate that the heuristic approaches offer a good balance between performance and computation time when recognizing peopleʼs activities in the pedagogical domain of interest.Engineering and Applied Science

Plan and Intent Recognition in a Multi-agent System for Collective Box Pushing

This is the published version.In a distributed multi-agent system, an idle agent may be available to assist other agents in the system. An agent architecture called intent recognition is proposed in this article to accomplish this with minimal communication. To assist other agents in the system, an agent performing recognition observes the tasks other agents are performing. Unlike the much-studied field of plan recognition, the overall intent of an agent is recognized instead of a specific plan. The observing agent may use capabilities that it has not observed. In this study, the key research question is: What are intent-recognition systems and how can these be used to have agents autonomously assist each other effectively and efficiently? A conceptual framework is proposed to address this question. An implementation of the conceptual framework is tested and evaluated. A set of metrics, including task time and number of communications, is used to compare the performance of plan recognition and intent recognition. This research shows that under certain conditions, an intent-recognition system is more efficient than a plan recognition system

Reconnaissance des buts d'un agent à partir d'une observation partielle de ses actions et des connaissances stratégiques de son espace de décision

La capacité de reconnaître les intentions des autres est une composante essentielle non seulement de l'intelligence humaine mais aussi de l'intelligence artificielle dans plusieurs domaines d'application. Pour les algorithmes d'intelligence artificielle, reconnaître l'intention d'un agent à partir d'une observation partielle de ses actions demeure un défi de taille. Par exemple dans les jeux de stratégie en temps réel, on aimerait reconnaître les intentions de son adversaire afin de mieux contrer ses actions futures. En domotique, on voudrait une maison capable de comprendre et d'anticiper les intentions de ses habitants pour maximiser leur confort et les assister dans leurs activités quotidiennes. Dans le domaine de la sécurité informatique, un outil de détection des intrus doit pouvoir observer les actions des usagers du réseau et déceler ceux qui ont des intentions malveillantes. Ce mémoire de maîtrise propose d'aborder ce problème sous observabilité partielle par adaptation des méthodes utilisées dans l'analyse grammaticale probabiliste. L'approche probabiliste considérée utilise une grammaire hors contexte de multi-ensemble partiellement ordonnée et considère la poursuite de plusieurs buts simultanément, ordonnés ou non. Cela revient donc à faire de l'analyse grammaticale probabiliste avec plusieurs symboles de départ

Inferring team task plans from human meetings: A generative modeling approach with logic-based prior

We aim to reduce the burden of programming and deploying autonomous systems to work in concert with people in time-critical domains such as military field operations and disaster response. Deployment plans for these operations are frequently negotiated on-the-fly by teams of human planners. A human operator then translates the agreed-upon plan into machine instructions for the robots. We present an algorithm that reduces this translation burden by inferring the final plan from a processed form of the human team's planning conversation. Our hybrid approach combines probabilistic generative modeling with logical plan validation used to compute a highly structured prior over possible plans, enabling us to overcome the challenge of performing inference over a large solution space with only a small amount of noisy data from the team planning session. We validate the algorithm through human subject experimentations and show that it is able to infer a human team's final plan with 86% accuracy on average. We also describe a robot demonstration in which two people plan and execute a first-response collaborative task with a PR2 robot. To the best of our knowledge, this is the first work to integrate a logical planning technique within a generative model to perform plan inference.United States. Dept. of Defense. Assistant Secretary of Defense for Research & Engineering (United States. Air Force Contract FA8721-05-C-0002

Intent Recognition in Multi-Agent Systems: Collective Box Pushing and Cow Herding

In a multi-agent system, an idle agent may be available to assist other agents in the system. An agent architecture called intent recognition is proposed to accomplish this with minimal communication. In order to assist other agents in the system, an agent performing recognition observes the tasks other agents are performing. Unlike the much studied field of plan recognition, the overall intent of an agent is recognized instead of a specific plan. The observing agent may use capabilities that it has not observed. This study focuses on the key research questions of: (1) What are intent recognition systems? (2) How can these be used in order to have agents autonomously assist each other effectively and efficiently? A conceptual framework is proposed for intent recognition systems. An implementation of the conceptual framework is tested and evaluated. We hypothesize that using intent recognition in a multi-agent system increases utility (where utility is domain specific) and decreases the amount of communication. We test our hypotheses using two experimental series in the domains of Box Pushing, where agents attempt to push boxes to specified locations; and Cow Herding, where agents attempt to herd cow agents into team corrals. A set of metrics, including task time and number of communications, is used to compare the performance of plan recognition and intent recognition. In both sets of experimental series, intent recognition agents communicate fewer times than plan recognition agents. In addition, unlike plan recognition, when agents use the novel approach of intent recognition, they select unobserved actions to perform, which was seen in both experimental series. Intent recognition agents were also able to outperform plan recognition agents by sometimes reducing task completion time in the Box Pushing domain and consistently scoring more points in the Cow Herding domain. This research shows that under certain conditions, an intent recognition system is more efficient than a plan recognition system. The advantage of intent recognition over plan recognition becomes more apparent in complex domains

From Care Plans to Care Coordination: Opportunities for Computer Support of Teamwork in Complex Healthcare

Children with complex health conditions require care from a large, diverse team of caregivers that includes multiple types of medical professionals, parents and community support organizations. Coordination of their outpatient care, essential for good outcomes, presents major challenges. Extensive healthcare research has shown that the use of integrated, team-based care plans improves care coordination, but such plans are rarely deployed in practice. This paper reports on a study of care teams treating children with complex conditions at a major university tertiary care center. This study investigated barriers to plan implementation and resultant care coordination problems. It revealed the complex nature of teamwork in complex care, which poses challenges to team coordination that extend beyond those identified in prior work and handled by existing coordination systems. The paper builds on a computational teamwork theory to identify opportunities for technology to support increased plan-based complex-care coordination and to propose design approaches for systems that enable and enhance such coordination.Engineering and Applied Science

QED-Tutrix : système tutoriel intelligent pour l'accompagnement des élèves en situation de résolution de problèmes de démonstration en géométrie plane

RÉSUMÉ Au cours des dernières années, le système scolaire québécois impose une pression croissante sur les enseignants. En effet, ceux-ci doivent gérer des classes de plus en plus nombreuses tout en maintenant un soutien adéquat à l’apprentissage des élèves. Dans ce contexte, l’utilisation de systèmes tutoriels intelligents qui sont en mesure d’assister l’enseignant dans son travail pourrait permettre à ce dernier de consacrer plus de temps aux élèves qui en ont véritablement besoin. Malheureusement, dans le domaine de l’enseignement des preuves en géométrie, l’offre de systèmes tutoriels est limitée. De plus, ceux actuellement proposés forcent l’élève à travailler selon un ordre déterminé et ils ne fournissent pas de soutien dans le cadre d’une exploration libre du problème. Ils l’obligent aussi à rédiger des preuves formelles qui ne sont pas adaptées aux exigences des enseignants du secondaire. Partant de ce constat, nous avons établi l’objectif principal de notre projet qui consiste à proposer un système tutoriel intelligent qui assiste l’élève dans une démarche d’exploration plutôt que de rédaction dans le cadre de l’élaboration d’une preuve en géométrie. Dans le but de l’atteindre, nous proposons le système QED-Tutrix qui a été conçu à la suite d’une analyse des interventions d’enseignants réels observés. Il permet à l’enseignant ou au didacticien de construire un ensemble de preuves acceptables pour un problème donné en fonction de l’objectif d’apprentissage visé. L’élève peut ensuite tenter de résoudre le problème choisi par l’enseignant en utilisant les différents outils offerts à l’interface de QED-Tutrix. Celui-ci a accès à une figure dynamique afin de découvrir des conjectures, à un répertoire d’énoncés pour composer sa preuve et à une démonstration qu’il doit compléter. Tous les énoncés proposés sont analysés par le système qui génère des rétroactions à l’intérieur d’une fenêtre de clavardage afin de guider l’élève lors de l’exploration et de la résolution du problème. L’élaboration de QED-Tutrix a été réalisée par une équipe multidisciplinaire composée d’experts en didactique et en informatique. Le système a été construit itérativement par la mise en oeuvre du paradigme de la conception dans l’usage qui est constitué d’une succession de plusieurs cycles de recherche et de développement. Chaque cycle se clôture par une expé- rimentation qui vise à valider le travail accompli et à recueillir des informations qui sont réinvesties dans le cycle suivant. Une première version du système (GeoGebraTUTOR) a donc été créée afin d’étudier notamment les interventions d’enseignants réels qui ont inspiré l’élaboration de la seconde version (QED-Tutrix), qui est décrite et analysée dans cette thèse. Nous ne prétendons pas que la version actuelle du système a un effet mesurable sur les résultats scolaires, car nous visons, pour l’instant, à permettre à un élève de travailler en conformité avec des théories didactiques reconnues. En effet, la conception de QED-Tutrix s’ancre principalement dans la théorie des situations didactiques qui permet de représenter une situation didactique par une relation élève-milieu. Nous utilisons cependant une version étendue de cette théorie dans laquelle un agent tutoriel, qui joue le rôle d’un enseignant virtuel, peut agir sur la relation élève-milieu. De plus, nous désirons offrir un système tutoriel qui est un véritable espace de travail géométrique, c’est-à-dire qu’il permet à l’élève de résoudre des problèmes en mettant en oeuvre les trois démarches définies dans cet espace. Ces théories didactiques ainsi que les résultats de nos observations ont été implantés dans QED-Tutrix. Il en est résulté un système comportant quatre couches logicielles principales. La première permet de modéliser l’ensemble des démonstrations possibles pour résoudre un problème donné. Pour chaque problème, l’enseignant inscrit toutes les inférences, ou pas de démonstration, qui sont acceptables pour sa résolution selon l’objectif d’apprentissage visé. Chaque inférence contient une justification qui est utilisée pour produire un conséquent à partir de l’ensemble de ses antécédents. Il est possible de les combiner afin d’obtenir un graphe contenant toutes les solutions valides, car les conséquents peuvent être recyclés pour former les antécédents d’autres inférences. Le parcours du graphe contenu dans cette première couche permet donc d’énumérer les différentes solutions au problème représenté. Afin de proposer une aide qui respecte l’état cognitif de l’élève lors de l’exploration d’un problème, il est essentiel de conserver la chronologie de ses actions. Nous l’avons donc modélisée à l’intérieur de la deuxième couche de notre système. Celle-ci contient des données dynamiques qui sont mises à jour au cours de la résolution d’un problème, à l’opposé du graphe qui est statique, et elle se superpose à ce dernier. En effet, nous indiquons, pour chaque noeud du graphe, le temps d’activation le plus récent qui correspond à l’écriture de l’énoncé qui lui est attaché. Cette approche se démarque de celle des autres systèmes, car ces derniers n’utilisent pas la chronologie des actions, étant donné qu’ils imposent une séquence de résolution. Pour être en mesure de suggérer différentes pistes de solution à un élève bloqué dans son processus de résolution, nous avons choisi de traiter les inférences selon un ordre de priorité. Ce classement est réalisé par la troisième couche de QED-Tutrix, qui utilise les données des deux couches précédentes. Pour l’obtenir, nous recherchons d’abord la solution la plus avancée à l’aide d’une heuristique originale, que nous avons élaborée et qui permet d’éviter d’énumérer toutes les solutions. Nous affectons ensuite des priorités plus élevées aux inférences faisant partie de la solution déterminée et qui ont été travaillées récemment par l’élève, afin de respecter son état cognitif. La proposition d’autres pistes nous démarque des systèmes tutoriels traditionnels qui offrent de l’aide uniquement pour compléter une solution optimale. La liste ordonnée d’inférences est utilisée par la dernière couche du système, soit celle qui produit les différentes rétroactions. Premièrement, QED-Tutrix offre des rétroactions instantanées, en réponse à l’écriture de chaque énoncé, sous forme d’émoticônes et de messages courts. Il permet aussi d’encoder des erreurs courantes afin de leur associer des messages précis. Il offre enfin une aide à la prochaine étape qui est inspirée des interventions des enseignants réels observés. Cette dernière forme d’aide a été modélisée par une machine à états finis qui traite séquentiellement les inférences ordonnées dans la liste et produit une série d’indices permettant de les compléter. Des messages doivent être composés pour cha- cune des inférences, mais des mécanismes ont été implantés afin de réduire leur nombre. Les rétroactions offertes sont comparables à celles d’autres systèmes tutoriels. Environ 450 inférences ont été produites et près de 900 messages composés afin d’implanter les cinq problèmes actuellement offerts dans notre système. Son fonctionnement a d’abord été vérifié par un expert indépendant. Celui-ci a confirmé que les messages produits étaient conformes à la structure déterminée, mais que l’évaluation de la solution la plus avancée était parfois problématique. QED-Tutrix a ensuite été utilisé par des élèves de 4e secondaire. Ceux-ci ont généralement trouvé le système utile et ont apprécié l’expérience. L’analyse des enregistrements nous a permis de constater que la structure des messages générée permet d’ai- der certains élèves. De plus, nous avons observé la mise en oeuvre des différentes démarches, ce qui confirme le statut d’espace de travail géométrique de QED-Tutrix. L’efficacité de ce dernier est, par contre, limitée dans le cas d’élèves plus faibles, car la structure des messages est calibrée afin d’aider des élèves moyens. Le problème concernant l’évaluation de la solution la plus avancée a aussi provoqué la production de messages incohérents avec la stratégie de l’élève. Dans le but d’augmenter l’efficacité du système, nous envisageons, entre autres, de proposer des profils de tuteurs et d’élèves. Malgré les lacunes qui ont été détectées, il n’en demeure pas moins que QED-Tutrix est un système tutoriel innovateur. En effet, dans le domaine des preuves en géométrie, il est le seul à utiliser des émoticônes et à proposer différentes pistes de solution. De plus, son élaboration itérative, par une équipe multidisciplinaire, permet d’obtenir un système respectueux du travail de l’élève, ce qui se démarque de l’approche traditionnelle qui consiste à tenter de reproduire le raisonnement d’un expert. Les étapes suivantes de conception visent à intégrer des rétroactions sous forme de problèmes connexes et à proposer une aide à la construction de la figure. Notre système pourrait facilement être adapté au traitement des démonstrations en logique de premier ordre. Une adaptation pour le traitement du raisonnement sous forme d’argumentation non formelle pourrait aussi être envisagée. Enfin, la suggestion de diverses pistes de solution pourrait être implantée dans d’autres systèmes tutoriels.----------ABSTRACT In the past years, Quebec’s school system imposes a growing amount of pressure on its teaching staff. They must juggle classes with more and more students while assuring the quality of their teaching to each of them. In this context, the use of intelligent tutoring systems which can assist the teacher in his or her work could allow the teacher to dedicate more energy to each student when it’s needed. However, the offer for tutoring systems for the learning of proof is limited. Moreover, the available systems force the student to work according to a determined order and they don’t provide help in the context of a free exploration of the problem. They also force the student to write formal proofs when high school teachers rarely demand. With this assessment in mind, we established the principal objective for our project which aims at offering an intelligent tutoring system that assists the student in an exploratory approach when solving geometry proofs instead of a formal proof writing approach. The system we offer is QED-Tutrix which was designed taking into account actual teacher interventions observed in a classroom environment. QED-Tutrix allows the teacher or didactician to construct a number of admissible proofs for a given problem according to the learning goals. The student can then try to solve the problem chosen by the teacher by using the different tools QED-Tutrix puts at his disposal. The student has access to a dynamic geometric figure he can work with in order to make conjectures, as well as to a repertoire of statements to create their proof and an interactive written proof they can use to complete their proof. All the statements he provides are analyzed by the system which then generates feedback through a chat window in order to guide the student during the exploration and solving of the problem. QED-Tutrix’s elaboration was carried out by a multidisciplinary team comprised of experts in didactics of mathematics and in computer science. The system is built in an iterative manner by adopting a design in use approach which consists of a series of many cycles of research and development. Each cycle is ended with an experimentation which aims at validating the work accomplished and at collecting information to be reinvested in the following cycle. A first version of the system (GeoGebraTUTOR) was created to study, among other things, real teacher interventions which inspired the implementation of the second version (QED-Tutrix). This last version is described and analyzed in the following thesis. We do not claim that the present QED-Tutrix version has measurable effects on academic results, since our aim at the moment is to make sure it allows the student to work in a fashion put forward by known didactic principles. Indeed, QED-Tutrix’s conception is rooted mainly in the didactical situation’s theory which represents a didactical context by a student-milieu interaction. However, we use an extended version of this theory in which a tutorial system playing a virtual teaching role may influence this student-milieu interaction. Moreover, we aim at offering a tutoring system that is a true geometrical workspace, meaning that it allows the student to solve problems by engaging in three mathematical processes described in the geometrical workspace model. The didactic theories and conclusions drawn from our observations were implemented in QED-Tutrix. This resulted in a system made of four main software layers. The first of these layers is for the organization of the different proof solutions for a given problem. For each solution, the teacher or didactician registers all the inferences or proof steps which are admissible according to a specific learning context. Each inference includes a justification that is used to produce a result stemming from a group of premises. It is possible to combine the different inferences in order to generate a graph of all the different admissible solutions, since the results of one inference can be recycled as a premise for another. The different pathways of this graph which is the output of the first software layer allow for the account of the different solutions to each implemented problem. In order to offer help that takes into account the cognitive state of the student exploring the problem, it is essential to keep track of the chronology of his or her actions. This memory was implemented in the second layer of the system. It contains information that is dynamic and evolves as problem solving occurs. It also overlays the solution graph which is static. Therefore, we indicate for each of the graphs nodes, the most recent activation time associated with the writing of the statement attached to it. This approach stands out from the way other systems operate and in which chronology is usually not taken into account since a solving sequence is imposed. In order to be able to suggest alternative paths to a student who is stuck in his or her solving process, we chose to treat inferences according to an order of priority. This ranking is carried out by QED-Tutrix’s third layer which uses the data from the first two layers. In order to achieve this ordering, we look for the most advanced solution with the help of an original heuristic, elaborated for this project, which spares the system from running through all the admissible solutions. We then assign the highest priorities to the inferences which are part of the identified solution and that has been worked on recently by the student keeping his or her cognitive state in mind. The ability to suggest other solution option distances us from traditional tutorial systems which offer help only to complete an optimal solution. This list of ranked inferences is used by the fourth and last layer of the system, meaning the layer which generates various feedback. Firstly, QED-Tutrix replies to the writing of each statement with instant feedback in the shape of emojis or short messages. It also allows the programming of particular messages associated with known common mistakes. Lastly, this layer of the system offers help with the next step which is inspired by actual teacher interventions. This last form of help was modelled by a finite state machine that sequentially treats the ranked inferences from the list and produces a series of hints to help the student complete them. Messages must be created for each of the inferences, but mechanisms are implemented in order to reuse messages according to the inferences content, limiting the number of entries. The feedback offered by these messages is similar in form to the feedback offered by other tutorial systems. Approximately 450 inferences were produced and close to 900 messages were created in order to implement the five problems currently available in QED-Tutrix. It’s operating has been verified by an independent expert, which confirmed that the output of messages is true to the identified structure, but the evaluation of the most advanced solution is sometimes problematic. QED-Tutrix was then put through a second trial in a class of 4th year of high school. The students generally found the system to be useful and appreciated the experience. The analysis of the session recordings revealed that the generated messages help some students. Also, we observed different mathematical processes which confirmed QED- Tutrix’s geometrical workspace status. However, the efficiency of QED-Tutrix is limited when helping students with less mathematical abilities since the message structure is built with the average student as a reference. Problems with the identification of the most advanced solution also lead to incoherence between messages and student strategies. In order to enhance the system’s efficiency in helping the student solve problems, we contemplate, among other things, to differentiate tutorial profiles according to students solving profiles. In spite of witnessing shortcomings, QED-Tutrix is an innovative tutorial system. Indeed, in the field of geometry proofs, it is the only automated tutoring system to use emojis and to suggest alternative solution paths. Moreover, the iterative and multidisciplinary approach adopted for its design and development stands out from a traditional approach which aims at reproducing expert reasoning. The next design steps aims at including feedback in the form of related problems and to provide help with building the geometrical figure. Our system could easily be adapted to handle first order logical proofs. An adjustment to process non- formal argumentation could also be considered. Finally, the suggestion of alternative solution paths could be implemented in other tutorial systems