Noise Robust Dialogue Act Recognition for Task-oriented Dialogues

학위논문 (석사)-- 서울대학교 대학원 : 전기·컴퓨터공학부, 2015. 8. 이상구.대화 시스템과 이메일, 게시글 요약 시스템 구축에 있어 대화 의도 분류는 중요한 역할을 한다. 이는 각각의 시스템들이 발화, 메일, 게시글 형태의 데이터에 대하여 대화 의도를 분류하고 이 정보를 하위 작업의 입력으로 사용하기 때문이다. 그래서 대화 의도 분류 성능이 해당 시스템 의 전체 성능에 크게 영향을 주기 때문에 성능 향상 측면에 있어 중요하다. 대화 의도 분류는 대화 내 발화에 대화 의도를 할당하는 문제이다. 특히 대화 시스템에서는 음성 인식 에러가 존재하기 때문에 에러에 강인한 대화 의도 분류 모델이 필요하다. 따라서 본 논문에서는 두 명의 사람이 특정 목적을 가지고 진행하는 과제 지향형 대화라는 상황에서 발화, 화자, 대화 의도를 고려하여 대화 구조를 모사하는 생성모델을 만들어 노이즈 데이터에 대응하였다. 이 모델의 기반이 되는 가정은 화자는 어떠한 행위를 수행하고자 하는 목적을 가지고, 그 목적에 맞는 적절한 어휘 집합을 사용하여 상대방에게 말을 한다는 것이다. 즉 제안한 모델은 이러한 가정을 고려하여 마르코프 모델을 개선하였다. 과제 지향형 데이터인 HCRC map task, live chat, SACTI-1 말뭉치를 이용한 실험을 통해 제안한 모델이 기존 마르코프 모델에 비하여 더 나은 성능을 보이고, 현재까지도 대화 의도 분류 성능이 높은 SVM-HMM과 경쟁력 있는 결과를 보이는 것을 확인 하였다. 특히 대화 시스템의 음성 인식 모듈의 에러를 모방한 SACTI-1 말뭉치에 대하여 제안한 모델이 SVM-HMM에 비하여 노이즈에 강인함을 보였다.In spoken dialog system, e-mail summary system and thread summary system development, dialogue act classifier plays an important role because the systems depend on the performance of classifying dialogue acts of utterances, e-mails and posts to improve completeness of the system. The dialogue act classification problem is a well-known problem to assign the dialogue acts to utterances in a conversation. One of the main challenges in the development of robust dialog systems is especially to deal with noisy input due to imperfect results from Automatic Speech Recognition (ASR) module. The challenge in dialogue act recognition is the mapping from noisy user utterances to dialogue acts. In this paper, to cope with noisy utterances, we describe a noise robust generative model of task-oriented conversation that captures both the speaker information and the dialogue act associated with each utterance under the assumption that a speaker says about something by using appropriate vocabulary with the aim of getting someone to do somethings. The proposed model is based on Markov model and is modified to reflect the assumption. In the experiments, we evaluate the classification results by comparing them to the simple Markov model and state-of-the-art SVM-HMM results. The proposed model is a better conversation model than the simple Markov model and shows the competitive classification results in comparison with SVM-HMM in the task-oriented HCRC map task corpus, live-chat corpus and SACTI-1 corpus. Results based on SACTI-1 corpus which simulates ASR errors particularly show that the proposed model is robust against noisy user utterances.1. 서론 1 1.1 연구의 배경 1 1.2 연구의 내용 및 범위 3 1.3 논문의 구성 6 2. 문제 정의 7 2.1 대화문의 구성요소 7 2.2 대화 의도 분류 문제 정의 12 2.3 대화문의 특징 및 문제 해결의 어려운 점 13 3. 관련 연구 15 3.1 지도 학습 기반의 대화 의도 분류 연구 15 3.2 대화 의도의 의존 관계를 모델링 한 연구 16 3.3 기존 연구의 한계점 22 4. 마르코프 모델 기반 대화 의도 분류 24 4.1 배경지식 24 4.1.1 언어모델 24 4.1.2 마르코프 모델과 은닉 마르코프 모델 25 4.2 입출력 마르코프 모델을 변형한 대화 의도 분류 모델 26 5. 성능 평가 31 5.1 대화 말뭉치 31 5.2 비교모델 및 개발환경 38 5.3 성능 평가 측정치 39 5.4 실험 결과 및 분석 40 5.4.1 분류 성능 41 5.4.2 ASR 노이즈에 대한 강인성 45 5.4.3 확장성 48 6. 결론 및 향후 연구 50 6.1 결론 50 6.2 향후 연구 51 참고문헌 53 ABSTRACT 57Maste

Impact of ASR N-Best Information on Bayesian Dialogue Act Recognition

A challenge in dialogue act recognition is the mapping from noisy user inputs to dialogue acts. In this paper we describe an approach for re-ranking dialogue act hypotheses based on Bayesian classifiers that incorporate dialogue history and Automatic Speech Recognition (ASR) N-best information. We report results based on the Let’s Go dialogue corpora that show (1) that including ASR N-best information results in improved dialogue act recognition performance (+7 % accuracy), and (2) that competitive results can be obtained from as early as the first system dialogue act, reducing the need to wait for subsequent system dialogue acts.

Impact of ASR N-Best Information on Bayesian Dialogue Act Recognition

A challenge in dialogue act recognition is the mapping from noisy user inputs to dialogue acts. In this paper we describe an approach for re-ranking dialogue act hypotheses based on Bayesian classifiers that incorporate dialogue history and Automatic Speech Recognition (ASR) N-best information. We report results based on the Let’s Go dialogue corpora that show (1) that including ASR N-best information results in improved dialogue act recognition performance (+7 % accuracy), and (2) that competitive results can be obtained from as early as the first system dialogue act, reducing the need to wait for subsequent system dialogue acts.