스펙트럴 이중 군집화를 이용한 그래프기반 협업필터링의 국지 앙상블 방법

학위논문(석사) -- 서울대학교대학원 : 자연과학대학 협동과정 계산과학전공, 2022. 8. 강명주.The importance of a personalized recommendation system is emerging as the world becomes more complex and individualized. Among various recommendation systems, Neural Graph Collaborative Filtering(NGCF) and its variants treat the user-item set as a bipartite graph and learn the interactions between user and item without using their unique features. While these approaches only using collaborative signals have achieved state-of-the-art performance, they still have the disadvantage of abandoning feature similarity among users and items. To tackle this problem, we adopt unsupervised community detection from bipartite graph structure to enhance the collaborative signal for a Graph-based recommendation system. Co-Clustering algorithms segment the user-item matrix into small groups. Each local CF captures a strong correlation among these local user-item subsets, while the original incidence matrix is also used to analyze global interaction between groups. Finally, our Local-Ensemble Graph Collaborative Filtering(LEGCF) aggregates all local and global collaborative information. As the proposed approach can utilize various Co-clustering and Collaborative Filtering flexibly, one of the most straightforward variants, Spectral Co-Clustering and NGCF, can enhance the overall performance.본 논문에서는 추천시스템을 위한 그래프 기반 협업 필터링 모델을 스펙트럴 이중 분할하여 생성된 부분 그래프를 앙상블(Ensemble) 하여 추천 성능을 개선하는 방법에 대해 연구하였다. 그래프 인공 신경망 (Graph Neural Networks, GNN)을 이용한 협업 필터링 기반의 추천 시스템의 기본 모델은, 사용자나 아이템에 대한 사전 정보를 전혀 사용하지 않고 사용자-아이템 간 상호작용 정보만을 활용하여 신경망 모델의 임베딩을 구성한다. 따라서 사용자와 아이템의 사전정보만으로 유추할 수 있는 특정 사용자 그룹의 경향성을 추천시스템에 사용할 수 없는 단점이 있다. 한편, 스펙트럴 이중 분할 방법은 특잇값 분해를 반복하여 이분 그래프를 양 도메인의 정보를 모두 포함한 부분그래프로 분할한다. 추천시스템을 위한 데이터 세트를 스펙트럴 이중 분할 할 경우, 특정 사용자그룹과 아이템 그룹을 전체 데이터로부터 분리할 수 있으며, 분할된 그룹은 높은 데이터 밀도와 강한 상호작용 신호를 갖게 된다. 따라서 분할된 그룹 데이터에 대해 협업 필터링을 적용할 경우, 데이터 세트나 협업 필터링 모델의 종류와 관계없이 해당 데이터그룹에서는 추천 능력이 향상된다. 나아가서, 분할된 부분 그래프들을 개별적으로 협업 필터링한 뒤 앙상블 하여 그룹별 상호작용 신호를 분석한 지역임베딩(Local Embedding)과 전체 데이터를 아우를 수 있는 전역임베딩(Global Embedding)을 통합하여 최종임 베딩을 구성하였다. 여섯 개의 데이터 세트와 세 가지의 협업 필터링 모델을 스펙트럴 이중 분할하여 앙상블 한 결과, 모델 종류와 관계없이 추천 능력이 향상되었다. 그러나 몇 가지 데이터 세트의 경우 성능향상이 거의 이루어지지 않았는데, 이는 데이터가 이미 적절히 분할되어있는 경우 스펙트럴 이중 분할이 추천 성능을 향상하지 못한 것으로 분석된다. 반면 데이터가 골고루 분포되어있어 기본 협업 필터링 모델이 상호작용 신호를 분석하기 어려운 경우, 스펙트럴 이준 분할을 통한 앙상블 방법으로 모든 협업 필터링 모델에 대하여 추천 능력이 향상되었다1 Introduction 1 2 Preliminaries 5 2.1 Spectral Co-Clustering 5 2.1.1 Bipartite Graph Partitioning 5 2.1.2 Optimization 8 2.2 Bayesian Personalized Ranking(BPR) Loss 11 2.2.1 Implicit Data 11 2.2.2 Personalized Total Ranking 11 2.2.3 Bayesian Personalized Ranking 12 3 Proposed Method 15 3.1 Dataset 15 3.2 Spectral Co-Clustering 15 3.3 Local-Ensemble model 17 4 Experimental Result 20 4.1 Evaluation Metric 20 4.2 Result Analysis 21 5 Conclusion 29 References 31 Abstract (in Korean) 35석