National audienceNous présentons une extension probabiliste des réseaux de préférences conditionnelles (CP-nets). Nous montrons comment ce formalisme permet d'apprendre de façon approximative les préférences d'un ensemble d'utilisateurs sur des objets définis de façon combinatoire. Notre approche utilise un algorithme de type expectation-maximisation

Bigot, Damien

Mengin, Jérôme

Zanuttini, Bruno

HAL - Normandie Université

Apprentissage de CP-nets probabilistes

Scientific Publications of the University of Toulouse II Le Mirail

Apprentissage de CP-nets probabilistesDamien Bigot, Je´roˆme Mengin, Bruno ZanuttiniTo cite this version:Damien Bigot, Je´roˆme Mengin, Bruno Zanuttini. Apprentissage de CP-nets probabilistes.Journe´es Francophones sur les Re´seaux Baye´siens et les Mode`les Graphiques Probabilistes(JFRB 2014), Jun 2014, France. <hal-01072534>HAL Id: hal-01072534https://hal.archives-ouvertes.fr/hal-01072534Submitted on 8 Oct 2014HAL is a multi-disciplinary open accessarchive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come fromteaching and research institutions in France orabroad, or from public or private research centers.L’archive ouverte pluridisciplinaire HAL, estdestine´e au de´poˆt et a` la diffusion de documentsscientifiques de niveau recherche, publie´s ou non,e´manant des e´tablissements d’enseignement et derecherche franc¸ais ou e´trangers, des laboratoirespublics ou prive´s.Apprentissage de CP-nets probabilistesDamien Bigot and Je´roˆme Mengin and Bruno Zanuttini1 IntroductionLe de´veloppement de syste`mes interactifs d’aidea` la de´cision et de syste`mes de recommanda-tion ne´cessite des mode`les capables d’utiliser lespre´fe´rences d’un utilisateur pour l’orienter dansses choix. Les formalismes de repre´sentationcompacte de pre´fe´rences font l’objet de travauxsoutenus en intelligence artificielle depuis plusd’une quinzaine d’anne´es [3]. Ces formalismespermettent l’expression de mode`les suffisam-ment flexibles et riches pour de´crire des com-portements de de´cision complexes. Pour eˆtreinte´ressants en pratique, ces formalismes doiventde plus permettre l’e´licitation des pre´fe´rences del’utilisateur, et ce en restant a` un niveau ad-missible d’interaction. La configuration de pro-duits et la recherche base´e sur des pre´fe´rencesconstituent de bons exemples de proble`mes dede´cision ou` les pre´fe´rences de l’utilisateur ne sontpas connues a priori [7, 6].Lorsque les pre´fe´rences sont qualitativeset structure´es par des interactions simplesentre attributs (notamment, lorsqu’ellessont se´parables), on peut faire appel a` desrepre´sentations du type CP-net [3] ; l’undes inte´reˆts de ce mode`le est qu’il permetd’apprendre par le biais de quelques questions,les pre´fe´rences de l’utilisateur [5]. Malheureuse-ment, dans le cadre de la recommandation,il est assez rare de connaˆıtre les pre´fe´rencesd’un utilisateur, et on a rarement le tempsd’apprendre les pre´fe´rences d’un utilisateuravant ou pendant la phase de recommandation.Par contre, la plupart des entreprises posse`dentun historique des ventes de´ja` effectue´es. Cesventes peuvent eˆtre utilise´es pour apprendre lespre´fe´rences d’un groupe d’utilisateurs, sous laforme d’une distribution de probabilite´ sur lespre´fe´rences des utilisateurs. C’est pour cela quel’on introduit les CP-nets probabilistes.Nous pre´senterons donc une extension des CP-nets : les PCP-nets [2, 4]. A` partir de cette ex-tension, nous donnerons les diffe´rentes requeˆtesutilisables. Enfin, nous montrerons comment ap-prendre un PCP-net a` partir d’un historique deventes, lorsqu’une structure incluant notre PCP-net est connue.2 CP-nets probabilistesUn CP-net, sur un ensemble de variables X ={X1, . . . ,Xn}, est un graphe oriente´ G={X ,A}ou` A est l’ensemble des areˆtes qui repre´sententdes de´pendances pre´fe´rentielles entre les vari-ables. A chaque sommet Xi∈X est associe´ unetable de pre´fe´rence locale sur Xi en fonction deses parents.Aa>aBb>bCab : c>cotherwise : c>cD’apre`s la Figure ci-dessus, comme les CP-nets s’utilisent de fac¸on Ceteris-Paribus(“ touteschoses e´gales par ailleurs”) et d’apre`s la tablede B, l’objet abc est pre´fe´re´ a` abc ; ce qu’onnote ≻, on obtient donc abc≻abc, et on dit queabc domine abc. Graˆce a` la table sur A, on aabc≻abc, donc par transitivite´, on a abc≻abc.Un CP-net repre´sente donc un ordre partiel,transitif et irre´flexif sur O=∏Xi∈XXi. On in-troduit aussi l’objet optimal, c’est-a`-dire l’objetqui n’est domine´ par aucun autre objet. Pour lesCP-nets acycliques, cet objet est unique et dansnotre exemple c’est abc.Comme nous nous inte´ressons aux pre´fe´rencesd’un groupe d’utilisateurs, nous allons ajouterdes probabilite´s dans les tables de pre´fe´rences lo-cales afin de construire une distribution de prob-abilite´ sur les CP-nets.Dans un PCP-net[2], les tables contiennent,pour chaque paire (Xi,u), avec Xi∈X et u∈Uou` U repre´sente les parents de Xi, une distribu-tion de probabilite´ sur l’ensemble des ordres pos-sibles surX ; dans le cas de variables boole´ennes,cette distribution est entie`rement de´finie par laprobabilite´ que l’ordre soit x>x . Dans la suite,on note p(X,u : x>x) cette probabilite´.Aa>a 0.7 B b>b 0.8Cab : c>c 0.2ab : c>c 0.9ab : c>c 1ab : c>c0.1On de´finit alors la probabilite´ d’un CP-net N ,compatible avec un PCP-net(c-a`-d avec la meˆmestructure G), par :P (N)=∏(X,u)p(X,u : >NX,u)Compte tenu d’un PCP-net N , les taˆches deraisonnement consistent a` calculer les proba-bilite´s associe´es a` des e´ve´nements inte´ressants :• La probabilite´ qu’un objet o domine un objeto’[2]. Cette probabilite´ est note´e PN (o≻o′).Son calcul est #P-difficile pour les PCP-netacyclique et un algorithme FPT est disponibleen O(22k2n) avec n le nombre de variables et kle nombre de valeurs diffe´rentes entre les deuxobjets pour les PCP-nets arborescents.• La probabilite´ qu’un objet o soit optimal.Cette probabilite´ est note´e PN (o=opt). Soncalcul est linaire dans le cadre des PCP-netsacycliques. On peut aussi transformer le PCP-net en re´seau baye´sien [4] associe´ (on remplacedans chaque table p(X,u : x>x) par p(x|u)).• Enfin, l’objet qui a la plus forte probabilite´d’eˆtre optimal. Son calcul est line´aire dansle cas des PCP-nets arborescents[2]. Pour lesacycliques, on utilise un algorithme proba-bilite´ maximum sur le re´seaux baye´siens as-socie´s.Example 1. Reprenons le PCP-net de la Figure2 et les objets o1=abc et o2=abc.La probabilite´ P (o1=opt)=p(a>a) ∗ p(b>b) ∗p(ab : c>c)=0.7× 0.8× 0.8=0.448Enfin, P (o1≻o2)=p(b>b) ∗ (p(ab : c>c) +p(ab : c>c))=0.8 ∗ (0.8 + 0.1)=0.723 Apprentissage de PCP-netsOn suppose un PCP-net cible N repre´sentantla distribution de probabilite´ sur les relations depre´fe´rence d’un groupe d’agents A et un PCP-net courant N .Apprentissage oﬄine Pour cette partie, onpeut utiliser un historique de vente. On supposeque cet historique repre´sente les objets optimauxdu groupe d’agents A a` un moment donne´. Onutilisera donc cet historique comme une distri-bution d’objets optimaux.Lorsque la structure de N est donne´, oncherche a` partir de l’historique a` estimer pourchaque re`gle (X,u : x>x) sa probabilite´. Pourcela, on montre facilement que :p(X,u : x>x)=P (opt[X]=x|opt[U ]=u)On note |ux| le nombre d’objets dans l’historiquequi satisfont u et x, et |u| le nombre d’objetsqui satisfont u. Alors, notre probabilite´ peut eˆtreestime´e par :P (X,u : x>x)∼|ux|/|u|Lorsque |u|=0, on peut utiliser, lorsqu’on endispose, un historique de vente sous contrainte.Dans le cas ou` la structure n’est pas con-nue, il est possible de l’apprendre en utilisantles algorithmes d’apprentissage sur les re´seauxbaye´siens. E´tant donne´ que les de´pendancesentre les variables pre´fe´rentielles ne sont pasre´versibles contrairement aux re´seaux baye´siens,il faudra ajouter une phase d’e´licitation afind’orienter correctement ces de´pendances, dansle but d’apprendre aussi la bonne distributionde probabilite´ sur les CP-nets.Apprentissage online Dans le cas ou` on ob-serve, l’un apre`s l’autre, des objets conside´re´scomme optimaux par des agents de A, on peutmettre a` jour un PCP-net. Pour cela, on modi-fie la probabilite´ de chaque re`gle qui de´finit cetobjet comme optimal avec la formule suivante[1] :p(X,u : x>x)=η×P (x|o)+(1−η)×p(X,u : x>x)ou` η est un taux d’apprentissage (dans notre cas,η=1/k ou` k est le nombre de fois ou` on a visite´la re`gle et P (x|o)=1 si o satisfait x et 0 sinon.Lors de cette phase d’apprentissage, on peutposer des questions a` l’utilisateur courant afind’ajouter des contraintes sur l’objet lorsque l’ons’aperc¸oit que relation de pre´fe´rence posse`de uneprobabilite´ proche de 0.Re´sultats Afin de tester notre formulede mise a` jour, on a utilise´ le protocoled’apprentissage suivant : on cherche a` appren-dre le PCP-net N qui repre´sente les relations depre´fe´rences du groupe d’agents A. Pour cela, onsimule un ensemble m d’agents inclus dans A.Pour chaque agent, on tire son CP-net selon N .Puis on prend son objet optimal. Enfin, on mod-ifie les re`gles qui rendent cet objet optimal avecla formule donne´e plus haut.Pour ve´rifier que le PCP-net apprit corre-spondait bien au PCP-net qu’on cherchait a` ap-prendre, on estime la divergence de Kullback-Lieble sur la distribution d’objets optimaux desdeux PCP-nets ainsi qu’une distance au carre´entre les vecteurs de parame`tres des deux PCP-nets. On remarque pour les deux distances, quenotre PCP-net apprit converge vers le PCP-netcible lorsqu’on a vu entre 70 et 150 agents quelque soit le nombre de variables.4 ConclusionOn a propose´ dans cet abstract, une fac¸onde repre´senter une distribution de CP-net afind’avoir des requeˆtes du type : “Quel est la proba-bilite´ qu’un objet o soit optimal?” ou encore : “Quel est l’objet maximalement optimal?” per-mettant une utilisation pour de la recommanda-tion. De plus, on a propose´ une me´thode per-mettant d’apprendre un PCP-net a` partir d’unhistorique repre´sentant une distribution d’objetsoptimaux.REFERENCES[1] Singer Y. Bauer E., Koller D. Updates rules forparameter estimation in bayesian network. InProceedings of UAI 1997, 1997.[2] Mengin Je´roˆme Zanuttini Bruno Bigot Damien,Fargier He´le`ne. Probabilistic conditionnal pref-erence network. In Proceedings of UAI 2013,2013.[3] Craig Boutilier, Ronen I. Brafman, CarmelDomshlak, Holger H. Hoos, and David Poole.Cp-nets: A tool for representing and reasoningwith conditional ceteris paribus preference state-ments. JAIR, 21:135–191, 2004.[4] Mattei N. Rossi F. Brent K. Cornelio C., Gold-smith J. Dynamic and probabilistic cp-nets.In Proceedings of Australasian Joint Conferenceon Artificial Intelligence 2013, 2013.[5] Fre´de´ric Koriche and Bruno Zanuttini. Learningconditional preference networks with queries. InArtificial Intelligence, pages 685–703, 2010.[6] Daniel Mailharro. A classification andconstraint-based framework for configuration.Artificial Intelligence for Engineering Design,Analysis and Manufacturing, pages 383–397,September 1998.[7] Paolo Viappiani, Boi Faltings, and PearlPu. Preference-based search using example-critiquing with suggestions. JAIR, 27:465–503,2006.

https://hal.archives-ouvertes.fr/hal-01072534

Apprentissage de CP-nets probabilistes

Abstract

Similar works

Full text

Available Versions

HAL - Normandie Université

Scientific Publications of the University of Toulouse II Le Mirail