National audienceKnowledge-based information retrieval is widely exploited, but still not very well successful. In this paper, we aim to study the impact of explorations of a knowledge source, named UMLS meta-thesaurus, in medical domain information retrieval. The integration of semantic labels of concepts in a multi-layer indexing proves quite encouraging results in ImageCLEF 2006 evaluation forum. In order to reach a more semantic rich information retrieval system, we tend to explore the hierarchy relationships between concepts in UMLS. For this purpose, we propose a Bayesian network based model to capture the general-specific links between query concepts and documents concepts.La recherche d'information à base de connaissances est largement exploitée, mais avec peu de succès. Dans cet article, nous étudions l'impact de l'exploration d'une base de connaissance, nommée meta-thésaurus UMLS, dans la recherche d'information médicale. L'intégration des étiquettes sémantiques des concepts dans une indexation multicouche donne des résultats encouragants dans ImageCLEF 2006 forum d'évaluation. Afin d'atteindre un système de recherche d'information sémantiquement plus riche , nous explorons les relations hiérarchiques entre concepts dans UMLS. Dans ce but, nous proposons donc un modèle basé sur le réseau Bayesien pour capturer les liens général-specifique entre concepts de la requête et ceux des documents

Le, Thi Hoang Diem

Hal - Université Grenoble Alpes

Exploitation des connaissances d’UMLS pour larecherche d’information me´dicale. Vers un mode`lebaye´sien d’indexationThi Hoang Diem LeTo cite this version:Thi Hoang Diem Le. Exploitation des connaissances d’UMLS pour la recherche d’informationme´dicale. Vers un mode`le baye´sien d’indexation. RJCRI, 2007, Saint-Etienne, France. 2007.<hal-00954035>HAL Id: hal-00954035https://hal.inria.fr/hal-00954035Submitted on 3 Mar 2014HAL is a multi-disciplinary open accessarchive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come fromteaching and research institutions in France orabroad, or from public or private research centers.L’archive ouverte pluridisciplinaire HAL, estdestine´e au de´poˆt et a` la diffusion de documentsscientifiques de niveau recherche, publie´s ou non,e´manant des e´tablissements d’enseignement et derecherche franc¸ais ou e´trangers, des laboratoirespublics ou prive´s.Exploration de connaissances dans UMLSpour la recherche d’information médicaleVers un model Baysien d’indexationDiem Le Thi HoangEquipe MRIM, Laboratoire CLIPS-IMAG38041 Grenoble Cedex 9, FranceThi-Hoang-Diem.Le@imag.frRÉSUMÉ. La recherche d’information à base de connaissances est largement exploitée, mais avecpeu de succès. Dans cet article, nous étudions l’impact de l’exploration d’une base de connais-sance, nommée meta-thésaurus UMLS, dans la recherche d’information médicale. L’intégrationdes étiquettes sémantiques des concepts dans une indexation multicouche donne des résultatsencouragants dans ImageCLEF 2006 forum d’évaluation. Afin d’atteindre un système de re-cherche d’information sémantiquement plus riche , nous explorons les relations hiérarchiquesentre concepts dans UMLS. Dans ce but, nous proposons donc un modèle basé sur le réseauBayesien pour capturer les liens général-specifique entre concepts de la requête et ceux desdocuments.ABSTRACT. Knowledge-based information retrieval is widely exploited, but still not very well suc-cessful. In this paper, we aim to study the impact of explorations of a knowledge source, namedUMLS meta-thesaurus, in medical domain information retrieval. The integration of semanticlabels of concepts in a multi-layer indexing proves quite encouraging results in ImageCLEF2006 evaluation forum. In order to reach a more semantic rich information retrieval system,we tend to explore the hierarchy relationships between concepts in UMLS. For this purpose, wepropose a Bayesian network based model to capture the general-specific links between queryconcepts and documents concepts.MOTS-CLÉS : Recherche d’information à base de connaissances, indexation conceptuelle, UMLS,indexation multicouche, réseau Bayesien.KEYWORDS: Knowledge-based information retrieval, conceptual indexing, UMLS, multi-layerindexing, Bayesian network.e soumission à Rencontres Jeunes Chercheurs en Recherche d’Informations (RJCRI’07), le 5janvier 20072e soumission à Rencontres Jeunes Chercheurs en Recherche d’Informations (RJCRI’07)1. IntroductionL’utilisation des bases de connaissances externes de documents (thesaurus parexemple) dans la recherche d’information (RI) a été largement explorée. Les résul-tats gagnent pourtant très peu de succès. Les principales approches concernent :– l’extraction des concepts : cela est nécessaire pour toute indexation conceptuelle.Une bonne qualité d’extraction de concepts suppose de résoudre le problème de varia-tions des termes et synonymie. Une large source de concepts est évidement un élémentimportant. Dans le cas de doute de la couverture de cette source, l’indexation en com-binant des concepts et des mots est proposée pour ne pas perdre le contenu dans ledocument (Baziz et al., 2005), (Aronson et al., 1994). Pourtant, ce travail d’identi-fication de concepts fait face au problème majeur d’ambiguïté du sens des mots quidemande beaucoup d’effort à résoudre. Ce problème est plus important dans le cas desbases de connaissances générales comme Wordnet.– l’expansion de requêtes : avec le but d’ajouter les concepts sémantiquement liésa la requête, cette méthode ne montre pourtant pas d’amélioration (Gonzalo et al.,1998) ou très peu sur une collection de petite taille (Mandala et al., 1999).– le calcul des distances sémantiques entre les concepts : cela est basé sur la struc-ture hiérarchique des concepts. Certaines mesures de distances sémantiques sont pro-posés (Budanitsky, 2001), (Resnik, 1995), mais elles ne prouvent pas d’effets positifsdans la RI. De plus, la base théorique de ces mesures n’est pas très convaincante.Nous proposons dans cet article l’étude de l’impact d’exploration de connaissancesexternes sur la performance du système de recherche d’information (SRI). Nous choi-sissons le meta-thesaurus UMLS 1 (Unified Medical Language System) de NLM (Na-tional Librabry of Medicine) pour étudier son application dans la recherche d’infor-mation sur la base d’image médicales. Les différentes méthodes d’exploration sontdécrites dans les sections 2, 3, 4 ; notre tentative vers un modèle Bayesien basé sur lastructure hiérarchique de UMLS est dans la section 5 ; nos résultats positifs d’expéri-mentation pour CLEF Image Médicale 2006 2 dans la section 6 et la conclusion dansla section 7.2. La conceptualisationLa conceptualisation est vue comme une étape pour monter à un plus haut niveaud’abstraction du contenu de texte, ainsi comme une méthode pour établir le lien entredifférentes formes de surfaces linguistiques et de sens. Une indexation par concept ré-sout d’ailleurs la barrière de la langue dans la RI multilingue. La ressource de conceptsque nous utilisons, appelé UMLS, est un meta-thesaurus de taille importante. Il est lafusion des 140 sources terminologiques, avec plus de 1,1 million de concepts et 5,5millions de termes dans 17 langues. Pour l’identification de concepts dans le texte,1. http ://umlsinfo.nlm.nih.gov/2. http ://ir.shef.ac.uk/imageclef/3NLM nous offre l’outil Metamap (Aronson, 2006) qui produit tous les concepts can-didats par rapport à toutes les formes textuelles en Anglais. Pour les textes en Fran-çais et en Allemand, nous construisons un outil similaire d’extraction de concepts. Laconceptualisation offre donc un unique ensemble des concepts à indexer à partir detextes dans différentes langues.3. Exploration des étiquettes sémantiques des concepts - IndexationmulticoucheDans UMLS, les concepts sont classifiés en 135 types sémantiques pour unemeilleure organisation et structuration. Ces types sémantiques sont encore classifiés en15 groupes sémantiques (par exemple anatomie, affection etc.). Ces dernières consi-dérées comme les abstractions de plus haut niveau des concepts, nous les appelons lesétiquettes sémantiques des concepts. Avec ces étiquettes sémantiques, nous pouvonsgérer et évaluer l’importance des concepts par rapport au contenu général du texte.Par exemple pour les documents qui décrivent les maladies sur une partie du corps,les concepts avec étiquettes sémantiques "anatomie" et "affection" sont plus impor-tantes que les autres dans la contribution au contenu de ces documents. Cette infor-mation est donc intéressante dans la RI dans laquelle la compréhension du texte joueun rôle important. Afin de prendre en compte ces informations, nous proposons uneindexation multicouche : la couche des index des concept de bas niveau et la couchedes index de leur étiquettes sémantiques au plus haut niveau. L’un est la projectionde l’autre en se basant sur les assignements dans UMLS. Ce modèle est applicableavec le modèle d’espace vectoriel (Salton, 1991), e.g. chaque document di ou re-quête q est représenté par deux vecteurs correspondants aux deux espaces différents :di = (−→di1,−→di2), q = (−→q1 ,−→q2)La correspondance entre document et requête dans chaque couche est exécutéeséparément. Chacune produit une valeur de pertinence ou RSV (Relevant Status Va-lue) pour chaque document par rapport à la requête. Le RSV final est obtenu par unefonction de combinaison f des RSV des deux couches :RSV = f(RSV1,RSV2)Nous proposons différents schémas de pondération dans deux couches : tf.idf pour lacouche des concepts et binaire pour l’autre. Comme nous insistons sur l’influence desétiquettes sémantiques, nous définissons la fonction f comme le produit. Nous pou-vons donc utiliser la couche des étiquettes sémantiques comme un filtre par diminutionde l’espace d’indexation aux certaines étiquettes sémantiques importantes seulement.Quand nous réduisons encore cet espace à la projection des concepts correspondants,nous aurons donc le filtre sur ces concepts. Nous l’appliquons dans CLEF Image Mé-dicale 2006, avec la réduction de cet espace aux étiquettes d’anatomie, d’affection etde modalité. Cette méthode nous permet d’avoir une meilleure performance dans ceforum d’évaluation (Tab. 1).4e soumission à Rencontres Jeunes Chercheurs en Recherche d’Informations (RJCRI’07)4. Exploration de structure hiérarchique des concepts4.1. La tentativePour résoudre le problème concernant la relation général-specifique entre conceptsdans le document et dans la requête (par exemple lésion de peau et dermatite), ni laméthode d’expansion de requête dans le modèle de l’espace vectoriel ni les mesuresdes distances sémantiques ne prouvent des effets positifs. C’est la raison pour laquellenous étudions une autre approche qui peut prendre en compte des liens entre les index.L’approche Bayesien est un candidat potentiel par sa base de théorie nette et par sonefficacité dans la résolution des problèmes concernant l’incertitude, par exemple la RI.L’application du réseau Bayesien dans la recherche d’information n’est pas nou-velle. Elle représente l’extension du modèle probabiliste et permet l’intégration desconnaissances (ou source d’évidence comme les requêtes anciennes, la rétroaction depertinence, ect.) dans un seul cadre. Les modèles Bayesiens dans la littérature diffèrentdans les points de vue qui entraînent des descriptions différentes des éléments du mo-dèle. Un des premiers travaux réussis, le modèle de réseau d’inférence (Turtle et al.,1991), attire beaucoup d’attentions pour ce modèle. Dans leur point de vue, la RI estune inférence ou un processus de raisonnement dans lequel nous estimons la probabi-lité qu’un document (vue comme une évidence) satisfait le besoin d’information d’uti-lisateur. Cette approche montre la capacité d’englober les autres modèles (comme lemodèle probabiliste, Booléen, schéma de pondération tf.idf), en plus montre la perfor-mance de RI en combinant différentes sources d’évidence et différentes formulationsde requêtes.4.2. Proposition du modèle basé sur le réseau BayesienLe Réseau Bayesien(RB), appelé aussi réseau de croyance, réseau graphique ouréseau causal, est un graphe acyclique orienté (GAO) dont les noeuds sont les va-riables aléatoires et les arcs représentent les relations de cause-effet ou dépendancesentre les noeuds qu’ils lient. Le RB peut décrire qualitativement des dépendances entreles variables (via le graphe causal) et quantitativement ces dépendances (via les proba-bilités conditionnelles).La probabilité conditionnelle d’une variable est la probabilitécalculée en prenant en compte des évidences. Par exemple la probabilité condition-nelle de la variable A, noté P (A|B) est la probabilité de A sachant B.Nous adoptons le point de vue de Croft et l’étendons pour construire notre modèleBayesien : la RI est donc une inférence ou un processus de raisonnement des docu-ments vers requête via les liens sémantiques entre leurs concepts. Comme le modèleBayesien peut naturellement décrire qualitativement et quantitativement les conceptset leurs relations dont les influences sont de nature incertaine, il est adapté pour notretentative vers un modèle d’indexation à base des concepts et leurs relations extraitesdans UMLS.5qc2c1 cmd... cnck...Figure 1. Le modele du reseau BayesienNotre réseau Bayesien contient : l’ensemble des noeuds représentent des docu-ments D ; l’ensemble des noeuds représentent des requêtes Q ; l’ensemble des noeudsreprésentent des concepts associés aux D ou Q. Avec le but de prendre en compteles relations du type général-specifique entre concepts des requêtes vers concepts desdocuments, nous proposons d’ajouter les liens de concept des documents vers conceptde la requête s’il existe ce type de relation dans UMLS. (Fig. 1).La valeur de pertinence d’un document d par rapport à une requête q est la proba-bilité conditionnelle du noeud q sachant d :P (q|d) =∏ck∈pa(q)P (ck|d)Avec ck est un concept dans l’ensemble de concepts associés à q, note pa(q), consi-dérés comme les pères de q.Pour les noeuds associés directement au document d, quand d est observé ou sonétat est "vrai ", la probabilité des noeuds associés sera prédéfinie par une constante oupar une fonction de leur distribution globale ou locale.Pour les autres noeuds c qui a un ensembe de n parents (pa(c)), chacun a deuxétats (vrai, faux), c a donc un ensemble de 2n configuration, noté pi(c). On a :P (c) = P (c|pi(c)) =2n∑i=1P (c|pii(c))× P (pii(c))et en suposant que les variables dans la configuration pii(c) sont independants l’un àl’autre, on a :P (pii(c)) =∏ck∈pii(c)P (ck)×∏¬cl∈pii(c)P (¬cl)6e soumission à Rencontres Jeunes Chercheurs en Recherche d’Informations (RJCRI’07)Tableau 1. MAP resultsRUN MAP(%)-CLEF2005 MAP(%)-CLEF2006Text 17.25 17.76Concept 17.54 18.18Multicouche 22.01 26.46où ck ∈ pii(c) signifie que la variable ck prend la valeur "vrai" dans la configurationpii(c) de c ; ¬cl ∈ pii(c) signifie que la variable cl prend la valeur "faux" dans laconfiguration pii(c) de c. On peut déduire donc :P (c) =2n∑i=1P (c|pii(c))×∏ck∈pii(c)P (ck)×∏¬cl∈pii(c)P (¬cl)Afin de prendre en compte la relation sémantique entre deux concepts père-enfantdans la formule de probabilité conditionnelle (dans ce cas entre c et son père ck quiest observé), nous proposons donc :P (c) =2n∑i=1∏ck∈pii(c)(α× P (ck))×∏¬cl∈pii(c)P (¬cl)où α est une paramètre prédéfini dépendant du type de relation qui lie c avec sonpère ck. Cette valeur décrit l’influence de la dépendance sémantique entre ces deuxconcepts et est à régler expérimentalement. Nous pouvons enfin calculer la valeur depertinence des documents par rapport à la requête P (q|d).5. ExpérimentationLa collection CLEF Image Médicale que nous utilisons pour expérimentationcontient un total de 50.026 images avec les textes en format XML. Nous travaillonssur 25 requêtes pour CLEF2005 et 30 requêtes pour CLEF2006. Tab. 1 présente les ré-sultats évalués par le MAP(Mean Average Precision) pour l’indexation par termes, parconcepts et multicouche. La méthode d’indexation conceptuelle prouve une meilleureperformance que l’indexation par termes. De plus, la prise en compte des étiquettessémantiques des concepts pour l’indexation multicouche et le filtre augmente encorebeaucoup plus la précision moyenne. Ces informations sont également intéressantes àintégrer dans le modèle Bayesien.76. ConclusionNous avons présenté dans l’article nos études sur l’application de connaissancesexternes (e.g. UMLS) dans la RI. La conceptualisation est une première étape essen-tielle et montre que l’indexation conceptuelle dans RI est meilleure que l’indexationpar termes. L’intégration des autres connaissances dans UMLS, les classifications desconcepts ou les étiquettes sémantiques, nous permet une indexation multicouche per-formante. Cette méthode facilite la filtration en se basant sur la structure de la requête,ou contexte thématique de la collection. Afin d’explorer les structure hiérarchique desconcepts, nous proposons le prototype du modèle basé sur le réseau Bayesien. Les tra-vaux sur d’éventuelles expérimentations et améliorations de ce modèle sont à réaliserprochainement.7. BibliographieAronson A. R., « MetaMap : Mapping Text to the UMLS Metathesaurus »,http ://mmtx.nlm.nih.gov/docs.shtml, July, 2006.Aronson A. R., Rindflesch T. C., Browne A. C., « Exploiting a large thesaurus for informa-tion retrieval », Proceedings of the RIAO 94 : Intelligent Multimedia Information RetrievalSystems and Management, p. 197-216, 1994.Baziz M., Boughanem M., Aussenac-Gilles N., « A Conceptual Indexing Approach based onDocument Content Representation », in , F. Crestani, , I. Ruthven (eds), CoLIS5 : FifthInternational Conference on Conceptions of Libraries and Information Science , Glasgow,UK, 04/06/05-08/06/05, Lecture Notes in Computer Science LNCS Volume 3507/2005,Springer-Verlag, Berlin Heidelberg, p. 171-186, juin, 2005.Budanitsky A., « Semantic Distance in WordNet : An Experimental, Application-oriented Eva-luation of Five Measures », 2001.Gonzalo J., Verdejo F., Chugur I., Cigarran J., « Indexing with WordNet synsets can improveText Retrieval », Proceedings of the COLING/ACL ’98 Workshop on Usage of WordNet forNLP, Montreal, Canada, p. 38-44, 1998.Mandala R., Tokunaga T., Tanaka H., « Combining Multiple Evidence from Different Typesof Thesaurus for Query Expansion », Research and Development in Information Retrieval,p. 191-197, 1999.Resnik P., « Using Information Content to Evaluate Semantic Similarity in a Taxonomy »,IJCAI, p. 448-453, 1995.Salton G., « The Smart Project in Automatic Document Retrieval », Proceedings of the 14thannual international ACM SIGIR conference on Research and development in informationretrieval, Chicago, Illinois, United States, p. 356 - 358, 1991.Turtle H., Croft B. W., « Evaluation of an Inference Network-Based Retrieval Model », ACMTransactions on Information Systems, vol. 9, n° 3, p. 187-222, 1991.

Exploitation des connaissances d'UMLS pour la recherche d'information médicale. Vers un modèle bayésien d'indexation

Abstract

Similar works

Full text

Available Versions

Hal - Université Grenoble Alpes