Monte-Carlo methods make Dempster-Shafer formalism feasible

One of the main obstacles to the applications of Dempster-Shafer formalism is its computational complexity. If we combine m different pieces of knowledge, then in general case we have to perform up to 2(sup m) computational steps, which for large m is infeasible. For several important cases algorithms with smaller running time were proposed. We prove, however, that if we want to compute the belief bel(Q) in any given query Q, then exponential time is inevitable. It is still inevitable, if we want to compute bel(Q) with given precision epsilon. This restriction corresponds to the natural idea that since initial masses are known only approximately, there is no sense in trying to compute bel(Q) precisely. A further idea is that there is always some doubt in the whole knowledge, so there is always a probability p(sub o) that the expert's knowledge is wrong. In view of that it is sufficient to have an algorithm that gives a correct answer a probability greater than 1-p(sub o). If we use the original Dempster's combination rule, this possibility diminishes the running time, but still leaves the problem infeasible in the general case. We show that for the alternative combination rules proposed by Smets and Yager feasible methods exist. We also show how these methods can be parallelized, and what parallelization model fits this problem best

Extending uncertainty formalisms to linear constraints and other complex formalisms

Linear constraints occur naturally in many reasoning problems and the information that they represent is often uncertain. There is a difficulty in applying AI uncertainty formalisms to this situation, as their representation of the underlying logic, either as a mutually exclusive and exhaustive set of possibilities, or with a propositional or a predicate logic, is inappropriate (or at least unhelpful). To overcome this difficulty, we express reasoning with linear constraints as a logic, and develop the formalisms based on this different underlying logic. We focus in particular on a possibilistic logic representation of uncertain linear constraints, a lattice-valued possibilistic logic, an assumption-based reasoning formalism and a Dempster-Shafer representation, proving some fundamental results for these extended systems. Our results on extending uncertainty formalisms also apply to a very general class of underlying monotonic logics

Movie Recommendation System based on Dempster-Shafer theory

Σε παρούσα πτυχιακή, μελετάμε το θέμα του Χειρισμού της Αβεβαιότητας στα Συστήματα Συστάσεων. Υλοποιήσαμε ένα σύστημα συστάσεων για ταινίες με τη μέθοδο Collaborative Filtering χρησιμοποιώντας τη γλώσσα προγραμματισμού Python. Χρησιμοποιούμε τη θεωρία Dempster-Shafer για να μεταφέρουμε τις αβεβαιότητες που πηγάζουν από τις ατέλειες στις αξιολογήσεις χρηστών στη διαδικασία λήψης αποφάσεων. Μετατρέποντας τις βαθμολογίες σε συναρτήσεις μάζας και pignistic πιθανότητες μετράμε τις ομοιότητες μεταξύ των χρηστών και χρησιμοποιούμε τον κανόνα Dempster's rule of combination για να προβλέψουμε την βαθμολογία των χρηστών σε ταινίες που δεν έχουν αξιολογήσει.In this thesis, we study the subject of Handling Uncertainty in Recommendation Systems. We implemented a Collaborative Filtering movie recommendation system using the Python programming language. We use Dempster-Shafer theory to propagate the uncertainties arising from imperfections in user ratings to the decision-making process. By converting ratings into mass functions and pignistic probabilities, we measure the similarities between users and use the Dempster’s rule of combination to predict user ratings in movies they have not rated

Reasoning with random sets: An agenda for the future

In this paper, we discuss a potential agenda for future work in the theory of random sets and belief functions, touching upon a number of focal issues: the development of a fully-fledged theory of statistical reasoning with random sets, including the generalisation of logistic regression and of the classical laws of probability; the further development of the geometric approach to uncertainty, to include general random sets, a wider range of uncertainty measures and alternative geometric representations; the application of this new theory to high-impact areas such as climate change, machine learning and statistical learning theory.Comment: 94 pages, 17 figure

Argumentation systems and belief functions

Uncertain knowledge can be represented in the framework of argumentation systems. In this framework, uncertainty is expressed using so-called assumptions. Depending on the setting of the assumptions, a given hypothesis of interest can be proved or falsified. The main goal of assumption-based reasoning is to determine the set of all supporting arguments for a given hypothesis. Such a supporting argument is a particular setting of assumptions. The assignment of probabilities to assumptions leads to the framework of probabilistic argumentation systems and allows an additional quantitative judgement of a given hypothesis. One possibility to compute the degree of support for a given hypothesis is to compute first the corresponding set of supporting arguments and then to derive the desired result. The problem of this approach is that the set of supporting arguments is sometimes very huge and can't be represented explicitly. This thesis proposes an alternative way for computing degrees of support which is often superior to the first approach. Instead of computing a symbolic result from which the numerical result is derived, we avoid symbolic computations right away. This can be done due to the fact that degree of support corresponds to the notion of normalized belief in Dempster-Shafer theory. We will show how a probabilistic argumentation system can be transformed into a set of independent mass functions. For efficient computations, the local computation framework of Shenoy is used. In this framework, computation is based on a message-passing scheme in a join tree. Four different architectures could be used for propagating potentials in the join tree. These architectures correspond to a complete compilation of the knowledge which allows to answer queries fast. In contrast, this thesis proposes a new method which corresponds to a partial compilation of the knowledge. This method is particularly interesting if there are only a few queries. In addition, it can prevent that the join tree has to be reconstructed in order to answer a given query. Finally, the language ABEL is presented. It allows to express probabilistic argumentations systems in a convenient way. We will show how several examples from different domains can be modeled using ABEL. These examples are also used to point out important aspects of the computational theory presented in the first chapters of this thesis.Das Konzept der Argumentations-Systeme dient dem Zweck der Darstellung von insicherer oder unpräziser Information. Unsicherheit wird in Argumentations- Systemen durch sogenannte Annahmen dargestellt. Eine gegebene Hypothese kann dann in Abhängigkeit der Annahmen bewiesen oder verworfen werden. Hauptaufgabe des Annahmen-basierten Schliessens ist die Bestimmung von Argumenten welche eine gegebene Hypothese stützen. Die Zuordnung von Wahrscheinlichkeiten zu den Annahmen führt zum Konzept der probabilistischen Argumentations-Systeme. Eine zusätzliche quantitative Beurteilung einer gegebenen Hypothese wird dadurch möglich. Ein erster Ansatz den Grad der Unterstützung einer Hypothese zu berechnen besteht darin, zuerst die Menge aller stützenden Argumente zu berechnen Das gewünschte numerische Resultat kann dann daraus abgeleitet werden. Häufig ist dieser Ansatz jedoch nicht durchführbar weil die Menge der unterstützenden Argumente zu gross und deshalb nicht explizit darstellbar ist. In dieser Arbeit stellen wir einen alternativen Ansatz zur Berechnung des Grades der Unterstützung einer Hypothese vor. Dieser alternative Ansatz ist oft effizienter als der erste Ansatz. Anstatt ein symbolisches Zwischenresultats zu berechnen von welchem dann das numerische Endresultat abgeleitet wird, vermeiden wir symbolisches Rechnen schon ganz zu Beginn. Dies ist möglich weil der Grad der Unterstützung zum Begriff der Glaubwürdigkeit in der Dempster-Shafer Theorie äquivalent ist. Wir werden zeigen wie ein gegebenes probabilistisches Argumentations-System in eine Menge von equivalenten Mass Funktionen überführt werden kann. Als Grundlage für die Berechnungen wird das Konzept der Valuations Netzwerke verwendet. Dadurch wird versucht, die Berechnungen möglichst effizient durchzuführen. Es gibt dabei vier verschiedene Rechenarchitekturen. Diese vier Rechenarchitekturen entsprechen einer vollständigen Kompilation der vorhandenen Informationen. Der Vorteil davon ist, dass Abfragen dann sehr schnell beantwortet werden können. Im Gegensatz dazu stellen wir in dieser Arbeit eine neue Methode vor die eher einer partiellen Kompiliation der vorhandenen Informationen entspricht. Diese neue Methode ist vorallem interessant, falls nur wenige Abfragen zu beantworten sind. Des weitern kann diese Methode verhindern, dass ein Valuationsnetz zur Beantwortung einer Abfrage neu konstruiert werden muss. Zum Schluss geben wir eine Einführung in die Modellierspreche ABEL. Diese Sprache erlaubt, probabilistische Argumentations-Systeme auf eine geeignete und komfortable Art und Weise zu formulieren. Wir zeigen wie Beispiele aus verschiedenen Anwendungsgebieten mit ABEL modelliert werden können. Diese Beispiele werden auch dazu verwendet, wichtige Aspekte der in den ersten Kapiteln dieser Arbeit dargestellten Rechentheorie zu unterstreichen

Étude des algorithmes d'approximation de fonctions de croyance généralisées

La recherche présentée ici consiste à résoudre le problème de difficulté calculatoire de la fusion d’informations dans le cadre de la théorie de l’évidence de Dempster-Shafer, ainsi que celui de la théorie de Dezert-Smarandache. On présente des études sur l’utilisation d’une variété d’algorithmes d’approximation connus ainsi que sur un nouvel algorithme d’approximation. On présente aussi une étude sur les métriques connues de distance entre corps d’évidence ainsi que deux nouvelles métriques. Enfin, on montre une étude de la possibilité d’employer une méthode d’optimisation afin de sélectionner automatiquement les paramètres d’approximation à l’aide de critères de performance. Mots-clés : Dezert, Smarandache, Dempster, Shafer, Fusion, Fonctions de croyance.This research is about the solving of the computational difficulty of data fusion in the evidence theory of Dempster-Shafer theory and Dezert-Smarandache theory. We study the use of a variety of known approximation algorithms as well as a new approximation algorithm that we propose. We also study known metrics between bodies of evidence as well as two new metrics that we develop. Finally, we study the possibility of using an optimization method to automatically select the parameters of approximation with performance criteria. Keywords: Dezert, Smarandache, Dempster, Shafer, Fusion, Belief functions