ROBUST PRINCIPAL COMPONENT ANALYSIS: THEORETICAL ASPECTS AND ALGORITHMIC COMPARATIVE EVALUATION FOR DIMENSIONALITY REDUCTION

Στην παρούσα διπλωματική εργασία εξετάζεται το κατά πόσο η ευρέως γνωστή ανάλυση κύριων συνιστωσών ως μια μέθοδος μείωσης της διάστασης μπορεί να καταστεί εύρωστη απέναντι σε ακραίες τιμές / παρατηρήσεις, και αν κάτι τέτοιο είναι δυνατό ποιο αλγοριθμικό σχήμα από τη βιβλιογραφία αποτελεί την καλύτερη επιλογή. Αρχικά, παρουσιάζεται η κλασική ανάλυση κύριων συνιστωσών, οι βασικές της ιδέες, εκείνες οι ιδιότητες-κλειδιά της οι οποίες την έχουν καταστήσει τόσο δημοφιλή, τα πλεονεκτήματά της καθώς και τα μειονεκτήματα αυτής. Στη συνέχεια, γίνεται μνεία στα βασικά θεωρητικά αποτελέσματα που αφορούν στην πιθανότητα η ανάλυση κύριων συνιστωσών να καταστεί εύρωστη απέναντι σε ακραίες τιμές, καθώς επίσης και σε μερικές ενδιαφέρουσες εφαρμογές της πραγματικής ζωής όπου κάτι τέτοιο θα ήταν αρκετά χρήσιμο. Ακολούθως, λαμβάνει χώρα μια αναλυτική παρουσίαση των πιο διάσημων αλγοριθμικών σχημάτων που σχεδιάστηκαν ώστε να αντιμετωπίσουν αυτό το πρόβλημα, ακολουθούμενη από μία συγκριτική ανάλυση μεταξύ τους η οποία εδράζεται σε ευρέως χρησιμοποιούμενες μετρικές ποιότητας σε αυτό το επιστημονικό πεδίο. Τέλος, εξετάζεται μια μελέτη-περίπτωσης προερχόμενη από το πεδίο της επεξεργασίας εικόνας, ώστε από τη μία πλευρά να αποτιμηθεί η επίδοση των υπό μελέτη αλγορίθμων σε “δυσκολότερες” πειραματικές συνθήκες, από την άλλη δε πλευρά να διερευνηθεί η πρακτική χρησιμότητά τους σε ρεαλιστικές εφαρμογές.In the present master thesis we examine the question of whether the PCA method for dimensionality reduction could become robust vis-à-vis gross errors, and if so which algorithmic scheme from the literature would be the best choice. In the beginning, we present the classical PCA method, its main ideas, those key properties that have made it so popular, its advantages and its disadvantages. Afterwards, we state the main theoretical results concerning the possibility of robustyfying the PCA method, as well as some interesting applications of real life in which a robust PCA method could prove extremely useful. Subsequently, a detailed presentation of the most popular algorithmic schemes designed to tackle this problem takes place, followed by a respective comparative analysis among them based on widely used quality metrics used in this scientific field. Finally, a case-study inspired by the field of image processing is examined, in order on the one hand to evaluate the performance of the algorithmic schemes studied in the present thesis under tougher experimental circumstances, as well as on the other hand to examine their practical use in realistic applications

Moving Target Detection Based on an Adaptive Low-Rank Sparse Decomposition

For the exact detection of moving targets in video processing, an adaptive low-rank sparse decomposition algorithm is proposed in this paper. In the paper's algorithm, the background model and the solved frame vector are first used to construct an augmented matrix, then robust principal component analysis (RPCA) is used to perform a low-rank sparse decomposition on the enhanced augmented matrix. The separated low-rank part and sparse noise correspond to the background and motion foreground of the video frame, respectively, the incremental singular value decomposition method and the current background vector are used to update the background model. The experimental results show that the algorithm can deal with complex scenes such as light changes and background motion better, and the algorithm's delay and memory consumption can be reduced effectively