Challenges in computational lower bounds

We draw two incomplete, biased maps of challenges in computational complexity lower bounds

A modular genetic programming system

Genetic Programming (GP) is an evolutionary algorithm for the automatic discovery of symbolic expressions, e.g. computer programs or mathematical formulae, that encode solutions to a user-defined task. Recent advances in GP systems and computer performance made it possible to successfully apply this algorithm to real-world applications. This work offers three main contributions to the state-of-the art in GP systems: (I) The documentation of RGP, a state-of-the art GP software implemented as an extension package to the popular R environment for statistical computation and graphics. GP and RPG are introduced both formally and with a series of tutorial examples. As R itself, RGP is available under an open source license. (II) A comprehensive empirical analysis of modern GP heuristics based on the methodology of Sequential Parameter Optimization. The effects and interactions of the most important GP algorithm parameters are analyzed and recommendations for good parameter settings are given. (III) Two extensive case studies based on real-world industrial applications. The first application involves process control models in steel production, while the second is about meta-model-based optimization of cyclone dust separators. A comparison with traditional and modern regression methods reveals that GP offers equal or superior performance in both applications, with the additional benefit of understandable and easy to deploy models. Main motivation of this work is the advancement of GP in real-world application areas. The focus lies on a subset of application areas that are known to be practical for GP, first of all symbolic regression and classification. It has been written with practitioners from academia and industry in mind

Probabilistic methods in circuit complexity analysis

Το κείμενο που ακολουθεί αποτελεί διπλωματική εργασία που εκπονήθηκε στο πλαίσιο του μεταπτυχιακού προγράμματος «Μαθηματικά και Εφαρμογές τους» του Τμήματος Μαθηματικών και Εφαρμοσμένων Μαθηματικών του Πανεπιστημίου Κρήτης. Με άξονα ένα βασικό πρόβλημα όπως περιγράφεται στο βιβλίο «Gems of Theoretical Computer Science»[1] του Uwe Schoning, αναδεικνύεται ο ρόλος της Πιθανοθεωρητικής Μεθόδου στην Ανάλυση Λογικών Κυκλωμάτων. Αρκετά από τα μαθηματικά προβλήματα που τίθενται, ενέχουν σημαντική εγγενή δυσκολία και συχνά μοναδική διέξοδος μοιάζει η επιστράτευση της Θεωρίας Πιθανοτήτων. Το πρόβλημα που εξετάζεται στην εργασία αυτή είναι το κατά πόσο λογικά κυκλώματα μικρής πολυπλοκότητας -συγκεκριμένα της κλάσης AC0- μπορούν να εκφράσουν λογικές συναρτήσεις ισοτιμίας. Αποδεικνύεται ότι κάτι τέτοιο είναι αδύνατο. Αναλύονται δύο αποδείξεις με διαφορετικές οπτικές, με καίρια εμπλοκή της Πιθανοθεωρητικής Μεθόδου και στις δύο. Στην πρώτη απόδειξη η προσέγγιση είναι αναλυτική και σημείο κλειδί της επιχειρηματολογίας είναι η τεχνική του τυχαίου περιορισμού. Η δεύτερη απόδειξη έχει αλγεβρική λογική και αποτελείται από δύο βήματα: στο πρώτο, με πιθανοθεωρητική τεχνική, γίνεται μια στενή συσχέτιση των κυκλωμάτων με τον χώρο πολυωνύμων μικρής πολυπλοκότητας· στο δεύτερο βήμα προκύπτει το συμπέρασμα με σύγκριση των διαστάσεων των γραμμικών χώρων που αναδεικνύονται στο πρώτο. Από την πρώτη απόδειξη, προκύπτει ότι λογικά κυκλώματα πολυωνυμικού μεγέθους πρέπει να έχουν βάθος τουλάχιστον λογαριθμικό για να μπορούν να υπολογίσουν συναρτήσεις ισοτιμίας, ενώ από τη δεύτερη απόδειξη το φράγμα αυτό βελτιώνεται σε Ω=(logn/loglogn

Probabilistic methods in circuit complexity analysis

Το κείμενο που ακολουθεί αποτελεί διπλωματική εργασία που εκπονήθηκε στο πλαίσιο του μεταπτυχιακού προγράμματος «Μαθηματικά και Εφαρμογές τους» του Τμήματος Μαθηματικών και Εφαρμοσμένων Μαθηματικών του Πανεπιστημίου Κρήτης. Με άξονα ένα βασικό πρόβλημα όπως περιγράφεται στο βιβλίο «Gems of Theoretical Computer Science»[1] του Uwe Schoning, αναδεικνύεται ο ρόλος της Πιθανοθεωρητικής Μεθόδου στην Ανάλυση Λογικών Κυκλωμάτων. Αρκετά από τα μαθηματικά προβλήματα που τίθενται, ενέχουν σημαντική εγγενή δυσκολία και συχνά μοναδική διέξοδος μοιάζει η επιστράτευση της Θεωρίας Πιθανοτήτων. Το πρόβλημα που εξετάζεται στην εργασία αυτή είναι το κατά πόσο λογικά κυκλώματα μικρής πολυπλοκότητας -συγκεκριμένα της κλάσης AC0- μπορούν να εκφράσουν λογικές συναρτήσεις ισοτιμίας. Αποδεικνύεται ότι κάτι τέτοιο είναι αδύνατο. Αναλύονται δύο αποδείξεις με διαφορετικές οπτικές, με καίρια εμπλοκή της Πιθανοθεωρητικής Μεθόδου και στις δύο. Στην πρώτη απόδειξη η προσέγγιση είναι αναλυτική και σημείο κλειδί της επιχειρηματολογίας είναι η τεχνική του τυχαίου περιορισμού. Η δεύτερη απόδειξη έχει αλγεβρική λογική και αποτελείται από δύο βήματα: στο πρώτο, με πιθανοθεωρητική τεχνική, γίνεται μια στενή συσχέτιση των κυκλωμάτων με τον χώρο πολυωνύμων μικρής πολυπλοκότητας· στο δεύτερο βήμα προκύπτει το συμπέρασμα με σύγκριση των διαστάσεων των γραμμικών χώρων που αναδεικνύονται στο πρώτο. Από την πρώτη απόδειξη, προκύπτει ότι λογικά κυκλώματα πολυωνυμικού μεγέθους πρέπει να έχουν βάθος τουλάχιστον λογαριθμικό για να μπορούν να υπολογίσουν συναρτήσεις ισοτιμίας, ενώ από τη δεύτερη απόδειξη το φράγμα αυτό βελτιώνεται σε Ω=(logn/loglogn