Genetic Programming with Guaranteed Quality

When using genetic programming (GP) or other techniques that try to approximate unknown functions, the principle of Occam's razor is often applied: find the simplest function that explains the given data, as it is assumed to be the best approximation for the unknown function. Using a well-known result from learning theory, it is shown in this paper, how Occam's razor can help GP in finding functions, so that the number of functions that differ from the unknown function by more than a certain degree can be bounded theoretically. Experiments show how these bounds can be used to get guaranteed quality assurances for practical applications, even though they are much too conservative

On the Analysis of a Simple Evolutionary Algorithm With Dynamic Parameter Control

Evolutionary algorithms usually are controlled by various parameters and it is well known that an appropriate choice of these control parameters is crucial for the efficiency of the algorithms. In many cases it seems to be favorable not to use a static set of parameter settings for a problem but let the sizes of the parameters vary during an optimization. Even for the most simple type of nonstatic parameter settings, dynamic parameter control, no formal general proof is known that varying the parameter settings is advantageous. Here, a very simple evolutionary algorithm is analyzed, and an exponential improvement against even the optimal static parameter setting is proved. This result is closely related to the open question whether simulated annealing with a natural cooling schedule can provably outperform the Metropolis algorithm on a natural problem

On Representation and Genetic Operators in Evolutionary Algorithms

The application of evolutionary algorithms (EAs) requires as a basic design decision the choice of a suitable representation of the variable space and appropriate genetic operators. In practice mainly problemspecific representations with specific genetic operators and miscellaneous extensions can be observed. In this connection it attracts attention that hardly any formal requirements on the genetic operators are stated. In this article we first formalize the representation problem and then propose a package of requirements to guide the design of genetic operators. By the definition of distance measures on the geno- and phenotype space it is possible to integrate problem-specific knowledge into the genetic operators. As an example we show how this package of requirements can be used to design a genetic programming (GP) system for finding Boolean functions

Optical frequency transfer via telecommunication fiber links for metrological applications

[no abstract

Zu Analyse und Entwurf evolutionärer Algorithmen

Evolutionäre Algorithmen sind randomisierte Suchheuristiken, die Prinzipien der natürlichen Evolution verwenden, um Optimierungsprobleme zu lösen. Sie sind auch ohne genaueres Wissen über die Struktur der zu lösenden Probleme schnell einsetzbar, doch sind die Mechanismen, die evolutionäre Algorithmen funktionieren oder scheitern lassen, kaum verstanden. In dieser Arbeit werden evolutionäre Algorithmen zuerst in einem allgemeinen Kontext als Vertreter allgemeiner Suchverfahren untersucht. Hier zeigt sich, dass allgemeine Suchverfahren nur auf relativ kleinen Klassen von Optimierungsproblemen sinnvoll untersucht oder entworfen werden können. Dies motiviert die folgende theoretisch genaue Untersuchung auf klar definierten Funktionsklassen. Da theoretische Grundlagen für evolutionäre Algorithmen recht spärlich gesät sind, wird ein einfacher, aber wichtige Prinzipien verkörpernder evolutionärer Algorithmus, der sogenannte (1+1) EA bezüglich seiner Laufzeit, der Anzahl der Schritte bis zum Erreichen eines Optimums, untersucht. In diesem Hauptteil der Arbeit werden manche Vermutungen bestätigt (für lineare zu optimierende Funktionen) bzw. widerlegt (für unimodale Funktionen). Dabei können auch manche Methoden verallgemeinert werden, um zu untersuchen, wie eine Veränderlichkeit der Akzeptanzwahrscheinlichkeit von Verschlechterungen den Suchprozess beeinflusst oder eine dem bekannten MAXSAT-Problem entspringende Funktion für alle mutationsbasierten evolutionären Algorithmen schwierig ist. Wegen der mangelnden theoretischen Grundlagen gibt es für den Entwurf evolutionärer Algorithmen nur wenige empirisch belegte Daumenregeln. Für den Entwurf problemspezifischer evolutionärer Algorithmen stellen wir Richtlinien vor, in die das Problemwissen in Form einer Metrik auf dem Suchraum eingeht. Die so definierten Metrik-basierten evolutionären Algorithmen sind somit auf die Zielfunktion abgestimmt, ohne dass die Anschaulichkeit der evolutionären Operatoren verloren geht. Empirische Resultate anhand eines Systems der genetischen Programmierung zeigen, dass die Richtlinien zumindest für das betrachtete Benchmark-Problem eine deutliche Leistungsverbesserung bedeuten. Zuletzt wird mittels der Übertragung eines Resultats der Lerntheorie, dem so genannten Occam's Razor Theorem gezeigt, wie für das Lernen nur teilweise bekannter Funktionen mittels genetischer Programmierung nicht-triviale Fehlergarantien gezeigt werden können

Weighted Operator Precedence Languages

In the last years renewed investigation of operator precedence languages (OPL) led to discover important properties thereof: OPL are closed with respect to all major operations, are characterized, besides the original grammar family, in terms of an automata family (OPA) and an MSO logic; furthermore they significantly generalize the well-known visibly pushdown languages (VPL). In another area of research, quantitative models of systems are also greatly in demand. In this paper, we lay the foundation to marry these two research fields. We introduce weighted operator precedence automata and show how they are both strict extensions of OPA and weighted visibly pushdown automata. We prove a Nivat-like result which shows that quantitative OPL can be described by unweighted OPA and very particular weighted OPA. In a Büchi-like theorem, we show that weighted OPA are expressively equivalent to a weighted MSO-logic for OPL