Maschinelles Lernen Bayes'scher Netze in benutzeradaptiven Systemen

Das Thema der vorliegenden Arbeit ist die Anwendung existierender sowie die Entwicklung neuer, spezifisch auf den Fall benutzeradaptiver Systeme zugeschnittener, maschineller Lernverfahren für Bayes'sche Netze. Bislang werden die in benutzeradaptiven Systemen eingesetzten Bayes'schen Netze meist manuell—anhand von theoretischen Überlegungen (von Experten)—konstruiert. Es bietet sich an, die im System anfallenden Interaktionsdaten im Rahmen des Konstruktions- bzw. Wartungsprozesses durch die Anwendung entsprechender maschineller Lernverfahren zur Verbesserung der Systemperformanz auszunutzen. Dieser Arbeit liegt eine integrative Konzeption des maschinellen Lernens Bayes';scher Netze für benutzeradaptive Systeme zugrunde, die gemäß den Anforderungen der zu modellierenden Domäne mit alternativen Verfahren instanziiert werden kann. In diesem Rahmen werden in dieser Arbeit neu entwickelte maschinelle Lern- bzw. Adaptionsverfahren für Bayes';sche Netze vorgestellt, die das gemeinsame Ziel verfolgen, die besonderen Eigenschaften und Anforderungen des Benutzermodellierungskontexts während des Lern- bzw. Adaptionsvorgangs zu berücksichtigen. Diese neuen Verfahren werden in vergleichenden Studien mit alternativ einsetzbaren existierenden Methoden des maschinellen Lernens Bayes'scher Netze evaluiertThis thesis focuses on the application of existing and the development of new Bayesian network learning methods that are able to deal with or that can exploit the characteristics of domains of user-adaptive systems. So far, Bayesian networks used by user-adaptive systems have typically been specified manually—on the basis of theoretical considerations (of experts). It seems to be a promising approach to exploit the interaction data that can be collected during the systems'; use through the application of machine learning methods in the design and maintenance phases. We present an integrative generic framework that can be instantiated with alternative methods according to the demands of the domain to be modeled. To this end, new Bayesian network learning and adaptation methods are presented that jointly aim to address adequately the characteristics and demands of the user modeling context during the learning and adaptation processes. These methods are evaluated in comparative empirical studies relative to alternative existing standard Bayesian network learning procedures

Wissensgewinnung aus grossen Datenbasen. Seminar im Wintersemester 95/96

In den vergangenen zehn Jahren hat die Flut von Daten, die in kommerziellen Datenbanken verwaltet wird, immer staerker zugenommen. Gleichzeitig werden Datenbanken zur Unterstuetzung immer komplexerer Anwendungen eingesetzt, bei denen oft nur ein geringes Wissen ueber die Zusammenhaenge der Daten vorhanden ist. Trotz der grossen Informationsmenge ist der daraus resultierende Nutzen relativ gering und es stellt sich daher die Frage, wie weiteres nuetzliches, aber verborgenes Wissen effizient aus den existierenden Daten gewonnen werden kann. Mit diesen Fragestellungen befasst sich die Forschungsrichtung KDD (Knowledge Discovery in Databases). Fuer diesen internen Bericht wurden im Rahmen eines Seminars von den teilnehmenden Studenten verschiedene Ansaetze fuer und Einsatzmoeglichkeiten von KDD vorgestellt. Die jeweiligen Ausarbeitungen sind in diesem Bericht kapitelweise zusammengestellt. Beginnend mit einer Uebersicht ueber und Einfuehrung in KDD werden spezifische Verfahren und Ansaetze zur Wissensgewinnung vorgestellt. Abgerundet werden diese Grundlagenkapitel durch die Vorstellung zweier Anwendungen von KDD in der Praxis

Adaptive Verhaltensentscheidung und Bahnplanung für kognitive Automobile

In der vorliegenden Arbeit wird eine biologisch motivierte Verhaltenssteuerung für ein kognitives Automobil vorgestellt, die ein hohes Maß an Rückmeldung liefert und damit die Grundlage für zukünftige Lernverfahren bildet. Weiterhin wird eine universell einsetzbare Bahnplanungskomponente entwickelt. Wesentliches Element des vorgestellten Ansatzes ist die Repräsentation von Fahrintention und Fahrzeugumfeld mit Hilfe von dynamischen Gefahrenkarten

Entwurf einer modellprädiktiven Regelung zur Klimatisierung batterieelektrischer Fahrzeuge durch Verfahren des maschinellen Lernens

Im Vergleich zu verbrennungsmotorisch betriebenen Fahrzeugen weisen batterieelektrisch betriebene Elektrofahrzeuge (BEV) eine signifikant geringere Reichweite auf. Die Innenraumklimatisierung stellt neben dem Antrieb den zweitgrößten Verbraucher in Elektrofahrzeugen dar. Eine Optimierung im Sinne von Maßnahmen zur Reduzierung des Energiebedarfs der Innenraumklimatisierung kann daher wesentlich zur Reichweitensteigerung und somit auch der Marktdurchdringung dieser Technologie beitragen. Der Einsatz einer intelligenten Betriebsstrategie stellt eine kostengünstige Möglichkeit dar, die Effizienz des Gesamtsystems zu steigern und so zur Steigerung der Reichweite batterieelektrisch betriebener Elektrofahrzeuge beizutragen. Ein Ansatz zur Ausschöpfung des vorhandenen Optimierungspotentials im Bereich der Fahrzeugklimatisierung ist der Einsatz modelprädiktiver Regelungen. Der Realisierung einer auf diesem Ansatz basierenden Regelung der Fahrzeugklimatisierung stehen mehrere Herausforderungen entgegen. Die wesentliche Vorrausetzung für ein befriedigendes Regelungsverhalten ist die hinreichend genaue Vorhersage der betroffenen Regel- und Zustandsgrößen. Werden durch eine unzureichende Berücksichtigung von Störgrößen und durch eine unzureichende Modellierung der ablaufenden technischen Prozesse Regelgrößen falsch vorhergesagt, so werden die Regelabweichungen ebenfalls falsch vorhergesagt, weshalb vorhandenes Optimierungspotential nicht ausgeschöpft werden kann. Methoden des maschinellen Lernens wie z.B. tiefe rekurrente neuronale Netze bieten hierbei eine Alternative zur konventionellen theoretischen, experimentellen oder hybriden Modellbildung. Im Rahmen dieser Arbeit wurde für eine temperaturgeführte Regelung einer Einzonen-Klimaanlage ein Lösungskonzept zur Umsetzung eines modellprädiktiven Ansatzes basierend auf Verfahren des maschinellen Lernens entwickelt. Der Fokus lag hierbei auf einer Reduzierung des Energiebedarfs bei gleichzeitiger Erfüllung der übernommenen Anforderungen an die konventionelle Regelung. Das Vorgehen in dieser Arbeit basiert auf dem Ist-Zustand-orientierten Vorgehen im Mikrozyklus gemäß VDI-Richtlinie 2206. Ausgehend vom Entwicklungsziel wurde zunächst eine Situationsanalyse des bestehenden Systems durchgeführt. Hierbei wurde, ausgehend von den übernommenen Anforderungen an die konventionelle Regelung, eine Untersuchung der Regelgüte und des Energiebedarfs eines Referenzsystems durchgeführt. Zur Modellvalidierung wurden reale Straßenversuche mit einem VW-e-Golf durchgeführt. Die Bewertung der Energieeffizienz erfolgte anhand abgeleiteter Versuchsszenarien aus klimatischen Daten und Pkw-Nutzungsverhalten in Deutschland. Für diese Versuchsszenarien wurden Simulationen am FMU-basierten thermischen Gesamtfahrzeugmodell durchgeführt. Mit den Ergebnissen dieser Untersuchung erfolgte eine Zielformulierung und Anforderungsableitung an den Systementwurf. Hierauf aufbauend wurde ein Grobkonzept für eine modellprädiktive temperaturgeführte Regelung einer Einzonen-Klimaanlage entworfen. Auf Basis dieses Grobkonzepts wurden Untersuchungen zu Lösungsansätzen für die Teilsysteme des Gesamtsystems durchgeführt. Hierfür wurden unter anderem Modelle zur Störgrößenprognose sowie ein Modell zur Abbildung des physikalischen Verhaltens auf Basis von Verfahren des maschinellen Lernens entwickelt. Für die Optimierung der Stellgrößen wurde ein Optimalsteuerungsproblem durch ein Gütefunktional formuliert und zur Lösung der Optimierungsaufgabe ein Verfahren basierend auf evolutionären Algorithmen entwickelt. In einer anschließenden Systemsynthese wurden die entwickelten Teilfunktionen zu einem Gesamtsystem integriert und durch experimentelle Untersuchungen im Vergleich zum bestehenden System mit konventioneller Regelung bewertet.Compared to vehicles powered by combustion engines, battery electric vehicles (BEV) have a significantly shorter range. Next to the powertrain, the interior heating, ventilation and air conditioning represents the second largest consumer in electric vehicles. Optimization in the sense of reducing the energy demand of the interior air conditioning can therefore make a significant contribution to increasing the range and thus also the market penetration of this technology. The use of an intelligent operating strategy represents a cost-effective way to increase the efficiency of the overall system and thus contribute to increasing the range of battery electric vehicles. One approach to exploiting the existing optimization potential in the field of vehicle air conditioning is the use of model predictive control. The realization of a control system for vehicle air conditioning based on this approach faces several challenges. The essential prerequisite for a satisfactory control behavior is the sufficiently accurate prediction of the affected control and state variables. If control variables are predicted incorrectly due to insufficient consideration of disturbance variables and insufficient modeling of the technical processes taking place, the control deviations are also predicted incorrectly, which is why existing optimization potential cannot be exploited. Machine learning methods such as deep recurrent neural networks offer an alternative to conventional theoretical, experimental or hybrid modeling. In the context of this work, an approach for the implementation of a model-predictive approach based on machine learning methods was developed for a temperature-guided control of a single-zone air conditioning system. The focus was on a reduction of the energy demand while at the same time fulfilling the assumed requirements of the conventional control. The approach in this work is based on the actual-state-oriented approach in the micro cycle according to VDI guideline 2206. Starting from the development goal, a situation analysis of the existing system was first performed. Here, based on the adopted requirements for conventional control, an investigation of the control performance and the energy demand of a reference system was carried out. Real road tests with a VW e-Golf were carried out for model validation. The energy efficiency was evaluated using test scenarios derived from climatic data and car usage behavior in Germany. For these test scenarios, simulations were carried out on the FMU-based thermal vehicle model. The results of this investigation were used to formulate objectives and derive requirements for the system design. Based on this, a concept for a model-predictive temperature-guided control of a single-zone air conditioning system was designed. Based on this concept, the subsystems of the overall system were designed. For this purpose, models for the prediction of disturbance variables and a model for the representation of the physical behavior based on machine learning methods were developed. For the optimization of the manipulated variables, an optimal control problem was formulated by a cost functional and a method based on evolutionary algorithms was developed to solve the optimization task. In a subsequent system synthesis, the developed subfunctions were integrated into a complete system and evaluated by experimental investigations in comparison to the existing system with conventional control

Neuronale Wissensrepräsentation und antizipierende hierarchische Speicher

Neurowissenschaftliche Erkenntnisse über Struktur und Funktion des Neokortex lassen eine Neuorientierung auf dem Gebiet der künstlichen neuronalen Netze ratsam erscheinen. Es gilt, seine tiefe und hierarchische Architektur, seine universelle Fähigkeit, nicht nur räumliche sondern simultan auch zeitliche Muster zu erkennen und zu antizipieren, technisch zu realisieren. Dabei spielt auch ein aktuelles Modell der neuronalen Wissensrepräsentation, Sparse Coding, eine wichtige Rolle. Neben Deep Learning-Netzen, sind auch hierarchisch-temporale Speicher (HTM) ein vielversprechender Ansatz auf diesem Gebiet. Lernalgorithmen für HTM werden vorgestellt und mit Hilfe der openHTM-Plattform, die eine frei verfügbare Version des kommerziellen Grok-Systems ist, erste Experimente durchgeführt.Neuroscientific insights into neocortical structure and function motivate reorientation in the field of artificial neural networks. It is desirable to seek technical solutions which exhibit its deep and hierarchical architecture and its universal ability to detect and anticipate spatio-temporal patterns. A current model of neural knowledge representation, sparse coding, is instrumental in achieving this goal. Among other concepts like deep learning, hierarchical-temporal memory (HTM) is a promising approach. Learning algorithms for HTM are discussed, and simple experiments with the openHTM-platform, a free and open source version of the commercial Grok system, are presented