Certified machine learning: Rigorous a posteriori error bounds for PDE defined PINNs

Prediction error quantification in machine learning has been left out of most methodological investigations of neural networks, for both purely data-driven and physics-informed approaches. Beyond statistical investigations and generic results on the approximation capabilities of neural networks, we present a rigorous upper bound on the prediction error of physics-informed neural networks. This bound can be calculated without the knowledge of the true solution and only with a priori available information about the characteristics of the underlying dynamical system governed by a partial differential equation. We apply this a posteriori error bound exemplarily to four problems: the transport equation, the heat equation, the Navier-Stokes equation and the Klein-Gordon equation

Certified machine learning: A posteriori error estimation for physics-informed neural networks

Physics-informed neural networks (PINNs) are one popular approach to introduce a priori knowledge about physical systems into the learning framework. PINNs are known to be robust for smaller training sets, derive better generalization problems, and are faster to train. In this paper, we show that using PINNs in comparison with purely data-driven neural networks is not only favorable for training performance but allows us to extract significant information on the quality of the approximated solution. Assuming that the underlying differential equation for the PINN training is an ordinary differential equation, we derive a rigorous upper limit on the PINN prediction error. This bound is applicable even for input data not included in the training phase and without any prior knowledge about the true solution. Therefore, our a posteriori error estimation is an essential step to certify the PINN. We apply our error estimator exemplarily to two academic toy problems, whereof one falls in the category of model-predictive control and thereby shows the practical use of the derived results

The turbidity maximum zone of the Yenisei River (Siberia) and its impact on organic and inorganic proxies

A general overview of the processes taking place in the summer mixing zone of the fresh Yenisei River water with the marine waters of the Kara Sea is given in this study, with special emphasis on the interaction between bulk (total suspended matter), inorganic (Fe, Mn) and organic (suspended organic carbon, suspended nitrogen) proxies. Within the mixing zone, a zone of enhanced turbidity (maximum turbidity zone) was observed comparable to studies in other rivers. Flocculation of particles due to changes in salinity and hydrography cause this maximum turbidity zone, and resuspension additionally enhances the turbidity in the near-bottom layers. Organic matter behaves conservatively in the mixing zone in terms of its percentage of suspended matter. It, however, undergoes degradation as revealed by amino acid data. Inorganic, redox- and salinity-sensitive, proxies (Mn, Fe) behave non-conservatively. Dissolved iron is removed at low salinities (<2) due to precipitation of iron oxyhydroxides and adsorption of manganese on suspended particles, enhancing the Mn/Al ratio of the suspended matter in the same zone. At higher salinities within the mixing zone, Fe/Al and Mn/Al ratios of the suspended particles are depleted due to resuspension of sediment with lower Fe/Al and Mn/Al ratios. Dissolved manganese concentrations are significantly higher in the near-bottom layers of the mixing zone due to release from the anoxic sediment. All things considered, the Yenisei River mixing zone shows patterns similar to other world's rivers

C-Reactive Protein Causes Blood Pressure Drop in Rabbits and Induces Intracellular Calcium Signaling

Systemic diseases characterized by elevated levels of C-reactive protein (CRP), such as sepsis or systemic inflammatory response syndrome, are usually associated with hardly controllable haemodynamic instability. We therefore investigated whether CRP itself influences blood pressure and heart rate. Immediately after intravenous injection of purified human CRP (3.5 mg CRP/kg body weight) into anesthetized rabbits, blood pressure dropped critically in all animals, while control animals injected with bovine serum albumin showed no response. Heart rate did not change in either group. Approaching this impact on a cellular level, we investigated the effect of CRP in cell lines expressing adrenoceptors (CHO-α1A and DU-145). CRP caused a Ca(2+)signaling being dependent on the CRP dose. After complete activation of the adrenoceptors by agonists, CRP caused additional intracellular Ca(2+)mobilization. We assume that CRP interacts with hitherto unknown structures on the surface of vital cells and thus interferes with the desensitization of adrenoceptors

Liver-Specific Expression of Transcriptionally Active SREBP-1c Is Associated with Fatty Liver and Increased Visceral Fat Mass

The pathogenesis of fatty liver is not understood in detail, but lipid overflow as well as de novo lipogenesis (DNL) seem to be the key points of hepatocyte accumulation of lipids. One key transcription factor in DNL is sterol regulatory element-binding protein (SREBP)-1c. We generated mice with liver-specific over-expression of mature human SREBP-1c under control of the albumin promoter and a liver-specific enhancer (alb-SREBP-1c) to analyze systemic perturbations caused by this distinct alteration. SREBP-1c targets specific genes and causes key enzymes in DNL and lipid metabolism to be up-regulated. The alb-SREBP-1c mice developed hepatic lipid accumulation featuring a fatty liver by the age of 24 weeks under normocaloric nutrition. On a molecular level, clinical parameters and lipid-profiles varied according to the fatty liver phenotype. The desaturation index was increased compared to wild type mice. In liver, fatty acids (FA) were increased by 50% (p<0.01) and lipid composition was shifted to mono unsaturated FA, whereas lipid profile in adipose tissue or serum was not altered. Serum analyses revealed a ∼2-fold (p<0.01) increase in triglycerides and free fatty acids, and a ∼3-fold (p<0.01) increase in insulin levels, indicating insulin resistance; however, no significant cytokine profile alterations have been determined. Interestingly and unexpectedly, mice also developed adipositas with considerably increased visceral adipose tissue, although calorie intake was not different compared to control mice. In conclusion, the alb-SREBP-1c mouse model allowed the elucidation of the systemic impact of SREBP-1c as a central regulator of lipid metabolism in vivo and also demonstrated that the liver is a more active player in metabolic diseases such as visceral obesity and insulin resistance

Scientific Railway Signalling Symposium 2023 - Einfach Fahren! – Digitale Transformation im Spannungsfeld Automatisierung, europäische Standardisierung und schneller Rollout

Im Rahmen des Programms „Digitale Schiene Deutschland“ wird aktuell an der digitalen Transformation der Infrastruktur gearbeitet. Ziel ist es unter anderem, eine höhere Kapazität sowie optimale Auslastung des Schienennetzes zu erreichen, ohne im größeren Umfang zusätzliche Gleise zu verlegen. Für dieses Ziel bedarf es eines harmonisierten und reibungslosen Zusammenspiels zukunftsweisender Technologien im Bereich der Leit- und Sicherungstechnik, die zunächst umfassend erforscht und anschließend im Feld eingesetzt werden müssen. Mit dieser spannenden Thematik beschäftigte sich das Scientific Railway Signalling Symposium (SRSS) 2023 am 14. Juni, welches vom Institut für Bahnsysteme und Bahntechnik der TU Darmstadt zusammen mit der DB Netz AG sowie erstmals dem Fachgebiet Bahnbetrieb und Infrastruktur am Institut für Land- und Seeverkehr der TU Berlin organisiert wurde. Ca. 100 Fachexpert:innen aus Forschung und Praxis verfolgten die unterschiedlichen Vorträge unter dem Tagungstitel „Einfach Fahren! – Digitale Transformation im Spannungsfeld Automatisierung, europäische Standardisierung und schneller Rollout“ und brachten ihre Expertise in Diskussionsrunden ein. Zu Beginn der Tagung stellte Volker Hentschel von der DB Netz AG in seiner Keynote das volle Potenzial des digitalen Bahnsystems vor. Dabei gab er einen Überblick über die Innovationen, deren Umsetzung in den kommenden Jahren im Rahmen der Digitalen Schiene zu erwarten sind. Daran anschließend diskutierten die Kleingruppen, welche Innovationen der digitalen LST schnell zu Verbesserungen im Feld führen können. Bevor Markus Montigel, RAILvelation GmbH, zum Abschluss des Tages durch einen interaktiven Vortrag das Motto des Tages „Einfach fahren“ noch einmal aus etwas Distanz reflektierte, boten zahlreiche Beiträge detaillierte Einblicke zu unterschiedlichen LST-bezogenen Themen aus Wissenschaft und Praxis. Aufgrund der gestiegenen Anzahl der Vorträge im Vergleich zu den Vorjahren wurde die Tagung im Nachmittagsblock erstmals in parallele Sessions aufgeteilt. In dieser Publikation sind diejenigen Beiträge enthalten, die erfolgreich den Review-Prozess durchlaufen haben. Eine wesentliche Innovation ist das Automatisierte Fahren, dessen Sicherheit vor Einführung geprüft und sichergestellt werden muss. Marco Kinas et al. beschreiben daher in ihrem Beitrag Aspekte des im Rahmen des ATO-RISK-Projekts verfolgten Ansatzes, so z.B. den Einsatz von Regelwerken als Risikoakzeptanzprinzip gemäß der CSM-Verordnung und die Analyse menschlicher Faktoren im Vergleich zum derzeitigen bemannten Betrieb. Neben der funktionalen Sicherheit spielt auch die Sicherheit vor Angriffen eine wichtige Rolle. Simon Unger et al. erläutern daher in ihrem Beitrag das Zusammenspiel zwischen Safety und Security und arbeiten insbesondere die Relevanz von Security in Safety-kritischen Systemen anhand des RaSTA-Protokolls heraus. Im Gegensatz zu Safety handelt es sich bei Security um einen dynamischen Aspekt, denn die Bedrohungslage durch Angreifer kann sich stetig wandeln. Matthias Drodt von der DB Netz AG und Frank Weber vom Eisenbahn-Bundesamt beschreiben in ihrem Beitrag daher Lösungsansätze zur Zulassung der sehr dynamischen IT-Security in Eisenbahnsystemen. Für eine schnelle Zulassung und einen schnellen Rollout ist auch eine Beschleunigung des Entwicklungs- und Sicherheitsnachweisprozesses notwendig. Frederic Reiter et al. beschreiben in ihrem Paper eine vollständig virtualisierte Evaluierungsumgebung für digitale Stellwerke, die die Komplexität reduziert und Tests für Ausführung von Funktionen vor der Integration mit physischen Komponenten ermöglicht. Gunnar Smith von Prover Technology aus Stockholm stellt in seinem Beitrag die Methoden vor, die zur Reduzierung des Aufwandes in der Entwicklungsphase der LST-Systeme und dadurch auch zum schnellen Rollout beitragen werden. Julian Lucas von der TU Darmstadt und Markus Rothkehl von der DB Netz beschreiben ein Konzept für ein modulares Nachweisverfahren für verschiedene Komponenten der digitalen Sicherungstechnik. Auch im Falle eines beschleunigten Rollouts wird jedoch eine längere Übergangsphase zur digitalen LST erforderlich sein, in der es mehrere Migrationsschritte geben wird. In seinem Beitrag erläutert Melvin Zinngrebe von SBB AG zwei Strategien, die von der SBB AG zur Bewältigung der Migrationsherausforderungen angewendet werden. Eine davon ist die Lebensverlängerung der ersten Generation elektronischer Stellwerke, um Investitionen in eine Übergangstechnologie vor der Führerstandssignalisierung (FSS)-Migration zu vermeiden. Die andere Strategie ist eine Nachrüstung mit FSS. Zuverlässige Infrastrukturdaten sind eine unerlässliche Voraussetzung für die erfolgreiche Durchführung der digitalen Transformation. Benedikt Wenzel et al. haben in ihrem Beitrag die Auswirkungen auf die Qualität von Infrastrukturdaten und geeignete Strategien zur Bewältigung der Herausforderungen, die mit der Erstellung und Pflege zuverlässiger Infrastrukturdaten verbunden sind, herausgearbeitet. Um Pünktlichkeit und den reibungslosen Zugverkehr sicherstellen zu können, ist die Gewährleistung der Verfügbarkeit von LST-Systemen ein wichtiges Thema. In ihrem Paper beleuchten Simon Hofer und Martin Müller von team Technology Management GmbH verschiedene Strategien, um die Anforderungen an die hohe Verfügbarkeit beim Zugsicherungssystem ETCS gewährleisten zu können. Die Potenziale für Kapazitätssteigerungen und Leistungsverbesserungen, die durch Digitale Stellwerke, ETCS und andere Technologien erzielt werden können, sind in Deutschland nach wie vor enorm. Peter Reinhart von der DB Netz AG fasst in seinem Paper den bisherigen Erkenntnisstand hierzu anhand des Digitalen Knoten Stuttgart zusammen. Die breite Themenvielfalt der in diesem Tagungsband enthaltenen Artikel zeigt, wie dynamisch das Umfeld in unserer Branche derzeit ist und wie viele spannende Innovationen wir in den nächsten Jahren erwarten dürfen

The Performance of German Research Training Groups in Different Disciplinary Fields: An Empirical Assessment

In the early 90s, the German Research Foundation (Deutsche Forschungsgemeinschaft, abbr. DFG) established a new form of graduate education: the so-called Research Training Groups (RTGs). Comparable to PhD programs in the US, RTGs offer a structured course program and a framework for collaborative research for young researchers. As a result, the comple¬tion rate of doctoral degrees and the scientific visibility of doctoral and postdoctoral research were held to increase. However, the performance of German RTGs has not been evaluated as yet. In this paper, we undertake a first step in that direction and assess the performance of German RTGs in two different disciplinary fields (humanities & social sciences vs. natural & life sciences). We do so in two important respects by assessing (1) the doctoral completion rate as an immediate outcome of the graduate teaching undertaken and (2) the scientific visibility of doctoral and postdoctoral students as measured by their publication and presen¬tation output. In our analysis of 86 German RTGs we are able to show that the performance of German RTGs varies considerably in and between the different disciplinary fields. An additionally performed Data Envelopment Analysis (DEA) hints at a considerable potential for a performance improvement.Research Training Group, publications, presentations, doctoral completion rate, performance

Composition and Performance of Research Training Groups

This chapter analyzes how one particular governance mechanism affects the performance of research teams. We look at an external requirement for interdisciplinarity and internationality of Research Training Groups (RTGs) and study how their performance is affected. We expect to observe two countervailing effects with changes in interdisciplinarity and/or internationality: first, increased performance due to an increase in productive resources and a second, decreased performance due to increased team problems (communication, conflicts etc). Since both effects are expected to vary with the disciplinary field of research, we separate our analysis for the Humanities & Social Sciences in comparison to the Natural & Life Sciences and indeed find different effects in the different disciplinary fields. Furthermore, we separately analyze the effects of interdisciplinarity on the one hand and internationality on the other hand. We conclude that the effectiveness of a particular governance mechanism varies substantially between the disciplinary fields and for the type of heterogeneity under consideration. Therefore governance of research should be either precisely engineered to a particular disciplinary field and a given type of heterogeneity or it should offer a menu of options that allows research teams to choose from according to their specific needs.governance of Ph.D.-education, internationality, interdisciplinarity, performance, scientific visibility, doctoral completion rates, disciplinary fields

Biomimetic Sensors to Detect Bioanalytes in Real-Life Samples Using Molecularly Imprinted Polymers: A Review

Molecularly imprinted polymers (MIPs) come with the promise to be highly versatile, useful artificial receptors for sensing a wide variety of analytes. Despite a very large body of literature on imprinting, the number of papers addressing real-life biological samples and analytes is somewhat limited. Furthermore, the topic of MIP-based sensor design is still, rather, in the research stage and lacks wide-spread commercialization. This review summarizes recent advances of MIP-based sensors targeting biological species. It covers systems that are potentially interesting in medical applications/diagnostics, in detecting illicit substances, environmental analysis, and in the quality control of food. The main emphasis is placed on work that demonstrates application in real-life matrices, including those that are diluted in a reasonable manner. Hence, it does not restrict itself to the transducer type, but focusses on both materials and analytical tasks