Formalizing Safety Requirements Using Controlling Automata

Safety is an important element of dependability. It is defined as the absence of accidents. Most accidents involving software-intensive systems have been system accidents, which are caused by unsafe inter-system or inter-component interactions. To validate the absence of system hazards concerning dysfunctional interactions, industrials call for approaches of modeling system safety requirements and interaction constraints among components. This paper proposes such a formalism, namely interface control systems (or shortly C-Systems). An interface C-System is composed of an interface automaton and a controlling automaton, which formalizes safe interactions and restricts system behavior at the meta level. This framework differs from the framework of traditional model checking. It explicitly separates the tasks of product engineers and safety engineers, and provides a top-down technique for modeling a system with safety constraints, and for automatically composing a safe system that conforms to safety requirements. The contributions of this work include formalizing safety requirements and a way of automatically ensuring system safety.Comment: 6 pages. In Proceedings of the 2nd International Conference on Dependability (DEPEND 2009), Athens, Greece. IEEE Computer Society, 200

Toward a Human-Centered Uml for Risk Analysis

Safety is now a major concern in many complex systems such as medical robots. A way to control the complexity of such systems is to manage risk. The first and important step of this activity is risk analysis. During risk analysis, two main studies concerning human factors must be integrated: task analysis and human error analysis. This multidisciplinary analysis often leads to a work sharing between several stakeholders who use their own languages and techniques. This often produces consistency errors and understanding difficulties between them. Hence, this paper proposes to treat the risk analysis on the common expression language UML (Unified Modeling Language) and to handle human factors concepts for task analysis and human error analysis based on the features of this language. The approach is applied to the development of a medical robot for teleechography

UML Inconsistencies Assessment

International audienceThe UML modelling language provides diagrams allowing multiple viewpoints of one system to be described. However, certain sets of elements of a model can be inconsistent. Inconsistencies are not drawbacks of the language as they highlight the presence of faults in the models. This paper proposes an assessment of the inconsistencies in order to estimate the effort which must be provided to handle them

Chemie ist Leben – (über)lebt die Chemie?

International audienceBrief bibliographical information : The team EMC of LESIA/INSA works on emission and susceptibility of electronic systems in cooperation with numerous firms from several domains including avionics (EADS) and automotive (Motorola, Siemens VDO). The team is a co-author of the standard IEC 62014-3, the organizer of the international conference EMC Compo and participates to the European projects MESDIE and LIMA

Systèmes de contrôle dans la théorie des langages et approche par monitoring des modèles pour la sécurité

Cette thèse contribue à l étude de la fiabilité et de la sécurité-innocuité des systèmes informatisés, modélisés par des systèmes à événements discrets. Les principales contributions concernent la théorie des Systèmes de Contrôle (notés C Systems) et l approche par Monitoring des modèles.Dans la première partie de la thèse, nous étudions la théorie des Systèmes de Contrôle qui combine et étend de façon significative, les systèmes de réécriture de la théorie des langages et le contrôle supervisé. Un système de contrôle est une structure générique qui contient deux composants : le composant contrôlé et le composant contrôlant qui restreint le comportement du composant contrôlé. Les deux composants sont exprimés en utilisant le même formalisme comme des automates ou des grammaires. Nous considérons différentes classes de systèmes de contrôle basés sur différents formalismes comme, par exemple, les automates, les grammaires, ainsi que leurs versions infinies et concurrentes. Ensuite, une application de cette théorie est présentée. Les systèmes de contrôle basés sur les automates de Büchi sont utilisés pour vérifier par model-checking, des propriétés définissant la correction sur des traces d exécution spécifiées par une assertion de type nevertrace.Dans la seconde partie de la thèse, nous investiguons l approche de monitoring des modèles dont la théorie des systèmes de contrôle constitue les fondations formelles. Le principe pivot de cette approche est la spécification de propriétés comme contrôleur . En d autres termes, pour un système, les exigences fonctionnelles, d une part, et des propriétés, d autre part, sont modélisées et implantées séparément, les propriétés spécifiées contrôlant le comportement issu des exigences fonctionnelles. De cette approche découle ainsi deux techniques alternatives, respectivement nommées monitoring de modèle et génération de modèle. Cette approche peut être utilisée de diverses manières pour améliorer la fiabilité et la sécurité-innocuité de divers types de systèmes. Nous présentons quelques applications qui montrent l intérêt pratique de cette contribution théorique. Tout d abord, cette approche aide à prendre en compte les évolutions des spécifications des propriétés. En second lieu, elle fournit une base théorique à la sécurité fonctionnelle, popularisée par la norme IEC 61508. En troisième lieu, l approche peut être utilisée pour formaliser et vérifier l application de guides de bonnes pratiques ou des règles de modélisation appliquées par exemple pour des modèles UML.Ces résultats constituent les bases pour des études futures de dispositifs plus perfectionnés, et fournissent une nouvelle voie pour s assurer de la fiabilité et de la sécurité-innocuité des systèmesThis thesis contributes to the study of reliability and safety of computer and software systems which are modeled as discrete event systems. The major contributions include the theory of Control Systems (C Systems) and the model monitoring approach.In the first part of the thesis, we study the theory of control systems which combines and significantly extends regulated rewriting in formal languages theory and supervisory control. The control system is a generic framework, and contains two components: the controlled component and the controlling component that restricts the behavior of the controlled component. The two components are expressed using the same formalism, e.g., automata or grammars. We consider various classes of control systems based on different formalisms, for example, automaton control systems, grammar control systems, and their infinite versions and concurrent variants. After that, an application of the theory is presented. The Büchi automata based control system is used to model and check correctness properties on execution traces specified by nevertrace claims.In the second part of the thesis, we investigate the model monitoring approach whose theoretical foundation is the theory of control systems. The key principle of the approach is property specifications as controllers . In other words, the functional requirements and property specification of a system are separately modeled and implemented, and the latter one controls the behavior of the former one. The model monitoring approach contains two alternative techniques, namely model monitoring and model generating. The approach can be applied in several ways to improve reliability and safety of various classes of systems. We present some typical applications to show its strong power. First, the approach provides better support for the change and evolution of property specifications. Second, it provides the theoretical foundation of safety-related systems in the standard IEC 61508 for ensuring the functional validity. Third, it is used to formalize and check guidelines and consistency rules of UML.These results lay out the foundations for further study of more advanced control mechanisms, and provide a new way for ensuring reliability and safetyTOULOUSE-INSA-Bib. electronique (315559905) / SudocSudocFranceF

Définition et détection automatique des incohérences structurelles et comportementales des modèles UML (Couplage des techniques de métamodélisation et de vérification basée sur la programmation logique)

Le but du travail présenté dans ce mémoire est de fournir un moyen permettant d'assurer la cohérence des modèles UML. Deux aspects ont été abordés au cours de cette thèse, l'étape de définition de la cohérence et l'étape de vérification automatique de celle-ci. Un document dont le but est de recenser l'ensemble des règles de cohérence des modèles UML a été produit. Il contient 650 règles de cohérence dont la moitié sont des règles nouvelles, fruit de l'analyse de la sémantique d'UML. La deuxième partie s'intéresse à la vérification automatique de ces règles de cohérence. La méthode développée associe les techniques de métamodélisation et les techniques de vérification de systèmes dynamiques en programmation logique. La programmation logique est utilisée pour encoder les modèles UML, pour formaliser leur sémantique opérationnelle et pour exprimer les incohérences à détecter. La détection des incohérences structurelles et comportementales est ainsi possible. Un prototype a enfin été développé. Les résultats d'une expérimentation sur un modèle industriel du secteur avionique valident l'intérêt de l'approcheThe purpose of this thesis is to develop a method that permits to ensure the UML model consistency. Two aspects have been addressed, the consistency definition and the consistency checking. The first step has led to a document that contains 650 consistency rules. Half of these rules are new consistency rules deduced from UML semantics. The aim is to make a census of all consistency rules. The second step concerns consistency checking. The developed method associates meta-modeling with system verification in logic programming techniques. Logic programming is used to encode UML model, to formalize UML operational semantics and to express the inconsistencies. The detection of structural and behavioral inconsistencies is then enabled. To conclude, a prototype has been developed. Experimental results on an industrial model from avionics domain corroborate the practical interest of the approachINIST-CNRS (INIST), under shelf-number: RP 17272 / SudocSudocFranceF

What Does it Take to Live With Uncertainty?

International audienceThis book explores the implications of acknowledging uncertainty and black swans for regulation of high-hazard technologies, for stakeholder acceptability of potentially hazardous activities and for risk governance. The conventional approach to risk assessment, which combines the likelihood of an event and the severity of its consequences, is poorly suited to situations where uncertainty and ambiguity are prominent features of the risk landscape. The new definition of risk used by ISO, “the effect of uncertainty on [achievement of] one’s objectives”, recognizes this paradigm change. What lessons can we draw from the management of fire hazards in Edo-era Japan? Are there situations in which increasing uncertainty allows more effective safety management? How should society address the risk of potentially planet-destroying scientific experiments?This book presents insights from leading scholars in different disciplines to challenge current risk governance and safety management practice

Software Detection of Hardware Plateform Failures due to Electromagnetic Fields

International audienceThe reduction of embedded electronic systems susceptibility to electromagnetic fields is often obtained by hardware devices whose cost must be added to each product. On the contrary, we consider the use of conventional hardware systems (COTS) handling their misfunctioning by software techniques. This paper introduces software detection mechanisms whose development cost is low as the mechanisms are generic, that is, independent on the specific functionalities of the software applications processed by the electronic systems

Management des risques de fautes de conception liées aux technologies orientées objet pour leur utilisation dans les applications avioniques critiques

Les technologies orientées objet permettent de réduire les coûts de développement d'applications logicielles. Aussi, les fournisseurs d'applications avioniques critiques souhaitent pouvoir les utiliser. Pour cela, ils doivent au préalable démontrer leur maîtrise de ces technologies auprès des autorités de certification. Un ensemble de risques intrinsèques à ces technologies a été identifié dans un document élaboré par retour d'expérience. Dans nos travaux, nous présentons un processus de management des risques permettant de maîtriser les risques de fautes de conception liées aux technologies orientées objet. Il s'agit tout d'abord d'identifier de manière précise les risques de faute que l'on souhaite maîtriser, et leurs sources. Nous proposons pour cela des modèles spécifiques d'identification de risques. Nous définissons ensuite un ensemble de métriques spécifiques permettant l'estimation de ces risques. Nous avons notamment développé des métriques permettant d'intégrer le facteur de risque de la compréhension qu'un concepteur a des éléments de code contenu dans un programme orienté objet. Nous mettons ensuite en oeuvre de manière globale l'estimation des risques au moyen de réseaux Bayésiens alimentés par analyse statique du code. L'analyse de ces réseaux permet ensuite la production de règles de codage souples, adaptées et justifiées, apportant les garanties nécessaires à la certificationObject-Oriented technologies could significantly reduce the development costs of software applications. Consequently, the suppliers of critical avionics applications are interested in using these technologies. For that purpose, they beforehand have to demonstrate their control of these technologies to the certification authorities. A set of intrinsic risks of these technologies was intuitively identified by feedback. In our works, we propose a risk management process allowing to control the design faults risks induced by the Object-Oriented technologies. We begin by identifying the risk and their sources. We propose in this way two specific models of risk identification. Then, we define a set of specific metrics in order to estimate these risks and their factors. We have particularly developed metrics allowing the integration of a key risk factor: the designer understanding of the elements of code contained in an object-oriented program. We estimate globally the fault risks by means of Bayesian Networks filled up with static analysis of the code. Finally, the networks analysis can provide flexible, adapted and justified guidelines, bringing necessary guarantees of the technologies control for the certificationTOULOUSE-INSA (315552106) / SudocSudocFranceF