«KI und Robotik sollen den Menschen unterstützen, nicht ersetzen»

Sarah Dégallier Rochat ist Leiterin des strategischen Themenfelds humane digitale Transformation an der BFH. Zusammen mit drei anderen BFH-Forscherinnen* hat sie ein Positionspapier zu ethischen Fragen rund um künstliche Intelligenz (KI) und Robotik verfasst

Post-zerebrale Utopien: Im Grenzbereich zwischen künstlicher Intelligenz und technikzentrierter Erlösungsfantasien.

Warum könnten Gehirn-Utopien aus den 1990ern heute interessant sein? Blockbuster wie "Transcendence" mit Johnny Depp, dessen Gehirn auf ein Computersystem geladen wird, oder populäre Hollywood-Produktionen wie "Her", die Serie "Real Humans" rekurrieren auf Utopien, um die es nach den 1990ern sehr leise geworden ist. Der Diskurs um "Mind-Upoloading", Neu- bzw. Selbstbestimmung von Identiät durch Cyborgisierung, oder digitale Unsterblichkeit ist mit den derzeit anlaufenden Big Science Projekten in Amerika, Europa u.a. zur Vermessung des Gehirns neu entfacht. Der Artikel befasst sich mit den diskursiven Wurzeln dazu

Wie maschinelles Lernen den Markt verändert

Künstliche Intelligenz hat einen Hype ausgelöst - nicht zum ersten Mal. In der Presse liest man von Durchbrüchen im Bereich des maschinellen Lernens, insbesondere mittels Deep Neural Networks. Beispiele von automatischer Bilderkennung bis zur Weltmeisterschaft im Brettspiel «Go» lassen Erwartungen steigen. Ängste auch? Dieser Beitrag bietet (a) eine Einordnung und Erklärung zu den technologischen Hintergründen, destilliert (b) allgemeine "Lessons Learned" über deren Einsatzmöglichkeiten aus praktischen Beispielen und gibt (c) einen Ausblick, wie sich Markt und Gesellschaft zukünftig verändern könnten

Technology Outlook 2017

Über 20 ausgewiesene Fachleute beurteilen im «Technology Outlook 2017» die Chancen und Risiken technischer Entwicklungen für die Schweiz. Themen sind unter anderem Industrie 4.0, künstliche Intelligenz, Robotik oder neue Fertigungsverfahren. Die Schweiz verfügt über grosse Standortvorteile, doch teilweise besteht Nachholbedarf

„Die Maschinen werden zu einer einzigen Maschine".: Eine technikphilosophische Reflexion auf ‚Computational Thinking‘, Künstliche Intelligenz und Medienbildung

Technikinduzierte Diskurse um ‚Lernen‘ und ‚Wissen‘ in der zweiten Hälfte des letzten Jahrhunderts sowie zu Beginn des 21. Jahrhunderts sind durch markante Strukturanalogien gekennzeichnet, vornehmlich wenn man auf hegemoniale Imperative und governmentale Diskurspraxen abstellt. Gestützt auf eine pragmatisch-systemische Technikphilosophie analysiert Christian Filk markante Eigendynamiken von Algorithmik, Robotik und Künstlicher Intelligenz (KI) und identifiziert altbekannte Dilemmata des Mensch-Maschine-Gegensatzes. Ausgehend vom genuinen Hiatus zwischen menschlichem und maschinellem ‚Lernen‘ zum einen, zwischen Konstruktivismus und Behaviorismus zum anderen reflektiert Christian Filk auf das Beziehungsgefüge von Computational Thinking und Medienpädagogik. Schließlich exploriert er wichtige theoretische und praktische Problemstellungen und Zielkonflikte – gerade hinsichtlich Artificial Intelligence (in Education) –, denen sich eine kritische Medienbildungsforschung vordringlich zu widmen hat.Technology-induced discourses on ‚learning‘ and ‚knowledge‘ in the second half of the last century and at the beginning of the 21st century are characterized by striking structural analogies, especially if one focuses on hegemonic imperatives and governmental discourse practices. Based on a pragmatic-systemic philosophy of technology, Christian Filk analyzes distinctive dynamics of Algorithmics, Robotics and Artificial Intelligence (AI) and identifies well-known dilemmas of the human-machine contrast. Starting from the genuine hiatus between human and machine ‚learning‘ on the one hand, between constructivism and behaviorism on the other hand, Christian Filk reflects on the relationship between computational thinking and media education. Finally, he explores important theoretical and practical problems and conflicting goals – especially with regard to Artificial Intelligence (in Education) – which critical media education research must address as a priority

Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege

Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.Definition of the problem: Rapid developments in the field of artificial intelligence (AI) and robotics pose new challenges not only to ethics but also to law, especially in the field of medicine and nursing. In principle, the use of AI has the potential to facilitate, if not improve, both curative treatments and adequate handling in the context of care. Administrative tasks, the monitoring of vital functions and their parameters, and the examination of tissue samples, for example, could run autonomously. In diagnostics and therapy, such systems can support the attending physician. Intelligent beds make it possible to mobilize patients early while at the same time reducing the need for personnel. Nevertheless, the use of these systems poses legal challenges. For example, there is a risk of injury to the people involved. Unlike conventional technologies, AI “suffers” from the “black box problem”: the results generated by the systems are no longer fully predictable and comprehensible. Its use entails unknown and incalculable risks, with particular implications for civil liability and criminal responsibility. Arguments: To whom the decisions of the systems are normatively attributable is a core question of legal discourse. The obvious choice, for reasons of practicability, of attributing the behaviour of an AI system to the human being who makes the final decisions is not convincing in all cases, but often degrades the human being to a symbolic “liability servant” and imposes the risks of the technologies on the human being in a one-sided manner. Furthermore, in the field of medicine and care, questions arise regarding the approval of AI systems, since the machines continue to learn during use and thus continuously change their structural design. Since the systems require any amount of reliable data for training and later use—especially through further learning—adequate handling of personal data is also necessary with regard to data protection law in the area of care and medicine. Conclusions: It is therefore advisable to address the potential for conflict from an ethical and legal perspective at an early stage in order to prevent a potential social fear of such systems and to create a practical framework for action. Orientation towards the guiding principle of “meaningful human control” offers the potential to solve these challenges

Theologische Positionen zu Transhumanismus und KI – ein Überblick

Abstract: The paper maps the German theological debate on AI and transhumanism. Eleven topoi of theological discourse on AI and transhumanism are elaborated: the human as creator of the machine; human-like machine; machine-like human; end of sociality; end of (responsible) agency; end of freedom; reality control of machines; end of an ontology of creation; abolition of death; singularity; transhumanism as religion or ideology. The reconstructions of the topoi reveal a strong anthropological focus, whereby the emerging technology imaginary is strongly shaped by theological anthropology – rather than by current technologies. This phenomenon of a “mirror imaginary” is discussed as it concerns its implications for further theological reflection. Zusammenfassung: Das Paper kartiert die deutschsprachige theologische Debatte über KI und Transhumanismus. Herausgearbeitet werden elf Topoi theologischer Rede über KI und Transhumanismus: Der Menschen als Schöpfer der Maschine; menschgleiche Maschine; maschinengleicher Mensch; Ende der Sozialität; Ende des (verantwortlichen) Handelns; Ende der Freiheit; Wirklichkeitskontrolle der Maschinen; Ende der schöpfungshaften Ontologie; Abschaffung des Todes; Singularität; Transhumanismus als Religion oder Ideologie. Die Rekonstruktionen der Topoi zeigt eine starke anthropologische Fokussierung, wodurch die entstehende Technik-Imagination stark von der jeweiligen theologischen Anthropologie geprägt ist – und weniger von gegenwärtigen KI-Technologien. Dieses Phänomen der „Spiegelimagination“ wird abschließend auf die Implikationen für die weitere theologische Auseinandersetzung mit diesen Technologien hin diskutiert