Rechtliche Aspekte des Einsatzes von KI und Robotik in Medizin und Pflege

Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz und Robotik stellen nicht nur die Ethik, sondern auch das Recht vor neue Herausforderungen, gerade im Bereich der Medizin und Pflege. Grundsätzlich hat der Einsatz von KI dabei das Potenzial, sowohl die Heilbehandlungen als auch den adäquaten Umgang im Rahmen der Pflege zu erleichtern, wenn nicht sogar zu verbessern. Verwaltungsaufgaben, die Überwachung von Vitalfunktionen und deren Parameter sowie die Untersuchung von Gewebeproben etwa könnten autonom ablaufen. In Diagnostik und Therapie können Systeme die behandelnde Ärztin unterstützen. Intelligente Betten ermöglichen eine Frühmobilisierung der Patient:innen bei gleichzeitig geringerem Personalaufwand. Gleichwohl birgt der Einsatz der Systeme rechtliche Herausforderungen. So besteht das Risiko einer Verletzung der beteiligten Personen. Im Gegensatz zu herkömmlichen Technologien „leidet“ KI unter der „Black-Box-Problematik“: Die von den Systemen generierten Ergebnisse sind nicht mehr vollständig vorhersehbar und nachvollziehbar. Der Einsatz birgt unbekannte und unkalkulierbare Risiken, was sich insbesondere auf die zivilrechtliche Haftung und strafrechtliche Verantwortung auswirkt. Wem die Entscheidungen der Systeme normativ zuzurechnen sind, ist eine Kernfrage des juristischen Diskurses. Die aus praktikabilitätsgründen naheliegende Wahl, dem letztentscheidenden Menschen das Verhalten eines KI-Systems zuzurechnen, überzeugt nicht in allen Fällen, sondern degradiert ihn häufig zum symbolischen Haftungsknecht und legt ihm einseitig die Risiken der Technologien auf. Weiterhin ergeben sich im Bereich der Medizin und Pflege Fragen hinsichtlich der Zulassung von KI-Systemen, da die Maschinen während der Nutzung weiterlernen und so ihren strukturellen Aufbau kontinuierlich verändern. Es ist daher angebracht, sich frühzeitig mit dem Konfliktpotential aus ethischer und rechtlicher Sicht auseinander zu setzen, um einer potenziellen gesellschaftlichen Angst vor derartigen Systemen vorzubeugen und einen praxisgerechten Handlungsrahmen zu schaffen.Definition of the problem: Rapid developments in the field of artificial intelligence (AI) and robotics pose new challenges not only to ethics but also to law, especially in the field of medicine and nursing. In principle, the use of AI has the potential to facilitate, if not improve, both curative treatments and adequate handling in the context of care. Administrative tasks, the monitoring of vital functions and their parameters, and the examination of tissue samples, for example, could run autonomously. In diagnostics and therapy, such systems can support the attending physician. Intelligent beds make it possible to mobilize patients early while at the same time reducing the need for personnel. Nevertheless, the use of these systems poses legal challenges. For example, there is a risk of injury to the people involved. Unlike conventional technologies, AI “suffers” from the “black box problem”: the results generated by the systems are no longer fully predictable and comprehensible. Its use entails unknown and incalculable risks, with particular implications for civil liability and criminal responsibility. Arguments: To whom the decisions of the systems are normatively attributable is a core question of legal discourse. The obvious choice, for reasons of practicability, of attributing the behaviour of an AI system to the human being who makes the final decisions is not convincing in all cases, but often degrades the human being to a symbolic “liability servant” and imposes the risks of the technologies on the human being in a one-sided manner. Furthermore, in the field of medicine and care, questions arise regarding the approval of AI systems, since the machines continue to learn during use and thus continuously change their structural design. Since the systems require any amount of reliable data for training and later use—especially through further learning—adequate handling of personal data is also necessary with regard to data protection law in the area of care and medicine. Conclusions: It is therefore advisable to address the potential for conflict from an ethical and legal perspective at an early stage in order to prevent a potential social fear of such systems and to create a practical framework for action. Orientation towards the guiding principle of “meaningful human control” offers the potential to solve these challenges

Weizenbaum Report 2023: Politische Partizipation in Deutschland

Das Jahr 2022 eröffnete den Bürger:innen mit der Aufhebung der meisten COVID-Infektionsschutzmaßnahmen wieder deutlich mehr Möglichkeiten, sich politisch einzubringen, nachdem die zwei Jahre zuvor von tiefgreifenden Einschränkungen des öffentlichen Lebens geprägt waren. Zudem hatten weltpolitische Ereignisse wie der Angriff Russlands auf die Ukraine oder die Proteste gegen das autoritäre Regime im Iran eine mobilisierende Wirkung auf die deutsche Bevölkerung, was sich unter anderem in einer Zunahme an Demonstrationsteilnahmen gegenüber dem Vorjahr zeigt. Längerfristige Entwicklungen in der politischen Beteiligung zu beobachten und dabei den digitalen Wandel bürgerschaftlichen Handelns zu analysieren, ist Ziel des "Weizenbaum Panels". Die seit 2019 jährlich durchgeführte Längsschnittstudie zu politischer Partizipation und Kommunikation befasst sich mit dem politischen und sozialen Engagement in Deutschland. Neben der sich wandelnden Rolle digitaler Medien im politischen Handeln der Menschen wurde in diesem Jahr unter anderem dem Autoritarismus als einem Treiber antidemokratischer Beteiligung, sogenannter „Dark Participation“ im Netz (S. 10-12) und den Auswirkungen sozialer Ungleich- heit auf die politische Teilhabe (S. 14-16) nachgegangen. Der jährlich erscheinende Weizenbaum Report berichtet ausgewählte Befunde dieser bevölkerungsrepräsentativen Längsschnittuntersuchung, die von Oktober bis Dezember 2022 zum vierten Mal durchgeführt wurde

Künstliche Intelligenz in der Medizin? Intersektionale queerfeministische Kritik und Orientierung

Algorithmen werden als zentrale Akteure der digitalen Transformation gehandelt. Künstliche Intelligenz (KI) wird als Lösung für dringende aktuelle und zukünftige Probleme in der Medizin gerahmt. Der Beitrag geht der Frage nach, wie - oft unbewusst - faktisch diskriminierende Werte sozialer Ordnung in Algorithmen eingeschrieben werden und der weithin beklagte Gender Bias sowie rassistische Diskriminierung fortgeschrieben oder sogar verstärkt wird. Es wird erörtert, wie eine mit KI verbundene Automatisierung von Diskriminierung Ansprüche an ein gleichberechtigtes Zusammenleben vielfältiger und widersprüchlicher menschlicher Existenz erneut breit diskutierbar macht. Im Beitrag werden diese Fragen anhand des Einsatzes von KI bei der Hautkrebs- und der Brustkrebsdiagnose erörtert. Diese werden mit theoretischen und methodischen Zugängen aus der Genderforschung, die sozialen Konstruktivismus, Poststrukturalismus und New Materialism mit Ansätzen der Intersektionalitätsforschung und der Queer Theory verbinden, konfrontiert.Algorithms are considered to be central actors in the digital transformation. Artificial intelligence (AI) is framed as a solution to urgent current and future problems in medicine. The article explores the question of how - often unconsciously - the factually discriminatory values inherent in social orders are encoded in algorithms and how both gender bias and racial discrimination are perpetuated or even reinforced. The article discusses how the automation of discrimination that is associated with AI reopens the debate about the multifaceted and contradictory human co-existence on the basis of equality. These questions are discussed based on two examples - the use of AI in skin cancer and in breast cancer diagnosis. These are put into conversation with theoretical and methodological approaches from gender studies that combine social constructivism, poststructuralism and new materialism with approaches from intersectionality research and queer theory

Smart City : Leitfaden zur Umsetzung von Smart-City-Initiativen in der Schweiz

Dieser Leitfaden zur Umsetzung von Smart-City-Initiativen in der Schweiz wurde im Rahmen des Programmes EnergieSchweiz für Gemeinden konzipiert. Das Bundesamt für Energie (BFE) fördert damit die Umsetzung der nationalen Energiepolitik in den Bereichen Energieeffizienz und erneuerbare Energie. Mit dem Programm EnergieSchweiz für Gemeinden unterstützt das BFE gezielt Projekte auf kommunaler Ebene

Politik in der digitalen Gesellschaft: Zentrale Problemfelder und Forschungsperspektiven

Die Bedeutung der Digitalisierung für Politik und Gesellschaft ist ein hoch aktuelles Themenfeld, das immer stärker auch politikwissenschaftlich beforscht und gelehrt wird. Die Beiträge des Bandes versammeln dazu programmatische Positionen, welche zentrale Aspekte und Perspektiven der sozialwissenschaftlichen Digitalisierungsforschung darstellen und diskutieren. Hierzu zählen u.a. Forschungsfelder aus den Bereichen Partizipations- und Parteienforschung, Governance der Digitalisierung, methodische Reflexionen über Computational Social Science und die Analyse von Demokratie und Öffentlichkeit unter den Bedingungen der Digitalisierung