Technologien und Visionen der Mensch-Maschine-Entgrenzung : Sachstandsbericht zum TA-Projekt »Mensch-Maschine-Entgrenzungen: zwischen künstlicher Intelligenz und Human Enhancement«

Der Sachstandsbericht (TAB-Arbeitsbericht Nr. 167) zeigt auf, dass nach derzeitigem wissenschaftlich-technischem Entwicklungsstand viele der in den Zukunftsdiskursen formulierten Erwartungen weitgehend spekulativ erscheinen. Alles in allem ist in absehbarer Zeit wohl weder mit der technischen Optimierung der »Natur« des Menschen (in einem größeren, d.h. gesellschaftlich relevanten Maßstab) noch mit einer »Intelligenzexplosion« bei Maschinen zu rechnen. Die oben umrissene Entgrenzungsdynamik vollzieht sich aktuell vielmehr auf einer subtileren Ebene: beispielsweise, indem fundamentale anthropologische Kategorien – wie Verantwortungsfähigkeit, Selbstbestimmtheit, Identität –, welche die Grundlage unserer jetzigen moralischen und rechtlichen Ordnung bilden, durch die beschriebenen Technisierungsprozesse ins Wanken geraten. Diese normativen Herausforderungen machen eine frühzeitige Auseinandersetzung mit den gesellschaftlichen Konsequenzen, aber auch Rahmenbedingungen der Entgrenzungsdynamik erforderlich. Dabei sollte im Zentrum stehen, was wir als genuinen Wesenszug des Menschen und seiner Kultur verstehen und was davon wir für die Zukunft erhalten und vor maschinellem Zugriff schützen wollen. Inhalt Zusammenfassung 7 I. Einleitung 19 II. Zukunftsvisionen 25 1. Zur Analyse des visionären Diskurses 26 2. Kulturelle Wurzeln und Ideentraditionen 29 2.1 Künstliche Menschen, Automaten und Roboter 29 2.2 Transhumanismus, Cyborgs und Human Enhancement 33 3. Aktuelle visionäre Diskurse und ihre Akteure 37 3.1 Themensetzung durch futuristische Netzwerke 38 3.2 Der aktuelle Diskurs zu Enhancement und Cyborgs 43 3.3 Der aktuelle Diskurs zu einer Superintelligenz 47 4. Fazit 50 III. Stand der Technik 55 1. Neurotechnologien 55 1.1 Wissenschaftliche Grundlagen: neuroelektrische Schnittstellen 56 1.2 Neurotechnologische Anwendungen: Stand und Entwicklungsperspektiven 67 1.3 Forschungslandschaft in Deutschland 93 1.4 Fazit und Ausblick 95 2. Autonome Robotik 99 2.1 Wissenschaftliche Grundlagen: künstliche Intelligenz und maschinelles Lernen 102 2.2 Wo steht die autonome Robotik? 110 2.3 Anwendungsfelder und Beispiele 120 2.4 Forschungslandschaft in Deutschland 134 2.5 Fazit 137 IV. Schlussfolgerungen und Ausblick 141 Literatur 153 In Auftrag gegebene Gutachten 153 Weitere Literatur 153 Anhang 167 1. Abbildungsverzeichnis 167 2. Tabellenverzeichnis 16

Konvergenz und Überwältigung

Künstlicher Intelligenz wird immer mehr zugetraut. Unter dem Deckmantel nüchterner Technikfolgenabschätzung sind in den letzten Jahrzehnten populäre Mythen entstanden, die die Menschheit an einem historischen Wendepunkt im Umgang mit ihrer Technik vermuten. Viele der Erzählungen schauen gebannt in die nahe Zukunft und befürchten den drohenden Machtwechsel zwischen Mensch und intelligenter Maschine. Visionen einer von ihrer Technik überforderten Menschheit mischen sich dabei mit einer apokalyptischen Rhetorik, nach der die Menschheit gar nicht anders könne, als ihre eigenen, effizienteren Nachfolger zu konstruieren. Technik, die ehemals Ausdruck menschlicher Souveränität war, verkehrt sich zum neuen Subjekt der Geschichte. Diese Untersuchung macht die Auslieferung des Menschen an die Zukunft der Künstlichen Intelligenz als kontingenten Mythos durchsichtig und wehrt damit der Sakralisierung von Technik. Im Abgleich der Zerrbilder menschlicher Freiheit, wie sie die Mythen der KI hervorbringen, wirbt der Autor für einen pragmatischen Umgang mit Technik und Innovation auf der Grundlage eines christlichen Freiheitsverständnisses, das auf Bewältigung anstatt Überwältigung setzt. Yannick Schlote ist evangelischer Theologe und seit 2019 wissenschaftlicher Mitarbeiter am Lehrstuhl für Systematische Theologie und Ethik von Prof. Dr. Reiner Anselm (LMU München). Zugleich ist er Mitarbeiter am Zentrum für Technik-Theologie-Naturwissenschaften (TTN). Dort betreut er die ethische Begleitforschung des Diagnostikprojekts Bavarian Genomes. Seine Forschungsschwerpunkte bilden die Technik- und Medizinethik. Die Dissertation wurde mit dem Wissenschaftspreis 2023 der Hanns-Lilje-Stiftung ausgezeichnet

Verquickung der mathematischen und informatischen Forschung an zivilen deutschen Hochschulen mit der modernen Kriegsführung

Central aspects of modern warfare such as drone attacks, guided missiles, cyber attacks or the use of reconnaissance satellites would not be possible without contemporary mathematical and computer science research. This dissertation will revolve about the following questions: What impact does the connection between military application and civil research have on mathematics and computer science? What impact does the research have on society? And what ethical and societal questions arise from that

Die Teilung geistiger Arbeit per Computer: Eine Kritik der digitalen Transformation

Der Band untersucht den Prozess der Digitalisierung im Hinblick auf seine gesellschaftliche Bedeutung für die Menschen von seiner technischen Basis aus. Dies geschieht in Anlehnung an die Mediatisierungsforschung in drei Schritten: In einer historischen Perspektive wird herausgearbeitet, wie die Idee des Computers im 19. Jahrhundert entsteht und für welche Zwecke der Apparat erfunden wird, nämlich von Charles Babbage als ein Instrument zur Teilung geistiger Arbeit des Menschen mit der Maschine. Weiter wird umrissen, wie die ersten tatsächlich gebauten Computer ab den 1940er Jahren entstehen und sich entwickeln, darüber der Prozess der Digitalisierung als der heutige Mediatisierungsschub in Gang kommt und wie sich sein gewaltiges Potenzial in Alltag, Kultur und Gesellschaft entfaltet. In einer gesellschaftlichen und kulturellen Perspektive geht es dann darum, wie der Computer als Basis der Digitalisierung in die Gesellschaft funktional eingebettet wird und was der symbolische Apparat Computer für den Menschen, verstanden als 'Animal Symbolicum' (Cassirer) leisten kann. Die Menschen transformieren den Apparat in ein Medium und verwenden ihn primär für Kommunikation und Information. Die Ökonomie ihrerseits kontrolliert die Technik, die Programmierung, die Vernetzung und die Daten - und damit auch die Verwendung sowie die weitere technische Entwicklung der Menschheit. Die Ambivalenz dieses Wandels - einerseits ein gigantisches Potenzial, andererseits eine Bedrohung für Selbstbestimmung, Demokratie und Menschenrechte - wird so deutlich. Diese Ambivalenz knüpft daran an, dass der Computer als Instrument einer Teilung geistiger Arbeit verwendet werden kann, ganz analog wie die Maschinen im 18. und 19. Jahrhundert erst auf der Teilung produktiver körperlicher Arbeit entwickelt wurden, dann aber in den Kapitalismus von heute führten. In einer technischen Perspektive wird vor diesem Hintergrund der Computer dann in seiner technischen und operativen Struktur analysiert und von daher auf sein Potenzial geschlossen. Im Unterschied zum Menschen beherrscht der Computer ca. zwei Dutzend Basisbefehle, und jedes Computerprogramm ruft komplexe Kombinationen davon auf. Dabei transformieren die Planer*innen und Programmierer*innen ihre Intelligenz in den Computer. Die Vermenschlichung des Computers bleibt Ideologie. Die Datenuniversen, die entstehen, beschränken sich auf behavioristische Verhaltensdaten und deren Verwertung. Was heute unter KI firmiert, sind automatisierte, meist mittels wahrscheinlichkeitstheoretisch basierter Optimierung arbeitende Programme auf Basis gigantischer Datenvorräte, die komplexe Möglichkeiten berücksichtigen, aber trotzdem immer nur abarbeiten, was ihnen vorgegeben wird. In einem abschließenden Kapitel werden drei Richtungen skizziert, wohin sich digital mediatisierte Gesellschaften auf dieser Basis entwickeln können - es liegt an uns allen, wohin die Reise langfristig gehen wird

Künstliche Intelligenz und Gesundheit

Der Einsatz von künstlicher Intelligenz im Gesundheitsbereich verspricht besonders großen Nutzen durch eine bessere Versorgung sowie effizientere Abläufe und bietet damit letztlich auch ökonomische Vorteile. Dem stehen unter anderem Befürchtungen entgegen, dass sich durch den Einsatz von künstlicher Intelligenz das Arzt-Patienten-Verhältnis verändern könnte, Arbeitsplätze gefährdet seien oder die Ökonomisierung des Gesundheitswesens einen weiteren Schub erfahren könnte. Zuweilen wird die Debatte um diese Technologie, zumal in der Öffentlichkeit, emotional und fern sachlicher Argumente geführt. Die Autorinnen und Autoren untersuchen die Geschichte des KI-Einsatzes in der Medizin, deren öffentliche Wahrnehmung, Governance der KI, die Möglichkeiten und Grenzen der Technik sowie Einsatzgebiete, die bisher noch nicht oder nur wenig im Fokus der Aufmerksamkeit waren. Dabei erweist sich die KI als leistungsfähiges Werkzeug, das zahlreiche ethische und soziale Fragen aufwirft, die bei der Einführung anderer Technologien bereits gestellt wurden; allerdings gibt es auch neue Herausforderungen, denen sich Professionen, Politik und Gesellschaft stellen müssen

Organismus und Technik

Through the technologies of the 20./21. century the living organism became a “tool”. Organic-physical demarcations are undermined, so that organism and technology no longer oppose each other, but merge with each other. The anthology presents different philosophical approaches to this problem relationship

Organismus und Technik : Anthologie zu einem produktiven und problematischen Wechselverhältnis

Durch die Technologien des 20. und 21. Jahrhunderts wurde der lebendige Organismus zum „Werkzeug“. Damit stehen Organismus und Technik sich nicht mehr gegenüber, sondern verschmelzen miteinander. Mit Blick auf dieses gesellschaftlich relevante Phänomen stellt die Anthologie unterschiedliche philosophische Ansätze vor. Einschlägige Texte von Immanuel Kant bis zur KI-Forschung wurden hierfür didaktisch aufbereitet und kommentiert

Entwurf und Realisierung eines mobilen autonomen Systems variabler Intelligenz (MauSI)

Abstract Mobile autonomous robot systems are frequently subject of scientific investigations. Depending on the problem's aim the examined robots are made purely commercially, i.e. Khepera-Robot, or they are designed especially for the planned experiments. Resulting disadvantages are often either a bad adaption of commercial systems to the necessary experiment or the high costs of an own development. Especially the modification of customary systems causes big problems because of unknown hard- or software interfaces. The robot system "MauSI" has been designed to solve this dilemma. As an as cheap as possible experimental platform this system unites an open software architecture with a broad range of sensors and communication interfaces, like i.e. accelaration or picture sensor and wireless radio communication. On this basis formations of these robots can be controlled by a central steering (global intelligence). The robots' equipment with a powerful CPU allows among the necessary steering or control algorithms for sensors and actors the implementation of a local intelligence in the robot itself. This intelligence makes the robot system act partly autonomously, that means limited in time and/or way in a model environment that is as close to reality as possible. The degree of partly autonomy depends on the concrete environmental conditions. Next to the usage of simple infrared-based distance sensors the use of picture sensors (CMOS-camera) allows an increasing of the partly autonomy. Picture processing enables the robot to detect simple geometrical bodies and to pursue an aim in formation drive. The strategies of local partly autonomy are completed by coupling the local intelligencewith the global one depending on requirements. Unexpected deciding problems lead to a mission stop (giving up the local autonomy) and a new valuation of the situation by global intelligence.Mobile autonome Robotersysteme sind vielfach Gegenstand wissenschaftlicher Untersuchungen. Je nach dem Ziel der Aufgabenstellung stammen die untersuchten Roboter aus kommerzieller Fertigung, z.B. Khepera-Roboter, oder sind speziell für die geplanten Experimente konzipiert. Damit einhergehende Nachteile sind oft entweder eine schlechte Adaption kommerzieller Systeme an die notwendigen Experimente, bzw. die hohen Kosten einer Eigenentwicklung. Insbesondere die Modifikation handelsüblicher Systeme stößt wegen unbekannter Hard- oder Softwareschnittstellen auf große Probleme. Zur Lösung dieses Dilemmas wird das Robotersystem "MauSI" konzipiert. Als möglichst preiswerte Experimentalplattform vereint dieses System eine offene Software-Architektur mit einer breiten Auswahl von Sensoren und Kommunikationsschnittstellen, wie z.B. Beschleunigungs- bzw. Bildsensor und drahtlose Funkkommunikation. Auf dieser Basis können Formationen dieser Roboter von einer zentralen Steuerung (Globale Intelligenz) kontrolliert werden. Die Ausstattung der Roboter mit einer leistungsfähigen CPU gestattet neben den notwendigen Steuer- bzw. Regelalgorithmen für Sensoren und Aktoren, die Implementierung einer Lokalen Intelligenz im Roboter. Diese Intelligenz befähigt das Robotersystem teilautonom, d.h. zeit- und/oder wegbegrenzt in möglichst realitätsnahen Modellumgebungen, zu agieren. Das Maß der Teilautonomie hängt von den konkreten Umgebungsbedingungen ab. Neben der Nutzung einfacher infrarot-basierter Distanzsensoren, ermöglicht der Einsatz von Bildsensoren (CMOS-Kamera) eine Steigerung der Teilautonomie. Einfache Bildverarbeitung befähigt die Roboter zur Objektdetektion simpler geometrischer Körper und Zielverfolgung in Formationsfahrt. Die Strategien zur lokalen Teilautonomie werden ergänzt durch eine bedarfsabhängige Kopplung der Lokalen mit der Globalen Intelligenz, unerwartete Entscheidungsprobleme führen zum Missionsabbruch (Aufgabe der Teilautonomie) und neuen Situationsbewertung durch die Globale Intelligenz

Technology Roadmapping in der Halbleiterindustrie: das Hier und Jetzt technologischer Zukünfte am Beispiel der International Technology Roadmap for Semiconductors

Die Entwicklung komplexer Technologien ist heutzutage funktional wie auch finanziell äußerst anspruchsvoll. Diese hohen Ansprüche führen dazu, dass die Technologieentwicklung für die beteiligten Unternehmungen schwer vorherzusagen und dadurch mit hohem Risiko verbunden ist. Zudem vollziehen sich die technologischen Entwicklungsdynamiken zunehmend in global verteilten und heterogenen Zusammenhängen. Nicht zuletzt um diesen Risiken und Unsicherheiten im Prozess der Entwicklung komplexer Technologien Herr zu werden, nutzen Unternehmungen ebenso wie Forschungseinrichtungen heute oft Technology Roadmaps als Planungsinstrument. Wie dieses Instrument praktisch genutzt wird ist dagegen weniger bekannt. Untersucht werden soll daher, (1) wie diese heute weit verbreitete Form der Vorhersage – das so genannte Technology Roadmapping (TRM) – in der global vernetzen Technologieentwicklung der Halbleiterindustrie praktiziert wird und (2) wie sich die Art und Weise einer solchen antizipativen Technikbewertung auf die Ausgestaltung technischer Innovationen speziell in der Fertigungstechnologie für Computerchips auswirkt. Methoden des antizipativen Technologiemanagements sind in wirtschaftlichen Unternehmen nicht Neues. Ebenso gehört es in der Politik seit Jahrzehnten zum Guten Ton, Technikfolgenabschätzung zu betreiben. die Methode des Mapping führt zur konzeptionellen Darstellung von Alternativen im antizipativen Planungsprozess, um unter anderem eine überraschungsarme, chronologische Anordnung praktikabler Optionen für ein bestimmtes Feld sowie die Reihenfolge der erforderlichen wissenschaftlichen Entdeckungen und technischen Entwicklungen für jede Alternative zu erzielen. Dies sind auch heute noch zentrale Punkte technologischer Roadmaps. Im Folgenden wird die International Technology Roadmap for Semiconductors (ITRS) als Bespiel für antizipatives Technologiemanagement und strategische Technologieentwicklung vorgestellt. Illustriert wird die wechselseitige Konstitution von kollektiven Prognosen auf der einen Seite und gegenwärtigen Forschungs- und Entwicklungsaktivitäten auf der anderen Seite. Verdeutlicht werden dabei auch die möglichen unerwünschten Konsequenzen dieses absichtvollen Handelns und die damit verbundenen Rückwirkungen auf die Prognose und Prognosewahrnehmung. Im zweiten Kapitel werden die Geschichte, die heutige Organisationsform und der Aufbau der ITRS nachgezeichnet. Danach wird im dritten Kapitel anhand der Einführung einer neuen Technologiegeneration die Verbindlichkeit und Orientierungsfunktion der ITRS herausgestellt und der rekursive Zusammenhang zwischen Vorhersage, Verbindlichkeit und gegenwärtiger F und E-Koordination hergestellt. Das dritte Kapitel schließt mit einer Übersicht, die die ITRS in den Gesamtkontext der globalen Aktivitäten in der Halbleiterindustrie einbettet. Es folgt ein Resümee, in dem der Bezug zur Analyse technologischer Innovationen hergestellt wird. (TA

Technikzukünfte als Medium von Zukunftsdebatten und Technikgestaltung

Technikzukünfte - der Plural ist Programm! - stellen wesentliche und häufig kontroverse Themen gesellschaftlicher Zukunftsdebatten dar. Dieses Buch widmet sich der Frage, in welcher Weise technikbezogene Zukunftsvorstellungen unsere gegenwärtigen Diskussionen und Entscheidungen prägen und wie sie für die weitere Ausgestaltung des wissenschaftlich-technischen Fortschritts genutzt werden können. Beispielfelder sind Synthetische Biologie, das "Human Enhancement", Nanotechnologie und Energie