Venturing Into Uncharted Territory – Exploring the Psychological Implications of AI-Driven Automation for Employees

Künstliche Intelligenz (KI) wird immer leistungsfähiger und KI-basierte Systeme werden zunehmend zur Automatisierung einer steigenden Anzahl von Arbeitstätigkeiten eingesetzt. Kurz- bis mittelfristig führt dies zu Veränderungen von Jobs. Langfristig könnte dies zu strukturellen Arbeitsmarktveränderungen führen, die gesellschaftliche Anpassungen einschließlich der Transformation des bestehenden Wohlfahrtssystems erfordern würden. Beides birgt Potenzial für tiefgreifende psychologische Implikationen für Beschäftigte. Psychologische Forschung, die sich mit den Auswirkungen KI-bedingter Automation befasst, ist jedoch rar. Ziel der Dissertation war es daher, zu einer psychologischen Perspektive auf das Thema beizutragen und die psychologischen Implikationen KI-bedingter Automation für Beschäftigte zu untersuchen. Die Dissertation umfasst drei Projekte. Der Fokus in Projekt 1 und 2 lag auf den kurz- bis mittelfristigen Auswirkungen KI-bedingter Automation. In Projekt 1 wurden fünf Interviewstudien mit Expert*innen und Beschäftigten aus dem Gesundheits- und Finanzdienstleistungssektor (N=91) durchgeführt, um Anwendungsfelder von KI-bedingter Automation, damit verbundene Chancen und Risiken sowie Auswirkungen auf die Tätigkeiten sowie das Erleben und Verhalten von Beschäftigten zu untersuchen. In Projekt 2 wurde ein Fragebogen entwickelt, um die Relevanz ausgewählter psychologischer Konstrukte im Kontext KI-bedingte Automation zu untersuchen. Die Fragebogenentwicklung war in drei Phasen unterteilt und beinhaltete zwei Vorstudien (N=1293). Der Fokus von Projekt 3 lag auf den langfristigen Auswirkungen KI-bedingter Automation und untersuchte das bedingungslose Grundeinkommen (BGE), eine mögliche und grundlegende Veränderung in der Organisation unseres Wohlfahrtssystems. Auf Basis einer repräsentativen Stichprobe der deutschen Erwerbsbevölkerung (N=1986) wurden sozio-demografische und psychologische Prädiktoren für die Akzeptanz eines BGE untersucht.The capabilities of artificial intelligence (AI) are expanding rapidly, and AI-based systems are increasingly used to automate a growing number of job tasks. In the short- to medium-term, jobs are changing as a result. In the long term, this development may also lead to structural changes in the labor market, requiring societal adaptation including the transformation of the existing welfare system. Both carry great potential for far-reaching psychological implications for employees. However, psychological research dedicated to the impact of AI-driven automation is scarce. Therefore, the aim of this dissertation was to contribute to a psychological perspective on the topic and investigate the psychological implications of AI-driven automation for employees. The dissertation comprises three projects. Projects 1 and 2 focused on the short- to medium-term impact of AI-driven automation, exploring how jobs are changing and the related psychological implications for employees. In Project 1, five interview studies with experts and employees from the healthcare and financial services sectors (N=91) were conducted to explore application fields of AI-driven automation, associated opportunities and threats, its impact on employees’ job tasks, and employees’ experience and behavior in response to these changes. In Project 2, a questionnaire was developed to investigate the relevance of selected psychological concepts in the context of AI-driven automation. The questionnaire development was divided into three phases and included two preliminary studies (N=1,293). Project 3 focused on the long-term impact of AI-driven automation, investigating a universal basic income (UBI), one possible and fundamental shift in the organization of our welfare system. Using a representative sample of the German working population (N=1,986), socio-demographic and psychological predictors of UBI acceptance were investigated

Die gerechte KI : Warum KI die Welt verändern, aber nicht alle unsere Probleme lösen kann

Wer bewertet eigentlich den Einsatz von KI? Wie ist die Rolle der Sozialwissenschaften in der Diskussion von KI? Was bringt der sozialwissenschaftliche Blick auf die spezifischen Probleme innerhalb einer Gesellschaft, wenn KI zum Einsatz kommt? Zwei Sozialwissenschaftlerinnen wenden sich dem Potenzial und den Risiken von KI zu sowie der Frage nach einer gerechten KI

Künstliche Intelligenz und Distributed-Ledger-Technologie in der öffentlichen Verwaltung : Ein Überblick von Chancen und Risiken einschließlich der Darstellung international einschlägiger Praxisbeispiele : Endbericht zum TA-Projekt »Chancen der digitalen Verwaltung«

Die Analysen zum Status quo der Nutzung von KI und DLT im In- und Ausland zeigen, dass beide Technologiefelder in immer mehr Anwendungsfeldern auf allen Ebenen der öffentlichen Verwaltung zum Einsatz kommen. So finden sich KI-Anwendungen in der öffentlichen Verwaltung in Deutschland sowohl auf Bundes- und Landes- als auch auf kommunaler Ebene. Es zeigt sich dennoch, dass die Anzahl der pilotierten bzw. implementierten KI-Anwendungen in der öffentlichen Verwaltung im Vergleich zur privaten Wirtschaft noch gering, die Nutzung von KI nach wie vor eher Nischenthema ist. Mögliche Ursachen hierfür sind mangelndes Know-how, aber auch Widerstände aufgrund von etwaigen Arbeitsplatzveränderungen und Verantwortlichkeitsproblemen bei KI-basierten Entscheidungen sowie (datenschutz)rechtliche Hindernisse. Von den in der öffentlichen Verwaltung in Deutschland identifizierten DLT-Projekten befinden sich viele erst in der Planungsphase oder als Pilotprojekt im Teststadium. Die Behördenleiterbefragung zeigt hier, dass das Wissen und die Kompetenzen rund um DLT in der öffentlichen Verwaltung in Deutschland bislang wenig entwickelt ist. Im internationalen Vergleich zur Nutzung von KI und DLT in der öffentlichen Verwaltung zeigt sich, dass in vielen Ländern etliche Digitalisierungsprojekte bereits in den Regelbetrieb der Verwaltungen überführt wurden. Eingeführt wurden neben Einzelanwendungen, wie die automatisierte Verkehrssteuerung oder Verifikation von Dokumenten und Zeugnissen, auch umfassende digitale Infrastrukturen als Grundlage für verschiedene Verwaltungsdienstleistungen (Anmeldung eines Wohnsitzes, Beantragung von Unterstützungsleistungen wie Kindergeld). Mit dem Fortschreiten der Technologien sowie der Entwicklung, Pilotierung und Übernahme von KI- und DLT-Anwendungen in den Regelbetrieb stellen sich für die öffentliche Verwaltung in Deutschland neben den Chancen zur Erschließung der Anwendungs- und Innovationspotenziale gleichzeitig neue Herausforderungen bei der Nutzung. Herausforderungen für KI-Anwendungen in der öffentlichen Verwaltung betreffen unter anderem die Qualität des jeweils zugrundeliegende KI-Modells als auch eine Verfügbarkeit und Güte der Datenbasis. So kann ein mangelndes Verständnis über zugrundeliegende Modelle und Verfahren zu Missinterpretationen der Ergebnisse im Rahmen des Verwaltungshandelns führen oder dazu, dass die Ergebnisse von KI-Anwendungen nicht kritisch hinterfragt werden. Im Zusammenhang mit der Güte der Datenbasis besteht die Gefahr, dass innerhalb von KI-basierten Klassifizierungs-, Prognose- oder Empfehlungsentscheidungen etwaige strukturelle Verzerrungen (Bias) in der zugrundeliegenden Datenbasis fortgeschrieben werden. Zudem zählen Fachwissen als auch implizites Erfahrungswissen bei der Erschließung von Innovationspotenzialen der KI zu den Bereichen, die bislang nur schwer in der öffentlichen Verwaltung selbst aufgebaut werden konnten eine Voraussetzung für KI-Anwendungen im Regelbetrieb darstellen. Für die Einführung von DLT-Anwendungen in die öffentliche Verwaltung herausfordernd sind unter anderem die Komplexität der Technologie, steigende und verteilte Datenmengen und damit auch steigende Anforderungen an die Aufbewahrung der Daten. Auch müssen die DLT-Anwendungen in bestehende Verwaltungsprozesse und IT-Systeme integriert werden, ein Umstand, den es bei der Entwicklung und Implementierung von jeweils verfahrensbezogenen Sicherheitskonzepten der DLT-Anwendungen zu berücksichtigen gilt. Aufbau und Betrieb von DLT-Anwendungen erfordern zudem erfahrene Fachkräfte aus den Datenwissenschaften, der Kryptologie und Informatik. Zudem ergibt sich für DLT-Anwendungen die Notwendigkeit, technischen Konfigurationen jeweils in Hinblick auf ihre Energieaufwände zu prüfen und hinsichtlich des Energie- und Ressourcenverbrauchs zu bewerten. Aus den Ergebnissen abgeleitete Handlungsfelder ergeben sich primär in den Bereichen der Steuerung und Koordination von Digitalisierungsvorhaben, der Kompetenzentwicklung und des Wissensmanagements in öffentlichen Verwaltungen sowie in den Bereichen der Anpassung regulatorischer Rahmenbedingungen und Gestaltung von behördenübergreifenden Anwendungen

Künstliche Intelligenz und Distributed-Ledger-Technologien in der öffentlichen Verwaltung. TAB-Fokus

Die Digitalisierung der öffentlichen Verwaltung ist mit hohen Erwartungen verbunden. Dies trifft auch auf die Innovations- und Technologiefelder der künstlichen Intelligenz (KI) und Distributed-Ledger-Technologie (DLT) zu. Die Aufgabenbereiche für KI-Anwendungen in der öffentlichen Verwaltung sind vielfältig, die Nutzung der Möglichkeiten bislang gering. DLT-Anwendungen eignen sich im Zusammenhang mit öffentlichem Verwaltungshandeln besonders für das Management von Transaktions- und Prozessdaten, wie sie etwa in der Registerverwaltung anfallen. Internationale Praxisbeispiele zeigen, dass KI- und DLT-Projekte in den Regelbetrieb öffentlicher Verwaltungen überführt wurden. Die Projekte umfassen sowohl Einzelanwendungen, wie eine automatische Verkehrssteuerung, als auch die Einführung komplexer digitaler Infrastrukturen als Basis für Verwaltungsdienstleistungen. Die Einführung und die Nutzung von KI und DLT in der öffentlichen Verwaltung sind kein rein technisches Thema. Etablierte Prozesse und die Service- und Organisationskultur der öffentlichen Verwaltung müssen angepasst, spezifisches Wissen aufgebaut und vernetzt werden. Die ressortübergreifenden digitalen Herausforderungen erfordern eine Klärung und Vereinfachung der Zuständigkeit für den gezielten Ausbau von Technologiestrategien mit Fokus auf KI und DLT

Künstliche Intelligenz in der Wirtschaftswissenschaft : Zur Integration in Lehre und Forschung

Studierende, die neben ihrem ökonomischen Theoriewissen auch programmieren können und in der Lage sind, vielfältige effiziente KI und Machine Learning-Tools und -Methoden zu beherrschen, sind am Arbeitsmarkt sehr gefragt. Wissenschaftler*innen der Wirtschaftswissenschaftlichen Fakultät geben einen Überblick über den Einsatz von KI in der wirtschaftswissenschaftlichen Lehre und Forschung

Künstliche Intelligenz und Gesundheit

Der Einsatz von künstlicher Intelligenz im Gesundheitsbereich verspricht besonders großen Nutzen durch eine bessere Versorgung sowie effizientere Abläufe und bietet damit letztlich auch ökonomische Vorteile. Dem stehen unter anderem Befürchtungen entgegen, dass sich durch den Einsatz von künstlicher Intelligenz das Arzt-Patienten-Verhältnis verändern könnte, Arbeitsplätze gefährdet seien oder die Ökonomisierung des Gesundheitswesens einen weiteren Schub erfahren könnte. Zuweilen wird die Debatte um diese Technologie, zumal in der Öffentlichkeit, emotional und fern sachlicher Argumente geführt. Die Autorinnen und Autoren untersuchen die Geschichte des KI-Einsatzes in der Medizin, deren öffentliche Wahrnehmung, Governance der KI, die Möglichkeiten und Grenzen der Technik sowie Einsatzgebiete, die bisher noch nicht oder nur wenig im Fokus der Aufmerksamkeit waren. Dabei erweist sich die KI als leistungsfähiges Werkzeug, das zahlreiche ethische und soziale Fragen aufwirft, die bei der Einführung anderer Technologien bereits gestellt wurden; allerdings gibt es auch neue Herausforderungen, denen sich Professionen, Politik und Gesellschaft stellen müssen

Chancen und Risiken der systemischen Kontingenz Künstlicher Intelligenz in einer postindustriellen Weltgesellschaft

Die Thematik der Künstlichen Intelligenz (fortan KI) ist virulent. Sie erstreckt sich von der akademischen Fachdiskussion der Informatiker und Physiker, über eine breite philosophische Diskussion - weiter über Beiträge von Spezialisten aus Disziplinen der Psychologie, der Neurophysiologie und Neurobiologie und auch der Physik - doch dabei insbesondere in Beiträge der Quantenmechanik - bis hinein in die Domäne von Soziologie und Politik. Diese Dissertation möchte keinen dieser Bereiche isolieren, daher sollen möglichst viele auch divergierende Argumente der verschiedenen Fachdiskussionen nebeneinander gestellt und abgewogen werden. Der interdisziplinäre Ansatz soll dabei einerseits die erstaunliche Komplexität der Thematik reduzieren helfen, durch Aufzeigung von Konvergenzen und Isomorphien der Argumentationsfiguren, andererseits soll er die Perspektive öffnen, für eine neue hier zu erarbeitende Einordnung der KI in das politische Zeitgeschehen. Die Perspektive auf die transformative Kraft, die neue Technologien auf Gesellschaften ausüben, wird dabei eine bedeutende Rolle spielen. Technische Entwicklung kann der hier vorgestellten Argumentation zu Folge, als eine spezielle Form von Evolution begriffen werden, die der organischen Evolution im Sinne Darwins Argumentation nahe steht. Nicht zuletzt wegen der Nähe zu biologischen Sinnzusammenhängen, ist es z.B. in den Neurowissenschaften üblich geworden, sich Analogien aus der Technologie, insbes. der Informatik bezüglich Hardware als auch Software zu bedienen, um die Funktionsweise von Prozessen des Gehirns zu veranschaulichen. Aus vielen dieser Analogien sind inzwischen leichtfertig Identitätsbehauptungen entwickelt worden, die in diversen kritisch zu betrachtenden Reduktionismen münden. Zu ausgesuchten Positionen dieser Kategorie, die heute besonders in Kreisen der Denker der KI weite Verbreitung finden, soll eine differenzierte Untersuchung stattfinden. Welches wissenschaftliche Selbstverständnis des Menschen lässt sich konstatieren, wenn er metaphorisch und allegorisch zu semantischen wie zu technischen Werkzeugen greift, um mittels daraus abgeleiteter sprachlicher, logischer und auch technischer Konstruktionen seinen Standpunkt in der Welt zu präzisieren? Die Arbeit wird daher über weite Strecken einen grundsätzlich philosophischen Anspruch verfolgen, wobei die Argumentation sich vorwiegend im Areal der Interdependenz von Natur- und Geisteswissenschaften fokussieren wird. Das Oberthema Technik, wird den Einklang bilden, um das Spezialgebiet der KI zu eröffnen. Zunächst sollen die Bedingungen der Möglichkeit von KI auf technischer Ebene erörtert werden. Dazu werden Betrachtungen Neuronaler Netze und von Supercomputern, sowie der zugehörigen Software durchgeführt. Die Entwicklung auf diesem Gebiet wird dargestellt in ihrer Historie, ihrem Status Quo und ihrem Potential für die kommenden 10 bis 15 Jahre der Forschung. Im nächsten Hauptsegment Physik, wird der Begriff der „Information“ selbst mathematisch theoretisch und physikalisch praktisch erörtert und anschließend das Thema „physikalische Grundlagen der KI“ vertieft. Hier kommen wir explizit auf Quantenphysik zu sprechen, die wie wir herausarbeiten werden, das Fundament für die Informatik der kommenden Dekade liefern könnte. Wir stellen Überlegungen und Untersuchungen an, über grundlegende Begrifflichkeiten wie Energie und Entropie, über basale Konstanten und Naturgesetze, sowie den sich daraus ergebenden Raum der Realisierungsmöglichkeiten von Technologie in ihren theoretisch mathematisch maximalen Effizienzgraden. Ein Vergleich solcher Rechenbeispiele aus Natur und Technologie wird interessante neue Einblicke und Perspektiven ermöglichen. Der Anspruch der Interdisziplinarität dieser Arbeit, wird durch die Gliederung und Strukturierung der Abfolge der Argumentationsräume nochmals verdeutlicht: Nach 1.) Einleitung, 2.) Informatik 3.) Physik folgt dann 4.) der Politik Schlussteil. Hier soll dann folgende Fragestellung zum Thema KI die Überlegungen thematisch leiten: Gegeben den Fall, es gelingt in den folgenden ca. zwei Dekaden den Menschen technisch perfekt zu simulieren – worin liegt dann noch der genuin ontologische Kern des „Mensch-seins“ - und welches Bild der Gesellschaft zeichnet sich ab, mit einer solchen paradigmatischen Wende hin zu einer Technologie, die sich heute noch im Spannungsfeld zwischen Utopie und Realität befindet? Ließe sich einer absolut perfekten Simulation bzw. Emulation eines menschlichen Gehirns - wir sprechen von Präzision der letzten denkbaren theoretischen Ebene: Identikalität Molekül für Molekül, Atom für Atom und Quant für Quant - ein Bewusstsein noch absprechen? Hat die Quantenphysik oder sogar das sog. „no cloning“ Theorem hier Relevanz und Aussagekraft? – inwiefern betritt die KI spätestens ab diesem Schritt ethisch brisantes Gebiet? Fragen wie diese sollen im Verlauf der Kapitel sukzessive erörtert werden. Fragen die permanent dienen werden, den Zusammenhang der interdisziplinären Ansätze zu vereinen, sind dabei solche: Welchen Einfluss hat technologische Entwicklung auf Prozesse der Entscheidungsfindung der aktuellen Politik? Wie verhalten sich dabei ökonomische und soziologische Ziele zueinander? Welche soziokulturellen Konsequenzen ergaben und ergeben sich aus der heute etablierten Informations- & Kommunikationstechnologie (IuK) und welche Konsequenzen sind zu erwarten, wenn das Thema KI explizit auf die Agenda der Tagespolitik tritt? Die Kernfrage, die Thema und These dieser Arbeit inspiriert und die sich daher als roter Faden durch die gesamte Arbeit zieht und immer wieder aufs Neue mit verschiedenen Argumenten beleuchtet wird, ist dabei in einer ersten sondierenden Formulierung etwa diese: „Kann der Mensch, mittels seiner Intelligenz, die Grundlage ebendieser technisch simulieren – rekonstruieren – übertreffen? – wenn ja, welche Konsequenzen hat das für unsere Gesellschaft?

Chancen und Risiken der systemischen Kontingenz Künstlicher Intelligenz in einer postindustriellen Weltgesellschaft

Die Thematik der Künstlichen Intelligenz (fortan KI) ist virulent. Sie erstreckt sich von der akademischen Fachdiskussion der Informatiker und Physiker, über eine breite philosophische Diskussion - weiter über Beiträge von Spezialisten aus Disziplinen der Psychologie, der Neurophysiologie und Neurobiologie und auch der Physik - doch dabei insbesondere in Beiträge der Quantenmechanik - bis hinein in die Domäne von Soziologie und Politik. Diese Dissertation möchte keinen dieser Bereiche isolieren, daher sollen möglichst viele auch divergierende Argumente der verschiedenen Fachdiskussionen nebeneinander gestellt und abgewogen werden. Der interdisziplinäre Ansatz soll dabei einerseits die erstaunliche Komplexität der Thematik reduzieren helfen, durch Aufzeigung von Konvergenzen und Isomorphien der Argumentationsfiguren, andererseits soll er die Perspektive öffnen, für eine neue hier zu erarbeitende Einordnung der KI in das politische Zeitgeschehen. Die Perspektive auf die transformative Kraft, die neue Technologien auf Gesellschaften ausüben, wird dabei eine bedeutende Rolle spielen. Technische Entwicklung kann der hier vorgestellten Argumentation zu Folge, als eine spezielle Form von Evolution begriffen werden, die der organischen Evolution im Sinne Darwins Argumentation nahe steht. Nicht zuletzt wegen der Nähe zu biologischen Sinnzusammenhängen, ist es z.B. in den Neurowissenschaften üblich geworden, sich Analogien aus der Technologie, insbes. der Informatik bezüglich Hardware als auch Software zu bedienen, um die Funktionsweise von Prozessen des Gehirns zu veranschaulichen. Aus vielen dieser Analogien sind inzwischen leichtfertig Identitätsbehauptungen entwickelt worden, die in diversen kritisch zu betrachtenden Reduktionismen münden. Zu ausgesuchten Positionen dieser Kategorie, die heute besonders in Kreisen der Denker der KI weite Verbreitung finden, soll eine differenzierte Untersuchung stattfinden. Welches wissenschaftliche Selbstverständnis des Menschen lässt sich konstatieren, wenn er metaphorisch und allegorisch zu semantischen wie zu technischen Werkzeugen greift, um mittels daraus abgeleiteter sprachlicher, logischer und auch technischer Konstruktionen seinen Standpunkt in der Welt zu präzisieren? Die Arbeit wird daher über weite Strecken einen grundsätzlich philosophischen Anspruch verfolgen, wobei die Argumentation sich vorwiegend im Areal der Interdependenz von Natur- und Geisteswissenschaften fokussieren wird. Das Oberthema Technik, wird den Einklang bilden, um das Spezialgebiet der KI zu eröffnen. Zunächst sollen die Bedingungen der Möglichkeit von KI auf technischer Ebene erörtert werden. Dazu werden Betrachtungen Neuronaler Netze und von Supercomputern, sowie der zugehörigen Software durchgeführt. Die Entwicklung auf diesem Gebiet wird dargestellt in ihrer Historie, ihrem Status Quo und ihrem Potential für die kommenden 10 bis 15 Jahre der Forschung. Im nächsten Hauptsegment Physik, wird der Begriff der „Information“ selbst mathematisch theoretisch und physikalisch praktisch erörtert und anschließend das Thema „physikalische Grundlagen der KI“ vertieft. Hier kommen wir explizit auf Quantenphysik zu sprechen, die wie wir herausarbeiten werden, das Fundament für die Informatik der kommenden Dekade liefern könnte. Wir stellen Überlegungen und Untersuchungen an, über grundlegende Begrifflichkeiten wie Energie und Entropie, über basale Konstanten und Naturgesetze, sowie den sich daraus ergebenden Raum der Realisierungsmöglichkeiten von Technologie in ihren theoretisch mathematisch maximalen Effizienzgraden. Ein Vergleich solcher Rechenbeispiele aus Natur und Technologie wird interessante neue Einblicke und Perspektiven ermöglichen. Der Anspruch der Interdisziplinarität dieser Arbeit, wird durch die Gliederung und Strukturierung der Abfolge der Argumentationsräume nochmals verdeutlicht: Nach 1.) Einleitung, 2.) Informatik 3.) Physik folgt dann 4.) der Politik Schlussteil. Hier soll dann folgende Fragestellung zum Thema KI die Überlegungen thematisch leiten: Gegeben den Fall, es gelingt in den folgenden ca. zwei Dekaden den Menschen technisch perfekt zu simulieren – worin liegt dann noch der genuin ontologische Kern des „Mensch-seins“ - und welches Bild der Gesellschaft zeichnet sich ab, mit einer solchen paradigmatischen Wende hin zu einer Technologie, die sich heute noch im Spannungsfeld zwischen Utopie und Realität befindet? Ließe sich einer absolut perfekten Simulation bzw. Emulation eines menschlichen Gehirns - wir sprechen von Präzision der letzten denkbaren theoretischen Ebene: Identikalität Molekül für Molekül, Atom für Atom und Quant für Quant - ein Bewusstsein noch absprechen? Hat die Quantenphysik oder sogar das sog. „no cloning“ Theorem hier Relevanz und Aussagekraft? – inwiefern betritt die KI spätestens ab diesem Schritt ethisch brisantes Gebiet? Fragen wie diese sollen im Verlauf der Kapitel sukzessive erörtert werden. Fragen die permanent dienen werden, den Zusammenhang der interdisziplinären Ansätze zu vereinen, sind dabei solche: Welchen Einfluss hat technologische Entwicklung auf Prozesse der Entscheidungsfindung der aktuellen Politik? Wie verhalten sich dabei ökonomische und soziologische Ziele zueinander? Welche soziokulturellen Konsequenzen ergaben und ergeben sich aus der heute etablierten Informations- & Kommunikationstechnologie (IuK) und welche Konsequenzen sind zu erwarten, wenn das Thema KI explizit auf die Agenda der Tagespolitik tritt? Die Kernfrage, die Thema und These dieser Arbeit inspiriert und die sich daher als roter Faden durch die gesamte Arbeit zieht und immer wieder aufs Neue mit verschiedenen Argumenten beleuchtet wird, ist dabei in einer ersten sondierenden Formulierung etwa diese: „Kann der Mensch, mittels seiner Intelligenz, die Grundlage ebendieser technisch simulieren – rekonstruieren – übertreffen? – wenn ja, welche Konsequenzen hat das für unsere Gesellschaft?

Künstliche Intelligenz, Demokratie und Privatheit

Dieser Sammelband enthält ausgewählte Beiträge der Jahrestagung des "Forum Privatheit" 2021. Darin werden die aktuelle Herausforderungen analysiert, die durch die Entwicklung der Künstlichen Intelligenz (KI) für Privatheit, informationelle Selbstbestimmung, und Demokratie entstehen und wie diese durch Governancemechanismen adressiert werden können. Die Beiträge fokussieren dabei auf den KI-Einsatz zu Zwecken des Profiling und der Überwachung, auf Fragen der Verbreitung und Entdeckung von Desinformation durch KI sowie die Nutzung von KI im Gesundheits- und Pflegebereich.This volume contains selected papers from the 2021 annual conference affiliated to 'Forum Privatheit', which analyse the current challenges posed by the development of artificial intelligence (AI) to privacy, informational self-determination and democracy, and how they can be addressed through governance mechanisms. The contributions focus on the use of AI for profiling and surveillance purposes, on issues related to the dissemination and detection of disinformation through AI, and on the use of AI in the health and care sectors

"Artificial intelligence" and social sustainability. Ethical principles for AI technologies as solutions that reduce global poverty and inequality?

Mit der Entwicklung von Künstlicher Intelligenz (KI) und dem zunehmend breiteren Zugang für alle sind große Hoffnungen und ebenso große Befürchtungen verbunden - auch im Hinblick auf soziale Chancen. Daher gibt es zahlreiche Konzepte und Empfehlungen zur ethischen Vertretbarkeit beim Einsatz von KI-Systemen, jedoch noch keine konkreten Regelungen zu deren Umsetzung. Der Autor sichtet diese Konzepte und Empfehlungen hinsichtlich ihres Beitrags zur Reduktion von Ungleichheiten und Armut. Er untersucht hierfür KI-Initiativen der Europäischen Union (z.B. die Ethik-Leitlinien für eine vertrauenswürdige KI, das Weißbuch zur Künstlichen Intelligenz oder den Vorschlag für ein KI-Gesetz/AI Act) und globale KI-Initiativen (z.B. die KI-Ethik-Empfehlungen der UNESCO, der OECD und des IEEE - Institute of Electrical and Electronics Engineers) sowie entsprechende Pläne in Brasilien als Vertreter des globalen Südens auf ihre Bezüge zu sozialer Nachhaltigkeit. Sein Fazit: Durch den Einsatz von KI sind Produktivitätsgewinne und Wirtschaftswachstum ebenso möglich wie Arbeitsplatzverluste. Damit KI soziale Nachhaltigkeitsziele erreichen kann, muss sie entsprechend entwickelt, gestaltet und eingesetzt werden. Dazu braucht es Instrumente und deren verbindliche Anwendung beim Einsatz von KI-Systemen. Andernfalls würde KI bestehende Verhältnisse reproduzieren bzw. Missverhältnisse sogar verstärken. (DIPF/Orig.)Great hopes and likewise great fears are associated with the development of artificial intelligence (AI) and increasingly wider ranging access to it for everyone - with regard to social opportunities as well. Hence there are a large number of concepts and recommendations for its ethical justifiability and the use of AI systems yet still no specific regulations regarding their implementation. The author views these concepts and recommendations through the lens of how they contribute to reducing inequalities and poverty. He investigates AI initiatives of the European Union (e.g., Ethics Guidelines for Trustworthy AI, White Paper on Artificial Intelligence or the proposal for an AI act) and global AI initiatives (e.g., the AI ethics recommendations of UNESCO, the OECD and the IEEE/Institute of Electrical and Electronics Engineers) as well as similar plans in Brazil as a representative of the global south for their references to social sustainability. His conclusion: Through the use of AI, productivity gains and economic growth are possible as well as job losses. AI must be developed, designed and used so it can achieve social sustainability goals. This requires tools and their mandatory application with AI systems. Otherwise, AI will reproduce existing conditions or even reinforce disparities. (DIPF/Orig.