The use of deep fakes for political purposes – from systemic risks to systemic rivalry

Abstract

Die Synopse enthält sechs Artikel, die in renommierten Fachzeitschriften veröffentlicht wurden. Diese Artikel bieten eine umfassende Analyse der Risiken und Herausforderungen, die mit der Verbreitung von Deepfakes verbunden sind. Zu den Zielen gehört die Analyse der Regulierungsansätze der EU im Umgang mit Deepfakes sowie deren Einfluss auf die internationale Ordnung und die demokratische Debatte, was mit der Möglichkeit des „Brüssel-Effekts“ und der Gestaltung internationaler Beziehungen durch normativen Einfluss verbunden ist. Die Dissertation befasst sich mit der politischen Nutzung von Deepfakes und untersucht, wie diese Technologie systemische Risiken und Rivalität in der internationalen Politik beeinflusst. Deepfakes, die seit 2017 zunehmend verbreitet sind, stellen eine große Herausforderung für demokratische Systeme dar, weil sie Manipulationen ermöglichen, die das Vertrauen in öffentliche Informationen und Medien untergraben, zur Diskreditierung einzelner Personen führen, und mehrstufige Manipulationen in unterschiedlichen Bereichen des gesellschaftlichen Lebens ermöglichen. Die Synopse analysiert die tiefgreifenden Auswirkungen von Deepfakes auf politische Prozesse, insbesondere in Wahlkämpfen, und untersucht deren potenziell destabilisierende Effekte auf die Demokratie. Gleichzeitig schlägt sie einen wichtigen Wandel im Denken über die politischen Konsequenzen des Missbrauchs von Deepfakes vor und zeigt eine breite interdisziplinare Perspektive auf die wachsenden Gruppen schädlicher Nutzungen. Ein zentrales Thema der Dissertation ist die europäische Antwort auf die Herausforderungen durch Deepfakes, insbesondere im Rahmen des KI-Gesetzes der Europäischen Union (AI Act). Die Arbeit betont, dass eine stärkere regulatorische Kontrolle notwendig ist, um die negativen Effekte dieser Technologie zu mildern und gleichzeitig demokratische Grundwerte zu schützen. Die Analyse der axiologischen Grundlagen des KI-Gesetzes ermöglicht es, einen teleologischen Interpretationsrahmen zu entwickeln und das Wissen über die Auswirkungen von Deepfakes deutlich zu erweitern. Dies ermöglicht es auch, die Bemühungen der EU mit dem Handeln anderer Akteure in den internationalen Beziehungen zu vergleichen, insbesondere im Kontext des systemischen Wettbewerbs zwischen den USA und China und den konfrontierenden Visionen einer globalen KI-Governance, die aus demokratischen und autoritären Werten resultieren. Diese Überlegungen sind in der Theorie des Konstruktivismus verankert und mit dem Konzept des „Brüssel-Effekts“ verbunden. Die Arbeit ist hochaktuell und bezieht sich auf Probleme, die in der Fachliteratur bisher nicht beschrieben wurden. Darüber hinaus ermöglicht die Doktorarbeit die Analyse des Konzepts der Deepfakes Political Advertising in den Kontext der deliberativen Demokratie. Aufgrund ihrer erheblichen politischen und gesellschaftlichen Relevanz können die Synopsis und einzelne Artikel als Grundlage für weitere Forschungen und als wichtiger Bezugspunkt für die Analyse der mit der Verbreitung von Deepfakes verbundenen Risiken dienen.:List of abbreviations 3 Deutsche Zusammenfassung 4 1. Introduction 5 2. Framework of the PhD thesis 8 3. Methodology of the PhD thesis 9 3.1. Research questions 9 3.2. Key terms and their sources 10 3.3. Methodological framework 10 3.4. Embedding in theories of political science 11 3.5. Potential limitations 12 4. Objectives of the PhD thesis 13 5. Literature review 14 5.1. Political and social science 15 5.2. Technology 19 5.3. Law 20 6. Discussion and findings 21 6.1. History of deep fakes and the path to the AI Act 23 6.2. Defining deep fakes 25 6.3. AI Act and transparency obligations 29 6.4. Deep fakes as a tool of manipulation 33 6.5. Criticism of the theory of “epistemic apocalypse” 36 6.6. Influence on democratic elections – discussion 37 6.7. “Overblown fears” – discussion 41 6.8. Introducing deep fakes political advertising 44 6.9. Influence on democratic deliberation – discussion 47 6.10. Trustworthy AI – the reasons for regulating deep fakes in the AI Act 50 6.11. Deep fakes and their systemic harmfulness 54 6.12. Confronting vision – China’s opportunistic approach to deep fakes 59 6.13. Global technological rivalry – systemic clash of values? 61 6.14. Brussels effect as a response to systemic challenges 67 6.15. Regulating deep fakes in the AI Act – a model to be repaired 69 7. Academic and political impact of the PhD thesis 72 8. Potential for further research 76 9. Conclusion 77 10. Main articles of the PhD thesis 80 11. Bibliography 8