Super-Scoring? Datengetriebene Sozialtechnologien als neue Bildungsherausforderung

Beim so genannten "Scoring" wird einer Person mithilfe algorithmischer Verfahren ein Zahlenwert zugeordnet, um ihr Verhalten zu bewerten und zu beeinflussen. "Super-Scoring"-Praktiken gehen noch weiter und führen Punktesysteme und Skalen aus unterschiedlichen Lebensbereichen zusammen, wie etwa Bonität, Gesundheitsverhalten oder Lernleistungen. Diese Verfahren könnten sich zu einem neuen und übergreifenden Governance-Prinzip in der digitalen Gesellschaft entwickeln. Ein besonders prominentes Beispiel ist das Social Credit System in China. Aber auch in westlichen Gesellschaften gewinnen Scoring-Praktiken und digitale Soziometrien an Bedeutung. Dieser Open Access Band stellt aktuelle Beispiele von datengetriebenen sozialen Steuerungsprozessen aus verschiedenen Ländern vor, diskutiert ihre normativen Grundlagen und gesellschaftspolitischen Auswirkungen und gibt erste bildungspolitische Empfehlungen. Wie ist der aktuelle Stand einschlägiger Praktiken in China und in westlichen Gesellschaften? Wie sind die individuellen und sozialen Folgen zu bewerten? Wie wandelt sich das Bild vom Menschen und wie sollte bereits heute die politische und aufklärerische Bildung darauf reagieren

Risks of Discrimination through the Use of Algorithms. A study compiled with a grant from the Federal Anti-Discrimination Agency

Algorithms, including artificial intelligence, are used in a variety of ways to differentiate people, services, products or positions. This study uses examples to illustrate the technical and organisational causes of discrimination risks and analyses the resulting forms of discrimination. Its particular focus is on the social risks from algorithmic differentiation and automated decision-making, including injustice by generalisation, treatment of people as mere objects, restrictions on the free development of personality and informational self-determination, accumulation effects and growing inequality as well as risks to societal goals of equality or social policy. In these cases, there is a need for reforms of the anti-discrimination and data protection law, but also for societal considerations and definitions of which kinds of algorithmic differentiations are considered acceptable in a society in order to protect fundamental rights and values. Last but not least, the study discusses tasks for anti-discrimination agencies and equality bodies, ranging from the identification and proof of algorithm-based discrimination to preventive and cooperative actions

Smart Regulation

Smart Regulation steht für innovative Regulierungsansätze und -formen. Die interdisziplinäre Erforschung von Smart Regulation nimmt sich der Herausforderungen und Chancen der Digitalisierung an, berücksichtigt neue Erkenntnisse zu menschlichem Verhalten und erschließt zukunftsweisende Regulierungstechniken. Der vorliegende Band führt die Beiträge zum gleichnamigen Symposium an der Universität Graz vom 2. Oktober 2020 zusammen. Behandelt werden vier Themenblöcke: Digitalisierung als Herausforderung für den Verbraucherschutz, Publizität zur Steuerung sozialen Unternehmertums, automatisiertes Entscheiden zwischen Markt und Regulierung sowie Standardbildung und -durchsetzung im Unternehmensbereich. Die hierzu eingebrachten Perspektiven aus Rechtswissenschaft, Wirtschaftswissenschaft, Psychologie, Philosophie und Theologie schaffen eine inhaltliche und methodische Grundlage für die weitere Diskussion von Smart Regulation

Gesundheits-Apps. Innovationsanalyse

Fast täglich kommen neue Gesundheits-Apps auf den Markt. Die Angebote reichen von Fitness- und Ernährungsinformationen bis hin zur Unterstützung bei gesundheitlicher Einschränkung und Krankheit. Gesundheits-Apps begleiten dabei das alltägliche Gesundheitshandeln von Menschen sehr individuell. Dem Markt für Gesundheits-Apps fehlt jedoch eine zuverlässige Qualitätskontrolle, die insbesondere den Datenschutz berücksichtigt. Apps (Kurzform für Application Software) bestimmen zunehmend den gesellschaftlichen Lebensalltag. Immer öfter nutzen Menschen Apps auch mit dem Ziel, positiv auf ihre Gesundheit einzuwirken. Die Apps eröffnen vor dem Hintergrund der Leistungssteigerung bei Smartphones und Wearables mit stetig neuen Funktionalitäten Innovationspotenziale, indem sie alltägliche Formen des Gesundheitshandelns von Menschen individuell angepasst begleiten. Viele Nutzer gehen dabei jedoch sorglos mit ihren Gesundheitsdaten um. Ihnen ist nicht bewusst, dass ihre persönlichen Daten oft unzureichend gesichert sind. Problematisch sind vor allem die Umsetzung bzw. Kontrolle der Einhaltung der gesetzlichen Vorgaben durch die Anbieter von Gesundheits-Apps. Die TAB-Innovationsanalyse gibt einen Überblick über aktuelle technologische und ökonomische Entwicklungstrends von Gesundheits-Apps. Sie zeigt darüber hinaus gesellschaftliche Diskussionspunkte, Wertorientierungen sowie politische Handlungsoptionen als Grundlage für eine Einschätzung der Innovationspotenziale auf. Inhalt Zusammenfassung 9 I Einleitung 23 II Begrifflich-konzeptionelle Einordnung 27 1 Gesundheit 27 2 eHealth 29 3 mHealth 30 4 Gesundheits-Apps 31 III Technologische Funktionalität 35 1 Einordnung 35 2 Mobile Endgeräte 36 3 Sensoren 37 3.1 Definition und Typologie 37 3.2 Propriozeptive und exterozeptive Sensoren 39 3.3 Funksensoren 41 3.4 Zusammenwirken physikalisch-mechanischer Sensoren am Beispiel des Schlafverlaufs 41 4 Konzepte für die technische Integration und Weiterentwicklung von Gesundheits-Apps 43 4.1 Interoperabilität 43 4.2 Cloudcomputing 44 4.3 Künstliche Intelligenz und maschinelles Lernen 44 IV Kategorien von Gesundheits-Apps 47 1 Funktionale Kategorisierung 47 2 Nutzergruppenorientierte Kategorisierung 48 3 Anwendungsfeldorientierte Kategorisierung 49 4 Juristische Kategorisierung 50 V Marktentwicklung 53 1 Angebotsentwicklung 53 2 Geschäftsmodelle 55 3 Nachfrageentwicklung und Nutzergruppen 67 4 Gesundheits-Apps und Krankenkassen 73 4.1 Gesundheits-Apps von Krankenkassen: Status quo 73 4.2 Gesundheits-Apps in der Versorgung 74 4.3 Marktzugang für Gesundheits-Apps in der (Regel-)Versorgung 76 4.4 Gesundheits-Apps im Bonusprogramm 77 VI Gesundheits-Apps als soziale Innovation 81 1 Innovationsperspektiven 81 2 Gesundheitsbezogene Herausforderungen 82 3 Gesundheits-Apps als soziale Innovation 84 VII Gesellschaftliche Aspekte 87 1 Gesundheits-Apps als Ausdruck gesellschaftlichen Wandels 87 1.1 Selbstverdatung und Objektivierung der Körperwahrnehmung 88 1.2 Verschiebungen im Verständnis von Gesundheit 88 1.3 Daten mit Potenzial zur Kontrolle und rationalen Diskriminierung 89 1.4 Prävention und Eigenverantwortung für Gesundheit 90 2 Qualitätsmerkmale von Gesundheits-Apps 91 2.1 Qualität der derzeit auf dem Markt befindlichen Apps 92 2.2 Gebrauchstauglichkeit und Zielgruppenadäquatheit 92 2.3 Evidenzbasiertheit 94 2.4 Datenqualität 96 2.5 Nutzerorientierung 98 3 Rechtliche Aspekte von Gesundheits-Apps 100 3.1 Gesundheits-Apps in Abgrenzung zu Medizinprodukten 100 3.2 Gesundheits-Apps im nationalen und internationalen Recht 101 3.3 Europäische und internationale Datenschutzbezüge 112 VIII Ergebnisse des Stakeholder Panels 119 1 Onlinebefragung 120 2 Stakeholderworkshop 132 IX. Handlungsoptionen und Ausblick 135 1 Förderung von Gesundheitskompetenz 135 2 Durchsetzung von differenzierten Qualitätskriterien 137 3 Kontrolle der Umsetzung des Datenschutzes 139 4 Förderung des gesellschaftlichen Dialogs 141 5 Förderung gesellschaftlicher Innovation durch Gesundheits-Apps 142 Literatur 143 Anhang 155 1 Abbildungen 155 2 Tabellen 15

People Analytics : Eine datenschutzrechtliche Betrachtung moderner Einsatzszenarien für automatisierte, datenbasierte Entscheidungen

Modernes Personalmanagement („People Analytics“) bedarf des Einsatzes komplexer Algorithmen und der Auswertung einer Vielzahl von Daten. Hierbei geraten Unternehmen schnell in den Konflikt mit den geltenden Datenschutzbestimmungen. Der Autor stellt die einschlägigen Vorschriften zum Daten-, Betriebsverfassungs- und Telekommunikationsrecht dar und zeigt anhand konkreter Fallbeispiele auf, welche Fallstricke zu beachten sind. Er entwirft rechtskonforme Lösungen für den Einsatz von automatisierten Entscheidungen, Big Data und IoT im Unternehmen. Für die Zielgruppe der Anwälte, Betriebsräte und Unternehmen wird zudem eine Musterbetriebsvereinbarung zu möglichen Einsatzszenarien entworfen

Die datenschutzrechtliche Zustimmung

In der vorliegende Arbeit wird versucht Abgrenzungskriterien zwischen zulässigem und unzulässigem Gebrauch datenschutzrechtlicher Zustimmungen anhand von Zustimmungsregelungen in der österreichischen Rechtsordnung zu erarbeiten. Nach der Auseinandersetzung mit dem Grundrecht auf Datenschutz und dem Begriff des subjektiven Rechts (Kapitel 4) wird die Rechtsnatur der Zustimmung (Kapitel 5) vor allem aus rechtsgeschäftlicher Sicht beleuchtet (Kapitel 5.3). In Kapitel 4 sind die Kapiteln über das Verhältnis der Eingriffsermächtigungen des § 1 Abs 2 DSG 2000 untereinander (Kapitel 4.7) sowie das Verhältnis des einfachgesetzlichen Zustimmungsbegriff zum verfassungsgesetzlichen (Kapitel 4.6.2.3) enthalten. Schwerpunkt dieser Arbeit ist die Auseinandersetzung mit der Frage wann Zustimmungserklärungen erzwungen sind. Diese Frage wird im Kapitel 6.1, intensiv behandelt. Dabei wird unterschieden zwischen echten Zustimmungsfällen, in denen keine überwiegende berechtigte Interessen anderer vorliegen und unechten Zustimmungsfällen, in denen überwiegende berechtigte Interessen anderer am Grundrechtseingriff bestehen und daher eigentlich eine Zustimmung gar nicht erforderlich ist. Zur Unterscheidung dieser Zustimmungsfälle (siehe Kapitel 4.6.2.1) bedarf es einer Interessenabwägung – für die hier auch eine mögliche Objektivierung (Kapitel 4.6.3.3) vorgeschlagen wird. Die mit der Zustimmung als Willenserklärung verbundenen Fragen werden in Kapitel 6.2 behandelt: insbesondere die Untersuchung der Zulässigkeit von Widerspruchsobliegenheiten (Kapitel 6.2.2), fingierten Zustimmungserklärungen (Kapitel 6.2.3) und ihr Unterschied zu konkludenten Zustimmungserklärungen sowie die Möglichkeiten zur Auflösung von Widersprüchen zwischen Zustimmungserklärungen (Kapitel 6.2.4). Im zivilrechtlichen Kapitel 7 wird besonders auf das Kapitel 7.3 zur Stellvertretung sowie den Wirkungen eines Widerrufs (Kapitel 7.4.2) hingewiesen.Object of this thesis is to elaborate criteria for distinguishing lawful from unlawful use of data subjects' consent by examining regulations dealing with consent. After discussion of the right to privacy and the notion of subjective rights (chapter 4) light is shed on the legal nature of consent (chapter 5) with special respect to the doctrine of legal instruments (chapter 5.3). Chapter 4 covers the topic on the relation of the legal grounds to intervene subject to sect 1 para 2 DSG 2000 (chapter 4.7) as well as the relation of the concept of consent as regulated by normal and constitutional law (chapter 4.6.2.3). The emphasis of this thesis is on the detection under what circumstances are declarations of consent not freely given, which is intensively dealt with in chapter 6.1. By doing so it is necessary to distinguish between cases of true and fake consent. Cases of true consent are characterised by the lack of overriding legitimate interests whereas cases of fake consent feature overriding legitimate interests, which actually make consent needless. To be able to distinguish those cases of consent (chapter 4.6.2.1) it is necessary to weigh up the involved interests. A possibility to objectify that process is proposed (chapter 4.6.3.3). Questions related to the quality of consent being a declaration of intent are covered in chapter 6.2: especially the examination on the lawfulness of obligations to object (chapter 6.2.2), fictitious declarations of consent (chapter 6.2.3) and how they differ from implied declarations of consent as well as the possible solutions how to resolve contradictions between declarations of consent (chapter 6.2.4). The civil-right chapter 7 comprises above all chapter 7.3 on representation and chapter 7.4.2 on the consequences ob exercising one's right to object

Smart Regulation

Smart Regulation steht für innovative Regulierungsansätze und -formen. Die interdisziplinäre Erforschung von Smart Regulation nimmt sich der Herausforderungen und Chancen der Digitalisierung an, berücksichtigt neue Erkenntnisse zu menschlichem Verhalten und erschließt zukunftsweisende Regulierungstechniken. Der vorliegende Band führt die Beiträge zum gleichnamigen Symposium an der Universität Graz vom 2. Oktober 2020 zusammen. Behandelt werden vier Themenblöcke: Digitalisierung als Herausforderung für den Verbraucherschutz, Publizität zur Steuerung sozialen Unternehmertums, automatisiertes Entscheiden zwischen Markt und Regulierung sowie Standardbildung und -durchsetzung im Unternehmensbereich. Die hierzu eingebrachten Perspektiven aus Rechtswissenschaft, Wirtschaftswissenschaft, Psychologie, Philosophie und Theologie schaffen eine inhaltliche und methodische Grundlage für die weitere Diskussion von Smart Regulation

Digitalität und Privatheit: Kulturelle, politisch-rechtliche und soziale Perspektiven

Privacy in the digital society - its forms, opportunities, and risks.Datenschutz bleibt ein umkämpftes Thema im Kontext der voranschreitenden Digitalisierung. Die Beiträge des Bandes gehen der Frage nach, welche Formen Privatheit in einer digitalen Gesellschaft annehmen kann und welche Chancen und Risiken dabei entstehen. Dabei ergeben sich medienkulturelle Fragestellungen nach den Normierungsmustern hinter digitalen Anwendungen sowie die Notwendigkeit, digitale Nutzungsszenarien zu analysieren, einzuordnen und zu bewerten. Der interdisziplinäre Band versammelt kultur-, sozial-, medien-, rechts- und politikwissenschaftliche Perspektiven