Algorithmische Selektion im Internet: Risiken und Governance automatisierter Auswahlprozesse

Algorithmen im Internet prägen zunehmend unseren Alltag und unsere Wahrnehmung der Welt. Sie wählen Informationen aus, weisen ihnen Relevanz zu und helfen, die Informationsflut im Internet zu bewältigen. Gleichzeitig wird die Verbreitung von algorithmischer Selektion von Risiken und regulatorischen Herausforderungen begleitet. Der Beitrag beleuchtet Anwendungszwecke und den Einfluss von algorithmischer Selektion und bietet einen Überblick zu den damit verbundenen Risiken. Die Risiken bilden Ausgangspunkte für etwaige Markteingriffe und die Suche nach adäquaten Steuerungs- und Regelungsarrangements (Governance). Vor diesem Hintergrund analysiert der Beitrag die Möglichkeiten und Grenzen von unterschiedlichen Governance-Ansätzen auf dem Kontinuum zwischen Markt und Staat und liefert Grundlagen für die Auswahl von passenden Governance-Optionen. Die Untersuchung zeigt, dass sich keine Einheitslösung für die Governance von algorithmischer Selektion anbietet. Die Aufmerksamkeit muss auf mehrdimensionale Lösungsansätze gerichtet werden, in denen Governance-Maßnahmen kombiniert werden, die sich gegenseitig ermöglichen und ergänzen

Profiling und automatisierte Einzelentscheidungen im Versicherungsbereich

Die Digitalisierungs- und Big Data-Bewegung wirkt sich auch auf die Versicherungsbranche erheblich aus. Die Flut an personenbezogenen Daten, die täglich generiert wird, und die Möglichkeiten, diese mittels Big Data Analytics-Methoden und KI-Anwendungen auszuwerten, ermöglichen nicht nur die Schaffung neuer Geschäftsmodelle in der Assekuranz. Vielmehr werden die neuen Technologien in allen Bereichen der Wertschöpfungskette entscheidende Veränderungen im Versicherungssektor bewirken. Eine der markantesten Entwicklungen ist die Möglichkeit, mit Big Data Analytics-Methoden das Versicherungsrisiko immer genauer zu bestimmen und Versicherungstarife entsprechend anzupassen bzw. zu individualisieren. Der Einsatz von hybriden Systemen mit einem hohen Automatisierungsgrad für das Massengeschäft und manueller Sachbearbeitung bei individuellen Leistungen ist ein weiterer Haupttrend im Versicherungssektor. Es zeichnet sich auch eine Entwicklung dahingehend ab, dass Versicherungsprodukte nicht nur als Risikoabsicherung angeboten, sondern in ein Servicepaket eingebunden werden, welches für den Kunden maßgeschneidert ist und diverse Dienstleistungen enthält. Der Untersuchungsgegenstand dieses Gutachtens bezieht sich auf einen wesentlichen Kernbestandteil der Digitalisierungsentwicklung im Versicherungsbereich: die Verwendung von Profiling-Verfahren und den Einsatz von automatisierten Einzelentscheidungen. Dazu werden die verschiedenen Zwecke für Profiling und automatisierte Einzelentscheidungen im Versicherungsbereich herausgearbeitet, wobei auch die spezifischen Chancen und Herausforderungen für Versicherer und Versicherte durch den vermehrten Einsatz entsprechender Verfahren dargelegt werden. Die rechtlichen Anforderungen an den Einsatz von Profiling-Verfahren und automatisierten Einzelentscheidungen werden im Anschluss untersucht. Dabei wird ein Schwerpunkt durch die Regelungen aus der Datenschutz-Grundverordnung (DS-GVO) zum Recht der betroffenen Person aus Art. 22 DS-GVO, keiner automatisierten Einzelentscheidung unterworfen zu werden, gebildet. Auch die Informationsobliegenheiten nach Art. 13 (2) lit. f und Art. 14 (2) lit. g DS-GVO und das Recht auf Auskunft gem. Art. 15 (1) lit. h DS-GVO werden eingehend analysiert. Des Weiteren bilden die Vorschriften des Allgemeinen Gleichbehandlungsgesetzes (AGG) einen weiteren Untersuchungsgegenstand. Zur Abrundung der Praxisanalyse werden im Hinblick auf den Umgang mit automatisierten Einzelentscheidungen die aktualisierten Verhaltensregeln des Gesamtverbands der Deutschen Versicherungswirtschaft e. V. (GDV) sowie diverse Datenschutzinformationen, die von Versicherungsunternehmen im Netz veröffentlicht wurden, beleuchtet. Anschließend wird mit Bezug auf die Praxis diskutiert, ob die vorhandenen Regelungen hinsichtlich der festgestellten Gefahren und Nachteile für die betroffenen Personen als ausreichend zu betrachten sind und welche weiteren Regelungs- bzw. Kontrollmöglichkeiten in Betracht kommen

Big Social Data – die gesellschaftspolitische Dimension von Prognose- und Ratingalgorithmen

Das Thema Big Social Data umfasst technologische Ansätze zur Sammlung, Verknüpfung und Auswertung personenbezogener und semantisch reichhaltiger Daten sowie daran geknüpfte Verwertungszusammenhänge. Die Bedeutung von Big Social Data für die Wirtschaft des 21. Jahrhunderts ist eng mit dem prägenden Einfluss von Firmen wie Google oder Facebook verknüpft, deren Geschäftsmodelle im Wesentlichen auf der umfassenden Erhebung und kommerziellen Verwertung von Nutzerdaten basieren. Dabei werden möglichst viele der Spuren und Informationen, die Nutzer digitaler Dienste und Plattformen im Internet hinterlassen, gesammelt und zu individuellen oder Gruppenprofilen verdichtet. Diese bilden die Grundlage für eine möglichst gezielte Aufmerksamkeitssteuerung oder die Vorhersage individueller Verhaltens- und Entscheidungsmuster, die beispielsweise für die Platzierung personalisierter Werbung genutzt werden können. Ein vergleichsweise neues Phänomen bildet die Übertragung dieser Funktionsprinzipien und Technologien auf Gesellschaftsbereiche, in denen die umfassende Sammlung und Auswertung personenbezogener Daten durch Ratingund Vorhersagealgorithmen – noch stärker, als dies in kommerziellen Zusammenhängen der Fall sein kann – mit individueller Überwachung und Verhaltenskontrolle in Verbindung gebracht wird. Die strukturierte Analyse persönlicher Daten, die im Kontext von Finanztransaktionen, Mobilitätsverhalten oder sozialen Netzwerken erhoben werden, kann sich direkt auf Handlungsmöglichkeiten und Lebensumstände der Nutzer auswirken. Beispiele, wie die Pläne zur Einführung eines flächendeckenden Sozialkreditsystems in der Volksrepublik China oder die durch Software beeinflusste Bemessung von Haftstrafen bei einigen US-amerikanischen Gerichten, belegen bereits heute die gesellschaftliche Tragweite dieser Entwicklungen. Existieren im internationalen Kontext also bereits Anwendungen, in denen der Einsatz von Rating- und Vorhersagealgorithmen unter Nutzung von Big Social Data zu einer digitalen Stigmatisierung Einzelner führen kann, ist deren sozialpolitische Brisanz in Deutschland aktuell noch eher gering. Dennoch lassen sich beispielsweise im Kontext von Kreditvergaben oder der Personalisierung politischer Inhalte (Nachrichten, Werbung etc.) in sozialen Netzwerken bereits erste Implikationen für die hiesige Bevölkerung beobachten. Inwiefern daraus resultierende gesellschaftliche Risiken auch in Deutschland an Bedeutung gewinnen werden, wird entscheidend durch das Geschäftsgebaren der auf Datenerhebung, -auswertung und -handel spezialisierten Unternehmen beeinflusst. Eine staatliche Regulierung scheint gegebenenfalls geboten, um mögliche negative Effekte von Big Social Data zu begrenzen

People Analytics : Eine datenschutzrechtliche Betrachtung moderner Einsatzszenarien für automatisierte, datenbasierte Entscheidungen

Modernes Personalmanagement („People Analytics“) bedarf des Einsatzes komplexer Algorithmen und der Auswertung einer Vielzahl von Daten. Hierbei geraten Unternehmen schnell in den Konflikt mit den geltenden Datenschutzbestimmungen. Der Autor stellt die einschlägigen Vorschriften zum Daten-, Betriebsverfassungs- und Telekommunikationsrecht dar und zeigt anhand konkreter Fallbeispiele auf, welche Fallstricke zu beachten sind. Er entwirft rechtskonforme Lösungen für den Einsatz von automatisierten Entscheidungen, Big Data und IoT im Unternehmen. Für die Zielgruppe der Anwälte, Betriebsräte und Unternehmen wird zudem eine Musterbetriebsvereinbarung zu möglichen Einsatzszenarien entworfen

Algorithmische Selektion im Internet: Risiken und Governance automatisierter Auswahlprozesse

Algorithmen im Internet prägen zunehmend unseren Alltag und unsere Wahrnehmung der Welt. Sie wählen Informationen aus, weisen ihnen Relevanz zu und helfen, die Informationsflut im Internet zu bewältigen. Gleichzeitig wird die Verbreitung von algorithmischer Selektion von Risiken und regulatorischen Herausforderungen begleitet. Der Beitrag beleuchtet Anwendungszwecke und den Einfluss von algorithmischer Selektion und bietet einen Überblick zu den damit verbundenen Risiken. Die Risiken bilden Ausgangspunkte für etwaige Markteingriffe und die Suche nach adäquaten Steuerungs- und Regelungsarrangements (Governance). Vor diesem Hintergrund analysiert der Beitrag die Möglichkeiten und Grenzen von unterschiedlichen Governance-Ansätzen auf dem Kontinuum zwischen Markt und Staat und liefert Grundlagen für die Auswahl von passenden Governance-Optionen. Die Untersuchung zeigt, dass sich keine Einheitslösung für die Governance von algorithmischer Selektion anbietet. Die Aufmerksamkeit muss auf mehrdimensionale Lösungsansätze gerichtet werden, in denen Governance-Maßnahmen kombiniert werden, die sich gegenseitig ermöglichen und ergänzen

Big Data - quo vadis? Trends, Treiber, Determinanten, Wildcards

Am 25. Mai 2018 tritt die Datenschutz-Grundverordnung (DS-GVO) in allen EU-Mitgliedsstaaten in Kraft. Sie ist zentral für die rechtliche Regulierung des Einsatzes von Big-Data-Anwendungen mit Personenbezug im privatwirtschaftlichen Bereich. Das vorliegende Arbeitspapier untersucht in analytischer Absicht die Passung der Big-Data-Vision mit der DS-GVO. Die Identifikation von Stärken und Schwächen rechtlicher Regulierung bildet die Basis dafür, im Sinne einer juristischen Gesetzesfolgeabschätzung mögliche gesellschaftliche Ausprägungsformen des heutigen und vor allem künftigen Einsatzes von Big-Data-Technologien zu identifizieren, um ggfs. Handlungsbedarfe zu antizipieren. Die Darstellung unterschiedlicher Diskurspositionen (und den damit verbundenen Erwartungen, Hoffnungen, Ängsten) bietet ferner einen basalen Orientierungsrahmen, der die Möglichkeit für ein proaktives Risikomanagement eröffnet. Deutlich wird dabei, dass die DS-GVO eine Vielzahl von Vorzügen mit sich bringt, jedoch einige zentrale Aspekte des Einsatzes von Big Data - insbesondere im Bereich Profiling, Scoring und automatisierten Entscheidungen - nur unvollständig reguliert

Aufwachsen in überwachten Umgebungen

Digital technologies are exerting a growing influence on the lives of children and teenagers: from video monitoring of babies and educational robots in nursery school to AI-powered learning assistants used to guarantee individual success in education. However, issues relating to privacy, surveillance and data protection are seldom reflected on with regard to this sensitive and important social sphere. The majority of these applications generate data which reveal a great deal about the adolescents who use them. This study addresses this subject area. Together with practitioners from the field of education and with the goal of laying the foundations for addressing this issue in both academic and (socio-) political discourse, it depicts interdisciplinary and transdisciplinary exchange that extends beyond disciplines and academic borders. The authors Regina Ammicht Quinn, Jutta Croll, Sephan Dreyer, Michael Freidewald, Elena Frense, Marit Hansen, Asmae Harrach-Lasfaghi, Jessica Heesen, Gerrit Hornung, Andreas Janson, Nicole Krämer-Mertens, Leonie Kreidel, Marco Leimeister, Yannic Meier, Judith Meinert, Maxi Nebel, Carsten Ochs, Dr. Senta Pfaff-Rüdiger, Alexander Roßnagel, Sofia Schöbel, Reinhold Schulze-Tammena, Matthias Söllner, Ingrid Stapf and Prof. Dr. Isabel Zorn.illustratorDigitale Technologien prägen zunehmend Kindheit und Jugend: von der Videoüberwachung im Säuglingsalter über den Lernroboter im Kindergarten bis hin zu den durch Künstliche Intelligenz gesteuerten Lernassistenten für den individuellen Bildungserfolg. Worüber jedoch wenig reflektiert wird, sind Privatheits-, Überwachungs- und Datenschutzfragen in diesem sensiblen und wichtigen gesellschaftlichen Bereich. In den meisten dieser Anwendungen fallen Daten an, die viel über die Heranwachsenden aussagen. Diesem Themenkomplex widmet sich die vorliegende Publikation. Abgebildet wird der inter- und transdisziplinäre Austausch über Disziplinen und Wissenschaftsgrenzen hinaus, gemeinsam mit PraktikerInnen aus der Bildungsarbeit und mit dem Ziel einer Grundlegung im wissenschaftlichen sowie (gesellschafts)-politischen Diskurs. Die Autoren Regina Ammicht Quinn, Jutta Croll, Sephan Dreyer, Michael Freidewald, Elena Frense, Marit Hansen, Asmae Harrach-Lasfaghi, Jessica Heesen, Gerrit Hornung, Andreas Janson, Nicole Krämer-Mertens, Leonie Kreidel, Marco Leimeister, Yannic Meier, Judith Meinert, Maxi Nebel, Carsten Ochs, Dr. Senta Pfaff-Rüdiger, Alexander Roßnagel, Sofia Schöbel, Reinhold Schulze-Tammena, Matthias Söllner, Ingrid Stapf und Prof. Dr. Isabel Zorn