Algorithmen und das Recht auf digitale Gleichbehandlung

ALGORITHMEN UND DAS RECHT AUF DIGITALE GLEICHBEHANDLUNG Algorithmen und das Recht auf digitale Gleichbehandlung (Rights reserved) ( -

Künstliche Intelligenz: Regulatorische Überlegungen zum „Wie“ und „Was“

Neue technologische Entwicklungen stellen das Recht regelmässig vor Herausforderungen; diese Einschätzung gilt auch für die Künstliche Intelligenz. Die EU hat mit einem sehr detaillierten risikoorientierten Regulierungsvorschlag reagiert. Ein solches Konzept dürfte für die Schweiz nicht zielführend sein. Erfolgversprechender ist die Ausarbeitung eines technologieneutralen Rahmengesetzes, unter dessen „Schirm“ die regulierungsbedürftigen Themen einer Normierung durch Anpassungen bestehender Gesetze zugeführt werden

Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen – ein Überblick

Algorithmische Entscheidungssysteme (AES), also programmierte Verfahren, die aus einem bestimmten Input in verschiedenen, genau definierten Schrittfolgen einen Output berechnen und eine Entscheidung(sempfehlung) ableiten, begegnen uns im Alltag häufig: Sie bestimmen die beste Strecke für eine geplante Fahrt, den passenden Partner in einer Singlebörse oder die eigene Kreditwürdigkeit. Damit stellen sie mehr oder weniger bedeutsame Weichen und bestimmen somit möglicherweise über Lebenschancen – oft, ohne dass es der oder dem Betroffenen bewusst ist. Aufgrund ihrer zahlenbasierten Regelhaftigkeit könnten AES zunächst als objektivere Entscheidungsinstanzen angenommen werden. Einige medienwirksame Fälle von verzerrten maschinellen Entscheidungen – beispielsweise als ein Onlineversandhändler neue Mitarbeitende suchte und sein lernendes AES fast ausschließlich Männer vorschlug – wecken jedoch Zweifel an der Objektivität algorithmischer Entscheidungsempfehlungen und werfen die Frage auf, ob AES (un)fairere Entscheidungen als Menschen treffen: Verändern sich Diskriminierungsrisiken durch den Einsatz von AES? Dieser Frage geht das TAB in der als Hintergrundpapier Nr. 24 erschienenen Studie nach, die anhand von vier Fallbeispielen aus den Bereichen der Arbeitsvermittlung, der medizinischen Versorgung, des Strafvollzugs und der automatisierten Personenerkennung nachzeichnet, dass Ungleichbehandlungen durch AES häufig Fortführungen »vordigitaler« Ungleichbehandlungen sind, und dabei zugleich verdeutlicht, dass die Frage, ob eine konkrete Ungleichbehandlung diskriminierend ist (oder nicht), innerhalb einer Gesellschaft und innerhalb der Rechtsprechung oftmals hoch umstritten ist. Abschließend stellt das Hintergrundpapier verschiedene Handlungsansätze zur Prävention von algorithmisch basierten Diskriminierungen vor. Inhalt Zusammenfassung 7 1 Einleitung 13 2 Algorithmische Entscheidungssysteme und maschinelles Lernen 17 2.1 Definitionen und Charakteristika von algorithmischen Systemen 17 2.2 Zielstellung und Entwicklung von algorithmischen Entscheidungssystemen 20 2.3 Algorithmen und künstliche Intelligenz in der öffentlichen Wahrnehmung 24 2.4 Mensch-Technik-Interaktionen: Wie gehen Menschen mit algorithmischen Entscheidungsvorschlägen um? 26 3 Ungleichbehandlung und Diskriminierung von Individuen und Gruppen 33 3.1 Definitionen und Charakteristika von sozialer Diskriminierung 33 3.2 Diskriminierung durch algorithmische Entscheidungssysteme 34 3.3 Statistische Ungleichbehandlung und statistische Diskriminierung 36 3.4 Rechtliche Aspekte des Umgangs mit Diskriminierung von Individuen und Gruppen 40 4 Fallbeispiele: Ungleichbehandlung durch AES in verschiedenen Lebensbereichen 49 4.1 Fallbeispiel 1: Ungleichbehandlung in der medizinischen Versorgung durch AES und ML 49 4.2 Fallbeispiel 2: Algorithmus zur Klassifizierung von Arbeitslosen in Österreich 51 4.3 Fallbeispiel 3: COMPAS, ein US-amerikanisches AES im Justizvollzug 54 4.4 Fallbeispiel 4: algorithmische Personenerkennung anhand visueller Daten in den USA 57 4.5 Gemeinsamkeiten und Unterschiede der vier Fallbeispiele 60 5 Handlungsoptionen 65 6 Literatur 75 7 Anhang 83 7.1 Abbildungen 83 7.2 Tabellen 8

Verwaltung im digitalen Zeitalter

Dieses Open-Access-Buch fokussiert die Herausforderungen und Bedarfe, die sich für die öffentliche Verwaltung aus der stetig fortschreitenden Digitalisierung ergeben. Insbesondere der öffentliche Dienst als zentrale Ressource der Verwaltung benötigt eine ganze Bandbreite an neuen, digitalen Kompetenzen, um im digitalen Zeitalter handlungsfähig zu bleiben. Welche Kompetenzen dies im Einzelnen sind und inwiefern sie in der Verwaltung bereits berücksichtigt werden, ist bislang jedoch unklar. Vor diesem Hintergrund untersucht die Autorin den aktuellen Stellenwert digitaler Kompetenzen in der Personalakquise des höheren Dienstes des Bundes und der Länder in Deutschland. Dabei wird ein eigens entwickeltes Begriffsverständnis der „digitalen Kompetenzen“ mit konkretem Bezug auf Recht, Strukturen und Strategien der deutschen Verwaltung erarbeitet und zu einem Kompetenzrahmen verdichtet, der in der Praxis auf unterschiedliche Bedarfe adaptiert werden kann. Neben Erkenntnissen aus der umfassenden Analyse des aktuellen Status Quo liefert das Buch konkrete Lösungsansätze für ein gelingendes Kompetenzmanagement in einer effektiv digitalisierten öffentlichen Verwaltung

Künstliche Intelligenz

Dieses Buch ist eine Open-Access-Publikation unter einer CC BY 4.0 Lizenz. Künstliche Intelligenz (KI) klingt in aktuellen Debatten oft abstrakt und alltagsfremd. Doch die meisten Internetnutzerinnern und -nutzer sind bereits täglich mit ihr konfrontiert – wenn auch unbewusst: sei es bei der Sprachsteuerung des Smartphones, bei Kaufempfehlungen im Online-Shop oder bei der Abfrage von auf Webseiten häufig gestellten Fragen (Frequently Asked Questions, FAQ). KI ist ein Teilaspekt der Digitalisierung, der als Schlagwort immer häufiger in den Medien auftaucht. Das aktuell große Interesse liegt darin begründet, dass es in den vergangenen Jahren verschiedene technologische Fortschritte gab, welche die Nutzung der KI nun auf andere Ebenen heben. Mit diesem Themenband des Instituts für Innovation und Technik (iit) „Künstliche Intelligenz“ erhalten Leserinnen und Leser einen schlaglichtartigen Einblick in die KI hinsichtlich ihrer Technologien, aktuellen und potenziellen Anwendungen sowie Auswirkungen auf die Gesellschaft

Algorithmische Entscheidungssysteme: Menschenrechtliche Vorgaben und Entwicklungen auf internationaler Ebene

Künstliche Intelligenz (KI) kann die Verarbeitung riesiger Datenmengen enorm erleichtern, doch birgt ihr Einsatz auch menschenrechtliche Risiken. Die Information bietet einen Überblick darüber, wie verschiedene UN-Menschenrechtsgremien menschenrechtliche Fragen bei der Anwendung von KI beurteilen und welche Verpflichtungen sich für Staaten daraus ergeben

E-Government, Open Government und Smart Government - Nachhaltige Digitalisierung von Staat, Städten und Verwaltung

Mit Band 23 der TOGI-Schriftenreihe werden zwölf ausgewählte Vorträge des TOGI Symposiums 2021 veröffentlicht, das mit Unterstützung einer virtuellen Kongressplattform am 23. und 24. Juni 2021 durchgeführt wurde. Die Autoren gehen mit ihren Beiträgen auf aktuelle Entwicklungen des E-Governments, des Open Governments und des Smart Governments sowie der digitalen Lehre über den neu geschaffenen eGov-Campus ein