Ein verbindliches KI-Transparenzregister für Deutschland

Abstract

Das Policy Paper beleuchtet das Potenzial von Künstlicher Intelligenz (KI) in der öffentlichen Verwaltung, weist jedoch auf erhebliche Risiken wie mangelnde Transparenz und mögliche Grundrechtsverletzungen hin. Um diesen Herausforderungen zu begegnen, wird die Einfüh-rung eines verbindlichen KI-Transparenzregisters für Bund und Länder gefordert. Dieses Register soll alle eingesetzten KI-Systeme erfassen und detaillierte, verständliche In-formationen zu deren Zweck, Einsatz und potenziellen Auswirkungen bereitstellen. Dies geht über die Anforderungen der KI-VO hinaus, die sich auf Hochrisiko-Systeme konzentriert. Das Papier erörtert zudem die rechtlichen Hürden einer solchen Implementierung im deutschen Föderalismus und schlägt eine Verfassungsreform vor, um eine kohärente, bundesweite Lö-sung zu ermöglichen. Eine unabhängige Aufsichtsbehörde und ein interdisziplinärer Beirat sollen die Qualität und Akzeptanz des Registers sichern