Auer, Marietta

<intR>²Dok

Rechtsfähige Softwareagenten: Einerfrischender AnachronismusMarietta Auer 2019-09-30T09:05:22Gunther Teubner hat jüngst wiederholt mit der These auf sich aufmerksamgemacht, dass gesteigerten zivilrechtlichen Risiken durch das Handeln autonomerSoftwareagenten mittels Schaffung eines teilrechtsfähigen Rechtsstatus zubegegnen sei, dessen Zweck darin bestehe, „die Gefahr einer ständig wachsendenVerantwortungslücke abzuwenden“, die im Zivilrecht durch das zunehmendautonome Agieren digitaler Intelligenzen entstehe. Nach hier vertretener Auffassungist die Anerkennung von Teilrechtsfähigkeit autonomer Softwareagenten indessenweder erforderlich noch auch nur geeignet, um den von Teubner identifiziertenRisiken dogmatisch und theoretisch gerecht zu werden.Falsche AnthropomorphisierungenAls zentrale neue Gefahrenquelle identifiziert Teubner das „Autonomierisiko, dasvom prinzipiell unvorhersehbaren Verhalten selbstlernender Algorithmen erzeugtwird“ und sich dann verwirkliche, wenn Softwareagenten „tatsächlich, wie es inden beteiligten Wissenschaften, besonders der Informationsphilosophie, Aktor-Netzwerktheorie und der Systemtheorie, vielfach vertreten wird, als handlungsfähigeAkteure auftreten.“ Fragen wirft hier bereits die Verwendung von „tatsächlich“im Zusammenhang mit den genannten Theorien auf. Dass bestimmte TheorienModellvorstellungen von artifiziellen Umweltbestandteilen generieren, die daraufabzielen, hergebrachte konzeptionelle Schranken wie die zwischen Natur undKultur oder Person und Sache als bloße Konstruktionen zu entlarven, zwingtin keiner Weise zu dem Schluss, dass die als selbständige Netzwerkakteureoder kommunizierende Systeme konstruierten digitalen Entitäten „tatsächlich“handlungsfähige Akteure sind.Nun sieht das auch Teubner, indem er vor „falschen Anthropomorphisierungen“warnt und stattdessen treffendere Parallelen zu anderen fiktiven, nämlich juristischenPersonen zieht. So lasse sich das soziale Substrat juristischer Personen ebenfallsnicht einfach auf eine „Vielheit konkreter Menschen“ zurückführen. Kern desKollektivakteurs juristische Person sei vielmehr eine „Kette von Mitteilungen“, dieüber sich selbst kommuniziert und dadurch die soziale Realität der juristischenPerson als Kollektivakteur begründet. Indessen steckt auch darin wieder ein nonsequitur. Denn aus der bloßen Eigenschaft, eine kommunizierende Kollektividentitätzu sein, folgt noch keine Notwendigkeit, als juristische Person oder sonstigerechtsfähige Entität anerkannt zu werden.Interessanter wäre vielmehr zu wissen, was eine avancierte Theorie derjuristischen Kollektivperson ausmacht und wo genau diese das spezifisch„Kollektive“ des kollektiven Handelns jenseits der Auflösung von Handlungs-- 1 -und Verantwortungszusammenhängen in individuelle Zweipersonenverhältnisseverortet. Dabei sind ganz unterschiedliche Lösungen denkbar, die etwa an derKonstruktion haftungsbegründender Kollektivinteressen, der Zusammenrechnungoder Zurechnung individueller Verantwortlichkeiten nach dem Prinzip respondeatsuperior oder an Darlegungs- und Beweislastregeln nach Sphärengesichtspunktenansetzen. All dies bedürfte nicht nur für digitale Kollektivakteure, sondern durchausauch für analoge juristische Zurechnungskonstruktionen in Rechtsbereichenwie Produkthaftung (kollektive Güterproduktion), Kapitalmarktrecht (kollektiveMarktsteuerung) oder Arbeitsrecht (kollektive soziale Organisation) nähererErforschung.Dabei dürften all diese Fragen jedenfalls eine Gemeinsamkeit aufweisen: Dassihre sachgerechte dogmatische und theoretische Beantwortung nicht davonabhängt oder abhängen sollte, ob dem kollektiven Substrat im konkreten Fall einteilrechtsfähiger Status verliehen wird oder nicht. So spielt es für das Eingreifender Produkthaftung keine Rolle, in welcher Rechtsform der Produktherstellerverfasst ist; er wird auch nicht etwa dadurch rechtsfähig oder deliktsfähig, dass erAdressat der Produkthaftung ist. Die Notwendigkeit kollektiver Verantwortlichkeitbegründet für Entitäten kollektiver Güterproduktion also keinen neuen Rechtsstatus.Nichts anderes gilt aber auch für die rechtliche Verfasstheit digitaler Akteure,und zwar durchaus unabhängig davon, ob man – mit Teubner – „wirklich davonausgehen [kann], dass Algorithmen kommunizieren“. Wiederum stört hier nichtnur das „wirklich“, sondern vor allem die Annahme, dass aus dem Vorliegen eines„genuinen Sozialsystems“ immer auch ein Rechtsträger folgen müsse – selbigesgälte dann auch für symbiotische Ökosysteme, Pflanzen- und Tiergemeinschaften.Persönlich hegt die Autorin dieser Zeilen, wenn die Rechtsfähigkeit artifiziellerKommunikationssysteme in Frage steht, jedenfalls eine Präferenz für rechtsfähigeWälder, Weiher und Wattlandschaften.Menschenwürde kommt nur Menschen zuWarum das Recht vor diesem Hintergrund nur bestimmte Entitäten, nämlich in ersterLinie natürliche Personen, mit Rechtsträgereigenschaft ausstattet und sie damit zumSubjekt von Haftungs-, Zurechnungs- und Verantwortungsregeln macht, ist mit dembloßen Verweis auf deren Kommunikationsfähigkeit also nicht zu beantworten. Andieser Stelle knüpft nun Teubner wieder an, indem er die Frage stellt, „ab welchemSchwellenwert“ Softwareagenten für das Recht als partiell autonom und damitrechtsfähig anzusehen seien. Teubner zufolge soll es dabei nicht auf „ontologischeEigenschaften“ wie „Intelligenz, Geist, Seele“ und erst recht nicht auf starkeAnforderungen künstlicher Intelligenz wie „rationales Handeln, Selbständerung oderselbsttätiges Lernen“ bzw. „Empathie, Gefühle, Leidensfähigkeit, Selbstbewusstseinoder gar ein digitales Gewissen“ ankommen. Stattdessen gehe es um die Rollehandlungsfähiger Akteure in „gesellschaftlichen Interaktionen, insbesonderewirtschaftlichen Transaktionen“ und dort um die Programmierung zur „Entscheidungunter Ungewissheit“, also um ex ante nicht voraussagbare und ex post nichtkorrigierbare Entscheidungen zwischen Alternativen anhand der „Optimierungverschiedener Kriterien“.- 2 -Wieder bleibt aber ungeklärt, warum gerade dieses Kriterium, das zunächst einmalnur ein technisches Risiko beschreibt, wie es etwa auch in der Bauplanung oder imStraßenverkehr vorkommt, die entscheidende „Schwelle“ markieren soll, ab der vonim Rechtssinne autonomem Handeln digitaler Entitäten die Rede sein soll. Dabeiführt nach hier vertretener Ansicht bereits das Bild eines „Schwellenwerts“, also dieVorstellung eines kontinuierlichen Übergangs von niederen zu höheren kognitivenund emotionalen Fähigkeiten digitaler Entitäten, die irgendwann zwangsläufig indie notwendigen Voraussetzungen der Anerkennung rechtlicher Autonomie unddamit in Rechtsfähigkeit „umkippen“ müssten, in die Irre. Autonomiefähigkeit istkein archimedischer Punkt, an dem die verschiedenen Spektren kognitiver undemotionaler Intelligenz konvergieren und stetig in rechtliche Verantwortlichkeitmünden.Autonomie, im Privatrecht namentlich Privatautonomie, bezeichnet schlicht dieFähigkeit zur eigenverantwortlichen Gestaltung der eigenen Lebensverhältnissedurch Recht, die im Vertragsrecht etwa in der Fähigkeit zur Abgabe bindenderWillenserklärungen und zum Abschluss gültiger Verträge zum Ausdruck kommt.Autonomie ist kein Risiko, sondern ein limitiertes rechtliches Gestaltungsprinzip.Von diesem Begriff bleibt jedoch nichts Greifbares übrig, wenn er einerseits mitder bloßen Fähigkeit zu unvorhersehbaren Entscheidungen auf einen kleinstengemeinsamen kognitiven Nenner gebracht, andererseits jedoch mit Obertönenmoralischer Autonomie – „digitales Gewissen“ – metaphysisch überhöht wird. Ausder resultierenden kognitiv-emotionalen Gemengelage kann nur Widersprüchlichesresultieren. So Teubner: Wenn man es aus Gründen der Menschenwürde für„verfassungswidrig“ halte, „an Algorithmen Entscheidungen zu delegieren,“ müsseman „diese Praxis verbieten“ statt sie „klammheimlich“ zuzulassen und so zubehandeln, „als hätte keine Delegation stattgefunden.“ Umgekehrt wird ein Schuhdaraus: Menschenwürde kommt nur Menschen zu. Und zu verbieten gibt esjedenfalls unter Menschenwürdegesichtspunkten ebenfalls nichts, weil autonomeEntscheidungen im Rechtssinne weiterhin nur von Menschen getroffen werden.Rechtliche Anreizwirkungen für digitale Akteure?Dass der Schluss von unvorhersehbarer Entscheidung auf Autonomie und weiterauf Rechtsträgereigenschaft digitaler Akteure nicht aufgeht, wird deutlich greifbar,wenn man die von Teubner aufgeworfenen konkreten zivilrechtsdogmatischenProbleme betrachtet. Dies betrifft zunächst die Rolle autonomer Softwareagentenbei der Abgabe vertraglicher Willenserklärungen. Teubner ist der Auffassung, dassSoftwareagenten wie Stellvertreter eigenverantwortliche Willenserklärungen „imNamen des Prinzipals“ abgeben, so dass man ihrer Funktion am ehesten durchdie Anerkennung von Teilrechtsfähigkeit im Sinne von Stellvertretungsfähigkeitgerecht werde. Durch „Analogie“ zum Stellvertretungsrecht lasse sich, so Teubner,auch der „wohl wichtigste Einwand ausräumen, dass den Softwareagentendie für den Vertragsschluss notwendigen Willenselemente, insbesondere dasErklärungsbewusstsein“ fehlten.Wiederum wird das Argument indessen gerade umgekehrt schlüssig. Eine Analogiezum Stellvertretungsrecht – wie auch immer man diese methodisch begründet –- 3 -kommt nur dann in Betracht, wenn der gleichzustellende Sachverhalt mit der fürdas Stellvertretungsrecht konstitutiven Abgabe einer eigenen Willenserklärung desStellvertreters einschließlich Erklärungsbewusstsein vergleichbar ist, nicht hingegen,wenn diese Voraussetzung gerade fehlt und das fehlende Erklärungsbewusstseinstattdessen in einer Art Münchhausen-Logik im Rückschluss aus der vorgängigenBehauptung des Analogiebedürfnisses fiktiv konstruiert wird. Dabei hilft es auchnicht, das Erklärungsbewusstsein „entpsychologisiert“ zu deuten, denn auch darausfolgt noch keine auch von Teubner vorausgesetzte „soziale Norm“, wonach dasAgieren eines digitalen Entscheidungsprozesses als eigenständige Willenserklärungdieser Software zu verstehen ist.Letztlich kommt es für die Anwendung der Stellvertretungsregeln entscheidenddarauf an, ob deren Zweck, nämlich den Prinzipal-Agent-Konflikt zwischenVertretenem und Vertreter durch geeignete Anreize zu entschärfen, auch beider Einschaltung digitaler Entscheidungsmechanismen einschlägig ist. Das wirdman verneinen müssen: Das Risiko, dem der Vertretene durch das Handelneines Stellvertreters ausgesetzt ist, liegt nicht in der Abgabe einer eigenenWillenserklärung durch den Vertreter als solcher, sondern im spezifischenRisiko einer Vertretung ohne Vertretungsmacht, die nur aufgrund der ausVerkehrsschutzgründen getroffenen Unterscheidung zwischen der Wirksamkeit derWillenserklärung im Außenverhältnis und der Überschreitung der Vertretungsmachtim Innenverhältnis konstruktiv möglich ist und durch die fein ausdifferenzierteHaftung des falsus procurator mit zielgenau gesetzten Anreizen zur Unterlassungineffizienter ultra-vires-Vertretergeschäfte kompensiert wird.All diese Überlegungen sind jedoch bei Beteiligung digitalerEntscheidungsmechanismen von vornherein nicht tragfähig, da nicht ersichtlichist, wie digitale Akteure – wie unvorhersehbar auch immer ihre „Entscheidungen“sein mögen – durch die Anreizwirkung der Haftung des falsus procurator erreichtwerden können. Warum sollten digitale Entscheider so programmiert werden, dasssie ihr künftiges „Verhalten“ daran ausrichten, ob es mit (fiktiver?) Haftung auf ihr(fiktives?) Eigenkapital sanktioniert wird? Wäre es nicht effizienter und zudem alleinpflichtgemäß, sie von vornherein so zu programmieren, dass sie haftungspflichtigeultra-vires-Geschäfte unterlassen, was nichts anderes bedeutet, als den ex posthaftungsbegründenden Mechanismus ex ante in der algorithmischen Konstruktion zuantizipieren – was bei dem angenommenen digitalen Intelligenzniveau nun wirklichkeine Schwierigkeit darstellen sollte?Anders gewendet scheinen Teubners Überlegungen zur eigenständigenrechtlichen Berücksichtigung digitaler Akteure schlicht die Dignität des Rechtszu überschätzen, handelt es sich dabei doch letztlich nur um einen höchstunvollkommenen Mechanismus, der die Sanktionierung sozial unerwünschtenVerhaltens etwa eines falsus procurator in utilitaristische Anreizkategorien übersetzt,die unvollkommenen, durch Nutzen und Schaden ansprechbaren Wesen wieMenschen – gleichviel ob diese Ansprechbarkeit nun essentiell rational oderemotional begründet ist – zugänglich sind. Glücklich die digitalen Intelligenzen, diederartiger Hilfskonstruktionen gar nicht erst bedürfen.- 4 -Technologische ZufallsschädenÄhnlich gelagert sind auch die Fälle vertraglicher und außervertraglicher Haftung.Im Rahmen der Vertragshaftung plädiert Teubner für die Anerkennung digitalerSoftwareagenten als Erfüllungsgehilfen, um eine „schwer erträgliche Haftungslücke“zu vermeiden, die daraus entstehen soll, dass der Betreiber des digitalen Agentenvon der Vertragshaftung frei werde, wenn er nachweisen könne, dass er „selbstkeine Vertragspflicht verletzt hat“, dass also der schadensverursachende Fehlerdes Agenten allein in der Sphäre des letzteren entstanden ist. In einem solchen Fallmüsse der Kunde den vom Computer verursachten Schaden tragen.Dazu ist zunächst festzuhalten: Schadensersatz ist die Ausnahme, nicht die Regel.Gehaftet wird im Vertragsrecht grundsätzlich nur für vom Schuldner zu vertretendePflichtverletzungen. Für nicht zu vertretende Zufallsschäden wird dagegen nichtgehaftet, sondern der Schaden bleibt wiederum aus guten Gründen der Anreizungzu pflichtgemäßem, aber nicht übermäßig strangulierendem Vertragshandelnbei demjenigen liegen, der das Sachrisiko trägt: casum sentit dominus. Nochdeutlicher wird das im Recht der außervertraglichen Haftung, für das systematischeHaftungslücken in Bereichen bloßer Umverteilungsschäden geradezu typischund rechtspolitisch gewollt sind. Tatsächlich dürfte die große Mehrzahl allerSchadensfälle nicht auf zurechenbar pflichtwidrigem Handeln, sondern auf Zufall imRechtssinne beruhen und als Schaden ohne Unrecht – damnum absque iniuria –schlicht entschädigungslos bleiben, ohne dass darin ein rechtspolitisches Skandalonläge.Aus der bloßen Tatsache der Entschädigungslosigkeit von technologischenZufallsschäden, die unter Beteiligung von Softwareagenten entstanden sind, folgtalso schlicht nichts im Hinblick auf die Frage, ob und wann in solchen Fällen gehaftetwerden sollte. Der dafür ausschlaggebende Anknüpfungspunkt ist wiederumzunächst die vom Vertragspartner oder Deliktsschuldner geschuldete Sorgfalt in derProgrammierung und im Einsatz autonomer Softwareagenten, die mit steigenderKomplexität sicherlich zunehmend in objektivierte Zurechnungs-, Verantwortungs-und Beweislastregeln nach Sphären- und Risikogesichtspunkten münden wird,deren dogmatische Ausformulierung noch bevorsteht. Auch dafür bedarf esindessen keiner Hilfskonstruktion wie der Zurechnung von Dritthandeln einesErfüllungsgehilfen oder Verrichtungsgehilfen, zumal für diese Regeln ebenso wieim Stellvertretungsrecht gilt, dass nicht ersichtlich ist, wie ein digitaler Gehilfe durchdie Androhung etwaiger Regressforderungen des haftungspflichtigen Prinzipals zupflichtgemäßem Verhalten angereizt werden könnte. Der Rechtssinn des Einstehensfür fremde Pflichtverletzung ist damit abermals schon im Ansatz nicht gegebenund mithin entgegen Teubner auch nicht sinnvoll als Frage der Gleichbehandlungmenschlicher und nichtmenschlicher Akteure diskutierbar.Entschärfung durch HaftungsobjektivierungLetztlich wird das Ganze wohl nicht so heiß gegessen wie gekocht. So bringtTeubner zu Recht „Objektivierungstendenzen im heutigen Privatrecht“ ins Spiel,- 5 -die das Problem unvorhersehbar agierender Softwareagenten zumindest partiellentschärfen. Gemeint sind die erwähnten Objektivierungsmöglichkeiten im Bereichvertraglicher und außervertraglicher Sorgfaltspflichten, die die dort geltendenVerschuldenshaftungen jeweils an die objektive Pflichtwidrigkeitshaftung annähern,die den Haftungsmaßstab der Gefährdungshaftung bildet.Angesichts der rasanten technischen Entwicklung und der Unklarheit, wieund unter welchen Voraussetzungen digitale Entitäten künftig in vertraglichenund außervertraglichen Zusammenhängen Schadensrisiken verursachen, istTeubner weiter darin zuzustimmen, dass derzeit kein Bedarf für eine besondereGefährdungshaftung für digitale Entitäten besteht. Der Grund dafür liegt allerdingswiederum nicht darin, dass das „Risiko digitaler Entscheidungsautonomie prinzipiellandersgeartet“ sei als die Fälle erlaubter Risiken, die die Grundlage für dieAnerkennung der Gefährdungshaftung in den gesetzlich normierten Fällen bilden.Der Grund liegt vielmehr in einer Einsicht, die Teubner abschließend im Rahmen dervon ihm identifizierten weiteren „Verbundrisiken“ und „Vernetzungsrisiken“ formuliert:Man betritt „sehr viel unsicheres Gelände“.In der Tat: Das aktuelle, abschüssige digitale Terrain, das klassische Personalitätund Individualität mittels Big-Data-Lesbarkeit eher auflöst als akzentuiert, ist keinkongeniales Umfeld für die Einführung neuer Personenstatus und gesetzlicherHaftungsregelungen für digitale Akteure. So gesehen erweist sich TeubnersInsistenz auf der Personifizierung ebendieser Akteure in einem Regulierungsumfeld,in dem die klassisch-moderne „Rechtstechnik der Personifizierung […] an ihreGrenzen gerät“, als geradezu erfrischend anachronistisch.- 6 -

Rechtsfähige Softwareagenten: Ein erfrischender Anachronismus

https://intr2dok.vifa-recht.de/servlets/MCRFileNodeServlet/mir_derivate_00007429/Rechtsfhige_Softwareagenten_Ein_erfrischender_Anachronismus.pdf

Rechtsfähige Softwareagenten: Ein erfrischender Anachronismus

Abstract

Similar works

Full text

Available Versions

<intR>²Dok