Costantino, Fulvio

Italian

Archivio istituzionale della ricerca - Università di Macerata

Le nuove sfide della digitalizzazionedi Fulvio Costantino - 22 Dicembre 2023Note a margine di Tecnica e potere nell’amministrazione per algoritmi di Alessandro di Martino, edi Buon andamento nell’amministrare e digitalizzazione: note di attualità e persistentiproblematicità di un ‘inammissibile baratto’ di Vinicio Brigante.La prossima approvazione del cd. Regolamento sull’uso dell’Intelligenza Artificiale costringerà igiuristi a confrontarsi con un campo che però è stato già arato in questi anni da un nutrito noverodi lavori, anche di diritto amministrativo[1].Nel Regolamento si fa più volte riferimento all’uso dell’intelligenza artificiale ad opera delleamministrazioni, e dell’intelligenza artificiale si dà una nozione ampia: osserva la proposta che ladefinizione dovrebbe essere basata sulle principali caratteristiche funzionali dell’intelligenzaartificiale, quali le sue capacità di apprendimento, ragionamento o modellizzazione, e andrebbedistinta da sistemi software e approcci di programmazione più semplici che utilizzano regoledefinite unicamente da persone fisiche per eseguire operazioni in modo automatico[2].Si afferma che il regolamento non dovrebbe ostacolare lo sviluppo e l’utilizzo di approcciinnovativi nella pubblica amministrazione, che trarrebbero beneficio da un uso più ampio disistemi di IA conformi e sicuri, a condizione che tali sistemi non comportino un rischio alto per lepersone fisiche e giuridiche[3].A seconda del livello di rischio, diverse saranno le misure che dovranno essere adottate, in ordinealla gestione del rischio, dei controlli ex ante e in corso di utilizzo, agli obblighi di comunicazione,agli interventi da adottare.Alcuni sistemi di IA saranno vietati: si pensi a quelli che permettono alle autorità pubbliche o adattori privati di attribuire un punteggio sociale alle persone fisiche e possono portare a risultatidiscriminatori, così come a quelli di identificazione biometrica remota “in tempo reale” dellepersone fisiche in spazi accessibili al pubblico a fini di attività di contrasto, al di fuori delleeccezioni previste[4].Saranno classificati come “ad alto rischio” invece tutti i sistemi che possono incidere su salute,sicurezza e diritti fondamentali[5]. Nella proposta si fa riferimento all’istruzione e alla formazioneprofessionale (in particolare per l’accesso), ai rapporti di lavoro, all’accesso a prestazioni e servizipubblici essenziali, alle azioni delle autorità di contrasto alla criminalità, alla gestione deimigranti, dell’asilo e delle frontiere, all’amministrazione della giustizia e ai processidemocratici[6].Invece, se specificamente destinati a essere utilizzati per procedimenti amministrativi dalleautorità, non dovrebbero essere considerati ad alto rischio i sistemi di IA delle amministrazionifiscali e doganali, come pure delle unità di informazione finanziaria che svolgono compitiamministrativi di analisi delle informazioni conformemente alla normativa antiriciclaggiodell’Unione[7].Appare quindi evidente come un uso diffuso dell’IA è prossimo nelle pubbliche amministrazioni, ilche pone il problema di adeguare la cassetta degli attrezzi ai mutamenti in atto.Se le conseguenze di questi processi rimangono da esaminare con attenzione, ed è correttoattendere di avere a disposizione il testo definitivo approvato per valutazioni più attente,abbiamo però già a disposizione un bagaglio di ricostruzioni, osservazioni, casi che potrannoaiutare a districarsi con i grandi problemi che si dovranno affrontare.Tra i lavori più recenti, a parte la nota monografia di Giovanni Gallone, sul principio di riserva diumanità[8], si sono aggiunti il più recente volume Tecnica e potere nell’amministrazione peralgoritmi di Alessandro di Martino[9], e il saggio Buon andamento nell’amministrare edigitalizzazione: note di attualità e persistenti problematicità di un ‘inammissibile baratto’ diVinicio Brigante[10].2.1 Il lavoro di Di Martino, per potere correttamente inquadrare il tema dell’uso della tecnologiada parte dell’amministrazione, ripercorre il più generale tema del rapporto tra potereamministrativo e tecnica, richiamandone l’evoluzione nella dottrina italiana giuridica.In ordine alla concezione della scienza, l’autore ci ricorda come si sia passati dal concepire lastessa come portatrice di verità, alla formazione del paradigma dell’incertezza delle valutazionitecnico-scientifiche, fino alla situazione di instabilità delle tecnologie, soggette a continuimutamenti[11]: la ricostruzione ci ammonisce circa il pericolo di facili entusiasmi derivanti dalricorso alla idea della tecnica neutrale[12].In merito alla evoluzione del pensiero giuridico, Di Martino ripercorre le diverse ricostruzioniteoriche, a partire da quelle secondo cui la tecnica è considerata irrilevante rispetto al diritto, egiunge a esaminare lo scenario attuale, per osservare come la discrezionalità cd. pura “diventi”discrezionalità tecnica, in quanto la tecnica “più che porsi quale supporto dei poteri (…)amministrativi, si palesa come strumento di predeterminazione dei contenuti e degli effetti dellescelte politiche nella prospettiva del conseguimento di obiettivi di oggettività, certezza eneutralità”[13].L’analisi dei rischi per l’arretramento della tutela è ben evidenziata: le parole d’ordinedell’efficienza e del risultato finirebbero per far arretrare considerevolmente la tutela dei cittadini,in particolare con il ricorso agli algoritmi non deterministici per l’adozione dei provvedimentidiscrezionali e ancor più agli algoritmi machine learning, oggetto del regolamento inapprovazione[14].In queste ultime ipotesi i principi di partecipazione democratica[15], trasparenza[16],motivazione[17] e proporzionalità[18] riescono ad essere rispettati solo formalmente, e né illegislatore né tantomeno la stessa amministrazione sono in grado di garantirli: a ciò va aggiuntala carenza di risorse tecniche interne[19], nonché la tradizione di una certa cultura giuridica che– ad avviso di chi scrive – non sa dialogare con la tecnica[20]. In questo senso,l’esternalizzazione della produzione di strumenti informatici corre il rischio di tradursi inesternalizzazione della funzione amministrativa[21], come evidenziato nell’ultima sezione dellavoro, con pericoli di cattura dell’amministrazione[22], delegittimazione del potere pubblico[23],disattenzione per l’interesse pubblico[24] e deresponsabilizzazione dei decisori[25].2.2 Anche Brigante pone di fronte allo studioso le evidenti criticità della dimensione digitaledell’attività amministrativa, a partire da quella conoscitiva, ove viene indotta l’illusione diun’amministrazione onnisciente[26], fino a quella decisionale, ove il rapporto tra algoritmo eattività amministrativa si muove “dall’ignoto all’imprescindibile”[27]. Il lavoro svela acutamente irischi di arrendevolezza per la tutela dei diritti e delle garanzie[28].Risultano particolarmente efficaci le pagine in cui l’autore segnala come la legge 241 del 1990 sulprocedimento amministrativo, in ordine all’istruttoria, non solo non sia allineata con il Codicedell’Amministrazione Digitale (CAD), ma soprattutto non sia adeguata ad un’istruttoria che oggipuò fare ricorso alle potenzialità dei big data[29]: la disciplina è così espressione di un mondo incui l’istruttoria era cartacea, e la inappropriatezza di tale approccio incide sul buon andamento esul processo di formazione della volontà dell’amministrazione.Il rischio di un rispetto solo formale del principio di legalità e dell’arretramento delle garanzie, secostituisce un problema per quanto riguarda i casi “semplici” di uso degli algoritmi, si porrà conancora maggiore evidenza nei casi di apprendimento automatico, nei quali, per quanto si vadelineando, gli elaboratori sono in grado di evidenziare essi stessi, sulla base di calcoli complessie delle ingenti dati a disposizione, le inferenze e sono in grado di disporre da sé le regole daseguire per risolvere i problemi.Il Regolamento sull’Intelligenza artificiale, salve alcune ipotesi di divieto, appare risolvere ilproblema del se questi strumenti possano essere impiegati, e si concentra sul come essi debbanoessere impiegati, circondandone l’uso con molteplici cautele, nel caso di rischi elevati.I principi di partecipazione, trasparenza, motivazione, tutela giurisdizionale dovranno essererimeditati.Per un verso non bisogna idealizzare come questi principi sono stati intesi ed applicati nella loroedizione tradizionale: la partecipazione consente solo un deposito di memorie e documenti, senzapermettere un reale contraddittorio; la trasparenza, spesso pretestuosamente ostacolata, si ètradotta nella semplice messa a disposizione di documenti; la motivazione spesso si è ridotta adun mero richiamo di atti e norme, con richiamo sintetico e superficiale alle osservazioni deipartecipanti.Bisognerà tenere dritta la barra, e suggerire come consentire nuove ed efficaci forme dipartecipazione, trasparenza, motivazione, tutela, anche con l’aiuto delle tecnologie.Queste hanno condotto ad un aggiornamento, ad esempio, del diritto di accesso: lo stesso cd.accesso civico non sarebbe pensabile senza l’esistenza dei siti internet delle amministrazioni, e lastessa esistenza di internet ha favorito il sorgere di istanze che hanno indotto alla nascita di unistituto che, comunque, ha ampliato la nozione di trasparenza: si è così passati dalla trasparenzadei documenti alla trasparenza delle informazioni, dalla trasparenza della conoscibilità allatrasparenza della comprensibilità, solo per indicare due trasformazioni.Oppure, in ordine alla motivazione, si è osservato come oggi si chieda giustamente diripercorrere l’iter logico seguito dalla macchina, fino ad arrivare alle istruzioni di base impartite,laddove la mente umana è una macchina molto più oscura degli elaboratori, con l’effetto che anzila macchina può rilevare dei pregiudizi umani insiti nelle decisioni, di cui altrimenti non avremmoevidenza, e di come la stessa possa aiutare a motivare in maniera più ricca gli attiamministrativi[30].Quel che è certo è che non si può pensare di rinunciare alle garanzie conquistate, e anzi sitratterà di rafforzarle; non si potrà perciò prescindere dalla presa in carico delle osservazionicritiche effettuate da questi contributi scientifici, che arricchiscono il dibattito in corso su questitemi.[1] https://www.consilium.europa.eu/it/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/[2] Si fa riferimento all’ultima versione ufficiale della proposta attualmente disponibile, datata 6dicembre 2022, eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206, pag. 6.[3] Ibidem, 29.[4] Ibidem, 17.[5] Ibidem, 15.[6] Ibidem, 26 e ssg.[7] Ibidem, 30.[8] Del quale ci si è già occupati, in rivistaitalianaperlescienzegiuridiche.it/node/371[9] Napoli, 2023.[10] In Territori e istituzioni. Problemi e prospettive nel tempo della Ripartenza, a cura di G.Colombini, M. D’Orsogna, L. Giani, 2023, 259.[11] A. Di Martino, Tecnica e potere nell’amministrazione per algoritmi, 27 ssg.[12] Ibidem, 29 ssg.[13] Ibidem, 120.[14] Ex multis, 140.[15] La quale è esaminata approfonditamente, 196, ssg. Si segnala anche, con una buona dosedi realismo, quanto la partecipazione all’adozione della regola tecnica, dei cittadini “dilettanti”,che non hanno competenze tecniche, sia una garanzia solo formale, 205. Sui punti critici dellapartecipazione, si permetta di rinviare alla voce Open Government, Dig. Disc. Pubb., agg., Torino,2015, 285.[16] A. Di Martino, Tecnica e potere nell’amministrazione per algoritmi, cit., 187 ssg. L’A. ritornapoi sul punto 217 ssg.[17] Ibidem, 260. In questo caso, due sono i ben evidenziati rischi da evitare: di essere indotti aritenere la motivazione prescindibile (giustamente criticata a pag. 264, 267), o di ritenerlasurrogabile dall’accesso al codice sorgente, e quindi rinviata a monte (criticata da pag. 265).[18] Ibidem,219 ssg.[19] Ibidem,240.[20] Sulla necessità di un nuovo approccio, ibidem,246.[21] Ibidem,240 ssg.[22] Ibidem, 220.[23] Ibidem, 260.[24] Evidenziata, in ordine all’autotutela, ibidem, 272.[25] Ibidem, 285.[26] V. Brigante, op. cit., 285.[27] Ibidem, 300.[28] Ibidem, 306.[29] Ibidem, 288.[30] L. Torchia, Lo Stato digitale, Bologna, 2023, 141.Contributo stampato da ApertacontradaURL del contributo: https://www.apertacontrada.it/2023/12/22/le-nuove-sfide-della-digitalizzazione/Copyright ©2018 ApertaContrada | Registrazione al Tribunale di Roma n° 426/2009 del 15 122008 | ISSN 2039-8018

Le nuove sfide della digitalizzazione

https://u-pad.unimc.it/bitstream/11393/326353/1/Apertacontrada%20%c2%bb%20Le%20nuove%20sfide%20della%20digitalizzazione%20%c2%bb%20Stampa.pdf

Le nuove sfide della digitalizzazione

Abstract

Similar works

Full text

Available Versions

Archivio istituzionale della ricerca - Università di Macerata