C. Nardocci

L. Busatta

M. Fasan

M. Tomasi

S. Penasa

S. Sulmicelli

Italian

AIR Universita degli studi di Milano

Editorial1Vulnerabilità e Intelligenza ArtificialeBioLaw Journal – Rivista di BioDiritto, Special Issue  1/2024Downloaded from www.biodiritto.org.ISSN 2284-4503Vulnerabilità e Intelligenza Arti-ficialeMarta Tomasi, Lucia Busatta, Marta Fasan, Co-stanza Nardocci, Simone Penasa, Sergio Sulmi-celliVulnerabilità” è un concetto chereca  numerosi  significati,  com-plesso e al tempo stesso evoca-tivo, applicabile a diversi contesti, per il perse-guimento di obiettivi differenti1.  Nella maggiorparte delle ricostruzioni che si sono interessatedell’argomento, si affiancano (almeno) due ma-cro-significati del termine: l’uno, più generale eimmanente,  rimanda  all’ontologia  stessa  dellapersona, evocando una caratteristica universaledella condizione umana; l’altro, più specifico evariabile, si riferisce a situazioni, contesti e mo-menti che espongono la persona a forme di fra-gilità, anche di gruppo2. In questo secondo signi-ficato, la vulnerabilità è il prodotto delle societànelle quali viviamo, del modo in cui esse sonocostruite e regolate. La vulnerabilità non è trat-to identificativo che qualifica il singolo soggettoportatore di una caratteristica o collocato in uncerto contesto situazionale, ma è una caratteri-stica indotta, prodotta da un ambiente nel qualela persona è immersa, al punto che, in alcuneelaborazioni, si  suggerisce che l’aggettivo “vul-nerabile” possa essere sostituito dall’alternativo“vulnerabilizzato”,  maggiormente  rispondentealla realtà di una condizione eterodeterminata3.“1 M. DUNN,  I.  CLARE,  A. HOLLAND,  To empower or toprotect? Constructing the ‘vulnerable adult’, in  Eng-lish law and public  policy.  Legal  Studies,  28,  2008,234-254.2 Una prospettiva è quella di M.A. FINEMAN,  The Vul-nerable  Subject:  Anchoring  Equality  in  the  HumanCondition, in  Yale Journal of Law and Feminism, 20,1, 2008, 8-10.3 Si v., per esempio, B.  CASALINI,  Politics, justice andthe vulnerable subject: the contribution of feministUn termine che viene preferito quando si vuoleenfatizzare  l'origine  strutturale  e  contingentedella  vulnerabilità,  rispetto alla  sua natura  in-trinseca o universale.Fra i fattori che oggi possono incidere sulla vitadelle persone, le tecnologie – e fra tutte sicura-mente l’Intelligenza Artificiale – giocano un ruo-lo determinante.I  nuovi sistemi intelligenti stanno alimentandoprocessi trasformativi e pervasivi, capaci di inci-dere profondamente su ogni aspetto della vitacontemporanea. Dalla medicina all’educazione,dal lavoro ai trasporti, passando per la comuni-cazione e le relazioni sociali, l’IA non si limita ainnovare i  processi  esistenti, ma ne sta ridefi-nendo i  paradigmi,  imponendo una riflessionecomplessiva  su  come  viviamo,  pensiamo  e  cirapportiamo al  mondo. Le sue capacità di  ap-prendere, rielaborare e agire in modi che simu-lano, ampliano o sfidano le capacità umane sol-levano  interrogativi  fondamentali  sulla  nostrastessa identità come esseri umani e, conseguen-temente, sulle situazioni di vulnerabilità che cia-scuno può trovarsi a vivere4.Le  tecnologie  intelligenti  possono  dispiegareuna forza ambivalente entrando in una dinami-ca bidirezionale e articolata con il  concetto divulnerabilità.  Da un lato,  anche in  ragione  dispecificità  di  natura  tecnica  (es.  “black  box”,mancanza di trasparenza,  bias algoritmici e di-scriminazioni) e della molteplicità dei contesti diutilizzo, l’I.A. può creare vulnerabilità nuove, in-ducendo  meccanismi  di  esclusione  sociale,  oacuire vulnerabilità esistenti per quei soggetti egruppi  sociali  storicamente in  posizione di  su-bordinazione e marginalizzazione. D’altro canto,però, laddove adeguatamente costruito, imple-thought, in Revista Gênero & Direito, 5, 2016, 15-29.4 C. CASONATO, Intelligenza artificiale e diritto costitu-zionale.  Prime  considerazioni,  in  Diritto  pubblicocomparato  ed  europeo,  Fascicolo  speciale,  2019,131-144.Editorial 2 Lucia Busatta, Marta Fasan, Costanza Nardocci, Simone Penasa, Sergio Sulmicelli, Marta TomasiBioLaw Journal – Rivista di BioDiritto, Special Issue 1/2024  Downloaded from www.biodiritto.org.ISSN 2284-4503mentato  e  regolamentato,  l'impiego  di  tecno-logie di I.A. può anche rivelarsi uno strumentocapace di rinforzare la posizione della personanella società, sottraendola a processi esclusivi.È  questa  una  delle  ragioni  che  giustificanol’attenzione  crescente  che  il  costituzionalismocontemporaneo riserva alle  questioni della  re-golamentazione della tecnologia e dell’I.A.. Rap-presentando oggi  una forma di  potere, infatti,l’Intelligenza Artificiale non può che sollecitarel’attenzione di  una disciplina che trova la pro-pria ragione di essere nell’obiettivo, duplice, diporre argini ai poteri che determinano condizio-ni  di  vulnerabilità  e  di  promuovere  strumentiche siano potenzialmente in grado di contribui-re alla piena realizzazione della persona umana.A partire da queste riflessioni, BioLaw Journal –Rivista  di  BioDiritto ha  proposto,  all’inizio  diquest’anno, una call for papers volta ad analiz-zare, anche in chiave interdisciplinare, le com-plesse relazioni che si sono descritte.I contributi selezionati sono stati raccolti in tregruppi tematici.Nel primo (Dell’esistenza e delle forme della vul-nerabilità) sono confluiti i saggi caratterizzati daun respiro più ampio,  per la maggior parte dinatura giusfilosofica che, muovendo da riflessio-ni intorno all’esistenza della vulnerabilità (Cor-radi), all’analisi concettuale delle sue molteplicidimensioni (il senso universale e quello partico-lare,  l’approccio  categorizzante e  quello  situa-zionale, di cui tratta Dadà), passano per indaginicirca  la  necessarietà  di  un  discorso  intornoall’etica  dell’IA  e  al  grado  di  effettività  dellostesso, giungendo a posizioni conclusive vicine,ma in  parte  distoniche,  che  riferiscono da  unlato del  bisogno di  integrare ragionamenti so-ciali  di  ampia portata,  al fine di  garantire unosviluppo  tecnologico  inclusivo  (Carnevale)  edall’altro  di  una  marcata  e  forse  insuperabileincompatibilità  tra la  struttura ontologica  pre-supposta dalla vulnerabilità, da una parte, e daisistemi di intelligenza artificiale, dall’altra (Cor-radi). Poggiando su questi presupposti teorici del di-battito,  altri  autori  indagano,  in  analoga  pro-spettiva,  i  contenuti  di  uno  dei  principali  attinormativi intervenuti sul tema: il Regolamentodell’Unione  Europea  sull’Intelligenza  Artificiale(Regolamento  (UE)  2024/1689).  Il  vaglio  dellepiù significative ricorrenze del concetto di vul-nerabilità nel testo e l’analisi delle sue principalivariazioni (Dadà e Galli Novelli) fanno emergere,da un lato, l’approccio parziale della normativaeuropea, che sembra focalizzarsi su alcune for-me particolari di vulnerabilità, tralasciandone ilsenso universale, che rimane relegato all’impli-cito (Dadà). Al tempo stesso, però, emerge an-che l’esigenza forte di non rinunciare a trovareun aggancio e una collocazione del concetto an-che all’interno dell’AI Act, che potrebbe realiz-zarsi  attraverso  un’interpretazione  ampia  delriferimento a una “specific social situation” con-tenuto nell’art. 5(b) (Galli - Novelli). Un  terzo  contributo  (Nardocci),  a  chiusura  diquesto gruppo,  mette a  confronto i  contenutidell’AI Act, nato come tentativo di regolamenta-zione di un prodotto, con l’obiettivo primario dimigliorare il  funzionamento del mercato inter-no, con un altro atto, la Framework Conventionon Artificial Intelligence, Human Rights, Demo-cracy and the Rule of Law, recentemente adot-tata nel contesto europeo in seno al Consigliod’Europa,  un organismo internazionale che dasempre mette la tutela dei diritti fondamentalial centro del suo agire.Un secondo gruppo di  scritti (Dei  luoghi  dellavulnerabilità) trova radice comune nel fatto divolgere l’attenzione a contesti particolari, a set-tori paradigmatici all’interno dei quali la vulne-rabilità si manifesta con evidenza estrema ed èdestinata  a  entrare  in  relazione  sempre  piùEditorial3Vulnerabilità e Intelligenza ArtificialeBioLaw Journal – Rivista di BioDiritto, Special Issue  1/2024Downloaded from www.biodiritto.org.ISSN 2284-4503BioLaw Journal – Rivista di BioDiritto, Special Issue 1/2024stretta con le tecnologie dell’I.A. Fra tutti questi,ovviamente, il mondo della rete e lo spazio digi-tale offrono interessanti spunti di riflessione chemettono in luce almeno due forme di vulnerabi-lità nuove e spesso inconsapevoli: da un lato, lavulnerabilità individuale e sociale di tutti coloroche  vivono una  parte  sempre  più  consistentedelle  proprie  esistenze  in  uno spazio  virtuale,gestito da poteri economici e sociali le cui formedi controllo  e limitazione devono ancora essereaffinate  (le  social  platforms di  Di  Majo).Dall’altro,  sono  ormai  emersi  con  chiarezza  iprofili di forme di vulnerabilità tecnologica, de-terminate  dal  diffondersi  delle  minacce  infor-matiche, al contenimento delle quali  l’IA sem-bra  poter  attivamente e  positivamente contri-buire, purché il diritto si apra a un approccio in-tegrato che coinvolga  tecnologia,  normativa ecooperazione tra gli  stakeholder (l’analisi  gius-informatica di Brighi). Il  collegamento  stretto  fra  virtuale  e  digitaleemerge, infine, in un ulteriore spazio, che è fisi-co,  ma  tecnologicamente  intriso,  quello  dellesmart  cities,  un  luogo nel  quale  i  fondamentidell’identità, dell’autonomia, della libertà e del-la responsabilità sono sottoposti a tensione, im-ponendo di riconsiderare attentamente il sensostesso dell’essere cittadini (Vignola). Altrettanto significativo,  seppure più  specifico,pare  il  contesto  medico-sanitario  che  è  statoattraversato  in  pieno  dalla  rivoluzione  tecno-logica:  qui,  l’impatto tecnologico,  oltre  a  pre-sentare profili specifici connessi alla vulnerabili-tà digitale (si pensi alle difficili sfide del bilancia-mento tutela della salute e diritto alla riserva-tezza di dati sempre più “sensibili”), ha reso ma-nifesto e più pressante il problema delle discri-minazioni  e  delle diseguaglianze. Tale questio-ne, muovendo dalla fase dei trial clinici, passan-do  per  l’accesso  alle  cure,  fino  all’erogazionedelle stesse, sembra non essere mai stata risol-ta, e forse nemmeno sistemicamente affronta-ta. I contributi qui raccolti mettono in luce il ruolo“disvelatore” delle nuove tecnologie che, a cau-sa del loro funzionamento, basato su uno stori-co di dati raccolti, rischiano di perpetrare iniqui-tà consolidate (Cicu - Colangelo - Saba), soprat-tutto con riferimento a determinati gruppi so-ciali  (le  minoranze  etniche,  nel  contributo  diLando e le donne, in quello di Piva e di Previti).Sempre in  questa sezione,  si  è  deciso di  darespazio a un contesto particolare, quello agrico-lo, in quanto rappresentativo di alcune delle sfi-de “globali”  che  caratterizzeranno,  se  già  noncaratterizzano, le riflessioni giuridiche e costitu-zionalistiche  dei  prossimi  anni:  la  povertà  ali-mentare e i rischi ambientali, infatti, integranoforme di  vulnerabilità  sempre  più  diffuse  cheprolificano anche in ragione delle loro interse-zioni con altre forme di svantaggio sociale (DeTullio).La varietà delle situazioni che il concetto di vul-nerabilità evoca si percepisce, infine, in pienez-za guardando ai contributi raccolti nella terza eultima sezione, dedicata ai gruppi, o meglio allecategorie, di persone che presentano caratteri-stiche specifiche di fragilità (Dei volti umani del-la vulnerabilità). Qui trovano collocazione quasispontanea le analisi dedicate ai rischi della di-scriminazione  algoritmica  che,  in  ragione  deimeccanismi di funzionamento stesso della tec-nologia, basata su set di dati organizzati, rischiadi rinforzare categorizzazioni più o meno palesie leggibili o di crearne di nuove. In questo sen-so,  ai  contributi dedicati,  in  termini  differenti,alle  questioni di genere, che interessano uomi-ni e donne (Pulito, Viggiani, Gambatesa), ma an-che le persone trans (Di Giovanni), si affiancano,nelle pagine che seguono, stimolanti riflessioniche indagano meccanismi di esclusione espliciti,come quelli  che si  determinano alla  frontiera,Editorial 4 Lucia Busatta, Marta Fasan, Costanza Nardocci, Simone Penasa, Sergio Sulmicelli, Marta TomasiBioLaw Journal – Rivista di BioDiritto, Special Issue 1/2024  Downloaded from www.biodiritto.org.ISSN 2284-4503dove i  controlli  sono sempre più di  frequentebasati su strumenti di riconoscimento biometri-co (Nobile), o impliciti, che determinano situa-zioni di marginalità (o vulnerabilità) che posso-no essere date, per esempio, dall’appartenenzaa un determinato gruppo linguistico (Morganti -Zuaro) o, addirittura, a un gruppo di consumato-ri identificato sulla base di criteri di classificazio-ne discriminatori (Curcuruto - Inturri).Seguono,  infine,  stimolanti  riflessioni  intornoalle complesse sfide dei processi di costruzionedi identità personale che interessano – seppurein termini diversi – i minori di età (Maccabiani,Pileggi e Vadalà), le persone con disabilità (Pa-gnanelli) e le persone trans (ancora Di Giovannie Ciccarella - Fortuna - Lambiase - Mogetti), sfi-de che impegnano i poteri pubblici e privati alpari delle esigenze di fornire loro adeguata pro-tezione e tutela.L’insieme composito di questi studi dedicati allavulnerabilità fa emergere, con evidenza, il valo-re irrinunciabile della diversità, al quale le socie-tà fondate sui  valori  del  costituzionalismo de-mocratico  non  possono  rinunciare  in  nomedell’esigenza di rendere computabile e classifi-cabile la realtà.Senza alcuna pretesa di completezza, la presen-te  Special  Issue,  rivela  il  valore  fecondo dellanozione  di  vulnerabilità.  Sebbene  la  maggiorparte  dei  contributi  sia  dedicato  a  un  profilospecifico  di  fragilità,  l’accento  che  ciascunopone  sulla  parzialità  del  proprio  sguardo,sull’esigenza di aprirsi a un approccio intersezio-nale, che sia capace di coordinare più vulnerabi-lità e di sciogliere la rigidità di alcune categorie,fa pensare che, per avvicinarsi a un tentativo dicomprensione del tema, sia indispensabile guar-dare alla complessiva condizione umana e met-tere a sistema più fattori.  Un obiettivo che, infin  dei  conti,  le  strutture  dell’IA  potrebberoaiutare a perseguire.

Vulnerabilità e Intelligenza Artificiale

https://air.unimi.it/bitstream/2434/1158014/2/01.Editoriale.pdf

Vulnerabilità e Intelligenza Artificiale

Abstract

Similar works

Full text

Available Versions

AIR Universita degli studi di Milano