Scarica Diritto dell'informatica e più Appunti in PDF di Diritto solo su Docsity!
Diritto privato dell’informazione
LIBRO CAP 1-
CAP 1
1.1 Ricerca giuridica e discriminazione tecnologica
L'introduzione delle tecnologie informatiche, in particolare a partire dal passaggio al nuovo millennio, ha portato il diritto civile ad affrontare nuove sfide. La trasformazione ha toccato diversi ambiti, come quello patrimoniale, il quale riguarda la distinzione tra soggetto e oggetto di diritti, la libertà negoziale, la protezione dei contraenti più deboli e la relazione tra responsabilità e imputabilità. Le tecnologie hanno anche inciso sui diritti fondamentali delle persone , come il diritto all'identità personale, alla dignità, alle libertà fondamentali e alla protezione delle persone vulnerabili, come i minori. Il diritto ha dovuto adattarsi e affrontare le problematiche sollevate dalla crescente influenza delle tecnologie, in particolare l'informatica, il trattamento e il commercio dei dati. Inizialmente, il focus giuridico si è concentrato sulla protezione dell'identità e della privacy, ma col tempo si è preso atto anche del valore economico dei dati personali, che sono diventati oggetto di scambi, e della necessità di proteggere le persone che, non potendo permettersi di pagare per salvaguardare la propria privacy, sono costrette a cedere i propri dati in cambio di servizi. Un degli argomenti più importanti in questo campo è la diffusione dei big data e la loro elaborazione tramite algoritmi di intelligenza artificiale, che hanno portato a gravi preoccupazioni per le libertà e i diritti fondamentali. Uno dei principali rischi è l'uso discriminatorio degli algoritmi. Per esempio, in ambito sanitario, l'algoritmo utilizzato negli Stati Uniti per stimare il rischio sanitario ha penalizzato le persone afroamericane, attribuendo loro minori risorse sanitarie non per una reale necessità, ma a causa di vari fattori socioeconomici legati alla classe sociale e alle disuguaglianze nell'accesso alle cure. Un altro esempio di discriminazione algoritmica riguarda la giustizia predittiva, come nel caso di Compas , un algoritmo utilizzato per prevedere la recidiva di crimini. In questo caso, il sistema ha mostrato dei bias (tendenza) nei confronti delle persone di origine afroamericana, rischiando di applicare previsioni ingiuste in base ai dati di addestramento. L'uso di algoritmi per determinare percorsi professionali, come nel caso dell'algoritmo usato in alcune scuole italiane per consigliare gli studenti sulla scelta del percorso scolastico, ha mostrato come questi strumenti possano perpetuare discriminazioni. Gli algoritmi basati su risposte a questionari possono creare carriere predeterminate in base a stereotipi, e ciò risulta particolarmente dannoso per le famiglie meno informate che non hanno risorse culturali per comprendere i limiti di tali previsioni. Nel contesto della ricerca del lavoro, gli algoritmi utilizzati da Google Ads hanno dimostrato che le posizioni di lavoro più prestigiose e con stipendio più elevato sono proposte maggiormente agli utenti che hanno dichiarato di appartenere al genere maschile. Analogamente, nel motore di ricerca immagini, le professioni apicali vengono rappresentate principalmente da uomini, rafforzando stereotipi di genere. Inoltre, gli algoritmi di riconoscimento facciale hanno mostrato di essere meno efficaci sui volti femminili e di pelle scura, con conseguente rischio di discriminazione razziale. Un altro esempio è l'algoritmo utilizzato in Polonia nel 2014 per il collocamento lavorativo, che discriminava le persone malate, le madri single e chi viveva nelle zone rurali, dando loro punteggi bassi basati su dati storici che riflettevano discriminazioni passate. L'algoritmo ha
rafforzato pregiudizi sociali già esistenti, e la sua applicazione è stata successivamente vietata dalla Corte Costituzionale polacca. In Spagna, l'algoritmo VioGén utilizzato per identificare il rischio di recidiva nella violenza domestica ha mostrato previsioni errate, classificando erroneamente donne a rischio basso o nullo, alcune delle quali sono poi state vittime di femminicidio. In questi casi, i dati raccolti e utilizzati dagli algoritmi non solo erano distorti, ma la loro applicazione ha avuto effetti tragici. Anche nell'ambito del social scoring , che misura il comportamento delle persone per determinare l'accesso a prestazioni sociali o assistenziali, gli algoritmi rischiano di penalizzare chi si trova in condizioni sociali e economiche svantaggiate, basandosi su dati storici che possono non riflettere accuratamente la realtà di ciascun individuo. In Olanda, per esempio, il sistema algoritmico usato per individuare frodi nei sussidi per l'infanzia ha discriminato cittadini con doppia cittadinanza o non olandesi, causando danni economici e sociali. Simili discriminazioni sono emerse con il sistema SyRI (System Risk Indication), utilizzato per rilevare frodi nei sistemi previdenziali, che ha finito per stigmatizzare intere comunità a causa dei dati socio-economici e della storia migratoria. In ambito medico, l'uso di algoritmi per diagnosticare patologie a partire dai dati raccolti tramite TAC e risonanza magnetica ha sollevato il problema dei bias nei dati. Questi bias possono essere di diverso tipo, come il bias di minoranza , che si verifica quando i dati raccolti non rappresentano adeguatamente tutte le popolazioni. Questo può portare a diagnosi errate, con il rischio che malattie rare non vengano rilevate o che alcuni gruppi sociali, come le donne o le minoranze etniche, ricevano diagnosi meno accurate. Infine, un'altra preoccupazione riguarda i bias di algoritmo che derivano dalla scelta dei dati di addestramento, che possono essere distorti e non rappresentativi della realtà, e che perpetuano disuguaglianze sociali. La mancata trasparenza nei modelli algoritmici e l'uso di "scatole nere" (black box) rende difficile capire come vengono prese le decisioni, aumentando il rischio di applicare ingiustizie o discriminazioni. In conclusione, nonostante la potenzialità degli algoritmi e dell'intelligenza artificiale di portare a miglioramenti in vari settori, è fondamentale monitorare il loro impatto sociale, per evitare che contribuiscano a rafforzare discriminazioni e disuguaglianze. Gli strumenti statistici possono essere utilizzati per valutare l'equità degli algoritmi, e le istituzioni devono assumersi la responsabilità di garantire che vengano utilizzati in modo corretto, con un adeguato processo di supervisione, verifica e formazione del personale.
1.2 Dati neurali e neuro diritti
Il Cile è stato il primo paese a inserire l' attività cerebrale tra i diritti protetti dalla Costituzione nel 2021. Questo in seguito alla decisione della Corte Suprema di fermare la vendita di un caschetto della Emotiv , che raccoglie dati sull'attività cerebrale dell'utente per monitorare attenzione, stress e altre condizioni mentali. Questi dati vengono archiviati nel cloud e possono essere utilizzati per sviluppare algoritmi, ma la società raccoglie anche una licenza gratuita per condividerli con terzi, suscitando preoccupazioni sulla privacy. Il dibattito legale riguarda se i dati cerebrali possano essere considerati personali, visto che potrebbero essere identificabili in futuro con l'evoluzione tecnologica. Si teme anche l'uso discriminatorio di questi dati, come da parte di datori di lavoro o compagnie assicurative, che potrebbero basarsi su marker biologici e neurologici per fare scelte economiche o lavorative. L'uso di neurotecnologie solleva anche rischi di sicurezza, come hacking e manipolazione dei dati cerebrali, e questioni legali relative alla volontà e alla responsabilità degli individui.
normativa dell'Unione Europea o per attuare provvedimenti legali, come nel caso dei sistemi di parental control, che possono comportare la limitazione di accesso a determinati contenuti per proteggere i minori. In Italia la neutralità della rete è sancita dalla Carta dei Diritti in Internet e dal Decreto Legislativo 207/2021 , che recepisce la Direttiva 2018/1972/UE. Questa normativa, oltre a garantire la neutralità della rete, sottolinea l'importanza della non discriminazione tecnologica, evitando l’imposizione di una tecnologia a scapito di altre. Si tratta di un principio che non impone l’adozione di tecnologie specifiche, ma permette misure ragionevoli per promuovere determinati servizi, indipendentemente dalla tecnologia utilizzata. Le problematiche relative alla neutralità della rete si intersecano con le dinamiche economiche globali, dove le grandi aziende tecnologiche, come Google, Amazon, Facebook, Apple e Microsoft, esercitano un potere significativo. Tali fattori influenzano l'accesso ai contenuti e ai servizi online, creando disuguaglianze non solo tra i Paesi, ma anche tra i vari gruppi di utenti. Ad esempio, l’iniziativa Free Basics di Facebook , che mirava a offrire accesso gratuito a una selezione di contenuti, ha suscitato preoccupazioni sul fatto che tale approccio potrebbe limitare la libertà di accesso a Internet, creando un sistema di “accesso parziale” dove solo alcuni contenuti sono gratuiti, mentre altri sono a pagamento. Nel contesto internazionale, le disparità nell'accesso a Internet sono evidenti: in alcune regioni del mondo, come l'Europa settentrionale, la connessione è praticamente universale, mentre in altre, come l’Africa orientale, solo una percentuale esigua della popolazione ha accesso alla rete. Le velocità di connessione sono anche notevolmente inferiori nelle regioni più povere, creando un divario nell'accesso alle risorse educative e informative. Inoltre, il consumo energetico di Internet, specialmente a causa dell’intelligenza artificiale e dei suoi sviluppi, rappresenta un altro aspetto preoccupante, poiché i Paesi in via di sviluppo, da cui provengono molte delle risorse necessarie per la produzione dei dispositivi tecnologici, subiscono le esternalità negative di un progresso tecnologico da cui sono, tuttavia, in larga parte esclusi. In risposta alle problematiche della neutralità della rete e dell'eccessiva concentrazione di potere nelle mani di pochi, Tim Berners-Lee, l'inventore del World Wide Web, ha lanciato nel 2019 una proposta di “contratto per il web” rivolto ai governi, alle aziende e ai cittadini. L’obiettivo di questo contratto è di mantenere Internet aperto e accessibile a tutti, proteggendo la privacy degli utenti, garantendo il rispetto dei diritti fondamentali e facendo in modo che l'accesso a Internet non sia limitato o manipolato da grandi aziende o governi. Il contratto di Berners-Lee cerca di affrontare anche le asimmetrie che inevitabilmente esistono nella rete, ma propone che queste disuguaglianze non danneggino gli utenti, mettendo al centro il controllo individuale sui propri dati personali. Sebbene la proposta sollevi discussioni su come la regolamentazione e l'autoregolamentazione possano funzionare efficacemente, gli sviluppi tecnologici e le sfide della privacy e della sicurezza digitale sono ancora al centro del dibattito globale, come dimostrano le preoccupazioni espresse dall'Internet Society nel suo Global Internet Report del 2019.
1.4 Diritti e libertà fondamentali digitali
Internet rappresenta ancora un luogo di aspirazione per i diritti e le libertà digitali, includendo principi fondamentali sanciti da Carte costituzionali e trattati internazionali, declinati nell'ambito digitale. Tra questi spiccano la libertà di espressione, la neutralità della rete e la lotta contro la censura online. Nei Paesi democratici, la rete ha ampliato l’accesso alle informazioni, riducendo le distanze sociali; nei regimi totalitari, ha permesso la denuncia di crimini altrimenti nascosti.
Tuttavia, questa libertà deve essere bilanciata con il controllo dell’informazione per prevenire la diffusione di fake news, che nell’era digitale possono avere gravi conseguenze. La moderazione dei contenuti, però, rischia di trasformarsi in censura, come dimostra l’esperienza della Malesia con l’Anti Fake-News Bill del 2018. Questa legge, abrogata nel 2019, era stata utilizzata per oscurare notizie critiche verso il primo ministro Najib Razak, accusato di corruzione. Un ulteriore esempio di criticità è stato documentato nel rapporto del 2022 dell’organismo Business for Social Responsibility (BSR) sulla gestione dei contenuti da parte di Meta. Durante la crisi Israele-Palestina del 2021, l’algoritmo di moderazione ha bloccato contenuti in lingua araba per confusione tra il termine Alaqsa (associato alla moschea di Gerusalemme) e la brigata terroristica Al Aqsa, violando diritti umani come la libertà di espressione, riunione e partecipazione politica. Sul fronte normativo, sono emerse proposte legislative come il d.d.l. S. 2688 (XVII legislatura), che punta a garantire trasparenza sul web, prevenire la manipolazione delle informazioni e promuovere l’alfabetizzazione mediatica, e il d.d.l. S. 634, volto a contrastare l’istigazione all’odio e alla discriminazione tramite modifiche al codice penale. Inoltre, si discute l’introduzione di sistemi di autenticazione digitale basati su dati univoci per identificare autori di contenuti, proteggere i minori e combattere i discorsi d’odio. Tali soluzioni, però, pongono rischi significativi: la sottrazione di dati di identificazione potrebbe consentire attività illecite come il furto di identità e l'accesso al patrimonio digitale degli utenti, evidenziando l’urgenza di un equilibrio tra sicurezza, libertà e privacy nell’era digitale.
1.5 Anonimato in rete e protezione dei dati personali
La protezione dei dati personali, e in particolare l'anonimizzazione, è vista come uno strumento fondamentale per garantire i diritti e le libertà individuali. L'anonimizzazione, infatti, implica che i dati che non possano essere ricondotti a una persona, né direttamente né indirettamente, non sono soggetti al GDPR, che si applica solo ai dati personali identificabili. Questo principio di minimizzazione dei dati, sancito dall'art. 5, par. 1, lett. c) del GDPR, è finalizzato a proteggere la privacy delle persone, limitando la raccolta e l'uso dei dati solo a ciò che è strettamente necessario. In Europa, l'anonimato è associato a un diritto più ampio alla privacy, che protegge lo sviluppo della personalità e la dignità umana, come stabilito dall'art. 3, 7 e 8 della Carta dei diritti fondamentali dell'UE, e dagli articoli 8 e 9 della Convenzione Europea dei Diritti dell'Uomo. La tutela dell'anonimato è anche riconosciuta in contesti specifici, come per le partorienti (art. 30 del d.P.R. n. 396/2000) o i donatori di organi, e si estende alla protezione delle identità attraverso la rete, garantendo un ambiente in cui è possibile esprimersi liberamente. Tuttavia, l'anonimato non è un diritto assoluto. È soggetto a bilanciamento con altri valori, come la prevenzione del crimine, la protezione della reputazione e la difesa dei diritti fondamentali di altre persone. Le istituzioni e la giurisprudenza europea, inclusa la Corte dei diritti dell'uomo, hanno sottolineato che l'anonimato può essere limitato quando in gioco ci sono altri diritti fondamentali, come nel caso della maternità o della difesa del buon nome e della sicurezza (Corte Europea dei Diritti dell'Uomo, caso "D. v. Italy"). Nel contesto digitale, il diritto all'anonimato è talvolta contrastato dalla necessità di identificare i responsabili di atti dannosi, come contenuti diffamatori online. La Corte europea dei diritti dell'uomo ha esaminato la compatibilità di normative nazionali che impongono l'identificazione degli autori di contenuti anonimi, suggerendo che un tale ordine deve rispettare il bilanciamento tra i diritti alla libertà di espressione e alla reputazione (Corte
e dati. Non interpretano il significato, non hanno consapevolezza, e questo pone dei limiti al loro utilizzo e solleva interrogativi su come debbano essere regolati per evitare rischi o abusi.
2.2 Vergogna prometeica e scenari distopici
C'è qualcosa di inquietante nel modo in cui la tecnologia si sta evolvendo, come se avessimo aperto una porta che non possiamo più chiudere. Pensiamo a come Prometeo, nel mito, ha portato il fuoco all'umanità, offrendo un potere straordinario che però, alla lunga, ha portato con sé anche un carico di vergogna. L'uomo, inizialmente privo di risorse naturali, ha trovato nel fuoco la sua forza, ma con il tempo ha cominciato a sentirsi inferiore, soprattutto di fronte alla perfezione delle macchine che lui stesso ha creato. Le macchine, che dovrebbero essere al servizio dell'uomo, finiscono per superarlo, e l'uomo si trova a confrontarsi con la propria imperfezione, come se la sua stessa capacità di creare fosse diventata una condanna.Questa sensazione di vergogna e impotenza è particolarmente evidente nei dibattiti attuali sulla singolarità tecnologica, l'idea che le intelligenze artificiali possano un giorno superare l'intelligenza umana, portando l'umanità a un punto di non ritorno. È una visione apocalittica, ma che inizia a sembrare sempre più realistica man mano che la tecnologia avanza a ritmi esponenziali. La domanda che sorge spontanea è: cosa succederà quando le macchine diventeranno più intelligenti di noi? Cosa accadrà quando non riusciremo più a controllarle? Nel mentre, la creazione di robot sempre più simili agli esseri umani, come gli androidi o i robot sociali, solleva ulteriori questioni. L'idea che possiamo sviluppare macchine che sembrano umane e che interagiscono con noi come se fossero persone, ci fa riflettere su cosa significhi essere "umani" in primo luogo. I robot progettati per essere empatici o affettuosi, come nel caso dei robot caregiver come Paro, sembrano essere la risposta alla nostra solitudine e al nostro bisogno di compagnia senza le complicazioni che derivano dalle interazioni con altre persone. Eppure, dietro questi robot c'è solo un'illusione, una simulazione che non può mai essere realmente genuina.Il concetto di uncanny valley, che descrive il disagio che proviamo quando qualcosa sembra umano ma non abbastanza, è fondamentale per comprendere quanto siamo disposti ad accettare. Quando un robot si avvicina troppo all'aspetto e al comportamento umano, ma qualcosa non va, come il fatto che la sua mano sia fredda o si muova in modo innaturale, la reazione istintiva è di rifiuto. È come se ci rendessimo conto che quella "umanità" è solo una facciata, e il nostro istinto ci avverte che qualcosa non va. Ma la cosa più interessante è che, nonostante tutti questi segnali di disturbo, continuiamo a sviluppare e ad affidarci a robot sempre più simili agli esseri umani. La nostra capacità di antropomorfizzare – di vedere emozioni e intenzioni umane in oggetti o macchine – sembra essere irresistibile. E questo comportamento, che in qualche modo è naturale per noi, sta cambiando il nostro modo di interagire con la tecnologia. I robot sociali, che sono programmati per sembrare amichevoli e compassionevoli, ci permettono di relazionarci con loro in un modo che sembra soddisfare un bisogno umano profondo: la compagnia senza i conflitti che a volte sorgono nelle interazioni con altri esseri umani. In fondo, ci stiamo chiedendo se la tecnologia, piuttosto che essere una minaccia, possa effettivamente aiutarci a migliorare la nostra vita sociale e a capire meglio noi stessi. Non è più solo una questione di paura del progresso tecnologico, ma anche di come possiamo integrare queste nuove forme di intelligenza e di "vita" artificiale nelle nostre esperienze quotidiane. E se l'umanità, invece di essere sopraffatta dalla tecnologia, potesse imparare a co-evolvere con essa, creando una sinergia che ci renda capaci di migliorare la nostra comprensione morale e sociale? In fondo, i robot sociali, se sviluppati con un'etica sintetica
e una personalità che li renda familiari, potrebbero davvero trasformarsi in compagni che ci aiutano a evolverci, piuttosto che a soccombere.
2.3 Verso uno statuto etico per l'intelligenza artificiale: l'A.I Act europeo
L'intelligenza artificiale non è una tecnologia neutrale, poiché ogni scelta progettuale implica responsabilità etiche e morali. L’idea che sia solo l’uso a determinarne gli impatti ignora il ruolo fondamentale della progettazione: ogni decisione degli sviluppatori influenza l'impatto sociale e culturale della tecnologia/macchina; proprio per affrontare queste sfide, l'Unione Europea ha adottato nel 2023 l' Artificial Intelligence Act , un regolamento che introduce un sistema normativo basato su una classificazione dei rischi. Questo quadro distingue tra applicazioni a rischio vietato, ad alto rischio e a rischio minimo o nullo, con misure calibrate per ciascun livello. L’AI act vieta alcune cose come pratiche considerate lesive dei diritti fondamentali, come la manipolazione subliminale, il social scoring e il riconoscimento biometrico senza consenso. I sistemi ad alto rischio, utilizzati in settori sensibili come sanità, istruzione e sicurezza, richiedono una rigorosa valutazione di impatto. Questa misura assicura che i sistemi siano conformi a standard di trasparenza, sicurezza e protezione dei dati, oltre a garantire la supervisione umana per prevenire discriminazioni e danni. L'Artificial Intelligence Act riconosce inoltre la necessità di applicare standard internazionali come la ISO/IEC 22989 Information Technology, Artificial Intelligence, Artificial Intelligence Concepts and Terminology, che fornisce linee guida per definire i concetti chiave e armonizzare il linguaggio tecnico sull'I.A. Questo standard è fondamentale per garantire coerenza e affidabilità nel design e nella valutazione dei sistemi. Per le applicazioni a rischio minimo o nullo, come sistemi di raccomandazione o chatbot non critici, il regolamento prevede requisiti più leggeri, promuovendo un uso responsabile senza ostacolare l’innovazione. Il regolamento si basa su principi di etica, responsabilità e promozione del benessere sociale, proponendo una visione dell'I.A. che non vede l'etica come un freno, ma come un elemento centrale per un'innovazione sicura e sostenibile. L'Unione Europea mira a bilanciare sviluppo tecnologico e tutela dei diritti fondamentali, affrontando le sfide presenti e future per garantire che l'I.A. operi nel rispetto dei valori democratici e del benessere collettivo.
2.4 Decisione automatizzata e trattamento dei dati personali
La Direttiva UE n. 680/2016 , che riguarda la protezione dei dati personali trattati dalle autorità competenti per scopi legati alla prevenzione, indagine e perseguimento di reati, stabilisce chiaramente che non si può prendere una decisione basata esclusivamente su un trattamento automatizzato (come un algoritmo ad esempio che restituisce gli identificativi di persone sospette per reati, ci deve essere appunto l’intervento umano), compresa la profilazione, se questa produce effetti legali negativi o impatti significativi sull’individuo. Tuttavia, prevede eccezioni qualora tale decisione sia autorizzata dalla legge dell'Unione Europea o dello Stato membro e garantisca adeguate tutele per i diritti e le libertà dell'interessato. Questa posizione riflette l’esigenza di equilibrio tra l'utilizzo della tecnologia e la protezione dei diritti fondamentali, condivisa anche dalle linee guida dell' HLEG (High-Level Expert Group on Artificial Intelligence) della Commissione Europea, che enfatizzano come i sistemi di intelligenza artificiale debbano sostenere l’autonomia umana e non ridurla. Allo stesso modo, il GDPR, nel suo articolo 22, fornisce la possibilità di intervenire umanamente anche in quei casi in cui il trattamento automatizzato è consentito.In questo contesto, la Corte di Cassazione ha stabilito che, quando il trattamento dei dati si basa su un algoritmo, è necessario che l'interessato abbia un consenso esplicito,
mantenendo il sistema giuridico ancorato ai principi della responsabilità per fatto altrui (articolo 2049 del Codice Civile).
2.6 Progetti di direttive europee sulla responsabilità per danni causati da
intelligenza artificiale
Direttive europee : atto giuridico che stabilisce un obiettivo che i paesi dell'UE devono conseguire, spetta ai singoli paesi definire attraverso disposizioni nazionali come conseguirlo. I progetti di direttive europee sulla responsabilità per danni causati da intelligenza artificiale (IA) affrontano una questione fondamentale in un contesto giuridico sempre più influenzato dalla tecnologia. Le normative proposte cercano di rispondere alla necessità di stabilire chi debba essere ritenuto responsabile per danni derivanti dall'uso di sistemi di IA, considerando la difficoltà di attribuire la responsabilità direttamente alla macchina stessa. In questo scenario, vengono coinvolti i produttori, gli sviluppatori e i fornitori di tali tecnologie. Uno dei principali riferimenti normativi è la Direttiva 85/374/CEE (CEE: comunità economica europea) sulla responsabilità per danno da prodotto difettoso. Questa direttiva è stata ampliata per includere non solo i prodotti fisici, ma anche il software, come parte integrante dei prodotti che possono causare danni. Il campo di applicazione si estende ai sistemi di IA, in particolare quelli utilizzati in prodotti complessi come i veicoli autonomi, dove il software di IA è un elemento cruciale per il funzionamento del prodotto. La direttiva stabilisce che i produttori devono garantire che i loro prodotti, inclusi i software, siano privi di difetti che possano causare danni alla salute o alla sicurezza degli utenti. Inoltre, i danni causati da malfunzionamenti o difetti nei sistemi IA devono essere risarciti dal produttore, in particolare se questi hanno avuto un ruolo determinante nel causare il danno. Un altro quadro normativo rilevante è quello della Direttiva 2000/31/CE sull'e-commerce, che stabilisce regole fondamentali per le attività online e per la responsabilità dei fornitori di servizi digitali, ltra cui le piattaforme che utilizzano IA per la gestione dei dati degli utenti o per l'interazione con i clienti. L'introduzione di regole più rigorose in relazione alla responsabilità dei fornitori di IA si inserisce in questa normativa, con l'intento di proteggere i consumatori da danni derivanti da sistemi digitali che utilizzano IA in modo scorretto o inadeguato. Inoltre, si prevede l'introduzione di una Direttiva sulla responsabilità extracontrattuale per i danni causati da sistemi di IA, che punta a stabilire una responsabilità presunta per i fornitori in caso di danni derivanti da una loro negligenza. Se un fornitore non rispetta le normative di sicurezza o non fornisce informazioni complete sui rischi connessi all'uso del sistema di IA, la responsabilità viene automaticamente attribuita al fornitore (produttore). Questa proposta integra anche la Direttiva 2019/770/UE sui contratti di fornitura di contenuti digitali e servizi digitali, che si concentra sulla protezione dei consumatori riguardo ai difetti dei contenuti digitali, tra cui i software di IA. Queste direttive sono complementari (si integrano reciprocamente) e mirano a creare un quadro normativo solido che bilanci la promozione dell'innovazione con la protezione degli utenti. L'intento è quello di assicurare che le tecnologie IA siano sviluppate in modo sicuro e che i danni derivanti dal loro uso improprio o difettoso siano compensati in maniera adeguata, incentivando così il mercato e migliorando la fiducia degli utenti.
2.7 Responsabilità per lo sviluppo e l'applicazione di sistemi di radiomica nella
medicina personalizzata
CIT:
● art. 3.2 dell’ A.I. Act ● l. 8-3-2017 , n. 24 (c.d. Gelli-Bianco ) ● l. 22-12-2017 , n. 219
La radiomica rappresenta un campo promettente nella medicina di precisione , grazie all’uso dell’ intelligenza artificiale per analizzare pattern complessi che derivano da immagini radiologiche quantitative (come M.R.I. , P.E.T. , T.C. e R.X. ). In particolare, attraverso la Quantitative Imaging Biomarkers Alliance (QIBA) , si estraggono numerosi descrittori (informazioni) da un’immagine radiologica per costruire modelli diagnostici, predittivi e prognostici. I modelli costruiti possono basarsi, cioè essere addestrati secondo vari approcci: ● Approccio quantitativo : si usano numeri e dati per avere valutazioni precise e oggettive. ● Approccio classico qualitativo : si basa sull'interpretazione tradizionale dell'immagine, ma può essere supportato da sistemi di deep learning. ● Approccio "deep" : qui è la rete neurale stessa che identifica automaticamente i dettagli importanti (marcatori) da analizzare, senza intervento umano diretto.
La sperimentazione di tali sistemi, già applicati nella pratica clinica, ha raggiunto un’elevata accuratezza nell’identificare organo , sottozone e possibili lesioni maligne, assegnando uno score di gravità spesso più attendibile delle valutazioni esclusivamente umane. Tuttavia, emerge una crescente fame di dati per l’addestramento degli algoritmi, con conseguenti problematiche di affidabilità , accuratezza e sicurezza nelle biobanche di immagini. Inoltre, il medico si trova a scegliere se affidarsi ai risultati del software — senza conoscerne le ragioni interne — o se discostarsene e svolgere un’analisi personale, pur sapendo che l’errore del sistema è statisticamente improbabile. A norma della l. 8-3-2017, n. 24 (c.d. Gelli-Bianco), l’esercente di una professione sanitaria risponde dei danni ai sensi dell ’art. 2043 c.c ., tenendo conto del rispetto delle linee guida o, in mancanza, delle buone pratiche (art. 590 c.p.). Il suggerimento algoritmico potrebbe essere considerato linea guida o buona pratica , aprendo la strada alle presunzioni introdotte dall’ AILD a favore del paziente. Tali presunzioni riguardano anche il fornitore del sistema di I.A., definito dall’art. 3.2 dell’ A.I. Act , che deve dimostrare di aver rispettato obblighi di diligenza , trasparenza , qualità dei dati di addestramento , supervisione umana, accuratezza, robustezza e sicurezza informatica. In caso di azione aquiliana contro il medico (utente professionale), il danneggiato deve provare l’uso non conforme del sistema radiomico o l’addestramento con dati non pertinenti. L’opzione interpretativa risulta coerente con la l. Gelli-Bianco — che esclude forme speciali di responsabilità (art. 2048 c.c.) — e mira a contrastare la medicina difensiva. È ipotizzabile anche un’azione contro la struttura sanitaria qualora impieghi sistemi di I.A. privi di adeguato aggiornamento , manutenzione o personale adeguatamente formato. Secondo la l. 22-12-2017, n. 219 (sul consenso informato e le disposizioni anticipate di trattamento), il paziente ha diritto a un’informazione completa, chiara e comprensibile per poter esercitare il proprio diritto all’autodeterminazione nelle scelte mediche .Il paziente ha diritto a sapere: ● Il grado di autonomia del sistema di I.A. (cioè quanto "decide" senza intervento umano). ● L’opacità (quanto è comprensibile il funzionamento del sistema). ● L’incontrollabilità (quanto le decisioni del sistema possono essere verificate o modificate). Se questa informazione non viene fornita in modo esaustivo:
possono godere di protezione brevettuale, a meno che la loro applicazione tecnica non risolva un problema concreto e innovativo.
2.9 Giustizia digitale e cyber giustizia: la calcolabilità del ragionamento
giuridico
L'intersezione tra intelligenza artificiale e diritto investe numerosi settori, tra cui l' amministrazione della giustizia. L’amministrazione della giustizia , comprende sistemi di ausilio:
- ai servizi legali (consulenza, analisi contrattuale, controllo atti, compilazione ricorsi)
- all’assunzione delle prove
- alla ricerca di fonti normative e giurisprudenziali
- alla formazione delle prove (come la giustizia predittiva) che mira ad automatizzare le decisioni giudiziali o amministrative.
I sistemi di giustizia predittiva usano la statistica per trovare collegamenti tra le decisioni prese in passato, ma non si preoccupano di capire a fondo del perché di quelle decisioni o l'ordine di importanza delle leggi. Rintracciare regolarità nel ragionamento del giudice non garantisce l'applicazione della legge, ma solo regolarità statistiche. Questi sistemi trattano il diritto come un fatto, ricercando la prevedibilità della decisione a partire dalla regolarità statistica tra dati e dispositivo delle decisioni già assunte, potendo ausiliare il processo decisionale, ma non sostituire il giudizio umano , specialmente riguardo all'obbligo di motivazione. L'analisi si concentra sulla distinzione tra due tipi di strumenti basati sull'intelligenza artificiale (IA) utilizzati nel contesto giuridico:
- Strumenti predittivi di IA ai fini decisori : Questi strumenti sono progettati per analizzare dati e fornire informazioni che possono servire come base per prendere una decisione giurisdizionale. Non determinano autonomamente il risultato, ma supportano il decisore umano offrendo un'analisi di dati utili al processo decisionale.
- Strumenti di predizione decisoria basati sull'IA : Questi strumenti, invece, sono finalizzati a prevedere in modo automatizzato l'esito di future decisioni giurisdizionali, analizzando casi precedenti e fornendo un'indicazione su come un caso simile potrebbe essere risolto. Questo processo viene spesso indicato come automated decision-making ( ADM ), ossia un processo in cui l'IA svolge un ruolo predominante o esclusivo nella previsione o nel processo decisionale. In sostanza, la distinzione principale sta nel fatto che il primo tipo di strumenti aiuta il decisore umano, mentre il secondo punta a simulare o automatizzare la decisione stessa. Un esempio è lo studio dell'University College of London sulla giurisprudenza della Corte europea dei diritti dell'uomo, che ha dimostrato come un algoritmo di apprendimento automatico possa predire l'esito di una causa (accoglimento o meno del ricorso) con un'accuratezza del 79%, ma solo rispetto alla parte descrittiva dei fatti di causa, non alla motivazione della Corte riguardo all'applicazione della Convenzione Europea sui diritti dell'Uomo. La probabilità statistica è desunta da elementi lessicali tratti dalle motivazioni delle pronunce, non dal ricorso introduttivo; l'algoritmo non riproduce l'iter motivazionale, né predice l'esito di un giudizio sulla base dei soli fatti lamentati dal ricorrente. Il sistema tratta automaticamente una grande quantità di dati, individuando correlazioni statistiche, ma non integra un autonomo processo di apprendimento e ragionamento.
La Carta europea sull'uso dell'intelligenza artificiale nei sistemi giudiziari e nei loro ambienti , elaborata dalla Commissione europea per l'efficienza della giustizia, che guida la European Cyberjustice Network del Consiglio d'Europa, critica questo esperimento. Lo studio ha analizzato le dotazioni tecnologiche, le risorse per l'informatizzazione della giustizia, il contesto normativo e la governance dei dati (un insieme di processi, politiche, standard e responsabilità che un'organizzazione mette in atto), concludendo che, sebbene la previsione delle decisioni dei giudici in materia civile, commerciale e amministrativa possa essere un vantaggio auspicabile, sono auspicabili solo alcuni usi dell'intelligenza artificiale, come l'elaborazione di tabelle (già adottate in Italia, ad esempio per il risarcimento del danno alla persona e, allo studio, per gli assegni divorzili) mediante un approccio probabilistico o attuariale. Grazie all'intelligenza artificiale, si può notare, ad esempio, che i risarcimenti per un certo tipo di danno sono mediamente più alti in una regione rispetto a un'altra, a causa del diverso costo della vita o del reddito medio. Questo non dipende dalla "bontà" di un giudice rispetto a un altro, ma da fattori oggettivi. L'IA , inoltre, può aiutare a smascherare interpretazioni legali non corrette. Sono invece lontani dall'applicazione concreta, e devono essere sottoposti al controllo dei giuristi, gli algoritmi ADM di giustizia predittiva, che si propongono di garantire la certezza del diritto e la deflazione del conflitto giudiziario, attraverso lo stimolo a transigere derivante dalla possibilità di conoscere in anticipo gli esiti dell'eventuale lite.
2.10 Progetti e prototipi di giustizia predittiva
Nel 2017, il Ministero della Giustizia francese ha avviato un esperimento di giustizia predittiva presso le Corti d'Appello di Rennes e Douai. L'obiettivo era analizzare le decisioni civili, sociali e commerciali per ridurre la variabilità delle sentenze e garantire uguaglianza di trattamento. Tuttavia, l'esperimento non ha aggiunto valore al processo decisionale e ha rivelato gravi difetti nei ragionamenti algoritmici; l’algoritmo infatti ha prodotto risultati errati o incoerenti, confondendo la semplice presenza di certe parole con i motivi effettivi delle decisioni giudiziarie. Un'iniziativa simile è stata avviata nel 2019 presso il Lider Lab della Scuola Superiore Sant’Anna di Pisa, in collaborazione con EMbeDS, KDD Lab e il Tribunale di Genova. Questo progetto utilizza il machine learning per analizzare sentenze locali, in particolare su risarcimenti del danno non patrimoniale e assegni divorzili, con l'obiettivo di identificare tendenze giurisprudenziali. Dal 2022, ho partecipato a un progetto simile presso il Dipartimento di Giurisprudenza dell’Università di Perugia, in collaborazione con il Dipartimento di Ingegneria e il Tribunale di Perugia. Abbiamo sviluppato un algoritmo rule-based per quantificare gli assegni di mantenimento nelle separazioni e nei divorzi. I dati di addestramento includono sentenze degli ultimi tre anni, analizzate per estrarre elementi di fatto rilevanti per le decisioni giudiziarie. Per il mantenimento del coniuge, l'algoritmo considera redditi netti, spese mensili e valore locativo dell'abitazione. In caso di sospetti redditi occulti, segnala un alert al giudice. Per il mantenimento dei figli, calcola il rapporto tra il reddito del genitore obbligato e il numero di figli, tenendo conto di eventuali assegni di disabilità. Il software propone un range di valori coerenti con le decisioni pregresse del tribunale e sarà potenziato con funzioni per analizzare documentazione fiscale e velocizzare le attività preprocessuali. Attualmente in fase di test presso la sezione famiglia del Tribunale di Perugia, il sistema mira a garantire coerenza nelle decisioni e favorire accordi consensuali tra le parti, migliorando la prevedibilità delle sentenze.
violazione della certezza del diritto , paradossale rispetto all'obiettivo dichiarato di migliorare l'efficienza amministrativa. L'uso degli algoritmi nelle decisioni amministrative è ammissibile solo con controllo umano ex ante , stabilendo criteri trasparenti e fornendo all'interessato spiegazioni sul funzionamento del sistema, preferibilmente in formato open source. Inoltre, le decisioni non devono basarsi su dati sensibili e il responsabile del trattamento deve poter fornire una motivazione intelligibile. La responsabilità dell'amministrazione rimane integra, anche se essa si avvale di strumenti tecnologici. Le decisioni devono conformarsi ai principi costituzionali di buon andamento e imparzialità ( art. 97 Cost. ), servizio alla Nazione ( art. 98 Cost. ), responsabilità personale ( art. 28 Cost. ). Analogamente, la giurisdizione deve rispettare il principio di legalità ( art. 101 Cost. ), il diritto di difesa ( art. 24 Cost. ) e il giusto processo ( art. 111 Cost. ). Un algoritmo giuridico deve consentire la verifica della correttezza del quesito posto , dell' applicazione delle regole giuridiche , dell' esecuzione normativa e della congruenza dei dati utilizzati. Ciò richiede trasparenza tecnica , sia nel codice che nella documentazione di base , in linea con il quarto principio della Carta etica : trasparenza, imparzialità ed equità. La Relazione della Commissione giuridica UE su Robotica e Intelligenza Artificiale ribadisce il principio di intelligibility of decisions , correlato al vincolo di motivazione ( art. 111, comma 6, Cost. ). Questo principio tutela la legalità , l' indipendenza del giudice e il diritto di difesa , garantendo il libero convincimento del giudice ( art. 132 c.p.c. ; artt. 192 e 546 c.p.p. ). Un caso emblematico è stato quello della Corte Suprema del Wisconsin sul sistema COMPAS , utilizzato per valutare il rischio di recidiva. Essendo l'algoritmo proprietario , gli imputati non potevano contestarne i criteri decisionali, compromettendo così il diritto di difesa. Nel 2016 , l'ONG ProPublica ha analizzato COMPAS su oltre settemila arrestati nella contea di Broward, rilevando bias razziali : l'algoritmo sottostimava il rischio di recidiva dei bianchi rispetto ai neri. Anche con un algoritmo open source , permangono rischi. Un ADM ( Automated Decision-Making ) può prendere decisioni casuali se considera due alternative equivalenti, perseguendo un obiettivo di ottimizzazione privo di sensibilità umana. La Carta etica europea sull'I.A. nei sistemi giudiziari sottolinea che modellare matematicamente fenomeni sociali è molto più complesso rispetto ad altri problemi computazionali. Isolare i fattori causali delle decisioni giudiziarie è arduo, e previsioni algoritmiche rimangono puramente indicative , senza valore prescrittivo.
CAP 3
Responsabilità Genitoriale e Diritti Fondamentali del Minore
L’utilizzo delle tecnologie da parte dei minorenni solleva questioni delicate, in quanto coinvolge la tutela dei loro diritti fondamentali (privacy, educazione, sicurezza) e il ruolo dei genitori nella loro protezione e educazione digitale. La responsabilità genitoriale implica il dovere di guidare i figli verso un uso consapevole e sicuro degli strumenti digitali , in linea con il principio del superiore interesse del minore. Tuttavia, è necessario un equilibrio: da un lato, i minori devono essere protetti da contenuti inappropriati o pericoli online, come il cyberbullismo; dall’altro, devono poter sviluppare la propria autonomia e identità digitale.
La sfida principale è quella di aggiornare il concetto di responsabilità genitoriale per adattarlo al contesto tecnologico, integrandolo con le normative internazionali e nazionali in materia di diritti dei minori. l. 29-5-2017, n. 71 : combatte il cyberbullismo, protegge i bambini e introduce misure per prevenire e fermare gli abusi online.
Capacità di Contrarre e Autonomia Nel contesto digitale
I minorenni hanno un accesso crescente a servizi e piattaforme online che implicano la sottoscrizione di contratti digitali (ad esempio, per l’acquisto di app, giochi o abbonamenti). Tuttavia, il codice civile italiano e altre normative internazionali limitano la capacità dei minori di compiere atti giuridici autonomi.
● Limiti di età: Le normative prevedono che, per stipulare contratti digitali validi, i minori debbano avere il consenso dei genitori, salvo casi di piccoli acquisti quotidiani. ● Rischi legati al digitale: Molti contratti online sono poco chiari o abusivi.
Ad esempio, le clausole possono prevedere la raccolta di dati personali o l’imposizione di costi nascosti, mettendo a rischio i diritti economici e di privacy del minore. Questo scenario evidenzia la necessità di regolamentare meglio la protezione contrattuale dei minorenni nel digitale, assicurando che comprendano i termini e le implicazioni delle loro azioni online. art. 144-bis del Codice sulla privacy: consente ai minori ultraquattordicenni di segnalare contenuti sessualmente espliciti diffusi senza il loro consenso.
Riservatezza, Privacy e Protezione dei Dati Personali
I minorenni sono particolarmente vulnerabili alla violazione della privacy online. Spesso non comprendono appieno le conseguenze della condivisione di dati personali o di immagini sui social media. Il Regolamento Generale sulla Protezione dei Dati (GDPR) impone restrizioni specifiche per il trattamento dei dati dei minori, prevedendo: ● Consenso parentale : Per il trattamento dei dati personali dei minori di 16 anni è richiesto il consenso dei genitori (l’età minima può variare nei singoli Paesi, ma non può scendere sotto i 13 anni). ● Trasparenza : I servizi devono fornire informazioni chiare e accessibili sul trattamento dei dati. ● Minimizzazione dei dati: Solo i dati strettamente necessari devono essere raccolti, evitando eccessi o trattamenti non essenziali. L’obiettivo è proteggere i minori da profilazioni abusive, violazioni di sicurezza e usi impropri dei dati che potrebbero influire sulla loro identità digitale futura.
Contrasto al Cyberbullismo e Revenge Porn
Il cyberbullismo e il revenge porn sono fenomeni gravi e in crescita, che colpiscono spesso i minorenni, causando danni psicologici e sociali. La legge n. 71/2017 in Italia ha introdotto specifiche misure per contrastare il cyberbullismo, tra cui:
- La possibilità per il minore vittima di richiedere direttamente la rimozione di contenuti offensivi dai siti web o social network.
- L’obbligo per le scuole di adottare programmi educativi contro il bullismo digitale.
- Il revenge porn, che comporta la diffusione non consensuale di immagini intime, è stato riconosciuto come reato dalla Legge n. 69/2019 (“Codice Rosso”). Questi strumenti normativi devono essere integrati con programmi di sensibilizzazione e interventi di supporto psicologico per le vittime.
L’obiettivo rimane individuare dei criteri per stabilire quando, nel bilanciamento tra
interesse del singolo e della collettività, quest’ultimo debba prevalere.
Con il crollo degli Stati totalitari, che utilizzavano le informazioni sui loro cittadini per
eliminare ogni dissenso politico, il diritto alla riservatezza nasce come un diritto della
personalità connaturato all’idea giuridica di persona fisica e, in quanto tale, trova il
suo fondamento nel valore supremo della dignità umana.
Nella Dichiarazione Universale dei Diritti dell’Uomo del 1948 l’’art. 12 condanna le
interferenze arbitrarie nella vita privata e nella Convenzione Europea dei Diritti
dell’Uomo e del cittadino, che all’art. 8 impone il rispetto della vita privata e familiare
Articolo 12
Nessun individuo potrà essere sottoposto ad interferenze arbitrarie nella sua vita
privata, nella sua famiglia, nella sua casa, nella sua corrispondenza, né a lesione del
suo onore e della sua reputazione. Ogni individuo ha diritto ad essere tutelato dalla
legge contro tali interferenze o lesioni.
Articolo 8
Ogni individuo ha diritto ad un'effettiva possibilità di ri- corso a competenti tribunali
contro atti che violino i diritti fondamentali a lui riconosciuti dalla costituzione o dalla
legge.
Il primo passo fondamentale nella tutela della privacy fu la Convenzione di
Strasburgo del 1981 , nota come Convenzione del Consiglio d’Europa n. 108. Si
tratta del primo trattato internazionale che tutela la privacy e protegge i dati
personali, stabilendo norme comuni per garantire che il trattamento dei dati sia
rispettoso dei diritti fondamentali degli individui. Firmata il 28 gennaio 1981 a
Strasburgo, data oggi celebrata come la Giornata della protezione dei dati , la
Convenzione si applica sia al settore pubblico che privato, includendo i casellari e le
elaborazioni automatizzate di dati personali.
Tra le sue disposizioni principali, la Convenzione:
● Impone la creazione di Autorità di Protezione dei Dati (DPA) indipendenti,
con poteri di indagine, intervento e avvio di azioni legali.
● Stabilisce il divieto di trasferimento di dati personali verso Paesi che non
garantiscano un livello adeguato di protezione.
Successivamente nel 1983 il governo tedesco approvò una legge per condurre un
censimento che prevedeva la raccolta dettagliata di dati personali. Questa iniziativa
generò un ampio dibattito pubblico, con molti cittadini preoccupati che tali
informazioni potessero essere utilizzate per violare la privacy o per scopi non
dichiarati.
La questione fu affrontata dalla Corte costituzionale tedesca nella famosa sentenza
del 15 dicembre 1983 , che dichiarò incostituzionali alcune disposizioni della legge
sul censimento. In questa occasione venne introdotto il principio fondamentale del
“diritto all’autodeterminazione informativa” ( Recht auf informationelle
Selbstbestimmung ), affermando che ogni individuo ha il diritto di controllare l’uso dei
propri dati personali. Questa sentenza rappresenta uno dei pilastri della protezione
dei dati personali in Europa, influenzando le normative successive in materia.
Venne poi attuata dal parlamento europeo la Direttiva 95/46/CE , conosciuta anche
come Direttiva sulla protezione dei dati o Direttiva sulla privacy , è stata adottata
il 24 ottobre 1995 dal Parlamento Europeo e dal Consiglio dell'Unione Europea
verrà poi abrogata e quindi rimpiazzata dal GDPR del 2016.
In Italia, il percorso legislativo in materia di protezione dei dati ha avuto inizio con la
Legge 31 dicembre 1996, n. 675 , che ha introdotto norme sulla tutela delle persone
rispetto al trattamento dei dati personali. Sebbene non fosse formalmente una legge
di recepimento della Direttiva 95/46/CE, ne attuava i principi, fornendo una tutela
persino più ampia. Questa legge è stata modificata e integrata da vari decreti
legislativi, con una disciplina inizialmente molto rigida, poi gradualmente
semplificata.
Per coordinare le norme esistenti, è stato emanato il D.lgs. 196/2003 (Codice in
materia di protezione dei dati personali), entrato in vigore quasi integralmente il 1°
gennaio 2004. La struttura del Codice era articolata in tre parti:
● Parte I: Disposizioni generali
○ Principi fondamentali, adempimenti e regole generali.
○ Regole specifiche per soggetti pubblici, privati ed enti pubblici
economici.
● Parte II: Disposizioni relative a settori specifici.
● Parte III: Tutela dei diritti e sanzioni
○ Tutela amministrativa e giurisdizionale.
○ Poteri dell'Ufficio del Garante.
○ Sanzioni amministrative e penali.
○ Norme transitorie.
Questo percorso normativo ha contribuito a creare un quadro organico di tutela dei
dati personali, che si è evoluto ulteriormente con l'entrata in vigore del Regolamento
Generale sulla Protezione dei Dati (GDPR) nel 2018, rafforzando i diritti degli
individui in un contesto sempre più digitale.
Viene poi introdotto un nuovo regolamento europeo, il GDPR nel 2016.
Il Regolamento Generale sulla Protezione dei Dati (GDPR) si concentra sulla
tutela dei diritti e delle libertà delle persone fisiche nel trattamento dei dati personali,
con l'obiettivo di limitare i rischi connessi a queste attività.
La centralità del rischio nel GDPR
Il concetto di "rischio" è uno degli elementi cardine del GDPR, ricorrendo ben 81
volte all'interno del testo. Il regolamento si propone di mitigare i rischi che possono
influire negativamente su:
