Studia grazie alle numerose risorse presenti su Docsity
Guadagna punti aiutando altri studenti oppure acquistali con un piano Premium
Prepara i tuoi esami
Studia grazie alle numerose risorse presenti su Docsity
Prepara i tuoi esami con i documenti condivisi da studenti come te su Docsity
Trova i documenti specifici per gli esami della tua università
Preparati con lezioni e prove svolte basate sui programmi universitari!
Rispondi a reali domande d’esame e scopri la tua preparazione
Riassumi i tuoi documenti, fagli domande, convertili in quiz e mappe concettuali
Studia con prove svolte, tesine e consigli utili
Togliti ogni dubbio leggendo le risposte alle domande fatte da altri studenti come te
Esplora i documenti più scaricati per gli argomenti di studio più popolari
Ottieni i punti per scaricare
Guadagna punti aiutando altri studenti oppure acquistali con un piano Premium
testo in cui si rappresenta una sintesi della sicurezza inforatica
Tipologia: Sintesi del corso
1 / 60
Questa pagina non è visibile nell’anteprima
Non perderti parti importanti!
INTERVISTEINTERVISTE VIP:VIP:
EditorialeEditoriale^ - Cybersecurity Trends
BIO Nicola Sotira è Direttore Generale della Fondazione Global Cyber Security Center GCSEC e Responsabile del CERT di Poste Italiane. Lavora nel settore della sicurezza informatica e delle reti da oltre venti anni con un’esperienza maturata in ambienti internazionali. Contesti nei quali si è occupato di crittografia e sicurezza di infrastrutture, lavorando anche in ambito mobile e reti 3G. Ha collaborato con diverse riviste nel settore informatico come giornalista contribuendo alla divulgazione di temi inerenti la sicurezza e aspetti tecnico legali. Docente dal 2005 presso il Master in Sicurezza delle reti dell’Università La Sapienza. Membro della Association for Computing Machinery (ACM) dal 2004 e promotore di innovazione tecnologica, collabora con diverse start-up in Italia e all’estero. Membro di Italia Startup nel 2014 dove con alcune società ha partecipato allo sviluppo e progetto di servizi in ambito mobile e collabora con Oracle Security Council.
Sempre più presente in workshop, eventi, articoli il tema dell’Intelligenza artificiale (AI) o intelligenza aumentata, tema che promette una nuova rivoluzione, un cambiamento radicale che coinvolgerà tutti i settori industriali e la pubblica amministrazione introducendo innumerevoli cambiamenti nei modelli di business e migliorando l’efficienza dei processi. Come sempre l’innovazione digitale introduce nuove
opportunità e scenari da terra promessa, occorre però valutare, in questo caso, che il tema potrebbe nascondere anche alcuni rischi come la limitazione delle libertà personali, la discriminazione e la manipolazione dell’opinione pubblica. Sul tema dell’informazione, per esempio, la nuova frontiera del giornalismo si chiama Knowhere News , una startup americana che promette informazioni neutrali; in questa piattaforma una sapiente combinazione di l’intelligenza artificiale e machine learning promettono ai lettori solamente fatti. Chi pensava solo alle auto intelligenti e alla guida autonoma, forse dovrebbe considerare anche le informazioni automatizzate dalle macchine come già succede nel settore musicale. Gli algoritmi regoleranno: notizie, automobili, fabbriche, reti e la medicina. Ma quali sono i lati oscuri, i rischi di tutta questa innovazione? Sicuramente i temi di sicurezza e fiducia saranno sempre più centrali nella mitigazione del rischio e nel garantire la tutela dei nostri dati; la trasparenza e la corretta gestione di questi aspetti saranno fattori determinanti per il successo aziendale. Nick Bostrom, nel suo controverso libro “La superintelligenza”, sottolinea come sia necessario sviluppare, fin dall’inizio, tattiche e strategie per evitare che la superintelligenza arrechi minacce all’umanità. Bostrom propone alcune soluzioni, e in particolare una di queste consisterebbe nell’assegnare a questi agenti artificiali non solo compiti, ma anche valori reali, insistendo su come i governi debbano avviare una vera riflessione etica sugli usi e la governance di questa tecnologia. Uno dei temi centrali ad esempio sono i dati, sappiamo che tutti questi sistemi di AI per poter apprendere hanno bisogno di enormi quantità di dati e sarà quindi necessario valutare l’impatto su privacy e sicurezza. Le tecnologie AI potrebbero essere soggette a gravi violazioni di dati e furto di identità. Dobbiamo coinvolgere i data scientist a sviluppare modelli che tengano conto degli utenti e della sicurezza e riservatezza dei loro dati. Il GDPR ha già indirizzato il tema, creando un quadro normativo che garantisce la protezione dei dati personali insistendo su modelli di security by design che devono trovare applicazione e diventare processi consolidati nel software e nello sviluppo hardware. In questo contesto, la Commissione Europea ha pubblicato delle Linee Guida con riferimento alla progettazione di sistemi affidabili di intelligenza artificiale ma che al momento non sono requisiti obbligatori. Le linee guida includono una check-list che consente di verificare, già in fase di progettazione, la conformità alle raccomandazioni, una sorta di etica-by-design. Un nuovo concetto che deve essere coniugato insieme al quasi consolidato tema della sicurezza by design. Il documento della Comunità Europea non raccomanda solo la robustezza e la sicurezza dei sistemi, ma si focalizza sul ruolo centrale dell’essere umano nella relazione con l’intelligenza artificiale. I principi che devono essere combinati sono la dignità e la libertà, specialmente quando entrano in gioco gli algoritmi. Il documento evidenzia come l’autonomia delle persone deve prevalere sull’autonomia delle macchine e deve essere garantito un potere di supervisione da parte degli uomini. L’evoluzione di questi sistemi deve andare verso forme di AI trasparenti e chiaramente tracciabili, garantendo in questo modo uno sviluppo sostenibile di cui la nuova industria potrà beneficiare portando innovazione e benessere per l’uomo.!
Intelligenza aumentata
ed etica la nuova sfida
Coordinatore per la cyber security, International Telecommunications Union, Ginevra
AutoritàAutorità
L’etica è certamente uno degli aspetti più dibattuti della rivoluzione digitale, che raggiungerà il suo apice con l’implementazione della tecnologia 5G, permettendo alla maggior parte degli abitanti del pianeta di avere un accesso a internet a piena velocità. L’etica dipende in larga misura dal contesto sociale, politico e religioso, e ogni paese e organizzazione dovrà definire quale codice etico applicare.
Per rendere significativo il “viaggio etico”, il punto di partenza è come di consueto la sensibilizzazione e la condivisione della conoscenza, consentendo a tutti gli stakeholder e al pubblico in generale di comprendere meglio il concetto nel contesto della trasformazione digitale. Un’ampia sezione del presente numero è dedicata a tali riflessioni, al fine di facilitare una migliore comprensione del rapporto tra comportamenti etici e le immense opportunità che le tecnologie digitali attuali ed emergenti possono portare alla comunità globale.! Buona lettura!
L’etica ovvero la
più grande sfida nel
campo dell’ICT
BIO Giancarlo Butti ha acquisito un master in Gestione aziendale e Sviluppo Organizzativo presso il MIP Politecnico di Milano. Si occupa di ICT, organizzazione e normativa dai primi anni 80 ricoprendo diversi ruoli: security manager, project manager ed auditor presso gruppi bancari; consulente in ambito sicurezza e privacy presso aziende dei più diversi settori e dimensioni. Affianca all’attività professionale quella di divulgatore, tramite articoli, libri, whitepaper, manuali tecnici, corsi, seminari, convegni. Svolge regolarmente corsi in ambito privacy, audit ICT e conformità presso ABI Formazione, CETIF, ITER, INFORMA BANCA, CONVENIA, CLUSIT, IKN, Università degli studi di Milano. Ha all’attivo oltre 700 articoli e collaborazioni con oltre 20 testate tradizionali ed una decina on line. Ha pubblicato 21 fra libri e whitepaper alcuni dei quali utilizzati come testi universitari; ha partecipato alla redazione di 9 opere collettive nell’ambito di ABI LAB, Oracle Community for Security, Rapporto CLUSIT… È socio e proboviro di AIEA, socio del CLUSIT e di BCI. Partecipa ai gruppi di lavoro di ABI LAB sulla Business Continuity, Rischio Informatico e GDPR di ISACA-AIEA su Privacy EU e 263, di Oracle Community for Security su frodi, GDPR, eidas, sicurezza dei pagamenti, SOC, di UNINFO sui profili professionali privacy, di ASSOGESTIONI sul GDPR… È membro della faculty di ABI Formazione, del Comitato degli esperti per l’innovazione di OMAT360 e fra i coordinatori di www.europrivacy.info. Ha inoltre acquisito le certificazioni/ qualificazioni LA BS7799, LA ISO/ IEC27001, CRISC, ISM, DPO, CBCI, AMCBI.
Attività questa tutt’altro che semplice e che richiede la disponibilità di competenze molto specializzate.
Anche il governo delle soluzioni di IA pone diversi problemi. Come già espresso nel precedente articolo, il GDPR, nel suo articolo 22 “Processo decisionale automatizzato relativo alle persone fisiche, compresa la profilazione”, cerca di porre un freno quantomeno all’uso di profilazioni completamente automatizzate che abbiano conseguenze significative sugli individui. Anche in questo caso ci sono tuttavia delle limitazioni. Da un lato, tale pratica è comunque consentita con il consenso del soggetto interessato o nell’ambito di un contratto (entrambe situazione dove la reale libertà di scelta dell’interessato è dubbia), dall’altra tale tutela riguarda unicamente le persone fisiche. Il GDPR introduce comunque delle misure correttive al possibile uso distorto dell’IA allorquando si presentino i casi prima citati (consenso dell’interessato o adempimenti contrattuali, autorizzazione di legge): il titolare del trattamento attua misure appropriate per tutelare i diritti, le libertà e i legittimi interessi dell’interessato, almeno il diritto di ottenere l’intervento umano da parte del titolare del trattamento, di esprimere la propria opinione e di contestare la decisione. Il limite della reale tutela di questo articolo sta nella sua interpretabile applicabilità, che si limita a considerare i casi in cui la profilazione: produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona. Sicuramente in tale fattispecie non si sarebbe portati a considerare l’inoltro mirato di semplici messaggi pubblicitari ad esempio ad una futura mamma, salvo poi essere contraddetti dalla missiva che Gillian Brockell ha indirizzato alle aziende che le inondavano di messaggi mirati per prodotti per bambini: “se siete abbastanza intelligenti da rendervi conto che sono incinta siete sicuramente abbastanza intelligenti da rendervi conto che il mio bambino è morto”. Appare evidente come la futura mamma fosse stata profilata in funzione della consultazione di siti dedicati a prodotti per neonati e in conseguenza di questo ricevesse pubblicità mirata. Purtroppo i sistemi che hanno raccolto ed elaborato tali informazioni non hanno saputo cogliere un’altra importante informazione: l’assenza improvvisa di quelle ricerche cha hanno portato alla sua profilazione. Certamente dopo la perdita del figlio, quella che poteva essere considerata una innocua e anche utile comunicazione, è diventata talmente spiacevole da spingerla alla comunicazione sopra riportata.
Questo sposta notevolmente la valutazione di cosa possa essere considerato significativo, e come, in casi analoghi a quello considerato, tale valutazione possa variare nel tempo, o meglio come non ci si possa limitare all’uso di sistemi di profilazione automatizzata, ma debba esistere un sistema complessivo di governo degli stessi, capace di gestire rapidamente casi come quello citato. Anche la limitazione alle persone fisiche della tutela offerta dalla normativa suscita qualche perplessità; concedere o meno un fido ad un’azienda in base a scelte totalmente automatizzate non trova una mitigazione nel GDPR, che non si applica a tali soggetti, ma presenta gli stessi limiti e rischi che si hanno con le persone fisiche. Non va inoltre dimenticato che un’azienda è comunque composta da persone fisiche e quindi, una decisione che può influenzare il futuro di un’azienda, impatta sicuramente su tali soggetti. Anche in questo caso l’uso di sistemi automatizzati rende sicuramente più oggettiva la valutazione, (ovviamente se non sono stati introdotti ad arte criteri
Central FolderCentral Folder^ - Cybersecurity Trends
discriminatori) e questo è sicuramente un grosso vantaggio per tutti; il problema può risiedere nella incapacità del sistema di cogliere aspetti nuovi o diversi rispetto a quelli che rappresentano il suo patrimonio di conoscenze. È li che l’uomo prevale sui sistemi automatizzati e suggerisce che l’ottimo per creare un sistema che possa essere oggettivo, ma anche flessibile, richieda necessariamente la combinazione di uomo e macchina. Anche nel caso della concessionaria di auto, che si è vista rifiutare la pubblicità da parte di un social network, (perché il suo nome è stato considerato offensivo dall’algoritmo che controlla i testi da pubblicare), il problema non è certo dell’algoritmo utilizzato (che ha fatto il suo dovere), quanto sul governo del processo. Sarebbe sufficiente la presenza di un operatore che possa raccogliere le osservazioni di soggetti coinvolti per migliorare la capacità di analisi del sistema e offrire un servizio di qualità. Ma c’è un altro articolo del GDPR che impone l’uso di misure tutelanti per gli interessati; l’art. Articolo 25 Protezione dei dati fin dalla progettazione e protezione per impostazione predefinita, richiede, più comunemente noto come privacy by design e by default. È interessante notare che le Linee guida citate all’inizio si spingono oltre tale formulazione, e
introducono il concetto di “human rights by design”, riferendosi alle cautele che gli sviluppatori di applicazioni di IA devono mettere in atto onde evitare qualsiasi potenziale pregiudizio (bias), anche involontario o occulto, il rischio di discriminazione o altri effetti negativi sui diritti umani e le libertà fondamentali degli interessati. Tali rischi possono derivare, fra gli altri, dalle vulnerabilità intrinseche di qualunque applicazione software, alle quali però si aggiunge un ulteriore strato di vulnerabilità, costituito dagli algoritmi che già in fase di addestramento o successivamente possono essere a loro volta manipolati e indotti nell’errore. Da ultimo un cenno al problema della qualità dei dati utilizzati (molto spesso provenienti da fonti aperte) ad esempio per elaborare profili o per concedere un prestito.
Al riguardo la pubblicazione Big data and privacy – Making ends meet della FPF (Future of Privacy Forum) riporta il caso della signora Judy Thomas e dalla signora Judith Upton i cui profili creditizi sono stati scambiati in conseguenza della quasi perfetta coincidenza dei loro SSN, con le relative conseguenze. La pubblicazione indica che ben il 26% dei credit report analizzati contenevano errori.!
1 Coautore con il prof. Lorenzo Schiavina di “Intelligenza artifi ciale esoftcomputing”, FrancoAngeli, 2017 2 Il Consiglio d’Europa defi nisce l’IA come „Un insieme di scienze, teorie e tecniche il cui scopo è quello di riprodurre, attraverso la macchina, le capacità cognitive di un essere umano. Gli sviluppi attuali mirano, ad esempio, ad affidare a una macchina compiti complessi precedentemente delegati a un essere umano.” 3 https://icdppc.org/wp-content/uploads/2018/10/20180922_ICDPPC-40th_AI-Declaration_ADOPTED.pdf 4 https://www.garanteprivacy.it/home/docweb/-/docweb-display/docweb/9059156#
terra non era più al centro del sistema solare e che noi siamo fatti di un numero sterminato di cellule. In questa fase della storia sta avvenendo qualcosa che può rievocare la rivoluzione della modernità? Vi sono molte analogie. Disponiamo del pc che lavora i dati, generando un nuovo strumento, che definiamo macroscopio per intenderci, che ci consente di studiare l’infinitamente complesso. L’intelligenza artificiale che opera su grandi masse di dati che è un presidio fondamentale in grado di allargare l’ambito delle nostre conoscenze. Quello che sta avvenendo in molti ambiti disciplinari può dare molto bene l’idea di questo continuo spostamento in avanti della frontiera dei saperi. Possiamo fare qualche esempio? Le neuroscienze, le cui teorie più avanzate hanno dimostrato come viviamo immersi in un ecosistema di relazioni complesse sostanziate di neuroni, ma anche le scienze economiche e ingegneristiche si ormai fondano le loro indagini sulla realtà sull’analisi di una mole enorme di dati. Dobbiamo, insomma renderci conto, che siamo a un cambio d’epoca e questo, come avevo accennato prima, crea un disagio analogo a quello che abbiamo sperimentato con l’avvento della modernità. Come va affrontata una svolta così radicale? Le trasformazioni in atto non sono arrestabili, come tali non sono né da temere né da accogliere in maniera acritica. Non si può, infatti, nutrire la vana pretesa di fermare il vento con le mani. Quello che possiamo esercitare da esseri dotati di intelligenza e ragione è una forma di equilibrato discernimento che ci consenta di afferrare tutte le opportunità che possono aprirsi in un universo in divenire.
Quando si parla di macchine sapienti dobbiamo pensare a dei “mostri” che ne sapranno più di noi e che ci domineranno? Bisogna capirsi bene su questo che è certamente un aspetto delicato. Quando settantamila anni fa ci siamo spostati dall’Africa e abbiamo abitato diverse latitudini della terra, il nostro comportamento è stato molto diverso da quello di molti animali. Se un mammut si fosse spostato dalle steppe siberiane per andare in Africa
e in Asia, prima di affrontare questa nuova avventura della sua storia evolutiva, avrebbe dovuto aspettare i tempi evolutivi di una discendenza che avrebbe portato alla nascita di esemplari privi della folta pelliccia. L’uomo non ha osservato nessuna attesa, perché fin dall’inizio si è attrezzato di strumenti adeguati per preparare il suo lungo viaggio verso il progresso. Detto in altri termini: quello che per altri esseri viventi è rigidamente confinato nel DNA per noi è qualche cosa di aperto che ha a che fare con l’uso sapiente di artefatti tecnologici. L’artefatto tecnologico è la nostra “traccia” che serve ad abitare il mondo, o se preferisce è una modalità importante per manifestare la nostra umanità. Non crede che gli ’”utensili” che ci mette a disposizione la telematica sono, però, bel altra cosa rispetto agli strumenti del passato? E’ vero. C’è stata una stagione in cui l’artefatto è stato un utensile legato alla mano poi è arrivata la rivoluzione industriale ed è arrivata la macchina, che programmata e guidata dall’uomo è in grado di fare delle operazioni senza stancarsi mai. Mentre per la mano che agita il martello non era, evidentemente, possibile, raggiungere una performance paragonabile. Con l’IA siamo un passo ancora oltre rispetto alla civiltà delle macchine? Sicuramente sì, perché la macchina, cui lei si riferisce, è diventata non più qualcosa che programmiamo, ma che addestriamo a fare delle operazioni. Mi riferisco all’IA e al machine learning. La rivoluzione di cui tanto si parla sta nel fatto che prima d’ora pensavamo che questo ambito fosse esclusiva prerogativa umana. Siamo, invece, di fronte a un’altra specie di “sapiens” che abita il pianeta, ecco perché la comprensione di questa macchina diventa qualche cosa di particolarmente impegnativo. Nasce così il problema di comprendere la fisionomia di questa nuova specie. A che punto siamo su questo fonte? E’ la scommessa con cui dobbiamo fare i conti. Quando parliamo di macchina sapiens parliamo di quella particolare sensazione dell’uomo di non essere l’unico in grado di fare cose intelligenti sulla terra. Dobbiamo abituarci a questo salto epistemologico, che in maniera così forte e netta non si era probabilmente mai verificato. Sta di fatto cambiando il nostro modo di capire e di conoscere il mondo. La correlazione di quantità impressionante di informazioni unita alla potenza dei PC che danno un significato ai dati ha aperto orizzonti inimmaginabili. La hanno avuto dunque vinta ingegneri e informatici, che si muovono a loro agio in questa “selva” fittissima di codici e informazioni? Il paradigma di cui stiamo parlando sembra effettivamente fondato su saperi di
stampo ingegneristico, questo è vero solo parzialmente. Penso a un vecchio detto di Eraclito, che sosteneva che l’oracolo di Delfi non parlava, né taceva, semplicemente significava. Può spiegarlo, a chi non ha molta dimestichezza, con il mito e la storia delle religioni? Tradotto nella contemporaneità vuol dire che noi possiamo accedere a questi computer che si nutrono di dati lavorando sugli algoritmi. Per restare nell’analogia dobbiamo vedere la macchina come se fosse una divinità in grado di “pronunciare delle profezie oracolari” sulla realtà. La capacità ermeneutica rimane, però, una prerogativa umana, non dimentichiamolo. E’ la più certa ancora di salvezza cui possiamo agganciarci? Certamente. La macchina sapiente non deve, infatti, entrare in competizione darwiniana con l’uomo, ma diventare una sua alleata.
Una parte molto interessante del saggio parla di Governance dell’IA. A chi va affidata e come andrà strutturata questa delicata attività? La Governance è la traduzione contemporanea di un processo molto antico. Noi veniamo da una tradizione occidentale che risale alla polis, che esprime un modo di essere della società. La piazza è il punto focale, il luogo dove diverse componenti sociali si ritrovano per confrontarsi sul bene comune. Sulla scia di questo ragionamento occorre dire che una buona governance dell’IA non la si ottiene applicando direttive che dall’alto vengono calate verso il basso. Lo sforzo che dobbiamo compiere sarà quello di creare degli spazi dove persone competenti cercano di coniugare il progresso tecnologico con lo sviluppo effettivo della comunità amministrata. L’immagine che dobbiamo avere in mente è insomma quella di un’agorà aperta dentro cui l’intelligenza collettiva potrà agire per orientare al bene comune il prepotente sviluppo tecnologico che sta segnando questa fase della nostra storia. Humanities dentro le tecnologie. Un progetto o più semplicemente un auspicio? Quando si parla di RenAissance scritto all’inglese con la “A” maiuscola si vuole evidenziare il tentativo di togliere i dati dal centro della società digitale per raffermare l’uomo quale protagonista, proprio come era avvenuto durante la grande stagione dell’umanesimo. Torna sempre con prepotenza la partita delle competenze e della conoscenza. Una ricerca condotta dalla Fondazione GCSEC e dall’Università di Oxford (di cui hanno riferito Elena Agresti e Marco Fiore nel numero scorso della nostra rivista n.d.r) pone l’accento sul fenomeno dello skill shortage. Di quali profili bisognerà dotarsi per riuscire ad agire nel mondo complesso? Esiste un problema di formazione e di educazione. Bisogna ridare all’uomo la capacità di decodificare quello che accade. C’è bisogno di un nuovo curriculum di scienze umanistiche che sappiano dare alle persone la capacità leggere questa svolta epistemologica e di utilizzare le competenze tecniche che sappiano dire cosa accade all’interno di queste “scatole” che sono gli algoritmi. Fino a quando trattiamo gli algoritmi
come delle scatole nere, delle black box, saranno loro a decidere per noi. Le nuove competenze devono insomma permetterci di rendere trasparenti queste black box.
Altra cosa che bisognerà cercare di capire è fino a che punto il mondo del lavoro potrà essere pronto a reggere l’impatto della “Quarta rivoluzione”. Mentre sindacati e imprese si stanno interrogando sulle trasformazioni in atto, la dottrina sociale ha preso posizione in maniera netta sul tema della difesa dei diritti dell’uomo e del lavoratore. Papa Francesco sta forse svolgendo un ruolo di “supplenza”? Esiste una cultura ecclesiale che cerca di diventare fermento per tutta la società. C’è una domanda di senso su queste questioni cruciali che richiedono una riflessione sociale e teologica. Mi pare legittimo, oltre che necessario, che l’impegno del Papa vada in questa direzione. Etica e sviluppo tecnologico. Vengono in mente le preoccupazioni espresse negli ultimi scritti di Emanuele Severino. Si tratta di timori infondati? Severino forse è troppo tranchant nelle sue posizioni. In realtà sappiamo che la tecnologia non è solo cieca volontà di potenza ma anche un insieme di risposte rispetto a una domanda che l’uomo si fa sulla realtà che ci circonda. L’uomo che nel passato si è sentito minacciato dalla realtà, ha fatto uno strumento che si chiama fucile. Quel fucile non è solo uno strumento di offesa, ma è anche uno strumento ermeneutico, che mi fa vedere il mondo diviso tra amici e nemici. Ecco che entra in gioco l’artefatto tecnologico, come risposta a una domanda sulla realtà. Solo se vedo la domanda che sta dietro l’artefatto potrò avere un rapporto etico con l’artefatto. Definire un codice etico vuol dire questo: far risuonare la domanda dal produttore al consumatore in ogni istante, perché quella domanda sia soffocata con indifferenza e superficialità.!
introdotto negli anni novanta e ampiamente discusso nel Suo saggio La Quarta rivoluzione, (ed. Raffaello Cortina). Possiamo spiegare di che cosa si tratta? Mi pare un giusto punto di partenza. Il concetto di infosfera implica, infatti, considerazioni di carattere ambientale, imprescindibili se vogliamo parlare di etica nella contemporaneità. Le nuove generazioni passano sempre più tempo collegate in uno spazio ibrido tra on line e off line, tra analogico e digitale. Si è scritto molto su questo, ma la definizione “infosfera” ha suscitato interesse perché coglie un “salto” in avanti. Faccio un esempio concreto. Le nostre cucine moderne non sono più come quella della nonna, sono infatti popolate di oggetti tradizionali dal forno elettrico alle pentole, ma anche da oggetti elettronici e digitali. Noi abitiamo un “ibrido”, abbiamo le pentole, ma anche l’orologio elettronico, il micro onde insieme alla griglia per fare gli arrosti, il forno elettrico e la spugnetta per lavare i piatti insieme a Alexa. Il mondo è fatto da questo mix, fondato sull’interazione di oggetti diversi. La vecchia idea per cui si andava nel cyber spazio per collegarsi e poi ci si disconnetteva per tornare “sulla terra” è ormai superata, questa è appunto l’infosfera. L’ambiente digitale sta generando possibilità di relazione nel passato impensabili, aprendo un nuovo capitolo nel rapporto uomo macchina. Cosa dobbiamo aspettarci per l’immediato futuro? In passato non esistevano processi di interazione e di simbiosi con gli oggetti, come quelli che stiamo sperimentando. Il disorientamento da parte di molti è dunque molto comprensibile. Bisogna però ricordarsi che gli strumenti tecnologici di cui disponiamo sono programmati per risolvere problemi specifici, non sono particolarmente intelligenti come si crede. Disponiamo di oggetti che sono in grado di apprendere, elaborare dati, migliorare la loro performance e, novità importante, sono parzialmente autonomi. Ricorro sempre a un esempio per farmi capire: il termostato di casa è un po’ “smart”, cioè intelligente nel senso che una volta impostato mi fa trovare gli ambienti che abito alla temperatura che preferisco e al momento giusto, ed è anche uno strumento “autonomo” nel senso che sa ottimizzare i consumi, regolando l’alternanza accensione - spegnimento. L’uomo aveva nel passato avuto esperienza di interazioni con artefatti che non erano per nulla autonomi, né tanto meno interattivi. Questo può aiutare a far capire molto bene la natura del cambiamento epocale che stiamo vivendo. Questi ecosistemi “ibridati”, che Lei ha descritto molto bene, comportano dei rischi? Porrei l’accento su poche famiglie di problemi, che racchiudono una molteplicità di questioni. Il primo versante di analisi riguarda l’enorme produzione di dati legati al funzionamento di questi sofisticati strumenti digitali, dati che impattano sulla nostra privacy. Altro aspetto molto importante riguarda la capacità di agire con relativa autonomia che caratterizza i robot e le macchine cosiddette intelligenti. La capacità di scegliere, agire, ponderare, prendere decisioni, ma anche cambiare idea o risolvere un problema mai incontrato prima è prerogativa dell’individuo come essere pensante. È evidente che immettendo sul mercato questa categoria di oggetti interattivi e autonomi si possono creare dei contrasti che hanno a che fare con le nostre preferenze e scelte. Entriamo, così, nel campo dei valori, il discorso si fa dunque molto delicato. Non si tratta solo di un termostato che magari per risparmiare mi fa trovare la casa fredda, ma di scelte ben più impegnative e gravi, in cui la macchina si può interpolare condizionando la libera volontà del singolo, ad esempio negandomi un muto in banca.
Autonomia, criteri di scelta, valori, sono le categorie che l’etica classica, da Platone ad Aristotele, per citare solo i più grandi, avevano preso in esame. Questioni antiche che ritornano attuali, come dimostra il lavoro che una commissione interdisciplinare di esperti sta portando avanti per conto dell’UE. Su quali versanti state lavorando? Il gruppo di cui faccio parte insieme ad altri 51 esperti (oltre a Floridi, vi sono altri tre italiani Andrea Renda, ricercatore del Centre for European Policy Studies di
Bruxelles, Giuseppe Stefano Quintarelli presidente dell’Agenzia per l’Italia digitale e Francesca Rossi, Università di Padova n.d.r.) ha tre macro obiettivi molto precisi: fornire un quadro etico su disegno, sviluppo e utilizzo dell’IA, definire una piattaforma di valutazione per i prodotti dell’IA che rispondono a dei requisiti etici, elaborare delle linee guida che possono servire al mondo industriale per indirizzare lo sviluppo del business digitale e dell’IA. Sono tutte questioni cruciali perché mettere in campo investimenti correttamente orientati e finalizzati, oltre a far crescere la salute delle imprese, può avere delle ricadute molto importanti sulla progettazione delle politiche sociali. Una macchina per rispondere a dei requisiti etici cosa deve avere? Un primo requisito riguarda gli standard di sicurezza, che non rispondono più alla logica del vecchio sistema industriale. Pensiamo all’air bag, oggi tutte le macchine devono montarlo, rispondendo a dei criteri molto precisi. Vale lo stesso per la progettazione dei robot che devono essere coerenti rispetto a criteri di utilizzazione che siano socialmente validi. Interviene infine la valutazione di processi e prodotti che a valle del processo di produzione dovrà testare la congruenza tra la definizione delle scelte strategiche, lo sviluppo del business e il rispetto dei codici etici. Le trasformazioni in atto stanno sempre più incidendo sulle competenze e gli assetti organizzativi. In Italia e più in generale in Europa il contesto socio - economico è pronto a sfruttare al meglio le opportunità generate della “quarta rivoluzione”? Non si può rispondere in maniera univoca alla sua domanda. Vi sono a macchia di leopardo zone dinamiche
e molto avanzate, nel Sud come nel Nord dell’Europa, talvolta collocate in aree insospettabili, che si stanno attrezzando molto bene. Altre realtà mantengono un atteggiamento tra il timoroso e il riottoso, capiscono l’utilità dell’innovazione, ma hanno paura ad affrontare il cambiamento. Tale atteggiamento è molto diffuso nelle PMI, che spesso non dispongono di quelle risorse necessarie per alimentare gli investimenti in ricerca e innovazione. Si tratta di un errore che spesso anche molti governi fanno. Il “falso risparmio” di oggi, obbligherà a una spesa ancora più alta di adeguamento domani, con tutte le conseguenze del caso.
Questo per quanto riguarda il soggetto - impresa, ma gli individui come dovranno comportarsi di fronte a macchine sapienti (cfr. intervista a padre Benanti pubblicata in questo stesso numero di CST) che presto ne sapranno più di noi? Sgombriamo il campo da false convinzioni. Proprio perché sono delle macchine, parliamo di dispositivi altamente focalizzati, come dicevo prima, sulla risoluzione di problemi specifici. La lavatrice lava i panni non può fare anche i piatti, il robottino che taglia l’erba non batte i tappeti. Non alimentiamo la fantascienza. L’elasticità, la capacità di fissare le priorità, di modificare un percorso in maniera originale è solo dell’essere umano. La nostra intelligenza non crolla verticalmente quando si trova di fronte a una situazione mai sperimentata nel passato. La mia caffettiera elettrica se manca l’energia si ferma, l’uomo non si ferma trova un’altra soluzione e va avanti. Questa flessibilità che non ha limiti è un connotato della plasticità del nostro cervello, impossibile da replicare in laboratorio. Per dirla in termini filosofici, è perché siamo scollati dal mondo che riusciamo a essere intelligenti, mentre il digitale ha successo solo se è ben incollato ai problemi specifici che deve risolvere. Tanti timori dunque infondati? Direi di sì, perché il mondo dell’intelligenza e della significazione, così come la ricchezza del linguaggio articolato dell’uomo, fino alle vibrazioni più intime legate alla sua emotività non saranno mai scalfiti da nessuna macchina. A proposito di emozioni. Molti studiosi sostengono che anche i sentimenti e l’affettività sono fatti di algoritmi. Vorrà dire che ci innamoreremo di un robot se ci farà gli occhi “dolci”? Almeno dai tempi più remoti del mito greco gli uomini si sono innamorati degli artefatti. Pigmalione si innamora di una statua che diventa reale, da bambini abbiamo giocato con dei soldatini, credendo che fossero veri, abbiamo innescate battaglie autentiche molto sofferte e partecipate.
L’essere umano è portato alla proiezione. Pensiamo ad Apollo e Dafne, alla metamorfosi della ninfa trasformata in alloro. L’uomo innamorato crea con la sua fantasia scenari da sogno che si dissolvono per ricrearsi subito dopo. Però attenzione a non confondere la realtà con l’immaginazione, l’essere con le proiezioni che continuamente siamo portati a generare, l’uomo con il robot. Nel saggio sulla “quarta rivoluzione digitale” il capitolo dedicato all’etica arriva verso la fine del libro, legato al concetto di ambientalismo digitale. Per quale ragione? Perché è essenziale considerare gli aspetti di sistema per affrontare un tema così vasto e complesso. Spesso si parla di etica degli oggetti, dell’IA, della sanità, dell’impresa, si tratta di una frammentazione arbitraria. L’etica è un concetto onnicomprensivo, vorrei, perciò, che si prendesse in esame tutto quello che riguarda l’universo digitale, sfera troppo importante per relegarla nei circoli chiusi per super esperti. Torna ancora di attualità la cultura greca che applicava i principi dell’etica a tutto l’essere, senza parcellizzazioni. Nella nostra conversazione è stata chiamata più volte in causa l’attualità della filosofia. Giuseppe Cambiano ha scritto un brillante saggio (Sette ragioni per amare la filosofia, ed. Il Mulino n.d.r.) elencando le ragioni per amare una disciplina che sembrava in crisi fino a qualche anno fa. “Fare domande, usare parole, cercare risposte, apprezzare i dissensi, aprire confini, capire gli altri tempi e gli altri mondi” sono queste le ragioni per cui bisogna tornare a esercitare la speculazione filosofica. Condivide la visione di Cambiano? I motivi ben esplicitati dal grande storico della filosofia sono senz’altro condivisibili, ma aggiungerei una definizione per me decisiva: la filosofia è soprattutto design concettuale, questo è un aspetto della sua eternità. Crea, articola e manipola idee e teorie, interpretazioni e punti di vista, per dare senso al mondo che ci circonda, e alle nostre vite individuali e sociali. Diceva Popper: tutta la vita è risolvere problemi, direi anzi che tutta la vita è identificare nuovi versanti di indagine per andare oltre, per spostare la frontiera della conoscenza in territori inesplorati. Questo intendo per design concettuale, questo è l’uomo, che pirandellianamente agita “l’arrovello dell’arcolaio” sollecitando la sua intelligenza a trovare risposte di senso agli eterni dilemmi che dai tempi più remoti agitano a tutte le latitudini la coscienza dei viventi.!
Central FolderCentral Folder^ - Cybersecurity Trends
Etica e Intelligenza Artificiale.
L’approccio “Trustworthy”
dell’Unione Europea
all’innovazione tecnologica.
Come riportato dal sito istituzionale della Commissione 1 , l’UE ha riconosciuto l’Intelligenza Artificiale come un obiettivo strategico chiave dell’evoluzione tecnologica , tanto da decidere di istituire una commissione ad-hoc per poter studiare i possibili approcci alla nuova tecnologia, impegno coronato nella stesura di un documento: Ethics guidelines for trustworthy AI. La parola “Trustworthy AI” assume in tale ottica una dimensione decisamente rilevante, una intelligenza artificiale affidabile e fondata su tre principi cardine: quello della (1) liceità nel rispetto delle leggi, direttive e regolamenti applicabili, quello dell’(2) etica nel rispetto dei principi e valori etici che da sempre contraddistinguono il panorama europeo e quello della (3) robustezza e affidabilità intesa sia dal punto di vista tecnico che di inserimento nel tessuto sociale poiché, nonostante le buone intenzioni, una scarsa padronanza della tecnologia potrebbe involontariamente causare potenziali danni. La connotazione ovviamente socio-economica, che da sempre caratterizza il mercato europeo, ha fatto si che tale Trusthworthy AI sia accompagnata dalle oramai granitiche garanzie di competitività che il mercato esige e da condizioni generali a salvaguardia dello sviluppo e utilizzo di tali tecnologie. Garantire un quadro etico e giuridico appropriato, basato sui valori dell’Unione e in linea con la Carta dei diritti fondamentali dell’UE, esige una rilevante valutazione delle norme esistenti in materia di responsabilità del prodotto, un’analisi dettagliata
BIO Marco è un research fellow della Fondazione Global Cyber Security Center di Poste Italiane. Laureato in Giurisprudenza presso La Sapienza di Roma in Procedura Penale. Ha svolto una tesi in “Intercettazioni di messaggistica istantanea Blackberry e utilizzazione probatoria nel processo penale”. Dopo gli studi ha svolto la pratica forense e contestualmente portava a termine il Master di II livello “Homeland Security” presso il Campus Bio Medico di Roma dove trasversalmente ha approfondito le tematiche in Security e Privacy e Social Communication. Continua a svolgere ricerche per la Fondazione GCSEC. Tra le varie iniziative rilevanti ha contribuito allo studio del 2019 sul Cyber Security Skill Shortage internazionale Mind the Gap e quello Italiano “Il fenomeno del Cyber Security Skill Shortage italiano nel contesto internazionale”. Contribuisce alla gestione e pubblicazione di diverse pubblicazioni sul sito ufficiale della Rivista Cybertrends.it.
delle sfide emergenti e la necessaria cooperazione con le parti interessate, attraverso un’alleanza europea per l’intelligenza artificiale fondata su linee guida etiche. Il Progetto, oramai completato^2 , è stato preceduto da una dichiarazione di intenti comune tra i vari stati membri dell’UE 3 e partito nell’Aprile del 2018 con una Comunicazione ufficiale della Commissione Europea al Parlamento al Consiglio, al Comitato Economico e Sociale (CESE), e al Comitato europeo delle regioni (CdR). L’iniziativa ha avuto come fine ultimo quello di pubblicare delle Linee Guida europee con un approccio etico all’intelligenza artificiale. Dallo studio preliminare, che ha preceduto il testo definitivo, già si evinceva il ruolo che l’AI avrebbe avuto nelle dinamiche dell’evoluzione tecnologia: “L’AI ci sta aiutando a risolvere alcuni dei più grandi del mondo sfide: dal trattamento delle malattie croniche o alla riduzione dei tassi di mortalità negli incidenti stradali combattere il cambiamento climatico o anticipare minacce alla cybersicurezza.” 4 Addirittura il documento sottolinea l’importanza dell’intelligenza artificiale alla stregua dei decisivi cambiamenti occorsi durante la prima rivoluzione industriale del ‘700 che hanno portato il motore a vapore ad essere l’innovazione che cambiò l’intera società.
Oltre a sottolineare la consapevolezza dell’importanza dell’AI, la prima Comunicazione dell’UE offre numerosi spunti di riflessione sulle potenzialità e sul fine ultimo che la tecnologia potrebbe offrire:
for governments. All Europeans should have every opportunity to acquire the skills they need. Talent should be nurtured, gender balance and diversity encouraged.”. “It is necessary to modernise Europe’s education and training systems, including upskilling and reskilling European citizens. ” 9 Il progetto Horizon 2020 sicuramente deve essere considerato il progetto cardine nel quale le Linee Guida europee si inseriscono. Tale progetto prevede tra i tanti obiettivi quello di connettere e rafforzare i centri di ricerca in Europa, supportare lo sviluppo di una piattaforma di AI-on-demand^10 che dia accesso a risorse rilevanti a tutti gli utenti, supportare lo sviluppo di applicazioni AI nei settori ritenuti chiave e strategici. La prima Comunicazione dell’UE non tralascia quello che è stato il lavoro iniziato pochi mesi dell’inizio del progetto europeo e condotto da una task force di esperti riuniti sotto il nome di AI4People che ha esaminato quello che poi sono stati definiti gli “EGE Principles”. Il documento infatti delinea ben 36 principi etici suddivisi in quattro “Imperativi Etici”: rispetto e autonomia dell’essere umano, beneficenza (fare del bene) ovvero di non maleficenza (non nuocere), equità e giustizia, autonomia ed esplicabilità^11 , principi integralmente poi sposati dalle linee Guida dell’Unione Europea^12.
Riconoscere essere consapevoli del fatto che, pur apportando benefici sostanziali agli individui e alla società, l’IA può avere anche conseguenze negative. È necessario mantenere alta la guardia anche per gli ambiti più critici. Oltre alle criticità individuate dal primo documento pubblicato, quello sintetico include anche tutti gli altri rischi che possono avere un impatto negativo, compresi gli impatti difficili da prevedere, identificare o misurare (ad esempio le ripercussioni che l’IA potrebbe avere sui sistemi giuridici democratici, sullo stato di diritto, sulla giustizia distributiva eche concerne la natura di una distribuzione di beni socialmente giusta) o addirittura sulla mente umana stessa.
Framework per l’intelligenza artificiale, formato da quattro principi tradizionali e uno nuovo Immagine di AI4People
dati che li riguardano non possano essere utilizzati a loro danno o a fini discriminatori. ! Trasparenza: deve essere garantita la tracciabilità dei sistemi di Intelligenza Artificiale ! Diversity, correttezza, assenza di discriminazione: i sistemi di Intelligenza Artificiale dovrebbero prendere in considerazione tutte le capacità e le skill umane, garantendo a tutti l’accessibilità. ! Benessere sociale e ambientale: i sistemi di Intelligenza Artificiale dovrebbero essere utilizzati per sostenere cambiamenti positivi, migliorare la sostenibilità ambientale e la responsabilità ecologica. ! Responsabilità: devono essere adottati meccanismi che garantiscano la responsabilità sui sistemi di Intelligenza Artificiale e sui loro risultati. Al termine del secondo capitolo, il documento riassume alcune best practice da applicare all’AI per rendere i sistemi più efficaci: ! Promuovere la ricerca e l’innovazione per aiutare a valutare i sistemi di intelligenza artificiale e favorire il conseguimento dei sette requisiti; diffondere i risultati e coinvolgere il pubblico creando sistematicamente nuovi contenuti da condividere. ! Comunicare , in modo chiaro, proattivo e trasparente le informazioni alle parti interessate in merito alle capacità e ai limiti del sistema di intelligenza artificiale, consentendo valutazioni e aspettative realistiche e comunicare le modalità con i quali tali requisiti sono implementati. !Facilitare la tracciabilità e l’audit dei sistemi di IA, in particolare in contesti o situazioni critiche. ! Coinvolgere le parti interessate in tutto il ciclo di vita del sistema AI. Incoraggiare la formazione e l’istruzione in modo che tutti i soggetti siano consapevoli e addestrati nell’IA !Non dimenticare che potrebbero esserci sbilanciamenti importanti tra diversi principi e requisiti. Identificare, valutare, documentare e comunicare continuamente questi trade-off e le loro soluzioni. Ma non solo, il secondo capitolo cerca di riassumere gli strumenti che si possono effettivamente implementare e sviluppare in termini di AI. Gli approcci tecnici, non- tecnici invece si suddividono in diverse categorie. Di seguito un elenco riassuntivo:
!Architetture per una Trustworthy IA !Etica e diritto in base alla progettazione (X-by- design. Ad esempio privacy-by-design e security-by- design) !Metodi e parametri di valutazione (chiamati Explainable AI - XAI)
!Test e convalide !Indicatori della qualità del servizio
!Regolamenti !Codici di condotta !Standard e Certificazioni !Governance e definizione di Ruoli e responsabilità !Educazione e awareness per promuovere la mentalità etica !Partecipazione delle parti interessate e il dialogo sociale !Diversità e team di progettazione inclusivi.
Rea lizzazione di un ciclo di vita del sistema del sistema di Trustworthy AI
Gli esperti, nelle proprie raccomandazioni, sottolineano come il documento rappresenti un punto di partenza per aprire un serio dibattito sull’etica e l’AI e le sue applicazioni. Il framework orizzontale definito con il presente documento non deve essere preso come uno “standard” né tantomeno tenta di sostituirsi ad alcuna forma di regolamentazione attuale o futura, bensì invita ad esplorare le verticalità che la stessa AI potrebbe avere nell’impiego pratico dei singoli settori.
L’ultima parte delle Linee riportano degli importanti esempi di Use Cases dove l’IA ha trovato applicazione. A titolo esemplificativo si cita uno dei tanti esempi che ben si sposa con i vari progetti che si sono interessati delle difficoltà nella formazione e nella ricerca delle risorse nei nuovi settori tecnologici^18 :
Central FolderCentral Folder
