Scarica Potere Computazionale e più Appunti in PDF di Filosofia del Diritto solo su Docsity!
POTERE COMPUTAZIONALE
Cap.1: rivoluzione dell’informazione
Il testo nasce sulla base di “La quarta rivoluzione” di L. Floridi, libro che è una riflessione sull’impatto complesso che le tecnologie dell’informazione e della comunicazione hanno sulla nostra società; queste tecnologie sono il presupposto su cui si sviluppa il benessere della nostra società.
Per Floridi abbiamo fatto ingresso nell’epoca “ iperstorica ”; l’iperstoria caratterizza le società ICT- dipendenti e dobbiamo interrogarci sull’impatto delle ICT digitali (preistoria e storia descrivono come le persone vivono non quando o dove). In questa dimensione storica il benessere sociale e lo sviluppo dipendono dalle ICT digitali e dal loro potere computazionale. Floridi ricostruisce il percorso con il quale l’uomo è stato escluso dalla centralità del suo ruolo:
1. Copernico: rimuove l’essere umano dal centro dell’universo 2. Darwin: rimuove l’uomo dal centro della vita biologica 3. Freud: dice che l’uomo non è neanche al centro di sé stesso 4. Turing: Floridi aggiunge la “ quarta rivoluzione ”, (definita del “quotidiano” poiché si colloca a livello profondo nelle nostre abitudini, politiche, il nostro modo di abitare il mondo ed è tanto più penetrante poiché meno visibile) che ha per eroe Turing: non siamo più padroni dell’infosfera. Nel tempo si è fatta strada l’idea che per agire e decidere sia indispensabile calcolare e processare informazioni, ovvero disporre di un potere computazionale; tale capacità era stata esclusiva dell’essere umano, fino all’invenzione del computer. Ora le macchine svolgono meglio di noi tale compito, con il risultato che deleghiamo un numero crescente di decisioni e compiti a modelli computazionali, che tendono a conformare l’ambiente in cui operano in base alla rappresentazione del mondo adeguata al loro funzionamento, destinata a diventar parte integrante della nostra vita.
Tesi implicita di Floridi: il potere computazionale è il motore agente della storia attuale, che designa la prospettiva in cui interpretare i principali tratti dell’impatto della digitalizzazione e rivoluzione dell’informazione come aspetti di un unico trend macroscopico.
Il potere computazionale
Con potere computazionale non ci riferiamo solo al dato quantitativo relativo alla crescita e diffusione della capacità di processare dati, ma ci riferiamo a un dato qualitativo, per cui l’esercizio di tale potere è suscettibile di modificare il modo in cui interagiamo e diamo forma al nostro mondo; capacità di processare degli input e trasformarli in output. Ciò accade secondo una triplice direttiva che caratterizza la nostra epoca: 1. agire umano ; 2. adattamento del mondo ; 3. rappresentazione della realtà.
- AGIRE UMANO non è esclusivo appannaggio dell’essere umano, ma anche di agenti artificiali che decidono e agiscono sulla base di modelli computazionali; oltre alla delegazione di compiti ciò porta due conseguenze
- la prima è che ci troviamo progressivamente a interagire con agenti non umani ; le ICT sono usate per facilitare e migliorare le interazioni uomo – sistemi computazionali
- la seconda è che delegare decisioni e compiti a dispositivi artificiali, basati su apprendimento automatico, procedure algoritmiche o su modelli computazionali non ci porta sulla Luna; la nostra è una rivoluzione del quotidiano. Inoltre, ciò è importante per il diritto poich é per esso conta la figura del soggetto agente, quando esso intrattiene relazioni con altri; ma non siamo gli unici ad interagire, il diritto deve dunque confrontarsi con la realtà delle macchine in grado di interagire.
- ADATTAMENTO DEL MONDO la pervasività del potere computazionale provoca la necessità di adattare il mondo all’esercizio del potere ; questa forma di adattamento non avviene secondo piani determinati ma è una proprietà emergente delle complesse società dell’informazione; il processo di progressivo adattamento dell’ambiente è colto da Floridi con la nozione di involucro che sta avvolgendo il mondo. Dato che siamo all’inizio dell’iperstoria, adatteremo il mondo al funzionamento di macchine e agenti artificiali piuttosto che pretendere che questi si adattino alla complessità del nostro mondo: ad esempio adattiamo l’ambiente domestico ai bisogni di un bambino piccolo e non viceversa, in attesa che sviluppi mature capacità cognitiva; ma nel caso dei modelli computazionali non vi è certezza che essi siano dotati di capacit à assimilabili a quelle umane; accadrà che le macchine continueranno ad operare sulla base di modelli computazionali che possiedono la LORO rappresentazione del mondo.
- RAPPRESENTAZIONE DELLA REALTÀ ci troveremo a interagire con macchine e con ICT digitali che operano sulla base di una loro peculiare rappresentazione della realtà; uno dei principali aspetti. I problemi giuridici, etici, politici sollevati dalla digitalizzazione saranno mediati epistemologicamente > dovranno essere affrontati a partire dalla specifica forma di conoscenza e rappresentazione della realtà che caratterizza i modelli computazionali.
-Dibattito sulla configurabilità di un diritto alla spiegazione: il diritto ha sempre avuto la pretesa di definire fino a che punto una spiegazione era giuridicamente rilevante in termini sia di regressione causale (catena degli eventi produttivi del fatto, vedi 2043 c.c.) sia termini di previsione (conseguenze rilevanti del fatto). Il diritto ha deciso in autonomia dove interrompere la spiegazione, sapendo che la spiegazione umana delle cause e conseguenze non si arrestava dove si fermava quella giuridica. In che modo il diritto potrebbe disciplinare un evento di cui non possa interamente governare il punto di arresto nella spiegazione della sua genesi o conseguenze? ESEMPIO: la disciplina di un’auto che si guida da sola dipende dal modo in cui l’auto funziona in quanto agente artificiale autonomo, cosa che dipende dal modo in cui tale agente si rappresenta la realtà; questo aspetto epistemologico diventa importante nella misura in cui non risulta sempre possibile adattare il mondo al funzionamento di tali agenti (idea di adattare l’ambiente a un’auto che si guida da sola). Gli esseri umani non sono chiamati solo a confrontare la loro rappresentazione del mondo con quella dei modelli computazionali, ma anche oggetto di quest’ultima rappresentazione.
Questi tre punti ripropongono il tema del potere, in relazione al rapporto tra potere e sapere , che èil potere computazionale. Potere computazionale concepito in modo diverso dalla “ visione sostanziale” (potere come insieme di risorse e mezzi, che conferiscono la capacità di fare qualcosa) dalla “visione relazionale” ( potere consiste nella capacità di determinare la volontà e l’agire altrui, o stabilire regole collettive) dalla visione in “ chiave metafisica” (conseguenza di posizioni privilegiate)
Essere umano da sempre concepito come l’unica fonte di informazioni rilevanti da punto di vista giuridico, politico, etico, economico e sociale. Gli oggetti meritano rispetto nella misura in cui il loro valore è riflesso di un interesse umano
Secondo Serres si deve rompere questa concezione del mondo; tale rappresentazione può cambiare nella misura in cui riconosciamo che sia l’uomo che le cose del mondo condividono la stessa natura informazionale, sono entrambi sistemi informativi capaci di compiere 4 operazioni informazionali: ricevere, generare, immagazzinare e processare informazioni. Serres osserva che continuamente l’uomo ha a che fare con informazioni che ricevono e scambiano con esseri non umani, ciò è tanto più vero oggi, nell’età dell’internet delle cose, degli agenti artificiali autonomi, che processano e producono ingenti quantità di dati.
Vi è un profondo cambiamento di prospettiva creato dall’approccio informazionale: siamo parte di un tutto (infosfera) in cui gli esseri umani non sono più l’unica fonte di informazioni rilevanti.; scambiamo informazioni e dati con agenti e dispositivi e questi cooperano alla conformazione tecnologica dell’ambiente in cui viviamo e all’elaborazione della rappresentazione della realtà; tre conseguenze principali:
1. Esseri umani divengono soggetti di interazione : creano dispositivi che decidono, agenti artificiali che agiscono in modo autonomo, programmi dotati di un esteso potere computazionale. Ma stiamo decidendo di dipendere da qualcosa che non dipende da noi, con tutti i rischi e opportunità; dobbiamo porre un freno a ciò che Serres definisce come narcisismo umano, l’idea che il mondo sia il terreno di uno scontro tra esseri umani, incapaci di percepire la finitezza del mondo. Gli esseri umani sono coinvolti in una lotta per il controllo e per lo sfruttamento delle risorse come se si trattasse di una disputa, laddove si tratta invece di un progressivo depauperamento del mondo. 2. Serres percepisce tale rapporto di dipendenza circolare come un processo di decentramento dell’umano dal suo ruolo di centro dell’universo. Tale processo deve tradursi in una presa di consapevolezza e responsabilità ambientale per il mondo. Siamo parte di un ambiente che è sempre più tecnologicamente conformato, rispetto al quale viene meno l’idea di qualcosa che sta davanti a noi e di cui potremmo liberamente disporre: le tecnologie non sono più solo strumenti di cui ci si possa disfare in ogni momento. È cambiata l’idea di spazio, mondo analogico, digitale non fanno riferimento a regioni dello spazio ma a modi dell’esperienza; il cambiamento è epistemologico, relativo al modo in cui facciamo esperienza del mondo, non c’è modo di fare esperienza del mondo se non all’interno di questo mondo tecnologicamente conformato. 3. Visione computazionale di Serres ci da una rappresentazione unitaria degli esseri umani e delle cose del mondo , dei soggetti agenti umani o artificiali, in termini di sistemi informativi che compiono fondamentali e universali operazioni informazionali. Rompe con la tradizionale dicotomia soggetto/oggetto , e con la concezione del mondo ad essa legata. Se prestiamo attenzione all’epistemologia giuridica, possiamo misurare come molti dibattiti si muovono su confini di tale divisione e investono proprio la natura giuridica degli agenti artificiali (sono oggetti o soggetti di diritto?), individuazione di criteri di responsabilità giuridica per le conseguenze delle loro azioni, la valutazione del loro relativo grado di interattività e autonomia. Questo esempio ci fa comprendere un aspetto: bisogna comprendere in che maniera operano tali agenti e per comprendere come operano dobbiamo comprendere come questi agenti si rappresentano la realtà.
I modelli computazionali operano sulla base una rappresentazione della realtà che non è per forza la nostra, anzi spesso diversa; diversi modelli computazionali operano sulla base di diverse raffigurazioni della realtà e producono diverse raffigurazioni. Floridi suggerisce che “ siamo le nostre informazioni ”: afferma una tesi epistemologica sul modo di fare esperienza della nostra attuale condizione a un dato livello di astrazione (informazionale) sul convincimento che l’epistemologia fonda il terreno su cui costruisce il riconoscimento politico, giuridico, morale delle nostre istanze, diritti e doveri, nostre prerogative, nostri stessi valori. La rivoluzione dell’informazione concorre a ridisegnare le nostre forme di vita : le forme di vita sono situazioni pragmatiche formate da insieme di regole sintattiche e semantiche, ovvero regole con cui organizziamo e diamo significato alle nostre vite. Il potere computazionale produce un sapere che riarticola queste regole e ci obbliga a ripensare in modo in cui organizziamo e diamo significato alle nostre vite. In qualsiasi social network o nella rete in generalmente non ci rendiamo conto del plesso di dati e informazioni che veicoliamo, dell’intreccio tra regole semantiche e sintattiche che attiviamo. È questa la rivoluzione del quotidiano: la riarticolazione inavvertita delle regole che strutturano la nostra forma di vita, a poco a poco.
Cap. 2 Tecnologia: da strumento ad ambiente
Se è vero che la filosofia è il nostro tempo appreso con il pensiero, e il nostro tempo è tecnologico, allora la filosofia è oggi riflessione sulla tecnologia. Libro di Floridi: idea che il potere computazionale sia il motore agente della storia attuale e che tale potere consista in primo luogo nella capacità di costruire le condizioni del proprio esercizio. Stiamo avvolgendo il mondo intorno alle tecnologie digitali: stiamo adattando il mondo e la rappresentazione della realtà al meccanismo di funzionamento di quegli agenti e processi che si avvalgono di tale potere computazionale. La tecnologia non può essere interpretata solo in chiave strumentale, come insieme di mezzi destinati a un fine, ma in chiave ambientale, come processo capace di conformare l’ambiente in cui e con cui i soggetti interagiscono.
Inizialmente la tecnologia ha contribuito a conformare l’ambiente in cui l’uomo vive, come uno strumento al fine di adattarci all’ambiente, qualcosa che media il rapporto con esso ed è capace di trarne delle risorse, accumularle e destinarle a un fine diverso, costruire strumenti attraverso i quali si possa manipolare l’ambiente, l’uomo con la tecnologia si è difeso dalle avversità dell’ambiente> oggi la tecnologia rappresenta ciò da cui l’ambiente debba essere difeso. La tecnologia odierna contribuisce a conformare in termini tali per cui:
- “agire” non è più una prerogativa esclusiva degli esseri umani;
- agenti artificiali concorrono a costruire l’ambiente in cui agiscono;
- agenti artificiali agiscono su una base di una rappresentazione della realtà che non è assimilabile o comparabile con quella umana.
Sta accadendo che l’idea stessa di intelligenza artificiale si sta trasformando in modo decisivo; si tratta di concepire questa intelligenza a partire dalla capacità di agire in base a una certa rappresentazione, capacità di processare la quantità e tipologia di dati di cui si serve tale rappresentazione.
Tre ordini della tecnologia
sempre percepito poiché un computer sta di fronte o noi o uno smartphone. Noi siamo parte integrante del mondo costruito da computer ecc connessi in rete più di quanto tali dispositivi siano parte integrante del nostro mondo. Se il domicilio è la sede dei nostri affari, il centro della nostra vita privata e ambito in cui custodiamo nostri dati personali, oggi allora il nostro principale domicilio è lo smartphone. Le tecnologie non possono essere concepite come strumenti sotto il nostro controllo, n é come ambiti da cui si entra o si esce; si tratta di processi con cui siamo chiamati a confrontarci. II. il fatto di essere immersi in un ambiente connotato in termini tecnologici non implica che siamo parte integrante dei processi tecnologici che lo costituiscono. Secondo una tripartizione, l’uomo è :
- in the loop> parte integrante del processo, con capacità di agire e decidere al suo interno, alterandone il corso
- on the loop> qualcuno che, pur non potendo intervenire all’interno del processo, ha un potere di controllo sul processo complessivamente inteso;
- out of the loop> qualcuno che è esterno al processo e può confrontarsi solo con le conseguenze prodotte dal processo. In molti ambiti il coinvolgimento dell’uomo in un processo tecnologico è diminuito. La conformazione dell’ambiente da parte della tecnologia indica una trama tecnologica d’interazioni, processi e decisioni nel cui ambito l’uomo si trova ad agire o confrontato. III. L’evoluzione del rapporto tra tecnologia e ambiente non elimina i precedenti tipi di rapporto che la tecnologia aveva con l’ambiente, ma li aggiorna. Oggi e nel futuro ci serviremo di tecnologie digitali per adattarci al nuovo ambiente caratterizzato in termini tecnologici. La tecnologia sarà una forma di adattamento all’ambiente e non sparisce l’idea di tecnologia come capacità di estrarre energia dall’ambiente da destinare a scopo diverso (uno dei tratti essenziali). Ci avvaliamo di tecnologie per sfruttare risorse che l’ambiente tecnologico offre: ad esempio potere computazionale con cui alcune tecnologie sono in grado di estrarre valore dall’aggregazione di dati. Quindi il decentramento della rete ha costituito la piattaforma tecnologica per la formazione di concentrazioni di potere nelle mani di grandi società.
Decentramento e concentrazione della rete
Il carattere decentrato della rete ha dall’inizio contrassegnato la struttura di internet come piattaforma che ha reso possibile tre aspetti: A. accesso diffuso alla rete > ogni computer connesso ha consentito a ogni utente di poter liberamente accedere ai servizi della rete, senza discriminare B. comunicazione end-to-end > possibilità di ogni nodo della rete di comunicare con qualsiasi altro nodo, senza passare dall’autorizzazione di un’autorità centrale. Ciò ha favorito una rapida diffusione di dati e informazioni C. generazione di contenuti in rete > il web 2.0, incardinato sulla piattaforma della rete, ha consentito che ogni utente non fosse solo un destinatario passivo di informazioni immesse da alcuni (come avveniva nel web 1.0 ), ma potesse anche interagire online, modificando e generando contenuti in rete, l’utente è produttore di contenuti, in questo modo il livello di contenuti si è arricchito.
L’effetto della tecnologia è quello di modificare la ridistribuzione di poteri esistenti all’interno della società: una tecnologia innovativa è suscettibile di alterare l’assetto sociale riguardato da tale
ridistribuzione di potere; il dibattito relativo a una tecnologia concerne il modo in cui una certa ridistribuzione di poteri ha alterato un assetto sociale.
Allora chi è stato maggiormente in grado di avvantaggiarsi del decentramento della rete? L’aspetto del decentramento della rete che si è sviluppato è quello della creazione di contenuti ; ad un ritmo incessante produciamo, condividiamo dati e informazioni online: abbiamo accumulato in rete più dati di quelli che l’umanità avesse mai creato. Il decentramento della rete si è quindi saldato con altri fenomeni: il successo dei social network, attività imprenditoriali tipiche della sarin economy, fino ai fenomeni di concentrazione della rete: la concentrazione di potere nelle mani di alcuni grandi attori è stata resa possibile dal decentramento che ha permesso a milioni di utenti di produrre e condividere dati e informazioni online. Gli utenti non hanno una reale percezione del valore dei dati condivisi, poiché il valore economico dei dati deriva dalla loro aggregazione, dalla capacità di processare grandi quantità di dati al fine di estratte poi dati dotati di valore economico. Il “nuovo petrolio” è , dunque, il potere computazionale grazie al quale è possibile estrarre valore da tali dati; la concentrazione di potere in rete è il risultato delle capacità di alcune grandi società- attori di aver sviluppato le tecnologie che hanno consentito loro di adattarsi e saper sfruttare le risorse fornite dal nuovo ambiente tecnologico.
Le tecnologie più recenti stanno ridisegnando l’ambiente in cui viviamo; ciò ha reso più urgente la creazione e utilizzo di tecnologie con le quali adattarsi, la creazione di tecnologie con cui estrarre energia e risorse da ambiente tecnologico, immagazzinarle e destinarle a un fine. Alcuni grandi attori ( società titolari di piattaforme e fornitori di servizi definite come i giganti della rete) svolgono un ruolo d’intermediazione strategico e centrale, reso possibile nel tempo e dipende dalla disintermediazione prodotta dal decentramento. Il successo delle imprese commerciali nasce anche dalla capacità di saldare insieme modelli di business basati su estrazione di valore da dati aggregati. Questa posizione strategica entra in tutte le considerazioni relative alla governance del digitale.
La governace del digitale
Si parla molto di governance del digitale. È sul terreno della governance che si misura l’impatto dell’odierna rivoluzione del digitale. Il decentramento del web ha reso possibile l’emergere di una nuova fase di intermediazione caratterizzata dall’affermazione di attori privati, titolari di infrastrutture e servizi in rete. Questi attori concorrono a regolare il modo in cui si svolgono le nostre attività. Ciò ha motivato gli attori pubblici a livello nazionale e sovra – nazionale, ad aspirare a controllare indirettamente l’attività che si svolge per il loro tramite. Gli attori privati sono esposti a pressione esercitata dal basso, dai loro utenti, fatta di rivendicazione di prerogative, diritti, espressioni di preferenze; è complesso per i titolari di infrastrutture e servizi governare su enormi comunità di utenti diversificati per cultura, abitudini, norme.
Un aspetto osservato da Balkin èquello del settore costituzionale della libertà di espressione e manifestazione del pensiero: siamo passati dal modello diadico di governance, basato su dialettica tra governati e governanti, a un modello triadico o pluralistico di governance del digitale, basato su molteplicità di relazioni possibili che si stabiliscono tra:
- soggetti pubblici (stati o altri enti)
- attori privati (che hanno un ruolo di intermediazione, media il rapporto tra me e qualcos’altro)
- e individui (utenti attivi e coloro che sono destinatari passivi degli effetti della rete)
La fiducia nel digitale
Le varie problematiche e complessità della governance del digitale sollevano un grado di sfiducia negli utenti, quindi vi è necessit à di rinsaldare il patto fiduciario. Esistono diverse accezioni del concetto di fiducia ; secondo Gambetta: la fiducia aiuta gli agenti umani a gestire i loro ambienti sociali ed è presente in tutte le interazioni umane, l’uomo non può vivere se non nutrendo fiducia verso altre persone o cose. Strumentalità: senza fiducia le interazioni umane sarebbero indebolite e non sarebbe possibile agire: fiducia con valore strumentale , ci serve per conseguire un obiettivo. Incertezza: La fiducia è fondamentale quando ci troviamo a decidere o agire in situazione di incertezza, incertezza o incompletezza possono riguardare le informazioni che deteniamo circa un certo ambiente, di un comportamento altrui o funzionamento di un dispositivo o processo. Rischio: la fiducia è caratterizzata dalla presenza di un rischio: esiste fiducia fintanto che esista un rischio (N. Luhmann). Gli elementi strumentalità, incertezza e rischio qualificano il concetto di fiducia.
Vi sono 2 situazioni differenti a cui presiede la prestazione di fiducia, potenzialmente opposte:
o Fiducia intersoggettiva: non agire come conseguenza di una delega Circostanze in cui il fatto di nutrire fiducia ci spinge a delegare un compito, non agire. Se A nutre fiducia verso B, A può delegare il compito a B di agire al suo posto; oppure A decide di non agire facendo affidamento su fatto che B agisca anche senza esplicita delega; A si fida di B, per rafforzare il senso di fiducia in sé di B: consente a B di agire. Quindi la fiducia induce un soggetto (il fiduciante) a non agire, a favore di un soggetto (fiduciario) che agisce in conseguenza di una delega
fiducia intersoggettiva, si stabilisce tramite relazione tra due soggetti ed è caratterizzata da:
- affidabilità del fiduciario
- condivisione di un obiettivo comune
- lealtà del fiduciario verso il fiduciante
o Fiducia sistemica: agire come conseguenza del modo in cui percepisce la relazione tra sé stesso e l’ambiente Il fatto di nutrire fiducia ci spinge ad agire. Ad esempio, il soggetto fiduciante nutre fiducia in sé stesso o questo soggetto nutre fiducia nell’ambiente che lo circonda, nel contesto in cui si trova ad agire: questo grado di sicurezza è conseguenza del modo in cui il soggetto percepisce la relazione tra sé stesso e ambiente in cui si trova. Si parla di fiducia sistematica, il soggetto quindi decide di dipendere dalle sorti delle proprie azioni. Questa è caratterizzata da:
- affidabilità del fiduciante - sicurezza dell’ambiente - abilità di prevedere le conseguenze delle proprie azioni
Abbiamo risultati quindi opposti; nell’ambito del digitale dobbiamo distinguere queste forme di fiducia e riconoscere che entrambe sono operanti: INTERSOGGETTIVA: da un lato vi è un numero crescente di situazioni in cui deleghiamo ad altri, a programmi e agenti artificiali. Triplice interrogazione: a. informazionale , in che misura possiamo conoscere e misurare l’affidabilità del soggetto fiduciario
b. assiologica , in che misura condividiamo con tali agenti scopi comuni c. normativa , in che misura suscitiamo la lealtà dei soggetti fiduciari. SISTEMICA: dall’altro lato ci ritroviamo costantemente ad agire entro un ambiente caratterizzato in termini tecnologici. Triplice interrogazione: a. informazionale : in che misura siamo capaci di cogliere la nostra stessa affidabilità b. ambientale , siamo in grado di misurare la sicurezza stessa dell’ambiente c. epistemologica : in che misura siamo capaci di prevedere le conseguenze nelle nostre azioni in ambiente conformato in termini tecnologici
Nelle odierne società dell’informazione vi è uno spostamento dalla fiducia intersoggettiva nei confronti di agenti artificiali a quella sistemica nei confronti del contesto digitale, poiché la crescente delegazione di compiti ad agenti artificiali conforma in misura più rilevante l’ambiente in termini tecnologici. Il problema normativo dell’affidabilità, responsabilità, lealtà e quello assiologico dei valori messi in gioco dalla delega, dovranno essere esaminati e discussi nel quadro del problema ambientale e di quello epistemologico (come prevedere le conseguenze di azioni realizzate nell’ambiente conformato tecnologicamente). L’idea di una prestazione fiduciaria al minuto, nei confronti di un agente artificiale o un altro, un algoritmo o un altro, cede il passo all’idea di prestazione fiduciaria all’ingrosso. In tutto ciò vi è un RISCHIO:
- fiducia intersoggettiva > rischio è il tradimento dell’obiettivo condiviso, non comprendere per quali fini abbiamo delegato i compiti a macchine;
- fiducia sistemica > rischio radicale, esclusione dalle forme di vita che si costruiscono nel contesto tecnologico: individui o stati mettono in gioco il loro destino. (vi possono essere situazioni miste, in cui i due tipi di fiducia si mescolano, si danno valutazioni all’interazione tra soggetti e con l’ambiente).
Cap. 3 intelligenza artificiale e umana
Intelligenza umana e artificiale sono destinate ad allontanarsi, ma questo non perché la seconda sarà sottratta al controllo della prima, ma perché l’intelligenza artificiale sarà sempre meno costituita dalla capacità di comprendere la realtà e sempre più con riferimento alla capacità di agire e di modificare la realtà. Sono concetti legati dall’antichità, in quanto si volevano costruire programmi, software di intelligenza artificiale che potessero riprodurre il funzionamento della mente umana o porre in essere decisioni e compiti che fossero guidati come da un essere umano; quindi, si è sentito il bisogno di comprendere cosa si intenda per intelligenza artificiale, studiarla in termini tali per poter riprodurre gli schemi che guidano la mente umana. Ma le due strade sono destinate ad allontanarsi. L’intelligenza artificiale è una forma dell’agire e solleva seri problemi. Secondo Goethe , l’azione sta persino al di sopra della forza e si sostituisce al pensiero e alla parola, che sono sinonimi dell’intelligenza umana. Per Goethe, quando si elimina la profondità tra azione e parola e non vi è distanza tramite la quale la parola possa criticare l’azione, tutto diviene possibile e si riduce lo spazio della morale.
L’intelligenza artificiale ha un notevole impatto sulla società; conta che questo impatto possa farsi apprezzare lungo 4 direttrici principali, che mettono in gioco opportunità di fondo, che possano incidere sullo sviluppo e sulla dignità degli esseri umani. Queste direttrici portano a 4 interrogativi:
- Chi possiamo diventare? (autonoma capacità di autorealizzazione)
responsabilità presuppone di regola una spiegazione degli eventi, individuazione di un principio di organizzazione nell’accadere di una serie di fatti. b. noi siamo liberi nella misura in cui ci spieghiamo come le cose sono accadute; erosione della libertà umana laddove non ci consente di spiegare un corso di eventi e pertanto di precisare i confini stessi delle conseguenze delle nostre azioni.
3) Cosa possiamo conseguire? PRO: delegare compiti e decisioni a sistemi di intelligenza artificiale comporta sia un incremento che un miglioramento delle capacità umane, può modificare le prestazioni umane, rendendoci capaci di conseguire risultati ulteriori o migliori. CONTRO: ha sollevato dibattiti e un problema; i dibattiti vertono sul tema dell’aumento e miglioramento di prestazioni umane: in alcuni casi questi sistemi intervengono per ripristinare compiti che un essere umano non è in grado di compiere e ciò da luogo a risultati socialmente accettati e condivisi; in altri casi la delega delle decisioni a sistemi altera o migliora le prestazioni in modo tale da generare posizioni di vantaggio, che non sono socialmente distribuite (esempio: in pochi possono sostenerne i costi). Questi ultimi casi sollevano questioni dal punto di vista giuridico, etico e politico dell’equità sociale. Altri casi in cui il miglioramento delle prestazioni generano aspettative sociali: casi in cui ci si aspetta che un individuo usufruisca dell’opportunità di migliorare le proprie performance per il solo fatto che un sistema intelligente ne offre la possibilità. Questi casi generano il rapporto complesso tra autonomia individuale ed economia sociale. Le possibilità date dalla tecnologia sono capaci di trasformare le scelte autonome dei singoli (volontà di dotarsi di un sistema) in aspettative eteronome provenienti dalla società (richiesta che il singolo si doti di tale sistema se vuole conformarsi ad aspettative sociali). La vera attitudine liberale non consiste nell’incrementare le scelte degli individui in quanto espressione della loro autonomia, ma assicurare che tali scelte siano realmente espressione della loro autonomia e non risultanza di spinte eteronome. Poi vi è un problema di carattere generale: delegazione di decisioni e compiti a sistemi intelligenti può erodere la sfera del controllo umano: si delineano 4 scenari: Human in the loop : l’essere umano è parte del processo, nelle cui fasi può intervenire per alterare il corso degli eventi; Human on the loop : sebbene l’uomo non sia parte del processo e non possa intervenire all’interno di ogni fase, ha la possibilità di monitorare lo sviluppo del complessivo e fornire indicazioni; Human post loop : l’uomo non ha un diretto controllo n é sulle singole fasi ne nello svolgimento complessivo: può intervenire solo ex post; Human out of the loop : l’uomo è esterno al processo e non è in condizione d’intervenire in esso > grado minimo di controllo umano , si è maggiormente esposti agli effetti del funzionamento autonomo del sistema intelligente. Ultima osservazione: si potrebbe considerare il sistema come un agente artificiale autonomo, nei cui confronti far valere una forma di fiducia intersoggettiva, sulle caratteristiche proprie dell’agente artificiale e della relazione che abbiamo con esso. Ma in realtà, in quanto la delegazione a questi sistemi acquista un carattere sistematico e pervasivo per cui tali sistemi comunicano tra loro, la prestazione di fiducia ha sempre meno connotazione intersoggettiva e una connotazione invece diffusa e sistemica.
4) Come possiamo interagire tra di noi e con il mondo?
PRO: lo sviluppo delle tecnologie ha anche un impatto ambientale sul mondo, in quanto conforma l’ambiente in cui gli individui operano. Questa complessità ambientale si unisce all’emergere di problemi globali che sollevano questioni di coordinamento e collaborazione tra attori pubblici e privati su scala sovranazionale. La tecnologia basata su sistemi di intelligenza artificiale è chiamata a contribuire alla soluzione di problemi di coordinamento con meccanismi che sfruttano l’utilizzo intensivo di dati e algoritmi. Questi sistemi possono essere disegnati in modo da favorire l’adozione di certi comportamenti, senza imporli, ma suggerendo l’adozione con sistemi di “ self- nudging ” (autonoma spinta gentile), spingerci ad agire in un modo piuttosto che in un altro senza che ne abbiamo una diretta percezione, attraverso la conformazione di ambienti o processi. Esempio : spinta basata sul design> quando preleviamo ad un bancomat ci viene richiesto prima di prelevare la carta e poi i contanti (se ritirassimo prima i soldi dimenticheremmo la carta); questo sistema è disegnato per evitare di commettere errori. CONTRO: ciò produce sia opportunità che rischi, il rischio è quello di conformare, progressivamente e in modo più o meno percettibile, i nostri comportamenti al funzionamento di dispositivi, processi che adottano scelte e compiti in modo automatico, facilitando le nostre viste > si tratta dell’esito di scelte solo in parte desiderate e progettate; vengono incorporate nei processi dei valori e scelte a favore nostro ma anche contro i nostri interessi, l’intelligenza artificiale potrebbe indurci a porre in essere politiche che implicano la scelta di valori sulle quali non si è formato un consenso sociale.
C’è un dato con cui si confronta ogni aspirazione di regolazione o governance del digitale in caso di delegazione di decisioni o compiti : esigenza di spiegare il processo , con riferimento agli effetti stessi dell’atto delegato. Questo principio compendia due diverse esigenze: comprensione dei processi e responsabilizzazione degli attori.
L’esigenza alla spiegazione si scontra con difficoltà epistemologiche, intrinseche che estrinseche.
- Punto di vista intrinseco: tema black box> difficoltà di comprensione del modo in cui un sistema opera dati i limiti di reverse engineering di tali sistemi intelligenti: una cosa è sapere come il sistema è costruito, un’altra è comprendere come funziona, come ha prodotto una determinata decisione.
- Punto di vista estrinseco: la spiegazione degli effetti prodotti dal punto di vista della responsabilità si scontra con la difficoltà derivante dal grado di complessità del sistema agente, spesso costituito da sistemi multi- agenti, rispetto ai quali le responsabilità sono distribuite e più difficilmente ricostruibili e rintracciabili. La delegazione di compiti e decisioni a sistemi computazionali intelligenti ci appare come un processo irreversibile destinato a riscrivere i confini etici, giuridici dell’agire umano. Si tratta di un impatto epistemologico, metterà in tensione l’intelligenza umana da altro punto di vista. Le macchine hanno bisogno per agire di avere una base di conoscenza e rappresentarsi il mondo; possiamo chiederci quale agente si adatterà alla rappresentazione del mondo di quale agente (artificiale o umano). Dal momento che un potere computazionale è reso disponibile, chi avrà la capacit à di usufruirne troverà il modo di implementarlo e adattare il mondo all’esercizio di questo potere. Ciò potrà produrre asimmetrie nello sfruttamento di tali risorse, potrà alterare le condizioni di partenza di chi investe in questo settore, generando economie di scala e concentrazione di potere, esclusione sociale e discriminazione. Questi esiti sono da considerare al pari del rischio di erosione della sfera di controllo, autonomia e autodeterminazione umana.
d. Approfondimento: secondo Carr la piattaforma della rete avrebbe contribuito a renderci più superficiali, quindi ridotto la nostra capacità di approfondimento. La capacità di approfondire riposa sulla metafora temporale del rivenire sulle stesse cose, piegare il tempo all’indietro. Con la rete impieghiamo meno tempo: cosa ne facciamo del tempo che risparmiamo? La rete ci da più rapidamente accesso alle informazioni, i sistemi di intelligenza artificiale ci liberano da compiti indesiderati, gli algoritmi fanno risparmiare tempo nel fare scelte: dove finisce questo tempo? Prima questo tempo piegato all’indietro si utilizzava per valutare ciò che si stava facendo; dobbiamo chiederci se ora il ricavo di tempo che la digitalizzazione ci offre venga inglobato per altra via o se resti a nostra disposizione
②. DAVID WEINBERGER: internet ci rende più intelligenti Consiste nel fatto di riconoscere che: (1) la formazione della conoscenza sia mediata tecnologicamente in misura più pervasiva, attraverso ICT digitali; (2) mediazione tecnologica incide sulle capacità cognitive degli utenti della rete; (3) mediazione operata dalla rete produce nuova rappresentazione e concezione della conoscenza. Posizione di Weinberger riassunta in> abbondanza; link; senza permessi; pubblica. a. Abbondanza di risorse su internet : in quanto utenti della rete produciamo più dati di quelli che potremmo consumare e siamo sovrastati da tale carico di dati. W. in realtà dice che ci muoviamo entro contesti digitali più circoscritti e specifici, entro cui tale abbondanza è suscettibile di tradursi in un accesso più rapido ed efficiente alle risorse ricercate. Cambia il nostro rapporto con i filtri di selezione delle informazioni rilevanti. Questi filtri ora operano ex post: gli utenti prima includono e poi selezionano. Ciò muta anche la rappresentazione della conoscenza. Da sempre abbiamo dovuto ridurre la complessità e sovrabbondanza di informazioni per formare il sapere necessario a interagire con il mondo: rinnovare e affinare questa abilità di riduzione è parte integrante dello sviluppo dell’intelligenza umana e sua capacità di adattamento al nuovo ambiente. b. La diffusione di connessioni (link) in internet: la conoscenza è fatta di una fitta rete di rimandi e connessioni. Nell’epoca predigitale tali collegamenti non erano istituiti per mezzo di una piattaforma che li rendeva possibili tramite struttura ipertestuale e ne segnalava l’esistenza con la visibilità del link; i collegamenti erano istituiti per altra via. Se W. ha notato correttamente che internet ha aumentato la capacità empirica dei sistemi tradizionali di comunicazione di creare collegamenti, non rileva che l’istituzione di collegamenti tramite una piattaforma, ha ridotto lo sforzo di immaginazione nell’associazione di elementi distanti e separati. Per W. rileva che internet abbia prodotto in termini più intellegibili una rappresentazione della conoscenza come rete di rimandi e connessioni, percorribile in ogni direzione; “i collegamenti che tutti noi incontriamo in ogni visita al web trasformano in modo radicale la forma della conoscenza, il ruolo delle autorità e dei titoli, e i motivi e i punti dove permettiamo alle nostre ricerche di fermarsi”. Internet sarebbe quindi un’infrastruttura che apre delle opportunità, ma c’è un aspetto che non viene messo in evidenza. Parallelo al concetto di infraetica di Floridi> l’infraetica è costituita da elementi diversi che possono agevolare o ostacolare azioni buone o cattive, senza essere moralmente valutabili; il fatto che tali elementi possano dar luogo a un duplice uso non implica che tale uso sia simmetrico nelle sue conseguenze positive o negative > se l’infrastruttura ben disegnata e correttamente funzionante non ci porta di per sé al bene, l’infrastruttura, che non è ben disegnata e non opera correttamente, può produrre di per sé il male. Quindi l’elemento infrastrutturale deve essere valutato con prudenza: è essenziale disegnare buone infrastrutture, ma dobbiamo sapere che il loro
normale funzionamento non porta sempre a risultati positivi, mentre il loro cattivo utilizzo comporta risultati negativi. c. L’assenza di permessi: con la sua assenza di permessi, ha rappresentato un carattere determinante nella rete = un numero crescente di persone ha accesso a un numero crescente di risorse. La libertà d’accesso ha reso il sapere meno esclusivo, integrando all’interno d’internet anche buona parte del sapere tradizionale (tradizionale faceva riferimento a qualcosa formatosi al di fuori della rete). Oggi la rete non è più un termine di confronto quanto un terreno di scontro. Secondo W. è la rete a diventare più intelligente, ma non poteva prevedere in che modo sarebbe diventato possibile accrescere il valore delle informazioni aggregandole, collegandole, miscelandole. Quindi è il decentramento della rete che ha consentito la raccolta e concentrazione di tali dati nelle mani di pochi attori capaci di estrarre da tale messe di dati altri dotati di grande valore. d. La conoscenza pubblica in internet: W. rileva che internet non ci ha fornito solo accesso più ampio e libero alle risorse, ma ci ha dotato di uno spazio pubblico in cui possiamo operare su tali risorse. Questa capacità di sfruttare gli effetti della rete, per creare ulteriore conoscenza e per estrarre valore, è un aspetto essenziale; W. sa che è necessario un’alfabetizzazione digitale, per trasformare le opportunità della rete, per condividere il surplus cognitivo che la rete produce e sfruttare appieno i vantaggi. Sa anche che tutto ciò può tradursi in forme di divisione ed esclusione sociale. “il successo con internet varia secondo i vecchi fattori: classe, reddito, istruzione”. W. mette l’accento su un aspetto importante che ci porta a una terza ipotesi.
③. Internet rende più intelligenti gli intelligenti e più stupidi gli stupidi Terza ipotesi: non possiamo dire che la rete sia l’unico ambiente che ci formi , in cui operiamo. Il suo impatto, infatti, non è meramente deterministico (ci condiziona totalmente) né meramente strumentale (non ci condiziona affatto); quindi non si può sostenere una tesi o l’altra. La terza ipotesi, rivedendo le prime due, può essere sintetizzata nella formula: “ internet rende più stupidi gli stupidi, e più intelligenti gli intelligenti ” = si può parlare di un EFFETTO DI ENFASI della rete:
- chi ha buoni strumenti cognitivi, risorse intellettuali, sufficiente grado di attenzione tende a migliorare la propria situazione di partenza per mezzo degli effetti di rete;
- chi possiede in modo limitato queste caratteristiche tende a peggiorare la propria situazione come esito degli stessi effetti di rete. Quindi internet enfatizza le situazioni di partenza.
Se questo effetto della rete fosse provato, solleverebbe un problema per la democrazia. La democrazia dovrebbe consentire a ciascun individuo di modificare le proprie condizioni di partenza, soprattutto entro il contesto online oggi. Si tratta di aggiornare in chiave informazionale e cognitiva il tema della mobilità sociale, verso l’alto e verso il basso. Chi è in una situazione sfavorita deve poter mutare la condizione di partenza, come chi gode di una situazione favorita deve essere incitato a migliorare attraverso il rischio di precipitare; l’immobilità sociale verso l’alto èun dato preoccupante , che contraddice l’idea originale della rete: quella di fornire maggiori opportunità a chi partiva da situazioni di svantaggio. Con riferimento a intelligenza umana e artificiale: il rischio è che l’intelligenza diventi il terreno privilegiato su cui si vincono le sfide dell’innovazione ma su cui prosperano la divisione e esclusione sociale, chiamando in causa la questione del potere. Si deve conciliare l’equità sociale con il processo di sviluppo delle attuali società dell’informazione.
Dopo aver salvato i suoi debiti con la giustizia, nel 2009 l’avvocato si rivolge al giornale, lamentando il fatto che la ricerca su Google del suo nome riportava ancora, come primo risultato, alla notizia del 1998; ciò recava ancora pregiudizio alla sua immagine personale e professionale. Egli si lamentava del fatto che il sapere a cui la rete dava accesso fosse una rappresentazione statica, del passato, un’immagine alterata del presente. Questa esigenza era già stata illustrata in una sentenza della Corte di Cassazione italiana, che aveva concepito il diritto all’oblio come punto di equilibrio tra due opposti interessi:
- quello del singolo alla rimozione della notizia
- quello della collettività al suo accesso
- L’applicazione di questo diritto richiedeva un difficile bilanciamento. Gonzales chiede al giornale di rimuovere la notizia dal proprio sito; la richiesta è inascoltatariflessi
- gli si rivolge a Google chiedendo di rendere inaccessibile la notizia rimuovendo i link ai siti che contengono il suo nome, quindi deindicizzare (dissociare il nome a risultati di ricerca) ma Google non accetta.
- La questione allora prende le vie giudiziarie e approda alla Corte di Giustizia dell’UE che nel 2014, con la sentenza Google Spain, accoglie le ragioni di Gonzales e riconosce il diritto all’oblio. La Corte da inizio così a una complessa architettura istituzionale, che costituisce un aspetto che incide, attraverso la dialettica memoria/oblio, sulla redistribuzione del potere che il passaggio al mondo online ha comportato e sulla formazione e concentrazione del sapere.
Nella vicenda vi è
- l’interesse del singolo alla propria identità informazionale
- quello della collettività alla libera circolazione delle informazioni e del diritto di cronaca ,
- quello del sito online che diffonde informazioni
- quello del motore di ricerca il cui business consiste nell’indicizzare le notizie e consentire il loro reperimento. Sono interessi discordanti e la Corte con la sua decisione ha ridisegnato un modello di rapporto.
Il “ gruppo articolo 29 ” (costituito dall’insieme dei garanti europei a norma dell’articolo 29 della direttiva 95/46/EC) ha ricostruito i punti principali della decisione: 1) Motori di ricerca come titolari del trattamento L’attività degli operatori di motori di ricerca costituisce trattamento dei dati personali e questi si qualificano come titolari del trattamento ai sensi della disciplina europea sulla protezione dati personali: quindi l’indicizzazione dei risultati di ricerca, considerata trattamento di dati personali, espone Google all’applicazione della disciplina e alla responsabilità del titolare del sito che ha pubblicato l’informazione. Google è reso responsabile del processo di indicizzazione delle notizie ai fini della questione in causa. 2) Equo bilanciamento tra interessi e diritti fondamentali La Corte ha fissato un ordine di priorità tra i vari interessi: i diritti del titolare dei dati prevalgono sull’interesse economico del motore di ricerca e su quello degli utenti della rete ad accedere a informazioni tramite motori di ricerca; tuttavia, si è riconosciuto che in questo caso deve esserci un equo bilanciamento tra gli interessi in ragione della natura dei dati processati e dell’interesse pubblico. Da un lato si afferma la prevalenza dell’interesse del singolo su quello generale alla libera circolazione; dall’altro se ne affida la realizzazione a un difficile esercizio di bilanciamento. 3) Limitato impatto della deindicizzazione
Il gruppo articolo 29 riteneva che l’impatto del processo di deindicizzazione sui diritti di libertà di espressione e di accesso all’informazione sarebbe stato molto limitato, in quanto i garanti avrebbero svolto un sapiente esercizio di bilanciamento di interessi. Ma questa ipotesi si è rivelata inesatta in quanto il bilanciamento non è stato operato dalle autorità di controllo o dalle corti nazionali, ma esclusiva di Google. 4) Nessuna informazione è eliminata dalla sua fonte originaria La decisione fonda un diritto del singolo alla deindicizzazione, ma non richiede la cancellazione del link da elenchi di risultati basati su altre ricerche > la notizia originale resta accessibile. Non si è richiesta la cancellazione della notizia per varie ragioni: l’accesso alle notizie avviene per lo più tramite motori di ricerca; rimuoverla è un’operazione complessa e gravosa; l’accesso diretto alla notizia, per quanto limitato, garantisce un parziale bilanciamento degli interessi. 5) Nessun obbligo per il titolare di dati di contattare il sito web originario Il soggetto che intende esercitare il diritto all’oblio nei confronti del motore di ricerca non è tenuto a contattare il sito di origine; esso si rivolge direttamente a Google. Anche il motore di ricerca non è tenuto a informare il webmaster delle pagine. Ciò è diverso dal sistema americano (notice and take down), e quindi non si instaura un contraddittorio tra tutte le parti in causa. Effetti della decisione > la Corte voleva restituire potere agli utenti, maggiore potere di controllo sui propri dati; tramite la protezione offerta dal diritto, ogni individuo avrebbe rinsaldato il proprio patto fiduciario con i grandi attori della rete. La Corte così facendo ha individuato nel titolare del motore di ricerca il destinatario della richiesta di deindicizzazione e ne ha fatto l’attore principale. In Europa la maggior parte di ricerche è fatta utilizzando Google, quindi la Corte lo ha investito di un ruolo centrale ; lo ha fatto, dal punto di vista della governance del digitale per tre ragioni:
- Era nei confronti di Google che la corte voleva rinsaldare il patto fiduciario degli utenti, riaffermando che prevale comunque il diritto del singolo, ma volendo ripristinare una condizione di equilibrio.
- Google è il principale fruitore economico del meccanismo di circolazione e indicizzazione dei dati; ci guadagna di più e quindi il soggetto che per primo debba essere chiamato a rispondere delle storture nel funzionamento del sistema da cui trae ingenti guadagni. Inoltre, si trova nella posizione economica migliore per rimediare a ciò.
- L’applicazione di un diritto impone costi gravosi sia per il tempo che per le risorse. Deve essere una struttura in grado di ricevere e valutare le richieste secondo criteri trasparenti, di dare risposte celeri, creare un meccanismo che assicuri decisioni dotate di un grado di uniformità in un ambito, quello europeo, frammentato. Google possedeva le risorse necessarie.
Alcuni dati, dal 2014 al 2018, mostrano che la maggior parte delle richieste è respinta da Google, ma una parte considerevole di richieste è accolta. Inoltre, un numero esiguo delle richieste respinte viene sottoposto a un processo da parte di autorità di controllo o corte nazionale. Ciò significa che Google assolve di norma al ruolo di giudice di prima e ultima istanza. La corte intendeva rafforzare il potere dei singoli e limitare quello dei grandi colossi della rete, ma in realtà ha conferito a Google una sorta di monopolio sull’amministrazione di un diritto: diritto all’oblio che incide su quanto ricordiamo e dimentichiamo, sulla produzione di informazione e conoscenza. Tale risultato è stato oggetto di osservazioni critiche sul piano giuridico e su quello della governance del digitale. Tre motivi di censura relativi alla decisione della Corte: I. L’amministrazione privata del diritto “l’UE ha consegnato in prima istanza nelle mani di Google l’applicazione di un diritto”. Ha esternalizzato un compito e dato luogo a una singolare amministrazione privata del diritto
