Introduzione all'Intelligenza Artificiale: Reti Neurali e Algoritmi Genetici | Appunti di Etica Economica

AI e Machine Learning

L’AI è la disciplina che studia la progettazione, lo sviluppo e la realizzazione di sistemi in!

grado di simulare le abilità, il ragionamento e il comportamento umani.!

➢È nel XVII secolo che vengono costruite le prime macchine in grado di eﬀettuare calcoli!

automatici (Blaise Pascal, Gottfried Wilhelm von Leibniz).!

➢Nella prima metà dell’Ottocento Charles Babbage con la sua “macchina analitica”

anticipava le caratteristiche dei moderni calcolatori. A partire dalla seconda metà degli

anni ’30 vengono pubblicati i lavori di Alan Touring, padre dell’informatica.!

➢Nel 1943, con il lavoro del neurofisiologo Warren Sturgis McCulloch e del matematico

Walter Harry Pitts, mostrano, con un modello matematico, come dei semplici neuroni

possano essere combinati per calcolare le tre operazioni logiche elementari NOT, AND,

OR.!

➢È da questi assunti che nasceranno le reti neurali artificiali: vengono così avviati gli studi!

sull’intelligenza artificiale.!

➢“INTELLIGENZA ARTIFICIALE” ha una data di nascita precisa: viene utilizzata per la

prima volta dai matematici e informatici John McCarthy, Marvin Minsky, Nathaniel

Rochester e Claude Shannon in un documento del 1955.!

➢Nel 1958 McCarthy sviluppa il linguaggio Lisp (List Processor) per studiare la

computabilità di funzioni ricorsive su espressioni simboliche che per lungo tempo è stato

il linguaggio di riferimento nei progetti di intelligenza artificiale.!

➢Nel 1986, Jay McClelland e David Rumelhart in una pubblicazione sotengono che una

rete neurale è un grafo diretto non lineare, nel quale ogni elemento di elaborazione (ogni

nodo della rete) riceve segnali da altri nodi ed emette a sua volta un segnale verso altri

nodi.!

➢Si sviluppa il modello di rete neurale multistrato (MLP- Multilayer Perceptron) dove ogni!

strato di nodi è completamente connesso con quello successivo e utilizza una tecnica di!

apprendimento supervisionato chiamata retropropagazione dell’errore.!

➢L’AI debole non comprende totalmente i processi cognitivi umani, ma si occupa!

sostanzialmente di PROBLEM SOLVING (risposte a problemi sulla base di regole

conosciute).!

➢La caratteristica distintiva dell’ AI forte è l’analisi del linguaggio per comprenderne il!

significato, anche attraverso metodi induttivi (maieutica) o deduttivi.!

➢AI → MACHINE LEARNING (apprendimento automatico): la capacità di imparare ed

eseguire compiti da parte della macchina sulla base di algoritmi che imparano dai dati in

modo iterativo.!

Il computer apprende la nuova conoscenza in vari modi:!

➢ Dall'osservazione dell'ambiente esterno: l'agente osserva il mondo esterno e impara

dai feedback delle sue azioni e dai suoi errori.!

➢ Dalla base di conoscenza: l'esperienza e la conoscenza dell'ambiente operativo sono!

conservate in un database detto base di conoscenza (knowledge base o KB).!

➢La base di conoscenza non è mai vuota ma contiene alcune informazioni iniziali inserite!

manualmente dal progettista (conoscenza pre-esistente o pregressa). Successivamente,!

durante il processo di apprendimento, la base cognitiva (KB) viene modificata tramite i

feed-back con l'ambiente, in base alla esperienza diretta maturata nel corso del tempo.!

Nel machine learning la pre-elaborazione (o pre-processing) è la fase in cui si organizzano

i dati, prima di avviare l'algoritmo di apprendimento. In particolar modo, nella fase di

pre-processing si analizza il dataset per individuare eventuali correlazioni nei dati.!

Anteprima parziale del testo

Scarica Introduzione all'Intelligenza Artificiale: Reti Neurali e Algoritmi Genetici e più Appunti in PDF di Etica Economica solo su Docsity!

AI e Machine Learning L’AI è la disciplina che studia la progettazione, lo sviluppo e la realizzazione di sistemi in grado di simulare le abilità, il ragionamento e il comportamento umani. ➢È nel XVII secolo che vengono costruite le prime macchine in grado di effettuare calcoli automatici (Blaise Pascal, Gottfried Wilhelm von Leibniz). ➢Nella prima metà dell’Ottocento Charles Babbage con la sua “macchina analitica” anticipava le caratteristiche dei moderni calcolatori. A partire dalla seconda metà degli anni ’30 vengono pubblicati i lavori di Alan Touring, padre dell’informatica. ➢Nel 1943, con il lavoro del neurofisiologo Warren Sturgis McCulloch e del matematico Walter Harry Pitts, mostrano, con un modello matematico, come dei semplici neuroni possano essere combinati per calcolare le tre operazioni logiche elementari NOT, AND, OR. ➢È da questi assunti che nasceranno le reti neurali artificiali: vengono così avviati gli studi sull’intelligenza artificiale. ➢“INTELLIGENZA ARTIFICIALE” ha una data di nascita precisa: viene utilizzata per la prima volta dai matematici e informatici John McCarthy, Marvin Minsky, Nathaniel Rochester e Claude Shannon in un documento del 1955. ➢Nel 1958 McCarthy sviluppa il linguaggio Lisp (List Processor) per studiare la computabilità di funzioni ricorsive su espressioni simboliche che per lungo tempo è stato il linguaggio di riferimento nei progetti di intelligenza artificiale. ➢Nel 1986, Jay McClelland e David Rumelhart in una pubblicazione sotengono che una rete neurale è un grafo diretto non lineare, nel quale ogni elemento di elaborazione (ogni nodo della rete) riceve segnali da altri nodi ed emette a sua volta un segnale verso altri nodi. ➢Si sviluppa il modello di rete neurale multistrato (MLP- Multilayer Perceptron) dove ogni strato di nodi è completamente connesso con quello successivo e utilizza una tecnica di apprendimento supervisionato chiamata retropropagazione dell’errore. ➢L’AI debole non comprende totalmente i processi cognitivi umani, ma si occupa sostanzialmente di PROBLEM SOLVING (risposte a problemi sulla base di regole conosciute). ➢La caratteristica distintiva dell’ AI forte è l’analisi del linguaggio per comprenderne il significato, anche attraverso metodi induttivi (maieutica) o deduttivi. ➢AI → MACHINE LEARNING (apprendimento automatico): la capacità di imparare ed eseguire compiti da parte della macchina sulla base di algoritmi che imparano dai dati in modo iterativo. Il computer apprende la nuova conoscenza in vari modi: ➢ Dall'osservazione dell'ambiente esterno: l'agente osserva il mondo esterno e impara dai feedback delle sue azioni e dai suoi errori. ➢ Dalla base di conoscenza: l'esperienza e la conoscenza dell'ambiente operativo sono conservate in un database detto base di conoscenza (knowledge base o KB). ➢La base di conoscenza non è mai vuota ma contiene alcune informazioni iniziali inserite manualmente dal progettista (conoscenza pre-esistente o pregressa). Successivamente, durante il processo di apprendimento, la base cognitiva (KB) viene modificata tramite i feed-back con l'ambiente, in base alla esperienza diretta maturata nel corso del tempo. Nel machine learning la pre-elaborazione (o pre-processing) è la fase in cui si organizzano i dati, prima di avviare l'algoritmo di apprendimento. In particolar modo, nella fase di pre-processing si analizza il dataset per individuare eventuali correlazioni nei dati.

Gli attributi fortemente correlati possono essere indicati come unica variabile nel dataset, senza alcuna perdita di informazione → riduce la dimensione dei dati nel dataset e la complessità computazionale dell'algoritmo. I rumori (dati irrilevanti) sono eliminati dal dataset. Alberi decisionali ➢Alberi di decisione sono utilizzati nei processi di apprendimento induttivo, quelli basati sull'osservazione dell'ambiente circostante. ➢Il processo decisionale è rappresentato con un albero logico rovesciato, che parte da un nodo radice (root) e ogni nodo è una funzione condizionale. ➢ Ogni nodo interno rappresenta un test su una proprietà o attributo, ➢ Un arco verso un nodo figlio rappresenta un possibile valore per quella proprietà o attributo, ➢ Una foglia il valore finale previsto a partire dai valori delle altre proprietà, che nell'albero è rappresentato dal cammino (path) dal nodo radice al nodo foglia. ➢ Gli alberi logici, vantaggi ✓ semplicità ✓ facili da capire e da eseguire ✓ facilmente comprensibile dagli esseri umani; l'uomo può verificare come la macchina giunge alla decisione. Eventualmente dissentire. ➢Esempio. Un albero decisionale applicato alla medicina fornisce delle diagnosi. Essendo una decisione importante per il paziente, è sempre opportuno che un medico verifichi il processo di classificazione che ha portato la macchina a prendere quella decisione. ➢Per un uomo è più facile farlo leggendo un albero decisionale che una rete neurale La rappresentazione ad albero decisionale è poco adatta per i problemi complessi: lo spazio delle ipotesi diventa troppo grande si pone il problema della «complessità spaziale» dell’algoritmo. Il neurone Unità fondamentale del cervello umano. Ogni neurone riceve come input i segnali elettrici da tutti i dendriti, e se la somma pesata supera il valore di attivazione emette un impulso elettrico in uscita verso l’assone. ✓ In input i dendriti per la raccolta dei segnali provenienti da altri neuroni. Ogni neurone ha una soglia di attivazione. ✓ In output gli assoni per la distribuzione dei segnali ad altri neuroni. ✓ Un neurone attivo è attivo in misura variabile: il livello di attività è influenzato dai livelli di attività degli assoni provenienti da altri neuroni congiunti ai dendriti del neurone attraverso sinapsi. ✓ Una sinapsi ha una forza da positiva (eccitatoria), a zero (nessun effetto), a negativa (inibitoria). Le sinapsi “pesano” il segnale. IL CERVELLO UMANO (neurone) Elaborazione dell’informazione in parallelo e diffusa tra migliaia di neuroni porta all’emergere di processi cognitivi. Elaborazione risiede in due emisferi separati da un corpo calloso che sono, a loro volta, suddivisi in regioni ben localizzate negli emisferi.

RETI NEURONALI - CAMPI DI APPLICAZIONE

➢ Pattern classificazione ➢ Clustering ➢ Approssimazione di funzioni ➢ Predizioni in serie temporali ➢ Ottimizzazione ➢ Memorie associative (CAM, Content Addressable Memory - memoria a contenuto indirizzabile) ➢ Controllo di apparati ➢Elaborazione di segnali ed immagini. RETI NEURONALI E ALGORITMI GENETICI Gli algoritmi genetici possono essere applicati alle reti neurali per risolvere problemi come:

Scegliere la struttura della rete
Scegliere i valori dei pesi per ridurre l’errore di Output. RETI NEURONALI E SISTEMI ESPERTI Le reti neurali si differenziano molto dai sistemi esperti perché… ➢ Non usano conoscenze esplicite, ma conoscenze implicite contenute in una casistica molto ampia di esempi formata da vettori di numeri. ➢ Usano numeri invece di simboli e regole. ➢ Non usano regole tipo IF…THEN.. ➢ Tutti i neuroni collaborano insieme. ➢ Non vengono programmate, vengono addestrate con l’apprendimento ➢ Si accettano dati parziali e con rumore. ➢ Il sistema esperto può spiegare perché e come ha ottenuto una conclusione, le reti neurali NON può giustificare perché e come ha ottenuto dei valori specifici in uscita. Un sistema esperto può fare ragionamenti come “Socrate è un uomo, gli uomini sono mortali, Socrate è mortale”, la rete neurale no ma può facilmente riconoscere una faccia. Un sistema esperto NON tiene conto del supporto materiale che ragiona → si dedica solo alla funzione del ragionamento e cerca di imitare la mente umana. Il connessionismo è l’approccio allo studio della mente con le reti neurali; considera fondamentale la struttura del supporto materiale che ragiona, per cui cerca di imitare il cervello umano. Apprendimento in rete NON PROGRAMMARE MA APPRENDERE ➢ La PROGRAMMAZIONE serve solo per creare il software che crea la rete e l’algoritmo di apprendimento. Per insegnare alla rete a risolvere un problema, occorre un periodo di apprendimento in cui insegnare alla rete come comportarsi con l’input che riceve, perché all’inizio la rete non ha nessuna forma di conoscenza. ➢ L’operatore crea la struttura della rete e quindi i pesi sono gli unici parametri che possono essere modificati. Infatti la conoscenza è memorizzata i suoi pesi e la rete apprende usando tecniche di ottimizzazione per variare i valori dei pesi, cercando di minimizzare una funzione di errore.

Tipi di apprendimento

SUPERVISIONATO
NON SUPERVISIONATO
HEBBIANO Ogni modello di rete neurale ha il suo specifico tipo di apprendimento. APPRENDIMENTO SUPERVISIONATO Ipotesi induttiva ➢ Alla rete viene presentato un training set preparato da un supervisore esterno, e composto da molte coppie significative di valori (input,output atteso); ➢ la rete riceve l’input e calcola il suo corrispondente output. ➢ per un certo input, l’errore è dato dalla differenza tra l’output della rete e l’output atteso; serve a supervisionare l’apprendimento per far capire alla rete quanto si sbaglia nel calcolare quell’output. ➢ la rete modifica i pesi in base all’errore cercando di minimizzarlo e commetterà sempre meno errori. ➢ Occorre quindi preparare alcuni esempi di funzionamento studiati appositamente, e la rete impara da questi esempi. ➢Modelli che usano questo apprendimento: perceptron (un tipo di classificatore binario ) , multi layer perceptron, radial basis function. Le rivoluzioni scientifiche, paradigmi Una singolarità tecnologica è un punto, congetturato nello sviluppo di una civiltà, in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani. Le rivoluzioni scientifiche storia delle tecnologie LO SVILUPPO TECNOLOGICO fattore primario dell‘evoluzione (Lewis H. Morgan, Leslie White, e Gerhard Lenski)

3 FASI: lo stato selvaggio, la barbarie, la civiltà (Lewis H. Morgan), fasi separate dal traguardi tecnologici: controllo del fuoco, l'arco, la ceramica, l’allevamento, l'agricoltura, lavorazione dei metalli fino alla scrittura.
metro dell'evoluzione sociale è UTILIZZA L'ENERGIA (Leslie White) 5 TAPPE: uso della forza dei propri muscoli, uso della forza degli animali allevati, controllo sull’energia delle piante (agricoltura), utilizzo delle risorse fossili e scoperta dell'energia nucleare.
l’informazione elemento valutativo dell'evoluzione delle società (Gerhard Lenski): più informazione e conoscenza riesce ad esprimere, più è evoluta. LE SETTE ETÀ TECNOLOGICHE DELL'UOMO (Ian McNeil)

Era dei cacciatori-raccoglitori nomadi, usavano strumenti e armi fabbricate con legno (materiale facilmente reperibile, ossi o pietra e capaci di accendere e controllare il fuoco.
Età del metallo, specializzazione delle attività motore dii cambiamenti delle strutture sociali.
Prima Età della macchina, primi orologi e torchio da stampa, conoscenza standardizzata e largamente disseminata.
Inizio della produzione in quantità, applicazione dell'energia del vapore, fabbrica soppianta l’artigianale.
Età del vapore (uso completo) , influenza trasversale nella vita economica e sociale.
Età del motore a combustione interna, in 50 anni superò il vapore come fonte primaria. di energia.
Età elettrica ed elettronica (oggi), cambiamenti di la vita più veloci e più radicali diqualunque età precedente.

ASI - Artificial Super Intelligence Non si limita a imitare o comprendere l’intelligenza e il comportamento umano. Le macchine acquisiscono consapevolezza di sé e superano le capacità dell’intelligenza e delle capacità umane. “Cosa aggiunge l’IA alle nostre vite?” conferenza Digital Life Design (DLD) 2020 a Monaco, Gary Kasparov , il più giovane campione mondiale di scacchi e miglior giocatore di scacchi da 20 anni, ha espresso il suo parere: «I lavori non scompaiono, si evolvono. Eliminare le persone da lavori ripetitivi consente loro di essere più creative. Il futuro della razza umana è basato sulla creatività» AI le classificazioni I 4 TIPI

Reactive AI, macchine puramente reattive
Limited memory, a memoria limitata
Theory of Mind (Teoria della mente ), Sistemi con una propria coscienza
Self-aware, Sistemi dotati di auto consapevolezza o consapevolezza di sé. AI – Macchine Reattive Un agente razionale programmato per reagire immediatamente agli stimoli esterni ( input ) con un'azione o una risposta Considera lo spazio come una griglia a due dimensioni, suddivisa in celle, righe e colonne. L'ambiente è delimitato da confini che riducono lo spazio reale a uno spazio discreto di dimensioni limitate: Limite invalicabile (muro ) o semplicemente dell'orizzonte di conoscenza dalla macchina reattiva (fog of war, gergo militare XIX).
I sistemi più elementari di IA sono definiti reattivi. Non possono basarsi su «ricordi» e nemmeno su esperienze del passato per prendere decisioni.
Deep Blue, l’IA di IBM che negli anni ’90 ha sconfitto l’allora campione mondiale di scacchi Garry Kasparov (Reazione diretta a ciò che vede)
AlphaGo di Google (Google DeepMind) ha sconfitto il campione mondiale Lee Sedol nel gioco di Go (rete neurale sugli sviluppi del gioco) AI – Macchine a Memoria Limitata Questi sistemi sono in grado di apprendere dai dati storici per prendere decisioni e aggiungono in modo indipendente informazioni alla memoria. Spazio di archiviazione è molto limitato, così i computer avranno solo una capacità di memoria sufficiente a prendere decisioni corrette e quindi eseguire le azioni desiderate. Rientrano in questo tipo i sistemi specializzati:
auto autonome
assistenti personali digitali
i cosiddetti chatbot

Queste macchine possono basarsi sul passato.
I veicoli autonomi possono in parte già farlo, Osservano e analizzano la velocità e la direzione delle altre automobili in strada.
Queste osservazioni vengono aggiunte alle rappresentazioni del mondo pre- programmate dei veicoli autonomi: strisce pedonali, semafori, curve, incroci…
Dati, quelli pre-programmati e quelli raccolti su strada, vengono elaborati quando il veicolo autonomo deve svolgere un’azione. Non c’è memoria (che apprenda dall’esperienza).

AI – Teoria della mente La teoria della mente («ToM», Theory of Mind) è la capacità di attribuire stati mentali: credenze, intenzioni, desideri, emozioni, conoscenze - a sé stessi e agli altri, e la capacità di comprendere che gli altri hanno stati mentali diversi dai propri. ( da David Premack e Guy Woodruff) Fondamentale in ogni interazione sociale e serve ad analizzare, giudicare e comprendere il comportamento degli altri. Le macchine del futuro non solo formeranno rappresentazioni sul mondo, ma anche su altri agenti ed entità che lo abitano. In psicologia l’espressione adottata è “teoria della mente”: comprendere che le persone, le creature viventi, possono avere dei pensieri e delle emozioni che influenzano il loro comportamento. AI next generation … costruire macchine in grado di formare rappresentazioni di se stesse. Ciò significa che dovremo prima capire cos’è e come funziona davvero la coscienza. Poi dovremo trovare un modo per di costruire macchine che ne possiedono una. La classificazione

Classificare significa dividere un insieme di oggetti in insiemi disgiunti secondo un criterio stabilito a priori; in genere si assegna una etichetta ad ogni insieme creato.
Il pattern recognition (riconoscimento di configurazioni) è la tecnica che consente di creare classificatori numerici e automatici.
Ogni oggetto deve essere rappresentato con un vettore di numeri per essere classificato da una rete neurale, per cui ad ogni oggetto si associa un pattern, un vettore di feature che contraddistingue univocamente l’oggetto. Pattern recognition è una sotto-area dell'apprendimento automatico, analisi e identificazione di una «disposizione». Classificatore numerico Mapping: termine generico per identificare un meccanismo di corrispondenza tra due oggetti, una proprietà esterna con una interna oppure un oggetto di una classe con un altro oggetto. Scelta delle feature
Feature (caratteristica): caratteristiche numeriche di un oggetto, ricavate misurando alcune sue proprietà significative. Devono essere scelte con le proprietà:
DISCRIMINANZA: i valori delle feature sono simili per oggetti appartenenti alla stessa classe e sono molto diversi per oggetti appartenenti a classi diverse
INDIPENDENZA: i valori delle feature non devono essere correlati tra loro
MINIMALITÀ: devono essere il minimo numero possibile di proprietà
DISPONIBILITÀ: facili e veloci da calcolare. Progettare la rete ✓scegliere un modello di rete e definirne l’architettura

funzione di attivazione per ogni neurone.
numero di livelli hidden e numero di neuroni per ogni livello hidden (non esistono precise regole per determinarli, solo con tentativi e verifiche degli errori commessi).
numero di neuroni per lo strato input: tanti quanti i valori delle feature.
numero di neuroni per lo strato output: tanti quante sono le classi.

Introduzione all'Intelligenza Artificiale: Reti Neurali e Algoritmi Genetici, Appunti di Etica Economica

Documenti correlati

Anteprima parziale del testo

Scarica Introduzione all'Intelligenza Artificiale: Reti Neurali e Algoritmi Genetici e più Appunti in PDF di Etica Economica solo su Docsity!

RETI NEURONALI - CAMPI DI APPLICAZIONE