Clustering analysis applicata, Appunti di Statistica Inferenziale

Scarica Clustering analysis applicata e più Appunti in PDF di Statistica Inferenziale solo su Docsity!

Clustering

Sistemi informativi per le Decisioni

Slide a cura di Prof. Claudio Sartori

Clustering

Scenario: Analisi e gestione dei mercati „

Customer profiling

Quali tipi di cliente acquistano quali prodotti?

Clustering, classificazione

„

Identificare le richieste dei clienti

Trovare il prodotto migliore per clienti diversi

Predire quali fattori possono attrarrenuovi clienti

„

Produrre informazioni di sommario

Rapporti multi-dimensionali

Sintesi statistiche descrittive

Clustering

Clustering - descrizione del problema

„

input:

un insieme di N oggetti d-dimensionali

„

output:

determinare un partizionamento naturaledell'insieme di dato in k clusters + rumore

proprietà desiderate nei cluster:

„

oggetti nello stesso cluster sono simili^ Î

massimizzata la similarità intra-cluster

„

oggetti in cluster diversi sono differenti^ Î

minimizzata la similarità inter-cluster

Clustering

Prospettiva di ricerca „

Dal passato...^

il clustering è un problema ben noto in statistica

ricerche più recenti

„^

machine learning „^

database „^

visualizzazione

... per il futuro^

algoritmi efficaci ed efficienti per il clustering di grandi insiemidi dati (in rapido aumento), con elevato numero di dimensioni,molto rumore

richiede scalabilità rispetto a:

„^

numero di punti dati (N) „^

numero di dimensioni (d) „^

livello di rumore „^

frequenza di aumento del numero di punti dati

Clustering

Alcuni datiPotrebberofacilmente esseremodellati comeuna distribuzionegaussiana con 5componentiMa cerchiamouna soluzione più“amichevole”e soddisfacente...

Clustering

Compressione con perdita Supponiamo di dovertrasmettere le coordinatedi punti presi a casoda questo insieme: dovremoideare un meccanismodi codifica/decodifica.Limitazione: ci è permessodi trasmettere soltanto due bitper punto. La trasmissione sarà con perdita (lossy)Perdita =

somma dei quadrati

degli errori tra le coordinatedecodificate e quelle originali.Quale codifica/decodificaminimizza la perdita?

Clustering

Idea due Supponiamo di dovertrasmettere le coordinatedi punti presi a casoda questo insieme: dovremoideare un meccanismodi codifica/decodifica.Limitazione: ci è permessodi trasmettere soltanto due bitper punto. La trasmissione sarà con perdita (lossy)Perdita =

somma dei quadrati

degli errori tra le coordinatedecodificate e quelle originali.Quale codifica/decodificaminimizza la perdita?

Idee migliori?

partizionare lo spazio in una griglia,decodificare ogni coppia di bit come ilcentroide di tutti i dati nella rispettiva griglia

Clustering

K-means

1. chiedi all’utente quanti

cluster vuole

(es. k=5)

Clustering

K-means

1. chiedi all’utente quanti

cluster vuole

(es. k=5)

2. scegli a caso

k

posizioni

come centri

3. ogni punto trova quale è

il suo centro più vicino

Clustering

K-means

1. chiedi all’utente quanti

cluster vuole

(es. k=5)

2. scegli a caso

k

posizioni

come centri

3. ogni punto trova quale è

il suo centro più vicino

4. ogni centro trova

il centroide dei puntiche possiede...

Clustering

K-meansPartenza Example generated byDan Pelleg’s super-duperfast K-means system:

Dan Pelleg and AndrewMoore. Accelerating Exactk-means Algorithms withGeometric Reasoning.Proc. Conference onKnowledge Discovery inDatabases 1999,(KDD99) (available onwww.autonlab.org/pap.html

)

Clustering

K-meanscontinua…

Clustering

K-meanscontinua…

Clustering

K-meanscontinua…