Le Tecniche di Data Mining

Transcript

1 Cluster Analysis

2 Le Tecniche di Data Mining Le rinciali tecniche di data mining che vedremo sono: Ø Ø Cluster Analysis Alberi Decisionali

3 Cluster Analysis La Cluster Analysis è una tecnica di data mining non suervisionato (alicato senza iotesi rima) Per clustering si intende la segmentazione di un gruo eterogeneo in sottogrui (cluster) omogenei. Ciò che distingue il clustering dalla classificazione è che qui non si fa ricorso a classi redefinite. Esemi di alicazione: Rilevare un insieme di sintomi indice di una atologia secifica. rilevare l aartenenza a sottoculture diverse raggruando in classi omogenee gli acquisti di materiale video e audio.

4 Clustering analysis Raggruamento di dati con caratteristiche simili: i membri sono simili tra loro e diversi dagli altri Esigenza umana: classificare sulla base di caratteristiche simili 4

5 Clustering analysis Scoo: n Suddivisione di un set di dati comlessi in un sottoinsieme di dati iù semlice al fine di ermettere a tecniche di data mining suervisionato di trovare con iù facilità siegazioni al comortamento Identificare i grui che mi serviranno successivamente er fare gli alberi Scegliere il numero di cluster (k) che vogliamo K = 1 non ha senso K = num di record non ha senso 5

6 Metodi di rilevazione automatica dei cluster Metodi agglomerativi: aggregare i record in modo significativo Metodi divisivi: oosto, tutti i record fanno arte di un unico cluster che viene via via sezzettato finchè ad ogni record corrisonde un cluster 6

7 Cluster Analysis: Algoritmo K-means L algoritmo suddivide un determinato set di dati in un numero redefinito di cluster: la k di k- means. Il termine means sta er media statistica: la distribuzione media di tutti i comonenti di un articolare cluster. Per formare i cluster, a ogni record vengono assegnate delle coordinate in un determinato sazio dei record. Lo sazio ha tante dimensioni quanti sono i cami nei record. Il valore di ciascun camo raresenta una coordinata del record. Perché questa interretazione geometrica sia utile, tutti i cami devono essere trasformati in numeri e i numeri a loro volta normalizzati, in modo che due variazioni in due dimensioni diverse ossano essere comarabili.

8 Cluster Analysis: Algoritmo K-means I record vengono assegnati ai cluster, tramite un rocesso iterativo che inizia da cluster centrati in osizioni casuali all interno dello sazio dei record e sosta i centroidi (ossia i baricentri dei cluster)

9 Algoritmo k-means 1. Scegliere il num di cluster che si vogliono 2. Prende k record a caso dalla tabella dei fatti e li rende centro di un cluster 3. Per ognuno degli altri unti (record) calcola la distanza* dal centro del cluster e lo osiziona nel cluster del centroide e iù vicino 4. Il unto medio del cluster diventa il centroide di un nuovo cluster 5. Si torna al unto 3 (ogni record assegnato al cluster con il centroide iù vicino) * (Distanza euclidea) 9

10 Cluster Analysis: Algoritmo K-means

11 Cluster Analysis: Algoritmo K-means Passo 1: scegliamo k=3 e i seguenti semi iniziali:

12 Cluster Analysis: Algoritmo K-means Passo 2: Assegniamo ogni record al cluster con il centroide (o seme) iù vicino

13 Cluster Analysis: Algoritmo K-means Passo 3: Il asso due ha individuato nuovi cluster. Ci calcoliamo i centroidi (o semi) di questi

14 Cluster Analysis: Algoritmo K-means Passo 2:Riaggrego ogni record al cluster di centroide iù vicino. Notare cosa succede a un dato Un dato inizialmente assegnato al cluster 2, nella seconda iterazione viene assegnato al cluster 3

15 Cluster Analysis: Algoritmo K-means L algoritmo termina erché i centroidi, e quindi i confini dei cluster, non variano iu (i cluster sono definitivi)

16 Cluster Analysis: Algoritmo K-means Problema: Nel metodo k-means la scelta di k, che determina il numero di cluster che verranno individuati, è redefinita dall utente. Se il numero non corrisonde alla struttura naturale dei dati, la tecnica non darà buoni risultati Alcuni software forniscono aiuto er la scelta del valore di k ottimale: l utente uò fornire un intervallo er il numero di cluster entro cui cercare.

17 Algoritmo k-means Esemio, raggruare i clienti in base al momento della giornata in cui comrano maggiormente Attributi: categoria di clienti (studenti, ensionati, imiegati), eriodo (mattino, sera) Cluster Cliente eriodo c1 98% ensionati 2% studenti 90% mattino, 10% omeriggio c2 70% imiegati, 30% ensionati 100% sera c

18 Cluster migliore quello che ha n Distanza minima tra i suoi membri n Distanza massima con i membri degli altri cluster 18

19 Cluster Analysis Quando usare il rilevamento dei cluster nel data mining Essendo una tecnica non suervisionata, il rilevamento automatico dei cluster uò essere alicato quando non conosciamo nulla della struttura da scorire. D altro canto, erò, visto che i cluster individuati automaticamente non hanno alcuna interretazione naturale, eccetto quella geometrica er cui certi record sono iù vicini ad alcuni che non ad altri, otrebbe essere difficile mettere in ratica questi risultati.

20 Alicazioni tiiche come strumento stand-alone er caire come i dati sono distributi come asso di re-rocessing er altri algoritmi (alberi di decisione) GIS: creazione di mae tematiche à osservare aree terrestri simili Clustering di web log à er scorire attern di comortamento sul web 20

21 Esercizio 1 Partendo dal dataset dell ass: creare 3 cluster in modo da caire se ci sono dei raggruamenti significativi in base a sesso, età e regione creare 5 cluster con le stesse informazioni rovare a cambiare i seeds e vedere che cosa cambia nei due casi rovare a combinare altre feature 21

22 Esercizio 2 Partendo dal dataset di fiori (dataset n 3): creare n cluster in modo da caire se ci sono dei raggruamenti significativi in base a lunghezza e larghezza del etalo, lunghezza e larghezza del sealo 22

23 Elbow analisys htts://en.wikiedia.org/wiki/elbow_meth od_(clustering) 23