Classificazione Validazione Decision Tree & kmeans. Renato Mainetti

Transcript

1 Classificazione Validazione Decision Tree & kmeans Renato Mainetti

2 Apprendimento Supervisionato e Non Supervisionato: forniamo input e output Non supervisionato: forniamo solo input 2

3 Apprendimento Supervisionato e Non 3

4 Pipeline: cosa fare per classificare 1) Dati Noti (Predittori) Risposte Note (Etichette) Modello 2) Modello Nuovi dati (non etichettati) Predizione Risposte 4

5 Proviamo a creare dei decision-tree: (usando come dati di addestramento le funzioni logiche booleane AND e XOR) AND XOR ma prima rapido ripasso della logica booleana 5

6 Algebra di Boole (wiki) In matematica l'algebra di Boole è il ramo dell'algebra in cui le variabili possono assumere solamente i valori vero e falso (valori di verità), denotati come 1 e 0; Le operazioni fondamentali non sono addizione e sottrazione ma gli operatori logici: la congiunzione o prodotto logico indicata con oppure AND; la disgiunzione o somma logica indicata con oppure OR; la negazione o complementazione indicata con oppure NOT. 6

7 AND e XOR (presentati a lezione dal prof. Borghese) U1 and U2 U1 U2 Y Y sempre falso (0) a meno che U1 e U2 siano entrambe vere(1) U1 xor U2 U1 U2 Y Y sempre falso (0) quando U1 = U2 Y sempre vero (1) quando U1 U2 7

8 Classificazione AND Costruiamo un albero di classificazione della funzione booleana AND: U1 U2 Y

9 Classificazione AND U1 U2 Y Costruiamo un albero di classificazione della funzione booleana AND: >> U = [0 0; 0 1; 1 0; 1 1]; >> Y = [0; 0; 0; 1]; >> treeand = fitctree(u,y,'predictornames', {'u1' 'u2'}, 'ResponseName', 'y', 'ClassNames', [0 1], 'minparent',1); >> view(treeand,'mode','graph'); Trovate questo esercizio nel file TreeAnd.m, commentato riga per riga. 9

10 Classificazione XOR Costruiamo un albero di classificazione della funzione booleana XOR: U1 U2 Y

11 Classificazione XOR U1 U2 Y Costruiamo un albero di classificazione della funzione booleana XOR: >> U = [0 0; 0 1; 1 0; 1 1]; >> Y = [0; 1; 1; 0]; >> treexor = fitctree(u,y,'predictornames', {'u1' 'u2'}, 'ResponseName', 'y', 'ClassNames', [0 1], 'minparent',1); >> view(treexor,'mode','graph'); 11

12 Predizione classe di nuove misurazioni >> predict(treeand, [0 0]) ans = 0 Come parametri di input la funzione predict richiede il nome del decision-tree e un array con i nuovi valori su cui eseguire la predizione. Provate a sperimentare con gli altri valori 12

13 Decision-Making Fasi e Passi Intelligenza Raccolta informazioni e dati Riconoscimento del problema Design Formulazione del modello Analisi del modello Scelte Generazione e Valutazione Selezione FSM e Alberi di Decisione - Lezione 3 13

14 Albero di decisione (Machine learning) Apprendimento supervisionato Il Dataset contiene i parametri e le etichette (ricavato da mesi e mesi di osservazioni) Proviamo ad eseguire l addestramento di un albero di decisione: Problema predire se il giocatore di golf andrà a giocare oggi, conoscendo umidità e temperatura: Inseriamo: >>Meteo = [80 30; 70 15; 70 20; 50 20] >>Gioca = [ ] >>t = fitctree(meteo,gioca,'predictornames', {'umidità' 'temperatura'}, 'ResponseName', 'y', 'ClassNames', [0 1], 'minparent',1); >>view(playtree,'mode','graph') FSM e Alberi di Decisione - Lezione 3 14

15 Albero di decisione (Machine learning) FSM e Alberi di Decisione - Lezione 3 15

16 Qualche link di riferimento: Dataset già presenti in Matlab UCI Machine Learning Repository Molto usati per pubblicazioni scientifiche 16

17 Facciamo esperimenti con il dataset Fisher s Iris Data Iris Setosa Iris Virginica Iris Versicolor 17

18 Addestramento Classificare i fiori in funzione della dimensioni di petali e sepali: 18

19 Validazione Tecniche di validazione del modello addestrato: Nessuna (rischio overfitting) Holdout (consigliato per dataset grandi) Si divide il dataset in due insiemi, uno dedicato al training e l altro dedicato al test. Cross Validation (funziona bene anche con dataset piccoli) Si suddivide il dataset in K sottoinsiemi, K-1 insiemi vengono usati per l addestramento e il rimanente per il testing. Questa operazione si ripete K volte (K addestramenti diversi), usando di volta in volta un diverso insieme per il test. 19

20 Parliamo di overfitting Un algoritmo di apprendimento viene allenato usando un certo insieme di esempi (il training set). Si assume che l'algoritmo di apprendimento raggiungerà uno stato in cui sarà in grado di predire gli output per tutti gli altri esempi che ancora non ha visionato, cioè si assume che il modello di apprendimento sarà in grado di generalizzare. Tuttavia, soprattutto nei casi in cui l'apprendimento è stato effettuato troppo a lungo o dove c'era uno scarso numero di esempi di allenamento, il modello potrebbe adattarsi a caratteristiche che sono specifiche solo del training set, ma che non hanno riscontro nel resto dei casi; perciò, in presenza di overfitting, le prestazioni (cioè la capacità di adattarsi/prevedere) sui dati di allenamento aumenteranno, mentre le prestazioni sui dati non visionati saranno peggiori. (wiki) 20

21 Esempio manuale matlab sulla classificazione(decision tree): ification.html Analizzare visivamente i dati attraverso il plot Per limitare l overfitting su decision tree: PRUNING possiamo regolare la profondità dell albero 21

22 Usiamo il tool di matlab: classification learner Importiamo il dataset IRIS leggendo la tabella dal file csv: >> fishertable = readtable( Fisher.csv'); Per maggiori informazioni guardare il manuale di matlab 22

23 Validation 23

24 Esportazione del classificatore 24

25 kmeans Come funziona: 25

26 Esempio passi kmean 26

27 kmeans Generiamo un dataset e proviamo ad applicare questo metodo. Il file: kmean.m 27