Aprire WEKA Explorer Caricare il file circletrain.arff Selezionare random split al 66% come modalità di test Selezionare J48 come classificatore e

Transcript

1 Alberi di decisione

2 Aprire WEKA Explorer Caricare il file circletrain.arff Selezionare random split al 66% come modalità di test Selezionare J48 come classificatore e lanciarlo con i parametri di default. Osservare i risultati e la struttura dell albero ottenuto

3 Provare a modificare il seme per la selezione random degli esempi (More Options -> Random seed) per il test e creare un nuovo albero. Ripetere l operazione per 5 volte e osservare come cambiano gli esempi. Calcolare la media di sensibilità e specificità sulle 5 esecuzioni Caricare come test il file circletest.arff (Supplied test set) Eseguire J48 di nuovo Confrontare i risultati ottenuti con la media calcolata precedentemente

4 Caricare il file iris.arff che contiene i dati per classificare tre tipi di iris sulla base della lunghezza e larghezza di petali e sepali Suddividere gli esempi con la tecnica random split al 66% Osservare la distribuzione dei singoli attributi rispetto alle tre classi e cercare di determinare, ad occhio, gli attributi maggiormente significativi per discriminare le 3 possibili coppie di classi. Generare tre classificatori binari, uno per classe. La decisione che ogni classificatore riguarda l appartenenza o meno di un iris alla classe associata al classificatore. Verificare i risultati della classificazione sul test set

5 Ogni singolo classificatore può essere valutato attraverso gli indici di qualità visti per i classificatori binari Se si considerano i 3 classificatori binari come un singolo classificatore si possono verificare 3 casi: Caso ideale: un solo classificatore dà risposta 1 Caso peggiore: tutti e tre i classificatori danno risposta 0 Falso/i positivo/i : più di un classificatore risponde 1 In quest ultimo caso valutare quante sono le risposte corrette, quante le nulle e quante quelle ambigue

6 Dato il seguente gioco: Sia data una griglia di NxN celle Si riempiano a caso N celle con cibo (valore +1); le altre celle della griglia sono vuote e hanno tutte valore zero E possibile controllare una formica che si muove nelle 4 direzioni (su, giù, destra, sinistra) All inizio la formica è posizionata su una qualunque cella vuota Una volta effettuata una mossa, la formica acquista il punteggio della cella in cui si è spostata

7 Ogni volta che la formica passa per una cella, il valore della cella viene decrementato di 1 Se la formica esce dalla griglia muore : viene cioè penalizzata di N+2 punti e la partita termina Scopo del gioco è massimizzare il punteggio accumulato dalla formica in 2N mosse a partire da una posizione prefissata. Si supponga che la formica abbia come campo visivo un intorno di lato 2m+1 centrato nella cella in cui si trova e quindi possa usare come attributi le celle dell intorno e come valori degli attributi il contenuto delle celle corrispondenti.

8 Scrivere una funzione punti_totali=formica(n,m,nomefile) che consenta di pilotare la formica in modo interattivo, registrando nel file nomefile tutti gli stati (descritti da ciò che vede la formica) e la decisione presa in loro corrispondenza. Utilizzare i dati raccolti in 1 partita, 5 partite diverse, 10 partite diverse, come esempi per generare con J48 un albero di decisione. Fissare N=10. Confrontare i risultati che si ottengono nei 6 diversi casi (ogni coppia costituita da un valore di m e da un numero di partite identifica un esperimento), giocando 5 partite di test utilizzando le indicazioni dell albero ottenuto in ogni esperimento per muovere la formica.

9 Osservazioni Se l intorno della formica è costituito da valori tutti uguali (in particolare nulli) non esiste una direzione preferenziale verso cui muoversi: tuttavia l albero associa a tale configurazione una e una sola mossa. Quindi in una zona vuota la formica si muove sempre verso uno dei bordi. Giunta al bordo, ha nell intorno valori negativi (dietro di sé e davanti a sé). Se l albero ha appreso correttamente, dovrebbe deviare. Tuttavia l esplorazione non è efficiente. Possibile soluzione: se non c è informazione, eccetto il valore negativo della cella appena visitata, si genera una mossa casuale, che eviti la sola direzione di provenienza.

10 Osservazioni Per ogni stato, esistono altri 3 stati equivalenti (basta ruotare di 90 gradi la configurazione per 3 volte): quindi è possibile incrementare gli esempi del training set sfruttando tali simmetrie o, in modo equivalente, normalizzare la rappresentazione in modo che stati simmetrici abbiano una e una sola rappresentazione. La normalizzazione evita che nel training set compaiano esempi contraddittori, cioè configurazioni equivalenti associate a mosse diverse. L informazione è incompleta (non si può sapere cosa c è oltre l intorno): se l informazione più rilevante è esterna all intorno possono essere generate mosse inconsistenti.