Albero di decisione binaria

Transcript

1 Segmentazione Binaria Obiettivo Classificare un collettivo di individui in gruppi (segmentazione), omogenei al loro interno e quanto più possibile differenziati, mediante una successione di divisioni dicotomiche (binaria) I Dati N individui M variabili esplicative variabile dipendente nominale o continua Obiettivo esplicativo spiegare la variabile di risposta sulla base delle variabili esplicative Obiettivo decisionale sfruttare la regola di classificazione ottenuta per classificare nuovi casi Albero di decisione binaria N t s N t t 3 N s s 3 t 4 l t 5 t 6 t 7 l l 3 s 4 nodi intermedi t, t, t 3, t 7 ; nodi terminali t 4, t 5, t 6, t 8, t 9 ; split s, s, s 3, s 4 ; t 8 t 9 l 4 l 5 etichette l, l, l 3, l 4 l 5 ;

2 Fasi di una procedura di segmentazione binaria Un insieme di domande binarie stabilire, per ciascun nodo, l insieme delle divisioni ammissibili Natura del Numero di Numero di split predittore modalità variabile continua N N- variabile binaria variabile ordinale m m- variabile nominale m m-- Un criterio di split definire un criterio per selezionare la migliore divisione di un nodo AID max distanza tra le medie dei gruppi CHAID max valore del Chi- CART max decremento di impurità.. Una regola di arresto definire una regola per dichiarare un nodo come terminale o intermedio numerosità nei nodi test statistici pruning Una regola che assegna ad ogni nodo terminale una delle J classi della variabile di risposta nominale o un valore della variabile di risposta continua Qualità della regola di decisione stimare il rischio di errore di classificazione o di previsione associato

3 CHi-squared Automatic Interaction Detector (CHAID) (Kass - 980) Criterio utilizzato Livello di significatività (p-value) di un test statistico (il chi-quadrato se y è qualitativa o il test F se y è continua) per valutare tutti i valori di un potenziale predittore rispetto alla variabile obiettivo Aggregazione modalità dei predittori Le modalità dei predittori ritenute statisticamente omogenee (simili -> p-value maggiore di una soglia fissata a priori) rispetto alla variabile obiettivo sono aggregate, mentre le altre modalità (eterogenee) sono mantenute separate Selezione del predittore per il primo ramo dell albero Si sceglie il predittore che meglio (p-value inferiore di una soglia fissata a priori) permette la costruzione di nodi contenenti valori omogenei rispetto alla variabile obiettivo Classification And Regression Trees (CART) (Breiman, Friedman, Olshen - 984) Obiettivi Classification Trees Individuare il miglior classificatore di N individui appartenenti a J gruppi che siano internamente omogenei ed esternamente eterogenei (variabile di risposta in classi) Regression Trees Predire una variabile dipendente (continua) attraverso M variabili esplicative (variabile di risposta continua) 3

4 CART il criterio di split Obiettivo Generare nodi figli che siano più puri del nodo genitore Classificazione ad albero Generare nodi figli omogenei ossia con una proporzione minima di individui di classi differenti della variabile di risposta Regressione ad albero Generare nodi figli con varianza della variabile di risposta minore del nodo genitore Misura dell impurità di un nodo Indice di eterogeneità del Gini Indice di entropia Media ponderata delle varianza nei nodi figli Il criterio di split classificazione ad albero Indice di eterogeneità del Gini Max ( i() t ) J = J Classe 00 Classe 00 Classe t i() t ( t) = p ( j t) i nodo t j proporzione di casi della classe j presenti nel nodo t L impurità di un nodo è massima quando le classi sono equidistribuite al suo interno 00 = = = = Min ( i() t ) = 0 L impurità di un nodo è minima quando esso contiene individui appartenenti solo ad una classe Classe 300 Classe 0 Classe t i() t = + + = = 0 4

5 Il criterio di split classificazione ad albero ( t) = p ( j t). Impurità di un nodo indice di eterogeneità del Ginii j. Misura del decremento di impurità di un nodo t p l t s p r ( s t) = i( t) p ( i( t )) p ( i( t )) Δ i, l l r r t l t r 3. Migliore divisione di un nodo t Δi( s*, t) = max Il criterio di split regressione ad albero t l t N t r s N N s l s r var N N l r ( j, t) = s + s l N N r Media ponderata delle varianze della variabile j nei nodi figli generati dal nodo genitore t Migliore divisione di un nodo t min{ var( j,t) } 5

6 Qualità della regola di classificazione classificazione ad albero Stima del Tasso di errata classificazione n.ro individui mal classificati R = n.ro individui nel campione R viene calcolato sullo stesso insieme di dati utilizzato per costruire la regola di classificazione Metodo del campione test N = N base + N test Costruzione della regola di classificazione R test = Occorre definire la proporzione di casi in N test e N base n.ro individui mal classificati nel camp. test N test I vantaggi della segmentazione binaria Facile leggibilità della regola di classificazione Selezione automatica delle variabili maggiormente discriminanti Utilizzo di criteri di selezione non parametrici Gli svantaggi della segmentazione binaria Possibilità di cadere in regole di classificazione semplicistiche Difficoltà computazionali legate al calcolo, in ciascun nodo, dei valori di split per tutte le possibili dicotomizzazioni 6

7 Indagine sugli sbocchi occupazionali dei laureati in Economia e Commercio di Napoli (997) Voto di laurea. Basso (VOT). Alto (VOT) Genere. maschio (MASC). Femmina (FEMM) Residenza. Napoli (RENA). provincia di Napoli (REPR) 3. altre province (REAP) Età attuale. minore di 5 anni (ETA). tra 6 e 30 anni (ETA) 3. tra 3 e 35 (ETA3) 4. oltre 30 anni (ETA4) Diploma. maturità classica (DICL). maturità scientifica (DISC) 3. diploma tecnico (DITN) 4. Magistrale (DIMA) 5. altri diplomi (DIPR) Piano di studi. individuale (PUIN). Aziendale (PIAZ) 3. Generale (PIGE) 4. Quantitativo (PIMA) 5. Pubblico (PIPU) 6. Professionale (PIPR) Anni impiegati per la laurea. 4 anni (ANN). 5-6 anni (ANN)3. >6 anni (ANN3) Tesi di laurea. T-economiche (TEEC). T-giuridiche (TEGI) 3. T-quantitative (TEQU)4. T-storiche soc. e geog. (TESS) 5. T-aziendali (TEAZ) anni +35 anni età 9 voto basso 3 scient. tecn. prof. 9 altra provincia residenza 6 diploma 33 pubb., prof. piano st genere voto alto femmine voto basso voto alto economia aziend tesi voto basso % BC campione base 74.35% 8 voto basso voto alto % BC campione test 69.47% 7

8 ANALISI CONGIUNTA Obiettivo Misurare l importanza della presenza di determinate caratteristiche nella formulazione di un giudizio di preferenza globale riferito ad un prodotto/servizio Individuare la combinazione di caratteristiche che massimizzi la preferenza globale Premessa Ciascun prodotto/servizio è definito da un insieme finito di caratteristiche con un numero limitato di modalità La valutazione globale del prodotto è funzione della valutazione implicita delle singole modalità 8

9 Fasi dell analisi Individuazione delle caratteristiche (fattori) Individuazione delle modalità di ciascuna caratteristica (livelli dei fattori) Scelta della relazione funzionale che lega l importanza di ciascuna modalità alla valutazione di preferenza globale Definizione di un insieme di scenari di prodotto attraverso un piano sperimentale frazionato Raccolta delle valutazioni globali Stima delle utilità parziali Fattori Sperimentali 9

10 Codifica degli scenari S S x x... xk x x... xk... x x... xk p O O O O Sq 0... O O 0... O O SQ p p p Presentazione degli scenari Descrizione verbale Descrizione grafica Modello in miniatura Descrizione multimediale 0

11 Metodi di raccolta dei dati Metodo del trade-off si considerano due fattori per volta l'intervistato deve ordinare i livelli in base alla sua preferenza. - perdita di realismo dovuta alla valutazione isolata degli attributi - operazione lunga e noiosa per l'intervistato il numero di confronti è di solito elevato. Metodo del full profile si considerano tutti gli attributi che rappresentano gli stimoli * si utilizzano piani frazionati per ridurre la complessità il numero di confronti necessari è inferiore di quelli richiesti dal trade-off Raccolta dei punteggi di preferenza globale S S S S q Q y y... y... y g G q Q... q O O Q... q... O... O Q q Q

12 Metodi di Stima Dipende dalla scala di misura delle preferenze Nel caso di scale di misure quantitative (punteggi) minimi quadrati ordinari Nel caso di misure ordinali MONANOVA In entrambi i metodi la preferenza del consumatore è data dalla somma delle utilità parziali b k Modello individuale additivo y Composizione delle utilità parziali q = k b k x qk Y b k > 0 b k < 0 x x x 3 X

13 Caso studio il gusto del caffè Fattori Livello Livello Livello 3 Sapore Mod. Amaro Molto Amaro Aroma Intenso Leggero Corposità Leggera Media Forte Scenario Sapore Aroma Corposità mod. amaro intenso media mod. amaro leggero leggera 3 mod. amaro leggero forte 4 mod. amaro intenso forte 5 mod. amaro intenso leggera 6 molto amaro leggero leggera 7 molto amaro leggero media 8 mod. amaro leggero media 9 molto amaro leggero forte Utilità parziali Importanza dei fattori Standard Importance Utility Error (%Utility Range) Intercetta SAPORE moderatamente amaro SAPORE molto amaro AROMA intenso AROMA lieve CORPOSITA forte CORPOSITA leggera CORPOSITA media

14 ACPR - piano fattoriale λ =.98% * S9 * j7 j57 * j8 * j56 j35 * * j53 * forte * S3 * j37 * S4 * j * j7 j4 * j9 j6 * j3 * j46 j54 *j*3j59 Molto * S7 * j6 **j amaro Aroma leggero j3j*j*0j3 Earoma j4 **j33 Moderatamente* intenso j **j48 amaro S8 * * jj38** j Moderato S *j*6j * j40 ** j5 j5j3** j j4* j8 * S6 * j49 * j5 * leggero * S * j3 * S5 Importanza Fattore Asse Asse Importanza originaria Sapore Aroma Corpo λ =80.87% p h= Range Range ( coord Xh ) ( coord X ) Autovalore Autovalore % % h 4