Introduzione alla Statistica con R Lezione 5

Transcript

1 Introduzione alla Statistica con R Lezione 5 Sergio Camiz Relazioni fra caratteri Esistono statistiche che servono a valutare il grado d interazione fra due (o più) caratteri. Si tratta del primo passo verso la ricerca di relazioni causali fra i caratteri. Anche in questo caso, le statistiche dipendono dal tipo di caratteri. 22/01/2015 "Lezione 5".tex I-1 22/01/2015 "Lezione 5".tex I-2 Caratteri dicotomici o qualitativi Se si hanno n osservazioni con due caratteri osservati, con s et t modalità rispettivamente, allora si può costruire una tabella di contingenza o tabella incrociata in cui in ogni casella si trova la frequenza in cui si presentano due modalità dei due caratteri congiuntamente. Mod b 1 Mod b 2... Mod b c Mod a 1 n 11 n n 1c Mod a 2 n 21 n n 2c Mod a r n r1 n r2... n rc 22/01/2015 "Lezione 5".tex I-3 Agli estremi della tavola si riportano la distribuzione delle frequenze dei due caratteri: si chiamano frequenze marginali di riga e colonna. Se n ij sono le frequenze delle celle, i totali marginali ne sono le somme per riga n. j e per colonna n i.. Mod b 1 Mod b 2... Mod b c Tot.riga Mod a 1 n 11 n n 1c n 1. Mod a 2 n 21 n n 2c n Mod a r n r1 n r2... n rc n r. Tot.col n.1 n.2... n.c n.. Il valore n.. è il totale generale della tabella, corrispondente al numero di unità statistiche osservate. 22/01/2015 "Lezione 5".tex I-4

2 Colore degli occhi e colore dei capelli di 592 studenti della University of Delaware, Snee (1974). Colore dei capelli Colore degli occhi Neri Castani Rossi Biondi Totale Marroni Castani Verdi Blu Totale Una tavola di contingenza da sola non dice molto. Si cerca quindi di trarre ulteriori informazioni, trasformando la tabella. 22/01/2015 "Lezione 5".tex I-5 Se ne ottengono altre tre: frequenze relative: s ottengono dividendo ogni casella per il totale delle osservazioni: f ij = p ij = n ij /n. Risulta r i=1 r j=1 f ij = 1. profili di riga: s ottengono dividendo ogni riga per il suo totale marginale: fr ij = n ij /n i.. Risulta c i=1 fr ij = 1. profili di colonna: s ottengono dividendo ogni colonna per il suo totale marginale: fc ij = n ij /n. j. Risulta r i=1 fc ij = 1. 22/01/2015 "Lezione 5".tex I-6 Per studiare l influenza delle modalità d un carattere su quelle dell altro, occorre studiare i profili, confrontandoli con i profili marginali. È questa l informazione più importante da estrarre. Se non ci fosse influenza fra caratteri, i profili di riga e quelli di colonna sarebbero tutti uguali fra loro ed al corrispondente profilo marginale. È facile vedere che, in questo caso, in ogni cella si troverebbe il valore np i p j, prodotto delle frequenze marginali corrispondenti, invece di np ij = n ij. La tabella di contingenza con i marginali uguali a quelli dati, in cui nella casella (i, j) si trova il valore np i.p. j, si chiama tabella di valori attesi. Considerando che si tratta di frequenze, si possono usare le statistiche: 22/01/2015 "Lezione 5".tex I-7 l entropia del carattere in linea H r = H(X) = l entropia del carattere in colonna H c = H(Y ) = i = 1 p i. log 2 p i. c j = 1 p. j log 2 p. j l entropia congiunta, cioè l entropia della tabella stessa H r+c = H(X, Y ) = c p ij log 2 p ij i = 1 j = 1 22/01/2015 "Lezione 5".tex I-8

3 l informazione propria d ogni carattere, (entropia condizionale) rispettivamente H r c = H(X Y ) = H r+c H c H c r = H(Y X) = H r+c H r L entropia congiunta dipende ovviamente anche dall entropia dei marginali. Conviene quindi introdurre l entropia condizionale, informazione propria d ogni carattere, H r c e H c r ; l informazione mutua I rc, condivisa cioè dai due. 22/01/2015 "Lezione 5".tex I-9 misura l entropia d un carattere avendo rimosso l influenza dell altro; l informazione mutua I rc = I(X; Y ) = H r + H c H r+c misurando l entropia della tabella a prescindere da quella dei marginali, indica la quantità d informazione comune ai due caratteri. 22/01/2015 "Lezione 5".tex I-10 Si dimostra che l informazione mutua vale I rc = i = 1 c p p ij log ij 2, j = 1 p i. p. j e misura di deviazione dall indipendenza fra caratteri. Per le sue proprietà statistiche, si preferisce tuttavia usare la statistica del chi-quadro, data da = n i = 1 c j = 1 (p ij p i. p. j ) 2 p i. p. j A differenza dell informazione, il chi-quadro dipende dalla numerosità delle osservazioni. Esiste tuttavia una relazione fra le due statistiche. varia fra 0, nel caso dell indipendenza, in cui p ij = p i.p. j per ogni (i, j), ed n min(r 1, c 1) nel caso della perfetta dipendenza (una sola casella per linea non nulla). Per riportare la statistica fra 0 ed 1 sono state proposte tre altre statistiche: 22/01/2015 "Lezione 5".tex I-11 22/01/2015 "Lezione 5".tex I-12

4 il coefficiente di contiguità di Pearson C = il coefficiente di Tschuprow T = il coefficiente di Cramer ϕ 2 = n + n ( r 1 ) ( c 1 ) n min ( r 1, c 1 ) R I dati di Snee (1974) riguardano colore di occhi e capelli di 592 studenti. Se ne può costruire la tavola di contingenza. Snee=read.csv("R/Dati/Snee.csv",sep=",",quot="\"") Snee$Colore_occhi <- factor(snee$colore_occhi, levels = c(1,2,3,4), labels = c("castani scuri","castani chiari", "Verdi","Blu")) Snee$Colore_capelli <- factor(snee$colore_capelli, levels = c(1,2,3,4), labels = c("neri","castani","rossi","biondi")) tsnee=table(snee[,1],snee[,2]); tsnee 22/01/2015 "Lezione 5".tex I-13 22/01/2015 "Lezione 5".tex I-14 Esistono comandi che permettono di calcolare direttamente i margini, le tabelle dei profili e delle frequenze relative: tr=margin.table(tsnee,1);tr # totali marginali di riga tc=margin.table(tsnee,2);tc # e di colonna fsnee=prop.table(tsnee) ; fsnee # frequenze relative pr=margin.table(fsnee,1); pr # profilo marginale riga pc=margin.table(fsnee,2); pc # e di colonna prsnee=prop.table(tsnee,1) ; prsnee # profili riga pcsnee=prop.table(tsnee,2) ; pcsnee # profili colonna exsnee=pr%*%t(pc); exsnee # tabella valori attesi 22/01/2015 "Lezione 5".tex I-15 Qui di seguito frequenze e profili marginali: rbind (tc,pc) tc pc cbind (tr,pr) tr pr Blu Castani chiari Castani scuri Verdi I profili marginali vanno confrontati coi profili condizionali. 22/01/2015 "Lezione 5".tex I-16

5 Frequenze Blu Castani chiari Castani scuri Verdi Profili riga Blu Castani chiari Castani scuri Verdi Profili colonna Blu Castani chiari Castani scuri Verdi Per ottenere i valori attesi, basta fare il prodotto dei marginali e poi si calcolano gli scarti: exsnee=pr%*%t(pc); exsnee (fsnee-exsnee)*sum(tsnee) Blu Castani chiari Castani scuri Verdi Blu Castani chiari Castani scuri Verdi /01/2015 "Lezione 5".tex I-17 22/01/2015 "Lezione 5".tex I-18 Statistiche: Entropia delle righe Hr = - sum(pr*log(pr,2)) Hr = Entropia delle colonne: Hc = - sum(pc*log(pc,2)) Hc = Entropia congiunta Hrc = - sum(fsnee*log(fsnee,2)) Hrc = Entropia condizionale delle righe Hr_c = Hrc - Hc Hr_c = Entropia condizionale delle colonne Hc_r = Hrc - Hr Hc_r = Informazione mutua Irc = Hr + Hc - Hrc = sum(fsnee*log(fsnee/exsnee,2)) Irc = Chi-quadro chi = sum((fsnee-exsnee)^2/exsnee)*sum(tsnee) chi = I 22/01/2015 "Lezione 5".tex I-19