Esercizi del 10 maggio 2012 da riconsegnare il 17 maggio 2012

Transcript

1 Analisi Multivariata Esercizi del 10 maggio 2012 da riconsegnare il 17 maggio 2012 La Tabella 1 contiene la classificazione in base alla qualifica e all abitudine al fumo di 193 dirigenti e impiegati di una grande azienda americana (data set disponibile nel package CA di R, e salvalto in EXCEL nel file smoke.xls). Table 1: Data set smoking. Staff group Smoking class TOT none light medium heavy Senior managers SM Junior managers JM Senior employees SE Junior employees JE Secretaries SC TOTALE Costruire la matrice delle frequenze relative P. 2. Costruire la matrice dei profili riga R, il profilo medio di riga e le masse di riga r. Commentare il risultato ottenuto. 3. Le due variabili sono indipendenti? Motivare la risposta sulla base dell analisi della matrice dei profili riga. 4. Costruire la matrice dei profili colonna C, il profilo medio di colonna e le masse di colonna c. Commentare il risultato ottenuto. 5. Qual è la relazione tra le masse di riga e il profilo medio di colonna? 6. Quale ruolo svolgono le masse di riga nell analisi delle corrispondenze? 7. Scrivere l espressione della distanza chi-quadrato tra due generici profili riga e calcolare la distanza chi-quadrato tra i primi due profili riga. 8. Calcolare la distanza chi-quadrato tra ciascun profilo riga e il profilo medio di riga. Come possiamo interpretare queste distanze? 1

2 9. Calcolare il grado di associazione tra Staff group e Smoking class utilizzando un indice opportuno. 10. Costruire la matrice degli scarti standardizzati S. 11. Calcolare la varianza totale della matrice degli scarti standardizzati. 12. Che relazione c è tra la varianza totale di S e l indice χ 2? 13. Definire e calcolare l inerzia totale. Il valore ottenuto è alto o basso? Motivare la risposta. 14. Che relazione c è tra l inerzia totale e l indice χ 2? 15. Che relazione c è tra l inerzia totale e le distanze dei profili riga (o colonna) dal profilo medio? 16. Costruire le matrici diagonali delle masse di riga D r e delle masse di colonna D c. 17. Verificare che vale S = D 1/2 r (P rc )D 1/2 c = UΓV dove U sono gli autovettori di SS, V gli autovettori di S S e Γ è la matrice diagonale dei valori singolari. 18. Qual è la dimensione (righe e colonne) di Γ? Motivare la risposta. 19. Che relazione c è tra gli elementi di Γ e gli autovalori di SS? 20. Calcolare le coordinate di riga F e di colonna G secondo i primi due assi principali F = D 1/2 r UΓ, G = D 1/2 c VΓ 21. Qual è la varianza di ciascun asse principale? 22. Scrivere la relazione che lega le coordinate di riga e di colonna (formule di transizione). Come possiamo interpretare questa relazione? 23. Valutare la bontà della rappresentazione con m = 2 assi principali in termini di inerzia totale spiegata, contributi e coseni al quadrato. 24. Rappresentare i profili riga e i profili colonna in un biplot in base ai primi due assi principali e commentare. 2

3 Soluzione I calcoli per ottenere i risultati riportati di seguito sono stati ottenuti con SAS (si veda smoke.sas). Fino al punto QQ, i calcoli possono essere effettuati anche con una calcolatrice da tasca o con un foglio elettronico (si veda smoke.xls). 1. La matrice P delle frequenze relative si otttiene dividendo le frequenze n ij, i = 1,..., 5, j = 1,..., 4, per il totale N = 5 4 i=1 j=1 n ij = 193. Nell ultima riga della matrice P sono riportate le frequenze marginali relative per abitudine al fumo f.j, cioè le masse di colonna, mentre nell ultima colonna sono riportate le frequenze relative marginali per qualifica f i. cioè le masse di riga. Table 2: Matrice P delle frequenze relative none light medium heavy TOT (r) SM JM SE JE SC TOT (c) La matrice dei profili riga R si ottiene dividendo le frequenze della matrice P per i totali di riga f i. = 4 j=1 n ij/n = 4 j=1 f ij. Gli elementi di R sono dunque le frequenze relative condizionate f j i = f ij /f i. = n ij /n i.. Il profilo medio di riga, è riportato nell ultima riga della matrice dei profili riga, e coincide con le frequenze marginali di colonna (ultima riga matrice P). Infine, le masse di riga r, che coincidono con le frequenze marginali relative di riga, sono riportate nell ultima colonna della matrice P. Si osservi che la somma degli elementi f j i = f ij /f i. di ogni profilo riga soddisfa il vincolo di somma unitaria, cioè vale c j=1 f j i = 1. 3

4 Table 3: Matrice dei profili riga R none light medium heavy SM JM SE JE SC profilo medio (c) Il profilo più frequente è quello relativo ai Junior Employees, mentre none e medium sono le due modalità di abitudine al fumo più frequenti. 3. Le due variabili NON sono indipendenti: infatti i profili riga sono diversi tra loro e diversi dal profilo medio. 4. La matrice dei profili colonna C si ottiene dividendo le frequenze della matrice P per i totali di colonna f.j = r i=1 f ij. Gli elementi di C sono dunque le frequenze relative condizionate f i j = f ij /f.j = n ij /n.j. Table 4: Matrice C dei profili colonna none light medium heavy profilo medio SM JM SE JE SC Nell ultima colonna è riporato il profilo medio di colonna, mentre le masse di colonna c sono riporate nell ultima riga della matrice P. Si osservi che la somma degli elementi di ogni profilo colonna soddisfa il vincolo di somma unitaria: r i=1 f j i = Le masse di riga coincidono con il profilo medio di colonna. 4

5 6. Le masse di riga sono utilizzate nell analisi delle corrispondenze per assegnare un peso ai diversi profili di riga: i profili con una massa maggiore hanno un ruolo più rilevante nell amalisi. 7. La distanza chi-quadrato tra due generici profili riga i e i è definita dalla distanza euclidea standardizzata 1, nella quale i valori del profilo medio servono per la standardizzazione, in quanto le frequenze con valore medio più elevato tendono ad avere una variabilità maggiore. d(i, i ) = 4 (f i j f i j) 2 (1) f.j j=1 La distanza chi-quadrato tra i primi due profili riga è pari a d(i, i ) = , ottenuta come d(i, i ( ) ) = 2 + ( )2 + ( )2 + ( ) Per calcolare la distanza chi-quadrato tra ciascun profilo riga i, e il profilo medio di riga i, dobbiamo considerare d(i, i) = 4 (f i j f j ) 2 j=1 Le distanze ottenute sono le seguenti f.j prof ilo d(i, i) SM 0.22 JM 0.36 SE 0.38 JE 0.24 SC 0.22 Queste distanze valgono 0 quando il profilo riga considerato è uguale al profilo medio. Se tutte le distanze dal profilo medio sono zero le due variabili sono indipendenti. In generale, queste distanze possono essere interpretate come scostamento al quadrato dal profilo medio e quindi la loro media (ponderata per le masse di riga) rappresenta una misura di variabilità presente nella tabella e coincide con l inerzia. 5

6 9. Per calcolare il grado di associazione tra Staff group e Smoking class possiamo utilizzare l indice chi-quadrato e l indice di contingenza Φ 2, che si ottiene dividendo l indice chi-quadrato per N. Entrambi gli indici sono pari a zero quando le due variabili sono indipendenti. Il valore massimo dell indice di contingenza è pari a min[(i 1), (J 1)], e quindi pari a 3 nel nostro caso. χ 2 = , Φ 2 = χ 2 /N = La matrice S si ottiene calcolando gli scarti standardizzati:. s ij = f ij f i. f.j fi. f.j Table 5: Matrice S degli scarti standardizzati none light medium heavy SM JM SE JE SC La varianza totale di S è la traccia della matrice S S, e coincide con somma degli scarti standardizzati elevati al quadrato: V ART OT (S) = tr(s S) = i s 2 ij = j 12. La varianza totale di S coincide con l indice Φ 2, si ha pertanto V ART OT (S) = χ 2 /N 13. L inerzia totale è la somma degli autovalori della martice S S. L inerzia è zero in caso di indipendenza, mentre il valore massimo che può assumere è pari a 3 (min[(r 1), (c 1)]). Il valore ottenuto in questo caso è 0.085, non molto alto. 6

7 14. L inerzia totale è pari a Φ 2 quindi inerzia = χ 2 /N. 15. L inerzia totale si può ottenere come media ponderata - con pesi pari alla massa di riga - delle distanze chi-quadrato dei profili riga dal profilo medio (o come media ponderata con pesi pari alle masse di colonna dei profili colonna dal profilo medio di colonna). In simboli inerzia = r f i. d 2 (i, i) = i=1 r f i. i=1 j=1 c (f i j f.j ) 2 f.j 16. Le matrici diagonali delle masse di riga D r e delle masse di colonna D c contengono lungo la diagonale principale gli elementi delle masse di riga e di colonna rispettivamente. Table 6: Matrice masse colonna D c Table 7: Matrice masse riga D r Calcoliamo U, gli autovettori di SS, V gli autovettori di S S e Γ, la matrice diagonale dei valori singolari utilizzando SAS (o R o Stata) e verifichiamo che vale S = D 1/2 r (P rc )D 1/2 c = UΓV 7

8 Ricordiamo λ k = γ 2 k, k = 1, 2, 3 (rango di SS è 3), quindi gli ultimi due autovalori di SS (e di S S) sono nulli, pertanto consideriamo solo i primi tre autovettori sia di U che di V. Table 8: Matrice valori singolari Γ Table 9: Matrice autovettori U Table 10: Matrice autovettori V Γ è una matrice diagonale, la cui dimensione è pari al min[(r 1), (c 1)], quindi nel nostro caso Γ è una matrice Gli autovalori di SS sono uguali al quadrato dei valori singolari di Γ: λ k = γ k, k = 1,..., Le coordinate di riga F e di colonna G secondo i primi due assi principali sono: F = D 1/2 r UΓ, G = D 1/2 c VΓ 8

9 Table 11: Analisi dei profili riga Coordinate Contributi parziali Coseni quadrati Qualità Dim1 Dim2 Dim1 Dim2 Dim1 Dim2 SM JM SE JE SC Table 12: Analisi dei profili colonna Coordinate Contributi parziali Coseni quadrati Qualità Dim1 Dim2 Dim1 Dim2 Dim1 Dim2 none light medium heavy Ciascun asse principale ha varianza pari al quadrato del corrispondente valore singolare, nel nostro esempio: V ar(y (r) 1 ) = V ar(y (c) 1 ) = λ 1 = γ1 2 = e V ar(y (r) 2 ) = V ar(y (c) 2 ) = λ 2 = γ2 2 = Le coordinate di riga possono essere ottenute dalle coordinate di colonna e viceversa attraverso le seguenti formule di transizione: F = RGΓ 1 G = CFΓ 1 Quindi, le coordinate dei punti colonna sono delle medie ponderate dei punti riga (e viceversa). Per esempio, y (c) 1 = (1/γ 1 )Cy (r) 1. Le formule di transizione si interpretano dicendo che, a meno del fattore moltiplicativo 1/γ k, la coordinata di una modalità j di un carattere è 9

10 la media ponderata delle coordinate delle modalità dell altro carattere con pesi uguali alle frequenze relative condizionate di j. Poichè i punteggi di riga e di colonna hanno la stessa varianza, possono essere rappresentati nel biplot. Le formule di transizione possono essere utilizzate per interpretare le distanze tra i punti riga (o tra i punti colonna) (si veda libro di testo alle pagine ). 23. Bontà della rappresentazione con m = 2 assi principali. L inerzia totale spiegata è molto alta e pari al 99.51%. Si ha infatti (γ1 2 + γ2)/ 2 3 k=1 γ2 k ) = ( )/ = I coseni al quadrato individuano gli assi principali importanti per un dato profilo (riga o colonna) e variano tra 0 e 1, la loro formula è cos 2 (j, y (c) h ) = cos 2 (i, y (r) h ) = ( y (c) jh ) 2 K k=1 (y (c) jk ( y (r) ih ) 2 K k=1 (y (r) ik ) 2 = ) 2 = ( y (c) jh ) 2 d 2 (j, j) ( y (c) jh ) 2 d 2 (i, i) dove d 2 (j, j) = r i=1 (1/f i.)(fi j f i. ) 2 è la distanza tra il profilo colonna j e il profilo colonna medio (che coincide con il vettore delle masse di riga r), d 2 (i, i) = c j=1 (1/f.j)(fj i f.j ) 2 è la distanza tra il profilo riga i e il profilo riga medio (che coincide con il vettore delle masse di colonna c). Se cos 2 (c j, y (c) h ) 1 l asse h è importante per il profilo j. La qualità della rappresentazione di ciascun profilo nello spazio ridotto m = 2 è quindi tanto migliore quanto più la somma dei coseni al quadrato per quel profilo è vicina a 1 (ricordare che per m = K, dove K è il rango di S la qualità è perfetta, e la somma dei coseni al quadrato è pari a 1). Analogo discorso vale per i coseni riferiti ai profili riga. Con riferimento all analisi dei profili riga, dalla Tabella 11 vediamo che risultano ben rappresentati tutti i profili (la qualità, che si ottiene sommando per riga i coseni al quadrato, è vicina a uno per tutti), 10

11 con impiegati (JE e SE) e segretari (SC) meglio rappresentati lungo la prima dimensione e i manger lungo la seconda. I contributi aiutano ad individuare i profili importanti nella determinazione dell asse, la loro formula è riportata a pag. 285 del testo di Zani e Cerioli. In generale, un contributo è ritenuto importante se il suo valore è maggiore di 1/r per le righe, o maggiore di 1/c per le colonne. Nel nostro caso, con riferimento all analisi dei profili riga, un contributo è rilevante se > 1/5 = 0.2, quindi dalla Tabella 11 vediamo che la prima dimensione è determinata principalmente dai profili degli impiegati (JE e SE), mentre la seconda è determinata soprattutto dai profili dei manager (JM e SM). Figure 1: Biplot 24. La Figura 1 rappresenta i punti riga e i punti colonna in base alle coordinate dei primi due assi principali. Osserviamo che il personale di 11

12 segreteria (SE) si trova a sinistra rispetto al primo asse, perchè presenta una proporzione più elevata della media di non fumatori, mentre gli impiegati e i manager junior (JE e JM) si trovano all estremo destro, perchè presentano una proorzione più elevata della media di fumatori (livelli medium e heavy), con i manager junior che tendono maggiormente a fumare molto. Dettagli esempi testo di Zani e Cerioli Le coordinate di riga F e di colonna G secondo i primi due assi principali sono: F = D 1/2 r UΓ, G = D 1/2 c VΓ Consideriamo i vettori che definiscono le coordinate di riga F = [y (r) 1,..., y (r) K ] (analogo discorso vale le colonne). Il vettore relativo alla h-ma dimensione è dunque y (r) h = D 1/2 r u h γ h (2) dove u h è l h-ma colonna di U. Negli esempi del testo di Zani e Cerioli sono riportati i valori delle coordinate standardizzate 1 : ỹ (r) h = D 1/2 r u h γh (3) E possibile risalire dai valori delle coordinate standardizzate (3) che compaiono nelle tabelle pubblicate sul libro ai valori delle coordinate (2) applicando la seguente trasformazione: y (r) ih = γ h ỹ (r) ih γh Questa trasformazione è utile, per esempio, per ottenere i coseni al quadrato che appaiono nelle tabelle del libro, per il calcolo a mano dei quali è necessario utilizzare i valori delle coordinate (2). 1 Si tratta di un particolare tipo di standardizzazione utile in certi casi, per dettagli si veda van der Heijden, P. G. M. e de Leeuw, J. (1985), Correspondence Analysis Used Complementary to Loglinear Analysis, Psychometrika, 50,