Analisi Multivariata dei Dati. Regressione Multipla

Transcript

1 Analisi Multivariata dei Dati Regressione Multipla A M D Marcello Gallucci Milano-Bicocca Lezione: III

2 Effetti multipli Consideriamo ora il caso in cui la variabile dipendente possa essere spiegata da più di una variabile Parleremo di Regressione Multipla x byx.w y w byw. x

3 Esempio Effetti multipli Vogliamo predire il numero di sorrisi sia con il numero di birre che con il tratto estroversione del soggetto Regressione Multipla Birre byx.w Sorrisi Estrovers. byw. x

4 Effetti multipli La regressione multipla aggiunge termini lineari (altre VI) alla retta di regressione Legge di relazione della Regressione Multipla x y w Standardizzata yˆ z yx.w x z yw. x wz Non Standardizzata yˆ a byx.w x byw. x w

5 Interpretazione Il coefficiente di regressione esprime l effetto diretto di x su y, togliendo l effetto che passa indirettamente per w Effetto diretto byx.w byx byw. x bwx Effetto indiretto x bwx w byx.w byw. x y

6 Effetti Parziali Togliere l effetto indiretto è equivalente a bloccare la possibilità che x vada su y mediante w: Il coefficiente viene dunque detto coefficiente parziale, cioè l effetto di x parzializzando l effetto di w Effetto diretto Effetto indiretto x bwx w byx.w byw. x y

7 Rappresentazione geometrica yˆ a B y1 x1 B y x

8 Interpretazione geometrica Effetto Unico of X for X1=-10 Effetto unico di X per X1=0 Effetto unico di X per X1=10

9 Intercetta (o costante) L'intercetta indica il valore atteso della VD per tutte le VI uguali a 0 Y =a B y1. 0 B y.1 0 Yˆ a

10 Esempio Un ricercatore ha misurato la capacita di lettura e la produzione linguistica con due test in bimbi da 5 e 8 anni Si propone di studiare se la capacità di lettura è influenzata dalla produzione linguistica eta Validi Totale Frequenza Percentuale Percentuale valida Percentuale cumulata Statistiche descrittive N lettura lingua Validi (listwise) Minimo Massimo Media Deviazione std

11 Esempio Incominciamo con una regressione semplice lettura byxlingua Riepilogo del modello Modello 1 R R-quadrato a R-quadrato corretto.03 Errore std. della stima a. Stimatori: (Costante), lingua ANOVAb Modello 1 Varianza spiegata Coefficientia Modello 1 (Costante) lingua Coefficienti non standardizzati B Errore std a. Variabile dipendente: lettura Regressione Residuo Totale Somma dei quadrati df Media dei quadrati F a. Stimatori: (Costante), lingua b. Variabile dipendente: lettura Coefficienti standardizzati Beta.178 t Coefficienti di regressione Sig Sig..05a

12 Esempio Aggiungiamo l età lettura=b yx. w lingua b yw. x eta Riepilogo del modello Modello 1 R R-quadrato a R-quadrato corretto.401 Errore std. della stima a. Stimatori: (Costante), eta, lingua ANOVAb Modello 1 Varianza spiegata Regressione Residuo Totale Somma dei quadrati df Media dei quadrati F a. Stimatori: (Costante), eta, lingua b. Variabile dipendente: lettura Coefficientia Modello 1 (Costante) lingua eta Coefficienti non standardizzati B Errore std Coefficienti standardizzati Beta t Sig a. Variabile dipendente: lettura Notiamo come è cambiato l effetto della lettura Coefficienti di regressione Sig..000a

13 Esempio Concluderemo che la produzione linguistica è debolmente associata alla capacità di lettura Coefficientia Regressione semplice Modello 1 (Costante) lingua Coefficienti non standardizzati B Errore std Coefficienti standardizzati Beta.178 t Sig t Sig a. Variabile dipendente: lettura Coefficientia Regressione multipla Modello 1 (Costante) lingua eta Coefficienti non standardizzati B Errore std Coefficienti standardizzati Beta a. Variabile dipendente: lettura Ma questa associazione dipende dalle differenze dovute all età A parità di età, non vi è una relazione tra produzione linguistica e capacità di lettura

14 Varianza spiegata La sostanza e la stessa che nella regressione semplice se Y Yzz Xz s reg Wz s reg s y s e = = R y. xw sy sy

15 Varianza non spiegata Percentuale di varianza di errore, non spiegabile mediante la regressione e e =1 R y. xw a b c X Coefficiente di alienazione W Lezione III

16 Calcolo di R Il calcolo pratico della varianza spiegata puo essere effettuato partendo dalle correlazioni semplici R y. xw = yx e yw r r r yx r yw r wx 1 r wx a b c X W Lezione III

17 Decomposizione della varianza spiegata A questo punto ci possiamo chiedere quale sia l effetto unico o il contributo unico di ogni variabile alla varianza spiegata Y Quanto ogni VI contribuisce a spiegare varianza di Y? a b c X Quanto è l effetto unico di ogni variabile sulla variabilità della Y? W Lezione III

18 Effetti come informazione Immaginiamo l effetto di una VI sulla VD come informazione trasferita dalla VI alla VD Informa.. Adamo Eva Informazione condivisa Eva Eva Adamo Cose che solo Eva conosce Cose che solo Adamo conosce Lezione III

19 Effetti come informazione Inseriamo un secondo informatore Informa Adamo Eva Serpente Informa Intendiamo sapere chi ha informato Eva e quanta parte della informazione proviene dai due informatori Lezione III

20 Decomposizione della informazione Come si ripartisce l informazione di Eva Cose che solo Eva conosce Cose che conoscono tutti Eva Cose che Adamo ha detto a EVA Adamo Serpente Cose che Serpente a detto a Eva Cose che Adamo e Serpente conoscono ma non Eva

21 Effetti unici o parziali Quale e il contributo unico di Serpente alla conoscenza ottenuta da Eva? Cose che Serpente ha detto a Eva - Cose che tutti e tre conoscono e [ a c ] c=a L effetto unico di Serpente su Eva e dato dall effetto totale di Serpente rimuovendo l effetto condiviso con Adamo a b c Adamo Serpente

22 Effetti unici o parziali Quale e il contributo unico di Serpente alla conoscenza ottenuta da Eva? Cose che Serpente ha detto a Eva - Cose che tutti e tre conoscono e [ a c ] c=a L effetto unico di Serpente su Eva e dato dall effetto totale di Serpente parzializzando l effetto condiviso con Adamo a b c Adamo Serpente

23 Parzializzazione Parzializzare significa rimuovere l effetto di una (o piu ) VI, cioe calcolare gli effetti come se quella variabile abbia nessuna variabilita e Adamo Serpente Effetto parziale (unico, diretto) di Serpente Adamo parzializzato

24 Parzializzazione Parzializzare significa rimuovere l effetto di una (o piu ) VI, cioe calcolare gli effetti come se quella variabile abbia nessuna variabilita e Serpente Serpente parzializzato Adamo Effetto parziale (unico, diretto) di Adamo

25 Effetto Congiunto Qual e l effetto totale che i due informatori hanno su Eva? Quale % della conoscenza di Eva e dovuta agli informatori? Conoscenza di Eva - Conoscenza unica di Eva e 1 e=a b c a b c Adamo Serpente

26 Effetto Congiunto Qual e l effetto totale che i due informatori hanno su Eva? Quale % della conoscenza di Eva e dovuta agli informatori? Cose solo Serpente ha detto a Eva + Cose solo Adamo ha detto a Eva + Cose che tutti sanno a b c L effetto combinato di A e S e dato dai loro effetti unici (parziali) e dal loro contributo comune e a b c Adamo Serpente

27 Entra Statistica Siamo interessati agli effetti di due (o piu ) variabili indipendenti su una variabile dipendente Siamo in grado di stimare la regressione che li lega Y =a b yx.w x b yw.x w e Vogliamo quantificare il loro contributo unico e combinato mediante degli indici che rappresentino la grandezza dei vari effetti

28 Varianza Decomposta Decomponiamo la varianza della varibile dipendente Varianza completamente condivisa Varianza di errore e Contributo unico di X a b c X W Contributo unico di W Varianza condivisa tra X e W

29 Correlazione semplice (quadrata) Ricordiamo che nella regressione semplice, la correlazione quadrata semplice e la varianza condivisa (spiegata dalla VI) Varianza di errore e r yw W Contributo W

30 Correlazione semplice (quadrata) La correlazione semplice Varianza completamente condivisa Varianza di errore e r yw =a c Contributo unico di X a r yx =b c b c X W Contributo unico di W Varianza condivisa tra X e W

31 Contributo unico di VI Il contributo unico di una VI può essere stimato grazie al quadrato della correlazione parziale Correlazione parziale Varianza spiegata pr yw.x - Varianza spiegata da x e a = a+ e a b c X w

32 Correlazione parziale Il quadrato della correlazione parziale indica l effetto di una VI dopo aver rimosso tutta la variabilita delle altre Correlazione parziale pr yw.x a = a e e Varianza dovuta a w calcolata sul totale dopo aver tolto la varianza di x a b c X w Varianza di x e completamente rimossa Lezione III

33 Calcolo di pr Pr può essere calcolato partendo dalle correlazioni semplici pr yw.x = r yw r yx r wx 1 r 1 r yx e xw a c Oppure dai coefficienti standardizzati pr yw. x = β yw. x 1 r yx b X W pr yw.x = pr yw.x pr yw.x

34 Contributo unico di VI () Il contributo unico di una VI può essere anche stimato grazie al quadrato della correlazione semi-parziale Correlazione semi-parziale Varianza spiegata sr yw.x - Varianza spiegata da x e a = a+ b+ c + e a b c X w

35 Correlazione semi-parziale Il quadrato della correlazione parziale indica l effetto di una VI dopo aver rimosso tutta la variabilita delle altre Correlazione parziale sr yw.x a = a+ b+ c + e e Varianza unica dovuta a w come proporzione di tutta la varianza di Y a b c X w Varianza di x non rimossa nel calcolo della varianza totale

36 Correlazione semi-parziale In altri termini.. R yxw ryw sryx.w R=.5 R=.10 e e s r=.15 r a b c x w w Grazie a X, si spiega un 15% in piu

37 Esempio In ricerca sull anoressia sono state misurate su un campione di 85 donne la propria figura reale, la figura ideale e l autostima. Pictorial Body Image Scale

38 Output Coefficientia Modello 1 (Costante) Autostima Coefficienti non standardizzati B Errore std Coefficienti standardizzati Beta.58 t Sig a. Variabile dipendente: figura_ideale Lezione: II

39 Regressione con SPSS Inseriamo le variabili al posto giusto Variabile Dipendente Tutte le variabili Finestra Regressione Variabili Indipendenti Lezione III

40 Regressione con SPSS Inseriamo le variabili al posto giusto Opzioni ulteriori Marchiamo qui per ottenere le correlazioni semplici e parziali Lezione III

41 OUTPUT SPSS Bontà della regressione R Significatività Lezione III

42 OUTPUT SPSS Coefficienti e indici Significatività (notiamo che c è un test solo per ogni VI) r pr

43 Fine Fine della Lezione III