RELAZIONI TRA VARIAIBLI

Transcript

1 RELAZIONI TRA VARIAIBLI Esiste la pssibilità che la crrelazine tra due variabili x e y sia dvuta all influenza di una terza variabile z Relazine spuria Presenza di cvariazine in assenza di causazine. La crrelazine tra X e Y è dvuta all influenza di una terza variabile Z, precede tempralmente e lgicamente l a X e che crrela sia cn X sia cn Y Relazine mediata La relazine causale tra X e Y è presente, e tuttavia X esercita il su effett su Y tramite Z. tale relazine è detta anche indiretta. La variabile X influenza Z che a prpria vlta influenza Y. La variabile Z è chiamata mediatre variabile interveniente Relazine mderata Relazine causale tra X e Y mderata dalla variabile Z. la variabile Z mdifica il md in cui la X agisce sulla Y LA REGRESSIONE LINEARE La regressine lineare è una tecnica che cnsente di evidenziare e stimare l effett causale che una più variabili indipendenti (VI) esercitan su di una sla variabile dipendente (VD). Può avere un scp predittiv (si individua una cmbinazine lineare di VI per predire in md ttimale il valre asslut della VD) esplicativ (si vule stimare l effett causale della VI sulla VD) Si parla di regressine lineare semplice quand vi è una sla variabile indipendente; di regressine lineare multipla se le VI ( regressri) sn due più La variabile dipendente è sempre misurata a livell di scala cardinale (ad intervalli, di rapprti, assluta), la variabile indipendente viene misurata a livell di scala cardinale dictmica La regressine lineare cnsente di stimare predire i valri dei casi sulla VD cnscend sl i valri della VI.

2 RELAZIONE DI DIPENDENZA LINEARE SEMPLICE: y -> variabile dipendente (VD) x -> variabile indipendente (VI) α -> intercetta, valre assunt da VD quant VI vale 0 β -> cefficiente anglare, indica di quant varia la VD all aumentare di una unità della misura di VI -> retta riferita alla i-esima unità statistica Prima di analizzare la regressine è pprtun calclare l r di Pearsn tra le due variabili, per valutare quant linearmente esse cvarian tra lr. Se la crrelazine è mlt bassa nn ha sens applicare l analisi di regressine lineare. Cefficiente di crrelazine di Pearsn: rapprt tra la cvarianza tra le due variabili e il prdtt delle rispettive deviazini standard. r assume valri cmpresi tra indipendenti, assume valre 0 quand le due variabili sl linearmente piché la relazine tra x e y nn è perfettamente lineare è necessari intrdurre nell equazine un termine d errre: se utilizziam i dati campinari diventa: attravers il metd di stima dei minimi quadrati rdinari si stiman i parametri a e b che identifican la retta che rappresenta al megli la relazine lineare tra le due variabili. Si tratta di quell unica retta capace di rendere minima la smma dei quadrati delle distanze che separan, dat ciascun valre della VI, il valre della VD stimat sulla base dell equazine della retta e i valri della VD effettivamente registrati. = scstament ttale del valre su Y dell unità i dalla media di Y = parte dell scstament dell unità i dalla media di Y dvuta all influenza della variabile X

3 = errre residu (e), quella parte di scstament dell unità i dalla media di Y nn dvuta all influenza di X quand si utilizza il metd dei minimi quadrati, il valre stimat di Y (vver ) viene individuat in qual valre di Y tale che, dat ciascun valre di X, ess rende minima la differenza tra sé e tutti i valri di Y effettivamente registrati in crrispndenza di X, differenza calclata cme smma degli scarti al quadrat (devianza) => è il valre medi dei valri di Y relativi a ciascun valre di X (prprietà media). Il cefficiente di regressine (β) stimat cn il metd dei minimi quadrati rdinari indica quant mediamente i valri della VD varian all aumentare di una unità di misura dei valri della VI. il metd dei minimi quadrati cnsente di identificare la retta che riduca al minim l errre che viene cmmess nell stimare Y da X. Applicand il metd dei minimi quadrati rdinari, i valri di b e di a sn calclati cn le frmule: NB: Cvarianza: Varianza: Per fari in md che il valre numeric del cefficiente di regressine (b) nn risenta dell unità di misura delle variabili, è pssibile standardizzarl ( ), mltiplicand il risultat di b per il rapprt delle deviazini standardi di x e y. Il (beta standardizzat) equivale nella regressine lineare semplice al cefficiente di crrelazine lineare di Pearsn (r) Se le variabili di partenza fsser state standardizzate => In termini di devianze: 1. devianza ttale: 2. devianza spiegata: 3. devianza residua :

4 1. è pssibile calclare la devianza ttale della VD =. cnsideriam tutti i casi del campine, smmiam tra lr gli scarti quadratici dei valri individuali della VD dalla media generale 2. tteniam la devianza spiegata della VD =. Smmiam tra lr gli scarti quadrati che separan la media generale della VD dai valri della VD stimati dall equazine di regressine => tteniam quella parte di variabilità cmplessiva della VD dvuta alla variabilità della VI 3. tteniam la devianza residua della VD =. Smmiam tutti gli scarti quadratici medi che separan gni valre effettivamente registrat dalla VD dal crrispndente valre stimat dalla regressine => tteniam quella parte di variabilità cmplessiva della VD nn dvuta alla variabilità della VI il rapprt tra la devianza spiegata e la devianza ttale è chiamat cefficiente di determinazine ( R quadr), che varia da 0 a 1, e che può essere utilizzat per valutare quant il mdell d regressine stimat si adatta ai dati. Più grande è l R quadr, più ampia è la quta di variabilità della VD dvuta alla variabilità della VI, vver tant megli il fenmen rappresentat dalla VD risulta essere spiegat/determinat dal fenmen rappresentat dalla VI. REGRESSIONE LINEARE MULTIPLA L analisi della regressine lineare multipla cnsente di evidenziare e stimare l effett causale su di una variabile dipendente esercitat da parte di n variabili indipendenti. La specificazine funzinale di una relazine di dipendenza lineare è: Piché le variabili sn più di due, l equazine nn individuerà una retta, ma un pian (nel cas di due variabili indipendenti) un iper-pian (quand le VI sn più di due). Piché la relazine di dipendenza lineare nn è perfetta, si deve aggiungere un termine di errre: Se si parla di campini: Il mdell di dipendenza lineare tra la VD e le VI stabilisce che il valre della Y è il risultat del smmarsi di n+1 effetti causai, vver gli effetti dvuti ai valri degli n regressri più l effett del valre dell intercetta (additività del mdell) L effett causale esercitat da ciascun repressre è sempre l stess per tutti i casi esaminati, ciè è indipendente dai valri che i casi assumn sugli altri regressri (assenza di interazine tra i regressri)

5 Ciascun cefficiente di regressine b esprime di quant il valre della VD mediamente varia all aumentare di un unità di misura del valre del crrispndente repressre, e tale variazine è cstante (linearità della relazine di dipendenza) Ciascun cefficiente di regressine b è definit nett parziale perché indica di quant la VD mediamente varia all aumentare di un unità di misura del relativ repressre, al nett dell influenza che tutti gli altri regressri pssn esercitare sulla relazine che lega la VD al repressre in questine La funzine biettiv del metd dei minimi quadrati rdinari applicat alla regressine lineare multipla: Applicand il calcl differenziale e ricrrend all espressine matriciale delle equazini si ha che: Applicand le espressini matriciali 1 e 2 derivate in base al metd dei minimi quadrati si ttengn le stime per i parametri cntenuti nel vettre b, che cntiene il nucle della sluzine NB: = matrice inversa (matrice che mltiplica per la matrice riginaria restituisce la matrice di identità I) I = matrice di identità, una matrice diagnale che cntiene sl i valri 1 sulla diagnale principale e 0 al di furi di essa X = matrice traspsta che si ttiene scambiand le righe cn le clnne della matrice riginaria Cefficienti di assciazine a = varianza che Y cndivide sl cn b = varianza che Y cndivide sl cn a+c = varianza in cmune sl cn e Y b+c = varianza in cmune sl cn e Y c+d = varianza in cmune e e = varianza che Y nn cndivide né cn né cn cefficiente di crrelazine semiparziale ( ) crrelazine tra e Y quand viene parzializzata sl da. Al quadrat è la parte di varianza ttale di Y [=(a+c+b+e)] spiegata unicamente da al nett di a/(a+c+b+e)

6 cefficiente di crrelazine parziale ( ) crrelazine tra e Y quand viene parzializzat da e da Y. Al quadrat, è la parte di varianza ttale di Y nn spiegata da [= (a+e)], spiegata unicamente da al nett di =a/(a+e) cefficiente di regressine ( ) inclinazine della retta di regressine di Y su per valri cstanti di, vver il cambiament attes di Y in seguit al cambiament di una unità di al nett di cefficiente di regressine standardizzat ( ) Le crrelazini parziale e semiparziale (elevate al quadrat) misuran la quantità di varianza spiegata da una variabile indipendente dp che è stat eliminat il cntribut frnit dalle altre variabili indipendenti. I cefficienti b e invece indican l entità del cambiament di una variabile indipendente, tenend le altre variabili indipendenti stt cntrll Anche per la regressine lineare multipla è pssibile calclare un cefficiente di determinazine multipl (che nn equivale più al quadrat del cefficiente di crrelazine r di Pearsn), indica la prprzine di varianza della variabile dipendente spiegata dalle variabili indipendenti prese nel lr cmpless. Dat che il su valre è influenzat dal numer di regressri è più pprtun utilizzare l -crrett Se ad esempi i regressri sn due => Ovver il cefficiente di determinazine si ttiene dalla smma dei prdtti delle crrelazine semplici r ( di rdine 0) e dei cefficienti tra la variabile dipendente e gni variabile indipendente Il cefficiente di determinazine multipl crrett rappresenta una stima del cefficiente multipl della pplazine, esente da errre di apprssimazine dvut al numer di predittri cnsiderati (k rappresenta il numer di predittri, N il numer di sggetti) : Il cefficiente di crrelazine multipl di ttiene dal cefficiente di crrelazine nel md seguente:

7 Il cefficiente di crrelazine multipl R è sempre maggire/uguale a 0, ed è maggire di ciascun dei singli cefficienti di rdine 0. Se le variabili sn mlt crrelate tra lr, R tende a essere prssim al più elevat cefficiente di crrelazine semplice tra le variabili indipendenti e la variabile dipendente La significatività statistica dei cefficienti di regressine è valutata usand la statistica del test t si Student, il sui valre si ttiene dividend il cefficiente di regressine b per il prpri errre standard (stima della deviazine standard della distribuzine campinaria dei cefficienti di regressine b) La significatività statistica del cefficiente di determinazine usand la distribuzine F di Snedecr nella regressine multipla è valutata ASSUNZIONI ALLA BASE DELLA REGRESSIONE LINEARE: 1. assenza di errre di specificazine: a. la frma della relazine tra X e Y deve essere lineare b. nn devn essere state messe variabili indipendenti rilevanti c. nn devn essere state incluse variabili indipendenti irrilevanti 2. assenza di errre di misurazine 3. la variabile indipendente deve essere qualitativa dictmica e la variabile dipendente deve essere quantitativa 4. la varianza di gni variabile indipendente deve essere maggire di 0 5. il campinament deve essere casuale semplice 6. se vi è più di una variabile indipendente nessuna di esse deve essere una cmbinazine lineare perfetta delle altre (assenza di perfetta multicllinearità). È bene che le variabili indipendenti nn sian trpp crrelate. Se le variabili indipendenti sn frtemente crrelate, si parla di multicllinearità 7. assunzini sui residui ( termini di errre) a. media uguale a 0: b. mschedasticità: VAR c. nrmalità d. assenza di autcrrelazine: e. le variabili indipendenti nn devn essere crrelate se le assunzini 1-7 sn verificate è crrett utilizzare i test statistici t e F

8 verifica delle assunzini tramite il grafic dei residui: strategie analitiche per la regressine: regressine standard entità della relazine cmplessiva tra le VI e la VD tutte le VI sn cnsiderate simultaneamente nell equazine regressine gerarchica esamina qual è il cntribut aggiuntiv che una VI inserita in seguit a un altra VI apprta alla spiegazine della VD regressine statistica regressine gerarchica in cui l rdine di inseriment delle VI nn è scelt dal ricercatre, ma è determinat in base a criteri statistici metd frward: l equazine è inizialmente vuta, le VI vengn inserite di vlta in vlta partend da quella che presenta la crrelazine più elevata cn la VD metd backward: l equazine è inizialmente piena, le VI vengn eliminate di vlta in clta partend da quella che cntribuisce men alla spiegazine della VD metd stepwise: cmprmess tra i due metdi precedenti. Cme per il prim metd l equazine è inizialmente vuta, le VI vengn inserite partend da quella che presenta la crrelazine più elevata cn la VD. Tuttavia a gni step, pssn essere eliminate le VI precedentemente inserite che, all inseriment di nuve VI, nn cntribuiscn più in misura significativa alla spiegazine della VD