La correlazione e la regressione. Antonello Maruotti

Transcript

1 La correlazioe e la regressioe Atoello Maruotti

2 Outlie 1 Correlazioe 2

3 Associazioe tra caratteri quatitativi Date due distribuzioi uitarie secodo caratteri quatitativi X e Y x 1 x 2 x y 1 y 2 y associate i modeo che ell uità i-esima il carattere X è presete co la modalità x i ed il carattere Y co la modalità y i, per valutare l associazioe fra i due caratteri X e Y ricorriamo alla coviariaza alla correlazioe

4 La covariaza Defiizioe La covariaza è ua misura del legame lieare tra due caratteri quatitativi X e Y. E data dalla media aritmetica del prodotto degli scarti di due caratteri dalle loro rispettive medie. σ XY = 1 (x i µ X )(y i µ Y ) = 1 x i y i µ X µ Y i=1 i=1

5 La covariaza: osservazioi Osservazioi: quado scarti positivi (egativi) del carattere X tedoo ad associarsi a scarti positivi (egativi) del carattere Y, allora i loro prodotti sarao positivi e la covariaza risulterà positiva; quado scarti positivi del carattere X tedoo ad associarsi a scarti egativi del carattere Y (o viceversa), allora i loro prodotti sarao egativi e la covariaza risulterà egativa. Miimo e massimo: o è u idice relativo σ X σ Y σ XY σ X σ Y

6 La correlazioe Defiizioe Il coefficiete di correlazioe lieare è u idice che misura la relazioe lieare tra due caratteri quatitativi X e Y. E espresso dal rapporto tra la covariaza tra i due caratteri X e Y ed il prodotto dei rispettivi scarti quadratici medi. r XY = σ XY σ X σ Y = 1 1 i=1 (x i µ X )(y i µ Y ) i=1 (x i µ X ) 2 1 i=1 (y i µ Y ) 2

7 La correlazioe: proprietà Il coefficiete di correlazioe è compreso tra -1 e 1. 1 r XY 1 Se r XY = 0, allora o vi è relazioe di tipo lieare tra i due caratteri. Si oti che l icorrelazioe tra due caratteri implica correlazioe ulla, ma o è vero il cotrario. Se r XY = ±1, allora esiste u legame lieare perfetto positivo (r XY = 1) o egativo r XY = 1 Il coefficiete di correlazioe è ivariate per trasformazioi lieari, a meo del sego.

8 La correlazioe: fissiamo le idee Date due variabili quatitative, diremo che soo correlate positivamete se variao i modo cocorde, ossia all aumetare [dimiuire] dell ua aumeta [dimiuisce] ache l altra; correlate egativamete se variao i modo discorde, ossia all aumetare [dimiuire] dell ua, l altra dimiuisce [aumeta] Osserviamo che due caratteri risultao cocordi se gli scarti dalla media tedoo ad essere dello stesso sego metre risultao discordi se tali scarti tedoo ad essere di sego opposto.

9 Obiettivo della regressioe Obiettivo dell aalisi di regressioe è studiare il legame che itercorre tra due variabili quatitative X e Y. Correlazioe = Cosumo Reddito

10 Fuzioi lieari Il legame tra due variabili viee espresso mediate ua fuzioe del tipo y = f (x) Ua delle fuzioi più semplici è quella lieare y = β 0 + β 1 x β 0 : valore di y per x = 0 β 1 : variazioe di y per u aumeto uitario di x

11 Modello di regressioe lieare semplice Nella realtà difficilmete due variabili soo legate da ua relazioe esatta. Per ovviare a questo icoveiete adottiamo il modello y i = β 0 + β 1 x i + ϵ i dove β 0 = iterecetta β 1 = coefficiete di regressio (pedeza) y i = variabile risposta (dipedete) x i = variabile esplicativa (idipedete) ϵ i = residuo o errore (riflette le imperfezioi della relazioe lieare ed evetuali variabili esplicative omesse)

12 Stima dei parametri: metodo dei miimi quadrati Ipotizziamo che il termie residuale sia di miima etità. Determiiamo quidi la retta (ossia β 0 e β 1 ) i modo da redere miima la somma (y i β o β 1 x i ) 2 i=1

13 Soluzioe del problema dei miimi quadrati Coefficiete di regressioe b 1 = i=1 (x i µ x )(y i µ y ) i=1 (x i µ x ) 2 Itercetta b 0 = µ y b 1 µ x La retta dei miimi quadrati passa per il baricetro (alla media di x corrispode la media di y) ŷ i = b 0 + b 1 x i

14 Adattameto del modello ai dati Variaza totale Variaza spiegata Variaza residua Scomposizioe della variaza totale (y i µ y ) 2 = σy 2 i=1 (ŷ i µ y ) 2 = σŷ 2 i=1 (y i ŷ i ) 2 = 1 ˆϵ 2 i = σ 2ˆϵ i=1 i=1 σ 2 y = σ 2 ŷ + σ 2ˆϵ

15 Coefficiete di determiazioe Per avere u idice della botà di adattameto del modello ai dati calcoliamo il rapporto tra variabilità spiegata dalla regressioe e variabilità totale r 2 = 1 1 i=1 (ŷ i µ y ) 2 i=1 (y i µ y ) = σ2 ŷ 2 σy 2 La decomposizioe della deviaza totale garatisce che r 2 varia tra 0 (pessimo adattameto) e 1 (ottimo adattameto, la relazioe è perfettamete lieare).