STATISTICA. Regressione-3 L inferenza per il modello lineare semplice

Transcript

1 STATISTICA Regressione-3 L inferenza per il modello lineare semplice

2 La bontà della regressione Per fare un buon modello lineare serve: una correlazione alta, che dice che i dati stanno vicini alla retta alcune ipotesi che dicano che il meccanismo che genera i dati è (ragionevolmente) lineare

3 Inferenza Il modello della regressione lineare semplice: = = + + ~(, ) = + + ~( +, )

4 Inferenza Il modello della regressione lineare semplice: = + ~(, ) Il valore medio di in corrispondenza a tutte le unità statistiche per cui = è + = + + = + ~( +, )

5 Inferenza Il modello della regressione lineare semplice: = + ~(, ) Il valore medio di in corrispondenza a tutte le unità statistiche per cui = è + = + + = ~( +, )

6 Inferenza Il modello della regressione lineare semplice: = = + + ~(, ) Il modello ha tre parametri incogniti:,, 1. Stimare, e = Verificare se il vero valore della pendenza nella popolazione è davvero diverso da zero ( previsione) oppure no: = 0, 0

7 Inferenza = + ~(, ) = + = + + = + = = 0 = = = ( )( ) ( )

8 Inferenza = + ~(, ) = + = + + = + = = 0 = 1 2 stima di varianza degli errori errori residui

9 Inferenza dalle stime agli stimatori: = ( )( ) ( ) = ~(0, ) ~( +, ) = 1 2 e v.c. gaussiane = 0 0 rifiutiamo se: (rifiutiamo la casualità di una pendenza 0) ( ) > ( )

10 Inferenza dalle stime agli stimatori: = ( )( ) ( ) = ~(0, ) ~( +, ) = 1 2 e v.c. gaussiane = rifiutiamo se: ( ) > ( )

11 Inferenza dalle stime agli stimatori: = ( )( ) ( ) = ~(0, ) ~( +, ) = 1 2 e v.c. gaussiane = rifiutiamo se: 1 + ( ) > ( )

12 Inferenza per la previsione ( 2) ( ) ( ) IC della risposta di un nuovo individuo con covariata pari a

13 Inferenza per la previsione ( 2) ( ) ( ) IC della risposta media di tutti gli individui con covariata pari a

14 Il modello di regressione lineare = + +, ~(, ) In questo modello, mi aspetto di osservare il valore (sulla retta), ma l incertezza del fenomeno può produrre un osservazione che non sta sulla retta. Questo errore, =, è supposto gaussiano, quindi non può essere troppo grande (" 3, 3"), e deve essere simmetrico, nel senso che l istogramma degli deve dare una «campana» simmetrica. w Y X

15 Il modello di regressione lineare = + +, ~(, ) GRAFICO DEI RESIDUI nell ordine dei dati = non sono «troppo grandi»: ( 3, +3 ); - sono in parte positivi e in parte negativi; - il loro grafico è sparpagliato.

16 Facciamo un salto in e in Francia! Voto per Macron (%) Disoccupazione (%)

17 Facciamo un salto in e in Francia! Voto per Macron (%) Disoccupazione (%)

18 Facciamo un salto in e in Francia! RESIDUI Index

19 Verifica della Gaussianità res

20 Verifica della Gaussianità res

21 Verifica della Gaussianità La varianza non è costante

22 Verifica della Gaussianità Quantili dei residui standardizzati Q-Q plot Quantili di una (0,1)

23 Verifica della Gaussianità Quantili dei residui standardizzati Q-Q plot Quantili di una (0,1) dato anomalo/ outlier Ci sono tecniche di diagnostica ad hoc

24 Verifica della Gaussianità

25 Facciamo un salto in e in Francia! Residui standardizzati Standardized Residuals Quantiles Normal Q-Q Plot Theoretical Quantiles

26 Facciamo un salto in e in Francia! Normal Q-Q Plot Standardized Residuals Quantiles Shapiro-Wilks (Madansky, p. 20) > shapiro.test(«residui») Shapiro-Wilk normality test (test di regressione, cfr. di varianze) Theoretical Quantiles

27 Facciamo un salto in e in Francia! RESIDUI Breusch-Pagan test (Madansky, p. 81) > library(car) > ncvtest(«lm») Non-constant Variance Score Test Durbin-Watson test (Madansky, p. 93) > library(car) > durbinwatsontest(«lm») Alternative hypothesis: rho!= 0 Index

28 Facciamo un salto in e in Francia! Voto per Macron IC della previsione del voto in un dipartimento con disoccupazione Voto per Macron IC della previsione del voto medio dei dipartimenti con disoccupazione Tasso di disoccupazione Tasso di disoccupazione

29 Facciamo un salto in Voto per Macron e in Francia! IC della previsione del voto in un dipartimento con disoccupazione I dati che cadano fuori dall IC sono sospetti! Voto per Macron IC della previsione del voto medio dei dipartimenti con disoccupazione Tasso di disoccupazione Tasso di disoccupazione

30 Esercizio di compito HDI L'indice di sviluppo umano (ISU) (in inglese: HDI-Human Development Index) è un indice comparativo dello sviluppo dei vari paesi calcolato tenendo conto dei diversi tassi di aspettativa di vita, istruzione e reddito nazionale lordo procapite. dati: gdp-hdi-2105.txt (si ringrazia la studentessa M. Lintner)

31 Esercizio residui Index Residuals

32 Esercizio Normal Q-Q Plot Standardized Residuals Quantiles HDI Theoretical Quantiles Log(GDP) morale della favola:

33 Outlier e dati influenti

34 Outlier e dati influenti PIL-Human Development Index HDI log(pil) 10xHDI log(pil) dati: gdp-hdi-2105.txt

35 Outlier e dati influenti PIL-Human Development Index HDI log(pil) 10xHDI log(pil) dati: gdp-hdi-2105.txt

36 Outlier e dati influenti Y X

37 Outlier e dati influenti Y E un outlier rispetto a X? Lo è rispetto a Y? Che effetto ha sulla retta dei minimi quadrati? X

38 Outlier e dati influenti Y E un outlier rispetto a X? Lo è rispetto a Y? Che effetto ha sulla retta dei minimi quadrati? dato influente (leverage) X

39 Outlier e dati influenti Y E un outlier rispetto a X? Lo è rispetto a Y? Che effetto ha sulla retta dei minimi quadrati? X

40 Outlier e dati influenti PIL-Human Development Index > influence.measures Regression Deletion Diagnostics Description This suite of functions can be used to compute some of the regression (leave-one-out deletion) diagnostics for linear and generalized linear models discussed in Belsley, Kuh and Welsch (1980), Cook and Weisberg (1982), etc. HDI log(pil) dati: gdp-hdi-2105.txt

41 Facciamo un salto in e in Francia! Stipendio medio orario 2013

42 Facciamo un salto in Voto per Macron (%) = Stipendio medio/h 2013

43 Facciamo un salto in Voto per Macron (%) =. influenti? outlier? Stipendio medio/h 2013

44 Facciamo un salto in Voto per Macron (%) = Stipendio medio/h 2013

45 Facciamo CI VOGLIAMO PROPRIO un salto FAR PASSARE in R IN MEZZO UNA RETTA? UNA PARABOLA, UN IPERBOLE, UNA FUNZIONE SINUSOIDALE?! =. Voto per Macron (%) Stipendio medio/h 2013