Metodi statistici per l economia (Prof. Capitanio) Slide n. 10. Materiale di supporto per le lezioni. Non sostituisce il libro di testo

Transcript

1 Metodi statistici per l economia (Prof. Capitanio) Slide n. 10 Materiale di supporto per le lezioni. Non sostituisce il libro di testo 1

2 REGRESSIONE LINEARE Date due variabili quantitative, X e Y, si è interessati a studiare se e in che misura la variabile Y (che chiameremo VARIABILE DIPENDENTE o RISPOSTA) sia influenzata dalla X (VARIABILE ESPLICATIVA o INDIPENDENTE). Negli studi empirici la relazione che lega Y ad X non potrà mai essere funzionale, in quanto ad uno stesso valore di X corrisponderanno più valori di Y. Volume delle vendite (migliaia di ) Investimento in pubblicità (migliaia di ) 2

3 Rappresenteremo il legame attraverso una relazione statistica, descritta da modelli del tipo: Y = f (x) + ε f (x) rappresenta il contributo della variabile esplicativa X (componente deterministica) ε rappresenta il contributo di tutti i fattori non osservati ( errore ) (componente casuale, non è osservabile) nel nostro modello Y è una variabile casuale Ipotizzeremo che la relazione che lega Y ad X sia di tipo lineare: Y = β 0 + β 1 X + ε 3

4 MODELLO DI REGRESSIONE LINEARE SEMPLICE I dati che abbiamo a disposizione sono n coppie di valori di X e di Y osservati congiuntamente x i,y i ( ) i = 1,2,,n Assunzioni del modello di regressione lineare classico 1) I valori della variabile Y che osserviamo sono generati da: Y i = β 0 + β 1 x i + ε i per ogni i = 1,2,,n 2) Le componenti d errore ε i sono variabili casuali indipendenti con E(ε i ) = 0 e Var(ε i ) = σ 2, per ogni i = 1,2,,n. (L ipotesi di varianza uguale per tutte le componenti viene detta omoschedasticità) 3) I valori x i sono noti senza errore. 4

5 Dalle tre assunzioni precedenti consegue che le osservazioni y i di variabili casuali: sono realizzazioni a) indipendenti b) con valore atteso c) con varianza In particolare, la b) significa che in corrispondenza del valore X = x i, osserveremo un valore di Y mediamente pari a β 0 + β 1 x i. Problema: STIMARE I PARAMETRI β 0 E β 1 sulla base delle osservazioni campionarie 5

6 METODO DEI MINIMI QUADRATI ŷ = ˆβ 0 + ˆβ 1 x ˆε i = y i ŷ i ( x i,y i ) ŷ i = ˆβ 0 + ˆβ 1 x i valori di Y stimati attraverso la retta 6

7 ê i = y i ŷ i residui (sono una stima degli errori non osservabili ε i ) 7

8 Stimiamo i parametri β 0 e β 1 con i valori che rendono minima la somma dei residui al quadrato. Si tratta quindi di trovare i valori ˆβ 0 e ˆβ 1 che minimizzano: La soluzione è: COEFFICIENTE DI REGRESSIONE INTERCETTA 8

9 Restano quindi definiti gli stimatori B 1 = Cod(x,Y ) Dev(x) = Cov(x,Y ) Var(x) e B 0 = Y B 1 x Proprietà 1) e sono stimatori corretti di β 0 e β 1 2) Nella classe degli stimatori corretti di β 0 e β 1 che sono funzioni lineari delle y i gli stimatori dei minimi quadrati sono i più efficienti. (Teorema di Gauss-Markov). Inoltre: 9

10 SCOMPOSIZIONE DELLA DEVIANZA Somma totale dei quadrati (SQT) Devianza totale Somma dei quadrati della regressione (SQR) Devianza di regressione Somma dei quadrati degli errori (SQE) Devianza di dispersione o residua 10

11 (x i,y i ) 11

12 COEFFICIENTE DI DETERMINAZIONE LINEARE Quantifica l adeguatezza del modello Indica la proporzione di variabilità di Y spiegata dalla variabile esplicativa X attraverso il modello di regressione. 1) 0 R 2 1 2) R 2 = ρ 2 3) Dev regr (Y ) = ˆβ 1 2 Dev(x) 12

13 ; 0 R 2 1 quando Dev regr = 0 ŷ i y = 0 tutti i valori stimati sono uguali alla media di Y INDIPENDENZA LINEARE DI Y DA X R 2 = 1 quando Dev regr = Dev tot, ovvero Dev disp = 0 y i ŷ i = 0 tutti i valori stimati sono uguali a quelli osservati DIPENDENZA LINEARE PERFETTA DI Y DA X 13

14 STIMA DELLA VARIANZA σ 2 DELL ERRORE Uno stimatore corretto della varianza è: La radice quadrata di è una misura della variabilità degli scostamenti dei valori osservati da quelli previsti dal modello (indica quanto sono dispersi i valori osservati attorno alla retta stimata): viene usualmente chiamato errore standard di regressione Si dimostra che n = 0 (e quindi la media dei residui è 0) i=1 ê i Di conseguenza Dev(ê) = (ê i M(ê i )) 2 2 = ê i n i=1 n i=1 14

15 Abbiamo visto che: E(B 1 ) = β 1 ; E(B 0 ) = β 0 e e Possiamo stimare la varianza di e attraverso e (stimatore della varianza dell errore) e gli errori standard con: e 15

16 ASSUNZIONE DI NORMALITA DISTRIBUTIVA DEGLI ERRORI Per poter fare inferenza specifichiamo la forma distributiva degli errori particolare assumiamo che. In Ricordando l espressione del modello, questa assunzione implica: Sotto l ipotesi di Normalità distributiva degli errori si ha: 1) Gli stimatori dei minimi quadrati e hanno distribuzione Normale. σ 2 B 1 N β 1 ; Dev(x) 2) e 16

17 INTERVALLI DI CONFIDENZA PER I PARAMETRI DELLA RETTA DI REGRESSIONE 17

18 TEST D IPOTESI SUI PARAMETRI DELLA RETTA DI REGRESSIONE Test sul coefficiente di regressione Focalizziamo l attenzione sul sistema di ipotesi Porre equivale a dire che la variabile risposta Y è linearmente indipendente da X, e quindi la variabile indipendente X non aiuta a spiegare meglio Y. La statistica test da utilizzare è che, sotto, ha distribuzione Si rifiuta quando, dove 18

19 Per i sistemi di ipotesi (a) (b) si usa la statistica test che, sotto, ha distribuzione. Le regioni di rifiuto sono rispettivamente: (a) e (b), dove 19

20 Test sull intercetta (a) (b) (c) La statistica test da utilizzare è che, sotto, ha distribuzione. Le regioni di rifiuto sono rispettivamente: (a) (b) (c) dove 20