MODELLO DI REGRESSIONE LINEARE MULTIPLA

Transcript

1 MODELLO DI REGRESSIONE LINEARE MULTIPLA E la generalzzazone del modello d regressone lneare semplce: per spegare l fenomeno d nteresse Y vengono ntrodotte k, con k >, varabl esplcatve. Tale generalzzazone dventa molto pù semplce utlzzando l algebra delle matrc. Il modello d regressone multpla genera però nuov problem: scelta delle varabl, multcollneartà, test multpl.

2 . IL PROBLEMA Rcerca d un modello matematco n grado d esprmere la relazone esstente tra una varable d rsposta y (quanttatva) e ( ad esempo) k varabl esplcatve S tratta d una relazone asmmetrca del tpo ( ) y f x... x k Nel caso del modello d regr.lneare multpla abbamo che: f x... x β + β x + β x... β x ( ) k 0 k k che geometrcamente corrsponde ad un perpano a k dmenson Perché s studa tale modello ) facltà con cu può essere nterpretato un perpano a k dmenson ) Facltà d stma de parametr ncognt β j ( j k) Anche n tal caso nella realtà studamo un modello del tpo y f x... x + ( ) ε k Componente sstematca componente casuale

3 . IL MODELLO y β β x β x β x β x ε k k + In forma matrcale y β + ε dove y : vettore (n x ) d osservazon sulla varable dpendente : matrce (n x (k+)) d osservazon su k regressor β: vettore ((k+) x ) d parametr ncognt ε : vettore (n x ) d dsturb stocastc

4 Le matrc e vettor sono così defnt y y x x... xk y x x... xk y x x... x ( n ) ( n ( k + ) ) n n n nk β β0 ε β ε β.. ε n.... ε n β k ( k + ) ( ) ( ) OSSERVAZIONE La matrce ha la prma colonna untara: per l caso n cu s consder un modello con ntercetta β 0 s ntroduce una varable d 4 comodo 0 per ogn,, n.

5 . LE ASSUNZIONI DEL MODELLO ) Esste legame lneare tra varable dpendente e regressor ) Le varabl sono tutte osservabl ) I coeffcent β non sono v.c. 4) I regressor sono non stocastc 5) Il termne ε non è osservable 6) 7) ( ) 0 E ε 0 per j Cov ( ε, ) ε j σ per j le ε sono omoschedastche ed ncorrelate E [ εε ] σ σ σ 8) ha rango peno rank () k condzone necessara ε ( ) n k + 9) N 0, σ I : potes agguntva da utlzzare nell anals nferenzale 5

6 OSSERVAZIONE Anche nel caso multplo essendo le Y funzon lnear delle v.c. ε anch esse sono varabl casual e : E( Y x, x, K, x ) k k β + β x + β x + β x +... β x 0 k k Che rappresenta l equazone d un perpano n uno spazo a k+ dmenson (superfce d regressone). Per le assunzon fatte sul dsturbo dscende che: E( Y ) β + β x + β x + β x +... β x e 0 k k V( Y ) V( ε ) σ 6

7 4. STIMATORE MINIMI QUADRATI (OLS) y β +ε S cercherà quel vettore βˆ che mnmzza gl scart al quadrato: mn n mn : ( ) β y dove è la rga -esma d In forma matrcale ( y β ) ε ε ε o mn y β y β G( β ) ε ε y β y β ( ) ( ) ( y β )( y β ) ( ) ( ) y y β y y β + β β perché scalare G y + β 0 β () 7

8 perché ( k + n) ( n ). y x ( ) x.. xn y k + β y ( β0, β... βk ) x x.. x n xk... x kn y n è uno scalare ( β y) ( β y) ( y β) dalla () s ottene β y ( ) β y pre-moltplcando ambo membr ( ) ( ) β ( ) y perché rank ( ) rank () k è a rango peno ovvero nvertble β ˆ ( ) y stmatore OLS d β 8

9 . CARATTERISTICHE STIMATORE OLS Teorema d Gauss-Markov βˆ è uno stmatore d tpo BLUE Best Lnear Unbased Estmator ovvero ha varanza mnma nella classe degl stmator Lnear e Corrett β ˆ ( ) y ( ) La matrce è formata da element costant per cu βˆ è una trasformazone lneare d y.. ( ) ( ) ( ) ˆ β y β + ε ( ) β ( ) ( ) È uno stmatore corretto + β + ε ( ) E( ˆ β) β + E( ε) β ε Inoltre: ( ) ( ) ˆ β β ε 9

10 . Var ( ˆ β ) E ( ˆ β β )( ˆ β β ) ( ) ε ε ( ) E ( ) E [ ε ε ] ( ) ( ) σ I ( ) ( ) ( ) σ ( ) σ S consder pù n dettaglo ( ˆ )( ˆ ) E β β β β : ( ) ( )( ) ( )( ) Eβˆ β Eβˆ β βˆ β.. Eβˆ β βˆ k βk ( )( ) ( ) Eβ ˆ β βˆ β Eβˆ β... ( )( ) ( )..... Eβ ˆ β βˆ β... βˆ k k E k βk Pertanto la varanza E( βˆ ) j β j d ogn parametro βˆ j s desume prendendo l corrspondente valore sulla dagonale prncpale della ( ), moltplcato per σ : ˆ Var β σ ( ) [( ) ] j jj 0

11 β Defnamo uno stmatore alternatvo lneare e corretto ˆ β + C y dove C è una matrce (n x k) β ( ) y + C y ( ) ( ) β + ε + C β + C ε E β β + C β C 0 V ( ) β E ( β β )( β β ) ma { ( ) } ( ) E + C εε + C { } ( ) ( ) + C ( ) σ C 0 C σ ( ) ( ) + σ ( C C) + C + C C ( ) ( ) ( ) βˆ Var + σ C C Var βˆ Pertanto la Var( βˆ ) è la mnma nella classe degl stmator lnear e corrett, e rsulta provato l teorema d Gauss-Markov.

12 Geometrcamente l equazone (stmata con gl OLS) yˆ ˆ β + ˆ βx + ˆ β x + ˆ β x +... ˆ β x,,, Kn 0 k k defnsce l perpano nello spazo a k + dmenson, che tra gl nfnt pan, rende mnma la somma de quadrat delle lunghezze de segment congungent punt osservat al pano stesso (v. fgura).

13

14 Stma del parametro σ Consderamo nnanztutto l denttà n n n ( y ) ( ˆ ) ( ˆ y y y + y y) che rappresenta la scomposzone della devanza totale n devanza resdua e devanza spegata (o della regressone), ovvero SQT SQE + SQR. La stma della varanza delle v.c. error è data da s ( y ˆ y ) ee ˆ ˆ n p n p Che è uno stmatore corretto n 4

15 ESEMPIO G β + β P + β y + β P + ε 0 g q : , n 7 G consumo d benzna n $ P g ndce de prezz benzna Y reddto pro-capte n $ P q ndce de prezz auto nuove 5

16 Vettore y Matrce ; x 0 x x x e Matrce nv ( ); e e e Stme βnv( ) * y;

17 ˆ β ( ) y RICAPITOLANDO E ˆ β β ˆ V β E ( ˆ β β ) ( ˆ β β ) ( ) σ s e ˆ σ n k E ˆ σ σ Fno ad ora nessuna potes è stata posta per la dstrbuzone degl error nel problema della stma. Aggungamo : ε ε N N ( 0, σ ) ( 0, σ I) 7

18 TEST PER LA VERIFICA DI IPOTESI SU SINGOLI PARAMETRI Dal teorema d GAUSS-MARKOV : ˆ β N ( ( ) ) β, σ Voglamo. testare H : β 0, H : β 0 Ovvero voglamo verfcare se l regressore è effettvamente sulla varable dpendente Y. Nel caso (mprobable) che sa nota σ la statstca test è: σ ˆ β [( ) ] Sotto H0 : β 0 s dstrbusce come una normale standardzzata β 0 8

19 Se l valore cade all esterno dell ntervallo d confdenza, per esempo al 95%, della N(0,) rfutamo H 0 ed l parametro β sarà sgnfcatvamente dverso da zero; altrment non rfutamo H 0 e concludamo che l parametro β non sarà sgnfcatvo In generale per un sstema d potes H 0 : β c contro H 0 : β c rfuto, al lvello 00 α % d sgnfcatvtà, quando σ ˆ βc [( ) ] ε > z 9

20 QUANDO σ NON E NOTA Utlzzamo la sua stma a [( ) ] ˆ σ ˆ σ s e e ( n k ) In questo caso la statstca test è ˆ β β ˆ σ a t nk dove a [( ) ] è l elemento generco d posto nella dagonale della ( ) Le potes su β possono essere verfcate sosttuendo valor nella statstca test e controllando po che la statstca super o meno valor della regone crtca della dstrbuzone t n-k-. 0

21 Qund per verfcare la sgnfcatvtà d β procederò nel seguente modo: H 0 : β 0 contro H : β 0 Statstca test: ˆ β β σˆ a ˆ β β s.e.( ˆ β ) Che sotto H 0 s dstrbusce come una t(n-k). Pertanto fssato α se l valore della statstca test cade all esterno dell ntervallo d confdenza ˆ β t ( ˆ β ), ˆ β t s.e. ( ˆ β ) α s.e. + α Rfuto H 0 d non sgnfcatvtà del parametro, altrment non rfuto H 0 e concludo che l parametro non è sgnfcatvo.

22 5. ADATTAMENTO DEL MODELLO Come nel caso del modello d regressone semplce, l coeffcente d determnazone rappresenta la proporzone d varabltà totale spegata dal modello, ovvero una msura dell adattabltà del modello a dat osservat. La formula per esprmere l coeffcente è analoga a quella dell regressone semplce, solo che n questo caso per varabltà spegata dal modello s ntende la varabltà spegata dall nseme de regressor SQR SQT SQE SQE R SQT SQT SQT Alternatvamente s può scrvere: R ( Ŷ Y ) ( Y Y )

23 Il coeffcente d determnazone è un ndcatore del legame lneare tra Y e regressor. Ha però un dfetto: 0 R può aumentare anche se vene aggunto un regressore anche se non spega y. R e SQE SQT ( Y Y ) Se dvdamo le devanze per grad d lbertà andamo a pesare l contrbuto a R d ogn regressore SQE ( n ) ( ) ( ) ( n k ) R n k SQT ( n ) ˆ R ˆ R ( ) ( ) e n k ( Y Y ) n

24 Possamo anche nel caso multplo costrure la TABELLA ANOVA Fonte d varazone Devanza g.d.l Mede de Quadrat (Stme var.) Regressone SQR k SQR ( k ) Resduo SQE n-k- ( ) SQE n k Totale SQT n- ( ) SQT n Nota: drettamente dalla tabella ANOVA s può costrure l coeffcente d determnazone. Inoltre la tavola ANOVA ed l Test F consentono d condurre test globale su tutt parametr del modello ma anche per verfcare potes rguardant nsem d pù coeffcent, permettendo cos d selezonare l modello d regressone. 4

25 Per valutare la sgnfcatvtà del modello s rcorre al test F: tramte la ANOVA per un modello d regressone lneare multpla, consste n un test globale su tutt parametr del modello (eccetto β 0 ) e n partcolare nel confronto tra la devanza del modello saturo (o non vncolato) Y β+ε e quella del modello vncolato (o rdotto) Y β 0 n +ε. Le potes saranno H0 : β β... β k 0 H : almeno uno de β 0 S costrusce la statstca test F SQR ( k) F SQE n k Che sotto l potes nulla ha dstrbuzone F (k,,n-k-) Fssato l lvello d sgnfcatvtà α s ndvdua l valore crtco della dstrbuzone F > F α ( ) Se ( ; k, n k ) s rfuta H 0 ovvero s accetta la sgnfcatvtà congunta d tutte le varabl esplcatve. 5

26 Esempo Y β + u n k β β β β y β + β x + β x + ε Facendo rfermento a valor Y 9 x 0 x 5 y 00 x 9 y xy x x Determnare l vettore d stme OLS 6

27 Se consderamo l modello n forma d scart dalle mede Dove ( ) y β β ˆ ˆ n n x x x x x x.... x x 7 ( ) ( ) ( ) ( ) ( ) ( ) ( ) β β β 4 ˆ ˆ ˆ Y

28 da cu Y Y y ( ) ˆ ˆ β β Y Y Y Y 8 ( ) ( ) ˆ ˆ ˆ ˆ ˆ β β β + β + β Y β β β β ˆ ˆ ˆ ˆ

29 H 0 : β β Contnua ESERCIZIO ˆ β y noltre pochè rsulta R y y n forma d scart 0 ( ) ( R ) ( nk) ( F 0.0,, 9 8.0) ( ) ( ) R k SQR k è anche F ( β ˆ β ˆ ) x x.... x SQE n k n n y.. Rcordamo: n k con ntercetta var. esplcatve ( ˆ ˆ ) y β ˆ ˆ β β y + β y y R F valore ( 0.9) 9 emprco d F S rfuta H 0 : F emprco 5.75 >F 0.0,,9 8.0 x y n 9

30 a σ ˆ t Se avessmo voluto testare H β 0 0 : Ovvero la sgnfcatvtà d βˆ β t tn k, σˆ a ( ) e e n k βˆ σˆ a TSS ESS ( o F( n k) ) (t ) valore emprco d t Anche adesso rfutamo H 0 l regressore è sgnfcatvo 0.5 0

31 Il test F per selezonare l modello d regressone: Confronto tra modell anndat Il test F vene anche mpegato per verfcare l potes che due o pù parametr sano conguntamente par a zero. In partcolare s utlzza un test d tpo ANOVA per confrontare un modello vncolato (rdotto) ed anndato con n modello non vncolato (saturo): S supponga n generale d voler verfcare l potes: H : β β... β 0 0 h+ h+ k per qualche h k H contro l'alternatva : almeno una eguaglanza n H non è vera. 0 L p. nulla afferma che almeno k-h varabl non sono utl a spegare la relazone lneare con la varable dpendente, ossa sotto l potes nulla vale l modello rdotto (ed anndato): Y + x + x +... x + β β β β ε 0 h h n contrapposzone al modello completo (saturo) con tutte le varabl esplcatve: Y β + β x + β x + K+ β x + β x... β x + ε 0 h h h+ h+ k k

32 L adattamento a dat osservat del modello completo è comunque mglore del modello rdotto. Consderando l ANOVA ed ndcando con SQE la somma de quadrat degl error del modello completo e con SQE 0 la somma de quadrat degl error del modello rdotto s ha che: SQE SQE 0 Se la dfferenza SQE 0 SQE è grande H 0 dovrebbe essere rfutata poché le ultme k-h varabl aumentano consderevolmente l adattamento del modello; Se la dfferenza SQE 0 SQE è pccola H 0 non dovrebbe essere rfutata poché le ultme k-h varabl non aumentano consderevolmente l adattamento del modello Per stablre se tale dfferenza è sgnfcatvamente grande o pccola s utlzza l seguente test F

33 SQE SQE ( k h) 0 F F( kh, nk) sotto H0 SQE nk ( ) Al denomnatore trovamo la stma d σ ottenuta dal modello completo: quanto pù l valore d F è grande tanto pù H 0 sarà rfutata a favore della potes alternatva. Stabltoαla regone d rfuto è data da: R.C. : F F α Quando F<F α l potes nulla non può essere rfutata e qund le k-h varabl esplcatve possono essere escluse dal modello.

34 PROBLEMI DI PREVISIONE S vuole prevedere l valore d Y n+ per un nseme d valor non osservat come: C { }, n+, n+... k, n+ E possble fare una prevsone puntuale o stmare un ntervallo d prevson. Y β + β β + ε n +, n + k k, n + n + C β + ε [ ] E Y n+ n+ k k C β Utlzzando le propretà BLUE d βˆ avremo l PREVISORE PUNTUALE ˆ C βˆ Y n + sarà BLUFF Best Lnear Unbased Forecastng Functon 4

35 Per ottenere un ntervallo d prevsone è necessaro ndvduare la dstrbuzone d [ βˆ ] E C Var [ C βˆ ] E ( C βˆ C β )( C βˆ C β ) C β E C ( ˆ )( ˆ ) β β β β C C ( ) σ C C ˆ β N σ σ C ˆ β C e e σ C β ( ) ( n k ) ( ( ) ) C β, C C C n k Qund una stma ntervallare con un lvello fducaro del 00(-α)% : t α ( ) C ˆ β ± t σ C C C ˆ β t σ < Cβ < C ˆ β + t σ α α 5

36 APPLICAZIONE Voglo prevedere Y dato 0. Per calcolare l ntervallo devo determnare Y β β ε + + ( ) { } 0 + C n 6 Infatt. ( ) ( ) u u C C { } ( ) ( ) [ ] ( ) ( ) ( ) , n n n n n n

37 L ntervallo fducaro sarà ( ) ( ) n n n ( ) ( ) ( ) + σ ± β β σ β ± ε ε 0 0 ˆ ˆ n t C C t C 7 A partà d dat osservat l ntervallo sarà tanto pù largo quanto pù 0 è dstante dalla meda d

38 CENNI SULLE VARIABILI DUMMY (Varabl d comodo) Fno ad ora abbamo assunto che nella equazone generale Y β + ε le varabl sano varabl quanttatve. E possble ntrodurre varabl cosddette d comodo che rescano a rappresentare dvers fattor : EFFETTI TEMPORALI EFFETTI SPAZIALI VARIABILI QUALITATIVE E l caso n cu un modello economco possa subre mutament struttural. ESEMPIO FUNZIONE DI CONSUMO C C α + β Y + ε α + β Y + ε Tempo d guerra Tempo d pace Ipotzzando che la propensone margnale al consumo rmanga nvarata n entramb perod C Y 8 β

39 nvece d consderare due modell separatamente (stme meno precse) quest possono essere unt n una sola relazone C α + α + βy + ε Dove e sono varabl dummy : 0 0 ann ann ann d d ann d guerra guerra d pace pace La matrce β de coeffcent sarà e la matrce de dat ( Y ) Y Y Y Y n α α β β 9

40 ATTENZIONE Quando s utlzzano le varabl dummy è necessaro fare attenzone a come vene costruto l modello, per non rendere la matrce ( ) sngolare. Infatt se nel modello precedente lascavamo una ntercetta : C α + α + α + β Y + ε 0 0 Y 0 Y Y n + 0 Y 0 0 Abbamo che le 4 colonne d sono lnearmente dpendent rank( ) rank( ) k 40 ( ) non è nvertble

41 Volendo utlzzare una regressone con ntercetta s utlzzerà così solo una dummy : C γ + γ + βy + ε 0 ann d guerra ann d pace β PMC n entramb perod α γ ntercetta ann d guerra α γ + γ ntercetta ann d pace α α γ dfferenza tra l ntercetta del perodo guerra e pace Cambamento d coeffcente angolare 0 ( ) C α + β Y + β β Y + ε ann d guerra C α + β Y + ε ann d pace C α + β Y + ε β β dfferenza propensone margnale al consumo ne due perod 4

42 ASPETTI CONNESSI ALLA SPECIFICAZIONE DEL MODELLO In ogn studo econometrco, la scelta del modello è la prma fase del lavoro. Gl aspett fondamental sono: a)la scelta della forma funzonale b)la scelta de regressor c)la verfca sulle assunzon del modello. 4

43 a. La scelta della forma funzonale Abbamo parlato d modell d regressone lnear, ntendendo lnear ne parametr, ovvero anche d que modell che possono essere res lnear tramte una opportuna trasformazone delle varabl. Ad esempo s consder la funzone d produzone Cobb- Douglas (Y produzone, L lavoro, K captale: YαL^βK^γ Potrebbe sembrare non lneare, tuttava dopo aver applcato la trasformazone logartmca ottenamo: Ln(Y)ln(α)+ βln(l)+ γln(k) Il modello così trasformato è lneare ne parametr e può essere faclmente trattato ed nterpretato. 4

44 Esstono forme d modell che rsultano lnear ne parametr, ma su qual fare attenzone soprattutto n fase d nterpretazone. Modell polnomal: consderamo un esempo. In mcroeconoma s studano funzon d produzone, se consderamo la relazone tra prodotto medo ottenuto da azende produttrc d materale elettrco (AP: average product) e l nput (I) necessaro alla produzone AP 44

45 È evdente che la relazone non è costante e qund non può essere rappresentata da un modello lneare nelle varabl. La relazone può essere espressa da un polnomo: AP α + βi + γi + ε Questa forma funzonale ha una forma non lneare ma rsulta ancora un modello d regressone lneare essendo lneare ne parametr. Tal parametr s stmano con OLS e gl stmator hanno tutte le buone propretà; ma attenzone all nterpreatazone! I parametr che s stmano non sono d per se le pendenze, le qual nvece sono date da de ( AP di ) β + γi E pertanto camba per ogn valor d I con parametr β e γ. 45

46 Modell con nterazon: quando n un modello s nsersce l prodotto tra due varabl esplcatve (nterazone) l effetto che s ottene è quello d alterare la relazone d ognuna d esse con la varable dpendente del modello. Per capre l effetto consderamo un esempo: studamo l effetto d reddto (Y) ed età (ETA ) sul consumo d pzza C, supponamo d avere dat su un campone d ndvdu con età superore a 8 ann. Il modello senza nterazone: Cα+ α βeta + γy+ε de(c)/deta β per qualsas lvello d reddto la spesa attesa per pzza vara d β (soltamente β<0) per un ncremento d un anno d età. de(c)/dy γ per qualsas età la spesa attesa per pzza vara d γ per un ncremento d un euro d reddto (γ>0). 46

47 In realtà sembrerebbe pù ragonevole pensare che da una certa età n po, con l crescere dell età, la propensone margnale a spendere n pzza dmnusca. Samo coè nel caso n cu l effetto d una varable è modfcato da un altra. Per tenere conto d cò l modello che dobbamo specfcare è l seguente: Cα+ βeta+ γy+λ(eta*y)+ε Gl effett d Y e ETA sono: de(c)/deta β + λy al crescere dell età c s aspetta che la spesa per pzza s rduca, noltre sccome presumblmente λ<0, maggore è l reddto, maggore è la rduzone della spesa per pzza. de(c)/dy γ + λeta la propensone margnale a spendere n pzza dpende da ETA, qund la propensone dmnusce sempre pù al crescere dell età. 47

48 b. La scelta de regressor Nella scelta delle varabl esplcatve d un modello d regressone, s cerca d segure la teora relatva al fenomento trattato, la logca e l esperenza. Tuttava può accadere che nella scelta s sano omesse mportant varabl o nserte varabl rrlevant, vedamo qual problem s ncontrano n quest cas. Varabl rlevant omesse: è come ntrodurre restrzon (parametro0) non vere sul modello. La stma OLS de restant parametr del modello rsulta generalmente dstorta, noltre gl standard error d tal parametr sono sottostmat. Il caso n cu gl stmator OLS non sono dstort s ha quando le varabl omesse sono ncorrelate con le varabl nserte. 48

49 Per realzzare che alcune varabl rlevant del modello sono state omesse s deve propro fare attenzone a segn o valor de coeffcent naspettat. S potrebbe pensare che per ovvare a questo problema l rcercatore dovrebbe nserre nel modello tutte le varabl che ha a dsposzone; n questo modo tuttava s potrebbe complcare l modello eccessvamente ed noltre ntrodurre varabl rrlevant. Varabl rrlevant nserte: gl stmator OLS che s ottengono sono corrett, tuttava la varanza degl stmator de parametr relatv alle varabl buone rsulta maggore d quella che avremmo ottenuto specfcando l modello correttamente. Il motvo d questa sovrastma è legato al fatto che l Teorema d Gauss Markov dce che lo stmatore b.l.u.e. è lo stmatore OLS relatvo ad un modello correttamente specfcato. 49

50 LE VIOLAZIONI DELLE IPOTESI DEL MODELLO a) Multcollneartà b) Etroschedastctà c) Autocorrelazone de resdu 50

51 a. MULTICOLLINEARITA Quando due o pù varabl esplcatve d un modello d regressone lneare s muovono sstematcamente nseme esste un problema d multcollneartà. Le conseguenze d una tale stuazone n un modello d tpo econometrco possono essere rassunte così: Se esste una relazone lneare esatta tra le varabl esplcatve (due o pù) s parla d esatta multcollneartà non s possono determnare le stme OLS de parametr. Se la dpendenza lneare tra le varabl è quas perfetta, ma non perfetta (coeffcente d correlazone prossmo a ),samo nel caso d quas multcollneartà le stme OLS s determnano ma sono molto nstabl a causa degl elevat standard error, s determnano ntervall d confdenza molto largh. 5

52 Cosa fare? Nel caso d esatta multcollneartà s può fare una sosttuzone d varable. Esempo: Y α + β + β + ε γ + θ Y α + β + β θ + β γ + ε λ + λ + ε λ α + β θ λ β + γ β 5

53 Nel caso n cu due o pù regressor sano quascollnear, s ncontrano problem maggor: Varanze camponare molto alte Covaranze sovrastmate Forte nstabltà de coeffcent stmat per pccole varazon de dat. Per comprendere l perché d quest effett s consder l modello d regressone a tre varabl: Y β + β + ε ˆ β ˆ β ˆ β ( ) y V ( ˆ ) β σ ( ) σ ( ) 5

54 V σ ( ) σ ( ) ( ˆ β ) σ ( r ) ( ) V ( ˆ ) β S vede che valor molto alt d stme OLS molto mprecse. rendono le Inoltre, nell esempo che segue vedamo che pccole varazon nella matrce de dat possono provocare grand varazon nella stma de parametr. σ ( r ) r 54

55 ESEMPIO: nstabltà delle stme Dat : Y β + β + ε Y 50 Y 6 ˆ β ( ) Y Y ˆ β r ( )

56 Se toglamo solo una osservazone coscchè: Y 7.5 Y 6.5 ˆ β ˆ β Le stme s modfcano d molto 56

57 Come dentfcare un problema d multcollneartà? La va pù ntutva è quella d osservare la matrce d correlazone delle varabl, se dentfchamo coeffcent d correlazone prossm a 0.9 (n valore assoluto) abbamo ragone d credere che l problema della quas multcollneartà sa presente. Tuttava con l suddetto metodo s dentfcano problem per coppe d varabl, resta l dubbo su cosa fare se sono pù d due le varabl a creare multcollneartà. Una stratega è quella d fare regresson auslare tra una varable sospetta e le altre esplcatve; se l coeffcente d determnazone che s ottene è prossmo a scuramente l coeffcente d regressone della varable sospetta nella regressone orgnale- rsente del problema della multcollneartà. 57

58 LA MULTICOLLINEARITA 58

59 ETEROSCHEDASTICITA Avevamo potzzato che: E [ ε ε ] σ tale assunzone è n molte stuazon non valda. In effett, se no consderamo come varable dpendente d un modello la spesa per alment Y e come varable ndpendente l reddto, è poco plausble assumere omoschedastctà perché al crescere del reddto c sono molt pù fattor d soggettvtà nella scelta degl alment e qund nella relatva spesa. Il modo pù semplce per valutare la valdtà dell potes d omoschedastctà è consderare resdu OLS del modello stmato e traccare un dagramma cartesano n cu n corrspondenza d ogn valore d s rporta l corrspondente resduo stmato. Se resdu rsultano casualmente dspers attorno allo zero, s può supporre che l potes d omoschedastctà sa plausble, se ess hanno un andamento sstematco a ventaglo o quadratco o snusodale la nostra potes rsulta presumblmente non vera. Nell esempo resdu saranno dspost a ventaglo, dato che al crescere del reddto ess cresceranno. I 59

60 Ma qual sono le conseguenze dell eteroschedastctà negl stmator OLS de parametr? Innanz tutto è opportuno comprende quale dventa la nuova formulazone dell potes sul termne stocastco: E E [ ε] 0 [ ] ε ε σ Ω con E ε σ, Le stme OLS de parametr sono: ˆ β ( ) y y β + ε ( ) E ˆ β β + E( ε) β 60

61 Qund STIMATORI OLS ancora lner e corrett, tuttava s perde l effcenza, nfatt ( ) ˆ β ( ) ( ε ε ) ( ) V E ( ) ( ) Ω σ Ne consegue che gl ntervall d confdenza e rsultat della verfca d potes possono essere fuorvant. Per ndvduare la presenza d eteroschedastctà la va pù ntutva è quella d fare un anals de resdu, tuttava essa può essere complessa se le varabl esplcatve sono molte. C sono tuttava alcun test che s basano n generale sempre su resdu. 6

62 Esempo: GOLDFELD QUANDT TEST - S ordnano le osservazon secondo la varable j che s potzza sa la causa dell eteroschedastctà - S dvde l campone n tre part d numerostà n n n. - Dopo la stma OLS ne tre sottocampon s calcola e e e e F e e e e F n k, n k Sotto H 0 : omoschedastctà : (l valore d F è pccolo) F emprco > F teorco Rfuto H 0 6

63 I RIMEDI. σ,, n sano valor not. s applcano MINIMI QUADRATI PESATI (WLS) ovvero s applca OLS al modello trasformato y * y σ ; x * j x σ j ; ε * ε σ Ovvero y * β x * + β x * + * *... + βk xk + ε Dove Var ε σ σ ( *) ε Var Var( ε ) σ σ Nella pratca σ non sono not qund l metodo non è applcable n pratca 6

64 . In caso d relazone tra la componente stocastca e uno de regressor, ad esempo y β + βx β k x k + ε Var Trasformamo l modello * y * y ; xj x y x β + β ε +... C x k k x x x x x j + β ( *) ε Var ε Var Var( ) C x ε x applco OLS e ottengo stmator B.L.U.E. per parametr d nteresse.. S stma l modello orgnale ottenendo stmator lnear e corrett, per l calcolo degl s.e. de parametr s rcorre allo stmatore d Whte che tutt software prevedono. ; x ε + * ε ε x 64

65 ESERCIZIO La stma d un modello lneare sulla base de valor del Reddto e del Consumo d 0 famgle amercane fornsce seguent valor : ˆ C y R (.9) ( 9.7) 0.97 La stma dello stesso modello sulle prme e sulle ultme osservazon fornsce seguent valor: ˆ C y R Cˆ ( 0.74) ( 9.9 ) y ( 0.79) ( 5.00) 0.9 SEQ Verfcare l potes H 0 d omoschedastctà F. F0, Rfuto H 0 : c è eteroschedastctà R SEQ 65

66 c. AUTOCORRELAZIONE DEI RESIDUI Nelle anals d dat cross-sectonal le osservazon sono generalmente ndvdu o famgle o azende che costtuscono un campone casuale d una popolazone. Il fatto che l campone sa casuale, generalmente mplca l ncorrelazone de termn casual. E ε ε σ I [ ] Quando s hanno nvece sere storche o comunque osservazon che seguono un ordne temporale tale potes s altera ed termn d errore rsultano generalmente tra loro correlat. Per llustrare l problema consderamo una semplce relazone a due varabl y α + β + ε t t t ε ρ ε + u t t t 66

67 Le potes agguntve su tale modello, detto modello autoregressvo del prmo ordne AR() sono: ρ < [ ] E u t 0 [ u ] E u t ts σ u s 0 0 s 0 Qund: ε ρ ε + u t t t ( u ) ρ ρ ε + + u t t t u + ρ u + ρ u +... r:0 t t t r ρ u tr 67

68 E ( ε ) ρ r ( ) t E utr r:0 0 ( ) ( ) ( ) 4 ( ε ) t t ρ t ρ t E E u + E u + E u + [ ] ρ E[ uu ] + ρ E uu t t t t [ ] t t (...) 4 u σ u ρ + ρ E u u +... σ + ρ + ρ + σ u... 68

69 [ ] ( ε ε ρ ρ...) ( ρ...) E t t E ut ut ut ut u t+ ρ σ + ρ σ + ρ σ u u u (...) ρ σ + ρ + ρ + 4 u σu ρ ρ ρ σ ε E [ ε ε ] t t ( u ) t ρ ut ρ ut ρ ut E ( u + ρ u + ρ u +...) t t t4 ρ σ + ρ σ + ρ σ u u u σ ρ ρ u ρ σ ε E s [ ε ε ] ρ σ t E t s [ ] ε n ρ ρ. ρ n ρ ρ. ρ ε ε V σ u ρ ρ ρ 69 n n ρ ρ. ρ

70 CONSEGUENZE per OLS. Stme OLS d β lnear e corrette. Varanze d βˆ molto grand stmator neffcent. Sottostma delle varanze dell errore 4. Conseguente non valdtà de test t ed F Infatt s può dmostrare che + ρ E ( e e) σ ε ε ρ Solo se ρ 0 e e E n E ˆ σ σ ε Con N0 ; ρ 0.5 : e e 8. E n 9 Con N0 ; ρ 0.8 e e σ σ ε E ε n sottostma 4% sottostma 9% 70

71 E MOLTO USATO IL TEST DI DURBIN - WATSON resdu nella stma OLS per n grande ( ) e e e e e e e e e d y e e e e d n t t n t t t n t n t t t n t t n t t t + β ˆ ˆ 7 0 d L d H 4-d H 4-d L 4 autocorr.(+)? No autocorr.? Autocorr.(-) Il lmte tra la zona d accettazone e quella d rfuto è funzone della matrce. ( ) r e e e e e e d t t t t t t 0 4 d

72 Il valore della statstca d Durbn-Watson è sempre compreso tra 0 e 4. Un valore d ndca che non appare presente alcuna autocorrelazone. Valor pccol d d ndcano che resdu successv sono, n meda, vcn n valore l'uno all'altro, o correlat postvamente. Valor grand d d ndcano che resdu successv sono, n meda, molto dfferent n valore l'uno dall'altro, o correlat negatvamente. La dstrbuzone teorca della statstca d Durbn-Watson non è nota; tuttava gl stess Durbn e Watson hanno tabulato, con un eserczo d smulazone condotto col metodo Montecarlo, valor crtc della statstca. 7

73 Per verfcare la presenza d autocorrelazone postva al lvello d sgnfcatvtà α, la statstca test d vene confrontata con de valor crtc nferor e superor (d L,α and d U,α ): Se d < d L,α s ha una prova statstca d autocorrelazone postva degl error. Se d > d U,α, s ha una prova statstca d non autocorrelazone postva degl error. Se d L,α < d < d U,α l test non è conclusvo. Per verfcare la presenza d autocorrelazone negatva al lvello d sgnfcatvtà α, la statstca test d vene confrontata con de valor crtc nferor e superor (d L,α and d U,α ): Se (4 d) < d L,α s ha una prova statstca d autocorrelazone negatva degl error. Se (4 - d) > d U,α, s ha una prova statstca d non autocorrelazone negatva degl error. Se d L,α < (4 d) < d U,α l test non è conclusvo. I valor crtc d L,α e d U,α varano secondo l lvello d sgnfcatvtà (α), secondo l numero d osservazon e l numero d parametr d regressone e vengono 7 generalmente ottenut da apposte tavole.

74 METODI RISOLUTIVI GLS Generalzed Least Squares Se ho una stma d ρ ρ ˆ et e e t t Ω ρˆ.. ρˆ n ρˆ.. Resco a trovare la matrce T : T T Ω e trasformo l modello n Var ( Tu) σ I Ty Tβ + Tu stma OLS 74