4-Ecoomeria, a.a. 4-5 Caiolo 4 4- Modelli di regressioe o lieare 4- Meodi di sima: Il meodo dei momei e quello dei miimi quadrai (NLS) 4-3 Prorieà asioiche delle sime NLS: Cosiseza e asioica ormalia` 4-4 Il modello di regressioe di Gauss-Newo (GNR) 4-5 Tes sulle ioesi: Il es di Wald, il es F e il es LM 4-6 Esercizio: Sima di u modello lieare co errori auocorrelai 4-7 Il es di Breusch-Godfrey (sull asseza di auocorrelazioe egli errori) 4-8 Aedice (il meodo di Newo) 4-9 La saisica di Box-Pierce e di Lug-Box 4- La saisica di Durbi-Waso 4- Modelli di regressioe o lieare Iaziuo va segalao che i ecoomeria i ermii lieare e o lieare aribuii ad u modello si riferiscoo ai arameri del modello (ai quali e` rivola l aezioe). La classe dei modelli (ecoomerici) o lieari e` molo vasa, ma solao co l avveo di veloci srumei di calcolo essi hao ricevuo aricolare aezioe. I queso caiolo si cosiderao i modelli ecoomerici o lieari del io y = f(, x, ) + u co E( u Ω ) = e x Ω, dove Ω deoa il comlesso di iformazioi disoibili all isae (ris. ell uia` sezioale se i dai soo cross-secio) che ifluezao y (o solo dal uo di visa fuzioale). I defiiiva si sa assumedo che la variabile ecoomica y abbia ua diedeza causale dalla k variabile esogea (veoriale), ua diedeza o lieare dal aramero o oo R e che x l errore sia addiivo; auralmee, come i ui i roblemi ecoomerici, e` richiesa la disoibilia` del rocesso delle osservazioi { y, x } =,,. Per alleggerire le oazioi, ella raazioe eorica si referisce o evideziare esliciamee el modello la diedeza da x, e allora esso si scrive ella forma y = x( ) + u, co E( u Ω ) = e x Ω. ( ) Forme iu geerali di modelli olieari si reseao ella forma my (, x, ) = u. Per ua semlice iroduzioe al meodo di sima GMM (Meodo geeralizzao dei momei) uilizzabile er quesi (e alri) modelli, vedi il ar. 6 del ca. 5 del volume A Guide o Moder Ecoomerics di Verbeek, dove è resee ache u ieressae alicazioe. U breve ceo a queso meodo e` resee ache i 7-5 di quese lezioi.
4-Ecoomeria, a.a. 4-5 E` imorae soolieare che er i modelli o lieari o sussise i geerale l uguagliaza ra la dimesioe del veore lieari, dove si ha f(, x, ) = x. x e la dimesioe k del aramero, come ivece accade er i modelli Alcui esemi: I rimi due esemi mosrao che la o liearià (er il rimo) e la liearià (er il secodo) dei modelli ecoomici o si rasferisce ella o liearià (er il rimo) e la liearià (er il secodo) dei modelli ecoomerici sui quali fare ifereza. Modello ecoomico o lieare: Si cosidera il modello ecoomico z = α x y (deomiao modello di Cobb-Douglas, uilizzao er meere i relazioe la roduzioe co i faori roduivi caiale e lavoro). Osservao che le variabili assumoo valori osiivi, o è resriivo assumere che ache α e` osiivo e allora il modello si uò scrivere ella forma log( z) = log( α) + log( x) + γ log( y), che è evideemee lieare ei arameri log( α ),,γ. Se soo disoibili le osservazioi sulle variabili z, xy,, l iroduzioe ell ulimo modello di u errore addiivo γ u, dà origie ad u modello ecoomerico lieare. Si oi che la reseza dell errore addiivo u, equivale alla reseza di u errore molilicaivo v= e u el modello origiario. Semlici cosiderazioi di aura ecoomica redoo ragioevole la reseza di u ale io di errore. Modello lieare co errori auocorrelai: Si cosidera u modello lieare y = x +, e si suoe che il rocesso degli errori abbia la seguee semlice sruura u ρu = + ε co { ε } iid...(, σ ) e ρ <. ( ) u Ricavado u dalla rima equazioe e sosiuedo ella secoda si ha: y = ρ y + ρ + iid...(, σ ) e ρ <, x x ε, co { } ε Osservazioe: i) Se le variabili soo sreamee esogee (el seso che il loro valore all isae è deermiao all esero del x modello) allora il meodo dei miimi quadrai ordiari forisce ua buoa sima (cioè cosisee e asioicamee ormale) di sebbee o efficiee; se ivece ra le x c è qualche riardo della variabile diedee, allora evideemee la sima OLS di o è iu` cosisee. ii) L ioesi qui faa sugli errori è abbasaza realisica. Per esemio el caso i cui l errore all isae ha due comoei: l iovazioe ε e ρu (l effeo residuale dell errore all isae ) co < ρ < o equivaleemee quado gli effei delle iovazioi si segoo geomericamee e quidi er l errore si ha u = ε + ρε + ρ ε +, rareseazioe che si dimosra essere equivalee a u = ρu + ε u
4-Ecoomeria, a.a. 4-5 che è u modello ecoomerico o lieare. Si oi che ques ulimo è u modello diamico (er la reseza di iid...(, σ )). y ra le variabili idiedei) co gli errori che soo iovazioi (cioe` Modello er dai di coeggio (cou-daa): Se la variabile diedee e` ua variabile di coeggio (e duque assume valori i N ) e x e` il veore delle variabili idiedei, y essedo evideemee assume valori i uo l ioesi E( y x ) >, e` oco ragioevole assumere E( y x ) = x (ques ulima R ), mere aare iu` verosimile, e o e` eure molo resriiva, E( y x ) = ex( x ), da cui, oso u = y ex( x ), si oiee il modello o lieare () y = ex( x ) + u e E( u x ) = (qualche uleriore cosiderazioe mosra che gli errori o ossoo essere omoschedasici). Si segala che c e` ua vasa leeraura sui modelli er dai di coeggio; il iu` semlice (e ache il iu` uilizzao) e` quello i cui si assume: Si oi che i queso caso si ha i) E( y x ) = ex( x ) ; y x ha disribuzioe di Poisso co aramero λ = ex( x ). ii) var( y x ) = ex( x ) ; iii) Il modello e` comleamee secificao; ( 3) e i reseza di dai cross-secio il miglior meodo di sima e` quello della massima verosimigliaza (vedi ca. 8). Tale sima e` valida ache er il modello i (), co la usuale avvereza di correggere la variaza asioica. ( 4) 4- Meodi di sima: Il meodo dei momei e quello dei miimi quadrai (NLS) o Iao il modello deve essere correamee secificao quidi deve esisere u valore di, la cui corrisodee sruura del modello (o DGP) ha geerao i dai a disosizioe. 3 Ifai fissao il valore del aramero, i corrisodeza di x er simulare (cosruire al comuer ua sua y osservazioe) e` sufficiee simulare ua disribuzioe di Poisso co aramero x. 4 La ecessia` di cosruire modelli, semre comleamee secificai, ma iu` geerali di quello di Poisso, il cui arofodimeo e` riviao ai esi secializzai, e` sora quado si e` osservao che, ei rocessi i cui la variabile diedee e` di coeggio, e` ragioevole la reseza della sovradisersioe, cioe` var( y x) > E( y x ). Ua evideza emirica di ale feomeo e` daa dalla reseza di mole osservazioi uguali a er y. 3
4-Ecoomeria, a.a. 4-5 Il meodo dei momei (si descrive brevemee come cosruire le sime, ralasciado alcui deagli). Per avviare la rocedura di sima, come el caso lieare, soo ecessarie (almeo) variabili o correlae co u, e duque che aaregoo a osservazioi. La scela aurale o uo` ricadere sulle variabili Ω er le quali soo disoibili le (come er i modelli lieari, el qual caso la scela e` ache oima se gli errrori soo omoschedasici) i quao il loro umero (i geerale) o coicide co la dimesioe del aramero, ma sembra dover ricadere sulle variabili x ( ) X ( ) =, i quao il loro umero e` esaamee k, soo o correlae co u (i quao ( k ) fuzioe di x co E( u x ) = ) ed ifie soo la scela aurale ei modelli lieari (ifai si ha [ x ] X( ) = = x ) ( 5 ). Pero` el caso o lieare, quese variabili reseao l icoveiee di diedere da, i al caso o soo disoibili le osservazioi. Queso osacolo uo` essere x k suerao fissado arirariamee u valore er, ma si iuisce che ale valore sarebbe referibile sceglierlo il iu` vicio a. Si fa vedere che cio` si oiee co la seguee rocedura ieraiva: Si fissa ˆ (come al solio, er ali rocedure, co qualche accorgimeo) e co il meodo dei momei, uilizzado le variabili X ( ) (er le quali soo ora disoibili le osservazioi) si rova la sima ˆ, che redera` il oso di ˆ, e oi si rosegue allo sesso modo; elle rocedure umeriche fio a raggiugere la soglia refissaa di errore.. Il meodo (di sima) dei miimi quadrai o lieari (NLS). Si cosidera la fuzioe deomiaa come al solio fuzioe obieivo. Q ( ) = ( y x ( )) = Defiizioe: L uico uo di miimo assoluo della fuzioe Q ( ) (se esise) dicesi simaore dei miimi quadrai o lieare (NLS) di e si deoa co il simbolo (o ˆ come si fara` el seguio, se o c è ossibilià di equivoco). Osservazioe: ˆ NLS ˆ la di osservazioi { y, x } =,, Lo simaore esise se er ogi (quesa vola) a valori reali ha u uico uo di miimo assoluo. la fuzioe Q ( ) 5 E` evidee che ci soo iummerevoli alre scele er avviare la rocedura di sima; ma si mosra che la scela qui chiamaa aurale e` (i u cero seso) la migliore almeo asioicamee, salvo che o siao disoibili alre iformazioi. 4
4-Ecoomeria, a.a. 4-5 Lo simaore ˆ (se esise) è soluzioe dell equazioe o lieare Q ( ) = ( )( y x( )) = X ; = ( k ) ( k ) Per (lo simaore) ˆ geeralmee o e` disoibile ua rareseazioe aaliica eslicia, ma er le alicazioi servoo solao le sue rorieà e il suo valore el camioe a disosizioe (e duque la sima); La sima ˆ (se esise) deve essere idividuaa co meodi umerici; er esemio la rocedura descria recedeemee (quidi i due meodi foriscoo la sessa sima), ma iu` avai sarao reseae alre rocedure iu` efficiei dal uo di visa umerico e iu` ieressai er le cosegueze eoriche. Le codizioi che assicurao l esiseza di ˆ er ogi fissao si dicoo codizioi di ideificabilià er camioi fiii (che i queso caso o soo cosegueza delle codizioi er la asioica ideificabilia come ivece accade ei modelli lieari). 4-3 Prorieà asioiche degli simaori NLS: Cosiseza e asioica ormalia` Solao er redere iu` scorrevole l esosizioe si fa riferimeo al caso i cui i dai siao del io ime-series, ma i risulai oeui soo validi ache el caso di dai cross-secio. Proosizioe (cosiseza): Si deoa acora co aramero e si assume o il valore vero (auralmee o oo) del i) ˆ esise er sufficieemee grade (e duque il modello e` ideificabile al fiio); ii) Il rocesso {, } y x è sazioario ed ergodico; iii) Il modello e` asioicamee ideificabile, cioe` oso α( ) = lim X ( )( y x( )) = E( X ( )( y x( ))) = [ ] (l esiseza del limie segue da ii)) è l uica soluzioe dell equazioe α ( ) =. ( 6) Allora lo simaore ˆ e` cosisee (cioe` ˆ ). U ceo della dimosrazioe: Si rova darima che ˆ 6 Nel caso di modelli lieari l asioica ideificabilià imlica l ideificabilià (fiia), imlicazioe o vera el caso di modelli o lieari. 5
4-Ecoomeria, a.a. 4-5 (la rova qui o è rioraa e o è rorio baale). Passado al limie, ella uguagliaza ( ˆ)( ( ˆ X y x )) =, si ha α ( ) =, dode er l asioica ideificabilia` del modello segue = che = e quidi l`assero. Proosizioe (asioica ormalià e sima della variaza asioica): I aggiua alle recedei ioesi i), ii), iii) di roosizioe, si assume iv) E( u x, x,,, ) u = limie cerale quado se e reseera` l occasioe); v) la marice Σ E X x = ( ) X( ) è iveribile. Allora si ha: er ua rareseazioe di Avar( ˆ ) (assicura isieme alla codizioe (ii) la validià` del eorema del d ˆ ( ) N(,Avar( alicazioi) si rimada alla ) e ) che seguoo. )); ˆ e di ua sua sima cosisee (ques ulima esseziale er le Dimosrazioe: Dalla formula di Taylor del rim ordie, di uo iiziale er la fuzioe Q ( ), si ha (er u aareee al segmeo cogiugee e ˆ, e duque ach esso, al ari di ˆ, covergee i robabilia` a, er ) Q ˆ Q Q = = + ( ) ( ) ( ) ( ) ˆ ( ) ( k ) ora Q ( ) d ( /) = X ( ) u (, u ) N Σ x co Σ E u ux ( ) X( ) x = ; = Q ( ) = = (/ ) [ X ( )( y x( )) ] = = X ( ) = + + Σ ( y x ( )) X ( ) X( ) = = x (il rimo addedo coverge a zero er la legge dei gradi umeri, essedo quidi si ha: ( ) ( ) ) ( ˆ Q d Q ˆ ) = N (,Avar( )) ; 6 ; X ( ) E u = ) e
4-Ecoomeria, a.a. 4-5 co ˆ Avar( ) = Σx ΣuxΣx ; ) ˆ ˆ ˆ ˆ ˆ Avar( ) X ( ) ( ) ˆ ( ) ( ) ( ˆ = X u X X X ) X( ) = ˆ = = Osservazioe: i) Avar( ˆ ) (che coverge i robabilià a Avar( ˆ ) ) dicesi simaore di Whie (o cosisee er l eeroschedasicia` (HC)) della variaza. La rova della covergeza e` del uo aaloga alla rova della cosiseza dello simaore di Whie er la variaza degli simaori OLS ei modelli lieari.. ii) Sima di Avar( ˆ ) quado gli errori soo omoschedasici (cioe` E( u Ω ) = σ ): I queso caso si ha Σ ux = σ Σ x, e allora co s = u ˆ (o ache s = Avar( ˆ ) σ Σ e = x ˆ Avar( ) s X ( ˆ ) X( ˆ = ) = = ˆ u che sesso è referio). k = iii) Talvola, ache i reseza di auocorrelazioe egli errori, si uo` uilizzare il eorema del limie cerale; i al caso, come er i modelli lieari, si uilizza come simaore della variaza asioica di ˆ lo simaore di Newey e Wes, idicao co la sigla HAC (Heeroskedasiciy ad Auocorrelaio Cosise). E` imorae oare che, come ei modelli lieari, la reseza di auocorrelazioe egli errori esclude la ossibilia` che ra le variabili idiedei ci ossa essere qualche riardo di dello simaore). y (o sarebbe iu` valida l ioesi E( u x ) =, esseziale er la cosiseza 4-4 Il modello di regressioe di Gauss-Newo (GNR) Daa la sruura della fuzioe obieivo, ua uile rocedura umerica er la miimizzazioe e` il meodo di Newo o quasi-newo che e` richiamao i 4-8. Qui si descrive la rocedura er alcue ieressai cosegueze di aura saisica. Si oe Q( ) g( ) = = ( )( y x( )) ( k ) X, = o 7
4-Ecoomeria, a.a. 4-5 Q( ) X ( ) ( ) = = ( y x( )) ( ) ( ) ( k k) X X = H. Imorai cosiderazioi (da i a vii): i) Al fie di cosruire ua sequeza miimizzae di ˆ (e duque ua successioe ( ) che coverge a ˆ ), si osserva che è ossibile uilizzare il meodo Quasi-Newo co la marice D( ) = X ( ) X( ) (che è ceramee defiia osiiva se è o sigolare), i quao l alro = addedo di H( ) er = ˆ coverge i robabilià a er. I al modo o e` ecessario il calcolo delle derivae secode della fuzioe olieare x ( ). Per eviare l eveuale sigolaria` di D( ), si sceglie c > ooruamee e si cosidera D( ) + ci ; la rocedura miimizzae dicesi di Marquard. ii) Cosruzioe della sequeza miimizzae: Fissao (se ossibile o molo disae da ˆ, che erò o è oo) si ha (er ogi ): co ( ) + = D( ) g( ) = X ( ) X( ) ( )( y x( )) X = = = + X ( ) X( ) ( )( y x( )) X = = = + bˆ b ˆ = ( ) ( ) ( )( y x( )) = X X X =, iii) Imorae: Dall esame della rareseazioe di b ˆ (l addedo che aggiora la rocedura er ricorreza) si vede immediaamee che esso è la sima OLS del aramero modello di regressioe lieare () ( y x ( )) = X ( ) b + resid, er =,, e duque b ˆ = b ˆ del recedee modello. OLS b del iv) Defiizioe: Il modello di regressioe () dicesi Modello (ausiliario) di regressioe di Gauss-Newo. (I esso y x ( ) è la variabile diedee e X ( ) è il veore riga delle k variabili idiedei; er ali variabili soo disoibili osservazioi quado e` oo il valore di 8
4-Ecoomeria, a.a. 4-5 ). v) La sima del modello di regressioe lieare di Gauss-Newo er = ˆ( = ˆ ): Essedo er defiizioe ( ˆ)( ( ˆ X y x )) =, = cosiderao il modello di Gauss-Newo i ˆ, cioe` ( y x ( ˆ)) = X ( ˆ) b + resid, il meodo OLS forisce le sime b ˆ =... = e Avar( b ˆ ) = = Avar( ˆ ). Osservazioe (uo` essere omessa): Se si sima il modello di Gauss-Newo uilizzado u alro simaore cosisee di, allora, essedo risulao co la seguee oco sigificaiva modifica: lim X ( )( y x( )) =, segue il recedee = b ˆ e Avar( bˆ ) = = Avar( ). vi) Quado si ierrome la rocedura ieraiva (al asso ), si ha ˆ = + bˆ, allora se si effeua u uleriore asso, dal recedee uo v) segue immediaamee che la sima NLS ( ) NLS + della variaza asioica di ˆ + ˆ NLS b è la sima della variaza asioica di. vii) Se gli errori soo omoschedasici (si rova che) lo simaore NLS è asioicamee efficiee (el seso che ha la miore variaza asioica) ella classe degli simaori cosruii co il meodo dei momei. Si rova iolre che se si avvia la rocedura ieraiva co uo simaore cosisee (o efficiee), al rimo asso si oiee uo simaore asioicamee efficiee di (come lo simaore NLS ), geralmee diverso da ˆ NLS, deomiao simaore efficiee ad u asso. Ques ulimo risulao ha solao u ieresse eorico; er idividuare i valori umerici delle sime si uilizzao semre iu` ierazioi. Osservazioe: Ache ei modelli o lieari eveuali iformazioi sulla eeroschedasicia` ossoo essere uilizzae er cosruire simaori iu` efficiei. L argomeo e` discusso el caiolo 5 er i modelli lieari, ma l adaameo ai modelli o lieari o resea alcua difficola` aggiuiva. o 4-5 Tes sulle ioesi: Il es di Wald, il es F e il es LM Sia y = x ( ) + u u modello ecoomerico o lieare correamee secificao, co le usuali 9
4-Ecoomeria, a.a. 4-5 ioesi sui rocessi { y, x } e { } u, che assicurio l`esiseza dello simaore NLS e la sua asioica ormalia`. Dal uo di visa eorico la cosruzioe di es (co validià asioica) sull ioesi del io H : a( ) = o resea aricolari difficolà; gli argomei uilizzai i 3- coiuao ad essere validi. Qui si assume che gli errori siao omoschedasici e si cosidera l ioesi lieare del io H : =, essedo = (, ) ; si mosra come il es LM ha ua realizzazioe relaivamee semlice, che si semlifica uleriormee quado il modello e` lieare se l ioesi H e` vera. Solao er ragioi di comleezza si descrivoo ache i es di Wald (ma qui o è ecessaria l ioesi di omoschedasicià) e il es asioico (F) di Fisher. Se si deoa co R il modello risreo e co U il modello o risreo, l ioesi saisica assegaa uo` essere scria ella seguee forma: H : y = x(, ) + u (Modello R) H: y = x(, ) + u (Modello U ). ) Il Tes di Wald (come e` oo si cosruisce uilizzado solao il modello o-risreo U): Sia ˆ la sima di del modello U e var( ˆ ) la sima della sua variaza. La saisica di Wald er l ioesi è la disaza esaa da di ˆ, co eso l iversa della sima della sua variaza e duque H ˆ ( ˆ ) ˆ ˆ ( ˆ W var( ) Avar( ) ) ˆ = =. Co gli usuali argomei si rova che (semre ell ioesi ) si ha H d, W χ k e ques`ulima rorieà cosee di cosruire u es co validià asioica sull ioesi assegaa. ) Il es asioico (F) di Fisher (è ecessario simare erambi i modelli): Siao USSR e le somme dei quadrai dei residui dei modelli U e R riseivamee, allora o è difficile rovare che er la usuale variabile F = i reseza di errori omoschedasici, si ha il es co livello di sigificaivià assegao. ( RSSR USSR) / k USSR /( k) d kf χ k, RSSR, dode co la usuale rocedura si cosruisce
4-Ecoomeria, a.a. 4-5 3) Tes LM (uilizza il modello di regressioe di Gauss-Newo e il modello ridoo): Qui ci si limia a descrivere la cosruzioe del es. Si rova che la saisica uilizzaa, dea saisica LM, e` la disaza esaa da del molilicaore di Lagrage (o equivaleemee la disaza esaa da del gradiee della fuzioe obieivo calcolao ella sima del modello ridoo). Si osserva iaziuo che il modello di regressioe di Gauss Newo er il modello U ha la seguee rareseazioe y x (, ) = X (, ) b + X (, ) b + resid essedo x ( ) X i ( ) = er i =,. i Per cosruire la sima efficiee ad u asso di è richiesa ua sua sima cosisee, che uo` essere cosruia co il modello R, i quao ell ioesi si ha = (, ) ); ale sima sia = (, ). Il modello di Gauss- Newo divea allora y x (, ) = X (, b ) + X (, b ) + resid () e osservao che evideemee sussise la seguee equivaleza il es sull ioesi H : = H : = H : b =, H divea u es su u ioesi lieare sul aramero di u modello lieare che si cosruisce seza aricolari difficolà. E` evidee che la rocedura si semlifica uleriormee se il modello R dovesse essere lieare. o 4-6 Esercizio: Sima di u modello lieare co errori auocorrelai E assegao il modello y = x + u Modello : u = ρu + ε, co ε iid...(, σ ), < ρ < e =,, e si suoe che il rocesso {, } ( 7) y x sia sazioario ed ergodico e che sia valida qualche versioe del eorema del limie cerale quado se e resea la ecessia` (si oi che o si sa facedo essua ioesi sulla reseza o meo di correlazioe ra x e u ). 7 Nel modello () le osservazioi sulla variabile diedee soo i residui cosruii uilizzado il modello ridoo; e` ossibile rovare che la saisca F er esare l ioesi H : b = e` asioicamee equivalee alla saisica (iu` avai l affermazioe e` rovaa el caso i cui il modello ridoo e` lieare) ed iolre che ques ulima e` esaamee la saisica LM. R
4-Ecoomeria, a.a. 4-5 Osservazioe: L ioesi ρ < e` di fodameale imoraza; se cosi` o fosse, il rocesso ( { u} = { y x }), e di cosegueza { y, x } Il rocesso { } iifluee sulle coclusioi., o sarebbe sazioario ed ergodico. u e` defiio a meo della codizioe iiziale, ma quesa come si vedra` e` Se ra le variabili idiedei del modello lieare y = x + u o ci soo riardi di y, il meodo OLS forisce (geeralmee) sime cosisei e asioicamee ormali (co la sima HAC della variaza asioica), ma o (asioicamee) efficiei. Se ivece ra le variabili idiedei c e` y allora el modello ci soo variabili edogee (i queso caso si ha u evideemee E( u y ) ) e allora le sime OLS o soo iu` cosisei (alcui meodi di sima uilizzabili quado alcue variabili idiedei soo edogee soo descrii el caiolo 7). Il modello ha le seguei rareseazioi equivalei: Modello : = + x x + co y ρ y ρ ε ε iid...(, σ ), < ρ < e =,,, ; ) ) Si uilizza la rima equazioe del modello er rareseare (e quidi sosiuisce ella secoda equazioe. ) ) Si oe u = y x e allora.. u u ) e si y = ρ y + x + x γ + ε Modello 3 (risreo): γ = ρ La sua equivaleza co il modello è evidee. co ε iid...(, σ ), < ρ < e =,,. Osservazioe: Il modello 3 o risreo cosee di cosruire simaori cosisei er i arameri ρ e, ma essi soo (revedibilmee) o efficiei i quao o uilizzao ue le iformazioi disoibili. Cosruzioe di ua sima asioicamee efficiee dei arameri ρ e : Il modello è o lieare e er comodia` e` scrio ella forma y = x( ρ, ) + ε x( ρ, ) = ρy + x ρx. x( ρ, ) x( ρ, ) Si osserva che = y x e = x ρx, allora il modello (ausiliario) di ρ
4-Ecoomeria, a.a. 4-5 x( ρ, ) x( ρ, ) Gauss-Newo, y x( ρ, ) = r+ b + resid, ha la seguee rareseazioe ρ y x y + x = ( y x ) r + ( x x ) b + resid. () ρ ρ ρ ˆ NLS La rocedura ricorsiva er la cosruzioe di ˆ ρ NLS e : Si fissa arbirariamee e ρ ρ (meglio se vicii ai valori veri; geeralmee si cosiderao le loro sime cosisei se disoibili) e si cosidera la rocedura ieraiva ρ = + e + ˆ + = + b, ˆ ρ r dove r ˆ e bˆ soo le sime OLS del modello () el quale si e` oso = e ρ ρ =. Osservazioe: Se ella recedee rocedura si cosidera ρ = ˆOLS ρ e =, oeue dal modello 3 o risreo, allora ( ) ρ = ρ = ρ + e = = + bˆ soo le sime efficiei ad u asso. Come ˆr ( ) recedeemee segalao quese sime hao ricialmee u ieresse eorico. La sima della variaza asioica dello simaore ( ρ, ) si oiee effeuado u uleriore asso co il modello di regressioe di Gauss-Newo () (vedi il uo (v) i 4-4). o 4-7 Il es di Breusch-Godfrey (sull asseza di auocorrelazioe egli errori) La reseza di auocorrelazioe egli errori di u modello lieare sesso (o semre) e` u segale di o correa secificazioe del modello; si iuisce allora l imoraza dei es che ossao essere i grado di rivelare la reseza. Alla fie degli ai 7 del secolo scorso, quado Breusch e Godfrey searaamee researoo il es, a cui e` sao dao il loro ome, erao disoibili es er rilevare la reseza di auocorrelazioe ei rocessi socasici (vedi 4-9 e 4-). La rocedura fio a quel momeo (e acora oggi) adoaa, er affroare il roblema iizialmee oso, era quella di uilizzare i residui come osservazioi del rocesso degli errori, rocedura che rovava ache ua sua giusificazioe eorica er modelli i cui le variabili idiedei erao sreamee esogee. Il es che si assa a cosruire ha ua validia` iu geerale, cosee er esemio la reseza dei riardi della variabile diedee ra le variabili idiedei. Cosruzioe del es: Sia {, } ˆ OLS y x u rocesso sazioario ed ergodico, y = x + u u modello lieare e er u fissao si cosidera l ioesi { } σ H : u iid...(, ) H : ρi er almeo u i, dove 3
4-Ecoomeria, a.a. 4-5 ρi = corr( u, u i ). Osservazioe: Come si uo` oare er fissare l ioesi e` richiesa la scela di u valore di. L esame del grafico di ACF dei residui uo` suggerire la scela di ale valore che comuque o va reso grade (i rima isaza l esame dell ACF orebbe far aarire evidee la reseza di auocorrelazioe egli errori, el qual caso l esio del es e` ceramee scoao); si uo` rovare che er la cosruzioe del es, che o va dimeicao ha solao validia` asioica, o e` resriivo assumere che u = α u + + α u + ε ε iid...(, σ ) (co le e { } resrizioi sui coefficiei che redao sazioario il rocesso { u } ) e allora l ioesi cosideraa H :( α,, α )= divea ; H:( α,, α ) Per semlicia` si cosidera il caso i cui e` =, ma o c e` alcua difficolà` aggiuiva el cosiderare il caso geerale. Sia duque u = ρu + ε co ρ <, e allora il modello divea y = x + u, che e` u = ρu + ε esaamee il Modello di 4.6, (che ha come rareseazioe equivalee il Modello ), mere l ioesi e` H : ρ =. Il es LM er ques ulima ioesi e` quello che rede il ome di es di Breusch-Godfrey e che ora si assa a descrivere brevemee, er maggiori deagli vedi i 4-5. Si osserva iaziuo che, se l ioesi essedo H e` vera, ua sima cosisee di (, ρ) è ( ˆ,), ˆ la sima OLS del modello lieare y = x + u e allora il modello GNR i ( ˆ,) e` ( y x ˆ) = xb + ( y x ˆ) r + resid( uˆ = xb + uˆ r + resid) e l ioesi i esame e` equivalee a H : r = er ques`ulimo modello lieare, er la cui verifica soo uilizzabili le rocedure sadard (er esemio il es di Wald). Osservazioe: a) Ua osservazioe sulla cosruzioe del es sull ioesi : Si cosidera la saisica di Wald che ha la seguee rareseazioe W( = F) = simboli) e si osserva che, essedo il veore [ RSSR USSR] H (cfr. -5 ache er il sigificao dei USSR / k û orogoale alla marice delle osservazioi, ella 4
4-Ecoomeria, a.a. 4-5 regressioe del modello ridoo u ˆ = xb + resid, si ha R ESS = e quidi o solo e` TSS = R SSR ma TSS e` ua sima cosisee della variaza. I defiiiva si ha [ TSS USSR] W = USSR /( k ), che ha disribuzioe asioica χ. Il ruolo del deomiaore ella recedee rareseazioe e` quello di essere simaore cosisee della variaza (cosruio co il modello o ridoo) che uo` essere sosiuio co TSS cosisee della variaza cosruio co il modello ridoo). Si oiee i al modo la saisica [ TSS USSR] ( = R ) TSS / che roduce u es asioicamee equivalee a quello di Wald. Se el modello origiario e` resee l iercea, essedo la somma dei residui uˆ (simaore ulla, si ha R = R c e R e` resee ell ouu della sima del modello uˆ ˆ = xb + u r+ resid. c b) Descrizioe della cosruzioe del es di Breusch-Godfrey: Primo Se: Si sima co il meodo OLS il modello y = + x u e sia { ˆ},, u = la serie dei residui Secodo Se: Si sceglie u iero > (suggerio eveualmee dalla fuzioe di auocorrelazioe emirica della serie dei residui); Terzo Se: Si cosidera il modello ausiliario uˆ ˆ ˆ = xb + αu + + α u + resid, il valore R della sima OLS (forio da qualuque sofware) e si rifiua l ioesi H a livello di sigificaivia` α se e` R > χ., α 4-8 Aedice (il meodo di Newo) o k Sia Q( ) ua fuzioe a valori reali defiia i u soisieme di e u uo (del uo R arbirario) el suo domiio di defiizioe e si cosideri il oliomio di Taylor del secod ordie di Q( ) di uo iiziale dove si è oso g Q( ) = = ( ) ( ) ( ) ( ) ( ) ( ) Q = Q + g + H Q( ) (veore coloa delle derivae arziali); 5
4-Ecoomeria, a.a. 4-5 H Q( ) = (marice hessiaa di Q( ) i e` ua marice quadraa di ordie k ). Osservazioe: ) Se la marice è defiia osiiva, la fuzioe Q ( ) ha u uico uo di miimo che H soddisfa la codizioe del rim ordie = g + H ( ), la cui (uica) soluzioe è evideemee = H ) Cosruzioe di ua successioe esremae (cosiuia da ui di miimo di fuzioi ausiliarie e cadidaa a covergere verso l eveuale uo di miimo) della fuzioe Q( ) : g. H g = che esise se la marice H i e` iveribile er ogi i., g i Q( i ) =, H i Q( i ) =, Proosizioe : i) Se la fuzioe Q( ) è quadraica (ha u solo uo di miimo) allora al rimo asso si oiee il uo di miimo; ii) Se la fuzioe Q( ) è arossimaivamee quadraica (er esemio somma di fuzioi quadraiche) allora la covergeza della rocedura ricorsiva verso il uo di miimo (esisee) è raida. iii) Se la fuzioe Q( ) è (globalmee) covessa esise u uico uo di miimo e la successioe esremae coverge verso esso (e quidi è ua successioe miimizzae). iv) Se la fuzioe Q( ) o è globalmee covessa, ur avviado la rocedura co vicio al uo di miimo (suoso esisee), uò accadere che qualcua delle marici Hessiae H sia o defiia osiiva e allora la rocedura er ricorreza si uò bloccare oure la successioe uò alloaarsi dal uo di miimo. Per orre rimedio a ale icoveiee, si sosiuisce, ella cosruzioe della sequeza, la marice H co ua sua buoa arossimazioe D che erò sia defiia osiiva. Tale rocedura è rede il ome di meodo quasi-newo. 4-9 La saisica di Box-Pierce e di Lug-Box o U roblema di u qualche ieresse i ecoomeria (e o solo) è quello di esare l ioesi di idiedeza (o iù i geerale l asseza di auocorrelazioe) i u rocesso sazioario o ache quello di rilevare la reseza di auocorrelazioe egli errori di u modello di regressioe che 6
4-Ecoomeria, a.a. 4-5 sesso e` u segale di o correa secificazioe ( 8 ) (ua risosa a queso secodo roblema e` saa daa el aragrafo 4-7 co la cosruzioe del es di Breusch-Godfrey rooso searaamee dai due auori el 978, il quale è valido i coesi sufficieemee geerali). Alcui esemi di serie ecoomiche che geeralmee si assumoo o auoccorrelae: ) Per molo emo (e acora oggi i varie quesioi eoriche) si è assuo che i redimei (di u iolo, di u mercao, ) soo idiedei (ioesi che er la verià si è rivelaa er ulla ragioevole). ) Hall formulò l ioesi che il rocesso dei cosumi aggregai { c } è ua marigala (cioè che la migliore revisioe sui cosumi all isae siao i cosumi all isae c } rocesso { c sia ua differeza marigala. ) e duque che il Qui si cosruisce u es sull ioesi (ulla) che u rocesso sazioario (co qualche rorieà che sara` recisaa i seguio) sia o auocorrelao. A al fie si remee la seguee: Proosizioe Sia { } ε ua differeza marigala sreamee sazioaria, ergodica e ale che E( ε ε, ε,, ε) = σ (ioesi di omoschedasicià codizioaa) ( ) 9. Allora fissao e oso γ ˆ = ( ˆ γ ˆ,, γ ) e ρ ˆ = ( ˆ ρ ˆ,, ρ ), (co ˆ γ s = εε s e = s ˆ γ s ˆ ρs = er s ) si ha: ˆ γ d 4 ˆ (; ) γ N σ I e ρˆ N(; I ). Dimosrazioe: Per semlicià si esamia solao il caso = ; o ci soo difficolà aggiuive se e` >. Poso g = εε, si ha: d { g } è u rocesso sazioario ed ergodico (è evidee); { g } è ua differeza marigala. Ifai E( g ) E( g ε, ε, ) = E( ε ε ε, ε, ) = E( ε ε, ε, ) ε = 4 = σ. Ifai si ha E(,, ) E(,, ) E(,, ) ε g ε ε = ε ε ε ε = ε ε ε ε = σ e quidi l assero o aea si cosidera l aseazioe del rimo e dell ulimo ermie. 8 Per esemio e` saa omessa dal modello qualche variabile idiedee oure gli errori hao ua effeiva auocorrelazioe che adrebbe modellaa. Nel rimo caso le sime OLS o soo cosisei el secodo caso, ei modelli diamici si erde la cosiseza, mere i quelli saici le sime OLS rimagoo cosisei ma o soo efficiei. 9 L ioesi di omoschedasicia uo` essere rimossa, auralmee cio` ora alla modifica della variaza asioica degli simaori. 7
4-Ecoomeria, a.a. 4-5 d 4 ˆ γ = ( εε ) N(; σ ). E cosegueza del eorema del limie cerale er = ua differeza marigala sazioaria ed ergodica. d ˆ ˆ ρ N(;). Segue dalla recedee e dalla rareseazioe ˆ ρ = γ, doo aver ˆ γ osservao che il deomiaore coverge i robabilià a σ. Corollario: Nelle ioesi della recedee roosizioe, si ha ed ache Q = = d ˆ ρ ( ˆ ρ) = = χ ˆ ρ d + ˆ ρ χ = = Q = ( + ) = ( ). Le saisiche e Q soo deomiae riseivamee saisica di Box-Pierce e saisica di Lug-Box. Q Osservazioe: La saisica Q di Lug-Box (er differei valori di ) e il corrisodee -value el camioe e` foria dai sofware ecoomerici quado si richiede il correlogramma di ua imeseries. Essa soliamee e` uilizzaa er rilevare la reseza di auocorrelazioe el rocesso che si riiee sazioario o ache egli errori di u modello di regressioe, uilizzado i al caso come osservazioi i residui. Per cosruire es sull`ioesi di asseza di auocorrelazioe i u rocesso o sugli errori i u modello di regressioe si referiscoo alri srumei. E sao mosrao co eciche di simulazioe che, er camioi fiii, è referibile uilizzzare la saisica di Lug-Box iuoso che la saisica di Box-Pierce. o 4- La saisica di Durbi-Waso Uo dei rimi es sulla reseza di auocorrelazioe egli errori di u modello di regressioe lieare, che ora si assa a descrivere, fu rooso ioro al 95 da Durbi e Waso; i realà esso è solao u es sulla reseza di auocorrelazioe del rim ordie, è valido i ioesi molo resriive ed ifie le sue risose o soo come soliamee accade er u es si accea o si rifiua l ioesi ulla, ma coemla ache l uleriore risosa o si è i grado di forire suggerimei. Aualmee esso (es) o e mai uilizzao, ma il valore della saisica di Durbi- Waso è riorao ell ouu dei sofware ecoomerici, daa la sua semlicià di calcolo, e forisce u rimo segale di reseza di auocorrelazioe egli errori quado (come si vedrà) il suo 8
4-Ecoomeria, a.a. 4-5 valore è vicio a oure a 4. Si cosidera il modello y = x + u co { y, x } rocesso sazioario ed ergodico e si suoe che le variabili x siao sreamee esogee. Osservazioe: Qui l ioesi di srea esogeeia` e` sosazialmee ecessaria, daa la ossibile auocorrelazioe egli errori. Defiizioe: La saisica D = = ( uˆ uˆ ) = uˆ, dove { u ˆ } e` il rocesso dei residui ella sima OLS, dicesi saisica di Durbi-Waso (il suo valore è resee ell ouu di qualuque rocedura di sima i cui so coivole le ime-series). Osseravazioe: La cosiseza dello simaore ˆ, assicura la cosieza del rocesso dei residui e duque la validia della seguee ) uˆ ˆ ˆ ˆ uu + u = = = uˆ = D= (al umeraore si somma e si sorae uˆ + u ˆ ) uˆ ˆ ˆ uu ˆ ˆ = = u + u uˆ ˆ u = = ( [ ]) = ( ρ ), 4 (si oi che ˆ ˆ ( ˆ ˆ u + u u + u )/ = ). uˆ ˆ u = = ) L asseza di auocorrelazioe del rim ordie egli errori ( ρ = ) dovrebbe rodurre u valore della saisica D o molo disae da, mere u valore di D vicio a 4 suggerirebbe la reseza di auocorrelazioe egaiva e u valore vicio a la reseza di auocorrelazioe osiiva. 3) Al fie di uilizzare la saisica D er cosruire u es sulla reseza di auocorrelazioe del rim ordie egli errori, è esseziale idividuare la sua disribuzioe (fiia o asioica). I aleraiva si orebbe usare il meodo del boosra, che alla luce di quao rovao da Durbi e Waso (vedi il eorema che segue) sembra oer dare migliori risulai. Teorema (di Durbi e Waso) Cosiderao il modello y = + x co {, } u y x rocesso 9
4-Ecoomeria, a.a. 4-5 sazioario, ale che i) Le variabili x soo sreamee esogee, ii) u = ρu + ε co è ε id...(, σ ), gli auori idividuaroo (al variare del umero di variabili idiedei, er gli sadard livelli di sigificaivià e er differei lughezze del camioe) ua coia di quaili (sesso o resei ei sofware ecoomerici, ma disoibili su iere) co < d < d <, idiedei dalla marice l ioesi è: Si accea H se D> d u, si rifiua H se X ( dl, du) delle osservazioi delle variabili idiedei, ali che u es er H H : ρ = : ρ > D< d l, mere se dl < D< d u o si uò dire ulla. l u U es er l ioesi H H : ρ = : ρ < è uguale al recedee co 4 D al oso di D. Il recedee es ha validià asioica se ε iid...(, σ ). o