1 BREVE RIPASSO DEI TEST STATISTICI 2 I TEST STATISTICI NEI SOFTWARE ECONOMETRICI E IL P-VALUE 3 ESERCIZI DI ALLENAMENTO

Transcript

1 I TEST STATISTICI E IL P-VALUE Obiettivo di questo Learning Object è ripassare la teoria ma soprattutto la pratica dei test statistici, con un attenzione particolare ai test che si usano in Econometria. Inoltre, questo Learning Object intende familiarizzare il lettore con la comprensione dei test statistici forniti dai pacchetti statisticoeconometrici. Insomma, vogliamo capire che cosa è il p-value di un test, e come il p-value si utilizza per decidere se rifiutare o meno un ipotesi di interesse. Il Learning Object è ripartito nei seguenti 3 paragrafi: 1 BREVE RIPASSO DEI TEST STATISTICI 2 I TEST STATISTICI NEI SOFTWARE ECONOMETRICI E IL P-VALUE 3 ESERCIZI DI ALLENAMENTO 1. BREVE RIPASSO DEI TEST STATISTICI In generale, per costruire un test statistico abbiamo bisogno di: (1) un vettore di parametri, generalmente i parametri di un modello di regressione lineare, o i momenti di una certa popolazione; (2) un campione di n osservazioni relative a un insieme di individui (dati cross-section) o osservazioni protratte nel tempo di un certo fenomeno (dati time-series); in entrambi i casi i dati del campione devono essere interpretati come realizzazioni empiriche di variabili casuali, per questo quindi abbiamo a che fare con leggi distributive; (3) un modello statistico (o un modello econometrico) che metta in relazione parametri e osservazioni di cui ai punti (1) e (2); (4) l ipotesi nulla (H 0 ), ovvero un asserzione circa i valori che i parametri di cui al punto (1) devono soddisfare se vale una certa teoria o supposizione, e da confrontare con un ipotesi alternativa (H 1 );

2 (5) una statistica test, S n, ovvero una variabile casuale che è generalmente funzione di uno stimatore dei parametri del modello, e quindi delle n variabili casuali di cui al punto (1). La statistica test S n avrà quindi una certe legge distributiva sotto H 0, e una certa legge distributiva sotto H 1. Notare che la legge distributiva di S n a cui facciamo riferimento può valere, sotto certe condizioni, su piccoli campioni, però il più delle volte in econometria si fa riferimento alla legge distributiva di S n in grandi campioni (cioè quando n tende ad infinito). Quando il test è basato su una distribuzione di S n che vale per n grande parleremo di test asintotici. Una volta calcolato il valore della statistica test sul campione effettivamente osservato, scriveremo S n = s n ; (6) il livello di significatività del test (o size, o errore di prima specie) del test, comunemente indicato con il simbolo α fissata da chi conduce il test che dal punto di vista formale rappresenta: α=pr(rifiutare H 0 H 0 ) (cioè la probabilità di rifiutare H 0 quando H 0 è vera, quindi la probabilità di rifiutare erroneamente H 0 ); (7) il valore critico (cv α ) del test, cioè fissato α di cui la punto (6), il percentile della distribuzione della statistica test S n sotto l ipotesi nulla H 0, ovvero la quantità che soddisfa: Pr(S n > cv α H 0 )= α, o analogamente Pr(S n cv α H 0 )= 1-α. Si noti che Pr(S n > cv α H 0 )= α = Pr(rifiutare H 0 H 0 ), per cui l intervallo (cv α, ] è la zona di rifiuto di H 0 e di conseguenza [-, cv α ] la zona di accettazione di H 0. Si osservi inoltre, che in molti casi facciamo test a due code; in questi casi il valore critico del test è la quantità che soddisfa: Pr( S n cv α/2 H 0 )=Pr ( - cv α S n cv α H 0 )= 1- α. In tal caso [-, -cv α ) (cv α, ] è la zona di rifiuto di H 0, e [-cv α, cv α ] la zona di accettazione di H 0. Come si fa dal punto di vista pratico il test usando le tavole? Dal punto di vista pratico, per decidere tra H 0 e H 1 si procede nel seguente modo. Si fissa α (ad esempio α=0.05). Dai dati si calcola il valore osservato della statistica test, cioè S n = s n. Si supponga ad esempio di sapere che sotto l ipotesi nulla la statistica test S n ha distribuzione t- Student con 3 gradi di libertà. Si supponga inoltre che il test sia a due code (vedi il punto (7) di cui

3 sopra). Notare che siamo in possesso di tutti e gli elementi elencati sopra nei punti (1)-(7), siamo quindi in grado di fare il test e decidere se scegliere H 0 oppure H 1. A tal fine si calcola dalla tavola della t-student il cv α/2 (=cv dato che α=0.05) del test, cioè dalle Tavole della t-student con 3 gradi di libertà si prende il valore ± Ne segue che [-3.182, ] è la zona di accettazione, mentre [-, ) (3.182, ] è la zona di rifiuto di H 0. A questo punto bisogna capire se il valore di s n cade nella zona di rifiuto o di accettazione di H 0. Per fare ciò si confronta quindi s n con ±3.182 se s n è più grande di o più piccolo di si rifiuta H 0 e si sceglie H 1, altrimenti si sceglie H 0. Più avanti, nel Paragrafo 2 vedremo che utilizzando i software statistico-econometrici il calcolo del test risulta notevolmente semplificato! Tre osservazioni importanti. Primo, il livello di significatività del test, Pr(S n > cv α H 0 )=α, ci dice che non siamo più disposti a credere alla validità di H 0 (e quindi ripieghiamo verso H 1 ) quando otteniamo valori della statistica test che pur ottenuti sotto H 0 hanno una probabilità inferiore ad α di verificarsi. In altri termini, quando osserviamo valori di S n molto grandi, cioè che si collocano verso le code della distribuzione e a cui quindi sono associati bassi livelli di probabilità (più piccoli di α) di verificarsi, non siamo più disposti a credere che tali valori siano compatibili con la distribuzione di S n sotto H 0. Secondo, i test a due code hanno senso solo quando abbiamo a che fare con distribuzioni statistiche il cui dominio comprende sia valori positivi che negativi (si pensi ad esempio alla Normale o alla t- Student). Quando abbiamo a che fare con statistiche test la cui legge distributiva ha dominio solo nei numeri positivi (si pensi alla distribuzione Chi-quadrato o alla F), allora un test a due code non ha molto senso in quanto in tal caso: Pr ( - cv α/2 S n cv α/2 H 0 ) P([S n - cv α/2 ] [S n cv α/2 ] H 0 ) = P(Evento certo [S n cv α/2 ] H 0 ) = P(S n cv α/2 H 0 ) = 1-α/2.

4 Quindi, in presenza di statistiche test che hanno distribuzione Chi-quadrato o F, ci limitiamo a fare test ad una coda al livello α; solo quando abbiamo a che fare con statistiche test che hanno distribuzione Normale of t-student dobbiamo capire se fare in test ad una coda o a due code! Come riusciamo a capire se dobbiamo fare un test ad una o due code? E la formulazione dell ipotesi alternativa che ci da indicazioni. Se ad esempio dobbiamo fare un test t-student per H 0 : β=0 contro H 1 : β 0, allora faremo un test a due code (infatti H 1 ci dice che β può essere un qualsiasi numero diverso da zero, positivo o negativo che sia). Se invece dobbiamo fare un test test t-student per H 0 : β=0 contro H 1 : β>0 allora faremo un test ad una sola coda. Quale coda considereremo, in tal caso, la destra o la sinistra della t-student? (Risposta: ovviamente la destra). Terzo, dati i 7 punti di cui sopra, si può definire potenza del test, la quantità Pr(rifiutare H 0 H 1 ), ovvero la probabilità di rifiutare l ipotesi nulla quando questa è effettivamente falsa. La potenza è quindi un indicatore della capacità del test di beccarci. Tanto più Pr(rifiutare H 0 H 1 ) si avvicina ad uno, tanto più il test ha buone capacità. Si osservi che per calcolare la potenza del test dato il livello di significatività α, dobbiamo conoscere la legge distributiva della statistica test S n sotto l ipotesi alternativa H 1, poiché dovremo calcolare Pr(S n > cv 0 α H 1 ), dove con il simbolo cv0 α indica che il valore critico è sempre quello calcolato utilizzando il pecentile della distribuzione della statistica test sotto H 0. Esempio 1: un modello per i tassi di interesse nell area dell euro Si supponga di stimare il seguente modello di regressione dinamico relativo a tassi di interesse nell area dell Euro: R t = β 0 +β 1 R t-1 +β 2 (R t-1 - r t-1 ) + u t (1) Nel modello (1) R t è il tasso di interesse nominale sui titoli a lunga scadenza, r t è il tasso di interesse nominale sui titoli a breve scadenza, la differenza (spread) (R t - r t ) è una misura della struttura a termine dei tassi di interesse e può essere visto come un indicatore di aspettative di inflazione (se il divario tra tassi a lunga e a breve aumenta ci si aspetta una situazione inflazionistica nel futuro, mentre se il divario diminuisce ci si aspetta una politica monetaria più restrittiva da parte della

5 Banca Centrale e quindi meno inflazione futura). è l operatore differenza prima: R t = R t R t-1. Infine, u t è una componente White Noise con varianza σ 2, e β 0, β 1, β 2 sono i parametri. La stima OLS del modello (1) su n=142 dati trimestrali, periodo: 1970:3 2005:4, ha dato luogo ai seguenti risultati: Dependent Variable: DRL Method: Least Squares Date: 22/11/06 Time: 16:58 Sample (adjusted): 1970Q3 2005Q4 Included observations: 142 after adjustments Variable Coefficient Std. Error t-statistic Prob. C DRL(-1) SPREAD(-1) R-squared Mean dependent var Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) TABELLA 1 Si vuole ora testare l ipotesi nulla H 0 : β 2 =0, la quale dice che lo spread osservato nel trimestre precedente non ha influenza sulla dinamica trimestrale delle variazioni del tasso di interesse sui titoli a lungo termine. L alternativa è H 1 : β 2 <0, e dice che variazioni dello spread osservate nel trimestre precedente hanno un impatto negativo su tale dinamica (se lo spread aumenta ci si aspetta una variazione in diminuzione del tasso a lunga per bilanciare tale aumento e ripristinare quindi una situazione di spread constante nel tempo). Dal corso di Econometria o di Econometria dei mercati finanziari sappiamo che sotto H 0 : β 2 =0 la statistica test S n = β 2 /s.e.( β 2 ) ha, per n che tende all infinito, distribuzione asintotica Normale (0,1) (siamo in presenza di un modello dinamico!... e si ricordi che la t-student con infiniti gradi di libertà converge ad una Normale(0,1)). Inoltre, dalla Tabella 1 deduciamo che il valore della statistica test per H 0 : β 2 =0 è pari a S n = s n = (β 2 /s.e.( β 2 )) =( / ) = , il quale va confrontato con l opportuno cv α. Fissiamo α=0.05. Ora dobbiamo decidere se il test è a una coda oppure a due code. Poiché l ipotesi alternativa H 1 : β 2 <0 prevede solo valori negativi di

6 β 2, il test sarà ovviamente ad una coda, e in particolare riguarderà la coda sinistra della Normale(0,1). Dalla tavola della normale ricaviamo che dalla coda sinistra della normale: -cv 0.05 = Poiché < segue che la statistica test cade nella zona di accettazione di H 0. Quindi, dai dati, emerge che lo spread osservato nei trimestri precedenti non incide sulle variazioni del tasso a lungo termine. Nel prossimo paragrafo vedremo che possiamo fare il test utilizzando solo le informazioni della Tabella 1, senza dovere andare a consultare le tavole, cioè senza dover sapere che -cv 0.05 = ! 2. I TEST STATISTICI NEI SOFTWARE ECONOMETRICI E IL P-VALUE I software statistici ed econometrici semplificano i test. In particolare, ci permettono di non occupaci del punto (7), ovvero dei valori critici, e quindi del calcolo delle zone di rifiuto e di accettazione del test, senza farci perdere alcuna informazione rilevante sul test. Per far ciò ci fornisce in alternativa il p-value (livello di probabilità) associato al valore calcolato della statistica test, s n. Per ogni H 0 e H 1 che vogliamo testare, il software ci fornisce il p-value associato al valore della statistica test calcolata, s n. Che cosa è il p-value associato alla statistica test calcolata s n? E semplicemente la probabilità: Pr(osservare valori maggiori di o uguali di s n H 0 ) = Pr(S n s n H 0 ) = p-value. Il p-value indica quindi quanto probabile (valori alti) o improbabile (valori bassi) è l eventualità di osservare esattamente il valore s n della statistica test S n sotto l ipotesi nulla. Come si utilizza il p-value associato a s n in pratica per decidere tra H 0 e H 1? Il vantaggio del p- value è che non ci serve più andare a consultare le tavole della Normale, della t-student, del Chiquadrato o della F, ecc. per decidere. Tutto quello che dobbiamo fare è confrontare il p-value associato a s n con il livello di significatività α che abbiamo fissato in precedenza (punto (6) di cui sopra). Se troviamo che p-value < α, cioè significa, usando la nostra notazione, che Pr(S n s n H 0 ) = p-value < α = Pr(S n > cv α H 0 )

7 il che implica, se ci si ragiona, che s n > cv α, il che a sua volta significa che s n è nella zona di rifiuto di H 0. Per rifiutare H 0 ci basta constatare che p-value < α senza dover conoscere cv α! Al contrario, se troviamo che p-value α, ciò significa, nella notazione dai noi usata, che Pr(S n s n H 0 ) = p-value α = Pr(S n > cv α H 0 ) ovvero che s n cv α, il che comporta l accettazione di H 0. Raggiungiamo tale conclusione senza dover necessariamente conoscere cv α, ci basta solo constatare che p-value α! Esempio 2 Torniamo al modello (1) e ai risultati di stima della Tabella 1, e proviamo nuovamente a fare il test per H 0 : β 2 =0 contro H 1 : β 2 <0, utilizzando solo ed esclusivamente le informazioni contenute nella Tabella 1. Ricordiamo che nel nostro caso la statistica test S n = β 2 /s.e.( β 2 ) ha, per n che tende ad infinito, distribuzione asintotica Normale (0,1) (questo lo sappiamo solo se abbiamo studiato econometria!). La Tabella 1 ci dice che: Pr(S n H 0 ) = 0.20 quindi il il p-value associato a s n = è Stiamo facendo un test ad una coda, per cui dobbiamo confrontare il p-value con α=0.05. Poiché p- value > α, possiamo accettare H 0 : β 2 =0. Nota che se si fosse trattato di un test a due code, avremmo confrontato il p-value 0.20 con α/2= Esempio 3 Facendo sempre riferimento al modello (1) e ai risultati di stima della Tabella 1, si supponga ora di voler fare un test per l ipotesi nulla H 0 : β 1 =0 contro la generica alternativa H 0 : β 1 0. In sostanza, vogliamo testare la significatività del coefficiente β 1 associato al regressore R t-1 del modello. Questa volta scegliamo α=0.10.

8 Si può notare dalla Tabella 1 che in questo caso la statistica test è pari a e ha un p-value associato pari a Questo significa che la probabilità di osservare un valore della statistica test superiore o uguale a sotto l ipotesi nulla (distribuzione Normale(0,1)) è veramente bassa, anzi bassissima. Dato che p-value <<α/2=0.05, rifiutiamo nettamente H 0 : β 1 =0 e scegliamo l alternativa. Esempio 4 Facendo sempre riferimento all esempio della Tabella 1, si supponga ora di voler testare l ipotesi nulla congiunta: H 0 : β 1 =0.50 e β 2 =0, contro l alterativa H 1 : β e β 2 0. Dalla teoria sappiamo che tale ipotesi rientra nella casistica H 0 : R β=r e che siccome il modello stimato è un modello di regressione dinamico, una statistica test di Wald, S n, per H 0 :R β=r avrà distribuzione, per n che va ad infinito (n grande), Chi-quadrato(2), dove 2 sono le restrizioni che testiamo. La Tabella 2 sotto, ci fornisce i risultati del test: Wald Test: Equation: Untitled Test Statistic Value df Probability F-statistic (2, 139) Chi-square Null Hypothesis Summary: Normalized Restriction (= 0) Value Std. Err C(2) C(3) TABELLA 2 Abbiamo quindi S n = s n = con un p-value associato pari a Quindi vi è una probabilità di quasi il 35% di osservare un valore della statistica test, sotto l ipotesi nulla, che sia maggiore o uguale di Se fissiamo il livello di significatività del test al 5%, significa che noi siamo disposti a credere all ipotesi nulla sino a quando non otteniamo valori della

9 statistica test che hanno probabilità non inferiore al 5%. Noi abbiamo ottenuto una probabilità del 35% che è ben maggiore del 5%. Quindi, poiché p-value > α (=0.05 oppure 0.10), accettiamo H 0. 3 ESERCIZI DI ALLENAMENTO Esercizio 1 Si consideri il modello (1) e le stime della Tabella 1. La Tabella 3 riporta il test LM di Godfrey e Breush per l assenza di autocorrelazione nei residui: Breusch-Godfrey Serial Correlation LM Test: F-statistic Probability Obs*R-squared Probability Test Equation: Dependent Variable: RESID Method: Least Squares Date: 23/11/06 Time: 14:28 Presample missing value lagged residuals set to zero. Variable Coefficient Std. Error t-statistic Prob. C DRL(-1) SPREAD(-1) RESID(-1) RESID(-2) R-squared Mean dependent var -1.25E-17 Adjusted R-squared S.D. dependent var S.E. of regression Akaike info criterion Sum squared resid Schwarz criterion Log likelihood F-statistic Durbin-Watson stat Prob(F-statistic) TABELLA 3 1. Si individui qual è l ipotesi alternativa e l ipotesi nulla di tale test. 2. Si dica se la nulla è da rifiutare o meno

10 3. Si dica quale dovrebbe essere il livello di significatività α del test necessario per rifiutare l ipotesi nulla. Esercizio 2 Si consideri il modello (1) e le stime della Tabella 1. Si testi la significatività dell intercetta. Esercizio 3 Si consideri il modello (1) e le stime della Tabella 1. I residui del modello hanno le seguenti caratteristiche: Series: Residuals Sample 1970Q3 2005Q4 Observations 142 Mean -1.25e-17 Median Maximum Minimum Std. Dev Skewness Kurtosis Jarque-Bera Probability Si dica se l ipotesi di normalità distributiva può essere accettata o rifiutata. Esercizio 4 Si consideri il modello (1) e le stime della Tabella 1. Si testi l ipotesi nulla H 0 : β 1 =0.50 contro l alternativa H 1 : β 1 =0.60 al livello α=0.05, e si provi poi a calcolare la potenza del test (traccia: si ricordi che la potenza del test è Pr(rifiuto H 0 H 1 ) e si individui la distribuzione della statistica test sotto l ipotesi H 1.).