OLS multivariato: effetti parziali, multicollinearità

Transcript

1 OLS multivariato: effetti parziali, multicollinearità CONCETTI DA RECUPERARE Per stimare questo modello utilizziamo le seguenti variabili esplicative educ, exper e tenure Primo passo da compiere sarà quello di valutare se sono tra di loro correlate, al fine di evitare futuri problemi di multicollinearità tra le stime. Per prima cosa analizziamo le variabili graficamente in uno scatter plot.. graph7 wage educ exper tenure, matrix half label average hourly earnings years of education 0 years potential experience years with current employer

2 Lo scatter plot a matrice ci permette di osservare una relazione positiva tra wage e educ, quindi ad incremento degli anni di educazione si incrementa il salario orario, mentre la correlazione tra exper e wage è un po meno evidente. Quello che è interessante è che si ha anche un correlazione negativa tra educ e exper che potrebbe influenzare la nostra analisi. Inoltre sembra presente anche una relazione significativa tra exper e tenure, relazione in parte attesa dal momento che entrambe le variabili fanno riferimento all esperienza lavorativa dei lavoratori, e potrebbero quindi esser correlate. La relazione tra le variabili si può osservare tramite il comando corr, che evidenzia la correlazione tra la dipendente e le esplicative o le esplicative.. pwcorr wage educ exper tenure, star (.05) wage educ exper tenure wage educ * exper * * tenure * * Dal comando corr e pwcorr si osserva che si ha correlazione tra alcune esplicative. La stella del pwcorr vorrebbe individuare quando la correlazione è significativamente diversa da 0, ma è sempre meglio considerare che se la correlazione <30 essa non è preoccupante. Tale considerazione ci spinge a dover fare una scelta tra tenure ed educ, in quanto l inclusione di entrambe le variabili nella stessa regressione OLS potrebbe generare problemi di multicollinearità. Diversa invece la considerazione relativa alla relazione negativa tra educ e exper, in questo caso la correlazione non è altissima, non supera cioè la regola del pollice che ci siamo dati di cancellare correlazioni maggiori all.30. E consigliabile però, dato queste premesse effettuare dopo le regressioni gli opportuni test di multicollinearità, come ad esempio il variace inflative factor.. reg wage educ exper Source SS df MS Number of obs = F( 2, 523) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = educ exper _cons

3 Prima di passare ad una valutazione di significatività dei parametri, controlliamo per la presenza di multicollinearità e effettuiamo i test di scorretta specificazione.. qui reg wage educ exper. vif Variable VIF 1/VIF educ exper Mean VIF 1.10 Il comando vif, eseguito dopo la regressione, permette di calcolare il variance inflation factor, quindi la variabilità dello stimatore (coefficiente di educ o exper). La regola applicata generalmente è che se vif>10 e la tolerance (1/vif) <0.1 allora si hanno problemi di collinearità e quindi sono opportune ulteriori analisi, mentre in caso contrario questi non si hanno. In questo caso quindi non abbiamo problemi di multicollinearità.. collin educ exper Collinearity Diagnostics SQRT Cond R- Variable VIF VIF Tolerance Eigenval Index Squared educ exper Mean VIF 1.10 Condition Number Determinant of correlation matrix Analisi dei residui di regressione. qui reg wage educ exper. predict wagehatmultiv (option xb assumed; fitted values). predict resmultiv, res

4 Residuals. summ wage wagehatmultiv resmultiv Variable Obs Mean Std. Dev. Min Max wage wagehatmul~v resmultiv e version 7: rvfplot,oneway twoway box yline(0) ylabel xlabel Fitted values I residui mostrano molti problemi potenziali nelle nostre stime: - Presenza di outliers - Probabile eteroschedasticità - Probabile non linearità della relazione Pur non sapendo ancora di preciso quale sia il problema reale, e se uno o più di uno non possiamo prendere i risultati di regressione precedenti come affidabili. Se andiamo poi a valutare con l opzione summ la distribuzione dei residui, vediamo come essi soffrano di un eccesso di Kurtosis, e come il test di normalità non passi. I residui non sono quindi disposti normalmente. Cosa significa questo??

5 . summ resmultiv, d Residuals Percentiles Smallest 1% % % Obs % Sum of Wgt % Mean 2.44e-09 Largest Std. Dev % % Variance % Skewness % Kurtosis sktest resmultiv Skewness/Kurtosis tests for Normality joint Variable Pr(Skewness) Pr(Kurtosis) adj chi2(2) Prob>chi resmultiv Test di Scorretta specificazione: heteroschedasticità. qui reg wage educ exper. hettest, rhs Breusch-Pagan / Cook-Weisberg test for heteroskedasticity Ho: Constant variance Variables: educ exper. hettest chi2(2) = Prob > chi2 = Breusch-Pagan / Cook-Weisberg test for heteroskedasticity Ho: Constant variance Variables: fitted values of wage chi2(1) = Prob > chi2 =

6 . whitetst White's general test statistic : Chi-sq( 5) P-value = 1.9e-10 Ognuno di questi tipi di test assume che l eteroschedasticità dipenda da un fattore differente: Hettest Fa dipendere l eteroschedasticità dai fitted values Hettest, rhs assume che la varianza residua dipenda dalle variabili esplicative nel modello Whitetst è basato su una regressione ausiliaria tra il quadrato dei residui e i regressori del modello i loro quadrati e i doppi prodotti.. reg wage educ exper, robust Linear regression Number of obs = 526 F( 2, 523) = Prob > F = R-squared = Root MSE = Robust educ exper _cons Reset Test. ovtest Ramsey RESET test using powers of the fitted values of wage Ho: model has no omitted variables F(3, 520) = Prob > F = La relazione potrebbe esser non lineare o soffrire di variabili omesse. Outliers. qui reg wage educ exper. predict D, cooksd. graph7 resmultiv wagehatmultiv [iweight=d], ylabel xlabel yline(0)

7 Residuals Fitted values rreg wage educ exper Huber iteration 1: maximum difference in weights = Huber iteration 2: maximum difference in weights = Huber iteration 3: maximum difference in weights = Huber iteration 4: maximum difference in weights = Huber iteration 5: maximum difference in weights = Biweight iteration 6: maximum difference in weights = Biweight iteration 7: maximum difference in weights = Biweight iteration 8: maximum difference in weights = Biweight iteration 9: maximum difference in weights = Biweight iteration 10: maximum difference in weights = Robust regression Number of obs = 526 F( 2, 523) = Prob > F = educ exper _cons Il coefficiente delle variabili diminuisce, questo cosa vi porta a pensare?

8 . qreg wage educ exper Iteration 1: WLS sum of weighted deviations = Iteration 1: sum of abs. weighted deviations = Iteration 2: sum of abs. weighted deviations = Iteration 3: sum of abs. weighted deviations = Iteration 4: sum of abs. weighted deviations = Iteration 5: sum of abs. weighted deviations = Iteration 6: sum of abs. weighted deviations = Iteration 7: sum of abs. weighted deviations = Iteration 8: sum of abs. weighted deviations = Iteration 9: sum of abs. weighted deviations = Median regression Number of obs = 526 Raw sum of deviations (about ) Min sum of deviations Pseudo R2 = educ exper _cons Si può infine provare a fare una regressione escludendo gli outliers. reg wage educ exper if wage<12 Source SS df MS Number of obs = F( 2, 487) = Model Prob > F = Residual R-squared = Adj R-squared = Total Root MSE = educ exper _cons hettest Breusch-Pagan / Cook-Weisberg test for heteroskedasticity Ho: Constant variance Variables: fitted values of wage

9 . whitetst chi2(1) = Prob > chi2 = White's general test statistic : Chi-sq( 5) P-value = 2.5e-05. ovtest Ramsey RESET test using powers of the fitted values of wage Ho: model has no omitted variables F(3, 484) = 2.24 Prob > F = reg wage educ exper if wage<12, robust Linear regression Number of obs = 490 F( 2, 487) = Prob > F = R-squared = Root MSE = Robust educ exper _cons Permane il problema dell eteroschedasticità ma il test di ramsey non rifiuta l ipotesi nulla di non omissione di variabili rilevanti.