Testi di riferimento. Modello di regressione. Introduzione all analisi di regressione. Relazione tra caratteri. Dottorato in Metodologia della ricerca

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "Testi di riferimento. Modello di regressione. Introduzione all analisi di regressione. Relazione tra caratteri. Dottorato in Metodologia della ricerca"

Renato Durante
5 anni fa
Visualizzazioni

1 Itoduzoe all aals d egessoe Dottoato Metodologa della ceca aa 8/9 Cala Rampch ampch@dsuft Test d femeto Cook R D e Wesbeg S (999) Appled Regesso Icludg Computg ad Gaphcs, Joh Wle ad Sos Geee W (3), Ecoometc Aalss, Uppe Saddle Rve (NJ), Petce Hall Motgome DC, Peck EA, Vg GG (), Itoducto to lea egesso aalss, 3 Ed, New Yok: Joh Wle & Sos Mooe D S e McCabe G, 999, Itoducto to the Pactce of Statstcs, 3d edto, New Yok: Feema Pccolo D, 998, Statstca, Bologa: Il Mulo Relazoe ta caatte Al vaae d X S, s osseva ua vaazoe sstematca della dstbuzoe d Y? 3 4 f X costate M(Y) 3 No vaazo lea ρ M(Y X) costate Modello d egessoe αε Y tedezalmete costate ε costate Y tedezalmete popozoale a X La elazoe ta e M(Y ) è stetzzata attaveso u modello paametco αε g(;θ)ε costate put tedezalmete alleat

2 Schema logco pe la costuzoe d u modello Teozzazoe feomeo Desczoe Pevsoe Smulazoe Idvduazoe vaabl esplcatve Fomulazoe o detfcazoe modello Uso de dat pe la stma del modello vefca modello Utlzzo del modello Esempo: eddto dspoble e cosum (Geee, ) ao eddto cosumo meda vaaza ds 8 86 covaaza ho X: eddto blo d $ (valuta 7) Y: cosum blo d $ (valuta 7) Modello d egessoe leae semplce Foma fuzoale α ε E(ε ),, Omoschedastctà: Va(ε )σ, costate Resdu coelat: cov(ε,ε j ) Regesso e eo coelat cov(,ε ) ε N(, σ ) Segue esempo cosumo/eddto Stma OLS a-6758 cosum pe eddto b979 pe og bloe pù d eddto, cosum cescoo d 98 blo cosum_geeesas

3 Scomposzoe della vaaza SSTSSRSSE ( ) ( ˆ ) e R SSR/SST dce d detemazoe R ρ [( ˆ )( )] R co( ˆ, ) ( ) ( ˆ ) Botà d adattameto TEST F F Aalss of Vaace SSR SS/DF Sum of Mea Souce DF Squaes Squae F Value P > F Model < Eo Coected Total SST SSE SSR /SST Root MSE 8933 R-Squae 997 Depedet Mea Adj R-Sq 997 Coeff Va 36 [,( N )] SSR / SSE /( N ) H :, H a : Popetà degl stmato OLS Teoema d Gauss-Makov Lo stmatoe OLS b è lo stmatoe leae e coetto a vaaza mma d Se εn(,σ ) b XN(,Va(b)) Popetà utle pe defe test e tevall d cofdeza Va( b) σ ( ) E( ) è ua fuzoe leae d, dove pe og la dstbuzoe d è cetata too a E( ) f() E( )

4 I caso d eteoschedastctà f( ) 3 E( ) Test e tevall d cofdeza Stma d σ Statstca pe l test H : ˆ σ s e t b SE Itevallo d cofdeza al lvello c pe b± t SE * b t( ) t* valoe d t d Studet co (-) gl: P(-t*<t<t*)c b segue esempo cosumo/eddto Paamete Estmates s Va( b) ( ) b t Paamete Stadad SEb t( ) Vaable Label DF Estmate Eo t Value P > t Itecept Itecept eddto eddto < Itevallo d cofdeza pe ab ˆ ± t* SE ˆ Regessoe multpla: matce d dat ID Y X X X j X p j p j p j p j p

5 Regessoe leae multpla Modello:,, p p ε j coeffcet d egessoe pazal cemeto d Y pe ua vaazoe utaa d j, quado le alte X soo costat Ipotes modello d egessoe leae multpla Modello: YXε E(ε) E(Y) X E(ε ε )σ I omoschedastctàcoelazoe E(ε X) cov(ε,x) X Matce p a peo ago ε MN(,σ I) Metodo d stma Mm quadat m ( ˆ ) (,, p p ) p ˆ ( X' X) X' Y ett lod Coeffcet d egessoe ε eg multpla b b ν c b γ eg semplce I geeale b e b, se, b coeffcet σ σ,,,, cov(, ) σ b σ σ, b, b

6 Coeffcete d coelazoe multpla R ( ˆ ), R ( ) Idca la % d vaabltà totale spegata dalla egessoe R adattameto pefetto R o c è elazoe leae tal caso mmzza ( ˆ ) ˆ Esempo: egessoe multpla goo X X X Y mgla pecose umeo d cosege tempo d pecoeza Come vaa l tempo goaleo d cosega? Matce d coelazoe Modello d egessoe leae semplce Yab e Idc uvaat Std Vaable Meda Vaaza Dev ƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒ ƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒƒ aˆ b ˆ 86 ˆ cov( X, Y ) b va( X ) ( )( ) ( ) 665

7 Idce d detemazoe leae R 598 Può essee calcolato come: -EQM/Va(Y): -9533/37 Popozoe d vaaza spegata: 48/37 ρ : (7733) Vaaza spegataσ(*-m()) 48/48 Eoe quadatco medo EQMΣ( - *) /N Σ( -a-b ) /N /9533 obs Y Y* e Y*86665 X e Y -Y * Valo stmat dal modello Modello d egessoe leae multpla Yα ε α 939 R Rspetto al modello leae: R è pù alto (7878 coto 598) EQM pù pccolo (53 coto 9533) EQM da egessoe multpla EQM/N Σ( - *) Σ( -a-b ) /N 5354 /53 Obs * e ey -Y * Y* X 7673 X Valo stmat

8 Idce d detemazoe leae R 7878 Può essee calcolato come: -EQM/Va(Y): -53/37 Popozoe d vaaza spegata: 8684/37 Coeffcet d egessoe total e pazal ε eg multpla b b ν I geeale b : eg semplce [R ] 5 (598) 5 coeff coelazoe pazale coeffcet ett σ σ,,,,, 846,787, 635 Vaaza spegataσ(*-m()) 8684/8684 lod cov(, ) σ b σ σ,, 7733 Toppe o poche vaabl? Cosa succede se cludamo el modello vaabl che o sevoo? No c è effetto sulle stme de paamete: stme OLS coette Cosa accade se escludamo delle vaabl levat? Le stme OLS saao dstote! Dstosoe pe omssoe d vaabl Il modello veo sa Ma o stmamo ε alloa s ha: ( ) ( ) ε

9 Dstosoe pe omssoe d vaabl () Il veo modello è qud l umeatoe dveta: u ε ε, Dstosoe pe omssoe d vaabl (3) ha valoe atteso s calcolado l, ) pochè E( E ε ε Dstosoe pe omssoe d vaabl (4) S cosde la egessoe d su δ δ δ δ E Dezoe della dstosoe (bas) Postva Negatva < Negatva Postva > ρ(, ) < ρ(, ) >

Dstosoe pe omssoe d vaabl: stes C soo due cas e qual la dstosoe è ulla:, ossa o è ua vaable levate e soo coelate el campoe Se la coelazoe ta, e, hao lo stesso sego, la dstosoe saà postva Se la

10 Dstosoe pe omssoe d vaabl: stes C soo due cas e qual la dstosoe è ulla:, ossa o è ua vaable levate e soo coelate el campoe Se la coelazoe ta, e, hao lo stesso sego, la dstosoe saà postva Se la coelazoe ta, e, hao sego opposto, la dstosoe saà egatva Il test t H : j H può essee udezoale o bdezoale La statstca test segue ua dstbuzoe t d Studet co (-k-) gl Alteatve udezoal posto l lvello d sgfcatvtà, α, cechamo l pecetle ( α) della dstbuzoe t co ( k ) gl e lo dchamo co c, valoe ctco S futa l potes ulla se la statstca t è maggoe del valoe ctco: t>c Se t <c o futamo l potes ulla Alteatve udezoal () k k ε H : j H : j > accettazoe ( α) c futo α

11 Alteatve bdezoal X k X k ε H : j H : j futo α/ accetto ( α) -c c futo α/ Test pe l esclusoe d o pù vaabl esplcatve Ipotes ulla H : k-q,, k Ipotes alteatva H : H falsa No possamo sottopoe a vefca questa potes co test t sepaat, pechè voglamo sapee se q paamet soo cogutamete sgfcatv Test pe l esclusoe d pù vaabl esplcatve () Pe fae questo test dobbamo stmae l modello vcolato seza k-q,,, k, e l modello o vcolato co tutte le Itutvamete, voglamo sapee se l cambameto d SSR è abbastaza gade pe cludee k-q,,, k F ( SSR SSRu ) q SSR ( k ) u dove dca l modello vcolato e u l modello o vcolato La statstca F La statstca F è sempepostva, pochè SSR dal modello vcolato o può ma essee pù pccola d SSR dal modello o vcolato la statstca F msua l cemeto elatvo d SSR quado s passa dal modello o vcolato a quello vcolato q umeo d vcol, o gl gl u k gl u

12 La statstca F () f(f) accettazoe ( α) c α futo H al lvello d sgfcatvtà α se F > c futo F La statstca F tem d R Rcodado che SSR SST( R ) s ha: F ( R ) u R q ( R ) ( k ) u Cofoto co modello ullo Caso specale H : k Pochè R del modello ullo (solo tecetta) è zeo, la statstca F èpaa F R k ( R ) ( k )

Documenti analoghi

Analisi di regressione con SAS. Ci interessa. Matrice di covarianza. Esempio: due test su 31 individui PROC CORR PROC GPLOT PROC REG

Analisi di regressione con SAS. Ci interessa. Matrice di covarianza. Esempio: due test su 31 individui PROC CORR PROC GPLOT PROC REG Esempo: due test su 3 dvdu Aals d regressoe co SAS PROC CORR PROC GPLOT PROC REG ttle 'Rsultato d test su 3 soggett'; data dat; fle V:\Ddat\Carla\regressoe\ta_.txt'; put d test test; proc prt; Rsultato