Contenuti: o Specificazione del modello. o Ipotesi del modello classico. o Stima dei parametri. Regressione semplice Roberta Siciliano 2

Transcript

1 Corso d STATISTICA Prof. Roberta Sclano Ordnaro d Statstca, Unverstà d Napol Federco II Professore supplente, Unverstà della Baslcata a.a. 0/0 Contenut: o Specfcazone del modello o Ipotes del modello classco o Stma de parametr Regressone semplce Roberta Sclano

2 Il modello Scopo dell anals d regressone lneare è d formalzzare un modello che esprma l legame lneare esstente n meda tra la varable Y (varable dpendente) ed una varable esplcatva X: Y β + β X + Intercetta della retta d regressone u coeffcente angolare della retta è la componente stocastca che rassume l non spegato teorcamente come le eventual varabl omesse o gl error d msurazone Il modello Classco d Regressone Lneare Semplce Il modello è detto: semplce poché consdera la relazone tra due sole varabl; classco poché le potes su cu s basa per la stma de parametr sono dette classche; d regressone poché con esso s ntende stmare o predre l valor medo della varable dpendente sulla base d valor prefssat della varable esplcatva, per cu s dce che la varable dpendente regredsce verso la meda al varare de valor della varable esplcatva; Il termne lneare è nvece rferto a parametr ndpendentemente dalle varabl che possono essere opportunamente trasformate

3 Le potes classche del modello ) Il valore atteso d cascuna v.c. errore è uguale a zero E( u ) 0 E( y ) E( E( Y x )) + E( u ) β + βx non c è errore sstematco. Un eventuale errore sstematco verrebbe ncorporato nell'ntercetta del modello; ) La varanza dell errore è costante: var( u var(y ) ) σ σ, c'è omoschedastctà degl error. 3) La covaranza degl error è uguale a zero: cov( u,u j ) E(u u j ) E(u )E(u j ) 0, j per cu gl error sono ncorrelat, ma non necessaramente ndpendent 4) La varable esplcatva X non è aleatora, ovvero non è correlata con l errore cov( x,u ) 0, Per cu s ntende che l campone sa stato estratto dalle dstrbuzon condzonate d Y dat lvell della varable X; 5) Il modello è correttamente specfcato, ovvero la relazone lneare tra le varabl è correttamente formalzzata nel modello. 6) La varanza d X, supposta dversa da zero, non deve essere eccessvamente elevata altrment un anals lneare condurrebbe a soluzon non nformatve. 3

4 Stma de Parametr La Stma de Parametr Il modello d regressone lneare semplce Y X + può essere rferto β +β u alla popolazone d N untà. Generalmente, s dspone d un campone d n coppe d osservazon (x,y ) con le qual possamo stmare l modello ed ottenere: y ˆ ˆ ŷ + e β +β x + e ŷ β ˆ ˆ + β x e ŷ y Il resduo potrà nterpretars come stma degl error 4

5 Il Metodo de Mnm Quadrat La stma de parametr nel modello d regressone è ottenuta attraverso l metodo de mnm quadrat, ossa mnmzzando la somma de quadrat degl error. mn Q( β, β ) x y β x + β x y nβ +β x ( ) y x Cò s traduce nella rsoluzone d un sstema d equazon normal eguaglando a zero le dervate prme della funzone Q (.) rspetto a parametr: Infne, s ottene la stma de parametr: x y n x y Cod (X,Y) S xy βˆ x n x Dev(X) S x Sono la covaranza camponara tra X e Y e la varanza camponara della X. ˆ y βˆ x β Regressone semplce Roberta Sclano 0 5

6 Propretà del Metodo de Mnm Quadrat ) La retta stmata passa per l punto d coordnate ) ( y ) E( ŷ ),E(e ) 0, e 0 E x, y 3) e x 0 Per quanto rguarda le propretà degl stmator de mnm quadrat, s dmostra con l Teorema d Gauss- Markov che ess sono lnear, non dstort e con varanza mnma (Best Lnear Unbased Estmators). Per valutare la precsone degl stmator ed n partcolare per l nferenza su parametr del modello occorre conoscere la varanza degl stmator: Var ( βˆ ) σ + x n Dev(X) Var σ ( ˆ β ) Dev( X ) Se la varanza dell errore non è nota allora la sua stma corretta è data da: ˆ σ u e n 6

7 Contenut: o Bontà d adattamento o Test e anals della varanza o Prevsone Regressone semplce Roberta Sclano 3 La bontà d adattamento Lneare La bontà d adattamento lneare a dat s può valutare osservando e Q( ˆ β, ˆ β ) e Questo valore potrà varare da caso a caso dpendendo dall untà d msura del fenomeno, occorre defnre una msura standardzzata che consenta l confronto tra dvers modell. S è osservato che: ( y y) ( ŷ y) + Tanto mnore sarà questo valore tanto mglore sarà l adattamento della retta a punt è parte della seguente decomposzone della devanza totale d Y e Devanza totale Devanza d regressone Devanza de resdu 7

8 S potrà defnre l ndce d determnazone lneare per valutare la bontà d adattamento del modello lneare a dat osservat, consderando quanta parte della devanza totale è spegata dalla retta d regressone R ( R) ( ) Dev Dev Y Dev ( e) ( ) Dev Y È un ndce che vara da zero ad uno, esprmendo un buon grado d adattamento lneare qualora l suo valore è prossmo ad uno A fn nferenzal s assume che: Test su Parametr del Modello β ˆ ~N( β,var( βˆ )) β ˆ ~N β,var( β ˆ ) u ~N ( ) 0, σ S dmostra che questa assunzone mplca che: gl error s dstrbuscono normalmente ( ) gl stmator s dstrbuscono normalmente 8

9 S potrà qund fare rfermento alla normale standardzzata per la verfca delle potes. Dalla standardzzazone delle varabl ottenamo: Z β ˆ σ β ˆ Le varabl seguono la dstrbuzone normale standardzzata: e Z Z βˆ σ β ˆ ~ N Se la varanza degl error è nota. ( 0,) quando la varanza degl error non è nota occorre stmarla pervenendo a stme corrette della varanza degl stmator. S dmostra che le statstche camponare T β ˆ σˆ β ˆ e T β ˆ σˆ β ˆ s dstrbuscono come una t- Student con (n - ) grad d lbertà lo stmatore corretto della varanza dell errore è legata a l l a d s t r b u z o n e c h quadrato con (n ) grad d lbertà: ( n ) χ ˆ σ σ Regressone semplce Roberta Sclano 8 9