Relazione funzionale e statistica tra due variabili Modello di regressione lineare semplice Stima puntuale dei coefficienti di regressione

Transcript

1 1 La Regressone Lneare (Semplce) Relazone funzonale e statstca tra due varabl Modello d regressone lneare semplce Stma puntuale de coeffcent d regressone Decomposzone della varanza Coeffcente d determnazone Propretà degl stmator de coeffcent Propretà dello stmatore della rsposta meda Error standard Contenut del Captolo 16 del lbro d testo

2 Introduzone Dall anals ed nferenza rguardante una sngola varable statstca passamo alla relazone tra (due) varabl statstche. Le relazon tra varabl mportant nell anals della realtà economco-azendale possono essere matematcamente espresse come: Y=f(X) dove la funzone f può assumere vare forme, lnear o non lnear, e può non essere conoscuta n modo precso. Consderamo l caso pù semplce quello lneare: regressone lneare semplce

3 3 Esemp Il presdente d una dtta d materal da costruzone rtene che la Quanttà meda annua d pastrelle, Q, venduta sa una funzone (lneare) del Valore complessvo de permess edlz rlascat, V, nell anno passato: Q=f(V). Un grosssta d cereal vuole conoscere l effetto della produzone annua Complessva, C, sul prezzo d vendta a tonnellata, P: Q=f(P). L area marketng d un azenda ha necesstà d sapere come l prezzo della Benzna nfluenz la quanttà venduta: rcorrendo alla sere storca de prezz settmanal e de dat d vendta ntendono svluppare un modello (lneare) che ndch d quanto varano le vendte al varare del prezzo: Q=f(P).

4 4 Relazone funzonale e statstca Obettvo: Date due varabl, X e Y, s è nteressat a comprendere come la varable Y (dpendente o rsposta) sa nfluenzata dalla X (esplcatva o ndpendente). Y è funzone d X se ad ogn valore d X corrsponde un solo valore d Y. La relazone funzonale è lneare, se possamo scrvere: β 0 =ntercetta Y = β + β1x 0 β 1 =coeffcente angolare

5 5 Esempo Per dslocare n manera ottmale punt vendta, un azenda vuole stmare un modello lneare che prevede le vendte per nucleo famlare n funzone del reddto famlare dsponble sulla base de dat provenent da una ndagne camponara : anno Reddto (X) Vendte (Y) anno Reddto (X) Vendte (Y)

6 6 Il dagramma a dspersone ndca una relazone lneare; all aumentare del reddto dsponble aumentano le vendte: L anals della regressone fornsce l modello: Y= X

7 7 Il modello rassume le nformazon de dat camponar e non dmostra che un aumento del reddto determna un aumento delle vendte. La teora economca postula l esstenza d un legame causaeffetto, prelmnar rsultat precedent, possono fornre l evdenza emprca. In generale una buona anals statstca combnata alla teora e all esperenza può consentre d gungere a fondate concluson. Nell esempo, è noto dalla teora che la quanttà d ben acqustata n un certo mercato (Y) può essere modellzzata come funzone lneare del reddto dsponble (X): se l reddto dsponble è x la quanttà acqustata sarà y. Altr fattor tuttava nfluenzano le quanttà acqustate, alcun sconoscut (es. la dversa propensone al consumo delle famgle), altr dentfcabl qual l prezzo del bene, e quello de ben concorrent, etc.

8 8 Cò fa sì che: Nel modello lneare semplce gl effett d tutt fattor dvers dal reddto, per spegare la quanttà acqustata vengono sntetzzat n una componente d errore: ε. Per l generco valore sarà qund y=β 0 +β 1 x +ε ι Al varare del campone noltre avremo n corrspondenza d ogn dato valore x tutto un nseme d possbl valor (una dstrbuzone d valor) d Y

9 9 Pertanto s assume che n P per ogn valore d X, sa l valore medo d Y funzone lneare d X: Y=β 0 +β 1 x Il modello d regressone lneare fornsce l valore atteso della varable aleatora Y (v. dpendente o rsposta) quando X assume un partcolare valore; n base all potes d lneartà l espressone per l valore atteso può essere scrtta come: E(Y/X=x)=β 0 +β 1 x Il valore osservato d Y n corrspondenza ad un dato valore d X è nvece par al valore atteso (o meda d P) pù un errore aleatoro ε y =β 0 +β 1 x+ε La varable ε, errore aleatoro, rappresenta la varazone d Y non spegata dalla relazone lneare.

10 10 In sntes: negl stud emprc, la relazone tra Y e X non è ma funzonale (a un valore X corrspondono pù valor d Y). Una relazone statstca tra la Y e la X può essere descrtta da: f ( X ) ε Y = f ( X ) + ε defnsce l contrbuto della X rappresenta l contrbuto d tutt fattor non osservat ( ) f ε X è una componente determnstca è una componente stocastca Y è una varable casuale.

11 11 Modello d regressone lneare semplce Introducendo opportune assunzon s ottene l modello d regressone lneare semplce. Assunzone 1: Y = 0 + β1x β + ε per ogn osservazone =1, n Assunzone : Assunzone 3: ε Le sono varabl casual ndpendent con valore atteso E( ε ) = 0 e varanza costante per ogn =1,,n V ( ε ) = σ x I valor della varable esplcatva X sono not senza errore

12 1 Modello d regressone lneare semplce Assunzone 1: mplca che la funzone f(x) è lneare. Assunzone : mplca che per ogn valore fssato d X, la Y possede sempre lo stesso grado d varabltà (potes d omoschedastctà). Inoltre, poché la ε è una varable casuale, anche Y è una varable casuale. y Pertanto, le osservazon sono realzzazon d varabl casual ndpendent con valore atteso con varanza V E( Y X = x ) = β 0 + β1x ( Y X x ) = σ =

13 13 13 Stma puntuale de coeffcent d regressone = ˆ β + ˆ Indcheremo con: ŷ 0 β1x l valore d Y fornto dalla retta stmata dove βˆ0 e βˆ1 sono le stme de coeffcent d regressone. Metodo d stma Metodo de mnm quadrat Consste nel rcercare le stme d 0 e, che rendono mnma la funzone d perdta: G n β β 1 ( β, β ) = ( β ) 0 1 y 0 β1x = 1

14 14 14 Stma puntuale de coeffcent d regressone Chameremo resduo -esmo la dfferenza tra l valore osservato y e quello fornto dalla retta stmata, ŷ ê = y ŷ

15 15 15 Stma puntuale de coeffcent d regressone Procedmento: 1) Porre ugual a zero le dervate prme rspetto a parametr ( β, β ) G 0 β0 G 0 β 1 1 ( β, β ) 1 = 0 = 0 ) Rsolvendo l sstema s ottengono le stme de mnm quadrat de coeffcent d regressone βˆ σ = = X Y 1 σ X n = 1 ( x x )( y y ) n = 1 ( x x ) ˆ β = y ˆ β 0 1 x

16 16 Decomposzone della varanza Le stme de mnm quadrat possedono un mportante propretà, nota come decomposzone della varanza totale: n ( y y ) = ( ŷ y ) + = 1 = 1 Somma totale de quadrat (SQT) Somma de quadrat della regressone (SQR) Somma de quadrat degl error (SQE) n n = 1 ê SQT SQR SQE ( y y ) = n y = 1 = n ( ŷ y ) = 1 = n ê = 1

17 17 Decomposzone della varanza SQR=0 SQR=SQT SQE=SQT e valor stmat sono tutt ugual alla meda camponara SQE=0 e tutt valor stmat sono ugual a quell osservat. y

18 18 Coeffcente d determnazone Dalla relazone SQT=SQR+SQE s può defnre un ndce che msura la bontà d adattamento della retta d regressone. Il rapporto R XY SQR = = 1 SQT SQE SQT è detto coeffcente d determnazone e ndca la proporzone d varabltà d Y spegata dalla varable esplcatva X, attraverso l modello d regressone.

19 19 Coeffcente d determnazone S può dmostrare che l coeffcente d determnazone corrsponde al quadrato del coeffcente d correlazone lneare: R XY = ( ρ ) XY σ XY = σ XσY

20 0 Modello d regressone lneare - esempo Su un campone d 0 aree ammnstratve s osserva l reddto pro-capte nel 1989 (X) e 1999 (Y). Area X:1989 Y: ,8 63,0 7,9 33,4 3 36,6 4,0 4 54, 7,8 5 41,9 5,0 6 44,4 54,0 7 54,3 63,4 8 4,3 60,7 9 48, 58, ,5 54, , 55,5 1 56,3 74, ,3 79, 14 46,8 53,1 S potzza l seguente modello: Y = 0 + β1x β + ε 15 45, 59, ,7 5, ,3 47, 18 39,5 48, ,9 41,4 0 5,6 66,9

21 1 Modello d regressone lneare - esempo S ottengono le seguente stme de coeffcent del modello: ˆ β 1 = 1, 55 ˆ β0 = 0, 595 ossa la retta d regressone: ŷ = 0, , 55 x Il coeffcente d correlazone è ρ XY = 0,956 SQT=497,6 da cu: ( 0, 956) 0, 914 R XY = = ossa crca l 91% della varabltà totale d Y è spegata dal modello d regressone.

22 Propretà degl stmator de coeffcent Propretà degl stmator de mnm quadrat 1. B e sono stmator corrett d e 0 B1 β0 β1. Nella classe degl stmator corrett d β e che sono 0 β funzon lnear delle, gl stmator de mnm 1 Y quadrat sono pù effcent. (Gauss-Markov) 3. La varanza e covaranza degl stmator de mnm quadrat sono: V ( B ) Cov 1 = ( B,B ) σ ( x ) n = 1 x 0 1 = σ V x ( B ) 0 ( x ) n = 1 x 1 x = σ + n n = 1 x ( ) x

23 3 3 Propretà dello stmatore della rsposta meda Per lo stmatore della rsposta meda propretà: Ŷ valgono le seguent Ŷ ( Ŷ ) x 1. Lo stmatore è corretto, ossa E = β 0 + β1. La varanza è: ( ) ( ) 1 x x V Ŷ = σ + n n h = 1 x h x ( ) Una msura della varabltà degl stmator de coeffcent d regressone e della rsposta meda è data dagl error standard, ossa le radc quadrate delle varanze: σ ( B ) = V ( ) ( B ) = V ( ) 0 B 0 σ σ ( Ŷ ) = V ( ) 1 B 1 Ŷ

24 4 4 Errore standard Ora sebbene l metodo M.Q. ndvua la retta che mnmzza la dfferenza tra valor osservat e quell prevst, questa non conduce quas ma a prevson scevre da error. E qund necessara una statstca camponara che msur la varabltà degl scostament de valor osservat da prevst. Inoltre, gl error standard dpendono dalla quanttà gnota: σ = V = ( Y ) V ( ε ) pertanto la s sosttusce con una sua stma stmator s ( B ) ( ) 0 s( B 1 ) s Ŷ s ottenendo gl Lo stmatore che s utlzza per ottenere la stma della varanza è dato da: n = 1ê s = n La radce quadrata è una msura della varabltà degl scostament de valor osservat da quell prevst dal modello e vene chamato errore standard della stma (d regressone).