STATISTICA A K (63 ore) Richiami sulla regressione RETTA DI REGRESSIONE MODELLO DI REGRESSIONE. Marco Riani, Univ. di Parma 1

Transcript

1 STATISTICA A K 63 ore Rcham ulla regreoe Marco Ra mra@upr.t MODELLO DI REGRESSIONE y = a + b + e =,, dove: a + b rappreeta ua retta: a = ordata all orge tercetta b = coeff. agolare coeff. d regreoe e è u terme d errore accdetale RETTA DI REGRESSIONE yˆ a b =,, ŷ = valore teorco valore tmato d y fuzoe leare d =,, Redu e y yˆ Come calcolao parametr a e b? Vualzzazoe grafca de redu METODO DEI MINIMI QUADRATI e y yˆ m Le cogte oo parametr della retta yˆ a b Marco Ra, Uv. d Parma

2 = vedte Stema d equazo ormal e 0 e 0 b Formule per l calcolo d a e b y y a y b y y y a e b oo fuzo lear delle oervazo y ESEMPIO 7 upermercat N. dpedet X Fatturato mlo d A 0,9 B 8 3, C 0 3, D 8,5 E 30 6, F,8 G 4,3 Scatter co retta d regreoe X = N. dpedet Come varao le vedte fuzoe del umero d dpedet? Calcolo d a e b y y y A 0,9 00 3,6 9 B 8 3, 34 9,6 55,8 C 0 3, 400 0,4 64 D 8,5 E 30 6, F,8 G 4,3 Tot. 8 77,8 40,6 y y a.8 40,6 403, a ,7 Calcolo d a e b y y y A 0,9 00 3,6 9 B 8 3, 34 9,6 55,8 C 0 3, 400 0,4 64 D 8,5 E 30 6, F,8 G 4,3 Tot. 8 77,8 40,6 b y 740,6 466, b y 0,98 Marco Ra, Uv. d Parma

3 Redu BONTA DI ADATTAMENTO Retta d regreoe: DEVIANZA TOTALE yˆ a b DEV y M y DEVIANZA DI REGRESSIONE DEVIANZA RESIDUA DEV E y yˆ e DEV ˆ yˆ M y Idce d determazoe leare R = DEV ˆ DEV E DEV DEV e y yˆ 0 =0 e yˆ M y Grafco de redu N. dpedet Modello oddfacete: dtrbuzoe cauale de redu compoete erratca ESTRAPOLAZIONE S teta d valutare maera attedble l valore che aumerà la varable dpedete corrpodeza d u valore oto della varable eplcatva. CONDIZIONI Valdtà della retta d regreoe promo ad valore oto della varable eplcatva o lotao da valor utlzzat el calcolo della retta Itroduzoe agl elemet aleator Regreoe ferezale Itroduzoe agl elemet aleator N. dpedet X Vedte mlo d A 0,9 B 8 3, C 0 3, D 8,5 E 30 6, F,8 G 4,3 Prezz Euro Vedte A B C D E F G H Marco Ra, Uv. d Parma 3

4 Itroduzoe agl elemet aleator Le vedte oo dovute parte a prezz e parte a fattor d atura aleatora e percò oo ee tee delle v.c. Al cotraro dpedet e/o prezz o oo v.c. poché oo del tutto prevedbl dalla compaga che l tablce Itroduzoe agl elemet aleator Ua ucceoe d valor f,, a cu oo aocate v.c. dpedet,, Il puto crucale cote el decrvere modo approprato tal v.c. E? var? Dtrbuzoe d? Auzo u Tutte le oervazo oo caratterzzate dallo teo grado d certezza var = σ =,,, σ è u parametro cogto da tmare cov, j =0 j Auzo u E = µ =,,, valor oervat della varabl dpedete provegoo da dtrbuzo d probabltà co mede cogte Ip. le mede delle dtrbuzo varao learmete co la varabl dpedete µ = E = α+β Auzo u cotua Iterpretazoe d α e β Ip: µ = E = α+β Queta pote equvale ad affermare che put, µ,, µ,,, µ tao tutt u ua retta co parametr α, β O: queta auzoe o mplca che tutt put, y tao ulla retta ma che valor med delle dtrbuzo da cu put provegoo verfcao l equazoe della retta I parametr α e β rappreetao l tercetta ed l coeff. agolare della retta ulla quale gaccoo le mede cogte delle dtrbuzo,, Marco Ra, Uv. d Parma 4

5 Iterpretazoe d α e β Oervazoe ulla otazoe E 3 =α+β 3 E =α+β E =α+β I quete lde utlzzamo la otazoe α per dcare l tercetta ella popolazoe β per dcare la pedeza ella popolazoe ˆ per dcare lo tmatore e la tma d α ˆ per dcare lo tmatore e la tma d β Notazoe utlzzata el teto Nel teto ua la otazoe β 0 per dcare l tercetta ella popolazoe B 0 per dcare lo tmatore dell tercetta e b 0 per dcare la tma dell tercetta Nel teto ua la otazoe β per dcare la pedeza ella popolazoe B per dcare lo tmatore della pedeza e b per dcare la tma della pedeza Oervazoe Dato l modello d regreoe = α +β +ε L p: µ = E = α+β equvale ad affermare che Eε =0 Stma de parametr I parametr da tmare oo α, β, µ, µ,, µ, σ La cooceza d α, β coete d rcotrure tutte le mede cogte µ, µ,, µ µ = E = α+β = α +β +ε µ = E = α+β var = σ cov, j =0 varε =? varε = σ covε, ε j =? Replogo pote Dato che var+k=var co k cotate covε, ε j =0 Dato che cov +k, j +c= cov, j co k e c cotat Marco Ra, Uv. d Parma 5

6 = vedte Stme d α e β Peado d rpetere pù volte l epermeto che ha geerato le oervazo y,, y, per valor f d,, ottee ua dtrbuzoe campoara d valor ˆ ˆ ˆ Coeff. d regreoe campoar e ella popolazoe y y ˆ ˆ e Coeff. d regreoe campoar e ella popolazoe y ˆ ˆ e y E y e X = N. dpedet y E y ˆ ˆ yˆ ˆ ˆ Stma d σ var =varε =σ = dperoe vertcale attoro alla retta che uce valor med delle popolazo Dato che σ =Eε -[Eε ] = Eε Dato che e è ua tma d ε embra aturale utlzzare come tmatore d σ la eguete epreoe ˆ y e E Stma d σ = errore tadard ella tma d e Ip. aggutva Le dtrbuzo oo ormal y è ua realzzazoe d ~ Nµ, σ y è ua realzzazoe d ~ Nµ, σ y è ua realzzazoe d ~ Nµ, σ,,, oo dpedet Marco Ra, Uv. d Parma 6

7 Marco Ra, Uv. d Parma 7 Obettvo Cotrure tervall d cofdeza e tet d verfca d pote ul coeff. agolare ˆ Studo della dtrbuzoe d ˆ ˆ y e y ˆ ˆ Studo della dtrbuzoe d ˆ ˆ? ˆ E ˆ E? ˆ var ˆ var Varaza d beta cappello var ˆ var var ˆ var var ˆ var Varaza d beta cappello var ˆ var var ˆ var ˆ var ˆ var Al poto d σ ottuamo l uo tmatore ˆ ˆ var Stma La radce quadrata della tma della varaza d uo tmatore è l errore tadard tadard error, SE dello tmatore ˆ ˆ SE

8 Iterpretazoe dello tadard error d beta cappello Rappreeta l errore quadratco medo che commette quado tma l coeffcete d regreoe co le formule de mm quadrat Studo della dtrbuzoe d ˆ ˆ ˆ E ˆ? E ˆ var ˆ? var ˆ Eerczo: ell eempo de 7 upermercat calcolare lo tadard error d beta cappello e alpha cappello ˆ SE ˆ Sol Cotruzoe d tervall d cofdeza de parametr ˆ SE ˆ 0.44 Puto d parteza ˆ beta cappello è fuzoe leare d v.c. Normal e qud è dtrbuto maera ormale Lo cotameto tadardzzato d beta capello ha ua dtrbuzoe N0, ˆ E ˆ Pr Z / Z / var ˆ Se l lvello d cofdeza -α=0.95 ˆ E ˆ Pr var ˆ Marco Ra, Uv. d Parma 8

9 ˆ E ˆ Pr var ˆ Pr.96 ˆ Problema: σ è goto occorre otture l uo tmatore Sottuedo al poto d σ l uo tmatore ˆ P t / ˆ ~ N0, t / ˆ ~ T ˆ P t / t / SE ˆ P Cotruzoe d u tervallo d cofdeza per l coeff. agolare ˆ t / SE ˆ ˆ t / ˆ SE Cotruzoe d tervall d cofdeza de parametr Dove tα/ è valore crtco aocato alla dtrbuzoe T d tudet co - grad d lbertà T- tale che F-tα/= PT<-tα/=α/ Eerczo: ell eempo de 7 upermercat cotrure u tervallo d cofdeza al 95% per β ed terpretare rultat otteut ESEMPIO 7 upermercat N. dpedet X Fatturato mlo d A 0,9 B 8 3, C 0 3, D 8,5 E 30 6, F,8 G 4,3.8 40,6 403, ˆ 0, ˆ 740,6 466, ,98 Marco Ra, Uv. d Parma 9

10 Cotruzoe d u tervallo d cofdeza al 95% per l coeff. agolare P ˆ t / SE ˆ ˆ t / SE ˆ Cotruzoe d u tervallo d cofdeza al 95% per l coeff. agolare P ˆ t / SE ˆ ˆ t / SE ˆ ˆ 0,98 ˆ SE ˆ t0.05= =INV.T0.05;5 O: Pr.T>.5706= Pr <β< =0.95 Pr0.33<β< 0.63=0.95 Iterpretazoe L'tervallo d cofdeza del coeffcete d regreoe, co probabltà uguale a 0.95, va da 0,33 a 0,63. Queto gfca che ell'uvero d rfermeto, all'aumeto d u dpedete può corrpodere u aumeto delle vedte compreo tra 33 mla Euro e 63 mla Euro crca co probabltà del 95%. O: l'tervallo è puttoto ampo e queto dpede dalla rdotta umerotà campoara olo 7 upermercat. Itervallo d cofdeza per l tercetta P Cotruzoe d u tervallo d cofdeza al 95% per l tercetta ˆ.57SE ˆ ˆ.57SE ˆ t0.05= =INV.T0.05;5 O: Pr.T>.5706=0.05 Cotruzoe d tet d pote per α β σ Pr.3<α< 0.96=0.95 Marco Ra, Uv. d Parma 0

11 ˆ Dato che ˆ ~ T SE ˆ Sotto H 0 : β =0 ˆ ~ T SE ˆ SE ˆ 0.05 Eerczo: ell eempo de 7 upermercat tetare H 0 :β=0 H :β 0, trovare l relatvo p- value ed terpretare l rultato del tet t β =0.98/0.0534=7.8 p-value <0.00 dalle tavole DISTRIB.T7.8;5;= Iterpretazoe : rfuto decamete l pote ulla Eerczo: ell eempo de 7 upermercat tetare H 0 :α=0, H : α 0, trovare l relatvo p- value ed terpretare l rultato del tet Fuzoe regr.l Orde cu vegoo rettute le tattche aggutve d regreoe dalla fuzoe d Ecel REGR.LIN t α =0.39 p-value = >0. dalle tavole DISTRIB.T0.39;5;=0.74 Iterpretazoe : o poo rfutare l pote ulla b Approcco B ferezale al δ coeffcete d determazoe leare DEV ˆ DEV E DEV DEV zb H 0 : δ=0 o v è alcua relazoe tra X e Le quattà eceare per l calcolo della tattca F oo rportate ella Tabella d aal della varaza La tattca tet da utlzzare è la eguete: Nel modello d regreoe leare emplce ˆ F SE ˆ v. p. 4 Marco Ra, Uv. d Parma

12 Tutt precedet calcol oo tat mplemetat Ecel Paga Idrzzo del fle da carcare Domade frequet Qual è l modo pù effcete co la calcolatrce d calcolare lo tadard error d beta cappello ella regreoe ˆ SE ˆ eza paare attravero l calcolo de gol redu e della omma de quadrat de redu? SE beta cappello co calcolatrce Co rfermeto all eempo de upermercat R = δ = =7 Dato che la calcolatrce rporta l valore d R=δ è facle otteere mmedatamete l valore d F. Ua volta otteuto l valore d F lo.e. calcola come egue F = 5*0.944/ = Beta cappello = 0.98 SEbeta cappello = / = crca Dettagl matematc Marco Ra, Uv. d Parma