DATA MINING PER IL MARKETING (63 ore)

Transcript

1 DATA MINING PER IL MARKETING (63 ore) Marco Ra Sto web del corso REGRESSIONE INFERENZIALE 1

2 Itroduzoe agl elemet aleator N. dpedet (X) Vedte mlo d (Y) A 10 1,9 B 18 3,1 C 0 3, D 8 1,5 E 30 6, F 1,8 G 14,3 Prezz Euro (x) Vedte (Y) A B C D E F G H Itroduzoe agl elemet aleator Le vedte soo dovute parte a prezz e parte a fattor d atura aleatora e percò soo esse stesse delle v.c. Al cotraro I dpedet e/o prezz o soo v.c. poché soo del tutto prevedbl dalla compaga che l stablsce

3 Itroduzoe agl elemet aleator Ua successoe d valor fss x 1, x, x a cu soo assocate v.c. dpedet Y 1, Y, Y Il puto crucale cosste el descrvere modo approprato tal v.c. E(Y )? var(y )? Dstrbuzoe d Y? Assuzo su Y Tutte le osservazo soo caratterzzate dallo stesso grado d certezza var(y ) = σ =1,,, σ è u parametro cogto da stmare cov(y, Y j )=0 j 3

4 Assuzo su Y E(Y ) = µ =1,,, valor osservat della varabl dpedete provegoo da dstrbuzo d probabltà co mede cogte Ip. le mede delle dstrbuzo varao learmete co la varabl dpedete µ = E(Y ) = α+β x Assuzo su Y (cotua) Ip: µ = E(Y ) = α+β x Questa potes equvale ad affermare che put (x 1, µ 1 ), (x, µ ),, (x, µ ) stao tutt su ua retta co parametr α, β Oss: questa assuzoe o mplca che tutt put (x, y ) stao sulla retta ma che valor med delle dstrbuzo da cu put provegoo verfcao l equazoe della retta 4

5 Iterpretazoe d α e β I parametr α e β rappresetao l tercetta ed l coeff. agolare della retta sulla quale gaccoo le mede cogte delle dstrbuzo Y 1,, Y Iterpretazoe d α e β 5

6 Osservazoe Dato l modello d regressoe Y = α +β x +ε L p: µ = E(Y ) = α+β x equvale ad affermare che E(ε )=0 Stma de parametr I parametr da stmare soo α, β, µ 1, µ,, µ, σ La coosceza d α, β cosete d rcostrure tutte le mede cogte µ 1, µ,, µ 6

7 Stme d α e β Pesado d rpetere pù volte l espermeto che ha geerato le osservazo y 1,, y, per valor fss d x 1,, x s ottee ua dstrbuzoe campoara d valor ˆ Y x ˆ ˆ ( x x) Y ( x x) Stme d µ Coeff. d regressoe campoar e ella popolazoe y x y ˆ ˆ x e 7

8 Coeff. d regressoe campoar e ella popolazoe y x Y = vedte E( y ) x y ˆ ˆ x e e X = N. dpedet y x E( y ) ˆ ˆ x yˆ ˆ x ˆ Stma d σ σ = dspersoe vertcale attoro alla retta che usce valor med delle popolazo Dato che σ =E(ε ) Dato che e è ua stma d ε sembra aturale utlzzare come stmatore d σ la seguete espressoe s ( y ˆ ) e 8

9 Stma d σ Utlzzamo gl scostamet dalle mede delle popolazo s ( y ˆ ) e Stma d σ Excel defsce s come errore stadard ella stma d Y (se y el lguaggo d Excel) e s S può otteere drettamete tramte la fuzoe ERR.STD.YX. 9

10 Fuzoe regr.l Orde cu vegoo resttute le statstche aggutve d regressoe dalla fuzoe d Excel REGR.LIN Ip. aggutva Le dstrbuzo Y soo ormal y 1 è ua realzzazoe d Y 1 ~ N(µ 1, σ ) y è ua realzzazoe d Y ~ N(µ, σ ) y è ua realzzazoe d Y ~ N(µ, σ ) Y 1, Y,, Y soo dpedet 10

11 Rcham sulla v.c. ormale se Y ~N(µ, σ ) Z=(Y- µ)/ σ ~ N(0,1) Pr(-1.96 < Z <1.96) =0.95 ay+b ~ N(b+ µ, a σ ) Rcham sulla costruzoe degl t. d cofdeza ( ) Pr X E X var( ) X Pr X var( ) X Pr X 1.96 var( X ) X 1.96 var( X )

12 Obettvo Costrure tervall d cofdeza e test d verfca d potes sul coeff. agolare ˆ Studo della dstrbuzoe d ˆ ( x x) Y ( x x) ˆ y x y ˆ ˆ x e 1

13 Studo della dstrbuzoe d ˆ ( x x) Y ( x x) ˆ E( ˆ)? E( ˆ) var( ˆ)? var( ˆ) ( x) x Varaza d beta cappello ˆ) var( ˆ) var( 1 var ( x x) ( x x) Y ( x x) var 1 ( x x) Y ˆ) var( 1 1 ( x x) 1 var( x x) Y 13

14 Varaza d beta cappello ˆ) var( 1 1 ( x x) 1 var( x x) Y ˆ) var( 1 1 ( x x) 1 ( x x) vary var( ˆ) 1 1 ( x x) 1 ( x x) var( ˆ) 1 ( x x) Al posto d σ sosttuamo l suo stmatore s Stma(var( ˆ)) s ( ˆ) ( x x) La radce quadrata della stma della varaza d uo stmatore è l errore stadard (stadard error, SE) dello stmatore s s ˆ SE( ˆ) ( x x) 14

15 Iterpretazoe dello stadard error d beta cappello Rappreseta l errore quadratco medo che s commette quado s stma l coeffcete d regressoe co le formule de mm quadrat Fuzoe regr.l Lo stadard error d beta cappello è rportato ella zoa d output d regr.l all croco della secoda rga e prma coloa) 15

16 Studo della dstrbuzoe d ˆ ˆ Y x ˆ E( ˆ)? E( ˆ) var( ˆ)? 1 var( ˆ) x ( x x) Eserczo: ell esempo de 7 supermercat calcolare lo stadard error d beta cappello e alpha cappello s ˆ SE( ˆ) s Sol. ( x x) 0.05 s ˆ SE ˆ) s 1 x ( x x) (

17 Costruzoe d tervall d cofdeza de parametr Puto d parteza: lo scostameto stadardzzato d beta capello ha ua dstrbuzoe N(0,1) ˆ E( ˆ) Pr Z Z 1 var( ˆ) Se 1-γ=0.95 Pr( 1.96 ˆ E( ˆ) var( ˆ) 1.96)

18 Pr( 1.96 ˆ E( ˆ) var( ˆ) 1.96) 0.95 Pr1.96 ˆ ( x) x Problema: σ è goto (occorre sostture l suo stmatore s ) Studo della dstrbuzoe d s S può dmostrare che E(S )=σ e che 18

19 Sosttuedo al posto d σ l suo stmatore Pr1.96 ˆ ( x) x Costruzoe d u tervallo d cofdeza per l coeff. agolare Dove t γ è l quatle (percetle) assocato alla dstrbuzoe T d Studet co (-) grad d lbertà tale che (v. p. 44) 19

20 Costruzoe d tervall d cofdeza de parametr Eserczo: ell esempo de 7 supermercat costrure u tervallo d cofdeza al 95% per β ed terpretare rsultat otteut 0

21 Costruzoe d u tervallo d cofdeza al 95% per l coeff. agolare t 0.05 (5)= (=INV.T(0.05;5) (Oss: Pr.(T(5)>.5706)=0.05) Pr( <β< )=0.95 Pr(0.133<β< 0.63)=0.95 Iterpretazoe L'tervallo d cofdeza del coeffcete d regressoe, co probabltà uguale a 0.95, va da 0,133 a 0,63. Questo sgfca che ell'uverso d rfermeto, all'aumeto d u dpedete può corrspodere u aumeto delle vedte compreso tra 133 mla Euro e 63 mla Euro crca (co probabltà del 95%). Oss: l'tervallo è puttosto ampo e questo dpede dalla rdotta umerostà campoara (solo 7 supermercat). 1

22 Itervallo d cofdeza per l tercetta Costruzoe d u tervallo d cofdeza al 95% per l tercetta t 0.05 (5)= (=INV.T(0.05;5) (Oss: Pr.(T(5)>.5706)=0.05) Pr(-1.31<α< 0.96)=0.95

23 Costruzoe d u tervallo d cofdeza al 95% per σ Puto d parteza per trovare χ utlzzo =INV.CHI(0.05;5)=0.83 per trovare χ 0.05 utlzzo =INV.CHI(0.975;5)=1.83 Pr(0.08< σ < 1.30)=0.95 3

24 Costruzoe d test d potes per α β σ Dato che ˆ SE( ˆ) ~ t Sotto H 0 : β =0 ˆ ~ SE( ˆ) t 4

25 Fuzoe regr.l Orde cu vegoo resttute le statstche aggutve d regressoe dalla fuzoe d Excel REGR.LIN Calcolo delle statstche t co Excel e del relatvo p-value p value Fuzoe dstrb.t 5

26 Eserczo: ell esempo de 7 supermercat testare H 0 :β=0, trovare l relatvo p-value ed terpretare l rsultato del test t β =7.8 p-value = Iterpretazoe : rfuto decsamete l potes ulla Eserczo: ell esempo de 7 supermercat testare H 0 :α=0, trovare l relatvo p-value ed terpretare l rsultato del test t α =0.39 p-value = Iterpretazoe : o posso rfutare l potes ulla 6

27 Eserczo Calcolare Itervallo d cofdeza delle prevso co l metodo de mm quadrat 7

28 Strumet ecessar propedeutc Calcolo della var. dell errore d prevsoe 8

29 Calcolo della var. dell errore d prevsoe Bade d cofdeza dell errore d prevsoe (p. 55) 9

30 Costruzoe d u tervallo d cofdeza per y 0 Teedo presete che e e E( e0 ) ~ var( e ) 0 N 0 E( e0 ) ~ T( vâr( e ) 0 0 e ~ T( vâr( e0 ) 0 y yˆ 0 ~ T( vâr( e ) 0 0 (0,1) ) ) ) Costruzoe d u tervallo d cofdeza per y 0 y yˆ 0 ~ T( vâr( e ) 0 0 ) y ˆ 0 y0 Pr t t 1 vâr( e0 ) ved p

31 Eserczo: per u umero d dpedet par a 16 costrure u tervallo d prevsoe delle vedte al 95% Pr( y ) 0.95 Pr( 1.7 y0 4.8)