Oltre la regressione lineare

Dimensione: px

Iniziare la visualizzazioe della pagina:

Download "Oltre la regressione lineare"

Concetta Capone
5 anni fa
Visualizzazioni

1 Oltre la regressone lneare Modello d regressone lneare (semplce o multpla: - varabl esplcatve X quanttatve e qualtatve (nserte tramte uso d varabl dummy - varable dpendente Y è quanttatva Y = b + b X + b X e 1 K k=1 k 2 2 Y = åb X + e k 3 3 E ( e = 0 E( X1 Y,... X K å = bk Xk stme a mnm quadrat (OLS stme corrette bˆk nessuna restrzone su X k (tranne multcollneartà e su b k e e R R+ I 0/1 anche Y ÎR 132

2 Oltre la regressone lneare: Y non quanttatva 0 ma Y può assumere solo 2 valor 1 o poch valor (y su scala dcotomca o poltomca - comportamento del clente n anals d mercato rspetto alla scelta d acqusto/non acqusto d un prodotto n funzone d caratterstche del prodotto e/o del consumatore - caratterstche mprese per anals su rscho nsolvenza e/o fallmento ancora possble utlzzare l modello d regressone lneare? 133

3 Modello d probabltà lneare Varable dpendente dcotomca: Y = 0,1 E ( Y 1 Y = Y = 0 = = 1 Y = 1 E( Y = 1 Y = 1 = åbk Xk modello d probabltà lneare nterpretable come la probabltà d Y = 1 ( 0 P 1 Se Y assume 2 valor: anche due valor e åb X + e Þ e = -å Y = 0 0 = k k bk Xk åb X + e Þ e = - å Y = 1 1 = k k 1 bk Xk assunzon sull errore e : E ( = 0 e 2 = 2 E( e s " N.b.: probabltà vara n [0,1], mentre la funzone lneare a destra può assumere valor nell ntervallo (-, + come saranno n questo caso? 134

4 Y = 0 Þ e bk Xk Y 1 Þ e = 1- åb = -å = k Xk å - å [- b X ] + Y = 1 [ b X ] E( e = Y = 0 k k 1 k k da: å E( Y = 1 Y = 1 = bk Xk P ( Y = 1 = åbk Xk Y 0 = 1- Y = 1 = {- [ 1- Y = 1 ] Y = 1 } + Y = 1 [ 1- Y = 1 ] 0 E ( e = = stme mnm quadrat bˆk non dstorte 135

5 E( e [ ] 2 [ ] 2 2 = Y = 0 - åbk X k + Y = åbk X k = 1 - Y = 1 Y = Y = 1 1- Y = 1 [ ][ ] [ ] 2 [ - Y = 1 ][ Y = Y 1 ] = Y = 1 1 = [ - Y 1 ] = Y = 1 1 = 2 åb X - å ( ( E( e 1 = k k bk Xk dpendono da valor d X k eteroschedastctà 136

6 stme d b k non pù a mnma varanza stme d S bk non corretta test non pù vald Possbl soluzon: mnm quadrat a due stad con pes che cercano d rportare l omoschedastctà molto problematche poggano sempre su å E( Y = 1 Y = 1 = bk Xk 137

7 Assunzone d lneartà 1. vncol su parametr b k (effetto delle esplcatve non consderat nella procedura a mnm quadrat 0 Y = 1 1 b + b X b + b X (1 0 1 ( n 2. effetto delle esplcatve è costante al varare d X specfcazone pù realstca: Y =1 funzone non lneare d X 138

8 Assunzone d lneartà non corretta E(y= X E(y= X E(y= X 139

9 Assunzone d lneartà non corretta 1. mnm quadrat (anche a pù stad segno corretto 2. assunzon su E(e non pù vald (E( Y X å b k X = k nferenza non valda 3. stme molto sensbl a valor che s ncludono nel campone 4. valor estrem a [0,1] 5. soluzon buone per mglorare stme a mnm quadrat possono avere effett dsastros se Y = 0,1 140

Modello d regressone logstca Probabltà Y = 1 è assunta par al valore della funzone d rpartzone d una varable casuale logstca calcolata n corrspondenza d x a+ bx e

10 Modello d regressone logstca Probabltà Y = 1 è assunta par al valore della funzone d rpartzone d una varable casuale logstca calcolata n corrspondenza d x a+ bx e p( x = Y = 1 X = x = + e a+ bx 1+ e La funzone d rpartzone logstca è una funzone crescente d X che assume valor nell ntervallo [0,1] e assume la seguente forma 141

11 Modello d regressone logstca con pù varabl X b1x1+ b2x bkxk e p( x = PY ( = 1 X2 = x2,..., Xk = xk, = + e b1x1+ b2x bkxk 1+ e (come nel modello d regressone lneare multpla - la varable X 1 assume valore 1 Modello unvarato che multvarato: - la funzone che lega la probabltà d successo alle varabl esplcatve è non lneare ne parametr Essa può tuttava essere lnearzzata attraverso un opportuna trasformazone 142

12 Modello d regressone logstca e trasformazone logt probabltà d Y=0 = 1- Y = p ( x = PY ( = 0 X 2 = x2,..., X p = xp, = b x + b x + + bkxk e rapporto tra le due probabltà (odds è: p ( x b1x1+ b2x bkxk = e 1 -p ( x logartmo naturale per due membr: trasformazone logt (funzone lneare ne parametr β 1,, β k æ p ( x ö logt [ p( x ] = log ç = b1 1+ b b 1 -p ( x x kx è x ø β j rappresenta la varazone su logt[π(x] n corrspondenza d k un ncremento untaro della varable X j 143

13 Logt e odds logt della probabltà d un dato evento: logartmo naturale del rapporto tra probabltà d successo e probabltà d nsuccesso dell evento (probabltà evento complementare rapporto anche noto come odds a favore del successo o anche: odds corrsponde al rapporto fra l numero d volte n cu l'evento s verfca (o s è verfcato ed l numero d volte n cu l'evento non s verfca (o non s è verfcato 144

14 Coeffcent modello d regressone logstca e odds β j rappresenta la varazone su logt[π(x] n corrspondenza d un ncremento untaro della varable X j Analogamente ncremento varable X j s rflette, nel modello logstco, n funzone degl odds consderando l rapporto tra odds o odds rato (OR: b1x bjxjb bkxk bjxjb odds éëp ( x X jb ùû e e b ( x -x OR( j = = = = e = e b1x bjxja bkxk bjxja odds éëp ( x X jaùû e e Effetto d una varazon untara d X j su Y= 1 è par a exp(β j (x jb = x ja + 1 b j jb ja j 145

15 Interpretazone coeffcent 1. Se X j non nfluenza la probabltà che la varable rsposta Y assuma valore 1: OR = 1, β j = 0 2. Se X j nfluenza postvamente (aumenta la probabltà che la varable rsposta Y assuma valore 1: OR > 1, β j > 0 3. Se X j nfluenza negatvamente (rduce la probabltà che la varable rsposta Y assuma valore 1: 0 < OR < 1, β j < 0 146

16 Assunzon per stma e nferenza 1. { 0,1} = 1 n Y Î,..., 2. Y = 1 X exp( = 1+ exp( å å bk Xk b X k k logt 3. Y 1, Y2,... Yn statstcamente ndpendent 4. X k non esste perfetta o quas perfetta multcollneartà tra d loro 147

17 Stme d massma verosmglanza p = Y = 1 Xk 1- p = Y = 0 Xk Y X k = Õ = 1 p y (1 - p y 1-1- y probabltà d osservare l rsultato Y (dstrbuzone Bnomale d meda p Y X p (1 - p = L (Y X, b = n y bˆ che massmzza = L (Y X, b probabltà (verosmglanza d osservare quel partcolare campone d valor Y dat gl X k funzone d verosmglanza algortm teratv ( metodo Newton - Raphson e metodo scorng dsponbl ne pù comun software statstc 148 TIS _III

18 Propretà stmator MLE e nferenza /1 per grand campon crca come OLS (correttezza, effcenza, normaltà a. sgnfcatvtà de coeffcent bˆk : bˆ k > 2 bˆ k ± t n-k, SE( bˆ k SE( bˆ ( a k b. test basato sul rapporto delle funzon d verosmglanza - 2(log L log L1 ~ c k-1 (log L 0 verosmglanza quando tutt coeffcent sono par a 0 (tranne ntercetta (log L 1 verosmglanza per l modello completo 149

19 Inferenza /2 c. sgnfcatvtà d nsem d coeffcent: - 2 2(log L2 - log L1 ~ c g g numero d coeffcent par a 0 L 1 L 2 modello completo modello n cu alcune varabl (e qund relatv coeffcent sono assunt non nfluent d. bontà dell adattamento proporzone d cas correttamente classfcat generalzzazone del coeffcente d determnazone multplo (Cox e Snell, 1989 Modello 2 con sola 2 él(0 ùn 2 0 < < [ ] 2 n costante Rg, MAX = 1 - L(0 R g = 1- ê ( ú ël β û 150

20 Esempo: probabltà d acqusto d un prodotto Obettvo: stma della probabltà d acqusto d uno snack almentare tra govan n funzone d caratterstche (varabl esplcatve de consumator Dat osservat su 32 (n govan d età [12, 29] ann Varable rsposta Acqusto Y = 1 se rspondente dchara d avere acqustato almeno uno snack nel corso dell ultmo mese e Y = 0 altrment Varabl esplcatve: numero medo mensle d snack consumat (calcolato sulla base degl acqust effettuat negl ultm se mes età del rspondente esposzone alla pubblctà relatva al prodotto (dummy 151

sgnfcatvamente dvers da zero eccetto quello relatvo alla varable età

21 Rsultat stma modello regressone logstca probabltà d acqusto snack Il modello rsulta globalmente sgnfcatvo (p-value <0,01 Tutt parametr sono sgnfcatvamente dvers da zero eccetto quello relatvo alla varable età (p-value >0,10-2log(L 3 = Interpretazone n termn d OR! exp(2.83 = 16.9 exp(2.38 =

22 Confronto tra modell -2log(L 2 = Dfferenza G = 0,47 (= 26,25-25,78 s dstrbusce come un Ch-Quadrato con un grado d lbertà (dfferenza varabl tra L 3 e L 2 Verfca potes H 0 : β età = 0 p-value = 0,49 l modello rdotto (2 varabl rsulta qund mglore d quello completo (3 varabl 153

Documenti analoghi

Contenuti: o Specificazione del modello. o Ipotesi del modello classico. o Stima dei parametri. Regressione semplice Roberta Siciliano 2

Contenuti: o Specificazione del modello. o Ipotesi del modello classico. o Stima dei parametri. Regressione semplice Roberta Siciliano 2 Corso d STATISTICA Prof. Roberta Sclano Ordnaro d Statstca, Unverstà d Napol Federco II Professore supplente, Unverstà della Baslcata a.a. 0/0 Contenut: o Specfcazone del modello o Ipotes del modello classco