Modello logistico (Modello di regressione logistica)

Transcript

1 Modello logstco (Modello d regressone logstca) Prof. Guseppe Verlato Prof. Elsabetta Zanoln Sezone d Epdemologa e Statstca Medca, Dpartmento d Santà Pubblca e Medcna d Comuntà, Unverstà degl Stud d Verona E per le varabl qualtatve NOMINALI? 2 VARIABILI (entrambe qualtatve): test del ch-quadrato, test esatto d Fscher 3 VARIABILI qualtatve (2 var. + var. d stratfcazone): test d Mantel-Haenszel MOLTE VARIABILI: y dcotomca (malato/sano) modello LOGISTICO y poltomca (fumatore, ex-fumatore, ma-fumatore) modello MULTINOMIALE

2 MODELLO DI REGRESSIONE LOGISTICA 9 / (9+32) 0 / (0+9) / (+52) 6 / (6+97) prevalenze MODELLO LOG-LINEARE contegg MODELLO DI POISSON 9 / 50 persone-anno 0 / 90 persone-anno / 630 persone-anno 6 / 03 persone-anno ncdenze

3 Dat relatv a 00 soggett sulla presenza delle malatte schemche (CHD) ID AGRP AGE CHD ID AGRP AGE CHD ID AGRP AGE CHD ID AGRP AGE CHD CHD=0 malatta assente CHD= malatta presente,2 0,8 Presenza d CHD n base all'età CHD 0,6 0,4 0, età

4 CHD classe d'età N assente presente meda(proporz.) , , , , , , , ,8 totale ,43 Proporzone d CHD per classe d'età proporzone CHD 0,8 0,6 0,4 0, età Curva con andamento sgmode

5 Rassumendo La meda condzonale (E(Y x)) deve essere compresa tra 0 e. S utlzza qund l modello d regressone logstca π(x) che soddsfa questo requsto. La dstrbuzone bernoullana descrve la dstrbuzone degl error e qund sarà la dstrbuzone su cu l anals statstca è ncentrata. Nella regressone logstca, s utlzzeranno gl stess prncp segut nella regressone lneare Odds Il cavallo Varenne ha 20 probabltà su 00 d vncere una gara. Il cavallo Varenne 20 probabltà su 00 d vncere 80 probabltà su 00 d perdere Odds d vttora = 20 / 80 = / 4 = 0,25 Pertanto Varenne vene dato 4 a ( a 4) Ch scommette 000 su Varenne n ognuna d 00 gare, vnce 20 volte 4000, n tutto 80000, perde 80 volte 000, n tutto 80000, per cu le perdte pareggano le vncte.

6 ODDS RATIO (OR) (rapporto crocato, stma ndretta del Rscho Relatvo) ESEMPIO: Un fumatore ha 40 probabltà su 00 d essere perteso a 60 ann. Un non-fumatore ha 20 probabltà su 00 d essere perteso a 60 ann. ) Probabltà (p) p (pertensone / fumatore ) = 40 / 00 = 0,4 = 40% p(pertensone / non-fumatore) = 20/00 = 0,2 = 20% p 2) Odds (ω) = p odds d pertensone ne fumator = 40 / 60 = 0,67 = 67% odds d pertensone ne non-fumator =20/80 =0,25 =25% p -p 3) Odds Rato = (O.R.) odds rato d pertensone ne fumator p 0 rspetto a non-fumator = 0,67 / 0,25 = 2,67 -p 0 Nella regressone lneare multpla la Y vara tra - e + Nella regressone logstca p(malatta) vara tra 0 e odds(malatta) = p/(-p) vara tra 0 e + Logt = ln [p/(-p)] vara tra - e + trasformazone logartmca - 0 p 0 odds + logt +

7 MODELLO DI REGRESSIONE LOGISTICA Predttore lneare Ln [π/(-π)] = β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 Logt Var.qualtatve e/o quanttatve Termne d nterazone π/(-π) = exp(β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 ) odds π = prevalenza exp(β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 ) + exp(β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 ) I MODELLI LINEARI GENERALIZZATI s dfferenzano per la dstrbuzone dell errore (error functon) e per la funzone legame (lnk functon) REGRESSIONE LINEARE MULTIPLA y = β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 + ε La funzone legame (lnk-functon) è l IDENTITA L errore segue la dstrbuzone NORMALE MODELLO DI REGRESSIONE LOGISTICA Ln [y/(-y)] = β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 + ε La funzone legame (lnk-functon) è l LOGIT [LOG(ODDS)] L errore segue la dstrbuzone BERNOULLIANA MODELLO LOG-LINEARE Ln(y) = β 0 + β x + β 2 x 2 + β 3 x 3 + β 3 x x 3 + ε La funzone legame (lnk-functon) è l LOGARITMO L errore segue la dstrbuzone d POISSON

8 Metod d ottmzzazone per trovare l modello che meglo s adatta a dat Se la funzone-legame è l denttà: Regressone lneare semplce Regressone lneare multpla Anals della varanza Anals della covaranza Omoschedastctà ɛ ~N(0;σ 2 ) Metodo de mnm quadrat (least-square method) Regressone logstca Non-Omoschedastctà ɛ ~B(0;π(-π)) Metodo della massma verosmglanza (maxmum lkelhood) Metodo teratvo Notazone utlzzata Paa d osservazon: (x, y ) =, 2, 3, 4. N y =outcome 0=assenza =presenza x =valore var. ndpendente per l soggetto esmo Es. (età,chd) Soggetto : (20,0) Soggetto 23: (34,)

9 Il metodo della massma verosmglanza c fornsce valor de parametr gnot che massmzzano la probabltà d ottenere dat osservat. Per applcarlo dobbamo costrure la funzone d verosmglanza, che c dà la probabltà d avere dat osservat n funzone de parametr gnot. Sceglamo parametr (stme d massma verosmglanza) che massmzzano la funzone d verosmglanza. Come stmare parametr gnot nella regressone logstca tramte la funzone d verosmglanza? π(x) c dà la probabltà condzonale che y= per un dato valore d x es. π(x) c dà la probabltà che un soggetto abba CHD (y=) all età d 49 ann (x) π(x) c dà la probabltà condzonale che y=0 per un dato valore d x es. -π(x) c dà la probabltà che un soggetto non abba CHD (y=0) all età d 49 ann (x) per (x, y ) dove y = l contrbuto alla funzone d verosmglanza è π(x ) per (x, y ) dove y =0 l contrbuto alla funzone d verosmglanza è -π(x )

10 [ ] [ ] [ ] [ ] { } ) ( )ln ( ) ( ln ) ( ln ) ( ) ( ) ( ) ( ) ( ) ( n n y y x y x y l L x l x x x π π ζ π π ζ + = = = = = = β β β Il contrbuto d una coppa alla funzone d verosmglanza è: Assumendo che le osservazon sano ndpendent, la funzone d verosmglanza vene ottenuta come prodotto de termn ζ(x ): Per l prncpo della massma verosmglanza, utlzzamo le stme d β 0 e β che massmzzano l(β), ma matematcamente l logartmo d l(β) è pù facle da trattare: log-lkelhood [ ] [ ] 0 ) ( 0 ) ( = = = = n n x y x x y π π Per trovare valor d β 0 e β che massmzzano L(β), dervamo L(β) rspetto a β 0 e β e ponamo le espresson rsultant=0. Per β 0 s ha: Per β s ha: Queste equazon, non essendo lnear ne parametr, sono rsolvbl tramte process teratv dsponbl ne software statstc.

11 S ottengono così le stme de parametr e, dove ^ ndca la stma. βˆ Esempo con dat su età e CHD. Utlzzando un software statstco, ottenamo rsultat n tabella: βˆ 0 varable AGE Constant Coeffcente stmato Errore standard Coeff./ES Log-lkelhood= Qund valor predett vengono dat dall equazone: e * age ˆ ( x ) = * age π e l logt stmato è: + e g ˆ ( x) = * age Log-lkelhood= è ottenuto dall equazone (che è stata massmzzata per ottenere le stma de parametr) : n L( β) = ln [ l( β) ] = { y ln[ π( x )] + ( y )ln [ π( x )]} =

12 L nterpretazone de coeffcent (β) del modello d regressone logstca Nella regressone lneare, β c dcono d quanto vara y al varare d x d un untà. β = y(x+) y(x) Analogamente anche per la regressone logstca: β = g(x+) g(x) Il problema è dare un sgnfcato alla dfferenza tra quest 2 logt Per scoprre l sgnfcato d questa dfferenza tra due logt, consderamo l caso n cu abbamo una varable ndpendente x dcotomca, codfcata come x=0 (non esposto) e x= (esposto)

13 β = g(x+) g(x)= g() - g(0)= ( ) π ( 0) π = ln ln = π () π (0) π () π () = ln = π (0) ln(or) π (0) β =ln(or) e β =OR Odds tra non espost Odds tra gl espost OR Quando abbamo una sola varable ndpendente, possamo verfcare che l parametro β stmato dalla regressone logstca corrsponde al ln(or) calcolato dalla tabellna corrspondente. Es. Età e CHD: dvdamo l età n 2 categore <55(x=0) e >55(x=) Coeffcente Errore Coeff./ES OR Stmato Standard AGE Constant

14 CONSEGUENZE della TRASFORMAZIONE LOGARITMICA: 5 L ntervallo d confdenza dventa asmmetrco 4 3 e η+,96 ES 2 e η e η,96 ES Modello Modello loglneare logstco 0 stma conteggo Odds Rato log(stma) OR) Costruendo ora la tabellna 2X2: AGE(x) CHD (y) >55() <55 Presente () Assente (0) Totale OR=2*5/(6*22)=8. che qund corrsponde a quanto trovato con la regressone logstca

15 L nterpretazone de coeffcente nel caso d una varable ndpendente classfcata n pù d 2 categore è analoga. Es. CHD e razza (banca=; nera=2; spanca=3; altra=4) Coeffcente Stmato Errore Standard Coeff./ES OR RAZZA(2) RAZZA(3) RAZZA(4) Costante In questo caso, l OR è calcolato per tutte le razze rspetto alla razza banca Varabl dummy (fttze) Lvello della varable RAZZA NERA ISPANICA ALTRO RAZZA() Banca RAZZA(2) Nera 0 0 RAZZA(3) Ispanca 0 0 RAZZA(4) Altra 0 0

16 Anche quando x è contnua l nterpretazone è analoga, ma β dà l cambamento del log-odds all aumentare d della varable ndpendente. A volte può essere molto utle calcolare l cambamento nvece che per ogn untà d x, per ogn 0 UNITA (ad es. nvece d consderare solo anno d età, consderare 0 ann d età) oppure per un ncremento d UNA DEVIAZIONE STANDARD. Una volta stmat parametr, c chedamo: sono sgnfcatv? Il modello che nclude la varable n studo c dà nformazon n pù sull outcome rspetto al modello che non la nclude? Es. Consderare l età come possble fattore d rscho per l nsorgenza d CHD ha senso? Test d sgnfcatvtà per parametr

17 Regressone lneare multpla y = β 0 + β x + β 2 x 2 + ε Varabltà totale (y- y) = (ŷ - y) + (y-ŷ ) Varabltà spegata dalla regressone Varabltà resdua,2 varable Y 5,6 La scomposzone delle devanza vene effettuata nello stesso modo: l unca dfferenza è che y atteso (ŷ) gace nel pano e non su una retta 0 varable X 4 S varable X2 SCOMPOSIZIONE DELLA DEVIANZA nella Regressone lneare multpla - 2 Varabltà totale (y- y) = (y - y) + (y- y ) Varabltà spegata dalla regressone Varabltà resdua S può dmostrare che: Devanza totale, SST Σ(y- y) 2 = Σ (y - y) 2 + Σ(y- y) 2 Devanza spegata dalla regressone, SSR Devanza resdua, SSE

18 Anche nella regressone logstca, s confrontano valor y osservat con quell prevst dal modello con e senza la varable d regressone. Il paragone vene effettuato tramte la log-lkelhood. Pensamo agl osservat come dat prevst da un modello saturo (= modello che contene tant parametr quant dat). ( verosmglanza. modello. corrente) D = 2ln = ( verosmglanza. modello. saturo) = 2 ln( [ veros. mod. saturo) ln( veros. mod. corrente) ] D vene chamata devanza e ha lo stesso ruolo d la devanza resdua nella regressone lneare SSE= n ( y yˆ = ) 2 CONCETTO DI DEVIANCE l( = ) Modello n studo modello saturo l( =x) n parametr = n data ln(0.005)= ln(0.)= lkelhood -6-4 log(lkelhood) ln(0.005)= ln(0.)=2.303 devance=2*( )= log(lkelhood)

19 D ( verosmglanza. modello. corrente) = 2ln ( verosmglanza. modello. saturo) Lkelhood rato test Rapporto d verosmglanza D è dstrbuta come χ 2 con g.l.=n osservazon-n parametr Per testare la sgnfcatvtà d una varable ndpendente (x): G = D(per l modello senza la varable) D(per l modello con la varable) Sosttuendo D dventa: verosmglanza.sen za. varable G = 2ln = verosmglanza. con. varable = 2 ln( [ verosmcon..var) ln( verosm.sen za.var) ] Sotto l potes che β =0, la statstca G segue χ 2 con g.l. (quando x è contnua o dcotomca)

20 Altro test per testare la sgnfcatvtà delle varabl: Wald test W = βˆ EŜ(ˆ β ) Sotto l potes nulla β =0, W segue una dstrbuzone normale esempo varable AGE Constant Coeffcente stmato Errore standard Coeff./ES Log-lkelhood rato test: Log-lkelhood= Log-lkelhood senza la varable AGE (modello nullo solo con la costante) = G=2( ( ))=29.3 χ 2 con g.l. P<0.00 Wald test: z=4.6 P<0.00 AGE è sgnfcatva

21 Per l passaggo alla regressone logstca multpla, aggungamo le varabl d nteresse al modello n studo: g( x) = β 0 + β x + β x β x p p π( x) e = + e g( x) g( x) Test d sgnfcatvtà per parametr regressone logstca multpla Es. Studo su possbl fattor d rscho per basso peso alla nascta (peso<2.5kg): y= bmbo a basso peso; y=0 bmbo peso normale Dat su 89 donne d cu 59 hanno avuto bmb con basso peso alla nascta. Varabl ndpendent (x) consderate: Età Peso della madre all ultmo cclo Razza (0=banca, =Nera, 2=altra razza) N. d vste dal medco nel I trmestre

22 Età Coeffcente stmato Errore standard Coeff./Se -0.7 Peso-madre E razza razza n.vste I trm costante Log-lkelhood=-.286 verosmglanza. senza. varable G = 2ln = verosmglanza. con. varable = 2 ln( [ veros. senza.var) ln( veros. con.var) ] Non abbamo la log-lkelhood del modello senza varabl: fttamo un modello con solo l termne costante: Loglkelhood= G= -2[(-7.336) (-.286)]=2. Sotto H 0 che tutt parametr=0, G s dstrbusce come χ 2 con grad d lbertà par al n. d parametr stmat (n questo caso 5). P[χ 2 (5)]<0.05

23 Il rfuto dell potes nulla n questo caso sgnfca che almeno uno de parametr stmat è dverso da 0. Per vedere qual delle varabl potrebbero essere escluse dal modello, faccamo l Wald test su cascun parametro (ultma colonna tabella) La razza e l peso della madre sono le due varabl che rsultano sgnfcatve Possamo costrure un modello con un mnor numero d varabl Coeffcente stmato Errore standard Coeff./ES Peso-madre E razza razza Costante Log-lkelhood= Confrontamolo con l modello precedente: G= -2[(-.630) - (-.286)] = con 2 g.l. P[χ 2 (2)]>0.05 non sgnf. Il presente modello è un buon modello

24 Coeffcente stmato Errore standard Coeff./ES Peso-madre E razza razza Costante Problema: solo uno de due coeffcent d Razza (razza) rsulta sgnfcatvo con l Wald test; la varable sarà complessvamente statstcamente sgnfcatva per l modello? Effettuamo l lkelhood rato test che confronta l modello con Pesomadre e Razza con quello contenente solo Peso-madre: G= -2[(-4.345) - (-.630)] = 5.43 con 2 g.l. P[χ 2 (2)]=0.066 >0.05 non sgnf., teorcamente dovremmo escludere Razza dal modello, MA è bologcamente mportante, percò NON la escludamo. E per confrontare modell con varabl dverse? poch parametr scarso adattamento (goodness-of-ft) buon adattamento (goodness-of-ft) modello ottmale molt parametr modello nadeguato L AIC (Akake Informaton crteron) tene conto sa della bontà dell adattamento (devance) che della parsmona del modello (grad d lbertà)

25 Devance 2p 2* 2*2 2* Applcazon del Modello d Regressone Logstca - ) Rcerca d varabl esplcatve: qual sono fattor d rscho d una determnata malatta? I modell pù utlzzat nell'epdemologa clnca sono: a) l modello logstco se la varable d rsposta è dcotomca (malatta presente/assente). b) l modello d Cox se dobbamo tenere presente, oltre ad una varable d rsposta dcotomca (evento presente/assente, vvo/morto), anche l'ntervallo d tempo ntercorso prma del verfcars dell'evento (tempo d sopravvvenza) Modello Tpo d studo Varable d rsposta Modello logstco Modello d Cox Trasversale (Anals della prevalenza) Longtudnale (anals della sopravvvenza) Varable dcotomca Varable dcotomca + tempo d sopravvvenza

26 2) Stma della probabltà d appartenenza: Se dobbamo stmare la probabltà che un soggetto (o un'altra untà statstca) appartenga ad un gruppo (Y=0) oppure ad un altro (Y=), possamo cercare la combnazone lneare d varabl esplcatve che crea la maggore dscrmnazone fra le untà del prmo e del secondo gruppo. 3) Prevsone: Svluppare un modello che non solo descrva n modo adeguato la varable d rsposta nel campone n studo, ma possa essere applcato anche ad altr dat. Ad esempo, voglamo predre se un soggetto ha la crros epatca, senza rcorrere alla bopsa e all esame stologco, ma semplcemente sulla base d esam ematochmc. Per sceglere l modello mglore, s utlzzano dat d soggett con dagnos certa, che vengono assegnat casualmente ad un gruppo d apprendmento (tranng set) o d valdazone (valdaton set). Il modello vene costruto sul prmo gruppo e successvamente la sua capactà predttva vene verfcata sul secondo gruppo. Test consglat Hosmer DW Jr, Lemeshow S. Appled logstc regresson. John Wley & Sons, New York 990 Clayton D, Hlls M: Statstcal models n epdemology. Oxford Scence Publcaton; Oxford 993