Introduzione. La regressione logistica

Transcript

1 Aals statstca multvarata La rgrsso logstca Autor Alsado Lubsco Stfaa Mga Marla Pllat

2 La rgrsso logstca Itroduzo S vuol dscrvr la rlazo d dpdza dl posssso d u attrbuto dcotomco da ua o pù varabl dpdt (X, X 2,, X p )X, d atura qualsas (coè, dffrtmt, quattatv o qualtatv). Alcu smp d attrbut dcotomc: pr u soggtto ch ha ottuto u prstto, la rsttuzo/o-rsttuzo dl prstto; pr ua baca, l fallmto/sopravvvza dopo u dato prodo d tmpo, pr u clt, l rscotro postvo/gatvo ad u offrta promozoal, pr u pazt sotto ossrvazo, la prsza/assza d ua data malatta.

3 La rgrsso logstca Itroduzo Gl obttv possoo ssr moltplc: dvduar tra l varabl dpdt qull a maggor potr splcatvo, ch vao qud trprtat com dtrmat dl posssso o mo dll attrbuto: a scoda ch sao corrlat postvamt o gatvamt co l fomo studato possoo ssr cosdrat rspttvamt com fattor d rscho o com fattor d protzo; rcrcar la combazo lar dll varabl dpdt ch mglo dscrma fra l gruppo dll utà ch possdoo l attrbuto qullo dll utà ch o lo possdoo; stmar la probabltà dl posssso dll attrbuto pr ua uova utà statstca su cu è stato ossrvato l vttor d varabl X, fssato pr tal probabltà u valor sogla, classfcar l utà alla catgora dll utà ch possdoo l attrbuto o a qullo dll utà ch o lo possdoo.

4 La rgrsso logstca Assuzo spcfcazo dl modllo S tratta d costrur u modllo d rgrsso pr Y, varabl rsposta dov Y dcotomca a valor, corrspodt rspttvamt all assza alla prsza dll attrbuto. I u modllo d rgrsso la quattà ch s potzza fuzo d X è l valor mdo artmtco dlla varabl dpdt Y codzoato ad u dato, E(Y ). Nl caso dl modllo d rgrsso logstca, qusto valor mdo codzoato corrspod a P(Y ), coè alla probabltà d possdr l attrbuto sam codzoata al fatto ch l vttor dll varabl dpdt assum valor. S vuol dscrvr la fuzo ch lga tal probabltà, ch dchrmo co π(), alla combazo dll varabl dpdt. Il modllo d rgrsso pr Y è duqu: ( ) ε Y π U modllo d rgrsso lar sarbb dl tutto approprato a qusto scopo. Ua fuzo lar d X, ssdo o lmtata (é frormt, é suprormt), potrbb dar luogo a valor stmat d π() str all trvallo [, ], qud prv d sso.

5 La rgrsso logstca Assuzo spcfcazo dl modllo Nl modllo d rgrsso lar l rror s dstrbusc ormalmt, co mda ulla varaza costat. Qusta assuzo o è valda quado Y è ua varabl dcotomca, prché tal caso l rror può assumr solo 2 valor: co mda ε Y π ( ) π π ( ) co probabltà π ( ) ( ) co probabltà π ( ), E ( ε ) [ π ( ) ] π ( ) π ( ) [ π ( ) ] varaza 2 2 ( ε ) [ π ( ) ] π ( ) π ( ) [ π ( ) ] π ( ) [ π ( ) ] V, ch dpd dal valor d X, qud o è costat. La varabl alatora Y sgu qud la dstrbuzo d Broull Br( π ()) co ( ) ( ) y [ ( )] ( f y π π y) co E Y π V ( Y) π ( ) [ π ( ) ] ( ) ( )

6 La rgrsso logstca Il modllo Pr dscrvr la rlazo d dpdza dlla probabltà ( ) P ( Y da valor d X(X, X 2,, X p ) S può usar la dstrbuzo logstca : π ) ( ) p j j pp j pp p j j j π. Il grafco d tal fuzo dscrv ua curva mootoa a forma d S allugata (dtta sgmod ), lmtata suprormt dalla rtta y frormt dalla rtta y, all qual td astotcamt. S cosdro sgut du smp rfrt al caso, pù smplc, cu v è ua sola varabl splcatva, X, cotua:

7 La rgrsso logstca Il modllo S cosdro sgut du smp rfrt al caso, pù smplc, cu v è ua sola varabl splcatva, X, cotua: grafco dlla fuzo π ( ) (qud, ) grafco dlla fuzo π ( ) (qud, 2 2 )

8 La rgrsso logstca Il modllo S cosdr, ora, la sgut fuzo d π (), dtta logt, π ( ) log t( π ( ) ) l π ( ) ; (3) Ch è l logartmo atural dl rapporto dlla probabltà codzoata d possdr l attrbuto alla probabltà codzoata d o possdrlo. Il rapporto fra probabltà assocat ad ua dcotoma, coè fra probabltà complmtar, è dtto odds Sosttudo è possbl dmostrar ch p logt j ( π )) ( j j Qud, mtr ) ( π è fuzo o lar dll varabl X, X 2,, X p, l logartmo dll odds, dtto logt, è fuzo lar dll stss.

9 La rgrsso logstca I modll lar gralzzat Il modllo logstco appart alla famgla d modll lar gralzzat ( gls GLM, gralzd lar modls). U modllo lar gralzzato mtt rlazo ua fuzo dl valor attso dlla varabl dpdt Y co l varabl splcatv attravrso u quazo lar. Esso è spcfcato da tr compot: la compot alatora: Y, Y 2, Y,, Y, costtuta da u sm d varabl alator assut rcprocamt dpdt co dstrbuzo d probabltà appartt alla famgla spozal, la compot sstmatca: p j, j j ch spcfca ua combazo lar dll varabl splcatv l modllo la fuzo lgam: g p ( E )) ( Y, j j j ch mtt rlazo la compot alatora la compot sstmatca dl modllo, spcfcado qual fuzo g dl valor attso d Y dpd larmt dall varabl splcatv.

10 La rgrsso logstca I modll lar gralzzat Spcfcado dvrs fuzo com fuzo lgam s ottgoo sgut cas partcolar d modllo lar gralzzato: prddo com fuzo lgam la fuzo dttà, g ( E Y )) E( Y ), s ott p ( ) E Y j j j ch è l tradzoal modllo d rgrsso lar ( E( Y ) prddo com fuzo lgam la fuzo logt, g ( E( Y )) l, s ha p E( Y ) l j E( Y ) j j E( Y ) ch, posto Y dcotomca a valor, è l modllo d rgrsso logstca prddo com fuzo lgam la fuzo logartmo, ( E Y )) l[ E( Y )] p [ E( )] l Y j j j ch è domato modllo log-lar. g, s ha (

11 La rgrsso logstca Stma d paramtr Poché o val l omoschdastctà d rsdu o è possbl adottar l mtodo d stma d mm quadrat. S può usarl mtodo dlla massma vrosmglaza. Cosdramo, pr smplctà l modllo co ua sola varabl dpdt, X,, ( ) π trm d logt ( ) π π ( ) ( ) g l Rcordado l pots d dpdza rcproca dll varabl campoar dl campo ossrvato y,..., y,..., y s scrv: Y,..., Y,..., Y, la fuzo d vrosmglaza L [ ] ( ) y (, ) f ( y ) π ( ) π ( ) y

12 La rgrsso logstca La stma d paramtr Rcavamo la fuzo d log-vrosmglaza: ( ) ( ) [ ] ( ) ( ) [ ] { } y y l l l, π π ( ) ( ) ( ) [ ] y l l π π π ( ) y l ( ) y l ( ) [ ] { } y l.

13 La rgrsso logstca La stma d paramtr Calcolado l drvat parzal dlla (4) rsptto a paramtr, podol ugual a, s rcava l sstma dll quazo d vrosmglaza, la cu soluzo rsttusc l stm d massma vrosmglaza, ch dchamo rspttvamt co b b : b b b b b b b b y y L quazo ottut o soo lar ll cogt b b, qud la loro soluzo o è mmdata, ma rchd l mpgo d mtod umrc tratv comumt mplmtat softwar d aals statstca d dat.

14 La rgrsso logstca La stma d paramtr Gl stmator d massma vrosmglaza godoo dlla proprtà d quvaraza rsptto a trasformazo fuzoal dffrzabl la stma d π ( ) rsulta qud: b b ˆ π ( ) b b, rapprsta l valor d Y stmato dal modllo d rgrsso logstca corrspodza d X. Astotcamt, sotto codzo o partcolarmt rstrttv, gl stmator d massma vrosmglaza soo corrtt, ormodstrbut d ffct.

15 La rgrsso logstca Vrfca d pots Qust proprtà prmttoo d costrur opportu statstch-tst pr l cotrollo d pots su paramtr d costrur trvall d cofdza pr paramtr cogt. G vrosm. modllo sza la varabl 2l 2l vrosm. modllo co la varabl ˆ π ( ) [ ( )] ( y y ) ˆ π Tal statstca-tst è dtta tst rapporto d vrosmglaza (llhood rato tst). Sotto l pots zro H: ch l srmto dlla varabl X l modllo o apport u cotrbuto sgfcatvo, ll uvrso d campo la varabl campoara G s dstrbusc astotcamt com ua varabl alatora 2 χ () ; cofrotado l p-valu corrspodt al valor gcalc d G, calcolato sul campo ossrvato, co u prfssato lvllo d sgfcatvtà α è possbl cocludr crca l pots H : 2 () P( χ >gcalc)< α rfuto H 2 P( χ () >gcalc)> α o rfuto H

16 La rgrsso logstca Itrprtazo d paramtr Nl modllo smplc d rgrsso lar l valor d rapprsta la varazo mda d Y al crscr d u utà d X. Nl modllo smplc d rgrsso logstca, ( ) π trm d logt ( ) ( ) π ( ) l π, g s ha ch g ( ) g( ) ( ) sprm la varazo dl logt corrspodt ad u crmto utaro d X. Pr l trprtazo umrca s dvoo dstgur dvrs stuazo

17 La rgrsso logstca Varabl dpdt dcotomca X dca l assza o la prsza d u dato attrbuto, assumdo rspttvamt valor. Allora ach l odds assumrà solo du valor, qu d sguto rportat: P Y P Y ( X ) P( Y X ) ( X ) P( Y X ) π π ( ), π ( ) ( ). π ( ) Il rapporto d du valor d odds, dtto odds rato, è ugual a π ( ) ( ) odds rato π ( ) π ( ) π Qud, applcado ad tramb trm dll uguaglaza la trasformata logartmca, s ha π ( ) π ( ) π ( ) ( ) ( ) l π π π ( ) ( ( ) ) logt( ( ) ) g( ) g( ) l π l logt π π. ( ) π ( ) Ovvro, msura la varazo l logt dovuta al posssso dll attrbuto dscrtto da X..

18 La rgrsso logstca Varabl dpdt catgorca o ordal Sa X ua varabl catgorca o ordal a modaltà. S rcord l modaltà d X attravrso varabl dummy. S l calcolo dgl odds rato l gruppo dll utà portatrc dlla modaltà corrspodt all aullamto d tutt l dummy v prso com gruppo d rfrmto qul tpo d codfca garatsc ch l logartmo dll odds rato dl gruppo dll utà ch portao l -sma modaltà d X rsptto al gruppo d rfrmto è (pr,, -): odds pr l odds pr X X modaltà - sma modaltà d rfrmto ( odds pr X modaltà - sma) l( odds pr X modaltà d rfrmt ) l o ( D,..., D,..., D ) g( D,..., D,..., D ) g (,...,..., ),...,...,, Qud, l odds rato d qusto gruppo rsptto al gruppo d rfrmto è ugual a, ;

19 La rgrsso logstca Varabl dpdt cotua Pr X cotua, sprssa ua data utà d msura, s ha ch odds pr X l l odds pr X ( odds pr X ) l( odds pr X ) ( ) g( ) ( ) ( ) g ; qud l odds rato corrspodt ad u crmto utaro d X è ugual a. S, a f trprtatv, è pù trssat cosdrar u crmto d c utà (c ) puttosto ch u crmto utaro d X, allora l logartmo dll odds rato corrspodt è ugual a odds pr X c l odds pr X ( c) ( ) c qud l odds rato pr u crmto d X par a c utà val c.

20 La rgrsso logstca Valutazo dlla bota d adattamto Voglamo valutar quato l modllo adattato sa ffcac l dscrvr la varabl dpdt Y, ovvro valutar la botà d adattamto (goodss of ft). Occorr dfr cosa sgfca ch u modllo è adatto o adguato a dscrvr l fomo sam. Sclta u opportua msura sttca dlla dffrza tra valor d Y ossrvat, y, qull stmat dal modllo, ŷ (,..., ), u modllo è adguato s produc valor pccol d qusta msura s l cotrbuto dll -smo cofroto a tal msura rtra lmt dlla varabltà trsca dl fomo, dscrtta dal trm d rror dl modllo. Qud ua valutazo complta dl grado d adguatzza dl modllo rchd: Il calcolo d opportu msur d sts su rsdu dl modllo (dcatv dll adattamto global dl modllo) u sam accurato d sgol rsdu, spsso attravrso u spzo grafca

21 La rgrsso logstca Msur sttch dlla qualtà dll adattamto Dao u dcazo dll adattamto global dl modllo sul complsso dll utà statstch ossrvat: valor grad sgalao ua bassa qualtà dl modllo, ma valor pccol o scludoo la possbltà ch pr qualch utà s vrfch u adattamto partcolarmt scarso Esstoo mod altratv d msurar la dvrgza tra l valor ossrvato pr la varabl rsposta l corrspodt valor stmato dal modllo, coè d msurar rsdu. I partcolar, rsdu pù comumt mpgat soo: l rsduo d Parso l rsduo d dvac. Sa J l umro d combazo dvrs (covarat pattr),d valor dll varabl dpdt ossrvat ll utà statstch ( J < ), ch corrspod al umro d logt stmat dal modllo d rgrsso logstca. Sa l umro d utà statstch ch portao ua grca combazo d valor,,, J. Sao y ŷ rspttvamt l umro ossrvato l umro stmato d utà statstch pr cu Y corrspodza dl suddtto covarat pattr, coè yˆ ˆ( π ) gˆ ( ) gˆ ( )

22 La rgrsso logstca Msur sttch dlla qualtà dll adattamto Poché oguo d J valor y corrspod a ua umrostà dffrt ad ua dffrt probabltà d succsso ˆ π ( ) πˆ, rsdu ( y ŷ ) soo dffcl da trprtar. La cofrotabltà può ssr ottuta dvddo cascu rsduo pr l corrspodt scarto quadratco mdo, ottdo l rsduo d Parso. Tal rsduo pr l grco covarat pattr è così dfto: r ( y, ˆ π ) y ˆ π. ˆ π ( ˆ π ) Il corrspodt rsduo d dvac s dfsc com sgu: ( ) 2 y l ( y ) d y y y,ˆπ l ˆ ( ˆ ), π π dov l sgo è qullo d ( y ˆ ). y 2

23 La rgrsso logstca Msur sttch dlla qualtà dll adattamto L msur sttch d adattamto global ch s basao su qust du tp d rsdu soo costrut com somma d quadrat d rsdu. Nl caso d rsdu d Parso s ha la statstca ch-quadrato d Parso: (,πˆ ) 2 χ r y 2, S s adoprao rsdu d dvac, la somma d loro quadrat è la dvac: D d ( ˆ ) 2 y,π, La dstrbuzo astotca d qust du statstch ll uvrso d campo ll pots ch l modllo adattato 2 rapprst adguatamt dat è qulla d u χ ( J ( p )) La dstrbuzo astotca d qust du statstch ll uvrso d campo ll pots ch l modllo adattato 2 rapprst adguatamt dat è qulla d u χ ( J ( p )) Valor pccol dlla statstca dcao u buo adattamto, mtr valor grad suggrscoo ch l dvaro tra l ossrvato l attso o è da attrbur al solo rror d campoamto. Qud s l valor calcolato dlla statstcatst o è sgfcatvo, ovvro ch l corrspodt p-valu è maggor d u lvllo α prfssato, l pots zro d

24 La rgrsso logstca Dagostch su rsdu L spzo d rsdu cost prmo luogo d cotrollar la valdtà dll assuzo dall qual l aals ha prso l moss. Pr smpo, è possbl cotrollar l pots d lartà dlla rlazo fra l logt(p[y X]) u dato rgrssor cotuo X attravrso la rapprstazo grafca d put d coordat (, ˆ ), pr,, J (co J ). S la umrostà campoara o è troppo lvata, può ssr utl aalzzar u smplc grafco d rsdu ( ordata) corrspodt all var utà statstch (lcat ascssa). Dato ch u buo modllo rsdu dovrbbro ssr prossm allo, l utltà d qusto grafco sta lla possbltà d vdzar la prsza d rsdu grad ( valor assoluto; d solto str all trvallo [-2, 2]), coè d valor ch l modllo o è grado d spgar. U altro grafco utl pr valutar l adguatzza dl modllo è qullo cott valor stmat ascssa rsdu ordata: u buo modllo tal put dovrbbro ssr dspost casualmt toro all ass dll ascss. S vc s vdzao adamt partcolar potrbb o ssr corrtta la sclta dl logt com fuzo lgam. Qusta vtualtà può rapprstar ua spgazo ach pr comportamt dfform dall attso l grafco ch cotrolla la ormaltà d rsdu. La rcrca d valor aomal può ssr ffttuata ach valutado la dffrza lla stma d paramtr cosgut all scluso dal data st d u utà alla volta y