CAP. 6 INFERENZA STATISTICA BAYESIANA

Transcript

1 Corso d laura magstral SCIENZE STATISTICHE (Not ddattch) Bruo Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa Itroduzo CAP 6 BAYESIANA N captol prcdt s è stata affrotata, modo quas sclusvo, la problmatca dll frza statstca paramtrca, prsuppodo, coè, ota la forma aaltca dl modllo rapprstatvo dl fomo o d fom oggtto mtr o soo ot paramtr ch lo carattrzzao I sol dat campoar soo stat utlzzat pr prvr ad ua stma (putual o d trvallo) o pr sottoporr a vrfca mprca pots rguardat tal paramtr Dopo avr fssato ragovol crtr d ottmaltà soo stat aalzzat l procdur l codzo ch costoo l prsgumto d rsultat ch soddsfao uo o pù crtr tra qull lcat Soo stat duqu paramtr (costat o ot) l oggtto spcfco dlla trattazo usualmt dcata com frza statstca classca o frqutsta scodo l mpostazo d Nyma-Parso Qusto captolo è ddcato alla trattazo, sppur molto sommara d u modo dvrso d rsoluzo d problm d frza duttva: l approcco baysao all frza statstca, basato su ua flosofa d aals d dat altratva a qulla propra dll approcco classco Nll approcco classco dat campoar soo l uca fot utlzzata d utlzzabl pr prvr ad ua cooscza oggttva dlla raltà rsptto alla qual o s prsuppo alcua cooscza prgrssa, mtr ll approcco baysao ua tal cooscza s prsuppo dat campoar srvoo solo pr procdr al suo aggoramto Poché, com pù volt sottolato, pr facltar la comprso dlla raltà carattrzzata dalla varabltà prst ll Guspp Pomplj (l volum sulla tora d campo 96) scrv: Crchrò d llustrar l sgfcato la portata dll formul d Bays rportado alcu bra d u mo artcolo dlla rvsta Archmd (Pomplj, 95a) L sprza quotdaa c po cotuamt d frot a cotrast appartmt paradossal prché ss l part vocao, a sostgo dll oppost ts, gl stss fatt, su cu prfttamt cocordao Com ma,, l part cocordao su fatt ( talvolta ach mm partcolar d qust fatt) d arrvao po a cocluso cotrastat? Attravrso qual mccasmo cascuo d o s prsuad d crt trprtazo? Qual è d qusta prsuaso la compot soggttva qulla oggttva? S tratta d problm assa vcch ; o può crto soddsfar la spgazo dogmatca dgl atch sofst: l uomo è la msura d tutt l cos N S prsoagg crca d autor quado l Capocomco trromp la trata dlla fglastra sclamado: vamo al fatto; vamo al fatto, sgor m! Qust soo dscusso Il padr, l prsoaggo padr - trv chardo: Ecco, sssgor! Ma u fatto è com u sacco: vuoto o s rgg: prché s rgga, bsoga prma farc trar dtro la rago stmt ch lo ha dtrmato Qusta battuta dl padr cot la vra ssza dl problma tsté dlato; prché ua volta rcooscuto, scodo l mmag pradllaa, ch u fatto è com u sacco, possamo faclmt capr com a scoda d qul ch c s mtt dtro potrà assumr u asptto puttosto ch u altro Sullo stsso argomto s può utlmt cosultar Corrado G ch, oltr ad ssr stato prcursor (G, 9) d qullo ch v usualmt dfto com approcco baysao mprco all frza statstca (Chadotto, 978), du cotrbut ( ) atcpa gra part dll crtch rvolt alla tora d tst d sgfcatvtà (frza statstca classca) gl a succssv da sosttor dll approcco baysao 39

2 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa mafstazo d fom d trss, la raltà stssa v rapprstata attravrso opportu modll aaltc (modll probablstc), ach pr rapprstar la cooscza prgrssa s procd all troduzo d spcfc modll ch qusto caso prò o soo rapprstatv dlla varabltà oggttva sta dat, quato paramtr ch carattrzzao modll soo dll costat, ma rapprstao vc ua varabltà vrtual ch dpd dalla macaza d cooscza o dalla cooscza parzal d cu s dspo Tccamt l problma s rsolv cosdrado paramtr o pù dll costat cogt ma dll varabl casual govrat da ua propra lgg d dstrbuzo dll probabltà a pror L approcco baysao v rfutato da ua compot molto rlvat dlla comutà sctfca ch rt l approcco stsso troppo codzoato da possbl prcoctt ch poco hao a ch vdr co l oggttvtà dl procsso sctfco, cò val partcolar cas cu s prv alla formulazo dlla lgg d dstrbuzo a pror rfacdos alla dfzo soggttva dlla probabltà Qust ultma cosdrazo vdza u fatto su cu val la pa rchamar l attzo dl lttor, coè sulla prsuta oggttvtà dll approcco classco alla problmatca dll frza duttva ch assga a sol dat campoar l compto d forr formazo sul fomo oggtto d dag: s s prsuppo ota la forma aaltca dl modllo rapprstatvo dlla raltà, rsulta ovvo ch o soo solo dat campoar a gocar u ruolo rlvat l procsso cogtvo, ma ach la cooscza prgrssa ch suggrsc la forma dl modllo Ua cooscza prgrssa ch potrbb comuqu ssr fodata sclusvamt su dat campoar (dat oggttv), ma allora s rproporrbb l dlmma dll sstza d u a pror dlla cooscza prgrssa u procsso dl qual o s travd l motor prmo La cooscza prgrssa dl procsso grator d dat è l lmto ch suggrsc l modllo probablstco rapprstatvo dlla raltà cu far rfrmto ll aals, modllo ch dtrma ach l cocluso cu s prv, ch possoo ssr molto dvrs, ach s basat sugl stss dat campoar, s dvrs soo procss ch hao grato dat Esmpo 6 S suppoga ch lac d ua mota la facca tsta s sa prstata k volt; l vdza mprca dspobl è, qud, rapprstata da k succss prov dpdt S tratta d ua vdza la cu rapprstazo attravrso u modllo probablstco dpd strttamt dal procsso ch l ha grata; fatt, s l umro d lac è prfssato, l modllo cu far rfrmto è la dstrbuzo bomal; s vc l umro d lac è l rsultato d u procsso ch rchd d ffttuar tat lac quat occorroo pr l cosgumto d k tst l modllo da cosdrar è la dstrbuzo bomal gatva Ora, Al rguardo cov, comuqu, sottolar ch lttratura s rtrovao umros cotrbut d autor ch propogoo la drvazo d dstrbuzo a pror oggttv a partr dalla dstrbuzo a pror uform (a pror o formatva) proposta Laplac, a qull propost da Jffrys, da Jays, da Brardo da altr autor 3

3 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa s co p s dca la probabltà d tsta, prsza d uo stsso rsultato campoaro k succss prov dpdt l cocluso cu s prv soo dvrs: l prmo caso (umro d lac prfssato) la varabl casual X ha dstrbuzo bomal co fuzo d massa d probabltà f() = f(;,p) = p p p q la cu mda varaza soo, rspttvamt E X p Var X p q ; mtr, l scodo caso la varabl casual X ha dstrbuzo bomal gatva (umro d succss prma d ottr k succss) co fuzo d massa d probabltà (III a vrso) dov = k +, k k P( X ) f ( ; k, p) p ( p) p q la cu mda varaza soo, rspttvamt E X k k kq p La vrosmglaza pr du dvrs procss grator d dat è: 5 p / X p p 5 Var X kq p / 5 ( ) 5 5 p X p p Com s può rlvar l du sprsso soo dtch a mo dlla costat d ormalzzazo (prmutazo co rptzo) L stm d massma vrosmglaza dl paramtro p (probabltà d succsso) soo molto dvrs, rspttvamt, k p,67 5 l prmo caso k p,4 k 5 scodo caso Dvrs soo ach l cocluso cu s prv quado s procd alla vrfca d pots statstch L smpo sottola la rlvaza dll cooscz a pror l codzoar sa la sclta dlla procdura d aals statstca d dat sa l cocluso ch dall aals stss drvao L trprtazo rstrttva (a parr dll autor d qust ot) scorrtta dll oggttvtà dlla scza ch sclud dal procsso sctfco og lmto d soggttvtà o può gustfcar l rfuto dll approcco baysao s basato sull mpgo d probabltà soggttv Probabltà ch drvao dal bagaglo coosctvo possduto dal soggtto ch è chamato ad sprmrl ch lo carattrzzao com sczato Il problma o rsd tato ll uso dll cooscz a pror quato lla atura l corrtto mpgo dll stss; la atura dpd dalla qualtà dllo sczato u corrtto mpgo è rapprstato dalla formula d Bays l 3

4 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa I lttratura soo stat propost umros altr approcc all frza statstca, oltr a qullo classco (frqutsta) qullo baysao (soggttvsta), tra pù rlvat s sgalao l approcco 3 : Fducal (Fshr, 93, ) Dlla vrosmglaza (Barard, 949, 985; Brbaum, 96; Edwards, 97; Azzal, 996 Royall, 997) Dlla plausbltà (Bardorff-Nls, 976) Struttural (Frasr, ) Pvotal (Barard, 949, 985) Prqutal (Dawd, 984, 997 ) Prdttvo (Gssr, 993) Baysao/vrosmglaza tgrato (Atk, ) 6 La formula d Bays N captol prcdt soo stat llustrat mtod ch costoo la drvazo d rsultat ch soddsfao a crt crtr d ottmaltà prdft pr la rsoluzo d problm d stma (putual d trvallo) o d vrfca d pots statstch rlatv a paramtr (uo o pù costat o ot) prsuppodo la cooscza dlla fuzo d massa o d dstà d probabltà dlla vc X ;,,, ; X f f la dspobltà d u campo casual smplc d ossrvazo sulla vc X X X, X,, X,, X co fuzo d massa o d dstà d probabltà dov,,, ;,,, ; ; f f f f ; f ; Nl cotsto dll frza statstca classca, u ruolo partcolarmt rlvat è svolto dalla fuzo d vrosmglaza Al rguardo basta rcordar quato dtto a proposto dl mtodo d stma dlla massma vrosmglaza dl tst dl rapporto d massma vrosmglaza S s ossrva l sprsso aaltca dlla fuzo d massa o d dstà d probabltà dl campo dlla fuzo d vrosmglaza fuzo d vrosmglaza L L ; f / f ; fuzo d massa o dstà d probabltà f ; f / f ; 3 Sull argomto s può cosultar Bartt (999) 3

5 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa s rlva mmdatamt com ad ua appart uguaglaza formal corrspod ua rlvat dffrza sostazal; fatt, s tratta d du probabltà codzoat, l prmo caso, dlla varabl dato uo spcfco rsultato campoaro f / X L, l scodo caso dlla varabl X dato uo spcfco valor d I altr trm, l du fuzo, d vrosmglaza d probabltà (massa o dstà), soo formalmt dl tutto quvalt ma è compltamt dvrsa la loro trprtazo Nl caso dlla fuzo d vrosmglaza l argomto è la varabl o l vttor d varabl ua volta acqusta l formazo campoara ch rapprsta l lmto codzoat, mtr lla fuzo d massa o d dstà d probabltà è l vttor casual dll ossrvazo campoar la cu dstrbuzo dpd da valor assut dal/ paramtro/ / Pr rsolvr problm frzal s è fatto rfrmto, a scoda dlla tpologa d problma, a spcfch varabl casual, vrfcado l comportamto ll uvrso d tutt possbl campo strabl dalla popolazo rapprstata dal modllo f ; f / campoar: ; partcolar, soo stat cosdrat l fuzo dgl lmt la vc stmator la vc lmto pvotal la vc tst X T X, X,, X T pr,,, X X Y T ; = T / pr,,, X X V T ; = T / pr,,, Nota la lgg d dstrbuzo ll uvrso d campo dll varabl sopra lcat è possbl rsolvr problm frzal vrfcado l soddsfacmto d crtr d ottmaltà prdft Al rguardo s sgala ch, lla graltà d cas, quado l modllo è carattrzzato da pù paramtr ma solo alcu soo d trss occorr trvr su cos dtt paramtr d dsturbo, coè su paramtr a qual o s è trssat ma ch soo prst qual lmt carattrzzat la dstrbuzo campoara dll tr varabl sopra lcat ch spsso o costoo l prsgumto dll obttvo prfssato I tal crcostaz, s o s rsc ad ottr rsultat d trss, qualuqu sa l valor assuto dal/da paramtro/ d dsturbo s procd sosttudo al/ valor/ cogto/ dl paramtro/ ua sua/loro stma Oprazo qust ultma o smpr cost l prsgumto dll obttvo dsdrato Nll pag sgut s avrà modo d vdzar com l problma dlla prsza d paramtr d dsturbo trov ua mmdata soddsfact soluzo l cotsto baysao Ioltr, tal cotsto è possbl affrotar rsolvr modo soddsfact ach l problma dlla sclta dl dlla forma aaltca dl modllo qual rapprstazo smplfcata dlla raltà Nll approcco baysao o s fa pù rfrmto ad u modllo probablstco ; / f f rapprstatvo dl fomo d trss oto a mo dl valor X X 33

6 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa assuto dal/ paramtro/ ch lo carattrzzao d dvduao lo spcfco modllo qual/ lmto/ codzoat/, s fa vc rfrmto ad ua dstrbuzo coguta (d massa o d dstà d probabltà) f, Etramb gl argomt dlla fuzo hao atura d varabl casual, la prma dovuta alla atural varabltà dl fomo dagato (varabltà alatora) la scoda dovuta alla macata cooscza dl suo valor umrco (varabltà vrtual o pstmca) Rprddo quato dtto a proposto dll probabltà codzoat d vt valgoo l uguaglaz dov casual, / f f f, / f rapprsta la forma aaltca dl modllo rapprstatvo dl vttor Dall du rlazo d uguaglaza s drva l sprsso aaltca dlla formula d Bays / f / f / f f / d dov è stato potzzato u spazo d varabltà d paramtr cotuo S azché far rfrmto alla varabl X s cosdra l vttor casual campoaro dov X X, X,, X,, X / f la formula d Bays dvta f / f / / f f d L L dfsc la dstrbuzo margal d / f f d X X, X,, X,, X, usualmt dtta dstrbuzo prdttva a pror d X, ch rapprsta la costat d ormalzzazo dlla dstrbuzo a postror d mtr l smbolo sta ad dcar la rlazo d proporzoaltà tra l du quattà post a cofroto; mtr, L rapprsta uclo (krl gls) dlla dstrbuzo a postror 4 4 Il uclo d ua fuzo d massa o d dstà d probabltà è dato dalla rapprstazo aaltca dlla stssa fuzo dopo avr omsso tutt trm ch o soo fuzo dlla varabl casual d rfrmto, ad smpo alla fuzo d dstà d probabltà dlla vc ormal f, / / 34

7 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa A frot dlla dstrbuzo prdttva a pror s colloca la dstrbuzo prdttva a postror / /, / f f d ch fa rfrmto ad u uovo campo d possbl ossrvazo X avdo gà ossrvato mafstazo dllo stsso fomo X = L fuzo sopra trodott hao la sgut trprtazo probablstca f L f f f X / dstrbuzo codzoata pl paramtro/ ( probabltà a postror ) / dstrbuzo codzoata dl campo ( probabltà a pror ) / dstrbuzo dl paramtro/ ( vrosmglaza) dstrbuzo dl paramtro/ ( probabltà a pror ) dstrbuzo margal dl campo ( probabltà prdttva a pror / dstrbuzo margal dl campo ( probabltà prdttva a postror ) ov la probabltà va tsa com fuzo d dstà d probabltà l caso cotuo com fuzo d massa d probabltà l caso dscrto L rago prcpal ch hao frato lo svluppo l mpgo dlla tora d mtod propr dll frza statstca baysaa soo da rcrcar soprattutto du problm prst lla formula d bays Il prmo è rapprstato dal gà sgalato rfuto da part d molt autor dl modo soggttvo co cu s prv alla msura dlla probabltà a pror, ach a prscdr dall dffcoltà d traduzo, a volt molto rlvat, dll cooscz a pror dstrbuzo d probabltà sgfcatv Il scodo problma rsd, vc, lla dffcoltà d drvazo forma chusa (aaltcamt) dll sprsso / f f d Ad tramb problm soo stat propost dll soluzo ch o soo prò codvs dall tra comutà sctfca soprattutto pr cò ch cocr l problma dlla sclta dlla dstrbuzo a pror Ua dll propost d rlvaza o margal, ch offr ua soluzo rlatvamt soddsfact ad tramb problm, è rapprstata dall mpgo dll dstrbuzo a pror cougat trodott l paragrafo 4 dl prmo captolo Ifatt, tal sclta, fordo drttamt l sprsso aaltca dlla dstrbuzo a postror, oltr a rsultar ragovol molt cotst d rcrca o rchd l computo dlla dstrbuzo margal f I raltà, opratvamt, l passaggo dalla dstrbuzo a pror cougata alla dstrbuzo a postror avv facdo rfrmto al uclo ) d è assocato l uclo ch cost d scrvr f, / 35

8 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa dlla dstrbuzo: dal uclo dlla dstrbuzo a pror cougata s passa al uclo dlla dstrbuzo a postror alla cu sprsso complta s prv attravrso la facl drvazo dlla costat d ormalzzazo Il macato rcorso all mpgo dll dstrbuzo a pror cougat rchd cssaramt l computo dll sprsso a domator dlla formula d Bays ch, com gà sottolato, solo rar occaso può ssr ottuta pr va aaltca L stss dffcoltà d drvazo aaltca s prstao allorquado s vuol procdr ad ua sts dlla dstrbuzo a postror attravrso l computo d dc carattrstc (ad smpo momt dlla vc ) S s cosdra ua grca fuzo g s dv procdr, coè, al computo dlla rlazo E g g / d g f / d f / d dov l dffcoltà d drvazo aaltca rguardao tramb gl tgral, qullo a domator qullo a umrator dll sprsso I mtod classc d tgrazo umrca, a rago dlla complsstà d problm, lla graltà d cas, o portavao a soluzo soddsfact cu s è vc prvut attravrso l rcorso a cosdtt mtod Motcarlo (Markov Cha Mot Carlo - MCMC) All troduzo d mtod MCMC ambto statstco s dv sostazalmt attrbur l orm svluppo, sa l cotsto torco ch qullo applcatvo, dll frza Baysaa Il prcpo s cu soo basat mtod MCMC è rlatvamt smplc, s tratta d ffttuar oprazo rptut d campoamto casual da ua popolazo d rfrmto fo a prvr ad ua approssmazo dlla dstrbuzo dsdrata attravrso l mpgo dll cat d Markov rcorrdo a spcfc algortm propost lttratura Tra pù ot d pù largo mpgo s sgalao l algortmo d Mtropols- Hastgs, l Gbbs samplr, lo slc samplg l prfct samplg; al rguardo s sgala, partcolar, l softwar gratuto WBUGS 5 L dffcoltà d traduzo dll formazo a dsposzo dstrbuzo d probabltà a pror, soprattutto, l rfuto dll stss quato carattrzzat da lvata soggttvtà (prcoctt) assocat alla costatazo ch molt stuazo d rcrca o s rt suffct, o dl tutto asst, l bagaglo formatvo dspobl a pror, hao suggrto l troduzo dll cosdtt dstrbuzo a pror oggttv 6 Al paradgma baysao fao, prtato, rfrmto almo du scuol d psro: da u lato s collocao sosttor dlla sclta soggttva dlla probabltà a pror 5 S tratta d u softwar molto flssbl svluppato ll ambto dl progtto Baysa frc Usg Gbbs Samplg (BUGS) ch cost l aals baysaa d modll statstc complss attravrso l mpgo d mtod Markov Cha Mot Carlo (MCMC) Il progtto avvato l 989 dall Utà Bostatstca MRC d Cambrdg è stato succssvamt svluppato da qusta Utà collaborazo co l Impral Collg School of Mdc d Lodra 6 Altr trm utlzzat pr qualfcar tal dstrbuzo soo: o formatv, d dfault, covzoal, d rfrmto, o soggttv 36

9 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa (baysa soggttvst), qusta catgora s colloca ach l autor d qust ot, dall altro lato s collocao coloro ch rtgoo sa possbl prvr ad ua msura oggttva dll probabltà a pror (baysa oggttvst) Nll ambto d qusta scoda catgora vao prò dstt almo dvrs flo: baysa mprc ch rtgoo gustfcato l mpgo dl mtodo baysao solo quado s dspo d u vdza mprca a pror adguata; coloro ch suggrscoo l mpgo d dstrbuzo a pror usualmt, ma mpropramt, dtt o formatv 7 I qusta sd o s procdrà all approfodmto dll argomto 8 lmtado l sposzo a brv cosdrazo su alcu tpolog d dstrbuzo a pror alla prstazo d alcu smp d drvazo dlla dstrbuzo a postror dpdza d ua sclta acrtca 9 dlla dstrbuzo a pror I partcolar, vrrao llustrat smp d drvazo dlla dstrbuzo a postror pr alcu varabl casual cosdrado l dstrbuzo a pror cougat alcu dstrbuzo a pror o formatv Prma d procdr ll smplfcazo rsulta covt atcpar alcu coctt ch vrrao rprs mglo prcsat ll pag succssv Nll trodurr l coctto d probabltà a pror è stata utlzzata la grca sprsso, s tratta ovvamt d ua rapprstazo ch cssta d ultror lmt carattrzzat Trattados d ua dstrbuzo d massa o d dstà d probabltà, l sprsso aaltca sarà gralmt carattrzzata da uo o pù paramtr,,, s tal dpdza s dv utlzzar la forma usualmt dtt prparamtr; prtato, pr splctar / pror, mtr l sprsso dlla probabltà a postror dvta pr rapprstar la probabltà a f /, f /, /, f f /, d L, L, f d cosguza, l dstrbuzo prdttv a pror a postror assumoo la forma f / f /, d 6 - Dstrbuzo a pror cougat /, / /, f f d 7 Uo d pù autorvol sosttor dll approcco baysao oggttvo Brardo (997) al rguardo dchara: Noformatv prors do ot st A dalogu wth José M Brardo 8 Il lttor trssato può utlmt cosultar, tra gl altr, l cotrbuto d Brgr Th Cas for Objctv Baysa Aalyss qullo d Goldst (6) Al rguardo partcolarmt trssat soo ach lavor d Joyc (9) qullo d Robrt al, (9) 9 Il lttor trssato al tma può utlmt cosultar cotrbut d Kass Wassrma (996) qullo d Brgr, Brardo Su (9) Pr u approfodmto sulla drvazo soggttva dll dstrbuzo d probabltà a pror s può, tra gl altr, cosultar l lavoro d Jkso (5) 37

10 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa S rporta la dfzo d dstrbuzo cougata trodotta l paragrafo 4 dl I captolo d qust Not: Quado la dstrbuzo d probabltà a postror appart alla stssa famgla dlla dstrbuzo a pror, qust ultma v dtta dstrbuzo d probabltà cougata Com s avrà modo d vrfcar scorrdo gl smp d sguto rportat, l rcorso all dstrbuzo a pror cougat prsta otvol vatagg; fatt, s tratta spsso d dstrbuzo molto flssbl ch propro pr qusta loro carattrstca s rvlao adguat molt stuazo d rcrca Comuqu, al f d vtar rrat cocluso, l rcorso ad ua tal tpologa d dstrbuzo o dv ssr acrtco ma dv ssr lmtato a sol cas cu s possd u adguato patrmoo formatvo a pror ch gustfch l mpgo Esmpo 6 (dstrbuzo d Broull) Pr la dstrbuzo d Broull f ; p p p pr :, p;, è dstrbuzo cougata a pror, fatt p/ p p p p dp L p; p p p p p f f p p dp, la vc Bta p p p p dov, ch è ua dstrbuzo Bta co paramtr Esmpo 63 (dstrbuzo Bomal) La vc Bta è ach dstrbuzo cougata a pror dlla dstrbuzo Bomal, fatt, rprddo la fuzo d massa d probabltà dlla dstrbuzo bomal f(;,p) = p p p q s ha 38

11 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa ; m m L p m p p p p / m p p / f f m p p dp =!! p p p p!!!!!! p p p p dp!!!!! p!! p p B(, ) m m p = p p p p dov m, m ch è ua dstrbuzo Bta co paramtr Esmpo 64 (dstrbuzo Multomal) Com gà sottolato l Cap la vc d Drchlt m m k k k p k p ( p) ( p; ) è dstrbuzo a pror cougata dlla vc multomal fatt! k f ( ; p) p p p k k q!! k!! k k k k k m m p p p p ( p / m) ch è ua dstrbuzo d Drchlt co paramtr Esmpo 65 (dstrbuzo d Posso) La fuzo d vrosmglaza dlla vc d Posso è La vc Gamma m L( ; )! 39

12 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa ( ) è dstrbuzo a pror cougata dlla vc d Posso, fatt / L ;! f f p p dov, ch è ua dstrbuzo Gamma co paramtr Esmpo 66 (dstrbuzo Normal) La fuzo d vrosmglaza dlla vc Normal è L, ; / Pr ota, la vcgamma vrsa ( / ;, ) è dstrbuzo a pror cougata dlla vc Gamma vrsa, fatt dalla vrosmglaza s ha L, / / S Y, la vc X = /Y è dtta Gamma vrsa d ha fuzo d dstà ( ;, ) f cosdra la vc Gamma azché la vc Gamma vrsa S sgala ch a rsultat aalogh s prv ach s s 33

13 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa /, ;, dov / L / ; f f ch è ua dstrbuzo Gamma vrsa co paramtr coè : /, Iv, Pr ota, la vc ormal / ;, / è dstrbuzo a pror cougata dlla vc Normal, fatt f / / / f /, ;, / f / f / / Ma da cu dov /, ;, = La dstrbuzo margal a postror d / è qud ormal /, N, 33

14 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa S dmostra la rlazo c v d Rlatvamt pù orosa è la drvazo dlla dstrbuzo a postror quado tramb paramtr (mda varaza) soo cogt S s cosdrao l dstrbuzo a pror sopra dft, s assum mplctamt l dpdza tra ma qusto caso o è possbl ottr ua dstrbuzo a 33

15 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa pror cougata, cosa ch rsulta vc possbl s s assum ua rlazo d dpdza tra l varabl splctadola lla dfzo dlla dstrbuzo a pror, / L du dstrbuzo sotto dft (ormal Gamma vrsa) / pr / / / / / grao la dstrbuzo coguta Normal-Gamma vrsa coè / /, / /, NIv, ; ;, ch è dstrbuzo a pror cougata d ua vc ch appart alla stssa famgla Ifatt, s s cosdra la vrosmglaza tdo prst ch L, ; / s ha / / L, ; / ( ) s la dstrbuzo a postror coguta è 333

16 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa, / / L, ; f / ( ) s / / / f + ( ) s / / / ( ) s / / dov pr drvar l ultmo trm dll ultma uguaglaza è stata utlzzata la rlazo f la cu dmostrazo è la stssa svolta prcdza dov coffct ch moltplcao du quadrat soo S s po : s ha azché /, ( ), s, / / L, ;, ( ) s f ch è ua vc Normal-Gamma vrsa, coè, / NIv, ;, La dstrbuzo a postror margal dlla vc s dduc mmdatamt dall ultma rlazo sopra scrtta; fatt, s s tgra rsptto a μ s ott / / f Qusta oprazo rapprsta u smpo d quato affrmato prcdza rguardo al trattamto d paramtr d dsturbo ch possoo ssr spsso rmoss attravrso ua smplc oprazo d margalzzazo 334

17 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa + / d - / Ch è ua dstrbuzo Gamma vrsa co paramtr qud ( ), s / Iv, Iv, s La dstrbuzo codzoata a postror d μ è qud /, /, / N /,, / Pr drvar la dstrbuzo margal a postror d μ cov cosdrar ua sottofamgla dlla vc gamma vrsa attravrso ua spcfcazo d paramtr carattrstc podo dstà dvta, = ( ) lla dstrbuzo a pror dlla varaza La ( ) / ch è ua vc ch quadro vrsa scalata co ν grad d lbrtà paramtro d scala IvS, Co tal spcfca la dstrbuzo a pror coguta assum la forma coè La vc ch-quadro vrsa è dfta com sottofamgla dlla vc gamma vrsa mdat ua spcfca d paramtr Nlla vc ch-quadro vrsa scalata, oltr al paramtro ch msura grad d lbrtà, è prst u ultror paramtro d scala 335

18 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / /, / / / ch è ua vcormal- ch quadro vrsa scalata co ν grad d lbrtà paramtro d scala coè, NIvS, ;, Co tal spcfca la dstrbuzo a postror coguta assum la forma, / / L, ; f ( ) s / / / / / / f da cu, / 3 s / / / ( ) s dov,, = ( ) s Prtato, la dstrbuzo a pror coguta è data dal prodotto d ua vc ormal ua vc coè vrsa scalata, / NIvS, ;, ( ) s, / N IvS, ;, qud, la dstrbuzo margal a postror d è 336

19 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / IvS, s IvS, coè, la dstrbuzo margal a postror dlla varaza è ua vc ch-quadro vrsa scalata co grad d lbrtà co paramtro d scala s Mtr la dstrbuzo margal a postror d dstrbuzo a postror coguta /, / d / s ott tgrado rsptto a ( ) s / S s po s ha / 3 ( ) s d d A s A z z A / A / z d d dz 3 / A z A / / z dz A z dz z z A s / s / co = s / / ch, a mo dlla costat d ormalzzazo, rapprsta ua vc t scalata o ctral co = grad d lbrtà, paramtro d o ctraltà paramtro d scala / s, coè la / 337

20 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / NCSt, NCSt, s Esmpo 67 (dstrbuzo multdmsoal) Nl Cap s è gà avuto modo d cosdrar la vc d Drchlt com dstrbuzo a pror cougata dlla vc multomal, qusto smpo s procdrà all sam dlla vc ormal a k dmso Oprado modo aalogo a quato gà fatto pr la vc ormal smplc rcordado ch la fuzo d dstà d probabltà dlla vc ormal a k dmso è sprssa da dov ; ; k k f( ;, ) ( ) k k k k k k k kk k k k Pr oto, la vc, s s potzza ch la matrc d dsprso dstrbusc com ua Wshart vrsa co paramtr (grad d lbrtà) (dfta postva) s (matrc dfta postva) è facl vrfcar ch la stssa è dstrbuzo a pror cougata dlla vc multdmsoal Wshart vrsa Ifatt, poché la fuzo a pror d dstà d probabltà è dov k k tr tr k k ( ) / k / è la fuzo gamma multvarata k kk /4 / / / mtr la fuzo d vrosmglaza pr u campo d dmso stratto da ua vc ormal a k dmso è L(, / X ) ( ) k s ha 338

21 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa ( X ) L(, / X ) ( X ) f X k k k ( ) k / k k k / tr tr dov,,, k è l -smo vttor dll ossrvazo campoar Esmpo 68 (famgla spozal) A rsultat sopra llustrat s potva prvr attravrso spcfcazo dll cocluso cu s prv s s fa rfrmto alla famgla spozal rgolar la cu dstrbuzo a pror cougata è faclmt drvabl Ifatt, s s rprd cosdrazo la fuzo d vrosmglaza d ua vc appartt alla famgla spozal rgolar carattrzzata da u solo paramtro (cfr paragrafo dl scodo captolo) f (,,, ; ) f ; f ; a h t s troduc ua dstrbuzo a pror pr l paramtro appartt alla stssa famgla spozal ( /, ) s ott la dstrbuzo a postror a pr, t ( /,, ) a a ch appart alla stssa famgla L stso al caso mult-paramtrco è mmdata Ifatt, s la dstrbuzo a pror appart alla famgla spozal dov,,,,, r ( /, ) r a,,, k, tdo prst ch la vrosmglaza dlla famgla spozal l caso mult-paramtrco è 339

22 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa r L a h S ott la dstrbuzo a postror dl vttor d paramtr t ( /,, ) ch appart alla famgla spozal r t a a 63 - Dstrbuzo a pror o formatv La prma rgola pr la dtrmazo d ua dstrbuzo a pror o formatva è qulla collgata al prcpo dlla rago suffct, usualmt attrbuta a Laplac, ch assga u ugual probabltà a tutt l possbl altratv Esmpo 69 (Dstrbuzo bomal dstrbuzo a pror Uform) Nll smpo 63 s è procduto alla drvazo dlla dstrbuzo a postror dlla bomal troducdo la vc Bta com a pror La dstrbuzo a postror è sprssa dalla formula f p /, = p p B(, ) ch è la fuzo d dstà d probabltà d ua vc d tpo Bta co paramtr Ovvamt, pr potr utlzzar qusta dstrbuzo occorr cooscr valor d paramtr ch dtfcao la spcfca vc appartt alla famgla Bta; fssazo d valor ch può ssr ffttuata utlzzado l patrmoo formatvo a dsposzo o modo compltamt soggttvo S o s possd alcua formazo oggttva s rt opportuo vtar la valutazo puramt soggttva s possoo scglr valor ch dfsc la fuzo d dstà a pror pr l paramtro p f p ch rapprsta la fuzo d dstà d u vc rttagolar, coè ua varabl casual uform dfta ll trvallo utaro La dstrbuzo rttagolar, dfta u grco trvallo ab, co a b dstrbuzo a postror sopra dfta dvta f, v dtta dstrbuzo a pror o formatva La f p f / p p p p /, f p f / p dp B(, ) Tra l altr propost d drvazo dlla dstrbuzo a pror qulla ch ha avuto l maggor mpatto d pù largo mpgo è stata proposta da Jffrys (946) Qusto autor suggrsc com rgola gral pr la drvazo dlla dstrbuzo a pror la radc quadrata postva dl dtrmat dlla matrc dll formazo d Fshr 34

23 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / log f ; dt I dt E, j j / / log f ; log f ; dt E log f X ; Cov, j j Altr trssat propost, ma o st da crtch, soo qulla basata sulla massmzzazo dll tropa, svluppata soprattutto da Jays (957, 968, ) qulla basata sulla massmzzazo dlla dvrgza attsa d Kullback-Lblr E log / tra la dstrbuzo a postror la dstrbuzo a pror, la rfrc pror, proposta zalmt da Brardo, (979) svluppato succssvamt soprattutto da qusto stsso autor collaborazo co Brgr (989, 99, 99, ) 3 U asptto su cu rchamar l attzo quado s propo l utlzzo d ua dstrbuzo a pror d rfrmto (dstrbuzo o formatva) è la possbltà ch s tratt d ua dstrbuzo mpropra, coè d ua dstrbuzo pr la qual val la rlazo d ch può comportar com cosguza ua dstrbuzo a postror mpropra, qusto caso o è possbl alcua frza; o sorg ssu problma, vc, quado pur ssdo mpropra la dstrbuzo a pror la corrspodt dstrbuzo a postror è propra 64 - Stma vrfca d pots ottca baysaa N captol prcdt so stat llustrat alcu tra mtod statstc propost lttratura pr la rsoluzo d problm d stma, putual d trvallo, d vrfca d pots rlatvamt all ttà cogta, coè al paramtro o a paramtr ch carattrzzao l modllo f, la cu forma aaltca s prsum ota Soo stat dscuss, com pù volt sottolato, l soluzo propost l cotsto dl cos dtto approcco frqutsta all frza statstca (frza statstca classca) I qusto paragrafo vrrao llustrat molto sommaramt l soluzo propost l cotsto baysao 3 Al rguardo s sottola ch dvrs autor hao proposto d utlzzar la trmologa rfrc pror (dstrbuzo a pror d rfrmto) azché la trmologa dstrbuzo a pror o formatva sostdo, a rago scodo l autor d qust ot, ch qualuqu dstrbuzo a pror cot u qualch lmto formatvo Accttado tal proposta s potrbb cootar, com avv altr cas, tal dstrbuzo rfacdos all autor ch l ha proposta: qud dstrbuzo a pror d Brardo, o ach d Brardo-Brgr, azché rfrc pror S sottola, oltr, ch l tr propost d Jffrys, Brardo Jays, pur dffrzados tra loro, hao umros put d cotatto 34

24 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa Stma putual d trvallo d paramtr carattrstc Da quato llustrato paragraf prcdt dovrbb mrgr modo vdt la logca d bas dl cos dtto paradgma baysao quado s vuol procdr all aals d u qualuqu fomo attravrso l mpgo d u modllo probablstco capac d forr ua rapprstazo soddsfact Il modllo, la cu forma aaltca s è prsupposta ota, è carattrzzato da uo o pù paramtr cofrot d qual s prsum ua cooscza a pror crta ch v sprssa facdo rcorso ad uo spcfco modllo probablstco Il lvllo d cooscza attual dl rcrcator s crmta attravrso l acquszo d formazo campoar (oggttv) ch costoo l aggoramto dllo stato d cooscza attravrso u passaggo dalla dstrbuzo d probabltà a pror alla dstrbuzo d probabltà a postror ch costturà l a pror dl grado succssvo l procsso d apprdmto dall sprza I qusto cotsto, l utlzzazo d dat campoar pr drvar ua stma putual d rsulta mpropro, fatt, dat dvoo srvr sclusvamt pr procdr all aggoramto dlla cooscza, ch sarà acora ua volta sprssa attravrso ua dstrbuzo d probabltà, solo quado la dstrbuzo a postror dgra s rduc ad u solo puto, cu è assocata ua probabltà par ad, s prfgura u uso d dat campoar pr la drvazo d u valor putual d Comuqu, dvrs cotst opratv può rsultar covt (o cssaro) sttzzar la dstrbuzo attravrso u uco dc, la sclta pù ragovol dovrbb rcadr sul valor d cu è assocata la probabltà a postror pù lvata (la moda dlla dstrbuzo), raltà s rcorr, lla graltà d cas, al calcolo dlla mda artmtca, talvolta, alla mdaa Ad smpo, l caso moo-paramtrco (u solo paramtro carattrstco) pr drvar ua stma putual d s può procdr all applcazo dl mtodo dlla massma vrosmglaza ottdo com rsultato la moda dlla dstrbuzo ma / Altratvamt s può procdr al calcolo dlla mda artmtca 4 mdaa ˆ E g d / d / d / ˆ o dlla 4 Ovvamt, oltr alla mda artmtca, s può procdr al calcolo d tutt momt d trss (mda, varaza, cc) spcfcado modo adguato la fuzo g lla rlazo E g g d / 34

25 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa I og caso l oprazo d stma putual cotraddc la logca baysaa, logca ch rsulta vc tramt soddsfatta s s procd al computo d ua stma pr trvallo Gl trvall baysa d cofdza, usualmt domat trvall o rgo (l caso s cosdro pù paramtr) d crdbltà, o solo soo cort co la logca baysaa ma rsolvoo ach alcu problm trprtatv Com s è avuto modo d sottolar, quado è stata trattata la stma d trvallo l cotsto classco la quattà ch, zalmt, coè quado è rfrta all lmto pvotal, è ua probabltà, al trm dl procsso prd tal atura; fatt, o s parla pù d lvllo d probabltà ma d lvllo d cofdza Nlla stma pr trvallo, l ttà casual è l trvallo stsso ch ha ua probabltà par all d cotr al suo tro l vro valor d (costat cogta), ma ua volta ottuto l trvallo o ha pù sso parlar d probabltà quato l trvallo, o cot al suo tro l vro valor d, allora la probabltà è par ad, o o lo cot, allora la probabltà zro Il trm cofdza sta ad dcar ch s cofda ch l trvallo ottuto sa uo dgl % dgl trvall ch cotgoo al propro tro l vro valor d S s dca co C la rgo d crdbltà a postror pr / C S qusta sprsso s sosttusc alla probabltà a postror probabltà a pror s ott la rgo d crdbltà a pror C s ha / Dall cosdrazo sopra svolt rsulta modo dl tutto vdt ch la rgo (trvallo) d crdbltà o è uvocamt dvduato, ach qusto caso com sottolato a proposto dgl trvall d cofdza, l obttvo ch s vuol prsgur è qullo dlla drvazo dlla rgo pù formatva coè dlla rgo ch, al prfssato lvllo d probabltà, ha la dmso pù pccola La cooscza dlla dstrbuzo a postror dl paramtro cost, ovvamt, l calcolo mmdato d trvall d stma (trvall d cofdza baysa o trvall d crdbltà); ad smpo u trvallo al lvllo d crdbltà α è sprsso da qualuqu trvallo L L ch soddsfa l uguaglaza, L d / L Com l caso gà trattato, tra tutt gl trvall ch soddsfao tal rlazo s dovrà scglr qullo maggormt formatvo ch l caso d u solo paramtro è rapprstato dall trvallo d lughzza mma La dffrza tra gl trvall d cofdza gl trvall d crdbltà è sostazal; fatt, com gà charto prcdza, mtr pr gl trvall d cofdza è l trvallo stsso L L ch a pror, coè prma d ffttuar la, la 343

26 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa rlvazo campoara, ha ua probabltà dll ( α) % d cotr al suo tro l vro valor dl paramtro ϴ, l caso dgl trvall d crdbltà la probabltà è rfrta al paramtro ϴ (varabl casual) ch ha ua probabltà dll ( α) % d ssr cotuto L, L ll trvallo Rprddo cosdrazo quato dtto l Captolo 3 rguardo agl trvall d cofdza, s può procdr alla dtrmazo dgl trvall d crdbltà sza alcua dffcoltà, fatt, bastrà far rfrmto alla dstrbuzo a postror dl paramtro o d paramtr d trss S sottola, acora ua volta, la suprortà dgl trvall d crdbltà, rsptto agl trvall d cofdza, sa dal puto d vsta trprtatvo ch da qullo opratvo quado soo prst paramtr d dsturbo Nl caso dgl trvall d cofdza l problma s può rsolvr attravrso ua stma putual dl paramtro d dsturbo ch rchd, prò la drvazo d ua dvrsa dstrbuzo campoara dgl strm dll trvallo stsso; drvazo ch alcu cas o prsta alcua dffcoltà, com ad smpo la dtrmazo dgl trvall d cofdza pr la mda d ua dstrbuzo ormal smplc quado la varaza è cogta (dalla dstrbuzo ormal s passa alla varabl t d Studt), ma ch altr cas prsta otvol dffcoltà, al rguardo basta ctar l caso dlla dtrmazo dgl trvall pr la dffrza tra md d du dstrbuzo ormal quado l du corrspodt varaz o soo ot Com sgalato pù volt, l cotsto baysao l problma dlla prsza d paramtr d dsturbo s rsolv attravrso ua smplc oprazo d margalzzazo dlla dstrbuzo a postror Tst d pots Nl cotsto classco d vrfca d pots statstch soo stat trodott du pots, l pots ulla o pots d lavoro dov H : lpots altratva H :, fssato u lvllo d sgfcatvtà α (probabltà dll rror d I tpo, coè rfutar u pots vra) s procd al rfuto o all accttazo (o rfuto) dll pots ulla a scoda ch l puto campoaro cada o mo lla rgo crtca o, altratvamt s procd alla dtrmazo dl p-valu (probabltà d ossrvar l valor assuto dalla varabl casual tst s l pots ulla è vra) agdo d cosguza Nl cotsto baysao l problma d vrfca d pots dvta baal, fatt, avdo a dsposzo la dstrbuzo a postror dl paramtro/ bastrà procdr al computo dll probabltà a postror rlatv all du pots / / P / P / procdr alla sclta dll pots ch prsta la probabltà pù lvata, coè scglr H: o H: fuzo dl valor assuto dal rapporto a postror (postror odds) P / / P / / s favorvol ( > ) o mo ( < ) all pots H: Aalogamt al rapporto tra l probabltà a postror s può procdr al calcolo dl rapporto tra l probabltà a pror (pror odds) 344

27 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa Il rapporto tra gl odds B P P / P / P / / / / / P v dtto fattor d Bays favor dll pots H:, ovvamt l fattor d Bays favor dll pots B H : P è sprsso da P / P / P / / B / P Procdr ll accttazo o al rfuto d ua spcfca pots altratva H : H : cotro l pots fuzo dl valor assuto dall probabltà a postror dll du pots appar dl tutto ragovol, raltà tal approcco prsta dgl covt d atura tutt altro ch margal Ad smpo, l caso d u pots ulla smplc cotro l pots altratva composta bdrzoal,la H : H : procdura è applcabl ssdo par a la probabltà a postror dll pots ulla quato P P / f / d / Il problma s può rsolvr o tdo prst la rlazo ch tra trvall d stma tst dll pots, procddo all accttazo s rcad ll trvallo d crdbltà calcolato pr la vc, ma la procdura o ha pù la atura d tst d pots, oppur assgado all pots ulla ua probabltà a pror maggor d P, coè srdo ua probabltà a pror mstura tra ua vc dscrta d ua vc cotua U modo altratvo pr rsolvr l problma d sclta dll pots è qullo d far rfrmto al valor assuto dal fattor d bays Procdura qusta ch, pur o rsolvdo l problma d sclta tra u pots ulla smplc d u pots altratva composta, prsta, com s avrà modo d charr ll rgh succssv, dubb vatagg La procdura basata sul fattor d Bays o prsta dll carz ach quado tramb l pots soo smplc Ifatt, s tramb l pots soo smplc s ha f / / B prtato l fattor d Bays / / / / / f / f / f / f / f / / s rduc al rapporto tra l du vrosmglaz Rsultato qusto ch, s pr u vrso può soddsfar crtc dll approcco baysao, pr altro vrso o può soddsfar fautor 345

28 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa dll approcco baysao soggttvo quato mplca ua lmazo mccaca dlla cooscza a pror 5 L utltà dl rcorso al fattor d Bays mrg modo vdt quado al problma d sclta dll pots v attrbuta la valza d sclta tra modll altratv d rapprstazo dlla raltà fomca S co M s dca u grco modllo capac d rapprstar l fomo oggtto d aals, l pots può ssr trprtata ach com, coè H : l pots ch l modllo rapprstatvo dlla raltà sa propro H : M, dov rapprsta lo spazo cott tutt possbl modll rapprstatv dl fomo oggtto d aals, mtr l pots rsta spcfcata da co M H :, l fattor d Bays assum la forma B / P / H : P f d P / P f / d Il fattor d Bays, ch è dfto dal rapporto podrato dll vrosmglaz d du modll, msura la capactà rlatva dl modllo rsptto al modllo, d rapprstar la raltà; proprtà, qusta, dubbamt apprzzabl Pr cotro, la sclta dl modllo basata sul cofroto tra l probabltà a postror sollva dll prplsstà soprattutto s s t coto d quato rportato lla prmssa a qust Not: tutt modll soo sbaglat (hao qud probabltà d ssr vr) ma qualcuo è utl; ovvamt, l utltà è strttamt codzoata dalla sua capactà rapprstatva dlla raltà 6 S modll altratv o soo M M ma s l fattor d Bays potrà ssr calcolato pr M M pr,,, s M s s / cofrot tra modll Calcolo qusto o cssaro pr oprar la sclta dl modllo, fatt, pr prsgur tal faltà bastrà oprar s cofrot: s calcola l fattor d Bays pr modll, l modllo mglor v cofrotato co l modllo M s M M M 3 cos va fo al cofroto tra l modllo d l modllo rsultat dal procsso d slzo ch ha vdzato la maggor capactà rapprstatva 5 Dvrsa è la stuazo quado la cooscza a pror prd d rlvaza a rago dll acquszo d vdza mprca (campoara oggttva) smpr pù stsa Al rguardo s sgala la covrgza tra rsultat baysa qull classc al crscr dlla dmso campoara, s dmostra, fatt, l quvalza astotca d du approcc 6 I lttratura è stata proposta ua rgola pratca pr trprtar l valor umrco assuto dal fattor d Bays: s B l vdza (a pror campoara) supporta l modllo M ; s s s s / B B / l vdza cotro l modllo M è mma; l vdza cotro l modllo M B l vdza cotro l modllo B l vdza cotro l modllo M è dcsva è sostazal; M è molto lvata; 346

29 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa 65 - Rgrsso baysaa Com llustrato l captolo prcdt l modllo d rgrsso lar multpla s studa la rlazo tra ua varabl spgata (varabl dpdt) y k- (k 3) varabl splcatv Il modllo è sprsso dalla rlazo y β β β3 3 ch forma matrcal dvta dov, β k k u y X u, k, 3 j k,k k,, pr,,, y 3 jk u y 3 j k u y ; X ; ; y k, u, j u y u 3 j k k L pots d spcfcazo post alla bas dl modllo soo: la matrc è costtuta da varabl matmatch o dtrmazo d X k varabl casual, soo coè costat rptut campo; partcolar l prmo vttor coloa dlla matrc è costtuto da, l coffct rapprsta, prtato, l trctta dll prpao d rgrsso; la matrc è d rago massmo = k ; 3 l vttor X k u ha compot alator co valor attso ullo ( varaza costat (omoschdastctà corrlat ( pr j E u u j Var u E u ), forma matrcal u,,,, Var u Σ E u u I 4 pots d ormaltà dl vttor casual u N I, E u ), ) rsultao S l prm tr pots soo soddsfatt, s possoo drvar l stm d mm quadrat ˆ dl vttor ch soo dat da: ˆ β = X X - X y dov l apc rportato ad spot vuol dcar ch s sta facdo rfrmto alla matrc trasposta S rcorda ch tal stm soo l mglor (mmzzao l rror quadrato mdo) ll ambto dll stm lar corrtt (BLU- Bst Lar Ubasd) 347

30 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa La stma corrtta dlla varaza σ è data da: ˆ ˆ ˆ / k) ˆ ˆ y y y y y X y X / k) y I X X X X y / k) u ˆ uˆ / k) S S s troduc l pots d ormaltà s può calcolar la vrosmglaza / L β, f β, / y, X f y p y β / p y - Xβ y - Xβ La stma d massma vrosmglaza dl vttor è dtca all stm d mm quadrat: X X X y ˆ ma, com gà rchamato l captolo prcdt l stm d massma vrosmglaza soo l mglor ll ambto dll stm corrtt (BU- Bst Ubasd) Ioltr valgoo l proprtà dgl stmator sotto lcat: l pots d corrlazo tra l compot accdtal mplca l dpdza, cosgu qud l dpdza tra l compot vttor casual ~ y ~ y N, N X X X, X X W k ˆ / ~ k Il vttor casual la vc W soo dpdt u (,,, ) y (,,, ) Qust rsultat costoo d procdr alla dtrmazo dgl trvall d cofdza pr paramtr cogt ( =,,,k) dl, gl trvall d prvso corrspodza ad ua spcfca dtrmazo dl vttor dll varabl splcatv d procdr alla vrfca d pots statstch Al rguardo s rcorda p ch s la varaza o è ota bastrà far rfrmto alla varabl t d Studt, co -k grad d lbrtà, azché alla varabl ormal Quato sopra rchamato fa rfrmto all mpostazo classca dll frza statstca l cu cotsto paramtr soo costat cogt da stmar /o su qual vrfcar pots statstch utlzzado soltato l formazo campoara a dsposzo 348

31 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa 65 Rgrsso baysaa co dstrbuzo a pror o formatv cougat Nll mpostazo baysaa, paramtr ( =,,,k), ssdo ttà cogt, assumoo la atura d varabl casual co ua propra dstrbuzo d probabltà La vrosmglaza sopra trodotta soddsfa la rlazo L / β, f β, / y, X p y - Xβ y - Xβ / p y - Xβ - Xβˆ Xβˆ y - Xβ - Xβˆ Xβˆ / p y - Xβˆ y - Xβˆ β - βˆ X y - Xβˆ β - βˆ X X β - βˆ / p k S β - βˆ X X β - βˆ poché β - βˆ X y - Xβˆ β - βˆ X y - X Xβˆ β - βˆ X Xβˆ - X Xβˆ β - βˆ = dov l statstch ˆ S β, stm corrtt d β, soo cogutamt suffct Dstrbuzo a pror o formatv La procdura stadard è pr l troduzo d dstrbuzo a pror o formatv prvd l sgut dstrbuzo oltr, podo log dlla trasformazo da a ( ) c costat c ( ) costat è par a, s ha pr, tdo coto ch lo Jacobao 7, qud S s procd al prodotto d qusta quattà (probabltà a pror) co la vrosmglaza s ha la dstrbuzo a postror /, / yx, L β,, p y - Xβ y - Xβ d ach 7 S tratta d ua dstrbuzo a pror mpropra ch gra, comuqu, ua dstrbuzo a postror propra Da sottolar ch ach s v tchttata com o formatva, raltà mplca ch la probabltà a pror assocata a β, qualuqu sa l suo valor, possa ssr ach molto lvata 349

32 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / ˆ ˆ, / yx, p k S β - β X X β - β k/ k/ p k S p ˆ ˆ β - β X X β - β S s fa rfrmto all ultmo mmbro dlla rlazo s vc mmdatamt la forma dlla dstrbuzo codzoata a postror dl vttor β la dstrbuzo margal a postror dl paramtro ˆ /, y N X X k S k / y Iv dov l smbolo sta ad dcar la varabl casual Gamma vrsa 8 Sza ccssva dffcoltà s drva ach la dstrbuzo margal a postror d, fatt β Iv / y X, / y, d / p β - βˆ X X β - βˆ k S d ma l sprsso sotto l sgo d tgral rapprsta, a mo dlla costat moltplcatva l sprsso dlla fuzo d dstà d ua varabl casual Gamma vrsa Iv k S β - βˆ X X β - βˆ prtato, l valor dll tgral è, smplcmt, dato dal rcproco dlla costat d ormalzzazo dlla dstà d ua dov S s po k s ha Iv, k S β - βˆ X X β - βˆ /, k S ˆ k / ch è par a yx β - β X X β - βˆ β - βˆ S X X β - βˆ k k / ch rapprsta, a mo dlla costat moltplcatva, l sprsso dlla fuzo d, 8 S rcorda ch la fuzo d dstà d probabltà dlla vc X Gamma vrsa è data da: pr, ( ) f ( ;, ) 35

33 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa dstà d ua varabl casual t d Studt multvarata 9, coè: ˆ / y tk,β, S X X S s rcorr alla dstrbuzo a pror d Jffrys dfta da R k, s drva la dstrbuzo a postror coguta c / p ˆ ˆ yx, k S / k β - β X X β - β c / mtr l dstrbuzo margal a postror d β hao la forma /,, N, yx βˆ X X / yx, Iv /, S k / Dstrbuzo a pror formatv Rprddo cosdrazo gralzzado quato rportato ll smpo 65 rguardo alla dstrbuzo cougata a pror d ua vc ormal, ua possbl spcfcazo dlla dstrbuzo a pror l caso sam è la dstrbuzo cougata coguta d ua ormal ua gamma vrsa / N, prtato la dstrbuzo a pror assum la forma coè - Iv,, / ( ), N, Iv (, ) ch è dstrbuzo a pror cougata d ua vc ch appart alla stssa famgla Ifatt, s s cosdra la vrosmglaza / β, p ˆ X X ˆ L k S 9 La fuzo d dstà d probabltà t d Studt multvarata d u vttor casual V d dmso k è data da k / f k / w w w;,, k/ k/ / / dov rapprstao grad d lbrtà, è u vttor d dmso k (paramtr d locazo) è ua matrc smmtrca dfta postva d dmso k (paramtr d scala) 35

34 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa la dstrbuzo a postror coguta è data da, / y - L k / k / ( ) L,, / /, / f y f y ˆ ˆ / p k S X X / f y ma dov s ha, / y - ˆ ˆ X X - ˆ - ˆ ˆ + X X β X X β + X X - + X X L - p L,, / y /, / y f y f y / p k S ˆ - ˆ - p p dov / ˆ - k S ˆ,qud, / y NIv,, ch appart alla stssa famgla dlla dstrbuzo a pror ormal gamma vrsa Ua proposta altratva d dstrbuzo a pror formatva, molto utlzzata l cotsto coomtrco, è qulla suggrta da Zllr l 986, usualmt domata G-pror, proposta ch s dffrza dalla a-pror o formatva sopra llustrata pr l a-pror su β L du dstrbuzo a pror soo 35

35 B Chadotto Vrso 4 Cap 6 Ifrza statstca baysaa / N, g X X Attravrso passagg algbrc aalogh a qull sopra rportat s drva la dstrbuzo coguta a postror g ˆ ˆ k S / g / y p β - β X X β - β mtr la dstrbuzo margal a postror dl vttor t ˆ k g S ˆ ˆ / g β - β X X β - β / y, β, X X g g coè, ua vc t d Studt multvarata d dmso k I rsultat rportat ll rgh prcdt costoo la rsoluzo d problm d stma putual, stma d trvallo d tst dll pots sgudo la procdura gà llustrata S sottola ch l cotsto dlla rgrsso multpla assumoo partcolar rlvaza, sa tm coss alla sclta dl modllo pù approprato (qullo ch vdza la capactà rapprstatva pù lvata dlla raltà sotto sam), l cu ambto è rcomprsa ach la problmatca rlatva alla slzo dll varabl splcatv da cludr l modllo stsso, sa tm collgat all mpgo dl modllo a f prvsoal, prvso ch potrao ssr ffttuat utlzzado la dstrbuzo prdttva a postror d Y β è 353