Inferenza II. Inferenza: tipologie di approcci. Test di ipotesi: ipotesi alternativa. Test di ipotesi: ipotesi nulla.

Transcript

1 Ifereza: tipologie di approcci Defiizioi Costruzioe di u test Test sul valore atteso Ifereza II Test di ipotesi Test di adereza alla distribuzioe Test di idipedeza Teoria della stima: Cerco di otteere ua stima umerica di ua caratteristica (spesso u idice) della popolazioe dai dati Test di ipotesi: Faccio u ipotesi su di ua proprietà (parametro, distribuzioe, idipedeza) della distribuzioe teorica della popolazioe P e verifico se le osservazioi cosetoo di accettarla Possibili domade da test: E[P] è maggiore di 15? La variabile P è distribuita come ua Bi(; 05)? (se P è multi-variata) P 1 e P soo idipedeti? Osservazioe: la stima trae u parametro dai dati, il test fa u ipotesi sul parametro e usa i dati per cofermare l'ipotesi Test di ipotesi: ipotesi ulla Osservazioe: U test di ipotesi cerca di verificare se ua asserzioe è vera o falsa L'asserzioe i esame: Esempi Viee chiamata ipotesi ulla Di orma è ua ipotesi di uguagliaza Si idica co la otazioe Si esprime i liguaggio aturale o i simboli : il valore atteso della popolazioe è :E[P]= : la popolazioe è distribuita come ua biomiale avete p =0 e =3 : P ~ Bi(3; 0) Test di ipotesi: ipotesi alterativa Se il test da esito egativo si usa dire che l'ipotesi ulla viee rifiutata e si accetta l'ipotesi alterativa Ipotesi alterativa: Esempi Descrive l'eveto che si pesa sia plausibile Si idica co la otazioe H 1 Si esprime i liguaggio aturale o i simboli : E[P] = H 1 : E[P] : Var[P] = 1 H 1 : Var[P] 1 Osservazioe: ad ua ipotesi ulla posso corrispodere diverse ipotesi alterative

2 Test di ipotesi: esempio I Ua ditta che produce sferette di acciaio garatisce che la sua produzioe ha valore atteso 8 mm e scarto quadratico medio di 0 mm Per verificare la botà della produzioe si estrae u campioe di 60 sfere (otteedo x = 81 mm) e si vuole osservare se la produzioe rispetta i caoi : E[P] = 8 mm H 1 : E[P] 8 mm Test di ipotesi: esempio II U'azieda farmaceutica sostiee che il suo farmaco cura ua particolare patologia el 95 % dei casi U ricercatore ospedaliero sostiee che questa iformazioe o sia più attedibile e che il farmaco sia peggiorato Pertato, coduce ua idagie su 10 pazieti è trova che solo 108 so guariti (il 90 %) P ~ Ber(p) : p =E[P] = 095 H 1 : p < 095 Osservazioe: el caso si ritega vera vuol dire che la differeza fra la media campioaria ed il valore atteso è dovuta al particolare realizzazioe di P e o da u mutameto della ddp di P Osservazioe: el caso i esame dal testo si evice u modello per la vc usata per descrivere la popolazioe Test di ipotesi: idea Come verificare se u'ipotesi è vera aalizzado i dati di u campioe C di dimesioe? Osservazioe: l'ipotesi ulla si rifiuta se la differeza fra il valore stimato e quello teorico è sigificativa Idea: Suppogo vera e calcolo u itervallo di valori probabili per lo stimatore A Se la stima otteuta dal campioe ricade i A, accetto l'ipotesi ulla Osservazioe: A può essere calcolato basadosi sulle cosiderazioi viste ella stima per itervallo ad u livello di cofideza 1 - α Nel test di ipotesi α prede il ome di livello di sigificatività Test di ipotesi: strategia Come verificare se u'ipotesi è vera da u campioe C? Possibile strategia: Si suppoe vera Si calcola la distribuzioe di uo stimatore corretto per il parametro θ descritto i calcolato da u campioe a dimesioe N Si fissa u livello di sigificatività α Si trova ua regioe di accettazioe (A) Si stima putualmete il parametro θ dal campioe C Se il valore è itero ad A accetto l'ipotesi Se il valore è estero ad A rifiuto l'ipotesi Osservazioe: i dati si usao solo ell'ultimo passo

3 Test sul valore atteso - I Applico la strategia: Si suppoe vera Suppogo E[P]=µ 0 Si calcola la distribuzioe di uo stimatore corretto per il parametro θ descritto i calcolato da u campioe a dimesioe Lo stimatore corretto è la media campioaria x Si sa che per grade si ha che ~N E[P]; Var[P] stadardizzado x Se Var[P] è ota 0 ~Z Var[ P] altrimeti =N 0 ; Var[P] x 0 ~Z s Test sul valore atteso - II Si fissa u livello di sigificatività α Valori tipici soo α = 005 ; α = 00 ; α = 001 Si trova ua regioe di accettazioe (A) tre possibili sceari Test bilaterale (a code) Test uilaterale (a 1 coda) H 1 : E[P] µ H : E[P] > µ H : E[P] 0 < µ Osservazioe: è H 1 a determiare la regioe di accettazioe Test sul valore atteso - III Si stima putualmete il parametro θ dal campioe C Se il valore è itero ad A accetto l'ipotesi Se il valore è estero ad A rifiuto l'ipotesi Si procede al semplice calcolo della media campioaria E si applica il criterio Osservazioe: ache se o esplicitate si soo sottitese due ipotesi: Campioameto beroulliao Distribuzioe limite (>30) Test di ipotesi:esempio I -svolgimeto Ua ditta che produce sferette di acciaio garatisce che la produzioe ha valore atteso 8 mm e variaza 004 mm Campioe di = 60 sfere otteedo x = 81 mm Svolgimeto: : E[P] = 8 mm H 1 : E[P] 8 mm + testo E[P] = 8 ; Var[P] = 004 = 60 ~N E[P]; Var[P] =N 8 ; test a due code α = 005 Valori Critici -1,96; 196 A=[-1,96; 196] x 8 Stadardizzo x z x = Rifiuto 000 =3873 z x A 3

4 Test sul valore atteso Popolazioe P cotiua o discreta Test per verificare se E[ P]= osservazioi iid da cui ricavo la media campioaria x Svolgimeto H 1 : E[P] H : E[P] : E[ P]= x= H 3 : E[P] Verificare la covergeza i legge dello stimatore Var[ P] se 30 x~n ; altrimeti aumetare Si fissa α trovo regioe di accettazioe Stadardizzo x z x = x Var[ P] se z accetto H altrimeti rifiuto x A 0 H 1 : A= [ z ; z 1 ] H : A=[ z ; [ H 3 : A=[ ; z 1 [ Test di ipotesi:esempio II-svolgimeto U farmaco cura ua particolare patologia el 95 % dei casi Campioe di = 10 pazieti co x = 90 % di guarigioi Svolgimeto: : E[P] = 095 H 1 : E[P] < testo P~Ber(p) E[P] =p=095;var[p]=p(1-p)=00475 = 10 ~N E[P]; Var[P] =N 095 ; test a ua coda, uilaterale siistro α = 001 Valore Critico -z 001 = -33 A=[-33; + [ Stadardizzo x z x = x 095 Rifiuto = 513 z x A 10 Test sulla distribuzioe Osservazioe: spesso sarebbe utile poter fare ipotesi sulla distribuzioe di frequeza di ua vc Esempio III: Si ha il dubbio che u dado sia truccato Laciado il dado = 150 volte si soo otteuti gli esiti a lato Come verificare l'asserzioe? Per applicare la tecica vista debbo Defiire u ipotesi Scegliere uo stimatore Calcolare la ddp di riferimeto dello stimatore i i Test sulla distribuzioe: ipotesi I L'esperimeto può essere descritto mediate realizzazioi iid di ua vc discreta D la cui ddp viee descritta da: 6 modalità {1,, 3, 4, 5, 6} 6 parametri: P D=1 = p 1 P D= = p P D=6 = p 6 L'ipotesi ulla pertato è che la ddp sia costate ovvero : p i = 1 i=1,,,6 6 L'ipotesi alterativa è quella data dall'eveto complemetare H 1 : i: p i 1 6 Osservazioe: i ua vc discreta ad M valori, la somma delle probabilità deve essere uitaria Pertato è possibile fissare i modo arbitrario soo M-1 valori

5 Test sulla distribuzioe: stimatore Osservazioe: l'ipotesi ulla coivolge più parametri Vorrei otteere u solo valore per avere ua vc moo-variata Frequeze teoriche: frequeza attesa se è vera: i = p i Cotigeza: scarto fra frequeza rilevata e teorica: c i = i i Osservazioe: se è vera è verosimile che tutte le cotigeze (i valore assoluto) siao piccole Osservazioe: se H 1 è vera è verosimile che almeo ua cotigeza (i valore assoluto) sia elevata Stimatore di Pizzetti-Pearso La cotigeza è la base di uo stimatore per quatificare l'adereza di ua distribuzioe teorica ad ua reale ( ) Stimatore di Pizzetti-Pearso: M c M i = i i i=1 i i=1 i Il quadrato evita il sego e pesa molto i valori alti Il rapporto serve per scalare correttamete i cotributi Calcolo i tabella Esempio III 6 i i =5,8 i=1 i i i i i i i i i i / i , , , ,8 Stimatore di Pizzetti-Pearso : ddp La strategia di test richiede la ddp dello stimatore Teorema: si dimostra che, al crescere della dimesioe del campioe () allora si ha che M i i ~ i=1 i dove ν soo i parametri liberi della ddp di P (M-1) Nota: il risultato si foda sul limite cetrale Molti autori ritegoo che si abbia ua buoa covergeza i legge quado tutte le frequeze teoriche so maggiori di 5 Osservazioe: l'ipotesi ( i 5 i ), ota la ddp ( p i ) può sempre veir rispettata aumetado la dimesioe del campioe i = p i Test sulla distribuzioe: ipotesi II Osservazioe: l'ipotesi alterativa si basa sulla frequeza teorica H 1 : i: p i 1 6 Osservazioe: lo stimatore si basa sulla cotigeza c i = i i = i p i Come fissare la regioe di accettazioe per lo stimatore di Pizzetti-Pearso? Osservazioe: se l'ipotesi ulla sulle frequeze teoriche è rispettata, la cotigeza è bassa il valore =0 deve essere icluso ell'itervallo di accettazioe Coclusioe: Il test richiesto deve essere uilaterale destro

6 Esempio III: svolgimeto Si vuole vedere se u dado è truccato Si so effettuati =150 laci rilevado 6 frequeze 1,,, 6 Svolgimeto : p i = 1 6 i=5 H 1 : i: p i 1 6 Verificare la covergeza i legge 6 i =5 5 i i ~ 5 i=1 i test a ua coda, uilaterale dx α=001 Valore Critico 5 =151 A=[0 ; 151] Calcolo lo stimatore = A Accetto (il dado è oesto ad u livello del 1%) Osservazioe:il procedimeto può essere geeralizzato Test per la distribuzioe empirica Popolazioe P co M modalità Test per verificare se P P=i = p i realizzazioi iid co 1,,, M osservazioi Svolgimeto : P P=i = p i i = p i H 1 : i: P P=i p i Verificare la covergeza i legge dello stimatore M se i 5 i i ~ M 1 altrimeti aumetare i=1 i test a ua coda, uilaterale dx Si fissa α Calcolo lo stimatore A=[0 ; 1 M 1 ] se lo stimatore è itero ad A accetto se lo stimatore è estero ad A rifiuto Test di idipedeza: Esempio IV Osservazioe: I ua bi-variata (x i,y i ) il test di idipedeza mira a stabilire se i caratteri ed so idipedeti Esempio IV: (tratto da descrittiva III) Caratteri: : trattameto atibiotico : stato dell'ifezioe M x = {Si; No} =3 {Espasa, Stabile, Ridotta} = 100 rilevazioi Tratta meto Ifezioe Espasa Stabile Ridotta Totali Si No Totali Test di idipedeza: idea - I Supposizioe: i caratteri ed soo idipedeti Cosegueza: le probabilità degli eveti della bivariata so dati dal prodotto degli eveti delle due moovariate P(=Si = Espasa) = P(=Si) P( = Espasa) P(=x i = y j ) = P(=x i ) P(= y j ) Osservazioe: P(=x i ) e P(=y i ) possoo essere stimate dalle frequeze relative margiali (defiizioe classica) Cosegueza: el caso di idipedeza è possibile ricavare ua distribuzioe teorica valida per la bivariata Osservazioe: Tabella ricavata dalle SOLE margiali Espasa Stabile Ridotta Totali Si 0/100 1/100 18/100 50/100 No 0/100 1/100 18/100 50/100 Totali 40/100 4/100 36/100 1

7 Test di idipedeza: idea - II Date le osservazioi di ua bi-variata, la vc P avete: M = M x modalità (idicate da m i,j ), j ddp p i, j = i, i=1,, M x, j=1,, descrive la bi-variata se e solo se vi è idipedeza Idea: L'idipedeza viee testata co u test di adereza alla distribuzioe teorica Per poter applicare l'idea debbo: Calcolare le frequeze teoriche i, j = p i, j i, j Verificare la covergeza i legge dello stimatore di Pizzetti Pearso ( i, j 5 i, j ) Calcolare i parametri liberi di P Test di idipedeza: parametri liberi La ddp di P possiede M = M x modalità Vi soo dei vicoli dati dalle margiali M x vicoli vicoli 1 vicolo doppio Verde: libero Rosso: vicolato I parametri liberi risultao essere (M x -1)( -1) se i, j 5 i, j si ha che: i j=1, j = i, i=1,, M x M x i i=1, j =, j j=1,, M x i=1 a b c d 1 1,+ /,+ / 3 3,+ / +,1 / +, / +,3 / +,4 / 1 i, j i, j ~ M j=1 x 1 1 i, j Test di idipedeza (di Pearso) Popolazioe bi-variata (x i,y i ) dove ed so idipedeti prove iid co i,j osservazioi delle M = M x modalità Svolgimeto : ed idipedeti H 1 : ed dipedeti Calcolo le frequeze teoriche i, j = p i, j = i,, j i, j Verificare la covergeza i legge dello stimatore i, j 5 i, j Si fissa α A=[0 ; 1 M x 1 1 ] Calcolo lo stimatore di Pizzetti-Pearso se lo stimatore è itero ad A accetto i, j Osservazioe: si calcola dalle osservazioi Cosegueza: se la covergeza o è verificata o è detto che lo sia aumetado! Esempio IV svolgimeto I : trattameto atibiotico : stato dell'ifezioe M x = =3 = 100 Calcolo frequeze teoriche Covergeza verificata α=001 A=[0; 91] Espasa Stabile Ridotta Tratta meto Totali Si 0/100 1/100 18/100 50/100 No 0/100 1/100 18/100 50/100 Totali 40/100 4/100 36/100 1 Ifezioe Espasa Stabile Ridotta Totali Si No Totali ( i, j i, j ) χ () i=1 j=1 i, j Espasa Stabile Ridotta Si No

8 Esempio IV svolgimeto II Calcolo cotigeza e stimatore di Pizzetti - Pearso Tratta meto Ifezioe Espasa Stabile Ridotta Totali Si No Totali i, j i, j i=1 j=1 i, j =0,71 Lo stimatore è estero ad A rifiuto le variabili soo dipedeti Osservazioe: il test asserisce che la coosceza di u carattere (es ha fatto il trattameto) modifica la proprietà dell'altra (es lo stato dell'ifezioe) Osservazioe: il trattameto è però pessimo Si è provato che esso aumeta la probabilità espadere l'ifezioe m 1,1 >m,1 Espasa Stabile Ridotta Si No Livello di sigificatività: cosiderazioi Osservazioe: α corrispode ad ua probabilità, quale? Probabilità corrispodete alla regioe di rifiuto ella distribuzioe di riferimeto Pertato: Distribuzioe di riferimeto vera Regioe di rifiuto rifiuto l'ipotesi Coclusioe: Il livello di sigificatività descrive la probabilità di rifiutare l'ipotesi ulla quado questa è vera P rifiutare vera = Test di ipotesi: tipo di errori I quati modi posso sbagliare a forire u risultato? Risultato test Realtà Vera Falsa Accettare OK Errore Rifiutare Errore OK Errore di I tipo: rifiutare u'ipotesi valida (fal so positivo) Errore di II tipo: accettare u'ipotesi falsa (fal so egativo) Osservazioe: le probabilità dei due errori so dipedeti Osservazioe: la probabilità di u falso positivo dipede dal livello di sigificatività Osservazioe: la probabilità di u falso egativo difficilmete è calcolabile P-value: problematiche & defiizioe Osservazioe: il risultato di u test è l'accettazioe di ua delle ipotesi iiziali ( o H 1 ) legato al valore del livello di sigificatività α Osservazioe: la stima θ può essere più o meo vicia ai valori critici che delimitao la regioe di accettazioe A A=[- ; ] θ = 1 oppure θ = 19 Si usa pertato affiacare alla stima il p-value ovvero: il valore del livello di sigificatività tale per cui uo dei il valori critici coicida co la stima i esame

9 Esempio I -calcolo p-value Campioe di = 60 sfere co x = 81 mm Svolgimeto: : E[P] = 8 mm H 1 : E[P] 8 mm Ipotesi Var[P] =000 Stimatore: media N ( E[P]; Var[P] )=N (8; ) test a due code α = 005 Valori Critici -1,96; 196 A=[-1,96; 196] Stadardizzo x z x = x = Il p-value è la probabilità elle code di Z dalla tabella ricavo p=*( ) = 0000 Ricapitolado - I Ipotesi: ulla ( ) e alterativa (H 1 ) : stato ormale Sempre ipotesi di uguagliaza : descrive il motivo per cui faccio il test Strategia di progetto del test Suppogo valida l'ipotesi ulla Noto stimatore T che cofermi e e trovo la ddp Fisso u livello di sigificatività α Fisso la regioe di accettazioe A tale P(T ϵ A)= 1- α H 1 :bilaterale H 1 :uilaterale dx H 1 : uilaterale sx Se lo stimatore calcolato el campioe è i A accetto Ricapitolado - II : E[P]= Stimatore media stadardizzata z x = x Var[ P] Covergeza 30 z x ~Z H 1 : E[ P] A= [ z ; z 1 ] H : E[ P] A=[ z ; [ H 3 : E[ P] A=[ ; z 1 [ Se Var[P] igota si stima co la variaza campioaria s Test sul valore atteso Test di adereza : P P=i = p i i = p i H 1 : i : P P=i p i Stimatore di Pizzetti-Pearso M Codizioe di covergeza i 5 i i ~ M 1 i=1 i A=[0 ; 1 M 1 ] Ricapitolado - III Test di idipedeza : ed idipedeti H 1 : ed dipedeti Stimatore di Pizzetti-Pearso Codizioe di covergeza M i, j 5 i, j i, j ~ M i=1 x 1 1 i, j A=[0 ; 1 M x 1 1 ]