Test di Ipotesi (statistica)

Transcript

1 Test di Ipotesi (statistica) Accettare o rifiutare? Questo è il vero dilemma Una singola popolazione

2 Ipotesi statistica Definizione di Ipotesi statistica: Un'ipotesi statistica è un'affermazione che specifica parzialmente o completamente la legge di distribuzione della probabilità di una variabile casuale X che descrive la popolazione di interesse f x Ipotesi semplice Ipotesi composta Affermazione che specifica completamente la legge di distribuzione Affermazione che NON specifica completamente la legge di distribuzione

3 Ipotesi statistica L'affermazione (ipotesi) può riferirsi sia alla forma funzionale della legge di distribuzione che ai parametri caratteristici (i.e, che tipo di distribuzione e con quali parametri) o ai soli parametri caratteristici quando si assuma nota la forma analitica della distribuzione stessa. Noi ci occupiamo solo dei test parametrici f x Test Parametrici si assume nota la forma analitica della distribuzione stessa e si esprime un ipotesi circa uno o più dei suoi parametri. Non si fanno assunzioni circa la forma Test Non Parametrici analitica della distribuzione stessa, ma si esprime un ipotesi su di essa o su alcune sue caratteristiche

4 Test di Ipotesi (statistica) Un test di ipotesi (statistica) è una regola attraverso la quale si decide se accettare o meno un'ipotesi sulla base delle risultanze campionarie. X 1, X,, X n X - Popolazione I za n e r e nf campione casuale estratto dalla popolazione X Plausibilità dell ipotesi ottenuta a partire dalle realizzazioni del campione ˆ g X, X,, X 1 n Quesito : E plausibile l ipotesi H 0?

5 Esempi Test Parametrico La moneta è truccata? Test Non Parametrico C è un associazione tra un dato SNP ed una patologia? Test Parametrico L altezza (media) della (popolazione) è 100 cm? L altezza (media) della bambine è uguale all altezza media dei bambini? Test Non Parametrico Le due popolazioni hanno distribuzioni uguali?

6 L ipotesi che viene formulata è detta ipotesi nulla di fatto o l ipotesi neutra. ACCETTO H0 H 0. Essa rappresenta lo stato NON LA RIFIUTO NON C E EVIDENZA SPERIMENTALE PER RIFIUTARLA ACCETTO H1 RIFIUTO H0 C E EVIDENZA SPERIMENTALE PER RIFIUTARLA Accettare l ipotesi nulla non significa che questa sia vera, ma solo che non c è nulla che ci porti a credere il contrario (i.e., manca l evidenza del contrario). Viceversa rifiutare l ipotesi nulla significa che dati alla mano (sebbene possibile) appare molto improbabile che l ipotesi nulla sia vera

7 X 1, X,, X n Campione casuale estratto dalla popolazione di interesse ˆ g X, X,, X 1 n Statistica Test La statistica test è una funzione che fa corrispondere ad ogni campione casuale un valore numerico Il test statistico conduce ad una partizione dello spazio campionario in due sottoinsiemi complementari: regione di accettazione e regione di rifiuto. distribuzione campionaria della statistica (supponendo H vera) 0 PH 0 ˆ PH 0 g X 1, X,, X n La regione di rifiuto si costruisce a partire dalla distribuzione campionaria PH 0 identificando un insieme di valori che hanno bassa probabilità di accadere se l ipotesi nulla è vera H0

8 Regola di decisione: Se il valore della statistica osservato sul campione estratto cade nella regione critica allora l ipotesi nulla viene rifiutata, altrimenti viene accettata (i.e. non rifiutata) Nell'accettare o rifiutare, sulla base dell'evidenza sperimentale, una determinata ipotesi nulla, si può agire correttamente, e cioè accettare l ipotesi nulla quando è vera o rifiutare l ipotesi nulla quando è falsa, oppure si possono commettere errori di diversa natura: a) errore di I specie o di I tipo rifiutare l ipotesi nulla quando essa è vera. Falso positivo b) errore di II specie o di II tipo accettare l ipotesi nulla quando essa è falsa. Falso negativo decisione Accettare è inteso come non rifiutare H0 è vera H0 è falsa Accetto H0 Decisione Corretta 1-α Errore Tipo II β Rifiuto H0 Errore Tipo I α Decisione Corretta 1-β

9 Distanza tra ipotesi nulla ed alternativa P Dati H 0 è vera PH 0 Dati P Dati H 0 è falsa PH1 Dati Varianza statistica campionaria Decisione α β

10 P rifiutare H 0 H 0 è vera Livello di significatività del test (coincide con la probabilità di commettere un errore di tipo I) P accettare H 0 H 0 è falsa 1 P rifiutare H 0 H 0 è falsa 1 Idealmente si vorrebbe 0 probabilità di commettere un errore di tipo II Potenza del test (probabilità di individuare ipotesi false) Avendo a disposizione solo un campione della popolazione questo non è possibile, pertanto la soluzione ideale dovrebbe essere costituita da un test capace di minimizzare simultaneamente le probabilità di commettere gli errori di I e di II tipo. Purtroppo, in generale non è possibile raggiungere un tale obiettivo quando la dimensione del campione è stata fissata. Similmente a quanto detto a proposito degli intervalli di confidenza se accade che la potenza di un test resta influenzata: i. - dal livello di significatività α prescelto; ii. - dalla specificazione dell'ipotesi alternativa; iii. - dalla numerosità del campione.

11 Errore di tipo I ed errore di tipo II sono in competizione. Un test è tanto più potente quanto più è elevata la probabilità dell'errore di I tipo e viceversa. Infatti, l'incremento del livello α (probabilità dell'errore di I tipo) comporta un allargamento dell'intervallo di rifiuto (regione critica), di conseguenza determina una riduzione della probabilità dell'errore di II tipo e quindi un aumento della potenza del test. La procedura che si esegue è quella di fissare la misura della probabilità di commettere un errore di primo tipo (si stabilisce cioè il livello di significatività α) e nell'individuare poi il test che minimizza la probabilità di commettere un errore di II tipo. In generale: Fissate le ipotesi ed il livello di significatività del test, per aumentare la potenza occorre aumentare la taglia del campione. Di conseguenza, tra tutti i test statistici che si possono costruire per una prefissata coppia di ipotesi, si cercherà di trovare (se possibile) quello con la potenza più grande a parità della taglia del campione.

12 Fasi da eseguire per un test delle ipotesi H0 Specificare le ipotesi da testare H1 (le ipotesi devono essere mutuamente esclusive ed indurre una partizione dello spazio degli eventi) Fissare il livello di significatività Definire una statistica ˆ g X, X,, X per il test (i.e., una statistica 1 n per cui sia calcolabile la distribuzione campionaria quando l ipotesi nulla è vera). Si noti che la taglia n del campione è legata alla potenza del test Definire sulla base della statistica scelta la regione di rifiuto per H (i.e., i 0 valori della statistica di probabilità < quando è vera). H0 Eseguire il campionamento (i.e., l esperimento) e calcolare il valore della statistica osservato sul campione casuale, i.e. ˆ g x1, x,, x n Se ˆ g x, x,, x cade nella regione di rifiuto, si decide di rifiutare, H0 1 n altrimenti si decide di non rifiutare H0 La risposta del test è rifiuto o non rifiuto

13 P-value In corrispondenza di una particolare realizzazione ˆ g x1, x,, xn ˆ g X, X,, X 1 n assunta da una qualunque variabile casuale test si dice P-value la probabilità dei valori che superano, (in valore assoluto) e nella direzione estrema, il valore osservato. La probabilità sopramenzionata è calcolata assumendo che H 0 è vera In pratica, il p-value è una misura di ottenere realizzazioni ancora più estreme di quella osservata. PH 0 Intuitivamente è una misura di plausibilità dell ipotesi nulla. Un p-value molto piccolo viene interpretato come una misura a sfavore dell ipotesi nulla.

14 Approccio alternativo per un test delle ipotesi H0 Specificare le ipotesi da testare H1 (le ipotesi devono essere mutuamente esclusive ed indurre una partizione dello spazio degli eventi) Fissare il livello di significatività ˆ g X, X,, X per il test (i.e., una statistica Definire una statistica 1 n per cui sia calcolabile la distribuzione campionaria quando l ipotesi nulla è vera) Eseguire il campionamento (i.e., l esperimento) e calcolare il valore della statistica osservato sul campione casuale. ˆ g x, x,, x 1 n Calcolare il p-value associato alla statistica osservata Se pˆ PH 0 g x1, x,, x n p si decide di rifiutare H 0, altrimenti si decide di non rifiutare H 0 La risposta del test è rifiuto o non rifiuto + p-value

15 Test sulla media di una popolazione X Variabile Casuale tale che E X ; Var X Obiettivo: testare una delle seguenti H 0 : 0 H1 : 0 Dove H 0 : 0 H 0 : 0 H1 : 0 H1 : 0 0 è un valore noto Si estrae il campione casuale X 1, X,, X n Caso a) varianza nota Caso b) varianza incognita (di taglia n) Z X 0 / n X 0 T S/ n Statistica test Statistica test A seconda della tipologia della coppia nulla/alternativa da testare il test sarà ad una coda oppure a due code

16 Caso a) varianza nota Teorema centrale del limite (qualunque sia la distribuzione di X con media e varianza finite, se n è sufficientemente grande; Valida qualunque sia il valore di n se X ~ N, ) i) Test ad una coda ii) Test a due code Z X 0 ~ N 0,1 / n la distribuzione campionaria per 0 Distribuzione (estrema) assumendo che l ipotesi nulla sia vera. Per determinate la regione critica occorre individuare le zone a bassa probabilità Il caso varianza nota è un caso pressoché ideale (con valore principalmente didattico ). Nelle applicazioni reali molto raramente si è in grado di conoscere la varianza della popolazione. In R c è z.test In Matlab c è ztest

17 i) Test ad una coda H 0 : 0 left H1 : 0 N 0,1 z H1 : 0 Regione accettazione 1 0 Regione rifiuto right N 0,1 1 H 0 : 0 0 Z z Z z z Regione rifiuto Regione accettazione Z z Z z

18 ii) Test a due code 1 H 0 : 0 N 0,1 H1 : 0 z Regione rifiuto Regione accettazione Z z Z z z Z z 0 z

19

20 Esempio 1 (Ross Cap8 n.6) Supponiamo di sapere che negli Stati Uniti la statura media di un maschio adulto è di 70 pollici, con una deviazione standard di 3 pollici. Per verificare che gli uomini di una città sono nella media, si sceglie un campione di 0 maschi adulti e se ne misura la statura, ottenendo i risultati seguenti: Cosa concludi? Spiega quali assunzioni stai facendo. H 0 : 70 H1 : 70 X Ipotizziamo che la v.a. statura di un maschio adulto sia una normale ed eseguiamo uno z-test a due code con varianza nota X / 0

21 Esempio 1 (continuazione) Decidiamo un livello di significatività e stabiliamo se rifiutare l ipotesi nulla che il campione di uomini sia nella media z z0.005 In ambedue i casi rifiutiamo ipotesi nulla pvalue P ( Z 3.004) P ( Z 3.004) 0.007

22 Esempio (Ross Cap8 n.10) I salmoni cresciuti ogni anno in un allevamento commerciale hanno dei pesi con distribuzione normale di deviazione standard 1. libbre. La ditta dichiara che il peso medio dei suoi pesci quest anno è superiore alle 7.6 libbre. Supponi che un campione casuale di 16 pesci sia risultato in un peso medio di 7. libbre. Si può dire che questo dato sia abbastanza forte da farci respingere l affermazione dell azienda (a) al 5% di significatività? (b) All 1% di significatività? (c) Quanto vale il p-dei-dati di questo test? H 0 : 7.6 H1 : 7.6 Poiché nel testo ci chiedono se possiamo respingere l ipotesi basandoci sui dati, scegliamo proprio questa come H0 X / 16

23 Esempio (continuazione) In base al livello di significatività, stabiliamo se rifiutare l ipotesi nulla che la media del peso dei salmoni sia superiore a 7.6 libbre z z pvalue P ( Z 1.333) In ambedue i casi non possiamo rifiutare l ipotesi nulla e dunque non possiamo respingere l affermazione anche se questo non significa sia vera

24 Caso b) varianza incognita Nelle applicazioni reali accade spesso che la varianza non è nota. In tal caso si deve prima stimare la varianza (ad esempio con la varianza campionaria S) e quindi sostituire il valore stimato nella statistica i) Test ad una coda ii) Test a due code T X 0 ~ T n 1 S/ n la distribuzione campionaria per 0 Il t-test è uno dei test statistici più utilizzati (spesso anche male utilizzato). Ne esistono diverse varianti. In questa fase vediamo il caso del t-test per la media di una popolazione In R il presente test (e le sue generalizzazioni) è implementato dalla funzione t.test

25 i) Test ad una coda H 0 : 0 H1 : 0 left H 0 : 0 H1 : 0 right T n 1 T n 1 t,n 1 t,n 1 Regione rifiuto Regione accettazione T t,n 1 T t,n 1 Regione rifiuto T t,n 1 Regione accettazione T t,n 1

26 ii) Test a due code T n 1 H 0 : 0 H1 : 0 t Regione rifiuto T t Regione accettazione t, n 1, n 1, n 1 T t T t, n 1, n 1 t, n 1

27

28 Esempio 1 Si supponga di aver somministrato ad un gruppo di n=1 cavie un particolare farmaco di aver riscontrato i seguenti incrementi di peso: 55, 6,54, 57, 65, 64, 60, 63, 58, 67, 63 e 61 grammi. Sapendo che le cavie del tipo considerato (di uguale età e condizione), quando non sono sottoposte a trattamenti, mostrano un incremento medio di peso pari a 65 grammi. Ci si domanda se le osservazioni siano tali da poter attribuire al farmaco la differenza riscontrata nell'incremento medio di peso; in particolare si vuole sapere cioè se il farmaco possa consentire una riduzione dell aumento del peso o oppure se tale differenza possa essere attribuita a fattori aventi carattere puramente accidentale H 0 : 65 H 1 : 65 Test ad una coda ( left ) n=1<30 T test

29 Esempio 1 (continuazione) T dove X 65 Ha 11 gradi di libertà S / 1 Fissato α=0,05 T 3,63 S 16,38 X 60,75 t 0.05, T 3,63 t 0.05, Decisione: L ipotesi nulla deve essere rifiutata p value PH 0 T

30 Esempio Supponendo che il livello medio di colesterolo in soggetti adulti sani sia di 180. Si consideri la popolazione di soggetti adulti affetti da una determinata patologia, si vuole verificare se tali soggetti associano un livello di colesterolo diverso da quello dei soggetti sani. H 0 : 180 Test a due code H 1 : 180 Caso 1) Supponiamo di estrarre n=10 campioni Fissato α=0,05 t 0.05,9.6 t 0.05,9.6 Supponiamo di aver calcolato che X ,6,108,6 Quanto vale il p-value? T X Ha 9 gradi di S10 / 10 libertà S10 5 da cui T,108 Decisione: L ipotesi nulla non può essere rifiutata

31 Esempio (continuazione) Caso ) Supponiamo di estrarre n=15 campioni Fissato α=0,05 t 0.05, Supponiamo di aver calcolato che X T X Ha 14 gradi di S15 / 15 libertà t 0.05, S15 5 da cui T.58 T t0.05,14 Decisione: L ipotesi nulla deve essere rifiutata Aumentare la taglia del campione casuale estratto consente di riconoscere meglio le differenze (da un punto di vista matematico aumenta la potenza del test). esempio artificiale : nelle applicazioni reali se si aumenta la taglia del campione (o se si cambia il campione) le stime della media campionaria e della varianza campionaria risultano diverse Quanto vale il p-value?

32 Esempio 3 Si vuole verificare l efficacia di una data dieta dimagrante te, pertanto vengono monitorati n=11 individui al tempo t=0 (inizio della dieta) e t=3 mesi da quando la dieta è iniziata. A parte il regime dietetico gli individui selezionati continueranno a seguire il lo stile di vita cui erano abituati. Si osservano i seguenti risultati T=0 mesi T=3 mesi Individuo Individuo Individuo Individuo Individuo Individuo Individuo Individuo Individuo Individuo Individuo Possiamo concludere che la dieta è efficace con una significatività di 0.01? D H0 : d 0 H1 : d 0 S D Test ad una coda t0,01; T Decisione: L ipotesi nulla deve essere rifiutata La dieta è efficace

33 Conclusioni Come nel caso della stima dei parametri, anche nel caso dei test di ipotesi, per trarre conclusioni su un parametro caratterizzante una popolazione ci basiamo sui risultati ottenuti su un singolo campione. I singoli risultati che si ottengono dipendono dal campione estratto pertanto sono variabili casuali. L interpretazione viene fatta su basi probabilistiche. Di conseguenza non sempre si giungerà a delle conclusioni corrette, ad esempio non è garantito che la decisione presa sul se accettare l ipotesi nulla o se rifiutarla in favore dell alternativa sia corretta. Si possono verificare infatti due tipi di errori (errore di primo tipo,. i.e, rifiutare l ipotesi nulla quando questa è vera; ed errore di secondo tipo, i.e. accettare l ipotesi nulla quando questa è falsa). La logica del test di ipotesi considerata controlla solo l errore di primo tipo. Il rischio pratico è quello di scaricare questa scelta sull errore di secondo tipo, cioè non essere in grado di individuare delle differenze presenti dei dati. In questo senso occorre ricordare che: accettare l ipotesi nulla non significa che questa sia vera.

34 Conclusioni La capacità di individuare differenze tra i dati e le ipotesi (ad esempio circa la media di una popolazione) dipende da - Entità della differenza tra i valori (incogniti ma reali) della popolazione - Variabilità presente nella popolazione iniziale - Taglia del campione estratto n=5 n=0 n=50 n=00 L unica cosa che possiamo decidere è la taglia del campione estratto