10 TEST STATISTICI PER LA VERIFICA DI IPOTESI

Transcript

1 10 TEST STATISTICI PER LA VERIFICA DI IPOTESI Un test statistico è una procedura che permette di decidere tra l ipotesi sperimentale H1 e l ipotesi nulla H0, quantificando la divergenza delle osservazioni sperimentali da H 0. L esito del test è un numero che va confrontato con il corrispondente valore dell appropriata tavola statistica. Valori estremi del test suggeriscono che non è verosimile ottenere i dati sperimentali se fosse vera l ipotesi H 0. Per precisare il significato di non verosimile si introduce il P-value. Test parametrici In genere applicati a dati quantitativi. Richiedono che i dati abbiano distribuzione gaussiana. Test non parametrici (anche detti distribution free ) In genere impiegabili con dati almeno ordinali (test χ 2 anche con dati nominali). Non richiedono che i dati abbiano distribuzione gaussiana. Per lo più basati sulla trasformazione delle osservazioni in ranghi. In genere meno potenti dei test parametrici. Ipotesi H0 e H1 Si definisce ipotesi nulla (e la si indica con H0) l ipotesi di cui verificare la confutabilità (H0 i risultati ottenuti con il protocollo oggetto di sperimentazione non si discostano in modo statisticamente significativo dai risultati ottenibili con la procedura standard). Si definisce ipotesi sperimentale o alternativa (e la si indica con H1) l ipotesi (complementare ad H 0 ) di cui verificare l attendibilità (H1 i risultati ottenuti con il protocollo oggetto di sperimentazione si discostano in modo statisticamente significativo dai risultati ottenibili con la procedura standard). Il test statistico permette di decidere tra H 0 e H 1. Ad esempio si abbiano due campioni con differenti medie m1 e m2. L ipotesi nulla H0 è che i due campioni derivino dalla stessa popolazione (o, equivalentemente, da due popolazioni con uguale media) (H0: µ1 µ2) e che lo scostamento tra m1 e m2 è dovuto al campionamento. L ipotesi sperimentale H1 è che i campioni provengano da due popolazioni con differenti medie (H1: µ1 µ2). P-value Si ripeta il test su un gran numero di campioni estratti dalla popolazione di riferimento (per i quali è vera H 0 ). La distribuzione dei risultati dei test sarà rappresentabile con una curva in genere gaussiana. Si esegua poi il test sui dati sperimentali, ottenendo il valore Testesperim. Il P-value associato ad un test statistico è la probabilità ( 1) che il test condotto su un campione estratto in modo casuale dalla popolazione di riferimento (per cui è vera H 0 ) fornisca un valore uguale o più estremo di Testesperim. Più piccolo è il P-value, più forte sarà l evidenza fornita dai dati dell esperimento contro H0. Appunti di Statistica - G 1 di 8 Paolo Montanari

2 Se al test condotto sui dati sperimentali è associato un p-value inferiore al valore soglia α scelto dallo sperimentatore prima dell esecuzione del test (in genere α0.01 o α0.05), l evidenza empirica è sufficientemente contraria all ipotesi nulla H0 (campioni estratti dalla stessa popolazione) che quindi può essere rifiutata (e quindi si accetta l ipotesi H 1 ). Se invece al test condotto sui dati sperimentali è associato un p-value superiore al valore soglia α, l evidenza empirica non è sufficientemente contraria all ipotesi nulla H0 che quindi non può essere rifiutata. Se si ottiene un P-value inferiore al 5%, i dati sperimentali vengono detti statisticamente significativi. Se si ottiene un P-value inferiore all 1%, i dati sperimentali vengono detti statisticamente molto significativi. Errori di 1 e 2 tipo Si commette un errore di 1 tipo (la cui probabilità si indica con αp) quando si rifiuta l ipotesi H 0 essendo H 0 vera (o, equivalentemente, quando si accetta l ipotesi H 1 essendo H 1 falsa). Si commette un errore di 2 tipo (la cui probabilità si indica con βp) quando si rifiuta l ipotesi H 1 essendo H 1 vera (o, equivalentemente, quando si accetta l ipotesi H 0 essendo H 0 falsa). 1- αp è la probabilità di rispondere correttamente quando è vera H βp è la probabilità di rispondere correttamente quando è vera H 1. Proprio quest ultima viene denominata potenza η del test. La potenza di un test η 1 - βp è una misura della capacità del test di riconoscere correttamente l ipotesi sperimentale H 1. Nella seguente tabella sono riportati il tipo di errore e la probabilità di commetterlo. Decisione Situazione reale H0 vera (H 1 falsa) H0 falsa (H 1 vera) No errore; 1- αp Errore 2 tipo; βp Accetto H0 (rifiuto H 1 ) livello di protezione Rifiuto H0 Errore 1 tipo; αp (accetto H 1 ) livello di significatività Tipo di errore e probabilità di commetterlo No errore; 1- βp η Potenza del test Appunti di Statistica - G 2 di 8 Paolo Montanari

3 Le due probabilità di errore si compensano: tanto più si riduce αp, tanto più aumenta βp. L unico modo per ridurre contemporaneamente entrambe le probabilità di errore è quello di aumentare la numerosità dei campioni. Regola decisionale: rifiutare H0 se il risultato del test condotto sui dati sperimentali appartiene alla regione di rifiuto (o regione critica insieme dei valori del test che non è probabile si verifichino quando l ipotesi H 0 è vera, e che quindi conducono al rifiuto di H 0 ); accettare H0 se il risultato del test condotto sui dati sperimentali appartiene alla regione di accettazione (insieme dei valori del test che è probabile si verifichino quando l ipotesi H 0 è vera, e che quindi conducono alla accettazione di H 0 ). L ampiezza delle regioni di rifiuto e di accettazione e la loro frontiera (detta valore critico) dipendono dal livello di significatività α. Test a una coda (o test unilaterale) quando la regione di rifiuto è costituita da un intervallo. Test a due code (o test bilaterale) quando la regione di rifiuto è costituita da due intervalli, cioè da due code della distribuzione. Per capire se il test è unilaterale o bilaterale basta guardare l ipotesi alternativa: se in essa è presente il, allora si tratta di un test bilaterale, se invece compare il < o il >, si tratta di un test unilaterale. Appunti di Statistica - G 3 di 8 Paolo Montanari

4 SEQUENZA OPERATIVA TEST DI VERIFICA IPOTESI 1. Formulazione ipotesi sperimentale H1 e ipotesi nulla H0. 2. Effettuazione esperimento/indagine e raccolta osservazioni. 3. Verificare se la distribuzione è approssimativamente gaussiana: ad occhio, usando indicatori asimmetria e curtosi (valori pro a 0 se distribuzione circa gaussiana), 4. Esecuzione test statistico sulle osservazioni raccolte (fornisce un numero). 5. Confrontare il risultato del test statistico con i dati tabulati, per gli specifici valori di α (significatività) e gl (gradi di libertà). 6. In base al confronto si accetta l ipotesi H0 (e di conseguenza si rifiuta H1) o si rifiuta l ipotesi H0 (e di conseguenza si accetta H1). 7. Nel decidere di accettare o rifiutare H0 si può commettere uno dei seguenti errori: errore di 1 tipo se si rifiuta H0 essendo H0 vera (con probabilità αp); errore di 2 tipo se si accetta H0 essendo H0 falsa (con probabilità βp). 8. Se possibile si calcoli il P-value, altrimenti si fornisca l intervallo in cui ricade. Tipo di esperimento Associazione tra due variabili Due trattamenti con soggetti diversi (dati NON appaiati) Tre o più trattamenti con soggetti diversi (dati NON appaiati) Osservazioni prima e dopo trattamento sugli stessi soggetti (dati appaiati) Più trattamenti sugli stessi soggetti (dati appaiati) Quantitativi con distribuzione normale Regressione lineare e coeffic di correlazione ρ di Pearson Test t per dati indipendenti Analisi della varianza (ANOVA) Test t per dati appaiati Analisi della varianza per misure ripetute Tipo variabili Qualitativi ordinali e quantitativi non distribuiti normalmente Correlazione per ranghi di Spearman Test U di Mann- Whitney Test K di Kruskal- Wallis Test T di Wilcoon Statistica di Friedman Qualsiasi Rischio relativo o odds ratio Tabelle di contingenza con test χ 2 Tabelle di contingenza con test χ 2 Test di McNemar (χ 2 modificato) Test Q di Cochrane Appunti di Statistica - G 4 di 8 Paolo Montanari

5 Test z e t per verificare che una nuova osservazione appartenga ad una data popolazione Dati quantitativi con distribuzione gaussiana Test parametrico H0: la nuova osservazione appartiene alla popolazione Campione numeroso (n > 30): se z test > z tabulato si rifiuta H 0 (e si accetta H 1 ) Campione poco numeroso (n < 30): se t test > t tabulato si rifiuta H 0 (e si accetta H 1 ) Coefficiente correlazione lineare ρ (di Bravais-Pearson) per lo studio della dipendenza lineare tra 2 caratteri quantitativi 2 caratteri quantitativi X e Y con distribuzione gaussiana H0: X e Y sono incorrelate linearmente Se ρ test > ρ tabulato si rifiuta H 0 (e si accetta H 1 : correlazione lineare statisticamente significativa tra X e Y; se ρ test > 0 correlaz positiva; se ρ test < 0 correlaz negativa) Coefficiente di correlazione rs per ranghi di Spearman per lo studio della dipendenza tra 2 caratteri Dati qualitativi ordinali; dati quantitativi con qualsiasi distribuzione H0: X e Y sono incorrelate Se r Stest > r Stabulato si rifiuta H 0 (e si accetta H 1 : correlazione statisticamente significativa tra X e Y) Test χ 2 (verifica omogeneità frequenze, verifica bontà adattamento della distribuzione empirica all andamento previsto dalla distribuzione teorica, verifica di associazione tra due caratteri) Dati di qualsiasi tipo (anche nominali) Test NON parametrico Basato sul confronto tra frequenze osservate e frequenze attese Se gl 1 correzione di Yates H0: non vi è associazione tra i due caratteri (la differenza tra le frequenze osservate e le frequenze attese è statisticamente non significativa) Se χ 2 test > χ 2 tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Test U di Mann Whitney per confronto mediane di due campioni non appaiati (anche di differente numerosità) Dati qualitativi ordinali; conteggi; dati quantitativi con qualsiasi distribuzione Test NON parametrico Usa i ranghi mediana Se U test < U tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Appunti di Statistica - G 5 di 8 Paolo Montanari

6 Test K di Kruskal Wallis per confronto mediane di più di due campioni non appaiati Dati qualitativi ordinali; conteggi; dati quantitativi con qualsiasi distribuzione Test NON parametrico Usa i ranghi mediana Se K test > χ 2 tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Test T di Wilcoon per confronto mediane di due campioni appaiati Dati qualitativi ordinali; dati quantitativi con qualsiasi distribuzione Test NON parametrico Usa i ranghi mediana Se T test < T tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Test t per confronto medie di due campioni non appaiati Dati quantitativi con distribuzione gaussiana Test parametrico media Se t test > t tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Test t per confronto medie di due campioni appaiati Dati quantitativi con distribuzione gaussiana Test parametrico media Se t test > t tabulato si rifiuta H 0 (e di conseguenza si accetta H 1 ) Test ANOVA per confronto medie di più di due campioni Dati quantitativi con distribuzione gaussiana Test parametrico Valutazione efficacia test diagnostici (sensibilità, specificità, valori predittivi) Studi prospettici (o di coorte): odds ratio (OR), rischio relativo (RR) hazard ratio (HR) Studi retrospettivi (o caso-controllo): odds ratio (OR) Appunti di Statistica - G 6 di 8 Paolo Montanari

7 10b test z e t per verifica di appartenenza ad una popolazione (parametrico) Caso generale di test a due code. 1. Si abbia un carattere X con distribuzione gaussiana N(μ,σ) 2. Si presenti una nuova osservazione A 3. H0: la nuova osservazione appartiene alla popolazione 4. Si calcola il suo corrispondente valore za nella distribuzione gaussiana standardizzata A µ N(0,1) usando a formula za σ 5. Si controlla il valore assoluto di z A a) se za > zα la probabilità p di ottenere tale valore di z A o un valore più estremo ( probabilità di ottenere l originale A o un valore più estremo) è inferiore a 0.05 (p < 0.05) z A (e quindi A ) è statisticamente significativo b) se za > zα la probabilità p di ottenere tale valore di z A o un valore più estremo ( probabilità di ottenere l originale A o un valore più estremo) è inferiore a 0.01 (p < 0.01) z A (e quindi A ) è statisticamente molto significativo Esempio test z. Si consideri come caratteristica X il peso di una popolazione di neonati sani. Si abbia come media µ 3.8 kg e come deviazione standard σ 0.5 kg. Si presenta una nuova osservazione A 2 kg. H0: la nuova osservazione appartiene alla popolazione dei neonati sani. A µ 2kg 3.8kg 1.8 za 3.6 σ 0.5kg 0.5 Essendo za 3.6 > 2.58 si conclude che l osservazione A 2 kg è statisticamente molto significativa, cioè che la probabilità che il neonato di peso 2 kg appartenga alla popolazione dei neonati sani è inferiore a 0.01 (p < 0.01). Quindi si rifiuta H 0. Si può calcolare il p-value sfruttando le proprietà della curva gaussiana standardizzata. p-value 2 * DISTRIB.NORM.ST.N( -3.6 ; VERO) 2 * (due code) Appunti di Statistica - G 7 di 8 Paolo Montanari

8 Solitamente non si conoscono i valori di µ e di σ e quindi è necessario stimarli sulla base di un campione. Se il campione è ben progettato e numeroso (n 30) possiamo affermare con discreta fiducia che la media m e la deviazione standard S del campione rappresentano stime affidabili della media µ e della deviazione standard σ della popolazione. In questo caso la formula del punto 4 diventa: A m z A S Se il campione è piccolo (n < 30) siamo meno fiduciosi. Per tener conto della maggior incertezza, per le probabilità α5% e α 1%, al posto dei valori zα e zα vanno considerati i valori tα0.05,ν e tα0.01,ν che si leggono sulle tavole della distribuzione t di Student a νn-1 gradi di libertà, e quindi il punto 5 diventa: A m 5. Si controlla il valore assoluto di ta S a) se ta > tα0.05,ν la probabilità p di ottenere tale valore di t A o un valore più estremo ( probabilità di ottenere l originale A o un valore più estremo) è inferiore a 0.05 (p < 0.05) t A (e quindi A ) è statisticamente significativo b) se ta > tα0.01,ν la probabilità p di ottenere tale valore di t A o un valore più estremo ( probabilità di ottenere l originale A o un valore più estremo) è inferiore a 0.01 (p < 0.01) t A (e quindi A ) è statisticamente molto significativo Esempio test t. La temperatura di un paziente nel giorno XYZ (caratteristica X) è stata rilevata ogni ora dalle 7 alle 18. La temperature osservate (in C) sono: 36.8 ; 37.2 ; 37.9 ; 38.1 ; 38.2 ; 38.1 ; 38.2 ; 37.9 ; 37.6 ; 37.4 ; 37.1 ; 36.9 (i 12 valori possono essere considerati come un campione della popolazione costituita da tutte le possibili misurazioni della temperatura del paziente nel giorno XYZ). Il giorno successivo la temperatura del paziente è risultata pari a 36.0 C. E verosimile che la temperatura sia simile a quella del giorno precedente? In altre parole ci si chiede se sia verosimile che la singola osservazione di 36.0 C appartenga alla stessa popolazione da cui è stato estratto il campione di temperature rilevato il giorno precedente. H0: la nuova osservazione appartiene alla popolaz delle temperature del giorno precedente. Per la media e la deviazione standard del campione si ha : m e S t A A m S 36 C C 0.52 C 1.62 C 0.52 C 3.12 dalla tabella t di Student a (12-1) 11 gradi di libertà si leggono i valori: tα0.05,ν e tα0.01,ν Essendo ta 3.12 > si conclude che l osservazione A 36 C è statisticamente molto significativa, cioè che la probabilità che l osservazione 36 C appartenga alla popolazione di temperature osservate il giorno prima è inferiore a 0.01 (p < 0.01). Quindi si rifiuta H 0. Si può calcolare il p-value sfruttando le proprietà della curva di distribuzione t di Student. p-value 2 * DISTRIB. T.N( ; 11 ; VERO) 2 * (due code) Appunti di Statistica - G 8 di 8 Paolo Montanari