1 La verifica di ipotesi Il test statistico e le ipotesi Regione di accettazione e rifiuto Test con ipotesi nulla semplice Il p-value Errori di I e II tipo Funzione di potenza Contenuti: Capitolo 13 libro di testo
2 Le procedure di Inferenza Statistica 1)La stima puntuale si identificano gli stimatori e si caratterizzano in termini di proprietà ottimali 2) La stima per intervallo si costruiscono gli intervalli di confidenza 3) La verifica d ipotesi Questo tipo di inferenza è complementare alle due precedenti tecniche di stima. Di grande rilevanza applicativa, tale metodologia consente di fare inferenza sui parametri della Popolazione alla luce dell analisi delle differenze tra i risultati che osserviamo (la statistica campionaria) e quelli che ci aspetteremmo di ottenere se una qualche ipotesi sulla Popolazione fosse vera
3 Il processo inizia con una ipotesi sulla natura (parametri) di una Popolazione. L ipotesi deve essere stabilita in modo chiaro e comporta due opzioni (ipotesi); una statistica test, calcolata con i dati di un campione casuale, ci aiuterà a selezionarne una. ESEMPI 1.Un azienda produttrice di barrette alimentari, afferma che mediamente, il peso di ognuna è di 2 gr. Per verificare l affermazione si può estrarre un campione casuale di barrette e calcolarne il peso medio. 2.Un fabbricante di pezzi di ricambio per auto, vuole monitorare il processo produttivo per assicurarsi che il diametro dei pistoni soddisfi le specifiche richieste dalla casa automobilistica. A tal fine si possono estrarre campioni casuale, ogni due ore dalla linea produttiva ed usarli per accertare che gli standard siano rispettati. 3.Un azienda farmaceutica vuole verificare se un nuovo farmaco è efficace nell abbassare la pressione sanguigna; a tal fine vengono due gruppi di pazienti(campioni), che vengono trattati uno con un placebo, l altro con il farmaco al fine di stabilire se il farmaco produce diminuzioni significative nell abbassamento della pressione.
4 Logica concettuale di base Per verificare le ipotesi si utilizzano statistiche campionarie; poiché queste seguono una distribuzione campionaria, la decisione a favore di una delle due viene presa sulla base di variazioni aleatorie dovute al campione per la scelta tra due alternative servono chiare regole di decisione. Il modo di procedere ha un analogia diretta con le regole del processo penale. In tale ambito vale sempre la presunzione di innocenza(è cautelativo!) ed è la giuria a decidere se l imputato è colpevole sulla base di una forte evidenza empirica contro l ipotesi iniziale(l innocenza). Nel processo penale, per scegliere tra colpevolezza ed innocenza ci sono: 1.procedure rigorose per presentare e valutare le prove; 2.un giudice che fa rispettare le regole; 3.un processo decisionale che presume l innocenza fino a prova contraria, ossia a meno che ci sia evidenza di colpevolezza oltre ogni ragionevole dubbio. Intalmodoèverochesipotrannolasciarliberidegliimputatiche inrealtàsonocolpevoli,maseequandosirifiutalapresunzione di innocenza e si ritiene l imputato colpevole, significa che si ha concreta evidenza della sua colpevolezza.
5 Il test statistico e le ipotesi Ipotesi sulla Popolazione Se l ipotesi riguarda uno o più parametri della distribuzione di probabilità della popolazione, si parlerà di test parametrico. Le due opzioni a confronto L impostazione data da J.Neyman e E.S.Pearson, nota come test d ipotesi, prevede la formulazione di un ipotesi nulla e un ipotesi alternativa. Obiettivo: Attraverso un campione di osservazioni stabilire, con un certo grado di attendibilità, se poter rifiutare o meno l ipotesi nulla a favore dell ipotesi alternativa.
6 Formulazione delle ipotesi ipotesi statistica : una congettura riguardante (il valore di) un parametro θ della popolazione (es. µ,σ 2 oppure π). Nell approccio di Neyman-Pearson si distinguono due ipotesi contrapposte: ipotesi nulla, indicata con H ipotesi alternativa, indicata con H 1 ESEMPIO Secondo il costruttore di un certo tipo di batterie per autovetture, la durata media è di 34 ore. Un cliente, per verificarne la durata, osserva un campione di 3 batterie: : le batterie hanno durata media di almeno 34 ore : le batterie hanno durata media inferiore a 34 ore H H 1 L ipotesi nulla è preesistente all osservazione dei dati campionari ed è ritenuta vera fino a prova contraria (ossia a meno che non ci sia una prova evidente contro la sua veridicità). In genere è l ipotesiversolaqualesihannodubbiecontrolaqualesi cerca una evidenza empirica; quella alternativa è quella che si contrappone alla nulla e che potrebbe essere considerata più verosimile sulla base delle risultanze
7 Indicando con Θ lo spazio parametrico, ossia l insieme di tutti i possibili valori che il parametro θ, su cui si fanno congetture può assumere, l ipotesi nulla e quella alternativa individuano una partizione di Θ; a titolo esemplificativo: Se si rifiuta l ipotesi nulla, sarà accettata l ipotesi alternativa. Se non si rifiuta l ipotesi nulla non necessariamente ciò significa che essa sia corretta: in tal caso infatti possono essere vere o H o H1, ma la tecnica di verifica che si usa non è abbastanza potente per permetterci di rifiutare l ipotesi nulla. Sarebbe più corretto dire nonsirifiutal ipotesinullah
8 Formulazione delle ipotesi Θ è lo spazio parametrico, ossia l insieme di tutti i possibili valori che può assumere θ Θ e Θ1 sono i sottospazi che formano una partizione dello spazio parametrico. Indichiamo le due ipotesi con il seguente sistema: Ad esempio: H : θ Θ H1 : θ Θ1 H H 1 : µ 34 : µ < 34
9 Formulazione delle ipotesi Un ipotesi può essere: semplice, quando specifica completamente la popolazione composta, quando non specifica completamente la popolazione Sia X ~ N ( µ,σ 2 = 9) allora H : µ = 5 è un ipotesi semplice, mentre H : µ > 5 è un ipotesi composta. Un ipotesi composta può essere: unidirezionale, quando specifica un intervallo di valori bidirezionale, quando specifica due intervalli di valori H : µ > 5 è unidirezionale, mentre H : µ 5 bidirezionale.
1 1 1 1 I sistemi di ipotesi più frequentemente utilizzati sono i seguenti: Formulazione delle ipotesi > = 1 θ θ θ θ : H : H = 1 θ θ θ θ : H : H = θ θ : H dove è un valore fissato del parametro. La formulazione delle ipotesi dipende dalla natura del problema < = 1 θ θ θ θ : H : H θ
11 11 Esempi La Toyota dichiara che il suo nuovo modello di auto, in autostrada otrà percorrere in medi 23 km per litro di benzina. Se doveste sottoporre a verifica tale affermazione, quale ipotesi nulla e quale alternativa scegliereste? H H 1 : µ = 23 (km per litro) : µ 23 (km per litro) In passato l età media degli assicurati presso la XXX Compagnia di Assicurazioni è stata di 48 anni. Poiché a società si è espansa ed ha differenziato la propria offerta di polizze, il direttore dell ufficio finanziario ritiene che l età media possa essere cambiata. Se doveste condurre una indagine sulla base di un campione di assicurati, per verificare tale considerazione, quali sarebbero le ipotesi a confronto? H H 1 : µ = 4 8 a n n i : µ 4 8 a n n i
12 12 Esempio Il manager operativo dell azienda di cereali sceglie come ipotesi nulla: H : (peso medio) µ=368 gr. Procede all estrazione di un campione di scatole e ne determina il peso medio x. La media campionaria è uno stimatore della corrispondente µ della intera popolazione di scatole; ed è una statistica di cui è nota la distribuzione campionaria. Se l ipotesi nulla fosse vera, ossia che il peso medio della intera produzione di scatole è di 368 gr, è vero che da un lato è probabile che la statistica differisca dal vero valore del parametro (che ipotizziamo pari a 368 gr) per effetto del caso o di un errore campionario, ma è d altronde pur vero che ci aspettiamo (che pur differendo) sia vicina al valore vero del parametro che ipotizziamo essere 368. Se ciò succede non ci sarebbero prove sufficienti a rifiutare tale ipotesi. Ad es. se risultasse che la media campionaria fosse 367.9, è plausibile concludere che la media della popolazione coincide con quanto specificato dall azienda: è molto probabile ottenere una media campionaria di 367.9 da una popolazione la cui media è 368. Non altrettanto si potrebbe concludere se fosse risultata una media campionaria di 32: non altrettanto probabile ottenere una media campionaria di 32 da una popolazione la cui media è 368!
13 La decisione di scegliere l una o l altra delle ipotesi segue uno schema rigoroso: il processo decisionale usa una statistica test costruita sulla 2 base di un campione casuale (es. X, S oppure Pˆ ). La statistica test avrà una distribuzione campionaria nota, basata sulle tecniche di campionamento e sul valore del parametro specificato dall ipotesi nulla. Dalla distribuzione della statistica si determineranno i valori della statistica test che avrebbero bassa una bassa probabilità di verificarsi se l ipotesi nulla fosse vera. Se la statistica test relativa al campione considerato assume uno tra questi valori, rifiuteremo l ipotesi nulla ed accetteremo quella alternativa, altrimenti non rifiuteremo l ipotesi nulla. Ciò comporta la definizione delle cosiddette
14 Regione di accettazione e di rifiuto Un test statistico è una regola che permette di discriminare i campioni che portano all accettazione dell ipotesi nulla da quelli che portano al suo rifiuto. Il test si basa sul valore assunto da una statistica test. La statistica test è una statistica campionaria la cui distribuzione deve essere completamente nota sotto l ipotesi nulla. L insieme dei valori della statistica test che portano all accettazione dell ipotesi nulla è chiamata regione di accettazione. L insieme dei valori della statistica test che portano al rifiuto dell ipotesi nulla è chiamata regione di rifiuto.
15 Regione di accettazione e di rifiuto Esempio: Supponiamo che la popolazione sia Normale con media µ incognita e varianza 2 σ nota. Si vuole verificare: H : µ = µ H1 : µ µ Considerando come statistica test la media campionaria X sappiamo che sotto l ipotesi nulla questa si distribuisce come una Normale con media µ = µ e varianza 2 n. σ
16 16 Dalla figura si può vedere che i valori critici definiscono la zona di accettazione e che dipendono dal livello di significatività α : maggiore è il suo valore, più ampia sarà la regione di rifiuto. α Ad es. se 1- è.9 e l ipotesi nulla è vera, la probabilità di osservare una media campionaria vicina a µ è.9, mentre la probabilità di osservare un valore distante è piccola, complessivamente.1. Tale considerazione è alla base del funzionamento del TEST:.
17 Una volta estratto il campione ed osservato in tal caso, il valore della media campionaria x, si va a verificare in quale zona si colloca. Se il valore ottenuto è distante da µ l ipotesi nulla di partenza (µ=µ ) verrà messa in dubbio, poiché (sotto l ipotesi nulla, vera!) valori di questo tipo sono complessivamente poco probabili. Ciò comporta per l appunto la suddivisione del campo di variazione della media in due regioni: di accettazione e di rifiuto (critica). La regione di rifiuto rappresenta l insieme di tutti i valori della statistica test che non è probabile si verifichino quando l ipotesi nulla è vera, mentre è invece probabile che si verifichino quando è falsa. Il valore critico separa la regione di accettazione da quella di rifiuto: la determinazione di tale valore dipende dall ampiezza della regione di rifiuto. E la dimensione di tali regioni dipende dal valore scelto (livello di significatività del test): maggiore il suo valore più ampia è la regione di rifiuto. A sua volta ciò è legato alrischio che comporta prendere una decisione su un parametro alla luce delle sole informazioni campionarie. α
18 Test con ipotesi nulla semplice In corrispondenza dell ipotesi alternativa si possono configurare diverse regioni di rifiuto: H H 1 : : θ = θ θ θ
19 19 Esempio In un paese è noto che la statura media degli abitanti è 175 cm. Sulla base di cambiamenti nello stile di vita un ricercatore ipotizza una sua variazione in 178 cm. Assumendo che la v.c. 2 statura sia distribuita come una normale, X N ( µ, σ ) con varianza nota ed utilizzando la statistica media campionaria consideriamo sotto l ipotesi nulla la statistica test: X 175 Z = N (,1) σ / n a seconda della ipotesi alternativa si hanno le seguenti regioni di rifiuto: H : µ > 175 Z z 1 H : µ < 175 Z z 1 H : µ 175 Z z 1 α / 2 α α es. per σ 2 = 3 e per n=2 avessim o x=177,5 117.5 175 z = =.645 3 / 2 con un livello α =.5 i valori critici sarebbero z =1.645 e z =1.96. In nessuno dei casi si potrebbe rifiutare l'ipotesi nulla. α α / 2
2 L approccio del p-value alla verifica di ipotesi Per l ampia diffusione dei pacchetti statistici è venuto affermandosi un altro modo per evidenziare il risultato del test: quello di calcolare il p-value. Poiché il valore di α è arbitrario una ipotesi rifiutata al livello α=.1 potrebbe invece essere accettata con α=.1 p-value : rappresenta la probabilità di osservare un valore della statistica test uguale o più estremo del valore ottenuto a partire dal campione, quando l ipotesi nullah èvera. Viene anche chiamato livello di significatività osservato, poiché coincide con il più piccolo livello di significatività in corrispondenza del qualeh è rifiutata. Non è una quantità fissata come α, ma che misura l evidenza fornita dai dati contro l ipotesi nulla: minore è il valore del p-value, più è forte l evidenza contro l ipotesi nulla. In pratica la regola decisionale: α se p-value non rifiuto H se p-value < α rifiuto H
21 Nell esempio precedente piuttosto che rifiutare o accettare l ipotesi che µ=175 ad un prefissato valore di α e preferibile riportare un p-value che misuri l evidenza contro l ipotesih. Poiché z=.645 se l ipotesi alternativa fosseh 1 :µ>175 risulterebbe: P-value=p(Z>.645)=1-Φ(.645)=.26 Non c è una forte evidenza nei dati contro l ipotesi nulla: poiché il test è unilaterale l ipotesi nulla sarà rifiutata per valori di α maggiori di.26! Vantaggio: il p-value può essere confrontato con diversi possibili valori di α
22 Errori di I e II specie Quando si usa una statistica campionaria per prendere una decisione su P, si corre sempre il rischio di prendere una conclusione sbagliata. errore del I tipo: si rifiuta l ipotesi nulla mentre questa è vera. errore del II tipo: si accetta l ipotesi nulla mentre questa è falsa H H Decisione Accetto H Rifiuto H è vera Corretta Errore del I tipo 1 α è falsa Errore del II tipo β α Corretta 1 β α è la probabilità di commettere l errore del I tipo. E detto livello di significatività del test. 1 α β è detto coefficiente di confidenza del test. è la probabilità di commettere l errore del II tipo. E detto rischio del test. 1 β viene detto potenza del test e corrisponde alla probabilità di rifiutare l ipotesi nulla quando questa è falsa.
23 α: livello di significatività errore di prima specie: rifiuto H quando è vera e quindi non dovrebbe essere rifiutata. Tale errore viene controllato fissando il livello di rischio α che si è disposti a tollerare se si rifiuta l ipotesi nulla quando è vera. Poiché il livello di significatività è specificato prima di condurre la verifica di ipotesi tale rischio è sotto il controllo da chi compie l analisi. Generalmente α è piccolo es..5 e dipende dai costi che derivano dal commettere un errore di prima specie. Una volta specificato il valore di α si conosce anche la dimensione della regione di rifiuto essendo questi la probabilità che la statistica test cada nella regione di rifiuto quando l ipotesi nulla è vera. 1-α: coefficiente di confidenza (complemento ad 1 della probabilità dell errore di prima specie: rappresenta la probabilità che l ipotesi nulla non sia rifiutata quando è vera quindi quando non dovrebbe essere rifiutata) moltiplicato per 1% coincide con il livello di confidenza. Questo coefficiente nella verifica delle ipotesi rappresenta la probabilità di concludere che il valore del parametro individuato dall ipotesi nulla è plausibile, quando di fatto questa è vera
24 β: il rischio; a differenza dell errore di prima specie che viene controllato fissando α, la probabilità di commettere un errore di seconda specie dipende dalla differenza tra il valore ipotizzato ed il vero valore del parametro di P. Se la differenza tra la statistica campionaria ed il corrispondente parametro di P è grande, è probabile che β, la probabilità di commettere l errore di seconda specie (non rifiutoh quando è falsa) sia piccolo; mentre se è piccola la differenza, la probabilità di commettere un errore di seconda specie è grande. 1-β: potenza del test; complemento ad 1 del precedente rappresenta la probabilità di rifiutare l ipotesi nulla quando è falsa e quindi dovrebbe essere rifiutata. Un modo di controllare e ridurre β consiste nell aumentare n. Una elevata dimensione campionaria in genere permette di individuare anche piccole differenze tra la statistica campionaria ed il parametro di P: per un dato valore di α un aumento di n determina una riduzione di β e quindi un aumento della potenza del test per verificare se l ipotesi nulla è falsa. Se invece per problemi di risorse l ampiezza campionaria non può essere aumentata, per un datonc è da considerare il trade-off tra i due possibili tipi di errore: possiamo controllare il rischio di un errore di primo tipo, scegliendo un valore piccolo di α, ma al diminuire di α, β aumenta.
25 Nell esempio del processo di produzione si compie un errore di primo tipo se si conclude che il peso medio delle scatole prodotte non è uguale a quanto specificato dall azienda, 368 gr, ed invece in realtà lo è; un errore di seconda specie quando si conclude che il peso medio è 368 gr, ed invece non lo è. La scelta di α e β dipende da costi che ciascuno dei due errori comporta: un cambiamento del processo produttivo potrebbe essere più costoso rispetto al costo di una perdita d immagine ad esempio. Viceversa si dovrebbe per limitare il secondo dovremmo dare un valore più elevato ad α. Nel processo penale: E più costoso moralmente lasciare a piede libero un colpevole di reato oppure un tenere innocente in galera?!
26 Errori di I e II tipo I diversi errori che si possono commettere: α Si vede chiaramente come tra e sussiste una relazione inversa: minore è il valore di α, maggiore è il valore di β. Le probabilità di commettere gli errori corrispondono a delle aree. β
27 Passi da seguire nella verifica d ipotesi Definizione del sistema d ipotesi Scelta della statistica test Scelta del livello di significatività e della numerosità campionaria Definizione della regione di rifiuto Estrazione del campione Calcolo della statistica test Decisione
28 Esempio - passi da seguire Si vuole verificare se dopo una campagna pubblicitaria il fatturato medio di un azienda, aumentato rispetto a quello dell anno precedente pari a µ = 25. Il fatturato è una v.c. Normale con varianza nota pari a σ 2 =1296 1. Definizione del sistema d ipotesi H : µ = 25 contro H1 : µ > 25 2. Scelta della statistica test Z = ( X 25 ) ( 36 n ) ~ N( 1, ) 3. Scelta del livello di significatività e della numerosità campionaria fissiamo α n = 81 α =,5 (e quindi un valore critico pari a z 2 = 1, 645 ) e una numerosità 4. Definizione della regione di rifiuto R = { z > 1,645 } 5. Estrazione del campione si estrae un campione casuale di 81 clienti 6. Calcolo della statistica test la media campionaria risulta essere e il valore della statistica test ( 2, 51 25) ( 36 9) 2, 5 z = = x = 2,51 7. Decisione Poiché il valore della statistica test cade nella regione di rifiuto (2,5>1,645) rifiutiamo l ipotesi nulla.
29 29 Funzione di potenza Corrisponde alla probabilità di rifiutare H quando questa è falsa (e dovrebbe essere rifiutata) dovrebbe essere la più elevata possibile; se l ipotesi alternativa H 1 è composta non abbiamo un singolo valore per β ma una funzione: Si chiama funzione di potenza del test la funzione che descrive la probabilità, al variare di θ di rifiutare H e viene indicata con π ( θ ) Ad esempio, per un test sulla media con ipotesi nulla: La funzione di potenza è: H : µ =175 N.B. per µ=175, ossia sotto l ipotesi nulla, la probabilità di rifiutare H coincide con la probabilità di commettere l errore del I tipo π 175 = ossia: ( ) α