L Analisi della Varianza (ANOVA)

Transcript

1 L Analisi della Varianza (ANOVA) Lucio Demeio Dipartimento di Ingegneria Industriale e Scienze Matematiche Università Politecnica delle Marche Introduzione. L analisi della varianza (indicata spesso con l acronimo ANOVA, dalla terminologia inglese ANalysis Of VAriance) è un test d ipotesi volto a confermare (o respingere) l affermazione che m campioni gaussiani, non necessariamente aventi lo stesso rango, presi da popolazioni diverse ma tutte con la stessa varianza σ, abbiano tutti lo stesso valor medio. Trattiamo qui soltanto l Analisi della Varianza ad una via, tralasciando la più complessa Analisi della Varianza a due vie. X 11, X 1,..., X 1,n1 X 1, X,..., X,n... X m1, X m,..., X m,nm gli m campioni, di rango rispettivamente n 1, n,..., n m. Siano inoltre µ 1, µ,..., µ m i valori medi delle variabili dei singoli campioni, σ la varianza comune e siano X i, i 1,,..., m le medie campionarie. Siano infine µ la media totale X tot la media campionaria totale. Abbiamo: X ij N(µ i, σ ) i 1,,..., m, j 1,,..., X i 1 X ij i 1,,..., m X i N(µ i, σ / ) i 1,,..., m µ 1 E[X ij ] N N µ i X tot 1 X ij N N X i X tot N(µ, σ /N) dove N n 1 + n n m. Con queste premesse, l ipotesi nulla e l ipotesi alternativa sono espresse da H 0 : µ 1 µ... µ m µ H 1 : µ i1 µ i per almeno una coppia i 1, i. Il test consiste nel costruire due diversi stimatori della varianza, σ W e σ b, con σ W uno stimatore corretto sia con H 0 vera che con H 0 falsa, mentre σ b ha distorsione non nulla nel 1

2 caso di H 0 falsa. Si dimostra quindi che E[ σ b] σ col segno di uguaglianza valido solo nel caso di H 0 vera. La statistica da usare per la verifica del test è pertanto F La regione critica di livello α è perciò data da σ b σ W. (1) P (F > F α ) α. () Dobbiamo pertanto: costruire gli stimatori σ W e σ b; determinare la legge del loro rapporto σ b/ σ W ; costruire la regione critica del test. La variazione totale e la formula di Huygens. Introduciamo la variazione totale delle osservazioni S definita come S (X ij X tot ). (3) Questa grandezza si può decomporre al modo seguente: S (X ij X tot ) (X ij X i + X i X tot ) { (Xij X i ) + (X i X tot ) + (X ij X i ) (X i X tot ) } (X ij X i ) + dove abbiamo usato il fatto che e dove abbiamo introdotto le grandezze (X i X tot ) SW + Sb (4) S W S b (X ij X i ) 0 (X ij X i ) (5) (X i X tot ) (6)

3 La (4) dice che la variazione totale è data dalla somma delle variazioni di ogni gruppo dalla sua media campionaria (SW ) e delle variazioni tra i gruppi (S b ). Il contributo S W viene anche detto variazione entro (within) i campioni, mentre Sb viene detto variazione tra (between) i campioni. La (4) è detta formula di Huygens ed ha la stessa struttura matematica del teorema di Huygens nella meccanica dei corpi rigidi. Gli stimatori σ W e σ b. All interno di ciascun campione, ad esempio per la variabile X ij del campione i esimo, abbiamo e quindi Z ij X ij µ i σ Z ij χ N(0, 1) e j 1,,..., Zij χ N Sappiamo che, sostituendo le medie campionarie X i al posto delle medie vere µ i, (X ij X i ) χ (X ij X i ) σ 1 e χ σ N m e quindi, ricordando la proprietà della legge χ per cui E[χ l ] l, abbiamo per la grandezza SW introdotta nella (5) [ ] S E W σ. N m Lo stimatore σ W S W (7) N m è pertanto uno stimatore non distorto della varianza σ. Siccome σ W è stato introdotto senza l ipotesi di uguaglianza delle medie dei singoli campioni, esso è uno stimatore corretto di σ indipendentemente dalla validità o meno dell ipotesi nulla H 0. Per determinare il secondo stimatore, σ b, consideriamo la grandezza Sb introdotta nella (6). Abbiamo: { Sb (X i X tot ) Xi µ i + µ X tot + µ i µ } Notiamo che { (Xi X tot µ i + µ) + (µ i µ) + (µ i µ) (X i X tot µ i + µ) } (X i X tot µ i + µ) + + (µ i µ) + (µ i µ) (X i X tot µ i + µ) E[X i X tot µ i + µ] 0 E[(X i X tot µ i + µ) ] V ar(x i X tot ) E[(µ i µ) ] (µ i µ) 0; 3

4 e pertanto E[S b ] V ar(x i X tot ) + Per la prima sommatoria abbiamo: V ar(x i X tot ) In conclusione, ovvero (µ i µ). { V ar(xi ) + V ar(x tot ) Cov(X i, X tot ) } { σ + σ N Cov { σ + σ N m k1 ( X i, k1 n k N X k n k N Cov ( ) X i, X k { σ + σ n i N n } i N V ar(x i) m ( 1 σ 1 ) (m 1) σ N Dalla (8) vediamo che E E[S b ] (m 1) σ + )} } { σ + σ N N (µ i µ) [ ] S b σ + 1 m 1 m 1 } σ (µ i µ) (8) σ b S b (9) m 1 è uno stimatore non distorto della varianza se e solo se è vera l ipotesi nulla H 0. Inoltre, in generale a prescindere dalla validità o meno dell ipotesi nulla, si ha che E[ σ b] E[ σ W ] σ. (10) La distribuzione di Snedecor. La statistica F introdotta nella (1) è quindi data da F F m 1,N m S b S W N m m 1. (11) La distribuzione di questa variabile viene detta distribuzione F di Snedecor (o Fisher-Snedecor) ed è definita come il rapporto tra due distribuzioni χ al modo seguente: F kl χ k /k χ l /l. I quantili F α,kl della legge di Snedecor sono definiti in maniera analoga ai quantili della normale standard o della legge di Student. Quindi avremo P (F kl > F α (k, l)) α. 4

5 In base alla disuguaglianza (10), definiamo pertanto la regione di rigetto dell ipotesi nulla al livello di confidenza α, come P (F m 1,N m > F α (m 1, N m)) α. (1) Esercizio (Ross, Cap. 10 n. 6) Per confrontare l efficacia di due diete si scelgono 0 individui sovrappeso e li si divide a caso in due gruppi da 10, ciascuno dei quali viene sottoposto ad una delle due diete. Dopo 10 settimane le diminuzioni di peso riscontrate sono state: Dieta 1:., 3.4, 4., 16.1, 9.4, 1.5, 18.6, 3., 8.8, 7.6 Dieta : 4., 16.8, 14.6, 13.7, 19.5, 17.6, 11., 9.5, 30.1, 1.5 Verifica al 5% di significatività che le due diete abbiano avuto lo stesso effetto. Soluzione. I due campioni hanno lo stesso rango, pari a 10. Quindi in questo caso m e n 1 n n 10, N 0. Indichiamo con X 11, X 1,..., X 1n gli elementi del primo campione e con X 1, X,..., X n quelli del secondo. Dai dati abbiamo: X , X 17.87, X tot SW , Sb 0.68 σ W 51.93, σ b 0.68 F 1,18 σ b σ W Il quantile di ordine 0.05 che rileviamo dalle tavole è F 0.05 (1, 18) 4.41; l ipotesi nulla non può dunque essere rifiutata. Esercizio (Baldi, Cap. 6 Esempio 6.48) Tre tipi diversi di terreno vengono coltivati ad orzo; per ogni tipo di terreno si misura il raccolto in quintali per ettaro; le quantità prodotte per ogni tipo di terreno sono: Tipo 1: 40.3, 5.1, 46.5, 46.5, 5.1, 48.3, 45.3, 45.1, 41.8, 39.8, 47.0 Tipo : 44.5, 51.0, 4.5, 49.3, 45.7, 46.0, 54.8, 39.4, 51.1, 45.6, 56.0, 5., 47. Tipo 3: 44.1, 48.5, 41.3, 4.6, 4.1, 43.8, 39.7 Verifica al 5% di significatività che le due diete abbiano avuto lo stesso effetto. Soluzione. I tre campioni hanno rango, rispettivamente 13, 11 e 7. Quindi in questo caso m 3 e n 1 13, n 11, n 3 7, N 31. Indichiamo con X 11, X 1,..., X 1n1 gli elementi del primo campione, con X 1, X,..., X n quelli del secondo e con X 31, X 3,..., X 3n3. Dai dati abbiamo: X , X 48.1, X , X tot 46. SW , Sb σ W 17.17, σ b F 1,18 σ b σ W

6 Il quantile di ordine 0.05 che rileviamo dalle tavole è F 0.05 (, 8) 3.34; l ipotesi nulla non può dunque essere rifiutata. 6