Copyright Michele Tartara

Transcript

1 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara Parte 1. Ifereza parametrica Alcue formule e proprietà utili: Fuzioe di ripartizioe: F X = P X x Desità: f X x = F X = P X = x x R P X > x = 1 P X x P x < X y = P X y P X x 1. Probabilità 1.1. Proprietà del valore atteso. 1 Se P X = c = 1 allora EX = c EaX = aex 3 EX + a = EX + a 4 EgX + hx = EgX + EhX se h e g soo fuzioi tali che EgX e EhX esistoo 5 EXY = EXEY se X e Y soo idipedeti. 1.. Proprietà della variaza. 1 V arax = a V arx V arx + β = V arx co β R 3 V arv = EV E V = E[V µ ] co µ := EV 4 V arx + Y = V arx + V ary + CovX, Y co CovX, Y = E[X EXY EY ]. Nel caso di variabili X e Y idipedeti, si riduce a V arx + Y = V arx + V ary. 5 Se X = cost allora V arx = Proprietà della ormale. 1 Se X Nµ X, σ X e Y Nµ Y, σ Y e X Y allora ax + by Naµ X + bµ Y, a σ X + b σ Y Se X Nµ, σ allora ax + b Naµ + b, a σ 1.4. Proprietà della ormale stadard N0, 1. φ : R [0, 1] è la fuzioe di ripartizioe della ormale stadard z : [0, 1] R è il quatile della ormale stadard, cioè la fuzioe opposta di φ. 1 φ x = 1 φx. Mometi Deitio.1. Data ua variabile aleatoria X, il mometo -esimo di X è il umero reale µ := EX Remark. Il mometo primo equivale al valor medio di X: µ 1 = EX. Il mometo secodo e il mometo primo assieme deiscoo la variaza: VarX = µ µ 1 = EX EX Ua distribuzioe di probabilità è completamete determiata dai suoi mometi Deitio.. Sia X ua variabile aleatoria. La fuzioe geeratrice dei mometi M X di X è deita come M X t := Ee tx = e tx dp X x per tutti i valori di t per cui l'espressioe ha seso. dp X x è la desità di probabilità di X. Propositio.3. La fuzioe geeratrice dei mometi prede questo ome perchè a partire da essa è possibile otteere per diereziazioe el puto t = 0 tutti i mometi di X secodo la formula [ d µ = EX = M X t] dt sotto la codizioe che Ee ε X esista per qualche ε > 0 se questa codizioe vale, esistoo tutti i mometi di X. Deitio.4. Se X e Y soo variabili aleatorie idipedeti e S = X + Y allora M S t = M X tm Y t per ogi t per cui il membro a destra ha seso. 1 t=0

2 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 3. Famiglia delle desità gamma Deitio 3.1. Si dice che ua variabile aleatoria X ha desità gamma di parametri a, β etrambi > 0 e si scrive X Γa, β se la fuzioe di ripartizioe della variabile è fx, a, β = 1/βa Γa e x/β x a 1 1 0, x I particolare, Γa assume la forma data dalla deizioe seguete. Deitio 3.. L'itegrale gamma Γa è Γa = 0 e x x a 1 dx, a > 0 Note. La otazioe Γa si riferisce all'itegrale gamma, metre Γa, β alla desità gamma. Proprietà di Γa: 1 Valori particolari: Γ1 = 1 e Γ1/ = π Derivado per parti Γa + 1, si ottiee:γa + 1 = aγa 3 Se a è u umero aturale 1, allora Γ + 1 =! N Propositio 3.3. X Γa, β ha fuzioe geeratrice dei mometi Mt = E e tx = Si ha ioltre EX = aβ, EX = aa + 1β e VarX = aβ 3.1. Proprietà di Γa, β. Sia X Γa, β. 1 1 βt a 1 Se c > 0 e Y = cx allora Y Γa, cβ Se X e Y soo v.a. idipedeti e Y Γc, β allora X + Y Γa + c, β 3 Se c > 0 vale ache l'iverso della precedete, cioè da Y Γc, β e X +Y Γa+c, β si può ricavare X Γa, β. 3.. La distribuzioe espoeziale. La desità espoeziale Expβ = Γ1, β è u caso particolare della desità gamma. Assume la seguete forma: Expβ = 1 { β exp x } I 0,+ x β e la sua FDR è dove β è il parametro che caratterizza l'espoeziale. F X x = P X x = 1 e y β 3.3. Distribuzioe chi quadro. La desità chi quadro a gradi di libertà è u sottocaso della distribuzioe gamma: χ = Γ,. Già sappiamo che se X N0, 1 allora X χ 1. Si dimostra ioltre che, i tal caso, i=1 X i χ 3.4. Distribuzioe F di Fisher. Si suppoga di avere U e V variabili aleatorie co distribuzioe χ co rispettivamete m e gradi di libertà. Se U e V soo statisticamete idipedeti, la statistica U/m V/ ha distribuzioe F co m gradi al umeratore e gradi al deomiatore, la cui desità è f F x = Γ m+ m m/ Γ m m Γ x m m+ x Il suo graco assomiglia a quello di ua χ ma co picco più alto e più schiacciato lugo l'asse x. Se X 1,..., X m Nµ X, σ X e Y 1,..., Y Nµ X, σ X soo idipedeti e S è lo stimatore della variaza, allora S X /σ X S Y /σ Y ha distribuzioe F co m 1 gradi di libertà al umeratore e 1 al deomiatore Proprietà. V F m, 1 V F,m

3 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 3 4. Fuzioe di verosimigliaza Deitio 4.1. La fuzioe di verosimigliaza Likelihood fuctio di variabili aleatorie X 1,..., X è data dalla fuzioe di desità cogiuta di X 1,..., X cosiderata come fuzioe di θ. Se X 1,..., X è u campioe casuale estratto dalla desità fx, θ, θ Θ, la fuzioe di verosimigliaza è θ L θ x 1,..., x = fx j, θ 5. Stimatori Deitio 5.1. Siao X 1,..., X i.i.d. fx, θ, θ Θ, e κθ ua caratteristica della popolazioe. Uo stimatore di κθ, basato sul campioe X 1,..., X è ua statistica T = gx 1,..., X usata per stimare κθ. Il valore assuto da uo stimatore T di κθ è detto stima di κθ. Uo stimatore, quidi, è ua statistica che permette di stimare ua quatità a partire dalla sola coosceza dei campioi. Deitio 5.. Si dice distorsioe bias di uo stimatore il valore atteso dell'errore commesso ella stima j=1 biast = ET θ = ET θ Perciò uo stimatore co bias pari a zero si dice o distorto: Deitio 5.3. Ua statistica T che ammette media per ogi θ i Θ è detta stimatore o distorto o corretto ubiased della caratteristica κθ se E θ T = κθ θ Θ La media campioaria è stimatore o distorto della media teorica. La variaza campioaria è stimatore o distorto della variaza teorica. Note 5.4. Combiazioi lieari di stimatori o distorti dao origie a stimatori o distorti. La qualità di uo stimatore è misurata tramite il suo errore quadratico medio: Deitio 5.5. Si deisce errore quadratico medio Mea Square Error il valore MSE := E [ T θ ] che, tramite le proprietà del valore atteso e della variaza 1, si dimostra essere I particolare, se T è uo stimatore o distorto, si ha MSE = V art + bias T MSET = V art Deitio 5.6. Si dice cosistete i media quadratica uo stimatore T di κθ il cui MSE tede a 0 al crescere del umero di campioi, cioè tale che dove è il umero di campioi. lim E[T κθ ] = 0 θ Θ Dal puto di vista pratico, per vericare la cosisteza i media quadratica è coveiete vericare le due segueti codizioi: lim E θt = κθ lim V ar θt = 0 Deitio 5.7. Sia X 1,..., X ua successioe di variabili aleatorie i.i.d. co comue desità fx, θ co θ Θ e sia T ua statistica fuzioe solo delle osservazioi. La successioe {T } è asitoticamete gaussiaa co media asitotica µ θ e variaza asitotica σθ se lim P T µ θ z = φz z R σ Questa proprietà è utile el caso di gradi campioi, per poter approssimare lo stimatore T co ua gaussiaa. 1 E[T θ ] = E[T + θ T θ] = E[T ] + θ θe[t ] + E [T ] E [T ] = E[T ] E [T ] + E [T ] + θ θe[t ] = V art bias T {z } {z } V art E[T ] θ =bias T

4 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara Stimatori a massima verosimigliaza. Deitio 5.8. Siao X 1,..., X u campioe casuale co fuzioe di verosimigliaza L θ, θ Θ, x 1,..., x ua realizzazioe campioaria e gx 1,..., x u valore i Θ tale che L gx1,...,x x 1,..., x = max θ Θ L θx 1,..., x La statistica ˆθ = gx 1,..., X è detta stimatore di massima verosimigliaza di θ. Per idicare ˆθ useremo l'acroimo ML Maximum Likelihood o MLE Maximum Likelihood Estimator. Geeralmete, per semplicare alcui coti, quado si calcola uo stimatore a massima verosimigliaza si preferisce itrodurre il logaritmo di L. Lo stimatore risulta quidi essere ˆθ : log L θ = 0 Lo stimatore di ua caratteristica κθ dipedete dalla quatità θ stimata da ˆθ è dato da κˆθ. Lo stimatore di massima verosimigliaza di ua distribuzioe espoeziale è la media campioaria: ˆθX1,..., X = X. Lo stimatore di massima verosimigliaza di ua distribuzioe di Poisso è la media campioaria. 5.. Stimatori UMVUE. Deitio 5.9. Uo stimatore T che gode delle proprietà 1 T è o distorto per κθ V ar θ T V ar θ T per ogi θ e per ogi stimatore T o distorto e a variaza ita è detto stimatore o distorto a variaza uiformemete miima Uiform Mimium Variace Ubiased Estimator, o stimatore UMVUE. Remark Proprietà degli stimatori UMVUE Uicità: se lo stimatore UMVUE esiste, è uico. Simmetria: Sia T = gx 1,..., X UMVUE, allora P θ gx1,..., X = gx π1,..., X π = 1 per ogi permutazioe π di {1,..., }. Nosese: Lo stimatore UMVUE potrebbe esistere ma essere isesato. θ Θ Disuguagliaza di Fréchet-Cramer-Rao. È possibile trovare u coe iferiore lower boud della variaza ella classe di tutti gli stimatori o distorti che sia fuzioe solo della caratteristica da stimare κθ e del modello statistico mediate la verosimigliaza L θ. È ache possibile costruire uo stimatore che abbia variaza coicidete co esso. Tale stimatore sarà lo stimatore UMVUE. Il lower boud e lo stimatore possoo essere trovati tramite la disuguagliaza di Fréchet-Cramer-Rao, V ar θ T κ θ θ Θ Iθ deita dall'omoimo teorema: Theorem Sia X 1,..., X u campioe aleatorio dalla famiglia di desità fx, θ a parametro reale θ Θ R perchè dovremo derivarlo. Sia κθ la caratteristica da stimare e T = gx 1,..., X lo stimatore o distorto per κθ a variaza ita. Suppoiamo che valgao le segueti ipotesi dette di regolarità: 1 Θ itervallo aperto di R S = {x : fx, θ > 0} o dipede da θ NB: S è il supporto 3 θ fx, θ è diereziabile i Θ, x 4 E θ [ θ log fx 1, θ ] = 0, θ 5 Deve essere: 0 < Iθ < +, θ, co Iθ = E θ [ θ log fx 1, θ ] che è detta iformazioe di sher Note 5.1. Se la 4 è vericata, allora Iθ = V ar [ θ log fx 1, θ ], perché V ar[x] = E[X ] E[X], ma per la 4 E[X] = 0. 6 κ è diereziabile i Θ e κ θ = E [ T θ log Lθ; X 1,..., X ] θ Θ, dove L è la fuzioe di verosimigliaza. Allora: V art κ θ Iθ, θ Θ Note I modelli Espoeziale, Gaussiao e di Poisso soddisfao le ipotesi di Fréchet-Cramer-Rao. Deitio Uo stimatore T di κθ o distorto la cui variaza raggiuge il coe iferiore di Fréchet- Cramer-Rao è detto eciete e V art = κ θ Iθ.

5 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 5 Nel caso i cui κθ = θ, allora V art = 1 Iθ. Uo stimatore eciete è ache UMVUE. Codizioe ecessaria e suciete perchè uo stimatore sia eciete è che θ log Lθ, X 1,..., X = a, θt κθ cioè che la derivata i θ del logaritmo della fuzioe di verosimigliaza sia ua fuzioe lieare di T κθ, co κθ quatità da stimare e T stima di κθ. 6. Media e variaza campioarie Deitio 6.1. Data ua serie di variabili aleatorie X 1,..., X la media campioaria è deita come X = X è uo stimatore putuale o distorto del valore atteso µ, i quato EX = µ Deitio 6.. La variaza campioaria è deita come S := 1 1 j=1 X j X = P j=1 X j X 1. P i=1 Xi. S è uo stimatore putuale della variaza σ. ES = σ perchè E j=1 X j X = 1σ quidi, poichè i media assume il valore corretto, viee deito stimatore o distorto della variaza Distribuzioi di media e variaza campioarie di popolazioe gaussiaa. Propositio 6.3. Sia X 1,..., X u campioe casuale gaussiao dalla f.d.r. Nµ, σ. Per ogi µ R e per ogi σ > 0 1 X Nµ, σ le statistiche S e X soo idipedeti. 3 1S /σ χ 1 Questo sarà utile come statistica test per calcolare gli itervalli di codeza per la variaza. 4 La statistica X µ S/ dove S = S ha desità t di studet co 1 gradi di libertà. Questo è utile i quato X µ S/ è la media campioaria ormalizzata da usare come statistica test per la media quado la variaza è icogita, e quidi stimata da S. Cooscedoe la distribuzioe, possiamo sfruttare le tavole per lavorare co questa statistica. 6.. t di Studet. Deitio 6.4. Siao Z e Y due v.a. idipedeti. Sia Z N 0, 1 e Y χ k. Z Si dice che è distribuita secodo ua t di Studet co k gradi di libertà, cioè t k. Tale distribuzioe ha desità: Y k f k t = Γ k+1 1 kπγ k 1 + t k k+1 che è simile ad ua gaussiaa, ma co code più alte. Quado k +, la distribuzioe t si avvicia sempre più ad ua ormale. t R 7. Itervalli di cofideza Gli stimatori putuali o soo particolarmete iteressati i quato è ulla la probabilità che assumao il vero valore icogito della variabile da stimare. Ad esempio, el caso della media campioaria stimatore della media P µ,σ X = c = 0, c R, µ R, σ > 0 Possiamo tuttavia calcolare, a priori e idipedetemete dalla realizzazioe campioaria, co u certo grado di ducia u itervallo all'itero del quale adrà co buoa approssimazioe a cadere il valore cercato. Per trovare itervalli di codeza bilateri di livello γ100% si usa la seguete formula: Pa < T < b = γ dove T è la statistica test opportua e a e b soo quatili di tale statistica test. Tale formula dovrà essere risolta i fuzioe della quatità per la quale si cerca l'itervallo Per la media. Per la media si usa come statistica test x µ0 σ/ N 0, 1 se la variaza σ è ota, oppure x µ0 s/ t 1, co s variaza campioaria, se la variaza è icogita.

6 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara Per la variaza. µ icogita Per trovare u itervallo di codeza si parte dalla quatità aleatoria determiare soo a e b tali che P µ,σ a < S 1 σ < b = γ. a e b soo quatili di ua f.d.r. χ 1. Si presetao diversi casi: 1 [a = 0] b = χ 1γ S 1 σ χ 1. Ciò che si vuole Deitio 7.1. Sia γ 0, 1 e sia s il valore assuto da S i corrispodeza della realizzazioe campioaria x 1,..., x di u campioe casuale estratto da ua popolazioe Nµ, σ. Allora s 1 χ, + 1 γ dove χ 1γ è il quatile di ordie γ della f.d.r χ 1 è u itervallo di codeza a ua coda superiore di livello γ100% per la variaza σ, quado µ è icogita. Ioltre, la statistica S 1 è detta limite iferiore di χ 1 γ codeza per la variaza. [b = + ] a = χ 11 γ Deitio 7.. Sia γ 0, 1 e sia s il valore assuto da S i corrispodeza della realizzazioe campioaria x 1,..., x di u campioe casuale estratto da ua popolazioe Nµ, σ. Allora s 1 0, 1 γ χ 1 è u itervallo di codeza a ua coda iferiore di livello γ100% per la variaza σ quado µ è icogita. Ioltre, la statistica S 1 χ 1 1 γ è detta limite superiore di codeza per la variaza. 3 [0 < a < b < + ] La massa rimaete deve essere distribuita uiformemete a destra e a siistra dell'itervallo, quidi: a = χ 1 1 γ e b = χ 1 1 γ + γ = χ 1 1+γ Deitio 7.3. Sia γ 0, 1 e sia s il valore assuto da S i corrispodeza della realizzazioe campioaria x 1,..., x di u campioe casuale estratto dalla f.d.r. Nµ, σ. Allora µ ota s 1, χ 1 1+γ s 1 χ 1 1 γ è u itervallo di codeza bilatero per σ di livello γ100%, quado µ è icogita. Essedo µ ota, possiamo stimare σ co la statistica S0 := verosimigliaza di µ. S 0 σ P j=1 xj µ P j=1 Xj µ che è lo stimatore di massima ha desità χ, quidi si ottiegoo i segueti itervalli di codeza per σ di livello γ100% quado µ è ota: χ γ, + itervallo di codeza a ua coda superiore P j=1 0, xj µ χ 1 γ itervallo di codeza a ua coda iferiore P P j=1 xj µ j=1, xj µ itervallo di codeza bilatero χ 1+γ χ 1 γ 8. Itervalli di cofideza per gradi campioi 8.1. Per la media µ. Sia X 1,..., X u campioe co grade da ua popolazioe co media µ e variaza σ. Essedo grade, il campioe può essere trattato come ua ormale Nµ, σ. La statistica X µ σ/, dove X è la media campioaria, è distribuita come ua ormale stadard N0, 1. È quidi possibile deire u itervallo di codeza per la media µ di dimesioe γ calcolado σ P z 1+γ < X µ σ/ < z 1+γ γ L'itervallo di codeza è quidi IC = X z 1+γ σ, X + z 1+γ σ

7 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 7 Iθ 8.. Per ua geerica caratteristica κθ. Suppoiamo di dover stimare ua caratteristica κθ di cui abbiamo lo stimatore di massima verosimigliaza ˆκ N κθ, κ θ, co media pari alla caratteristica da stimare e variaza calcolabile come V arˆκ che raggiuge il limite iferiore di Fréchet-Cramer-Rao. Iθ = E [ θ log fx 1, θ ] è l'iformazioe di Fisher. U itervallo di codeza di ampiezza γ si deisce quidi a partire da ˆκ κθ P θ z 1+γ < < z κ θ 1+γ = γ ed è ˆκ z 1+γ κ ˆθ Iˆθ Iθ, ˆκ + z 1+γ κ ˆθ Iˆθ Per grade, ˆκ κθ r κ θ Iθ N0, 1, dove dove tutti i θ preseti al deomiatore del pivot della equazioe precedete possoo essere approssimati co l'mle ˆθ perché è dimostrabile che questa sostituzioe matiee l'asitoticità a N 0, Test di ipotesi Deitio 9.1. Ua ipotesi H è ua aermazioe sulla distribuzioe F della popolazioe. U'ipotesi si deisce semplice: se l'ipotesi specica completamete determia u'uica distribuzioe composta: altrimeti Ciò che ci iteressa è ua procedura statistica test che stabilisca se i dati campioari soo compatibili co l'ipotesi H. I tal caso si dice che accetto H. Se i dati o soo compatibili co H, allora riuto H. Deitio 9.. Ua verica di ipotesi è ua tera ordiata co G R. Se x 1,..., x G riuto l'ipotesi H 0 e accetto H 1 Se x 1,..., x G c o riuto H 0 e riuto H 1. VERO H 0 H 1 ACCETTO H 0 OK Errore di II specie H 1 Errore di I specie OK X 1,..., X }{{ ; H } 0, H 1 ; }{{}}{{} G campioe ipotesi regioe critica Deitio 9.3. Taglia del test α := sup P θ x G co θ Θ 0 α è ache detto livello di sigicatività del test ed è la probabilità di commettere u errore di I specie, cioè α = P H0 Accetto H 1 = P H0 Riuto H 0. Deitio 9.4. Il più piccolo valore di α per cui, i preseza di x, riuto H 0 è detto p-value. Per calcolare il p-value, si calcola la probabilità P H0 Riuto H 0 sotto l'ipotesi che la regioe di riuto comici el puto idicato dall'attuale realizzazioe campioaria della statistica test. Quidi: Se p-value α riuto H 0 di livello di sigicatività α. Se p-value α o riuto H 0 di livello di sigicatività α. Aalogamete ad α, è possibile deire ua fuzioe β che rappreseta la probabilità di commettere u errore di II specie: Deitio 9.5. Sia β := sup P θ x G c co θ Θ 1. Cioè, β = P H1 Riuto H 1 Allora π = 1 βθ co θ Θ 1 è la fuzioe di poteza del test. Calcolare la poteza di u test sotto l'ipotesi H 1, equivale a calcolare la probabilità dell'apparteeza di T alla regioe critica, co θ determiato dall'ipotesi scelta, ricoducedo la scrittura della regioe critica a quella di ua distribuzioe ota, se ciò è ecessario per il calcolo di P: πθ Θ H1 = 1 βθ = 1 P H1 Riuto H 1 = 1 P H1 Accetto H 0 = P H1 Riuto H 0. Data ua dimesioe pressata di α, è possibile costruire ua regioe critica tale da massimizzare la poteza del test. Ciò può essere fatto tramite il Lemma di Neyma-Pearso.

8 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 8 Deitio 9.6. Lemma di Neyma-Pearso Dato u campioe X 1,..., X da fx, θ co θ Θ = {θ 0, θ 1 }, H 0 : θ = θ 0, H 1 : θ = { θ 1 ; L 0 x = Lθ 0 ; x 1,..., x, } L 1 x = Lθ 1 ; x 1,..., x. Sia G = Gδ = x 1,..., x R L : 0x L δ 1x la regioe critica e sia α la sua taglia. Allora, tra tutte le regioi critiche per vericare H 0 cotro H 1 di taglia α, H è quella co poteza massima. Ua volta impostata la regioe critica, per deirla completamete bisoga calcolare δ i modo tale che eettivamete P H0 L0x L 1x δ = α. NB: el fare ciò, tutto ciò che è costate può essere icorporato direttamete detro a δ, rededo così più semplice la deizioe della regioe critica. Remark 9.7. È importate scegliere correttamete cosa va i H 0 e cosa i H 1. I H 0 : ciò che ci viee chiesto di vericare. Vericare l'ipotesi che... I H 1 : ciò che vogliamo dimostrare. C'è evideza sperimetale che...?, Possiamo cocludere che...?. 10. Test per campioi gaussiai accoppiati idipedeti Siao X 1,..., X m i.i.d. Nµ X, σ X e Y 1,..., Y i.i.d. Nµ X, σ X Test F. Applicabile quado σx, σ Y soo icogite e m, soo gradi. Mira a vericare l'ipotesi H 0 : σx = σ Y cotro l'ipotesi H 1 : σx σ Y. Le variaze, i quato icogite, devoo essere approssimate a partire dai campioi el seguete modo: m SX j=1 = x j m x m 1 SY j=1 = y j ȳ 1 dove x, ȳ soo le medie dei due campioi. L'ipotesi H 0 è riutata quado T = S X S F m 1, 1 cade ella regioe di riuto: Y { α G = T F m 1, 1 oppure T F m 1, 1 1 α } cioè ell'itervallo di codeza di ampiezza α: α F m 1, 1, F m 1, 1 1 α dove F m, è la fuzioe F di Fisher come presete elle tabelle attezioe all'ordie dei pedici, alcue tabelle li riportao al cotrario. Parte. Ifereza o parametrica Deitio La fuzioe di ripartizioe empirica associata al campioe ˆF è ua fuzioe su R a valori i [0, 1] deita da ˆF x = #{j : X j x} x R 11. Media e variaza campioarie Deitio Il mometo r-esimo campioario di ˆF è M r = 1 j=1 Xr j La media di ˆF è uguale alla media campioaria, e, come el caso parametrico, si ha: Deitio 11.. E[ ˆF ] = M 1 = 1 j=1 X j Quidi X = M 1. Nel caso si abbia la distribuzioe campioaria è comodo calcolare la media come media pesata: E[ ˆF ] = x j d j dove x j è il valore del campioe e d j la sua desità, evetualmete ricavabile dalla fuzioe di ripartizioe empirica ˆF come d j = F x j F x j 1. Al cotrario della media, la variaza di ˆF è diversa dalla variaza campioaria, ifatti si ha: Deitio Variaza V ar[ ˆF ] = 1 j=1 X j X e Deitio Variaza campioaria S = 1 1 j=1 j=1 X j X = V ar[ ˆF ] 1

9 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 9 La variaza è calcolabile ache tramite le ormali proprietà di media e variaza, quidi V ar ˆF = E[ ˆF ] E [ ˆF ]. I tal caso, si può calcolare E[ ˆF ] come il mometo secodo, cioè E[ ˆF ] = j=1 x d j, co d j deito come sopra. 1. Test di Kolmogorof-Smirov Serve a vericare se ua fuzioe F è distribuita secodo ua determiata fuzioe F 0 completamete specicata cioè co tutti i parametri ssati: ad esempio N 0, 1, Exp5, ecc e cotiua. Vale per u umero qualsiasi di campioi. I particolare si cotrolla l'ipotesi ulla H 0 : F = F 0 cotro H 1 : F F 0 Statistica test: D := sup x { campioi} ˆF x F 0 x Riuto H 0 se D > q D 1 α dove α è il livello di sigicatività e q D è il quatile della statistica test di Kolmogorof- Smirov, cioè riuto se la fuzioe di ripartizioe empirica si discosta più di u massimo sopportabile dalla FDR teorica F 0 per quato osservabile co i campioi a ostra disposizioe. NB: essedo ˆF x discotiua, la diereza da F 0 x va calcolata sia ell'itoro siistro, sia ell'itoro destro di ogi campioe, dove essa assumerà valori diversi. Bisogerà quidi calcolare sia ˆF x i F 0 x i sia ˆF x i 1 F 0 x i. 13. Test χ di adattameto Serve a vericare se ua serie di dati si adatta ad u determiato modello teorico. Può essere usato solo per campioi di dimesioe grade, perchè è u test asitotico. Bisoga ifatti vericare le segueti regole empiriche di applicabilità: 50 e p 0i > 5, i 1,..., k Fuzioa su dati discreti, oppure su dati cotiui purchè essi vegao discretizzati tramite suddivisioe i classi il test o distigue come la massa si distribuisce all'itero delle classi, ma solo tra le diverse classi. Si imposta sulle segueti ipotesi: H 0 : F = F 0 cotro H 1 : F F 0 che possoo essere riscritte come: H 0 : p i = p 0i i = 1,..., k cotro H 1 : p i p 0i per qualche i. dove p i = P F X i = a i e p 0i = P F0 X i = a i, a i soo le diverse classi, cioè p i è la desità osservata i corrispodeza di ua certa classe, e p 0i è la desità teorica che tale classe dovrebbe avere. Per eseguire il test, bisoga calcolare la frequeza assoluta campioaria di ogi a i, cioè il umero di osservazioi del campioe che assumoo valore a i : N i = # {j : X j = a i } i = 1,..., k e misurare lo scostameto fra tali osservazioi e i valori teorici che esse dovrebbero avere p 0i. Tale misura viee eettuata mediate la statistica di Pearso: Q := k i=1 N i p 0i p 0i = k i=1 N i p 0i Riutiamo H 0 a livello α sse Q > χ k 1 1 α, cioè se lo scostameto è troppo grade. Il p-value di questo test è calcolabile come: p = 1 F χ k 1 q dove q è la realizzazioe di Q. NB: el caso la distribuzioe teorica o sia completamete specicata e che si debbao stimare a partire dal campioe m parametri, la regioe di riuto sarà: Q > χ k m 1 1 α. Aalogamete, varierà il p-value. Remark Se bisoga decidere il umero di classi i cui suddividere R per l'uso co questo test, il valore ideale è k = /5. Si sceglierao poi gli estremi di tali classi i modo che ogua di esse sia equiprobabile sotto F 0 : P X i A i = 1 k i 14. Test di idipedeza Test χ di idipedeza. Serve a vericare se due serie di campioi X e Y soo tra loro idipedeti. Il test χ di idipedeza può essere impostato a partire dalle segueti ipotesi: H 0 : Hx, y = F x Gy x R y R cioè X e Y soo idipedeti. H 1 : Hx, y F x Gy per almeo u x, y R. Il test lavora discretizzado F i r classi e G i c classi, e cotado il umero di coppie tali che il primo elemeto è ella classe A i e il secodo i B j, ossia N ij = #X k, Y k A i B j, cioè le desità cogiute. Si calcola poi la probabilità teorica che ua coppia ha di apparteere a ogi classe: p i,j = P H X 1 A i, Y 1 B j, i = 1,..., r j = 1,..., c Possiamo ache calcolare, al suo posto, direttamete il umero teorico di elemeti di ogi classe, pari a E i,j = f X x f Y y, dove f x e f Y soo le distribuzioi margiali.

10 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 10 Il test è asitotico ed è applicabile solo se valgoo le segueti regole empiriche: 50, r > 5, c > 5. Usiamo come statistica test: U := r c N ij E ij i=1 j=1 E ij = i dai valori teorici. Riuto H 0 a livello α se U è grade, cioè se U χ r 1c 11 α. N ij j E ij cioè lo scostameto dei valori registrati 14.. Test di idipedeza per dati gaussiai. Se X, Y è cogiutamete gaussiaa, X,Y soo idipedeti se e solo se il coeciete di correlazioe lieare ρ è ullo. ρ = CovX, Y V arx V ary U valore positivo di ρ idica cocordaza di tipo lieare tra i due campioi, metre u valore egativo idica discordaza quado u campioe cresce, l'altro tede a dimiuire. H 0 :ρ = 0 idipedeza cotro H 1 :ρ 0. Nel caso di campioe accoppiato gaussiao co parametri tutti icogiti, uo stimatore di ρ è il coeciete di correlazioe campioario o empirico j=1 R = X j XY j Ȳ j=1 X j X j=1 Y j Ȳ per la quale vale sempre 1 R 1 e il seguete Theorem Sia X 1, Y 1,..., X, Y i.i.d. N e ρ = 0. Allora R T := t 3 1 R Tale gradezza è la statistica test che utilizziamo per vericare l'idipedeza dei campioi. Quidi: si riuta H 0 el caso i cui T t 1 α. Per gradi, t è approssimabile da ua gaussiaa stadard. È ache possibile impostare i segueti test, co le relative regioi di riuto: H 0 : ρ 0 cotro H 1 : ρ > 0 co G = {campioi : T t 1 a} e H 0 : ρ 0 cotro H 1 : ρ < 0 co G = {campioi : T t 1 a} 15. Test di omogeeità di Wilcoxo-Ma-Whitey U test di omogeeità serve a vericare se due campioi aleatori soo regolati dallo stesso modello, cioè se hao la stessa fuzioe di ripartizioe. Tramite u'opportua ipotesi alterativa H 1, può essere utilizzato ache per determiare se ua variabile domia stocasticamete l'altra cioè se è più grade. Siao X e Y le due variabili aleatorie dei cui campioi si vuole vericare l'omogeeità e F e G le loro fuzioi di ripartizioe e X 1,..., X m i.i.d. F e Y 1,..., Y i.i.d. G i due campioi di dati raccolti. L'ipotesi ulla idica omogeeità ed è: H 0 : F x = Gx x R L'alterativa può idicare o omogeeità: H 1 : F x Gx oppure può idicare che X domia stocasticamete Y : oppure può idicare che Y domia stocasticamete X: per qualche x R H 1 : F x Gx x R e F x < Gx per qualche x H 1 : F x Gx x R e F x > Gx per qualche x Per eseguire il test si riuiscoo tutte le osservazioi di X e Y i u uico campioe di lughezza m +, le si dispogoo i ordie crescete e si assega loro u rago r crescete dalla miore r = 1 alla maggiore r = m +. Si assume per semplicità che o ci siao ripetizioi el campioe. Chiamiamo T X la somma dei raghi delle osservazioi preseti da X: T X = m i=1 R i co R i = ragox i Chiamiamo w a il quatile della f.d.r. di T X tabulato per m, 0. Se X st Y mi aspetto che tate x i siao più piccole delle y j, quidi T X assumerà valori piccoli. Se X st Y mi aspetto che tate x i siao più gradi delle y j, quidi T X assumerà valori gradi. Valgoo le segueti regole di sigicatività per α: Riuto H 0 : F x = Gx x e accetto H 1 : F x Gx x e F x > Gx per qualche x ossia X st Y se T x < w α. Riuto H 0 : F x = Gx x e accetto H 1 : F x Gx x e F x < Gx per qualche x ossia X st Y se T x > w 1 α.

11 File distribuito co liceza Creative Commos BY-NC-SA.5 IT Copyright Michele Tartara 11 Riuto H 0 : F x = Gx x e accetto H 1 : F x Gx se T x < w α/ oppure T X > w 1 α/. NB: la statistica T X è distribuita più o meo come ua gaussiaa attoro alla propria media c. Quidi w m, 1 α = c + c w m, α = c w m, α = mm w m, α