Elementi di Probabilità e Statistica

Транскрипт

1 Elemeti di Probabilità e Statistica Maurizio Pratelli Ao Accademico

2 Cotets 1 Nozioi fodametali Prime defiizioi Calcolo combiatorio Probabilità codizioata ed idipedeza Appedice: alcui complemeti Il cotroesempio di Vitali Probabilità e teoria dei umeri Esercizi Probabilità discreta Richiami sulle serie umeriche Itegrale rispetto ad ua misura discreta Variabili aleatorie discrete Valori attesi e mometi Variabili -dimesioali La fuzioe geeratrice delle Probabilità Teoremi limite Appedice Alcue dimostrazioi Alcui esercizi sigificativi Esercizi Statistica su uo spazio umerabile Due parole sulla statistica descrittiva Modelli statistici Teoria della Stima Stime e riassuti esaustivi Itervalli di fiducia Teoria dei test statistici Esercizi

3 4 CONTENTS 4 Probabilità geerale Costruzioe di ua Probabilità Costruzioe dell itegrale Variabili aleatorie geerali Variabili aleatorie co desità Esempi Desità uiforme Desità Gamma Desità Gaussiaa Covergeza di variabili aleatorie Appedice Alcue leggi di probabilità di rilevate iteresse i Statistica La misura di Cator Esercizi Statistica su uo spazio geerale Modelli statistici geerali Stime di massima verosimigliaza Ritoro al Lemma di Neyma-Pearso Due esempi Esercizi Statistica sui modelli gaussiai Campioi statistici gaussiai Test sulla media Test sulla variaza Cofroto tra due campioi gaussiai idipedeti Modelli lieari Esercizi

4 Chapter 1 Nozioi fodametali di Calcolo delle Probabilità. 1.1 Prime defiizioi. Di frote ad ua situazioe che suggerisce l uso del Calcolo delle Probabilità, icotriamo alcue affermazioi legate tra loro dai coettivi logici o, e, o : è facile covicersi che si può tradurre questo i ua famiglia di sottisiemi chiamati eveti di u opportuo isieme Ω, coteete l isieme vuoto e tutto l isieme, e stabile per le operazioi di uioe fiita, itersezioe e complemetazioe. Ua tale famiglia di isiemi si chiama u algebra di parti il termie aglosassoe è field. L isieme Ω, che usualmete rappreseta tutti i possibili esiti, è spesso chiamato spazio fodametale o ache soprattutto i Statistica spazio dei campioi. Il grado di fiducia che u sottisieme si realizzi chiamato probabilità, è rappresetato da u umero compreso tra 0 e 1; ioltre è ituitivo supporre che se due eveti soo icompatibili cioè hao itersezioe vuota la probabilità che si realizzi uo qualsiasi dei due debba essere la somma delle probabilità dei sigoli eveti. Questo equivale a dire che la probabilità è ua fuzioe d isieme fiitamete additiva. Comiciamo a dare le prime defiizioi provvisorie: Defiizioe Algebra di parti. Dato u isieme Ω, si chiama algebra di parti ua famiglia F di sottisiemi di Ω tale che: a l isieme vuoto e l itero isieme Ω soo elemeti di F; b se A F, ache il suo complemetare A c F; c se A e B soo elemeti di F, ache A B F. 5

5 6 CHAPTER 1. NOZIONI FONDAMENTALI Notiamo che automaticamete F è stabile ache per l itersezioe fiita: questo segue dalle proprietà b e c e dal fatto che A B c = A c B c. Ioltre le proprietà defiite i a soo ridodati: è sufficiete ad esempio supporre che Ω sia u elemeto di F ed automaticamete = Ω c è u elemeto di F. Defiizioe Probabilità fiitamete additiva. Data u algebra F di parti di u isieme Ω, si chiama probabilità fiitamete additiva ua fuzioe P : F [0, 1] tale che a se A, B F e A B =, allora P A B = P A + P B ; b PΩ = 1. Gli elemeti dell algebra di parti F soo chiamati eveti, si chiama trascurabile u eveto A tale che PA = 0 e si chiama quasi certo u eveto A tale che PA = 1. Vediamo alcue cosegueze immediate della defiizioe che si possoo provare facilmete per esercizio: 1. P = 0 ; 2. PA c = 1 PA ; 3. se B A, P A \ B = PA PB, dove si è posto A \ B = A B c ; 4. PA B = PA + PB PA B; 5. PA B C = PA + PB + PC PA B PA C PB C + PA B C, e così via... Le defiizioi sopra riportate, oltre ad essere molto ituitive, soo supportate da valide argometazioi logiche, tuttavia dal puto di vista matematico presetao ua difficoltà: la additività semplice o cosete di adare al limite, e di cosegueza di calcolare degli itegrali. La buoa proprietà per poter effettuare queste operazioi è la additività umerabile, detta ache σ-additività. Ioltre la famiglia di parti sulla quale possa essere defiita ua fuzioe σ-additiva è opportuo che sia stabile per uioe umerabile e o uioe fiita. Per questo motivo, seguedo quella che è ormai comuemete chiamata la defiizioe assiomatica di Probabilità secodo Kolmogorov, sostituiamo alle precedeti queste defiizioi. Defiizioe σ-algebra di parti. Dato u isieme Ω, si chiama σ-algebra di parti ua famiglia F di sottisiemi di Ω tale che:

6 1.1. PRIME DEFINIZIONI. 7 a l isieme vuoto e l itero isieme Ω soo elemeti di F; b se A F, ache il suo complemetare A c F; c se A 1 è ua successioe di elemeti di F, ache + =1 A F. Naturalmete ua σ-algebra è ache u algebra di parti: ifatti A B = A B.... Osservazioe La termiologia aglosassoe per ua famiglia di parti co tali proprietà è σ-field, che dovrebbe essere tradotto σ-campo termie i realtà poco usato; la termiologia fracese itrodotta dal Bourbaki è tribù. Defiizioe Probabilità. Assegato u isieme Ω ed ua σ-algebra F di parti di Ω, si chiama probabilità ua fuzioe P : F [0, 1] tale che a se A =1,2,... è ua successioe di elemeti di F a due a due disgiuti, si ha P + =1 A = + =1 PA ; b PΩ = 1. Ua fuzioe d isieme che gode della proprietà a della defiizioe è detta misura; la probabilità è duque ua misura ormalizzata. È facile costatare che ua fuzioe σ-additiva è ache semplicemete additiva. Ua tera Ω, F, P formata da u isieme Ω, ua σ-algebra F di parti di Ω ed ua probabilità P defiita su F viee chiamata spazio probabilizzato o ache spazio di Probabilità. La proprietà seguete spiega perché la σ-additività può essere cosiderata ua sorta di cotiuità. Proposizioe Sia F ua σ-algebra di parti di u isieme Ω e sia P : F [0, 1] semplicemete additiva e tale che PΩ = 1. Soo equivaleti le segueti proprietà: 1 P è σ-additiva; 2 se A 1 è ua successioe crescete di isiemi cioè A A +1, posto A = 1 A, si ha lim + PA = PA ; 3 se A 1 è ua successioe decrescete di isiemi, posto A = 1 A, si ha lim + PA = PA. Proof. Mostriamo ad esempio l equivaleza tra 1 e 2. Suppoiamo che sia verificata 1, e poiamo B 1 = A 1, B = A \ A 1 per > 1: gli isiemi B 1 soo a due a due disgiuti e per l additività fiita si ha PB = PA PA 1. Poichè 1 A = 1 B, si ha PA = + =1 PB = = lim h=1 PB h = lim PA.

7 8 CHAPTER 1. NOZIONI FONDAMENTALI Viceversa, suppoedo che sia verificata la proprietà 2, assegata ua successioe B 1 di eveti a due a due disgiuti, posto A = B 1... B, questa risulta essere ua successioe crescete di isiemi. Si ha allora P 1 B = P 1 A = lim PA = lim h=1 PB h = + =1 PB L equivaleza tra 2 e 3 si dimostra facilmete passado al complemetare. D ora iazi, le affermazioi 2 e 3 del precedete euciato verrao ache scritte ella seguete maiera, telegrafica ma perfettamete chiara: 2 A A = PA PA o ache PA PA ; 3 A A = PA PA o ache PA PA Ioltre le precedeti affermazioi soo ache equivaleti alle segueti lasciamo per esercizio la relativa facile dimostrazioe: 2bis: A Ω = PA 1 ; 3bis: A = PA 0. È aturale a questo puto chiedersi perchè la probabilità è assegata solo su alcui e o tutti i sottisiemi di Ω : il motivo di questo è ua difficoltà di ordie matematico, cioè o sempre è possibile estedere ua fuzioe σ-additiva a tutti i sottisiemi di u isieme Ω. Esamiiamo i particolare u esempio cocreto, immagiiamo di scegliere a caso u umero compreso tra 0 e 1 : lo spazio più aturale è Ω = [0, 1] e ad u itervallo ]a, b] i verità o importa se questo itervallo è aperto, chiuso.. sembra ragioevole attribuire come probabilità la sua lughezza b a. Ioltre è ovvio supporre che la probabilità attribuita sia ivariate per traslazioi modulo 1, cioè PA = PA + c, dove co A + c si itede il traslato di A modulo 1. Il famoso cotroesempio di Vitali, tradotto i questa situazioe, può essere letto el modo seguete: Proposizioe No è possibile costruire ua fuzioe P σ-additiva defiita su tutti i sottisiemi di [0, 1] e tale che: 1 P ]a, b] = b a se 0 a b 1 ; 2 P sia ivariate per traslazioi modulo 1. Osserviamo che quella euciata sopra è ua traduzioe ai ostri scopi dell esempio di Vitali, cosistete ella costruzioe di u sottisieme della retta IR o misurabile secodo Lebesgue. Toreremo su questo argometo ell Appedice.

8 1.2. CALCOLO COMBINATORIO Il caso di uo spazio fiito: elemeti di calcolo combiatorio. La difficoltà euciata alla fie del paragrafo precedete cioè l impossibilità di estedere la probabilità a tutti i sottisiemi di u isieme Ω o si poe se Ω è u isieme fiito cioè Ω = { ω 1,..., ω }. I tal caso è usuale ache se o obbligatorio cosiderare come σ-algebra degli eveti la famiglia PΩ di tutte le parti di Ω ; ioltre la probabilità è uivocamete determiata dai umeri p i = P {ω i }, p i 0, p p = 1. Per ogi eveto A Ω si ha ifatti PA = ω i A p i. D ora iazi scriveremo più brevemete Pω i aziché P {ω i }. La stessa cosa vale se l isieme Ω è umerabile Ω = {ω 1, ω 2,... } : usualmete si cosidera come σ-algebra F la famiglia PΩ di tutte le parti e vale la formula appea scritta, dove la somma fiita diveta la somma di ua serie se l eveto A è u isieme di cardialità ifiita. Nel caso i cui Ω sia u isieme fiito e gli eveti elemetari ω i siao equiprobabili, si parla di distribuzioe uiforme di probabilità su Ω; aturalmete o esiste ua distribuzioe uiforme di probabilità su u isieme Ω umerabile ma ifiito. Torado al caso di Ω fiito e di distribuzioe uiforme di probabilità, si ottiee la formula PA = A Ω = A Ω dove co A o co A si idica la cardialità o umero degli elemeti dell isieme A. La formula sopra scritta è ache chiamata rapporto tra casi favorevoli e casi possibili e talvolta ad essa ci si riferisce idicadola come la defiizioe classica di Probabilità. I questo ambito, i problemi divetao molto spesso problemi di calcolo combiatorio: delle varie formule riportate dai libri spesso co omi diversi da u libro all altro bisoga, a mio avviso, cooscere soltato tre. Tutte le altre si possoo dedurre da queste come esercizio. Prima di riportare queste formule premettiamo ua comoda otazioe: dato u itero, aziché dire u isieme di cardialità, scriveremo più brevemete {1,..., }. Proposizioe Siao k ed due iteri: il umero di applicazioi da {1,..., k} a {1,..., } è k Proposizioe Permutazioi. Il umero di modi i cui si possoo ordiare gli elemeti di {1,..., } è! Questa formula, così come la precedete, si dimostra per iduzioe.

9 10 CHAPTER 1. NOZIONI FONDAMENTALI Proposizioe Coefficiete biomiale. Siao 0 k : il umero di sottisiemi di {1,..., } formati da k elemeti è! = k k! k! Ache questa formula si dimostra per iduzioe, a scelta su k o su. Vediamo ora, a titolo d esempio, due formule che si possoo dedurre dalle presedeti: lasciamo la dimostrazioe come esercizio. Esercizio Siao 0 k : il umero di sottisiemi ordiati di {1,..., } formati da k elemeti è! k! Notiamo che questo umero coicide ache co il umero delle applicazioi iiettive da {1,..., k} i {1,..., }. Esercizio Siao k 1,..., k h iteri co k k h = : il umero di modi i cui si possoo scegliere h sottisiemi di {1,..., } formati rispettivamete da k 1,..., k h elemeti è! k 1!... k h! 1.3 Probabilità codizioata ed idipedeza. Quado si à coosceza della realizzazioe di u eveto, cambia la valutazioe di probabilità di ogi altro eveto: ad esempio se si sa che il umero uscito su u giro della roulette è u umero pari, la probabilità che sia uscito il umero 16 o è più 1 ma 1 ricordiamo che la ruota della roulette cotiee 37 caselle, umerate da 0 a 36, e che lo 0 o è cosiderato é pari é dispari. Se si è realizzato l eveto B = {2, 4,..., 36} cioè è uscito u umero pari soo rimasti 18 casi possibili dei quali uo è favorevole: se idichiamo co A = {16}, otiamo che la uova probabilità che è stata attribuita ad A verifica dalla formula PA B PB. Si possoo forire diversi esempi simili che sempre verificao la formula sopra riportata: queste cosiderazioi soo all origie della defiizioe che segue. Defiizioe Assegato uo spazio di probabilità Ω, F, P ed u eveto B o trascurabile, si chiama probabilità codizioata di A rispetto a B il umero P A B = P A B P B

10 1.3. PROBABILITÀ CONDIZIONATA ED INDIPENDENZA. 11 Essa idica la probabilità che viee associata all eveto A, coeretemete co la valutazioe precedetemete assegata, i seguito all iformazioe che si è realizzato l eveto B. Esercizio Provare che, fissato B o trascurabile, la fuzioe A PA B è effettivamete ua probabilità sulla σ-algebra F. Dati due eveti A e B o trascurabili, è immediato costatare che vale la formula PA B = PA B.PB = PB A.PA. Proposizioe Siao A 1,..., A eveti, e suppoiamo che A 1... A 1 sia o trascurabile: vale la formula P A 1... A = P A1.P A2 A1... P A A1... A La dimostrazioe si ottiee immediatamete scrivedo i vari termii; si oti che, se 1 k < 1, ache A 1... A k è o trascurabile. Defiizioe Sistema di alterative. Si chiama sistema di alterative ua partizioe di Ω i eveti o trascurabili B 1,..., B. Ricordiamo che partizioe sigifica che gli isiemi B i soo a due a due disgiuti e che la loro uioe è l itero isieme Ω. Proposizioe Formula di Bayes. Sia B 1,..., B u sistema di alterative: assegato ua qualuque eveto A o trascurabile, valgoo le formule PA = P A Bi P Bi i=1 P B i A = P A Bi P Bi j=1 P A Bj P Bj Proof. Per quato riguarda la prima formula, si oti che A = A B 1... A B e questi eveti soo a due a due disgiuti: si ha pertato PA = P A B i = i=1 P A B i P Bi i=1 La secoda formula e è ua cosegueza immediata. Usualmete si da il ome di formula di Bayes all equazioe 1.3.3, che è chiamata talvolta formula delle probabilità delle cause.

11 12 CHAPTER 1. NOZIONI FONDAMENTALI Le formule della Proposizioe soo valide ache se il sistema di alterative azichè essere fiito è umerabile, aturalmete sostituedo alle somme fiite le somme di ua serie. Esercizio Qual è la probabilità che, i ua estrazioe del lotto, tutti e 5 i umeri estratti o siao superiori a 20? Provare a risolvere questo facile esercizio i due modi, utilizzado cioè il calcolo combiatorio e la formula Itroduciamo ora il cocetto di idipedeza stocastica: vogliamo tradurre co ua formula matematica l idea che la coosceza che si è realizzato l eveto A o modifica la valutazioe di probabilità di B e viceversa. A tale scopo cosideriamo due eveti A e B o trascurabili e proviamo a scrivere le eguagliaze PA = PA B e PB = PB A : u esame immediato mostra che queste soo equivaleti tra loro ed equivaleti all eguagliaza PA B = PA.PB. A differeza delle due precedeti, quest ultima è simmetrica rispetto ai due eveti ed ha seso ache se uo dei due o ache tutti e due soo trascurabili: e segue che questa è la buoa defiizioe di idipedeza. Defiizioe Idipedeza stocastica. Due eveti A e B soo detti idipedeti se vale l eguagliaza PA B = PA.PB È u facile esercizio provare le segueti affermazioi: Se A e B soo idipedeti, soo idipedeti ache A c e B; A e B c ; A c e B c. Se PA = 0 oppure PA = 1, A è idipedete da qualsiasi altro eveto. Due eveti icompatibili cioè che hao itersezioe vuota o possoo essere idipedeti, a meo che uo dei due sia trascurabile. Vediamo ora come si estede questa defiizioe al caso di eveti co 3. Defiizioe Idipedeza di più eveti. Assegati eveti A 1,..., A, questi si dicoo idipedeti se per ogi itero k co 2 k e per ogi scelta di iteri 1 i 1 < i 2 <... < i k, vale l eguagliaza P A i1 A ik = P Ai1.. P Aik

12 1.4. APPENDICE: ALCUNI COMPLEMENTI. 13 La defiizioe appea riportata è piuttosto misteriosa: risulterà più chiara quado verrà itrodotta la ozioe di idipedeza per variabili aleatorie. È istruttivo tuttavia provare per esercizio la proposizioe seguete, che i qualche modo giustifica la defiizioe appea forita. Proposizioe Gli eveti A 1,..., A soo idipedeti se e solo se, per ogi possibile scelta di B i = A i oppure B i = A c i, vale l eguagliaza P B 1... B = P B1.. P B Esercizio Sull isieme Ω = {1, 2, 3, 4} muito della distribuzioe uiforme di probabilità, verificare che gli eveti A = {1, 2}, B = {1, 3} e C = {2, 3} soo a due a due idipedeti, ma o soo globalmete idipedeti Osservazioe U caso tipico di idipedeza si ha elle prove ripetute elle medesime codizioi: ad esempio soo idipedeti i risultati di successivi laci di moete o successivi giri della ruota della roulette, ma o soo idipedeti i risultati delle 5 estrazioi el lotto. 1.4 Appedice: alcui complemeti Il cotroesempio di Vitali. Cosideriamo l itervallo [0,1]: Vitali ha provato che o è possibile costruire ua fuzioe m defiita su tutti i sottisiemi di [0,1] e tale che a m è σ-additiva; b m è ivariate per traslazioi modulo 1; c m [0, 1] = 1. Comiciamo ad osservare che se esiste ua fuzioe d isieme co le proprietà a, b e c, ecessariamete m ]a, b] = b a, se 0 a < b 1: è immediato verificare questa eguagliaza per a e b razioali e si estede al caso geerale per cotiuità vedi Tuttavia questa eguagliaza i realtà o ci servirà ella costruzioe dell esempio. Cosideriamo su [0, 1] la relazioe d equivaleza : x R y se x y è razioale x y Q. Sia A l isieme delle classi di equivaleza e per ogi a A cosideriamo utilizzado l assioma della scelta u elemeto x a a: chiamiamo poi E l isieme formato da tutti questi puti, cioè E = { } x a a A. Chiamiamo Q = Q ] 0, 1 [ l isieme dei razioali compresi tra 0 e 1, e per ogi r Q, sia E r l isieme otteuto effettuado su E la traslazioe di r modulo 1, più precisamete { } E r = x [0, 1] x r E, oppure x r + 1 E

13 14 CHAPTER 1. NOZIONI FONDAMENTALI Per ipotesi, m E r = m E, qualuque sia r. Si provao facilmete queste due affermazioi: 1 se r s, allora E r E s = ; 2 [0, 1] è l uioe degli isiemi E r, al variare di r Q. A questo puto abbiamo costruito il cotroesempio: se m esiste, si deve avere ifatti 1 = m [0, 1] = r Q m E r. Ma poiché questi umeri soo tutti eguali a m E, la somma della serie o può che predere il valore 0 se m E = 0, oppure + se m E > 0. Notiamo che l esisteza di questo isieme E o è data i modo costruttivo detto ituitivamete o si riesce a capire come sia fatto questo isieme ma è ua cosegueza dell assioma della scelta: se o si accetta l assioma della scelta questa costruzioe cade. È iteressate osservare che questa difficoltà o sussiste co le fuzioi fiitamete additive: è sempre possibile ifatti prolugare i modo però o uico ua fuzioe fiitamete additiva defiita su u algebra di parti di u isieme a tutti i sottisiemi. Acora ua volta però questo prolugameto o è costruttivo, ma ua cosegueza dell assioma della scelta. Vedremo più avati ivece che è possibile prolugare i modo uico ua fuzioe σ-additiva defiita su u algebra A di parti di u isieme Ω alla più piccola σ-algebra che la cotiee, e questo sarà fatto co u procedimeto effettivamete costruttivo Probabilità e teoria dei umeri. Ci soo delle iteressati applicazioi della ozioe di Probabilità alla Teoria dei umeri; i questo primo corso o c è il tempo di addetrarci i questo capitolo, ma ci limitiamo ad u paio di esempi. Esempio La fuzioe di Eulero. Si chiama fuzioe di Eulero la fuzioe φ eguale per 2 al umero di iteri tra 1,..., primi co : la formula di Eulero afferma che, se p 1,..., p m soo i divisori primi di, si ha φ = p 1 p m Di questa formula di può dare ua dimostrazioe probabilistica: più precisamete si cosiderio sullo spazio Ω = {1,..., } la distribuzioe di probabilità uiforme ed i sottisiemi Ap i costituiti dai multipli di p i compresi tra 1 e. 1 Provare che gli eveti Ap i soo idipedeti e di cosegueza ache i loro complemetari.

14 1.5. ESERCIZI 15 2 Osservare che l itersezioe dei complemetari degli isiemi Ap i coicide co l isieme gli iteri primi co e dedure la formula di Eulero. Esempio La desità di Dirichlet. Sia A u sottisieme dell isieme dei umeri aturali IN, e defiiamo per i sottisiemi A per il quali questo limite esiste A {1,..., } da = lim La fuzioe sopra defiita è u tipico esempio di fuzioe semplicemete additiva ma o σ-additiva. a Verificare che la fuzioe d è additiva ma o σ-additiva ed esibire u sottisieme B IN tale che db o sia defiita. b Assegato u itero p, calcolare la desità dell isieme G p formato dai multipli di p e provare che, se p e q soo primi tra loro, gli isiemi G p e G q risultao idipedeti. N.B. La famiglia dei sottisiemi A per i quali è defiita la desità i realtà o è u algebra: tale famiglia ifatti è stabile per passaggio al complemetare e la verifica di questo è immediata, ma o è stabile per l uioe. Provare questo fatto così come esibire u sottisieme B che o ha desità è u esercizio decisamete impegativo. 1.5 Esercizi Esercizio Si lacia tre volte ua moeta equilibrata, e si cosiderio gli eveti A le facce uscite o soo tutte eguali e B al più ua faccia è testa. Gli eveti A e B soo idipedeti? Qual è la risposta se la moeta o è equilibrata? Esercizio U dado equilibrato, co le facce umerate da 1 a 6, viee laciato volte: qual è la probabilità che il umero 6 esca esattamete 2 volte? Per quale valore di questa probabilità è massima? Esercizio Quate volte almeo si deve laciare u dado affiché ci sia ua probabilità superiore al 99% che esca almeo u 6? Esercizio I ua città, il 17% della popolazioe si è vacciato cotro l iflueza : all apice dell epidemia di iflueza, le persoe o vacciate si ammalao co probabilità 0,12 e quelle vacciate ivece co probabilità 0,02. Qual è la probabilità di ammalarsi? Qual è la probabilità che ua persoa ammalata si sia vacciata?

15 16 CHAPTER 1. NOZIONI FONDAMENTALI Esercizio Ua fabbrica produce dei compoeti elettroici che vede i scatole di 10 pezzi. Prima di essere messa i vedita, ogi scatola viee cotrollata el modo seguete: si scelgoo a caso 5 pezzi e se almeo 4 risultao fuzioati la scatola passa alla vedita. a Qual è la probabilità che ua scatola co esattamete 8 pezzi fuzioati passi alla vedita? b Stessa domada per ua scatola co 4 pezzi fuzioati.

16 Chapter 2 Probabilità e variabili aleatorie su uo spazio umerabile 2.1 Richiami sulle serie umeriche. Premettiamo alcui richiami sulle serie umeriche. Data ua successioe di umeri reali a 1, a 2,..., posto s = a 1 + +a, si chiama somma della serie il limite se esiste della successioe s 1, e si dice che la serie coverge se questo limite esiste. Più precisamete, per defiizioe + =1 a = lim k=1 a k = lim s Se la serie coverge, la successioe a 1 è ifiitesima ifatti si ha a = s s 1, ma o è vero il viceversa u esempio tipico è la successioe a = 1. Vediamo ora alcue proprietà importati delle serie a termii positivi cioè a 0, qualuque sia : i tal caso la successioe delle somme parziali s 1 è mootoa crescete e pertato esiste comuque fiito o ifiito il limite. Ha sempre seso quidi scrivere + =1 a [0, + ]. Le serie a termii di sego positivo hao iteressati proprietà, i particolare si può cambiare l ordie della somma e sommare per pacchetti: di seguito vediamo gli euciati precisi elle due segueti proposizioi, elle quali si suppoe che la successioe a 1 sia formata da termii positivi. Proposizioe Sia v : IN IN ua applicazioe biuivoca: allora + =1 a = + a v =1 17

17 18 CHAPTER 2. PROBABILITÀ DISCRETA Proposizioe Sia A 1, A 2,... ua partizioe di IN o importa se formata di isiemi fiiti o ifiiti: vale la formula + =1 a = + a k =1 k A Proof. Dimostriamo 2.1.1, lasciado per esercizio la aaloga dimostrazioe di Chiamiamo r = max v1,..., v e sia s = a v1 + +a v : per ogi si ha e quidi, al limite, s a a r + =1 a v + a =1 + a I modo aalogo si ottiee la diseguagliaza opposta e di cosegueza l eguagliaza. Queste due proprietà si estedoo immediatamete alle serie assolutamete covergeti: ricordiamo che ua serie umerica è detta assolutamete covergete se si ha + a < + =1 Seza scrivere ua formalizzazioe esplicita, otiamo che la serie è assolutamete covergete se e solo se covergoo a u umero reale sia la serie dei termii positivi che quella dei termii egativi, e ad etrambe si possoo applicare i risultati di e Esercizio Provare co dei cotroesempi che se la serie è covergete ma o assolutamete covergete gli euciati precedeti soo falsi. I particolare vale questo curioso risultato, del quale o diamo la dimostrazioe che o ci servirà più avati lasciadola come esercizio impegativo. Proposizioe Suppoiamo che la successioe a 1 sia tale che la seria ad essa associata coverga ma o coverga assolutamete: assegato u qualsiasi l [, + ], è possibile determiare ua fuzioe biuivoca v : IN IN tale che si abbia lim a vk = l k=1 =1

18 2.2. INTEGRALE RISPETTO AD UNA MISURA DISCRETA. 19 Come suggerimeto, possiamo ivitare a osservare che i termii della successioe devoo essere ifiitesimi poichè la serie coverge ed etrambe le serie dei termii positivi e di quelli egativi della successioe divergoo. Abbiamo visto i sostaza che proprietà veramete buoe di sommabilità si hao solo co serie assolutamete covergeti. 2.2 Itegrale rispetto ad ua misura discreta. Quado la misura è defiita su isieme umerabile la costruzioe dell itegrale è particolarmete semplice, sostazialmete è ua cosegueza delle proprietà delle somme di serie umeriche: comiciamo duque ad esamiare questo caso semplificato, esplicitado le proprietà fodametali dell itegrale. Cosideriamo u isieme umerabile E = {e 1, e 2,...} sul quale sia defiita ua misura m : suppoiamo che tutti i sottisiemi di E siao misurabili come abbiamo detto el capitolo precedete, sugli isiemi umerabili o ci soo problemi di misurabilità e suppoiamo che, per ogi i, me i < + c è u piccolo abuso di otazioi perchè avremmo dovuto scrivere m {e i }, ma usiamo questa otazioe abbreviata. Per ogi isieme A E si ha m A = e i A me i Cosideriamo ora ua fuzioe f : E IR ; o ci poiamo problemi di misurabilità sui quali ivece saremo più accurati ei capitoli successivi perché ogi sottisieme di E è misurabile. Defiizioe Itegrale. Si dice che la fuzioe f è itegrabile se fei mei < + ed i tal caso chiamiamo itegrale di f il umero f dm = fe i me i i i Idichiamo co L 1 lo spazio delle fuzioi itegrabili. Prima di procedere co le proprietà esseziali dell itegrale, osserviamo che dai risultati sulle serie umeriche che soo stati ricordati risulta evidete perché si richiede che la serie dei termii fe i me i coverga assolutamete : seza questa codizioe ifatti, se scegliessi di umerare i puti dell isieme E secodo u altro ordiameto, potrei avere per l itegrale u risultato diverso.

19 20 CHAPTER 2. PROBABILITÀ DISCRETA Osserviamo acora che, se f è a valori positivi, ha sempre seso parlare di itegrale di f, cioè f dm = i 1 fe ime i [0, + ]. Lasciamo per esercizio le segueti facili proprietà: 1. se f, g L 1, ache af + g L 1 e af + gdm = a f dm + g dm; 2. se 0 f g, allora f dm g dm; 3. f è itegrabile se e solo se f dm < +, ioltre f dm f dm; 4. se 0 f e f dm = 0, allora f vale ideticamete 0 eccetto evetualmete su u isieme trascurabile. Ricordiamo che si chiama trascurabile u isieme che ha misura ulla; ua proprietà verificata ovuque eccetto che su u isieme trascurabile è detta valere quasi ovuque e si scrive q.o., metre i probabilità si preferisce dire quasi certamete e si scrive q.c.. I due euciati che seguoo soo le proprietà più importati di passaggio al limite sotto il sego d itegrale. Teorema Beppo Levi. Sia f 1 ua successioe crescete di fuzioi positive, covergete ad f : la successioe degli itegrali f dm 1 coverge crescedo a f dm. I maiera più sitetica, scriveremo d ora iazi u euciato come il precedete ella forma 0 f, f f = f dm f dm Proof. Iazi tutto osserviamo che esiste lim f dm poiché si tratta di ua successioe mootoa crescete e che tale limite è iferiore o eguale a f dm : occorre poi distiguere i casi i cui l itegrale di f sia fiito o ifiito. Cosideriamo il primo caso, e sia A = f dm ; per ogi ε > 0, esiste u k tale che la somma fiita i=1,...,k fe ime i A ε. Poiché per ogi puto e i, f e i me i coverge a fe i me i, covergoo ache le somme fiite e si trova che, per abbastaza grade f dm i=1,...,k f e i me i A 2ε, e questo completa la dimostrazioe. Il caso i cui f dm = + è sostazialmete idetico: qualuque sia B > 0, esiste u k tale che i=1,...,k fe ime i B, e co gli stessi passaggi appea svolti si prova che, per abbastaza grade, f dm B 2.

20 2.2. INTEGRALE RISPETTO AD UNA MISURA DISCRETA. 21 Teorema Covergeza domiata. Sia f 1 ua successioe di fuzioi covergete putualmete ad f e suppoiamo che esista g positiva itegrabile tale che si abbia f g qualuque sia : vale allora la relazioe lim f dm = f dm Proof. Comiciamo ad osservare che la codizioe di domiazioe f g valida ovviamete ache per il limite f implica che ogi f ed f siao itegrabili. Notiamo poi che si ha la maggiorazioe f dm f dm f f dm = f e i fe i mei Dato ε > 0, esiste u itero k tale che + i=k+1 ge ime i < ε, e di cosegueza poiché f e i fe i 2 gei, qualuque sia, + i=k+1 f e i fe i mei < 2 ε. A questo puto, poiché le somme fiite covergoo, per abbastaza grade, k i=1 f e i fe i mei < ε e quidi f dm f dm < 3ε e questo coclude la dimostrazioe. Proviamo ora co u cotroesempio che ell euciato precedete, se si toglie l ipotesi di domiazioe, il risultato di passaggio al limite sotto il sego d itegrale o è più vero. Esercizio Cosideriamo sullo spazio IN degli iteri strettamete positivi la misura m tale che mk = 2 k otiamo che si tratta di ua probabilità, e cosideriamo la successioe di fuzioi così defiite: i 1 f k = { 2 se k = 0 se k Verificare che le fuzioi così defiite soo itegrabili, che la successioe o è domiata, che coverge putualmete a ua fuzioe itegrabile ma gli itegrali o covergoo. Sarà importate il seguete risultato: Teorema Diseguagliaza di Schwartz. Siao f, g tali che f 2 dm < + e g 2 dm < + : allora il prodotto fg è itegrabile e vale la diseguagliaza fg dm f 2 dm g 2 dm

21 22 CHAPTER 2. PROBABILITÀ DISCRETA Ioltre, se la diseguagliaza sopra scritta è ua eguagliaza, le fuzioi f e g coicidoo a meo di ua costate moltiplicativa cioè esiste t reale tale che fe i = t ge i q.o.. Proof. Comiciamo ad osservare che la fuzioe f g è itegrabile: si ha ifatti, per ogi puto e i, fe i ge i f 2 e i + g 2 e i. Per ogi t reale, si ha tf g dm = t 2 f 2 dm + g 2 dm + 2t fg dm La fuzioe sopra scritta è u poliomio di II grado i t, e se è a valori positivi il relativo discrimiate è egativo, cioè fg dm 2 f 2 dm. g 2 dm 0. Ioltre se il discrimiate è eguale a 0, il poliomio si aulla i u puto t, cioè esiste t IR tale che si abbia tf + g 2 dm = 0 e questo equivale a dire che tf + g = 0 q.o Osservazioe La teoria esposta i questo paragrafo rimae valida se l isieme E o è umerabile, ma la misura m è cocetrata su u isieme umerabile, più precisamete se esiste ua successioe di puti e 1, e 2,... tale che, per ogi A E, si abbia m A = e i A me i Ifatti i questo caso il complemetare dell uioe dei puti che formao la successioe è trascurabile e, el calcolo degli itegrali, iteressa solo il valore di ua fuzioe ei puti e i i 1. Si usa dire i questo caso che la misura è discreta, o ache atomica. 2.3 Variabili aleatorie discrete. Cosideriamo ora, i questo e el successivo capitolo, uo spazio di probabilità Ω, F, P el quale l isieme Ω è supposto umerabile. Alla defiizioe di variabile aleatoria premettiamo u esempio. Suppoiamo di aver putato alla roulette 1 E sul umero 28 ed 1 E sul pari: possiamo domadarci qual è la probabilità di vicere più di 10 E, oppure la probabilità di perdere. Lo spazio aturale per descrivere l esito di u giro della roulette è l isieme Ω = {0, 1,..., 36} muito della distribuzioe uiforme di probabilità, ma le domade scritte sopra o corrispodoo direttamete a sottisiemi di Ω.

22 2.3. VARIABILI ALEATORIE DISCRETE. 23 Siamo aturalmete portati a itrodurre ua fuzioe X : Ω IR la fuzioe vittoria etta che i questo esempio risulta essere così defiita: Xω = 36 ω = 28 0 ω pari, ω 28 1 ω = 0 2 ω dispari La risposta alla prima domada diveta P { ω i Xωi 10 } = P X 1 [10, + [ = 1 e la risposta alla secoda è 37 P { ω i Xωi < 0 } = P X 1 ], 0[ = I defiitiva, abbiamo aturalmete itrodotto ua fuzioe X : Ω IR ed abbiamo trasportato la probabilità dai sottisiemi di Ω ai sottisiemi di IR. Defiizioe Variabile aleatoria. Assegato uo spazio di probabilità Ω, F, P co Ω umerabile, si chiama variabile aleatoria reale discreta ua fuzioe X : Ω IR. Defiizioe Legge di Probabilità. Si chiama legge di probabilità o ache distribuzioe di probabilità della v.a. reale X la probabilità defiita sui sottisiemi di IR dalla formula P X A = P X 1 A La probabilità P X viee ache chiamata la probabilità immagie di P mediate X e idicata X P. Che si tratti effettivamete di ua probabilità è immediato: se A 1 è ua successioe di sottisiemi di IR a due a due disgiuti, ache le immagii iverse soo disgiute e si ha P X A = P X 1 A = P X 1 A = P X A Si verifica ioltre immediatamete che P X IR = 1. È ache immediato costatare che l immagie di ua probabilità è associativa el seso che, se Y = g X, si ha Y P = g X P = g XP. Quado due variabili aleatorie hao la stessa legge di probabilità soo dette equidistribuite o ache isoome. Vediamo più i dettaglio come è fatta la legge di probabilità di ua v.a. discreta. Poiché Ω è umerabile, ache l immagie di X è u sottisieme fiito o umerabile della retta, cioè x 1, x 2,... ; per ogi puto x i, si cosideri il umero px i = P { X = x i } = P X 1 x i. Vale la formula: P X A = P X 1 A = x i A px i

23 24 CHAPTER 2. PROBABILITÀ DISCRETA ifatti X 1 A = { } x i A X = xi. Naturalmete i umeri pxi soo positivi e i px i = 1; alla fuzioe x px = P { X = x } viee dato il ome di fuzioe di probabilità qualcuo usa ache il termie desità discreta. Quato alla scrittura { X = x }, è bee familiarizzarsi subito co la otazioe molto comoda { X A } = { ω i Xωi A } = X 1 A. Ad esempio { a < X b } = X 1 ]a, b]. Osservazioe Assegata ua probabilità discreta Q su IR cioè i pratica, come abbiamo visto, del valori x 1, x 2,... e dei umeri positivi px1, px 2,... co i px i = 1 è aturale chiedersi se esiste ua v.a. X la cui legge di probabilità sia Q. La risposta è affermativa e la costruzioe è ache molto semplice: si può cosiderare come Ω l isieme dei valori Ω = { x 1, x 2,... }, come probabilità P quella defiita da P {x i } = px i e come applicazioe X : Ω IR l applicazioe idetica cioè Xx i = x i. La verifica dell eguagliaza P X = Q è immediata. Questa osservazioe sembra baale, ma dal puto di vista metodologico è ivece importate: ella pratica spesso si icotra solo la legge di probabilità di ua v.a., e questo ci dice che o dobbiamo porci domade sull esisteza di uo spazio Ω e di ua applicazioe X : Ω IR perché la risposta è già data da questa costruzioe caoica. Vediamo ora rapidamete le pricipali variabili aleatorie discrete. Esempio Variabile Biomiale. La variabile Biomiale di parametri e p, itero positivo e 0 < p < 1, cosidera ripetizioi i codizioi di idipedeza di u esperimeto che ha probabilità p di successo e cota il umero dei successi otteuti. La legge biomiale viee idicata B, p e si scrive X B, p ; quado = 1 viee ache chiamata legge di Beroulli di parametro p. I valori della v.a. biomiale soo gli iteri {0, 1,..., } e vale, per 0 k, la formula pk = P { X = k } = p k 1 p k k Esempio Variabile di Poisso. La variabile di Poisso di parametro λ, λ > 0 è ua variabile che assume tutti i valori iteri positivi co probabilità p = P { X = } = e λ λ!

24 2.4. VALORI ATTESI E MOMENTI. 25 Esempio Variabile Geometrica. La variabile Geometrica di parametro p, 0 < p < 1 cosidera ripetizioi cosecutive di u esperimeto che ha probabilità p di successo e cota il umero di prove che è stato ecessario effettuare per otteere u successo. I valori possibili soo gli iteri strettamete positivi e si ha p = P { X = } = 1 p 1 p Esercizio Asseza di memoria della legge geometrica. Provare che se X è ua variabile geometrica, per, h iteri strettamete positivi, vale la formula P { X = + h } { } X > = P X = h Provare viceversa che se X è ua v.a. a valori iteri strettamete positivi che soddisfa l equazioe 2.3.1, ecessariamete è ua variabile geometrica. Esercizio Variabile Biomiale egativa.. La variabile Biomiale egativa può essere defiita i questo modo: si ripete i codizioi di idipedeza u esperimeto che ha probabilità p di successo fio a che questo si realizza k volte; la variabile cota il umero di tetativi che è stato ecessario effettuare. Determiare la sua legge di probabilità. Osservazioe: il ome, u pò curioso, di biomiale egativa, deriva dall eguagliaza 1 k p k 1 p k = p k p 1 k k k Ricordiamo che, se α è u umero reale qualsiasi e k u itero positivo, per defiizioe α α.α 1... α k + 1 = k k! Esercizio Variabile ipergeometrica. Cosideriamo u ura coteete r sfere rosse e b sfere biache, ed i essa compiamo estrazioi seza reimbussolameto ovviamete si deve avere r + b: cosideriamo la v.a. X che cota il umero di sfere rosse che soo state estratte. Di tale variabile determiare la distribuzioe di probabilità, il valore atteso, la variaza. 2.4 Valori attesi e mometi. Prima di dare la defiizioe di valore atteso, proviamo u teorema che si dimostra fodametale i Calcolo delle Probabilità.

25 26 CHAPTER 2. PROBABILITÀ DISCRETA Teorema Itegrazioe rispetto a ua probabilità immagie. Siao X ua v.a. discreta, P X = X P la sua legge di probabilità e ϕ : IR IR. ϕ è itegrabile rispetto a P X se e solo se ϕ X è itegrabile rispetto a P, e i tal caso vale l eguagliaza ϕx dp X x = ϕ Xω dpω IR Proof. Comiciamo a supporre che ϕ sia a valori positivi. Poiché Ω è umerabile, la sua immagie mediate X è u sottisieme fiito o umerabile di IR della forma x 1, x 2,.... Cosideriamo gli isiemi A i = {X = x i } = { ωj Xωj = x i } e osserviamo che pxi = ω j A i Pω j. Poichè quelle che seguoo soo somme di serie a termii positivi, possiamo usare la proprietà associativa della somma: si ottiee pertato ϕx dp X x = i ϕ Xω j Pω j = i ω j A i j Ω ϕx i px i = i ϕ Xω j Pω j = ϕx i Pω j = ω j A i Ω ϕ Xω dpω cioè l eguagliaza desiderata. Il caso geerale si ottiee scrivedo la fuzioe ϕ ella forma ϕ = ϕ + ϕ e sommado i due itegrali. Ricordiamo che co ϕ + x = max ϕx, 0 e ϕ x = mi ϕx, 0 itediamo la parte positiva e parte egativa della fuzioe ϕ. Siamo ora i grado di dare la seguete defiizioe: Defiizioe Valore atteso. Data ua v.a. reale discreta X, si dice che essa ha valore atteso se è itegrabile rispetto a P, e i tal caso si chiama valore atteso l itegrale E [ X ] = Xω dpω = X ω i P ωi Ω i Il valore atteso è ache chiamato speraza matematica; il termie aglosassoe è expectatio e quello fracese espérace. Talvolte viee ache chiamato valor medio, ma è u termie improprio perché si potrebbe cofodere co la media aritmetica dei valori della v.a. quado questa prede u umero fiito di valori. I base al teorema abbiamo la seguete regola pratica: data ua v.a. discreta che prede i valori x 1, x 2,... co probabilità px 1, px 2,...,

26 2.4. VALORI ATTESI E MOMENTI. 27 essa ammette valore atteso se e solo se i x i px i < +, ed i tal caso si ha E[X] = i x i px i. Dalle proprietà dell itegrale derivao alcue proprietà immediate del valore atteso, ad esempio se esiste E[aX + b] = a E[X] + b. Notiamo ache che se X è a valori positivi, ha sempre seso scrivere E[X] = Xω dpω [0, + [. Ω Esercizio Sia X ua variabile aleatoria a valori iteri positivi: provare che vale la formula E [ X ] = P { X > } = P { X } 0 1 Defiizioe Mometi. Sia 1 p < + e X ua v.a.: si chiama mometo assoluto di ordie p il umero E [ X p] = x i p px i [0, + ] i e se questo umero risulta fiito, si dice che X ammette mometo di ordie p. Dato u itero positivo, se X ammette mometo di ordie, si chiama mometo di ordie il umero E [ X ]. Proposizioe Siao 1 p < q < + : se X ha mometo di ordie q, ammette ache mometo di ordie p. Proof. Per ogi umero reale x, vale la diseguagliaza x p 1 + x q : si ha pertato E [ X p] = x i p px i 1 + xi q px i = 1 + E [ X q] i i Defiizioe Variaza. Sia X ua variabile aleatoria dotata di mometo secodo: si chiama Variaza di X il umero V ar X = E [ X E[X] 2] = E [ X 2 ] E[X] 2 Esercizio Provare che vale la relazioe V ar ax + b = a 2 V ar X. Lemma Diseguagliaza di Markov. Sia X ua v.a. positivi e t ua costate positiva: vale la diseguagliaza t P { X t } E [ X ] a valori

27 28 CHAPTER 2. PROBABILITÀ DISCRETA Proof. Itroduciamo ua otazioe: se A è u isieme, si deota co I A la fuzioe idicatrice dell isieme A, più precisamete I A ω = { 1 se ω A 0 se ω / A Si parte duque dalla diseguagliaza tra variabili aleatorie t I {X t} X, e passado alla coseguete diseguagliaza per gli itegrali si ottiee il risultato. Cosegueza immediata della diseguagliaza di Markov è la seguete, che spiega perché la variaza è ua misura della dispersioe di ua variabile aleatoria. Proposizioe Diseguagliaza di Chebishev. Sia X ua v.a. dotata di mometo secodo: vale la diseguagliaza t 2 P { X E[X] t } V ar X Proof. Si applica la diseguagliaza di Markov, cosiderado come costate positiva t 2 e come variabile aleatoria X E[X] 2 : si oti che { X E[X] t } = { X E[X] 2 t 2 } Corollario La variaza di ua v.a. X è eguale a 0 se e solo se X è costate q.c. Proof. Da ua parte, se X = c q.c., si ha E[X] = c e E[X 2 ] = c 2 e quidi la variaza si aulla. Suppoiamo viceversa che V ar X = 0: poiché { X E[X] 0 } = 1 { X E[X] 1 } e ciascuo degli isiemi { X E[X] 1 } è trascurabile, ache { X E[X] 0 } è trascurabile. 2.5 Variabili aleatorie a più dimesioi, variabili aleatorie idipedeti. Per semplicità di otazioi, trattiamo il caso di variabili aleatorie a valori i IR 2, ma idetica è la trattazioe di variabili aleatorie a valori i IR.

28 2.5. VARIABILI N-DIMENSIONALI 29 Cosideriamo duque ua variabile aleatoria doppia o bidimesioale, cioè ua applicazioe X, Y : Ω IR 2. La sua legge di probabilità deotata P X,Y = X, Y P è ua probabilità sui sottisiemi di IR 2. L immagie di X, Y è u sottisieme umerabile di IR 2 cioè u isieme di puti { x i, y j } i 1, j 1 e la fuzioe di probabilità è defiita da px i, y j = P { } X = x i, Y = y j. Per ogi sottisieme B IR 2 si ha P X,Y B = P { X, Y B } = x i,y j B px i, y j Teiamo presete che elle formule la virgola sta per la cogiuzioe, che corrispode isiemisticamete all itersezioe, cioè ad esempio { X = xi, Y = y j } = X, Y 1 x i, y j = { X = x i } { Y = yj } Il teorema di itegrazioe rispetto ad ua misura immagie si traduce co miimi cambiameti formali: valgoo pertato le eguagliaze E [ ϕx, Y ] = ϕ Xω, Y ω dpω = ϕx, y dp X,Y x, y = Ω IR 2 = x i,y j ϕx i, y j px i, y j che si deve leggere: ϕx, Y è itegrabile rispetto a P se e solo se ϕ è itegrabile rispetto a P X,Y, ed i tal caso è soddisfatta la formula scritta sopra. Da questa formula e dalle proprietà dell itegrale seguoo cosegueze immediate: ad esempio, se X e Y soo itegrabili, vale l eguagliaza E [ X + Y ] = E[X] + E[Y ]. Defiizioe Covariaza. Suppoiamo che X ed Y ammettao mometo secodo: si chiama covariaza il umero Cov X, Y = E [ X E[X] Y E[Y ] ] = E [ XY ] E[X] E[Y ] Notiamo che se X, Y ammettoo mometo secodo, per la diseguagliaza di Schwartz teorema il prodotto XY ammette mometo primo. Notiamo acora che V ar X = Cov X, X ; è immediato verificare che la covariaza è bilieare CovaX + by, Z = a CovX, Z + b CovY, Z e che vale la formula V ar X + Y = V ar X + V ar Y + 2 Cov X, Y Se Cov X, Y = 0, le due variabili soo dette icorrelate.

29 30 CHAPTER 2. PROBABILITÀ DISCRETA Proposizioe Siao X, Y dotate di mometo secodo: vale la diseguagliaza Cov X, Y V ar X V ar Y Proof. È ua cosegueza immediata della diseguagliaza di Schwartz 2.2.5, dove si è posto f = X E[X] e g = Y E[Y ]. Si ha duque Cov X, Y = X E[X] Y E[Y ] dp X E[X] 2dP Y E[Y ] 2dP = V ar X V ar Y Si chiama scarto quadratico medio di X la radice della sua variaza se esiste; e se X, Y ammettoo mometo secodo e o soo costati, si chiama coefficiete di correlazioe il umero ρ X, Y Cov X, Y = V ar X V ar Y Esempio Retta di regressioe. Suppoiamo che le due variabili X e Y siao dotate di mometo secodo e co variaza strettamete positiva e cerchiamo mi a,b E [ Y ax b 2 ] Verificare che la fuzioe Qa, b = E [ Y ax b 2] tede a + per a, b, che il gradiete di Q si aulla solo el puto a, b dove a = CovX, Y V arx e b = E[Y ] a E[X] e che vale l eguagliaza [ Y Qa, b = mi E ] 2 ax b = V ary 1 ρx, Y 2 a,b Lasciamo per esercizio la dimostrazioe della seguete proprietà della covariaza: Proposizioe Matrice delle covariaze. Sia X 1,..., X ua variabile aleatoria dimesioale, suppoiamo che ogi compoete X i abbia mometo secodo e idichiamo co C la matrice delle covariaze cioè C ij = CovX i, X j.

30 2.5. VARIABILI N-DIMENSIONALI 31 La matrice C è simmetrica, semidefiita positiva; ioltre vale la formula V ar a i X i = C ij a i a j i=1 i,j=1 Toriamo ad ua variabile doppia X, Y, la cui legge di probabilità è idetificata dalla fuzioe di probabilità px i, y j ; ogua delle due compoeti X ed Y è ua v.a. reale, e idichiamo co p X x i = P{X = x i } e aalogamete per p Y le relative fuzioi di probabilità. Proposizioe Valgoo le formule p X x i = y j px i, y j p Y y j = x i px i, y j Proof. L isieme { } X = x i è uioe umerabile degli isiemi a due a due disgiuti { } X = x i, Y = y j, j = 1, 2,...; si ha pertato p x x i = P { } X = x i = y j P { } X = x i, Y = y j = y j px i, y j Viceversa, cooscedo le distribuzioi di probabilità margiali delle compoeti X ed Y, o si può ricostruire la distribuzioe di probabilità globale del vettore aleatorio X, Y. C è tuttavia u caso el quale questo si può fare, ed è quado le due variabili soo idipedeti. Defiizioe Due variabili aleatorie X ed Y si dicoo idipedeti se, scelti comuque due sottisiemi A e B di IR, gli eveti X 1 A e Y 1 B soo idipedeti, cioè se vale la formula P { X A, Y B } = P { X A } P { Y B } Proposizioe Due variabili discrete X ed Y soo idipedeti se e solo se le relative fuzioi di probabilità soo legate dalla formula px i, y j = p X x i p Y y j Proof. Da ua parte, se le variabili soo idipedeti, scegliedo A = {x i } e B = {y j }, si verifica immediatamete che è soddisfatta la formula Suppoiamo viceversa che la formula sia soddisfatta, e scegliamo due sottisiemi A e B di IR: si ha P { X A, Y B } = p X x i p Y y j = x i A, y j B px i, y j = x i A y j B

31 32 CHAPTER 2. PROBABILITÀ DISCRETA = x i A p X x i y j B p Y y j = P { X A } P { Y B } La ozioe di idipedeza tra variabili aleatorie può essere formulata i u altro modo, più opportuo per successive dimostrazioi, ma dobbiamo premettere ua defiizioe. Defiizioe Probabilità prodotto. Siao P 1 e P 2 due probabilità sui sottisiemi di IR: si chiama probabilità prodotto e si idica P 1 P 2 la probabilità defiita sui sottisiemi di IR 2 tale che, se A, B soo sottisiemi di IR, si abbia P 1 P 2 A B = P1 A P2 B Naturalmete ella defiizioe appea data o è ecessario che le due probabilità siao defiite sui sottisiemi di IR, ma si adatta seza modifiche a due probabilità discrete defiite su due geerici isiemi E 1 e E 2. Nella defiizioe 2.5.8, occorre precisare quali sottisiemi di IR 2 si cosiderao misurabili e come si costruisce effettivamete la probabilità prodotto ci occuperemo di questi problemi ei successivi capitoli, ma se P 1 e P 2 soo probabilità discrete la costruzioe è immediata. Più precisamete, se P 1 rispettivamete P 2 è cocetrata ei puti x 1, x 2,... risp. y 1, y 2,... co fuzioe di probabilità p 1. risp. p 2., la probabilità P 1 P 2 è la probabilità discreta cocetrata elle coppie di puti x i, y j co fuzioe di probabilità px i, y j = P 1 P 2 {xi, y j } = p 1 x i.p 2 y j La verifica di questo fatto è sostazialmete idetica alla dimostrazioe della proposizioe 2.5.1, e ua cosegueza immediata è la dimostrazioe della seguete proprietà Proposizioe Due variabili aleatorie X 1, X 2 soo idipedeti se e solo se la legge di probabilità cogiuta è il prodotto delle sigole leggi, cioè se si ha = P X1 P X2 P X1,X 2 La proprietà precedete che potrebbe equivaletemete essere assuta come defiizioe di idipedeza ammette ua evidete estesioe alla defiizioe di idipedeza per variabili aleatorie X 1,..., X. Comiciamo ad osservare che la defiizioe si estede seza difficoltà al prodotto di 3 o più probabilità, purchè i umero fiito: si costata ioltre facilmete che il prodotto è associativo el seso che, ad esempio, P 1 P 2 P 3 = P 1 P 2 P3 = P 1 P 2 P 3

32 2.5. VARIABILI N-DIMENSIONALI 33 Di cosegueza si può dire, per defiizioe, che v.a. X 1,..., X soo idipedeti se la legge cogiuta è il prodotto delle sigole leggi, cioè se si ha P X1,...,X = P X1 P X Osservazioe Vediamo come si può estedere la costruzioe dell osservazioe al caso -dimesioale, cioè, assegate probabilità discrete P 1,..., P, come si possoo costruire v.a. idipedeti X 1,..., X co legge rispettivamete P 1,..., P. Questa costruzioe sarà molto usata ei modelli statistici. Suppoiamo che tutte le probabilità siao cocetrate sullo stesso sottisieme umerabile C IR ci si può sempre ridurre a questa situazioe, poiamo Ω = C il prodotto cartesiao di C co sé stesso volte e su di esso mettiamo la probabilità prodotto P 1 P ; sia poi X i la proiezioe caoica di idice i, cioè X i x 1,..., x = x i. È immediato costatare che P Xi = X i P = P i e che poichè la legge del vettore aleatorio X = X 1,..., X è il prodotto delle sigole leggi queste variabili soo idipedeti. Proposizioe Siao X, Y due v.a. idipedeti e f, g due fuzioi reali: le variabili f X e g Y soo idipedeti. Proof. Dati due sottisiemi A, B di IR, gli eveti { f X A } = { X f 1 A } e { g Y B } = { Y g 1 B } soo evidetemete idipedeti. Il risultato della Proposizioe si estede al caso di più variabili i questo modo: fuzioi di variabili aleatorie idipedeti che o coivolgao la stessa variabile soo acora idipedeti. Per capirci meglio, se X, Y, Z soo idipedeti, ache fx, Y e gz soo idipedeti, ma o lo soo fx, Y e gy, Z. La prova di questa affermazioe è ua cosegueza dell eguagliaza P X P Y P Z = P X P Y PZ che si può leggere el modo seguete: la coppia X, Y è idipedete dalla variabile Z. Le estesioi di queste affermazioi a più variabili soo evideti. È istruttivo dimostrare il seguete risultato: Proposizioe Dati eveti A 1,..., A, questi soo idipedeti se e solo se le loro fuzioi idicatrici I A1,..., I A soo idipedeti come variabili aleatorie.

33 34 CHAPTER 2. PROBABILITÀ DISCRETA Defiizioe Data ua famiglia qualsiasi di variabili aleatorie X i i I, queste si dicoo idipedeti se ogi sottofamiglia fiita X i1,..., X i è formata da variabili idipedeti. Abbiamo visto diseguagliaza di Schwartz che il prodotto di due v.a. di quadrato itegrabile è itegrabile, ma o è detto che il prodotto di due variabili itegrabili sia itegrabile cercare u cotroesempio!. Tuttavia co le variabili idipedeti si ha il seguete risultato: Teorema Siao X, Y due variabili idipedeti dotate di mometo primo: ache XY ammette mometo primo e vale la formula E [ XY ] = E [ X ] E [ Y ] Proof. Comiciamo a provare che XY è itegrabile: si ha ifatti E [ ] XY = x i y j px i, y j = x i y j p X x i p Y y j = x i,y j y j = x i p X x i y j p Y y j = E [ X ] E [ Y ] < + x i y j A questo puto, essedo verificata la covergeza assoluta delle serie, si possoo ripetere i passaggi sopra scritti seza i valori assoluti e si ottiee il risultato cercato. Ua cosegueza evidete è il risultato seguete: Corollario Due variabili idipedeti dotate di mometo secodo soo icorrelate Naturalmete o è vero il viceversa provare a costruire u esempio. Proposizioe Formula della covoluzioe discreta. Siao X, Y due v.a. idipedeti a valori iteri relativi e sia Z = X + Y : vale la formula x i p Z = P { Z = } = + h= p X hp Y h Proof. La dimostrazioe è ua cosegueza della relazioe { X + Y = } = + { X = h, Y = h } h=

34 2.6. LA FUNZIONE GENERATRICE DELLE PROBABILITÀ. 35 e del fatto che gli isiemi scritti a destra soo a due a due disgiuti. Si oti che se X, Y soo a valori iteri positivi, la formula diveta per positivo p Z = p X h p Y h h=0 Esercizio Provare che, se X B, p, Y Bm, p e soo idipedeti, allora X + Y B + m, p si oti che ci si può ridurre, per iduzioe, al caso i cui ua delle due variabili sia di Beroulli. Dedure, per ua variabile Biomiale X, le formule di E[X] e V arx. 2.6 La fuzioe geeratrice delle Probabilità. Premettiamo alcui richiami sulle serie di poteze: data ua successioi di umeri a 0, si chiama serie di poteze ad essa associata la serie + =0 a t. Il raggio di covergeza R verifica l equazioe R = 1 lim sup a co la covezioe 1 = + e 1 = 0. La serie di poteze coverge per 0 + t < R e o coverge per t > R ; ioltre se R > 0, posto ϕt = + =0 a t, si ha a = 1! ϕ 0 e di cosegueza due serie di poteze coicidoo se e solo se tutti i coefficieti a 0 soo eguali. I questo paragrafo cosideriamo solamete variabili aleatorie X, Y,... a valori iteri positivi. Defiizioe Data ua variabile aleatoria X a valori iteri positivi, si chiama fuzioe geeratrice delle probabilità la fuzioe G X. defiita da G X t = + =0 t p = E [ t X] Si oti che la fuzioe geeratrice è sicuramete defiita per t 1 ifatti il raggio di covergeza è sicuramete maggiore o eguale a 1, e si verifica direttamete che la serie coverge per t = 1. Proposizioe Valgoo le segueti proprietà: 1. G X t = G Y t X e Y soo equidistribuite;

35 36 CHAPTER 2. PROBABILITÀ DISCRETA 2. X e Y idipedeti = G X+Y t = G X t.g Y t. Proof. La prima proprietà è immediata. Per quato riguarda la seco da, si oti che ache le variabili t X e t Y soo idipedeti; si ha pertato ricordado il Teorema G X+Y t = E [ t X+Y ] = E [ t X t ] Y = E [ t X] E [ t ] Y = G X t.g Y t Il risultato seguete esprime ua relazioe tra i mometi di ua v.a. e le derivate della sua fuzioe geeratrice: Proposizioe Sia X ua v.a. segueti eguagliaze a valori iteri positivi: valgoo le 1. E [ X ] = lim t 1 G X t 2. E [ XX 1 ] = lim t 1 G X t Proof. Ricordiamo che ha seso scrivere E[X] [0, + ] ; sia poi 0 < t < 1. Vale l eguagliaza G X t = 1 p t 1. Facedo covergere t a 1 da siistra, questa serie coverge per covergeza mootoa: può essere vista come cosegueza del Teorema di Beppo Levi a 1 p = E[X]. La dimostrazioe della secoda eguagliaza si fa sostazialmete allo stesso modo, osservado prevetivamete che la v.a. XX 1 è acora a valori positivi. Riportiamo qua sotto ua tabella delle fuzioi geeratrici delle più usuali variabili aleatorie a valori iteri, che il lettore può facilmete verificare: X B, p = G X t = [ 1 + pt 1 ] ; X Geometrica di parametro p = G X t = tp 1 t1 p ; X di Poisso di parametro λ = G X t = e λt 1. Esercizio Calcolare valore atteso e variaza delle variabili sopra scritte co u calcolo diretto e utilizzado il risultato della Proposizioe Esercizio Provare che la somma di due variabili di Poisso idipedeti è acora ua variabile di Poisso specificado la relazioe esistete tra i parametri.

36 2.7. TEOREMI LIMITE Legge dei Gradi Numeri e teorema limite di De Moivre-Laplace. I questa sezioe ci occupiamo dei primi teoremi limite che riguardao ua successioe di variabili di Beroulli di parametro p 0 < p < 1: idichiamo co X 1, X,... ua successioe di variabili idipedeti co tale distribuzioe, e poiamo S = X X, che sappiamo avere distribuzioe Biomiale B, p. Teorema Legge dei gradi umeri per variabili Biomiali. Co le otazioi sopra idicate, per ogi ε > 0, vale il seguete limite { lim P S } p > ε = 0 [ ] S Proof. U semplice calcolo prova che E cosegueza per la diseguagliaza di Chebishev { S } S V ar P p > ε = ε 2 S = p, V ar p1 p ε 2 = p1 p e di Osservazioe La dimostrazioe sopra riportata è molto semplice, e si estede quasi seza modifiche a situazioi più geerali: ad esempio si può supporre che le variabili X 1, X 2,... siao idipedeti, equidistribuite, dotate di mometo secodo e co variaza σ 2 strettamete positiva: se si poe E [ X i ] = m, la stessa dimostrazioe prova che { lim P S } m > ε = 0 Notiamo acora che le ipotesi si possoo idebolire ulteriormete: o è ecessario che siao idipedeti equidistribuite, è sufficiete che abbiao tutte eguale valore atteso m ed eguale variaza, e che siao icorrelate. Il risultato è all origie di diversi teoremi che vao sotto il ome di leggi dei gradi umeri, e che sarao affrotati i corsi più avazati. Ua famiglia o ecessariamete ua successioe X i di variabili aleatorie idipedeti ed equidistribuite verrà d ora iazi idicata co i I l abbreviazioe largamete usata i.i.d. Idepedet Idetically Distributed. Diamo ua defiizioe più precisa per il tipo di covergeza euciato el teorema

37 38 CHAPTER 2. PROBABILITÀ DISCRETA Defiizioe Covergeza i Probabilità. Data ua successioe di v.a. X ed ua v.a. X, si dice che la successioe coverge i probabilità verso X se, per ogi ε > 0 1 { X lim P X } ε = 0 Questo tipo di covergeza verrà ripreso i u capitolo successivo, ma u esame più dettagliato sarà oggetto di u corso di Probabilità più avazato. Come abbiamo visto dalla dimostrazioe, la velocità di covergeza a zero della probabilità di deviazioe cioè della probabilità P { S p } > ε ella legge dei gradi umeri come è euciata ell Osservazioe è dell ordie di 1 ; tuttavia el caso delle Variabili Biomiali si può provare che tale velocità di covergeza è espoeziale. Teorema Nelle ipotesi del Teorema 2.7.1, dato ε > 0, esiste ua costate positiva Hp, ε tale che si abbia { S } P p > ε 2 exp Hp, ε Proof. Poiamo Ls = E [ exps X 1 ] = 1 p + p e s, e di cosegueza E [ exps S ] = Ls ; scegliamo poi a co p < a < 1. Valgoo le segueti diseguagliaze: { S } { P > a = P exp s S } a > 1 [ E exp s S a] = L s e as qualuque sia s positivo. Prededo t = s, e ell ultimo termie della precedete disequazioe l estremo iferiore sui valori possibili si ha { S } [ P > a ] exp sup at log Lt t>0 La fuzioe t at log 1 p + pe t è cocava, diverge a per t +, ed ha derivata i 0 strettamete positiva: ha pertato u valore massimo fiito e strettamete positivo per 0 < t < +. Preso ε > 0 co p + ε < 1, e deotado hp, ε il massimo della fuzioe sopra idicata dove si è posto a = p + ε, si ottiee { S } P > p + ε exp hp, ε

38 2.7. TEOREMI LIMITE 39 Co passaggi aaloghi, si ottiee { S } P < p ε exp hp, ε Poedo Hp, ε = mi hp, ε, hp, ε, poichè P { S p } > ε = P { S p > ε } { S + P p < ε }, si ottiee fialmete il risultato voluto. Il teorema di De Moivre-Laplace che viee ora euciato, è u caso particolare limitato al caso delle variabili di Beroulli del Teorema del Limite Cetrale: versioi più geerali di questo teorema sarao oggetto di corsi più avazati. Di uovo X 1, X 2,... è ua successioe di variabili idipedeti di Beroulli di parametro p co 0 < p < 1, deotiamo q = 1 p e S = X X. Teorema Limite Cetrale per Variabili Biomiali. Presi due umeri a, b co a < b +, si ha { lim P a S p pq } b = 1 b 2π a e x2 2 dx Prima di affrotare la dimostrazioe elemetare ma piuttosto tecica vediamo alcue cosegueze di questo risultato. Comiciamo ad osservare che la primitiva della fuzioe e x2 2 o si può scrivere i termie di fuzioi elemetari, e quidi l itegrale su u itervallo o si può calcolare esattamete: si può però calcolare l itegrale su tutta la retta grazie a u trucco geiale. L idea brillate che segue è solitamete attribuita a Gauss, i realtà è stata itrodotta da Laplace proprio ella sua geeralizzazioe di u precedete risultato di De Moivre, metre Gauss ha estesivamete utilizzato la fuzioe che segue ella teoria degli errori vedremo qualche ceo ell ultimo capitolo. + Notiamo che vale l eguagliaza e x dx = e x 2 +y 2 IR 2 2 dx dy ; passado a coordiate polari, questo itegrale doppio diveta 2π dθ + e ρ 2 2 ρ dρ = 2π. 0 0 Gli itegrali della fuzioe e x2 2 su u itervallo qualsiasi o possoo veire calcolati esplicitamete ma solo approssimati umericamete; per veire icotro a questa difficoltà soo state compilate delle tavole statistiche della fuzioe Φx = 1 2π x e t2 2 dt per x positivo. Vediamo ora u esempio di applicazioe del teorema

39 40 CHAPTER 2. PROBABILITÀ DISCRETA Esempio Sia X B400 ; 0,05 : vogliamo calcolare P { X > 30 }. Il coto esplicito o è fattibile, tuttavia essedo 400 grade i coti che X 20 riguardao la variabile 400 0,05 0,95 si possoo approssimare co la formula risultate dal teorema Si ha pertato P { X > 30 } { X } = P > = 400 0,05 0, ,05 0,95 { X 20 } 1 P 2, ,05 0,95 Questo umero si può approssimare co 1 Φ2,29 = 1 0,989 = 0,011. Prima di affrotare la dimostrazioe del Teorema 2.7.5, stabiliamo alcui risultati. Lemma Formula di Stirlig. Esiste ua costate positiva c tale che per ogi itero si abbia! = c expθ = c e expθ e 1 dove θ La dimostrazioe di questo come del successivo lemma, etrambe elemetari ma piuttosto teciche, sarao riportate i Appedice. Co le otazioi del Teorema 2.7.5, chiamiamo Z e sia I l isieme dei valori della variabile Z : otiamo che I è formato da puti che distao pq uo dall altro, e che il miimo ed il massimo di questi puti covergoo quado + rispettivamete a ed a +. Lemma Presi < a < b < +, il umero max c pq P { Z = x } exp x2 x I [a,b] 2 = S p pq dove c è la stessa costate della formula di Stirlig, coverge a 0 se tede a +. Teedo coto del fatto che il miimo della fuzioe exp x2 2 sull itervallo [a, b ] è strettamete positivo, si può riscrivere l euciato del lemma ella forma seguete, che sarà più comoda per la successiva dimostrazioe: Fissati < a < b < + e dato ε > 0, esiste = ε, a, b tale che, per ed x I [a, b ] si abbia: P { Z = x } = c 1 exp x2 1 + αx co αx < ε. pq 2 Siamo ora i grado di affrotare la dimostrazioe del Teorema

40 2.7. TEOREMI LIMITE 41 Proof. Fissiamo < a < b < + il caso a = oppure b = + si riporta a questo co piccole modifiche e, dato ε > 0, scegliamo = ε, a, b come sopra. Si ha: P { a Z b } = x I [a,b] P { Z = x } = c 1 pq x I [a,b] exp x2 1+αx 2 La somma c 1 pq x I [a,b] exp x2 2 è u approssimazioe dell itegrale di Riema c 1 b exp x2 a 2 dx e pertato coverge per proprio a c 1 b exp x2 a 2 dx. Viceversa la somma c 1 pq x I [a,b] exp x2 αx 2 è, per, iferiore a Kε, co K costate positiva idipedete da, e pertato coverge a 0. L ultimo passo è provare che c = 2π. Partiamo dall osservazioe che ogi variabile Z ha valore atteso 0 e variaza 1 : di cosegueza, per la diseguagliaza di Chebishev, { } P a Z a = 1 P { } Z > a 1 1 a 2 è arbitrariamete vicio a 1 per a sufficietemete grade, e al limite, ache c 1 a exp x2 dx è arbitrariamete vicio a 1. a 2 Ricordado che + exp x2 dx = 2π, si ottiee l eguagliaza cercata. 2 Osservazioe Il Teorema mostra quale è la velocità di covergeza di S a p : dall eguagliaza S p pq = pq S p segue che tale velocità è dell ordie di 1. Questa velocità, purtroppo piuttosto leta, è la tipica velocità di covergeza dei teoremi limite della Statistica.

41 42 CHAPTER 2. PROBABILITÀ DISCRETA 2.8 Appedice Alcue dimostrazioi Quella che segue è la dimostrazioe della Formula di Stirlig Lemma Proof. Partedo dalla diseguagliaza k k 1 logx dx < logk < k+1 si ottiee, per ogi itero strettamete positivo, e, calcolado gli itegrali, 0 logx dx < log! < k +1 1 logx dx logx dx log < log! < + 1 log + 1 Cosideriamo allora la differeza d = log! + 1 log + : otiamo 2 che d d +1 = + 1 log ; ioltre + 1 = Ricordiamo acora che vale lo sviluppo i serie covergete per t < 1: Si ottiee pertato t 2 log 1 t d d +1 = = t + t3 3 + t Da quest ultima eguagliaza ricordado ache la somma di ua serie di poteze si ottiee: < d d +1 < U coto facile ma laborioso prova che = <

42 2.8. APPENDICE 43 e da qui si ottegoo le diseguagliaze: d 1 12 < d < d +1 Quidi la successioe d 1 12 è decrescete, e poedo c = lim d si ottiee c < d è crescete rispettivamete d < d < c e, chiamato c = expc, si hao fialmete le diseguagliaze: c exp + <! < c exp Segue la dimostrazioe del Lemma Proof. Sia x I [a, b ] : P { Z = x } = P { S = k }, essedo k = p + x pq. Poiamo poi j = k = q x pq. Ricordado che S B, p ed utilizzado la formula di Stirlig, si ottiee c pq P { Z = x } = pq kj p k k q j exp θ θ j θ k j Si osserva facilmete che, poichè a x b, j e k covergoo a + uiformemete rispetto a x I quado tede a + ; quidi poiché θ θ j θ k il termie exp θ 2 2j 2k θ j θ k coverge uiformemete a 1. Ache il termie pq kj = 2 pq p + x pq q x pq coverge a 1, uiformemete rispetto a x I. Proviamo ora che log p k k x 2 q + x pq + 2 coverge uiformemete a 0 ; allo stesso modo si prova che log q j j x 2 p x pq + 2

43 44 CHAPTER 2. PROBABILITÀ DISCRETA coverge uiformemete a 0, e questo completa la dimostrazioe. Esamiiamo duque il termie k log p = p + x pq log 1 x pq k p + x ; pq utilizzado lo sviluppo di Taylor log1 + t = t t2 2 + ot3, si ottiee che questo termie è eguale a x pq x 2 pq 2 p + x pq + p + x pq o 3 2 e questo è proprio il risultato cercato Alcui esercizi sigificativi Esercizio Sul gioco del lotto. Quado viee putata ua somma sul realizzarsi di u eveto di probabilità p, se il gioco è equo el caso che questo eveto si realizzi la somma dovrebbe essere restituita moltiplicata per p 1 ; i particolare el gioco del lotto se si puta su u umero secco la probabilità che questo vega estratto è = 1 18 e quidi il moltiplicatore teorico dovrebbe essere 18: ivece il moltiplicatore effettivamete praticato è 11,2. Acora più vistose soo le discrepaze se si cosiderao ambi, tere, quatere ecc.. Qui bisoga distiguere tra ambi otteuti putado due umeri oppure u isieme di umeri maggiore di due per ogi estrazioe, è possibile putare fio a 10 umeri: limitiamoci per semplicità al caso di ambo otteuto putado due umeri, tera otteuta putado tre umeri, ecc.. Per l ambo il moltiplicatore teorico equo è 400,5 e quello effettivamete praticato 250, per la tera il valore teorico trascuro i decimali e quello praticato ; per la quatera rispettivamete e e ifie per la ciquia e Tra l altro sulla somma evetualmete vita viee praticato u prelievo fiscale forfettario del 6 %: e segue che ogi persoa che abbia u miimo di coosceza di calcolo delle probabilità o dovrebbe assolutamete giocare al lotto.

44 2.8. APPENDICE 45 Tuttavia alcue persoe ritegoo di poter aggirare la situazioe evidetemete sfavorevole co sistemi di putate che cosetao di vicere a colpo sicuro, ma vediamo che cosa succede: suppoiamo per semplicità che il moltiplicatore effettuato putado su u umero secco sia 11 e cosideriamo il caso di ua persoa che voglia assolutamete vicere 100 Euro al lotto, putado su u umero poiamo il 53 sulla ruota di Veezia. La prima volta puterà 10 Euro: se vice e icassa 110 di cui 10 risarciscoo la somma putata e 100 soo la vittoria etta el caso i cui il umero vega estratto. Se il umero o viee estratto, e puta 11 all estrazioe successiva: dei 110 Euro di guadago etto, 10 risarciscoo i soldi spesi ella prima putata e 100 costituiscoo il guadago effettivo, e così di seguito. Il ragioameto alla base di questo sistema è evidete: prima o poi il umero 53 uscirà ed a quel mometo si avrà la vittoria etta di 100 Euro. Tuttavia il giocatore ha pur sempre u capitale limitato e potrebbe adare i bacarotta prima di aver otteuto la vicita che desiderava. 1 Determiare quale deve essere, al passo -mo, il valore s della putata da effettuare per poter avere ua vittoria etta di 100 Euro recuperado le somme spese elle putate precedeti. 2 Suppoiamo che il giocatore abbia u capitale iiziale di 200 Euro: qual è la probabilità che il giocatore debba fermarsi per isufficieza di fodi seza aver otteuto la sua vittoria? 3 Suppoiamo che il giocatore o abbia limitazioi di fodi, e idichiamo co X la variabile aleatoria che idica quale somma i totale il giocatore ha dovuto impiegare fio al mometo el quale riesce a vicere: qual è il valore atteso E[X]? Esercizio I poliomi di Berstei. Cosideriamo, per 0 x 1 ua v.a. X x biomiale di parametri ed x; sia poi f ua fuzioe cotiua defiita sull itervallo [0, 1] e defiiamo [ X x ] B x = E f Provare che, per ogi, B x è u poliomio di grado, chiamato poliomio di Berstei e che la successioe B 1 coverge uiformemete alla fuzioe f. Questo procedimeto probabilistico forisce limitatamete al caso degli itervalli di IR ua dimostrazioe alterativa di u importate teorema di Weierstrass. Esercizio Il paradosso di Borel. Ogi eveto, per quato la sua probabilità sia piccola, prima o poi si realizza verificare questa affermazioe utilizzado la variabile Geometrica e quidi, come si usa dire co liguaggio

45 46 CHAPTER 2. PROBABILITÀ DISCRETA colorito, la scimmia che batte a caso sui tasti di ua macchia da scrivere prima o poi scrive la Divia Commedia: questa affermazioe va sotto il ome di paradosso di Borel, ache se i realtà o è affatto paradossale. Tuttavia il tempo ecessario per otteere questo può essere talmete lugo da redere di fatto impossibile l eveto. Esamiiamo ua versioe semplificata: ua scimmia di ome Lucilla batte a caso 7 caratteri sui tasti di ua macchia da scrivere che ha solo 26 tasti corrispodeti alle lettere, al ritmo di u carattere al secodo. Qual è il valore atteso del tempo ecessario per riuscire a scrivere il suo ome? I realtà bisogerebbe esamiare ua situazioe u poco più geerale, cioè che dopo aver battuto a caso u certo umero di caratteri -o ecessariamete multiplo di 7- vegao scritte ell ordie giusto le lettere lucilla; questa situazioe è u poco più complicata da esamiare e ci accotetiamo della versioe semplificata. Ua curiosità divertete: per riuscire a scrivere, battedo a caso sui tasti, il solo primo versetto della Divia Commedia, il valore atteso del tempo ecessario è di miliardi di volte superiore all età dell Uiverso! 2.9 Esercizi Esercizio Cosideriamo la misura m defiita sull isieme dei aturali strettamete positivi tale che mk = k 1 e cosideriamo, per ogi, la fuzioe f defiita da: { k 1 se k f k = 0 se k < 1 Le fuzioi f soo itegrabili rispetto a m? 2 Covergoo ad u limite f, e questo limite è itegrabile? 3 Si può passare al limite sotto il sego d itegrale? Esercizio Da ua moeta truccata se e può otteere ua equilibrata el modo seguete. Si lacia due volte, se esce TC si decide che è uscita testa, se esce CT si decide per croce e se i due risultati soo eguali si riprova altre due volte e di seguito fio ad otteere due risultati diversi. a Provare che la moeta otteuta i questo modo è effettivamete equilibrata. b Quati laci i media è ecessario effettuare per arrivare al risultato? Esercizio Provare che, se X è ua variabile Biomiale di parametri e λ ed X ua variabile di Poisso di parametro λ, per ogi itero positivo k si ha

46 2.9. ESERCIZI 47 lim P{ X = k } = P { X = k } Esercizio Siao X e Y due variabili aleatorie geometriche di parametro p, idipedeti: calcolare PX = Y e PX < Y. Esercizio Siao X e Y due variabili di Poisso di parametri rispettivamete λ e µ, idipedeti. a Determiare la distribuzioe di probabilità di S = X + Y. b Determiare la distribuzioe codizioata di X sapedo che S =. Esercizio Siao X ed Y due variabili idipedeti, equidistribuite, che predoo i valori 1 e -1 co probabilità p e 1 p 0 < p < 1, sia poi U = XY. Provare che X e U soo idipedeti se e solo se p = 1 2. Esercizio Il umero di clieti che si presetao i u gioro i u grade magazzio è rappresetato da ua v.a. X co distribuzioe di Poisso di parametro λ; ioltre ogi cliete, idipedetemete dagli altri, ha probabilità p di essere derubato. Idichiamo co Y la v.a. che idica il umero di clieti che soo stati derubati. 1 Calcolare la distribuzioe di probabilità della v.a. Y Suggerimeto: osservare che {Y = } = + k= {Y =, X = k} 2 Calcolare la distribuzioe di probabilità della v.a. Z = X Y umero di clieti o derubati. 3 Le v.a. X e Y soo idipedeti? Le v.a. Y e Z soo idipedeti? Esercizio Tra tutte le variabili aleatorie discrete che predoo solo i valori 1, 2 e 3 e che hao valore atteso E[X] = 2, trovare quelle che hao variaza rispettivamete massima e miima. Esercizio La variabile multiomiale. Cosideriamo u esperimeto che ha k possibili esiti, ciascuo co probablità p i p i > 0, p p k = 1: di esso si fao prove i codizioi di idipedeza ed idichiamo, per ogi i, co X i la variabile che idica quate volte si è realizzato l esito i. Si chiama variabile multiomiale di parametri ; p 1,..., p k la variabile vettoriale X = X 1,..., X k. Determiare la distribuzioe di probabilità della variabile X e specificare se le compoeti X i soo idipedeti. Notiamo che, se X è biomiale di parametri, p, la coppia X,-X è multiomiale di parametri ; p, 1 p.

47 48 CHAPTER 2. PROBABILITÀ DISCRETA

48 Chapter 3 Ifereza statistica su uo spazio di Probabilità umerabile 3.1 Due parole sulla statistica descrittiva Si parla di statistica descrittiva quado vegoo aalizzati i dati di ua idagie statistica seza l iterpretazioe di u modello probabilistico. Possiamo rappresetare u idagie statistica come ua applicazioe X da u isieme fiito { 1, 2,..., } su u isieme C. Se C è u isieme di cardialità piccola si parla di idagie su u carattere qualitativo ad esempio u sodaggio sull orietameto politico, metre se C = IR o più geeralmete IR d si parla di idagie su u carattere quatitativo o su più caratteri quatitativi. Limitiamoci all idagie su u carattere quatitativo: l idagie X corrispode a ua -pla di umeri { } x 1,..., x. Assegati questi umeri si chiama media empirica la quatità x = x x x i x 2 e variaza empirica la quatità : si può i=1 osservare che questi possoo essere iterpretati come la speraza ed la variaza di ua v.a. X che prede i valori x 1,..., x co distribuzioe uiforme cioè ciascuo co probabilità 1/. Se ivece abbiamo u idagie su due caratteri quatitativi X, Y si chiama covariaza empirica la quatità i=1 x i xy i y 49

49 50 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE ed i modo aalogo si può defiire il coefficiete di correlazioe empirico, la retta di regressioe, ecc... No isistiamo ulteriormete su queste defiizioi perché siamo iteressati all ifereza statistica: si parla di ifereza statistica quado si usao i risultati di ua idagie statistica per ricostruire u modello probabilistico che descriva opportuamete il feomeo osservato. 3.2 Modelli statistici Itroduciamo le idee fodametali dell Ifereza Statistica co u esempio, che d ora iazi chiameremo Cotrollo di qualità: è probabilmete il più semplice che si possa immagiare, ma sufficiete per presetare le idee fodametali. Vogliamo cotrollare la percetuale scoosciuta di pezzi difettosi i u isieme ad esempio u grosso acquisto di certi compoeti elettroici dall estero, isieme che i statistica è usualmete deomiato popolazioe: per fare questo o potedo verificare tutti i pezzi, per macaza di tempo o altri motivi estraiamo u campioe di pezzi che vegoo verificati. I risultati di questa verifica sarao variabili aleatorie X 1,..., X idipedeti, co legge di Beroulli di parametro θ, 0 < θ < 1 la variabile X i prede il valore 1 se l i-esimo pezzo risulta difettoso, altrimeti prede il valore 0: possiamo formalizzare la situazioe i questo modo. Cosideriamo sullo spazio Ω = {0, 1} muito della σ-algebra di tutte le parti la famiglia di probabilità P θ, θ 0, 1, defiite da P θ k 1,..., k = θ k 1+ +k k1 + +k 1 θ ; defiiamo poi Xi k 1,..., k = k i cioè X i è la proiezioe coordiata di idice i. È immediato verificare che, se si cosidera su Ω la probabilità P θ, più avati diremo sbrigativamete sotto P θ le variabili X i risultao idipedeti, co legge di Beroulli di parametro θ. Possiamo comiciare a dare qualche defiizioe: Defiizioe Modello statistico. Si chiama modello statistico ua tera Ω, F, P θ, θ Θ dove Ω è u isieme, F ua σ-algebra di parti di Ω e, per ogi θ Θ, P θ è ua probabilità su Ω, F. Supporremo sempre che a due parametri diversi θ 1 e θ 2 corrispodao due probabilità diverse come si usa dire, il modello è idetificabile. I u modello statistico si chiama trascurabile u eveto A F trascurabile per ogi probabilità P θ.

50 3.2. MODELLI STATISTICI 51 La defiizioe è geerale, ma i questo capitolo suppoiamo che lo spazio Ω sia umerabile e, se o ci soo ragioi per fare diversamete, diamo per sottiteso che F è la σ-algebra di tutte le parti di Ω. Defiizioe Verosimigliaza. Assegato u modello statistico Ω, F, P θ, θ Θ co Ω umerabile, si chiama verosimigliaza la fuzioe L : Θ Ω IR + defiita da Lθ, ω = P θ {ω} Naturalmete la verosimigliaza idetifica la probabilità, poiché per ogi eveto A vale la formula P θ A = ω i A Lθ, ω i; la fuzioe L deve verificare la codizioe ω i Ω Lθ, ω i = 1. La otazioe L.,. deriva dall iglese Likelihood e, el caso discreto, i realtà L è a valori i [0, 1]; tuttavia ei casi che esamieremo più avati sarà geeralmete a valori i IR +. Scopo dell ifereza statistica è partire dall esperieza l osservazioe del campioe per risalire a iformazioi sulla legge di probabilità che meglio si adatta a descrivere il modello, e per otteere questo i metodi dell ifereza statistica soo essezialmete tre: la stima statistica gli itervalli di fiducia i test statistici Le defiizioi precise verrao date ei prossimi paragrafi; cerchiamo ora di itrodurre questi cocetti a livello ituitivo, sempre riferedoci all esempio del cotrollo di qualità. Idichiamo co Xω = X 1ω+ +X ω la media aritmetica o meglio media empirica delle variabili X i percetuale di pezzi difettosi riscotrati ell idagie statistica, ed è importate ribadire che si tratta di ua variabile aleatoria, cioè il risultato di questa idagie statistica dipede dal caso. No avedo per il mometo risultati teorici più precisi, sembra opportuo cosiderare proprio Xω come stima del parametro θ. Quato all itervallo di fiducia, appare evidete che ua maggiore ampiezza del campioe permettere di rafforzare l affidabilità dell iformazioe: per spiegarci meglio, 2 pezzi difettosi su 10 oppure 200 su 1000 portao alla stessa stima i etrambi i casi θ viee stimato 0,2, ma è evidete che il secodo risultato è molto più rassicurate. Come si può misurare questa sicurezza?

51 52 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE È iteressate osservare che ella vita pratica si icotrao più volte gli itervalli di fiducia, seza redersee coto, ad esempio quado vegoo trasmesse le proiezioi sui risultati delle elezioi. Le prime proiezioi dao per il partito x ua percetuale t co u oscillazioe ad esempio di 2 puti percetuali i più o i meo, dopo due ore la percetuale è cambiata magari di poco ma l oscillazioe è stata ridotta a 0,5 puti, e così via... Effettuare u test statistico sigifica ivece formulare u ipotesi e piaificare u esperieza per decidere se accettare o rifiutare l ipotesi: ad esempio el caso del cotrollo di qualità l ipotesi potrebbe essere la ditta foritrice garatisce che la percetuale di pezzi difettosi o supera il 5% cioè θ 0, 05. È evidete che l ipotesi viee accettata se si osserva Xω = 0, 036 e rifiutata se Xω = 0, 09, ma che fare se Xω = 0, 049 oppure 0,052? A tutti questi problemi verrà data risposta ei paragrafi successivi. Diamo ora ua uova defiizioe: Defiizioe Campioe. Sia m θ, θ Θ ua famiglia parametrizzata di leggi di probabilità discrete tutte cocetrate su u sottoisieme umerabile C di IR: si chiama campioe di taglia e legge m θ ua famiglia X 1,..., X di variabili aleatorie idipedeti ciascua co legge m θ. Notiamo che questa defiizioe è ua geeralizzazioe dell esempio del cotrollo di qualità: i questo caso X 1,..., X è u campioe di legge di Beroulli di parametro θ, 0 < θ < 1. Nella maggior parte dei casi C sarà ad esempio l isieme degli iteri positivi o strettamete positivi, oppure iteri relativi... Il modo caoico per rappresetare come modello statistico u campioe di legge m θ, θ Θ è il seguete: sia C l isieme su cui soo cocetrate le probabilità m θ, e poiamo per θ Θ e x i C, pθ, x i = m θ {x i }. Poiamo poi Ω = C, F = PΩ e scegliamo come verosimigliaza Lθ ; x 1,..., x = pθ, x 1 pθ, x ricordiamo che assegare ua verosimigliaza equivale ad assegare le probabilità P θ, θ Θ. Cosideriamo come X i la proiezioe caoica di idice i da Ω su C: come abbiamo visto el capitolo precedete, le variabili X 1,..., X soo effettivamete idipedeti e ciascua co legge m θ se si cosidera su Ω la probabilità P θ. 3.3 Teoria della Stima Defiizioe Stima. Assegato u modello statistico Ω, F, P θ, θ Θ, si chiama stima ua variabile aleatoria U : Ω IR.

52 3.3. TEORIA DELLA STIMA 53 I geere ua stima è accoppiata ad ua fuzioe g : Θ IR e lo scopo di U è apputo valutare gθ. No si stima ecessariamete direttamete θ per due motivi: o è detto che θ sia u umero e i ogi caso talvolta è più agevole stimare ua fuzioe del parametro. Defiizioe Stima corretta. Assegata ua fuzioe g : Θ IR, la stima U di gθ è detta corretta se, per ogi θ, U è P θ -itegrabile e si ha E θ[ U ] = gθ. Il termie aglosassoe per stima corretta è ubiased, talvolta tradotto o distorta. Esempio I u campioe di taglia e legge Geometrica di parametro θ 0 < θ < 1, X = X 1+ +X è ua stima corretta di θ 1. La defiizioe che viee ora presetata offre u criterio asitotico di botà di ua stima. Defiizioe Stima cosistete. Sia m θ, θ Θ ua famiglia di leggi di probabilità discrete su IR e cosideriamo, per ogi, u campioe X 1,..., X di legge m θ ; sia poi U = h X 1,..., X ua stima di gθ basata sulle osservazioi del campioe -simo. Si dice che la successioe di stime U è cosistete se, scelti comuque θ Θ ed ε > 0, si ha 1 lim Pθ{ U gθ } > ε = 0 Commetiamo la defiizioe appea data: la successioe di stime è cosistete se, qualuque sia la probabilità P θ, U coverge i probabilità a gθ. La difficoltà che si poe però è poter costruire u modello statistico che cotega u campioe ifiito, cioè ua estesioe a ua successioe di variabili aleatorie della costruzioe esposta alla fie della sezioe precedete. Questo si può effettivamete fare, ma richiede risultati di teoria della misura più avazati di quelli esposti i questo corso: co gli strumeti di cui dispoiamo, però, si può costruire per ogi u modello statistico Ω, F, P θ, θ Θ relativo al campioe di taglia. La defiizioe dovrebbe allora essere data el modo seguete: scelti comuque θ Θ ed ε > 0, si ha lim Pθ { U gθ > ε } = 0 Il metodo più usuale per idetificare stime cosisteti cosiste ell utilizzare la legge dei gradi umeri, come si può verificare facilmete ell esempio seguete:

53 54 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE Esempio I u campioe ifiito di leggi di Poisso di parametro θ, 0 < θ <, la successioe delle medie empiriche X = X 1+ +X è ua stima cosistete di θ. Diamo u altra defiizioe: Defiizioe Stima di massima verosimigliaza. Sia assegato u modello statistico Ω, F, P θ, θ Θ tale che Θ IR : si dice che U è ua stima di massima verosimigliaza se, per ogi ω Ω, si ha L Uω, ω = sup L θ, ω θ Θ Di cosegueza il sup sopra scritto è i realtà u massimo. I verità o è ecessario che l eguagliaza sopra scritta sia verificata esattamete per ogi ω Ω, ma è sufficiete che sia soddisfatta al di fuori di u isieme trascurabile si usa dire per quasi ogi ω Ω. Usualmete la stima di massima verosimigliaza, se esiste, viee idicata θω. Le stime di massima verosimigliaza soo facili da trovare, ioltre questo forisce u criterio costruttivo per trovare ua stima; viceversa è più difficile spiegare se e i quale seso ua tale stima è ua buoa stima. I u caso particolare si ha però il risultato seguete, che viee euciato limitatamete al caso di variabili aleatorie a valori iteri positivi. Teorema Sia m θ, θ Θ ua famiglia di leggi di probabilità cocetrate sugli iteri positivi, e suppoiamo che Θ sia u itervallo di IR e che, poedo pθ, k = m θ {k}, questa si possa scrivere ella forma pθ, k = cθ exp θ T k gk dove T : IN IR. Cosideriamo u campioe ifiito X 1, X 2,... di legge m θ e suppoiamo che esista, per ogi, la stima di massima verosimigliaza θ relativa al campioe di taglia : allora la successioe di stime θ 1 è cosistete. I modelli ei quali la fuzioe di probabilità ha la forma data dal Teorema soo detti modelli espoeziali e verrao ripresi el successivo Capitolo 5. A volte come si vedrà ache egli esempi successivi aziché l espressioe exp θ T k compare u espressioe della forma exp dθ T k dove l applicazioe θ dθ è iiettiva: è sufficiete aturalmete cosiderare come uovo parametro θ = dθ per riportarsi alla situazioe sopra euciata. No riportiamo la dimostrazioe del Teorema 3.3.7, che è del tutto simile a quella dell aalogo risultato per modelli co desità che verrà esposta più avati per essere più precisi, etrambe le dimostrazioi soo riduzioi a casi

54 3.4. STIME E RIASSUNTI ESAUSTIVI 55 particolari di u risultato più geerale che i questo primo corso o abbiamo gli strumeti per dimostrare. Limitiamoci ad osservare che la codizioe del Teorema è soddisfatta i molti esempi: el caso delle leggi di Poisso si ha ad esempio pθ, k = e θ θ k k! 1 = e θ exp k logθ k! 1 è sufficiete cosiderare come parametro logθ aziché θ. Nel caso delle leggi geometriche si ha pθ, k = θ exp k 1 log1 θ. Esempio Cosideriamo il caso di u campioe X 1,..., X di taglia e legge Geometrica di parametro θ: sullo spazio Ω = IN la verosimigliaza è data da L θ ; k 1,..., k = 1 θ k1 + +k θ U facile calcolo prova che il massimo di questa fuzioe al variare di θ si ottiee el puto k k, e questo idetifica la stima di massima verosimigliaza. Ricordado che X 1,..., X soo le proiezioi coordiate, possiamo scrivere θ k1,..., k = k k oppure, idifferetemete, θ = X X metre o è corretto scrivere θ = k 1 + +k i quest ultimo caso, ifatti, avrei a siistra ua variabile aleatoria, cioè ua fuzioe, ed a destra u umero. Cosiderado u campioe ifiito, il Teorema afferma che la successioe di stime θ 1 è cosistete. 3.4 Stime e riassuti esaustivi Defiizioe Rischio. Sia U ua stima della fuzioe gθ: si chiama Rischio quadratico il umero R θ, U = E θ[ U gθ 2] Notiamo che ha seso parlare di rischio ache se, per qualche θ, U o ha mometo secodo: i tal caso il rischio è eguale a +. Tuttavia, el seguito di questo paragrafo, suppoiamo tacitamete che tutte le stime cosiderate abbiao mometo secodo qualuque sia la probabilità P θ.

55 56 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE Osserviamo acora che, se U è corretta, R θ, U = V ar θ U. La defiizioe di rischio itroduce u criterio di ordiameto parziale tra le stime, più precisamete diremo che U è preferibile a V se, per ogi θ, Rθ, U Rθ, V ; U è strettamete preferibile a V se è preferibile e, per almeo u parametro θ, Rθ, U < Rθ, V ; U è ammissibile se o esistoo stime strettamete preferibili a U; U è ottimale se è preferibile a ogi altra stima. Naturalmete due stime o soo ecessariamete cofrotabili. La ozioe di rischio è strettamete legata alla ozioe di riassuto esaustivo; prima di defiire quest ultima toriamo all esempio del cotrollo di qualità. Negli esempi che abbiamo visto, o avevao importaza i sigoli risultati delle varie prove, ma solo il umero totale di pezzi difettosi: tratteere questo uico dato costituisce evidetemete u otevole risparmio di iformazioe. La defiizioe che segue ha proprio lo scopo di formalizzare questa idea di risparmio di iformazioe. Defiizioe Riassuto esaustivo. Sia T : Ω E ua variabile aleatoria: si dice che T è u riassuto esaustivo se si può scrivere la verosimigliaza ella forma L θ, ω = hθ, T ω kω Quasi sempre T è a valori reali o più geeralmete i uo spazio euclideo IR k. Accato alla termiologia di riassuto esaustivo, si usa ache quella di statistica esaustiva o statistica sufficiete. Apparetemete la defiizioe o ha ulla a che vedere co l idea origiale di risparmio di iformazioe; tutto sarà più chiaro dopo il risultato che segue. Teorema Sia T u riassuto esaustivo, U ua stima di gθ e suppoiamo che U sia di quadrato itegrabile per ogi probablità P θ. Esiste ua stima V della forma V ω = f T ω preferibile a U, ioltre V è strettamete preferibile a meo che U o sia già ella forma f T. Ifie, se U è corretta, ache V è corretta.

56 3.4. STIME E RIASSUNTI ESAUSTIVI 57 Prima di affrotare la dimostrazioe, commetiamo il risultato: se T è u riassuto esaustivo, le buoe stime i particolare le stime ammissibili soo fuzioe di T ω e quidi T ω cotiee tutte le iformazioi rilevati. Vediamo ora la dimostrazioe del Teorema che è piuttosto luga, ma i realtà del tutto elemetare. Proof. Comiciamo ad osservare che l immagie dell applicazioe T : Ω E è u isieme umerabile { t 1, t 2,... } e coseguetemete esiste ua partizioe umerabile A 1, A 2,... di Ω, essedo A i = { } T = t i. È facile redersi coto che ua v.a. V si può scrivere ella forma V = f T se e solo se è costate su ogi isieme A i. Assegata duque U, costruiamo V el modo seguete: V è costate su ogi isieme A i dove prede il valore 1 U dp θ = P θ A i A i = ω j A i Uω j h θ, T ω j kω j ω j A i h θ, T ω j kω j ω j A i Uω j kω j ω j A i kω j dove l ultima eguagliaza è dovuta al fatto che h θ, T ω è costate su ogi 1 isieme A i. Pertato il umero P θ A i A i U dp θ o dipede da θ. Sorge ua difficoltà, ella defiizioe precedete, se P θ A i = 0. Se A i è trascurabile per ogi probabilità P θ lo possiamo apputo trascurare, se ivece è trascurabile solo per qualche valore del parametro θ, per defiizioe poiamo 1 P θ A i A i U dp θ eguale al valore costate che si ottiee co i parametri θ per i quali A i o è P θ -trascurabile. Comiciamo a verificare che, per ogi θ, si ha E θ [V ] = E θ [U] e di cosegueza, se U è corretta, lo è pure V. Ifatti E θ [U] = U dp θ = U dp θ = P θ A A i i U dp θ i A i P θ A i i = A U dp θ i P θ A i Ora il umero sull isieme A i, quidi che o dipede da θ è eguale al valore di V A i U dp θ P θ A i = A i V dp θ P θ A i : ripetedo i passaggi precedeti el verso opposto si ritrova quidi E θ [V ], si ha cioè l eguagliaza voluta.

57 58 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE Proviamo ora che si ha E θ[ V gθ 2] [ E θ U gθ 2] e osserviamo che ci si può ridurre al caso i cui gθ = 0. Poichè E θ[ V 2] = i A i V 2 dp θ, è sufficiete provare che, su ogi isieme A i, si ha V 2 dp θ U 2 dp θ A i A i e, poichè sull isieme A i la variabile aleatoria V assume costatemete il 1 valore P θ A i A i U dp θ, questo equivale a provare che si ha 2 U dp θ P θ A i U 2 dp θ A i A i L ultima disuguagliaza è ua cosegueza della disuguagliaza di Schwartz: ifatti U dp θ = 1.U dp θ A i A i A i 1 dp θ A i U 2 dp θ = P θ A i A i U 2 dp θ Ricordiamo che la disuguagliaza di Schwartz è i realtà ua eguagliaza se le due fuzioi 1 e U soo proporzioali sull isieme A i, cioè se U è costate sull isieme A i : di cosegueza si ha, per ogi θ, l eguagliaza E θ[ V gθ 2] = E θ [ U gθ 2] se e solo se U è costate su ogi isieme A i, cioè se si può scrivere ella forma f T. Osservazioe La dimostrazioe precedete potrebbe essere fatta i ua maiera molto più rapida, a patto di possedere qualche ulteriore ozioe di misura e itegrazioe: essezialmete il fatto che lo spazio delle variabili aleatorie U tali che U 2 dp θ < + è uo spazio di Hilbert H muito del prodotto scalare U, V = UV dp θ e il sottospazio V delle v.a. costati su oguo degli isiemi A i è u sottospazio chiuso. La costruzioe che abbiamo 1 fatto di ua variabile V che sull isieme A i coicide co P θ A i A i U dp θ equivale alla costruzioe della proiezioe ortogoale di U sul sottospazio V. 3.5 Itervalli di fiducia Suppoiamo assegato u modello statistico, ed u umero α co 0 < α < 1; usualmete α è u umero vicio a 0, ed i valori tipici soo 0,1 ; 0,05 e 0,01.

58 3.5. INTERVALLI DI FIDUCIA 59 Defiizioe Regioe di Fiducia. Sia assegato, per ogi ω Ω, u sottoisieme dei parametri Cω Θ: si dice che Cω è ua regioe di fiducia per il parametro θ al livello 1 α se, qualuque sia θ, si ha P θ{ ω θ Cω } 1 α o ciò che è lo stesso P θ{ ω θ / Cω } α. Se Θ IR e Cω è u itervallo, si parla di itervallo di fiducia. Alcui testi usao il termie itervallo di cofideza, ma è ua cattiva traduzioe dall iglese: ifatti la parola cofidece vuole dire apputo fiducia e o cofideza. Naturalmete si ha iteresse a idividuare ua regioe di fiducia più piccola possibile, a patto che sia soddisfatta la codizioe sul livello. No esistoo veri risultati teorici per quato riguarda le regioi di fiducia, esiste però u legame tra itervalli di fiducia e test statistici che esamieremo el paragrafo successivo; vediamo piuttosto alcui esempi cocreti. Esempio [Itervallo di fiducia per il cotrollo di qualità] Cosideriamo u campioe X 1,..., X di legge di Beroulli di parametro θ e vogliamo idividuare u itervallo di fiducia per il parametro θ: partiamo dal fatto che X = X 1+ +X è ua stima corretta di θ e che V ar θ X = θ1 θ. Ci aspettiamo u itervallo di fiducia per θ itoro alla sua stima, più precisamete della forma I = [ Xω d, Xω + d ] co d da determiare. Per determiare d ricordiamo che abbiamo iteresse che sia più piccolo possibile partiamo dal fatto che si ha { θ / [ X d, X + d ]} { X } = θ > d Dalla diseguagliaza di Chebishev di ottiee la maggiorazioe P θ{ } X θ > d θ1 θ ; abbiamo bisogo di ua maggiorazioe idipedete da θ e poichè max 0<θ<1 θ1 θ = 1, si ottiee Pθ{ } d 2 4 X θ > d α poedo d = 1 4α, e di cosegueza P θ { 1 4α X θ + 1 4α } 1 α Si ottiee l itervallo di fiducia [ Xω 1 4α, Xω+ 1 4α ], o come si scrive più siteticamete Xω ± 1 4α. L itervallo di fiducia che abbiamo determiato sopra i realtà o è molto buoo cioè o è molto stretto perché è basato sulla diseguagliaza

59 60 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE di Chebishev, che i geere fa perdere qualcosa rispetto ai calcoli precisi; tuttavia quado è grade i calcoli esatti sulla variabile B, θ o soo praticabili. I questo caso però si può utilizzare il teorema Limite Cetrale di De Moivre-Laplace. Esempio Itervallo di fiducia approssimato mediate il teorema di De Moivre-Laplace. Siamo ella stessa situazioe dell esercizio precedete, ma questa volta utilizziamo il fatto che P θ { X1 + + X θ θ1 θ } x { = P θ X θ } x Φx θ1 θ Il ostro scopo è trovare u umero d tale che valga la maggiorazioe { P θ X θ } > d α. θ1 θ Itroduciamo ua otazioe: dato 0 < β < 1, chiamiamo q β il umero tale che Φq β = β. Naturalmete questo umero o può essere calcolato esattamete, ma si può ricavare usado le tavole della fuzioe Φ.. Duque P θ{ X θ } > q 1 α 2 α : co passaggi aaloghi a quelli θ1 θ fatti sopra, si ottiee l itervallo di fiducia Xω ± q 1 α 2 2. È iteressate otare quato l itervallo così otteuto si è ristretto rispetto 1 al precedete: teedo fisso, sopra c era u termie dell ordie di α o dimetichiamo che α è u umero piccolo, metre ora compare il umero q 1 α che è di solito vicio a 3. 2 Se oi cosideriamo ad esempio α = 0,01, dalle tavole si ricava il valore approssimato q 0,995 = 2,58; gli itervalli di fiducia soo col primo metodo Xω ± 5 e el secodo caso Xω ± 1,29. Osservazioe Il metodo della quatità pivot. Si parla di metodo della quatità pivot quado si idividua ua fuzioe di ua v.a. X e del parametro θ che sia ivertibile rispetto al parametro θ ; tale che la sua legge di probabilità o dipeda dal parametro θ. Nei due esempi precedeti o abbiamo i realtà idividuato ua quatità pivot ma qualcosa di meo: ell esempio la variabile X θ o ha legge idipedete da θ ma ha media 0 idipedetemete dal parametro ed ua variaza che abbiamo potuto maggiorare uiformemete rispetto al parametro. Useremo veramete il metodo della quatità pivot ell ultimo capitolo.

60 3.6. TEORIA DEI TEST STATISTICI Teoria dei test statistici Il primo passo da compiere, di frote a u test statistico, è formulare u ipotesi: questo si ottiee effettuado ua partizioe dell isieme Θ dei parametri i due sottisiemi o vuoti Θ 0 e Θ 1 corrispodeti rispettivamete ai parametri dell ipotesi e a quelli della sua egazioe, detta alterativa. Toriamo all esempio del cotrollo di qualità, e cosideriamo l ipotesi la percetuale di pezzi difettosi o supera il 5% : i questo caso l isieme dei parametri è Θ = ] 0, 1 [, si ha Θ 0 = ] 0, 0,05 ] e Θ 1 = ] 0,05, 1 [. L ipotesi e l alterativa soo idicate rispettivamete H 0 e H1 e si usa dire, ad esempio el caso precedete: - cosideriamo u test dell ipotesi H 0 θ 0, 05 cotro l alterativa H 1 θ > 0, 05. Osserviamo che i liea di pricipio idicare l alterativa è superfluo, i quato Θ 1 è idividuato dal fatto di essere il complemetare di Θ 0 ; tuttavia ei fatti spesso è più chiaro idicare sia l ipotesi che l alterativa. Il secodo passo è piaificare u esperimeto, cioè stabilire ua regola che, secodo il risultato dell esperieza ω, permetta di decidere se accettare o rifiutare l ipotesi. Questo equivale a scegliere u eveto D F che cosiste ell isieme dei risultati ω che portao a rifiutare l ipotesi: tale isieme D viee chiamato regioe di rifiuto o più frequetemete regioe critica. Per capirci meglio, ell esempio precedete, l ituizioe ci porta a rifiutare l ipotesi se la percetuale di pezzi difettosi supera u certo umero a da determiare secodo regole che vedremo: la regioe critica sarà pertato i questo caso D = { ω Ω } Xω > a e diremo più sbrigativamete il test di regioe critica D = { X > a }. Defiizioe Livello e poteza. Si chiama taglia di u test di regioe critica D il umero sup θ Θ 0 P θ D Si dice che il test è di livello α se la sua taglia è miore o eguale ad α. Si chiama poteza del test la fuzioe π D : Θ 1 [0, 1] defiita da θ P θ D. Diremo che il test di regioe critica D è più potete del test di regioe critica D se, per ogi θ Θ 1, si ha P θ D P θ D. Scegliere u livello equivale a porre u cofie superiore alle probabilità dell errore di prima specie cioè ai umeri P θ D per θ Θ 0 ; ituitivamete

61 62 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE ifatti errore di prima specie sigifica rifiutare l ipotesi quado è vera. Ivece la poteza è i u certo seso la capacità di accorgersi che l ipotesi è falsa ed errore di secoda specie è accettare l ipotesi quado è falsa. Usualmete si procede i questo modo: si fissa u livello α i valori tipici soo 0,1 ; 0,05 oppure 0,01 che fissi u limite superiore per l errore di prima specie, e tra i test di livello α si cerca di otteere la massima poteza possibile cioè ua regioe critica più grade possibile. Quado Θ 0 è ridotto a u solo puto cioè Θ 0 = {θ 0 } si dice che l ipotesi è semplice; perfettamete aaloga aturalmete è la defiizioe di alterativa semplice. Come vediamo qua sotto, la ricerca della regioe critica di u test a ipotesi semplice può essere ricodotta alla ricerca delle regioi di fiducia, e viceversa. Osservazioe Legame tra test e regioi di fiducia. Suppoiamo di aver trovato, per ogi ω Ω, ua regioe di fiducia Cω al livello 1 α e cosideriamo il test dell ipotesi H 0 θ = θ0 cotro l alterativa H 1 θ θ0. Rifiutiamo { l ipotesi se θ 0 / Cω, cosideriamo cioè come regioe critica D = ω θ0 / Cω } : dalla defiizioe di regioe critica segue che P θ 0 D α, cioè abbiamo otteuto u test di livello α. Quato è stato fatto si può cosiderare el seso iverso: cioè se per ogi θ abbiamo la regioe critica D θ di livello α del test dell ipotesi H 0 θ = θ, poedo Cω = { θ Θ } ω / Dθ, otteiamo ua regioe di fiducia al livello 1 α. Esempio Dato u campioe X 1,..., X co legge di Beroulli, piaifichiamo il test dell ipotesi semplice H 0 θ = θ0 cotro H 1 θ θ0 al livello α. Osservado che l itervallo di fiducia si può equivaletemete scrivere ella forma Cω = { θ } d Xω θ d, si ottiee la regioe critica della forma D = { ω } Xω θ0 > d, co u opportuo umero d da calcolare questa forma della regioe critica del resto si accorda co quello che suggerisce l ituizioe. Per otteere la regioe critica più grade possibile, scegliamo il miimo d per il quale valga la maggiorazioe P θ 0 { X θ 0 > d } α Utilizzado la diseguagliaza di Chebishev, si ottiee omettiamo i facili coti, sostazialmete idetici a quelli svolti el paragrafo precedete per d θ il valore 0 1 θ 0. α

62 3.6. TEORIA DEI TEST STATISTICI 63 U valore più piccolo per il umero d si può otteere utilizzado l approssimazioe suggerita dal Teorema di De Moivre-Laplace, cioè P { } { θ 0 X θ0 > d = P θ 0 X θ0 θ0 1 θ 0 > d } θ0 1 θ Φ Si ottiee i questo modo il valore d = q 1 α 2 d θ0 1 θ 0 θ 0 1 θ 0. Nella stessa situazioe del campioe co legge di Beroulli, cerchiamo di esamiare il test H θ θ 0 cotro l alterativa H θ > θ 0 : facciamoci prima guidare dall ituizioe e poi arriveremo a dei risultati più precisi. Ci aspettiamo ua regioe critica della forma { X d } co u opportuo umero d da calcolare i fuzioe del livello scelto, ma sorgoo delle difficoltà: cerchiamo il più piccolo umero d tale che valga la diseguagliaza seguete sup P θ{ X d } α θ θ 0 dove α è il livello scelto cerchiamo il valore d più piccolo per avere la regioe critica più grade possibile. Ci aspettiamo che la fuzioe θ P θ{ X d } sia crescete e questo semplificherebbe i coti ma il calcolo diretto o è immediato: ci vegoo però i aiuto dei risultati geerali che ora espoiamo. Lemma Lemma di Neyma-Pearso. Suppoiamo assegato u modello statistico el quale l isieme Θ dei parametri è ridotto a due puti Θ = { θ 0, θ 1 } e sia dato il test dell ipotesi H0 θ = θ0 cotro H 1 θ = θ1. Cosideriamo l isieme D così defiito D = { ω Ω Lθ0, ω c Lθ 1, ω } dove c è ua costate positiva. Allora 1. D è la regioe critica di u test più potete di ogi altro test di livello P θ 0 D ; 2. vale la diseguagliaza P θ 1 D P θ 0 D. Proof. Cosideriamo ua geerica fuzioe ϕ : Ω [0, 1] e otiamo che per ogi ω Ω vale la diseguagliaza I D ω ϕω Lθ 0, ω c Lθ 1, ω 0

63 64 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE Ifatti, se ω D, I D ω ϕω 0 e Lθ 0, ω c Lθ 1, ω 0 e duque il prodotto è egativo; aaloga è la verifica se ω / D. Sommado su tutti i puti ω Ω ricordiamo che siamo sempre su uo spazio Ω umerabile, si ottiee P θ 0 D ϕω dp θ 0 ω c P θ 1 D ϕω dp θ 1 ω A questo puto, se D è la regioe critica di u altro test, prededo come fuzioe ϕ = I D, si ottiee P θ 0 D P θ 0 D c P θ 1 D P θ 1 D Se duque D ha livello P θ 0 D cioè se P θ 0 D P θ 0 D, e segue che vale ache la diseguagliaza P θ 1 D P θ 1 D cioè D è più potete di D. Cosiderado poi come fuzioe ϕ la costate P θ 0 D, si ottiee P θ 1 D P θ 0 D 0, cioè il puto 2. Il lemma di Neyma-Pearso permette di idetificare co precisioe i buoi test el caso i realtà poco sigificativo di u modello statistico el quale i parametri siao solo due: il suo vero iteresse cosiste el fatto che si può estedere a casi più geerali, i cosiddetti test uilateri. Quado l isieme dei parametri Θ è u itervallo di IR itervallo i seso lato, cioè ache ua semiretta o tutta la retta si parla di test uilatero se l ipotesi è della forma H 0 θ θ0 o della forma H 0 θ θ0. Premettiamo ua defiizioe. Defiizioe Rapporto di verosimigliaza crescete. Suppoiamo assegato u modello statistico el quale l isieme dei parametri Θ è u itervallo di IR e sia T ua variabile aleatoria reale defiita su Ω: si dice che il modello è a rapporto di verosimigliaza crescete rispetto a T se, scelti comuque θ 1 < θ 2, esiste ua fuzioe reale strettamete crescete a valori positivi f θ1,θ 2 tale che valga l eguagliaza Lθ 2, ω Lθ 1, ω = f θ 1,θ 2 T ω Naturalmete quella defiizioe ha seso se le verosimigliaze soo sempre strettamete positive o al più se si aullao tutte sul medesimo sottisieme di Ω. Teorema Test uilatero. Suppoiamo che il modello sia a rapporto di verosimigliaza crescete rispetto a T e cosideriamo il test uilatero H 0 θ θ0 cotro l alterativa H 1 θ > θ0 ; cosideriamo poi l isieme D = { ω } T ω d dove d è u opportuo umero. Il test di regioe critica D è tale che:

64 3.6. TEORIA DEI TEST STATISTICI vale l eguagliaza sup θ θ0 P θ D = P θ 0 D ; 2. D è più potete di qualsiasi altro test D co livello P θ 0 D. Proof. Chiamiamo c = f θ1,θ 2 d quidi c è u umero positivo: valgoo le segueti implicazioi T ω d f θ1,θ 2 T ω c Lθ2, ω c Lθ 1, ω e da qui si ottiee Lθ 1, ω 1 c Lθ 2, ω. A questo puto si può applicare il Lemma e si trova come cosegueza del puto 2 P θ 2 D P θ 1 D : poiché questo vale per ogi scelta di θ 1 < θ 2, e segue che la fuzioe θ P θ D è crescete e pertato si ottiee la prova del puto 1 tra l altro questo semplifica otevolmete il calcolo della taglia del test, che risulta eguale a P θ 0 D. Suppoiamo ioltre che D abbia livello P θ 0 D, cioè che si abbia sup θ θ0 P θ D P θ 0 D : prededo u parametro θ > θ0 si ha P θ D P θ D si applica di uovo il Lemma 3.6.4, cosiderado θ al posto di θ 1. Poichè questo vale per ogi θ >θ 0, e segue che D è più potete di D. Osservazioe Naturalmete se l ipotesi è della forma H 0 θ θ0 oppure se il modello è a rapporto di verosimigliaza decrescete rispetto a T si ribalta la regioe critica, più precisamete si sceglie della forma D = { T d }. Esempio Test uilatero per il cotrollo di qualità. Riprediamo l esempio che abbiamo iterrotto prima dell euciato del Lemma di Neyma-Pearso test uilatero su u campioe di Beroulli: sullo spazio Ω = { 0, 1 }, il rapporto delle verosimigliaze è dato da Lθ 2 ; k 1,..., k Lθ 1 ; k 1,..., k = θ2 θ 1 k1+ +k 1 θ 2 1 θ 1 k1+ +k e si verifica facilmete che è a rapporto di verosimigliaza crescete rispetto a X. Si ha così ua prova di quello che l ituizioe aveva suggerito, cioè che per il test uilatero H 0 θ θ0 le buoe regioi critiche siao della forma { X d }. I fuzioe del livello α scelto, d deve essere il più piccolo umero tale che P θ 0{ X d } α questo per avere la regioe critica più grade possibile: acora ua volta viee i aiuto l approssimazioe offerta dal Teorema di De Moivre-Laplace purchè la umerosità sia abbastaza grade. Si ha così P { θ 0 X d } { = P θ 0 X θ 0 θ0 1 θ 0 d θ } 0 θ0 1 θ 0

65 66 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE d θ 0 1 Φ = α θ0 1 θ 0 Si prede allora d θ 0 θ0 1 θ 0 = q 1 α si oti che q 1 α è u umero positivo perché α è tipicamete piccolo, iferiore a 1. 2 Si ottiee pertato il valore d = θ 0 + q 1 α θ0 1 θ Esercizi Esercizio Cosideriamo u campioe X 1,..., X di variabili di Poisso di parametro θ, θ > 0 : che cosa si può dire circa u itervallo di fiducia per θ ed u test dell ipotesi H 0 θ θ0 cotro l alterativa H 1 θ > θ0? Esercizio Si vuole verificare co quale frequeza si preseta tra i eoati ua certa malformazioe, più precisamete si vuole verificare l ipotesi H 0 θ 0, 02, essedo θ la probabilità scoosciuta co la quale si preseta questa malformazioe: per fare questo si cotrollao delle cartelle cliiche di eoati fio a quado se e trova ua ella quale compare questa malformazioe. Piaificare u test per decidere al livello 0,1, sulla base del umero di cartelle che è stato ecessario verificare, se l ipotesi può essere accettata. U procedimeto più preciso si otterrebbe cotiuado a verificare cartelle fio a quado o se e trovao 10 coteeti questa malformazioe: esamiare se i calcoli soo agevoli i questo caso. Esercizio Sia X 1,..., X u campioe di taglia e legge geometrica di parametro θ 0 < θ < 1. Determiare u riassuto esaustivo. Esiste ua stima di massima verosimigliaza, ua stima cosistete? Esercizio Cosideriamo come isieme dei parametri gli iteri strettamete positivi k 1 e sia m k la distribuzioe di probabilità uiforme su { 1,..., k } IN. Sia dato u campioe di taglia e legge m k : cosiderare le stesse domade dell esercizio precedete. Esercizio Si cosideri, per θ > 1, la distribuzioe di probabilità m θ sugli iteri strettamete positivi IN = { 1, 2,... } tale che m θ k = ζθ 1 k θ, essedo ζs = + =1 1 s

66 3.7. ESERCIZI 67 Dato u campioe di taglia e legge m θ, cosiderare le stesse domade degli esercizi precedeti. Osservazioe: la fuzioe ζ sopra defiita è la celebre fuzioe zeta di Riema, molto importate i teoria dei umeri. Questa fuzioe è stata studiata approfoditamete, ma di essa o si può dare u espressioe esplicita i termii di fuzioi elemetari.

67 68 CHAPTER 3. STATISTICA SU UNO SPAZIO NUMERABILE

68 Chapter 4 Probabilità e variabili aleatorie su uo spazio geerale 4.1 Costruzioe di ua Probabilità Comiciamo co ua defiizioe: Defiizioe Sia A ua famiglia di parti di u isieme E: si chiama σ-algebra geerata da A la più piccola σ-algebra coteete A: essa coicide co l itersezioe di tutte le σ-algebre coteeti A. Notiamo che tale isieme o è vuoto, perché esiste almeo PE cioè la famiglia di tutti i sottisiemi di E che cotiee A. È bee ioltre ribadire che o esiste u metodo costruttivo per caratterizzare la σ-algebra geerata da A. Proposizioe I boreliai. Sulla retta reale IR coicidoo le σ- algebre geerate, ad esempio, da queste famiglie di isiemi: 1. le semirette del tipo ], x], al variare di x IR ; 2. gli itervalli semiaperti ]a, b] oppure [a, b[, co < a < b < + ; 3. gli aperti di IR ; 4. i chiusi di IR. La σ-algebra da essi geerata è chiamata σ-algebra di Borel su IR e idicata BIR ed i relativi elemeti soo detti boreliai. 69

69 70 CHAPTER 4. PROBABILITÀ GENERALE Proof. Chiamiamo ad esempio B 1 la σ-algebra geerata dalle semirette e B 2 quella geerata dagli itervalli. Poiché ]a, b] = ], b]\], a] è u elemeto di B 1, e segue che B 2 B 1. Viceversa, poiché ], x] = 1 ]x, x], segue che le semirette soo elemeti di B 2 e di cosegueza B 1 B 2 : si ha quidi l eguagliaza B 1 = B 2. Le altre eguagliaze si dimostrao i maiera del tutto simile e comuque molto semplice. Sulla retta, se o sarà diversamete specificato, si cosidera la σ-algebra di Borel. Aaloga è la defiizioe della σ-algebra B IR dei boreliai di IR che è geerata, ad esempio, dalle segueti famiglie di isiemi: 1. gli aperti di IR ; 2. i prodotti cartesiai A 1... A, dove ogi A i è u boreliao di IR ; 3. i prodotti cartesiai della forma ], x 1 ]... ], x ]. Diamo per scotato che il lettore sia a coosceza della teoria della misura e dell itegrazioe secodo Lebesgue, e chiamiamo L la famiglia delle parti di IR misurabili secodo Lebesgue: L è ua σ-algebra e cotiee gli itervalli, e di cosegueza si ha l iclusioe BIR LIR. I realtà l iclusioe è stretta ma la dimostrazioe di questo fatto o è affatto immediata. Questo può essere visto i diversi modi e forse il più aturale è passare attraverso la cardialità: si prova ifatti che la famiglia dei Boreliai ha la stessa cardialità di IR risultato tutt altro che elemetare, metre si può costruire u isieme C trascurabile secodo Lebesgue che ha la stessa cardialità di IR l esempio più oto è l isieme di Cator. Ogi sottisieme di C è trascurabile e pertato misurabile secodo Lebesgue e di cosegueza la famiglia L ha cardialità strettamete superiore a quella dei boreliai. Sarao fodametali per quato segue i due segueti risultati: Teorema Uicità di Probabilità. Siao P e Q due probabilità defiite su ua σ-algebra F di parti di u isieme E e suppoiamo che P e Q coicidao su ua famiglia I di parti tale che: 1 I geera F ; 2 I è stabile per l itersezioe fiita. Allora P e Q coicidoo su tutto F. Teorema Esisteza di Probabilità. Sia A u algebra di parti di u isieme E e sia P : A [0, 1] ua fuzioe σ-additiva tale che PE = 1: P si proluga i u sol modo alla σ-algebra F geerata da A.

70 4.1. COSTRUZIONE DI UNA PROBABILITÀ 71 È bee precisare che cosa sigifica affermare che ua fuzioe P è σ additiva su u algebra A di parti: vuol dire che se A =1,2,... è ua successioe di elemeti di A a due a due disgiuti e se ache + =1 A è u elemeto di A, allora P + =1 A = + =1 PA La dimostrazioe dei due teoremi precedeti è lasciata a u corso più avazato, ma è opportuo qualche commeto. Il primo risultato o è vero per misure i geerale se la misura di tutto lo spazio è ifiita: provare ad esempio a costruire u cotroesempio di due misure su BIR che coicidoo su ogi semiretta ], x] ma o coicidoo. Il secodo risultato, viceversa, è vero per misure qualsiasi e osserviamo che, el caso delle probabilità, l uicità del prolugameto è cosegueza del Teorema Applichiamo ora i due teoremi appea euciati alla costruzioe delle probabilità su IR. Defiizioe Fuzioe di ripartizioe. Sia P ua probabilità defiita su IR, BIR : si chiama fuzioe di ripartizioe la fuzioe F : IR [0, 1] defiita da F x = P ], x]. Proposizioe La fuzioe di ripartizioe sopra defiita gode delle segueti proprietà: 1. è crescete; 2. è cotiua a destra; 3. F + = lim x + F x = 1 e F = lim x F x = 0. Proof. È evidete che F è crescete i geere o strettamete crescete. Delle proprietà successive proviamo ad esempio la cotiuità a destra: dato x, poiché F è mootoa, è sufficiete cosiderare ua successioe x 1 covergete ad x da destra ad esempio x = x+ 1. A questo puto, usado le stesse otazioi del Capitolo 1, ], x ] ], x] = F x = P ], x ] P ], x] = F x Le altre proprietà si dimostrao i maiera praticamete idetica. Co facili passaggi si prova che F b F a = P ]a, b], che F x = lim y<x,y x F y = P ], x[ e che F x = F x F x = P {x}. Ma quello che è veramete importate è il risultato seguete, che è i u certo seso l iverso della Proposizioe

71 72 CHAPTER 4. PROBABILITÀ GENERALE Teorema Esisteza di ua Probabilità su BIR. Assegata ua fuzioe F : IR [0, 1] co le proprietà 1, 2 e 3 della Proposizioe 4.1.6, esiste ua ed ua sola probabilità P su BIR tale che, per ogi x IR, si abbia F x = P ], x]. Proof. L uicità di questa probabilità P è cosegueza del Teorema la famiglia delle semirette è stabile per itersezioe e geera BIR : proviamo ora l esisteza. Chiamiamo A la famiglia dei pluriitervalli: più precisamete u elemeto A di A è della forma A = ]x 1, y 1 ]... ]x k, y k ] co x 1 < y 1 <... < x k < y k + e, per A di quella forma, defiiamo PA = k [ F yi F x i ] i=1 È piuttosto oioso ma elemetare provare che A è u algebra di parti di IR che geera BIR e che P è ua fuzioe semplicemete additiva defiita su A : otiamo tra l altro che u elemeto A A si può scrivere i modi diversi come uioe fiita e disgiuta di itervalli ma il umero PA che e risulta o dipede dalla particolare rappresetazioe scelta. Il prolugameto di P a tutto BIR è ua cosegueza del Teorema a patto di provare che P è σ-additiva su A. È più comodo a questo scopo provare la proprietà seguete: se A A, A = PA 0 Partiamo dal fatto seguete: dato A A ed ε > 0, esiste B A co B compatto e B A B è la chiusura di B tale che P A\B < ε. L esisteza di u tale B è più facile da capire che da scrivere formalmete: comuque per oguo dei k itervalli ]x i, y i ] che compogoo A, si cosidera u itervallo a chiusura compatta ]z i, w i ] tale che P ]x i, y i ]\]z i, w i ] < ε e poi si prede k l uioe di questi itervalli. Se x i, y i soo etrambi fiiti, si prederà ]x i + δ, y i ] co u opportuo δ sufficietemete piccolo, se il primo estremo è e l altro fiito, si prederà ] M, y i ] co M reale sufficietemete grade e così via... le proprietà della fuzioe F permettoo questa costruzioe. Cosideriamo allora la successioe A, ε > 0 e, per ogi, u elemeto B A co le proprietà sopra idicate e coteuto i A e tale che P A \ B < ε. 2

72 4.1. COSTRUZIONE DI UNA PROBABILITÀ 73 Si ha 1 B = e, siccome questi isiemi soo compatti, e esiste ua sottofamiglia fiita co itersezioe vuota: scegliamo duque tale che B 1... B =. Si ha A = A c B 1... B = A Bj c Aj \ B j j=1,..., j=1,..., Ne segue che si ha PA < ε e, poichè questo è vero per ogi ε, si ha lim PA = 0. Vediamo i tipi più usuali di probabilità su IR e le corrispodeti proprietà delle relative fuzioi di ripartizioe. Esempio Probabilità discrete. Abbiamo già icotrato le probabilità discrete dette ache atomiche su BIR: P è cocetrata sulla successioe di puti x 1, x 2,... e, per ogi A BIR, vale l eguagliaza PA = x i A px i essedo px i = P {x i }. I particolare la fuzioe di ripartizioe soddisfa l eguagliaza F x = x i x px i : disegado i particolare la fuzioe di ripartizioe delle leggi Biomiale, o di Poisso, o altre, si ota che ha u tipico adameto a gradii. Ma o tutte le fuzioi di ripartizioe delle probabilità discrete soo fatte così come mostra l esempio che ora segue. Esercizio Sia Q l isieme dei razioali e cosideriamo ua umerazioe di Q = {q 1, q 2,...} ; sia poi P cocetrata su Q tale che pq = P {q } = 2 ed F la relativa fuzioe di ripartizioe. Provare che F è strettamete crescete. Esempio Misura secodo Lebesgue. La misura secodo Lebesgue o è limitata e quidi o può essere costruita come cosegueza del Teorema Tuttavia si può costruire la misura di Lebesgue λ sui sottisiemi boreliai di [0, 1] cosiderado la fuzioe di ripartizioe così defiita: F x = 0 per x < 0 x per 0 x 1 1 per x > 1 I modo aalogo la si può costruire su ogi itervallo di IR di lughezza 1; si poe poi, per A BIR, λa = + = λ A ], + 1]. Esempio Probabilità diffusa. Abbiamo visto che ogi puto è trascurabile per la probabilità P associata alla fuzioe di ripartizioe F se e solo se F è cotiua: questo è ua cosegueza della formula P {x} = F x. Le probabilità che godoo di questa proprietà soo dette diffuse. Provare che i tal caso la fuzioe di ripartizioe F è ache uiformemete cotiua.

73 74 CHAPTER 4. PROBABILITÀ GENERALE I verità le probabilità diffuse o hao particolari proprietà: soo molto più importati e maeggevoli le probabilità defiite da ua desità, che verrao però itrodotte el successivo paragrafo. 4.2 Costruzioe dell itegrale Defiizioe Spazio e applicazioe misurabile. Si chiama spazio misurabile ua coppia E, E dove E è u isieme e E ua σ-algebra di parti di E. Dati due spazi misurabili E, E e F, F, ua applicazioe f : E F è detta misurabile se, per ogi A F, f 1 A E. Proposizioe Co le otazioi della defiizioe precedete, se A è ua famiglia di parti di F che geera la σ-algebra F, affiché ua fuzioe f : E F sia misurabile, è sufficiete che, per ogi A A, f 1 A E. Proof. La dimostrazioe è molto semplice: se oi chiamiamo B la famiglia dei sottisiemi B F tali che f 1 B E, è ua facile verifica provare che B è ua σ-algebra. Poichè B cotiee A, cotiee ache la σ-algebra geerata cioè F. Se o è specificato diversamete, dato uo spazio misurabile E, E, ua fuzioe f : E IR è detta misurabile se è misurabile cosiderado su IR la σ-algebra BIR. Grazie al risultato 4.2.2, affiché f sia misurabile è sufficiete ad esempio che, x IR, { f x } = f 1 ], x] o, equivaletemete, a < b, { a < f b } = f 1 ]a, b] sia u elemeto di E. Ua fuzioe misurabile da IR, BIR su IR, BIR è detta boreliaa. Defiizioe Fuzioe semplice. Dato uo spazio misurable E, E, si chiama semplice ua fuzioe misurabile ϕ : E IR che prede u umero fiito di valori cioè la cui immagie è u isieme fiito. Chiamati a 1,..., a i puti dell immagie della fuzioe semplice ϕ e detti A i = {ϕ = a i }, è evidete che la fuzioe può essere scritta ella forma ϕ = a i I Ai i=1 cioè ϕ è ua combiazioe lieare di idicatrici di isiemi misurabili, viceversa ogi combiazioe lieare di idicatrici di isiemi misurabili o ecessariamete disgiuti è evidetemete ua fuzioe semplice. L espressioe di ua fuzioe semplice i tale forma o è uica, tuttavia date due fuzioi

74 4.2. COSTRUZIONE DELL INTEGRALE 75 semplici ϕ e ψ è facile vedere che esistoo A 1,..., A disgiuti i modo tale che si possa scrivere ϕ = a i I Ai ; ψ = i=1 b i I Ai, cioè ϕ e ψ si possoo scrivere come combiazioe lieare delle fuzioi idicatrici degli stessi isiemi misurabili. Ua cosegueza immediata di questa osservazioe è che l isieme delle fuzioi semplici è uo spazio vettoriale ed u reticolo l ultima dizioe sigifica che, se φ, ψ soo fuzioi semplici, ache ϕ ψ = maxϕ, ψ e ϕ ψ = miϕ, ψ soo fuzioi semplici. Soppoiamo ora assegato uo spazio misurabile E, E sul quale è defiita ua misura di probabilità m. Defiizioe Itegrale delle fuzioi semplici. Sia ϕ ua fuzioe semplice della forma ϕ = i=1 a i I Ai : defiiamo itegrale di ϕ il umero ϕx dmx = a i ma i E Se o c è ambiguità, si può scrivere più semplicemete ϕ dm : è ua verifica oiosa ma o difficile provare che questo umero o dipede dalla particolare rappresetazioe di ϕ che si è scelta, metre è facile provare che si ha i=1 aϕ + ψ dm = a ϕ dm + ψ dm ; se ϕ ψ, allora ϕ dm ψ dm. Proposizioe Proprietà di Beppo Levi per fuzioi semplici. Sia ϕ 1 ua successioe di fuzioi semplici e suppoiamo che ϕ ϕ e che ϕ sia acora ua fuzioe semplice: allora ϕ dm ϕ dm Ache la dimostrazioe di questo risultato è lasciata a u corso più avazato, tuttavia è iteressate osservare che se ϕ = I A dove A 1 è ua successioe crescete di isiemi, si ha che I A I A essedo A = 1 A : la proprietà di Beppo Levi equivale alla cotiuità della probabilità, più precisamete I A dm = m A m A = I A dm i=1

75 76 CHAPTER 4. PROBABILITÀ GENERALE Allo scopo di estedere la defiizioe di itegrale, sarà fodametale il risultato seguete: Teorema Approssimazioe co fuzioi semplici. Sia f ua fuzioe misurabile a valori positivi: esiste ua successioe di fuzioi semplici ϕ 1 tale che ϕ f Proof. Ua possibile successioe approssimate può essere defiita i questo modo: 2 1 h ϕ = I {f } + 2 I{ } h 2 f< h+1 2 h=0 È piuttosto oioso ma per iete difficile verificare che, qualuque sia x, ϕ x ϕ +1 x e che lim ϕ x = fx. La fuzioe f può ache predere il valore + i qualche puto x; i boreliai su IR = [, + ] e le fuzioi misurabili a valori i IR si defiiscoo i maiera idetica a quato si è fatto per la retta reale IR. Osservazioe Sulla defiizioe di fuzioe misurabile. Solitamete i aalisi si chiama misurabile ua fuzioe f : IR IR tale che, per ogi A BIR, f 1 A L sia cioè misurabile secodo Lebesgue: si cosiderao quidi due differeti σ-algebre su IR come spazio di parteza e come spazio di arrivo. La ragioe di questa apparete icogrueza va ricercata proprio el Teorema 4.2.6: vedremo subito che quel risultato di approssimazioe è fodametale ella defiizioe di itegrale, e per poter fare quella costruzioe è ecessario che gli isiemi {a f < b} siao misurabili e questo equivale a dire che l immagie iversa di ogi Boreliao è misurabile. Viceversa si ha iteresse a disporre, sull isieme su cui è defiita la fuzioe, della famiglia di isiemi misurabili più grade possibile la σ-algebra L, quado si cosidera la misura di Lebesgue. Ua cosegueza di questa defiizioe è, ad esempio, che composizioe di due fuzioi misurabili o è ecessariamete misurabile, però se f : IR IR è misurabile e g : IR IR è boreliaa, allora g f è misurabile. Ioltre, data ua successioe f 1 di fuzioi misurabili a valori reali, la fuzioe sup f è misurabile: si ha ifatti { sup f a } = { f a }. I modo aalogo soo misurabili if f, lim sup f, lim if f e, se esiste, lim f. Ifie, come cosegueza del Teorema 4.2.6, ogi fuzioe misurabile a valori reali si può scrivere come limite putuale di ua successioe di fuzioi

76 4.2. COSTRUZIONE DELL INTEGRALE 77 semplici: da qui segue facilmete che, se f e g soo misurabili, ache f + g, f g e f g soo misurabili. Defiizioe Itegrale delle fuzioi a valori positivi. Sia f ua fuzioe misurabile a valori positivi e cosideriamo ua successioe di fuzioi semplici ϕ 1 tale che ϕ f : si defiisce itegrale di f il umero f dm = lim ϕ dm 1 Il limite esiste poiché la successioe di umeri ϕ dm 1 è crescete il limite evetualmete può essere + ; apparetemete però la defiizioe è ambigua perché si possoo predere i cosiderazioe diverse successioi approssimati. I realtà questa ambiguità o sussiste come dimostra il risultato seguete: Teorema Proprietà di Beppo Levi. Se ϕ 1 e ψ 1 soo due successioi di fuzioi semplici covergeti alla fuzioe f si ha lim ϕ dm = lim ψ dm Ioltre se f 1 è ua successioe di fuzioi misurabili a valori positivi, si ha f f = f dm f dm Proof. Fissiamo e cosideriamo la successioe di fuzioi semplici ϕ ψ m m 1 : questa è crescete e coverge a ϕ. Per la Proposizioe si ha ϕ ϕ dm = lim ψ m dm lim ψ m dm m m e, di cosegueza, lim ϕ dm lim m ψm dm. Scambiado le due successioi si ottiee la diseguagliaza opposta e quidi l eguagliaza: questo dimostra la prima affermazioe. Per quato riguarda la secoda, cosideriamo per ogi ua successioe di fuzioi semplici ϕ,m m 1 covergete crescedo ad f, e poiamo ψ = max i,j ϕ i,j. È immediato costatare che ψ 1 è ua successioe crescete di fuzioi semplici, che per ogi si ha ψ f e che ψ f: si ha pertato f dm = lim ψ dm lim f dm. Ma, poiché per ogi si ha f dm f dm, si ottiee l eguagliaza cercata.

77 78 CHAPTER 4. PROBABILITÀ GENERALE Si verifica facilmete che, se f, g soo misurabili positive ed a > 0, si ha af + gdm = a fdm + gdm ; ioltre se f g, allora fdm gdm. Cosideriamo ora ua geerica fuzioe misurabile f, e poiamo f + = f 0 = maxf, 0 e f = f 0 = mif, 0 : etrambe soo fuzioi misurabili è ua verifica immediata e si ha f = f + + f e f = f + f. Defiizioe Fuzioe itegrabile e itegrale. Si dice che la fuzioe misurabile f è itegrabile se f dm < +, e i tal caso si chiama itegrale di f il umero f dm = f + dm f dm. Lo spazio delle fuzioi itegrabili viee idicato L 1 E, E, m o più semplicemete L 1 se o c è ambiguità: se f, g L 1 ed a è u umero qualsiasi, si ha af + gdm = a fdm + gdm. Metre l eguagliaza af dm = a. f dm è immediata, l eguagliaza f + g dm = f dm + g dm è cosegueza di questo fatto che lasciamo provare come esercizio: se f = g h dove g, h soo misurabili, a valori positivi e itegrabili, si ha f dm = g dm h dm. Teorema Covergeza domiata. Sia f 1 ua successioe di fuzioi misurabili covergete putualmete ad f e suppoiamo che esista g itegrabile a valori positivi tale che si abbia, per ogi x E, f x gx : allora si ha lim f dm = f dm. Ache di questo risultato omettiamo la dimostrazioe; ci limitiamo ad osservare che la codizioe f x gx valida ovviamete ache per il limite f porta come cosegueza che ogi f e così pure il limite f è itegrabile. Osservazioe La costruzioe esposta i questo paragrafo è valida praticamete seza modifiche per l itegrale rispetto ad ua geerica misura m o di probabilità tale che si abbia me = +. L uica modifica sostaziale è ella defiizioe di fuzioe semplice : bisoga cosiderare delle fuzioi ϕ della forma ϕ = i=1 a i I Ai co A i tali che ma i < +. L itegrale della fuzioe f rispetto alla misura di Lebesgue se esiste è usualmete deotato fx dx. Sostazialmete seza modifiche rispetto al Capitolo 2 si prova la diseguagliaza di Schwartz: se f 2 e g 2 soo itegrabili, il prodotto fg L 1 e si

78 4.2. COSTRUZIONE DELL INTEGRALE 79 ha fg dm f 2 dm g 2 dm. Osservazioe Itegrale rispetto ad ua misura discreta. Quado l isieme E è umerabile o più i geerale la misura è cocetrata su u isieme umerabile, l itegrale come è stato defiito i questo capitolo coicide co la defiizioe data el Capitolo 2: basta verificare questo per le fuzioi a valori positivi. Data ua tale fuzioe f, defiiamo { fxj se j ϕ x j = 0 se j > La successioe ϕ 1 è ua successioe crescete di fuzioi semplici covergete ad f: poiché per ogi si ha ϕ dm = j fx jmx j, al limite si ha la somma della serie, cioè la defiizioe data a suo tempo. Possiamo ora itrodurre ua uova categoria di probabilità su IR, molto importate elle applicazioi. Defiizioe Desità di probabilità. Si chiama desità di probabilità su IR ua fuzioe reale f defiita su IR, misurabile e a valori positivi, itegrabile secodo Lebesgue e tale che + fx dx = 1. Ad ua desità f è associata ua probabilità P su BIR mediate la formula PA = fx dx È immediato costatare che la fuzioe così defiita è semplicemete additiva e che PIR = 1; per provare che è ache σ-additiva viee più comodo mostrare la proprietà di cotiuità sulle successioi cresceti d isiemi usado la proprietà di Beppo Levi. Se A A, si ha che f.i A f.i A e quidi PA = f.i A dx f.i A dx = PA. Vale il seguete risultato Teorema Itegrazioe rispetto a ua misura defiita da ua desità. Ua fuzioe misurabile g defiita su IR è itegrabile rispetto a P se e solo se il prodotto gf è itegrabile rispetto alla misura di Lebesgue, e i tal caso si ha gx dpx = gxfx dx. A

79 80 CHAPTER 4. PROBABILITÀ GENERALE Proof. Comiciamo a supporre che g sia l idicatrice di u isieme misurabile A: I A dp = PA = f dx = f I A dx Di cosegueza l eguagliaza è vera per le fuzioi semplici; data ua geerica g misurabile e positiva, e cosiderado ua successioe crescete approssimate ϕ 1, applicado i etrambi gli itegrali la proprietà di Beppo Levi, si ha g dp = lim A ϕ dp = lim ϕ f dx = g f dx Cosiderata poi ua fuzioe misurabile geerica g, si cosidera la decomposizioe g = g + g e si coclude facilmete. Aaloga è la defiizioe di probabilità defiita da ua desità su IR, BIR, ed il relativo teorema di itegrazioe. Esamiiamo ora la fuzioe di ripartizioe di ua probabilità defiita da ua desità, cioè F x = x ft dt : aturalmete F è cotiua, ma o è vero il viceversa. Ci soo esempi di fuzioi di ripartizioe cotiue la cui probabilità associata o è defiita da ua desità: l esempio più oto è quello della misura di Cator, che sarà esposta i Appedice. Vale il seguete risultato, che viee qui solo euciato: Proposizioe Fuzioi assolutamete cotiue. La probabilità associata ad ua fuzioe di ripartizioe F è defiita da ua desità se e solo se F è assolutamete cotiua, cioè per ogi ε > 0, esiste δ > 0 tale che, prese delle coppie di puti x i, y i, x i y i < δ = F xi F y i < ε i i La Proposizioe precedete forisce ua precisa caratterizzazioe che però è poco pratica: di fatto si utilizza spesso questo criterio sufficiete che lasciamo provare come esercizio. Suppoiamo che la fuzioe di ripartizioe F sia cotiua e C 1 a tratti, cioè che sia derivabile co derivata cotiua eccetto che i u isieme fiito di puti a 1,..., a : allora la probabilità associata ad F è defiita da ua desità e ua versioe della desità f è data eccetto df x dx. che ei puti a 1,..., a dall eguagliaza fx = Notiamo che ei puti a 1,..., a possiamo defiire la desità i u modo qualsiasi, poiché si tratta di u isieme trascurabile rispetto alla misura di Lebesgue e la desità iterviee solo attraverso itegrali.

80 4.3. VARIABILI ALEATORIE GENERALI Variabili aleatorie reali e vettoriali su uo spazio di probabilità geerale Ora che dispoiamo della teoria dell itegrazioe rispetto ad ua probabilità su uo spazio Ω geerale, possiamo estedere seza difficoltà le defiizioi date el Capitolo 2 e riguardati le variabili aleatorie reali e vettoriali: c è però ua differeza sostaziale. Nel Capitolo 2 o avevamo mezioato problemi di misurabilità perché i u isieme umerabile ogi sottisieme è misurabile metre ora dobbiamo essere molto precisi proprio riguardo a questioi di misurabilità. Defiizioe Variabile aleatoria reale. Assegato uo spazio di Probabilità Ω, F, P, si chiama variabile aleatoria reale ua applicazioe misurabile X : Ω, F IR, BIR. Quidi X deve essere tale che, ad esempio, per ogi x IR, { X x } = X 1 ], x] F. Allora, data ua fuzioe boreliaa f : IR IR, f X è acora ua variabile aleatoria ma questo o è più vero co ua geerica fuzioe f. Defiizioe Legge di Probabilità. Si chiama legge di probabilità o ache distribuzioe di probabilità di ua variabile aleatoria reale X l immagie di P mediate X; si chiama fuzioe di ripartizioe di X la fuzioe di ripartizioe della sua legge di probabilità. Si ha duque, per ogi A boreliao, P X A = P X 1 A. Chiamata poi F X la sua fuzioe di ripartizioe, si ha F X x = P X ], x] = P { X x }. Osservazioe Assegata comuque ua probabilità Q su IR, BIR, esiste ua variabile aleatoria X la cui legge di probabilità sia eguale a Q. La costruzioe è simile a quella che è stata fatta per le leggi di probabilità discrete, ed è ache molto semplice ma importate dal puto di vista metodologico: si può predere Ω = IR, F = BIR e P = Q. Si cosidera poi come applicazioe X : IR IR l idetità, cioè Xx = x : è immediato costatare che P X = Q. Ua aaloga costruzioe che o ripeteremo si può fare per le variabili vettoriali. Vediamo ora l estesioe al caso geerale del Teorema

81 82 CHAPTER 4. PROBABILITÀ GENERALE Teorema Itegrazioe rispetto ad ua probabilità immagie. Sia ϕ : IR IR boreliaa: ϕ è itegrabile rispetto a P X se e solo se ϕ X è itegrabile rispetto a P e i tal caso vale la formula ϕx dp X x = ϕ Xω dpω. IR Proof. La dimostrazioe è simile a quella del teorema , ed è abbastaza semplice. Comiciamo a verificare la formula el caso i cui ϕ = I A, co A boreliao. I A x dp X x = P X A = P X 1 A = IR Ω I X 1 Aω dpω = Ω Ω IA X ω dpω Di cosegueza la formula è vera per le combiazioi lieari di idicatrici di boreliai, cioè per le fuzioi semplici. Data ϕ misurabile positiva, si prede ua successioe approssimate crescete ϕ 1 di fuzioi semplici: applicado Beppo Levi i etrambi gli itegrali si ottiee ϕx dp X x = lim ϕ x dp X x = IR IR ϕ Xω dpω = ϕ Xω dpω lim Ω Per passare poi al caso di ϕ di sego qualsiasi, si cosidera la decomposizioe ϕ = ϕ + ϕ e si applica separatamete la formula a ϕ + e ϕ. Perfettamete aaloghe a quato si è visto per il caso delle variabili aleatorie discrete, soo le defiizioi di valori attesi, mometi, variaza, ecc... Ad esempio, il valore atteso di X se esiste è l itegrale E [ X ] = Xω dpω = x dp X x Ω La dimostrazioe del fatto che, se 1 p < q < + ed X ammette mometo di ordie q, allora ammette ache mometo di ordie p, è sostazialmete idetica a quato fatto per le variabili discrete: provare per esercizio a tradurre questa dimostrazioe. Allo stesso modo è idetica la dimostrazioe della diseguagliaza di Chebishev. Passiamo ora al caso delle variabili aleatorie vettoriali X = X 1,..., X limitado per semplicità di otazioi l esposizioe al caso delle variabili Ω IR

82 4.3. VARIABILI ALEATORIE GENERALI 83 aleatorie doppie X, Y l estesioe al caso -dimesioale è del tutto immediata. Per defiizioe, si chiama variabile aleatoria doppia ua applicazioe misurabile X, Y : Ω, F IR 2, BIR 2. Le compoeti X e Y soo due fuzioi defiite su Ω a valori reali. Proposizioe La coppia X, Y è ua variabile aleatoria cioè è misurabile come applicazioe a valori i IR 2 se e solo se etrambe le compoeti X e Y soo variabili aleatorie reali cioè misurabili come applicazioi a valori i IR. Proof. Ricordiamo che BIR 2 è geerata, ad esempio, dai prodotti cartesiai ], x] ], y] : pertato, se X e Y soo misurabili, X, Y 1 ], x] ], y] = X 1 ], x] Y 1 ], y] è u elemeto di F. Viceversa, suppoedo che la coppia X, Y sia misurabile, X 1 ], x] = X, Y 1 ], x] ], + [ è u elemeto di F. La legge di probabilità della coppia X, Y è l immagie di P mediate l applicazioe X, Y : è quidi ua probabilità su BIR 2. Il Teorema si estede seza difficoltà al caso vettoriale, i particolare presa ϕ : IR 2 IR boreliaa e limitata, vale la formula ϕ Xω, Y ω dpω = ϕx, y dp X,Y x, y Ω IR 2 Nella formula precedete, si è cosiderata ua fuzioe boreliaa e limitata perché i questo caso sicuramete è itegrabile rispetto ad ua misura di probabilità; u altro caso i cui sicuramete l itegrale esiste è quado ϕ è boreliaa e a valori positivi. La defiizioe di idipedeza di due variabili aleatorie X, Y è idetica a quella data a suo tempo per variabili discrete vedi Defiizioe ed i maiera idetica si prova il risultato seguete vedi Corollario : se X e Y soo idipedeti e f, g soo due fuzioi boreliae, allora ache f X e g Y soo idipedeti. Per poter estedere al caso geerale i risultati della Proposizioe e del Teorema , dobbiamo però isistere u poco sulla ozioe di probabilità prodotto.

83 84 CHAPTER 4. PROBABILITÀ GENERALE Defiizioe Probabilità prodotto. Siao P e Q due probabilità su IR, BIR : si chiama probabilità prodotto e si idica P Q la probabilità su IR 2, BIR 2 tale che, presi comuque due sottisiemi boreliai A e B di IR, si abbia P Q A B = P A.Q B L uicità di ua tale probabilità è ua facile cosegueza del Teorema : ifatti i rettagoli misurabili A B co A, B boreliai soo ua famiglia di parti stabile per itersezioe che geera la σ-algebra prodotto BIR 2. L esisteza ivece è ua cosegueza del Teorema 4.1.4, ed è più impegativa da dimostrare: si cosidera l algebra A di parti di IR 2 formata da uioi disgiute di rettagoli misurabili sulla quale è defiita la aturale estesioe della e si dimostra che è σ-additiva. No isistiamo su questa costruzioe, cito soltato il fatto che ci servirà tra poco che vale ua estesioe del Teorema di Fubii-Toelli. Più precisamete, se ϕ : IR 2 IR è boreliaa e limitata oppure a valori positivi vale la formula di itegrazioe [ ] ϕx, y dp Q x, y = ϕx, y dqy dpx IR 2 IR IR Nella parte destra della formula sopra scritta si può scambiare l ordie di itegrazioe, ioltre quado vegoo scritte delle itegrazioi successive se o vi soo paretesi vegoo svolte da destra verso siistra: scriveremo così più semplicemete IR 2 ϕx, y dp Q x, y = IR dpx ϕx, y dqy IR È immediata l estesioe al caso geerale della caratterizzazioe provata el caso delle variabili discrete co la Proposizioe 2.5.9: più precisamete X e Y soo idipedeti se e solo se P X,Y = P X P Y. Ed i modo aalogo, si estede facilmete il Teorema : Teorema Suppoiamo che X ed Y siao idipedeti e dotate di mometo primo: ache XY ha valore atteso e vale la formula E [ XY ] = E [ X ] E [ Y ] Proof. Comiciamo ha provare che E[ XY ] < + utilizzado il Teorema di Fubii-Toelli: E [ XY ] = xy dp X P Y x, y = IR 2

84 4.4. VARIABILI ALEATORIE CON DENSITÀ 85 = x dp X x y dp Y y = E [ X ] E [ Y ] < + IR IR Ripetedo gli stessi passaggi seza i valori assoluti, si ottiee la tesi. 4.4 Variabili aleatorie co desità Defiizioe Si dice che la v.a. reale X ha desità f se la sua legge di probabilià P X ha desità f, cioè se per ogi boreliao A vale la formula P { X A } = P X A = fx dx Di cosegueza la fuzioe di ripartizioe è data da F x = x ft dt ed è pertato cotiua, ma come sappiamo o è vero il viceversa. Per questo motivo è piuttosto fuorviate la deomiazioe di variabili aleatorie cotiue che alcui testi dao: bisogerebbe piuttosto dire variabili aleatorie assolutamete cotiue. Se si modifica la desità f su u isieme trascurabile per la misura di Lebesgue il valore degli itegrali fx dx o viee alterato: per questo A la desità di probabilità, più che ua fuzioe, è ua classe di equivaleza di fuzioi itededo per equivaleti due fuzioi che differiscoo su u isieme trascurabile. Proposizioe Sia X ua variabile aleatoria reale. Soo equivaleti le due segueti affermazioi: 1. X ha desità f; 2. per ogi fuzioe reale ϕ boreliaa e limitata, vale la formula E [ ϕx ] = ϕx fx dx Proof. La dimostrazioe è del tutto immediata, ma come vedremo il criterio forito da questa Proposizioe è molto utile. Da ua parte, suppoedo che X abbia desità f, utilizzado i Teoremi e , si ha E [ ϕx ] = ϕx dp X x = ϕx fx dx IR Viceversa, prededo A boreliao e cosiderado ϕ = I A, si ha P { X A } = E [ I A X ] = I A xfx dx = fx dx IR IR A IR A

85 86 CHAPTER 4. PROBABILITÀ GENERALE I maiera del tutto aaloga viee data la defiizioe di variabile aleatoria vettoriale X = X 1,..., X co desità, e l estesioe -dimesioale della Proposizioe Il risultato che viee ora euciato è l aalogo per variabili co desità della Proposizioe Proposizioe Sia X, Y ua variabile doppia co desità fx, y: ache le compoeti X ed Y ammettoo desità f 1 ed f 2 che soddisfao le formule f 1 x = + fx, ydy f 2 y = + fx, y dx Proof. Si utilizza il criterio forito dalla Proposizioe Sia ϕ : IR IR boreliaa limitata: E [ ϕx ] = ϕxfx, y dx dy = ϕx[ ] fx, y dy dx Questo equivale a dire che la fuzioe x fx, y dy è la desità di X. Osservazioe Viceversa, cooscedo le desità margiali delle compoeti X e Y, o si può ricostruire la desità cogiuta, azi o è eppure detto che la coppia X, Y abbia desità! Per forire u cotroesempio, cosideriamo ua variabile X co desità e la coppia X, X ; provare che quest ultima o può avere desità. Il risultato seguete è l aalogo per variabili co desità della Proposizioe Proposizioe Sia X, Y ua variabile doppia co desità: le variabili X e Y soo idipedeti se e solo se tra le desità vale la seguete relazioe quasi ovuque fx, y = f 1 x f 2 y Proof. È u facile esercizio provare che, se P 1 e P 2 hao desità rispettivamete f 1 ed f 2, la probabilità prodotto P 1 P 2 ha come desità la fuzioe f 1 xf 2 y che è talvolta chiamata il prodotto tesore delle due fuzioi f 1 ed f 2. Di cosegueza vale quella relazioe tra le desità se e solo se la legge di probabilità cogiuta è il prodotto delle sigole leggi. Vediamo ora l aalogo per variabili co desità della Proposizioe

86 4.4. VARIABILI ALEATORIE CON DENSITÀ 87 Proposizioe Formula della covoluzioe. Siao X, Y due variabili idipedeti co desità rispettivamete f 1 ed f 2 : la somma X + Y ha desità g data dalla formula gx = + f 1 x yf 2 y dy Proof. Di uovo si usa la Proposizioe Sia ϕ : IR IR boreliaa limitata E [ ϕx+y ] = ϕx+yf 1 xf 2 ydx dy = f 2 ydy ϕx+yf 1 xdx = = f 2 ydy ϕtf 1 t ydt = ϕt[ ] f 1 t yf 2 ydy dt Le formule che ora seguoo esprimoo come si trasforma la desità di ua variabile aleatoria reale o vettoriale se si applica ad essa u diffeomorfismo: ricordiamo che si chiama diffeomorfismo u applicazioe biuivoca tra due aperti A e B di IR k, che sia differeziabile co iversa differeziabile. Proposizioe Sia X ua v.a. reale co desità f diversa da 0 su u aperto A IR e sia h : A B u diffeomorfismo. Cosideriamo la variabile Y = hx : essa ha desità g data da gy = { 0 se y / B f h 1 y d h 1 y d y = f xy dxy se y B dy Proof. È essezialmete ua cosegueza della formula del cambio di variabili per gli itegrali. Data ϕ boreliaa limitata, si ha E [ ϕy ] = E [ ϕ hx ] = ϕhx fx dx = = B ϕy f h 1 y d h 1 y dy d y A Esempio La desità più semplice che si possa immagiare è la desità uiforme sull itervallo [0, 1] così defiita fx = { 1 per 0 < x < 1 0 altrimeti

87 88 CHAPTER 4. PROBABILITÀ GENERALE Sia X co tale desità e sia Y = logx : la desità di Y è data da gy = { e y per y < 0 0 per y 0 La formula per la trasformazioe della desità di ua v.a. vettoriale X mediate u diffeomorfismo è ach essa cosegueza della formula del cambio di variabili per itegrali questa volta -dimesioali ed è del tutto aaloga alla formula 4.4.7: il termie d h 1 y è sostituito col valore assoluto del d y determiate della matrice Jacobiaa della fuzioe h 1. Vediamo come si usa i cocreto questa formula, limitadoci per semplicità al caso di ua variabile doppia X, Y co desità f diversa da 0 sull aperto A di IR 2 : cosideriamo u diffeomorfismo h da A su B e sia U, V = hx, Y. La coppia U, V ha ua desità g che si aulla fuori di B, metre su B soddisfa la formula gu, v = f xu, v, yu, v x x. u v y y dove co [ ] a b. c d a c b d si itede il valore assoluto del determiate della matrice Esempio Sia X, Y avete desità u v fx, y = { 2e x+y per 0 < x < y 0 altrimeti e sia U, V = X +Y, X Y : vogliamo calcolare la desità di U, V. Iazi tutto è facile verificare che la fuzioe sopra scritta è effettivamete ua desità, cioè che si ha fx, y dx dy = 2 e x+y dx dy = 1 IR 2 {0<x<y} Ioltre è immediato costatare che l applicazioe hx, y = x+y, x y è u diffeomorfismo dall aperto A = { x, y IR } 2 { } 0 < x < y sull aperto B = u, v IR 2 u > 0, u < v < 0 : l iversa di h si calcola immediatamete, si ha ifatti x = u+v e y = u v. È immediato ache il calcolo del modulo del 2 2 x x determiate u v y y = 1. 2 u v

88 4.5. ESEMPI 89 La desità g della coppia U, V risulta pertato essere gu, v = { e u per u > 0, u < v < 0 0 altrove È sempre prudete verificare che si ha effettivamete, come i questo caso, gu, v du dv = e u du dv = 1 IR 2 B 4.5 Esempi di variabili aleatorie co desità Desità uiforme Si chiama desità uiforme sull itervallo ]a, b[ ua desità che è costate su quell itervallo e ulla fuori: si avrà quidi fx = { 1 b a per a < x < b 0 altrimeti È u facile esercizio provare che, se X è ua v.a. co tale desità, si ha E[X] = a+b e V arx = b a Desità Gamma Premettiamo la defiizioe della fuzioe Gamma: questa è defiita, per r > 0, da Γr = + x r 1 e x dx. Questa o si può calcolare esplicitamete, 0 ma è immediato verificare tramite ua itegrazioe per parti che, se r > 1, si ha Γr = r 1 Γr 1. Ioltre Γ1 = 1 e di cosegueza, per itero, Γ = 1! Defiizioe Si chiama desità Gamma di parametri r e λ, r > 0, λ > 0, e si idica Γr, λ la fuzioe defiita da fx = { 1 Γr λr x r 1 e λx x > 0 0 x 0 È u facile calcolo provare che si tratta effettivamete di ua desità di probabilità; quado r = 1, la desità Γ1, λ si chiama più semplicemete espoeziale di parametro λ. Se X Γr, λ e β > 0, è facile provare che vale la seguete formula E [ X β] = Γr + β Γr λ β

89 90 CHAPTER 4. PROBABILITÀ GENERALE e da questa si calcolao facilmete i mometi della variabile X : ad esempio E[X] = r λ. Proposizioe Se X Γr 1, λ, Y Γr 2, λ e soo idipedeti, allora X + Y Γr 1 + r 2, λ Proof. Si utilizza la formula della covoluzioe Proposizioe 4.4.6: per semplificare i coti, limitiamoci al caso i cui X e Y soo espoeziali di parametro λ. La desità di X + Y si aulla per x 0, e per x > 0 è eguale a gx = x che è apputo la desità Γ2, λ. 0 λ 2 e λx y e λy dy = λ 2 x e λx La desità espoeziale esibisce ua sorta di asseza di memoria che è i u certo seso l aalogo per variabili co desità della proprietà delle variabili geometriche. Esercizio Sia X ua variabile co desità espoeziale e siao x, y positivi: provare che si ha P { X > x + y X > x = P { X > y } Viceversa, sia X ua variabile a valori positivi co legge di probabilità diffusa, e suppoiamo che, presi comuque x e y positivi, valga l eguagliaza 4.5.1: provare che X ha desità espoeziale Desità Gaussiaa Abbiamo visto che + 1 2π e x2 e x 2 2 dx = 2π : e segue che la fuzioe fx = 2 è ua desità di probabilità, detta desità Normale o Gaussiaa N0, 1, e la fuzioe Φx = 1 x 2π e t2 2 dt è la relativa fuzioe di ripartizioe. Per ua variabile X N0, 1 si ha E[X] = 0 o c è bisogo di fare calcoli, poichè la fuzioe x e x2 2 è ua fuzioe dispari, e quidi il suo itegrale su tutto IR è 0. Viceversa V ar X = E [ X 2] = 1, come si verifica facilmete itegrado per parti: si ha ifatti 1 + 2π x 2 e x2 2 dx = 1 x e x2 2 2π π e x2 2 dx = 1 Defiizioe Variabile Gaussiaa. Si dice che la variabile X ha legge gaussiaa Nm, σ 2 m IR, σ > 0 se X m σ ha legge N0, 1

90 4.6. CONVERGENZA DI VARIABILI ALEATORIE 91 Si può pertato rappresetare X ella forma X = σy + m, co Y N0, 1 : e segue immediatamete che E[X] = m, V ar X = σ 2. Ioltre, come cosegueza della Proposizioe 4.4.7, la desità di Y è la fuzioe g defiita da 1 gy = e y m2 2σ 2 2π σ Proposizioe Se X N m 1, σ 2 1, Y N m2, σ 2 2 e soo idipedeti, allora X + Y N m 1 + m 2, σ σ 2 2. Proof. Ci si può ridurre al caso i cui m 1 = m 2 = 0, e, per semplicità di coti, limitiamoci al caso i cui σ 1 = σ 2 = 1. Applicado la formula della covoluzioe, la desità g di X + Y è data da gx = 1 2π + e 1 2 y 2 +x y 2 dy = 1 x 2 2π e 4 + e 1 2 2y 2 x 2 dy Facedo il cambio di variabile 2y x 2 risulta eguale a = t, l itegrale sopra scritto 1 2π cioè X + Y N0, 2. e x e t dt = 2 e x2 4 2π Esercizio Se X N0, 1, allora X 2 Γ 1 2, Due parole sulla covergeza di variabili aleatorie Uo studio accurato della covergeza di variabili aleatorie sarà oggetto di u corso più avazato; qui ci limitiamo a qualche elemeto utile per i teoremi limite che soo impiegati ell ifereza statistica. Ricordiamo la defiizioe di covergeza i probabilità: Defiizioe Covergeza i probabilità. Si dice che la successioe di variabili aleatorie X coverge i probabilità alla v.a. X se, 1 per ogi ε > 0, si ha lim P{ X X } > ε = 0

91 92 CHAPTER 4. PROBABILITÀ GENERALE La covergeza i probabilità ad ua costate c è u caso particolare di quella defiizioe, poiché le costati possoo essere viste come delle variabili aleatorie. Notiamo acora che ella defiizioe imporre > ε oppure ε porta allo stesso risultato, i quato { ω X ω Xω > ε } { ω X ω Xω ε } { ω X ω Xω > ε 2} e di cosegueza P { X X > ε } P { X X ε } P { X X > ε 2 Vediamo la seguete leggera geeralizzazioe del Teorema 2.7.1: Teorema Legge dei gradi umeri. Sia X 1, X 2,... ua successioe di variabili aleatorie dotate di mometo secodo, icorrelate, e suppoiamo che E[X i ] = m per ogi i cioè hao tutte lo stesso valore atteso e che esista ua costate K tale che si abbia V arx i K qualuque sia i cioè le variaze soo equilimitate. Allora, posto S = X X, la successioe S coverge i probabilità ad m. 1 Proof. È sempre ua cosegueza della diseguagliaza di Chebishev, osservado che E [ S ] = m e che V ar S = 1 V 2 arx1 + + V arx K. Soprattutto i statistica, è usuale idicare X = S } la media empirica delle variabili X 1,..., X. A volte soo comodi i criteri segueti, che vegoo euciati come esercizio: Esercizio Sia X 1 ua successioe di variabili aleatorie dotate di mometo secodo e suppoiamo che lim E[ ] X = c lim V ar X = 0 Provare che la successioe coverge i probabilità a c ; provare co u cotroesempio che il criterio è soltato sufficiete. Esercizio Sia X ua successioe di variabili aleatorie e siao F. le relative fuzioi di ripartizioe. Soo equivaleti le affermazioi segueti: X 1 coverge i probabilità a c ;

92 4.6. CONVERGENZA DI VARIABILI ALEATORIE 93 per x < c, lim F x = 0, e per x > c, lim F x = 1. Tra le varie proprietà della covergeza i probabilità ci limitiamo alla seguete, che sarà utilizzata più avati: Proposizioe Sia X ua successioe covergete i probabilità 1 a c e sia g ua fuzioe boreliaa cotiua el puto c : allora Y = gx coverge i probabilità a gc. Proof. Dato ε > 0, esiste δ > 0 tale che: x c δ gx gc ε. Di cosegueza vale la seguete iclusioe di isiemi { gx gc } { X > ε c } > δ U altro tipo di covergeza era stato icotrato el Teorema limite di DeMoivre-Laplace: diamo ua defiizioe precisa. Defiizioe Covergeza i legge. Si dice che la successioe di v.a. X coverge i legge o ache i distribuzioe alla v.a. X se per 1 ogi f : IR IR cotiua e limitata, si ha lim E[ f ] [ ] X = E f X Proposizioe Siao X e X variabili aleatorie, F ed F le relative fuzioi di ripartizioe; suppoiamo ioltre che F sia cotiua cioè la legge di X sia diffusa. Allora soo equivaleti le segueti affermazioi: a la successioe X 1 coverge a X i legge; b per ogi x IR, si ha lim F x = F x. Proof. Suppoiamo che sia verificato a: scegliamo x IR, δ > 0 e cosideriamo ua fuzioe cotiua f tale che ft = 1 per t x, ft = 0 per t x + δ, e decrescete tra x e x + δ. Per ogi, valgoo le diseguagliaze F x ft df t = E [ f ] X F x + δ la otazioe gt df t idica l itegrale di g rispetto alla probabilità associata alla fuzioe di ripartizioe F e le stesse diseguagliaze valgoo per la variabile limite. Si ha pertato F x + δ ftdf t = lim ftdf t lim sup F x

93 94 CHAPTER 4. PROBABILITÀ GENERALE I modo aalogo si prova la diseguagliaza F x δ lim if F x, e per la cotiuità di F si può cocludere che lim F x = F x. Suppoiamo viceversa che sia soddisfatto b, e cosideriamo ua fuzioe cotiua f uiformemete limitata i modulo dalla costate 1 ci si può ridurre a questo caso. Dato ε > 0, esiste M > 0 tale che si abbia F M ε e F M 1 ε ; esiste di cosegueza 1 tale che, per 1, si abbia F M 2ε e F M 1 2ε. Cosideriamo poi ua fuzioe ϕ costate a tratti più precisamete della forma ϕx = i=1 a i I ]xi,x i+1 ]x che sia ulla fuori di ] M, M] e che su quell itervallo differisca da f per meo di ε. È evidete che si ha lim ϕ df = ϕ df, e duque esiste 2 tale che, per 2, si abbia ϕ df ϕ df < ε. Sia ora = max 1, 2 e cosideriamo. diseguagliaze f ϕ df ], M] f df + ] M,M] f ϕ df + F M + ε + 1 F M 3ε I modo aalogo si prova che si ha f ϕ df 5ε. Si ottegoo allora le disuguagliaze: fdf fdf f ϕ df + ϕ df ϕ df + Valgoo le segueti ]M,+ [ f df f ϕ df 9ε Poiché questo si verifica per ogi ε > 0, si ottiee così il risultato. Alla luce del risultato precedete, il Teorema teorema Limite Cetrale per variabili Biomiali può essere visto come u risultato di covergeza i Legge. I verità quel risultato è valido i ipotesi molto più geerali, e la dimostrazioe è lasciata ad u corso più avazato: tuttavia è comodo poter utilizzare subito questo risultato geerale. Quello che viee qui euciato, seza dimostrazioe, è il Teorema Limite Cetrale di Paul Lévy: Teorema Sia X 1, X 2,... ua successioe di variabili idipedeti equidistribuite, dotate di mometo primo µ e di variaza σ 2 diversa da 0: posto S = X X, la successioe S µ σ = X µ σ coverge i legge alla variabile gaussiaa N0, 1.

94 4.7. APPENDICE 95 Osservazioe Abbiamo visto come si possoo costruire v.a. X 1,..., X idipedeti co leggi assegate P 1,..., P, ma ei precedeti teoremi limite itervegoo successioi di variabili aleatorie: i realtà si può costruire ua sorta di prodotto ifiito di probabilità, ma questo sarà l oggetto di u corso più avazato. Tuttavia questa costruzioe o è ecessaria per dare u seso sia alla legge dei Gradi Numeri che al teorema Limite Cetrale. È sufficiete ifatti costruire per ogi, evetualmete su diversi spazi Ω, le variabili X 1,..., X : questo permette di dare u seso a quatità come P { S m } { > ε oppure P a S µ σ b}, e solo queste itervegoo egli euciati dei teoremi limite sopra riportati. 4.7 Appedice Alcue leggi di probabilità di rilevate iteresse i Statistica Prima di illustrare alcue leggi di probabilità di rilevate iteresse ell ifereza statistica, itroduciamo la defiizioe di quatile: data ua fuzioe di ripartizioe F ed u umero 0 < α < 1, ituitivamete lo α-quatile è il umero r α tale che F r α = α quidi, per ua variabile aleatoria X co fuzioe di ripartizioe F, si ha P { X r α } = α. Notiamo che abbiamo già icotrato, alla fie del Capitolo 3, l α-quatile della legge N0, 1, cioè il umero q α tale che Φq α = α. La defiizioe sopra euciata o preseta difficoltà se l applicazioe F è biuivoca da u itervallo I IR su ]0, 1[, ma i geerale si possoo presetare due difficoltà. Può darsi che F abbia ua discotiuità itoro al valore α, i modo che o esista alcu umero r α co la proprietà richiesta; e può darsi che sia costate su u itervallo i modo che esista tutto u itervallo di umeri r tali che F r = α. La defiizioe deve allora essere modificata i questo modo: Defiizioe Quatile. Data ua fuzioe di ripartizioe F ed u umero 0 < α < 1, si chiama α-quatile di F il umero così defiito r α = if { x IR F x > α }. Le leggi di probabilità che vegoo ora esposte, soo state itrodotte per l applicazioe a problemi di ifereza statistica. Defiizioe Legge chi-quadro. Si chiama legge chi-quadro a gradi di libertà e si idica χ 2 la legge Γ 2, 1 2.

95 96 CHAPTER 4. PROBABILITÀ GENERALE Il motivo per cui è stato dato u ome particolare a questa legge Gamma è il seguete: se X 1,..., X soo idipedeti gaussiae N0, 1, allora X X 2 ha legge χ 2 la prova di questo fatto è ua cosegueza immediata dell Esercizio e della Proposizioe Per agevolare i coti co questa particolare legge di probabilità, soo state predisposte le tavole della legge Chi-quadro: più precisamete, i fuzioe dei gradi di libertà e del umero α, queste tavole assegao il valore χ 2 α, dello α quatile della legge χ 2 cioè, per ua variabile X co desità χ 2 si ha P { X χ 2 α, } = α. Defiizioe Legge di Studet. Siao X N0, 1, Y χ 2 idipedeti: si chiama legge di Studet a gradi di libertà e si idica T la legge di X Y Prima di calcolare effettivamete la desità, osserviamo che se T è ua variabile di Studet, ha legge simmetrica cioè T e T soo equidistribuite: ifatti ua variabile co desità è simmetrica se e solo se la sua desità è ua fuzioe pari. Di cosegueza, poiché X N0, 1 è simmetrica, X Y soo equidistribuite. Il calcolo della desità i verità piuttosto tedioso è ua cosegueza della Proposizioe : siao f 1 la desità di X ed f 2 la desità di Y, e sia ϕ boreliaa limitata. Applicado il teorema di Fubii-Toelli ed il cambio di variabili, si ha e X Y [ ] E ϕ X Y = { <x<+, y>0} ϕ x y f 1 xf 2 y dx dy = + 0 f 2 y dy + ϕ x y f 1 x dx y t y = + 0 f 2 y dy + ϕtf 1 = + ϕt [ + 0 f 1 t y dt f 2 y y dy ] dt e e segue che la desità di X Y è la fuzioe gt = + 0 t y y f 1 f 2 y dy Iseredo al posto di f 1 ed f 2 i valori delle desità, e portado avati coti faticosi ache se o difficili, si prova che la desità g è data da gx = c 1 + x dove c è ua opportua costate.

96 4.7. APPENDICE 97 Per poter fare dei coti effettivi, soo state predisposte le tavole della legge di Studet: i fuzioe dei gradi di libertà e di α, riportao il valore t α, dello α quatile della legge τ. Poiché T ha ua legge simmetrica cioè la sua desità è ua fuzioe pari si costata facilmete che vale l eguagliaza t α = t 1 α, ; e segue che se serve idividuare u umero t tale che si abbia P { T > t } = α, questo umero è dato da t = t 1 α 2,. Defiizioe Legge di Fisher. Siao C e C m due variabili idipedeti co legge rispettivamete χ 2 e χ 2 m : si chiama legge di Fisher F,m la legge di C / C m /m Il calcolo della desità di tale variabile può essere codotto co passaggi aaloghi a quelli appea fatti: la desità risultate è evidetemete ulla sulla semiretta egativa, e per x positivo vale c, m. x 2 1 m+x +m 2 Ache per la legge di Fisher soo state compilate opportue tavole che dao, per alcui valori di α, lo α-quatile della legge F,m. Cocludiamo osservado che l uso delle tavole statistiche, ella pratica, è ora superato dall uso di software statistici La misura di Cator L isieme C di Cator può essere defiito come l isieme dei umeri dell itervallo [0, 1] che possoo essere scritti, i base 3, utilizzado le sole cifre 0 e 2. Ricordiamo che ogi umero di quell itervallo può essere scritto, i base 3, ella otazioe 0, a 1 a 2 a 3... itededo co questa otazioe + =1 a 3. La otazioe è uica co ua eccezioe: ad esempio il umero 1/3 si può scrivere 0, = 0, 10 ma ache 0, = 0, 02. I questo caso scegliamo la secoda otazioe e quidi 1/3 si può scrivere co le sole cifre 0 e 2 e pertato appartiee a C. L isieme C si può costruire i questo modo: dall itervallo [0, 1] comiciamo a togliere l isieme A 1 dei umeri che hao 1 come prima cifra decimale, cioè l itervallo aperto ] 1 3, 2 3 [. Poi togliamo l isieme A 2 dei umeri che o stao i A 1 e che hao 1 come secoda cifra decimale l uioe dei due itervalli aperti ] 1 3 2, [ e ] 7 3 2, [ e così via... Ogi isieme A è formato da 2 1 itervalli aperti di lughezza 3 e quidi l uioe di questi isiemi A 1 che soo disgiuti ha misura secodo Lebesgue eguale a + = = 1.

97 98 CHAPTER 4. PROBABILITÀ GENERALE Di cosegueza l isieme C di Cator che è il complemetare i [0, 1] dell uioe di questi itervalli è u isieme chiuso che ha misura 0 cioè è trascurabile secodo Lebesgue. Viceversa la cardialità di C coicide co quella dell itervallo [0, 1] e quidi co quella di IR : ifatti C può essere rappresetato come {0, 2} IN cioè le successioi di cifre 0 e 2, e la sua cordialità coicide ovviamete co quella di {0, 1} IN ed ogi umero tra 0 e 1 può essere rappresetato i base 2 come successioe ifiita di cifre 0 e 1. Costruiamo ora la fuzioe di ripartizioe F della misura di Cator che è ua probabilità mediate limite di ua successioe F 1 di fuzioi di ripartizioe cotiue approssimati ifatti F o può essere scritta co ua espressioe esplicita: ogua delle F e quidi ache il limite vale 0 per x 0 e vale 1 per x 1. Poi F 1 è costate sull isieme A 1 e lieare a tratti el complemetare: più precisamete vale 1 ei puti 1 e 2 ed è lieare tra 0 e 1 e tra 2 e Ivece F 2 coicide co F 1 su A 1, è costate si oguo degli itervalli che compogoo A 2 e si raccorda egli altri puti i modo lieare a tratti: vale 1 1 ei puti e 2, vale 3 7 ei puti e 8 e così di seguito È facile costatare che, dato < m, si ha, per ogi x, F x F m x 2 : di cosegueza la successioe F è di Cauchy per la covergeza uiforme e pertato coverge uiformemete ad ua fuzioe F che è crescete cotiua, vale 0 per x 0 e 1 per x 1, ed è costate su oguo degli itervalli che compogoo 1 A. Pertato la probabilità m associata ad F la misura di Cator è ua probabilità diffusa, cocetrata sull isieme C el seso che il complemetare di C è trascurabile per m. Se m avesse ua desità f, si dovrebbe avere 1 = m C = C fx dx ma questo è impossibile poiché l itegrale secodo Lebesgue di qualsiasi fuzioe sull isieme trascurabile C è 0. È iteressate sapere che ogi probabilità P sulla retta IR si può scrivere ella forma P = m 1 + m 2 + m 3 dove queste ultime soo sottoprobabilità si ha ifatti m 1 IR + m 2 IR + m 3 IR = 1 e soo tali che: 1 m 1 è ua misura discreta; 2 m 2 è defiita da ua desità f ; 3 m 3 è ua misura diffusa cocetrata su u isieme trascurabile secodo Lebesgue.

98 4.8. ESERCIZI 99 La costruzioe si può fare i questo modo: si prede la fuzioe di ripartizioe F associata a P e si cosidera l isieme D al più umerabile, evetualmete vuoto dei puti di discotiuità di F. La misura m 1 è cocetrata ei puti di D e ad ogi puto x D è tale che m 1 {x} = F x. Si può dimostrare che la fuzioe F è derivabile quasi ovuque secodo Lebesgue e la sua derivata f risulta essere ua fuzioe misurabile a valori positivi e il suo itegrale su IR è 1 : la misura m 2 è associata alla desità f. La misura m 3 si ottiee come differeza P m 1 m 2 cioè, per ogi A BIR, m 3 A = PA m 1 A m 2 A, e si prova che m 3 è diffusa e cocetrata su u isieme trascurabile secodo Lebesgue. 4.8 Esercizi Esercizio Sia X ua v.a. co desità a valori positivi: provare che vale la formula E[X] = + 0 P { X > x } dx Esercizio Dire se le segueti fuzioi possoo essere fuzioi di ripartizioe, ed i tal caso se la probabilità associata è defiita da ua desità. Specificare ioltre se ua v.a. che abbia quella legge di probabilità ammette valore atteso. F x = π arctg x Gx = { 0 x < x x 0 Hx = Kx = { 0 x < 0 2 2e 2x x 0 0 x < 0 1 x x < 1 1 x 1 Esercizio Suppoiamo che la desità cogiuta di ua variabile doppia X, Y si possa scrivere ella forma fx, y = hx.ky, dove h e k soo due fuzioi boreliae positive: provare che X e Y soo idipedeti. Chi soo rispettivamete le desità di X e di Y?

99 100 CHAPTER 4. PROBABILITÀ GENERALE Esercizio Siao X e Y due variabili idipedeti co desità espoeziale di parametro 1, e siao U = X + Y e V = X. X+Y a Calcolare la desità cogiuta di U, V. b U e V soo idipedeti? c Verificare che vale l eguagliaza [ ] X E = X + Y E[X] E[X] + E[Y ] Esercizio Sia X, Y ua variabile doppia avete desità { e x per x y 0 fx, y = 0 altrimeti e sia Z = X Y. a Qual è la desità di Z? Si tratta di ua desità ota? b Le variabili Y e Z soo idipedeti? Esercizio Sia X, Y ua variabile doppia uiformemete distribuita sul cerchio uitario {x, y x 2 + y 2 1}. a Calcolare le desità margiali di X e di Y. Le compoeti soo idipedeti? b Calcolare le desità del modulo e dell argometo; più precisamete le desità delle variabili aleatorie R = X 2 + Y 2 e T = arctg Y X. Esercizio Sia X, Y ua variabile aleatoria doppia co desità cogiuta { x e x+y se x > 0 e y > 0 fx, y = 0 altrimeti a X e Y soo idipedeti? b Calcolare se esiste il valore atteso di Y X. c Calcolare la desità della variabile X + Y. d Calcolare la desità della variabile U = mi X, Y. Esercizio Cosideriamo ua variabile aleatoria doppia X, Y avete come desità la fuzioe { 10 x fx, y = 2 y se 0 < y < x < 1 0 altrimeti a Le compoeti X e Y soo idipedeti? b Poiamo U = X e V = X : calcolare la desità del vettore U, V. Y c Le variabili U e V soo idipedeti? d Calcolare P { X > 2Y } Y < 1 2.

100 4.8. ESERCIZI 101 Esercizio Sia X 1 ua successioe di variabili aleatorie idipedeti uiformemete distribuite sull itervallo [0, 1] e siao rispettivamete M = maxx 1,..., X e V = mix 1,..., X. a Calcolare le desità di M e V. b Idagare sulla covergeza i probabilità delle due successioi M 1 e V 1.

101 102 CHAPTER 4. PROBABILITÀ GENERALE

102 Chapter 5 Ifereza statistica su uo spazio di Probabilità geerale 5.1 Modelli statistici geerali Ricordiamo la defiizioe di Modello Statistico, che è già stata data quado abbiamo esamiato l ifereza statistica su uo spazio di Probabilità umerabile vedi Defiizioe 3.2.1: Defiizioe Modello Statistico. Si chiama modello statistico ua tera Ω, F, P θ, θ Θ dove Ω è u isieme, F ua σ-algebra di parti di Ω e, per ogi θ Θ, P θ è ua probabilità su Ω, F. Ora abbiamo gli strumeti matematici per idagare il caso i cui Ω è uo spazio qualsiasi, tuttavia per evitare eccessive geeralizzazioi e poter fare coti cocreti, d ora iazi ci mettiamo i queste ipotesi: Ipotesi Modello co desità. Suppoiamo che il modello statistico soddisfi le segueti codizioi: a Ω è uo spazio euclideo IR o u sottisieme misurabile di uo spazio euclideo; b F è la σ-algebra di Borel su Ω ; c le probabilità P θ ammettoo desità rispetto alla misura di Lebesgue -dimesioale λ. Osservazioe La σ-algebra di Borel BA su u sottisieme misurabile A IR è formata dalle itersezioi degli elemeti di BIR co A, o equivaletemete è geerata dagli aperti di A. 103

103 104 CHAPTER 5. STATISTICA SU UNO SPAZIO GENERALE Defiizioe Verosimigliaza. Si chiama verosimigliaza ua fuzioe L : Θ Ω IR + tale che, fissato θ, Lθ,. sia ua versioe della desità di P θ rispetto alla misura di Lebesgue λ. Cooscere la verosimigliaza equivale a cooscere ogi probabilità P θ, i quato si ha per ogi A F, P θ A =.. A L θ ; x 1,..., x dx1... dx. Osservazioe Nel caso i cui Ω è uo spazio umerabile, avevamo dato u altra defiizioe vedi 3.2.2: più precisamete Lθ, ω = P θ {ω}, e quidi apparetemete c è ua icogrueza tra queste due defiizioi. I realtà o è così : etrambe soo casi particolari di desità. Date due misure m 1 e m 2 su E, E, si dice che m 2 è defiita dalla desità f rispetto a m 1 se f è misurabile positiva e si ha, per ogi A E, m 2 A = fe dm 1 e A Se si cosidera su u isieme umerabile Ω la misura m che cota i puti cioè ma = #A se A è i isieme fiito, ma = + se A è ifiito, è facile verificare che la fuzioe ω P θ {ω} è la desità di P θ rispetto a m. U esempio frequete è il seguete: Defiizioe Campioe. Sia fθ,., θ Θ ua famiglia parametrizzata di desità di probabilità su IR: si chiama campioe di taglia e desità fθ,. ua famiglia di variabili aleatorie idipedeti, equidistribuite, aveti desità fθ,. sotto P θ. La costruzioe caoica di u campioe è la seguete: si prede Ω = IR e si cosidera come verosimigliaza la fuzioe L θ ; x 1,..., x = i=1 fθ, x i Si defiiscoo ioltre come variabili X i le proiezioi caoiche di idice i: è immediato verificare che poedo su Ω la probabilità P θ defiita dalla desità Lθ,. queste variabili risultao idipedeti ciascua co desità fθ,.. Se ogi desità fθ,. si aulla fuori di u itervallo I IR, coviee cosiderare come spazio Ω = I azichè IR. Le defiizioi di stima e quidi stima corretta, rischio,..., regioe di fiducia e test e quidi livello, poteza,..., che soo state date el caso di uo spazio Ω umerabile, si estedoo seza modifiche el caso cosiderato i questo e el successivo capitolo, e quidi o verrao ripetute. Ricordiamo qui solo le proprietà che differiscoo dal caso cosiderato i precedeza, e comiciamo col richiamare la ozioe di riassuto esaustivo.

104 5.2. STIME DI MASSIMA VEROSIMIGLIANZA 105 Defiizioe Riassuto esaustivo. Ua variabile aleatoria T : Ω E è detta u riassuto esaustivo se si può scrivere la verosimigliaza ella forma L θ ; x 1,..., x = h θ, T x1,..., x kx 1,..., x Il Teorema ha u aalogo el risultato seguete: Teorema Sia T u riassuto esaustivo e U ua stima di gθ : esiste ua stima V della forma V x 1,..., x = f T x 1,..., x preferibile a U, ioltre V è strettamete preferibile a meo che U o sia già ella forma f T. Ifie, se U è corretta, ache V è corretta. No riportiamo però la dimostrazioe che questa volta è più complicata; è iteressate sapere che etrambe le dimostrazioi del caso discreto e del caso co desità soo casi particolari di ua più geerale che richiede ozioi più avazate di quelle che soo itrodotte i questo corso la ozioe di speraza codizioale. 5.2 U risultato sulle stime di massima verosimigliaza Richiamiamo la defiizioe di stima di massima verosimigliaza, che è già stata data ella Defiizioe 3.3.6: Defiizioe Stima di massima verosimigliaza. Sia assegato u modello statistico tale che Θ IR : si dice che U è ua stima di massima verosimigliaza se, per quasi ogi x 1,..., x Ω, si ha L Ux 1,..., x ; x 1,..., x = max L θ ; x 1,..., x θ Θ Ricordiamo che usualmete si idica θ la stima di massima verosimigliaza se esiste. Vale l aalogo del Teorema 3.3.7, e questa volta e foriamo ua dimostrazioe completa. Teorema Suppoiamo che Θ sia u itervallo di IR e sia assegata ua famiglia di desità fθ, x, θ Θ che si possao scrivere ella forma fθ, x = cθ. exp θ T x. gx co ua opportua applicazioe T : IR IR. Cosideriamo u campioe ifiito X 1, X 2,... co desità fθ,. e suppoiamo che esista, per ogi, la stima di massima verosimigliaza θ relativa al campioe di taglia : allora la successioe di stime θ 1 è cosistete.

105 106 CHAPTER 5. STATISTICA SU UNO SPAZIO GENERALE Ricordiamo che quado le desità verificao la codizioe del Teorema 5.2.2, si dice che si ha u modello espoeziale: la defiizioe può essere estesa al caso a dimesioe maggiore di 1, suppoedo Θ IR k e che esista ua applicazioe boreliaa T : IR IR k i modo che si abbia fθ, x = cθ. exp θ, T x.gx dove.,. è il prodotto scalare i IR k. Co questa defiizioe più geerale il Teorema rimae vero ed il pricipio della dimostrazioe o cambia, è solo u poco più complicato. Vediamo ora la dimostrazioe del Teorema Proof. Poichè si deve avere fθ, x dx = 1, e segue che [ cθ = exp θ T x 1 gx dx] = exp ψθ essedo ψθ = log e θ T x gx dx. Per calcolare ψ θ si può derivare sotto il sego di itegrale, e si ottiee T x e ψ θ T x gx dx [ θ = = E θ T ] X e θ T x i gx dx Co coti aaloghi, facili ma u poco più lughi, si prova l eguagliaza ψ θ = V ar θ T X i ; poichè ecessariamete V ar θ T X i è strettamete positiva vedi l osservazioe al termie della dimostrazioe e segue che la fuzioe ψ θ è strettamete crescete e quidi ivertibile. La verosimigliaza del campioe -simo assume la forma L θ ; x1,..., x = exp θ T x i ψθ gx i i e per cercare il puto θ che rede massima questa espressioe è sufficiete cercare il puto di massimo della fuzioe θ θ i T x i ψθ. Questo si può fare risolvedo l equazioe detta equazioe di massima verosimigliaza i T X i ψ θ θ= θ = e di cosegueza la stima di massima verosimigliaza che per ipotesi esiste è data dall espressioe θ = ψ 1 i T X i. Fissiamo ua probabilità P θ : per la Legge dei Gradi Numeri Teorema T X i la successioe i coverge i probabilità a E θ[ T X 1 ] = ψ θ e quidi poiché ψ 1 è ua fuzioe cotiua per la Proposizioe 4.6.5, θ coverge i probabilità a ψ 1 ψ θ = θ. i

106 5.3. RITORNO AL LEMMA DI NEYMAN-PEARSON 107 Osservazioe Vediamo perché come è stato affermato el corso della dimostrazioe ecessariamete V ar θ T X i > 0 : ricordo che solo le costati hao variaza 0, e se T x fosse costate quasi ovuque la desità fθ, x sarebbe proporzioale alla fuzioe gx e i defiitiva queste desità sarebbero tutte eguali tra loro e questo cotraddice l ipotesi che a due parametri θ 1 e θ 2 diversi corrispodoo due probabilità P θ 1 e P θ 2 diverse. Appare chiaro quidi che o si può avere V ar θ T X i = 0 per ogi parametro θ, ma si potrebbe obiettare che potrebbe essere eguale a 0 magari per u solo θ Θ. I realtà o è così : la variabile T X i o è ua costate per ogi probabilità P θ o o lo è per essua e quidi ψ θ o è sempre 0 oppure è sempre strettamete positivo. Ifatti le probabilità defiite dalle desità fθ, x ammettoo gli stessi isiemi trascurabili el liguaggio della teoria della misura soo equivaleti, e ricordiamo che la desità fθ, x è la desità della variabile X i sotto P θ. Ricordado che ua fuzioe a valori positivi ha itegrale 0 se e solo se è ulla fuori di u isieme trascurabile, e poiché exp θ T x è sempre strettamete positivo, u boreliao A è trascurabile per la desità fθ, x se e solo se gx è ulla quasi ovuque sull isieme A rispetto alla misura di Lebesgue: questa codizioe duque o dipede dal parametro θ. Osservazioe Nel Teorema precedete, abbiamo messo per ipotesi che esista la stima di massima verosimigliaza θ : ifatti siamo tetati di scrivere direttamete θ = ψ 1 i T X i, ma seza quella ipotesi o possiamo farlo perchè o siamo sicuri che, per ogi ω = x 1,..., x i X Ω, T i ω sia u elemeto di ψ Θ. 5.3 Ritoro al Lemma di Neyma-Pearso Il Lemma che abbiamo illustrato el Capitolo 3 relativamete al caso dei modelli discreti ammette ua versioe praticamete idetica el caso di modelli co desità: Lemma Lemma di Neyma-Pearso. Suppoiamo assegato u modello statistico el quale l isieme Θ dei parametri è ridotto a due puti Θ = { θ 0, θ 1 } e sia dato il test dell ipotesi H0 θ = θ0 cotro H 1 θ = θ1. Cosideriamo l isieme D così defiito D = { x 1,..., x Ω Lθ0 ; x 1,..., x c Lθ 1 ; x 1,..., x } dove c è ua costate positiva. Allora

107 108 CHAPTER 5. STATISTICA SU UNO SPAZIO GENERALE 1. D è la regioe critica di u test più potete di ogi altro test di livello P θ 0 D ; 2. vale la diseguagliaza P θ 1 D P θ 0 D. Proof. Cosideriamo ua geerica fuzioe ϕ : Ω [0, 1] e otiamo che per ogi ω = x 1,..., x vale la diseguagliaza I D x 1,..., x ϕx 1,..., x Lθ 0 ; x 1,..., x c Lθ 1 ; x 1,..., x 0 Itegrado rispetto alla misura di Lebesgue, si ottiee P θ 0 D ϕ dp θ 0 c P θ 1 D ϕ dp θ 1 A questo puto la dimostrazioe prosegue esattamete come per il Lemma I modo idetico a quato già visto el caso di u modello discreto, si parla di rapporto di verosimigliaza crescete rispetto a T, test uilateri ecc... No c è difficoltà a tradurre tutto ella uova situazioe. Osservazioe Soglia di accettazioe. Quado si piaifica u test statistico, per prima cosa si sceglie u livello α solitamete vicio a 0 e i seguito si sceglie ua regioe critica D che abbia livello α. Si deve cioè avere sup θ Θ0 P θ D α : duque più il livello dimiuisce, più la regioe critica tede ad essere piccola. Spesso ci si trova i questa situazioe: per ogi umero 0 < α < 1, è assegata ua regioe critica D α di livello α i modo tale che, se α 1 α 2, allora D α1 D α2. Ioltre 0<α<1 D α = Ω e 0<α<1 D α =. Allora, per ogi ω Ω cioè per ogi risultato dell idagie statistica è assegato u umero ᾱ tale che, se α < ᾱ, ω / D α e se α > ᾱ, ω D α. Tale umero ᾱ sarà chiamato soglia di accettazioe. 5.4 Due esempi Esempio Campioe di legge espoeziale. Sia dato u campioe X 1,..., X co desità espoeziale di parametro θ, θ > 0. Si cosidera Ω = IR + e L θ ; x 1,..., x = θ e θ x i.

108 5.4. DUE ESEMPI 109 La variabile T = i=1 X i è u riassuto esaustivo. La ricerca della stima di massima verosimigliaza per il campioe di taglia porta a θ = i, X i ed i base al Teorema la successioe di stime θ è cosistete. Ci possiamo domadare se la stima θ è corretta: per effettuare tale calcolo ricordiamo che sotto P θ, i X i Γ, θ. Di cosegueza E θ[ θ ] = 1! + 0 θ x 2 e θx dx = θ 1 Vogliamo esamiare ora u test uilatero dell ipotesi H 0 θ 1 cotro H 1 θ > 1 al livello α : otiamo che Lθ 2 Lθ 1 = θ2 e θ 2 θ 1 T θ 1 cioè il modello è a rapporto di verosimigliaza decrescete rispetto a T. Di cosegueza, coosciamo la forma della buoa regioe critica: deve essere D = { i X i c } co c tale che P 1{ i X i c } α, cioè P 1{ i X i > c } 1 α. Per poter avere ua regioe critica più grade possibile allo scopo di aumetare la poteza del test impoiamo che la diseguagliaza appea scritta sia u eguagliaza. Si deve avere 1 α = 1 1! + c [ c x 1 e x dx = e c 1 ] 1! + c 2 2! + + c + 1 È evidete che, dato α, esiste uo ed u solo c positivo che soddisfa l equazioe sopra scritta, ma il calcolo esplicito deve essere fatto co approssimazioi umeriche. Cosideriamo il test dell ipotesi H 0 θ = 2 cotro l alterativa H1 θ 2 : partiamo dal fatto che, sotto P 2, ogi variabile X i ha valore atteso 1/2 e variaza 1/4. Questo suggerisce ua regioe critica della forma D = { i X } i 1 2 c co P 2{ i X } i 1 2 c α. Il calcolo della probabilità sopra scritta può essere fatto, co passaggi simili a quelli sopra idicati, ma i coti espliciti divetao complicati. Possiamo allora accotetarci di ua maggiorazioe otteuta co la diseguagliaza di Chebishev: P 2 { i X i 1 } 2 c V ar 2 i X i c 2 = V ar2 Xi c 2 = 1 4c 2

109 110 CHAPTER 5. STATISTICA SU UNO SPAZIO GENERALE Prededo c = 4α 1/2 si ottiee la diseguagliaza voluta. Esempio Cosideriamo la famiglia di desità per θ > 1 fθ, x = { θ + 1 x θ 0 < x < 1 0 altrimeti e sia dato u campioe di taglia e desità fθ,.. Poichè la desità può essere scritta ella forma fθ, x = θ + 1 exp θ log x I ]0,1[ x, siamo i preseza di u modello espoeziale. Cosiderado Ω =]0, 1[ e Θ =] 1, + [, si ottiee per la verosimigliaza l espressioe L θ θ ; x 1,..., x = θ + 1 x i e di cosegueza T = i X i è u riassuto esaustivo. Il calcolo della stima di massima verosimigliaza per il campioe di taglia porta a θ = 1 i log X i e la successioe di stime θ 1 è cosistete. Esamiiamo ora il test uilatero della forma H 0 θ 0 cotro H1 θ < 0 : il rapporto delle verosimigliaze L θ 2 L θ 1 = i=1 θ2 + 1 θ2 θ X 1 i θ i è crescete rispetto a T = i X i e si ottiee pertato ua regioe critica della forma D = { i X i c } co c tale che P 0{ i X i c } = α, essedo α il livello desiderato. I calcoli co prodotti di variabili idipedeti o soo agevoli, ma si può passare dai prodotti alle somme cosiderado i logaritmi: è immediato verificare che, sotto P θ, log X i ha desità espoeziale di parametro θ+1 e di cosegueza log i X i = i log X i Γ, θ + 1. Lasciamo completare i dettagli al lettore.

110 5.5. ESERCIZI Esercizi Esercizio Cosideriamo u campioe di taglia di v.a. co desità { e x θ x θ fθ, x = 0 x < θ dove 0 < θ < +. a Idagare se esiste ua statistica esaustiva T e la stima di massima verosimigliaza di θ. b Esamiare se tale stima è corretta. Si vuole esamiare ora il test dell ipotesi H 0 θ 1 cotro l alterativa H 1 θ > 1 utilizzado come regioe critica D = { T > c } : determiare la costate c i modo tale che il test sopra idicato abbia livello α. Esercizio Siao X 1,..., X variabili aleatorie idipedeti equidistribuite, dotate di mometo primo e secodo. Tra tutte le stime lieari del valore atteso cioè della forma U = i a ix i, trovare quella corretta di variaza miima. Esercizio Viee codotto u sodaggio telefoico per determiare la percetuale di famiglie che vedoo u certo programma televisivo: se si desidera che, ella determiazioe di tale percetuale, l errore o sia superiore a 0,02 co u grado di fiducia del 90%, quate famiglie almeo devoo essere itervistate? Esercizio Sia X 1,..., X u campioe di taglia co desità uiforme sull itervallo [0, θ], 0 < θ < +. a Idagare se esiste ua statistica esaustiva e trovare ua stima corretta di θ. b Trovare u itervallo di fiducia al livello 1 α per il parametro θ si suggerisce di cercare u itervallo di fiducia della forma [ T, T 1 + d ] co d da calcolare opportuamete. c Trovare la regioe critica di u test dell ipotesi H 0 θ 1 cotro l alterativa H 1 θ < 1 ad u livello α prefissato.

111 112 CHAPTER 5. STATISTICA SU UNO SPAZIO GENERALE

112 Chapter 6 Ifereza statistica sui modelli gaussiai 6.1 Campioi statistici gaussiai I modelli gaussiai soo largamete usati ell ifereza statistica, sia perché soo molto maeggevoli dal puto di vista matematico, sia a causa del Teorema Limite Cetrale: si pesa che u feomeo casuale della realtà sia la combiazioe di u umero elevato di disturbi casuali, e questo giustifica l ipotesi che possa essere rappresetato co distribuzioi gaussiae. Si poe però u problema metodologico: la desità Nm, σ 2 qualuque siao m e σ 2 è strettamete positiva su ogi itervallo. Ad esempio, che valore si può dare all affermazioe l altezza media dei giovai che si presetao alla visita di leva a Pisa è gaussiaa co media 180 i cm e variaza 100? Ifatti risulta strettamete positiva la probabilità che l altezza sia egativa, oppure superiore a 300 e questo appare assurdo. Tuttavia le cose soo i realtà molto meo drastiche: abbiamo visto che i valori di ua variabile co desità N0, 1 soo di fatto compresi tra -3,5 e +3,5 ifatti Φ3,5 differisce da 1 solo alla quarta cifra decimale e di cosegueza i valori di ua variabile Nm, σ 2 soo compresi a meo di eveti di probabilità iferiore a 10 3 tra m 3,5 σ e m + 3,5 σ. Torado all esempio dei giovai alla visita di leva, questo si traduce el cosiderare che l altezza è compresa tra 145 e 215 cm, affermazioe che appare perfettamete ragioevole. Prima di addetrarci ell esame di u campioe di taglia e desità gaussiaa, vediamo alcui risultati di probabilità preparatori. Lemma Sia X = X 1,..., X u vettore aleatorio formato da v.a. idipedeti co desità N0, 1, sia A ua matrice ortogoale 113

113 114 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI cioè la matrice di u cambio di base e sia Y = A X. Ache le compoeti Y 1,..., Y soo idipedeti co desità N0, 1. Proof. La tesi equivale a dire che le variabili vettoriali X e Y soo equidistribuite. La desità del vettore aleatorio X scritta co otazioe vettoriale è fx = 2π 2 exp x 2 2 : se applichiamo la formula della Proposizioe teedo coto del fatto che la trasformazioe y = A x è u diffeomorfismo, co iversa x = A 1 y, e osservado che A 1 y 2 = y 2 poiché A è ua matrice ortogoale, è immediato verificare che Y ha desità eguale a quella di X. Proposizioe Siao X 1,..., X idipedeti co desità N0, 1, e defiiamo X = X 1+ +X. Valgoo i segueti risultati: a le variabili X e i Xi X 2 soo idipedeti; b X ha desità N0, 1 e i Xi X 2 ha desità χ 2 1 ; c la variabile 1 X i Xi X 2 ha desità di Studet T 1. Proof. Sia e 1 il vettore e 1 = 1 1,..., e sia E1 il sottospazio vettoriale di IR geerato da e 1 ; sia poi E 2 l ortogoale di E 1 e sia e 2,..., e ua base ortoormale di E 2. Sia poi A la matrice ortogoale di passaggio dalla base caoica di IR alla base e 1,..., e. Idichiamo co X il vettore aleatorio X 1,..., X e sia Y = A X : i base al Lemma 6.1.1, le compoeti Y 1,..., Y soo acora idipedeti co desità N0, 1. Quidi Y 1 è idipedete da Y Y 2 che ha desità χ 2 1. Notiamo che Y 1 = X, ioltre Y Y 2 = i Y i 2 Y1 2 = i X2 i X 2 = i Xi X 2. A questo puto le proprietà a e b soo immediate, e c si ottiee come facile cosegueza teedo coto della defiizioe della desità di Studet. La proposizioe precedete era preparatoria del teorema che ora segue, che rappreseta il risultato prelimiare fodametale per l ifereza statistica

114 6.1. CAMPIONI STATISTICI GAUSSIANI 115 su u campioe gaussiao. Accato alla otazioe X che abbiamo appea defiito, e itroduciamo u altra che sarà usata fio alla fie di questo capitolo: se X 1,..., X è u campioe di variabili aleatorie, idichiamo co S 2 i Xi X 2 = 1 e aturalmete S e è la radice quadrata. Se c è pericolo di cofusioe ad esempio se ci soo due campioi ache di taglia diversa X 1,..., X e Y 1,..., Y m idicheremo S 2 X e S 2 Y. Teorema Siao X 1,..., X idipedeti co desità Nm, σ 2. Si hao i segueti risultati: a le variabili X e S 2 soo idipedeti; b X ha desità Nm, σ2 e i c la variabile X i X 2 σ 2 ha desità χ 2 1 ; X m ha desità di Studet T 1. S Proof. Possiamo scrivere X i = σ Y i + m, dove Y 1,..., Y soo idipedeti co desità N0, 1 e si applicao i risultati appea otteuti ella Proposizioe Si hao ifatti le segueti eguagliaze: X m S = i X i X 2 σ 2 σ Y σ 2 i Y i Y 2 1 X = σ Y + m ; = i La facile coclusioe è lasciata al lettore. Y i Y 2 ; = 1 Y i Yi Y 2. Cosideriamo ora come modello statistico u campioe di taglia e desità Nm, σ 2 : sullo spazio Ω = IR cosideriamo la verosimigliaza L m, σ 2 ; x 1,..., x = 1 2π 2 σ exp i x i m 2 = 2 σ 2

115 116 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI = 2π 2 i exp x2 i 2 σ 2 + m σ 2 i m 2 x i log σ 2 σ 2 L isieme dei parametri Θ è IR ]0, + [ e come d abitudie, idichiamo co X 1,..., X le proiezioi coordiate. Si dice che la media è ota se il parametro m è fisso e di cosegueza come isieme dei parametri si cosidera Θ =]0, + [ ed aaloga è aturalmete la defiizioe di modello co variaza ota. Dalla formula della verosimigliaza, appare evidete che si ottiee u riassuto esaustivo co la variabile doppia i X i, i X2 i se la media è ota co i Xi m 2, se la variaza è ota co i X i. Idaghiamo ora sull esisteza delle stime di massima verosimigliaza: è sufficiete cercare i puti di massimo rispetto a m ed a σ dell espressioe [ i x2 i + m ] m 2 x 2 σ 2 σ 2 i log σ 2 σ 2 i e per fare questo dopo aver verificato le codizioi al limite, cioè l adameto dell espressioe [... ] per m ± e per σ 0+, σ + si aullao le derivate parziali, otteedo le equazioi 0 = [ ]... = i x i m m σ 2 σ 2 0 = [ ]... = i x i m 2 σ σ 3 σ Facili coti provao che valgoo le segueti stime di massima verosimigliaza per i parametri: 1 m = X sempre; 2 σ 2 = 3 σ 2 = 2 i X i m 2 i X i X se m è ota; se m è scoosciuta. Notiamo acora che la desità gaussiaa Nm, σ 2 si può scrivere ella forma cm, σ 2 exp x2 + m x dove appare il prodotto scalare i IR 2 tra 2σ 2 σ 2 T x = x, x 2 ed il parametro bidimesioale m, 1 σ 2 2σ che è ovviamete 2 i corrispodeza biuivoca col parametro aturale m, σ 2. Siamo duque i preseza di u modello espoeziale e di cosegueza le stime di massima verosimigliaza sopra riportate soo cosisteti.

116 6.2. TEST SULLA MEDIA 117 È aturale chiedersi se queste stime siao corrette: è immediato costatare che X è ua stima corretta del valore atteso, ma 2 i X i X ua stima corretta della variaza. Ifatti σ 2 quidi valore atteso 1. Ne segue che ua stima corretta della variaza è data da S 2 = i Xi X i X i X o è ha legge χ 2 1 e Osservazioe L ultima proprietà o è specifica delle variabili gaussiae: ifatti date variabili X 1,..., X idipedeti equidistribuite, dotate di mometo secodo, è sempre vero che [ i Xi X 2 ] E 1 = V ar X 1 La prova di questo fatto è lasciata per esercizio. 6.2 Test sulla media di u campioe gaussiao I questo e el successivo paragrafo suppoiamo assegato u campioe X 1,..., X di taglia e desità gaussiaa. Quado la variaza è ota, test e itervalli di fiducia sulla media m soo molto semplici e soo basati sul fatto che sotto P m X ha desità N m, σ2 X m o, equivaletemete, σ paio d esempi come esercizi. ha desità N0, 1 : possiamo vedere u Esempio Itervallo di fiducia per la media. Trovare u itervallo di fiducia al livello 0,95 per la media di u campioe gaussiao, co variaza ota. Notiamo che abbiamo appea idicato ua fuzioe del parametro e della variabie X la cui legge o dipede dal parametro m: possiamo duque agevolmete utilizzare il metodo della quatità pivot cercado u itervallo di fiducia della forma [Xω d, Xω + d], co d tale che P m{ } { X m > d = P m d } X m > 0, 05 σ σ

117 118 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI Per avere u itervallo di fiducia più piccolo possibile, impoiamo che la diseguagliaza sopra scritta sia u eguagliaza: ricordado che X m σ ha desità N0, 1, scegliamo d = q σ 0,975 = 1, 96 dove q α è lo α-quatile della legge N0, 1. Si ottiee così l itervallo di fiducia Xω ± 1,96 σ. Si oti la rassomigliaza co l itervallo di fiducia approssimato per il cotrollo di qualità Esempio Esempio Test uilatero. Idividuare la regioe critica di u test della forma H 0 m m0 cotro H 1 m > m0, co variaza ota, al livello 0,02 Prediamo m 1 < m 2 e scriviamo il rapporto delle verosimigliaze: L m 2 ; x 1,..., x [ L m2 m 1 m 2 = exp x m 1 ; x 1,..., x σ 2 i 2 m 2 ] 1 2 σ 2 Questo risulta crescete rispetto alla v.a. X e pertato la regioe critica sarà della forma D = { X c } } co c tale che P 0{ m X c = 0, 02 si poe l eguale per avere la regioe critica più grade possibile. È più comodo scrivere la regioe critica ella forma { X m 0 d }, e ricordado che sotto P m 0 σ X m0 ha desità N0, 1, si poe { } { 0, 02 = P m 0 X m 0 d = P m 0 } X m0 σ σ d e di cosegueza si sceglie d = q σ 0,98 = 2, 055. Si rifiuta quidi l ipotesi se Xω cioè la media aritmetica dei dati osservati supera m 0 + 2,055 σ. Esamiiamo ora il caso molto più iteressate e realistico di test sulla media di u campioe gaussiao co variaza scoosciuta, che è oto col ome di test di Studet. Nel caso i cui la variaza era ota, l aalisi era basata essezialmete sulla variabile X, che ha desità N m, 1 : poichè ora la variaza σ σ σ o è ota, l idea di Studet è stata di sostituire a σ 2 la sua stima corretta, cioè S 2. L aalisi è ora cocetrata sulla variabile i X S = 1 X i Xi X 2 Comiciamo ad esamiare la sua distribuzioe di probabilità.

118 6.2. TEST SULLA MEDIA 119 Defiizioe Legge di Studet decetrata. Si chiama legge di Studet a gradi di libertà decetrata di a idicata ache T decetrata di a la legge di X Y dove X Na, 1, Y χ 2 e soo idipedeti. La desità di questa legge di probabilità può essere calcolata, co coti tediosi ma o difficili, i modo aalogo a quato è stato fatto per la legge T o decetrata vedi 4.7.3; i particolare si verifica le desità di Studet decetrate di a, al variare di a, soo a rapporto di verosimigliaza crescete rispetto alla idetità, cioè alla variabile T x = x su IR. Osservazioe La variabile aleatoria X S Studet T 1 decetrata di m. σ sotto P m,σ2 ha legge di Questa ifatti è ua cosegueza del fatto che si può scrivere X S = 1 σ i X X i X σ 2 2 I particolare, la legge di probabilità di questa variabile dipede duque solo da m σ. Esempio Test di Studet uilatero. Cosideriamo, al livello α, la regioe critica di u test dell ipotesi H 0 m 0, σ qualsiasi, cotro l alterativa H 1 m > 0, σ qualsiasi. Il test può essere scritto i questo modo: m H 0 σ 0 cotro H m 1 σ > 0 Poichè è stata idividuata ua variabile aleatoria cioè X la cui distribuzioe di probabilità dipede solo da m ed è diversa per diversi valori S σ di m restrigiamo la ostra idagie a questa variabile aleatoria: la sua σ distribuzioe di probabilità cioè T 1 decetrata di m è a rapporto σ di verosimigliaza crescete rispetto a m e siamo pertato codotti a ua σ regioe critica della forma D = { X d } { Xω } = ω Ω d S Sω

119 120 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI { co d tale che P 0,σ2 X d } = α ricordiamo che tale probabilità o S dipede da σ se m = 0 : di cosegueza si prede d = t 1 α, 1 vedi I base ai risultati teorici cosegueti al Lemma di Neyma-Pearso, sappiamo che questo test è ottimale tra tutti i test basati sull osservazioe della variabile X vedi Teorema per ua formulazioe più precisa di S ottimale ; i realtà si può dimostrare facedo uso di ozioi più avazate di quelle itrodotte i questo corso che è ottimale ella classe di tutti i possibili test sul modello. Osservazioe Se il test è della forma H 0 m m0, σ qualsiasi cotro H 1 m > m0, σ qualsiasi o ci si può basare sul rapporto m : allora come spesso si fa i matematica σ ci si riporta al caso precedete. Si cosiderao le variabili X i m 0 che hao legge N m m 0, σ 2, e arriva di cosegueza a ua regioe critica della forma { X m } 0 D = t 1 α, 1 S lasciamo al lettore la verifica dei dettagli. Esempio Test di Studet. Cosideriamo il test H 0 m = 0, σ qualsiasi H1 m 0, σ qualsiasi al livello α. Il modo di procedere è simile a quello che è stato fatto precedetemete o riportiamo i dettagli ; si arriva ad ua regioe critica D della forma co d tale che D = { X S P 0,σ2{ X S } d } d = α Di cosegueza, si cosidera d = t 1 α 2, 1 vedi Il caso del test dell ipotesi H 0 m = m0, σ qualsiasi, viee trattato i modo aalogo a quato appea fatto: se α è il livello prescelto, si arriva alla regioe critica { X mo } D = t 1 α 2 S, 1

120 6.2. TEST SULLA MEDIA 121 Esercizio Il tempo medio di guarigioe da ua polmoite co i farmaci usuali è di 14 giori: viee sperimetato su 17 pazieti u uovo atibiotico più costoso e vegoo rilevati i tempi di guarigioe x 1,..., x 17 che dao i risultati x i = 197 x 2 i = 2596 i=1 Si può affermare che il uovo farmaco i realtà o è più efficace? Questi umeri x 1,..., x 17 vegoo iterpretati come i valori osservati di u campioe X 1,..., X 17 co legge gaussiaa N m, σ 2 sul quale viee effettuato il test dell ipotesi H 0 m 14, σ qualsiasi cotro H1 m < 14, σ qualsiasi i=1 otteedo regioe critica { 17 X 14 S t α,16 } dove α è il livello scelto. Ricordado che vale l eguagliaza t α, = t 1 α,, dalle tavole della legge di Studet si ricavao i valori t 0,05 ; 16 = 1,746 e t 0,01 ; 16 = 2,58. i x i i x i x 2 = 16 I calcoli sui valori osservati portao a x = = 11, 58 e s 2 = 17 19, 56 ; e ifie 17x 14 = 2, 25. I coclusioe, l ipotesi viee rifiutata al s livello 0,05 ed accettata al livello 0,01. I ua situazioe di icertezza come questa cioè risultati diversi i corrispodeza di scelte diverse del livello occorre essere cauti prima di arrivare a coclusioi pratiche. Esempio Itervallo di fiducia per la media, co variaza scoosciuta. Ache questa volta possiamo utilizzare il metodo della quatità pivot sfruttado il fatto che la variabile X m ha legge di Studet T 1 : S lasciamo verificare per esercizio che u itervallo di fiducia per la media al livello 1 α, co variaza scoosciuta, è della forma Xω ± t 1 α 2, 1 Sω.

121 122 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI 6.3 Test sulla variaza di u campioe gaussiao Cotrariamete a quato si è visto per la media, l idagie sulla variaza di u campioe gaussiao è sostazialmete idetica el caso i cui la media sia ota e i quello i cui sia scoosciuta, ed è basata su queste proprietà: se m è oto, i X i m se m è scoosciuto, 2 σ 2 ha desità χ 2 ; 2 i X i X σ 2 ha desità χ 2 1. Per essere precisi, le affermazioi sopra scritte soo vere sempre: si è detto se m è oto per evideziare il fatto che la prima variabile va utilizzata solo el primo caso. Per fissare le idee, cocetriamoci sul secodo caso; come è stato fatto el paragrafo precedete, limitiamo la ostra osservazioe alla variabile i Xi X 2, la cui desità sotto P m,σ 2 è, per x positivo, eguale a fx = cσ +1 x 3 2 e x 2 σ 2 Lasciamo per esercizio la elemetare verifica di questo, così come del fatto che queste desità siao a rapporto di verosimigliaza crescete. Esempio Test sulla variaza co media scoosciuta. Cosideriamo il test al livello α. H 0 σ 2 σ 2 0, m qualsiasi cotro H 1 σ 2 > σ 2 0, m qualsiasi Si tratta di u test uilatero sulla variaza, e si arriva alla regioe critica { D = Xi X } 2 c co c scelto i modo tale che si abbia { P m,σ2 0 i Xi X 2 c } = α e di cosegueza poiché la distribuzioe di m e, per σ = σ 0, è χ 2 1, si cosidera c i σ 2 0 σ 2 0 σ0 2 i Xi X 2 σ 2 0 o dipede da = χ 2 1 α, 1 vedi Quidi, osservati i dati x 1,..., x, si rifiuta l ipotesi se i x i x 2 χ 2 1 α, 1 σ2 0.

122 6.4. CONFRONTO TRA DUE CAMPIONI GAUSSIANI INDIPENDENTI123 Osservazioe Il test dell ipotesi H 0 σ 2 = σ0 2 o importa se co m oto o scoosciuto è meo agevole da trattare, ma per fortua è ache meo importate elle applicazioi. Sappiamo che la variaza è ua misura della variabilità, di cosegueza applicato ad esempio a misurazioi su ua produzioe, l ipotesi H 0 σ 2 σ0 2 equivale a dire la produzioe è sufficietemete precisa e quidi ha u evidete iteresse pratico, metre è meo importate idagare se la variabilità corrispode esattamete a u certo valore teorico. 6.4 Cofroto tra due campioi gaussiai idipedeti I questo paragrafo ci occupiamo del caso i cui l osservazioe statistica sia formata da due campioi idipedeti X 1,..., X di legge N m 1, σ 2 1 e Y 1,..., Y k di legge N m 2, σ 2 2. Nel caso ad esempio i cui si abbiao dati su due siti archeologici diversi sarebbe u grave errore raggruppare tutti i dati i u uico campioe: occorre teere be distiti i due campioi differeti. Quello che qui viee fatto co due, aturalmete può essere esteso a tre e più campioi... Il cofroto tra i parametri di diversi campioi gaussiai idipedeti è u importate ed impegativo capitolo dell ifereza statistica che va sotto il ome di aalisi della variaza: di esso ci limitiamo a dare qualche idea. Voledo formalizzare come modello statistico il caso di due campioi idipedeti, si cosidera Ω = IR +k, l isieme dei parametri è Θ = IR 2 ]0, + [ 2 si cosidera come parametro m 1, m 2, σ 2 1, σ 2 2 e la verosimigliaza è data da L m 1, m 2, σ 2 1, σ 2 2 ; x 1,..., x, y 1,..., y k = f m1,σ2 2x i i=1 k f m2,σ2 2y j j=1 essedo f m,σ 2 la desità Nm, σ 2. Si cosiderao poi come X i le proiezioi coordiate di idice i e come Y j le proiezioi di idice + j. Esempio Cofroto tra due variaze. Idetifichiamo il test al livello α prescelto. H 0 σ 2 1 σ 2 2 cotro H 1 σ 2 1 > σ 2 2

123 124 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI Quado, come si è fatto sopra, o si scrive ulla sui parametri m 1 e m 2, si itede che questi soo qualsiasi. Ricordiamo che la stima corretta di σ1 2 è data da S 2 X = i Xi X 2 / 1 e che i Xi X 2 /σ 2 1 ha desità χ 2 1, e aalogamete per S 2 Y : di cosegueza, se σ1 2 = σ2, 2 la variabile S 2 X S 2 Y = i Xi X 2 / 1 Yj Y 2 /k 1 j ha legge di Fisher F 1, k 1 vedi L ituizioe ci suggerisce di rifiutare l ipotesi se il rapporto tra le stime delle due variaze è troppo grade questa ituizioe può essere sosteuta da u ragioameto più rigoroso, ma a prezzo di ua certa fatica. Se chiamiamo F 1 α,, k lo 1 α quatile della legge F,k, la regioe critica del test richiesto è data da D = { i j k 2/ X i X 1 } 2/k F 1 α, 1, k 1 Y j Y 1 Esamiiamo ora il problema del cofroto tra le medie, più impegativo. Defiizioe Problema di Behres-Fisher. Si chiama problema di Behres-Fisher l idividuazioe della regioe critica del test dell ipotesi H 0 m1 = m 2 cotro H 1 m1 m 2. I questo problema o si poe alcua codizioe sulle variaze: questo problema ha ricevuto ua soluzioe completa molto faticosa da otteere solo i tempi receti. Noi ci limitiamo al caso più semplice el quale si abbia σ 2 1 = σ 2 2 cioè le variaze soo scoosciute, ma eguali. Comiciamo co u facile risultato: Lemma Se m 1 = m 2 e σ 2 1 = σ 2 2, la variabile Z,k = X Y i Xi X 2 + j k Yj Y 2 + k k ha desità di Studet T + k 2.

124 6.4. CONFRONTO TRA DUE CAMPIONI GAUSSIANI INDIPENDENTI125 Proof. Posto σ 2 =σ1 2 =σ2 2, la variabile X Y /σ ha legge N 0, k e la variabile [ i Xi X 2 + j Yj Y 2] /σ 2 legge χ 2 + k 2. Ioltre le quattro variabili X, Y, i X i X 2, j Y j Y 2 soo idipedeti: la coclusioe a questo puto è immediata. La soluzioe del problema di Behres-Fisher sotto l ulteriore ipotesi σ1 2 = σ2 2 è a questo puto sostazialmete u estesioe del test di Studet: se cosideriamo l ipotesi H 0 m1 = m 2, si cosidera come regioe critica al livello α { Z,k } D = t1 α 2, +k 2 metre il test dell ipotesi H 0 m1 m 2 avrà regioe critica { } D = Z,k t 1 α, +k 2. Esempio Le misurazioi delle tibie da scheletri proveieti dalle tombe Etrusche di Cerveteri dao i segueti risultati: xi x 2 13 misurazioi x = 47, 2 = 7, 92, 12 metre aaloghe misurazioi dalle tombe di Ladispoli portao a yj y 2 8 misurazioi y = 44, 9 = 9, Il risultato è casuale o si può affermare al livello 0,05 che gli abitati di Cerveteri erao effettivamete più alti? Cosideriamo i dati come risultati otteuti su due campioi gaussiai idipedeti: per prima cosa ci poiamo il problema se possiamo cosiderare eguali le due variaze. Vogliamo più precisamete effettuare, al livelo 0,05, il test H 0 σ 2 2 = σ1 2 cotro H 1 σ 2 2 > σ1 2 ifatti, poiché la stima della variaza sul secodo campioe risulta maggiore, o ci poiamo il problema che σ2 2 possa essere miore: o è eguale, cioè il risultato è casuale, o è effettivamete maggiore. Dalle tavole si ricava il valore F 0,95 ; 7,12 = 2, 91, e poiché 9,27 = 1,17, 7,92 accettiamo l ipotesi dell eguagliaza tra le due variaze. A questo puto possiamo effettuare il test dell ipotesi H 0 m1 = m 2 cotro H 1 m1 > m 2 I valori osservati per la variabile Z 13, 8 portao a 1,761. Poiché t 0,95 ;19 = 1,729, si rifiuta l ipotesi e si coclude al livello 0,05 che gli abitati di Cerveteri erao effettivamete più alti.

125 126 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI 6.5 Modelli statistici lieari: il teorema di Gauss-Markov Defiizioe Modelli lieari. Si chiama modello statistico lieare u modello el quale l osservazioe è data da variabili aleatorie X 1,..., X che si possao scrivere ella forma X i = k a ij θ j + σw i j=1 co le segueti proprietà: a k <, θ 1,..., θ k IR k e σ > 0 ; b la matrice k, A = [a ij ] è di rago massimo e quidi l applicazioe lieare ad essa associata A : IR k IR è iiettiva; c le variabili W 1,..., W soo gaussiae N0, 1 idipedeti. Questa defiizioe è ua geeralizzazioe della defiizioe che ora segue: i modelli di regressioe soo all origie dei modelli lieari. Defiizioe Modello di regressioe. Il modello è detto di regressioe quado è della forma co z 1 z 2 z e k <. X i = θ 1 + θ 2 z i + + θ k z k 1 i + σw i I questo caso la matrice A corrispodete è della forma A = 1 z 1... z1 k z... z k 1 ed è oto che ua tale matrice matrice di Vadermode è di rago massimo: i modelli di regressioe soo duque compresi ella Defiizioe Per i modelli lieari useremo ache la otazioe vettoriale X = Aθ+σW. Ua prima osservazioe è che le variabili aleatorie che costituiscoo l osservazioe i u modello lieare o formao u campioe: ifatti o soo equidistribuite, soo tuttavia idipedeti, ed X i N j a ijθ j, σ 2.

126 6.5. MODELLI LINEARI 127 L isieme dei parametri è Θ = IR k ]0, + [, e sullo spazio Ω = IR la verosimigliaza è data da L θ, σ 2 ; x 1,..., x = 2π i xi j 2 exp a 2 ij θ j log σ = 2 σ 2 = 2π x A θ 2 2 exp log σ. 2 σ 2 Per essere precisi, o si dovrebbe dire ella Defiizioe le variabili X i ammettoo la rappresetazioe X i = k j=1 a ij θ j + σw i, besì sotto la probabilità P θ,σ2, la legge di X i è eguale alla legge di k j=1 a ij θ j + σw i. Premettiamo u facile lemma: Lemma Sia A : IR k IR ua applicazioe lieare iiettiva. Dato x IR, il puto y IR k che miimizza x A y 2 è dato da y = Ux, essedo U = A t A 1 A t. Proof. Comiciamo ad osservare che ecessariamete k altrimeti A o potrebbe essere iiettiva; il caso k = è baale e quidi suppoiamo k <. Proviamo che A t A che è ua matrice k k è effettivamete ivertibile: sia ifatti y IR k tale che A t A y = 0. Allora si ha 0 = A t A y, y = A y, A y = A y 2 e, poiché A è iiettiva, segue che y = 0. È facile costatare che la fuzioe y x Ay 2 = j xj s a 2 jsy s ammette miimo è cotiua e tede a + per y + : per idividuare il puto di miimo, aulliamo le derivate parziali. Si ottiee, per ogi i : 0 = 2 a ji xj a js y s j s cioè a t ij x j = j j a t ij a js y s che, scritta i otazioe vettoriale, equivale a A t x = A t A y. La coclusioe è immediata. s Osservazioe Nelle ipotesi del Lemma precedete, si ha AU = P, dove P è la proiezioe ortogoale da IR sul sottospazio A IR k.

127 128 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI Toriamo all espressioe della verosimigliaza del modello ella forma vettoriale L θ, σ 2 ; x = 2π x A θ 2 2 exp log σ 2 σ 2 per idividuare le stime di massima verosimigliaza: i base al Lemma la stima di θ è θx = Ux o, scritta come variabile aleatoria, θ = U X, e la stima di σ 2 è σ 2 = X A θ 2 = X A U X 2 Le buoe proprietà di queste stime di massima verosimigliaza soo messe i luce dal risultato che viee ora euciato. Teorema Teorema di Gauss Markov. U X è ua stima corretta di θ, di rischio miimo tra tutte le stime lieari corrette. Ioltre è ua stima corretta di σ 2. X A U X 2 k Proof. Sia V X ua stima lieare di θ : più precisamete V è ua matrice k e V X i = j v ij X j è ua stima di θ i. Poiché V X i = j,s v ij a js θ s + σ j v ijw j ed ogi variabile W j ha valore atteso 0, affiché valga l eguagliaza E θ,σ2 [ V X i] = θi, deve valere l equazioe V A = I k, itededo co I k la matrice idetità su IR k. È immediato costatare che la matrice U soddisfa questo requisito. Cosideriamo viceversa ua matrice V che soddisfa questa codizioe, e calcoliamo il rischio della stima V X i : E θ,σ2[ θ i 2 ] [ 2 ] v ij X j = σ 2 E v ij W j = σ 2 vij 2 = σ 2 j j j j. v t ji 2 cioè è la orma della coloa i-ma della matrice V t. Sia P la proiezioe ortogoale di IR sul sottospazio AIR k e ricordiamo che P = AU vedi : V P = V A U e di cosegueza U t = P V t cioè la coloa i-ma della matrice U t è la proiezioe della coloa i-ma della matrice V t. Poiché la proiezioe dimiuisce la orma, segue che il rischio di UX è iferiore a quello di V X. La secoda parte del teorema è ua cosegueza del fatto che X AUX = σ W AUW = σ W P W

128 6.6. ESERCIZI 129 coicide co W proiettato sull ortogoale del sottospazio AIR k che è k-dimesioale. Se questo fosse costituito dal sottospazio delle prime k coordiate, sarebbe immediato verificare che E [ X A U X 2] = σ 2 k ; i geerale, si applica prima u cambio di base ortoormale i modo che i primi k vettori della uova base siao ua base dell ortogoale di AIR k e si tiee coto del Lemma Osservazioe Nella pratica, se o si dispoe di u idoeo software statistico, o si calcola la matrice A t A 1 A t, ma, osservati i valori x 1,..., x, i parametri θ 1,..., θ k si stimao cercado mi θ 1,...,θ k IR k i=1 x i k 2 a ij θ j j=1 cioè, come si usa dire, si stimao i parametri col metodo dei miimi quadrati. Osservazioe Ua curiosità storica. È facile verificare che Gauss è morto u ao prima che ascesse Markov, e viee duque aturale chiedersi come possao aver trovato u teorema isieme: i realtà la formulazioe del Teorema come è euciata sopra è ua rielaborazioe dovuta a Markov del metodo dei miimi quadrati ideato da Gauss. Il primo utilizzo di questo metodo è stata fatto per risolvere u problema di astroomia: el 1801 l astroomo Piazzi aveva scoperto Cerere il più grade degli asteroidi del sistema solare itero e e aveva seguito la traiettoria per qualche gioro, poi Cerere era divetato ivisibile. Le misurazioi effettuate veero pubblicate e e acque ua specie di sfida scietifica per ricostruire la traiettoria del piaetio: Gauss che aveva solo 24 ai a partire dalle misurazioi effettuate da Piazzi e ideado il metodo dei miimi quadrati, ricostruì la traiettoria di Cerere e previde quado e dove sarebbe riapparso. Dopo alcui mesi Cerere vee uovamete osservato proprio dove Gauss aveva previsto. 6.6 Esercizi Esercizio Vegoo prodotti artigiaalmete dei maufatti che dovrebbero essere lughi 120 cm, e si cosidera che la produzioe e buoa se almeo il 90 % hao ua lughezza compresa tra i 118 ed i 122 cm : assumedo che

129 130 CHAPTER 6. STATISTICA SUI MODELLI GAUSSIANI la variabile aleatoria che rappreseta la lughezza dei maufatti sia gaussiaa, imporre delle limitazioi sulla variaza affichè tale codizioe sia soddisfatta. Se vegoo misurati 27 pezzi e si trova i 27 xi = 54, 86, si può accettare al livello 0,05 l ipotesi che la produzioe sia di buoa qualità? Esercizio Ua ditta farmaceutica, che propagada u uovo farmaco, sostiee che abbrevia di almeo 4 giori la durata di ua malattia ifettiva rispetto ai farmaci tradizioali: a sostego di questa tesi riporta i dati di u esperimeto codotto, come si usa dire, i doppio cieco, sommiistrado a u gruppo di 11 pazieti il uovo farmaco e ad u gruppo di cotrollo di 7 pazieti i farmaci tradizioali. I dati delle durate delle malattie, espresse i giorate, soo i segueti: i 11 x i = 91, i 11 x2 i = 827, j 7 y j = 80, j 7 y2 j = 976. Piaificare u test per verificare, al livello 0,05, se l affermazioe della ditta può essere riteuta corretta. Esercizio Siao X 1,..., X, X +1 idipedeti co desità gaussiaa Nµ, σ 2 µ e σ 2 scoosciuti: siamo iteressati ad utilizzare i valori osservati di X 1,..., X per determiare u itervallo di fiducia detto itervallo di previsioe per X +1 al livello 1 α. A tale scopo, deotiamo X = X X e S 2 = i X i X 2 1. a Determiare la distribuzioe di probabilità di X +1 X S ; b otteere u itervallo di fiducia per la variabile sopra scritta e dedure u itervallo di previsioe per X +1 dati X 1,..., X. Esercizio Siao X 1,..., X e Y 1,..., Y m due campioi idipedeti co desità gaussiaa Nµ, σ 2 idetica per etrambi, e defiiamo X = X 1 + +X i X i X 2 e S 2 x = ed i modo aalogo Y e S 2 1 y. a Provare che, scelto comuque 0 < t < 1, la v.a. tsx tsy 2 è ua stima corretta della variaza σ 2. b Tra le stime sopra idicate, idividuare quella di rischio quadratico miimo. Esercizio Cosideriamo u campioe X 1,..., X 17 di variabili gaussiae co media µ scoosciuta e variaza 2 : suppoiamo che la somma dei valori osservati x x 17 sia eguale a 11,82. Qual è la soglia di accettazioe per il test dell ipotesi H 0 µ = 0 cotro l alterativa H 1 µ 0?