Elementi di Probabilità e Statistica

Transcript

1 Elemeti di Probabilità e Statistica Maurizio Pratelli Ao Accademico

2 Cotets 1 Nozioi fodametali Prime defiizioi Calcolo combiatorio Probabilità codizioata ed idipedeza Appedice: alcui complemeti Il cotroesempio di Vitali Probabilità e teoria dei umeri Esercizi Probabilità discreta Richiami sulle serie umeriche Itegrale rispetto ad ua misura discreta Variabili aleatorie discrete Valori attesi e mometi Variabili -dimesioali La fuzioe geeratrice delle Probabilità Teoremi limite Appedice Alcue dimostrazioi Alcui esercizi sigificativi Esercizi Statistica su uo spazio umerabile Due parole sulla statistica descrittiva Modelli statistici Teoria della Stima Stime e riassuti esaustivi Itervalli di fiducia Teoria dei test statistici Esercizi

3 4 CONTENTS 4 Probabilità geerale Costruzioe di ua Probabilità Costruzioe dell itegrale Variabili aleatorie geerali Variabili aleatorie co desità Esempi Desità uiforme Desità Gamma Desità Gaussiaa Covergeza di variabili aleatorie Appedice Alcue leggi di probabilità di rilevate iteresse i Statistica La misura di Cator Esercizi Statistica su uo spazio geerale Modelli statistici geerali Stime di massima verosimigliaza Ritoro al Lemma di Neyma-Pearso Due esempi Esercizi Statistica sui modelli gaussiai Campioi statistici gaussiai Test sulla media Test sulla variaza Cofroto tra due campioi gaussiai idipedeti Modelli lieari Esercizi

4 Chapter 1 Nozioi fodametali di Calcolo delle Probabilità. 1.1 Prime defiizioi. Di frote ad ua situazioe che suggerisce l uso del Calcolo delle Probabilità, icotriamo alcue affermazioi legate tra loro dai coettivi logici o, e, o : è facile covicersi che si può tradurre questo i ua famiglia di sottisiemi chiamati eveti di u opportuo isieme Ω, coteete l isieme vuoto e tutto l isieme, e stabile per le operazioi di uioe fiita, itersezioe e complemetazioe. Ua tale famiglia di isiemi si chiama u algebra di parti il termie aglosassoe è field. L isieme Ω, che usualmete rappreseta tutti i possibili esiti, è spesso chiamato spazio fodametale o ache soprattutto i Statistica spazio dei campioi. Il grado di fiducia che u sottisieme si realizzi chiamato probabilità, è rappresetato da u umero compreso tra 0 e 1; ioltre è ituitivo supporre che se due eveti soo icompatibili cioè hao itersezioe vuota la probabilità che si realizzi uo qualsiasi dei due debba essere la somma delle probabilità dei sigoli eveti. Questo equivale a dire che la probabilità è ua fuzioe d isieme fiitamete additiva. Comiciamo a dare le prime defiizioi provvisorie: Defiizioe Algebra di parti. Dato u isieme Ω, si chiama algebra di parti ua famiglia F di sottisiemi di Ω tale che: a l isieme vuoto e l itero isieme Ω soo elemeti di F; b se A F, ache il suo complemetare A c F; c se A e B soo elemeti di F, ache A B F. 5

5 6 CHAPTER 1. NOZIONI FONDAMENTALI Notiamo che automaticamete F è stabile ache per l itersezioe fiita: questo segue dalle proprietà b e c e dal fatto che A B c = A c B c. Ioltre le proprietà defiite i a soo ridodati: è sufficiete ad esempio supporre che Ω sia u elemeto di F ed automaticamete = Ω c è u elemeto di F. Defiizioe Probabilità fiitamete additiva. Data u algebra F di parti di u isieme Ω, si chiama probabilità fiitamete additiva ua fuzioe P : F [0, 1] tale che a se A, B F e A B =, allora P A B = P A + P B ; b PΩ = 1. Gli elemeti dell algebra di parti F soo chiamati eveti, si chiama trascurabile u eveto A tale che PA = 0 e si chiama quasi certo u eveto A tale che PA = 1. Vediamo alcue cosegueze immediate della defiizioe che si possoo provare facilmete per esercizio: 1. P = 0 ; 2. PA c = 1 PA ; 3. se B A, P A \ B = PA PB, dove si è posto A \ B = A B c ; 4. PA B = PA + PB PA B; 5. PA B C = PA + PB + PC PA B PA C PB C + PA B C, e così via... Le defiizioi sopra riportate, oltre ad essere molto ituitive, soo supportate da valide argometazioi logiche, tuttavia dal puto di vista matematico presetao ua difficoltà: la additività semplice o cosete di adare al limite, e di cosegueza di calcolare degli itegrali. La buoa proprietà per poter effettuare queste operazioi è la additività umerabile, detta ache σ-additività. Ioltre la famiglia di parti sulla quale possa essere defiita ua fuzioe σ-additiva è opportuo che sia stabile per uioe umerabile e o uioe fiita. Per questo motivo, seguedo quella che è ormai comuemete chiamata la defiizioe assiomatica di Probabilità secodo Kolmogorov, sostituiamo alle precedeti queste defiizioi. Defiizioe σ-algebra di parti. Dato u isieme Ω, si chiama σ-algebra di parti ua famiglia F di sottisiemi di Ω tale che:

6 1.1. PRIME DEFINIZIONI. 7 a l isieme vuoto e l itero isieme Ω soo elemeti di F; b se A F, ache il suo complemetare A c F; c se A 1 è ua successioe di elemeti di F, ache + =1 A F. Naturalmete ua σ-algebra è ache u algebra di parti: ifatti A B = A B.... Osservazioe La termiologia aglosassoe per ua famiglia di parti co tali proprietà è σ-field, che dovrebbe essere tradotto σ-campo termie i realtà poco usato; la termiologia fracese itrodotta dal Bourbaki è tribù. Defiizioe Probabilità. Assegato u isieme Ω ed ua σ-algebra F di parti di Ω, si chiama probabilità ua fuzioe P : F [0, 1] tale che a se A =1,2,... è ua successioe di elemeti di F a due a due disgiuti, si ha P + =1 A = + =1 PA ; b PΩ = 1. Ua fuzioe d isieme che gode della proprietà a della defiizioe è detta misura; la probabilità è duque ua misura ormalizzata. È facile costatare che ua fuzioe σ-additiva è ache semplicemete additiva. Ua tera Ω, F, P formata da u isieme Ω, ua σ-algebra F di parti di Ω ed ua probabilità P defiita su F viee chiamata spazio probabilizzato o ache spazio di Probabilità. La proprietà seguete spiega perché la σ-additività può essere cosiderata ua sorta di cotiuità. Proposizioe Sia F ua σ-algebra di parti di u isieme Ω e sia P : F [0, 1] semplicemete additiva e tale che PΩ = 1. Soo equivaleti le segueti proprietà: 1 P è σ-additiva; 2 se A 1 è ua successioe crescete di isiemi cioè A A +1, posto A = 1 A, si ha lim + PA = PA ; 3 se A 1 è ua successioe decrescete di isiemi, posto A = 1 A, si ha lim + PA = PA. Proof. Mostriamo ad esempio l equivaleza tra 1 e 2. Suppoiamo che sia verificata 1, e poiamo B 1 = A 1, B = A \ A 1 per > 1: gli isiemi B 1 soo a due a due disgiuti e per l additività fiita si ha PB = PA PA 1. Poichè 1 A = 1 B, si ha PA = + =1 PB = = lim h=1 PB h = lim PA.

7 8 CHAPTER 1. NOZIONI FONDAMENTALI Viceversa, suppoedo che sia verificata la proprietà 2, assegata ua successioe B 1 di eveti a due a due disgiuti, posto A = B 1... B, questa risulta essere ua successioe crescete di isiemi. Si ha allora P 1 B = P 1 A = lim PA = lim h=1 PB h = + =1 PB L equivaleza tra 2 e 3 si dimostra facilmete passado al complemetare. D ora iazi, le affermazioi 2 e 3 del precedete euciato verrao ache scritte ella seguete maiera, telegrafica ma perfettamete chiara: 2 A A = PA PA o ache PA PA ; 3 A A = PA PA o ache PA PA Ioltre le precedeti affermazioi soo ache equivaleti alle segueti lasciamo per esercizio la relativa facile dimostrazioe: 2bis: A Ω = PA 1 ; 3bis: A = PA 0. È aturale a questo puto chiedersi perchè la probabilità è assegata solo su alcui e o tutti i sottisiemi di Ω : il motivo di questo è ua difficoltà di ordie matematico, cioè o sempre è possibile estedere ua fuzioe σ-additiva a tutti i sottisiemi di u isieme Ω. Esamiiamo i particolare u esempio cocreto, immagiiamo di scegliere a caso u umero compreso tra 0 e 1 : lo spazio più aturale è Ω = [0, 1] e ad u itervallo ]a, b] i verità o importa se questo itervallo è aperto, chiuso.. sembra ragioevole attribuire come probabilità la sua lughezza b a. Ioltre è ovvio supporre che la probabilità attribuita sia ivariate per traslazioi modulo 1, cioè PA = PA + c, dove co A + c si itede il traslato di A modulo 1. Il famoso cotroesempio di Vitali, tradotto i questa situazioe, può essere letto el modo seguete: Proposizioe No è possibile costruire ua fuzioe P σ-additiva defiita su tutti i sottisiemi di [0, 1] e tale che: 1 P ]a, b] = b a se 0 a b 1 ; 2 P sia ivariate per traslazioi modulo 1. Osserviamo che quella euciata sopra è ua traduzioe ai ostri scopi dell esempio di Vitali, cosistete ella costruzioe di u sottisieme della retta IR o misurabile secodo Lebesgue. Toreremo su questo argometo ell Appedice.

8 1.2. CALCOLO COMBINATORIO Il caso di uo spazio fiito: elemeti di calcolo combiatorio. La difficoltà euciata alla fie del paragrafo precedete cioè l impossibilità di estedere la probabilità a tutti i sottisiemi di u isieme Ω o si poe se Ω è u isieme fiito cioè Ω = { ω 1,..., ω }. I tal caso è usuale ache se o obbligatorio cosiderare come σ-algebra degli eveti la famiglia PΩ di tutte le parti di Ω ; ioltre la probabilità è uivocamete determiata dai umeri p i = P {ω i }, p i 0, p p = 1. Per ogi eveto A Ω si ha ifatti PA = ω i A p i. D ora iazi scriveremo più brevemete Pω i aziché P {ω i }. La stessa cosa vale se l isieme Ω è umerabile Ω = {ω 1, ω 2,... } : usualmete si cosidera come σ-algebra F la famiglia PΩ di tutte le parti e vale la formula appea scritta, dove la somma fiita diveta la somma di ua serie se l eveto A è u isieme di cardialità ifiita. Nel caso i cui Ω sia u isieme fiito e gli eveti elemetari ω i siao equiprobabili, si parla di distribuzioe uiforme di probabilità su Ω; aturalmete o esiste ua distribuzioe uiforme di probabilità su u isieme Ω umerabile ma ifiito. Torado al caso di Ω fiito e di distribuzioe uiforme di probabilità, si ottiee la formula PA = A Ω = A Ω dove co A o co A si idica la cardialità o umero degli elemeti dell isieme A. La formula sopra scritta è ache chiamata rapporto tra casi favorevoli e casi possibili e talvolta ad essa ci si riferisce idicadola come la defiizioe classica di Probabilità. I questo ambito, i problemi divetao molto spesso problemi di calcolo combiatorio: delle varie formule riportate dai libri spesso co omi diversi da u libro all altro bisoga, a mio avviso, cooscere soltato tre. Tutte le altre si possoo dedurre da queste come esercizio. Prima di riportare queste formule premettiamo ua comoda otazioe: dato u itero, aziché dire u isieme di cardialità, scriveremo più brevemete {1,..., }. Proposizioe Siao k ed due iteri: il umero di applicazioi da {1,..., k} a {1,..., } è k Proposizioe Permutazioi. Il umero di modi i cui si possoo ordiare gli elemeti di {1,..., } è! Questa formula, così come la precedete, si dimostra per iduzioe.

9 10 CHAPTER 1. NOZIONI FONDAMENTALI Proposizioe Coefficiete biomiale. Siao 0 k : il umero di sottisiemi di {1,..., } formati da k elemeti è! = k k! k! Ache questa formula si dimostra per iduzioe, a scelta su k o su. Vediamo ora, a titolo d esempio, due formule che si possoo dedurre dalle presedeti: lasciamo la dimostrazioe come esercizio. Esercizio Siao 0 k : il umero di sottisiemi ordiati di {1,..., } formati da k elemeti è! k! Notiamo che questo umero coicide ache co il umero delle applicazioi iiettive da {1,..., k} i {1,..., }. Esercizio Siao k 1,..., k h iteri co k k h = : il umero di modi i cui si possoo scegliere h sottisiemi di {1,..., } formati rispettivamete da k 1,..., k h elemeti è! k 1!... k h! 1.3 Probabilità codizioata ed idipedeza. Quado si à coosceza della realizzazioe di u eveto, cambia la valutazioe di probabilità di ogi altro eveto: ad esempio se si sa che il umero uscito su u giro della roulette è u umero pari, la probabilità che sia uscito il umero 16 o è più 1 ma 1 ricordiamo che la ruota della roulette cotiee 37 caselle, umerate da 0 a 36, e che lo 0 o è cosiderato é pari é dispari. Se si è realizzato l eveto B = {2, 4,..., 36} cioè è uscito u umero pari soo rimasti 18 casi possibili dei quali uo è favorevole: se idichiamo co A = {16}, otiamo che la uova probabilità che è stata attribuita ad A verifica dalla formula PA B PB. Si possoo forire diversi esempi simili che sempre verificao la formula sopra riportata: queste cosiderazioi soo all origie della defiizioe che segue. Defiizioe Assegato uo spazio di probabilità Ω, F, P ed u eveto B o trascurabile, si chiama probabilità codizioata di A rispetto a B il umero P A B = P A B P B

10 1.3. PROBABILITÀ CONDIZIONATA ED INDIPENDENZA. 11 Essa idica la probabilità che viee associata all eveto A, coeretemete co la valutazioe precedetemete assegata, i seguito all iformazioe che si è realizzato l eveto B. Esercizio Provare che, fissato B o trascurabile, la fuzioe A PA B è effettivamete ua probabilità sulla σ-algebra F. Dati due eveti A e B o trascurabili, è immediato costatare che vale la formula PA B = PA B.PB = PB A.PA. Proposizioe Siao A 1,..., A eveti, e suppoiamo che A 1... A 1 sia o trascurabile: vale la formula P A 1... A = P A1.P A2 A1... P A A1... A La dimostrazioe si ottiee immediatamete scrivedo i vari termii; si oti che, se 1 k < 1, ache A 1... A k è o trascurabile. Defiizioe Sistema di alterative. Si chiama sistema di alterative ua partizioe di Ω i eveti o trascurabili B 1,..., B. Ricordiamo che partizioe sigifica che gli isiemi B i soo a due a due disgiuti e che la loro uioe è l itero isieme Ω. Proposizioe Formula di Bayes. Sia B 1,..., B u sistema di alterative: assegato ua qualuque eveto A o trascurabile, valgoo le formule PA = P A Bi P Bi i=1 P B i A = P A Bi P Bi j=1 P A Bj P Bj Proof. Per quato riguarda la prima formula, si oti che A = A B 1... A B e questi eveti soo a due a due disgiuti: si ha pertato PA = P A B i = i=1 P A B i P Bi i=1 La secoda formula e è ua cosegueza immediata. Usualmete si da il ome di formula di Bayes all equazioe 1.3.3, che è chiamata talvolta formula delle probabilità delle cause.

11 12 CHAPTER 1. NOZIONI FONDAMENTALI Le formule della Proposizioe soo valide ache se il sistema di alterative azichè essere fiito è umerabile, aturalmete sostituedo alle somme fiite le somme di ua serie. Esercizio Qual è la probabilità che, i ua estrazioe del lotto, tutti e 5 i umeri estratti o siao superiori a 20? Provare a risolvere questo facile esercizio i due modi, utilizzado cioè il calcolo combiatorio e la formula Itroduciamo ora il cocetto di idipedeza stocastica: vogliamo tradurre co ua formula matematica l idea che la coosceza che si è realizzato l eveto A o modifica la valutazioe di probabilità di B e viceversa. A tale scopo cosideriamo due eveti A e B o trascurabili e proviamo a scrivere le eguagliaze PA = PA B e PB = PB A : u esame immediato mostra che queste soo equivaleti tra loro ed equivaleti all eguagliaza PA B = PA.PB. A differeza delle due precedeti, quest ultima è simmetrica rispetto ai due eveti ed ha seso ache se uo dei due o ache tutti e due soo trascurabili: e segue che questa è la buoa defiizioe di idipedeza. Defiizioe Idipedeza stocastica. Due eveti A e B soo detti idipedeti se vale l eguagliaza PA B = PA.PB È u facile esercizio provare le segueti affermazioi: Se A e B soo idipedeti, soo idipedeti ache A c e B; A e B c ; A c e B c. Se PA = 0 oppure PA = 1, A è idipedete da qualsiasi altro eveto. Due eveti icompatibili cioè che hao itersezioe vuota o possoo essere idipedeti, a meo che uo dei due sia trascurabile. Vediamo ora come si estede questa defiizioe al caso di eveti co 3. Defiizioe Idipedeza di più eveti. Assegati eveti A 1,..., A, questi si dicoo idipedeti se per ogi itero k co 2 k e per ogi scelta di iteri 1 i 1 < i 2 <... < i k, vale l eguagliaza P A i1 A ik = P Ai1.. P Aik

12 1.4. APPENDICE: ALCUNI COMPLEMENTI. 13 La defiizioe appea riportata è piuttosto misteriosa: risulterà più chiara quado verrà itrodotta la ozioe di idipedeza per variabili aleatorie. È istruttivo tuttavia provare per esercizio la proposizioe seguete, che i qualche modo giustifica la defiizioe appea forita. Proposizioe Gli eveti A 1,..., A soo idipedeti se e solo se, per ogi possibile scelta di B i = A i oppure B i = A c i, vale l eguagliaza P B 1... B = P B1.. P B Esercizio Sull isieme Ω = {1, 2, 3, 4} muito della distribuzioe uiforme di probabilità, verificare che gli eveti A = {1, 2}, B = {1, 3} e C = {2, 3} soo a due a due idipedeti, ma o soo globalmete idipedeti Osservazioe U caso tipico di idipedeza si ha elle prove ripetute elle medesime codizioi: ad esempio soo idipedeti i risultati di successivi laci di moete o successivi giri della ruota della roulette, ma o soo idipedeti i risultati delle 5 estrazioi el lotto. 1.4 Appedice: alcui complemeti Il cotroesempio di Vitali. Cosideriamo l itervallo [0,1]: Vitali ha provato che o è possibile costruire ua fuzioe m defiita su tutti i sottisiemi di [0,1] e tale che a m è σ-additiva; b m è ivariate per traslazioi modulo 1; c m [0, 1] = 1. Comiciamo ad osservare che se esiste ua fuzioe d isieme co le proprietà a, b e c, ecessariamete m ]a, b] = b a, se 0 a < b 1: è immediato verificare questa eguagliaza per a e b razioali e si estede al caso geerale per cotiuità vedi Tuttavia questa eguagliaza i realtà o ci servirà ella costruzioe dell esempio. Cosideriamo su [0, 1] la relazioe d equivaleza : x R y se x y è razioale x y Q. Sia A l isieme delle classi di equivaleza e per ogi a A cosideriamo utilizzado l assioma della scelta u elemeto x a a: chiamiamo poi E l isieme formato da tutti questi puti, cioè E = { } x a a A. Chiamiamo Q = Q ] 0, 1 [ l isieme dei razioali compresi tra 0 e 1, e per ogi r Q, sia E r l isieme otteuto effettuado su E la traslazioe di r modulo 1, più precisamete { } E r = x [0, 1] x r E, oppure x r + 1 E

13 14 CHAPTER 1. NOZIONI FONDAMENTALI Per ipotesi, m E r = m E, qualuque sia r. Si provao facilmete queste due affermazioi: 1 se r s, allora E r E s = ; 2 [0, 1] è l uioe degli isiemi E r, al variare di r Q. A questo puto abbiamo costruito il cotroesempio: se m esiste, si deve avere ifatti 1 = m [0, 1] = r Q m E r. Ma poiché questi umeri soo tutti eguali a m E, la somma della serie o può che predere il valore 0 se m E = 0, oppure + se m E > 0. Notiamo che l esisteza di questo isieme E o è data i modo costruttivo detto ituitivamete o si riesce a capire come sia fatto questo isieme ma è ua cosegueza dell assioma della scelta: se o si accetta l assioma della scelta questa costruzioe cade. È iteressate osservare che questa difficoltà o sussiste co le fuzioi fiitamete additive: è sempre possibile ifatti prolugare i modo però o uico ua fuzioe fiitamete additiva defiita su u algebra di parti di u isieme a tutti i sottisiemi. Acora ua volta però questo prolugameto o è costruttivo, ma ua cosegueza dell assioma della scelta. Vedremo più avati ivece che è possibile prolugare i modo uico ua fuzioe σ-additiva defiita su u algebra A di parti di u isieme Ω alla più piccola σ-algebra che la cotiee, e questo sarà fatto co u procedimeto effettivamete costruttivo Probabilità e teoria dei umeri. Ci soo delle iteressati applicazioi della ozioe di Probabilità alla Teoria dei umeri; i questo primo corso o c è il tempo di addetrarci i questo capitolo, ma ci limitiamo ad u paio di esempi. Esempio La fuzioe di Eulero. Si chiama fuzioe di Eulero la fuzioe φ eguale per 2 al umero di iteri tra 1,..., primi co : la formula di Eulero afferma che, se p 1,..., p m soo i divisori primi di, si ha φ = p 1 p m Di questa formula di può dare ua dimostrazioe probabilistica: più precisamete si cosiderio sullo spazio Ω = {1,..., } la distribuzioe di probabilità uiforme ed i sottisiemi Ap i costituiti dai multipli di p i compresi tra 1 e. 1 Provare che gli eveti Ap i soo idipedeti e di cosegueza ache i loro complemetari.

14 1.5. ESERCIZI 15 2 Osservare che l itersezioe dei complemetari degli isiemi Ap i coicide co l isieme gli iteri primi co e dedure la formula di Eulero. Esempio La desità di Dirichlet. Sia A u sottisieme dell isieme dei umeri aturali IN, e defiiamo per i sottisiemi A per il quali questo limite esiste A {1,..., } da = lim La fuzioe sopra defiita è u tipico esempio di fuzioe semplicemete additiva ma o σ-additiva. a Verificare che la fuzioe d è additiva ma o σ-additiva ed esibire u sottisieme B IN tale che db o sia defiita. b Assegato u itero p, calcolare la desità dell isieme G p formato dai multipli di p e provare che, se p e q soo primi tra loro, gli isiemi G p e G q risultao idipedeti. N.B. La famiglia dei sottisiemi A per i quali è defiita la desità i realtà o è u algebra: tale famiglia ifatti è stabile per passaggio al complemetare e la verifica di questo è immediata, ma o è stabile per l uioe. Provare questo fatto così come esibire u sottisieme B che o ha desità è u esercizio decisamete impegativo. 1.5 Esercizi Esercizio Si lacia tre volte ua moeta equilibrata, e si cosiderio gli eveti A le facce uscite o soo tutte eguali e B al più ua faccia è testa. Gli eveti A e B soo idipedeti? Qual è la risposta se la moeta o è equilibrata? Esercizio U dado equilibrato, co le facce umerate da 1 a 6, viee laciato volte: qual è la probabilità che il umero 6 esca esattamete 2 volte? Per quale valore di questa probabilità è massima? Esercizio Quate volte almeo si deve laciare u dado affiché ci sia ua probabilità superiore al 99% che esca almeo u 6? Esercizio I ua città, il 17% della popolazioe si è vacciato cotro l iflueza : all apice dell epidemia di iflueza, le persoe o vacciate si ammalao co probabilità 0,12 e quelle vacciate ivece co probabilità 0,02. Qual è la probabilità di ammalarsi? Qual è la probabilità che ua persoa ammalata si sia vacciata?

15 16 CHAPTER 1. NOZIONI FONDAMENTALI Esercizio Ua fabbrica produce dei compoeti elettroici che vede i scatole di 10 pezzi. Prima di essere messa i vedita, ogi scatola viee cotrollata el modo seguete: si scelgoo a caso 5 pezzi e se almeo 4 risultao fuzioati la scatola passa alla vedita. a Qual è la probabilità che ua scatola co esattamete 8 pezzi fuzioati passi alla vedita? b Stessa domada per ua scatola co 4 pezzi fuzioati.

16 Chapter 2 Probabilità e variabili aleatorie su uo spazio umerabile 2.1 Richiami sulle serie umeriche. Premettiamo alcui richiami sulle serie umeriche. Data ua successioe di umeri reali a 1, a 2,..., posto s = a 1 + +a, si chiama somma della serie il limite se esiste della successioe s 1, e si dice che la serie coverge se questo limite esiste. Più precisamete, per defiizioe + =1 a = lim k=1 a k = lim s Se la serie coverge, la successioe a 1 è ifiitesima ifatti si ha a = s s 1, ma o è vero il viceversa u esempio tipico è la successioe a = 1. Vediamo ora alcue proprietà importati delle serie a termii positivi cioè a 0, qualuque sia : i tal caso la successioe delle somme parziali s 1 è mootoa crescete e pertato esiste comuque fiito o ifiito il limite. Ha sempre seso quidi scrivere + =1 a [0, + ]. Le serie a termii di sego positivo hao iteressati proprietà, i particolare si può cambiare l ordie della somma e sommare per pacchetti: di seguito vediamo gli euciati precisi elle due segueti proposizioi, elle quali si suppoe che la successioe a 1 sia formata da termii positivi. Proposizioe Sia v : IN IN ua applicazioe biuivoca: allora + =1 a = + a v =1 17

17 18 CHAPTER 2. PROBABILITÀ DISCRETA Proposizioe Sia A 1, A 2,... ua partizioe di IN o importa se formata di isiemi fiiti o ifiiti: vale la formula + =1 a = + a k =1 k A Proof. Dimostriamo 2.1.1, lasciado per esercizio la aaloga dimostrazioe di Chiamiamo r = max v1,..., v e sia s = a v1 + +a v : per ogi si ha e quidi, al limite, s a a r + =1 a v + a =1 + a I modo aalogo si ottiee la diseguagliaza opposta e di cosegueza l eguagliaza. Queste due proprietà si estedoo immediatamete alle serie assolutamete covergeti: ricordiamo che ua serie umerica è detta assolutamete covergete se si ha + a < + =1 Seza scrivere ua formalizzazioe esplicita, otiamo che la serie è assolutamete covergete se e solo se covergoo a u umero reale sia la serie dei termii positivi che quella dei termii egativi, e ad etrambe si possoo applicare i risultati di e Esercizio Provare co dei cotroesempi che se la serie è covergete ma o assolutamete covergete gli euciati precedeti soo falsi. I particolare vale questo curioso risultato, del quale o diamo la dimostrazioe che o ci servirà più avati lasciadola come esercizio impegativo. Proposizioe Suppoiamo che la successioe a 1 sia tale che la seria ad essa associata coverga ma o coverga assolutamete: assegato u qualsiasi l [, + ], è possibile determiare ua fuzioe biuivoca v : IN IN tale che si abbia lim a vk = l k=1 =1

18 2.2. INTEGRALE RISPETTO AD UNA MISURA DISCRETA. 19 Come suggerimeto, possiamo ivitare a osservare che i termii della successioe devoo essere ifiitesimi poichè la serie coverge ed etrambe le serie dei termii positivi e di quelli egativi della successioe divergoo. Abbiamo visto i sostaza che proprietà veramete buoe di sommabilità si hao solo co serie assolutamete covergeti. 2.2 Itegrale rispetto ad ua misura discreta. Quado la misura è defiita su isieme umerabile la costruzioe dell itegrale è particolarmete semplice, sostazialmete è ua cosegueza delle proprietà delle somme di serie umeriche: comiciamo duque ad esamiare questo caso semplificato, esplicitado le proprietà fodametali dell itegrale. Cosideriamo u isieme umerabile E = {e 1, e 2,...} sul quale sia defiita ua misura m : suppoiamo che tutti i sottisiemi di E siao misurabili come abbiamo detto el capitolo precedete, sugli isiemi umerabili o ci soo problemi di misurabilità e suppoiamo che, per ogi i, me i < + c è u piccolo abuso di otazioi perchè avremmo dovuto scrivere m {e i }, ma usiamo questa otazioe abbreviata. Per ogi isieme A E si ha m A = e i A me i Cosideriamo ora ua fuzioe f : E IR ; o ci poiamo problemi di misurabilità sui quali ivece saremo più accurati ei capitoli successivi perché ogi sottisieme di E è misurabile. Defiizioe Itegrale. Si dice che la fuzioe f è itegrabile se fei mei < + ed i tal caso chiamiamo itegrale di f il umero f dm = fe i me i i i Idichiamo co L 1 lo spazio delle fuzioi itegrabili. Prima di procedere co le proprietà esseziali dell itegrale, osserviamo che dai risultati sulle serie umeriche che soo stati ricordati risulta evidete perché si richiede che la serie dei termii fe i me i coverga assolutamete : seza questa codizioe ifatti, se scegliessi di umerare i puti dell isieme E secodo u altro ordiameto, potrei avere per l itegrale u risultato diverso.

19 20 CHAPTER 2. PROBABILITÀ DISCRETA Osserviamo acora che, se f è a valori positivi, ha sempre seso parlare di itegrale di f, cioè f dm = i 1 fe ime i [0, + ]. Lasciamo per esercizio le segueti facili proprietà: 1. se f, g L 1, ache af + g L 1 e af + gdm = a f dm + g dm; 2. se 0 f g, allora f dm g dm; 3. f è itegrabile se e solo se f dm < +, ioltre f dm f dm; 4. se 0 f e f dm = 0, allora f vale ideticamete 0 eccetto evetualmete su u isieme trascurabile. Ricordiamo che si chiama trascurabile u isieme che ha misura ulla; ua proprietà verificata ovuque eccetto che su u isieme trascurabile è detta valere quasi ovuque e si scrive q.o., metre i probabilità si preferisce dire quasi certamete e si scrive q.c.. I due euciati che seguoo soo le proprietà più importati di passaggio al limite sotto il sego d itegrale. Teorema Beppo Levi. Sia f 1 ua successioe crescete di fuzioi positive, covergete ad f : la successioe degli itegrali f dm 1 coverge crescedo a f dm. I maiera più sitetica, scriveremo d ora iazi u euciato come il precedete ella forma 0 f, f f = f dm f dm Proof. Iazi tutto osserviamo che esiste lim f dm poiché si tratta di ua successioe mootoa crescete e che tale limite è iferiore o eguale a f dm : occorre poi distiguere i casi i cui l itegrale di f sia fiito o ifiito. Cosideriamo il primo caso, e sia A = f dm ; per ogi ε > 0, esiste u k tale che la somma fiita i=1,...,k fe ime i A ε. Poiché per ogi puto e i, f e i me i coverge a fe i me i, covergoo ache le somme fiite e si trova che, per abbastaza grade f dm i=1,...,k f e i me i A 2ε, e questo completa la dimostrazioe. Il caso i cui f dm = + è sostazialmete idetico: qualuque sia B > 0, esiste u k tale che i=1,...,k fe ime i B, e co gli stessi passaggi appea svolti si prova che, per abbastaza grade, f dm B 2.

20 2.2. INTEGRALE RISPETTO AD UNA MISURA DISCRETA. 21 Teorema Covergeza domiata. Sia f 1 ua successioe di fuzioi covergete putualmete ad f e suppoiamo che esista g positiva itegrabile tale che si abbia f g qualuque sia : vale allora la relazioe lim f dm = f dm Proof. Comiciamo ad osservare che la codizioe di domiazioe f g valida ovviamete ache per il limite f implica che ogi f ed f siao itegrabili. Notiamo poi che si ha la maggiorazioe f dm f dm f f dm = f e i fe i mei Dato ε > 0, esiste u itero k tale che + i=k+1 ge ime i < ε, e di cosegueza poiché f e i fe i 2 gei, qualuque sia, + i=k+1 f e i fe i mei < 2 ε. A questo puto, poiché le somme fiite covergoo, per abbastaza grade, k i=1 f e i fe i mei < ε e quidi f dm f dm < 3ε e questo coclude la dimostrazioe. Proviamo ora co u cotroesempio che ell euciato precedete, se si toglie l ipotesi di domiazioe, il risultato di passaggio al limite sotto il sego d itegrale o è più vero. Esercizio Cosideriamo sullo spazio IN degli iteri strettamete positivi la misura m tale che mk = 2 k otiamo che si tratta di ua probabilità, e cosideriamo la successioe di fuzioi così defiite: i 1 f k = { 2 se k = 0 se k Verificare che le fuzioi così defiite soo itegrabili, che la successioe o è domiata, che coverge putualmete a ua fuzioe itegrabile ma gli itegrali o covergoo. Sarà importate il seguete risultato: Teorema Diseguagliaza di Schwartz. Siao f, g tali che f 2 dm < + e g 2 dm < + : allora il prodotto fg è itegrabile e vale la diseguagliaza fg dm f 2 dm g 2 dm

21 22 CHAPTER 2. PROBABILITÀ DISCRETA Ioltre, se la diseguagliaza sopra scritta è ua eguagliaza, le fuzioi f e g coicidoo a meo di ua costate moltiplicativa cioè esiste t reale tale che fe i = t ge i q.o.. Proof. Comiciamo ad osservare che la fuzioe f g è itegrabile: si ha ifatti, per ogi puto e i, fe i ge i f 2 e i + g 2 e i. Per ogi t reale, si ha tf g dm = t 2 f 2 dm + g 2 dm + 2t fg dm La fuzioe sopra scritta è u poliomio di II grado i t, e se è a valori positivi il relativo discrimiate è egativo, cioè fg dm 2 f 2 dm. g 2 dm 0. Ioltre se il discrimiate è eguale a 0, il poliomio si aulla i u puto t, cioè esiste t IR tale che si abbia tf + g 2 dm = 0 e questo equivale a dire che tf + g = 0 q.o Osservazioe La teoria esposta i questo paragrafo rimae valida se l isieme E o è umerabile, ma la misura m è cocetrata su u isieme umerabile, più precisamete se esiste ua successioe di puti e 1, e 2,... tale che, per ogi A E, si abbia m A = e i A me i Ifatti i questo caso il complemetare dell uioe dei puti che formao la successioe è trascurabile e, el calcolo degli itegrali, iteressa solo il valore di ua fuzioe ei puti e i i 1. Si usa dire i questo caso che la misura è discreta, o ache atomica. 2.3 Variabili aleatorie discrete. Cosideriamo ora, i questo e el successivo capitolo, uo spazio di probabilità Ω, F, P el quale l isieme Ω è supposto umerabile. Alla defiizioe di variabile aleatoria premettiamo u esempio. Suppoiamo di aver putato alla roulette 1 E sul umero 28 ed 1 E sul pari: possiamo domadarci qual è la probabilità di vicere più di 10 E, oppure la probabilità di perdere. Lo spazio aturale per descrivere l esito di u giro della roulette è l isieme Ω = {0, 1,..., 36} muito della distribuzioe uiforme di probabilità, ma le domade scritte sopra o corrispodoo direttamete a sottisiemi di Ω.

22 2.3. VARIABILI ALEATORIE DISCRETE. 23 Siamo aturalmete portati a itrodurre ua fuzioe X : Ω IR la fuzioe vittoria etta che i questo esempio risulta essere così defiita: Xω = 36 ω = 28 0 ω pari, ω 28 1 ω = 0 2 ω dispari La risposta alla prima domada diveta P { ω i Xωi 10 } = P X 1 [10, + [ = 1 e la risposta alla secoda è 37 P { ω i Xωi < 0 } = P X 1 ], 0[ = I defiitiva, abbiamo aturalmete itrodotto ua fuzioe X : Ω IR ed abbiamo trasportato la probabilità dai sottisiemi di Ω ai sottisiemi di IR. Defiizioe Variabile aleatoria. Assegato uo spazio di probabilità Ω, F, P co Ω umerabile, si chiama variabile aleatoria reale discreta ua fuzioe X : Ω IR. Defiizioe Legge di Probabilità. Si chiama legge di probabilità o ache distribuzioe di probabilità della v.a. reale X la probabilità defiita sui sottisiemi di IR dalla formula P X A = P X 1 A La probabilità P X viee ache chiamata la probabilità immagie di P mediate X e idicata X P. Che si tratti effettivamete di ua probabilità è immediato: se A 1 è ua successioe di sottisiemi di IR a due a due disgiuti, ache le immagii iverse soo disgiute e si ha P X A = P X 1 A = P X 1 A = P X A Si verifica ioltre immediatamete che P X IR = 1. È ache immediato costatare che l immagie di ua probabilità è associativa el seso che, se Y = g X, si ha Y P = g X P = g XP. Quado due variabili aleatorie hao la stessa legge di probabilità soo dette equidistribuite o ache isoome. Vediamo più i dettaglio come è fatta la legge di probabilità di ua v.a. discreta. Poiché Ω è umerabile, ache l immagie di X è u sottisieme fiito o umerabile della retta, cioè x 1, x 2,... ; per ogi puto x i, si cosideri il umero px i = P { X = x i } = P X 1 x i. Vale la formula: P X A = P X 1 A = x i A px i

23 24 CHAPTER 2. PROBABILITÀ DISCRETA ifatti X 1 A = { } x i A X = xi. Naturalmete i umeri pxi soo positivi e i px i = 1; alla fuzioe x px = P { X = x } viee dato il ome di fuzioe di probabilità qualcuo usa ache il termie desità discreta. Quato alla scrittura { X = x }, è bee familiarizzarsi subito co la otazioe molto comoda { X A } = { ω i Xωi A } = X 1 A. Ad esempio { a < X b } = X 1 ]a, b]. Osservazioe Assegata ua probabilità discreta Q su IR cioè i pratica, come abbiamo visto, del valori x 1, x 2,... e dei umeri positivi px1, px 2,... co i px i = 1 è aturale chiedersi se esiste ua v.a. X la cui legge di probabilità sia Q. La risposta è affermativa e la costruzioe è ache molto semplice: si può cosiderare come Ω l isieme dei valori Ω = { x 1, x 2,... }, come probabilità P quella defiita da P {x i } = px i e come applicazioe X : Ω IR l applicazioe idetica cioè Xx i = x i. La verifica dell eguagliaza P X = Q è immediata. Questa osservazioe sembra baale, ma dal puto di vista metodologico è ivece importate: ella pratica spesso si icotra solo la legge di probabilità di ua v.a., e questo ci dice che o dobbiamo porci domade sull esisteza di uo spazio Ω e di ua applicazioe X : Ω IR perché la risposta è già data da questa costruzioe caoica. Vediamo ora rapidamete le pricipali variabili aleatorie discrete. Esempio Variabile Biomiale. La variabile Biomiale di parametri e p, itero positivo e 0 < p < 1, cosidera ripetizioi i codizioi di idipedeza di u esperimeto che ha probabilità p di successo e cota il umero dei successi otteuti. La legge biomiale viee idicata B, p e si scrive X B, p ; quado = 1 viee ache chiamata legge di Beroulli di parametro p. I valori della v.a. biomiale soo gli iteri {0, 1,..., } e vale, per 0 k, la formula pk = P { X = k } = p k 1 p k k Esempio Variabile di Poisso. La variabile di Poisso di parametro λ, λ > 0 è ua variabile che assume tutti i valori iteri positivi co probabilità p = P { X = } = e λ λ!

24 2.4. VALORI ATTESI E MOMENTI. 25 Esempio Variabile Geometrica. La variabile Geometrica di parametro p, 0 < p < 1 cosidera ripetizioi cosecutive di u esperimeto che ha probabilità p di successo e cota il umero di prove che è stato ecessario effettuare per otteere u successo. I valori possibili soo gli iteri strettamete positivi e si ha p = P { X = } = 1 p 1 p Esercizio Asseza di memoria della legge geometrica. Provare che se X è ua variabile geometrica, per, h iteri strettamete positivi, vale la formula P { X = + h } { } X > = P X = h Provare viceversa che se X è ua v.a. a valori iteri strettamete positivi che soddisfa l equazioe 2.3.1, ecessariamete è ua variabile geometrica. Esercizio Variabile Biomiale egativa.. La variabile Biomiale egativa può essere defiita i questo modo: si ripete i codizioi di idipedeza u esperimeto che ha probabilità p di successo fio a che questo si realizza k volte; la variabile cota il umero di tetativi che è stato ecessario effettuare. Determiare la sua legge di probabilità. Osservazioe: il ome, u pò curioso, di biomiale egativa, deriva dall eguagliaza 1 k p k 1 p k = p k p 1 k k k Ricordiamo che, se α è u umero reale qualsiasi e k u itero positivo, per defiizioe α α.α 1... α k + 1 = k k! Esercizio Variabile ipergeometrica. Cosideriamo u ura coteete r sfere rosse e b sfere biache, ed i essa compiamo estrazioi seza reimbussolameto ovviamete si deve avere r + b: cosideriamo la v.a. X che cota il umero di sfere rosse che soo state estratte. Di tale variabile determiare la distribuzioe di probabilità, il valore atteso, la variaza. 2.4 Valori attesi e mometi. Prima di dare la defiizioe di valore atteso, proviamo u teorema che si dimostra fodametale i Calcolo delle Probabilità.

25 26 CHAPTER 2. PROBABILITÀ DISCRETA Teorema Itegrazioe rispetto a ua probabilità immagie. Siao X ua v.a. discreta, P X = X P la sua legge di probabilità e ϕ : IR IR. ϕ è itegrabile rispetto a P X se e solo se ϕ X è itegrabile rispetto a P, e i tal caso vale l eguagliaza ϕx dp X x = ϕ Xω dpω IR Proof. Comiciamo a supporre che ϕ sia a valori positivi. Poiché Ω è umerabile, la sua immagie mediate X è u sottisieme fiito o umerabile di IR della forma x 1, x 2,.... Cosideriamo gli isiemi A i = {X = x i } = { ωj Xωj = x i } e osserviamo che pxi = ω j A i Pω j. Poichè quelle che seguoo soo somme di serie a termii positivi, possiamo usare la proprietà associativa della somma: si ottiee pertato ϕx dp X x = i ϕ Xω j Pω j = i ω j A i j Ω ϕx i px i = i ϕ Xω j Pω j = ϕx i Pω j = ω j A i Ω ϕ Xω dpω cioè l eguagliaza desiderata. Il caso geerale si ottiee scrivedo la fuzioe ϕ ella forma ϕ = ϕ + ϕ e sommado i due itegrali. Ricordiamo che co ϕ + x = max ϕx, 0 e ϕ x = mi ϕx, 0 itediamo la parte positiva e parte egativa della fuzioe ϕ. Siamo ora i grado di dare la seguete defiizioe: Defiizioe Valore atteso. Data ua v.a. reale discreta X, si dice che essa ha valore atteso se è itegrabile rispetto a P, e i tal caso si chiama valore atteso l itegrale E [ X ] = Xω dpω = X ω i P ωi Ω i Il valore atteso è ache chiamato speraza matematica; il termie aglosassoe è expectatio e quello fracese espérace. Talvolte viee ache chiamato valor medio, ma è u termie improprio perché si potrebbe cofodere co la media aritmetica dei valori della v.a. quado questa prede u umero fiito di valori. I base al teorema abbiamo la seguete regola pratica: data ua v.a. discreta che prede i valori x 1, x 2,... co probabilità px 1, px 2,...,

26 2.4. VALORI ATTESI E MOMENTI. 27 essa ammette valore atteso se e solo se i x i px i < +, ed i tal caso si ha E[X] = i x i px i. Dalle proprietà dell itegrale derivao alcue proprietà immediate del valore atteso, ad esempio se esiste E[aX + b] = a E[X] + b. Notiamo ache che se X è a valori positivi, ha sempre seso scrivere E[X] = Xω dpω [0, + [. Ω Esercizio Sia X ua variabile aleatoria a valori iteri positivi: provare che vale la formula E [ X ] = P { X > } = P { X } 0 1 Defiizioe Mometi. Sia 1 p < + e X ua v.a.: si chiama mometo assoluto di ordie p il umero E [ X p] = x i p px i [0, + ] i e se questo umero risulta fiito, si dice che X ammette mometo di ordie p. Dato u itero positivo, se X ammette mometo di ordie, si chiama mometo di ordie il umero E [ X ]. Proposizioe Siao 1 p < q < + : se X ha mometo di ordie q, ammette ache mometo di ordie p. Proof. Per ogi umero reale x, vale la diseguagliaza x p 1 + x q : si ha pertato E [ X p] = x i p px i 1 + xi q px i = 1 + E [ X q] i i Defiizioe Variaza. Sia X ua variabile aleatoria dotata di mometo secodo: si chiama Variaza di X il umero V ar X = E [ X E[X] 2] = E [ X 2 ] E[X] 2 Esercizio Provare che vale la relazioe V ar ax + b = a 2 V ar X. Lemma Diseguagliaza di Markov. Sia X ua v.a. positivi e t ua costate positiva: vale la diseguagliaza t P { X t } E [ X ] a valori

27 28 CHAPTER 2. PROBABILITÀ DISCRETA Proof. Itroduciamo ua otazioe: se A è u isieme, si deota co I A la fuzioe idicatrice dell isieme A, più precisamete I A ω = { 1 se ω A 0 se ω / A Si parte duque dalla diseguagliaza tra variabili aleatorie t I {X t} X, e passado alla coseguete diseguagliaza per gli itegrali si ottiee il risultato. Cosegueza immediata della diseguagliaza di Markov è la seguete, che spiega perché la variaza è ua misura della dispersioe di ua variabile aleatoria. Proposizioe Diseguagliaza di Chebishev. Sia X ua v.a. dotata di mometo secodo: vale la diseguagliaza t 2 P { X E[X] t } V ar X Proof. Si applica la diseguagliaza di Markov, cosiderado come costate positiva t 2 e come variabile aleatoria X E[X] 2 : si oti che { X E[X] t } = { X E[X] 2 t 2 } Corollario La variaza di ua v.a. X è eguale a 0 se e solo se X è costate q.c. Proof. Da ua parte, se X = c q.c., si ha E[X] = c e E[X 2 ] = c 2 e quidi la variaza si aulla. Suppoiamo viceversa che V ar X = 0: poiché { X E[X] 0 } = 1 { X E[X] 1 } e ciascuo degli isiemi { X E[X] 1 } è trascurabile, ache { X E[X] 0 } è trascurabile. 2.5 Variabili aleatorie a più dimesioi, variabili aleatorie idipedeti. Per semplicità di otazioi, trattiamo il caso di variabili aleatorie a valori i IR 2, ma idetica è la trattazioe di variabili aleatorie a valori i IR.

28 2.5. VARIABILI N-DIMENSIONALI 29 Cosideriamo duque ua variabile aleatoria doppia o bidimesioale, cioè ua applicazioe X, Y : Ω IR 2. La sua legge di probabilità deotata P X,Y = X, Y P è ua probabilità sui sottisiemi di IR 2. L immagie di X, Y è u sottisieme umerabile di IR 2 cioè u isieme di puti { x i, y j } i 1, j 1 e la fuzioe di probabilità è defiita da px i, y j = P { } X = x i, Y = y j. Per ogi sottisieme B IR 2 si ha P X,Y B = P { X, Y B } = x i,y j B px i, y j Teiamo presete che elle formule la virgola sta per la cogiuzioe, che corrispode isiemisticamete all itersezioe, cioè ad esempio { X = xi, Y = y j } = X, Y 1 x i, y j = { X = x i } { Y = yj } Il teorema di itegrazioe rispetto ad ua misura immagie si traduce co miimi cambiameti formali: valgoo pertato le eguagliaze E [ ϕx, Y ] = ϕ Xω, Y ω dpω = ϕx, y dp X,Y x, y = Ω IR 2 = x i,y j ϕx i, y j px i, y j che si deve leggere: ϕx, Y è itegrabile rispetto a P se e solo se ϕ è itegrabile rispetto a P X,Y, ed i tal caso è soddisfatta la formula scritta sopra. Da questa formula e dalle proprietà dell itegrale seguoo cosegueze immediate: ad esempio, se X e Y soo itegrabili, vale l eguagliaza E [ X + Y ] = E[X] + E[Y ]. Defiizioe Covariaza. Suppoiamo che X ed Y ammettao mometo secodo: si chiama covariaza il umero Cov X, Y = E [ X E[X] Y E[Y ] ] = E [ XY ] E[X] E[Y ] Notiamo che se X, Y ammettoo mometo secodo, per la diseguagliaza di Schwartz teorema il prodotto XY ammette mometo primo. Notiamo acora che V ar X = Cov X, X ; è immediato verificare che la covariaza è bilieare CovaX + by, Z = a CovX, Z + b CovY, Z e che vale la formula V ar X + Y = V ar X + V ar Y + 2 Cov X, Y Se Cov X, Y = 0, le due variabili soo dette icorrelate.

29 30 CHAPTER 2. PROBABILITÀ DISCRETA Proposizioe Siao X, Y dotate di mometo secodo: vale la diseguagliaza Cov X, Y V ar X V ar Y Proof. È ua cosegueza immediata della diseguagliaza di Schwartz 2.2.5, dove si è posto f = X E[X] e g = Y E[Y ]. Si ha duque Cov X, Y = X E[X] Y E[Y ] dp X E[X] 2dP Y E[Y ] 2dP = V ar X V ar Y Si chiama scarto quadratico medio di X la radice della sua variaza se esiste; e se X, Y ammettoo mometo secodo e o soo costati, si chiama coefficiete di correlazioe il umero ρ X, Y Cov X, Y = V ar X V ar Y Esempio Retta di regressioe. Suppoiamo che le due variabili X e Y siao dotate di mometo secodo e co variaza strettamete positiva e cerchiamo mi a,b E [ Y ax b 2 ] Verificare che la fuzioe Qa, b = E [ Y ax b 2] tede a + per a, b, che il gradiete di Q si aulla solo el puto a, b dove a = CovX, Y V arx e b = E[Y ] a E[X] e che vale l eguagliaza [ Y Qa, b = mi E ] 2 ax b = V ary 1 ρx, Y 2 a,b Lasciamo per esercizio la dimostrazioe della seguete proprietà della covariaza: Proposizioe Matrice delle covariaze. Sia X 1,..., X ua variabile aleatoria dimesioale, suppoiamo che ogi compoete X i abbia mometo secodo e idichiamo co C la matrice delle covariaze cioè C ij = CovX i, X j.

30 2.5. VARIABILI N-DIMENSIONALI 31 La matrice C è simmetrica, semidefiita positiva; ioltre vale la formula V ar a i X i = C ij a i a j i=1 i,j=1 Toriamo ad ua variabile doppia X, Y, la cui legge di probabilità è idetificata dalla fuzioe di probabilità px i, y j ; ogua delle due compoeti X ed Y è ua v.a. reale, e idichiamo co p X x i = P{X = x i } e aalogamete per p Y le relative fuzioi di probabilità. Proposizioe Valgoo le formule p X x i = y j px i, y j p Y y j = x i px i, y j Proof. L isieme { } X = x i è uioe umerabile degli isiemi a due a due disgiuti { } X = x i, Y = y j, j = 1, 2,...; si ha pertato p x x i = P { } X = x i = y j P { } X = x i, Y = y j = y j px i, y j Viceversa, cooscedo le distribuzioi di probabilità margiali delle compoeti X ed Y, o si può ricostruire la distribuzioe di probabilità globale del vettore aleatorio X, Y. C è tuttavia u caso el quale questo si può fare, ed è quado le due variabili soo idipedeti. Defiizioe Due variabili aleatorie X ed Y si dicoo idipedeti se, scelti comuque due sottisiemi A e B di IR, gli eveti X 1 A e Y 1 B soo idipedeti, cioè se vale la formula P { X A, Y B } = P { X A } P { Y B } Proposizioe Due variabili discrete X ed Y soo idipedeti se e solo se le relative fuzioi di probabilità soo legate dalla formula px i, y j = p X x i p Y y j Proof. Da ua parte, se le variabili soo idipedeti, scegliedo A = {x i } e B = {y j }, si verifica immediatamete che è soddisfatta la formula Suppoiamo viceversa che la formula sia soddisfatta, e scegliamo due sottisiemi A e B di IR: si ha P { X A, Y B } = p X x i p Y y j = x i A, y j B px i, y j = x i A y j B

31 32 CHAPTER 2. PROBABILITÀ DISCRETA = x i A p X x i y j B p Y y j = P { X A } P { Y B } La ozioe di idipedeza tra variabili aleatorie può essere formulata i u altro modo, più opportuo per successive dimostrazioi, ma dobbiamo premettere ua defiizioe. Defiizioe Probabilità prodotto. Siao P 1 e P 2 due probabilità sui sottisiemi di IR: si chiama probabilità prodotto e si idica P 1 P 2 la probabilità defiita sui sottisiemi di IR 2 tale che, se A, B soo sottisiemi di IR, si abbia P 1 P 2 A B = P1 A P2 B Naturalmete ella defiizioe appea data o è ecessario che le due probabilità siao defiite sui sottisiemi di IR, ma si adatta seza modifiche a due probabilità discrete defiite su due geerici isiemi E 1 e E 2. Nella defiizioe 2.5.8, occorre precisare quali sottisiemi di IR 2 si cosiderao misurabili e come si costruisce effettivamete la probabilità prodotto ci occuperemo di questi problemi ei successivi capitoli, ma se P 1 e P 2 soo probabilità discrete la costruzioe è immediata. Più precisamete, se P 1 rispettivamete P 2 è cocetrata ei puti x 1, x 2,... risp. y 1, y 2,... co fuzioe di probabilità p 1. risp. p 2., la probabilità P 1 P 2 è la probabilità discreta cocetrata elle coppie di puti x i, y j co fuzioe di probabilità px i, y j = P 1 P 2 {xi, y j } = p 1 x i.p 2 y j La verifica di questo fatto è sostazialmete idetica alla dimostrazioe della proposizioe 2.5.1, e ua cosegueza immediata è la dimostrazioe della seguete proprietà Proposizioe Due variabili aleatorie X 1, X 2 soo idipedeti se e solo se la legge di probabilità cogiuta è il prodotto delle sigole leggi, cioè se si ha = P X1 P X2 P X1,X 2 La proprietà precedete che potrebbe equivaletemete essere assuta come defiizioe di idipedeza ammette ua evidete estesioe alla defiizioe di idipedeza per variabili aleatorie X 1,..., X. Comiciamo ad osservare che la defiizioe si estede seza difficoltà al prodotto di 3 o più probabilità, purchè i umero fiito: si costata ioltre facilmete che il prodotto è associativo el seso che, ad esempio, P 1 P 2 P 3 = P 1 P 2 P3 = P 1 P 2 P 3

32 2.5. VARIABILI N-DIMENSIONALI 33 Di cosegueza si può dire, per defiizioe, che v.a. X 1,..., X soo idipedeti se la legge cogiuta è il prodotto delle sigole leggi, cioè se si ha P X1,...,X = P X1 P X Osservazioe Vediamo come si può estedere la costruzioe dell osservazioe al caso -dimesioale, cioè, assegate probabilità discrete P 1,..., P, come si possoo costruire v.a. idipedeti X 1,..., X co legge rispettivamete P 1,..., P. Questa costruzioe sarà molto usata ei modelli statistici. Suppoiamo che tutte le probabilità siao cocetrate sullo stesso sottisieme umerabile C IR ci si può sempre ridurre a questa situazioe, poiamo Ω = C il prodotto cartesiao di C co sé stesso volte e su di esso mettiamo la probabilità prodotto P 1 P ; sia poi X i la proiezioe caoica di idice i, cioè X i x 1,..., x = x i. È immediato costatare che P Xi = X i P = P i e che poichè la legge del vettore aleatorio X = X 1,..., X è il prodotto delle sigole leggi queste variabili soo idipedeti. Proposizioe Siao X, Y due v.a. idipedeti e f, g due fuzioi reali: le variabili f X e g Y soo idipedeti. Proof. Dati due sottisiemi A, B di IR, gli eveti { f X A } = { X f 1 A } e { g Y B } = { Y g 1 B } soo evidetemete idipedeti. Il risultato della Proposizioe si estede al caso di più variabili i questo modo: fuzioi di variabili aleatorie idipedeti che o coivolgao la stessa variabile soo acora idipedeti. Per capirci meglio, se X, Y, Z soo idipedeti, ache fx, Y e gz soo idipedeti, ma o lo soo fx, Y e gy, Z. La prova di questa affermazioe è ua cosegueza dell eguagliaza P X P Y P Z = P X P Y PZ che si può leggere el modo seguete: la coppia X, Y è idipedete dalla variabile Z. Le estesioi di queste affermazioi a più variabili soo evideti. È istruttivo dimostrare il seguete risultato: Proposizioe Dati eveti A 1,..., A, questi soo idipedeti se e solo se le loro fuzioi idicatrici I A1,..., I A soo idipedeti come variabili aleatorie.