Teoria della probabilità. Stefano Isola

Transcript

1 Teoria della probabilità Stefao Isola

2 2

3 Chapter 1 Itroduzioe La preistoria del cocetto di probabilità si trova ell opiio, ell approvazioe o l accettabilità di u eveto o di u affermazioe da parte di ua persoa di buo seso. Il suo luogo aturale era la medicia, la magia aturale, la mieralogia e le altre scieze miori, che el tardo medioevo o avevao alcua speraza di potersi fodare su evideze di atura deduttiva, le uiche allora accettabili, e si volgevao così all iterpretazioe dei segi probabili. A metà del 600, co la disputa tra giaseisti e gesuiti, esce scofitto il probabilismo di questi ultimi, secodo il quale la probabilità è u attributo dell opiioe ed iizia a emergere, co Pascal, Fermat e Huyghes, ua ozioe di probabilità affatto diversa, che si avvia ad essere resa oggettiva attraverso la sua formalizzazioe. Tale ozioe trova le sue radici logiche i semplici problemi di coteggio. Nella classica accezioe esposta per la prima volta el trattato Ars Cojectadi di Jakob Beroulli (1713) e riformulata i seguito da Laplace i apertura del suo Théorie Aalytique des Probabilités (1812), La probabilità di u eveto è il rapporto tra il umero di casi ad esso favorevoli e il umero di tutti i casi possibili, qualora iete ci faccia pesare che qualcuo di tali casi debba ricorrere più spesso di altri, cosicché per oi soo tutti ugualmete possibili. Se ad esempio estraiamo ua carta da u mazzo di 52 carte, la probabilità dell eveto i cui la carta estratta è u asso è data dal rapporto tra il umero di risultati che corrispodoo all eveto i questioe, cioè 4, e il umero totale di risultati possibili, cioè 52. Questa è la procedura co cui si calcolao le probabilità di vicita ei giochi d azzardo e, fio alla metà del diciaovesimo secolo, 3

4 4 CHAPTER 1. INTRODUZIONE il calcolo delle probabilità è cosistito prevaletemete i brillati e profode elaborazioi su questo tema, i particolare ad opera di De Moivre ( ), Laplace ( ), Poisso ( ) e Gauss ( ). Come ebbe a dire Laplace, è davvero otevole che ua scieza ata dall osservazioe dei giochi d azzardo sia diveuta l oggetto più importate dell umaa coosceza. I modo parallelo a tali elaborazioi, si sviluppò u approccio, iiziato da Thomas Bayes ( ), che cosete di valutare la probabilità di ipotesi statistiche alla luce di dati foriti dall esperieza: a partire dall assegazioe di probabilità iiziali ad u isieme di ipotesi, la regola di bayesiaa idica come modificare tale assegazioe i seguito all acquisizioe di uove iformazioi, costituedo così u caoe per l ifereza iduttiva. Vale osservare che il cocetto di probabilità ha avuto fi dalle sue origii u carattere dualistico: da ua parte ua probabilità epistemica, itesa come grado di credibilità di proposizioi alla luce del giudizio o dell evideza, dall altra ua probabilità riferita alla regolarità e alla stabilità delle frequeze osservate a livello feomeico. Nelle prime fasi dello sviluppo del calcolo delle probabilità, i u cotesto storico i cui la figura cetrale soggetto delle azioi e delle riflessioi era idealizzata ell idividuo ragioevole, questi due aspetti erao largamete amalgamati. Ma co lo sgretolameto di quest immagie sociale che ha accompagato l avveto della società idustriale, la razioalità dei pochi ha lasciato il posto all irrazioalità dei molti, l homme éclairé all homme moye, e così buo seso e calcolo delle probabilità hao iiziato ad essere irrimediabilmete separati. Già a partire dal trattato di Poisso Recherches sur la probabilité des jugemets e matière crimielle et e matière civile, del 1837, la probabilità ha iiziato ad essere iterpretata quasi esclusivamete i termii di frequeze osservate. Per altro, questo orietameto procedeva parallelamete al cosistete sviluppo della statistica. Già el 700 la statistica, che Codorcet ( ) qualificava come aritmetica sociale, iiziò ad etrare progressivamete i ogi ambito delle cosiddette scieze sociali, impoedosi come strumeto tecico primario dell ecoomia politica per l aalisi e il cotrollo del corpo sociale. Tale approccio ebbe u forte impulso el corso della (secoda) rivoluzioe idustriale, i particolare per opera di Quetelet ( ) e Galto ( ). Ulteriori sviluppi si ebbero ad opera di Pearso ( ), Fisher ( ) e altri: dallo studio delle medie, cosiderate strumeto fodametale per la descrizioe e la comparazioe di feomei di massa, si è passati allo studio della variabilità dei suddetti feomei attoro ai valori medi, co lo studio della correlazioe e della regressioe, cocereti rispettivamete la forza e la forma dei legami tra i feomei osservati.

5 Cioostate, e a dispetto dell etusiasmo di Laplace, il calcolo delle probabilità come disciplia matematica restò margiale per molto tempo, idetificadosi sostazialmete co alcue sue applicazioi. Se l applicabilità del calcolo delle probabilità i medicia è restato a lugo oggetto di cotroversie 1, esso ebbe u otevole impatto i fisica, iducedo la creazioe di uove e fecode teorie. I particolare, la fiducia elle regolarità dei gradi umeri geerata dalla dilagate peetrazioe della statistica elle scieze sociali, idusse ua corrispodete fiducia - per altro molto più fodata - sulla possibilità di spiegare le leggi macroscopiche della termodiamica i termii di uiformità statistiche dei moti molecolari, comiciado co la meccaica statistica di Maxwell ( ) e Boltzma ( ) fio alla teoria dei moti browiai di Eistei ( ) e Smoluchowski ( ), agli iizi del secolo scorso. Progressivamete, la crescete richiesta sociale di gestire gradi masse di dati e di fare previsioi accurate su feomei che coivolgoo molte cause ha idotto u iteresse crescete per il calcolo delle probabilità come teoria matematicamete coerete. È soprattutto i Russia e i Fracia che l opera di Laplace fu ripresa e portata avati. Nella prima grazie a Chebyshev ( ), per proseguire co il suo discepolo Markov ( ), fio al fodametale lavoro di assiomatizzazioe degli ai treta del secolo scorso da parte di Kolmogorov ( ). Nella secoda grazie al lavoro di Borel ( ) e i seguito di Lévy ( ) e dei suoi allievi. Ma ache il lavoro di Catelli ( ) si iserisce i questa liea. È importate sottolieare come i questo cotesto la teoria della probabilità si preseti come ua teoria scietifica rigorosa per la modellizzazioe di ua classe specifica di feomei, i cosiddetti feomei aleatori 2. Da allora fio ad oggi la probabilità ha vissuto uo sviluppo tumultuoso diveedo ua delle brache pricipali della matematica modera e dado vita a umerose diramazioi co ricadute applicative su gra parte delle scieze. Nel corso di tale processo, ache l impostazioe bayesiaa ha visto uovi sviluppi, che hao portato ad ua cocezioe del calcolo delle probabilità come estesioe della logica, i alcui casi traedo vataggio dal logicismo di Boole ( ), poi ripreso da autori come Keyes ( ), e trovado coessioi impor- 1 A comiciare dalla disputa tra Daiel Beroulli e d Alembert sull opportuità di addurre argometi probabilistici i seso prescrittivo, ivece di limitarsi ad u evetuale cotributo di carattere descrittivo, el cotesto dell itroduzioe i Europa della tecica dell ioculazioe vaiolosa (vedi [GSPDBK], Cap. 1.5). 2 U esempio per certi aspetti aalogo si può riscotrare ella teoria dell iformazioe relativamete ai feomei di comuicazioe i cotesti più o meo automatizzati (codificatrasmissioe-decodifica). 5

6 6 CHAPTER 1. INTRODUZIONE tati co la teoria delle decisioi e dell ifereza iduttiva. Questa liea di ricerca è stata poi adottata e riorietata da autori di impostazioe soggettivista come Ramsey ( ), de Fietti ( ) e Savage ( ). I etrambe le versioi, epistemica o frequetistica, questa disciplia matiee ua peculiarità caratteristica el cotesto geerale della matematica modera, dovuta ache al fatto che sebbee la struttura logica di base possa apparire di ua sorpredete semplicità, molti dei suoi risultati soo fortemete cotroituitivi, come avremo modo di vedere.

7 Chapter 2 Parte prima Come già acceato, vi soo più modi di defiire il cocetto di probabilità. Si può adottare u approccio frequetista, ricorredo al rapporto tra il umero di casi favorevoli ed il umero di alterative, o alle frequeze relative. I quest ottica, il fodameto della ozioe di probabilità verrà ricercato i ua diamica determiistica soggiacete che possiede ua misura ivariate la cui proiezioe sullo spazio campioe (vedi sotto) geera le probabilità osservate. Oppure si può cosiderare la probabilità come il grado soggettivo di fiducia. Nell accezioe di de Fietti, quest ultimo è defiito come il prezzo che u idividuo coerete 1 ritiee giusto pagare per ricevere 1 se l eveto si verifica, 0 se l eveto o si verifica. Gli sviluppi matematici di questi diversi puti di vista soo peraltro largamete equivaleti e o ci addetreremo qui i ua discussioe della loro efficacia o debolezza epistemologica. Ci coteteremo di osservare che l iterpretazioe del cocetto di probabilità i termii di realtà feomeica riguarda essezialmete le cosiddette regole di corrispodeza della teoria, o la sua struttura itera. Riguardo a quest ultima, i queste ote adotteremo la costruzioe assiomatica di Kolomgorov, dove il cocetto primario è quello di spazio degli eveti elemetari Ω, detto ache spazio campioe. I puti di Ω, idicati co il simbolo ω, soo detti eveti elemetari e possoo essere pesati come risultati di u esperimeto (iteso come ete teorico o come fatti reali). Ad esempio tale esperimeto può essere immagiato come ua successioe di laci di u dado o di ua moeta, o come il coteggio del umero delle chiamate passati per ua data cetrale telefoica i u dato itervallo si tempo, o del 1 Cioè che attribuisce le probabilità i maiera tale da redere impossibile ua vicita o ua perdita certe. 7

8 8 CHAPTER 2. PARTE PRIMA umero di particelle di u dato gas preseti i u volume assegato. I sottoisiemi C Ω soo detti eveti aleatori o semplicemete eveti. L eveto C = Ω è detto eveto certo, metre C = è detto eveto impossibile. Si possoo formare uioi, itersezioi, complemeti e differeze di tali eveti. I particolare, dato C Ω, l eveto C = Ω \ C, cioè l eveto i cui C o si verifica, si dice eveto complemetare a C. La collezioe di tutti gli eveti C forma u algebra che deoteremo co il simbolo F. Esercizio 1 Mostrare che se Ω = N <, allora F cosiste i 2 N distiti. eveti La locuzioe eveto aleatorio va itesa el seso che il suo verificarsi el corso di u esperimeto, ovvero el complesso delle circostaze che lo caratterizzao, o è i geerale u dato certo. Similmete potremmo dire che è ifluezato dal caso, quale che sia il sigificato preciso che vogliamo attribuire a tale ozioe. I particolare, dati due eveti C 1 e C 2, l eveto C = C 1 C 2 sarà quello i cui si verifica almeo uo dei due, cioè l eveto C 1 o l eveto C 2, metre C = C 1 C 2 sarà quello i cui gli eveti C 1 e C 2 si verificao etrambi. Diremo a tal proposito che C 1 e C 2 soo mutuamete esclusivi se C 1 C 2 =. Diremo ifie che ua collezioe C 1,..., C r determia ua partizioe di Ω, o ache u sistema completo di eveti i Ω, se C i C j = per i j e r j=1c j = Ω. Esempio 1 Nel lacio di u dado co sei facce lo spazio Ω è costituito dai sei puti ω i i (i = 1,..., 6), corrispodeti ai umeri mostrati dalla faccia superiore del dado dopo che è stato laciato. F cosiste i 2 6 = 64 eveti. Ad esempio C 1 = {pari}, C 2 = {dispari} o C 3 = {miore di tre} soo eveti. Così C 1 C 3 sarà l eveto {1 o 2 o 4 o 6} metre C 1 C 3 sarà l eveto {2}. Evidetemete C 1 C 2 = e C 1 C 2 = Ω, duque C 1 e C 2 formao ua partizioe di Ω. Nello sviluppo assiomatico della probabilità si parte dall assuzioe che ad ogi eveto aleatorio C i u esperimeto (detto altrimeti: ad ogi elemeto C di u algebra di eveti aleatori) sia assegato u valore umerico P(C): la probabilità dell eveto i questioe. Osserviamo che i questo approccio la probabilità o viee esplicitamete defiita, o si dice che cos è. Essa è piuttosto u ete teorico, come lo soo i triagoli per la geometria euclidea, defiito uicamete dalle proprietà che deve possedere.

9 La sua relazioe co i feomei reali è assai meo evidete e o può essere stabilita deduttivamete. Essa fa parte, come già acceato, delle cosiddette regole di corrispodeza che devoo essere associate ad ogi teoria scietifica per poterla usare allo scopo di reder coto di feomei reali. Ua possibile regola di corrispodeza o, se si preferisce, ua possibile chiave per l iterpretazioe empirica della ozioe di probabilità è la seguete: immagiiamo l esecuzioe di u certo esperimeto co u dato isieme Ω di risultati possibili, esecuzioe che suppoiamo ripetibile u umero arbitrario di volte. Cosideriamo allora u eveto C che possa o meo verificarsi i base ai possibili risultati dell esperimeto. Se ad esempio l esperimeto cosiste el lacio di u dado, l eveto i questioe può cosistere el fatto che la faccia superiore risultate dopo il lacio mostri u umero pari (l eveto C 1 ell Esempio 1). Affermare che u modello matematico del suddetto feomeo è forito dall isieme Ω e da ua fuzioe P che all eveto C assega la probabilità P(C) cosiste el sosteere, sulla base di osservazioi empiriche otteute ad esempio ripetedo molte volte l esperimeto, che se eseguiamo prove dell esperimeto, cioè se riproduciamo volte le codizioi i cui l eveto C può verificarsi, allora il umero di volte i cui C effettivamete si verifica sarà, quado è molto grade, approssimativamete uguale a P(C), a parte casi particolarmete sfortuati, che però agli effetti pratici possoo essere trascurati. Ciò ricoduce l iterpretazioe empirica della probabilità alla frequeza relativa f C di u eveto C, ossia al rapporto k/ tra il umero di volte k i cui l eveto C effettivamete si verifica ed il umero di prove 2. Vediamo prelimiarmete alcue proprietà della frequeza relativa. Evidetemete si ha 0 f C 1. Ioltre la frequeza relativa dell eveto certo sarà uguale a uo, metre quella dell eveto impossibile sarà sempre ulla. Ioltre, se C 1 e C 2 soo mutuamete esclusivi (cioè C 1 C 2 = ) e se elle ripetizioi dell esperimeto C 1 si verifica k 1 volte e C 2 k 2 volte, allora l eveto C 1 C 2 si verificherà esattamete k 1 + k 2 volte, e quidi f C1 C 2 = f C1 + f C2. Evidetemete la frequeza relativa f C di u eveto è ua quatità che dipede dal caso e può fluttuare (i particolare quado il umero di prove è fiito, ma egli esperimeti reali è sempre fiito!). D altra parte, la probabilità di u eveto è ua quatità fissata, che ovviamete dipede dal tipo di esperimeto, ma o dalla particolare successioe i cui tale esperimeto viee ripetuto. Ioltre, el seso visto sopra, dovrà costituire ua 2 È chiaro che questa iterpretazioe restrige otevolmete la classe di eveti ai quali ha seso assegare ua probabilità. Ad esempio l eveto Tra ua settimaa gli Stati Uiti dichiarerao guerra alla Cia o e fa parte, ache se avrebbe perfettamete seso assegargli ua probabilità itesa come grado soggettivo di fiducia. 9

10 10 CHAPTER 2. PARTE PRIMA predizioe teorica per la frequeza relativa. proprietà: Assumeremo quidi le segueti I. P(C) 0 per ogi C F; II. P(Ω) = 1; III. se C 1, C 2 F e C 1 C 2 = allora P(C 1 C 2 ) = P(C 1 ) + P(C 2 ). Esercizio 2 Le segueti proprietà soo cosegueze degli assiomi I, II, III: i) se C 1 C 2, allora P(C 2 ) P(C 1 ) e P(C 2 \ C 1 ) = P(C 2 ) P(C 1 ); ii) per ogi collezioe di eveti C 1,..., C s due a due mutuamete esclusivi si ha P( s i=1c i ) = s i=1 P(C i); se, i particolare, tale collezioe forma ua partizioe di Ω allora s i=1 P(C i) = 1; iii) dati due eveti arbitrari C 1 e C 2 si ha P(C 1 C 2 ) = P(C 1 )+P(C 2 ) P(C 1 C 2 ); iv) più i geerale, per u arbitraria collezioe di eveti C 1,..., C s vale la formula di iclusioe-esclusioe s P( s i=1c i ) = P(C i C j ) P(C i ) i=1 i<j + P(C i C j C k ) + + ( 1) s 1 P(C 1 C s ) i<j<k i particolare si ha P( s i=1c i ) s i=1 P(C i). L assuzioe III (e la sua geeralizzazioe (ii)) afferma che la fuzioe P è additiva. Tale proprietà è sufficiete per trattare problemi che coivolgoo u umero fiito di eveti possibili. Tuttavia, per trattare problemi più geerali e poter utilizzare efficacemete la teoria della misura sarà coveiete assumere che, o soltato l uioe fiita, ma ache l uioe umerabile di eveti, cioè di elemeti dell algebra F, faccia parte dell algebra stessa, ossia che F sia ua σ-algebra. La corrispodete ulteriore assuzioe sulla fuzioe P sarà allora quella di essere σ-additiva, cioè avremo III. se C i F, i = 1, 2,... e C i C j =, i j, allora P( i=1c i ) = i=1 P(C i).

11 Vediamo ora u criterio geerale per garatire la III, data la III. Si tratta di u criterio di cotiuità. Premettiamo ua defiizioe: si chiama sequeza mootòa di eveti ua collezioe {C k }, C k F, tale che C k C k+1 (e i questo caso C k C = k C k ) oppure C k C k+1 (e i questo caso C k C = k C k ). Teorema 1 Ua fuzioe P su F che soddisfa le proprietà I, II e III sopra elecate soddisfa ache la III se e solo se per ogi sequeza mootòa di eveti C k F si ha ( ) P lim C k = lim P(C k ). k k Dimostrazioe. Cosideriamo, per fissare le idee, il caso C k C k+1. Poiamo C 0 = e B i = C i \ C i 1, i 1, cosicchè B i B j = per i j e C k = i k B i. Ioltre, evidetemete, k C k = i B i. Allora, se P soddisfa la III si ha ( ) P lim C k k = P ( k C k ) = P ( i B i ) = = lim k k i=1 P(B i ) i=1 P(B i ) = lim k P ( i k B i ) = lim k P(C k ) Iversamete, l additività fiita implica che P( i B i ) = i=1 P(B i)+p ( k C k ) P(C ). Per la codizioe del teorema prededo si ha P(C ) P ( k C k ) e duque P( i B i ) = i=1 P(B i). Q.E.D. Defiizioe 1 Co le assuzioi I, II, III la tripletta (Ω, F, P) è detta spazio di probabilità (el seso di Kolmogorov). Esempio 2 : Il dilemma di Berardo. Immagiiamo due giochi A e B co probabilità di vittoria p e q rispettivamete, dove p > q. U tizio offre u premio a Berardo se quest ultimo vicerà (almeo) due giocate cosecutive i ua serie alterata di tre giocate: ABA o BAB. Quale tra le due serie Berardo dovrà scegliere per avere maggiore probabilità di vicere? Iizialmete Berardo pesa che la serie ABA sia coveiete dal mometo che vi compaioo due giocate co probabilità di vittoria maggiore. Poi pesa che, dovedo vicere due giocate cosecutive, la giocata cetrale è quella decisiva (deve ecessariamete essere vita) e duque è preferibile la serie BAB. Nell idecisioe Berardo decide di usare la matematica: qualuque sia la serie scelta, Berardo vicerà il premio se si realizzerà 11

12 12 CHAPTER 2. PARTE PRIMA l eveto E = V V V V V P P V V dove abbiamo idicato co V (P ) l eveto i cui i ua sigola giocata Berardo vice (perde). Ora, sulla serie ABA l eveto E ha probabilità pqp + pq(1 p) + (1 p)qp = pq(2 p) metre sulla serie BAB ha probabilità qpq + qp(1 q) + (1 q)pq = qp(2 q). Pertato, essedo 2 q > 2 p la serie BAB è quella da preferire, i accordo co la secoda ituizioe di Berardo. Esempio 3 : Il dilemma dei prigioieri. Talvolta può risultare o del tutto ovvio idetificare lo spazio campioe di u certo problema. Tre prigioieri A, B e C chiedoo la grazia dopo molti ai di detezioe. Il giudice icaricato della questioe decide di liberare due. I prigioieri vegoo a sapere della decisioe del giudice ma o di quali due verrao liberati. C è però ua guardia amica del prigioiero A che è al correte di tutto. Ad A pare scorretto chiedere se sarà proprio lui ad essere liberato e pesa allora di chiedere alla guardia il ome di u solo prigioiero, diverso da A stesso, tra quelli che sarao liberati. Poi A ragioa così: Prima di fare la domada la probabilità che mi liberio soo 2 ; ma se poi ad esempio la guardia rispode: B sarà 3 liberato, allora la probabilità che mi liberio scede a 1, perchè a quel puto 2 gli eveti possibili soo solo due: o liberao me e B oppure B e C. A seguito di questo ragioameto A decide di o fare la domada per o abbassare la sua probabilità di uscire di prigioe! La straezza di questa coclusioe deriva dal fatto che A o ha correttamete classificato tutti i possibili eveti elemetari del suo esperimeto. Egli pesa che questi siao solo le tre coppie: AB, BC e AC, ciascua co eguale probabilità 1. Questo è lo spazio campioe dell esperimeto del giudice, che 3 cosiste el liberare due su tre, metre A ha itrodotto u ulteriore eveto: la risposta della guardia. Se poiamo tra paretesi quadre la risposta della guardia, lo spazio campioe corretto ell esperimeto di A è dato dall isieme di quattro eveti elemetari Ω = ( AB[B], AC[C], BC[B], BC[C] ) a cui possiamo ragioevolmete assegare le probabilità date da ( 1 p = 3, 1 3, 1 6, 1 ) 6

13 2.1. DISTRIBUZIONI 13 Ora, ell ipotesi immagiata da A (la guardia rispode B) la probabilità che A stesso vega liberato sarà data da 1 P (AB[B]) P (AB[B]) + P (BC[B]) = 3 che è il risultato suggerito dal buo seso. 2.1 Distribuzioi U caso importate è quello i cui Ω è discreto, ossia è formato da ua collezioe (al più) umerabile di puti ω 1, ω 2,..., ω i,.... Idichiamo co {ω i } l eveto cosistete el solo puto ω i (eveto elemetare). Poiamo ioltre P({ω i }) = p(ω i ) p i (i = 1, 2,...). Dalle proprietà I e II della probabilità segue che p i 0 e p i = 1 (2.1) U vettore p = (p 1, p 2,...) le cui compoeti p i soddisfao le proprietà (1.5) si chiama distribuzioe di probabilità o semplicemete distribuzioe. Tale espressioe trova l iterpretazioe che la probabilità 1 dell eveto certo è distribuita tra gli eveti elemetari ω i, i aalogia co la distribuzioe della massa totale di u sistema meccaico tra i suoi puti costitueti. Abbiamo duque visto che ogi probabilità P geera ua distribuzioe p su Ω. Viceversa, ogi distribuzioe p su uo spazio discreto Ω geera ua misura di probabilità P sulla σ-algebra F dei sottoisiemi di Ω attraverso la formula i 1 = 2 3 P(C) = ω i C p(ω i ) (2.2) I effetti, le proprietà I e II seguoo da (2.1), metre la σ-additività (III ) segue dal fatto che ogi serie covergete di termii o-egativi può essere riarragiata i qualuque ordie e quidi P( l C l ) = p(ω i ) = p(ω i ) = P(C l ). ω i l C l ω i C l Se le compoeti p i del vettore p soo tutte uguali, e i tal caso per la ormalizzazioe deve essere p i = 1/ Ω, allora si dice che la distribuzioe è uiforme. l l

14 14 CHAPTER 2. PARTE PRIMA Problema 1 Qual è la probabilità che mescolado a caso u mazzo di carte la prima e l ultima carta siao etrambi assi? Soluzioe. Vi soo 52! mescolameti possibili del mazzo di carte, che assumiamo tutti equiprobabili. Ioltre vi soo 4 3 = 12 modi di specificare la prima e l ultima carta, e 50! ordiameti possibili delle rimaeti. Duque la probabilità cercata è 12 50! = 12 = 1. 52! Schema fiito e sue geeralizzazioi L esempio più semplice immagiabile di spazio di probabilità è dato da uo schema fiito, otteuto assegado ua distribuzioe p = (p 1,..., p N ) ad u isieme fiito X = {x 1,..., x N }. I questo caso si ha Ω = X, F ha 2 N elemeti e P è determiata dalla (2.2). I quato segue adotteremo talvolta la locuzioe distribuzioe per idicare la coppia (X, p) (e o soltato il vettore p). Se N = 2, cioè se gli eveti elemetari si riducoo a due alterative: testa o croce, vicita o perdita etc., allora (X, p) si chiama distribuzioe, o schema, di Beroulli. U caso che si icotra spesso elle applicazioi è quello i cui cui p i = 1/N e la coppia (X, p) è detta distribuzioe uiforme. Esercizio 3 Suppoedo che il dado i (1.2) sia perfetto, otteiamo uo schema fiito co X = {1, 2,..., 6} e p = ( 1,..., 1 ). Verificare, usado la 6 6 (1.6), che P(C 1 ) = P(C 2 ) = 1, P(C 2 3) = 1, P(C 3 1 C 3 ) = 2, P(C 3 1 C 3 ) = 1 e 6 P(C 1 C 2 ) = 0. Ua semplice geeralizzazioe di uo schema fiito (X, p), di estrema utilità elle applicazioi, si ottiee cosiderado lo spazio Ω = Ω = X [1,], cioè lo spazio delle parole di lughezza della forma ω = (ω 1 ω 2... ω ) co ω i X = {x 1,..., x N }. Possiamo ad esempio pesare ad X come ad u alfabeto di N lettere e ad ω come ad ua parola di lugezza scritta i tale alfabeto. Su Ω assegamo la distribuzioe di probabilità p(ω) = i=1 p(ω i), dove p(ω i ) = p k se ω i = x k, k = 1,..., N. È immediato mostrare che i umeri p(ω), ω Ω, determiao ua distribuzioe su Ω = X [1,]. Defiizioe 2 U eveto C Ω della forma C = {ω Ω : ω i1 B i1,, ω ik B ik } dove i 1,..., i k soo idici assegati e B i1,, B ik soo arbitrari sottoisiemi (ad esempio puti) di X, si dice cilidro k-dimesioale (k ).

15 2.2. SCHEMA FINITO E SUE GENERALIZZAZIONI 15 La σ-algebra F dei sottoisiemi di Ω sarà la più piccola σ-algebra che cotiee la famiglia dei cilidri, ovvero la σ-algebra geerata da tale famiglia, metre la misura di probabilità P su F sarà la misura geerata dalla distribuzioe p(ω), ω Ω. Defiizioe 3 Lo spazio di probabilità (Ω, F, P ) si chiama sequeza di eveti idipedeti 3 estratti co distribuzioe (X, p). Esempio 4 : Il problema delle coicideze. U ura cotiee N biglie umerate da 1 a N. Cosideriamo u esperimeto cosistete i estrazioi co rimpiazzameto. Allora si ha X = {1,..., N} e Ω = N. Assumeremo ioltre su X ua distribuzioe uiforme, cioè che le estrazioi siao tutte equiprobabili. Ciò implica, evidetemete, p(ω) = N, ω Ω. Calcoliamo la probabilità dell eveto i cui o vi soo ripetizioi, ossia dell eveto C = {ω Ω : ω i ω j, i j}. È evidete che C = N(N 1) (N + 1) e duque, per la (2.2), ( P(C) = 1 1 ) ( 1 2 ) ( 1 1 ). N N N Questo risultato può essere iterpretato come segue. Suppoiamo che i ua classe vi siao studeti. Qual è la probabilità P 2, che almeo due di essi festeggio il loro compleao ello stesso gioro? Se suppoiamo che il compleao di ogi studete cada i uo dei primi 365 giori dell ao e che ciascuo di questi giori sia equiprobabile, allora il problema si riduce a quello precedete dell ura co N = 365 (e duque i compleai degli studeti soo iterpretati come le biglie estratte dall ura). Troviamo così: 1 ( P 2, = 1 1 i ). 365 i=1 Così, ad esempio, troviamo P 2,4 = 0.016, P 2,16 = 0.284, P 2,22 = 0.476, P 2,23 = 0.507, P 2,40 = 0.891, P 2,64 = È abbastaza sorpredete osservare che soo sufficieti 23 studeti per avere probabilità 1/2. I altre parole, i accordo co l iterpretazioe empirica vista precedetemete, se il 3 La ozioe geerale di eveti idipedeti sarà discussa più avati.

16 16 CHAPTER 2. PARTE PRIMA ostro modello probabilistico (Ω, F, P ) descrive bee la situazioe, allora cosiderado u umero abbastaza grade di classi co 23 studeti ciascua, e se o siamo troppo sfortuati, i circa la metà di esse vi sarao almeo due studeti co lo stesso compleao. Esempio 5 : Premi e lotterie. Cosideriamo ua lotteria i cui vi siao N biglietti, umerati da 1 a N, dei quali soltato i primi vicoo dei premi (N 2). Ci chiediamo allora quale sia la probabilità P 1 di vicere almeo u premio comprado, a caso, biglietti. Dal mometo che l ordie i cui i biglietti vegoo acquistati o ha alcuo ruolo ella preseza o asseza di biglietti viceti, avremo che Ω = ( N ). Sia C 0 = {ω Ω : ω i { + 1,..., N}, i = 1,..., } l eveto i cui o vi sia alcu biglietto vicete tra quelli acquistati. Evidetemete C 0 = ( ) N e duque ( N ) 1 (N ) (N 2 + 1) P(C 0 ) = ) = N(N 1) (N + 1) = ( 1 ). N i Pertato ( N i=0 i=0 1 ( P 1 = 1 P(C 0 ) = 1 1 ). N i Se ad esempio N = 2 e allora P(C 0 ) e 1 e P 1 1 e La covergeza è piuttosto rapida: per = 10 troviamo già P 1 = Problema 2 Vediamo ora u esempio la cui modellizzazioe i termii di sequeza di prove ripetute o è così diretta ma che può ugualmete essere risolto co lo stesso tipo di argometi degli esempi precedeti. U ura cotiee pallie rosse e ere. Vorremmo che quado due pallie vegoo estratte a caso la probabilità che siao etrambe rosse sia uguale a 1/2. Quale dovrà essere il più piccolo umero di pallie rosse affichè ciò sia realizzabile? Soluzioe. Sia r il umero di pallie rosse e il umero di quelle ere. La probabilità che alla prima estrazioe la pallia sia rossa è r/(r + ), quella che la pallia sia rossa ache alla secoda estrazioe è (r 1)/(r + 1). Noi duque vorremmo che ( ) ( ) r r 1 = 1 r + r + 1 2

17 2.2. SCHEMA FINITO E SUE GENERALIZZAZIONI 17 Osserviamo che e duque ovvero Pertato dovrà essere r r + > r 1 r + 1 se > 0 ( ) 2 r > 1 ( ) 2 r 1 r + 2 > r + 1 r r + > 1 > r 1 2 r + 1. ( 2 1) r > > ( 2 1)(r 1) ovvero, essedo ( 2 1) 1 = , ( 2 + 1) + 1 > r > ( 2 + 1). Ad esempio se = 10 allora > r > cioè r = 25. = 100 allora > r > cioè r = 242. Se ivece Schema di Beroulli Sia X = {0, 1}, p = ( 1, 1). Allora la sequeza di eveti idipedeti estratti co distribuzioe (di Beroulli) (X, p) può essere assuto come modello 2 2 matematico per ua successioe di laci di ua moeta (o truccata), dove il simbolo 1 corrispode all occorreza testa, metre a croce facciamo corrispodere il simbolo 0. Evidetemete Ω = 2 e p(ω) = 1/2. Ciò determia ua distribuzioe uiforme su Ω. Sia ora C k, = {k volte testa}, cioè C k, idica l eveto aleatorio i cui, i laci, il risultato è rappresetato esattamete k volte dal simbolo 1, i u ordie qualsiasi. Osserviamo che la collezioe {C k, } co k {0, 1,..., } costituisce ua partizioe di Ω. Usado la (2.2) si trova P (C k, ) = ω C k, p(ω) = 1 2 C k dove C k è uguale al umero di modi i cui k oggetti idetici possoo essere sistemati i scatole se ogi scatola può ospitare al più u oggetto: il primo di essi potrà essere sistemato i modi diversi, il secodo i 1, fio al k-esimo che potrà trovar posto i ua qualsiasi delle rimaeti k + 1 scatole. D altra

18 18 CHAPTER 2. PARTE PRIMA parte, l ordie i cui sistemiamo gli oggetti è irrilevate e vi soo k! ordiameti possibili. Pertato si avrà ( ) ( 1) ( k + 1)! C k = = k! k!( k)! = (2.3) k e quidi P (C k, ) = 1 2 ( ), k P (C k, ) = 1 (2.4) dove la secoda idetità segue immediatamete dalla formula del biomio. Ora, se è pari P (C k, ) è massima per k = /2, metre se è dispari P (C k, ) è massima per k = ( ± 1)/2. Cosideriamo duque per semplicità sequeze di 2 laci e cerchiamo di stimare P 2 (C,2 ) quado è grade. A tal fie faremo uso della formula asitotica di Stirlig: k=0! = e 2π (1 + O(1/)) (2.5) Allora si ha P 2 (C,2 ) = 1 (2)! 22 (!) = e 2 (2) 2 4π 2 (e (1 + O( 1 )) (2.6) 2π) 2 = 1 (1 + O( 1 )) π (2.7) I modo simile, se C (r),2 idica l eveto i cui, i 2 laci, il simbolo 1 viee osservato u umero di volte che differisce da per o più che ua quatità fissata r, allora si ha (tralasciado i termii O( 1 )): P 2 (C (r),2) = r k +r P 2 (C k,2 ) 2r + 1 π 0 ( ) (2.8) I coclusioe, abbiamo trovato che al crescere del umero dei laci la probabilità di osservare testa esattamete la metà delle volte, o comuque u umero di volte che si matiee vicio alla metà etro u margie fissato, tede a zero. Ciò o deve sorpredere. Quale che sia il coteuto di ua evetuale legge dei gradi umeri, o sarà certamete sesato aspettarsi esattamete 1000 volte testa i 2000 laci! Vedremo che la domada corretta da porre riguarda la probabilità che la proporzioe delle occorreze testa sia vicia a 1/2.

19 2.3. VARIABILI ALEATORIE 19 Osserviamo ifie che lo spazio Ω = X [1,] co X = 2 si icotra i umerosi problemi di teoria della probabilità e di meccaica statistica. Possiamo immagiare u sistema costituito da elemeti idetici, ad esempio dei mageti elemetari (spis), ciascuo dei quali può trovarsi i due stati possibili: orietato verso l alto (simbolo 1) o verso il basso (simbolo 1), cosicchè lo stato dell itero sistema sarà idetificato da ua parola ω = (ω 1... ω ) co ω i { 1, 1}. Ua geeralizzazioe di questo schema cosiste el dare u iterpretazioe più geerale dell idice i dell elemeto ω i. Ad esempio potremmo avere i Λ co Λ Z d formato da puti della forma i = (i 1,..., i d ) co L (k) 1 i k L (k) 2, k = 1,..., d. X poi potrà essere del tutto arbitrario, ad esempio u isieme umerabile o uo spazio metrico qualsiasi. Lo spazio Ω = X Λ i tal modo otteuto si icotra ad esempio ella teoria dei campi aleatori. D altra parte, la situazioe dell esempio precedete o è la sola ad essere descrivibile come ua sequeza di eveti idipedeti estratti co ua certa distribuzioe. 2.3 Variabili aleatorie Estediamo ora la ozioe di distribuzioe di probabilità ad ogi sequeza di umeri che rappresetao le probabilità associate ad u sistema completo di eveti. Abbiamo visto che gli eveti {C k, } formao u sistema completo di eveti. Duque, posto p k, = P (C k, ), la sequeza (p 0,, p 1,,..., p, ) è ua distribuzioe di probabilità. Facedo acora riferimeto a (1.12), possiamo ulteriormete estedere l uso di questo cocetto itroducedo la ozioe di variabile aleatoria. Cosideriamo la fuzioe ν (1) : Ω R che ad ogi ω Ω associa il umero di volte i cui vi compare il simbolo 1. I formule ν (1) (ω) := # {i [1, ] : ω i = 1} (2.9) È semplice verificare che C k, = {ω Ω : ν (1) (ω) = k}, ovvero gli elemeti del sistema di eveti {C k, } soo gli isiemi di livello della fuzioe ν (1). La fuzioe forisce u esempio di variabile aleatoria discreta. ν (1) Defiizioe 4 Sia (Ω, F, P) uo spazio di probabilità. Ua fuzioe ξ = ξ(ω) defiita su Ω, e che assume valori i u isieme Z al più umerabile, si dice variabile aleatoria discreta se per ogi x Z si ha {ω Ω : ξ(ω) = x} F. L ultima codizioe si può esprimere dicedo che ξ(ω) deve essere ua fuzioe

20 20 CHAPTER 2. PARTE PRIMA misurabile su (Ω, F). Se Ω è discreto qualuque fuzioe reale ξ = ξ(ω) ha questa proprietà e duque è ua variabile aleatoria discreta. Poiamo ora Z = {x k } e cosideriamo gli eveti C k = {ω Ω : ξ(ω) = x k }. È chiaro che C r C s = se r s (ξ assume u sol valore per ogi ω). Ioltre k C k = Ω (ad ogi ω è associato u qualche valore ξ(ω) Z). I altre parole {C k } è u sistema completo di eveti. Il umero P(C k ) forisce la probabilità che la variabile aleatoria ξ assuma il valore x k Z. Ciò coduce alla seguete defiizioe: Defiizioe 5 La sequeza di umeri p k = P(C k ) defiita su Z si chiama la distribuzioe di probabilità della variabile aleatoria discreta ξ. ( ) Così, la distribuzioe p k, = P(C k, ) = 2 1 i (2.4) è la distribuzioe di k probabilità della variabile aleatoria ν (1). Occorre fare attezioe al fatto che, ad eccezioe del caso i cui Ω è discreto e ξ(ω) = ω, per cui Z Ω, la distribuzioe sullo spazio Z, defiita qui sopra, o va cofusa co la distribuzioe defiita i (2.1). Ciò detto, la distizioe apparirà chiara dal cotesto. Itroduciamo ora due quatità umeriche associate ad ua variabile aleatoria che avrao u ruolo importate i quato segue: l aspettazioe e la variaza. Se immagiiamo di ripetere prove dello stesso esperimeto e di osservare ogi volta il valore assuto da ξ, allora se è grade, i accordo co l iterpretazioe empirica della probabilità (vedi sopra), i approssimativamete p 1 occasioi si avrà ξ = x 1, i approssimativamete p 2 occasioi si avrà ξ = x 2, e così via 4. Prededo la media aritmetica dei valori di ξ i tal modo otteuti, otterremo approssimativamete il valore p 1 x 1 + p 2 x 2 + = k x k p k che forisce allora il valore attoro al quale le medie artimetiche dei valori di ξ fluttuao. 4 Occorre tuttavia fare attezioe: è perfettamete possibile che ua particolare sequeza di prove dia risultati completamete diversi: ad esempio volte lo stesso risultato ξ = x k. Per la legge dei gradi umeri, che discuteremo più avati, le sequeze di prove che dao il risultato ragioevolmete atteso di cui sopra, cioè quello predetto dal modello matematico probabilistico che assega probabilità p k all eveto {ξ = x k }, formao, per grade, la stragrade maggioraza delle sequeze possibili.

21 2.3. VARIABILI ALEATORIE 21 Defiizioe 6 L aspettazioe matematica o valor medio di ua variabile aleatoria discreta ξ è il umero Eξ = k x k p k Vediamoe alcue proprietà. L aspettazioe è la media aritmetica pesata dei valori x k, cioè sullo spazio Z, co pesi p k ed è aaloga alla ozioe di cetro di massa che si icotra i meccaica. Quado è defiita, Eξ idica duque vicio a quale umero i valori della variabile aleatoria discreta ξ si cocetrao i media. Ovviamete tale umero è sempre compreso tra l estremo iferiore e l estremo superiore dei valori possibili di ξ. I particolare si ha ξ 0 = Eξ 0 e ξ 1 = Eξ = 1 (2.10) D altra parte, affichè Eξ abbia seso dovremo richiedere che la somma su k coverga assolutamete, cioè k x k p k <. I caso cotrario, u riarragiameto dei termii darebbe u valor medio diverso. Ciò detto, cosideriamo la combiazioe lieare aξ + bη di due variabili aleatorie ξ e η, i cui valori possibili soo dati da {x k } e {y k }, rispettivamete, e tali che Eξ ed Eη siao defiiti. Sia C kj = {ω : ξ(ω) = x k, η(ω) = y j }. Si verifica facilmete che P(C kj ) = P(η = y j ) k e P(C kj ) = P(ξ = x k ) Gli isiemi C kj co k, j = 1, 2,... formao u sistema completo di eveti e la collezioe di umeri p kj = P(C kj ) si dice distribuzioe di probabilità cogiuta delle variabili aleatorie ξ ed η. Se ζ = f(ξ, η) allora Eζ = k,j f(x k, y j ) p kj. Pertato E(aξ + bη) = (ax k + by j ) p kj k j j = a x k P(ξ = x k ) + b y j P(η = y j ) k j = a Eξ + b Eη (2.11) perchè la somma di due serie assolutamete covergeti è acora assolutamete covergete. Le proprietà (2.10) e (2.11) implicao che E è u fuzioale lieare, o-egativo e ormalizzato sullo spazio vettoriale delle variabili aleatorie (discrete). Osserviamo che dalla (2.11) segue che se η = ξ Eξ allora Eη = 0.

22 22 CHAPTER 2. PARTE PRIMA Ifie, le variabili aleatorie si possoo moltiplicare tra loro (formado u aello commutativo) e si ha Eξ η = k,j x k y j p kj. Ora, se lo spazio degli eveti elemetari Ω è discreto troviamo Eξ = x k p k = x k P(C k ) = x k p(ω) k k k ω C k = ξ(ω)p(ω) = ξ(ω)p(ω) (2.12) k ω C k ω Ω L ultima espressioe è acora ua media aritmetica pesata, ma questa volta sullo spazio Ω, e può essere presa come defiizioe alterativa di Eξ quado Ω è discreto. Problema 3 I media, quate volte devo laciare u dado fio a che o esce il 6? Soluzioe. Sembra evidete che se il dado è simmetrico tale umero sia pari al umero totale di eveti elemetari, cioè 6. Verifichiamolo. Se p è la probabilità che laciado il dado ua volta esca il 6, probabilità che il 6 esca dopo laci sarà q 1 p, co q = 1 p. Osserviamo che la probabilità che il 6 esca prima o poi è data da p + qp + q 2 p + = p(1 + q + q 2 + ) = p 1 q = p p = 1 Il umero medio di laci ecessari per osservare u 6 è dato da moltiplicado per q otteiamo m = p + 2qp + 3q 2 p + 4q 3 p + qm = qp + 2q 2 p + 3q 3 p + Sottraedo la secoda espressioe dalla prima troviamo m qm = p + qp + q 2 p + ovvero m(1 q) = 1. Pertato la soluzioe è data da m = 1/p. Se il dado è simmetrico p = 1/6 e duque m = 6 come ci aspettavamo. Ua elegate soluzioe alterativa a questo problema si ottiee usado la formula della probabilità totale (vedi più avati): se il primo lacio è u isuccesso (o mostra il 6) allora il umero medio di laci richiesti è m + 1, se ivece è u successo allora tale umero è 1. Pertato deve essere m = p + q(1 + m) cioè m = 1/p.

23 2.3. VARIABILI ALEATORIE 23 Problema 4 U pasticciere decide di icetivare l acquisto dei suoi biscotti iseredo elle scatole di biscotti dei gettoi, umerati da 1 a 10, u gettoe per scatola: dopo aver messo isieme l itero gruppo di gettoi si ha diritto ad ua scatola di biscotti omaggio. I media, quate scatole di biscotti occorrerà acquistare per guadagare la scatola omaggio? Soluzioe. Nella prima scatola troviamo il primo gettoe. La probabilità di trovare u uovo gettoe i ua uova scatola è 9/10. Pertato, usado il problema precedete, si ha che il umero medio di scatole ecessarie a trovare il secodo uovo umero è 1/(9/10) = 10/9. Il terzo uovo umero richiederà i media 1/(8/10) = 10/8 uove scatole. Il quarto 10/7, il quito 10/6 e così via fio al decimo che richede 10/1 scatole. Pertato il umero medio di scatole ecessarie a guadagare l omaggio è 10( ) = Più i geerale, se i gettoi fossero potremmo usare l approssimazioe di Eulero per stimare le somme parziali della serie armoica S = l γ dove γ = prede il ome di costate di Eulero-Mascheroi. Per il problema co = 10 (l ) troviamo 10 l Teorema 2 (Prima disuguagliaza di Chebyshev) Se ξ 0 e Eξ <, allora per ogi α > 0 si ha P({ω : ξ(ω) α}) Eξ α Dimostrazioe. Cosideriamo per semplicità il caso i cui Ω è discreto. Allora si ha P({ω : ξ(ω) a}) = p(ω) ( ) ξ(ω) p(ω) a = 1 a ω : ξ(ω) a ω : ξ(ω) a ω : ξ(ω) a ξ(ω) p(ω) 1 a ω Ω ξ(ω) p(ω) = Eξ a

24 24 CHAPTER 2. PARTE PRIMA dove ell ultima uguagliaza si è fatto uso della (2.12). Q.E.D. Osserviamo che da ciò segue subito il seguete criterio: se Eξ α δ allora ξ α dappertutto ad eccezioe di u isieme di misura al più δ. U altra quatità umerica importate, che caratterizza le fluttuazioi (i media) di ua variabile aleatoria rispetto al suo valor medio, è la variaza. Defiizioe 7 La variaza di ua variabile aleatoria ξ tale che Eξ < è il umero Var ξ = E(ξ Eξ) 2. Vediamoe alcue proprietà. Iazitutto, sviluppado il quadrato e usado la liearità del valor medio si trova Var ξ = Eξ 2 2(Eξ) 2 + (Eξ) 2 = Eξ 2 (Eξ) 2 (2.13) da cui segue che Var ξ < se e solo se Eξ 2 <. Cosideriamo ora la variabile aleatoria aξ + b. Si ha Var (aξ + b) = E(aξ + b E(aξ + b)) 2 = E(a 2 (ξ Eξ) 2 ) = a 2 E(ξ Eξ) 2 = a 2 Var ξ (2.14) Teorema 3 (Secoda disuguagliaza di Chebyshev) Se Var ξ <, allora per ogi α > 0 si ha P({ω : ξ(ω) Eξ α}) Var ξ α 2 Dimostrazioe. Cosideriamo la variabile aleatoria η = (ξ Eξ) 2 0. Si ha Eη = Var ξ e duque usado la prima disuguagliaza di Chebyshev si trova P({ω : ξ(ω) Eξ α}) = P({ω : η(ω) α 2 }) Eη α 2 = Var ξ α 2 Q.E.D. Esempio 6 Calcoliamo Eν (1) e Var ν (1), co ν (1) defiita i (2.9). Si ha ( ) 1 Eν (1) = kp (C k, ) = k k 2 = 1 2 k=0 k=1 = 1 1 ( ) 1 = 1 2 s = 2 s=0 ( ) 1 k 1 k=1 (2.15)

25 2.3. VARIABILI ALEATORIE 25 ( ) ( ) 1 dove ella terza uguagliaza si è fatto uso della proprietà k =, k k 1 metre ella peultima si è usata la formula del biomio. Per la variaza si ha ( ) Var ν (1) = E(ν (1) ) 2 (Eν (1) ) 2 = k 2 1 k D altra parte e pertato k 2 ( k ) k=1 ( ) ( ) ( ) = k = (k 1) + k 1 k 1 k 1 ( ) ( ) 2 1 = ( 1) + k 2 k 1 Var ν (1) = ( ( 1) ) = 4 Ora, usado la (2.9) e la (2.15), la (1.17) può essere riscritta ella forma (2.16) P ({ω : ν (1) (ω) Eν (1) r}) 2r + 1 π/2 (2.17) Nella direzioe opposta, la disuguagliaza di Chebyshev dà P ({ω : ν (1) (ω) Eν (1) r}) 4 r 2, (2.18) che però o è di grade iteresse. Possiamo tuttavia otteere iformazioi più utili se, ivece di guardare a ν (1) (ω), cosideriamo f (1) (ω) := ν(1) (ω), cioè la frequeza relativa dell eveto testa i laci. Usado le proprietà del valor medio e della variaza troviamo Ef (1) = 1 (1), Var f = Allora dalla secoda disuguagliaza di Chebyshev si ottiee e quidi, per ogi r > 0, (2.19) P ({ω : f (1) (ω) Ef (1) r}) 1 4 r 2 (2.20) lim P ( f (1) (ω) Ef (1) r ) = 1 (2.21)

26 26 CHAPTER 2. PARTE PRIMA Osserviamo che, essedo P geerata da ua distribuzioe uiforme su Ω, per u arbitrario eveto C Ω si ha P (C) = ω C p(ω) = #{ω : ω C} Ω (2.22) e duque la (2.21) equivale ad affermare che la frazioe delle parole ω su cui la frequeza relativa dell eveto testa si discosta dal suo valore atteso 1/2 per meo di ua quatità r, positiva ma per altro arbitraria, tede a uo al crescere della lughezza delle parole. Si tratta di u caso particolare della legge dei gradi umeri, la cui prima formulazioe risale al già citato trattato Ars Cojectadi di Jakob Beroulli ( ), pubblicato postumo el Ricaveremo acora questa legge co più geeralità ella sezioe seguete. Essa esprime ua proprietà di stabilità statistica delle frequeze su u gra umero di prove. A qualcuo quest idea può apparire oscura, e i u certo seso lo è: dopo u gra umero di prove potremmo essere tutti morti e o osservare mai lo stabilizzarsi delle frequeze... i ua prospettiva più pragmatica, possiamo tuttavia tetare di rispodere alla seguete domada 5 : quato può essere grade ua fluttuazioe di ν (1) 2 rispetto al valore atteso Eν (1) 2 = per o diveire sorpredete? Ad esempio per o farci sospettare che la moeta sia truccata? Prediamo uovamete i esame la distribuzioe p k,2 = 2 ( ) 2 2 (1) k, k = 0, 1,..., 2, di ν 2. Ciò che vorremmo è ua successioe r tale che lim P 2 ( ν (1) 2 r ) = γ, 0 < γ < 1 (2.23) Osserviamo a questo proposito che Var ν (1) 2 = /2 forisce ua stima della larghezza della distribuzioe p k,2. I alterativa, basterà ricordare che il valore massimo di p,2 è O(1/ ) e che k p k,2 = 1. Possiamo duque ipotizzare che l ampiezza di ua fluttuazioe o sospetta sia r = O( ). I effetti se poiamo ad esempio r = α /2 allora dovrà essere lim α > 0 altrimeti, per la (2.17), si avrebbe γ = 0 ella (2.23). D altra parte, dalla (2.18) co r = r si vede che deve essere lim α <, altrimeti si avrebbe γ = 1. Allora possiamo ad esempio richiedere che α α co 0 < α <, ma allora o v è ragioe per o provare α α. Vogliamo duque calcolare ( ) Q 2 (α) P 2 ν (1) 2 α = 1 ( ) 2 (2.24) j j R (α) 5 Per semplicità cosideriamo qui il caso di sequeze di 2 laci.

27 2.3. VARIABILI ALEATORIE 27 dove abbiamo posto R (α) = {j : j α /2}. Ora ( ) ( ) 2 (2)! 2 = + j ( + j)!( j)! = ( 1) ( j + 1) ( + j) ( + 1) (2.25) Deotado l ultimo fattore D,j possiamo riscrivere la (2.24) ella forma Q 2 (α) = p,2 D,j (2.26) j R (α) Cerchiamo di stimare i termii D,j. Si ha [( D,j = 1 + j ) ( 1 + j ) ( )] 1 j j + 1 e duque Sviluppiamo il logaritmo: ( log 1 + j ) k j 1 ( log D,j = log 1 + j ). k k=0 = j k D altra parte, se j R (α) si ha O ( j k I coclusioe j k = j 1 1 k/ = j log D,j = j2 ( ( )) j 1 + O. k ) ( = O 1 ), e ioltre ( ( )) O ( ( )) O e duque, essedo j 2 / < α 2 /2 per j R (α), ( ( )) D,j = e j2 / O. Ifie, mettedo isieme la (2.6) e la (2.26) troviamo ( ( )) 1 1 Q 2 (α) = 1 + O e j2 / π j R (α) (2.27)

28 28 CHAPTER 2. PARTE PRIMA A questo puto, se eseguiamo il cambiameto di variabili: x j = j 2/, x = x j+1 x j = 2/, la codizioe j R (α) corrispode a α x j α e la (2.27) diviee ( ( )) 1 1 Q 2 (α) = 1 + O e x2 j /2 x (2.28) 2π α x j α Ma l ultimo fattore altro o è che la somma che approssima l itegrale di Riema della fuzioe p(x) = e x2 /2 / 2π, tra α e α. Quidi lim Q 2(α) = 1 α e x2 /2 dx (2.29) 2π α Il caso dispari, cioè co 2+1 laci, può essere similmete trattato osservado che per ogi δ > 0 ed ogi abbastaza grade ( > 1/2δ 2 ) { } { ω : ν (1) 2 (α δ) 2 2 Pertato si ha ω : ν (1) 2+1 ( ) α ( + 1/2) { ω : ν (1) 2 (α + δ) } 2 lim Q 2 (α δ) lim Q 2+1 (α) lim Q 2+1 (α) lim Q 2 (α + δ) Abbiamo duque mostrato che ( ν (1) lim P 2 α 2 ) = 1 2π α α e x2 /2 dx (2.30) I modo equivalete possiamo scrivere ( lim P f (1) 1 2 α 1 ) 2 = 1 α e x2 /2 dx (2.31) 2π α ed osserviamo che 1/(2 ) = Var f (1). I parole, abbiamo trovato che la distribuzioe asitotica delle deviazioi della frequeza relativa delle teste da 1/2, di ampiezza pari a ua frazioe della deviazioe media Var f (1), cioè deviazioi O(1/ ), è goverata da u itegrale gaussiao. Si tratta di u }

29 2.3. VARIABILI ALEATORIE 29 caso particolare del teorema del limite cetrale, sul quale toreremo più volte i seguito. Dalla (2.30) si possoo evicere i segueti fatti. Idichiamo la fluttazioe co E = ν (1) e poiamo σ = Var ν (1) 2 = /2, allora si ha: 1. la probabilità che E o superi σ vale 0,68; 2. la probabilità che E o superi 2σ vale 0,95; 3. la probabilità che E o superi 3σ vale 0,99. Ua verifica sperimetale di questo risultato può essere otteuta per mezzo del cosiddetto tavolo di Galto, riportato ella figura seguete.

30 30 CHAPTER 2. PARTE PRIMA Cosiderazioi euristiche sul cocetto di variabile aleatoria cotiua A questo riguardo cosideriamo la variabile aleatoria discreta := f (1) Ef (1) Var f (1) η (1) (2.32) e otiamo che η (1) è ormalizzata, ossia Eη (1) = 0 e Var η (1) = 1. Ioltre, se ν (1) varia i R (α) allora η (1) varia ell itervallo [ α, α]. Per mezzo di η (1) la (2.15) può essere ulteriormete riscritta ella forma lim P ( η (1) α ) = 1 α e x2 /2 dx (2.33) 2π α Ora, il umero di valori assuti dalla variabile η (1) tede all ifiito ma, ello stesso tempo, la distaza tra due valori successivi x k+1 x k tede a zero i = x k ) coverge ad u valore fiito, dato dall itegrale gaussiao scritto sopra. Più i geerale, immagiiamo ua variabile aleatoria discreta ξ su Ω che assume valori x 0,..., x, per cui si abbia p k P (ξ = x k ) = p(x k ) x k + o( x k ) dove p(x) è ua fuzioe cotiua su R. I tal caso la somma a x k b p k si comporta come la somma di Riema per l itegrale b p(x)dx. Evidetemete deve essere p(x) 0 e p(x)dx = 1. a modo tale che la quatità α x k α P (η (1) Ogi fuzioe che soddisfa queste due proprietà si chiama desità di probabilità. Defiizioe 8 Sia (Ω, F, P) uo spazio di probabilità e ξ : Ω R ua fuzioe misurabile, ossia tale che per ogi B B(R) si abbia {ω : ξ(ω) B} F. Se per ogi itervallo [a, b] si ha P({ω : a ξ(ω) b}) = b a p(x) dx allora diciamo che ξ ha distribuzioe di probabilità co desità p(x). L aspettazioe e la variaza di ua variabile aleatoria distribuita co desità di probabilità p(x) soo date da ( 2 Eξ = x p(x) dx, Var ξ = x 2 p(x) dx x p(x) dx) (2.34)

31 2.4. ALTRE DISUGUAGLIANZE UTILI Esempi ed esercizi 1. p(x) = 1 2πσ e (x m)2 /2σ 2 si dice distribuzioe gaussiaa co parametri m, σ. Mostrare che per questa distribuzioe si ha Eξ = m e Var ξ = σ p(x) = 1 b a 1 [a,b] si dice distribuzioe uiforme sull itervallo [a, b]. Mostrare che Eξ = (a + b)/2 e Var ξ = (b a) 2 / p(x) = λe λx 1 [0, ] si dice distribuzioe espoeziale. Mostrare che Eξ = 1/λ e Var ξ = 1/λ Altre disuguagliaze utili Applicado la prima disuguagliaza di Chebyshev alla variabile aleatoria η = ξ k si ottiee la disuguagliaza di Markov, P({ω : ξ(ω) α}) Eη α k (2.35) Più i geerale, se ξ 0 e λ > 0, la disuguagliaza di Chebyshev espoeziale afferma che P({ω : ξ(ω) α}) = P({ω : e λξ(ω) e λα }) Ee λ(ξ α) (2.36) Ioltre, essedo λ positivo ma del tutto arbitrario, è evidete che P({ω : ξ(ω) α}) if λ>0 Eeλ(ξ α). (2.37) Ua fuzioe φ defiita su u itervallo I si dice covessa se soddisfa φ(px + (1 p)y) p φ(x) + (1 p) φ(y), 0 < p < 1, x, y I. Se φ è almeo C 2, ua codizioe sufficiete è φ (x) 0, x I. Per iduzioe si vede poi che φ( N i=1 p ix i ) N i=1 p iφ(x i ), ogi volta che p i 0, N i=1 p i = 1 e x i I. Se ora ξ assume i valori x i co probabilità p i, questa diviee la disuguagliaza di Jese, φ(eξ) E (φ(ξ)) (2.38) valida se φ è covessa su u itervallo che cotiee i possibili valori di ξ. Siao ora p > 1 e q > 1 tali che 1/p + 1/q = 1. Dati a e b positivi esisterao s e t tali che a = e s/p e b = e t/q. Essedo e x covessa, si ha e s/p+t/q p 1 e s + q 1 e t,

32 32 CHAPTER 2. PARTE PRIMA ovvero ab a p /p+b q /q. Se ora poiamo a = ξ /E 1/p ( ξ p ) e b = η /E 1/q ( η q ) si ottiee ξη E 1/p ( ξ p ) E 1/q ( η q ) 1 ξ p p E( ξ p ) + 1 η q q E( η q ). Osserviamo che l aspettazioe del termie a destra è uguale a 1. Pertato, prededo l aspettazioe di ambo i membri si ottiee la disuguagliaza di Hölder, E( ξ η ) E 1/p ( ξ p ) E 1/q ( η q ) (2.39) La scelta p = q = 2 dà la disuguagliaza di Schwartz, E( ξ η ) E 1/2 (ξ 2 ) E 1/2 (η q ). (2.40) Ifie, dati due umeri 0 < α < β, si predao ella (2.39) p = β/α, q = β/(β α), η 1 e si sostiuisca ξ co ξ α. Il risultato è la disuguagliaza di Lyapuov, E 1/α ( ξ α ) E 1/β ( ξ β ) (2.41) 2.5 Probabilità e aspettazioe codizioate Per itrodurre la probabilità codizioata, ricorriamo acora all ituizioe foritaci dall esame della frequeza relativa i u esempio cocreto. Cosideriamo due filtri F B e F A posti i successioe attraverso i quali si dovrao cercare di far passare sassolii di varie dimesioi. Siao B, A e A B gli eveti passare da F B, passare da F A e passare da etrambi, rispettivamete. Ci chiediamo quale sia la probabilità che u sassolio, scelto a caso tra quelli che hao passato F B, passi ache da F A. Idicheremo tale eveto co A B. Suppoiamo ora che di sassolii iiziali, soltato m siao passati da F B, ossia che = m/. Suppoiamo ioltre che, tra questi m, soltato k sassolii passio ache attraverso F A. Allora avremo f (A B) = k/ e f (A B) = k/m, da cui si vede che f A B = f (A B) /f (B). Ciò giustifica le seguete defiizioe. f (B) Defiizioe 9 Sia (Ω, F, P) uo spazio di probabilità e A, B F due eveti, co P(B) > 0. La probabilità codizioata di u eveto A dato l eveto B è data da P(A B) P(A B) = (2.42) P(B)