Evoluzione dei mezzi di calcolo rende possibile modello più accurato, da analizzare attraverso uno studio di simulazione

Transcript

1 Probabilità e computer Modello probabilistico è spesso un compromesso tra esigenza di aderenza a fenomeno reale e trattabilità matematica modello troppo semplificato ma che può essere analizzato matematicamente Evoluzione dei mezzi di calcolo rende possibile modello più accurato, da analizzare attraverso uno studio di simulazione Simulazione rende anche possibile studiare fenomeni virtuali o organizzare esperimenti virtuali Esempio: Coda ad uno sportello Si prevede di aprire uno sportello che dia informazioni tra le 9 e le 19 ogni giorno. Ci si aspetta che ogni giorno si presentino allo sportello circa 50 persone (clienti). Si prevede che rispondere ad un cliente richieda un tempo casuale con media 10 e deviazione standard 2. Si pensa di non accettare più clienti dopo le 19 ma di servire comunque quelli in attesa. Tipiche domande alle quali si vuole ottenere una risposta: 1

2 1. tempo medio di apertura effettiva dello sportello? 2. frazione di giorni in cui lo sportello ancora aperto alle 19,30? 3. tempo medio di attesa per un cliente? 4. quanti clienti in media serviti ogni 30 minuti? 5. effetto di respingere i clienti quando la coda è più lunga di 5 clienti? Costruzione di un modello probabilistico utile richiede ipotesi ragionevolmente accurate. modello del processo degli arrivi: tasso di arrivo costante? Variabile con le ore del giorno (più realistico) distribuzione del tempo di servizio di un cliente? Diverse distribuzioni in dipendenza del numero di clienti in attesa o delle ore del giorno? dipendenza dai giorni della settimana? 2

3 Modello risultante può essere troppo complicato da trattare per via analitica. Simulazione programma comportamento probabilistico del sistema su un computer utilizzando numeri casuali per realizzare i vari effetti probabilistici (valori delle variabili aleatorie in gioco) e registrando esito di tali effetti su aspetti del sistema complessivo di interesse. Computer permette di replicare esperimento virtuale un gran numero di volte e ottenere stime delle quantità interessanti tramite legge grandi numeri. 3

4 Generazione di numeri casuali Lancio moneta, dado, esito della roulette, estrazione di carte da un mazzo: sistemi meccanici per simulare realizzazioni di variabili aleatorie discrete Lancio moneta (equilibrata) può generare numeri casuali con arbitrario numero di cifre binarie, approssimazione di numeri uniformi in (0,1) (realizzazioni di v.a. uniforme) Poco pratico Con computer numeri pseudo-casuali : generati da algoritmo deterministico, ma che sembrano realizzazioni di variabili aleatorie uniformi e indipendenti Approccio più comune: congruenziale moltiplicativo x 0 valore intero iniziale (seme) a e m interi positivi fissati x n {0, 1,...m 1} x n ax n 1 mod m x n /m valore approssimato (?) di un numero estratto da U(0, 1) 4

5 a e m scelti in modo che: 1. per ogni ragionevole scelta di x 0, { x 1 m,..., x n m } si comporta come una successione di valori osservati di n v.a. indipenendenti e U(0, 1) 2. il periodo della successione è grande (la successione prima o poi si ripete, sicuramente dopo m iterazioni) 3. il calcolo è veloce Per un computer con parole di 32 bit una buona scelta è m = = e a = 7 5 = Proprietà statistiche della successione valutate attraverso una serie di test numero primo (scelta... non casuale!) periodo pieno = m sufficientemente lungo in pratica Generatore congruenziale misto x n (ax n 1 + c) mod m Ogni sistema operativo ha in librerie di sistema procedura per generare numeri pseudo-casuali 5

6 Calcolo di un integrale definito tramite numeri pseudocasuali Una delle prime applicazioni dei numeri pseudo-casuali: metodo Montecarlo (all inglese Monte Carlo) I = 1 0 g(x)dx Se U U(0, 1) I = E[g(U)] Se U 1, U 2,...,U n i.i.d U(0, 1), da legge forte dei grandi numeri: 1 k k g(u i ) E[g(U)] = I per k i=1 Generando un numero elevato di numeri pseudocasuali u 1, u 2,...,u n, la media aritmetica dei g(u i ) approssima I 6

7 > # Esempio di calcolo di integrale definito con metodo Montecarlo > with(stats): > with(random): > g:=proc(x) exp( sin(x)) end proc: #funzione integranda > int(g(x),x=0..1); #integrazione definita 1 > 0 e ( sin( x) ) dx > evalf(%); #valuta numericamente > media:=proc(g,n) local i, m: m:=0: for i from 1 to n do od: m:=m/n: end proc: > media(g,10); > media(g,100); > media(g,1000); m:=m+g(uniform[0,1](1)): > media(g,10000); > media(g,100000); Deviazione standard della media aritmetica 1 n, errore nella stima 1 n 7

8 Se integrale non in [0,1], si può operare cambio di variabile Metodo Montecarlo poco utile per integrali semplici, più utile per integrali multipli I = I = E[g(U 1, U 2,...,U n )] 0 U i i.i.d. U(0, 1) e u j i Es. Stima Montecarlo di π g(x 1, x 2,...,x n )dx 1 dx 2 dx n k g(u j 1,...,uj n)/k j=1 numeri pseudo-casuali (X, Y ) punto casuale uniforme sul quadrato di vertici (±1, ±1) Probabilità p che (X, Y ) cerchio iscritto di raggio 1? p = Area del cerchio Area del quadrato = π 4 Se X e Y sono indipendenti e U( 1, 1), f(x, y) = f(x)f(y) = = 1 4, x, y ( 1, 1) (X, Y ) uniforme sul quadrato Se U U(0, 1) 2U 1 U( 1, 1) 8

9 Da coppie di numeri pseudo-casuali u 1, u 2 ottengo punti pseudo-casuali (2u 1 1, 2u 2 1) nel quadrato I(x, y) = 1 se x 2 + y 2 1, 0 altrimenti p = E(I) = P(X 2 + Y 2 1) p frazione di punti pseudo-casuali che cade nel cerchio 9

10 > # Esempio di calcolo di pigreco con metodo Montecarlo > with(stats): > with(random): > evalf(pi); #valuta numericamente > g:=proc(x,y) if (x^2+y^2 <= 1) then 1. else 0 end if: end proc: > media:=proc(g,n) local i, m, u : m:=0: for i from 1 to n do od: u:=uniform[0,1](2): m:=m+g(2*u[1] 1,2*u[2] 1): m:=4*m/n: end proc: > media(g,10); > media(g,100); > media(g,1000); > media(g,10000); > media(g,100000);

11 Generazione di numeri pseudo-casuali non uniformi Da numeri pseudo-casuali uniformi simulazione variabili aleatorie con altre distribuzioni Simulazione di variabili aleatorie discrete P(X = x j ) = p j, j = 1, 2,..., j p j = 1 Se U U(0, 1) P(X = x j ) = P ( j 1 i=1 p i U < ) j p i = p j i=1 a u numero uniforme associo x j se j 1 i=1 p i u < j i=1 p i algoritmo: genera u se u < p 1 stop con x 1 se u < p 1 + p 2 stop con x 2. 11

12 (v.a. uniforme discreta) l algoritmo si ferma quando j 1 n u < j n Se x j = j, j = 1,...,n e p j = 1 n restituendo j, cioè [nu] + 1 ([x] parte intera di x) - calcolo immediato Simulazione del lancio di una moneta p probabilità di una testa, se u < p testa, altrimenti croce Simulando n lanci di una moneta e sommando i successi simulo v.a. binomiale B(n, p) Non molto efficiente Oltre a proprietà statistiche, importante efficienza degli algoritmi 12

13 algoritmo più efficiente per binomiale: P(X = i+1) = n! (i + 1)!(n (i + 1))! p(i+1) (1 p) n (i+1) = n i i + 1 n! i!(n i)! p 1 p pi (1 p) n i = n i i + 1 p P(X = i) 1 p Applicazione algoritmo generale: Passo 1: genera u Passo 2: c = p/(1 p), i = 0, P = (1 p) n, F = P Passo 3: se u < F stop con i Passo 4: P = [c(n i)/(i + 1)]P, F = F + P, i = i + 1 Passo 5: Vai a passo 3 In media 1 + np ricerche; se p > 1/2, conviene simulare B(n, 1 p) e sottrarre da n 13

14 Simulazione della rovina del giocatore > # Simulazione rovina del giocatore > with(stats): > with(random): > vincita:=proc(p) #1 o 1 con prob p e 1 p if ( uniform[0,1](1) < p) then 1 else 1 end if: end proc: > gioca:=proc(m,n,p) #calcola se rovina o vittoria e durata gioco local rovina, durata, capitale: durata:=0: capitale:=m: while ( capitale <> 0 and capitale <> m+n ) do capitale:= capitale + vincita(p): durata:= durata + 1: end do: if ( capitale = 0 ) then rovina:=1 else rovina:=0 end if: [rovina,durata] end proc: > medie:=proc(m,n,p,n) # calcola frequenza rovina e durata media # su N ripetizioni local i, L, prob, esito: prob:=0: L:=0: for i from 1 to N do esito:= gioca(m,n,p): od: prob:=prob+esito[1]: L:=L+esito[2]: prob:=prob/n: L:=L/N: evalf([prob,l]): end proc: 14

15 > medie(10,10,0.5,10000); # gioco equo con pari capitale iniziale [ , ] > # da confrontare con n/(m+n) = 1/2 # e m*n =10*10 = 100 > medie(1,100,0.4,10000); #ubriaco ad 1 passo dal burrone e a 100 # passi da casa attratto dal burrone [ 1., ] > subs(m=1,n=100,r=0.6/0.4,( r^m r^(m+n) )/(1 r^(m+n) ) ); effettiva # probabilità > subs(m=1,n=100,q=0.6, p=0.4, (m+n)/(p q) * (1 (q/p)^m) /(1 (q/p)^(m+n)) m/(p q) ) # durata media effettiva > medie(1,100,0.5,10000); # idem ma senza attrazione [ , ] > # da confrontare con 100/101= # e 1*100=100 > medie(1,100,0.6,10000); #idem ma con attrazione verso casa [ , ] > subs(m=1,n=100,r=0.4/0.6,( r^m r^(m+n) )/(1 r^(m+n) ) ); # probabilità effettiva > subs(m=1,n=100,q=0.4, p=0.6, (m+n)/(p q) * (1 (q/p)^m) /(1 (q/p)^(m+n)) m/(p q) ); #durata media effettiva

16 Simulazione di variabili aleatorie continue Se U U(0, 1) e F funzione di ripartizione continua X = F 1 (U) F Algoritmo della trasformazione inversa per simulare una v.a. con distribuzione F Genera u Calcola F 1 (u) esempio Simulare X Exp(1) F(x) = 1 e x x = F 1 (u) = log(1 u) numero pseudo-casuale esponenziale se U U(0, 1) 1 U U(0, 1), quindi basta porre x = log(u) Per simulare X Exp(λ) x = 1 λ log(u) Simulazione di un processo di arrivi con intervallo tra un arrivo e l altro descritto da v.a. esponenziale Metodo di accettazione-rifiuto Se possibile simulare in modo efficiente una v.a. con 16

17 funzione di densità g(x), possiamo simulare qualsiasi altra v.a. dotata di densità f(x) se c tale che f(x) g(x) c x Passo 1: Genera Y con densità g Passo 2: Genera U uniforme Passo 3: Se U f(y ) cg(y ) Passo 1 stop con Y altrimenti vai al Si dimostra che la variabile prodotta dall algoritmo ha densità f e che il numero di iterazioni richieste è una v.a. geometrica con media c Esempio Simulare una v.a. Normale standard se X N(0, 1), Z = X ha densità f(z) = 2 2π e z2 /2, 0 < z < g(z) = e z densità esponenziale con media 1 f(z) g(z) = 2/πe z z2 /2 massimo in 1 c = f(1)/g(1) = { } 2e/π f(z) cg(z) = exp (z 1)2 2 17

18 simulazione di Z: Passo 1: Genera Y exp(1) Passo 2: Genera U U(0, 1) Passo 3: Se U exp{ (Y 1) 2 /2} stop con Y altrimenti vai a Passo 1 X N(0, 1) può essere simulata scegliendo Z o Z con probabilità 1/2. 18

19 Sistemi di funzioni iterate I sistemi di funzioni iterate costituiscono un metodo per costruire immagini frattali (M. Barnsley, Fractals Everywhere, 1988). I frattali sono composti dall unione di copie di se stessi ottenute tramite la trasformazione attraverso opportune funzioni. L esempio più famoso è il triangolo di Sierpinski sia dato un triangolo equilatero con base parallela all asse orizzontale (prima immagine) si riduca ogni lato del triangolo di 1/2, si facciano due copie e si posizionino i tre triangoli come nella seconda immagine si ripeta il passo precedente per ciascuno dei triangoli (immagine 3 e seguenti) Immagine autosimile, fatta dall unione di tre copie dell immagine traformate come sopra Costruzione tramite IFS 19

20 x 0 = 0, y 0 = 0 i punti successivi sono ottenuti applicando a caso (con uguale probabilità) una delle tre seguenti trasformazioni (affini) x n+1 = 0.5x n y n+1 = 0.5y n x n+1 = 0.5x n y n+1 = 0.5y n x n+1 = 0.5x n + 1 y n+1 = 0.5y n Le tre trasformazioni producono i punti rispettivamente evidenziati in giallo, rosso, verde nella figura 20

21 Catena di Markov (con spazio degli stati continuo) Le funzioni di trsaformazione non necessariamente affini, ma devono essere contrazioni, cioè rendere i punti trasformati più vicini. La forma del frattale è di conseguenza fatta di un certo numero di copie (eventualmente con sovrapposizioni) ridotte del frattale e così ogni copia è fatta di sue copie ridotte e così via. S = N i=1f i (S) I sistemi IFS sono usati per la compressione di immagini. Descrizione con pochi parametri. Problema difficile trovare in generale il sistema che determina una data immagine (brevetti di Barnsley) IFS per immagine di foglia di felce: 21

22 La figura è formata dall unione di 4 copie di se stessa (compreso lo stelo - verde) 22

23 Le 4 trasformazioni corrispondenti sono: x n+1 = 0 y n+1 = 0.16y n stelo - verde x n+1 = 0.2x n 0.26y n y n+1 = 0.23x n y n rosso x n+1 = 0.15x n y n y n+1 = 0.26x n y n blu x n+1 = 0.85x n y n y n+1 = 0.04x n y n azzurro Le probabilità delle trasformazioni sono rispettivamente 0.01, 0.07, 0.07, x 0 = y 0 = 0 Le probabilità non influenzano la forma, ma solo la frequenza dei punti nelle varie regioni 23