Studio dell aleatorietà: : proprietà di indipendenza ed uniformità. Daniela Picin

Transcript

1 Studio dell aleatorietà: : proprietà di indipendenza ed uniformità Daniela Picin

2 TEST TEORICI: studio della media, della varianza e della correlazione del primo ordine, studio della struttura reticolare. TEST EMPIRICI: esaminano un campione di uscita del generatore per identificare quanto il suo comportamento devia dalla casualità: test di frequenza, test seriale, test del gap e test del poker. Un attento studio dell aleatorietà su sequenze uniformi permette di avere una maggiore affidabilità nella generazione di sequenze con una distribuzione specifica richiesta, ottenute quest ultime mediante un opportuna trasformazione delle prime. 2

3 Test di frequenza Si considera una sequenza finita U 1,..., U n [0, 1] v.a. i.i.d. Per analizzare l uniformità sono disponibili due test diversi: il test statistico χ 2 il test statistico Kolmogorov-Smirnov. 3

4 Test χ 2 Si divide l'intervallo [0, 1] in k sottointervalli uguali o categorie. Si denota con f s il numero delle osservazioni che entrano nel sottointervallo s. La probabilità teorica che un numero uniforme entri nella categoria s è se si considerano n osservazioni allora il valore atteso in ciascuna categoria è Nella pratica si sceglie n tale che np s > 5. _ f p s = = n k 1 k 4

5 Test χ 2 Allora la variabile aleatoria V = k s= 1 risulta essere asintoticamente distribuita come una variabile χ 2 con k-1 gradi di libertà (si indica χ 2 k-1) Lo studio della distribuzione di probabilità della v.a. V viene fatto osservando la funzione densità f (χ 2 k-1 ). f s _ f _ f 2 5

6 Test χ 2 Esempio. se si divide l'intervallo [0, 1] in k = 10 sottointervalli si considera la f (χ 2 9 ) f (V) f χ V La funzione f(χ 2 k-1 ) è tabulata in tavole statistiche dette tavole dei percentili. 6

7 Test χ 2 Quindi se il generatore casuale ha buone caratteristiche di uniformità e indipendenza è improbabile che V assuma valori molto grandi o molto piccoli. Il test è esatto solo asintoticamente (il numero delle osservazioni n ) Un test χ 2 viene fatto almeno 3 volte su distinte sottosequenze e se almeno due dei tre risultati risultano sospetti, i numeri sono considerati non uniformi. 7

8 Test Kolmogorov-Smirnov Può essere applicato con buoni risultati a piccole sequenze. Preso un campione di ampiezza N, viene confrontata la cdf osservata F N (x) con quella teorica F(x), in particolare viene valutata la massima differenza fra le due. D = max F x F x 0 x< 1 La distribuzione di D è nota ed è tabulata in funzione alla scelta di N. Sia x [0, 1) una v.a. u.d. N N ( ) ( ) F(x)=x Primo passo: si ordinano i dati U 1,, U N, dal più piccolo al più grande U i+1 U i per i = 1,..., N-1, 8

9 Test Kolmogorov-Smirnov Secondo passo: si costruisce la distribuzione empirica F N (x) = i/n U i x < U i+1 dove U 0 = 0 e U N+1 = 1, Terzo passo: si calcola Quarto passo: si calcola { i } ( i 1) + DN = max xi e DN = max xi 1 i N N 1 i N ( + ) D = max D, D Dalla tabella si determina il valore critico D α. Se D > D α l ipotesi di uniformità è rigettata, altrimenti la sequenza si considera uniforme. N 9

10 Esempio: Test Kolmogorov-Smirnov Supponiamo di avere generato 5 numeri 0.44, 0.81, 0.14, 0.05, 0.93, e sia α = Al primo passo ordiniamo i numeri ottenendo la nuova sequenza 0.05, 0.14, 0.44, 0.81, Calcoliamo D + = max {(1/5-0.05), (2/5-0.14), (3/5-0.44), (4/5-0.81), (5/5-0.93)} = Calcoliamo D - = max{(0.05 0/5), (0.14 1/5), (0.44-2/5), (0.81 3/5), (0.93 4/5)} = Calcoliamo D = Determiniamo D 0.05 = Il valore calcolato è inferiore al valore critico, l'ipotesi non è rigettata. (Slide su internet: Francesca Mazzia ) 10

11 Test seriale Studia l'uniformità p-dimensionale: il test seriale partiziona una sequenza di numeri in sottosequenze non sovrapposte di lunghezza p e considera ogni sottosequenza come un punto in un cubo p-dimensionale. Ogni dimensione del cubo è divisa in k sottointervalli che partizionano il cubo in k p celle. Il test χ 2 viene applicato al numero dei punti cadenti in ogni cella e i gradi di libertà del test è k p

12 Test seriale Caso p = 2. Il test viene applicato a coppie disgiunte e continue di numeri (U 2j, U 2j+1 ) per 0 j < N di una sequenza {U N } e dimostra se tali coppie sono uniformemente distribuite nel quadrato [0, 1) 2. Se la sequenza è lunga N=2n si avranno n coppie; si divide il quadrato unitario in k 2 parti ognuna di area 1/ k 2 allora la frequenza attesa di coppie cadenti nell'i-esima parte è n/ k 2. Se si denota con f i la frequenza osservata il test statistico 2 n f 2 i k 2 k V = i= 1 n 2 k si comporta asintoticamente come una v. χ 2 2 k 1 12

13 Test del Poker Considera i gruppi di cifre come una mano di poker. Le mani ottenute sono confrontate con quello che ci aspettiamo usando il test del χ 2. Il test osserva sequenze di interi e considera N gruppi di quintuple e ogni gruppo viene posto in una delle seguenti sette configurazioni del poker: Gli interi sono tutti uguali: a a a a a hanno quattro elementi uguali: a a a a b hanno una tripla e una coppia: a a a b b hanno una tripla e due sono distinti: a a a b c hanno due coppie: a a b b c hanno una coppia: a a b c d sono tutti differenti: a b c d e 13

14 Test del Poker Se la sequenza studiata è uniforme allora le configurazioni osservate si distribuiranno con la stessa probabilità p s delle configurazioni teoriche. Consideriamo ora cinque categorie: s = 1 elemento distinto a a a a a s = 2 elementi distinti a a a b b e a a a a b s = 3 elementi distinti a a b b c e a a a b c s = 4 elementi distinti a a b c d s = 5 elementi distinti a b c d e Sia p s la probabilità che un gruppo contenga esattamente s valori distinti, si noti che ogni quintupla può assumere d 5 valori con uguale probabilità, dove ogni valore appartiene all'intervallo [0, d-1]. 14

15 Test del Poker d=(numero di valori distinti che può assumere ciascun intero R i ) s = (numero dei valori diversi all interno di una configurazione) p s disposizioni senza ripetizione n.ro di partizione di d elementi su s posti di 5 oggetti su s posti = disposizioni con ripetizione di d n.ri su 5 posti (, ) S k s ( 1)( + 1) ( 5, ) d d d s S s ps = 5 d k = s con numero di Stirling di seconda specie. Relazione ricorsiva per il calcolo dei numeri di Stirling di seconda specie è: k k 1 k 1 k k = + s con = = 1 s s 1 s 1 k 15

16 Test del Poker Come nei test precedenti vengono osservati quanti gruppi cadono in ogni categoria e, se si denota con f s la frequenza osservata, il test statistico V = 5 s= 1 ( f Np ) 2 s s n con N = Np 5 s si comporterà asintoticamente come una variabile 2 χ 4 16

17 Test del Poker Per una scelta opportuna di d, dato il n.ro delle quintuple da osservare e k = 5 il n.ro delle configurazioni considerate, il valore di d deve essere assunto compatibilmente con le due condizioni: 1) Np s > 5 s 2) d 5 Dall'equazione di p s si ha per s = 1, 2,..., 5 15( d 1) 25( d 1)( d 2) 1 p1 = 4 ; p2 = ; p3 = ; 4 4 d d d 10( d 1)( d 2)( d 3) ( d 1)( d 2)( d 3)( d 4) p4 = ; p 4 5 = ; 4 d d min { ps} = p1 Poiché la 1) è sempre vera per ogni s se: Np 1 > 5 e quindi s d < 4 N 5 considerando anche la 2) si ha: Esempio: si ha una sequenza di n = n.ri pseud. allora 4 5 d < N = n 5 5 d < 4 N 5 17

18 Test del Gap Questo test viene applicato a sottosequenze U i, U i+1,, U i+r e osserva la lunghezza del gap tra due successivi numeri pseudocasuali compresi in un determinato intervallo [α,β] con α,β R e 0 α< β 1. La sottosequenza U i-1, U i,..., U i+r-1, U i+r, di r+2 numeri, con U i-1 e U i+r [α,β], è chiamata gap di lunghezza r. Per l'applicazione del test χ 2 le categorie vengono scelte sulla base della lunghezza del gap. Dati α,β R il test conta quanti gap sono di lunghezza 0, 1,..., t-1 e quanti di lunghezza maggiore di t-1. Si predetermina un numero N di gap da generare. 18

19 Test del Gap Sotto l'assunzione di casualità, il gap risulta distribuito geometricamente e la probabilità di un gap di lunghezza s sarà: p s = p (1-p) s s = 0, 1,..., t-1 infatti p 0 = Prob {U i [α,β] U i-1 [α,β]} = p p 1 = Prob {U i [α,β] U i+1 [α,β] U i-1 [α,β]} = (1-p) p p 2 = Prob {U i [α,β] U i+1 [α,β] U i+2 [α,β] U i-1 [α,β]} = (1-p) 2 p p s =Prob {U i [α,β]... U i+s [α,β] U i-1 [α,β]} = (1-p) s p 19

20 Test del Gap Per la richiesta di uniformità si avrà: p = Prob (α U k β) = β - α k 1 { } ( ) ( ) p = Pr ob gap t = 1 p 1 p = 1 p t t s t s= 0 Se si denota con f s (s = 0,, t-1) la frequenza osservata dei gap di lunghezza s e f t la frequenza dei gap più lunghi di t-1, allora il test statistico su k = t+1 categorie V = t s= 0 ( f Np ) 2 è distribuito asintoticamente come una variabile s Np s s 2 χ t 20

21 Test del Gap Nell'implementazione di questo test è importante specificare in precedenza N piuttosto che la lunghezza della stringa da determinare, poiché bisogna sempre applicare la condizione Np s > 5. In generale per l'applicazione del test del gap si sceglie l'intervallo (α,β) = (0, ½) oppure (α,β) = (½, 1). Scelto N il numero dei gap presenti nella sequenza da studiare si può dimostrare che il numero massimo di categorie compatibili con la condizione Np > 5 s è t < 1+ log N + log m log 5 s con m = min {p, 1-p} p 1 p 1 p 21

22 Test del Gap Valutazione di N: n = lunghezza della sequenza; per passare da n a N si può calcolare la grandezza: E n = numero medio di elementi U n che occorre generare per produrre ciascun tipo di gap in una sequenza di n num. pseud. Si calcola: E s ={n. degli U n da generare per avere un gap di lunghezza s} = s+1 n 1 E = p E n s s s= 0 N = n E n Si può considerare come il numero medio dei gap che si possono presentare in n generazioni. 22

23 Struttura reticolare Si considera una sequenza di n.ri casuali x n Z m = {0,,m-1} Sia l uscita del generatore (GLC) al passo n u n =x n /m nell int. [0,1) intero t 1 si definisce l insieme { u (,..., ) 0, } T = = u u n x Z t n n n+ t 1 0 m di tutte le t-uple sovrapposte di successivi valori, a partire da tutti i possibili semi iniziali. L insieme T t è uguale all intersezione di un reticolo L t con un cubo unitario [0,1) t. In particolare tutti i punti di T t giacciono su un piccolo numero di iperpiani paralleli equidistanti. 23

24 Esempio: Struttura reticolare ( ) ( ) a) xi+ 1 = 5xi + 3 mod256 xi U i = in 0, 1 b) x 256 i+ 1 = 13xi + 3 mod 256 [ ) Distribuzione di {U i,u i+1 } dei generatori a) e b) in [0, 1) 2 Si cerca il minimo numero n di rette coprenti: si ha in a) n=5 e in b) n=13 In uno spazio multidimensionale: più iperpiani paralleli sono necessari per ricoprire i punti, migliore è la distribuzione dei punti 24

25 Struttura reticolare Dal reticolo si possono costruire diversi parallelogrammi: consideriamo il più piccolo. 1/ ν è la distanza tra le rette adiacenti 25

26 Test sulla struttura reticolare Lattice test: identifica il più piccolo parallelepipedo a k dimensioni e gli associa la lunghezza dei lati l 1, l 2,,l k in ordine crescente. La quantità q= l 1 / l k chiamato quoziente di Beyer dà la misura di quanto il parallelepipedo approssima l ipercubo k dim., quest ultimo rappresenta la migliore distribuzione uniforme possibile per le k-uple. Test spettrale: determina la massima distanza 1/ν k tra il minimo numero di iperpiani paralleli coprenti il reticolo: maggiore è la distanza e minore sono le caratteristiche di uniformità del generatore. Knuth [1981]. Terza misura per il reticolo: è la lunghezza della dimensione più grande l k che, per un generatore uniforme, è teoricamente dell ordine m -1/k. 26

27 Costruire un generatore che superi tutti i test è un sogno impossibile (Pierre L Ecuyer) 27