PROBABILITÀ - SCHEDA N. 3 VARIABILI ALEATORIE CONTINUE E SIMULAZIONE (da un idea di M. Impedovo Variabili aleatorie continue e simulazione Progetto Alice n. 15, ) 1. La simulazione Nelle schede precedenti abbiamo usato il calcolatore per generare numeri casuali per simulare il lancio di un dado, di una moneta, eccetera. Molti software possiedono un comando per generare un numero casuale compreso tra e 1. Si tratta, naturalmente, di numeri generati da un algoritmo e per questo sarebbe meglio chiamarli pseudo-casuali. Che cosa si intende per numero casuale compreso tra e 1? Anche se dal punto di vista intuitivo l'espressione sembra chiara, non è facile precisarla. Siamo tentati di dire qualcosa del tipo ogni numero ha la stessa probabilità di essere estratto. Le cose tuttavia sono un po' più complicate, perché la probabilità di estrarre un certo numero reale da un intervallo è sempre : non c'è modo di assegnare a ciascun numero reale dell'intervallo [, 1] una probabilità positiva in modo che la somma delle probabilità sia 1. Un'immagine adeguata potrebbe essere la seguente: vogliamo scegliere, sul segmento [, 1], un numero reale (un punto) x in modo tale che, comunque si fissi un numero naturale M, x possa cadere con uguale probabilità in uno degli M sotto-intervalli individuati dai punti: 1 M 1,,,,,1 M M M Si dice che il numero casuale ha una distribuzione uniforme. Un calcolatore non gestisce i numeri reali ma un opportuno sottoinsieme (finito) di numeri razionali: in linea di principio potremmo assegnare a ciascuno di essi una probabilità positiva, ma non è ciò che ci interessa. Noi vogliamo simulare la scelta di un punto a caso sul segmento [, 1]; il generatore di numeri casuali può servire allo scopo. Generiamo n numeri casuali da una distribuzione uniforme in [, 1], e consideriamoli la realizzazione di una variabile aleatoria A. Abbiamo utilizzato il software Minitab per generare le realizzazioni campionarie di una variabile aleatoria uniforme per n=1, n=5, n=1 e n=1. In fondo alla scheda sono riportate le realizzazioni che abbiamo ottenuto per n=1. Di seguito sono riportati i grafici - delle frequenze assolute delle realizzazioni campionarie (grafici 1); fate attenzione alla diversa scala; - delle frequenze relative in percentuali (grafici ); questi quattro grafici sono più facilmente confrontabili fra loro. Tutti gli istogrammi sono stati costruiti con un ugual numero di classi di ampiezza 1. 1
Histogram of A _1 Histogram of A _5 6. 1 Frequency.5 3. Frequency 7.5 5..5.1.3..5 A_1.6.7.8.9.1.3..5 A_5.6.7.8.9 Histogram of A_1 Histogram of A_1 16 1 1 9 Frequency 8 Frequency 6 3.1.3..5 A_1.6.7.8.9.1.3..5.6 A_1.7.8.9 Figura 1 Frequenze assolute Histogram of A _1 Histogram of A _5 6. 6..5.5 3. 3..1.3..5 A_1.6.7.8.9 1..1.3..5 A_5.6.7.8.9 1. Histogram of A_1 Histogram of A_1 6. 6..5.5 3. 3..1.3..5 A_1.6.7.8.9 1..1.3..5.6 A_1.7.8.9 1. Figura Frequenze percentuali Dagli istogrammi si vede che aumentando il numero n di generazioni le frequenze relative delle realizzazioni in ciascuna classe tendono a essere uguali. Consideriamo ora i grafici delle frequenze cumulate empiriche per le simulazioni. Anche in questo caso si osserva che aumentando il numero n di generazioni il grafico assomiglia sempre di più a una retta. Quale equazione ha la retta?
Empirical CDF of A_1 Empirical CDF of A_5 1 1 75 75 5 5 5 5 5.5 A_1.75 1. 5.5 A_5.75 1. Empirical CDF of A_1 Empirical CDF of A_1 1 1 75 75 5 5 5 5 5.5 A_1.75 1. 5.5 A_1.75 1. Figura 3 Funzione di distribuzione cumulata (in percentuale) Possibili esperienze (descritte in fondo alla scheda) E1. Simulazione di estrazione di numeri casuali con distribuzione uniforme in [, 1] E. Simulazione di estrazione di numeri casuali con distribuzione uniforme in [, 8] Trasformazioni di variabili aleatorie Per quanto osservato nella seconda esperienza possiamo ipotizzare che se Y è una variabile aleatoria con distribuzione uniforme in [,1], anche a Y + b ha distribuzione uniforme. Gli estremi dell intervallo della nuova variabile sono [b, a+b]; si ottengono trasformando gli estremi dell intervallo di Y con la stessa trasformazione: limite sinistro: a + b limite destro: a 1 + b Che cosa succede se la trasformazione non è lineare? Ad esempio se rappresenta l area di un quadrato aleatorio costruita a partire da una variabile Y che modella il lato del quadrato. In tal caso = Y. Vedremo un esempio simile nel prossimo paragrafo.. La derivata della funzione di distribuzione cumulata. Utilizzando le realizzazioni della variabile Y con distribuzione uniforme in [, 1] possiamo anche simulare altre variabili aleatorie; ad esempio: = Y I valori assunti da appartengono all intervallo [, ]; perché? Ma quale distribuzione ha? Consideriamo i 1 numeri casuali già generati e da questi costruiamo una realizzazione di Y elevandoli al quadrato e moltiplicandoli per. 3
Qui a fianco sono riportati alcuni istogrammi delle realizzazioni. 3 Ampiezza classi: Consideriamo una barra e indichiamo i suoi estremi con x e x+h. L altezza della barra indica la percentuale di realizzazioni campionarie che cadono tra x e x+h. 15 3..6.8 1. 1. Ampiezza classi:.1 1.. 15 Osserviamo che la scelta dell ampiezza h, e quindi del numero di classi, non è univoca...6.8 1. Ampiezza classi: 1. 1.. 3 Dagli istogrammi si vede chiaramente che non ha distribuzione uniforme; infatti i valori vicino a sono più frequenti dei valori vicino a. A fianco è riportato il grafico della funzione di distribuzione cumulata, che indichiamo con F moltiplicata per 1. La percentuale di realizzazioni campionarie che cadono fra x e x+h è data da: F ( ) x + h F ( x) 1 ( ) La funzione di distribuzione cumulata non cresce in modo costante, come nel caso della distribuzione uniforme: per valori vicini a cresce più rapidamente che per valori vicino a. Ti aspettavi questo andamento o pensavi che crecesse più rapidamente per valori vicini a? 15..6.8 Figura Istogrammi di con classi di diversa ampiezza e n = 1 1 8 6.5 1. Empirical CDF Figura 5 Funzione di distribuzione cumulata di (in percentuale) Cerchiamo di studiare in modo più approfondito la pendenza di questa curva. Iniziamo a studiare la pendenza della retta che passa per i due punti del grafico della funzione di distribuzione cumulata x, F ( x ) e x + h, F ( x + h). ( ) 1. ( ) La pendenza è data dal rapporto incrementale: F ( ) x + h F ( x) h che, a meno del fattore 1/h, è la percentuale di realizzazioni campionarie che cadono tra x e x+h. Questi valori sono le altezze delle barre degli istogrammi precedenti. Scegliamo per esempio x=. e controlliamo i valori delle altezze delle barre degli istogrammi in Minitab. 1. 1...
F h = h =.1 h = (. + ) F (.) =1.1% F (..1) + F (.) = 5.37% F (. ) + F (.) =1.3% Calcoliamo quindi i rapporti incrementali al variare di h: F h = h =.1 h = (. + ) F (.) F (. +.1) F (.) F (. + ) F (.) =.57 =.537 =.1.66 Qui a fianco sono riportati degli istogrammi in cui le barre hanno altezza uguale al rapporto incrementale nelle diverse classi. Ampiezza classi: Ciascuna barra ha area uguale alla percentuale di realizzazioni campionarie che cadono tra x e x+h...6.8 1. 1. Ampiezza classi:.1 1....6.8 1. 1. 1.. Ampiezza classi: Figura 6 Istogrammi dei rapporti incrementali di con classi di diversa ampiezza e n = 1..6.8 1. 1. 1.. Ricordiamo che, a proposito della Figura 3, relativa alla distribuzione uniforme, avevamo osservato che aumentando il numero di simulazioni n, la funzione di distribuzione cumulata empirica F Y (cioè calcolata a partire dai dati simulati) tende alla funzione di distribuzione cumulata F Y della variabile aleatoria Y. Questo vale in generale per ogni variabile aleatoria. Ossevando la Figura 6 possiamo notare che restringendo l ampiezza delle classi, cioè il valore di h, l istogramma dei rapporti incrementali tende ad individuare il grafico della derivata di F, o all aumentare del numero di osservazioni, di F, per l osserazione precedente. Per le variabili aleatorie continue (e con F continua o con altre condizioni che qui non precisiamo) diamo quindi una definizione di funzione di densità di probabilità f che è diversa da quella per variabili aleatorie discrete, ma mantiene proprietà analoghe, ossia: a) f è non negativa; b) f ( t) dt = 1. La funzione di densità di probabilità nel punto x è (dove esiste) la derivata di ( ) F ( x + h) F ( x) f ( ) lim x = h + F x : h Qui sotto sono riportati un istogramma con ampiezza delle classi uguale a 5 e il grafico della derivata di F. 5
1 ampiezza classi: 5 1 Densita` di = Y^ con Y uniforme in [, 1] 1 1 8 8 6 6..6.8 1. 1. 1....6.8 1. 1. 1. Figura 7 Istogramma dei rapporti incrementali con h=5 e funzione di densità di pobabilità di. 3. Approfondimento: calcolo delle funzioni di distribuzione cumulata e di densità 3.1 Variabile aleatoria con distribuzione uniforme La funzione di distribuzione cumulata di Y, variabile uniforme in [, 1], vale prima di, vale 1 dopo 1 e fra e 1 è la retta di equazione FY ( y ) = y. Quindi: se y < FY ( y ) = P ( Y y ) = y se y < 1 1 se 1 y Esercizio. Controllate che questa funzione soddifi le proprietà di una funzione di distribuzione cumulata. La densità di probabilità di Y vale quindi: se y < ' fy ( y ) = FY ( y ) = 1 se < y < 1 se 1 y Esercizio. Controllate che questa funzione soddifi le proprietà di una funzione di densità di probabilità. La funzione di distribuzione cumulata di Y, variabile uniforme in [a, b], vale prima di a, vale 1 dopo b e fra e 1 è la retta di equazione F ( ) 1 Y y = ( y a). b a Esercizio. Verificate questo risultato. Esercizio. Quanto vale la densità di probabilità di Y? Calcolatela sia usando le proprietà della funzione di densità di probabilità, sia come derivata della funzione di distribuzione cumulata. 3. Variabile aleatoria = Y dove Y ha distribuzione uniforme [, 1] Come si calcola la funzione di distribuzione cumulata di e poi la sua derivata? x F ( x ) = P ( x ) = P ( Y x ) = P Y Essendo Y a valori positivi si ha: 6
x se < ovvero x < x x x x F ( x ) = P Y P Y se 1 ovvero x = = < < x 1 se 1 ovvero x La funzione di densità di probabilità è la derivata di F, quindi: se x < ' 1 f ( x ) = F ( x ) = se < x < 8x se < x lim f x =+ Inoltre ( ) + x 3.3 La variabile aleatoria esponenziale Fenomeni naturali del tipo tempo di vita di una lampadina, tempo di emissione di una particella radioattiva,... sono modellabili con una variabile aleatoria con distribuzione esponenziale. La funzione di distribuzione cumulata e la densità di probabilità dipendono da un parametro λ, che può assumere valori reali positivi. F ( x ) se x < = 1 exp( λx) se x e f ( x ) se x < = λexp( λx) se x > Qui sotto sono riportati i grafici delle funzioni di distribuzione cumulata di variabili aleatorie esponenziali per diversi valori del parametro. Figura 8 Funzione di distribuzione cumulata e funzione di densità di pobabilità di v.a. esponenziali Conoscere la forma analitica della funzione di distribuzione cumulata può essere utile per simulare delle realizzazioni della variabile aleatoria a partire dalle realizzazioni di una variabilie aleatoria uniforme in [,1]. Come?. La simulazione di variabili aleatorie discrete e continue a partire dall Uniforme Se si conosce la funzione di distribuzione cumulata di una variabile aleatoria è possibile almeno in linea di principio simulare realizzazione campionarie di a partire da simulazioni di una variabile aleatoria uniforme. Vediamo come. 7
Se la variabile aleatoria è continua e la sua funzione di distribuzione cumulata F ( x ) è sempre strettamente crescente (nell intervallo in cui assume valori) basta simulare la realizzazione di una variabile uniforme U in [, 1] e invertire. Più precisamente, indichiamo con u la realizzazione di U, allora la realizzazione di sarà: x = F 1 ( u) come indicato nella figura a fianco quando ha distribuzione esponenziale con parametro λ = 1. Se si può calcolare esplicitamente l inversa della funzione di distribuzione cumulata, allora il calcolo della realizzazione campionaria di è presto fatto. Figura 9 Schema di simulazione di una v.a. esponenziale u F x 1 exp( x ) Questo è il caso, per esempio della variabile aleatoria esponenziale dove = ( ) = λ quindi invertendo, in modo da ottenere x = F 1 ( u), si ha: exp( λx) = 1 u λ = log( 1 ) x = log 1 u / x = log 1.69 /1= 1.17. x u ( ) λ Quindi se, ad esempio u=.69, allora ( ) Quando l inversa non è calcolabile esplicitamente si usano metodi numerici. Quando invece la variabile aleatoria è discreta o la sua funzione di distribuzione cumulata F ( x ) non strettamente crescente, si usa la cosiddetta pseudo-inversa, analogamente al caso del calcolo dei quantili. F 1 ( u) = min { x tale che F( x) u} Quindi se, ad esempio, è: - 1 5 7 f x.3 5.15.15 ( ) ( ) F x.3.55.8 1 e si ottenuto dalla simulazione di una variabile aleatoria uniforme in [, 1] il valore u=.7, allora x = 5. Figura 1 Schema di simulazione di una v.a. discreta Possibile esperienza (descritta in fondo alla scheda) E. Simulazione di realizzazioni campionarie di una variabile aleatoria con distribuzione esponenziale. 8
E1. Esperienza: estrazione di numeri casuali con distribuzione uniforme in [, 1] Simulate le realizzazioni campionarie di una variabile aleatorie uniforme in [, 1] per n=1, n=5, n=1 e n=1 e ricostruite i grafici 1 e. E. Esperienza: estrazione di numeri casuali con distribuzione uniforme in [, 6] Considerate le realizzazioni precedenti per n=1, indicate con A_1 Trasformate la colonna A_1 moltiplicando per e aggiungendo : B_1 = A_1 + Costruite l istogramma delle frequenze. Che distribuzione ha B_1? E. Esperienza: Simulazione del lancio di una moneta e del lancio di un dado Utilizzate le realizzazioni precedenti per n=1 e simulate le realizzazioni di due variabili aleatorie discrete che descrivono il risultato del lancio di una moneta e il risultato del lancio di un dado. E. Esperienza: Simulazione di realizzazioni di una variabile aleatoria esponenziale Utilizzate le realizzazioni precedenti per n=1 e simulate le realizzazioni di una variabile aleatoria con distribuzione esponenziale, avendo fissato il valore del parametro. Costruite il grafico della funzione di distribuzione cumulata. Costruite alcuni istogrammi con diverse ampiezze delle classi. Confrontate i risultati ottenuti con la simulazione con quelli teorici. 9
Dati simulati usati nella scheda: 1 realizzazioni campionarie di una var. aleatorie uniforme in [, 1].691776 3367.8861 69.966173.815 595 93853.9391.795697.3987.85116.3831.351317.351.57759.36189 7568.818517 331.55318.98791.87595.76593 19989.9555.18695.87393.975365.399.6718.818.667.83615.18.9953 5155.118.51836.953 797.85863.591596.18 6687.891986.37138.89567.35396.7518.3136.676 8795.983.5157.7387.86736.816663.796.566116.818989.18.89638.77953 8536.761858 98.198.57719.7763.8671 63.83936.58573 9383.93661.981.9.76913.85936.36339.66155.599 738.7158.356951.7889.7196.9791.38119.98195.1931.679.73559 79675.8961.37138.96189.61633 871 776.5717 57566.85871.599.13857 7313.637.1137.887.53797.3396.66711.89957.87656.36733 9.758196.3855.8.556815 186.8673.19888 33.761.76537 5698.36715.18978.3853.61195 31339.3166.66998.38961.8831 9631 11.379.79177.95675.795.633916.8133.9967.63813.3913.6386.583961.831176.839.3595.956895.519.5.65698.667.681366 9881.39379 8.95159.19187.13998.15853 3551.7385.9965.5973.387687.936.5699.69336.179.663937.7515.8865.877.731.595.97393.9561.83116.677.531196.137.119138.3633.31163.53855.511.88755.63766.6569 8797.95997.3957.68598.13957 859.7181 1796 77.7975.936.667158 16858.9791 361.9358 79.86918.8911.7199.5158.586199.8653.56758.3759 78.61857.7685 837.617.798 7563.5666.3668.199 7169.5553.166.886875.3383.66769.699 665.9785.1331 51399.11561 3777.619336.5615 1977.8798 55573.6616.87991.86.1976.399.5357 6319 77.9198 33937.33 53.7358.68961.137166.939767.79385.8186.71653 3878.8639.93333.98169 11.538 151.95688 71851.531633.5656.995689.55387.86875.9369 9853.753633.73973.51779.7983.56579 738.7363 9955.5889.53151.77958.816.579.91899.9881.38556.67785.93.7775.551.53378.15977 8865.79139.78776.96981.9551.9915.8767.169331 653.773936.8837.31871.698.9333.66136.38959.355.116989.67 8677.885 35.876.336167.596561.315.8875 68.37575.313371.355786.38897.66677.1958 377.76717.59839.8583.575.917697.799 885.895 7831 783.6597.5167.16178 33.5189.78118 5561.176 839.91768.5966.675 836.19818.7363.39759.6397.888518.9867.5153 533.8993 611.783117.57857.8355 6997.69836 53539.68385 6619 51.657566 658.596977.6811.56768.199399 68.168976.518.7636.115 993.1735.581.87355.88181 619.661661.1876.117361.999876 67588.95817.98365.359.9789.83983.9.5156 53857.38689.87966.71817 96765.5669.99931.3636.5797.73539.681379.3339 333.138 7393.6738.9976.767919.936679.537591.751 5981.93969.31.787.975.797.31.9917.66683.1637.73.7997.557.788679.3913.5956.789595.6197.69983.978.9319 8563.786 877.75585 665.5988.866.81173 858.7356.8655.7968 313.86716 7816.391 66117 559.9996 86133.63593.6618.5835.8757 986.87759 393.865 788.7551.986 7139.685618.73575 66 39.583856.13596.71113.718768.755978 371.8858 17.7176.1831.8719 197.7767.919.55919.687899 897.996616.7596.377.5965.95356.95136.1171.6739.3865.39539.77895.63999 799.666781.656656.799 958.8686.537.8561.3689.99985.8681.5663.175.8169.6979.85997 777.75991.9995.593681.1859 99867 38317.89977.95638.69856.717377.36971.1117.8686 39179 688.56.769876.5956 9978.986.138533 8617 976 96383.36113.6737.678 91119 716.975997.9796.88166.3361.657 751.355636.718 7866.185786 8117.3979.7591.6561.81735.95853 861.171767.735338 7135.37386 638.98.6779.158818.55588 781.98835.788.71919.18961.58585.181.358.975788.8696 88116.17571.87815.79931 1.18657.5367 695.6567.93.3793 88.6831.76536.31833 3366.1 6811.119 71739.79181.1717.61379.783766.586399.581.7696.695.73761.8817.7567.969.83693 395.9858.9353.1896.178.1365 5997.5193.1536.7567 6568.5977.591395.97877.37613.73661.358178 6837.671865.558139.3163 5116 1616.5861.168116 86.3531.6371.611177 5756.7868.3676.76737.6718.5.157.899.73766.58911.99996.15668.5396 8769.35865.1589 513 5775.9595.89881.683633.1163 15 3381.683.7686 613 791.7819.5317.67.653.3818.87516.73911 585.17876.569385.88651.53637 77397.6198.961.736.69911.5515 1553 765.393518.1357.16.681 51766.7317 3118 5398.938.3731.876673.6159.1868 96635.86195.77766.9175.611587.781.7185 1977.676.37371.389979 5569.59638 88 81763.557716.717.17136.133699.13.71335 63573.538 71.33615.3563.637715.767.59 57951.97131 3663 6365.78371.65396 965.761.86591.389987.368.77519.3775.169819.39856.317787.9538.19338.86739.53319 3919.98896.99933.91688.86837.589713.7177 3393.7397.57.856956.398795.39535 736.651383.9968.55688 97.56963 7573.353767.8769.81.7593.3615.6951.75113.6693.53687.9591.35617.371.181.69578.353887.13819.5975.558.96958.75877 87998.67739 9131.6686.39656.56569.369.36693.67939.1116.75918.355766 918.99716.8598.8553.198396.31176.951116.55197.11318.91657.5376.6556 155.77995.359393 86593.9563.751815.8.763786.3778.395.6777.51799 1376.317596.373 897.699.1673.938.79775.53711 85 6885.19836 757.877978.56961.65756.561888.1699 8711.136.351795.991833.8859.859636 6165.53976.35671.57913.75.55516.3391.6639.3839.791.61157 566 7118 3887.5196.63351.7777.75197.86657.65668 35983 199.7693.57657.96.7186.3861.156.9396.996.836.5 3696.7656.35853.1713 11687 1335.83 639.3765.331367.955.6678.33395 79.76.5716.3166.79153 656.956.696688.5383.819655 88677.5715.57389.75996 1965.18951.57355.1516.5897.67.337673.393.635385 355.763.69977.1161.53166.1931.579.977.398993.11856.36518.978 5769.8819 1893 6339.79359 59696.651.99593.1911.9898.813.771.1116.3583.8367 88 15566.3387 7787.61.81.91678.678915.81966.793891 353.83313.683.18516.333.63677.3 895.77131.9817 68.793886.6896.78788.7717 33775.895185.115.97917.8539.88396.1966.95331 1