Distribuzioni di Probabilità

Транскрипт

1 Distribuzioni di Probabilità Distribuzioni discrete Distribuzione uniforme discreta Distribuzione di Poisson Distribuzioni continue Distribuzione Uniforme Distribuzione Gamma Distribuzione Esponenziale Distribuzione Chi-Quadro Distribuzione normale o Gaussiana Distribuzione di tipo Standard Distribuzione normale o Gaussiana di tipo generico Distribuzione T di student Distribuzione F di Fisher Distribuzione Uniforme Discreta Un variabile aleatoria è di tipo Uniforme Discreto se la funzione densità di probabilità è: y =,,..., N N f ( y) = altrove La Variabile Aleatoria dipende d da un solo parametro: N f (y) 3 N y Media: μ = N + Varianza: = N σ Distribuzioni di Probabilità

2 Distribuzione di Poisson La variabile aleatoria di Poisson è caratterizzata dalla funzione densità di probabilità: f e λ x λ y! ( y) = λ > y =,,,... altrove Dipende dal solo parametro λ Media: μ = λ Varianza: σ = λ Distribuzione di Poisson Alcuni esempi di distribuzioni di Poisson:.5.4. λ=3.. λ=.5.8 f (y). f (y) y y Distribuzioni di Probabilità

3 Distribuzione Uniforme Continua Funzione di distribuzione uniforme se y a b f ( y) = b a se y a, b [, ] [ ] Dipende da due parametri: a e b f (y) pdf F (y) cdf /(b-a) a b y a b y Distribuzione Uniforme Continua È possibile calcolare media e varianza : a+ b μ = yf( y) dy= y dy= b a b a Questo risultato poteva essere intuitivo dato che la funzione è simmetrica rispetto al suo punto medio b ( ) ( ) a+ b μ b ( a b) σ = y f y dy = y dy = b a a Distribuzioni di Probabilità 3

4 Distribuzione Gamma λ Γ f ( y ; r, λ ) = () ( ) r λ y exp ( λ y ) r y altrove Variabile aleatoria a due parametri: r > λ > La funzione Gamma di Eulero Γ(r) è definita come: Γ () r = e x x r dx Distribuzione Gamma Proprietà : Esempi di distribuzioni Gamma: Media: μ r.5 Varianza: σ = = λ r λ.4.3 λ = r = r = La funzione assume valore massimo in corrispondenza di: Max f : y = ( r )λ max f (y)... 5 y 5 Distribuzioni di Probabilità 4

5 Distribuzione Esponenziale Caso particolare della Gamma (r = ) ( ) = λ exp( λ ) ( ) = exp( λ y) f y y F y y Un solo parametro: λ μ = σ = λ λ λ f (y) pdf F (y) cdf y y Distribuzione Chi-Quadro Caso particolare della Gamma (λ = ½,r = ½ k) f ( y; k) k y y exp y k / Un solo parametro k Γ( k / ) = μ = k σ = k altrove ( y, ) = lim f y, y ( ) f, = y y= f (y) y n = n = n = 3 Distribuzioni di Probabilità 5

6 Variabili aleatorie: Teorema limite centrale Esiste un teorema di statistica che afferma: Sia {X i } una successione di variabili aleatorie indipendenti di media μ e varianza σ, indipendenti ed identicamente distribuite, allora la somma S n X i = n i= converge asintoticamente verso una variabile aleatoria normale (o altrimenti detta Gaussiana) Distribuzione normale di tipo standard Una variabile aleatoria normale (detta anche di tipo Gaussiano) di tipo standard è caratterizzata da una curva di distribuzione a forma di campana f Z π ( ) = z exp z p x (x) x Nell esponenziale il termine z cresce all aumentare della distanza dall origine, con la stessa velocità sia a sinistra che a destra. L esponenziale decresce in maniera simmetrica. Il massimo si osserva in corrispondenza di z = Distribuzioni di Probabilità 6

7 Distribuzione normale di tipo standard Nota la distribuzione è possibile calcolare la probabilità di un qualunque evento per Z Esempio: probabilità Z <.5 L area segnata in blu rappresenta la probabilità che si verifichi un qualunque numero Z <.5 ovvero -4-4 x Z=.5 P(Z<.5) 3 Distribuzione normale di tipo standard La curva a campana è simmetrica rispetto all origine Questo è un dettaglio importante perché anche le aree sottese dalla curva sono simmetriche Per esempio La probabilità che si verifichi l evento A = Z < -.5 è pari alla probabilità che si verifichi l evento B = Z > Z < -.5 Z > +.5 x 4 Distribuzioni di Probabilità 7

8 Distribuzione normale di tipo standard Il calcolo dell area (probabilità) per il caso in esame richiede la valutazione dell integrale: P dz π.5 ( Z.5) = f ( ) Z z dz =. 5 < exp z Purtroppo non esiste soluzione analitica per l integrale. Per la sua valutazione si ricorre alle tabelle 5 Distribuzione normale di tipo standard I valori dell integrale (ovvero l area) della distribuzione di tipo standard sono riportati in forma di tabella in (quasi) tutti i testi di statistica. P(Z<.5)= Distribuzioni di Probabilità 8

9 Distribuzione normale di tipo standard Altro esempio: P(Z>.5) Si può osservare che per gli assiomi di Kolmogoroff si ha P(Z>.5)+P(Z<.5)= Pertanto la probabilità può ancora essere ricavata facilmente dalla tabella P(Z>.5) =-P(Z<.5)=-.853= Distribuzione normale di tipo standard Altro esempio: Calcolare la probabilità che Z sia compresa nell intervallo [,] P(<Z<) P(Z<) = -4-4 x - P(Z<) x x 8 Distribuzioni di Probabilità 9

10 Distribuzione normale di tipo standard Consultando le tabelle: P(Z <.)=.843 P(Z <.)=.977 P(. < Z <.) = = Distribuzione normale di tipo standard Con l aiuto delle tabelle, calcolare. P(Z >.64). P(Z < -.64) 3. P(. < Z <.5) 4. P(- < Z < ) 5. P(- < Z < ) Distribuzioni di Probabilità

11 Distribuzione normale generica Una variabile aleatoria (continua) si dice normale o Gaussiana se la densità di probabilità è: ( ) ( y μ ) f y = exp πσ σ La funzione è definita lungo tutto l asse reale (ovvero un qualunque numero reale può essere un esito di una VA di tipo normale) Il grafico di tale funzione è una curva a campana simmetrica rispetto a y=μ La distribuzione dipende da due parametri, μ e σ. Viene indicata in genere con la seguente simbologia: ( μ, σ ) ~ N Carl Friedrich Gauss Gaussiana Distribuzioni di Probabilità

12 Distribuzione normale (o di tipo Gaussiano) La gaussiana è simmetrica rispetto al valore μ pertanto la media coincide con il valore μ Si può verificare matematicamente che il parametro σ definito nell espressione coincide con la varianza della funzione di distribuzione. Importante: la distribuzione normale di tipo standard è un caso particolare della formula generica con μ = e σ = 3 Distribuzione normale (o di tipo Gaussiano) In figura sono riportate tre gaussiane con egual media e varianza.5,.5,.5 Varianza σ = Varianza σ = Al diminuire della varianza, la campana si restringe sempre di più intorno al suo valore medio 4 Distribuzioni di Probabilità

13 Distribuzione normale (o di tipo Gaussiano) N.B. Questo è vero per ogni valore di μ e σ nel caso della Gaussiana! μ 3σ μ σ μ σ μ μ+σ μ+σ μ+3σ 68.6% 95.46% 99.73% Aree sottese dalla distribuzione normale La probabilità di osservare valori esterni all intervallo [μ σ, μ+σ] è molto bassa (5% circa) È praticamente nulla all esterno dell intervallo [μ 3σ, μ+3σ] (meno del 3 ) 5 Distribuzione normale (o di tipo Gaussiano) Al diminuire di σ, i risultati dell esperienza aleatoria assumono valori in intervalli sempre più piccoli L incertezza diventa sempre più piccola Non esistono delle tabelle per calcolare le probabilità per i generici valori di μ e σ. Vedremo nel seguito come è possibile ricondurre il calcolo della probabilità sempre alla VA di tipo standard 6 Distribuzioni di Probabilità 3

14 Funzioni di VA Gaussiane Trasformazioni lineari Nel caso di una trasformazione lineare di variabili aleatorie: Z = a + b Si è visto come media e varianza di Z siano legate alla media e varianza di secondo la relazione μ = a + bμ Z σ Z = b σ Si può inoltre verificare facilmente che, se è una Gaussiana, lo è anche la trasformata Z 7 Funzioni di VA Gaussiane Trasformazioni lineari Data una variabile aleatoria (di tipo gaussiano) di media μ e varianza σ Si consideri la seguente trasformazione lineare: μ Z = σ Di che tipo è la nuova variabile aleatoria? Quale è la media e la varianza della nuova variabile? È facile verificare che: μ = σ Z = Z Gaussiana di tipo standard 8 Distribuzioni di Probabilità 4

15 Funzioni di VA Gaussiane Trasformazioni lineari Nota la funzione di distribuzione standard è possibile ricavare le proprietà di una qualsiasi distribuzione gaussiana In particolare, è possibile calcolare la probabilità che si verifichi un dato evento per un generico processo, con media e varianza note. Questo è possibile sapendo solo i valori della distribuzione di tipo standard. 9 Calcolo probabilità per una Gaussiana generica z = (y μ) σ μ = 5; σ = μ = ; σ = Normale standard Distribuzioni di Probabilità 5

16 Calcolo probabilità per una Gaussiana generica Esempio: calcolare quale è la probabilità che si verifichi un evento appartenente all intervallo [,5] per la variabile aleatoria di media 3 e deviazione standard : Si deve calcolare quale è la probabilità che la variabile aleatoria di tipo standard assuma un valore nell intervallo corrispondente. 3 Calcolo probabilità per una Gaussiana generica Dobbiamo calcolare la probabilità: P ( < X < 5 ) Gli estremi dell intervallo corrispondente per la distribuzione di tipo standard possono essere facilmente calcolati z z x μ X 3 = = σ X x μx 5 3 = = = σ X P P ( < X < 5 ) = (.5 Z ) < < = = 77.4% 3 Distribuzioni di Probabilità 6

17 Calcolo probabilità per una Gaussiana generica Esercizi Sia una variabile aleatoria di tipo normale, di media μ = 6 e varianza σ = 5 Calcolare:. P( > ). P( < < 5) 3. P( < ) 4. P( < < 4) 33 Distribuzioni Gaussiane di tipo Vettoriale È possibile estendere la formulazione della Gaussiana al caso vettoriale: =,..., In cui ciascuna delle componenti è di natura Gaussiana. L attenzione si focalizzerà principalmente sul caso bidimensionale: =,, Per cui è possibile osservare le marginali rispetto a e : N Distribuzioni di Probabilità 7

18 Distribuzioni Gaussiane di tipo Vettoriale Per le distribuzioni marginali si ha: ~ N f = ep exp πσ σ f = ( μ, σ ) ~ N( μ, σ ) exp πσ ( y μ ) Se le due VA sono indipendenti allora la funzione densità di probabilità per la congiunta è data da: f ( y) f ( y ) f ( y ) ( y μ ) σ NB: la congiunta contiene 4 parametri ( y μ ) ( y μ ) = = exp ( π ) σ σ σ σ 35 Distribuzioni Gaussiane vettoriali Caso coppia di VA Gaussiane Una coppia di variabili aleatorie = (, ) si dicono congiuntamente gaussiane (o normali) e si denotano con ~N(μ,V) se lo loro pdf congiunta assume la seguente espressione: ssi f ( y) T ( y μ) V ( y ) μ = exp π det V I parametri di tale pdf sono raccolti nel vettore μ e nella matrice V Il vettore μ è il vettore delle medie La matrice V, simmetrica, definita positiva, è la matrice di covarianza σ σ V = σ σ x T V x > x 36 Distribuzioni di Probabilità 8

19 Variabili aleatorie vettoriali Coefficiente di correlazione Dalla matrice di covarianza è possibile determinare la correlazione tra due variabili aleatorie. Siano date due variabili aleatorie e. Il coefficiente di correlazione è definito come: (, ) σ ( ) V ( ) σσ cov ρ = = V Per come è definito: ρ 37 Distribuzioni Gaussiane vettoriali Caso Gaussiano VA Indipendenti V = μ = 38 Distribuzioni di Probabilità 9

20 Distribuzioni Gaussiane vettoriali Caso Gaussiano VA Indipendenti Rappresentazione distribuzioni marginali e probabilità condizionate f μ= σ = y ( ) f y y.5 μ =, σ = y 3 f μ= σ = y ( ) f y y.5 μ =, σ = La probabilità dell evento y non cambia con il valore di y 39 Distribuzioni Gaussiane Vettoriali Caso VA non indipendenti α V = μ = α 4 Distribuzioni di Probabilità

21 Distribuzioni Gaussiane Vettoriali Caso VA non indipendenti Rappresentazione distribuzioni marginali e probabilità condizionate f μ= σ = f y y.5 μ =., σ = y 3 ( ) f μ= σ = ( ) f y y μ σ.5 =., =.36 4 Distribuzioni Gaussiane Vettoriali Caso VA non indipendenti Nel caso di correlazione ρ = la distribuzione degenera in una retta Domanda: in questo caso come si comportano le marginali e le 4 probabilità condizionate? Distribuzioni di Probabilità

22 Variabili Aleatorie di tipo Normale Vettoriali Caso Generico Nel caso generico di n componenti la variabile aleatoria vettoriale assume la forma: f ( y) = ( π ) n / exp det V T ( y μ) V ( y μ) ) I parametri di tale pdf sono raccolti nel vettore μ e nella matrice V: μ = (μ, μ,..., μ n ); V, matrice (n n) definita positiva, è la matrice di covarianza. Ancora, se le VA componenti sono indipendenti, la matrice V è diagonale perché tutte le covarianze sono nulle. 43 Distribuzione T di student Utilizzata nei test statistici f ν ν + K y = +, Γ ν y + K = ν ν πν Γ ( y) R Essendo K una costante di normalizzazione. Proprietà: Dipende da un solo parametro il numero intero ν (detto anche grado di libertà della T di student) Media: ν μ = Varianza: σ = ( ν > ) ν Distribuzioni di Probabilità

23 Distribuzione T di student In figura sono mostrate le funzioni densità per,3,6 gradi di libertà. f (y).4.3. n = n = 4 Distribuzione Standard n W. Gossett creatore della T- student y La T è simmetrica rispetto a : μ=, σ =r/(r-) r 3 Per r la T di student tende ad una gaussiana di tipo standard. 45 f Distribuzione F di Fisher m + n m n Γ / n y m+ n y m n m Γ Γ m + y n = m, n altrove ( y; m, n) N Media: μ n =, n n ( > ) Varianza: σ ( m + n ) n ( 4)( n ) = m n Distribuzioni di Probabilità 3

24 La distribuzione F di Fisher Grafici della F di Fisher al variare dei gradi di libertà f (y) (, 4) g.d.l. (, ) g.d.l (, 5) g.d.l. (, Infinity) g.d.l y Sir Ronald Aymer Fisher Distribuzioni di Probabilità 4