Primi elementi di Probabilità

Transcript

1 Primi elementi di Probabilità Sergio Polidoro Dipartimento di Matematica, Università di Bologna In queste dispense vengono introdotte le nozioni di valore atteso e di varianza per variabili aleatorie discrete e continue; successivamente sono elencati gli esempi di variabili aleatorie di uso più comune. Alcune nozioni sono state date solo in maniera intuitiva, si rimanda ad un corso (o ad un testo) di Probabilità per una trattazione rigorosa degli argomenti esposti. 1 Probabilità su insiemi finiti Dato un insieme finito A = { a 1, a 2,..., a n } ed una funzione p : A R diremo che p definisce una probabilità su A se valgono le due seguenti affermazioni: i) p(a j ) 0 per ogni j = 1,..., n; ii) n j=1 p(a j) = 1. Ogni sottoinsieme B = { b 1, b 2,..., b m } di A sarà detto evento, inoltre chiameremo probabilità dell evento B il numero seguente: P(B) = m p(b j ). j=1 Osserviamo esplicitamente che risulta 0 P(B) 1, per ogni evento B. Gli eventi A e sono detti rispettivamente evento certo ed evento impossibile; evidentemente risulta P(A) = 1, P( ) = 0. Diremo inoltre che gli elementi di A sono gli eventi elementari e che l insieme A con la funzione p definiscono uno spazio di probabilità. Esempio 1.1 Lanciamo due dadi e leggiamo il numero che appare sulle due facce superiori. Per descrivere tale esperimento, possiamo scegliere l insieme A = { (i, j) : i, j = 1,..., 6 }. 1

2 Se si assume che i dadi non siano truccati, si usa stabilire che tutti gli eventi elementari abbiano la stessa proboabilità, ossia p(i, j) = 1, per ogni i, j = 1,..., In generale, quando tutti gli eventi elementari hanno la stessa probabilità, si parla di probabilità classica. 1.1 Probabilità condizionata ed indipendenza Sia dato uno spazio di probabilità, costituito da un inseme A e da una funzione p. Consideriamo il seguente problema: stabilire quale sia la probabilità che si verifichi un evento C, supponendo di sapere che si è verificato un evento B di probabilità P(B) positiva. Tale probabilità viene detta probabilità di C condizionata al verificarsi di B e si definisce attraverso la formula: P(C B) = P(B C). P(B) Con riferimento all esempio 1.1, possiamo considerare gli eventi B = { (i, j) : i = 6 }, C = { (i, j) : i + j > 10 }, D = { (i, j) : i + j = 6 }. Risulta allora P(C B) = 1/3, P(D B) = 0. Osserviamo esplicitamente che la funzione P( B) definisce una nuova probabilità sui sottoinsiemi di A. Se B e C sono due eventi, diremo che essi sono indipendenti se risulta P(B C) = P(B)P(C). Il seguente risultato mostra che la due eventi sono indipendenti se al probabilità che uno dei due si verifichi non dal fatto che l altro si sia verificato o meno. Osservazione 1.2 Siano B e C due eventi. Se P(B) > 0, allora: Se P(C) > 0, allora: P(C B) = P(C) B e C sono indipendenti; P(B C) = P(B) B e C sono indipendenti. 2

3 1.2 Teorema di Bayes Forniamo ora alcune semplici relazioni che permettono di calcolare la probabilità di alcuni eventi in termini di probabilità condizionata. Sia A uno spazio dotato di probabilità e siano B 1,..., B k sottoinsiemi di A. Diciamo che B 1,..., B k costituiscono una partizione di A se i) B i B j =, per ogni i, j = 1,...k, con i j; ii) B 1... B k = A. Teorema 1.3 Sia A uno spazio dotato di probabilità e sia B 1,..., B k una partizione di A. Sia poi C A. Allora: Formula delle probabilità totali: P(C) = k P(C B j )P(B j ), j=1 Formula di Bayes: se inoltre P(C) > 0, allora P(B m C) = P(C B m)p(b m ) k j=1 P(C B j)p(b j ). Osservazione 1.4 Nel precedente enunciato non abbiamo fatto l ipotesi P(B j ) > 0, che permette di definire P(C B j ). Nel caso che sia P(B j ) = 0, converremo di porre P(C B j ) = 1. Dimostrazione Ricordiamo innanzitutto che, per la definizione di probabilità condizionata, si ha P(C B j ) = P(C B j )P(B j ) (1.1) per ogni j = 1,..., k tale che P(B j ) > 0. D altra parte, se P(B j ) = 0 anche P(C B j ) = 0 e la (1.1) vale ugualmente. Ciò premesso, si ha P(C) = P(C A) = P (C (B 1... B k )) = P ((C B 1 )... (C B k )) = P(C B 1 ) P(C B k ), essendo B 1,..., B k una partizione di A. La prima affermazione segue allora dalla (1.1). Per la seconda basta ricordare che, sempre per la (1.1), si ha P(B m C) = P(C B m) P(C) = P(C B m)p(b m ). P(C) La formula di Bayes si ottiene da questa sostituendo P(C) con l espressione della formula delle probabilità totali. 3

4 1.3 Variabili aleatorie Siano dati un insieme finito A = { a 1, a 2,..., a n } ed una funzione p che definisce una probabilità su A. Una variabile aleatoria è una qualunque funzione X : A R. X definisce in maniera naturale una probabilità q sull immagine X(A) nel modo seguente: indichiamo con x 1, x 2,..., x k gli elementi dell immagine di A: X(A) = { X(a 1 ), X(a 2 ),..., X(a n ) } = { x 1, x 2,..., x k } e poniamo A m = { a A : X(a) = x m }. Definiamo allora q(x m ) = a A m p(a), per ogni m = 1,..., k. Si verifica immediatamente che q definisce una probabilità sull insieme { } x 1, x 2,..., x k. Tale probabilità viene detta legge o distribuzione della variabile aleatoria X. La funzione q viene invece detta densità di X. Esempio 1.5 Consideriamo l insieme A e la funzione p dell Esempio 1.1 e definiamo la funzione X : A R tale che X(i, j) = i + j. In questo caso l immagine è costituita dall insieme { 2, 3,..., 12 }. Possiamo calcolare alcuni valori di q: q(2) = p(1, 1) = 1, q(3) = p(1, 2) + p(2, 1) = 36 1, q(7) = p(1, 6) + p(2, 5) p(6, 1) = Il fatto che il dominio della funzione q sia un inseme di numeri, ci permette di dare la seguente Definizione 1.6 Sia X una variabile aleatoria. Chiameremo valore atteso di X (oppure media di X o speranza matematica di X) il seguente numero E(X) = k x m q(x m ). Osserviamo ora che, se X è una variabile aleatoria ed f : R R è una qualunque funzione, allora la funzione composta f(x) è una nuova variabile aleatoria ed è pertanto definito il suo valore atteso E(f(X)). Si verifica facilmente che vale la seguente identità, che permette di esprimere il valore atteso di f(x) senza bisogno di calcolare la legge di f(x): k E(f(X)) = f(x m )q(x m ). (1.2) 4

5 Definizione 1.7 Sia X una variabile aleatoria. Chiameremo varianza di X il seguente numero Var(X) = E ( (X E(X)) 2). Chiameremo scarto quadratico medio di X il numero σ X = Var(X). Osserviamo esplicitamente che σ X è ben definito, in quanto Var(X) 0. Infatti, dalla formula (1.2) applicata alla funzione f(t) = (t E(X)) 2 (ricordando che q(x m ) > 0 per ogni m = 1,..., k) segue immediatamente Var(X) = k (x m E(X)) 2 q(x m ) 0. Dalla precedente espressione si ottiene inoltre che Var(X) = E(X 2 ) E(X) 2 = 1.4 La legge dei grandi numeri k x 2 mq(x m ) E(X) 2. Il seguente Teorema giustifica l importanza delle nozioni di valore atteso e varianza. Teorema 1.8 (Legge dei grandi numeri) Siano X 1, X 2,..., X n variabili aleatorie indipendenti, dotate della stessa legge q. Definiamo una variabile aleatoria X n nel modo seguente: X n = 1 n (X 1 + X X n ). Allora, per ogni δ > 0 si ha ( Xn P E(X) ) δ Var(X) δ 2 n. Il significato dell ipotesi di indipendenza delle variabili aleatorie è analogo a quello relativo agli eventi: si richiede che il risultato dell esperimento casuale legato alla variabile aleatoria X m non dipenda dal risultato delle altre variabili aleatorie. Il seguente esempio può illustrare la legge dei grandi numeri da un punto di vista concreto. Supponiamo che una catena di montaggio produca processori e che X m indichi la probabilità che il processore m-esimo superi il collaudo. (X m = 1 significa che il processore ha superato il collaudo, X m = 0 significa che non lo ha superato). Affermare che le variabili aleatorie sono indipendenti significa richiedere che ad ogni X m corrisponda un processore diverso. La legge dei grandi numeri dice allora che 5

6 la media campionaria X n, che nel nostro esempio è la percentuale dei processori che hanno superato il collaudo, sarà vicina al valore atteso E(X) con probabilità tanto più alta, quanto più alto è il numero n dei collaudi. La varianza misura il grado di dispersione della probabilità; se la varianza è bassa, allora X n sarà vicina al valore atteso E(X) con probabilità alta. 2 Variabili aleatorie discrete e continue Alcuni problemi non possono essere descritti in maniera naturale con spazi di probabilità finiti. Osserviamo preliminarmente che la definizione di valore atteso e di varianza di una variabile aleatoria X dipendono esclusivamente dalla legge q. Per questo motivo, le variabili aleatorie che saranno considerate nel seguito saranno caratterizzate solamente dalla loro legge. Esempio 2.1 (Variabile aleatoria geometrica) Supponiamo di ripetere un esperimento, che abbia probabilità p di realizzarsi, fino ad ottenere il primo successo. Supponiamo inoltre che le diverse prove siano tra loro indipendenti. Evidentemente lo spazio naturale per descrivere tale procedimento è l insieme N dei numeri naturali. Si calcola poi facilmente che la probabilità che il primo successo si verifichi al k-esimo tentativo è q(k) = p(1 p) k 1. Solitamente ci si riferisce al modello sopra descritto col termine variabile aleatoria geometrica di parametro p (con p ]0, 1[) e con la notazione G(p). Questo tipo di variabile aleatoria viene detta variabile aleatorie discreta. Per essa si possono definire le nozioni di valore atteso e varianza in analogia con quanto visto per le variabili aleatorie finite Definizione 2.2 Sia X una variabile aleatoria discreta, di densità q. Diremo che X è dotata di valore atteso finito se la serie x m q(x m ) è convergente. In tal caso, chiameremo valore atteso di X (oppure media di X o speranza matematica di X) il seguente numero E(X) = x m q(x m ). 6

7 Se X è una variabile aleatoria discreta, dotata di valore atteso finito, diremo che X è dotata di varianza finita se risulta finito il valore atteso di (X E(X)) 2. In tal caso chiameremo varianza di X il seguente numero Var(X) = E ( (X E(X)) 2) ; chiameremo infine scarto quadratico medio di X il numero σ X = Var(X). Tutte le considerazioni fatte per le variabili aleatorie finite si estendono in maniera ovvia alle variabili aleatorie discrete. In particolare è utile ricordare le seguenti due formule: se f : R R è una funzione qualunque, allora f è dotata di valore atteso finito se f(x m ) q(x m ) < ; in tal caso Inoltre risulta E(f(X)) = f(x m )q(x m ). Var(X) = E(X 2 ) E(X) 2 = x 2 mq(x m ) E(X) 2. Mostriamo ora, a titolo di esempio, che valore atteso e la varianza della variabile aleatoria geometrica sono E(G(p)) = 1 p e Var(G(p)) = 1 p p 2. A tal fine, ricordiamo che, per ogni x ] 1, 1[ risulta 1 1 x = x k, inoltre, derivando termine a termine la serie, si trova ( 1 1 (1 x) = 2 2 (1 x) 3 = ) = (x k ) = kx k 1, 1 x k=1 ( ) 1 = (x k ) = k(k 1)x k 2. 1 x 7 k=2

8 Ciò premesso, scegliendo x = 1 p, si trova E(G(p)) = kp(1 p) k 1 = 1 p ; inoltre k 2 p(1 p) k 1 = Otteniamo allora k=1 k(k 1)p(1 p) k 1 + k=2 Var(G(p)) = = p(1 p) kp(1 p) k 1 k=1 k(k 1)(1 p) k p k=2 2.1 Variabili aleatorie continue k 2 p(1 p) k 1 E(G(p)) 2 = 1 p p 2. = 2(1 p) p p. Alcuni problemi legati ad eventi casuali non sono descritti in maniera soddisfacente nemmeno dalle variabili aleatorie discrete. Esempio 2.3 (Variabile aleatoria esponenziale) Supponiamo di accendere una lampadina ed aspettare il momento in cui questa cessa di funzionare. Questa volta è opportuno utilizzare come spazio campionario l insieme dei numeri positivi A = R +, conviene inoltre assegnare ad un intervallo di tempo, piuttosto che ad un singolo istante, la probabilità che la lampadina si fulmini. Per questo tipo di fenomeno si usa scegliere un parametro positivo a e stabilire che la probabilità che la lampadina si fulmini nell intervallo [x, y] R + sia P([x, y]) = e ax e ay. Risulta così definita una probabilità sugli intervalli di R +. Tale probabilità viene solitamente chiamata Legge esponenziale di parametro a. Notiamo esplicitamente che la probabilità che si verifichi un evento elementare è P({x}) = P([x, x]) = 0, per ogni x R +. Nell esempio precedente possiamo definire la seguente funzione F ponendo { F (t) = 0 per t 0, F (t) = 1 e at per t > 0. Evidentemente F (t) indica la probabilità che l evento si verifichi prima dell istante t. In generale, data una variabile aleatoria X, la funzione viene detta funzione di ripartizione di X. F X (t) = P(], t]) 8

9 Definizione 2.4 Sia X una variabile aleatoria, con funzione di ripartizione F X. Diremo che X è una variabile aleatoria continua se esiste una funzione f X : R R, non-negativa e continua in tutti i punti, tranne al più un numero finito, tale che F X (y) F X (x) = y x f X (s)ds, per ogni x, y R tali che x < y. La funzione f X si dice densità di X. Ad esempio, la densità della la variabile aleatoria esponenziale è la funzione { f(t) = 0 per t 0, f(t) = a e at per t > 0. Le nozioni di valore atteso e varianza si definiscono, in maniera analoga a quanto si fa per le variabili aleatorie discrete, nel modo seguente Definizione 2.5 Sia X una variabile aleatoria continua, di densità f X. Diremo che X è dotata di valore atteso finito se l integrale t f X (t)dt è convergente. In tal caso, chiameremo valore atteso di X (oppure media di X o speranza matematica di X) il seguente numero E(X) = tf X (t)dt. Se X è una variabile aleatoria continua, dotata di valore atteso finito, diremo che X è dotata di varianza finita se risulta finito il valore atteso di (X E(X)) 2. In tal caso chiameremo varianza di X il seguente numero Var(X) = E ( (X E(X)) 2) ; chiameremo infine scarto quadratico medio di X il numero σ X = Var(X). Tutte le considerazioni fatte per le variabili aleatorie finite e discrete si estendono anche alle variabili aleatorie continue. In particolare valgono le seguenti due formule: se g : R R è una funzione continua, allora g(x) è dotata di valore atteso finito se g(t) f X (t)dt < ; 9

10 in tal caso si ha E(g(X)) = Var(X) = E(X 2 ) E(X) 2 = g(t)f X (t)dt; t 2 f X (t)dt E(X) 2. Mostriamo ora che valore atteso e la varianza della variabile aleatoria esponenziale X sono, rispettivamente E(X) = 1/a e Var(X) = 1/a 2. Si ha: + M E(X) = t a e at dt = lim t a e at dt = 0 M + 0 (per parti) [ lim ] M t e at M + lim e at dt = 1 M + 0 M + 0 a. Analogamente si calcola Var(X) = + 0 t 2 a e at dt E(X) 2 = 2 a 2 1 a 2 = 1 a 2. 3 Alcuni esempi di variabili aleatorie Riportiamo qui un breve elenco delle più importanti variabili aleatorie. Procederemo in maniera piuttosto schematica: per ogni variabile aleatoria considerata daremo la legge che la caratterizza, ne calcoleremo valore atteso e varianza, infine daremo un indicazione di quali siano i problemi pratici in cui questa viene utilizzata. Variabile aleatoria di Bernoulli Viene indicata con la notazione B(p, n), dove p ]0, 1[ ed n N. Essa è definita dalla legge ( ) n q(k) = p k (1 p) n k per k = 0,..., n. k Risulta E(B(p, n)) = np e Var(B(p, n)) = np(1 p). La variabile aleatoria di Bernoulli viene utilizzata per descrivere il seguente problema: si effettuano n prove indipendenti di un esperimento, ogni prova ha probabilità p di avere successo. Allora q(k) è la probabilità di avere k successi nelle n prove. Variabile aleatoria di Poisson Viene indicata con la notazione P (λ), dove λ è un parametro positivo, la sua legge è definita sull insieme N { 0 } attraverso la seguente formula λ λk q(k) = e per k N { 0 }. k! 10

11 Mostriamo ora che il valore atteso e la varianza della variabile di Poisson sono E(P (λ)) = Var(P (λ)) = λ. E(P (λ)) = λ λk ke k! = e λ k=1 λ k (k 1)! = λ e λ k=1 λ k 1 (k 1)! = λ, in quanto λ k è la serie di Taylor di e λ. Per la varianza si procede in maniera k! analoga: calcoliamo preliminarmente E(P (λ) 2 ) = di conseguenza si ha k 2 λ λk e k! = λ2 e λ k=2 λ k 2 (k 2)! + λ e λ k=1 Var((P (λ)) = E((P (λ) 2 ) E((P (λ)) 2 = λ 2 + λ λ 2 = λ. λ k 1 (k 1)! = λ2 + λ, La variabile aleatoria di Poisson viene utilizzata per approssimare la variabile di Bernoulli B(n, p) quando il parametro n è molto grande, nel senso che ( B n, λ ) (k) P (λ)(k), per n, n per ogni k intero k 0. Variabile aleatoria Ipergeometrica Consideriamo il seguente problema: prendiamo 5 carte da un mazzo di 52 e determiniamo la probabilità che k di esse siano di cuori. Si verifica che ( ) ( ) k 5 k p(k) = ( ) 52 5 In generale si suppone di scegliere n oggetti da un contenitore con K oggetti neri ed N K bianchi e si vuole calcolare la probabilità di ottenere k oggetti neri. Tale variabile aleatoria viene detta variabile aleatoria ipergeometrica, viene indicata con G(N, K, n) e si ha ( ) ( ) K N K k n k G(N, K, n)(k) = ( ), per k = 0,..., n. N n Si verifica (con qualche calcolo non troppo semplice) E(G(N, K, n)) = n K N e Var(G(N, K, n)) = nk N ( 1 K ) N n N N 1. 11

12 Quando N e K sono molto grandi (rispetto ad n), si usa approssimare la variabile ipergeometrica con quella di Bernoulli, risulta infatti ( G(m N, m K, n)(k) B n, K ) per m +, N e per k = 0, 1,...n. Variabile aleatoria continua uniforme La sua densità è legata alla scelta di un intervallo non banale [a, b] R: definiamo { f(t) = 1 per t [a, b], b a f(t) = 0 per t [a, b]. Si calcola facilmente che il valore atteso della variabile uniforme è E(X) = (b + a)/2 e che la sua varianza è Var(X) = (b a) 2 /12. Variabile aleatoria normale La variabile aleatoria normale N viene individuata dalla densità f(t) = 1 e t2 /2. 2 π Il suo valore atteso è 0, per evidenti ragioni di simmetria, la sua varianza è + t π e t2 /2 dt = (per parti) = π e t2 /2 dt = 1. La variabile aleatoria normale, di parametri µ e σ 2 viene indicata con N(µ, σ 2 ) ed è individuata dalla densità f(t) = 1 2 π σ e (t µ)2 /2σ 2, i parametri µ e σ 2 sono, rispettivamente, il valore atteso e la varianza di N(µ, σ 2 ). L importanza della variabile aleatoria normale è legata al seguente Teorema 3.1 (Teorema Limite Centrale) Sia (X k ) una successione di variabili aleatorie indipendenti, dotate della stessa legge, di valore atteso e varianza finite. Allora la media X n = 1 n (X 1 + X X n ) tende, in un senso opportuno, alla variabile aleatoria normale. La variabile normale viene pertanto utilizzata per descrivere un qualunque fenomeno dove si sovrappongono gli effetti di molte variabili indipendenti X k, in particolare quando non si conosce la loro legge. 12