P ( X n X > ɛ) = 0. ovvero (se come distanza consideriamo quella euclidea)

Transcript

1 10.4 Convergenze Convergenza in Probabilità. Definizione Data una successione X 1, X 2,...,,... di vettori aleatori e un vettore aleatorio X aventi tutti la stessa dimensione k diremo che tende in probabilità a X e scriveremo (100) P X se (101) ɛ > 0 lim P ( X > ɛ) = 0 Per dimensioni k maggiori di 1 la disuguaglianza X vale componente per componente. Significato geometrico per k = 1. Dire che X P n X equivale a dire che la probabilità della striscia X < ɛ qualunque sia l ampiezza (2ɛ) tende a 1 o equivalentemente che la probabilità della parte di piano X > ɛ tende a Convergenza Quasi certa. Una successione di variabili aleatorie { (ω)} rappresenta una successione di funzioni misurabili da (Ω, F) in (R, B 1 ). Per tale successione un usuale convergenza matematica è quella puntuale, cioè (ω) X, ω Ω ovvero (se come distanza consideriamo quella euclidea) ɛ > 0, m : (ω) X(ω) < ɛ per n > m. Una convergenza del genere però è troppo forte per le variabili aleatorie, visto che siamo interessati allo studio delle probabilità. Pertanto la convergenza sarà sufficiente anche se non si realizza in alcuni punti, purchè questi formino un insieme di misura trascurabile. Definizione 10.3 (Convergenza quasi certa.). Data una successione di v.a. { } e una v.a. X, diremo che converge quasi certamente a X se l evento (ω) X(ω) è quasi certo, ovvero se P ( X) = P ({ω Ω : (ω) X(ω)}) = 1 In tal caso si scrive X, oppure che tende a X con probabilità 1. La convergenza di ad una v.a. X significa prendere in considerazione in una prova (ipotetica) i valori assunti dalle infinite v.a. e vedere se questi convergono al valore assunto dalla v.a. X: tale evento deve avere probabilità 1. Caratterizzazione della convergenza quasi certa, pag. 230). Teorema X se e solo se ɛ > 0, lim P ( X m X < ɛ) = 1 m n

2 10.4 Convergenze 167 Pertanto una definizione alternativa di convergenza quasi certa potrebbe essere la seguente. Definizione Data una successione di v.a. { } e una v.a. X, diremo che converge quasi certamente a X se, fissati due numeri positivi ɛ, θ, è possibile determinare un intero n ɛ,θ, tale che per ogni n > n ɛ,θ risulti ( ( P Xm X ɛ )) < θ. m n Fissati, in altri termini, arbitrariamente ɛ e θ debbono risultare minori di θ, per n > n ɛ,θ, non solo le probabilità, P ( X ɛ ), che ciascuno singolarmente degli scarti sia non inferiore a ɛ (come richiesto dalla convergenza in probabilità), ma anche le probabilità che anche uno solo su tutti gli scarti X da n ɛ,θ in poi sia non inferiore a ɛ. Si dimostra il seguente Teorema Se X allora P X. Il viceversa non vale. Si possono costruire alcuni controesempi. In definitiva la relazione che sussiste, solo in un verso, tra le verie convergenze, è la seguente. X P X L X Applicazione - Legge dei grandi numeri. Sia X 1, X 2,...,,... una successione di variabili aleatorie i.i.d, con P( ) = µ e var( ) = σ 2 finite. Consideriamo la successione delle medie aritmetiche n = X i /n. i=1 Si ha P( ) = µ e var( ) = σ 2 /n. Pertanto la media aritmetica avrà una distribuzione centrata su µ che al tendere di n all infinito avrà una varianza infinitesima var( ) = σ 2 /n 0, ovvero sempre più concentrata su µ. Osserviamo che per trovare la distribuzione di bisognerebbe fare n 1 convoluzioni. Proviamo che la successione converge in probabilità al numero aleatorio X = µ. Per la disuguaglianza di Cebicev si ha P ( µ > ɛ) var() ɛ 2 ma var( ) = σ 2 /n 0 pertanto si ha ɛ > 0 lim P ( µ > ɛ) = 0. Tale risultato prende il nome di Legge (debole) dei grandi numeri. Ad esempio è utile per stimare la vera misura di una lunghezza, dopo aver effettuato diverse misure, si può considerare come vera misura la media aritmetica.

3 10.4 Convergenze 168 In particolare tale risultato prende anche il nome di Teorema di Bernoulli, in quanto nella sua prima forma fu dimostrato da Bernoulli. Sia X 1, X 2,...,,... una successione di variabili aleatorie bernoulliane i.i.d, con P( ) = µ e var( ) = σ finite. Ovvero { 1, con P (Xn = 1) = p = 0, con P ( = 0) = 1 p = q In tal caso la successione delle medie aritmetiche diviene la frequenza relativa f n di successo su n prove e il teorema diviene ɛ > 0 lim P ( f n p > ɛ) = 0. Cioè la frequenza relativa di successo converge in probabilità alla probabilità p di successo. Un altro importante risultato dovuto a Bernoulli, indicando con S n = n i=1 X i la frequenza assoluta, è il seguente k > 0 lim P ( S n np > k) = 1. Cioè il numero di S n np tende in probabilità all infinito. Possiamo pertanto dire che, in riferimento al lancio di una moneta, se si fanno un numero elevati di lanci la frequenze relativa di T esta sarà, con probabilità alta, vicina a 1/2, ma la frequenza assoluta, cioè il numero di T esta, sarà probabilmente lontano da n/2. Se ad ogni lancio si vince 1 se esce T esta e 1 se esce Croce, allora dopo un numero elevato di lanci la vincita (positiva o negativa) sarà lontana da zero Convergenza in Legge e convergenza in Probabilità. Teorema Se P X allora L X. Inoltre se X = a con probabilità 1 vale il viceversa, cioè se L X allora P X Il precedente teorema dimostra che la convergenza in probabilità è più forte della convergenza in legge, tranne per variabili degenere. In generale la convergenza in legge non implica la convergenza in probabilità. Vediamo un controesempio. Esempio Sia X 1, X 2,...,,... una successione di variabili aleatorie indipendenti e uniformemente distribuite in (0, 1) e sia X una variabile aleatoria con distr. unif. sempre in (0, 1) Essendo tutte le variabili in gioco con stessa distribuzione tutte avranno come funzione di ripartizione la funzione F n = F definita come F (x) = 0, se x 0, x, se 0 x < 1, 1, se x 1.

4 10.4 Convergenze 169 Quindi converge in legge a X. Proviamo che non c è convergenza in probabilità. Osserviamo che la densità marginale f(x n, x) è { 1, se (xn, x) Q f n (x n, x) = 1, 0, altrimenti avendo indicato con Q 1 il quadrato unitario, Q 1 = {(x, y) : 0 x 1, 0 y 1}. Consideriamo l evento X > ɛ si ha P ( X > ɛ) = (1 ɛ) 2 cioè fissato ɛ la quantità P ( X > ɛ) rimane costante al crescere di n, quindi P X. Esercizio Sia { U(0, 1/n), n N} una successione di variabili aleatorie ( delta di Dirac), provare che converge sia in legge che in probabilità a X = Convergenza in Media. Dato un numero reale r > 0, diciamo che tende a X in media r esima, e scriviamo se m.r. X. P( X r ) 0. Per r = 2 si parla di convergenza in media quadratica. Inoltre tale convergenza, poichè prende in considerazione i valori medi, richiede che essi siano finiti. Ricordiamo che la disuguaglianza di Cebicev (Markov). Per r > 0, ɛ > 0, si ha P ( X > ɛ) P( X r ) ɛ r, pertanto possiamo dimostrare che Teorema infatti m.r. X P X, ɛ, P ( X > ɛ) P( X r ) ɛ r 0 Esempio Nell inferenza statistica classica (oltre alla correttezza) si dice che uno stimatore Y n è consistente se tende in probabilità alla grandezza η da stimare. Se P(Y n ) = η, cioè lo stimatore è corretto, si ha P((Y n η) 2 ) = P((Y n P(Y n )) 2 ) = var(y n ) quindi se la var(y n ) 0 segue che Y n m.q. η.

5 10.4 Convergenze 170 e per il Teorema 10.4 si ha Y P n η cioè lo stimatore è consistente. Pertanto la media campionaria (per variabili con momenti di ordine 2 finiti) è uno stimatore corretto e consistente della media.