Ripasso segnali e processi casuali. Trasmissione dell Informazione

Transcript

1 Ripasso segnali e processi casuali 1

2 Breve ripasso di segnali e trasformate Dato un segnale s(t), la sua densità spettrale si calcola come dove S(f) è la trasformata di Fourier. L energia di un segnale dunque si calcola come G( f ) = S( f ) 2 E = " S( f ) 2 df = " s 2 ( t)dt Un segnale che passa attraverso un filtro viene trasformato in maniera che S 0 ( f ) = H( f )S f La sua densità spettrale cambia come G 0 ( f ) = S 0 f ( ) 2 = S f ( ) s 0 ( t) = s( t) "h( t) ( )H f ( ) 2 = S( f ) 2 H( f ) 2 = G( f ) H( f ) 2 2

3 Processo aleatorio Un processo aleatorio è una relazione che lega al risultato (casuale) di un esperimento una funzione nel tempo. A A 1 A 1 A 1 Noi considereremo solo i processi aleatori tempo-continui, che si rappresentano con la lettera maiuscola e la dipendenza dal tempo X(" i,t) # x i (t) Attenzione: per i fissato, il segnale x i (t) NON è casuale, ma deterministico, mentre a t fissato X(t) può assumere tutti i valori che le varie (infinite) x i (t) assumono in t e dunque X t = X(t) è una variabile casuale. 3

4 Caratterizzazione statistica Dato che X t = X(t) è una variabile casuale, si potrà definire una funzione cumulativa di probabilità F X (x,t) = P( X( t) " x) Tale funzione però non è sufficiente per caratterizzare il processo: a volte, ad esempio, serve sapere cosa succede al tempo t 1 e al tempo t 2 : F X (x,t) = P X t il che a sua volta richiede la conoscenza della funzione cumulativa congiunta (del secondo ordine): F X (x 1,x 2, t 1,t 2 ) = P X t 1 ( ( ) " x 1,X( t 2 ) " x 2 ) ( ( ) " x) In generale, servirà la conoscenza della funzione cumulativa di probabilità di ordine n, per ogni possibile n! F X (x 1,x 2,K,x n, t 1,t 2,K t n ) = P X t 1 ( ( ) " x 1,X( t 2 ) " x 2,K,X( t n ) " x n ) 4

5 Valor medio, potenza, varianza Per semplificarci la vita, è possibile ridursi a considerare solo alcuni indici statistici semplificati, come il valor medio: m X t la potenza: ( ) = E X( t) e la varianza: " X 2 t +# $ ( )dx f X (x,t) = d dx F X x,t ( ) = x f X x,t P X t ( ) = E& X t "# +# ( ) = $ x 2 f X x,t ( ) = E X 2 ( t) "# ( )dx Si noti che la media NON corrisponde necessariamente ad una delle possibili realizzazioni del processo, cioè ad una x i (t). ( ) $ ( ( )#m X ( t) ) 2 ' +* ) = x # m % ( + ( x ( t) ) 2 2 f X ( x,t)dx = P X ( t)# m X t #* ( ) 5

6 C X t 1,t 2 Autocorrelazione e covarianza E interessante considerare anche degli indici del secondo ordine, come la autocorrelazione (correlazione tra le variabili casuali corrispondenti a due istanti di tempo, t 1 e t 2 ): ( ) = E X t 1 R X t 1,t 2 +# +# $ "# "# ( ( )X( t 2 )) = $ x 1 x 2 f X ( x 1,x 2,t 1,t 2 )dx 1 dx 2 e la loro autocovarianza (misura indipendente dal valor medio): ( ) = E X t 1 (( ( )" m x ( t 1 ))( X( t 2 )" m x ( t 2 ))) = $ $ x 1 " m x t 1 = R X ( t 1,t 2 )" m x ( t 1 )m x ( t 2 ) +# +# "# "# ( ( )) x 2 " m x ( t 2 ) ( ) f X x 1,x 2,t 1,t 2 ( )dx 1 dx 2 Si noti che si parla di autocorrelazione e di autocovarianza perché, nonostante si considerino due istanti di tempo diversi, il processo è lo stesso. 6

7 Processi stazionari In un generico processo aleatorio, tutte le quantità introdotte precedentemente sono funzione del tempo, possono cambiare al variare degli istanti. Se tutte le funzioni statistiche che caratterizzano un processo sono invarianti rispetto al tempo, allora il processo si dice stazionario in senso stretto. f X (x 1,x 2,K,x n, t 1,t 2,K t n ) = f X (x 1,x 2,K,x n, t 1 +"t,t 2 + "t,k t n + "t) Si noti che l uguaglianza deve valere per ogni Δt, il che è praticamente impossibile da verificare. Inoltre, la stazionarietà in senso stretto (o forte) significa che non posso distinguere due processi che sono diversi, ma differiscono tra loro solo per una traslazione nel tempo utilizzando misure statistiche. 7

8 Statistiche del 1 ordine per processi stazionari Se un processo è stazionario in senso stretto, la sua funzione densità di probabilità del primo ordine deve soddisfare f x ( x,t) = f x ( x,t +"t), il che significa che deve essere indipendente dal tempo. Di conseguenza, la media di un processo stazionario in senso stretto soddisfa la stessa condizione, cioè è costante nel tempo. m x t +# ( ) = x f x x,t $ ( )dx = $ x f x ( x)dx = m X "# e similmente per le altre statistiche del primo ordine, come la potenza e la varianza: +# "# 2 P x ( t) = P X " X ( t 2 ) = " X 8

9 Statistiche di ordine superiore La stazionarietà di ordine due implica che f x ( x 1,x 2,t 1,t 2 ) = f x ( x 1,x 2,t 1 + "t,t 2 + "t) e che, di conseguenza, la funzione densità di probabilità congiunta, così come le statistiche come la autocorrelazione e la autocovarianza, risulta dipendente solo dalla differenza t 1 -t 2 e non dai particolari valori di t 1 e t 2. ( ) = $ x 1 x 2 f X x 1,x 2,t 1 "t 2 R X t 1,t 2 +# +# $ ( )dx 1 dx 2 = R X t 1 "t 2 "# "# ( ) Generalizzando, si può affermare che, in un processo stazionario in senso stretto, la funzione densità di probabilità di ordine n dipenderà solo dalle n-1 differenze di tempo t 1 -t 2, t 2 -t 3,, t n-1 -t n che ci sono tra gli n istanti di tempo t 1, t 2,, t n. Tali differenze, infatti, sono indipendenti dalla traslazione nel tempo. 9

10 Stazionarietà in senso lato Dato che la stazionarietà in senso stretto risulta praticamente impossibile da verificare, ci riduciamo a considerare una stazionarietà in senso lato, nel caso in cui siano valide: m X t ( ) = m X ( ) = R x ( t 1 " t 2 ) R X t 1,t 2 Facciamo un esempio: è stazionario in senso lato, mentre non lo è. X( t) = acos( 2"f 0 t +# ) f # ( $ ) = 1 2" X( t) = acos( 2"f 0 t +# ) f # ( $ ) = 1 " & $ %" ) rect ( + ' 2" * & $ % " /2) rect ( + ' " * 10

11 Autocorrelazione di un processo stazionario La autocorrelazione di un processo stazionario può essere scritta nella stessa forma di quella di un segnale deterministico: R X ( t 1,t 2 ) = R X ( t 1,t 1 +" ) # R x ( t 1 $t 2 ) = R X (") e per di più soddisfa le stesse condizioni: R X 0 ( ) = P X ( ) = E X 2 ( t) R X ("#) = E( X( t)x( t " #)) = E( X( t +# )X( t) ) = R X (#) R X ( 0) $ R X (#) %# In particolare, l ultima condizione viene dall espansione della condizione E # %( X( t) ± X( t +" )) 2 & () 0 $ ' ( ( ) + X 2 ( t +" ) ±2X( t)x( t +" )) ) 0 E X 2 t R X ( 0)+ R X ( 0)± 2R X " ( ) ) 0 11

12 Filtraggio di un processo stazionario Se un processo aleatorio X(t) passa in un filtro, quanto ne esce può essere scritto come Y( t) = X( t)"h( t), dove h(t) è la risposta impulsiva del filtro e la convoluzione va intesa nel senso che, ad ogni funzione x i (t) si associa una funzione y i ( t) = x i ( t)"h( t) In generale, però, non si riesce a sapere cosa succede delle funzioni densità di probabilità congiunte in uscita a partire da quelle in ingresso. Limitandoci alla media, si può osservare che m Y t +$ ( ) = E( Y( t) ) = E( % h (") X t # " +$ & ' #$ = h (")m X ( t # ")d" #$ ) +$ +$ ( )d" + = % E( h (") X( t # "))d" = % h ( " )E( X( t # "))d" = * ( ) % = h(t)& m X t #$ cioè il filtro agisce normalmente sulla parte deterministica del processo aleatorio. #$ 12

13 Per la autocorrelazione succede che ( ) = E Y t 1 R Y t 1,t 2 Filtraggio di (II) ( ( )) ( ( ),Y( t 2 )) = E X( t 1 )"h( t 1 )# X( t 2 )"h t ) +& +&, +& +& = E+ ' X ( $ )h( t 1 %$)d$ # ' X (()h( t 2 % ()d(. = ' ' E ( X ( $ )h( t 1 % $ )# X (()h( t 2 % ())d$ d( = * - %& +& +& %& %& %& +& +& = ' ' h( t 1 % $ )h( t 2 % ()E( X ( $ ) X (())d$ d( = ' ' R X ( $,( )h( t 1 % $ )h( t 2 % () d$ d( = %& %& = R X ( t 1,t 2 )"h( t 1 )"h t 2 ( ) %& %& Perciò, se il processo in ingresso è stazionario (in senso lato) si ottiene dunque che la media in uscita è costante e l autocorrelazione dipende solo dalla differenza dei tempi, cioè il processo in uscita è pure stazionario. 13

14 Filtraggio di (III) Più precisamente, se il segnale in ingresso è stazionario si ricava che m Y ( t) = h(t)" m X ( t) = h(t)" m X = m X h(t)dt mentre per la autocorrelazione vale +$ % = m X H 0 R Y ( t,t " #) = R X (t,t "#)$ h( t)$ h( t " #) = h (%) R t "%,t " # +& +& #$ ( ) +& ' [ ( )$h( t "#)]d% = "& +& ' "& = ' h (() ' h (%)R( t "%,t " # " ()d% d( = h ( "& +& "& +& ( ) h % ' ( )R("% +# +( )d% d( = = ' h (()[ R (( +# )$ h (#)]d( = ' h ( ") )[ R (# " ))$h(#)]d) = R ( # )$h("#)$ h # "& +& "& "& ( ) e dunque anche il segnale in uscita è stazionario in senso lato. 14

15 Densità spettrale di potenza dei segnali stazionari I segnali aleatori stazionari non possono avere energia finita. Altrimenti, andrebbero a zero all infinito, con loro la media, e questa non potrebbe essere costante come richiesto. Essendo segnali di potenza, si definisce la loro densità di potenza come ciò che si ottiene invertendo la loro autocorrelazione. S X (f) soddisfa le condizioni: S X S X ( ( )) ( f ) = F R X " ( f ) è reale e pari +# ( ) = S X f P X = E X 2 ( t) S X ( f ) % 0 $ ( )df = 2 S X ( f )df "# +# $ 0 15

16 Processi ergodici Per caratterizzare un processo, fosse anche stazionario, dovremmo conoscerne tutte le funzioni campione (impossibile!). Ci farebbe comodo invece ricavare le informazioni statistiche sul processo da UNA SOLA funzione campione. La cosa è possibile se il processo è ergodico. Un processo ergodico nella media soddisfa: 1 m X ( t) = m X = X m = lim T"# T cioè la variabile casuale X m, ottenuta mediando nel tempo ogni possibile funzione campione, ha una funzione densità di probabilità con media pari a m X e varianza nulla. $T /2 In pratica, si può calcolare la media su una finestra mobile T /2 % X( t)dt X T = 1 T T /2 # X( t)dt X m = lim "T /2 t"# X T 16

17 Rumore Il rumore nei sistemi digitali è spesso rappresentato mediante l acronimo AWGN: Rumore Bianco Additivo e Gaussiano. Si considera il rumore a media nulla e la densità spettrale del rumore (costante perché bianco) si indica come η/2. Di conseguenza, la variabile causale n(t) è una variabile Gaussiana, cioè con densità di probabilità esprimibile mediante la funzione f ( n( t) ) = f ( n) 1 2"# 2 e$ La varianza del rumore, indicata nella formula, è pari alla potenza del rumore. Infatti, per un processo casuale la potenza è definita come ( t) 2# 2 n 2 e dunque P = " n 2 f ( n)dn P = n 2 = " 2 # m 2 = " 2 17

18 Rumore II La probabilità di avere rumore peggiore di un valore fissato K è ( ) = f n P n " K & & 1 ' ( )dn = ' 2#$ 2 e% 2$ 2 dn = 1 K K 2 Erfc ( K + * - ) 2$, dove la la funzione Erfc è una funzione con argomento positivo, decrescente da 1 a 0 all aumentare dell argomento stesso: Erfc x Ultima nota: il rumore Gaussiano in ingresso ad un filtro con funzione di trasferimento H(f) produce un rumore pure Gaussiano in uscita, con varianza (= potenza) $ % x n 2 ( ) = 2 " e#u2 du ( t) P 0 = " 2 0 = # G n ( f ) H( f ) 2 df = $ 2 # ( ) 2 df = H f $ # 2 h t ( ) 2 dt 18