Teoria dei Segnali Covarianza, correlazione e densità spettrale di potenza; processi stocastici stazionari

Transcript

1 Teoria dei Segnali Covarianza, correlazione e densità spettrale di potenza; processi stocastici stazionari Valentino Liberali Dipartimento di Fisica Università degli Studi di Milano valentino.liberali@unimi.it Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio 2011 Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Contenuto 1 Correlazione e covarianza 2 Stazionarietà in senso stretto 3 Stazionarietà di ordine n 4 Stazionarietà in senso lato 5 Proprietà dei p.s. stazionari 6 Densità spettrale di potenza 7 Processi stazionari filtrati Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 1

2 Crosscorrelazione La densità di probabilità incrociata f XY (x,y;t 1,t 2 ) = 2 F XY (x,y;t 1,t 2 ) x y è importante perché entra nel calcolo della correlazione e della covarianza tra processi stocastici. La crosscorrelazione (o correlazione incrociata, o semplicemente correlazione) di due processi stocastici X(t) e Y(t) è il valor medio del prodotto delle v.a. X(t 1 )Y(t 2 ): R XY (t 1,t 2 ) E (X(t 1 )Y(t 2 )) = = + + xyf XY (x,y;t 1,t 2 )dxdy Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Autocorrelazione L autocorrelazione di un processo stocastico X(t) è la correlazione di X(t) con sé stesso: R XX (t 1,t 2 ) E (X(t 1 )X(t 2 )) = = + + x 1 x 2 f XX (x 1,x 2 ;t 1,t 2 )dx 1 dx 2 Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 2

3 Crosscovarianza e autocovarianza La crosscovarianza (o crosscovarianza incrociata, o semplicemente covarianza) di due processi stocastici X(t) e Y(t) è la correlazione delle differenze tra i processi e i loro valori medi: C XY (t 1,t 2 ) E ((X(t 1 ) m X (t 1 ))(Y(t 2 ) m Y (t 2 ))) = = + + L autocovarianza di un processo stocastico X(t) è: (x m X (t 1 ))(y m Y (t 2 ))f XY (x,y;t 1,t 2 )dxdy C XX (t 1,t 2 ) E ((X(t 1 ) m X (t 1 ))(X(t 2 ) m X (t 2 ))) = = + + (x 1 m X (t 1 ))(x 2 m X (t 2 ))f XX (x 1,x 2 ;t 1,t 2 )dx 1 dx 2 Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Autocovarianza e autocorrelazione Dal confronto tra le definizioni di C XX (t 1,t 2 ) e R XX (t 1,t 2 ), si vede immediatamente che: C XX (t 1,t 2 ) = R XX (t 1,t 2 ) m X (t 1 )m X (t 2 ) Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 3

4 Stazionarietà in senso stretto Un processo stocastico si dice stazionario (in senso stretto) quando tutti i suoi momenti sono indipendenti dal tempo t. Se tutte le funzioni densità di probabilità, per qualsiasi ordine n, sono indipendenti dal tempo, allora il processo è stazionario (in senso stretto). f X (x 1,x 2,...,x n ;t 1 + t,t 2 + t,...,t n + t) = = f X (x 1,x 2,...,x n ;t 1,t 2,...,t n ) per n, t Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Stazionarietà di ordine n Un processo stocastico si dice stazionario di ordine n quando tutti i suoi momenti di ordine k n sono indipendenti dal tempo t. Se le funzioni densità di probabilità per tutti gli ordini k n sono indipendenti dal tempo, allora il processo è stazionario di ordine n. f X (x 1,x 2,...,x k ;t 1 + t,t 2 + t,...,t k + t) = = f X (x 1,x 2,...,x k ;t 1,t 2,...,t k ) per k n, t Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 4

5 Stazionarietà in senso lato In generale, la stazionarietà in senso stretto è una proprietà difficile da verificare (tranne che per pochi processi). Di conseguenza, ci si accontenta di una definizione meno restrittiva. Un processo stocastico si dice stazionario in senso lato quando la media è indipendente dal tempo t e l autocorrelazione dipende solo dalla differenza τ = t 1 t 2 : m X (t) = m X R XX (t 1,t 2 ) = R XX (t 1 t 2 ) = R XX (τ) Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Covarianza di p.s. stazionari Per tutti i processi stocastici stazionari (almeno in senso lato), m X non dipende da t e R XX dipende solo da τ = t 1 t 2. Di conseguenza l autocovarianza del processo stocastico X(t) è: C XX (t 1,t 2 ) = R XX (t 1,t 2 ) m X (t 1 )m X (t 2 ) = R XX (τ) m 2 X = C XX (τ) e quindi anche l autocovarianza dipende solo da τ = t 1 t 2. In modo analogo, si ricava la crosscovarianza di di due processi stocastici stazionari X(t) e Y(t): C XY (t 1,t 2 ) = C XY (τ) = R XY (τ) m X m Y Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 5

6 Densità spettrale di potenza (1/2) Per tutti i processi stocastici stazionari (almeno in senso lato) si definisce la densità spettrale di potenza S XX (f), che è la trasformata di Fourier dell autocorrelazione R XX (τ): S XX (f) = F (R XX (τ)) = + R XX (τ)e j2πfτ dτ Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Densità spettrale di potenza (2/2) La densità spettrale di potenza incrociata S XY (f) di due processi stocastici stazionari X(t) e Y(t) è: la trasformata di Fourier della crosscorrelazione R XY (τ): S XY (f) = F (R XY (τ)) = + R XY (τ)e j2πfτ dτ Bisogna ricordare che R XY (τ) = R ( τ); di conseguenza, nel caso generale, YX S XY (f) S YX (f). Si ha l uguaglianza delle due densità spettrali di potenza incrociate S XY (f) = S YX (f) solo se R XY (τ) è reale e pari. Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 6

7 Proprietà Somma di due p.s.: Z(t) = X(t) + Y(t) L autocorrelazione è: R ZZ (τ) = R XX (τ) + R XY (τ) + R YX (τ) + R YY (τ) Prodotto di due p.s.: Z(t) = X(t) Y(t) In generale, l autocorrelazione R ZZ (τ) non può essere espressa come combinazione delle correlazioni. Tuttavia, se X(t) e Y(t) sono tra loro indipendenti, allora R ZZ (τ) = R XX (τ) R YY (τ) Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Filtraggio δ(t) S LTI h(t) Applicando all ingresso di un sistema LTI il processo stocastico X(t), l uscita è il processo stocastico Y(t) dato da: Y(t) = X(t) h(t) = + X(τ) h(t τ) dτ Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 7

8 Media di un p.s. filtrato Il valor medio di Y(t) è: E(Y) = + = E(X) E(X(t τ)) h(τ) dτ + = E(X) H(0) h(τ) dτ Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Autocorrelazione di un p.s. filtrato La correlazione incrociata tra Y(t) e X(t) è: R YX (τ) = R XX (τ) h(τ) mentre R XY (τ) = R XX (τ) h ( τ) e l autocorrelazione dell uscita è: R YY (τ) = R XY (τ) h(τ) = R XX (τ) h ( τ) h(τ) Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 8

9 Spettro di potenza di un p.s. filtrato Dalle relazioni tra le correlazioni, risulta: S XY (f) = S XX (f) H (f) S YX (f) = S XX (f) H(f) e quindi la densità spettrale di potenza di un processo stocastico filtrato è: S YY (f) = S XX (f) H(f) 2 Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Trasmissione seriale di dati binari La trasmissione di dati binari su una linea seriale può essere modellizzata con un processo stocastico. Scegliendo a caso un file, abbiamo una successione di bit da trasmettere. Nell ipotesi che i bit 1 e 0 abbiano la stessa probabilità e siano fra loro indipendenti, se la durata di trasmissione del bit è T, il bit 1 viene codificato con un livello di tensione +V e il bit 0 con un livello di tensione V, una funzione campione del processo stocastico è: +V V 0 T t Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 9

10 Proprietà della trasmissione binaria (1/4) Il processo stocastico è: V(t) = V[n] per nt t < (n + 1)T V[n] è una variabile aleatoria discreta, che può assumere i valori +V e V (entrambi con probabilità 1 2 ). Vogliamo determinare: la densità di probabilità del primo ordine f V (v;t); il valor medio m V (t); l autocorrelazione R VV (t 1,t 2 ). Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Proprietà della trasmissione binaria (2/4) La funzione cumulativa di distribuzione è: 0 se v < V 1 F V (v;t) = 2 se V < v < +V 1 se v > +V In forma compatta: F V (v;t) = 1 2 u(v + V) u(v V) Derivando rispetto a v: che è indipendente da t V(t) è stazionario di ordine 1 f V (v;t) = 1 2 δ(v + V) + 1 δ(v V) 2 Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 10

11 Proprietà della trasmissione binaria (3/4) Poiché V(t) è un processo stazionario di ordine 1, il valor medio è costante: m V = = vf V (v;t)dv ( 1 v = 1 2 V V = 0 2 δ(v + V) + 1 δ(v V) 2 ) dv Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 Proprietà della trasmissione binaria (4/4) Per il calcolo dell autocorrelazione R VV (t 1,t 2 ), consideriamo separatamente due casi: t 1 e t 2 appartengono allo stesso intervallo n: R VV (t 1,t 2 ) = E((V(t 1 )V(t 2 )) = E((V[n]) 2 ) = V 2 t 1 e t 2 appartengono a due intervalli diversi k e n: R VV (t 1,t 2 ) = E((V(t 1 )V(t 2 )) = E(V[k]V[n]) = E(V[k])E(V[n]) = 0 Quindi l autocorrelazione non dipende solo da τ = t 1 t 2, ma dipende sia da t 1 sia da t 2 V(t) non è stazionario in senso lato. Valentino Liberali (UniMI) Teoria dei Segnali Covarianza, correlazione e p.s.d.; p.s. stazionari 10 gennaio / 22 11