Elementi di Teoria dei Segnali

Transcript

1 Elementi di Teoria dei Segnali Ing. Michele Scarpiniti Master "Tecniche per la Multimedialità" 1

2 Il concetto di segnale I segnali sono funzioni nel senso ordinario del termine Il temine segnale si riferisce all impiego di questi enti matematici in un contesto dove si effettua lo scambio di messaggi informativi tra soggetti diversi, individuabili come sorgente e destinatario, come accade in un sistema di comunicazione Master "Tecniche per la Multimedialità" 2

3 Classificazione dei segnali Rispetto alla conoscenza a priori: Certi; Aleatori. Rispetto al codominio: Reale; Complesso. Rispetto alla tipologia della coppia dominiocodominio: Continuo-continuo; Continuo-discreto; Discreto-continuo; Discreto-discreto. Master "Tecniche per la Multimedialità" 3

4 Classificazione dei segnali Master "Tecniche per la Multimedialità" 4

5 Classificazione dei segnali Rispetto al contenuto energetico: Segnali di energia: energia finita e non nulla s * ( ) ( ) ( ) 2 E = s t s t dt = s t dt Segnali di potenza: potenza finita e non nulla T 2 T 2 Master "Tecniche per la Multimedialità" 5 1 P lim ( ) 2 s = s t dt T T Un segnale di energia ha potenza nulla; un segnale di potenza ha energia infinita. Se il segnale è periodico, la potenza è calcolata su un periodo.

6 Esempi di segnali ( ) = cos( 2π + ϕ ) s t A f t f 0 = 1 T A: ampiezza; f 0 : frequenza; ϕ: fase; T: periodo Master "Tecniche per la Multimedialità" 6

7 Esempi di segnali s t = rect t ( ) ( ) T x(t) -T 1 T t x t = tri t ( ) ( ) T Master "Tecniche per la Multimedialità" 7

8 Esempi di segnali s(t) 0 1 t s t = u t ( ) ( ) 1 x(t) 0 1 t x t = u t = δ t ( ) ( ) ( ) 0 Master "Tecniche per la Multimedialità" 8

9 Esempi di segnali Un segnale molto usato nella teoria dei segnali e dei sistemi è il seno cardinale o semplicemente sinc. sin t t ( ) = = sinc( t) s t E da notare che il valore di sinc(t) per t=0 è 1, cioè sinc(0)=1 Master "Tecniche per la Multimedialità" 9

10 Il sistema Un sistematèuna scatola nera che preleva il segnale x(t) e gli fa corrispondere un segnale in uscita y(t). Master "Tecniche per la Multimedialità" 10

11 Il sistema Un sistema T è lineare se: x 1 (t) y 1 (t) x 2 (t) y 2 (t), allora a 1 x 1 (t)+a 2 x 2 (t) a 1 y 1 (t)+a 2 y 2 (y) Un sistema T è permanente se: x(t) y(t), allora x(t-t) y(t-t) Master "Tecniche per la Multimedialità" 11

12 L uscita del sistema Si chiama risposta impulsiva di un sistema T l uscita corrispondente ad un impulso di Dirac. La risposta impulsiva caratterizza completamente il sistema T. Master "Tecniche per la Multimedialità" 12

13 L uscita del sistema Nota la risposta impulsiva h(t) di un sistema T è allora nota l uscita y(t) per un generico ingresso x(t): ( ) ( τ ) ( τ ) τ ( )* ( ) y t = x h t d = x t h t La formula precedente è detta integrale di convoluzione. Un esempio di convoluzione tra due rettangoli è mostrata nella slide successiva. Master "Tecniche per la Multimedialità" 13

14 L uscita del sistema Master "Tecniche per la Multimedialità" 14

15 L uscita del sistema Per la serie e il parallelo di due diversi sistemi di risposta impulsiva h 1 e h 2, valgono le seguenti relazioni: Master "Tecniche per la Multimedialità" 15

16 L auto e cross-correlazione Si definisce funzione di auto-correlazione: * ( ) ( τ ) ( τ ) τ ( ) ( ) Rxx t = x x t + d = x t x t Si definisce funzione di cross-correlazione: * ( ) ( τ ) ( τ ) τ ( ) ( ) Rxy t = x y t + d = x t y t Master "Tecniche per la Multimedialità" 16

17 L auto e cross-correlazione In particolare: E = x R xx ( 0) Mentre si definisce energia incrociata: xy = xy = * ( 0) ( ) ( ) E R x τ x τ dτ Si definisce coefficiente di correlazione: Exy ρ xy = E E Relazioni analoghe valgono per i segnali di potenza. x y Master "Tecniche per la Multimedialità" 17

18 Filtro In generale la h(t) è complessa. Se h(t) è reale allora il sistema è idealmente realizzabile (IR). Se il sistema è anche causale (cioè h(t)=0 per t<0) allora il sistema è fisicamente realizzabile (FR). Un sistema lineare e permanente è detto filtro. Master "Tecniche per la Multimedialità" 18

19 Filtro Un filtro è instabile se l uscita, in corrispondenza di ingressi limitati in ampiezza, assume valori illimitati. Un filtro è stabile se l uscita rimane limitata. Condizione necessaria e sufficiente affinché un filtro sia stabile è che: h( t) dt < Master "Tecniche per la Multimedialità" 19

20 Lo sviluppo in serie di Fourier Se un segnale è periodico (x(t)=x(t+t)) allora è sviluppabile in serie di Fourier: x t = ( ) j 2 0 n= X e π n 2 1 T j nf t T 2 2π 0 ( ) nf t X = n x t e dt T La sequenza dei coefficienti X n è detto spettro del segnale periodico x(t). Master "Tecniche per la Multimedialità" 20

21 Lo sviluppo in serie di Fourier Master "Tecniche per la Multimedialità" 21

22 Lo sviluppo in serie di Fourier La potenza si può calcolare direttamente coi i coefficienti dello sviluppo in serie, tramite il teorema di Parseval: P x = n= Inoltre le funzioni di auto e cross-correlazione sono periodiche di periodo T, e i relativi spettri valgono: Φ xyn = X nyn R X n 2 = X Y * xyn n n Master "Tecniche per la Multimedialità" 22

23 La trasformata di Fourier Un segnale non impulsivo e quindi non di energia non può essere sviluppato in serie di Fourier Si può però definire un operazione detta trasformata di Fourier, che è un concetto limite della serie. Master "Tecniche per la Multimedialità" 23

24 La trasformata di Fourier Si può passare dal segnale x(t) alla sua trasformata di Fourier X(f) e viceversa (antitrasformata di Fourier), tramite le: ( ) ( ) j 2π ft F ( ) 2 F 1 { } x t = X f e df = X f ( ) ( ) + j π ft ( ) { } X f = x t e dt = x t Master "Tecniche per la Multimedialità" 24

25 La trasformata di Fourier Un esempio: trasformata del rettangolo: Master "Tecniche per la Multimedialità" 25

26 La trasformata di Fourier In generale X(f) è complessa: X(f)=X R (f)+jx I (f)=m(f)e jφ(f) Se x(t) è reale allora X(f)=X * (-f) Cioè X R (f) e M(f) sono funzioni pari; X I (f) e Φ(f) sono funzioni dispari. La trasformata di Fourier è un operatore lineare. Master "Tecniche per la Multimedialità" 26

27 La trasformata di Fourier Proprietà della traslazione nel tempo: F { ( )} j 2π ft x t T = e X ( f ) Proprietà della derivazione nel tempo: d F x t = j fx f dt ( ) 2π ( ) Proprietà del prodotto nel tempo: F { x( t) y ( t) } = X ( f )* Y ( f ) Master "Tecniche per la Multimedialità" 27

28 La trasformata di Fourier Vale il teorema di Parseval: E X f df x = ( ) 2 Teorema della convoluzione: F { x( t) * y ( t) } = X ( f ) Y ( f ) Teorema della correlazione: F { ( ) ( )} * x t y t = X ( f ) Y ( f ) Master "Tecniche per la Multimedialità" 28

29 La trasformata di Fourier Se l ingresso x(t) di un filtro è un segnale sinusoidale a frequenza f 0, allora anche l uscita sarà un segnale sinusoidale di frequenza f 0, ma di ampiezza e fase diversi. Facendo variare la f 0, posso ricostruire l uscita per ogni frequenza e disegnare quindi, la risposta in frequenza. Master "Tecniche per la Multimedialità" 29

30 I filtri Un filtro, visto in frequenza può dividersi in tre categorie: Passa basso; Passa alto; Passa banda. Questi filtri eliminano le alte frequenze, le basse frequenze e le frequenze al di fuori di una certa banda, rispettivamente. La trasformata di Fourier del risposta impulsiva di un filtro caratterizza completamente il funzionamento del filtro in frequenza, ed è chiamata funzione di trasferimento del filtro. Master "Tecniche per la Multimedialità" 30

31 I filtri H(f) 1 Passa Basso: passano inalterate tutte le frequenze inferiori a f L. -f L H(f) f L f Passa Alto: passano inalterate tutte le frequenze superiori a f H. 1 Passa Banda: passano inalterate tutte le frequenze comprese tra f 1 e f 2. -f H f H f B=f 2 -f 1 è detta larghezza di banda. f 0 =(f 1 +f 2 )/2 è detta frequenza di centro banda. Master "Tecniche per la Multimedialità" 31

32 I filtri Consideriamo il filtro passa basso ideale, precedentemente disegnato. Risulta che: H(f) = rect 2fL (f) Quindi nel tempo ho una risposta nel tempo pari a: h(t)=2f L sinc(πf L t) E chiaro che h(t) risulta non nulla per t<0, e quindi il filtro passa basso ideale non risulta fisicamente realizzabile. I filtri reali hanno una pendenza più dolce: scendono verso zero più lentamente. Master "Tecniche per la Multimedialità" 32

33 I filtri Grazie al teorema della convoluzione, l uscita in frequenza Y(f) di un filtro è dato semplicemente dal prodotto della trasformata di Fourier dell ingresso al filtro X(f) con le sua funzione di trasferimento H(f): X(f) H(f) Y(f)=H(f) X(f) Master "Tecniche per la Multimedialità" 33

34 Spettro di densità di energia Si consideri il segnale x(t) ed il seguente filtro: Si definisce energia del segnale x(t) nella banda [f,f+ f], l energia in uscita dal filtro precedente quando si pone x(t) in ingresso. Tale energia si indica con: E x,f,f+ f. Master "Tecniche per la Multimedialità" 34

35 Spettro di densità di energia Si faccia ora l ipotesi che la banda sia infinitesima, ovvero che f 0. Allora al seguente rapporta si dà il nome di spettro di densità di energia: E,, ( ) lim x f f + E f x f = f 0 f L energia del segnale x(t) può quindi essere calcolata con questa nuova grandezza, come: E E f df = ( ) x x Master "Tecniche per la Multimedialità" 35

36 Spettro di densità di energia Per i segnali di energia vale il risultato seguente, noto come Teorema di Wiener: { } E f = X f =F R t x ( ) ( ) ( ) 2 Quindi lo spettro di densità di energia di un segnale x(t) può essere calcolato come trasformata di Fourier della funzione di autocorrelazione del segnale x(t). xx Master "Tecniche per la Multimedialità" 36

37 Spettro di densità di potenza In modo analogo si definisce la potenza del segnale x(t) nella banda [f,f+ f], e la si indica con: P x,f,f+ f. Si definisce spettro di densità di potenza P x (f): P,, ( ) lim x f f + P f x f = f 0 f La potenza del segnale x(t) può quindi essere calcolata come: P P f df x = x ( ) Vale il teorema di Wiener, per i segnali di potenza: { } P f =F R t x ( ) ( ) xx Master "Tecniche per la Multimedialità" 37

38 Il segnale analitico Si consideri il segnale x(t) ed il seguente filtro, dato da un gradino in frequenza: H(f) 1 0 f L uscita del segnale x(t) dal filtro precedente è chiamato segnale analitico ed indicato con x + (t). In frequenza il segnale analitico ha solo un contributo a frequenze positive Master "Tecniche per la Multimedialità" 38

39 L inviluppo complesso Si definisce inviluppo complesso il segnale ottenuto dalla seguente espressione: x t = 2x t e ( ) + ( ) j 2π 0 L inviluppo complesso è un segnale complesso, che quindi ha una parte reale ed una parte immaginaria, denominate componenti analogiche di bassa frequenza in fase e quadratura: x t = x t + jx t ( ) ( ) ( ) c s f t Master "Tecniche per la Multimedialità" 39

40 L inviluppo complesso Un segnale x(t) è detto limitato in banda [f 1,f 2 ] intorno ad una frequenza f 0, se è nullo lo spettro X(f) al di fuori di questa banda. La banda B del segnale è B=f 2 -f 1 f 0 =(f 1 +f 2 )/2 Master "Tecniche per la Multimedialità" 40

41 L inviluppo complesso Un segnale x(t) limitato in banda [f 0 -f B,f 0 +f B ] intorno a f 0 può essere riportato in banda base intorno allo zero [-f B,f B ] tramite l inviluppo complesso. Il segnale nella banda originale intorno a f 0 può essere riottenuto tramite le componenti analogiche in bassa frequenza (ricavate dall inviluppo complesso): ( ) = ( ) cos( 2π ) ( ) sin ( 2π ) x t x t f t x t f t c 0 s 0 Master "Tecniche per la Multimedialità" 41

42 L inviluppo complesso Quanto detto precedentemente è illustrato nel seguente esempio: Master "Tecniche per la Multimedialità" 42

43 Il campionamento Si vuole ora passare da un segnale continuo-tempo continuo ad un segnale continuo-tempo discreto. Una procedura è leggere il segnale ad istanti regolari di tempo: ogni T c, prendo il valore del segnale (x(0), x(t c ), x(2t c ), x(3t c ), ). Il processo è chiamato campionamento, mentre T c è detto periodo di campionamento. La sequenza,x(0), x(t c ), x(2t c ), x(3t c ), è detta sequenza di campionamento, mentre il singolo x(kt c ) è detto campione di x(t) all istante kt c. F c =1/T c è detta frequenza di campionamento. Master "Tecniche per la Multimedialità" 43

44 Il campionamento Un metodo pratico per leggere un segnale x(t) ogni T c è quello di moltiplicare il segnale x(t) per un treno di impulsi s(t) equispaziati di T c. Il segnale ottenuto (segnale campionato) viene indicato con x c (t). Si ricorda che la trasformata di Fourier di un treno di impulsi è un treno di impulsi equispaziati di f c e scalati di T c, mentre la convoluzione in frequenza tra un segnale e un treno di impulsi dà come risultato lo spettro del segnale riportato sopra ogni impulso (replica). E molto istruttivo vedere il processo di campionamento contemporaneamente nel tempo che in frequenza. Master "Tecniche per la Multimedialità" 44

45 Il campionamento x(t) X(f) 1 0 t -f M 0 f M f s(t) S(f) 1 1/T c -4T c -3T c -2T c 0 T c 2T c 3T c x c (t) T c t -2f c -f c 0 X c (f) f c 2f C t 1/T c 0 t -2f c -f c 0 f c 2f C f Master "Tecniche per la Multimedialità" 45

46 Il campionamento Per poter ricostruire il segnale x(t), quindi devo far passare il segnale campionato x c (t) in un filtro passa basso ideale H(f) con frequenza di taglio f M. In questo modo isolo la replica intorno all origine ottenendo il segnale y(t) che coincide con il segnale x(t). Master "Tecniche per la Multimedialità" 46

47 Il campionamento Il segnale ricostruito y(t) può quindi essere espresso come segue: y ( t) = x( t) δ ( t ktc ) h( t) = x( ktc ) δ ( t ktc ) sinc( 2fMt) = k k k ( ) ( ) sinc 2 ( ) = x kt f t kt c M c Master "Tecniche per la Multimedialità" 47

48 Il campionamento Se ora si diminuisce il periodo di campionamento T c e quindi di conseguenza si aumenta la frequenza di campionamento f c (cioè prendo più informazione dal segnale), le repliche in frequenza si allontanano. Riesco allora a ricostruire il segnale anche con un filtro meno performante di quello ideale (che non è fisicamente realizzabile). Master "Tecniche per la Multimedialità" 48

49 Il campionamento Se viceversa si aumenta il periodo di campionamento T c e quindi di conseguenza si diminuisce la frequenza di campionamento f c (cioè prendo meno informazione dal segnale), le repliche in frequenza si avvicinano. Riesco allora a ricostruire il segnale solo con un filtro sempre più performante (che può non essere fisicamente realizzabile). Master "Tecniche per la Multimedialità" 49

50 Il campionamento Se T c aumenta troppo e quindi di conseguenza si f c diminuisce troppo (cioè prendo troppo poca informazione dal segnale), le repliche in frequenza si sovrappongono. Non riesco allora a ricostruire il segnale originale con il filtro passa-basso, in quanto l uscita di tale filtro contiene anche informazione proveniente dalle repliche adiacenti. Master "Tecniche per la Multimedialità" 50

51 Il campionamento Questo fenomeno della sovrapposizione delle repliche è detto aliasing. Quando ho aliasing non riesco più a ricostruire il segnale. La frequenza di campionamenti f c minima per cui non ho aliasing è f c =2f M. Per poter ricostruire il segnale devo campionare ad una frequenza f c P2f M (f M è la massima frequenza del segnale). Il risultato precedente (f c P 2f M ) è noto come Teorema del Campionamento o di Nyquist, mentre f=2f M è detta frequenza di Nyquist. Master "Tecniche per la Multimedialità" 51

52 La quantizzazione Il passo successivo è quello di trasformare un segnale continuo-tempo discreto in un segnale discreto-tempo discreto, ovvero digitale. Il segnale digitale non può assumere qualsiasi valore, ma solo un certo numero limitato. Risulta cioè quantizzato. La quantizzazione, allora, è il processo che trasforma gli infiniti valori del codominio di un segnale tempo-continuo nei pochi valori del codominio del segnale digitale. Master "Tecniche per la Multimedialità" 52

53 La quantizzazione Un metodo per effettuare la quantizzazione consiste ne dividere la dinamica del segnale (l intervallo tra il minimo e massimo valore del codominio) in un certo numero L di livelli. Vedere la sequenza campionata all istante k in quale intervallo appartiene. Associare al campione x(kt c ) il valore del livello di appartenenza. In questo modo il segnale digitale può assumere solamente L valori distinti. Master "Tecniche per la Multimedialità" 53

54 La quantizzazione Ovviamente quanto più il numero L di livelli è elevato tanto più il segnale quantizzato x q (t) sarà simile al segnale originale x(t). In ogni caso sarà sempre presente un errore pari alla differenza del valore vero del campione ed il valore quantizzato: e q (kt c )=x(kt c )-x q (kt c ). Tale errore viene detto errore o rumore di quantizzazione. L errore di quantizzazione è tanto più piccolo quanto più elevato è il numero di livelli L. Master "Tecniche per la Multimedialità" 54

55 La quantizzazione Vediamo un esempio con L=11 livelli di quantizzazione: La sequenza quantizzata ottenuta è: {,2,2,4,4,4,5,6,9,11,10,8,5, } Master "Tecniche per la Multimedialità" 55

56 La quantizzazione Si capisce intuitivamente che la sequenza quantizzata non coincide completamente con il segnale originale, come si può vedere dalla seguente figura: x q (t) Il processo di quantizzazione è quindi irreversibile. 0 t Master "Tecniche per la Multimedialità" 56

57 La quantizzazione Vista la natura binaria di molte applicazioni pratiche (su PC), solitamente il numero di livelli L è preso come una potenza di 2. Così se utilizzo N bit ottengo L=2 N livelli differenti. Per esempio con N=8 ho L=256, con N=16 ho L=65536, con N=16 ho L= livelli. Si noti che raddoppiando il numero di bit il numero di livelli incrementa molto più del doppio: l andamento è esponenziale. Il numero N di bit da utilizzare per rappresentare L livelli differenti è: N=log 2 L. Master "Tecniche per la Multimedialità" 57

58 La quantizzazione Alcuni esempi: CD Audio: Fc=44100 Hz; N=16 bit (L=65536). PCM telefonico: Fc=8000 Hz; N=8 bit (L=256). Master "Tecniche per la Multimedialità" 58

59 La quantizzazione L insieme di campionatore e quantizzatore permette di passare da un segnale analogico ad uno digitale, e per questo motivo prende il nome di convertitore analogico-digitale o ADC. Il processo inverso, cioè il passaggio da un segnale digitale ad uno analogico, è ottenuto attraverso il convertitore digitale-analogico o DAC. Master "Tecniche per la Multimedialità" 59

60 I segnali aleatori Purtroppo i segnali con cui funzionano i sistemi reali non appartengono alla tipologia di segnali certi, altrimenti non ci fornirebbero nessuna informazione, ma appartengono alla classe dei segnali aleatori. C è un certo grado di non conoscenza dell informazione trasmessa dai segnali reali. Se non conosciamo nulla del segnale, questo viene detto completamente aleatorio. Se conosciamo alcune caratteristiche ed altre no, viene detto ad aleatorietà parametrica (ad esempio di un oscillatore conosciamo l ampiezza del segnale ma non la frequenza, etc.). Per studiare i segnali aleatori è necessaria una breve introduzione sulle nozioni di probabilità e statistica. Master "Tecniche per la Multimedialità" 60

61 La probabilità Intuitivamente la probabilità che un evento E accada, coincide con il numero di casi favorevoli all evento E su tutti i casi possibili. E intuitivo supporre che la probabilità dell evento E coincida con la frequenza con cui questo evento si presenta. Così ad esempio, lanciando in aria una moneta 100 volte, ci aspettiamo che escano 50 teste e 50 croci, da cui una probabilità del 50% di avere ad esempio testa. In ogni caso la probabilità di avere testa si calcola come casi favorevoli ( testa e quindi 1) su casi possibili ( testa o croce e quindi 2) ottenendo quindi una probabilità di ½, cioè del 50%. Master "Tecniche per la Multimedialità" 61

62 La probabilità Matematicamente la probabilità di un evento E è un numero compreso tra 0 ed 1. Inoltre la probabilità dell evento certo vale 1. Così ad esempio la probabilità che lanciando un dado esca un numero minore di 7 (è certo che sia così avendo il dado solo 6 facce) è 1, cioè del 100%. Le variabili che descrivono l evento aleatorio prendono il nome di variabili aleatorie (v.a.). Master "Tecniche per la Multimedialità" 62

63 La probabilità Data la v.a. X, la probabilità che essa assuma valori minori o uguali di x è indicata con Prob{XOx} ed è descritta dalla seguente funzione, detta funzione di ripartizione di probabilità (o cdf): { } = ( ) Prob X x F x La derivata di questa funzione è chiamata funzione di distribuzione di probabilità (o pdf): d px ( x) = FX ( x) dx Da questa funzione posso ricavare: X Master "Tecniche per la Multimedialità" 63 X { } ( ) Prob X x p x dx x =

64 La probabilità Poiché la probabilità dell evento certo vale 1, deve essere che l area al di sotto della pdf sia unitaria, cioè: px ( x) dx = 1 Due concetti molto importanti sono il concetto di media e varianza. La media m X di una v.a. X indica il valore medio della distribuzione, quello che divide la pdf in due parti di peso equivalente, e si calcola come: m E x xp x dx X { } ( ) = = X Master "Tecniche per la Multimedialità" 64

65 La probabilità La varianza σ 2 X di una v.a. X indica lo scarto quadratico medio della distribuzione, cioè mi dice quanto i dati siano dispersi, cioè sparsi, intorno al suo valore medio, e si calcola come: σ 2 X = X X 2 ( ) ( ) x m p x dx La radice quadrata della varianza σ 2 X di una v.a. X, indicata con σ X è detta deviazione standard. La deviazione standard ha un significato analogo alla varianza. Master "Tecniche per la Multimedialità" 65

66 La probabilità Un primo classico esempio di densità di probabilità è la distribuzione uniforme, in cui ogni valore è equiprobabile. 1, - px ( x) = 2A 0, A x A altrove In realtà la distribuzione uniforme può anche non essere simmetrica, ad esempio può estendersi su un intervallo [a,b] qualsiasi. La distribuzione disegnata ha m X =0 e σ 2 X =A 2 /3. Master "Tecniche per la Multimedialità" 66

67 La probabilità Un secondo esempio notissimo è la distribuzione Gaussiana dalla classica forma a campana: 1 p ( ) X x = e 2πσ 2 X ( x m ) 2 2σ Per costruire una distribuzione Gaussiana basta conoscere due parametri, la media m X e la varianza σ 2 X. Si dice che per la Gaussiana è sufficiente la statistica del secondo ordine. X 2 X Master "Tecniche per la Multimedialità" 67

68 La probabilità La distribuzione Gaussiana è molto importante. Infatti molti fenomeni fisici e sociali sono modellati come una distribuzione Gaussiana. Inoltre se ho tanti processi, ognuno con una sua distribuzione di probabilità, il processo somma di questi avrà una distribuzione Gaussiana. Questo risultato è noto come teorema del limite centrale. Già con un numero di processi superiori a 5/6 la distribuzione somma risultante approssima abbastanza bene la gaussiana. Master "Tecniche per la Multimedialità" 68

69 La probabilità Esitono fenomeni aleatori che dipendono da più variabili aleatorie, ad esempio x 1, x 2,, x N. Esiste quindi una funzione di distribuzione di probabilità multi-dimensionale p x (x 1, x 2,, x N ), detta funzione di densità di probabilità congiunta. Le singole p xi (x i ) vengono dette funzioni di densità di probabilità marginali. Master "Tecniche per la Multimedialità" 69

70 La probabilità Due eventi sono detti statisticamente indipendenti, se il verificarsi dell uno non condiziona il verificarsi dell altro. Se più eventi sono statisticamente indipendenti allora la funzione di densità di probabilità congiunta si fattorizza nel prodotto delle funzioni di densità di probabilitàmarginali: p x1, x2,, x = x p x ( ) ( ) N N xk k k = 1 Master "Tecniche per la Multimedialità" 70

71 La probabilità Oltre alla media e alla varianza, esistono tante altre funzioni statistiche chiamate momenti. Per v.a. multi-dimensionali, posso definire i momenti misti, che coinvolgono diverse v.a.. In particolare si definisce il momento misto di ordine 1: 1,1 x1, x2 ( 1, ) = ( x 1, ) m x x x x p x x dx dx Master "Tecniche per la Multimedialità" 71

72 I processi aleatori Si definisce sorgente aleatoria S x un qualsiasi dispositivo fisico che genera un segnale che risulti essere tutto o in parte non noto a priori. Indicato con x(t) un generico segnale aleatorio emesso dalla sorgente aleatoria S x, prende il nome di processo aleatorio X(t) l insieme {x(t)} di tutti i segnali aleatori che a priori la sorgente aleatoria S x può generare. Si definisce realizzazione x(t) del processo aleatorio X(t) ciascun singolo segnale a priori generabile dalla sorgente aleatoria S x. Master "Tecniche per la Multimedialità" 72

73 I processi aleatori Ai processi aleatori si possono applicare tutte le tecniche già apprese per i segnali certi. La descrizione del processo aleatorio è però fatta in modo statistico. La v.a. X 1 ottenuta dal processo aleatorio X(t) al tempo t 1 è detta v.a. estratta dal processo all istante t 1 ed è descritta dalla funzione di densità di probabilità: p x ; t ( ) x1 1 1 Master "Tecniche per la Multimedialità" 73

74 I processi aleatori La v.a. X=(X 1,X 2,,X N ) ottenuta dal processo aleatorio X(t) al tempo t 1, t 2,,t N è detta v.a. n- dimensionale estratta dal processo all istante t 1, t 2,,t N ed è descritta dalla funzione di densità di probabilità: p x, x,, x ; t, t,, t ( ) x 1 2 N 1 2 L insieme di tutte le densità di probabilità del tipo precedente fino ad uno specificato ordine n, si chiama gerarchia di ordine n del processo aleatorio X(t), e descrive completamente il processo. Master "Tecniche per la Multimedialità" 74 N

75 I processi aleatori In questo modo posso definire la media m x (t 1 ) del processo aleatorio X(t): x ( ) ( ; ) = m t x p x t dx 1 1 x Si definisce la varianza σ 2 x(t 1 ) del processo aleatorio X(t): σ 2 2 x ( t1 ) = ( x1 mx ( t1 )) px ( x ) 1 1; t1 dx1 Si definisce momento misto di ordine (1,1) m (1,1) x(t 1,t 2 ) del processo aleatorio X(t): ( 1,1 ) ( ; ) (, ;, ) x = m t t x x p x x t t dx dx x Master "Tecniche per la Multimedialità" 75

76 I processi aleatori Un processo aleatorio X(t) è detto stazionario in senso stretto se ogni sua gerarchia di ordine n risulta invariante rispetto ad una traslazione dell origine dei tempi, cioè: (,,, ;,,, ) = (,,, ; + δ, + δ,, + δ ) p x x x t t t p x x x t t t x 1 2 N 1 2 N x 1 2 N 1 2 N Un processo aleatorio X(t) è detto stazionario in senso lato se la sua media non dipende dall istante temporale di estrazione e il suo momento misto di ordine (1,1) dipende solo dalla differenza dei tempi τ=t 2 -t 1 : ( ) m t m x 1 ( ) (, ) 1,1 1,1 x 1 2 x x ( ) ( ) m t t m τ Master "Tecniche per la Multimedialità" 76

77 I processi aleatori Una realizzazione x(t) di un processo aleatorio X(t) è detta tipica se da essa è calcolabile la gerarchia di ordine n qualsiasi, in qualunque punto e per qualsiasi n-pla di tempi t 1,t 2,,t N. Un processo aleatorio X(t) è detto ergodico, se tutte le realizzazioni sono tipiche. Condizione necessaria (ma non sufficiente) affinché un processo sia ergodico è che esso risulti essere stazionario in senso stretto. Master "Tecniche per la Multimedialità" 77

78 I processi aleatori Se un processo aleatorio X(t) è ergodico allora le medie temporali del primo ordine sono uguali per tutte le realizzazioni x(t) ed inoltre coincidono con le corrispondenti medie d insieme: ( ) x t ( ) m ( 2) P = x t m σ m x x x x Quindi se il processo X(t) è a media nulla, la potenza coincide con la varianza. x Master "Tecniche per la Multimedialità" 78

79 I processi aleatori Analogamente se X(t) è ergodico le medie temporali del secondo ordine (funzioni di auto-correlazione) sono tutte uguali e coincidono con le corrispondenti medie di insieme (momenti misti di ordine (1,1)): R xx ( τ ) m ( 1,1 ) ( τ ) Un risultato notevole è il teorema di Wiener-Khintchine: lo spettro di densità di potenza P x (f) coincide con la trasformata di Fourier del momento misto di ordine (1,1): x ( ) x { ( 1,1 ) ( )} x P f F m τ Master "Tecniche per la Multimedialità" 79

80 I processi aleatori Un processo aleatorio X(t) limitato in banda è detto bianco se lo spettro di densità di potenza è costante all interno di questa banda. Detta quindi B=f 2 -f 1 la larghezza di banda, la potenza del processo X(t) bianco è pari a: P x =2BN. Master "Tecniche per la Multimedialità" 80

81 I processi aleatori Widrow ha dimostrato che il rumore di quantizzazione è ergodico uniforme e bianco, cioè ha una funzione di densità di probabilità uniforme ed uno spettro di densità di potenza costante. La potenza di tale rumore coincide quindi con la varianza del processo che, ponendo q l intervallo tra due livelli adiacenti, vale: σ 2 x=q 2 /12. Master "Tecniche per la Multimedialità" 81

82 I processi aleatori Ad esempio con una dinamica di ±1 Volt, utilizzando N=8 bit, cioè L=256 livelli ed esprimendo il risultato in db, ottengo σ 2 x=(2/256) 2 /12=-53 db Con N=16 bit, cioè L=65536 livelli ottengo σ 2 x=(2/65536) 2 /12=-101 db Master "Tecniche per la Multimedialità" 82