I processi aleatori Ingegneria Clinica A.A

Transcript

1 Universià di Roma Sapienza Corso di Elaborazione di Dai e Segnali Biomedici Facolà di Ingegneria Civile e Indusriale I processi aleaori Ingegneria Clinica A.A Francesco Infarinao, PhD Laboraorio di Bioingegneria della Riabiliazione IRCCS San Raffaele Pisana francesco.infarinao@uniroma.i

2 I processi aleaori La paricolare naura di un fenomeno fisiologico è ale da generare forme d onda diverse, ma, poiché le condizioni dell esperimeno non sono muae, niene induce a rienere che ali forma d onda presenino differeni caraerisiche energeiche. Fenomeni aleaori Realizzazioni Grandezze fisiche

3 I processi aleaori La comprensione del fenomeno ci spinge a sviluppare una eoria maemaica, fondaa sulla Teoria della Probabilià, in grado di cogliere gli aspei energeici, misurai da quei valori medi sul empo, in paricolare componene coninua, poenza e funzione di auocorrelazione, condivisi dalle diverse forme d onda osservabili nel fenomeno aleaorio. Fenomeni aleaori Realizzazioni Grandezze fisiche

4 Definizioni Si consideri un fenomeno aleaorio i cui risulai sono inere forme d onda; con il ermine Processo Aleaorio si riferisce all insieme di ali forme d onda, alrimeni dei membri o realizzazioni del processo aleaorio sesso e può essere indicao come ; ω, mediane una descrizione formale che prevede una coppia di insiemi: T è l insieme degli isani emporali su cui sono definii i membri del processo; Ω è l insieme i cui valori ω idenificano ognuno una paricolare realizzazione del processo. Perano, le isanze effeive ; ω i, con T, sono noe solo dopo la conoscenzadiω i Ω.

5 Definizioni L incerezza, quindi, riguarda quale membro andremo effeivamene a osservare nel momeno in cui eseguiremo l esperimeno di misurazione, a valle del quale chiameremo realizzazione il paricolare membro effeivamene misurao. Il processo aleaorio è quindi definio come l insieme dei segnali {; ω: con Te ω Ω} Quando i membri sono sequenze, il processo aleaorio è definio Serie Aleaoria. È possibile esendere i risulai della Saisica Maemaica ai segnali che hanno dominio discreo. Il Teorema del Campionameno permee l esensione dei risulai ai processi aleaori con membri segnali coninui e limiai in banda.

6 Definizioni Fissao un paricolare isane emporale j, il valore j ; ω è una variabile aleaoria, la cui realizzazione dipende da quella di ω Ω; ; ω p /ω Può essere quindi definia la densià di probabilià p j indipendene da ω in corrispondenza dell isane j in cui è prelevaoilcampione ; ω ; ω i p /ω i

7 Definizioni Per le Serie Aleaorie sarà scela la noazione analoga: {n; ω: conn Ze ω Ω} Talenoazione,unavolaeffeuaoilsoreggiodiLpuniω i ai quali corrispondono le realizzazioni n; ω i, i,..., L, sarà indicaapiùagevolmenecome i [n].

8 Definizioni Valori Medi d Insieme e Valori Medi sul Tempo Segnali di naura paricolare pur avendo forme d onda ra loro differeni, condividono la sessa descrizione energeica.

9 Definizioni Tali valori medi sul empo sono compuabili solo avendo a disposizione la forma analiica dell andameno di almeno una delle varie forma d onda condivideni la sessa descrizione energeica. Lo scopo principale della Teoria dei Processi Aleaori è quello di ovviare all assenza di ale descrizione analiica e giungere alla descrizione energeica araverso una modellizzazione socasica. In queso modello i vari segnali sono visi come il risulao di uno specifico meccanismo aleaorio, la sorgene aleaoria.

10 I processi deerminisici I processi deerminisici, o ad aleaorieà paramerica, sono i processi per i quali si può descrivere compleamene la forma d onda generaa dalla sorgene mediane la conoscenza di un numero finio di parameri. Più in generale, le realizzazioni dei processi deerminisici dipendono da pparameri.ilveoredeiparamerisarà:vv,v,,v p. Ogni realizzazione sarà biunivocamene idenificaa da un puno nello p spazio Ω R L aleaorieà del processo consise nello scegliere in - un puno dell insieme Ω. Su ale insieme verrà definia una funzione di misura per calcolare la probabilià di scela dei suoi elemeni.

11 I processi deerminisici: esempio Il processo armonico Si consideri un segnale A 0 cosπf 0 + φ L ampiezza A 0 e la frequenza f 0 sono assegnae, menre la fase φ è aleaoria. In queso caso, ogni realizzazione è compleamene specificaa mediane la conoscenza della fase. La descrizione probabilisica del processo si raduce nella descrizione probabilisica della fase.

12 I processi deerminisici: esempio Il processo armonico Tui i membri del processo aleaorio armonico così descrio avranno la sessa funzione di correlazione: E quindi la sessa poenza: A queso puno poremmo compleare la descrizione probabilisica espliciando la funzione di densià di probabilià della fase φ.

13 I processi deerminisici: esempio Il processo armonico Poremmo ad esempio supporre che la variabile aleaoria Φ sia coninua e definia in[-π, π e assumere disribuzione di probabilià uniforme. Soo quese ipoesi poremmo descrivere i segueni momeni del I e del II ordine:

14 I processi deerminisici: esempio Il processo armonico Nel caso descrio, l aleaorieà paramerica si limiava alla fase. In un ipoesi più generale i parameri aleaori porebbero esserea 0,f 0 eφ In queso caso si avrà un processo aleaorio deerminisico ; A 0, f 0,φ per il quale ogni realizzazione ; A 0, f 0,φ verràindividuaadaunpunodir 3

15 Processi compleamene aleaori Un processo aleaorio porebbe dipendere da un infinià numerabile o addiriura non numerabile di parameri, l associazione biunivoca ra realizzazioni e puni di Ω in queso caso sarebbe esclusivamene conceuale. In quesi casi si parla di processi compleamene aleaori. È possibile considerare un isane e definire la variabile aleaoria le cui deerminazioni sono parialvalore che le realizzazioniassumononell isane.

16 Processi compleamene aleaori cosiuisce una variabile aleaoria esraa dal processo all isane,caraerizzaadallasuadensiàdiprobabilià: p ; Dipendeneda È possibile quindi considerare una coppia di isani, e le variabilialeaoriealeaorie e esrae,condeerminazioni: e con densià di probabilià congiuna: p, ;,

17 Processi compleamene aleaori Generalizzando: è possibile considerare n isani di empo,,, n e le n variabili aleaorie,,, n esrae, con deerminazioni: i i i,,n e con densià di probabilià congiuna: p,,n,, n ;,, n L insieme delle densià di probabilià congiune fino all ordine n si chiama gerarchia di probabilià di ordine n associaa al processo aleaorio.

18 Processi compleamene aleaori Con gerarchia di probabilià di ordine n di solio ci si riferisce allasoladensiàdiprobabiliàcongiunadelle,,, n Tue le gerarchie di ordine inferiore ad n possono infai essere oenue da quesa per saurazione. Dalle densià di probabilià n-dimensionali è possibile calcolare i valori aesi e, in paricolare, i momeni cenrai e non cenrai.

19 Processi compleamene aleaori Daa una variabile aleaoria n-dimensionale esraa da un processo aleaorio, e daa una funzione di n variabili f,, n, si definisce valore aeso di ale funzione o media diinsiemediordinendellaf,, n,laquanià: R n f,..., p n,... n,..., n ;,..., n d... d n In paricolare, ponendo n, ed f k,si ha il momeno di ordinekdellavariabilealeaoriaesraa chedipendeda m k + k p ; d

20 Processi compleamene aleaori Ilvaloreaesodisioieniponendok: Ponendoinvecenef, k k + ; d p m Si ha il momeno miso di ordine k,k delle variabili aleaorieesrae e cheèfunzionedegliisani e,, ;,, R k k d d p m k k

21 Processi compleamene aleaori Sempre nel caso n, si definiscono i momeni cenrai misi come:,, ;,, R k k d d p m m k k µ Il momeno cenrao miso di ordine, viene deo funzione di covarianza

22 Processi sazionari Quando in un processo aleaorio la gerarchia di probabilià di ordine n qualunque non cambia se si cambia l origine dei empi, allora ale processo è deo sazionario. Le caraerisiche saisiche del processo non cambiano nel empo La sorgene non cambia nel empo le sue caraerisiche

23 Processi sazionari In un processo sazionario, quindi, la densià di probabilià del primo ordine p ; non dipende dall isane scelo. La densià di probabilià congiuna p, ;, non dipende dagli isani e ma solamene dalla loro differenza τ - In generale, la densià di probabilià di ordine n p,,n,, n ;,, n è una funzione delle differenze τ i j+ - j

24 Processi sazionari Viceversa, se le gerarchie di ordine n qualunque dipendono solodalledifferenze j+ - j,allorailprocessoèsazionario. Conseguenza di uo ciò: Ilmomenodiordineknondipendedalempo Per k, abbiamo: Valoreaeso Varianza m m σ σ

25 Processi sazionari Eancora: il momeno miso di ordine k,k e la funzione di covarianza dipendonosolodalladifferenzaτ - m k,k, m k,k τ k, k τ Inolre sono legai dalla relazione k τ m, τ-m

26 Processi sazionari La sazionarieà definia viene soliamene indicaa come sazionarieà in senso sreo. Un processo aleaorio si dice invece sazionario in senso lao quando il momeno del primo ordine è una cosane e il momenomisodiordine,dipendesolodaτ - m m cos m,, m, τ

27 Processi ergodici Se ogni realizzazione è ipica del processo sesso, è possibile parlare di una sooclasse dei processi sazionari: i processi ergodici Si supponga di voler calcolare sperimenalmene la gerarchia del primo ordine di un processo, si considerino quindi m realizzazioni del processo sesso,, m e si esamini il valore assuno da ciascuna variabile aleaoria in corrispondenzadiunisane. Per simare una gerarchia del primo ordine posso calcolare l isogramma relaivo a ali m valori

28 Processi ergodici Nel caso generale porei simare la gerarchia di ordine n considerando l isogramma n-dimensionale oenuo prendendonisani,, n. Al crescere del numero di realizzazioni m, l isogramma approssimerà al meglio la densià di probabilià delle n variabili aleaorie esrae dal processo, ovvero la gerarchia di ordine n del processo.

29 Processi ergodici In modo alernaivo porei non operare su m realizzazioni differeni del processo, ma considerare una sola realizzazione dividendo l asse delle ascisse in m pari; quindi porei allineare emporalmene ali frammeni e considerare ciascuno di essi come una rappresenazione del processo poiché il processo è sazionario allora è lecio. A queso puno si calcola analogamene l isogramma relaivo all n-esima gerarchia di probabilià.

30 Processi ergodici Se, qualunque sia n, al crescere di m l isogramma calcolao su una sola realizzazione ende allo sesso isogramma oenuo su diverse realizzazioni, allora il processo è ergodico. Ogni singola realizzazione coniene in sé ue le caraerisiche di probabilià dell inero processo. Le gerarchie calcolae in orizzonale in base ad una sola realizzazione coincidono con le gerarchie calcolae in vericale su diverse realizzazioni

31 Processi ergodici

32 Processi ergodici Una realizzazione di un processo aleaorio è un segnale cero. Si supponga sia un segnale di poenza. È possibile definire la media emporale del primo ordine f lim d Sefèpossibiledefinireilvalormedio f lim d

33 Processi ergodici Sef èpossibiledefinirelapoenzadi lim d Considerando una funzione f, di due variabili e un segnale di poenza reale, è possibile definire la media emporale del secondo ordine P f, + τ lim f, + τ d

34 Processi ergodici Se f, allora si avrà la definizione della funzione di auocorrelazione del segnale poiché esso è reale + τ lim + τ d p τ In un processo sazionario, ogni realizzazione deve manenere un ipo di andameno sabile nel empo per queso le realizzazioni sono segnali di poenza.

35 Processi ergodici Per i processi ergodici la media di insieme della f risulerà equivalene alla media emporale relaivamene alla funzione f per qualunque realizzazione del processo. Inparicolare,ilvaloreaesodi èpariallamediaemporale di una qualunque realizzazione. Inolre, la media di insieme di è pari alla media emporale di

36 Processi ergodici Dal momeno che: m + p d è sempre >0 e risula infinio in casi paricolari che escludiamo, poiché per un processo sazionario ed ergodico siha: m lim d P Ne consegue che la poenza del segnale è una quanià sreamene maggiore di zero, quindi ogni realizzazione di un processo sazionario ergodico reale è un segnale di poenza.

37 Processi ergodici Analogamene alle gerarchie del primo ordine, per le gerarchie del secondo ordine possiamo scrivere: f, p, ;, d d R, f, + τ lim f, + τ d Ossia, le medie di insieme del secondo ordine sono uguali alle corrispondeni medie emporali del secondo ordine.

38 Processi ergodici Da ques ulima definizione ne consegue che la funzione di auocorrelazione è uguale al momeno miso di ordine,. p τ lim + τ d + τ m, τ Poiché lo spero di densià di poenza è la rasformaa della funzione di auocorrelazione, possiamo enunciare il eorema di Wiener-Khinchin per i processi aleaori ergodici

39 Teorema di Wiener-KhinchinХинчин Losperodidensiàdipoenzadiunprocessoergodicoèpari alla rasformaa di Fourier del momeno miso di ordine, dellevariabilialeaorie e esraedaaleprocesso: p τ In un processo ergodico, sebbene le diverse realizzazioni siano differeni, esse sono caraerizzae dallo sesso valor medio, dalla sessa funzione di auocorrelazione e dallo sesso spero di densià di poenza.

40 Teorema Spero di densià di poenza di un processo S.E. con valore aeso non nullo Dao un processo sazionario ergodico con valore aeso m non nullo, allora lo spero di densià di poenza presena nell origineunimpulsodidiracdiampiezzam La dimosrazione è lasciaa agli sudeni.

41 Processi noevoli Processo armonico Abbiamo già viso il processo armonico così definio: A cosπf 0 + φ L ampiezza A e la frequenza f 0 sono assegnae, menre la fase φ è aleaoriaedècaraerizzaadalladensiàdiprobabiliàp Φ φ È possibile calcolare la gerarchia del primo ordine del processo considerando,variabilealeaoriaesraanell isanediempo. A cosπf 0 + φ fφ; èinfaiunafunzionediφ chedipendeda. Le realizzazioni del processo sono ue le possibili sinusoidi con sessa ampiezzaaefrequenzaf 0 efasediversa.

42 Processi noevoli Processo armonico Definisco per prima cosa la funzione φ inversa: φ g ; -πf 0 ± arccos /A+kπ Poiché in generale: p d y p g y g y dy epoiché: d d g ; A per є[-a,a]

43 Si avrà per є[-a, A]: Processi noevoli Processo armonico ; ; g p A p Φ ϕ ϕ + + Φ Φ A f p A f p A 0 0 arccos arccos π π Poiché la fase è saa definia ra [-π,+π] allora sono sai eliminai i ermini kπ.

44 Processi noevoli Processo armonico La densià di probabilià così definia dipende da e quindi il processo non è sazionario. L unico modo di rendere indipendene la gerarchia del primo ordine da è rendere p Φ φ cosane e quindi p Φ φ/π. In queso caso si avrà per є[-a, A]: p A π + π π A

45 Processi noevoli Processo armonico La circosanza che la fase sia uniformemene disribuia in [-π, +π] rappresena una condizione necessaria affinché la gerarchia del primo ordine sia sazionaria. p π A -A A

46 Processi noevoli Processo armonico Dal grafico si può vedere che i valori prossimi a ±A sono più probabili di quelli prossimi allo zero. Analizzando l andameno grafico di una sinusoide infai si può noare che essa saziona in corrispondenza dei puni di massimo e di minimo menre araversa più bruscamene i puni di zero. L uniformià della fase non è solo necessaria ma anche sufficiene per la sazionarieà della gerarchia del primo ordine.

47 È possibile dimosrare che anche la gerarchia del secondo ordine è sazionaria non dipende dagli isani e ma dalla soladifferenzaτ -. Infai: A cosπf 0 +φ A cosπf 0 +φ+πf 0 τ Processi noevoli Processo armonico A cosπf 0 +φcosπf 0 τ-a sinπf 0 +φsinπf 0 τ cosπf 0 τ-a sinπf 0 +φsinπf 0 τ cos π ϕ π τ 0 0 cosπf 0 τ- A A f + sin f

48 cosπf 0 τ- Processi noevoli Processo armonico A A cos πf + ϕsinπf τ 0 0 A sin πf τ 0 cosπf 0 τ- La èunafunzionechedipendesolameneda edaτ. Poiché esise un legame deerminisico ra e, la densià di probabilià di condizionaa a dipende necessariamene solo dalla differenza τ: noa ed assegnao τ,èpossibilecalcolarela. p ;, p ;τ Inolre, poiché la gerarchia del primo ordine non dipende da, si avrà: p, ;, p ;τ p

49 Processi noevoli Processo armonico p, ;, p ;τ p La densià di probabilià del secondo ordine dipende solo da τ enondaenrambigliisani e Si può procedere analogamene a quano viso per dimosrare che ogni gerarchia di ordine n dipende solo dalle n- differenze j+ - j Queso dimosra che il processo è sazionario. L uniformià della fase in [-π, π] risula condizione necessaria e sufficiene per la sazionarieà del processo armonico

50 Il processo armonico è anche ergodico. Si calcoli il valor medio: Processi noevoli Processo armonico Acosπf 0 + ϕ π A cos πf ϕ p ϕ dϕ 0 + π π Acosπf 0 + ϕ dϕ π π Φ 0 Φ p Φ φ è una recra πe π L inegrale di una funzione periodica pari eseso ad un periodo è nullo

51 Processi noevoli Processo armonico Poiché il processo è ergodico, ogni sua realizzazione è un segnale di poenza. Si calcoli la poenza: P A cos πf 0 + ϕ Φ A π cos πf + ϕ dϕ 0 π π cos α/ +cosα

52 Processi noevoli Processo armonico Poiché il processo è ergodico, ogni sua realizzazione è un segnale di poenza. Si calcoli la poenza: cos α/ +cosα A π + cos4 π f ϕ ϕ 0 + d 4π π A + π 4π π cos4πf 0 + π ϕ dϕ A L inegrale di una funzione periodica pari eseso ad un periodo è nullo

53 τ τ τ ; p + τ ϕ τ π ϕ π ; cos cos 0 0 Φ f A f A Si calcoli la funzione di auocorrelazione per una realizzazione del processo: Processi noevoli Processo armonico ϕ τ π ϕ π cos cos f A f A ϕ ϕ τ π ϕ π π π π d f f A cos cos Formule di Werner: cosαcosβ/ [cosα-β+cosα+β]

54 Processi noevoli Processo armonico Si calcoli la funzione di auocorrelazione per una realizzazione del processo: π A [cos πf 4 π π τ 0 Formule di Werner: cosαcosβ/ [cosα-β+cosα+β] + cosπf 0 + τ + ϕ ] dϕ L inegrale di una funzione periodica pari eseso ad un periodo è nullo π A cos πf τ dϕ 0 4π π A cos τ Risulao già noo per i πf 0 segnali deerminisici!

55 Processi noevoli Processo armonico Applichiamo il eorema di Wiener-Kinchin e ricaviamo lo spero di densià di poenza dalla rasformaa della funzione di auocorrelazione: P A f F cos πf τ 0 A A δ f f 0 + δ 4 4 f + f 0

56 Processi noevoli Processo armonico Si può ricavare facilmene il valore della poenza calcolando l inegrale dello spero di densià di poenza. + A A P P f A Anchelo spero didensiàdipoenzacheèsaodefinioper una realizzazione è comune a ue le realizzazioni del processo grazie all ergodicià del processo sesso.

57 Processi noevoli Processo Gaussiano Un processo aleaorio si dice Gaussiano se la sua gerarchia di ordine n qualunque è cosiuia da una densià di probabilià Gaussiana. La densià di probabilià della variabile aleaoria n- dimensionale,, n esraa dal processo negli n isani,, n èparia: n P π n de K e [ / m T K m In processo aleaorio Gaussiano la gerarchia di ordine n qualunque è idenificaa dal veore dei valori medi e dalla suamaricedellecovarianzak ]

58 Processi noevoli Processo Gaussiano Èsufficieneconoscerelafunzionedivalormedioperogni elafunzionedicovarianzaperogni,. Se il processo è sazionario il valor medio è cosane e la covarianzaèunafunzionechedipenderàsolodaτ -. I processi gaussiani sono uilizzai per modellare segnali aleaori originai come somma di diverse componeni caoiche ad esempio il rumore ermico, per il eorema del limie cenrale infai la combinazione lineare di un gran numero di variabili aleaorie presena una ddp con andameno Gaussiano.

59 Processi noevoli Processo Gaussiano Si supponga un processo Gaussiano sazionario ergodico a valor medio nullo, bianco nella frequenza [-w, +w], con w e varianzaσ noa. Caraerizziamo il processo: Parendo dalla funzione di auocorrelazione: p p τ τ + τ m m, ; τ Quesa espressione risula sempre valida: la funzione di auocorrelazione di un processo aleaorio sazionario ed ergodico è pari alla funzione di covarianza più il quadrao del suo valore aeso. ; τ + m

60 Processi noevoli Processo Gaussiano Dire che il processo è bianco in [-w, +w] significa che il suo spero di densià di poenza è cosane in ale inervallo. PfCrec w f Con C cosane. Posso riscrivere quindi: p τ k τ + m p 0 k0 + m p 0 σ L auocorrelazione nell origine è anche l inegrale dello spero di densià di poenza, quindi:

61 Processi noevoli Processo Gaussiano p 0 σ Poiché PfC rec w fallora: + P f e 0 df C σ σ w È possibile calcolare la funzione di covarianza in queso caso pari alla funzione di auocorrelazione, grazie all anirasformaa dello spero di densià di poenza.

62 Trasformazioni di processi aleaori Due processi aleaori e Y si dicono saisicamene indipendeni quando, comunque si esragga una variabile n- dimensionale e una variabile Y k-dimensionale, quese sono variabili aleaorie saisicamene indipendeni. Le sorgeni che generano i processi non presenano legami saisici Nel seguio verranno prese in considerazione alcune operazioni uili ra processi aleaori.

63 Trasformazioni di processi aleaori Somma di processi aleaori Dai due processi aleaori e Y, si consideri, per ogni coppia di realizzazioni e y, il segnale z oenuo dalla loro somma. Il segnale z così definio può essere rienua una realizzazione di un nuovo processo Z somma dei processi di parenza. Se i processi e Y sono sazionari ed ergodici allora anche Z lo sarà.

64 Trasformazioni di processi aleaori Somma di processi aleaori Poiché Z è ergodico, la sua media emporale coinciderà col valore aeso: Z z z Y y + Y y y + + Poiché anche e Y sono ergodigi

65 Trasformazioni di processi aleaori Somma di processi aleaori La poenza di Z sarà quindi: P z P + Py + y Se i processi hanno valor medio nullo, allora la poenza del processo somma è la somma delle poenze dei processi.

66 Trasformazioni di processi aleaori Somma di processi aleaori Analogamene si può dimosrare, enendo cono dell ergodicià e dell incorrelazione, la funzione di auocorrelazione: p zz τ p τ + pyy τ + y Per τ0 si oiene di nuovo la poenza di Z, se i valori aesi dei processi sono nulli, si oiene di nuovo: p τ τ τ zz p + pyy

67 Trasformazioni di processi aleaori Somma di processi aleaori Trasformando l auocorrelazione si oiene lo spero di densià di poenza: f y f P f P f P δ + + f y f P f P f P y z δ + +

68 Trasformazioni di processi aleaori Prodoo di processi aleaori Dai due processi aleaori e Y, si consideri, per ogni coppia di realizzazioni e y, il segnale z oenuo dal loro prodoo. Il segnale z così definio può essere rienua una realizzazione di un nuovo processo Z prodoo dei processi di parenza. Se i processi e Y sono sazionari ed ergodici allora anche Z lo sarà.

69 Trasformazioni di processi aleaori Prodoo di processi aleaori Poiché Z è ergodico, la sua media emporale coinciderà col valore aeso: z z Z y Y y y Y Poiché anche e Y sono ergodigi

70 Trasformazioni di processi aleaori Prodoo di processi aleaori Analogamene a quano viso per la somma di processi si avrà: P z P P y p zz τ p τ τ pyy P f P f * Py f z