UN INTRODUZIONE ALL INFERENZA SU PROCESSI STOCASTICI

Transcript

1 UN INTRODUZIONE ALL INFERENZA SU PROCESSI STOCASTICI Il piu semplice problema (saico) di ifereza saisica paramerica e quello i cui la disribuzioe di probabilia comue a ui i umeri aleaori (a) osservabili (),, dipede da u paramero o oo Θ di cui si cerca ua valuazioe umerica approssimaa (sima) sulla base dei valori di u umero prefissao di osservazioi (o misurazioi) () x(),,, I alri ermii, per il paramero icogio Θ si cerca uo simaore S dipedee dai a (),, () che goda di buoe propriea Ovviamee quese ulime devoo garaire che la probabilia di rilevai errori di sima Θ - S sia opporuamee piccola E oo che ale obieivo viee perseguio i vari modi ai quali corrispodoo vari procedimei o meodi di sima puuale; i piu usai soo il meodo di massima verosimigliaza, il meodo dei momei, il meodo di miima variaza, Quado il paramero icogio Θ varia co, cioe quado esso cosiuisce u processo socasico {Θ(), }, il problema ifereziale assume u caraere diamico: per ogi, si raa di rovare uo simaore S() ξ[(),(),,()] per il a Θ() che abbia buoe propriea el seso azideo La forma fuzioale ξ[,,,] dello simaore dipede, ovviamee, dal meodo di sima adoao Nel problema diamico di sima che abbiamo ora irodoo compaioo due processi socasici: l isieme di variabili osservabili, o processo di osservazioe, {() ; } e l isieme dei parameri icogii, o processo delle variabili di sao, {Θ() ; } La maggiore o miore complessia del problema di sima dipede auralmee dalle caraerisiche dei due processi socasici e dal ipo di relazioe sussisee ra essi Per u semplice esempio di problema ifereziale diamico si pesi che () rappresei il umero aleaorio di chiamae elefoiche su ua daa liea el periodo -esimo, co riferimeo ad ua sequeza di periodi della sessa duraa (per esempio oraria) La disribuzioe di probabilia [ Θ ( )] Θ ( ) comue a ue le variabili osservabili () sia di ipo poissoiao P{ ( ) } e, ove! Θ() e l iesia o oa delle chiamae el -esimo periodo, cioe il umero medio di chiamae i quel periodo Il problema di ifereza saisica i queso caso cosise ella sima delle iesia Θ(), per ogi, sulla base delle osservazioi dei valori di (),,(), fissae che siao le caraerisiche dei due processi {()} e {Θ()} Da quao abbiamo deo fiora si iuisce la ceralia della ozioe di processo socasico: preseeremo quidi sommariamee ale ozioe e descriveremo alcue pricipali ipologie di processi La ozioe di processo socasico Dal puo di visa maemaico, fissao uo spazio di probabilià (Ω,A,P), u processo socasico deve essere cosiderao ua fuzioe di due variabili, ( ω, ), ω Ω, T, ale che: ) per ogi fissao valore di, i T, (,') è u umero aleaorio, cioè ua fuzioe reale, A-misurabile, defiia i Ω, co fuzioe di riparizioe F ' ( x) P{ ' (, x]} ; ) per ogi fissao valore ω di ω, i Ω, (ω ',) è ua fuzioe deermiisica defiia i T e deomiaa "raieoria" o "realizzazioe" del processo () Da qui ascoo le due ierpreazioi del processo socasico quale "famiglia di umeri aleaori", secodo la ), e quale "fuzioe aleaoria", secodo la ) Come per u umero aleaorio, ache per u processo socasico si possoo idividuare più (i eoria ifiii) livelli di coosceza o di specificazioe: quello massimale compora la coosceza

2 della "legge emporale", cioè della oalià delle fuzioi di riparizioe cogiue di dimesioe fiia F,,, ( x, x,, x ),, T per ogi Per i processi a paramero discreo i cui T Z + (cioè per le sequeze illimiae { ; } di umeri aleaori), ale famiglia di disribuzioi può essere sosiuia dalla più semplice successioe F x ), F ( x, x ), F ( x, x, ), che soddisfi la seguee codizioe di (,,,3 x3 coereza: Teorema di ANKolmogorov: codizioe ecessaria e sufficiee affichè ale successioe di fuzioi di riparizioe cosiuisca la legge emporale di u processo socasico a paramero discreo è che ogi elemeo della successioe sia implicao dai successivi come loro disribuzioe margiale e che implichi i precedei come sue disribuzioi margiali U livello di coosceza iferiore al precedee e molo usao elle applicazioi è quello che compora la coosceza dei soli momei del primo e secodo ordie dei umeri aleaori, e cioè delle speraze maemaiche, delle variaze e delle covariaze Si defiiscoo per il processo { ; } le due fuzioi: la fuzioe valor medio ϕ() E( ) e la fuzioe di covariaza ψ(s,) Cov ( s, ) ; ques'ulima soddisfa le seguei proprieà geerali: ) ψ(,) Var( ) 0, ; ) ψ(s,) [ψ (s,s) ψ (,) ] / ; 3) ψ(s,) ψ(,s) ; N 4) a a ψ(s,) 0; N, a R N s, s Le pricipali caegorie di processi socasici soo i processi markoviai, quelli sazioari ed i processi marigala; i fodamei eorici di ali processi soo sai posi egli ai vei e rea del secolo veesimo I coribui pricipali soo dovui a PLèvy, ANKolmogorov, AKhichie, WFeller, B de Fiei, HCramèr, HWold, JLDoob e alri + La osra esposizioe riguardera soprauo i processi a paramero discreo { ; Z } ache se, occasioalmee, parleremo di alcui processi a paramero coiuo { ( ), R }; a queso puo iroduciamo sieicamee le defiizioi dei re ipi di processi suddei quado il paramero + operaivo assume valori i Z : α) il processo { ; Z + } e markoviao se per ogi scela dell iero e della sequeza < < < risula F ( x / x,, x ) F ( x / x ) β) il processo { ( ) ;,,, risula (,,, ) + iero ale che ogi + h Z ; Z + ; } e sazioario se per ogi scela dell iero e della sequeza F x x x F ( x h, x h,, x h ) + + +, ove h e u qualuque + γ) il processo { ; Z } e ua marigala se per ogi iero posiivo risula E[ ] < E( /,, ) e

3 Processi socasici del secodo ordie Comiciado co i processi socasici a paramero discreo{ ; 0,,,} è ua sequeza aleaoria del secodo ordie se i umeri aleaori che la cosiuiscoo hao momei secodi fiii; formalmee: E( ) <, La oalià dei a di queso ipo defiii i uo spazio di probabilià ( Ω, A, P) si idica co H L ( Ω, A, P) e ale isieme cosiuisce uo spazio di Hilber co fuzioe prodoo iero, E( ) e orma E diremo che { }, ( ) ; si defiiscoo ache la disaza ra due elemei di H come d(, ) e l orogoalià,, ra due elemei di H che è verificaa se e solo se, 0 Spesso per semplicià si cosidera aziché H, lo spazio di Hilber H 0 dei a defiii i ( Ω, A, P), doai di momeo secodo fiio e avei valor medio ullo: i queso caso è, Cov(, ), Var( ), d(, ) Var( ) e ifie Cov(, ) 0 Suppoiamo che i a della sequeza { ; 0,,,} siao elemei di H 0 : diremo che essi covergoo i orma al a H0 se d(, ) 0 per ; poiché è d(, ) E( ) si ha che la covergeza i orma coicide co la covergeza i media quadraica q m Le defiizioi suddee si applicao allo sesso modo a processi socasici a paramero coiuo { ( ); T R} dei ache fuzioi aleaorie Per quesi processi esise u calcolo differeziale i media quadraica basao sulle ozioi di covergeza, coiuià, derivabilià e iegrabilià i media quadraica: - covergeza ad per τ : lim E[ ( ) ] 0 ; - coiuià per τ : lim E[ ( ) ( τ )] 0 ; Z '( ), lim E ( + h) ( ) Z 0 per h 0 ; h - derivabilià i : [ ] b Z ( ) d, lim E ( ) Z 0 i 0 - iegrabilià su (a,b) : i [ i + i ] per [ i i ] a max + 0 i corrispodeza ad ua sequeza di parizioi P sempre più fii di (a,b), i ove P ( a b) 0 < < < Ogua delle suddee proprieà della fuzioe aleaoria { ( ); T R} è ricollegabile a opporue proprieà della fuzioe di covariaza ψ ( s, ) Cov(, ) del processo; per esempio, si s ha la covergeza ad per τ se e solo se lim ψ ( s, ) per s, τ ; si ha la coiuià per τ se e solo se ψ ( s, ) è coiua i (τ, τ) e così via Riviamo il leore ieressao ad approfodire l argomeo, per esempio, al eso di J Lamperi Sochasic Processes (Spriger Verlag, 977) oppure al mauale di M Loeve Probabiliy Theory (Spriger-Verlag, 977) 3

4 Per qualche semplice esempio i proposio si cosiderio i seguei casi ove A e A soo due umeri aleaori: se ( ) A è '( ) A ; se ( ) ( ) A si ha '( ) A ; se Z( ) '( ) A si ha Z( s) ds A ; se 0 W ( ) si A + cos A si ha W '( ) A cos A A si A Iviiamo il leore ad essere cauo sull evidee aalogia dei suddei risulai co le regole be oe cocerei la derivazioe e l iegrazioe di fuzioi deermiisiche; oguo dei risulai euciai adrebbe dimosrao sulla base delle defiizioi del calcolo i media quadraica Si è già deo che i ipi pricipali di processi socasici soo quelli sazioari, markoviai e marigale: esisoo versioi aaloghe di quese codizioi per i processi del secodo ordie: - si parla di sazioarieà del secodo ordie quado la fuzioe valor medio ϕ ( ) è cosae e quado la fuzioe di covariaza ψ ( s, ) dipede solao dalla differeza s degli argomei; - si parla di markoviaià del secodo ordie quado per ogi e ogi a dipedee dai a { ;, +,} si ha E ( /,,, ) E ( / ), ove E ( / ) è l approssimaore oimale dei miimi quadrai per i ermii di ; - si parla di marigalià del secodo ordie se sussisoo per ogi le codizioi E( /,,, ) Ovviamee E ( /,, ) idica l approssimaore oimale dei miimi quadrai per i ermii di,, I processi socasici del secodo ordie soo spesso impiegai elle applicazioi i quao la loro specificazioe riguarda solao i momei del primo e secodo ordie, e cioè valori medi, variaze e covariaze, seza chiamare i causa i momei di ordie superiore al secodo o addiriura le disribuzioi di probabilià cogiue fiie-dimesioali Ad esempio, l Aalisi delle serie emporali (o soriche), disciplia saisica molo usaa sia elle Scieze aurali che i quelle sociali, usa modelli lieari ei quali sia l ipu che l oupu soo cosiuii da processi (a paramero discreo) del secodo ordie Più precisamee, i modelli maemaici usai soo equazioi alle differeze fiie lieari e socasiche a Z + b Z p i i i q ove il processo ipu { Z; 0} specificao dalle fuzioi valor medio ϕ ( ) e di covariaza ψ ( s, ) Ovviamee la soluzioe dell equazioe, e cioè il processo { ; 0} quella di { ; 0} Alcui esempi Z Z, o può avere ua specificazioe più deagliaa di Z : risulerao quidi deermiae le sole due fuzioi ϕ ( ) e ψ ( s, ) ) Processo di rumore biaco (whie oise): si raa di u processo a paramero discreo cosiuio da a equi (co valor medio zero), avei ua medesima variazaσ e muuamee o correlai; viee soliamee idicao co WN(0, σ ) ) Processo di passeggiaa aleaoria (radom walk): si raa di u processo defiio dalla equazioe alle differeze + ε ; ε WN(0, σ ); 0 ε 0 è 4

5 3) Processo auoregressivo del primo ordie o AR(): a + ε ; ε WN(0, σ ε ); Cov(, ε ) 0; ( m, σ ) Cei sui processi markoviai La codizioe di dipedeza markoviaa è saa irodoa da A Markov el 906, ma furoo ANKolmogorov el 93 e, più ardi, WFeller ad imposare rigorosamee la eoria dei processi socasici markoviai Nel seguio disigueremo il caso di umeri aleaori co u isieme discreo di valori possibili (dei ache sai ) da quello di a co u isieme coiuo di valori e i processi a empo discreo da quelli a empo coiuo Fissai arbirariamee valori < < < del paramero operaivo la codizioe di dipedeza markoviaa è espressa dalla F ( x / x,, x ) F ( x / x ) o dalla corrispodee uguagliaza ra le desià di probabilià se quese esisoo Quesa codizioe ha la seguee oevole implicazioe per le disribuzioi cogiue che supporremo doae di desià: (,, ) ( /,, ) (,, ) f ( x / ) (,, ) x f x x f x x f x x x f x x f ( x ) f ( x / ) x, il chè sigifica che le disribuzioi cogiue del processo markoviao soo deermiae dalle disribuzioi uivariae margiali e dalle disribuzioi uivariae codizioali Ua secoda oevole implicazioe è la seguee: se si suppoe che sia s < τ < si ha ( / ) (, / ) ( /, ) ( / ) ( / ) ( / ), f x x f x x x dx f x x x f x x dx f x x f x x dx s τ s τ τ s τ s τ τ τ s τ R R R e ale relazioe cosiuisce ua codizioe di coereza per le disribuzioi uivariae codizioali, f x / x oa i leeraura come codizioe di Chapma Kolmogorov Le desià codizioae ( ) soo dee desià di rasizioe dallo sao x s allo sao x a) Caee di Markov omogeee co u umero fiio di sai Il ipo più semplice di processo markoviao è deomiao caea markoviaa omogeea ed è cosiuio da ua successioe di a { ; 0}, avei ciascuo lo sesso isieme fiio di N valori possibili, caraerizzaa per ogi 0 dalla codizioe di dipedeza markoviaa omogeea: Prob{ + / ( 0 a) ( b) ( i)} Prob{ + / i} p i (), Se le probabilià subordiae p i (), dee di rasizioe dallo sao i allo sao, o dipedoo dall idice allora si parla di dipedeza markoviaa omogeea Si verifica facilmee che i al caso la sruura probabilisica del processo è uivocamee deermiaa dalla marice N N delle probabilià subordiae P [p i ] e dalla disribuzioe del a 0, dea disribuzioe iiziale Ovviamee, la somma degli elemei di ogi riga di P è uguale a (marice socasica ) s 5

6 Idicaa co il veore riga a(0) la disribuzioe di 0, quella a() del a è daa dal prodoo a() a(0) P e, i geerale, quella di da a() a(0) P a(-) P L elemeo geerico della marice P (), p i, è deo probabilià subordiaa di rasizioe da i a i passi e soddisfa, come si prova facilmee, la codizioe di Chapma Kolmogorov: p ( ) i N h p ( m) ih ( m) h p, per ogi iero posiivo m < Ua caea markoviaa è dea regolare se esise u iero 0 ale che per ogi > 0 ui gli elemei di P risulao posiivi; per le caee regolari sussise il seguee imporae risulao: Teorema di Markov: la marice P coverge, al divergere di, ad ua marice U co elemei posiivi, cioè risula p u > 0 per ogi i; le righe di U quidi soo ue uguali e la somma () i degli elemei di riga è uiaria Idicaa co u la geerica riga di U, è u P u, per cui u è dea disribuzioe sazioaria Alcui esempi Si cosideri iaziuo il seguee schema geerale di esrazioi ripeue da u ura coeee iizialmee b pallie biache ed r pallie rosse: si sceglie a caso ua pallia dall ura e, assieme ad essa, si immeoo ell ura c pallie dello sesso colore di quella esraa e d pallie di colore opposo; dopo la prima esrazioe ell ura ci soo quidi b+r+c+d pallie Si effeua ua secoda esrazioe casuale co la sessa procedura e così via: i geerale la composizioe dell ura varia colpo per colpo Alcui modelli paricolari soo i seguei: a) c d 0 (esrazioi ripeue co reimbussolameo della pallia esraa); b) c -, d 0 (esrazioi ripeue seza reimbussolameo); c) c > 0, d 0 (ura di Pòlya modelli di coagio posiivo); d) c -, d (ura di Ehrefes) L ulimo modello realizza ua caea di Markov el seso che le variabili aleaorie che coao il umero di pallie biache ell ura dopo le prime esrazioi cosiuiscoo ua caea di Markov caraerizzaa dalle probabilià subordiae di rasizioe p i,i+ (b+r-i) / (b+r), p i,i- i / (b+r) e p i, 0 se è diverso da i+ e i- E facile cosruire la corrispodee marice P se si iee presee che il umero degli sai è N b+r+ Si verifica facilmee che le variabili el modello dell ura di Pòlya cosiuiscoo acora ua caea di Markov, mere ivece le variabili (idicaori di evei) che assumoo i valori e 0 a secoda che dall ura di Pòlya sia esraa, al colpo -mo, ua pallia biaca o rossa o verificao la codizioe di dipedeza markoviaa, ma cosiuiscoo u processo sazioario scambiabile Ifie, le variabili Z che deoao le proporzioi di pallie biache dopo esrazioi dall ura di Pòlya cosiuiscoo u processo marigala U esempio di caea di Markov co u ifiià umerabile di sai (e precisamee l isieme degli ieri o egaivi) è cosiuio dal processo di passeggiaa aleaoria + E, 0 0, ove gli evei,, E soo assui idipedei e ugualmee probabili co P( E ) b) Processi a empo coiuo co u isieme discreo di sai { s i } p 6

7 I quesi processi le probabilià di rasizioe i u iervallo di empo di ampiezza dallo sao s i allo sao s, P ( + τ ) s / ( τ ) s i, soo idicae co pi ( ),per ogi τ, e soddisfao le seguei codizioi: p ( ) 0; p ( ), ; p ( + τ ) p ( ) p ( τ ) i i i ih h h Se il umero di sai è fiio, l ulima codizioe (le relazioi di Chapma Kolmogorov) può essere espressa dalla P( + τ ) P( ) P( τ ), ove P( ) p ( ), assumedo che sia P(0) I Il eorema di Markov sabilisce ora che l ipoesi pi ( ) > 0, per ogi i,,, implica l esiseza di ua marice U ale che U lim P( ) e U P( ) U Come el caso precedee e sempre ell ipoesi che gli sai siao fiii, idicaa co il veore riga a (0) la disribuzioe di (0) è: Esempio: il processo di Poisso a( ) a(0) P( ) a(0) P( τ ) P( τ ) a( τ ) P( τ ) L isieme degli sai è ora l isieme degli ieri o egaivi e le variabili del processo, N(), coao il umero di evei (di u ipo fissao) che si verificao ell iervallo di empo [0, ] Si assume N(0) 0 e che gli icremei del processo N() N(s) siao socasicamee idipedei e omogeei (o sazioari): ciò sigifica che se è < 3 < 4 gli icremei i N( ) N( ) e 4 3 N( ) N( ) soo idipedei e che N ( ) N ( s ) e N ( + τ ) N ( s + τ ) soo ugualmee disribuii qualuque sia τ Soo ipoesi o molo resriive risula che { } λ P N( ) e ( λ ) /! ove λ > 0 è l uico paramero della disribuzioe; esso è deo iesià del processo degli arrivi e rappresea il umero medio di evei ell iervallo di empo uiario Si calcola facilmee che è E N( ) Var N( ) λ [ ] [ ] Idicao co T i il empo di aesa ra l (i-)-esimo e l i-esimo eveo, si prova che ali a soo idipedei e ugualmee disribuii co desià di probabilià espoeziale egaiva f ( ) λ e λ E evidee che { N } { T } { T } ( ) + > Semplici geeralizzazioi del processo di Poisso iroducoo ai processi di puro igresso (facedo dipedere l iesià λ dallo sao raggiuo) e ai processi di igresso e uscia, o di ascia e more, (iroducedo olre alle iesià di igresso λ ache iesià di uscia µ ) Si veda i proposio, per esempio, il capiolo VII del primo volume di A iroducio o probabiliy heory ad is applicaios di WFeller Se si geeralizzao uleriormee i processi markoviai, elimiado l ipoesi di omogeeià el empo, le probabilià di rasizioe da i a i u iervallo di empo (s,) o dipedoo più dalla sola ampiezza dell iervallo -s, ma da erambi gli esremi s e e quidi dovrao essere idicae col simbolo P i (s,) Esse verificao le codizioi P i (s,) 0, P i (s,) e le relazioi di Chapma Kolmogorov: P i (s,) h P ih (s,τ) P h (τ,), s < τ < 7

8 c) Processi a empo discreo e spazio degli sai coiuo Assumeremo che lo spazio degli sai sia R, ma gli sviluppi formali che seguoo o varierebbero se esso fosse u arbirario spazio caresiao, per esempio R Nel caso di u processo markoviao a paramero discreo le probabilià di rasizioe soo espresse da ua fuzioe (sochasic kerel) K(x,S) Prob { + S / x} di due argomei, x R ed S R; fissao x, K(x, ) è ua probabilià sui sooisiemi boreliai di R, mere fissao S, K(,S) è ua fuzioe di Baire i R Frequeemee elle applicazioi è K(x,S) k(x,y) dy e la fuzioe k(x,y) (sochasic S desiy kerel) è defiia i R Le relazioi di Chapma Kolmogorov per le fuzioi K e k soo rispeivamee: K (m+) (x,s) K (m) (x,dy) K () (y,s) e k (m+) (x,y) k (m) (x,z) k () (z,y) dz R R Poedo m e facedo crescere si oiee ua defiizioe ricorsiva di ( ) ( ) K ( x, S) e k ( x, y ) ; per esempio si hao le k () ( x, y) k( x, z) k( z, y) dz, U esempio: sia k(x,y) λ y λ- / x λ, per 0 < y < x ; si ha facilmee R (3) () k ( x, y) k( x, z) k ( z, y) dz e così via R ed iolre, se S [a, b] è k () λ (x,y) y λ [ log( x / y) ] Γ ( ) x λ K( x, [a,b] ) b a k(x,y) dy ( b λ - a λ ) / x λ d)processi a empo coiuo e spazio degli sai coiuo Per u processo markoviao omogeeo a paramero coiuo deoeremo co Q (x,s) le probabilià di rasizioe Q (x,s) Prob { (+τ) S / (τ) x}, τ Esse soddisfao le codizioi Q (x,s) 0, Q (x,r) e le relazioi di Chapma Kolmogorov : Q (x,s) R Q -τ (x,dy) Q τ (y,s), 0 < τ < U primo esempio molo imporae è cosiuio dal processo di Poisso composo Si raa di u processo markoviao a paramero coiuo molo usao elle applicazioi la cui ierpreazioe è ipicamee la seguee: si pesi ad u a N() di evei (o arrivi) osservabili el periodo di empo [0, ] a ciascuo dei quali sia associao u effeo aleaorio e ieressi cooscere la disribuzioe dell effeo complessivo S() N ( ) 0 Se idichiamo co {p ; 0} la disribuzioe di probabilià di N() e co F (y) la fuzioe di riparizioe (fdr) comue ai a che assumiamo essere ache muuamee idipedei si ha che la disribuzioe di alla: N ( ) 0 ha fdr daa 8

9 Prob {S() x} 0 P [ N( ) ] P[ S( ) x / N ] ove il simbolo F (x) idica la fdr della disribuzioe della somma 0 0 p F ( x), di addedi (poiché per ipoesi è 0 0 ) iid Il ome di processo di Poisso composo è appropriao se la disribuzioe {p ; 0} è poissoiaa co paramero λ Il caraere markoviao di {S()} si dimosra facilmee osservado che se 0 < < < < e poso N(+τ) N() N τ si ha: i Prob{S(+τ) k / [ [ S( ) ] i i ] [S() ]} Prob{ N τ h h k } Prob{S(+τ) k /S() } Può essere uile riporare l espressioe della fuzioe caraerisica del processo S(); si dimosra che è: Φ ( ) exp ( ) { [ ( ) S ξ λ Φ ξ ]}, ove Φ ( ξ ) idica la fuzioe caraerisica della disribuzioe di probabilià dei a Nel seguio, del suddeo processo a paramero coiuo {S()} cosidereremo gli icremei relaivi ad iervalli uiari di empo S() S(-),,,, defiii dalle N 0 N N() N(-) è l icremeo del processo poissoiao di arrivi {N() ; 0} e ove, che idica l effeo associao al -mo arrivo ell iervallo uiario -esimo di empo, è l elemeo geerico del processo degli effei { ; } Soliamee si assume che i a N siao idipedei dagli e che la comue disribuzioe degli sia di ipo Gamma; per semplicià oi assumeremo Gamma (, β), cioè supporremo che ogi abbia ua desià di probabilià di ipo espoeziale egaivo, f(y) βexp(-βy), per cui la covoluzioe -ma è ua desià di ipo Gamma (, β) Si ha allora:, ove F (x) 0 λ x p F ( x) e λ β z z e β Γ! ( ) 0 0 dz, ed ache f (x) 0 β x Γ ( ) e λ λ β x! e Si ricavao, per i primi due momei di, i risulai : E( ) E(N )E( ) λ / β, E( ) E(N )Var( ) + E(N ) E ( ) λ(λ+) / β, dai quali si oiee immediaamee Var ( ) λ / β Ci limiiamo ad acceare che il processo di Poisso composo ha ache ua oevole imporaza eorica, olre che applicaiva Si dimosra, per esempio, che la più geerale disribuzioe ifiiamee divisibile è rappreseabile come limie di u appropriaa sequeza di disribuzioi di Poisso composo, Q (x) 0 ( α ) exp( α ) F! ( x) Ricordiamo che ua disribuzioe di probabilià F(x) è ifiiamee divisibile se, idicaa co ϕ(ξ) la corrispodee fuzioe caraerisica, quesa può essere rappreseaa, per ogi, come poeza -ma di ua fuzioe caraerisica φ (ξ), cioè se ϕ(ξ) [φ (ξ)] Alcui esempi di disribuzioi ifiiamee divisibili soo cosiuii dalle disribuzioi 9

10 - di Poisso co ϕ(ξ) exp[λ(e iξ - )] e φ (ξ) exp[λ(e iξ - )/], - dalla disribuzioe ormale co ϕ(ξ) exp (iξµ - σ ξ /) e φ (ξ) exp [(iξµ - σ ξ /)/], ξ - dalla disribuzioe Gamma co ϕ(ξ) i iξ β e φ (ξ) β, - dalla disribuzioe di Poisso composo co ϕ (ξ) exp{λ[ϕ (ξ) ]} e φ (ξ) exp{λ[ϕ (ξ) ]/} α α / U alro esempio imporae è cosiuio dal processo pseudo poissoiao {(); 0 } caraerizzao dalle fuzioi di rasizioe Q (x,s) α e ( α ) ( ) K ( x, S), 0! ove K(x,S) è ua fissaa probabilià di rasizioe di ua caea markoviaa {Z ; 0} ed {N()} è u processo di Poisso co a N() idipedei dai a Z ; è allora () Z N() Se K(x,S) λ λ λ y x dy si prova che la corrispodee probabilià di rasizioe Q (x,s) ha S α λ e α λ y desià espressa dalla q (x,y) I( α λ log( x / y) ) λ, ove k + I ( z) ( z / ) è x log( x / y) k! Γ ( k + ) k 0 la fuzioe di Bessel di ordie, per 0 < y < x ed ua massa coceraa pari a e -λ i y 0 Chiaramee, u caso paricolare del processo pseudo-poissoiao è cosiuio dal processo di Poisso composo se le variabili Z della caea markoviaa soo somme di a idipedei e ideicamee disribuii Cei sui processi co icremei sazioari e idipedei I più semplici processi socasici di queso ipo, a paramero discreo, soo quelli deomiai processi di passeggiaa aleaoria e defiii dalle S k k,, ove i a k soo idipedei e ugualmee disribuii (brevemee iid); per compleezza si poe S 0 0 Equivaleemee, il processo {S } può essere defiio dalle S 0 0, S S - +, Si raa, ovviamee, di processi markoviai e, più precisamee, di caee markoviae Per u primo esempio si assuma k E k, co evei E k idipedei e ugualmee probabili (processo beroulliao); i al caso S è la frequeza di successo su evei associaa a { k } e per il processo {S k } si hao i be oi risulai a) Teorema di Beroulli : p - lim [S /] P(E ) ; S P( E ) d b) Teorema di de Moivre Laplace : N(0; ) P( E )[ P( E )] Se, più i geerale, i a k, o ecessariamee idicaori di evei, hao valor medio E( k ) µ e variaza Var ( k ) σ fiii sussisoo i seguei eoremi che geeralizzao i risulai precedei: c) Legge debole dei gradi umeri: p lim [S /] µ ; 0

11 S d µ d) Teorema cerale limie: N(0; ) σ Per quao cocere i momei fio al secodo ordie del processo {S k } si ha che la fuzioe valor medio ϕ S () E(S ) µ è crescee co e che la fuzioe di covariaza è daa dalla ψ S (m,) Cov (S m, S ) mi (m σ, σ ) Gli icremei del processo {S k } soo dai dai a S S - per > e S S 0 S : come si è già assuo, essi soo iid Il processo i cui k E k co puo iiziale l origie e P(E k ) p, k, può descriversi come ua caea di Markov co u ifiià umerabile di sai (i umeri ieri, posiivi ulli e egaivi) e marice di rasizioe co elemei ui ulli salvo per p,+ p e p,- -p, U processo a paramero coiuo {S(); R} ha icremei idipedei e sazioari se, cosideraa u arbiraria parizioe dell iervallo [s, s + ], s 0 < < < s +, gli icremei S( k ) S( k- ), k,,, soo muuamee idipedei e la loro disribuzioe dipede solao dalle differeze k k- Si suppoga ora che gli iervalli [ k k- ] abbiao la medesima lughezza di modo che gli icremei k S( k ) S( k- ) siao ugualmee disribuii: dalla S(s + ) S(s) k k discede che la disribuzioe di S(s + ) S(s) è uguale alla covoluzioe -ma della comue disribuzioe dei k Poiché il umero degli iervalli [ k k- ] è arbirario, l icremeo S(s + ) S(s) ha ecessariamee ua disribuzioe ifiiamee divisibile Riprededo quao già deo, u a Z, la sua fuzioe di riparizioe F Z (z) e la sua fuzioe iuz caraerisica Ф(u) E[exp(iuZ)] e dfz ( z) R * esisoo a η, η,, η iid ali che F ( z) F ( z) soo ifiiamee divisibili se per ogi Z η, oppure Ф Z (u) [Ф η (u)] Alcue disribuzioi ifiiamee divisibili (if div) soo la ormale, la gamma e la disribuzioe di Cauchy ra quelle coiue e la biomiale egaiva (e quidi la geomerica), la disribuzioe di Poisso e quella di Poisso composo ra quelle discree La caraerizzazioe delle disribuzioi if div è saa oeua ei primi ai 30 araverso il lavoro di B de Fiei, AN Kolmogorov, P Lèvy e, più ardi, di W Feller e A Khichie Di fodameale imporaza è il seguee risulao Teorema: sia {Ф (u); } ua successioe di fuzioi caraerisiche; codizioe ecessaria e sufficiee affichè esisa ua fuzioe limie coiua Ф(u) lim [Ф (u)] è che esisa, coiua, la fuzioe limie lim [Ф (u) ] χ(u) e i al caso si ha Ф(u) exp{- χ(u)} Ricordado che exp{ [Ф (u) ] } è la fuzioe caraerisica della disribuzioe di Poisso composo co iesià e fuzioe caraerisica della disribuzioe degli effei Ф (u), il eorema afferma che ogi disribuzioe if div è rappreseabile come limie di ua opporua successioe di disribuzioi di Poisso composo Iolre esso afferma che ogi limie coiuo di ua successioe di fuzioi caraerisiche if div è esso sesso if div Tra le disribuzioi if div soo imporai le disribuzioi sabili ; ra quelle sopra idicae soo sabili solao la ormale e quella di Cauchy Esse soo defiie al modo seguee: ua

12 disribuzioe F e la sua fuzioe caraerisica Ф soo sabili se, per ogi esisoo cosai a > 0 e b ali che [Ф F (u)] Ф af+ b (u) exp{ib u} Ф F (a u) cioè, a parole, se la disribuzioe della somma di umeri aleaori i idipedei co disribuzioe F ( la cui fuzioe caraerisica è [Ф F (u)] ) coicide co quella del a a + b (co fuzioe caraerisica exp{ib u} Ф F (a u)) Si dimosrao le due seguei proposizioi cocerei le disribuzioi sabili: - le cosai a hao la forma a /α, co 0 < α : per la disribuzioe ormale è α mere per quella di Cauchy è α ; - le disribuzioi sabili simmeriche hao fuzioe caraerisica avee la forma Ф(u) α exp{ γ α u } co γ α reale posiivo : per la disribuzioe N(0 ; ) è Ф(u) exp{ u } mere per quella di Cauchy è Ф(u) exp{-θ u }, ove è θ > 0 Preseiamo ora alcui esempi di processi {S()} co icremei idipedei e sazioari: - processi di Poisso composo, ove Prob{S() s} ( k e ) k λ λ F * ( ) k! s ; k - processi di Poisso: si ricavao dai precedei specificado che la disribuzioe F degli effei è coceraa i ; i al caso è Ф S() (u) exp{λ[e iu ]} i quao e iua è la fuzioe caraerisica della disribuzioe coceraa i a ; - processi di Wieer Lèvy (o di moo browiao) caraerizzai dall ipoesi S(0) 0 e dal fao che gli icremei S(s+) S(s) S() S(0) S() hao disribuzioe N(0 ; σ ) Cei sui processi socasici marigala U processo socasico { } è deo essere ua marigala se per ogi iero posiivo si ha E[ ] < ed è verificaa (co probabilià ) la codizioe: E( /,, ) E facile verificare che sussise, per ogi, l uguagliaza E[ ] E[ - ] e che, per s iero posiivo, è Cov(, -s ) Var( -s ) Si ha iolre E( + h /,, ) per ogi h iero o egaivo, cosicchè ogi soosequeza,,,, di u processo marigala è ua marigala Ua defiizioe più flessibile di marigala è la seguee: il processo {} è ua marigala rispeo al processo { } se E[ ] < e se E[ + /,, ] per ogi Ua defiizioe acora più geerale di marigala è quella rispeo ad ua sequeza crescee di σ- algebre di evei aziché rispeo a sequeze di veori (,, ) Noi ci aerremo peralro alla prima, più semplice, defiizioe Teorema di rappreseazioe: il processo { } è ua marigala se e solo se c ove c è ua cosae e i a soo assoluamee equi [E( ) 0 e E( /,, - ) 0, ] I forza di queso risulao, a assoluamee equi soo dei differeze, o

13 icremei, di marigala Si dimosra che le differeze di marigala soo a equi e muuamee o correlai Teorema di covergeza: se i momei secodi dei a del processo marigala soo equilimiai, cioè se esise u umero reale m per cui è E[ ] m <, allora esise u a verso cui la marigala coverge, co probabilià, al divergere di Iolre è E() E( ) per ogi Alcui esempi : ) Le somme successive di a Z equi e socasicamee idipedei cosiuiscoo ua marigala (è lo schema di u gioco equo): ifai i a Z soo ache assoluamee equi per cui, poedo c 0 e Z + Z + + Z si ha che è ua marigala per il eorema di rappreseazioe ) Le proporzioi di pallie biache dopo ogi esrazioe casuale da u ura di Polya (coeee iizialmee b pallie biache ed r pallie rosse, essedo c le uove pallie immesse ell ura, dello sesso colore di quella appea esraa) cosiuiscoo ua marigala 3) La successioe delle fuzioi di regressioe E[Z /,, ] di u a Z rispeo ai a,,, è u processo marigala Occorre, i queso esempio, adoare per i a la defiizioe di marigala rispeo alla sequeza,,,, Riorado all esempio ), e cosiderado che sia ua marigala rispeo a {Z }, è opporuo eer coo della possibilià che u giocaore decida colpo per colpo se giocare o o all epoca : si può far queso iroducedo ua fuzioe di decisioe {ε }, ove ε 0 oppure ε a secoda che il giocaore decida di o giocare, o giocare, la paria -ma Idicado co W il guadago oale elle prime parie si ha W W - + ε Z W - + ε ( - ) Osserviamo che i geerale W - - Z perché il giocaore può decidere di o giocare qualcua delle prime - parie; se, per esempio, è uguale a solo la prima variabile decisioale ε mere ue le successive - soo ulle si ha W - Z Poiché, a parire dall equazioe sopra scria, è: E(W / Z,,Z - ) W - + ε [E( / Z,,Z - ) - ], e ricordado che { } è ua marigala rispeo a {Z } risula E(W /Z,,Z - ) W - cosicchè ache {W } è ua marigala rispeo a {Z } Tale risulao è oo come Teorema di impossibilià (di modificare la sruura di marigala): qualuque fuzioe di decisioe {ε } rasforma ua marigala { } i ua uova marigala {W } Ua paricolare fuzioe di decisioe {ε } è quella i cui esise u iero ale che ε per ogi e ε 0 se > Tipicamee, l iero è cosiderao aleaorio (e deoao N) di modo che si ha ε se N > - mere ε 0 se N - Ovviamee, eache l iroduzioe di u empo aleaorio di arreso (soppig ime) modifica la proprieà di marigala Aggiugiamo alcue alre ozioi collegae a quella di marigala U processo { } è deo cosiuire ua sub-marigala (super-marigala) se soddisfa le codizioi E( /,, ) ( - ) Sussise l imporae eorema: se u() è ua fuzioe covessa ed { } ua marigala allora il processo {u( )} è ua submarigala a codizioe che esisa fiia la E [ u( ) ] per ogi 3

14 U processo { } è ua marigala i seso lao se E [ /,, - ] - ove il primo membro idica l approssimazioe lieare dei miimi quadrai di rispeo ai a,, - Si dimosra che u processo { } è ua marigala i seso lao se e solo se c ove i a soo equi e muuamee orogoali Il processo marigala preseao el erzo esempio è cosiuio da approssimaori dei miimi quadrai E[Z /,, ] del a Z i ermii di fuzioi arbirarie dei a supposi osservabili La codizioe E(Z ) < implica la E( ) m < per ogi e duque la covergeza i media quadraica di { } ad u a : ques ulimo dovrebbe poersi ierpreare come approssimaore oimale i quao uilizza la oalià dei a osservabili Iolre, è aurale pesare che al crescere della umerosià della sequeza,, migliori progressivamee l approssimazioe di Z perché si uilizza ua quaià di iformazioe crescee: è ifai quao viee sabilio dal seguee eorema Teorema: poso D [E(Z ) ] /, al crescere di la sequeza {D } decresce e ede ad u limie D, mere la sequeza {E( )} cresce ededo al limie E(Z ) D La dimosrazioe è semplice se si ricorda che E[Z /,, ] è ierpreabile come proiezioe orogoale di Z sul soospazio lieare chiuso dell isieme dei a co momeo secodo fiio cosiuio dalle fuzioi ψ(,, ) ali che sia E[ψ(,, )] < Iao risula 0 D [E(Z )] / e poiché la sequeza {D} decresce al crescere di esise u limie D Iolre, per la proprieà di orogoalià di Z - E[Z /,, ] ei cofroi di ue le fuzioi ψ(,, ) si ha Z e duque E(Z ) D + E( ) Risula quidi che E( ) E(Z ) D Cei sui processi sazioari è sazioario i seso sreo se le sue disribuzioi cogiue fiie-dimesioali soddisfao la seguee codizioe di ivariaza U processo socasico a paramero discreo { ; } F ( x, x,, x ) F ( x + h, x + h,, x + h ) per ogi iero, ogi sequeza di ieri disii ( ) (,,, ),,, e ogi veore di umeri reali x x x Ne discede che i umeri aleaori della sequeza { ; } disribuii, le coppie di a (, ) disribuie, s soo ugualmee avei uguale differeza degli idici s soo ugualmee U processo socasico a paramero discreo { ; } hao momei secodi fiii e se ) la fuzioe valor medio è cosae, cioè se ( ) E ( ) E ( ) ) la fuzioe di covariaza ( s, ) Cov (, ) s è sazioario i seso lao se i a ϕ, Ψ dipede da s e solo araverso s Da quao deo si ricava che la sazioarieà i seso sreo implica quella i seso lao solao se i a hao ui momei secodi fiii; l implicazioe iversa sussise solo quado le disribuzioi cogiue dipedoo dai soli momei del primo e secodo ordie, come accade per esempio alle disribuzioi di ipo Gaussiao e Sude 4

15 U primo esempio di processo sazioario i erambi i sesi è cosiuio da ua sequeza di a idipedei e ugualmee disribuii co variaza fiia σ La fuzioe di covariaza Ψ ( s, ) ha due valori, Ψ ( s, ) 0 se s e Ψ ( s, ) σ se s I casi più sigificaivi di sazioarieà soo però quelli i cui i a soo muuamee dipedei: l esempio più prossimo al precedee è dao da ua sequeza di a ugualmee disribuii co ua fuzioe di covariaza co due valori, Ψ ( s, ) γ 0 se s e Ψ ( s, ) σ se s (el seguio useremo il ermie di scambiabilià del secodo ordie per idicare u modello di queso ipo) a) Fuzioe di covariaza e fuzioe sperale Lo sudio dei processi sazioari (del secodo ordie) può avveire da due diversi pui di visa: l approccio emporale che uilizza la fuzioe di covariaza quale srumeo pricipale e l approccio frequeziale (o sperale) che uilizza quale srumeo pricipale la fuzioe sperale, defiia come la rasformaa di Fourier della fuzioe di covariaza Si ha i proposio il seguee Teorema: se { ; } è u processo sazioario i seso lao, a valori reali, co fuzioe valor medio ideicamee ulla e fuzioe di covariaza Ψ (h), h Z, si ha : a) Ψ (h) è semi-defiia posiiva, cioè soddisfa, per ogi iero posiivo N ed ogi sequeza di umeri reali ( a,, a N ), la codizioe N i i, a a Ψ ( i ) 0 e, viceversa, ogi fuzioe defiia i Z e semi-defiia posiiva è la fuzioe di covariaza di u processo sazioario; b) esise ua fuzioe (sperale) F(λ), a valori reali, moooa o decrescee e limiaa, ale che π Ψ (h) ha la rappreseazioe Ψ (h) cos( λ h) d F(λ) ; la corrispodeza ra l isieme π delle Ψ (h) e quello delle fuzioi sperali F(λ) può essere resa biuivoca impoedo, per esempio, l uleriore codizioe F(-π) 0 e assumedo F(λ) coiua a desra i ogi eveuale puo di discoiuià; c) se Ψ (h) è assoluamee sommabile, cioè se verifica la codizioe + Ψ (h) < +, allora esise f(λ) F (λ), dea desià sperale, coiua i (-π, π), simmerica rispeo a λ 0, ale π che Ψ (h) π cos( λ h ) f(λ) dλ e che f(λ) (π) + cos(λ h) Ψ (h) h Per la dimosrazioe di queso eorema e degli alri che seguirao riviamo il leore per esempio al eso di PJBrockwell e RADavis Time Series: Theory ad Mehods della Spriger Vediamo ora alcui esempi di processi sazioari e di fuzioi sperali: Processi co umeri aleaori iid e doai di momeo secodo fiio: la fuzioe di covariaza Ψ (h) assume il valore σ se h 0 ed è ulla per gli alri valori di h; la corrispodee desià sperale è ideicamee uguale a processo WN (0 ; σ ) ha la medesima desià sperale σ / π Si oi che ache il Processo armoico cos(λ) + Zsi(λ), 0 < λ < π, ove le speraze maemaiche di e Z soo assue ulle, le variaze soo assue uguali e deoae co σ e la loro 5

16 covariaza è assua ulla; il paramero λ, deomiao frequeza agolare, è assuo posiivo e o maggiore di π E immediao provare che è ϕ() 0 e si rova facilmee la ψ(s,) σ cos λ(-s) Dal momeo che quesa fuzioe di covariaza o è assoluamee sommabile, o esise ua corrispodee desià sperale La fuzioe sperale F(λ) corrispodee alla ψ(s,) è ua fuzioe a gradii co discoiuià i -λ e λ e l ampiezza dei sali è pari a σ / Queso sesso processo socasico può avere alre due rappreseazioi equivalei; la prima è V si (λ + η), ove il uovo paramero η, deo sposameo di fase, è defiio poedo Vsi η e Z Vcos η, co V ( + Z ) /, di modo che è baalmee si η /V e cos η Z/V La secoda rappreseazioe aleraiva è A*e -iλ + A e iλ, ove si è poso A ( iz)/ e ove A* deoa il umero complesso coiugao di A Quesa secoda rappreseazioe iroduce formalmee la frequeza agolare egaiva -λ e umeri aleaori a valori complessi, ma si vedrà el seguio che ale complicazioe formale cosee u effeiva semplificazioe egli sviluppi maemaici 3 Processi oeui da somme fiie di processi armoici N Sia ( cos λ + Z si λ ), ove 0< λ < < λ N < π ; i umeri aleaori e Z abbiao speraza maemaica ulla, variaza pari a σ e siao ui muuamee o correlai La fuzioe valor medio di { } è ideicamee ulla e la sua fuzioe di covariaza è daa da N ψ(s,) σ cos λ (-s) La corrispodee fuzioe sperale F(λ) ha N discoiuià, simmeriche rispeo a λ 0, di ampiezza σ / e risula F(π) N σ Come per il precedee processo armoico, sussisoo alre due rappreseazioi possibili per l auale processo : N V si (λ + η ) e N N A exp (iλ ) Nell ulima rappreseazioe, le codizioi affichè { } sia u processo a valori reali soo A ( iz )/ se 0, A - A * e λ - - λ Tale processo può essere eseso ad u umero ifiio di addedi se si suppoe fiia la somma della serie delle variaze σ ; quesa esesioe ha ua rilevae imporaza dal puo di visa eorico per la rappreseazioe di processi sazioari co spero discreo Sussise i proposio il seguee eorema di EE Sluski (938): ogi processo sazioario i seso lao co fuzioe valor medio ulla e fuzioe sperale cosae a rai (spero discreo) può essere rappreseao secodo la b ( cos λ + Z si λ ), co b <, ove i a e Z soo ui equi, muuamee o correlai co V( ) V(Z ) σ La geeralizzazioe di queso risulao a ui i processi sazioari i seso lao co fuzioe valor medio ulla e fuzioe sperale arbiraria è dovua a Kolmogorov, Cramér e Loève 6

17 4) Processo MA() : ε +bε - co ε WN (0 ; σ ) Si ha Ψ (0) ε ( b ) σ ε +, Ψ () b σ, mere Ψ (h) 0 per h > Evideemee esise ua desià sperale, poiché + ε Ψ (h) ( b ) σ ε + + b σ, e la sua espressioe è : f(λ) ε σ ε (π) (+bcos λ+ b ) b) Filri lieari ivariai Si defiisce filro lieare ivariae applicao ad u processo socasico { ; } ua rasformazioe lieare + c del processo {} co coefficiei c idipedei da e ali da soddisfare ua qualche codizioe del ipo + Sussise il seguee: c < o + c < Teorema: se la successioe di coefficiei { c } è assoluamee sommabile e il processo {} è sazioario i seso lao allora {} è sazioario i seso lao co fuzioe di auocovariaza Ψ +, k ( h) c c Ψ ( h + k) e fuzioe sperale verificae la df (λ) k H(λ) è la fuzioe di rasferimeo del filro defiia dalla H(λ) + sperale f (λ) allora esise ache f (λ) che verifica la relazioe f (λ) Nell esempio 4) è H(λ) + bexp(-iλ) e σ ε ( + b cos λ + b ) / π, essedo σ ε / π 5 Processo AR() : a - ε, co { ε } WN (0 ; c e iλ H (λ ) df (λ), ove Se esise la desià H (λ ) f (λ) H (λ ) + bcos(λ) + b per cui si ha f (λ) la desià sperale del processo { ε } σ ) e a < Sosiuedo i a - + ε a - l espressioe a - + ε si oiee a + ε + a ε ; coiuado allo sesso modo le sosiuzioi si perviee alla k a + ε + a ε k k Passado al limie per edee all ifiio si ha k ε + a ε k, dalla quale il processo{ } k appare oeuo co l applicazioe al processo {ε } di u filro lieare ivariae La fuzioe di rasferimeo di queso filro è la H(λ) + + k ( acos λ + a ) - Si ha duque f (λ) a k e ikλ ε ( iλ a e ) e risula H (λ ) H (λ ) f (λ) σ ε ( a cos λ + a ) / π 6 Processo ARMA (, ) : a - ε + b ε, co { ε } WN (0 ; σ ) e a < ε 7

18 E opporuo riguardare il modello suddeo come u modello AR(), a -, co ε + b ε Per quao già viso, {} è u processo sazioario co desià sperale f (λ) σ ε ( + bcos λ + b ) / π per cui è: f (λ) H (λ ) f (λ) σ ε ( + bcos λ + b ) π ( acos λ + a ) c) Cei sui processi scambiabili i seso lao Vedremo che i processi scambiabili soo ua sooclasse di processi sazioari; se si suppogoo fiii i momei secodi dei a di u processo scambiabile, ha seso cosiderare la codizioe di scambiabilià i seso lao: essa è caraerizzaa dal fao che la fuzioe valor medio ϕ () è cosae e la fuzioe di covariaza ψ (h) ha solao i due valori ψ (0) σ e ψ (h) γ > 0 se h è diverso da 0 Evideemee la ψ (h) o è assoluamee sommabile e si prova che la fuzioe sperale F(λ) ha ua discoiuià ell origie e che la sua espressioe è F(λ) γ F (λ) + ( σ - γ ) F (λ), ove F (λ) è ua fuzioe di riparizioe che cocera la massa uiaria ell origie ed F (λ) ua fuzioe di riparizioe co desià uiforme i [-π, π] 7 Sia + ε ove { ε } è u processo WN ( 0 ; σ ε ) Il a abbia valor medio ullo, variaza σ e sia o correlao co ciascu a ε E facile verificare che E ( ) 0 e che la fuzioe di covariaza Ψ (h) ha due valori: Ψ (0) σ + σ ε e Ψ (h) σ se h 0 Siamo i preseza di ua fuzioe di covariaza a due valori, per cui, poedo σ + σ ε σ e σ γ, la fuzioe sperale è la F(λ) γ F (λ) + ( σ - γ ) F (λ) I alri ermii, il processo { } è scambiabile i seso lao Si può provare il seguee eorema di rappreseazioe : ui e soli i processi socasici scambiabili i seso lao soo rappreseabili come + ε ove i a a secodo membro hao le caraerisiche suddee co Var () Ψ (h), co h 0, e σ Ψ (0) - Ψ (h) ε d) Processi sazioari a valori complessi N Esempio: A exp( iλ ), ove i a complessi A soo equi, co variaza mere i umeri ceri λ apparegoo all iervallo (-π, π] Si rova facilmee che i a equi e che la loro fuzioe di covariaza ha l espressioe ψ N σ e o correlai, ( h) σ exp( iλ h) La corrispodee fuzioe sperale è cosae a rai co discoiuià di ampiezza λ ; auralmee è F ( λ N ) F ( π ) σ N soo σ ei pui λ 8

19 F Foriremo ora due espressioi formali equivalei per (h) : λ λ π ψ e per il processo { } : poiché è ( λ ) σ possiamo scrivere ψ (h) exp( iλ h) d F (λ ) e rappreseare quidi ψ (h) come u iegrale di Sieles co fuzioe peso F (λ ) Poedo ivece Z(λ) : λ scrivere π π π λ A si può exp( iλ h) d Z(λ) : si raa di u iegrale socasico, del ipo deo iegrale di Wieer, rispeo al processo{z(λ)} Ques ulimo è u processo a paramero coiuo defiio i (-π, π] co fuzioe valor medio ideicamee ulla e co icremei o correlai; iolre è E Z( λ ) F ( λ ) Viee deomiao processo sperale associao a {} Il fao oevole è che le due suddee rappreseazioi sussisoo, co diverse fuzioi peso F (λ ) e Z(λ), per ui i processi sazioari i covariaza co valori complessi e co momei secodi assolui fiii Soo erambe rappreseazioi el domiio frequeziale o sperale e cosiuiscoo decomposizioi della fuzioe di covariaza e del processo sazioario i compoei cicliche di frequeze agolari λ (-π, π] Diamo ora gli euciai dei corrispodei eoremi: Teorema di Hergloz: la fuzioe di covariaza di u processo { } sazioario i seso lao co E < +, i quao fuzioe semidefiia posiiva, è rappreseabile come π ψ (h) exp( i λ h) d F (λ ), π ove F (λ ) è a valori reali, moooa o decrescee e limiaa Soliamee si assume ache che essa sia coiua a desra egli eveuali pui di discoiuià e che F ( π ) 0 Teorema di Kolmogorov, Cramér, Loève: ad ogi processo { } sazioario i seso lao co E < + e fuzioe valor medio ulla può essere associao u processo socasico{z (λ)}, λ (-π, π], co icremei o correlai ale che ove E [Z (λ)] 0, E Z (λ ) F (λ ), E π exp( iλ ) d Z (λ), π dz (λ ) d F (λ ) Ifie euceremo u erzo fodameale eorema coceree i processi sazioari i covariaza co fuzioe valor medio ideicamee ulla: Teorema di H Wold: ogi processo { } sazioario i seso lao co valor medio ulla può essere rappreseao al modo seguee E < + e fuzioe V + γ ε 0 9

20 ove { ε } WN (0 ; σ ), ε γ <, γ 0, ( s ) 0 Cov V, ε 0 e ove il processo socasico { V } deermiisico el seso che esso è compleamee deermiao dal suo passao è Si può affermare che il eorema di H Wold cosiuisce il fodameo probabilisico della ecica saisica oa come Aalisi delle serie emporali (o delle serie soriche) e) Processi scambiabili e parzialmee scambiabili La ozioe di processo scambiabile è saa irodoa da B de Fiei el 98 co ua comuicazioe al Cogresso Ierazioale dei Maemaici di Bologa dal iolo Fuzioe caraerisica di u feomeo aleaorio co la quale: - irodusse la ozioe di processo socasico scambiabile, - dimosrò il corrispodee eorema di rappreseazioe e - risolse il problema dell ifereza saisica i ipoesi di scambiabilià delle variabili osservabili foredo ua giusificazioe razioale del pricipio di iduzioe Mere la modesa frase iiziale della suddea comuicazioe Scopo di quesa comuicazioe è di mosrare come il meodo della fuzioe caraerisica, già così vaaggiosamee irodoo ella eoria delle variabili casuali, si presi pure assai uilmee allo sudio dei feomei aleaori o lascia rasparire i oevoli coribui iovaivi i essa coeui, la frase fiale - Quese coclusioi e quesi esempi possoo chiarire l iflueza che sulla valuazioe di ua probabilià eserciao i dai dell esperieza fa iravedere che la ragioe pricipale della iroduzioe della ozioe di scambiabilià era saa l iezioe di chiarire le codizioi i cui l osservazioe di ua frequeza su ua sequeza di prove forisce coereemee la base per ua valuazioe di probabilià o per ua previsioe della frequeza su ua sequeza di prove acora da eseguire I alri ermii l auore chiarisce l isieme di ipoesi che giusifica il pricipio di iduzioe, cioè la propesioe a valuare la probabilià di u eveo E + i ermii della frequeza relaiva di successo osservaa su evei aaloghi ad E + ; formalmee: m P( E+ / K) se K E m Dal puo di visa formale, i processi scambiabili soo caraerizzai dalla codizioe di ivariaza delle disribuzioi cogiue rispeo a permuazioi arbirarie degli idici dei a, cioè dall ivariaza delle disribuzioi rispeo all ordie dei a Si richiede cioè che sia F ( x,, x ) F ( x,, x ),,,, per ogi iero posiivo, per ogi permuazioe (,, ) della sequeza (,,) e per ogi sequeza di argomei ( x,, x ) Per quao cocere i momei fio al secodo ordie si ha evideemee ϕ () E( ) E( ) e ψ ( s, ) Cov( s, ) ψ ( s ) σ o ψ ( s ) γ > 0 a secoda che sia s 0 o, rispeivamee, s 0 La suddea defiizioe implica che ogi isieme fiio di a disii abbia la sessa disribuzioe di probabilià cogiua, cioè F ( x,, x ) F ( x,, x ),,, 0

21 qualuque sia l iero posiivo, la sequeza di ieri posiivi disii (,, ) e la sequeza di argomei ( x,, x ) e ove F idica la fuzioe di riparizioe cogiua per u qualuque isieme di a disii Dal puo di visa ierpreaivo la codizioe di scambiabilia raduce l idea di aalogia o equivaleza ra i a osservabili i modo be piu efficace della codizioe di idipedeza socasica e uguale disribuzioe degli sessi: ifai, se gli soo assui muuamee idipedei l appredimeo dall esperieza o puo avveire Per il caso E K P E di idipedeza ra gli evei equivale ad assumere che sia ( ) ( ) E l assuzioe P / + + qualuque sia l eveo osservabile K riguardae gli evei E,, E Per coro, l assuzioe di scambiabilia ra gli evei iroduce ipicamee ua dipedeza socasica ra essi e quesa m implica la P( E + / K ), come facilmee si puo provare Sussise u imporae eorema di rappreseazioe per i processi scambiabili illimiai, cioè cosiuii da ua ifiià umerabile di a Teorema di B de Fiei: ui e soli i processi scambiabili illimiai { ; } soo combiazioi ω lieari (o misure) di processi socasici { ( ) ; }, ω Ω, i cui a soo idipedei e doai di ( ) ua comue fuzioe di riparizioe F ω ( x) el seso che esise ua fuzioe di riparizioe G(ω) ale che per ogi iero posiivo ed ogi sequeza fiia di idici (,, ) sussise la ( ω ) ( ω ) F,, ( x,, x ) (,, ) ( ) F x x dg ω F ( x ) dg( ω ) Ω Ω I quesa sede ci limiiamo a forire due semplici esemplificazioi del suddeo eorema di ( ) rappreseazioe: el primo esempio le fuzioi di riparizioe uivariae F ω siao ue di ipo ormale o Gaussiao co valor medio ω e variaza uiaria; suppoiamo acora che G(ω) sia la fuzioe di riparizioe di ua disribuzioe ormale co parameri µ e σ Si ha allora: / F,, ( x,, x ) ( ) exp{ ( ) / } ( ) π x ω dg ω R / / σ ( π ) exp{ ( x ω ) } ( π σ ) exp{ ( ω µ ) } dω R dalla quale si ricava, co facili calcoli, che F (,, ),, x x corrispode ad ua disribuzioe ormale dimesioale caraerizzaa da valori medi ui uguali a μ, variaze ue uguali a + σ e covariaze ue uguali a σ Nel secodo esempio i a siao idicaori di evei il prodoo logico A { E ' ' ' E E} E scambiabili per i quali si cosidera implicae l eveo { E m} ; suppoiamo ache che sia oo il valore logico (vero o falso) di ogi eveo del prodoo logico A Le fuzioi di

22 ( ω riparizioe F ) ( x) soo ideicamee ulle per x < 0, uguali a ω per 0 x < e ideicamee uguali a per x > Se assumiamo che G( ω ) sia la fuzioe di riparizioe di ua disribuzioe Bea co parameri umerici α e β l applicazioe del eorema di rappreseazioe forisce la m m Γ ( α + β ) α β P( A) ω ( ω ) ω ( ω ) dω Γ ( α ) Γ ( β ) 0 m ( α ) m( β ) m dalla quale si ricava, co facili calcoli, che è P( A), ove ( α ) m ( α + ) ( α + β ) 0 La codizioe di scambiabilià parziale è saa irodoa sempre da B de Fiei el 937 ed è più flessibile rispeo a quella di scambiabilià e quidi più adaa a modellizzare schemi ei quali l aalogia ra le uià campioarie o è cosideraa perfea Si pesi a misurazioi ripeue di ua sessa gradezza effeuae co srumei di misura avei precisioi diverse, a rischi assicuraivi (per esempio corai RCA) giudicai o omogeei (per esempio per la diversa cilidraa degli auoveicoli), ai risulai aleaori di laci ripeui di moee diverse e così via Il modello più semplice di processo parzialmee scambiabile cosise di u isieme fiio (per esempio ua coppia, o ua era,) di processi socasici scambiabili, ra loro correlai Si cosiderio, per semplicià, due processi socasici disii { ; } e { ; } ciascuo dei quali è supposo essere scambiabile Circa i legami di dipedeza socasica ra i due processi si possoo ipoizzare ae siuazioi diverse: i casi limie soo quello di idipedeza ra essi e, all opposo, quello di scambiabilià semplice geeralizzaa (i cui o c è bisogo di cosiderare disii i a del primo da quelli del secodo processo) Tra quese siuazioi limie c è ua la gamma di siuazioi di scambiabilià parziale o baale: ciò che le accomua è la codizioe di uguale covariaza ra ogi a del primo processo e ui i a s del secodo, cioè Cov(, s ) γ per ogi coppia di valori (,s) degli idici Ovviamee dovrà essere γ σ σ Dal puo di visa formale, i processi parzialmee scambiabili (cosiuii da due processi scambiabili) soo caraerizzai dalla seguee propriea di ivariaza delle disribuzioi cogiue: F ( x, x ; y,, y ) F ( x,, x ; y,, y ), s sm per ogi coppia di ieri o egaivi, m e ogi coppia di sequeze di ieri posiivi disii,, e s, s m Sussise il seguee risulao dovuo a B De Fiei: Teorema di rappreseazioe: ui e soli i processi parzialmee scambiabili illimiai (cosiuii da due processi scambiabili compoei) soo combiazioi lieari (o misure) di processi socasici ( ) i cui a soo idipedei, co ua fuzioe di riparizioe F ω ( x) comue a ui i a e ua ( ) fuzioe di riparizioe F η ( y) comue a ui i a s el seso che esise ua disribuzioe cogiua G ( ω, η ) ale che sia ( ) m ω ( η ) F ( x,, x ;,, ) { } ( ) ( ) ( ω, η ) y y F x F y dg s sm ω, η i s i per ogi coppia di ieri o egaivi (,m) e ogi coppia di sequeze di ieri posiivi,, e s, s m m