Lezione: approccio stocastico all analisi delle serie storiche E-mail: orietta.nicolis@unibg.it 13 aprile 211
Programma 1 Approccio stocastico all analisi delle serie storiche
Programma 1 Approccio stocastico all analisi delle serie storiche
Le serie storiche (o temporali) Una serie storica y 1, y 2,..., y n viene definita come la realizzazione finita di un processo stocastico Y 1, Y 2,..., Y n. Un processo stocastico è definito tramite la distribuzione congiunta di Y 1,..., Y n per ogni n. In generale le Y t non sono fra di loro indipendenti e interessa la distribuzione congiunta per esempio di Y t ed Y t+1. Modelli per serie storiche y t = f (y t 1, y t 2,...) + ε t dove ε t processo stocastico stazionario non direttamente osservabile
Proprietà di un processo stocastico 1 Stazionarietà Stazionarietà in senso stretto: se la distribuzione congiunta associata ad n osservazioni rilevate ai tempi 1, 2,..., n è la stessa di quella associata a n osservazioni rilevate ai tempi 1 + h, 2 + h,..., n + h, ossia f (y 1, y 2,..., y n) = f (y 1+h, y 2+h,..., y n+h ) Stazionarietà in senso debole: se valgono le seguenti proprietà: E(Y t ) = µ; σt 2 = Var(Y t ) = σ 2 (costante); γ(t, t + h) = Cov(Y t, Y t+h ) = γ(h), funzione di autocovarianza. 2 Invertibilità: Un processo stocastico è invertibile se esiste una funzione lineare H( ) ed un processo ε w.n. tale che per ogni t sia Y t = H(Y t 1, Y t 2,...) + ε t.
Autocorrelazione e correlogramma Autocorrelazione ρ t (h) = Cor(Y t, Y t+h ) = Cov(Y t, Y t+h ) σ Yt σ Yt+h Correlogramma L autocorrelazione campionaria, posto è definita da r(h) = ȳ, yt y t+h y 2 t = yt y t+h y 2 t y 2 t+h
Funzione di autocorrelazione parziale La funzione di autocorrelazione parziale è data da π k = Cor(Y t, Y t+h Y t+1, Y t+2,..., Y t+h 1 ) ed legame tra due generiche Y t e Y t+h al netto delle variabili intermedie. Può essere vista come il coefficiente φ kk delle regressioni Y t = c + φ 1h Y t 1 + φ 2h Y t 2 +... + φ hh Y t h
Calcolo della autocorrelazione parziale P(h) = 1 ρ(1) ρ(2)... ρ(h 2) ρ(1) ρ(1) 1 ρ(1)... ρ(h 3) ρ(2)............ ρ(h 1) ρ(h 2) ρ(h 3)... ρ(1) ρ(h) 1 ρ(1) ρ(2)... ρ(h 2) ρ(h 1) ρ(1) 1 ρ(1)... ρ(h 3) ρ(h 2)...... ρ(h 1) ρ(h 2) ρ(h 3)... ρ(1) 1 N.B. Il denominatore è il determinante della matrice di Toeplitz.
Alcuni processi stocastici: Rumore Bianco (White Noise) Autoregressivi (AR) Media Mobile (MA) Autoregressivi a Media Mobile (ARMA)
Processo Rumore Bianco Un processo stocastico {ε t } è un rumore bianco (w.n.) se E(ε t ) =, t Var(ε t ) = σ 2 ε, t Cov(ε t, ε t h ) =, t, h Si indica con ε t wn(, σ 2 ε) ed è un processo stazionario in senso debole.
Simulazione di un Rumore Bianco Rumore bianco (w.n.) Sample autocorrelation coefficients 4.8 3.6 2.4 1 1 sacf values.2.2 2.4 3.6 4 2 4 6 8 1.8 1 2 3 4 5 6 k values
Processo Autoregressivo (AR) Un processo Autoregressivo di ordine 1, AR(1) è definito come Y t = c + φy t 1 + ε t dove ε t wn(, σε). 2 Il processo AR è sempre invertibile. Ponendo c = e indicando con BY t = Y t 1, Y t = φy t 1 + ε t = φby t + ε t (1 φb)y t = ε t
Il processo AR(1) è stazionario? Un processo AR(1) può essere scritto come dove Φ(B) = (1 φb). Φ(B)Y t = ε t Se le radici del polinomio caratteristico Φ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1, allora AR(1) è stazionario. Ciò accade se 1 < φ < 1. Esempio: Il processo Y t =.2Y t 1 + ε t può essere scritto come Y t =.2BY t + ε t, (1.2B)Y t = ε t. Ponendo (1.2B) =, si ricava B = 1.2 = 5 > 1. Quindi il processo Y t è stazionario.
Momenti di un processo AR(1) Per un processo AR(1) si può dimostrare che: E(Y t ) = µ = Var(Y t ) = σ 2 ε 1 φ 2 ρ h = φ h { φ h = 1 π h = h > 1
Simulazione di un AR(1) con φ =.5 Y t =.5Y t 1 + ε t 2 Simulazione AR(1) con φ=.5 1.8 1.6 1.4 1.2 1.8.6.4.2 1 2 3 4 5 6 7 8 9 1
funzioni di autocorrelazione di un AR(1) con φ =.5 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.5.6.4.5.3.4 sacf values.2.1 spacf values.3.2.1.1.2 1 2 3 4 5 6 k values.1 1 2 3 4 5 6 k values
Simulazione di un AR(1) con φ =.5 Y t =.5Y t 1 + ε t 1.2 Simulazione AR(1) con φ=.5 1.8.6.4.2.2.4.6 1 2 3 4 5 6 7 8 9 1
funzioni di autocorrelazione di un AR(1) con φ =.5 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.3.2.2.1 sacf values.1.1.2.3.4 spacf values.1.2.3.4.5 1 2 3 4 5 6 k values.5 1 2 3 4 5 6 k values
Processo Autoregressivo di ordine p, AR(p) Un processo Autoregressivo di ordine p, AR(p) è definito come Y t = c + φ 1 Y t 1 + φ 2 Y t 2 +... + φ p Y t p + ε t dove ε t wn(, σ 2 ε). Il processo AR(p) è sempre invertibile. Ponendo c = e indicando con BY t = Y t 1, B 2 Y t = Y t 2,..., B p Y t = Y t p, Y t = φ 1 Y t 1 + φ 2 Y t 2 +... + φ p Y t p + ε t = φ 1 BY t + φ 2 B 2 Y t +... + φ p B p Y t + ε t (1 φ 1 B φ 2 B 2... φ p B p )Y t = ε t
Il processo AR(p) è stazionario? Un processo AR(p) può essere scritto come Φ(B)Y t = ε t dove Φ(B) = (1 φ 1 B φ 2 B 2... φ p B p ). Se le radici del polinomio caratteristico Φ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1, allora AR(p) è stazionario.
Funzione di autocorrelazione di un processo AR(p) La funzione di AUTOCORRELAZIONE di un processo AR(p) decade a velocemente. La funzione di AUTOCORRELAZIONE PARZIALE di un processo AR(p) ha il seguente comportamento: { h p π h = h > p
Simulazione di un AR(2) con φ 1 =.5 e φ 2 =.38 Y t =.5Y t 1 +.38Y t 2 + ε t.8 Sample autocorrelation coefficients.4 Sample partial autocorrelation coefficients.6.2.4.2 sacf values.2 spacf values.2.4.4.6.6.8.8 1 1 2 3 4 5 6 k values 1 1 2 3 4 5 6 k values
Simulazione di un AR(3) con φ 1 =.5, φ 2 =.3 e φ 3 =.15 Y t =.5Y t 1 +.3Y t 2 +.15Y t 3 + ε t 1.2 Sample autocorrelation coefficients 1.2 Sample partial autocorrelation coefficients 1 1.8.8 sacf values.6.4 spacf values.6.4.2.2.2 1 2 3 4 5 6 k values.2 1 2 3 4 5 6 k values
Processo a Media Mobile di ordine 1, MA(1) Un processo MA(1) è definito come Y t = c + ε t + θε t 1 dove ε t wn(, σε). 2 Il processo MA è sempre stazionario. Ponendo c = e indicando con Bε t = ε t 1, Y t = θε t 1 + ε t = θbε t + ε t Y t = (1 + θb)ε t
Il processo MA(1) è invertibile? Un processo MA(1) può essere scritto come dove Θ(B) = (1 + θb). Y t = Θ(B)ε t Se le radici del polinomio caratteristico Θ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1, allora MA(1) è invertibile. Ciò accade se 1 < θ < 1. Esempio: Il processo Y t =.2ε t 1 + ε t può essere scritto come Y t =.2Bε t + ε t, Y t = (1 +.2B)ε t. Ponendo (1 +.2B) =, si ricava B = 1.2 = 5 > 1. Quindi il processo Y t è invertibile.
Funzione ACF di un processo MA(1) Per un processo MA(1) si può dimostrare che: { θ h = 1 ρ h = 1+θ 2 h > 1 La funzione di autocorrelazione parziale π h decade a all aumentare di h.
Simulazione di un MA(1) con θ =.8 Y t =.8ε t 1 + ε t.6 Sample autocorrelation coefficients.6 Sample partial autocorrelation coefficients.5.5.4.4.3 sacf values.3.2 spacf values.2.1.1.1.2.1 2 4 6 k values.3 2 4 6 k values
Simulazione di un MA(1) con φ =.8 Y t =.8ε t 1 + ε t.2 Sample autocorrelation coefficients.2 Sample partial autocorrelation coefficients.1.1 sacf values.1.2 spacf values.1.2.3.3.4.4.5 2 4 6 k values.5 2 4 6 k values
Processo Media Mobile di ordine q, MA(q) Un processo MA(q) è definito come dove ε t wn(, σ 2 ε). Y t = c + θ 1 ε t 1 + θ 2 ε t 2 +... + θ q ε t q + ε t Il processo MA(q) è sempre stazionario. Ponendo c = e indicando con Bε t = ε t 1, B 2 ε t = ε t 2,..., B q ε t = ε t q, Y t = θ 1 ε t 1 + θ 2 ε t 2 +... + θ q ε t q + ε t = θ 1 Bε t + θ 2 B 2 ε t +... + θ q B q ε t + ε t Y t = (1 + θ 1 B + θ 2 B 2 +... θ q B q )ε t
Il processo MA(q) è invertibile? Un processo MA(q) può essere scritto come Y t = Θ(B)ε t dove Θ(B) = (1 + θ 1 B + θ 2 B 2 +... + θ p B p ). Se le radici del polinomio caratteristico Θ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1, allora MA(q) è stazionario.
Funzione di autocorrelazione di un processo MA(q) La funzione di AUTOCORRELAZIONE PARZIALE di un processo MA(q) decade a velocemente. La funzione di AUTOCORRELAZIONE di un processo MA(Q) ha il seguente comportamento: { h q ρ h = h > q
Simulazione di un MA(2) con θ 1 =.6 e θ 2 =.3 Y t =.6ε t 1 +.3ε t 2 + ε t 4 Simulazione MA(2) con θ 1 =.6 e θ 2 =.3 3 2 1 1 2 3 4 1 2 3 4 5 6 7 8 9 1
Funzioni di autocorrelazione di un processo MA(2) con θ 1 =.6 e θ 2 =.3 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.6.6.5.5 sacf values.4.3.2.1 spacf values.4.3.2.1.1.1 1 2 3 4 5 6 k values.2 1 2 3 4 5 6 k values
Simulazione di un MA(3) con θ 1 =.5, θ 2 =.3 e θ 3 =.15 Y t =.4ε t 1.3ε t 2 +.25ε t 3 + ε t 4 Simulazione MA(3) con θ 1 =.4, θ 2 =.3 e θ 3 =.25 3 2 1 1 2 3 4 1 2 3 4 5 6 7 8 9 1
Funzioni di autocorrelazione di un processo MA(3)con θ 1 =.5, θ 2 =.3 e θ 3 =.15 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.2.25 sacf values.15.1.5.5.1.15.2 1 2 3 4 5 6 k values spacf values.2.15.1.5.5.1.15.2 1 2 3 4 5 6 k values
Processo AutoRegressivo a Media Mobile di ordine 1,1, ARMA(1,1) Un processo ARMA(1, 1) è definito come dove ε t wn(, σ 2 ε). Ponendo c =, Y t = c + φy t 1 + θε t 1 + ε t Y t φy t 1 = θε t 1 + ε t (1 φb)y t = (1 + θb)ε t
Il processo ARMA(1,1) è invertibile e/o stazionario? Un processo ARMA(1, 1) può essere scritto come Φ(B)Y t = Θ(B)ε t dove Φ(B) = (1 φb) e Θ(B) = (1 + θb). Il processo ARMA(1,1) è STAZIONARIO se le radici del polinomio caratteristico 1 φb = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1. Il processo ARMA(1,1) è INVERTIBILE se le radici del polinomio caratteristico 1 + θ(b) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1. ARMA(1,1) è stazionario ed invertibile se 1 < φ < 1 e 1 < θ < 1.
Funzione di autocorrelazione di un processo ARMA(1,1) La funzione di AUTOCORRELAZIONE, ρ h di un processo ARMA(1,1) tende a zero all aumentare di h. La funzione di AUTOCORRELAZIONE PARZIALE φ h di un processo ARMA(1,1) tende a all aumentare di h.
Simulazione di un ARMA(1,1) con φ 1 =.7 e θ =.2 Y t =.7Y t 1.2ε t 1 + ε t 4 Simulazione ARMA(1,1) con φ=.7 e θ 1 =.2 3 2 1 1 2 3 4 5 1 2 3 4 5 6 7 8 9 1
Funzioni di autocorrelazione di un processo un ARMA(1,1) con φ 1 =.7 e θ =.2 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.6.6.5.5.4.4 sacf values.3.2 spacf values.3.2.1.1.1 1 2 3 4 5 6 k values.1 1 2 3 4 5 6 k values
Processo AutoRegressivo a Media Mobile di ordine p,q, ARMA(p,q) Un processo ARMA(p, q) è definito come Y t = c+φ 1 Y t 1 +φ 2 Y t 2 +...+φ p Y t p +ε t +θ 1 ε t 1 +θ 2 ε t 2 +...+θ q ε t q dove ε t wn(, σ 2 ε). Ponendo c =, Y t φ 1 Y t 1 φ 2 Y t 2... φ p Y t p = θ 1 ε t 1 + θ 2 ε t 2 +... + θ q ε t q (1 φ 1 B φ 2 B 2... φ p B p )Y t = (1 + θ 1 B + θ 2 B 2... + θ q B q )ε t Φ(B) = Θε t
Il processo ARMA(p,q) è invertibile e/o stazionario? Un processo ARMA(p, q) può essere scritto come Φ(B)Y t = Θ(B)ε t dove Φ(B) = ((1 φ 1 B φ 2 B 2... φ p B p ) e Θ(B) = (1 + θ 1 B + θ 2 B 2... + θ q B q ). Il processo ARMA(p,q) è STAZIONARIO se le radici del polinomio caratteristico Φ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1. Il processo ARMA(p,q) è INVERTIBILE se le radici del polinomio caratteristico Θ(B) = giacciono al di fuori del raggio di cerchio unitario, cioè B > 1.
Funzione di autocorrelazione di un processo ARMA(p,q) La funzione di AUTOCORRELAZIONE, ρ h di un processo ARMA(1,1) tende a zero all aumentare di h. La funzione di AUTOCORRELAZIONE PARZIALE φ h di un processo ARMA(1,1) tende a all aumentare di h.
Simulazione di un ARMA(3,2) con φ 1 =.4, φ 2 =.3, φ 3 =.2, θ 1 =.3, e θ 2 =.6 Y t =.4Y t 1.3Y t 2 +.2Y t 3.3ε t 1 +.6ε t 2 + ε t 4 Simulazione ARMA(p,q) φ 1 =.4, φ 2 =.3, φ 3 =.2, θ 1 =.3, e θ 2 =.6 3 2 1 1 2 3 4 1 2 3 4 5 6 7 8 9 1
Funzioni di autocorrelazione di un processo un ARMA(p,q) con φ 1 =.4, φ 2 =.3, φ 3 =.2, θ 1 =.3, e θ 2 =.6 Sample autocorrelation coefficients Sample partial autocorrelation coefficients.35.3 sacf values.3.25.2.15.1.5.5 spacf values.25.2.15.1.5.5.1 1 2 3 4 5 6 k values.1 1 2 3 4 5 6 k values