= E(X t+k X t+k t ) 2 + 2E [( X t+k X t+k t + E

Transcript

1 1. Previsione per modelli ARM A Questo capitolo è dedicato alla teoria della previsione lineare per processi stocastici puramente non deterministici, cioè per processi che ammettono una rappresentazione della classe ARMA causale e invertibile e per i quali, come si vedrà, la teoria della previsione risulta particolarmente semplice. Si consideri un processo stocastico a tempi discreti) X t, di media nulla e di cui sia nota la distribuzione. Si supponga di volerne predire il valore al tempo t k, noti i valori assunti dal processo ai tempi t, t 1, t 2... L individuazione del previsore ottimale, cioè del miglior stimatore del futuro, dipende, ovviamente, dal criterio di ottimalità scelto. Usualmente, si utilizza il criterio della minimizzazione dell errore quadratico medio di previsione e si chiede che il previsore di X tk sia tale da rendere minima la quantità 1.1) EX tk ˆX tk ) 2, essendo ˆX tk il previsore prescelto, funzione delle osservazioni passate. Questa scelta corrisponde all assunzione di una funzione di perdita di tipo quadratico lo scarto quadratico medio). È importante, però, tenere presente che si tratta comunque di una scelta e che, in base alla natura del problema che si affronta, potrebbe essere molto più adeguato e coerente ricorrere a funzioni di perdita differenti e quindi ad altri criteri di ottimalità nell individuazione del previsore. In molte situazioni concrete si è condotti a scegliere funzioni di perdita non simmetriche per esempio, eccedere nella previsione dell intensità di un terremoto è certamente meno grave che sottostimarne gli effetti) e con andamenti più articolati che non nel caso quadratico per esempio, con l esistenza di soglie oltre le quali la perdita diventa infinita, come nel caso in cui vi sia il rischio di perdere vite umane). Nel seguito della discussione, comunque, utilizzeremo il criterio della perdita quadratica e svilupperemo la teoria classica dei previsori ottimali. 2. Previsori 2.1. Previsore ottimale. Si voglia prevedere la variabile X tk conoscendo i valori assunti dalle variabili X t, X t 1, X t 2... Si tratta di individuare una funzione misurabile) fx t, X t 1,...) che renda minima, nell insieme di tutte le funzioni misurabili) del passato del processo, la perdita quadratica, cioè il seguente scarto quadratico medio: 2.1) E X tk fx t, X t 1,...) ) 2. Il problema è risolto dal teorema che segue: Teorema 2.1. La funzione fx t, X t 1,...) che rende minima la 2.1) è data dal valore atteso condizionato EX tk X t, X t 1,...). 1

2 2 Dimostrazione*. Poniamo X tk t EX tk X t, X t 1,...) e osserviamo, preliminarmente, che vale la seguente condizione: 2.2) E X tk X tk t ) X t, X t 1,... ) 0, essendo: E X tk X tk t ) X t, X t 1,... ) EX tk X t, X t 1,...) X tk t 0. Posto X t {X t, X t 1,...}, scriviamo la condizione di minimizzazione dello scarto quadratico medio nel modo seguente: E X tk fx t ) ) 2 E Xtk X tk t X tk t fx t ) ) 2 e sviluppiamo il secondo membro, ottenendo: E X tk fx t ) ) 2 EX tk X tk t ) 2 2E [ X tk X tk t ) Xtk t fx t ) )] E ˆXtk t fx t ) ). Il doppio prodotto che appare nello sviluppo precedente è nullo, in virtù della 2.2). Infatti, utilizzando le proprietà del valore atteso condizionato, possiamo sempre scrivere: E [ X tk X ) tk t Xtk t fx t ) )] [ Xtk E Xt {E X ) tk t Xtk t fx t ) ) ] } X t { E Xt Xtk t fx t ) ) [ Xtk E X ) ] } Xt tk t { E Xt Xtk t fx t ) ) } 0 0. In definitiva, otteniamo: E X tk fx t )) 2 E X tk X tk t ) 2 E Xtk t fx t )) 2. Essendo somma di due quantità non negative, quest espressione è minima se e solo se la funzione fx t ) annulla il secondo addendo, cioè se e solo se fx t ) X tk t quasi certamente).

3 3 Osservazione Abbiamo impostato la discussione nei termini della previsione di X tk dato il suo passato. È chiaro che quanto mostrato ha una validità più generale: data una variabile casuale Y e un insieme qualunque di variabili casuali {X t }, il miglior previsore di Y date le X t è il valore atteso condizionato EY {X t }). In questo modo, per esempio, potremmo anche stimare un valore mancante nel passato, sulla base dei valori osservati, precedenti e seguenti il dato assente Previsore lineare. Nella maggior parte delle applicazioni, il calcolo esplicito di X tk t non è possibile, perché esso richiede la conoscenza completa delle distribuzioni congiunte del processo, mentre nello studio delle serie storiche spesso non si può andare oltre una stima della matrice di varianze e covarianze. Inoltre, anche se fosse nota la distribuzione congiunta, la manipolazione matematica delle grandezze coinvolte potrebbe risultare assai complicata. È preferibile, allora, sviluppare una metodo di previsione che sia più agevole, anche se meno preciso. La semplificazione avviene mantenendo il criterio della minimizzazione dell errore quadratico medio, ma restringendo l insieme di funzioni delle osservazioni passate al cui interno cercare il previsore ottimale che pertanto sarà ottimale non in assoluto, ma solo rispetto all insieme considerato). In particolare, ci restringiamo a funzioni lineari del passato del processo. Il generico previsore lineare di X tk, costruito sul passato del processo X t, X t 1..., ha la seguente forma: 2.3) ˆXtk t λ i X t i per un opportuna successione {λ i } di numeri reali. Si tratta quindi di individuare i coefficienti {λ i } per i quali sia soddisfatta la seguente condizione di ottimo: 2.4) E X tk ˆX tk t ) 2 min. Tali coefficienti si ottengono semplicemente regredendo X tk sul proprio passato, esattamente coma avviene per l usuale regressione multipla, benché in questo caso si sia in presenza di un infinità numerabile di regressori. Naturalmente, la regressione sul passato del processo può essere fatta anche scegliendo, come variabili di regressione, le innovazioni ε t, ε t 1, ε t 2,... che, come già discusso in precedenza, costituiscono un sistema di regressori equivalente a quello costituito dalle variabili X t, X t 1, X t 2,... In tal caso, il generico previsore lineare ha la seguente

4 4 forma: 2.5) ˆXtk t ν i ε t i e l obiettivo è quello di individuare i coefficienti {ν i } per i quali esso soddisfi la 2.4). Vedremo che la costruzione del previsore in questa forma è particolarmente semplice e naturale quando il processo sia espresso in forma media mobile. Anzi, cominceremo la trattazione precisamente da questo caso e da qui, con facilità, otterremo i previsori nel caso di processi puramente non deterministici in forma AR o in forma ARMA. Prima di passare alla costruzione esplicita dei previsori, vogliamo però sottolineare un fatto importante. La scelta di limitarsi a previsori costruiti come funzioni lineari del passato deriva dalla difficoltà operativa di calcolare i previsori ottimali assoluti, cioè le medie condizionate. Ciò non significa che costruire i previsori lineari sia sempre e comunque una scelta adeguata, come mostra il seguente esempio. Esempio. Siano X e Z due variabili casuali gaussiane, standardizzate, fra loro indipendenti. Sia k 1 un numero naturale e definiamo una nuova variabile Y : Y X 2k Z. Costruiamo il previsore ottimale assoluto ed il previsore ottimale fra i lineari e confrontiamone gli errori quadratici medi. Il previsore ottimale di Y condizionatamente a X è semplicemente: EY X) EX 2k Z X) EX 2k X) EZ X) X 2k giacché Z è una variabile a media nulla indipendente da X. L errore di previsione coincide, evidentemente, con la variabile Y X 2k Z e la sua varianza è quindi pari a 1. Costruiamo, adesso, il previsore lineare. A questo scopo, dobbiamo regredire Y su X. Poiché X ha varianza unitaria e tutte le variabili hanno media nulla, la regressione Ŷ di Y su X si riduce alla seguente espressione: Ŷ CovY, X)X EY ) CovY, X)X EX 2k ).

5 5 La covarianza è immediatamente calcolata, notando che X ha tutti i momenti di ordine dispari nulli, essendo una variabile simmetrica a media nulla 1 : CovY, X) CovX 2k, X) CovZ, X) CovX 2k, X) EX 2k1 ) 0. Quindi il previsore lineare ottimale è semplicemente: e l errore di previsione è dato da Ŷ EX 2k ) Y Ŷ X2k Z EX 2k ). La sua varianza, grazie all indipendenza tra le variabili, è semplicemente: e diverge all infinito al crescere di k. V ary Ŷ ) V arx2k ) 1 2k)! 2 k k! 1 L esempio mostra come il previsore lineare, paragonato a quello ottimale, possa dare risultati insoddisfacenti, se utilizzato in circostanze non adeguate. Si noti, in particolare, che al crescere di k la variabile Y si discosta progressivamente dalla normalità Previsione lineare per i processi MA. Consideriamo un processo stazionario {X t } posto nella forma di una media mobile infinita: 2.6) X t con i1 θ2 i <. θ i ε t i La forma del previsore lineare ottimale basato sul passato fino al tempo t è fornita dalla seguente proposizione si noti che, in questo caso, è conveniente esprimere il previsore come combinazione lineare delle innovazioni): 1 Poiché X è distribuita come X, X 2k1 è distribuita come X) 2k1 X 2k1 e dunque, dovendo essere EX 2k1 ) E X 2k1 ) EX 2k1 ) è necessariamente EX 2k1 ) 0.

6 6 Proposizione 2.2. Il miglior previsore lineare ˆX tk t per il processo 2.6), basato sul passato sino al tempo t, è dato dalla seguente espressione: 2.7) ˆXtk t θ k ε t θ k1 ε t 1... θ ik ε t i. Dimostrazione. Scelto un generico previsore lineare ν iε t 1, scriviamo l errore di previsione nel seguente modo: η tk θ i ε tk i ν i ε t i j0 ik k 1 θ i ε tk i θ i ε tk i ν i ε t i k 1 θ i ε tk i θ ik ν i )ε t i. In virtù dell incorrelazione fra le innovazioni, l errore quadratico medio del previsore lineare è immediatamente calcolato: 2.8) Eηtk 2 ) k 1 σ2 ε θi 2 σε 2 θ ik ν i ) 2. Essendo somma di due addendi non negativi, l espressione precedente è minima se e solo se i coefficienti ν i rendono nulli entrambi gli addendi, cioè se: 2.9) ν i θ ik i 0, 1, 2... Il previsore lineare è corretto, cioè il valore atteso del suo errore è nullo: Eη tk ) E k 1 ) θ i ε tk i 0. La varianza dell errore di previsione è immediatamente ricavata come: k ) V arη tk ) σε 2 θi 2. Naturalmente, la previsione peggiora man mano che l orizzonte previsivo viene spostato in avanti. Se k tende all infinito, il previsore tende, in media quadratica, alla media

7 del processo. Infatti: ) 2 lim E ˆXtk t lim k k σ2 ε θ 2 ik lim k σ2 ε θj 2 0, giacché jk θ2 j è il resto di una serie convergente. Contemporaneamente, l errore quadratico medio di previsione cresce e tende alla varianza del processo: lim V arη k 1 tk) lim k k σ2 ε θi 2 σε 2 θi 2 V arx t ). È possibile dare una forma mnemonica molto comoda al previsore lineare ottimale appena ricavato. Sia ΘB) il polinomio che definisce la rappresentazione M A ) del processo: X t ΘB)ε t. Poniamo simbolicamente: ΘB) B k θ i B i k e introduciamo il seguente operatore di annichilazione [ ] : [ ] ΘB) θ i B i k. B k L operatore di annichilazione agisce ponendo uguali a zero i coefficienti dei termini con esponenti negativi. A questo punto, è chiaro che il previsore può essere scritto come segue: [ ] ΘB) ˆX tk t B k ε t. ik jk 7 La teoria appena sviluppata permette di costruire facilmente anche i previsori per processi media mobile di ordine finito. Un processo media mobile di ordine q, infatti, non è altro che un caso particolare di processo MA ), nel quale tutti i coefficienti θ q1, θ q2,... sono nulli. Pertanto, per la costruzione del previsore possiamo utilizzare le formule appena discusse, che in questo caso assumeranno una forma ancora più semplice. Se k q: ˆX tk t θ k ε t θ k1 ε t 1... θ q ε tk q q θ i ε tk i ; ik

8 8 X tk ˆX k 1 tk t θ i ε tk i ; V ar X tk ˆX ) k 1 tk t σε 2 θi 2. Viceversa, se k > q, il previsore coincide con la media del processo e la varianza dell errore di previsione coincide con la varianza del processo. Quindi, per un processo MAq), la previsione su un orizzonte temporale più lungo di q istanti si banalizza. La previsione per i processi M A è dunque molto semplice, essenzialmente grazie al fatto che la formulazione mediante medie mobili rappresenta il processo su un sistema di regressori incorrelati e di varianza identica. In generale, però, noi non osserviamo direttamente gli shock casuali ε t, ma i valori assunti dalle variabili X t, X t 1, X t 2... e quindi è necessario individuare il modo di costruire il previsore lineare ottimale non come funzione degli ε t, ma come funzione esplicita del passato del processo effettivamente osservato. Se, come abbiamo supposto sin dall inizio, il processo stazionario è anche invertibile, allora possiamo passare dalla rappresentazione media mobile alla corrispondente rappresentazione autoregressiva, in generale di ordine infinito: X t ϕ i X t i ε t dove ε t ΦB)X t ΘB) 1 X t. Ora possiamo riesprimere il previsore ˆX tk t in funzione delle osservazioni passate: [ ] [ ] [ ] ΘB) ΘB) ΘB) 2.11) ˆXtk t B k ε t B k ΦB)X t B k ΘB) 1 X t. Questa formula è nota come formula di Wiener-Kolmogorov. Applicando il previsore di Wiener-Kolmogorov al modello M Aq), otteniamo per k q: [ 1 θ1 B... θ q B ˆX q ] tk t µ B k 1 θ 1 B... θ q B q ) 1 X t.

9 Esempio: processo M A1). Nel caso di un processo media mobile di ordine 1, la previsione per k > 1 coincide con la media del processo, mentre per k 1 si ottiene, con un applicazione diretta della formula di Wiener-Kolmogorov: 9 [ ] 1 θ1 B ˆX t1 t 1 θ 1 B) 1 X t θ 1 1 θ 1 B) 1 X t. B Esempio: processo M A2). Consideriamo un generico processo M A2) invertibile e di media nulla: X t ε t θ 1 ε t 1 θ 2 ε t 2 e calcoliamo i previsori ˆXt1 t, ˆXt2 t e ˆX t3 t, applicando la formula di Wiener- Kolmogorov. Otteniamo facilmente: ˆX t1 t [ 1 θ1 B θ 2 B 2 ] 1 θ 1 B θ 2 B 2 ) 1 X t B θ 1 θ 2 B)1 θ 1 B θ 2 B 2 ) 1 X t ; ˆX t2 t [ 1 θ1 B θ 2 B 2 ] B 2 1 θ 1 B θ 2 B 2 ) 1 X t θ 2 1 θ 1 B θ 2 B 2 ) 1 X t ; ˆX t3 t [ 1 θ1 B θ 2 B 2 ] B 3 1 θ 1 B θ 2 B 2 ) 1 X t 0 1 θ 1 B θ 2 B 2 ) 1 X t 0. I previsori a lag superiori a 3, ovviamente, coincidono con la media del processo.

10 Previsione lineare per i processi AR. Consideriamo ora un processo stazionario causale autoregressivo di ordine infinito: 2.12) ΦB)X t X t ϕ i X t 1 ε t. Il previsore lineare ottimale per tale modello si ottiene facilmente dal previsore di Wiener-Kolmogorov, costruito nel caso di rappresentazioni media mobile. Infatti, in virtù dell invertibilità dell operatore ΦB), la rappresentazione 2.12) può essere riscritta in forma di media mobile i1 2.13) X t ΦB) 1 ε t e il previsore lineare ottimale è subito ottenuto dalla 2.11): [ ] ΦB) ) ˆXtk t B k ΦB)X t. Il caso della previsione per un processo ARp) è, naturalmente, un caso particolare della 2.14), come si vede subito ponendo uguali a zero i coefficienti ϕ i per i > p. Si noti che, a differenza del caso MA, il previsore di un processo autoregressivo di ordine finito non si banalizza mai, giacché la corrispondente rappresentazione media mobile è di ordine infinito. Esempio: processo AR1). In questo caso, è ΦB) 1 ϕ 1 B, con ϕ 1 < 1. Inserendo questa espressione nel previsore e utilizzando lo sviluppo per l inverso di I ϕ 1 B), otteniamo: ˆX tk t [ 1 ϕ1 B ϕ 2 ] 1 B2... B k ΦB)X t ϕ k 1 ϕ k1 1 B...)ΦB)X t ϕ k 11 ϕ 1 B ϕ 2 1B 2...)ΦB)X t ϕ k 1ΦB) 1 ΦB)X t ϕ k 1X t. All allontanarsi dell orizzonte previsivo, il previsore tende in media quadratica alla media del processo: lim k V ar ˆX tk t VarX t ) lim k ϕ2k 1 0

11 11 e l errore di previsione è dato da: X tk ˆX tk t ε tk ϕ 1 X tk 1 ϕ k 1X t ε tk ϕ 1 ε tk 1 ϕ 2 1X tk 2 ϕ k 1X t ε tk ϕ 1 ε tk 1 ϕ 2 1ε tk 2... ϕ1 k 1 ε t1. La varianza dell errore di previsione è pari a σε 2 k 1 ϕ2i 1 e, al crescere dell orizzonte previsivo, tende alla varianza del processo: k 1 lim k σ2 ε ϕ 2i 1 σ2 ε 1 ϕ 2 1 VarX t ) Previsione lineare per i processi ARM A. Consideriamo un generico processo stazionario e invertibile, che soddisfi la seguente rappresentazione ARM Ap, q): 2.15) ΦB)X t ΘB)ε t. In virtù dell invertibilità degli operatori ΦB) e ΘB), possiamo scrivere le seguenti due forme alternative per X t : ΘB) 1 ΦB)X t ε t ΦB) 1 ΘB)ε t X t e quindi utilizzare le formule per il previsore di Wiener-Kolmogorov già presentate per i processi autoregressivi: [ ΦB) ˆX 1 ] ΘB) t1 t B k ΘB) 1 ΦB)X t. Esempio: processo ARM A1, 1). Consideriamo un processo stazionario, causale e invertibile espresso nella rappresentazione ARM A1, 1): 1 ϕb)x t 1 θb)ε t. Il calcolo del previsore lineare ottimale è immediatamente ricondotto alle formule precedenti grazie all ipotesi d invertibilità, per la quale possiamo porre 1θB) 1 1 ϕb) ωb), ottenendo: [ ] ωb) ) ˆXtk t B k ωb)x t.

12 12 Sviluppiamo il primo fattore, contenente l operatore di annichilazione: [ ] [ ωb) 1 1 θb)1 ϕb ϕ 2 B 2 ]...) B k B k [ 1 ϕb ϕ 2 B 2 ]... ik B k ϕ i B i k θ ϕ i 1 B i k ik ϕ k ϕ i k B i k θϕ k 1 ϕ i k B i k ik ϕ k θϕ k 1 ) [ B ϕb 2 ϕ 2 B 3 ]...) θ ik ϕ i k B i k ϕ k θϕ k 1 )1 ϕb) 1. Sostituendo questa relazione nella formula del previsore, otteniamo: ik B k 2.17) ˆXtk t ϕ k θϕ k 1 )1 θb) 1 X t. È evidente che al tendere di k all infinito, il previsore tende, in media quadratica, a zero, cioè, in generale, al valor medio del processo. Parallelamente, la varianza dell errore di previsione tende alla varianza del processo. 3. Previsione finita La questione della previsione così come è stata impostata e risolta nei paragrafi precedenti soffre di un problema operativo: sono necessarie infinite osservazioni per poter applicare i previsori lineari ottimali. Naturalmente, si tratta di una condizione che non è possibile soddisfare nella realtà ed è quindi necessario ottenere formule alternative per i previsori, basate su un passato finito Previsori approssimati*. Una prima possibilità è quella di utilizzare i previsori ottimali appena descritti e troncarne l espressione all ultimo istante temporale osservato. Questa soluzione equivale ad immaginare di osservare tutto il passato, supponendo che le osservazioni precedenti quelle realmente effettuate siano nulle.

13 Il problema, in questo caso, è che la bontà dell approssimazione deve essere valutata di caso in caso, giacché dipende dal numero di osservazioni fatte e dal valore dei parametri dei modelli in esame. Consideriamo, per esempio, il previsore lineare ottimale per il modello M A1): ˆX t1 t θ 1 1 θ 1 B) 1 X t θ 1 1 θ 1 B θ 2 1B 2...)X t. 13 Se sono disponibili le osservazioni da t h sino a t, l espressione del previsore avrà la seguente forma: ˆX h) t1 t θ 11 θ 1 B θ 2 1B ) h θ h 1 B h )X t. Per valutare la bontà dell approssimazione, dobbiamo confrontare gli errori di previsione del previsore esatto e di quello troncato. Nel primo caso, sappiamo dalla 2.10) che la varianza è pari a σε. 2 Per calcolare l errore di previsione nel caso troncato, osserviamo che vale la seguente relazione, che si dimostra per verifica diretta: 1 θ 1 B θ 2 1B ) h θ h 1 B h )X t 1 θ 1 B... 1) h θ h 1 B h )1 θ 1 B)ε t 1 1) h θ h1 1 B h1 )ε t. L errore di previsione risulta, in tal modo: X t1 la cui varianza, pari a ˆX h) t1 t ε t1 θ 1 ε t θ 1 ε t θ 1 1) h1 θ h1 ε t h 1 ε t1 1) h1 θ h2 1 ε t h 1 σ 2 ε 1 θ 2h2) 1 ), è superiore a quella del previsore non troncato. Al crescere di h, il previsore troncato tende, in media quadratica, al previsore infinito e la varianza dell errore di previsione tende a σ 2 ε dato che, per la condizione di invertibilità, θ 1 < 1. Per k finito, l approssimazione troncata è tanto migliore quanto più θ 1 è piccolo, in modo che il termine θ h2 1 ε t h 1 converga rapidamente a zero, al crescere di h.

14 Previsori esatti. Conoscendo solo una parte finita del passato del processo, cerchiamo di costruire il previsore lineare esatto, basato su un numero finito di osservazioni. Questo è un semplice problema di regressione multipla, dove l insieme dei regressori è costituito dal passato finito {X t,..., X t s }. Fissato l orizzonte previsivo k, dobbiamo pertanto cercare i coefficienti ω k) 1,..., ωk) s per i quali sia soddisfatta la seguente uguaglianza: con η k) tk s ωk) i X t i. X tk s ω k) i X t i η k) tk I coefficienti si ricavano impostando il seguente sistema di equazioni, detto sistema di Yule-Walker, ottenuto uguagliando le covarianze tra le variabili X t j, 0 j s e i due membri della precedente relazione: s ) CovX tk, X t j ) Cov ω k) i X t i, X t j s s ω k) i CovX t i, X t j ) ω k) i γ i j 0 j s. Il membro di sinistra non è altro che γ kj, pertanto possiamo scrivere: γ kj s ω k) i γ i j 0 j s che in forma matriciale diventa, ricordando che la matrice di varianze-covarianze è simmetrica: 3.1) γ k) Γω k) dove: γ k) γ k γ k1. γ ks γ 0 γ 1... γ s ; Γ γ 1 γ 0... γ s ; ωk) γ s γ s 1... γ 0 ω k) 0 ω k) 1. ω k) s.

15 Dalla 3.1) ricaviamo il vettore ω per inversione della matrice Γ che per processi stazionari non deterministici è sempre invertibile): 3.2) ω k) Γ 1 γ k). La forma esplicita del previsore è quindi: 3.3) ˆXtk t ω k) i ε t i con g ij generico elemento della matrice Γ 1. i,j0 g ij γ k) j ε t i, Osservazione. Notiamo che al variare dell orizzonte previsivo varia il vettore γ k), ma non la matrice Γ che rimane fissa. Quindi, se dobbiamo calcolare il previsore per diversi orizzonti temporali, date le variabili osservate nel passato, è sufficiente calcolare una volta per tutte Γ e poi applicarla a differenti vettori γ k). Osservazione. Sia il previsore troncato che il previsore esatto basati sulla medesima parte finita di storia del processo sono una combinazione lineare delle variabili osservate più una costante). La differenza tra i due è che i coefficienti del previsore troncato non sono ottimali, nel senso che non definiscono la regressione della variabile da prevedere sulla porzione di passato osservata e quindi non minimizzano la varianza dell errore di previsione. Se indichiamo con: s θ k) i X t i il previsore troncato, allora l informazione lineare) presente nel passato osservato che il previsore troncato non è in grado di catturare è sintetizzata dalla seguente variabile δ: s s s δ tk t θ k) i X t i ω k) i X t i θ k) i ω k) i )X t i. La sua varianza è data da: V arδ tk t ) s g k) i i,j0 ω k) i )γ ij g k) j ω k) j ). 15 Osservazione. In tutta la discussione che abbiamo svolto, abbiamo supposto che il passato osservato fosse composto da s osservazioni consecutive. È chiaro che tutto quanto detto rimarrebbe inalterato se le osservazioni riguardassero un numero finito di istanti temporali sparsi nel passato del processo. Se avessimo osservato le variabili X t1,..., X ts, per costruire il previsore esatto basterebbe regredire sulle s variabili conosciute e tutto rimarrebbe identico alla discussione precedente.

16 16 Esempio: previsione di un processo AR1). Consideriamo il seguente processo stazionario di media nulla, in forma autoregressiva: 3.4) X t φx t 1 ε t con φ < 1. Supponiamo di aver osservato solo la variabile X 0 e diamo le previsioni per tutti i tempi successivi. La funzione di covarianza per questo processo ha la seguente forma: γ k φ k γ 0 e a sua volta γ 0 è rapidamente ricavato dalla definizione del processo: γ 0 φ 2 γ 0 σ 2 ε da cui si ottiene: γ 0 σ2 ε 1 φ 2. Avendo a disposizione una sola osservazione, il parametro s è pari a 0, pertanto la matrice Γ si riduce allo scalare Γ γ 0 Analogamente, il vettore γ k) è semplicemente γ k) γ k. Il sistema di Yule-Walker si banalizza e si ottiene si noti che, volendo prevedere il futuro k è positivo e quindi uguale a k ) e la previsione di X k è semplicemente: ω 0 γ k γ 0 ρ k φ k ˆX k 0 φ k X 0. La varianza dell errore di previsione è fornita dalla seguente espressione: V arx k ˆX k 0 ) V arφx k 1 ε k φ k X 0 ) φ 2 γ 0 σ 2 ε φ 2k γ 0 2φ k1 γ k 1 φ 2 γ 0 σ 2 ε φ 2k γ 0 2φ k1 φ k 1 γ 0 φ 2 1 φ 2 σ2 ε σε 2 φ2k 1 φ 2 σ2 ε 2φ2k 1 φ 2 σ2 ε ) 1 φ σε 2 2k 1 φ 2.

17 17 Dalle espressioni appena fornite si vede che: se k 1, la varianza dell errore di previsione coincide con la varianze di σ 2 ε, come ovvio attendersi, data la forma AR1) del processo; se k, il previsore tende a zero in media quadratica cioè alla media del processo) e la varianza del previsore tende al valore σ 2 ε/1 φ 2 ), cioè alla varianza del processo. Esempio. La costruzione del previsore dipende esclusivamente dalla funzione di covarianza, non dallo specifico processo che la realizza. Pertanto, per costruire il previsore esatto basta che sia assegnata γ k. Supponiamo che sia: 3.5) γ k 2E k e calcoliamo la matrice Γ nel caso in cui siano disponibili le osservazioni ai tempi t t 1 e t t 2. Evidentemente, è γ 0 2 e γ t1 t 2 2E t 1 t 2, pertanto: 2 2E 3.6) Γ t ) 1 t 2 2E t 1 t 2 2 da cui si ricava immediatamente Γ 1 : 2 1 e t 1 t 2 e t 1 t ) Γ e t ) 1 t 2 21 e 2 t 1 t 2 ) e t 1 t 2. 1 Per prevedere il processo al generico tempo t 3, è sufficiente applicare Γ 1 al vettore: 3.8) γ ricavando γ t3 t 1 γ t3 t 2 ) ) e t 3 t 1 2, e t 3 t 2 e t 3 t 1 3.9) ω e t ) 1 t 2 t 3 t 2 e t 1 t 2 t 3 t 1 e t 1 t 2. )

18 18 Vale la pena notare che se, per esempio, poniamo t 3 t 1, il vettore ω si riduce a: e t 1 t 1 ω e t ) 1 t 2 t 1 t 2 1 e e t 1 t 2 t 1 t 1 e t 1 t 2 2 t ) 1 t 2 1 e t 1 t 2 e t 1 t 2 0) cioè il previsore per il tempo t 1 coincide con la variabile X t1 che è stata osservata e, come lecito attendersi, in questo caso la varianza dell errore di previsione si annulla.