Analisi delle Serie Temporali lucidi delle lezioni a.a. 2004/05

Transcript

1 Analisi delle Serie Temporali lucidi delle lezioni a.a. 2004/05 Guido Masarotto Facoltà di Scienze Statistiche Università di Padova 16 gennaio 2005 ii

2 Materiale didattico 1. Questi lucidi 2. (diario delle lezioni in laboratorio informatico), disponibile sul sito della facoltà Indice 3. C. Chatfield (1996), The analysis of time series: an introduction, Chapman and Hall, Londra 4. T. Di Fonzo e F. Lisi (2001), Complementi di statistica economica. Analisi delle serie storiche univariate, Cleup Editrice, Padova A. Introduzione, 1 Che cos è una serie temporale (o storica)?, 2 Esempio 1: SO2: media giornaliera rilevate nella centralina posta all interno dell Ospedale Civile di Padova, 3 Esempio 2: linci catturate annualmente in Canada, 4 Esempio 3: portata del Nilo, 5 Esempio 4: consumo di gas, 6 Esempio 5: consumo di vino bianco secco, 7 Esempio 6: vendite di un certo prodotto (e una serie che dovrebbe anticiparne le variazioni), 8 Esempio 7: indice di qualità di un processo produttivo, 9 Esempio 8: input e output di una centrale a gas, 10 Esempio 9: diametro delle gonne all orlo, 11 Il problema..., 12 Principali applicazioni, 13 Caratteristiche del corso, 14 B. Kolmogorov perdono!, 15 Che cos è un processo stocastico?, 16 Serie temporali e processi stocastici, 17 Caratteristiche interessanti di un processo stocastico, 18 Il problema della stazionarietà, 19 Processi stocastici stazionari, 21 Proprietà della funzione di autocorrelazione di un processo stocastico stazionario, 22 C. Stima della funzione di autocorrelazione, 23 Stima di alcune caratteristiche interessanti, 24 Una banda ci viene in aiuto, 26 Quattro serie temporali..., il loro correlogramma..., qualche commento..., un esercizio e..., la sua soluzione, 36 La temperatura al castello di Nottingham, 37 Un correlogramma a Nottingham, 38 A castello è meglio essere corretti, 39 Nottingham: grafici di autodispersione, 40 Esercizio, 42 La produzione di automobili in Giappone, 43 Esercizio, 45 Il test di Ljung-Box (e quello di Box-Pierce), 46 D. Scomposizione di una serie temporale in componenti elementari, 49 E se il processo non è stazionario?, 50 Componenti di una serie temporale, 51 Modelli di composizione, 52 Esempio di una serie additiva, 53 Esempio di una serie moltiplicativa, 54 Destagionalizzazione di una serie temporale, 55 Perchè destagionalizzare?, 56 E. Stima della media e sua scomposizione mediante modello di regressione, 61 CO2 a Mauna Loa, 62 CO2: un modello lineare, 66 CO2: serie destagionalizzata, 70 Altri modelli di regressione: cenni, 71 Appendice: richiami sul modello di regressione lineare multiplo, 72 F. Scomposizione di una serie temporale: un approccio flessibile, 77 Il punto debole..., 78 Filtri lineari e medie mobili, 79 Medie mobili per eliminare una componente stagionale, 82 Filtri in serie, 87 Regressione polinomiale locale, 89 Stima del trend in assenza di stagionalità, 97 Stima della componente stagionale in assenza di trend, 99 STL, 104 Estensioni e cautele, 119 G. Modelli stocastici dinamici: alcune idee introduttive, 121 Struttura di un modello dinamico, 122 Proprietà dell innovazione, 123 H. Modelli dinamici basati sull idea di lisciamento esponenziale, 125 Un modello basato sul lisciamento esponenziale, 126 Serie alla deriva, 132 Modelli stagionali, 141 Innovazione additiva o moltiplicativa?, 148 Sintesi dei modelli considerati, 149 Nomi assegnati in letteratura ad alcuni casi particolari, 151 Costruzione empirica di un modello, 152 Stima dei parametri, 153 Scelta di un modello, 157 Verifica dell adattamento, 159 Previsione: considerazioni generali, 160 Previsione con i modelli basati sul lisciamento esponenziale, 163 I. I modelli ARMA e ARIMA, 171 Introduzione, 172 Modelli a media mobile, 173 Invertibilità di un modello MA(q), 175 Modelli autoregressivi, 178 La funzione di autocorrelazione parziale, 180 Modelli autoregressivi a media mobile, 182 L operatore di ritardo, 184 Modelli integrati ovvero metti un po di trend in un modello ARMA, 185 Modelli ARIMA stagionali, 189 La varianza di un processo ARIMA e delle sue differenze, 193 Stima dei parametri, 195 Identificazione di un modello ARMA/ARIMA, 196 Previsioni lineari, 197 Previsione con un modello ARIMA, 204 iii iv

3 ... Unità A Introduzione

4 Che cos è una serie temporale (o storica)? Non è infrequente, nelle applicazioni, che le osservazioni sulle variabili di interesse siano raccolte sequenzialmente nel tempo (vedi esempi nelle pagine seguenti). Nel caso in cui, siano rilevate k variabili in n istanti di tempo, i dati prendono quindi la forma variabili rilevate tempo Y 1 Y k t 1 y 1t1. y kt1 t 2 y 1t2. y kt2.... t n y 1tn. y ktn e costituiscono quello che è usualmente chiamata una serie temporale (o storica) k-variata. Ovviamente, consideremo solo il caso in cui i fenomeni rilevati siano statistici, ovvero, mostrino una variabilità non trascurabile e siano non deterministici. v Esempio 1: SO 2 : media giornaliera rilevate nella centralina posta all interno dell Ospedale Civile di Padova Time Le osservazioni iniziano il primo marzo Mostrano chiaramente che l SO 2 è un inquinante invernale e sembrano indicare una forte diminuzione durante l inverno del 94. Si noti anche la presenza di osservazioni mancanti (rotture della centralina). 2 Unità A Introduzione 3

5 Esempio 2: linci catturate annualmente in Canada Esempio 3: portata del Nilo lynx Nile E evidente una componente ciclica con una frequenza poco più lunga di 10 anni (ci sono 12 minimi e 12 massimi in circa 110 anni) Time Qual è la distribuzione del massimo in 500 anni delle portate? 4 Unità A Introduzione 5

6 Esempio 4: consumo di gas Esempio 5: consumo di vino bianco secco UKgas Time La serie è trimestrale. Si osservi sia l aumento nel tempo che la presenza di oscillazioni di tipo stagionale la cui ampiezza aumenta con l aumentare del livello della serie stessa. Si osservi sia l aumento nel tempo che la presenza di oscillazioni di tipo stagionale. 6 Unità A Introduzione 7

7 Esempio 6: vendite di un certo prodotto (e una serie che dovrebbe anticiparne le variazioni) Esempio 7: indice di qualità di un processo produttivo BJsales.lead BJsales Il primo grafico mostra le vendite di una azienda. Il secondo una serie che anticipa i cambiamenti della prima serie. Si vedano gli istanti di tempo indicati dalle linee tratteggiate verticali. Sono punti di svolta per la seconda serie che anticipano simili andamenti nella prima. Il problema è come è possibile utilizzare queste informazioni per calcolare delle previsioni delle vendite (che ad esempio, potrebbero essere utilizzate per decidere quanto produrre, quante scorte mantenere,... ) 25 giorni di misurazioni (5 misure al giorno) su di un parametro che misura la qualità di un processo produttivo. Idealmente, questo parametro dovrebbe essere sempre uguale a 13. Ci sono viceversa delle oscillazioni = nessuno è perfetto, neanche un processo produttivo altamente automatizzato come quello considerato. Una domanda a cui si vorrebbe rispondere è Tutte le oscillazioni sono casuali? Oppure, nascosto nel rumore, c è qualcosa di sistematico e quindi magari di eliminabile? 8 Unità A Introduzione 9

8 Esempio 8: input e output di una centrale a gas Esempio 9: diametro delle gonne all orlo GFinput GFoutput Il grafico di sopra mostra una serie di misurazioni condotte su un parametro che può essere interpretato come un indice di qualità della produzione di una fornace a gas. Il grafico di sotto una caratteristica della fornace che può essere controllata dal personale tecnico. Il problema è capire come fissare i valori della seconda serie per far correre la prima il più possibile vicino al suo valore obbiettivo (cioè 60) Beh, ci sono anche delle serie temporali frivole! O forse no! 10 Unità A Introduzione 11

9 Il problema è quello di capire la dinamica della serie osservata, ovvero, il meccanismo con cui si evolve nel tempo. In particolare, in questo corso, ci occuperemo di descrivere/modellare le variazioni nel tempo della media (ed, eventualmente di altre caratteristiche). descrivere/modellare le relazioni dinamiche di tipo lineare esistenti (ovvero tra le osservazioni ieri, oggi, domani,... ). Principali applicazioni Oltre ad essere interessante in se, capire il meccanismo generatore di una serie temporale può essere utile per Prevedere il futuro (whow!): al tempo t n vogliamo prevedere i valori che la serie temporale assumerà al tempo t > t n. Controllare un fenomeno (ri-whow!): si supponga di avere a che fare, per semplicità, con due sole variabili (k = 2) e che: i) le variazioni di y 1t influenzino y 2t ; ii) y 1t sia controllabile (ovvero possiamo fissarne i valori); iii) non possiamo controllare y 2t ; però, desideremmo che y 2t risulti uguale ad un valore prefissato, diciamo η, per ogni t. Il problema è: quali valori scegliamo per la prima variabile affinchè la seconda si discosti il meno possibile dal valore desiderato? Osservazione: Per dare una risposta ad ambedue i problemi dobbiamo ovviamente dare una risposta alle domande del lucido di pagina 12. Esercizio: Spiegare perchè è vera la precedente osservazione. 12 Unità A Introduzione 13

10 Caratteristiche del corso 1. E introduttivo: vuole presentare solo alcune idee e tecniche di base. Considereremo solo dati equispaziati nel tempo (t i t i 1 = ); situazioni in cui le variabili rilevate siano numeriche ed (almeno assimilabili a variabili) reali, quasi sempre il caso di serie univariate, solo (o quasi) relazioni dinamiche di tipo lineare. 2. E operativo: vuole sviluppare la capacità di analizzare concretamente delle serie reali (per questo le esercitazioni nel laborario informatico costituiscono una parte integrante del corso). Osservazione. Il trattare serie univariate osservate ad intervalli costanti (equispaziate nel tempo) ci permette tra l altro di semplificare la notazione. Possiamo infatti, senza perdità di generalità, indicare con 1,..., n gli istanti di tempo in cui la serie è stata osservata e con Unità B Kolmogorov perdono! 2 cose 2 sui processi stocastici ovvero sul modello probabilistico di riferimento funzione di autocovarianza e di autocorrelazione stazionarietà y 1,..., y n le osservazioni. 14 Unità A

11 Che cos è un processo stocastico? Per quello che ci riguarda, trascurando definizioni più generali, un processo stocastico consiste semplicemente in una successione di variabili casuali Y = {Y t : < t < + } ordinate nel tempo e con arbitrarie relazione di dipendenza interne. Un esperimento su Y ci fornisce quindi una particolare successione numerica {y t : < t < + } in cui ciascuna y t è il risultato di un esperimento sulla variabile casuale Y t. Una particolare successione generata dal processo viene usualmente chiamata realizzazione o traiettoria del processo. Ovviamente, a meno di casi degeneri, esperimenti diversi su Y risulteranno in traiettorie diverse, ovvero, il processo può generare differenti (tipicamente infinite) successioni. In caso contrario, il meccanismo sarebbe deterministico non stocastico. Le varie traiettorie generabili dal processo non avranno però in generale tutte la stessa probabilità, ovvero, avremmo traiettorie più probabili e traiettorie meno probabili. Serie temporali e processi stocastici L analisi delle serie temporali è rivolta alla comprensione di fenomeni che si evolvono nel tempo in maniera non deterministica. I processi stocastici sono modelli matematici utili per descrivere la legge probabilistica (o stocastica -dal greco che ha a che fare con il caso ) con cui un certo fenomeno fisico si può evolvere nel tempo (o nello spazio, o nel tempo e nello spazio,... ). In questo senso, costituiscono il modello probabilistico naturale di riferimento per l analisi delle serie temporali. Possiamo guardare alle osservazioni disponibili (la serie storica osservata) come ad un pezzettino di una realizzazione di un processo stocastico e utilizzare questi dati per cercare di capire la legge probabilistica (o alcuni dei suoi aspetti) del processo stocastico che li ha generati, ovvero, ricondurre l analisi delle serie temporali ad un problema di inferenza statistica su processi stocastici. Questo è quello che faremo. Si osservi comunque che non è filosoficamente indolore. Ovvero, spesso l esperimento che ha generato la serie osservata è irripetibile. A noi quindi interessa la serie osservata, non il meccanismo con cui potrebbero esserne generate altre di analoghe ma, a questo punto, in mondi in cui non abitiamo. 16 Unità B Kolmogorov perdono! 17

12 Caratteristiche interessanti di un processo stocastico E possibile dimostrare che la distribuzione di probabibilità di un processo stocastico è completamente caratterizzata dall insieme di tutte le distribuzioni di probabilità finito-dimensionali del processo, ovvero, dalle distribuzioni di probabilità di (Y t1,..., Y tk ) per qualsivoglia k e per qualsivoglia scelta associata di t 1,..., t k. Stimare però dai dati tutte queste distribuzioni è, soprattutto in assenza di forti informazioni sul processo, praticamente impossibile. Molto spesso ci si limita perciò a considerare solamente i momenti primo e secondo del processo e, quindi, le seguenti funzioni 1 : media: η t = E(Y t ), varianza: σ 2 t = var(y t ), autocovarianza: γ(t, t ) = cov(y t, Y t ), e la associata funzione di autocorrelazione ρ(t, t ) = γ(t, t ) σ t σ t Il problema della stazionarietà Supponiamo di avere a disposizione 1000 osservazioni su di una serie temporale univariata (ovvero conosciamo y 1,..., y 1000 ) e di voler calcolare una previsione per il valore che la serie assumerà al tempo 1001 (ovvero per y 1001 ). Sulla base delle cose che sappiamo dai corsi precedenti potremmo ad esempio pensare di utilizzare un modello di regressione lineare semplice in cui y 1001 sia la variabile dipendente utilizzando come variabile esplicativa l osservazione nota più vicina nel tempo ovvero y Questo, utilizzando le formule note dal corso di Statistica Descrittiva e la notazione del lucido (18), ci portà a pensare ad una previsione calcolata come ^y 1001 = η γ(1001, 1000) σ 2 (y 1000 η 1000 ) 1000 E però evidente che questa formula non è utilizzabile senza ipotesi aggiuntive sul processo stocastico che genera i dati. Infatti, anche se abbiamo un certo numero di osservazioni (1000), poichè non abbiamo nessuna osservazione su Y 1001 non abbiamo nessun dato che ci fornisca direttamente informazioni su η che, con alcune eccezioni che saranno evidenziate, supporremmo tranquillamente esistere 18 Unità B Kolmogorov perdono! 19

13 Analogamente, nei dati non abbiamo nessuna informazione diretta sulla covarianza tra Y 1000 e Y 1001 (ci servirebbero dei dati generati dalla variabile casuale bivariata (Y 1000, Y 1001 )). E anche su Y 1000 abbiamo una sola osservazione. Un po poco per stimare in maniera affidabile η 1000 e completamente insufficiente per stimare dai dati σ 1000 Il problema è generale. Ovvero non c entra la formula della pagina precedente. Infatti, per calcolare delle previsioni dovremmo conoscere che relazione esiste tra quello che è accaduto fino ad oggi e che conosciamo, ovvero (y 1,..., y 1000 ), e quello che accadrà domani, ovvero y Ma nei dati, in assenza di ipotesi aggiuntive, non abbiamo informazioni dirette, sulla dipendenza tra passato, presente e futuro per il semplice e ovvio fatto che il futuro non lo abbiamo per definizione osservato. L ipotesi di stazionarietà è una ipotesi aggiuntiva spesso utilizzata (ovvero, che si è rivelata utile empiricamente) per risolvere il problema precedente (ed altri analoghi). Processi stocastici stazionari Un processo stocastico è detto stazionario in senso forte se per qualsiasi h, k, t 1,... e t k distribuzione di probabilità di (Y t1,..., Y tk ) è uguale alla distribuzione di probabilità di (Y t1 +h,..., Y tk +h); in senso debole se per qualsiasi h, t e t (interi) E(Y t ) = E(Y t ) var(y t ) = var(y t ) cov(y t, Y t ) = cov(y t +h, Y t +h) (tutti interi) la Si osservi che la prima definizione implica la seconda (almeno se i momenti coinvolti esistono). Nel caso un processo stocastico sia stazionario possiamo scrivere, con un leggero abuso di notazione rispetto a quanto fatto prima, E(Y t ) = η var(y t ) = σ 2 per qualsivoglia t e h cov(y t+h, Y t ) = γ(h) corr(y t+h, Y t ) = ρ(h) ovvero, se un processo è stazionario, la media e la varianza non variano con il tempo le covarianze (e quindi le autocorrelazioni) è solo funzione della distanza nel tempo tra le due variabili casuali coinvolte 2 2 questa relazione si ottiene dalla definizione di stazionarietà debole ponendo h = t 20 Unità B Kolmogorov perdono! 21

14 Proprietà della funzione di autocorrelazione di un processo stocastico stazionario ρ(h) = γ(h)/σ 2 ; ρ(0) = 1 (beh, se quello che capita oggi non fosse correlato perfettamente con quello che capita oggi avremmo veramente da preoccuparci; formalmente σ 2 = γ(0)); 1 ρ(h) 1 h (sono coefficienti di correlazione); ρ(h) = ρ( h). E una conseguenza del fatto che per qualsiasi coppia di variabili casuali, diciamo X e Y, cov(x, Y) = cov(y, X); Unità C Stima della funzione di autocorrelazione Stimatori Bande nel correlogramma Test di Ljung-Box (e Box-Pierce) Per qualsiasi k e per qualsiasi scelta di (a 1,..., a k ) (numeri qualsiasi) k k a i a j ρ(i j) 0 i=0 j=0 Infatti, la quantità sul lato sinistro è la varianza di k i=0 a iy t i divisa per σ Unità B

15 Stima di alcune caratteristiche interessanti Nel caso di un processo stazionario, i valori attesi di tutte le osservazioni (qualsiasi sia t) sono uguali ad una costante η. Possiamo quindi pensare di stimare il valore comune della media mediante ^η = y = 1 n y t. n In maniera analoga, sfruttando le altre invarianze nel tempo, possiamo stimare la funzione di autocovarianza e di autocorrelazione mediante ^γ(h) = 1 n (y t y)(y t h y) n t=h+1 ^ρ(h) = ^γ(h) ^γ(0) t=1 Nota 1: Si osservi che dividiamo per n e non per n h che è il numero degli addendi. E usuale fare così poichè in questo modo anche la stima (e non solo quello che si vuole stimare) gode delle proprietà descritte nel lucido (22). Ad esempio, dividendo per n h potremmo ottenere stime dei coefficienti di autocorrelazione, in modulo, più grandi di 1. Dividendo per n però introduciamo una distorsione verso lo zero nello stima (=sottostiamo in maniera sistematica la correlazione esistente). Nota 2: ^γ(h) non è definito se h > n 1. Questo è scontato. Con n osservazioni non abbiamo nessuna coppia di osservazioni distanti n o n + 1 o così via. Nota 3: Si osservi tra l altro che ha senso calcolare ^γ(h) solo se n h, ovvero il numero di addendi su cui è basata la stima, è sufficientemente grande. Questo non è un grande problema nelle applicazioni visto che tipicamente si è interessati alla funzione di autocovarianza (o di autocorrelazione) solamente per ritardi non grandi. Però va sempre tenuto presente. Nota 4: Per il calcolo di ^ρ(h) ovviamente non è necessaria la stazionarietà. Delle volte si usa ^ρ(h) per avere una idea media nel tempo della dipendenza lineare esistente. Nota 5: Il grafico di ^ρ(h) verso h viene chiamato correlogramma. 24 Unità C Stima della funzione di autocorrelazione 25

16 Una banda ci viene in aiuto Pochi ^ρ(h) fuori di poco dalle bande possono essere attribuiti all errore di stima. Il primo correlogramma mostra quindi una situazione probabilmente di incorrelazione. Nel secondo, un solo ^ρ(h) è esterno alle bande. Però è molto più grande dei limiti disegnati. Probabilmente E possibile dimostrare che se non esiste autocorrelazione nel processo (ovvero se ρ(h) = 0 quando h 0, ovvero se come si usa dire il processo osservato è un rumore bianco (white noise)) allora la distribuzione asintotica di n^ρ(h) è una normale di media nulla e varianza uno. Quindi nel caso di una serie senza autocorrelazione, ^ρ(h) cadrà nell intervallo [ z 1 α/2 / n, z 1 α/2 / n] (dove z ζ è il quantile ζ-simo di una normale standard) con una probabilità approssimativamente uguale a 1 α (ovviamente n deve essere sufficientemente grande n > 50 sembra essere sufficiente). Per questo nei grafici della funzione di autocorrelazione empirica (ovvero quella stimata dai dati), sono spesso indicate delle bande del tipo [ 1,96/ n, 1,96/ n] (z = 1,96). indica una autocorrelazione reale. ACF Lag Valori di ^ρ(h), per quanto diversi da zero, ma all interno di queste bande suggeriscono che l autocorrelazione stimata potrebbe essere in realtà dovuta al caso (ovvero non essere una proprietà del processo). Si osservi, comunque, che anche in assenza di autocorrelazione, ci aspettiamo, utilizzando le bande precedenti, un ^ρ(h) ogni 20 fuori dalle bande. Ovvero, se calcoliamo i primi 30 coefficienti di autocorrelazione, trovarne uno, due o anche tre fuori dalle bande può essere attribuito all effetto del caso. Ovviamente però ce li aspettiamo non di molto esterni alle bande stesse. ACF Lag 26 Unità C Stima della funzione di autocorrelazione 27

17 Quattro serie temporali il loro correlogramma... (a) (a) (b) (b) (c) (c) (d) (d) Unità C Stima della funzione di autocorrelazione 29

18 ... qualche commento... Il grafico della prima serie mostra la presenza di onde che però non hanno lunghezza e ampiezza costante. Le onde a smorzare nel correlogramma ci raccontano esattamente la presenza di questa componente. Il correlogramma ci dice anche che la lunghezza media delle onde è di 6 periodi. La serie (b) è caratterizzata da oscillazioni molto più rapide. Il correlogramma ci segnala un comportamento addirittura di tipo alternante : ad una osservazione grande tendenzialmente segue una osservazione piccola e così via. Dal grafico della serie (c), come del resto in quello della serie (a), si individua facilmente la presenza di autocorrelazione positiva a ritardo 1 (una osservazione grande è tendelzialmente seguita da un altra osservazione grande, una piccola da una piccola ). Il correlogramma ci racconta che questa è l unica correlazione esistente: osservazioni più distanti sono incorrelate.... un esercizio e... Le figure nelle prossime pagine riportano i grafici di y t disegnato verso y t h per alcuni valori di h. Chiameremo questo tipo di grafici di autodispersione (lag plot nella letteratura anglosassone). Le serie utilizzate sono quelle precedenti. Ogni pagina si riferisce ad una delle serie. Ma le pagine non sono nell ordine utilizzato precedentemente. Completare il seguente schemetto : La soluzione è a pagina 36. la figura si riferisce a pagina alla serie Il correlogramma della serie (d) ci indica che si tratta di un white noise. 30 Unità C Stima della funzione di autocorrelazione 31

19 a a a lag 1 lag 2 lag 3 a lag 4 a lag 5 a lag a a a a a a lag 1 lag 2 lag 3 a lag 4 a lag 5 a lag a a a lag 7 lag 8 lag 9 lag 7 lag 8 lag 9 a lag 10 a lag a lag a lag 10 a lag a lag Unità C Stima della funzione di autocorrelazione 33

20 a a a lag 1 lag 2 lag 3 a a a lag 4 lag 5 lag a a a lag 7 lag 8 lag 9 a a a a a lag 1 lag 2 lag 3 a a a lag 4 lag 5 lag a a a lag 7 lag 8 lag 9 a a a a lag 10 lag lag 12 lag 10 lag lag Unità C Stima della funzione di autocorrelazione 35

21 ... la sua soluzione La temperatura al castello di Nottingham. la figura si riferisce a pagina alla serie 32 (b) 33 (d) 34 (a) 35 (c) nottem Time E evidente la presenza (come atteso) di una importante componente stagionale. 36 Unità C Stima della funzione di autocorrelazione 37

22 Un correlogramma a Nottingham A castello è meglio essere corretti Si osservi come le onde nel periodogramma si smorzino lentamente. A 10 anni di distanza 1 c è ancora della dipendenza. Tenendo presente che stiamo dividendo per n (vedi pagina 24), la diminuzione potrebbe addirittura essere un artefatto. Infatti se dividiamo per n h il correlogramma non diminuisce più. 1 Si osservi che i ritardi nel grafico della funzione di autocorrelazione, fatto in R, sono etichettati utilizzando gli anni non i mesi. 38 Unità C Stima della funzione di autocorrelazione 39

23 Nottingham: grafici di autodispersione nottem nottem nottem nottem lag 12 lag 48 lag 84 lag 120 nottem nottem nottem nottem lag 24 lag 60 lag 96 lag nottem nottem nottem nottem lag 36 lag 72 lag 108 lag 144 Si osservi che sono mostrati solo i ritardi stagionali. Quindi, l ultimo grafico, mostra il digramma di dispersione tra la temperatura di oggi e quella di 12 anni fa nottem nottem nottem nottem lag 6 lag 42 lag 78 lag 114 nottem nottem nottem nottem lag 18 lag 54 lag 90 lag Rispetto al grafico di prima i ritardi sono stati sfasati di 6 mesi. Con un pò di licenza potremmo dire che stiamo guardando alla correlazione tra la temperatura nell inverno/primavera/estate/autunno di un anno e quella nell estate/autunno/inve di 1, 2,... anni prima. nottem nottem nottem nottem lag 30 lag 66 lag 102 lag Unità C Stima della funzione di autocorrelazione 41

24 Esercizio La produzione di automobili in Giappone nottem nottem nottem nottem lag 1 lag 4 lag 7 lag 10 nottem nottem nottem nottem lag 2 lag 5 lag 8 lag nottem nottem nottem nottem lag 3 lag 6 lag 9 lag Il grafico mostra il numero di automobili (in migliaia) prodotte in Giappone dal 1949 al La serie è evidentemente non stazionaria visto l aumento della media (trend) negli anni La figura mostra i diagrammi di autodispersione per i primi 12 ritardi. In alcuni dei grafici compaiono delle sorta di anelli. Spiegare perchè. 42 Unità C Stima della funzione di autocorrelazione 43

25 Il correlogramma è quelo tipico in questo casi: positivo e vicino ad uno all inizio, poi decresce lentamente e inverte il suo segno ad un ritardo pari ad approssimativamente la metà della lunghezza della serie osservata Esercizio La figura mostra i diagrammi dia autodispersione per la serie considerata nelle pagine precedenti. Indicando con y t la variabile posta sulle ascisse in ogni grafico, dire se sulle ordinate è stato disegnato y t h o y t+h per i valori prescelti di h (in questo caso 1,..., 12)? d d d lag 1 lag 2 lag d lag 4 d lag 5 d lag Il secondo correlogramma è stato ottenuto dividendo per n h. Si osservi come in questo caso la correlazione negativa a ritardi elevati diventi addirittura inferiore a 1!!! d d d lag 7 lag lag 9 44 Unità C Stima della funzione di autocorrelazione 45

26 Il test di Ljung-Box (e quello di Box-Pierce) Una statistica test che può essere utilizzata per verificare l ipotesi che il processo sia un white noise è T L&B = n(n + 2) H h=1 ^ρ 2 (h) n h dove H è un intero prescelto. Sotto l ipotesi nulla (assenza di autocorrelazione) T L&B si distribuisce asintoticamente come una variabile casuale χ 2 con H gradi di libertà. Valori troppo grandi rispetto a quelli che ci aspettiamo da questa distribuzione sono evidenza che l autocorrelazione non è solo apparente. Un test, asintoticamente analogo a quello di Ljung e Box, si basa sulla statistica test proposta e studiata da Box e Pierce T B&P = n H ^ρ 2 (h). h=1 La differenza tra le due statistiche consiste semplicemente nella differente ponderazione adottata: nella prima il quadrato di ^ρ(h) entra con peso n(n + 2)/(n h) mentre nella seconda con peso n. Esempio 1. Con i dati del primo esempio di pagina 27, T L&B calcolato sulla base dei primi 20 coefficienti di autocorrelazione campionari vale 26,63. Una approssimazione del livello di significativà del test è quindi Prob(χ ,63) 0,15. Le differenze da zero delle autocorrelazioni campionarie potrebbero quindi essere semplicemente dovute all errore di stima. Esempio 2. Con i dati del secondo esempio di pagina 27, T L&B calcolato sulla base dei primi 20 coefficienti di autocorrelazione campionari vale 87,65. Una approssimazione del livello di significativà del test è quindi Prob(χ ,65) Questo valore ci dice che applicando la medesima procedura a serie storiche incorrelate ci aspettiamo un valore della statistica test grande come quello osservato circa due volte ogni dieci miliardi di occasioni. Quindi, ci suggerisce che l autocorrelazione segnalata dal grafico è reale (e non semplicemente dovuta all errore di stima). Asintoticamente sono equivalenti. Si può però mostrare che la prima statistica converge più rapidamente alla sua distribuzione asintotica. E quindi consigliabile utilizzare T L&B. 46 Unità C Stima della funzione di autocorrelazione 47

27 Unità D Scomposizione di una serie temporale in componenti elementari trend, stagionalità e componente irregolare differenti modelli di composizione delle componenti serie destagionalizzate 48 Unità C

28 E se il processo non è stazionario? Molte serie temporali contengono evidenti segni di nonstazionarietà In particolare in posizione e dispersione. In questi casi, è abbastanza comune per non perdere i vantaggi assicurati dalla stazionarietà, cercare di trasformare la serie originale in una serie stazionaria. Ovviamente, una possibilità per realizzare il programma precedente consiste nello stimare la parte non stazionaria della serie osservata per poi rimuoverla. Questo tra l altro è un problema spesso interessante di per se. Componenti di una serie temporale Non è infrequente che una serie storica possa essere pensata come la composizione di varie componenti. In particolare, spesso, anche solo guardando il grafico della serie, sono evidenti: [trend] una componente che varia lentamente nel tempo e che essenzialmente determina il livello della serie; [stagionalità] una o più componenti periodiche, ovvero che si ritrovano uguali o quasi a distanza fissa nel tempo (ad esempio, in serie mensili ogni 12 mesi, in serie trimestrali ogni 4 trimesti, in serie giornaliere, ogni 7 giorni); [componente irregolare] una componente più erratica che determina nella serie delle oscillazioni tipicamente di breve periodo; normalmente può essere assimilato ad un processo stocastico stazionario. 50 Unità D Scomposizione di una serie temporale in... 51

29 Modelli di composizione Esempio di una serie additiva Indichiamo con T t, S t e I t le tre componenti. Le maniere in cui possono interagire per formare la serie osservata possono essere differenti. Alcuni esempi sono i seguenti modelli di composizione additivo: y t = T t + S t + I t ; moltiplicativo: y t = T t S t I t ; moltiplicativo con comp. irr. additiva y t = T t S t + I t. irr seas y trend Time L ampiezza delle oscillazioni stagionali e della componente irregolare nella serie (primo grafico del pannello) è la stessa a prescindere dal livello della serie stessa. 52 Unità D Scomposizione di una serie temporale in... 53

30 Esempio di una serie moltiplicativa Destagionalizzazione di una serie temporale y trend seas Nelle prossime unità vedremo alcune tecniche utili per scomporre una serie temporale nelle sue componenti elementari e quindi, in particolare, per stimarne la componente stagionale. Un utilizzo di queste tecniche consiste nella produzione di cosidette serie destagionalizzate ovvero serie in cui la parte periodica e predicibile sia stata rimossa. I dettagli di come può essere fatto dipendono dal modello di composizione. Ad esempio, nel caso di un modello [additivo, moltiplicativo] è sufficiente [sottrarre dalla,dividere la] serie originale [,per] la componente stagionale. Esercizio: Proporre una formula per destagionalizzare una serie per cui si è adottato un modello moltiplicativo con componente irregolare additiva. irr Time Le oscillazioni stagionali e la componente irregolare entrano nella serie (primo grafico del pannello) con una ampiezza che dipende dal livello della serie (ovvero dal trend). 54 Unità D Scomposizione di una serie temporale in... 55

31 Perchè destagionalizzare? Si supponga che qualcuno vi dica che la media della CO2 a Padova è risultata a novembre il 20% più elevata che a ottobre. Possiamo affermare che l inquinamento è realmente aumentato? Boh!!! L aumento potrebbe essere semplicemente stagionale e ad esempio legato al maggiore utilizzo delle automobili e del riscaldamento privato dovuto alle temperature più fredde (traffico e riscaldamento sono le fonti maggiori di CO2); Nella serie destagionalizzata questa componente prevedibile speriamo di averla eliminata. Ovviamente lo stesso discorso può essere fatto in moltissime altre situazioni. Ad esempio, un aumento degli occupati nell agricoltura del 10% tra giugno e maggio è una indicazione di un vero e proprio boom economico? Inoltre la componente stagionale costituisce spesso una parte della serie storica la cui esistenza è scontata e la cui spiegazione è quindi nota e perciò non particolarmente interessante. Nello stesso tempo però può essere sufficientemente grande per mascherare altri andamenti. Un esempio è mostrato nei prossimi due grafici: i) il primo mostra la serie mensile dei passegeri su tratte aeree internazionali (in migliaia) dai 1949 al 1960; è evidente un trend crescente e una forte componente stagionale; ii) nel secondo grafico viene mostrata una versione destagionalizzata della stessa serie con aggiunta una stima della componente di trend. Si noti come nel secondo grafico sia evidente i due rallentamenti nella crescita avvenuti tra il 1953/54 (guerra di Corea?) e il 1957/58 (conseguenza di alcuni disastri?) Lo stesso non si può dire con riferimento al primo grafico dove i due rallentamenti sono coperti dalla componente stagionale. 56 Unità D Scomposizione di una serie temporale in... 57

32 Passegeri delle linee aree internazionali Serie osservata Passegeri delle linee aree internazionali Serie destagionalizzata AirPassengers serie destagionalizzata stima del trend Unità D Scomposizione di una serie temporale in... 59

33 Unità E Stima della media e sua scomposizione mediante modello di regressione richiami sul modello lineare di regressione multipla rappresentazione del trend mediante un polinomio rappresentazione della stagionalità mediante variabili dummies 60 Unità D

34 CO2 a Mauna Loa Illustriamo le tecniche di questo unità utilizzando la seguente serie mensile di misurazioni di CO2 a Mauna Loa (una località delle Haway). Il grafico è stato costruito nella seguente maniera: - per prima cosa, ad ogni osservazione è stata sottratta la media delle 12 osservazioni del suo anno - poi, separatamente per ogni anno, i 12 scarti sono stati disegnati verso il numero d ordine del mese. co Time Sono evidenti - una componente di trend sufficientemente regolare (potrebbe essere un polinomio del secondo ordine) - una componente stagionale che rendono la serie non stazionaria Il grafico mostra che il profilo stagionale è sostanzialmente rimasto lo stesso per tutti i 39 anni considerati. 62 Unità E Stima della media e sua scomposizione... 63

35 Questo porta a pensare ad un modello del tipo y t = (Trend) t + (Stagionalità) t + (Errore) t dove - (Trend) t è un polinomio del secondo ordine, ovvero, Una conferma giunge anche dal grafico seguente che mostra le sottoserie mensili (ovvero la serie di tutte le misure riferite al mese di gennaio disegnata contro l anno,... ). Se vale il modello precedente in questo grafico dovremmo infatti osservare 12 curve approssimamente parallele, ciascuna approssimabile da un pezzettino di parabola). (Trend) t = α 0 + α 1 t + α 2 t 2 - (Stagionalità) t è una componente periodica che si ripete di anno in anno, ovvero, (Stagionalità) t+12 = (Stagionalità) t Unità E Stima della media e sua scomposizione... 65

36 Poniamo e CO2: un modello lineare φ i = (Stagionalità) i per i = 1,..., 12 ɛ t = (Errore) t per t = 1,..., 468 Allora, il modello prima formulato per la CO2 può essere scritto come un modello lineare del tipo y t = α 0 + α 1 t + α 2 t 2 + φ 1 d 1,t + + φ 12 d 12,t + ɛ t dove, d 1,t è una variabile che vale 1 se siamo nel mese di gennaio e zero altrove, d 2,j è una variabile che vale 1 se siamo nel mese di febbraio e zero altrove,.... Variabili indicatrici di questo tipo sono usualmente chiamate dummy (=mute). Scritto in termini matriciali il modello diventa y ɛ 1 y α α ɛ 2 1 y α. 2 ɛ y 12 = φ ɛ y φ 12 2 ɛ φ φ y ɛ 468 Si osservi che in un modello del tipo (serie osservata)=(trend)+(stagionalità)+(errore) il livello medio dei tre addendi in cui viene scomposta la serie osservata è in una qualche forma arbitrario. Ad esempio, assegnata una scomposizione di questo tipo, possiamo generarne un altra perfettamente valida aggiungendo un valore arbitrario, indichiamolo con δ, al trend e sottraendo δ/3 alla componente stagionale e 2δ/3 alla componente di errore. Possiamo superare questa ambiguità imponendo dei vincoli in maniera tale che la prima componente, quella di trend, sia interpretabile come quella che ci fornisce il livello della serie osservata. In particolare, sembra sensato chiedere che la somma della componente stagionale in un anno sia nulla. Nel caso del modello lineare precedente, questo diventa il seguente vincolo lineare sui parametri φ φ 12 = 0. Le stime a minimi quadrati dei parametri del modello possono quindi essere ottenuti con la procedura indicata nel lucido (75). Esercizio: Formulare i dettagli (in particolare cosa sono a e β?) 66 Unità E Stima della media e sua scomposizione... 67

37 co2 ~ p(2) + c Si osservi come la componente di errore sia evidentemente autocorrelata positivamente (si spieghi perche basandosi sul quarto grafico precedente) e forse, addirittura, non stazionaria in media. data Questo ci è confermato dal correlogramma empirico trend seasonal remainder Time ACF Il primo grafico mostra la serie originale, il secondo la componente di trend stimata, il terzo la componente stagionale, l ultimo la componente erratica che decresce lentamente e forse mostra la presenza di una residua componente stagionale (Esercizio: Perche?) Lag 68 Unità E Stima della media e sua scomposizione... 69

38 CO2: serie destagionalizzata Avendo stimato la componente stagionale possiamo eliminarla ottenendo la cosidetta serie destagionalizzata. In questo caso, ci basta sottrarre dalla serie originale la componente stagionale Time Osservazione: Poichè la componente erratica mostra qualche segno di stagionalità, la procedura utilizzata per ottenere la serie destagionalizzata è criticabile. Ritorneremo nella prossima unità su questo punto. In ogni caso, trend e stagionalità spiegano più del 99% della varianza della co2 (l R 2 del modello vale 0,997). Quindi, l ombra di stagionalità magari è presente ma di certo non è importante. Altri modelli di regressione: cenni Al posto di variabili dummy, possiamo utilizzare funzioni trigonometriche per introdurre in un modello di regressione una componente periodica. Possiamo anche introdurre interazioni tra trend e stagionalità ad esempio introducendo nel modello dei termini che sono il prodotto di quelli visti nell applicazione fatta. Nel contesto in cui stiamo operando ci servirebbero, ad esempio, per modellare una componente stagionale che varia nel tempo. In alcuni campi applicativi è comune utilizzare per stimare la componente di trend funzioni diverse dai polinomi.... Non affrontiamo questi argomenti in parte per problemi di tempo in parte perchè nei corsi di Modelli I e II sviluppate capacità di questo tipo. E quindi Unità E Stima della media e sua scomposizione... 71

39 Appendice: richiami sul modello di regressione lineare multiplo situazione: una variabile dipendente (y) e k variabili esplicative (x 1,..., x k ). relazione lineare : dove y i = β 0 + β 1 x 1i + + β k x ki + (errore) i - y i indica l i-sima osservazione sulla variabile dipendente mentre - x ji indica l osservazione i-sima sulla j-sima variabile dipendente. scrittura matriciale: compattamente possiamo scrivere dove y = Xβ + ɛ y 1 1 x 11. x k1 β 0.. = β k y n 1 x 1n. x kn errore 1.. errore n minimi quadrati: la stima a minimi quadrati dei parametri di regressione, ovvero, il valore di β = (β 0,..., β k ) che minimizza vale (y Xβ) T (y Xβ) = n (y i β 0 β 1 x 1i β k x ki ) 2 i=1 ^β = (X T X) 1 X T y valori previsti: il valore previsto / interpolato dal modello alle variabili esplicative ( x 1,..., x k ), ovvero, ^β 0 + ^β 1 x ^β k x k è una combinazione lineare delle y originali, ovvero, è del tipo Infatti, n w i y i i=1 ^β 0 + ^β 1 x ^β k x k = (1, x 1,..., x k )(X T X) 1 X T y = w T y. Ovviamente i pesi w dipendono dalla matrice di disegno X e dalle x a cui vogliamo calcolare la previsione. 72 Unità E Stima della media e sua scomposizione... 73

40 minimi quadrati ponderati: In alcuni casi è interessante riuscire a calcolare il vettore β che minimizza la seguente somma dei quadrati ponderata n w i (y i β 0 β 1 x 1i β k x ki ) 2 i=1 dove w = (w 1,..., w n ) sono pesi noti assegnati ad ogni osservazione. E possibile in questo caso far vedere che la soluzione è data da ^β(w) = (X T WX) 1 X T Wy dove W = diag(w 1,..., w n ) ovvero è una matrice diagonale in cui w 1 è l elemento (1, 1), w 2 l elemento (2, 2) e così via. Nota: Anche in questo caso i valori previsti dal modello sono funzione lineare delle y. minimi quadrati con un vincolo: Supponiamo ora di voler stimare il modello ma di sapere a priori che il vettore dei parametri, β, soddisfa esattamente al vincolo a T β = 0 dove a è un qualsiasi vettore noto. E possibile dimostrare che, tra tutti i vettori che soddisfano il vincolo, quello che minimizza la somma dei quadrati degli scarti delle osservazioni dai valori previsti dal modello, ovvero che risolve il problema di minimo vincolato { minβ0,...,β k n i=1 (y i β 0 β 1 x 1i β k x ki ) 2 con il vincolo che a 0 β a k β k = 0 è ^β(a) = ^β at ^β a T a a dove ^β è lo stimatore a minimi quadrati. Nota: La formula in se non è molto interessante. L importante è che il problema abbia una soluzione facilmente calcolabile. 74 Unità E Stima della media e sua scomposizione... 75

41 Unità F Scomposizione di una serie temporale: un approccio flessibile Cenno a filtri lineari e medie mobili regressione polinomiale locale STL 76 Unità E

42 Il punto debole dell approccio precededente è che i risultati dipendono in maniera cruciale dalla capacità e dalla possibilità di scegliere in maniera appropriata le funzioni con cui interpolare il trend e la componente stagionale. Questo non è sempre semplice. E, per ovviare a questa difficoltà, sono stati sviluppati degli approcci più flessibili. Per illustrare le idee che stanno alla base di questi approcci (e per mostrarne la connessione esistente con la regressione non parametrica) in questa unità viene illustrato sommariamente la procedura STL 1. Per farlo devo però prima presentare sinteticamente gli strumenti su cui si basa, in particolare (a) filtri lineari, medie mobili e (b) regressione polinomiale locale (in particolare loess), che, tra l altro, possono essere utili anche al di fuori di STL. Filtri lineari e medie mobili L operazione di convertire una serie temporale y t in un altra, diciamo x t, mediante una operazione lineare del tipo x t = k w i y t+i i= h è abbastanza comune. In questo caso si dice che la serie x t è stata ottenuta da y t mediante un filtro lineare con coefficienti (pesi) w i. Le serie y t e x t vengono usualmente chiamate l input e l output del filtro. Nei casi in cui la somma dei pesi sia uno, k w i = 1 i= h un filtro lineare viene anche chiamato media mobile e, ovviamente, in questi casi, x t fornisce una stima locale del livello della serie y t. Una media mobile vede h + k + 1 elementi della serie temporale. Questo numero viene chiamato il numero di termini della media mobile Si osservi che l output di una media mobile (o di filtro lineare) può essere calcolato solamente per h < t < n k. 1 per una descrizione completa si veda R. Cleveland et al. (1990) STL: A seasonal-trend decomposition procedure based on loess, Journal of Official Statistics, vol. 6, n.1, pag Unità F Scomposizione di una serie temporale: un... 79

43 11 termini y Time termini termini Una media mobile simmetrica (h = k) e con pesi tutti uguali x t = 1 2h + 1 h i= h y t+i viene chiamata una media mobile semplice di 2h + 1 termini. La figura mostra una serie temporale e la sua versione lisciata prodotta mediate l applicazione di una media mobile semplice a 51 termini. Si noti la perdità di valori all inizio e alla fine della serie. La capacità di una media mobile di descrivere le variazioni di livello di una serie temporale dipendono ovviamente da quanto il filtro lineare rende liscia la serie originale, ovvero, per una media mobile semplice, dal numero di termini. Nel primo grafico della figura (media mobile a 11 termini) la stima della media è probabilmente troppo erratica. Nell ultimo grafico il livello stimato è spesso fuori dai valori osservati. Il grafico intermedio sembra costituire un compromesso ragionevole. 80 Unità F Scomposizione di una serie temporale: un... 81

44 Medie mobili per eliminare una componente stagionale Si supponga che y t sia una serie temporale stagionale mensile in cui le varie componenti (trend, stagionalità e componente irregolare) interagiscono in maniera additiva Consideriamo gli istanti di tempo y t = T t + S t + I t. t 6, t 5,..., t 1, t, t + 1,..., t + 5, t + 6. Assunzioni sensate sulle componenti sono: i) T t i T t per i = 6,..., 6 visto che per definizione il trend varia lentamente; ii) S t S t 12, ovvero la componente stagionale si ripete quasi uguale in due anni vicini; iii) (S t S t+6 )/12 = 0 ovvero, nel corso di un anno le oscillazioni stagionali si compensano; in caso contrario T t non sarebbe interpretabile come il livello di y t ; iv) la media di I t vale 0 per qualsivoglia t; di nuovo, se questo non accadesse non potremmo interpretare T t come il livello della serie osservata. Ma allora x t = 1 2 y t 6 + y t y t y t+6 T t + I t 12 dove I t = (I t 6 /2 + I t I t+5 + I t+6 /2)/12 ha media zero. Quindi, almeno approssimativamente, x t è una serie temporale a) con la componente di trend della seria originale b) ma in cui la componente stagionale è stata eliminata Si osservi che anche una media mobile semplice a 12 termini eliminerebbe la componente stagionale. Non sarebbe però centrata su nessun istante di tempo. Esercizio 1: mostrare che arriviamo allo stesso risultato anche se supponiamo che T t+i a + bi per i = 0, ±1,..., ±6, ovvero assumendo che il trend sia localmente lineare (ipotesi quest ultima molto credibile). Esercizio 2: verificare che anche se la serie è generata da un modello moltiplicativo y t = T t S t I t x t gode delle due proprietà precedenti. Esercizio 3: estendere la procedura precedente a serie trimestrali. 82 Unità F Scomposizione di una serie temporale: un... 83

45 La serie della CO 2 a Manua Loa La serie dei passegeri aerei internazionali co AirPassengers Time Time 84 Unità F Scomposizione di una serie temporale: un... 85

46 La serie dei consumi di gas nel Regno Unito Filtri in serie In alcuni casi risulta conveniente applicare dei filtri lineari in serie UKgas Time ovvero, con y t w v = xt = z t z t = x t = q v i x t i i= s k w i y t i j. i= h E immediato verificare che z t può anche essere visto come l output di un filtro lineare che riceve y t come input. Infatti q k z t = v i w i y t i e quindi con i= s z t = u r = q+k j= h r= s h u r y t i w i v j. {(i,j):i+j=r} 86 Unità F Scomposizione di una serie temporale: un... 87

47 Ad esempio, il filtro x t = 1 2 y t 6 + y t y t y t+6 12 può essere visto come il risultato dell applicazione in serie di due medie mobili semplici una con 12 termini e l altra con 2 termini. Infatti x t = 1 ( ) yt 6 + y t y t+4 + y t ( ) yt 5 + y t y t+5 + y t Regressione polinomiale locale [il problema] - sono disponibili dei dati bivariati del tipo {(x 1, y 1 ),..., (x n, y n )} su due variabili X e Y; - la relazione tra la X e la Y può essere scritta nella forma y i = f(x i ) + ɛ i (F.1) dove f( ) = E(Y X = x) mentre le ɛ i sono delle variabili casuali (visto quanto detto con media nulla); - non sappiamo come specificare f( ) parametricamente (ad esempio, non è una retta, non è un polinomio,... ); - però sappiamo che f( ) è una funzione continua e senza oscillazioni particolarmente violente; - vogliamo utilizzare i dati per costruire una stima di f( ) 88 Unità F Scomposizione di una serie temporale: un... 89