Diario delle lezioni. 1. Analisi di Fourier discreta e applicazioni alla statistica e alla probabilità: Lezioni I IV

Transcript

1 1 Diario delle lezioni 1. Analisi di Fourier discreta e applicazioni alla statistica e alla probabilità: Lezioni I IV (a) Richiami sui numeri complessi. Spazi vettoriali con prodotto scalare. Teorema di Pitagora. Condizioni equivalenti per un sistema ortogonale. Formula di inversione di Fourier e di Plancherel. Migliore approssimazione di un vettore con una combinazione lineare di vettori ortogonali. Metodo di ortogonalizzazione di Gram- Schmidt. (b) Il gruppo C n degli interi modulo n. Isomorfismo L(C n ) = C n. Radici n-esime dell unità. I caratteri di C n. Ortogonalità dei caratteri. Espressione della formula di inversione e di Plancherel. Il periodogramma. Un applicazione: stima delle componenti periodiche di una serie temporale. (c) Passeggiata semplice sul cerchio discreto. Matrice di transizione e distribuzione al tempo k. Matrici circolanti. La convoluzione e le sue proprietà. Distanza in variazione totale. (d) Stime della velocità di convergenza sul cerchio discreto. Diagonalizzazione di una matrice circolante. La passeggiata sul cerchio come somma di variabili aleatorie indipedenti. Il contenuto di queste lezioni è riportato nelle note che troverete alla fine del file (per il momento e presente solo la prima lezione). Questi appunti sono un sunto dei primi due capitoli di [2], che sarò lieto di dare agli studenti interessati. 2. Complementi di calcolo delle probabilità: Lezioni V-VIII (a) Definizione formale di spazio di probabilità e variabile aleatoria. Lo spazio di probabilità associato a infiniti lanci di una moneta. Variabili aleatorie assolutamente continue. Media e varianza. La distribuzione gaussiana: calcolo della media e della varianza. (b) Vettori aleatori, densità congiunta. Marginali e matrice di covarianza. Variabili aleatorie indipendenti. Densità della somma di variabili aleatorie. Convoluzione. La distribuzione normale multivariata. Il caso bivariato: calcolo delle marginali e della covarianza. (c) Funzione caratteristica (trasformata di Fourier) di una variabile aleatoria: principali proprietà. Funzione caratteristica di una gaussiana. Densità di X µ. σ Teorema del limite centrale: linee guida della dimostrazione. (d) Ottimalità della media per l approssimazione di una variabile aleatoria. Media condizionata: principali proprietà. Ottimalità dell approssimazione tramite media condizionata. Calcolo della media condizionata per vettori aleatori gaussiani. Miglior predittore lineare. Algoritmo dell innovazione.

2 2 Questi complementi di probabilità sono standard e si trovano in molti libri di testo. Per esempio il testo di Ross [4] oppure quello più avanzato di Popoulis [5]. Comunque penso di mettere in rete le formule più complicate spiegate a lezione come i conti sulla gaussiana bivariata e la media condizionale. 3. Analisi delle serie Storiche: Lezioni IX-XV. Il libro di riferimento (che io seguo strettamente) è quello di Brockwell e Davies [1] (capitoli I-V). Le prime 53 pagine delle dispense di Riccardo Jack Lucchetti (destinate a studenti di economia, quindi con scarse conoscenze di matematica) sono scritte in un linguaggio chiaro ed accattivante. Queste dispense possono essere integrate con le mie note (bisogna aspettare) riguardanti gli aspetti matematici.

3 Bibliography [1] Brockwell e Davies, An introduction to time series analysis. [2] T. Ceccherini-Silberstein, F. Scarabotti, F. Tolli, Harmonic analysis on finite groups. Cambridge University Press (in corso di stampa). [3] R. Lucchetti, Appunti sulle serie storiche : [4] S. Ross, Probabilità e Statistica per le scienze e l ingegneria. Apogeo [5] Popoulis, Probability, Random Variables and stochastic processes. Mc Graw-Hill 3

4 4 BIBLIOGRAPHY Avviso: Aspettate a stampare queste note 0.1 Richiami di algebra lineare Sia V uno spazio vettoriale sul campo dei numeri complessi C. Un prodotto scalare su V è una mappa, V V C (v, w) v, w che gode delle seguenti proprietà: 1. v, w = w, v 2. λ 1 v 1 + λ 2 v 2, w = λ 1 v 1, w + λ 2 v 2, w 3. v 2 = v, v 0 4. v = 0 v = 0 per ogni v, v 1, v 2, w V e λ 1, λ 2 C. La quantità v è detta la norma del vettore v. Due vettori non nulli v e w sono detti ortogonali se il loro prodotto scalare è nullo, i.e. v, w = 0 ed in tal caso scriveremo v w. Esempio Sia V = C n lo spazio vettoriale delle ennuple di numeri complessi. Allora se v = (v 1, v 2,..., v n ) e w = (w 1, w 2,..., w n ) la mappa è un prodotto scalare. v, w = n v i w i Esempio Sia V = C([0, 1]) = {f : [0, 1] C, f continua } lo spazio vettoriale delle funzioni continue sull intervallo [0, 1] a valori complessi. Allora se f, g C([0, 1]) la mappa è un prodotto scalare. f, g = 1 0 f(t)g(t)dt Il seguente esempio richiede qualche nozione di probabilità. Esempio Sia (Ω, B, P ) uno spazio di probabilità e sia V lo spazio vettoriale delle variabili aleatorie su Ω con la proprietà che E[X 2 ] < +. Allora la mappa X, Y = E(XY ) è un prodotto scalare. Quindi la mancanza di correlazione è equivalente alla ortogonalità

5 0.1. RICHIAMI DI ALGEBRA LINEARE 5 La seguente proposizione esprime nel linguaggio dell algebra lineare il ben noto teorema di Pitagora. Proposizione Se v e w sono vettori ortogonali allora Proof. v + w 2 = v 2 + w 2. v + w 2 = v + w, v + w = v, v + v, w + w, v + w, w = v 2 + w 2 dove la seconda uguaglianza segue dalla linearità del prodotto scalare e la terza dalla definizione di norma e dalla ortogonalità dei vettori v e w. Lemma Siano v 1, v 2,..., v k vettori mutualmente ortogonali. Allora sono linearmente indipendenti. Proof. Supponiamo che esistano λ 1, λ 2,..., λ k C tali che λ 1 v 1 + λ 2 v 2 +, λ i v i + + λ k v k = 0. (0.1) Vogliamo mostrare che ciascun λ i, i = 1, 2,..., k è uguale a zero. Moltiplicando scalarmente ambo i membri della (0.1) per v i, abbiamo λ 1 v 1, v i + λ 2 v 2, v i +, λ i v i, v i + + λ k v k, v i = 0 v i 2 λ i = 0 λ i = 0 Per il momento non abbiamo fatto alcuna ipotesi sulla dimensione dello spazio V. Il seguente teorema sfrutta in maniera essenziale l ipotesi che lo spazio vettoriale abbia dimensione finita. Teorema Sia V una spazio vettoriale di dimensione n dotato di un prodotto scalare. Siano v 1, v 2,..., v k dei vettori mutualmente ortogonali. Allora le seguenti affermazioni sono equivalenti. 1. Per ogni vettore v V si ha la seguente formula di inversione di Fourier v = v, v i v i 2 v i; 2. La condizione v, v i = 0 per i = 1, 2,..., k implica che v = 0;

6 6 BIBLIOGRAPHY 3. k = n e {v 1, v 2,..., v k } costituisce una base di V ; 4. Per ogni vettore v V si ha la seguente formula di Plancherel v 2 = v, v i 2 Proof. 1) 2) è ovvia. 1) 3) segue immediatamente dal lemma ) 1) Supponendo {v 1, v 2,..., v k } sia una base si ha che per ogni vettore v esistono λ 1, λ 2,..., λ k tali che λ 1 v 1 + λ 2 v λ i v i + + λ k v k = v. Moltiplicando scalarmente per v i ambo i membri si ottiene λ i v i 2 = v, v i e pertanto λ i = v,v i 2) 1) Consideriamo w = v Moltiplicando scalarmente con v j otteniamo w, v j = v, v j v, v i v i 2 v i. v, v i v i 2 v i, v j = v, v j v, v j v j 2 v j, v j = v, v j v, v j = 0 e pertanto w = 0 che è equivalente alla formula di inversione di Fourier. 1) 4) Per il teorema di Pitagora v 2 = v, v i v i v 2 i 2 = v, v i 2 v i 4 v i 2 = v, v i 2 4) 2) è ovvio.

7 0.1. RICHIAMI DI ALGEBRA LINEARE 7 Vediamo ora un problema di approssimazione. Consideriamo {v i : i S} un insieme di vettori ortogonali in uno spazio vettoriale V (non necessariamente di dimensione finita). Ci proponiamo di trovare la migliore approssimazione di v con combinazioni lineari dei vettori v i. In altri termini cerchiamo i coefficienti {λ j : j S} che minimizzano la quantità v j S λ j v j 2. (0.2) Non ci preoccuperemo di dare delle condizioni per l esistenza del minimo, ma ci limitiamo ad osservare che nel caso finito dimensionale il minimo esiste ed è unico.) Proposizione La combinazione lineare j S λ jv j che minimizza (0.2) è caratterizzata dalla proprietà f j S λ j v j v i i S. (0.3) Proof. Poniamo w = v j S λ jv j ed indichiamo con ṽ i il vettore normalizzato v i v i. Per α C osserviamo che w αṽ i = f j S λ j v j αṽ i = = v j S λ j v j con { λj se j i λ j = λ i + se j = i. α v i Per la minimalità di w abbiamo che w 2 w αṽ i 2 = = w αṽ i, w αṽ i = = w 2 + α 2 α ṽ i, w α w, ṽ i = = w 2 + α 2 α w, ṽ i α w, ṽ i. Ponendo α = w, ṽ i deduciamo che 0 w, ṽ i 2 e quindi w, ṽ i = 0 che è equivalente all enunciato della proposizione. Corollario Con le notazioni della precedente proposizione abbiamo, per i S, λ i = v, v i

8 8 BIBLIOGRAPHY Proof. Imponendo la condizione (0.3) ed utilizzando l ortogonalità dei vettori, otteniamo, per i S, 0 = v j S = v, v i j S = v, v i j S λ j v j, v i = λ j v j, v i = λ j nδ i (j) = da cui si conclude λ i = v,v i = v, v i v i 2 λ i Cosa possiamo fare se i vettori {v i : i S} sono linearmente indipendenti ma non ortogonali? La risposta é nel seguente metodo di ortogonalizzazione di Gram- Schmidt. Poniamo ṽ 1 = v 1 ṽ 2 = v 2 v 2, ṽ 1 ṽ 1 2 ṽ1 ṽ 3 = v 3 v 3, ṽ 2 ṽ 2 2 ṽ2 v 3, ṽ 1 ṽ 1 2 ṽ 4 = etc. È facile verificare che i vettori ṽ i sono ortogonali. Inoltre la spazio generato dai v i coincide con lo spazio generato dai vettori ṽ i e questo implica che la miglior approssimazione di un vettore v con i vettori ṽ i coincide con quella fatta con i vettori ṽ i (che si può facilmete calcolare con Il corollario 0.1.8). Notare che la conclusione della Proposizione continua a valere anche se i vettori non sono ortogonali. ṽ1