IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (IMAD)

Dimensione: px
Iniziare la visualizzazioe della pagina:

Download "IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (IMAD)"

Transcript

1 IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (IMAD) Corso di Laurea Magistrale in INGEGNERIA INFORMATICA Lezione 12: Identificazione analisi e complementi SPEAKER Prof. Mirko Mazzoleni PLACE Università degli Studi di Bergamo

2 Syllabus Parte II: sistemi dinamici 8. Processi stocastici 8.1 Processi stocastici stazionari (pss) 8.3 Rappresentazione spettrale di un pss 8.4 Stimatori campionari media\covarianza 8.5 Densità spettrale campionaria 9. Famiglie di modelli a spettro razionale 9.1 Modelli per serie temporali (MA, AR, ARMA) 9.2 Modelli per sistemi input/output (ARX, ARMAX) 10. Predizione 10.1 Filtro passa-tutto 10.2 Forma canonica 10.3 Teorema della fattorizzazione spettrale 10.4 Soluzione al problema della predizione 11. Identificazione 11.3 Identificazione di modelli ARX 11.4 Identificazione di modelli ARMAX 11.5 Metodo di Newton 12.Identificazione: analisi e complementi 12.1 Analisi asintotica metodi PEM 12.2 Identificabilità dei modelli 12.3 Valutazione dell incertezza di stima 13.Identificazione: valutazione 2 /106

3 Parte I: sistemi statici Stima parametrica θ θ deterministico o NO assunzioni su ddp dei dati Stima parametri popolazione Stima modello lineare: minimi quadrati o SI assunzioni su ddp dei dati IMAD Stima massima verosimiglianza parametri popolazione Stima modello lineare: massiva verosimiglianza Regressione logistica θ variabile casuale o SI assunzioni su ddp dei dati Stima Bayesiana Machine learning Parte II: sistemi dinamici Stima parametrica θ θ deterministico o NO assunzioni su ddp dei dati Modelli lineari di pss Predizione Identificazione Persistente eccitazione Analisi asintotica metodi PEM Analisi incertezza stima (numero dati finito) Valutazione del modello 3 /106

4 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Robustezza dei metodi PEM e prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 4 /106

5 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Robustezza dei metodi PEM e prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 5 /106

6 Analisi asintotica dei metodi PEM Nella lezione precedente, abbiamo visto come ottenere una stima θ N data una singola sequenza di N dati u 1,, u N, y 1, s ҧ,, y N, s ҧ, utilizzando l approccio PEM. Abbiamo esplicitato l esito s = sҧ per indicare che lavoriamo con delle sequenze di numeri L idea dell approccio predittivo è la seguente: data una famiglia di modelli M θ θ Θ, la stima θ N è ottenuta minimizzando la funzione di costo N J N θ = 1 N t=1 ε 1 t; θ 2 dove ε 1 t; θ = y t y t t 1; θ è l errore di predizione ad un passo 6 /106

7 Analisi asintotica dei metodi PEM Problema: la stima θ N, calcolata in questo modo, ci fornisce un «buon» modello? Per poter rispondere a questa domanda, non possiamo limitarci ad una specifica realizzazione dei dati corrispondente ad un particolare esito s: ҧ dobbiamo studiare quello che succede «in generale», ovvero considerando tutte le possibili realizzazioni di sequenze di dati IPOTESI DI LAVORO Sia l ingresso u t, s sia l uscita y t, s sono processi stocastici stazionari ed ergodici (il che implica che tutte le funzioni di trasferimento sono asintoticamente stabili) 7 /106

8 Analisi asintotica dei metodi PEM Di conseguenza, i dati misurati saranno una realizzazione dei processi u t, s e y t, s in corrispondenza di un particolare esito sҧ u 1, s ҧ,, u N, sҧ y 1, s ҧ,, y N, sҧ La funzione di costo dipende anch essa dall esito sҧ poiché utilizza i dati misurati N J N θ, s ҧ = 1 N t=1 ε 1 t; θ, sҧ 2 da cui otterrò la stima θ N sҧ Ne consegue che, in generale, la stima θ N s è una variabile casuale perché il suo valore dipende dai dati, i quali dipendono dall esito s 8 /106

9 Analisi asintotica dei metodi PEM La funzione di costo J N θ, s dovrebbe essere interpretata come un insieme di curve, e la stima θ N s come un insieme di punti difficile da descrivere per N finito! J N θ, s Ogni curva corrisponde ad una diversa realizzazione di N dati θ N s θ 9 /106

10 ቊ Analisi asintotica dei metodi PEM J N θ, s J N θ, s መθ N s θ ҧ J θ መθ N s θ N + θҧ θ 10 /106

11 Analisi asintotica dei metodi PEM Grazie all ipotesi di ergodicità di u t, s e y t, s, abbiamo che i momenti temporali convergono ai rispettivi momenti di insieme. Di conseguenza: N J N θ, s = 1 N t=1 ε 1 t; θ, s 2 N + ҧ J θ E s ε 1 t, θ 2 cioè, le curve J N θ, s convergono ad un unica (deterministica) curva Definiamo l insieme dei punti di minimo globale di ҧ J θ come ҧ J θ Δ θ = ഥθ ҧ J θ ҧ J ഥθ, θ 11 /106

12 Analisi asintotica dei metodi PEM Caso particolare: Δ θ = ഥθ, ovvero ҧ J θ ha un unico minimo globale Teorema Sotto le ipotesi correnti, man mano che il numero di dati N tende all infinito, si ha che J N θ, s N + ҧ J θ θ N N + Δ θ Ne segue che se Δ θ = ഥθ, allora θ N N + ഥθ 12 /106

13 Analisi asintotica dei metodi PEM Osservazioni Il teorema dice che il risultato dell'identificazione PEM è lo stesso, indipendentemente dalle realizzazioni misurate dei processi u t, y t numero di dati N sia abbastanza grande Analizzare la singola curva ҧ J θ è molto più facile che analizzare un insieme di curve! Idea: per studiare le proprietà della stima, studiamo le sue caratteristiche asintotiche, ovvero studiamo il modello stimato asintotico M ഥθ oppure l insieme di modelli stimati asintotici M θ θ Δ θ purché il Se le proprietà di M ഥθ sono buone, posso pensare che lo siano anche quelle di M θ N, fintanto che N è grande 13 /106

14 Analisi asintotica dei metodi PEM IPOTESI DI LAVORO AGGIUNTIVA Assumiamo che S M θ, ovvero che esista θ 0 Θ tale che S = M θ 0 Domanda: il vettore «vero» dei parametri θ 0 appartiene all insieme Δ θ dei minimi globali della cifra di costo ҧ J θ? Ciò è equivalente a chiedersi se θ N tende asintoticamente a θ 0 Se ciò fosse vero, vorrebbe dire che i metodi PEM sono in grado di trovare la parametrizzazione «vera» del modello Dimostriamo che, sotto le ipotesi fatte, θ 0 appartiene sempre a Δ θ 14 /106

15 Analisi asintotica dei metodi PEM Dimostrazione Supponiamo che i dati siano generati dal sistema S, tale che y t = y t t 1; θ 0 + e t, e t WN 0, λ 2 Consideriamo un generico modello M θ, per il quale y t = y t t 1; θ + ε 1 t; θ Non è detto che ε 1 t; θ sia bianco L errore di predizione ad un passo commesso dal modello M θ è dunque ε 1 t; θ = y t y t t 1; θ 15 /106

16 Analisi asintotica dei metodi PEM Aggiungiamo e togliamo y t t 1; θ 0, ovvero il predittore del sistema S che genera i dati ε 1 t; θ = y t y t t 1; θ 0 + y t t 1; θ 0 y t t 1; θ Pertanto Errore di predizione «ottimo» ε 1 t; θ 0 = e t ε 1 t; θ = e t + y t t 1; θ 0 y t t 1; θ Calcoliamo la varianza dell errore di predizione (che è a media nulla poiché il predittore è corretto): E ε 1 t; θ 2 = E e t + y t t 1; θ 0 y t t 1; θ 2 16 /106

17 Analisi asintotica dei metodi PEM E ε 1 t; θ 2 = E e t + y t t 1; θ 0 y t t 1; θ 2 Jҧ θ = E e t 2 + E y t t 1; θ 0 y t t 1; θ 2 +2E e t y t t 1; θ 0 y t t 1; θ 2 Le quantità y t t 1; θ 0 e y t t 1; θ sono predittori, e quindi dipendono solo dai dati (e dal rumore bianco) a tempi passati. Per cui, sono incorrelati con e t 17 /106

18 Analisi asintotica dei metodi PEM Jҧ θ = E e t 2 + E y t t 1; θ 0 y t t 1; θ 2 Jҧ θ = λ 2 + E y t t 1; θ 0 y t t 1; θ 2 È una varianza, quindi una quantità 0. In particolare, si annulla solo per θ = θ 0 Jҧ θ λ 2 = Jҧ θ 0, θ ҧ J θ ҧ J θ 0, θ θ 0 è un minimo di ҧ J θ 18 /106

19 Analisi asintotica dei metodi PEM Conclusione (fondamentale) Se S M θ e u t, y t sono pss ergodici, allora, per N +, un metodo PEM garantisce che il modello stimato è quello «vero» Osservazioni Se S M θ, allora i metodi PEM non garantiscono di stimare correttamente TUTTE le componenti del sistema S (i.e. modello I\O e modello del rumore) Se S M θ, allora in corrispondenza di θ 0 si ha che ε 1 t; θ 0 = e t WN Quindi, possiamo verificare a posteriori se il modello identificato è quello vero facendo un test di bianchezza sui residui ε 1 t; θ N 19 /106

20 Quando identifichiamo un modello M θ, possono capitarci quattro casi possibili: 1) S M θ e Δ θ = ഥθ, allora ഥθ = θ 0 2) S M θ e Δ θ contiene più valori M θ N + M θ M ഥθ M θ N N + S = M θ 0 M θ N S Δ θ θ N ഥθ = θ 0 N + θ N ഥθ θ 0 N + Ma M ഥθ ha la stessa capacità di M θ 0 nello spiegare i dati 20 /106

21 3) S M θ e Δ θ = ഥθ, allora ഥθ θ 0 4) S M θ e Δ θ contiene più valori M θ N + M θ M ഥθ M θ N N + M ഥθ M θ N Δ θ S S θ N ഥθ θ 0 N + θ N ഥθ θ 0 N + M ഥθ è la miglior approssimazione di S nella famiglia di modelli M θ M ഥθ con ഥθ Δ θ sono i migliori approssimanti (equivalenti) di S nella famiglia di modelli M θ 21 /106

22 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Robustezza dei metodi PEM e prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 22 /106

23 Identificabilità dei modelli L analisi asintotica vista precedentemente ci dice che, se S M θ, allora i metodi PEM stimano asintoticamente il modello vero S = M θ 0 o un insieme equivalente di modelli M θ θ Δ θ Questa seconda situazione, in cui troviamo un modello all interno di ad un legittima domanda: M θ θ Δ θ, porta In quali condizioni il sistema S può essere identificato univocamente dai dati? 23 /106

24 Identificabilità dei modelli Affinché un modello sia univocamente identificabile è necessario avere: 1. Identificabilità «strutturale»: il modello M θ non deve essere sovraparametrizzato rispetto al sistema S N 2. Identificabilità «sperimentale»: i dati u t, y t t=1 informazione devono contenere sufficiente ll problema di non identificabilità più critico è quello sperimentale: se non abbiamo sufficiente informazione nei dati, non possiamo fare nulla (se non ripetere l esperimento) La non identificabilità strutturale è, invece, facilmente risolvibile riducendo l ordine del modello 24 /106

25 Esempio: problema di identificabilità strutturale Supponiamo che i dati siano generati da un sistema (deterministico) del tipo S: G 0 z = z z z Per l identificazione, usiamo un modello del tipo z b 1 z + b 2 M θ : G z = z + a 1 z + a 2 z + a 3 θ = b 1 b 2 a 1 a 2 a 3 Notiamo che S M θ. Infatti, posso ottenere G 0 z b 1 z + b 2 = z + a 3, in modo che il modello diventi imponendo, per esempio, che M θ : G z = z z + a 1 z + a 2 25 /106

26 Esempio: problema di identificabilità strutturale Nonostante riusciamo a identificare un modello che è simile al sistema che genera i dati, tale modello identificato non è unico in quanto la condizione b 1 z + b 2 = z + a 3 è soddisfatta da un numero infinito di triplette di valori b 1, b 2, a 3 Questo accade perché la struttura del modello è sovra-parametrizzata rispetto alla struttura del sistema vero 26 /106

27 Esempio: problema di identificabilità sperimentale Supponiamo che i dati siano generati da un sistema del tipo S: y t = b 0z f 0 z 1 u t + 1 e t 1 + d 0 z 1 G 0 z H 0 z Consideriamo un ingresso u t = 0 t, cioè un ingresso costante a zero, e un modello M θ : y t = bz fz 1 u t dz 1 η t G z; θ H z; θ θ = b f d Notiamo che S M θ 27 /106

28 Esempio: problema di identificabilità sperimentale Calcoliamo l errore di predizione a un passo ε 1 t; θ = H 1 z, θ y t G z, θ u t = H 1 z, θ G 0 z u t + H 0 z e t G z, θ u t = G 0 z G z, θ H z, θ u t + H 0 z H z, θ e t = H 0 z H z, θ e t ε 1 t; θ = 1 + dz d 0 z 1 e t = 0 La quantità E ε 1 t; θ 2 è minimizzata quando ε 1 t; ഥθ = e t. Questo accade quando H 0 z = H z, ഥθ, ovvero quando ഥθ = b d 0 f, b, f R Abbiamo stimato il vero parametro d 0! 28 /106

29 Esempio: problema di identificabilità sperimentale Misurando l uscita y t quando l ingresso u t = 0 ci consente di «misurare l effetto prodotto dal rumore e t sull uscita». Ciò permette di identificare correttamente il modello dell errore (sotto l ipotesi che H 0 z H z, θ, implicito nel fatto che S M θ ) Però, questi dati non ci consentono di identificare i parametri di G 0 z! Infatti, la funzione di costo è minimizzata indipendentemente da b ed f, che possono assumere qualsiasi valore. Ancora una volta, il modello non viene stimato in modo univico Diciamo quindi che i dati non sono abbastanza informativi per stimare in modo completo ed univoco tutto il sistema (cioè, sia G 0 z che H 0 z ) 29 /106

30 Identificabilità sperimentale dei modelli ARX Investighiamo il problema di identificabilità sperimentale, considerando per semplicità l identificazione di un modello ARX n a, n b, 1, avendo N dati u 1,, u N, y 1,, y N M θ : y t = B z, θ A z, θ u t A z, θ e t, e t WN 0, λ2 B z = b 0 + b 1 z b nb z n b A z = 1 a 1 z 1 a 2 z 2 a na z n a Sappiamo che la stima può essere ottenuta tramite il metodo dei minimi quadrati 1 N N θ N = φ t φ t φ t y t d 1 d 1 t=1 1 d d 1 t=1 30 /106

31 Identificabilità sperimentale dei modelli ARX Problema di identificabilità: quando θ N esiste ed è unico? Definiamo: S N = φ t φ t d d N t=1 quando N φ t φ t è invertibile? t=1 d 1 1 d θ N = S N 1 φ t y t d 1 d d N t=1 d 1 R N = 1 N d d S N θ N = R N 1 d 1 d d 1 N N t=1 φ t y t d 1 31 /106

32 Identificabilità sperimentale dei modelli ARX Le matrici S N e R N sono semidefinite positive in quanto prodotto di un vettore per sé stesso. Affinché θ N esista ed sia unico, è però necessario che S N 0 o R N 0, cioè che det R N > 0 d d Analizziamo la matrice R N per N +. Consideriamo come punto di partenza un modello ARX 1, 0, 1, ovvero con n a = 1, n b = 0, k = 1 y t = a 1 y t 1 + b 0 u t 1 + e t, e t WN 0, λ 2 dove y t e u t sono pss ergodici a media nulla 32 /106

33 Identificabilità sperimentale dei modelli ARX y t = a 1 y t 1 + b 0 u t 1 + e t, e t WN 0, λ 2 θ = 2 1 a b φ t = 2 1 y t 1 u t 1 φ t φ t = y t 1 2 y t 1 u t 1 u t 1 y t 1 u t 1 2 S N = φ t φ t 2 2 N t=1 R N = S N N = N t=1 N N t=1 N N y t N y t 1 u t 1 t=1 u t 1 y t 1 1 N N t=1 u t 1 2 Notiamo che R N contiene «somme temporali» 33 /106

34 Identificabilità sperimentale dei modelli ARX Grazie all ipotesi di ergodicità, abbiamo che R N തR = 2 2 γ yy 0 γ yu 0 γ uy 0 γ uu 0 N + തR Anche perché y e u hanno media nulla La matrice തR è la matrice di autocovarianze del processo congiunto y t, u t Idea: trovare le condizioni per cui തR è invertibile. Quando queste condizioni valgono, allora possiamo supporre con ragionevole certezza che, per N grande, anche R N invertibile è 34 /106

35 Identificabilità sperimentale dei modelli ARX In generale, per un generico modello ARX n a, n b, 1 divisa in quattro sotto-matrici തR = n a + n b + 1 n a + n b + 1 തR yy n a n a തR uy abbiamo che la matrice തR può essere തR yu n a n b + 1 തR uu n b + 1 n a n b + 1 n b + 1 തR yy = n a n a γ yy 0 γ yy 1 γ yy 2 γ yy n a 1 γ yy 1 γ yy 0 γ yy 1 γ yy 2 γ yy n a 2 γ yy 2 γ yy 1 γ yy 0 γ yy 1 γ yy n a 3 γ yy n a 1 γ yy 0 Matrice autocovarianza di ordine n a 1 di y t Struttura Toeplitz Dimensioni n a n a 35 /106

36 Identificabilità sperimentale dei modelli ARX തR uu = n b + 1 n b + 1 γ uu 0 γ uu 1 γ uu 2 γ uu n b γ uu 1 γ uu 0 γ uu 1 γ uu 2 γ uu n b 1 γ uu 2 γ uu 1 γ uu 0 γ uu 1 γ uu n b 2 γ uu n b γ uu 0 Matrice autocovarianza di ordine n b di u t Struttura Toeplitz Dimensioni n b + 1 n b + 1 തR yu = n a n b + 1 γ yu 0 γ yu 1 γ yu 2 γ yu n a 1 γ yu 1 γ yu 0 γ yu 1 γ yu 2 γ yu n a 2 γ yu 2 γ yu 1 γ yu 0 γ yu 1 γ yu n a 3 γ yu n a 1 γ yu 0 Matrice autocovarianza tra y e u തR yu = തR uy Dimensioni n a (n b +1) Cerchiamo una condizione per l invertibilità di തR 36 /106

37 Identificabilità sperimentale dei modelli ARX Lemma di Schur Data una matrice M nella forma M = necessaria e sufficiente per l invertibilità di M è che valgano: H 0 F KH 1 K 0 Ricordando che F K K H, con F e K simmetriche. Condizione തR = തR yy തR uy തR yu തR uu Condizione necessaria per l invertibilità di തR è che തR uu 0 37 /106

38 Identificabilità sperimentale dei modelli ARX La condizione (solo necessaria) sulla matrice തR uu è interessante perché riguarda solo il segnale di ingresso u t, che tipicamente progettiamo noi! Possiamo quindi tenere conto di questa condizione in fase di progettazione dell esperimento, e scegliere il segnale di eccitazione più opportuno al fine di ottenere dati informativi 38 /106

39 Persistente eccitazione Definizione (Persistente eccitazione) i Definiamo la matrice തR uu di autocovarianza di u t di ordine i come തR uu i i i = γ uu 0 γ uu 1 γ uu i 1 γ uu 1 γ uu 0 γ uu i 2 γ uu i 1 γ uu i 2 γ uu 0 Il segnale u t è detto persistentemente eccitante di ordine n se: തR uu 1 0, തR uu 2 0,, തR uu n 0 തR uu n+1 0, തR uu n+2 0, 0 Ovvero se n è il massimo ordine per cui തR uu i è invertibile 39 /106

40 Persistente eccitazione Possiamo quindi dire che condizione necessaria per l identificabilità sperimentale di un modello ARX n a, n b, 1 è che il segnale u t, usato per produrre i dati, sia «persistentemente eccitante» di ordine pari ad almeno n b + 1 (infatti, തR uu ha dimensione n b + 1 n b + 1 ) Tale conclusione si può generalizzare nel modo seguente. Supponendo che S M θ, definiamo il numero di parametri di G z, θ come n g. Allora, la soluzione del problema di identificazione ഥθ = arg min θ E ε 1 t, θ 2 ha un unica soluzione ഥθ = θ 0 se il segnale u t che genera i dati è persistentemente eccitante di ordine n g 40 /106

41 Persistente eccitazione Osservazioni Se un segnale u t è persistentemente eccitante di ordine n, allora è anche persistentemente eccitante di ordine n 1 Ribadiamo che la condizione vista è solamente necessaria: anche se തR uu 0, la തR potrebbe comunque non essere invertibile per ragioni di non identificabilità strutturale, per le quali il minimo di ҧ J θ non è unico Il concetto di persistente eccitazione che abbiamo visto è stato esemplificato per la stima di modelli ARX, ma avere un segnale eccitante è importante in ogni caso si voglia identificare un modello dinamico 41 /106

42 Esempio: ingresso impulsivo 1 se t = 0 Consideriamo come ingresso u t = imp t = ቐ 0 se altrimenti u t t La matrice R uu N assume la forma seguente: R uu N = 1 N n b + 1 n b + 1 N N N u t 1 2 u t u t 1 u t u t n b t=1 t=1 t=1 N N u t u t 1 u t 1 2 t=1 N t=1 u t u t n b u t 1 2 N = 1 N N N t=1 t=1 42 /106

43 Esempio: ingresso impulsivo Dato che R uu N = n b + 1 n b N N 0 allora lim R uu N = തR uu = N n b + 1 n b N Per cui l impulso non è persistentemente eccitante di nessun ordine Questo non vuol dire che la risposta all impulso non può essere usata per stimare modelli, anzi ci dà molte informazioni sul sistema G 0 z. La nozione di persistente eccitazione serve però a garantire stime consistenti anche in presenza di disturbi In questo caso, il problema è che «osservo solo una volta» ogni valore della risposta all impulso, e quindi se quel valore è corrotto da rumore «non posso confrontarlo» con altri valori analoghi, e me lo devo tenere sporcato dal rumore 43 /106

44 Esempio: ingresso scalino Consideriamo come ingresso u t = sca t = ቐ La matrice R uu N assume la forma seguente: u t 1 se t 0 0 se altrimenti t N u t 1 2 N N u t u t 1 u t u t n b R uu N = 1 N n b + 1 n b + 1 t=1 t=1 t=1 N N u t u t 1 u t 1 2 t=1 N t=1 u t u t n b u t 1 2 t=1 t=1 N È persistentemente eccitante di ordine 1 44 /106

45 Esempio: ingresso impulso e scalino Come informazione ulteriore, notiamo che impulso e scalino caratterizzano completamente un sistema dinamico lineare (a meno della sua condizione iniziale), grazie anche al periodo di transitorio della risposta a questi segnali È utile ricordare che il framework PEM che stiamo studiando qui non è adatto all utilizzo di segnali con transitori (infatti richiede che essi siano realizzazioni di pss) Altri metodi, come quelli di identificazione a sottospazi, possono utilizzare segnali con transitorio 45 /106

46 Esempio: ingresso rumore bianco Consideriamo ora come ingresso u t = WN 0, λ 2. In questo caso, la matrice തR uu i risulta essere: തR uu i i i = γ uu 0 γ uu 1 γ uu i 1 γ uu 1 γ uu 0 γ uu i 2 γ uu i 1 γ uu i 2 γ uu 0 = λ λ λ λ 2 = λ 2 I i 0 Quindi, un white noise è un segnale persistentemente eccitante di ordine. Se usiamo un WN per eccitare il sistema, i dati generati saranno molto informativi. Questo perché eccitiamo tutte le frequenze del sistema (con la stessa «energia») 46 /106

47 Persistente eccitazione nel dominio delle frequenze La nozione di persistente eccitazione di un segnale di ingresso u t interpretata anche nel dominio delle frequenze può essere A tale fine, consideriamo un processo stocastico stazionario generato nel modo seguente: y t = c 0 u t + c 1 u t 1 + c 2 u t c n u t n dove u t è un processo stazionario a media nulla e con funzione di autocovarianza γ uu τ (u t non è per forza un WN) Questo processo è anche chiamato Generalized Moving Average (GMA) data la sua somiglianza al processo MA Approfondimento 47 /106

48 Persistente eccitazione nel dominio delle frequenze Calcoliamo la varianza di y t Var y t = E y t 2 = c 2 0 E u t 2 + c 2 1 E u t c 2 n E u t 2 + +c 0 c 1 E u t u t 1 + c 1 c 2 E u t 1 u t 2 + +c 0 c 2 E u t u t 2 + c 1 c 3 E u t 1 u t 2 + Per cui Var y t = c c c n 2 γ uu 0 + c 0 c 1 + c 1 c 2 + γ uu 1 + c 0 c 2 + c 1 c 3 + γ uu 2 + Approfondimento 48 /106

49 Persistente eccitazione nel dominio delle frequenze Definiamo ora la matrice തR uu i di ordine i = n + 1 തR uu i i i = γ uu 0 γ uu 1 γ uu i 1 γ uu 1 γ uu 0 γ uu i 2 γ uu i 1 γ uu 0 തR uu n+1 = n + 1 n + 1 γ uu 0 γ uu 1 γ uu n γ uu 1 γ uu 0 γ uu n 1 γ uu n γ uu n 1 γ uu 0 Ponendo c = c 0 c 1 c 2 c n R n+1 1, possiamo scrivere che Var y t = c തR uu n+1 c n + 1 n + 1 n Approfondimento 49 /106

50 Esempio: autocovarianza di un processo GMA Consideriamo il seguente processo GMA di ordine n = 1, dove u t pss a media nulla y t = c 0 u t + c 1 u t 1 Calcoliamo la varianza di y t Var y t = E y t 2 = c 0 2 E u t 2 + c 1 2 E u t c 0 c 1 E u t u t 1 = c 0 2 γ uu 0 + c 1 2 γ uu 0 + c 0 c 1 γ 1 + c 1 c 0 γ 1 La matrice di autocovarianze di u t è: തR uu 1+1 = γ uu 0 γ uu 1 γ uu 1 γ uu 0 Approfondimento 50 /106

51 Esempio: autocovarianza di un processo GMA Definiamo c = c 0 c 1 R 2 1 Per cui Var y t = c തR uu 1+1 c = c 0 c 1 γ uu 0 γ uu 1 γ uu 1 γ uu 0 c 0 c 1 = = c 0 c 1 c 0 γ uu 0 γ uu 1 + c 1 γ uu 1 γ uu 0 = c 0 c 1 c 0 γ uu 0 + c 1 γ uu 1 c 0 γ uu 1 + c 1 γ uu 0 = c 0 2 γ uu 0 + c 1 2 γ uu 0 + c 0 c 1 γ 1 + c 1 c 0 γ 1 Approfondimento 51 /106

52 Persistente eccitazione nel dominio delle frequenze Consideriamo quindi un generico vettore α = α 1 α 2 α n R n 1, α 0, ed il segnale u t generato filtrando il pss u t a media nulla come u t = α 1 u t 1 + α 2 u t α n u t n La funzione H α z di trasferimento del filtro è Possiamo quindi scrivere H α z = α 1z n α n z n u t = H α z u t Approfondimento 52 /106

53 Persistente eccitazione nel dominio delle frequenze Essendo u t un processo GMA, la sua varianza è Var u t = α തR n uu α È però possibile esprimere la varianza di u t anche come Da cui segue che +π Var u t = 1 2π න π +π Γ uu ω dω = 1 2π න π H α e jω 2 Γ uu ω dω +π α തR uu n α = 1 2π න π H α e jω Γ uu ω dω Approfondimento 53 /106

54 Persistente eccitazione nel dominio delle frequenze +π α തR uu n α = 1 2π න π H α e jω 2 Γ uu ω dω Il fatto che തR uu n 0 (e quindi che u t sia persistentemente eccitante di ordine n) equivale a dire che α തR uu n α > 0. Quindi തR uu n è non singolare se e solo se α തR uu n α = 0 α = 0 La precedente implicazione può essere riscritta come +π 1 2π න π H α e jω 2 Γ uu ω dω = 0 H α e jω = 0 ω Approfondimento 54 /106

55 Persistente eccitazione nel dominio delle frequenze Quando succede che α തR uu n α = 0 nonostante sia α 0? Notiamo che la funzione di trasferimento H α z può avere al massimo n 1 zeri Quindi, H α z può annullarsi se z k = e jω k è uno dei suoi zeri, con k = 1,, n 1 Però, se Γ uu ω 0 per almeno n pulsazioni distinte nell intervallo ω π, π, allora +π Hα π e jω Γ uu ω dω 0 e quindi α തR n uu α > 0 Questa interpretazione ci permette di dare una definizione equivalente di persistente eccitazione Approfondimento 55 /106

56 Persistente eccitazione nel dominio delle frequenze Definizione (Persistente eccitazione) Un segnale u t, con spettro Γ uu ω, è persistentemente eccitante di ordine n se e solo se, per tutti i filtri della forma H α z = α 1 z 1 + a 2 z a n z n la relazione H α e jω 2 Γ uu ω = 0 ω implica che H α e jω = 0 ω Approfondimento 56 /106

57 Persistente eccitazione nel dominio delle frequenze Possiamo quindi concludere che: 1. Un pss u t a media nulla (media non nulla) è persistentemente eccitante di ordine n (n + 1) se Γ uu ω 0 in almeno n pulsazioni ω π, π distinte Esempio: il segnale u t = sin ω 0 t è persistentemente eccitante di ordine n = 2 (Γ uu ω ha contributi alle pulsazioni ±ω 0 ) 2. Un processo ARMA è persistentemente eccitante di ogni ordine Infatti, Γ yy ω k = 0 solo se z k = e jω k è uno degli zeri di C z, e vi sono altre infinite frequenze per cui la sua densità spettrale di potenza non si annulla Approfondimento 57 /106

58 Persistente eccitazione nel dominio delle frequenze Considerazioni ulteriori Un segnale u t, periodico di periodo T, è al massimo (potrebbe essere anche minore) persistentemente eccitante di ordine n = T Esempio: consideriamo un pss completamente predicibile periodico di periodo T, con media non nulla 1 Γ uu ω π π ω ω = π e ω = π sono lo stesso punto e vanno contati una volta sola Approfondimento 58 /106

59 Esempio: effetto dell ingresso sulla stima Consideriamo il seguente meccanismo di generazione dei dati S S: y t = z z z z z 4 z 3 u t + e t, e t WN 0,0.5 2 Notiamo che il sistema è del tipo Output Error OE n b, n f, k, con k = 3, n b = 1, n f = 4 Utilizziamo una famiglia di modelli tali che S M θ, ovvero M θ : G z, θ = b 0 + b 1 z f 1 z 1 + f 2 z 2 + f 3 z 3 + f 4 z 4 z 3 ; H z, θ = 1 I parametri sono θ = b 0 b 1 f 1 f 2 f 3 f 4 R 6 1. Il numero di parametri di G z, θ è n g = 6 59 /106

60 Esempio: effetto dell ingresso sulla stima Misuriamo N = 2000 dati con ingresso sinusoidale u sin t = sin 0.1t, p.e. di ordine 2 60 /106

61 Esempio: effetto dell ingresso sulla stima Misuriamo N = 2000 dati con ingresso rumore bianco u wn t WN 0,0.5 2, p.e. di ordine 61 /106

62 Segnali di eccitazione ulteriori Abbiamo visto che un rumore bianco è un ottimo segnale di eccitazione. Nella pratica, però, è impossibile generare un rumore bianco «perfetto»: al più, le sequenze di numeri saranno pseudo-casuali, e non casuali a causa di limiti dell elettronica (e.g. capacità parassite), il segnale generato e trasmesso agli attuatori sarà «filtrato passa-basso», per cui non si avrà uno spettro «perfettamente piatto». Inoltre, talvolta non si vuole sollecitare troppo gli attuatori ad alta frequenza per non rovinarli Inoltre, l ampiezza del rumore bianco non è «limitata». Talvolta, è necessario garantire che l attuatore non saturi l ingresso, al fine di non introdurre nonlinearità nell esperimento e nei dati misurati 62 /106

63 Pseudo-Random Binary Signal (PRBS) Il segnale di tipo PRBS è un segnale deterministico, periodico, a tempo discreto, che commuta tra due livelli L utente deve definire i due livelli തu, +തu, il periodo e l intervallo di clock (il numero minimo di intervalli di tempo dopo i quali il segnale può cambiare livello) 63 /106

64 Pseudo-Random Binary Signal (PRBS) Di solito il periodo viene posto uguale al numero di dati N che si vuole collezionare, e l intervallo di clock a un tempo di campionamento I tool per la generazione dei segnali (come Matlab) generano automaticamente dei PRBS di lunghezza massima, ovvero dei segnali il cui periodo è T = 2 n prbs 1, dove n prbs è detto ordine del PRBS. È poi possibile ripetere più volte il segnale con tale periodo Per cui, se settiamo T = N e N non è esprimibile come 2 n prbs 1, il periodo effettivamente generato non sarà di N ma del valore 2 n prbs 1 più vicino a N In matlab idinput([n 1 3], 'prbs', Band, Range) Periodo di lunghezza N ripetuto 3 volte 64 /106

65 Pseudo-Random Binary Signal (PRBS) Tali «maximum length PRBS» hanno proprietà interessanti. Infatti, si dimostra come la funzione di autocovarianza di un max. length PRBS può essere espressa come M തu T se τ = 0, ±M, ±2M, γ uu τ = 1 M t=1 u t m u u t + τ m u = m u è la media del PRBS, che non è esattamente zero തu2 T T se altrimenti Notiamo che quando T il PRBS approssima un rumore bianco. Il PRBS è persistentemente eccitante di ordine M (e non può esserlo di più essendo periodico) 65 /106

66 Esempio: effetto dell ingresso sulla stima Riprendiamo l esempio precedente e misuriamo N = 2000 dati con ingresso PRBS 2, /106

67 Multiseno Il segnale multiseno è un segnale periodico, definito come una media pesata di sinusoidi, con frequenze multiple della risoluzione in frequenza della DFT f 0 = f s /N F u t = A k cos 2π kf 0 t + φ k k=0 ll numero F di componenti in frequenza deve soddisfare il teorema del campionamento Gli sfasamenti φ k sono in generale scelti in modo casuale, e si possono anche ottimizzare per minimimizzare il valore di picco del segnale 67 /106

68 Multiseno Molto spesso le ampiezze A k vengono scelte ad un valore costante nella banda di frequenze di interesse, e 0 altrove. Per esempio, se A k = 1 k, l'ampiezza dello spettro in frequenza dell uscita y t assume la forma dell'ampiezza della funzione di trasferimento alle frequenze eccitate 68 /106

69 Multiseno Quando l ingresso u t da un multiseno, anche il segnale di uscita y t di un sistema LTI è un multiseno (dopo un transitorio), come conseguenza del principio di sovrapposizione degli effetti Di solito si scartano i primi periodi del segnale multiseno generato Quando si progetta un multiseno, si può fissare la risoluzione in frequenza desiderata e la massima frequenza eccitata, per calcolare automaticamente la lunghezza N P del segnale, dove N = numero dati per periodo e P = numero di periodi del multiseno 69 /106

70 Multiseno Visivamente, un multiseno è molto simile ad un rumore bianco Multiseno White noise 70 /106

71 Esempio: multiseno Progettiamo un multiseno con N = 1000 campioni per periodo, campionato a f s = 1 Hz Misuriamo P = 2 periodi. Ogni periodo del multiseno è un segnale che eccita le frequenze da 1 bin = f s /N = 10 3 fino a 0.5 Hz, con una risoluzione di 1 bin = f s /N (la componente DC non è eccitata) 71 /106

72 Esempio: multiseno Riprendiamo l esempio precedente e misuriamo N = 2000 dati con ingresso multiseno 72 /106

73 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Robustezza dei metodi PEM e prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 73 /106

74 Varianza della stima dei parametri Abbiamo visto che, quando S M θ e se l ingresso è sufficientemente eccitante da rendere i dati informativi, i metodi PEM portano a stimare il valore vero dei parametri Questo risultato vale però per N. Cosa possiamo dire sulla bontà della stima PEM con un numero finito di dati? IPOTESI DI LAVORO S M θ, per cui θ 0 Δ θ Δ θ = ഥθ, ovvero esiste un solo punto di minimo globale. Quindi θ 0 = ഥθ Ipotizziamo di avere un numero finito di dati e di stimare θ N = arg min θ Θ 1 σ N t=1 N ε 1 t; θ 2 74 /106

75 Varianza della stima dei parametri Ci ricordiamo che θ N è una variabile casuale in quanto i dati provengono da realizzazioni di processi stocastici. Dalle ipotesi precedenti (S M θ e θ 0 = ഥθ) abbiamo che E θ N = θ 0 Vogliamo calcolare l incertezza di stima parametrica Var θ N = E θ N θ 0 θ N θ 0 Si dimostra che: തR θ = E ψ t; θ 0 ψ t; θ 0 Var θ N d d തP θ = 1 N λ2 തR θ 1 d d ψ t; θ 0 d 1 = d dθ ε 1 t; θ ቚ θ=θ 0 λ 2 = Var e t 75 /106

76 Varianza della stima dei parametri Tali quantità dipendono da θ 0. Nella pratica, si approssimano come: N መλ 2 = 1 N t=1 2 y t y t t 1; θ N = J θ N R θ = 1 N d d t=1 N ψ t; θ ψ t; θ N Interpretazione di തP θ Ricordiamo che ҧ J θ = E ε 1 t; θ 2. Riprendendo quanto visto per la stima ARMAX: d ҧ J θ dθ = E 2ε 1 t; θ dε 1 t; θ dθ d 2 ҧ J θ dθ 2 = E 2 dε 1 t; θ dθ dε 1 t; θ dθ + 2ε 1 t; θ d2 ε 1 t; θ dθ 2 d 1 d d 76 /106

77 Varianza della stima dei parametri La quantità d2 ε 1 t; θ è funzione dell errore di predizione e pertanto dipende dai valori dθ 2 passati e t 1, e t 2, Notiamo però che se θ = θ 0, allora ε 1 t; θ = e t Ne consegue che il termine sono incorrelati. Quindi: E 2ε 1 t; θ d2 ε 1 t;θ dθ 2 si annulla, in quanto ε 1 t e d 2 ε 1 t; θ dθ 2 d 2 ҧ J θ dθ 2 ቚ θ=θ 0 = E 2 dε 1 t; θ dθ ቚ θ=θ 0 dε 1 t; θ dθ ቚ θ=θ 0 = 2 E ψ t; θ0 ψ t; θ 0 = 2 തR θ തR θ = 1 2 d2 J θ dθ 2 ቚ θ=θ 0 d d തR θ è la metà dell Hessiana della funzione di costo valutata nell ottimo 77 /106

78 Varianza della stima dei parametri Osservazione 1 Var θ N La varianza dell errore di stima dei parametri decresce all aumentare di N തP θ = 1 N λ2 തR θ 1 തR θ = 1 2 d2 J θ dθ 2 ቚ θ=θ 0 La varianza dell errore di stima dei parametri aumenta all aumentare di λ 2 La varianza dell errore di stima dei parametri diminuisce all aumentare della derivata seconda (Hessiana) della funzione di costo all ottimo J N θ Derivata seconda piccola J N θ Derivata seconda grande መλ 2 መθ N θ Maggiore incertezza መλ 2 መθ N θ Minore incertezza 78 /106

79 Varianza della stima dei parametri Osservazione 2 Più grande è la «potenza» del segnale di ingresso u t, più piccola è la matrice di varianza delle stime തP θ Questo perché തP θ è proporzionale all inverso della «potenza» del vettore di segnali ψ t; θ = dε 1 t;θ dθ Infatti, e questo vettore di segnali è più «potente» tanto più u t è potente. ε 1 t; θ = H 1 z; θ y t G z, θ u t = G 0 z G z, θ H z, θ u t + H 0 z H z, θ e t Da cui si vede che ε 1 t; θ, e quindi anche ψ t; θ, è proporzionale a u t 79 /106

80 Varianza della stima dei parametri Caso particolare: stima ARX La stima è ottenuta tramite l algoritmo dei minimi quadrati, con L errore di predizione a un passo è ε 1 t; θ = y t y t t 1; θ = y t φ t θ y t t 1; θ = φ t θ φ t = d 1 y t 1 y t 2 y t n a u t 1 u t 2 u t n b 1 Quindi ψ t; θ = d dθ ε 1 t; θ = φ t e di conseguenza തP θ = 1 N λ2 തR θ 1 = 1 N λ2 E ψ t; θ 0 ψ t; θ 0 1 = 1 N λ2 E φ t; θ 0 φ t; θ /106

81 Varianza della stima dei parametri Caso particolare: stima ARX Usando la stima campionaria P θ di തP θ, abbiamo che തP θ = 1 N λ2 E φ t; θ 0 φ t; θ N መ λ 2 1 N t=1 N φ t; θ φ t; θ N 1 N = መλ 2 φ t; θ φ t; θ N t=1 1 = መλ 2 S N 1 Le proprietà probabilistiche della stima PEM di modelli ARX sono uguali a quelle della stima a minimi quadrati di modelli lineari «statici» (Lezione 3 slide 25) 81 /106

82 Distribuzione asintotica delle stime dei parametri Se S M θ, la distribuzione θ N ottenuta tramite stima PEM converge asintoticamente ad una Gaussiana θ N N θ 0, തP θ d 1 Nel caso in cui S M θ, l espressione di തP θ è quella ricavata precedentemente. Altrimenti, assume una forma più complicata La relazione θ N N θ 0, P θ, con P θ al posto di തP θ, può essere usata nella pratica per calcolare intervalli di confidenza sulla stima θ N, e valutare così l affidabilità della stima di un certo parametro 82 /106

83 Distribuzione asintotica delle stime dei parametri Tali intervalli di confidenza ci dicono la probabilità p θ che l intervallo di confidenza contenga il vettore vero dei parametri C θ = θ θ θ N P θ 1 θ θ N α dove α è tale che P χ 2 d < α = p θ. Di solito si usa p θ = 0.95 Il set di valori C θ è un ellissoide nello spazio dei parametri θ, centrato in θ N. Notiamo che più തP è grande, più grande sarà l ellissoide 83 /106

84 Varianza della stima delle funzioni di trasferimento Dato che θ N è una variabile casuale, anche i modelli identificati G z, θ N e H z, θ N lo saranno. In molte situazioni è probabilmente più di interesse analizzare la varianza della stima delle funzioni di trasferimento G z, θ N e H z, θ N, piuttosto che la varianza delle stime dei parametri θ N Per esempio, considerando G z, θ, si può scrivere Var G e jω, θ N E G e jω, θ N G e jω, θ 0 2 Tale quantità può essere stimata dai dati usando P θ e θ N 84 /106

85 Varianza della stima delle funzioni di trasferimento Assumendo sempre che S M θ e che u t e t, l espressione può essere approssimata come Var G e jω, θ N n N Γ vv ω Γ uu ω dove n è il grado del sistema (numero di variabili di stato), Γ vv ω è la densità spettrale di potenza del disturbo v t = H 0 z e t e Γ uu ω è la densità spettrale dell ingresso Notiamo che possiamo fare «input shaping» dell ingresso u t per «favorire» la stima in una certa banda di frequenze piuttosto che in altre 85 /106

86 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Robustezza dei metodi PEM e prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 86 /106

87 Robustezza dei metodi PEM Un obiettivo principale dell'identificazione è valutare la mancata corrispondenza tra il modello e realtà. Sappiamo che quando S M θ non possiamo raggiungere la parametrizzazione vera sia di G 0 z che di H 0 z. Come possiamo caratterizzare l errore di stima del modello in questa situazione? Consideriamo il seguente meccanismo di generazione dei dati E il modello ARMAX S: y t = G 0 z u t + H 0 z e t, e t WN 0, λ 2 M θ : y t = B z, θ A z, θ u t 1 + C z, θ A z, θ η t, η t WN 0, λ η 2 Approfondimento 87 /106

88 Robustezza dei metodi PEM Problema: vogliamo analizzare la robustezza dei metodi PEM nel caso in cui S M θ. In particolare, caratterizzare come l errore di modellazione di G 0 z G z, θ dipende dall errore di predizione a un passo IPOTESI DI LAVORO e t 1. Supponiamo che il segnale disturbo v t sia «piccolo» rispetto all uscita del blocco G o z H 0 z 2. Vogliamo stimare G 0 z nel caso in cui G 0 z G z, θ u t G 0 z + + v t y t Approfondimento 88 /106

89 Robustezza dei metodi PEM Definiamo l errore di modellazione come ΔG z, θ = G 0 z G z, θ Osservazione Possiamo dividere l errore di modellazione di G 0 z in due componenti: ΔG z, θ = G 0 z G z, θ = G 0 z G z, ഥθ + G z, ഥθ G z, θ Bias di modello Varianza di modello Se S M θ, allora G 0 z G z, ഥθ = 0 Approfondimento 89 /106

90 Robustezza dei metodi PEM Ricaviamo l espressione dell errore η t del modello ARMAX M θ : y t = B z, θ A z, θ u t 1 + C z, θ A z, θ η t, η t WN 0, λ η 2 = G z, θ u t + H z, θ η t η t = H 1 z, θ y t G z, θ u t Sostituiamo l espressione di y t = G 0 z u t + H 0 z e t η t = H 1 z, θ G 0 z u t G z, θ u t + H 0 z e t = H 1 z, θ ΔG z, θ u t + H 0 z e t Approfondimento 90 /106

91 Robustezza dei metodi PEM Notiamo però che η t è anche l errore di predizione ad un passo ε 1 t; θ (abbiamo fatto gli stessi passaggi in Lezione 10 - slide 75), per cui possiamo scrivere ε 1 t; θ = 1 H z, θ ΔG z, θ u t + H 0 z e t Questa espressione connette l errore di modellazione con l errore di predizione, mettendo in risalto che ε 1 t; θ dipende linearmente da u t e da e t. In particolare, l influenza di u t su ε 1 t; θ è dettata da ΔG z, θ Approfondimento 91 /106

92 Robustezza dei metodi PEM Il vettore di parametri θ è stimato tramite un metodo PEM, ovvero minimizzando la funzione di costo J N θ N J N θ = 1 N t=1 ε 1 t; θ 2 Asintoticamente, supponendo l ergodicità di u t e y t, abbiamo che J N θ N + ҧ J θ = E s ε 1 t, θ 2 Possiamo interpretare in frequenza la funzione di costo ҧ J θ come Jҧ θ = E ε 1 t, θ 2 = γ ε1 ε 1 0 = 1 2π න π π Γ ε1 ε 1 ω dω Approfondimento 92 /106

93 ҧ Robustezza dei metodi PEM Ipotizzando ora che u t e t, che non è un ipotesi restrittiva quando il sistema è in anello aperto, abbiamo che Γ ε1 ε 1 ω è la somma dei contributi dati da Γ uu ω e Γ ee ω Γ ε1 ε 1 ω = ΔG ejω, θ H e jω, θ 2 Γ uu ω + H 0 e jω H e jω, θ 2 Γ ee ω Per l ipotesi di lavoro 1 trascuriamo il secondo termine, ottenendo Γ ε1 ε 1 ω ΔG ejω, θ H e jω, θ 2 Γ uu ω Sostituendo Γ ε1 ε 1 ω ΔG ejω,θ H e jω,θ 2 Γ uu ω nell espressione J θ = 1 2π න Γ ε1 ε 1 ω dω si ha: π π Approfondimento 93 /106

94 Robustezza dei metodi PEM π Jҧ θ = 1 2π න π ΔG e jω, θ 2 Γ uu ω H e jω, θ 2 dω = 1 2π න π π ΔG e jω, θ 2 g ω, θ dω ΔG e jω, θ 2 rappresenta l errore di stima della risposta in frequenza, per ogni pulsazione ω g ω, θ è un peso in frequenza. Per esempio, g ω, θ = costante ω, allora gli errori alle diverse frequenze sono pesati allo stesso modo. Oppure, se g ω, θ = 0 se ω > ഥω, allora solo gli errori nella banda di frequenze 0, ഥω contribuiranno alla funzione di costo Approfondimento 94 /106

95 Robustezza dei metodi PEM Se consideriamo un rumore bianco come ingresso, abbiamo che g ω, θ = Γ uu ω H e jω, θ 2 = λ 2 H e jω, θ 2 ovvero la pesatura in frequenza dipende solo dal modello del rumore H e jω, θ. Se facciamo l ulteriore ipotesi che il modello del rumore sia una funzione fissata H e jω : g ω, θ = λ 2 H e jω 2 cioè peso di più le frequenze dove l entità del rumore è più bassa (che vuole dire che do più importanta a dati «più affidabili») Approfondimento 95 /106

96 Robustezza dei metodi PEM Osservazioni Se G 0 z G z, θ, allora ҧ J ഥθ = 0 e la funzione peso non riveste alcun ruolo Usando il rumore bianco, non posso «focalizzare gli sforzi» dell identificazione in una determinata banda di frequenze di interesse (ad esempio, spesso per il controllo mi basta un modello buono solo fino alla ω c ) Potrei quindi scegliere un ingresso u t diverso dal rumore bianco (o similari), e quindi avere un Γ uu ω diverso, per pesare di più alcune frequenze a discapito di altre Purtroppo, non è sempre possibile scegliere l ingresso a piacere. È però comunque possibile influenzare la pesatura in frequenza tramite prefiltraggio dei dati Approfondimento 96 /106

97 Prefiltraggio Il prefiltraggio consiste nel filtrare sia l ingresso che l uscita tramite un filtro L z asintoticamente stabile u F t = L z u t y F t = L z y t Tale operazione non modifica la relazione ingresso-uscita, anche se modifica la densità spettrale di potenza del rumore. Infatti: L z y t = G 0 z L z u t + H 0 z L z e t Approfondimento 97 /106

98 Prefiltraggio Filtrare l ingresso u t e l uscita y t equivale a filtrare l errore di predizione ε 1 t; θ, ottenendo un errore filtrato ε F t; θ, infatti: ε F t; θ = L z ε 1 t; θ = L z H z, θ y t G z, θ u t = 1 H z, θ L z y t G z, θ L z u t La funzione di costo asintotica, in frequenza, diventa quindi: π Jҧ θ = 1 2π න π ΔG e jω, θ 2 Γ uu ω H e jω, θ L ejω 2 dω = 1 2π න π π ΔG e jω, θ 2 g F ω, θ dω Approfondimento 98 /106

99 Esempio: prefiltraggio Misuriamo N = 5000 dati da un sistema OE 5, 5, 0 con risposta in frequenza come in figura, e con λ 2 = 0.01 Identifichiamo un modello ARX 2, 2, 1, per il quale S M θ Progettiamo un filtro L z che abbia un modulo alto nella banda di frequenze 0.04, 0.08 Hz Approfondimento 99 /106

100 Outline 1. Analisi asintotica dei metodi PEM 2. Identificabilità dei modelli e persistente eccitazione 3. Valutazione dell incertezza della stima PEM 4. Prefiltraggio 5. Empirical Transfer Function Estimate (ETFE) 100/106

101 Multiseno e stima nonparametrica Dato che il multiseno è un segnale periodico, è possibile utilizzare la DFT (tramite l algoritmo FFT) per calcolare lo spettro di uno (o più) periodi del segnale, ottenendo uno spettro senza leakeage Questo viene molto comodo in quanto è possibile ottenere una stima nonparametrica iniziale della G z, prima di effettuare la stima parametrica con metodi PEM Supponiamo di dividere i segnali u t e y t, entrambi multiseni, in sotto-sequenze u p, y p che contengono i diversi p = 1,, P periodi. Definiamo: U p = DFT u p DFT dell ingresso Y p = DFT y p DFT dell uscita Approfondimento 101 /106

102 Empirical Transfer Function Estimate (ETFE) Possiamo ottenere una stima nonparametrica della G z nelle griglia di frequenze definite dalla DFT k = bin: bin: f s /2, come P U k = 1 P p=1 P Y k = 1 P p=1 U p U p k k G k = Y k U k Empirical Transfer Function Estimate (ETFE) G k è un numero complesso che rappresenta la risposta in frequenza del sistema alla frequenza k. È poi possibile calcolare modulo e fase del numero complesso a diverse frequenze k per tracciare i diagrammi di Bode Approfondimento 102/106

103 Esempio: ETFE tramite multiseno Senza rumore sull uscita Con rumore sull uscita Senza rumore, la stima è perfetta perché non c è leakeage indotto dalla FFT, grazie alla periodicità di u t e y t Approfondimento 103/106

104 Empirical Transfer Function Estimate (ETFE) La stima nonparametrica ETFE è usata per ottenere una prima indicazione sulle caratteristiche del sistema, in particolar modo sulla G z. Non permette di ottenere informazioni sullo spettro del disturbo La stima ottenuta ci dà inoltre un indicazione sulla banda di frequenza di interesse del sistema, sia per l identificazione parametrica (es. usando poi il prefiltraggio) sia per l applicazione del modello per fini di progettazione del controllo La ETFE può essere effettuata anche con segnali non periodici (In Matlab etfe): in questo caso, è utile usare delle finestrature (es. Hanning window) per ridurre il leakeage (a discapito della risoluzione in frequenza), e delle procedure di spectral averaging Approfondimento 104/106

105 Stima nonparametrica tramite spectral analysis In Matlab esiste anche il comando spa oppure spafdr che permette la stima della funzione di trasferimento G 0 z e H 0 z tramite analisi spettrale Dato il sistema y t = G 0 z u t + v t, con v t u t, abbiamo che Γ yu ω = G 0 e jω Γ u ω E quindi una stima nonparametrica di G 0 z si può ottenere come G e jω = Γ yu ω Γ u ω Inoltre, dato che Γ y ω = G 0 e jω 2 Γ u ω + Γ v ω, una stima di Γ v ω è Γ v e jω = Γ y ω Γ yu ω 2 Γ u ω Approfondimento 105/106

106 Identificazione in frequenza Una volta che si è ottenuta la ETFE, è anche possibile «fittare i punti in frequenza» anziché «fittare i dati nel tempo». Abbiamo quindi una vera e propria identificazione parametrica in frequenza, per esempio minimizzando θ = arg min θ Θ 1 F F k=1 G e jω k G e jω k; θ 2 W k W k è un peso in frequenza L approccio è particolarmente utile quando: u t è un multiseno e il numero di dati nel dominio del tempo è grande vi sono dati da diversi esperimenti, che devono essere usati assieme si vuole identificare modelli a tempo continuo Approfondimento 106/106

107

8(+#.%09:;

Dettagli

PRBS. Pseudo Random Binary Sequence

PRBS. Pseudo Random Binary Sequence PRBS Pseudo Random Binary Sequence MARTINA FAVARO Dipartimento di Ingegneria dell Informazione, Università di Padova Lezione n.2 Che cosa é una PRBS? É noto che il segnale di input in un processo di identificazione

Dettagli

Statistica Applicata all edilizia: Stime e stimatori

Statistica Applicata all edilizia: Stime e stimatori Statistica Applicata all edilizia E-mail: orietta.nicolis@unibg.it 15 marzo 2011 Statistica Applicata all edilizia: Indice 1 2 Statistica Applicata all edilizia: Uno dei problemi principali della statistica

Dettagli

Maria Prandini Dipartimento di Elettronica e Informazione Politecnico di Milano

Maria Prandini Dipartimento di Elettronica e Informazione Politecnico di Milano Note relative a test di bianchezza rimozione delle componenti deterministiche da una serie temporale a supporto del Progetto di Identificazione dei Modelli e Analisi dei Dati Maria Prandini Dipartimento

Dettagli

Parte I Identificazione di modelli dinamici. 6: Teoria della stima e caratteristiche degli stimatori. Parte I 6, 1

Parte I Identificazione di modelli dinamici. 6: Teoria della stima e caratteristiche degli stimatori. Parte I 6, 1 Parte I 6, 1 Parte I Identificazione di modelli dinamici 6: Teoria della stima e caratteristiche degli stimatori Generalita` Parte I 6, 2 In generale abbiamo: dove sono i dati osservati e` la quantita`

Dettagli

PROBLEMI SULL IDENTIFICAZIONE COL METODO PEM

PROBLEMI SULL IDENTIFICAZIONE COL METODO PEM PROBLEMI SULL IDENTIFICAZIONE COL METODO PEM G. Picci 12 gennaio 2012 N.B. : Quando serve la dizione rumore bianco è da interpretare secondo il contesto come processo i.i.d. Il processo di ingresso si

Dettagli

Corso di Identificazione dei Modelli e Analisi dei Dati

Corso di Identificazione dei Modelli e Analisi dei Dati Corso di Identificazione dei Modelli e Analisi dei Dati Prof. Sergio Bittanti Esercitazione di Laboratorio A.A. 2010-11 Sistemi dinamici lineari a tempo discreto 1. Si consideri il sistema dinamico a tempo

Dettagli

Laboratorio di Chimica Fisica. Analisi Statistica

Laboratorio di Chimica Fisica. Analisi Statistica Università degli Studi di Bari Dipartimento di Chimica 9 giugno F.Mavelli- Laboratorio Chimica Fisica - a.a. 3-4 F.Mavelli Laboratorio di Chimica Fisica a.a. 3-4 Analisi Statistica dei Dati Analisi Statistica

Dettagli

Minimi quadrati e massima verosimiglianza

Minimi quadrati e massima verosimiglianza Minimi quadrati e massima verosimiglianza 1 Introduzione Nella scorsa lezione abbiamo assunto che la forma delle probilità sottostanti al problema fosse nota e abbiamo usato gli esempi per stimare i parametri

Dettagli

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 11 Settembre 2014 Cognome Nome Matricola

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 11 Settembre 2014 Cognome Nome Matricola IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 11 Settembre 2014 Cognome Nome Matricola......... Verificare che il fascicolo sia costituito da

Dettagli

Parte I Identificazione di modelli dinamici. 5: Analisi di sistemi dinamici alimentati da processi stazionari. Parte I 5, 1

Parte I Identificazione di modelli dinamici. 5: Analisi di sistemi dinamici alimentati da processi stazionari. Parte I 5, 1 Parte I 5, 1 Parte I Identificazione di modelli dinamici 5: Analisi di sistemi dinamici alimentati da processi stazionari Parte I 5, 2 Consideriamo un sistema dinamico lineare tempo-invariante con funzione

Dettagli

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI 1 (Prof. S. Bittanti) Ingegneria Informatica 5 CFU. Appello 23 Luglio 2014 Cognome Nome Matricola

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI 1 (Prof. S. Bittanti) Ingegneria Informatica 5 CFU. Appello 23 Luglio 2014 Cognome Nome Matricola IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI 1 (Prof. S. Bittanti) Ingegneria Informatica 5 CFU. Appello 23 Luglio 201 Cognome Nome Matricola............ Verificare che il fascicolo sia costituito da

Dettagli

Identificazione di modello

Identificazione di modello SE5 Prof. Davide Manca Politecnico di Milano Dinamica e Controllo dei Processi Chimici Esercitazione #5 Identificazione di modello ing. Sara Brambilla SE5 Identificazione di modello Nel definire un modello

Dettagli

Studio di sistemi dinamici tramite FdT. Risposta transitoria e risposta a regime

Studio di sistemi dinamici tramite FdT. Risposta transitoria e risposta a regime Parte 8, 1 Studio di sistemi dinamici tramite FdT Risposta transitoria e risposta a regime Parte 8, 2 Alcune definizioni e richiami! Consideriamo un sistema LTI, a tempo continuo oppure a tempo discreto,

Dettagli

Alcune definizioni e richiami. Studio di sistemi dinamici tramite FdT. Risposta transitoria e risposta a regime

Alcune definizioni e richiami. Studio di sistemi dinamici tramite FdT. Risposta transitoria e risposta a regime Parte 8, 1 Parte 8, 2 Alcune definizioni e richiami Studio di sistemi dinamici tramite FdT Risposta transitoria e risposta a regime Consideriamo un sistema LTI, a tempo continuo oppure a tempo discreto,

Dettagli

Metodi di identificazione

Metodi di identificazione Metodi di identificazione Metodo di identificazione LS per sistemi ARX Sia yt un processo ARX generico con parametri ignoti: S: yt= B z A z ut 1 1 A z et ota: scegliere ut 1 è la scelta più generica possibile,

Dettagli

Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Processi casuali A.A Alberto Perotti, Roberto Garello

Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Processi casuali A.A Alberto Perotti, Roberto Garello Corso di Laurea a Distanza in Ingegneria Elettrica Corso di Comunicazioni Elettriche Processi casuali A.A. 2006-07 Alberto Perotti, Roberto Garello DELEN-DAUIN Processi casuali Sono modelli probabilistici

Dettagli

VALIDAZIONE DEL MODELLO

VALIDAZIONE DEL MODELLO VALIDAZIONE DEL MODELLO Validazione del Modello Non è sufficiente stimare il vettore θ per dichiarare concluso il processo di identificazione. E necessario ottenere una misura della sua affidabilità L

Dettagli

Il processo inferenziale consente di generalizzare, con un certo grado di sicurezza, i risultati ottenuti osservando uno o più campioni

Il processo inferenziale consente di generalizzare, con un certo grado di sicurezza, i risultati ottenuti osservando uno o più campioni La statistica inferenziale Il processo inferenziale consente di generalizzare, con un certo grado di sicurezza, i risultati ottenuti osservando uno o più campioni E necessario però anche aggiungere con

Dettagli

Computazione per l interazione naturale: Regressione probabilistica

Computazione per l interazione naturale: Regressione probabilistica Computazione per l interazione naturale: Regressione probabilistica Corso di Interazione Naturale Prof. Giuseppe Boccignone Dipartimento di Informatica Università di Milano boccignone@di.unimi.it boccignone.di.unimi.it/in_2016.html

Dettagli

Contenuto del capitolo

Contenuto del capitolo Capitolo 8 Stima 1 Contenuto del capitolo Proprietà degli stimatori Correttezza: E(Stimatore) = parametro da stimare Efficienza Consistenza Intervalli di confidenza Per la media - per una proporzione Come

Dettagli

Modelli descrittivi, statistica e simulazione

Modelli descrittivi, statistica e simulazione Modelli descrittivi, statistica e simulazione Master per Smart Logistics specialist Roberto Cordone (roberto.cordone@unimi.it) Statistica inferenziale Cernusco S.N., giovedì 25 febbraio 2016 (9.00/13.00)

Dettagli

Campionamento. Una grandezza fisica e' distribuita secondo una certa PDF

Campionamento. Una grandezza fisica e' distribuita secondo una certa PDF Campionamento Una grandezza fisica e' distribuita secondo una certa PDF La pdf e' caratterizzata da determinati parametri Non abbiamo una conoscenza diretta della pdf Possiamo determinare una distribuzione

Dettagli

Progetto dei Sistemi di Controllo Digitali. Docente: Prof. Francesco Amato

Progetto dei Sistemi di Controllo Digitali. Docente: Prof. Francesco Amato Progetto dei Sistemi di Controllo Digitali Docente: Prof. Francesco Amato 1 Schema di un sistema di controllo digitale Controllore digitale r e A/D e* u* D/A u y Processo Sistema a empo-continuo Sistema

Dettagli

Fondamenti di Data Processing

Fondamenti di Data Processing Fondamenti di Data Processing Vincenzo Suraci Automazione INTRODUZIONE AL DATA PROCESSING ACQUISIZIONE DATI SCHEMA COSTRUTTIVO SCHEDA INPUT OSCILLATORE A FREQUENZA COSTANTE BANDA PASSANTE ACCORDATA AL

Dettagli

Trasformata discreta di Fourier diunasequenzafinita: algoritmifft

Trasformata discreta di Fourier diunasequenzafinita: algoritmifft diunasequenzafinita: algoritmifft La TDF di una sequenza finita può essere calcolata utilizzando algoritmi, computazionalmente efficienti, quali gli algoritmi Fast Fourier Transform (FFT). L efficienza

Dettagli

Metodi di Iterazione Funzionale

Metodi di Iterazione Funzionale Appunti di Matematica Computazionale Lezione Metodi di Iterazione Funzionale Il problema di calcolare il valore per cui F() = si può sempre trasformare in quello di trovare il punto fisso di una funzione

Dettagli

Processo di identificazione

Processo di identificazione Processo di identificazione Problemi a scatola trasparente il modello viene ottenuto partendo dalla descrizione delle parti costituenti il sistema e delle leggi che lo regolano. Il problema dell identificazione

Dettagli

Ulteriori conoscenze di informatica Elementi di statistica Esercitazione3

Ulteriori conoscenze di informatica Elementi di statistica Esercitazione3 Ulteriori conoscenze di informatica Elementi di statistica Esercitazione3 Sui PC a disposizione sono istallati diversi sistemi operativi. All accensione scegliere Windows. Immettere Nome utente b## (##

Dettagli

Stima dei parametri. I parametri di una pdf sono costanti che caratterizzano la sua forma. r.v. parameter. Assumiamo di avere un campione di valori

Stima dei parametri. I parametri di una pdf sono costanti che caratterizzano la sua forma. r.v. parameter. Assumiamo di avere un campione di valori Stima dei parametri I parametri di una pdf sono costanti che caratterizzano la sua forma r.v. parameter Assumiamo di avere un campione di valori Vogliamo una funzione dei dati che permette di stimare i

Dettagli

Regressione lineare. Lucio Demeio Dipartimento di Ingegneria Industriale e Scienze Matematiche Università Politecnica delle Marche.

Regressione lineare. Lucio Demeio Dipartimento di Ingegneria Industriale e Scienze Matematiche Università Politecnica delle Marche. Regressione lineare Lucio Demeio Dipartimento di Ingegneria Industriale e Scienze Matematiche Università Politecnica delle Marche Siano x ed y due variabili legate tra loro da una forma funzionale del

Dettagli

8(+#.%0901.)#'2',(3'").%1'%% A"1.55'%1')(A','% :;=%>.#"1'%+',"+?'7'%%

8(+#.%0901.)#'2',(3').%1'%% A1.55'%1')(A','% :;=%>.#1'%+',+?'7'%% 8(+#.%09:;@8% %!"#$%&'($)%&*$%+&,$)-&)(&.&(&)/0-1%-23) (-++&(-),4%$+&(&#"&-.5-)%&*$%+&,-3) (&.&(&)/0-1%-2)4+'4+&3)#%-1&4.'4)+'$*-+2*$)

Dettagli

Analisi di Regressione Multipla

Analisi di Regressione Multipla Analisi di Regressione Multipla Stima OLS della relazione Test Score/STR : TestScore! = 698.9.8 STR, R =.05, SER = 18.6 (10.4) (0.5) E una stima credibile dell effetto causale sul rendimento nei test di

Dettagli

Appunti sui Codici di Reed Muller. Giovanni Barbarino

Appunti sui Codici di Reed Muller. Giovanni Barbarino Appunti sui Codici di Reed Muller Giovanni Barbarino Capitolo 1 Codici di Reed-Muller I codici di Reed-Muller sono codici lineari su F q legati alle valutazioni dei polinomi sullo spazio affine. Per semplicità

Dettagli

Richiami di inferenza statistica Strumenti quantitativi per la gestione

Richiami di inferenza statistica Strumenti quantitativi per la gestione Richiami di inferenza statistica Strumenti quantitativi per la gestione Emanuele Taufer Inferenza statistica Parametri e statistiche Esempi Tecniche di inferenza Stima Precisione delle stime Intervalli

Dettagli

IL CRITERIO DELLA MASSIMA VEROSIMIGLIANZA

IL CRITERIO DELLA MASSIMA VEROSIMIGLIANZA Metodi per l Analisi dei Dati Sperimentali AA009/010 IL CRITERIO DELLA MASSIMA VEROSIMIGLIANZA Sommario Massima Verosimiglianza Introduzione La Massima Verosimiglianza Esempio 1: una sola misura sperimentale

Dettagli

Richiami di inferenza statistica. Strumenti quantitativi per la gestione. Emanuele Taufer

Richiami di inferenza statistica. Strumenti quantitativi per la gestione. Emanuele Taufer Richiami di inferenza statistica Strumenti quantitativi per la gestione Emanuele Taufer Inferenza statistica Inferenza statistica: insieme di tecniche che si utilizzano per ottenere informazioni su una

Dettagli

Campionamento e stima di parametri

Campionamento e stima di parametri Sia X una variabile aleatoria associata a un dato esperimento. Ripetiamo l esperimento n volte, ottenendo una famiglia di valori sperimentali della v.a. X : X = (X 1, X 2,..., X n ) ogni X i é una v.a.

Dettagli

lezione n. 6 (a cura di Gaia Montanucci) Verosimiglianza: L = = =. Parte dipendente da β 0 e β 1

lezione n. 6 (a cura di Gaia Montanucci) Verosimiglianza: L = = =. Parte dipendente da β 0 e β 1 lezione n. 6 (a cura di Gaia Montanucci) METODO MASSIMA VEROSIMIGLIANZA PER STIMARE β 0 E β 1 Distribuzione sui termini di errore ε i ε i ~ N (0, σ 2 ) ne consegue : ogni y i ha ancora distribuzione normale,

Dettagli

Computazione per l interazione naturale: Regressione probabilistica

Computazione per l interazione naturale: Regressione probabilistica Computazione per l interazione naturale: Regressione probabilistica Corso di Interazione Naturale Prof. Giuseppe Boccignone Dipartimento di Informatica Università di Milano boccignone@di.unimi.it boccignone.di.unimi.it/in_2018.html

Dettagli

Computazione per l interazione naturale: Regressione probabilistica

Computazione per l interazione naturale: Regressione probabilistica Computazione per l interazione naturale: Regressione probabilistica Corso di Interazione Naturale Prof. Giuseppe Boccignone Dipartimento di Informatica Università di Milano boccignone@di.unimi.it boccignone.di.unimi.it/in_2017.html

Dettagli

Indice. Introduzione al problema dell acquisizione e dell analisi dei dati: definizione dei termini

Indice. Introduzione al problema dell acquisizione e dell analisi dei dati: definizione dei termini Indice Cap. 1 Introduzione al problema dell acquisizione e dell analisi dei dati: definizione dei termini 1.1 Introduzione pag. 1 1.2 Il processo di misura e il livello dei modelli 9 1.3 Segnali deterministici

Dettagli

Elementi di Psicometria con Laboratorio di SPSS 1

Elementi di Psicometria con Laboratorio di SPSS 1 Elementi di Psicometria con Laboratorio di SPSS 1 28-Intervalli di confidenza vers. 1.1 (21 novembre 2014) Germano Rossi 1 germano.rossi@unimib.it 1 Dipartimento di Psicologia, Università di Milano-Bicocca

Dettagli

Stima puntuale di parametri

Stima puntuale di parametri Probabilità e Statistica Esercitazioni a.a. 2009/2010 C.d.L.: Ingegneria Elettronica e delle Telecomunicazioni, Ingegneria Informatica Stima puntuale di parametri Ines Campa Probabilità e Statistica -

Dettagli

Analisi degli Errori di Misura. 08/04/2009 G.Sirri

Analisi degli Errori di Misura. 08/04/2009 G.Sirri Analisi degli Errori di Misura 08/04/2009 G.Sirri 1 Misure di grandezze fisiche La misura di una grandezza fisica è descrivibile tramite tre elementi: valore più probabile; incertezza (o errore ) ossia

Dettagli

TEORIA DEI SISTEMI E DEL CONTROLLO LM in Ingegneria Informatica e Ingegneria Elettronica

TEORIA DEI SISTEMI E DEL CONTROLLO LM in Ingegneria Informatica e Ingegneria Elettronica TEORIA DEI SISTEMI E DEL CONTROLLO LM in Ingegneria Informatica e Ingegneria Elettronica http://www.dii.unimore.it/~lbiagiotti/teoriasistemicontrollo.html Stima dello stato in presenza di disturbi: il

Dettagli

assuma valori in un determinato intervallo è data dall integrale della sua densità ( = )=

assuma valori in un determinato intervallo è data dall integrale della sua densità ( = )= VARIABILI ALEATORIE CONTINUE Esistono parecchi fenomeni reali per la cui descrizione le variabili aleatorie discrete non sono adatte. Per esempio è necessaria una variabile aleatoria continua ovvero una

Dettagli

Stima del valore di una costante in presenza di rumore esponenzialmente correlato. Carlo Fisicaro

Stima del valore di una costante in presenza di rumore esponenzialmente correlato. Carlo Fisicaro Stima del valore di una costante in presenza di rumore esponenzialmente correlato Carlo Fisicaro OBIETTIVO Stimare il valore della costante β adimensionale per mezzo di misurazioni soggette a rumore stocastico

Dettagli

RICHIAMI SU PROCESSI ALEATORI E DENSITÀ SPETTRALE DI POTENZA

RICHIAMI SU PROCESSI ALEATORI E DENSITÀ SPETTRALE DI POTENZA RICHIAMI SU PROCESSI ALEATORI E DENSITÀ SPETTRALE DI POTENZA Paolo Bestagini Ph.D. Student bestagini@elet.polimi.it http://home.deib.polimi.it/bestagini Sommario 2 Segnali deterministici Continui Discreti

Dettagli

La likelihood. , x 2. } sia prodotto a partire dal particolare valore di a: ; a... f x N. La probabilità che l'i ma misura sia compresa tra x i

La likelihood. , x 2. } sia prodotto a partire dal particolare valore di a: ; a... f x N. La probabilità che l'i ma misura sia compresa tra x i La likelihood E' dato un set di misure {x 1, x 2, x 3,...x N } (ciascuna delle quali puo' essere multidimensionale) Supponiamo che la pdf (f) dipenda da un parametro a (anch'esso eventualmente multidimensionale)

Dettagli

1 Serie temporali. 1.1 Processi MA

1 Serie temporali. 1.1 Processi MA 1 Serie temporali Un processo stocastico 1 {X t, t T }, dove T = N o T = Z, si dice stazionario se (X 1,..., X n ) e (X k+1,...,x k+n ) hanno la stessa distribuzione per ogni n 1 e per ogni k T. Un processo

Dettagli

Rischio statistico e sua analisi

Rischio statistico e sua analisi F94 Metodi statistici per l apprendimento Rischio statistico e sua analisi Docente: Nicolò Cesa-Bianchi versione 7 aprile 018 Per analizzare un algoritmo di apprendimento dobbiamo costruire un modello

Dettagli

Tipi di variabili. Indici di tendenza centrale e di dispersione

Tipi di variabili. Indici di tendenza centrale e di dispersione Tipi di variabili. Indici di tendenza centrale e di dispersione L. Boni Variabile casuale In teoria della probabilità, una variabile casuale (o variabile aleatoria o variabile stocastica o random variable)

Dettagli

Teoria dei Fenomeni Aleatori AA 2012/13

Teoria dei Fenomeni Aleatori AA 2012/13 Introduzione alla Statistica Nella statistica, anziché predire la probabilità che si verifichino gli eventi di interesse (cioè passare dal modello alla realtà), si osserva un fenomeno se ne estraggono

Dettagli

Università di Pavia Econometria. Richiami di Statistica. Eduardo Rossi

Università di Pavia Econometria. Richiami di Statistica. Eduardo Rossi Università di Pavia Econometria Richiami di Statistica Eduardo Rossi Università di Pavia Campione casuale Siano (Y 1, Y 2,..., Y N ) variabili casuali tali che le y i siano realizzazioni mutuamente indipendenti

Dettagli

La funzione di risposta armonica

La funzione di risposta armonica Funzione di risposta armonica - Corso di Laurea in Ingegneria Meccanica Controlli Automatici L La funzione di risposta armonica DEIS-Università di Bologna Tel. 5 2932 Email: crossi@deis.unibo.it URL: www-lar.deis.unibo.it/~crossi

Dettagli

Statistica Metodologica Avanzato Test 1: Concetti base di inferenza

Statistica Metodologica Avanzato Test 1: Concetti base di inferenza Test 1: Concetti base di inferenza 1. Se uno stimatore T n è non distorto per il parametro θ, allora A T n è anche consistente B lim Var[T n] = 0 n C E[T n ] = θ, per ogni θ 2. Se T n è uno stimatore con

Dettagli

Errori sistematici e casuali

Errori sistematici e casuali Errori sistematici e casuali Errori Casuali Tempo di reazione nel far partire o fermare l orologio: Può essere sia in eccesso che in difetto (ad esempio partenza e arrivo), quindi l errore può avere segno

Dettagli

9. Test del χ 2 e test di Smirnov-Kolmogorov. 9.1 Stimatori di massima verosimiglianza per distribuzioni con densità finita

9. Test del χ 2 e test di Smirnov-Kolmogorov. 9.1 Stimatori di massima verosimiglianza per distribuzioni con densità finita 9. Test del χ 2 e test di Smirnov-Kolmogorov 9. Stimatori di massima verosimiglianza per distribuzioni con densità finita Supponiamo di avere un campione statistico X,..., X n e di sapere che esso è relativo

Dettagli

Controllo Adattativo

Controllo Adattativo Corso di Robotica 2 Controllo Adattativo Prof. Alessandro De Luca A. De Luca Motivazioni e approccio necessità dell adattamento nella legge di controllo incertezza sui parametri dinamici del robot scarsa

Dettagli

Esercizi- Risposta in frequenza. Sistemi LTI a tempo continuo. Diagrammi polari della risposta in frequenza

Esercizi- Risposta in frequenza. Sistemi LTI a tempo continuo. Diagrammi polari della risposta in frequenza FA esercizi 6, 1 FA esercizi 6, 2 Esercizi- Risposta in frequenza Diagrammi polari della risposta in frequenza Sistemi LTI a tempo continuo Risposta in frequenza: tracciamento di diagrammi di Nyquist Data

Dettagli

Lezione 11 Ugo Vaccaro

Lezione 11 Ugo Vaccaro Teoria dell Informazione II Anno Accademico 207 208 Lezione Ugo Vaccaro Abbiamo visto finora che in vari problemi collegati alla codifica di emissioni di una sorgente di informazione la entropia H(P )

Dettagli

Schema lezione 5 Intervalli di confidenza

Schema lezione 5 Intervalli di confidenza Schema lezione 5 Intervalli di confidenza Non centrerò quella barca, ne sono convinto al 95% COMPRENDERE: Significato di intervallo di confidenza Uso degli stimatori come quantità di pivot per stime intervallari

Dettagli

Analisi armonica su dati campionati

Analisi armonica su dati campionati Sistemi di misura digitali Analisi armonica su dati campionati - 1 Analisi armonica su dati campionati 1 - Troncamento del segnale Distorsione di leakage L analisi di Fourier è un metodo ben noto per ottenere

Dettagli

o Si sceglie il modello che meglio si adatta alla realtà osservata, cioè quello per il quale risulta più probabile la realtà osservata.

o Si sceglie il modello che meglio si adatta alla realtà osservata, cioè quello per il quale risulta più probabile la realtà osservata. Introduzione alla Statistica Nella statistica, anziché predire la probabilità che si verifichino gli eventi di interesse (cioè passare dal modello alla realtà), si osserva un fenomeno se ne estraggono

Dettagli

Esercitazione del 29 aprile 2014

Esercitazione del 29 aprile 2014 Esercitazione del 9 aprile 014 Esercizio 10.13 pg. 94 Complemento: Calcolare la probabilità che un negozio apra tra le sette e venti e le nove e quaranta del mattino. Soluzione: Siccome non è nota la distribuzione

Dettagli

Sistemi LTI a tempo continuo

Sistemi LTI a tempo continuo FA esercizi 6, 1 Sistemi LTI a tempo continuo Risposta in frequenza: tracciamento di diagrammi di Nyquist Esercizi- Risposta in frequenza Diagrammi polari della risposta in frequenza FA esercizi 6, 2 Data

Dettagli

University of Messina, Italy

University of Messina, Italy ERRORI CASUALI ELL AALISI CHIMICA Errori casuali Gli errori casuali si incontrano tutte le volte che un sistema di misura viene usato al massimo della sua sensibilità. In queste circostanze i risultati

Dettagli

CONTROLLI AUTOMATICI Ingegneria Gestionale ANALISI ARMONICA

CONTROLLI AUTOMATICI Ingegneria Gestionale  ANALISI ARMONICA CONTROLLI AUTOMATICI Ingegneria Gestionale http://www.automazione.ingre.unimore.it/pages/corsi/controlliautomaticigestionale.htm ANALISI ARMONICA Ing. Federica Grossi Tel. 059 2056333 e-mail: federica.grossi@unimore.it

Dettagli

Ripasso segnali e processi casuali. Trasmissione dell Informazione

Ripasso segnali e processi casuali. Trasmissione dell Informazione Ripasso segnali e processi casuali 1 Breve ripasso di segnali e trasformate Dato un segnale s(t), la sua densità spettrale si calcola come dove S(f) è la trasformata di Fourier. L energia di un segnale

Dettagli

Statistica Inferenziale

Statistica Inferenziale Statistica Inferenziale Prof. Raffaella Folgieri Email: folgieri@mtcube.com aa 2009/2010 Riepilogo lezione 6 Abbiamo visto: Definizione di popolazione, di campione e di spazio campionario Distribuzione

Dettagli

RICHIAMI DI CALCOLO DELLE PROBABILITÀ

RICHIAMI DI CALCOLO DELLE PROBABILITÀ UNIVERSITA DEL SALENTO INGEGNERIA CIVILE RICHIAMI DI CALCOLO DELLE PROBABILITÀ ing. Marianovella LEONE INTRODUZIONE Per misurare la sicurezza di una struttura, ovvero la sua affidabilità, esistono due

Dettagli

05. Errore campionario e numerosità campionaria

05. Errore campionario e numerosità campionaria Statistica per le ricerche di mercato A.A. 01/13 05. Errore campionario e numerosità campionaria Gli schemi di campionamento condividono lo stesso principio di fondo: rappresentare il più fedelmente possibile,

Dettagli

1) Entropia di variabili aleatorie continue. 2) Esempi di variabili aleatorie continue. 3) Canali di comunicazione continui. 4) Canale Gaussiano

1) Entropia di variabili aleatorie continue. 2) Esempi di variabili aleatorie continue. 3) Canali di comunicazione continui. 4) Canale Gaussiano Argomenti della Lezione 1) Entropia di variabili aleatorie continue ) Esempi di variabili aleatorie continue 3) Canali di comunicazione continui 4) Canale Gaussiano 5) Limite di Shannon 1 Entropia di una

Dettagli

Prof. Carlo Rossi DEIS - Università di Bologna Tel:

Prof. Carlo Rossi DEIS - Università di Bologna Tel: Prof. Carlo Rossi DEIS - Università di Bologna Tel: 051 2093020 email: carlo.rossi@unibo.it Sistemi Tempo-Discreti In questi sistemi i segnali hanno come base l insieme dei numeri interi: sono sequenze

Dettagli

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 07 Luglio 2014 Cognome Nome Matricola

IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 07 Luglio 2014 Cognome Nome Matricola IDENTIFICAZIONE DEI MODELLI E ANALISI DEI DATI (Prof. S. Bittanti) Ingegneria Informatica 10 CFU. Appello 07 Luglio 2014 Cognome Nome Matricola............ Verificare che il fascicolo sia costituito da

Dettagli

9.3 Il metodo dei minimi quadrati in formalismo matriciale

9.3 Il metodo dei minimi quadrati in formalismo matriciale 9.3. IL METODO DEI MINIMI QUADRATI IN FORMALISMO MATRICIALE 121 9.3 Il metodo dei minimi quadrati in formalismo matriciale Per applicare il MMQ a funzioni polinomiali, ovvero a dipendenze di una grandezza

Dettagli

Capitolo 6. Variabili casuali continue. 6.1 La densità di probabilità

Capitolo 6. Variabili casuali continue. 6.1 La densità di probabilità Capitolo 6 Variabili casuali continue Le definizioni di probabilità che abbiamo finora usato sono adatte solo per una variabile casuale che possa assumere solo valori discreti; vediamo innanzi tutto come

Dettagli

STATISTICA INDUTTIVA: STIMA DI PARAMETRI STIMA PUNTUALE

STATISTICA INDUTTIVA: STIMA DI PARAMETRI STIMA PUNTUALE S.S.I.S TOSCANA F.I.M. -II anno STATISTICA INDUTTIVA: STIMA DI PARAMETRI STIMA PUNTUALE PROBLEMA 1 Vogliamo valutare la percentuale p di donne fumatrici tra le donne in età fertile. Procediamo all estrazione

Dettagli

GENERAZIONE DI NUMERI PSEUDOCASUALI

GENERAZIONE DI NUMERI PSEUDOCASUALI GENERAZIONE DI NUMERI PSEUDOCASUALI Corso di Tecniche di Simulazione, a.a. 2005/2006 Francesca Mazzia Dipartimento di Matematica Università di Bari 24 Aprile 2006 Francesca Mazzia (Univ. Bari) GENERAZIONE

Dettagli

In realtà i segnali con i quali dobbiamo confrontarci più frequentemente sono limitati nel tempo

In realtà i segnali con i quali dobbiamo confrontarci più frequentemente sono limitati nel tempo Segnali trattati sino ad ora: continui, durata infinita,.. Su essi sono stati sviluppati strumenti per analizzare output di circuiti e caratteristiche del segnale: Risposta all impulso, prodotto di convoluzione,

Dettagli

Elementi di Probabilità e Statistica - 052AA - A.A

Elementi di Probabilità e Statistica - 052AA - A.A Elementi di Probabilità e Statistica - 05AA - A.A. 014-015 Prima prova di verifica intermedia - 9 aprile 015 Problema 1. Dati due eventi A, B, su uno spazio probabilizzato (Ω, F, P), diciamo che A è in

Dettagli

Stima dell intervallo per un parametro

Stima dell intervallo per un parametro Stima dell intervallo per un parametro In aggiunta alla stima puntuale di un parametro dobbiamo dare l intervallo che rappresenta l incertezza statistica. Questo intervallo deve: comunicare in modo obbiettivo

Dettagli

Segnali (processi) aleatori (casuali)

Segnali (processi) aleatori (casuali) Segnali (processi) aleatori (casuali) Definizione di processo aleatorio Descrizione statistica di un processo aleatorio Media, potenza, varianza Autocorrelazione e autocovarianza Filtraggio di un processo

Dettagli

IDENTIFICAZIONE DI SISTEMI DINAMICI

IDENTIFICAZIONE DI SISTEMI DINAMICI IDENTIFICAZIONE DI SISTEMI DINAMICI MARTINA FAVARO Dipartimento di Ingegneria dell Informazione, Università di Padova Lezione n.3 RAPPRESENTAZIONE E TRATTAMENTO DEI DATI SPERIMENTALI Costruiamo un oggetto

Dettagli

Sistemi di controllo

Sistemi di controllo Compito del 8 gennaio 2014 - Quiz Per ciascuno dei seguenti quesiti, segnare con una crocetta le risposte che si ritengono corrette. Alcuni quesiti possono avere più risposte corrette. I quiz si ritengono

Dettagli

Esercitazione 8 maggio 2014

Esercitazione 8 maggio 2014 Esercitazione 8 maggio 2014 Esercizio 2 dal tema d esame del 13.01.2014 (parte II). L età media di n gruppo di 10 studenti che hanno appena conseguito la laurea triennale è di 22 anni. a) Costruire un

Dettagli

University of Messina, Italy

University of Messina, Italy ERRORI CASUALI NELL ANALISI CHIMICA 1 Errori casuali Gli errori casuali si incontrano tutte le volte che un sistema di misura viene usato al massimo della sua sensibilità. In queste circostanze i risultati

Dettagli

Considerare il moto di un punto materiale di massa m = 1 soggetto ad un potenziale V (x):

Considerare il moto di un punto materiale di massa m = 1 soggetto ad un potenziale V (x): sercizio Considerare il moto di un punto materiale di massa m = soggetto ad un potenziale V (x): ẍ = V (x), dove V (x) = x x.. Scrivere esplicitamente l equazione del moto e verificare esplicitamente la

Dettagli

L indagine campionaria Lezione 3

L indagine campionaria Lezione 3 Anno accademico 2007/08 L indagine campionaria Lezione 3 Docente: prof. Maurizio Pisati Variabile casuale Una variabile casuale è una quantità discreta o continua il cui valore è determinato dal risultato

Dettagli

PROCESSI CASUALI 1 Fondamenti di segnf a o lin d e a t m ra e s n mtii s T si L o C ne

PROCESSI CASUALI 1 Fondamenti di segnf a o lin d e a t m ra e s n mtii s T si L o C ne PROCESSI CASUALI Fondamenti di segnali Fondamenti e trasmissione TLC Segnali deterministici Un segnale (t) si dice deterministico se è una funzione nota di t, cioè se ad un qualsiasi istante di tempo t

Dettagli

PROVA SCRITTA DI FONDAMENTI DI AUTOMATICA A.A. 2003/ giugno Soluzione

PROVA SCRITTA DI FONDAMENTI DI AUTOMATICA A.A. 2003/ giugno Soluzione PROVA SCRITTA DI FONDAMENTI DI AUTOMATICA A.A. 23/24 giugno 24 Esercizio In riferimento allo schema a blocchi in figura. y r s s s2 y 2 K s dove Domanda.. Determinare una realizzazione in equazioni di

Dettagli

Serie di Fourier. Tra queste funzioni definiamo un prodotto scalare nel seguente modo: date f, g V poniamo f (x) g (x) dx. f (x) [g (x) + h (x)] dx

Serie di Fourier. Tra queste funzioni definiamo un prodotto scalare nel seguente modo: date f, g V poniamo f (x) g (x) dx. f (x) [g (x) + h (x)] dx Serie di Fourier Indichiamo con V l insieme delle funzioni f : R R che siano periodiche di periodo π, si abbia cioè f ( + π) = f (), e che risultino integrabili nell intervallo [, π]. Tra queste funzioni

Dettagli

Vogliamo determinare una funzione lineare che meglio approssima i nostri dati sperimentali e poter decidere sulla bontà di questa approssimazione.

Vogliamo determinare una funzione lineare che meglio approssima i nostri dati sperimentali e poter decidere sulla bontà di questa approssimazione. S.S.I.S. TOSCANA F.I.M. II anno FUNZIONI DI REGRESSIONE E METODO DEI MINIMI QUADRATI Supponiamo di star conducendo uno studio sulla crescita della radice di mais in funzione del contenuto di saccarosio

Dettagli

Derivazione numerica. Introduzione al calcolo numerico. Derivazione numerica (II) Derivazione numerica (III)

Derivazione numerica. Introduzione al calcolo numerico. Derivazione numerica (II) Derivazione numerica (III) Derivazione numerica Introduzione al calcolo numerico Il calcolo della derivata di una funzione in un punto implica un processo al limite che può solo essere approssimato da un calcolatore. Supponiamo

Dettagli

Corso Integrato di Statistica Informatica e Analisi dei Dati Sperimentali. Esercitazione E

Corso Integrato di Statistica Informatica e Analisi dei Dati Sperimentali. Esercitazione E Corso Integrato di Statistica Informatica e Analisi dei Dati Sperimentali A.A 2009-2010 Esercitazione E Scopo dell esercitazione Applicazioni del teorema del limite centrale. Rappresentazione delle incertezze

Dettagli

Lezione 13 Maggio Ricapitolazione del Controllo Ottimo LQ

Lezione 13 Maggio Ricapitolazione del Controllo Ottimo LQ PSC: Progettazione di sistemi di controllo III rim. 2007 Lezione 13 Maggio 16 Docente: Luca Schenato Stesori: Comin, Dal Bianco,Fabris, Parmeggiani 13.1 Ricapitolazione del Controllo Ottimo LQ Ripassiamo

Dettagli