Algoritmo di stima minimi quadrati ricorsivi per sistemi con ingressi e uscite vettoriali

Transcript

1 Algoritmo di stima minimi quadrati ricorsivi per sistemi con ingressi e uscite vettoriali Lorenzo Magliocchetti Arrigo Marchiori Michele Marino Ottobre 2006 Sommario Lo scopo di questo documento è ricavare le formule che descrivono l algoritmo di stima dei minimi quadrati ricorsivi, applicato a sistemi con grandezze vettoriali in ingresso e in uscita. In letteratura è possiblie trovare numerose descrizioni di tale algoritmo, ma con grandezze scalari. L argomento è introdotto a partire dalla formula dei minimi quadrati batch. 1 Sistema e stimatore Consideriamo un generico sistema con ingressi vettoriali x di dimensione qualunque e uscite y R m. L obiettivo è stimare alcuni parametri β R n di questo sistema. A tale scopo, si utilizza uno stimatore che sia caratterizzato da una dipendenza lineare dal vettore dei parametri da stimare: ỹ F x, β) Φx)β dove Φ è una funzione non necessariamente lineare dell ingresso x. La bontà dei valori assegnati ai parametri dello stimatore deve essere giudicata in base ad un criterio; normalmente si definisce una funzione di penalità da minimizzare. 1.1 Criterio dei minimi quadrati batch Si effettuano j esperimenti, cioè misure dell ingresso e dell uscita del sistema. I valori si organizzano in vettori di R jm : x 1 y 1 x 2 y 2 x m. y m.. x j y j Per ogni esperimento si considera l errore di stima, inteso come la differenza tra l uscita del sistema e quella dello stimatore: e i y i ỹ i y i Φx i )β 1) 1

2 Incolonnando gli errori di tutti gli esperimenti, si ottiene il vettore e m R jm : e 1 Φx 1 ) e 2 e m. y Φx 2 ) m. β y m Φx m )β 2) e j Φx j ) con Φx m ) R jm n. La funzione di penalità che si considera è la seguente: V j β) 1 2 e m Re m 3) dove R è una matrice simmetrica e definita positiva che ha la funzione di pesare opportunamente gli esperimenti. Con R I, ad esempio, tutti gli esperimenti hanno lo stesso peso. Sostituendo la 2) nella 3), derivando V j β) rispetto a β, annullando il risultato e risolvendo rispetto a β, si ottiene: β opt Φx m ) A Φx m ) ) 1 Φx m ) Ay m 4) dove A R + R ), anch essa simmetrica e definita positiva. Perché questo criterio funzioni, la matrice Φx m ) A Φx m ) deve essere invertibile; questo accade se l ingresso x m del sistema è sufficientemente eccitante. 1.2 Criterio dei minimi quadrati ricorsivi Per poter aggiornare in linea i parametri dello stimatore, bisogna modificare il criterio dei minimi quadrati, fornendone una formulazione ricorsiva. In questo modo, ad ogni passo di computazione k è possibile aggiornare la stima, tenendo conto di ciò che si è calcolato nei passi precedenti. Si desidera quindi adattare la relazione 4). Omettendo la dipendenza di Φ da x m e riscrivendo l espressione in funzione del passo k si ottiene: dove: β k) Φ k)a k) Φ k) ) 1 Φ k)a k) y m k) 5) Φ k) R km n, y m k) R km, A k) R km km La struttura di Φ k) è la stessa dell eq. 2), cioè ad ogni passo si aggiunge in basso una nuova sottomatrice. Di conseguenza, la matrice al passo k + 1 si può scrivere: [ ] Φ k) Φ k + 1) R ) m 6) dove R m n. Anche la matrice A k) ed il vettore y m k) si aggiornano ad ogni passo: [ ] ym k) y m k + 1) R )m 7) y 2

3 Nell aggiornamento di A, però, la parte che si riferisce al passato viene moltiplicata per un coefficiente λ: [ ] λa k) A k + 1) R )m )m, 0 < λ 1 8) A λ è detto fattore di dimenticanza : si può vedere, ad esempio, che al passo k + j la matrice Ak + j) contiene la sottomatrice Ak) moltiplicata per λ j. Se λ 1, non si effettua alcuna dimenticanza. Definiamo la matrice Pk) attraverso la sua inversa: P 1 k) Φ k)a k) Φ k) R n n 9) Al passo k + 1, secondo le definizioni appena date 6) e 8), ponendo λ c 2, si ottiene: P 1 k + 1) Φ k + 1)Ak + 1) Φk + 1) [ ] [ Φ k) Φ λa k) [ λ Φ k)a k) Φ A A ] [ Φ k) λ Φ k)a k) Φ k) + Φ A ] [ Φ k) ] ] λp 1 k) + Φ A 10) Ora si consideri l espressione di β 5) al passo k + 1: βk + 1) Φ k + 1)Ak + 1) Φk + 1) ) 1 Φ k + 1)Ak + 1)y m k + 1) riconoscendo nella prima parentesi l espressione di P 1 k + 1) dalla 9) e sostituendo le espressioni di Φk + 1) 6), Ak + 1) 8) e y m k + 1) 7) si ottiene: βk + 1) Pk + 1) Φ k + 1)Ak + 1)y m k + 1) Pk + 1) [ ] [ ] Φ k) Φ λa k) y A m k + 1) Pk + 1) [ λ Φ k)a k) Φ A ] [ ] y m k) y Pk + 1) λ Φ k)a k) y m k) + Φ ) A y 11) L espressione di Pk + 1) si ottiene invertendo la 10): Pk + 1) λp 1 k) + Φ A ) 1 siccome: allora: A + BCD) 1 A 1 A 1 B DA 1 B + C 1) 1 DA 1 12) Pk + 1) 1 λ Pk) 1 λ Pk)Φ ) 1 1 λ Pk)Φ + A 1 1 λ Pk) 13) 3

4 Per semplificare l espressione si introduce il termine Γk) R m m. Esso è invertibile, perché definito positivo. Γk) Pk)Φ + ) 1 λa 1 Pk + 1) 1 λ Pk) Pk)Φ Γk) Pk) ) 14) Sostituendo questa espressione appena trovata in quella di βk + 1) 11) si ottiene: βk + 1) Pk) Φ k)a k) y m k) + 1 λ Pk)Φ A y + Pk)Φ Γk) Pk) Φ k)ak)y m k) + 1 λ Pk)Φ Γk) Pk)Φ A y 15) Abbandonando per un attimo questa espressione, si consideri che per definizione di βk) 5) e di Pk) 9): βk) Pk) Φ k)a k) y m k) 16) e per la seconda delle 14): Pk + 1)Φ A 1 Pk)Φ λ A Pk)Φ ) Γk) A 1 λ Pk)Φ A Γk) Pk)Φ ) A 17) L espressione tra parentesi è pari a λγk): infatti, raggruppando per Γk): A Γk) Pk)Φ A λγk) Γk) λi + Pk)Φ A ) A moltiplicando a destra entrambi i membri per A 1 si ottiene: Γk) λa 1 + Pk)Φ ) I questa si rivela un identità se si considera l espressione di Γk) 14): Di conseguenza, la 17) diventa: Γk)Γ 1 k) I Pk + 1)Φ A Pk)Φ Γk) 18) Inserendo questa e la 16) nell espressione di β k + 1) che si stava calcolando 15) si ottiene: β k + 1) β k) + 1 λ Pk)Φ A y + Pk + 1)Φ A Pk) Φ k)ak)y m k) + 1 λ Pk + 1)Φ A Pk)Φ A y 4

5 β k) + 1 λ Pk + 1)Φ A Γ 1 k)a y + Pk 1)Φ A Pk) Φ k)ak)y m k) ) λ Φ A y 1 β k) + Pk + 1)Φ A λ Γ 1 k)a y + Pk) Φ k)ak)y m k) + 1λ )) Φ A y βk) + Pk + 1)Φ A 1 λ Pk)Φ ) A y + ) βk) Γ 1 k) + Sostituendo l espressione di Γ 1 k) 14) si vede che l espressione più interna, tra parentesi, diventa: Pk)Φ + A 1 Pk)Φ λa 1 Di conseguenza, l espressione di βk + 1) risulta: βk + 1) βk) + Pk + 1)Φ A y βk)) 19) Rispetto al caso batch, un segnale di ingresso non eccitante non pregiudica la stabilità numerica di questo criterio. Nel caso in cui un parametro non sia stimabile in base agli ingressi e alle uscite misurate, esso semplicemente non viene aggiornato. Riferimenti bibliografici [1] G. Ciccarella, P. Marietti, A. Trifiletti: Strumentazione e misure elettroniche, seconda edizione, Casa Editrice Ambrosiana 5