La notazione usata è quella usuale nel caso scalare, ed è estesa al caso generale. Consideriamo una forma quadratica:

Transcript

1 . SU ALCUNI OPERAORI DI DERIVAZIONE Alcune operazioni tipiche dell analisi matematica hanno un diretto riscontro in termini matriciali. Consideriamo ad esempio una forma lineare: f() l l + l +..l n n ; [.] definiamo come gradiente di l rispetto ad il seguente vettore a n- dimensioni: f ) l ( l l. l n [.] La notazione usata è quella usuale nel caso scalare, ed è estesa al caso generale. Consideriamo una forma quadratica: q q() [.3] i, j i j ij Osserviamo che in una forma quadratica la sola parte significativa è data dalla componente simmetrica della matrice. Si ha infatti: + q() + + [.4] in quanto -, [.5] ovvero matrici antisimmetriche non danno alcun contributo nel calcolo di una forma quadratica. Ne segue che in presenza di forme quadratiche si considerano soltanto matrici simmetriche. Il calcolo del gradiente rispetto al vettore fornisce: q( ) + [.6] Eseguendo una ulteriore derivazione si ricava la matrice delle derivate seconde ( matrice Hessiana): q( ) ( ) + Se f è uno scalare funzione dei parametri a ij, detta A la matrice A [a ij ], allora:

2 f A f a f a f a O L [.7] Si possono inoltre verificare le seguenti notevoli relazioni: A tr ( AC) tr( AC) C [.8] A tr ( ACA ) AC. [.9] A ueste relazioni possono risultare molto utili per risolvere problemi di ottimizzazione in più variabili. Esempio: Si vuole determinare il vettore che minimizza la seguente funzione: f() + l + c, [.] dove la matrice è simmetrica e definita positiva. Si ricava: f() + l min f ( ) c l l l [.]

3 . FORE UADRAICHE In molte occasioni occorre considerare forme quadratiche del tipo: f() P La forma quadratica f() P è detta definita positiva se " ¹ si ha f() > ; è detta semidefinita positiva se f() ³, ". La forma quadratica f() P è detta definita negativa se " ¹ si ha f() < ; è detta semidefinita positiva se f(), ". In tutti gli altri casi la forma quadratica f() è non definita (vale a dire può risultare nulla, positiva o negativa al variare di ). Essendo in presenza di forme quadratiche possiamo limitarci a considerare soltanto matrici P reali simmetriche. ali matrici posseggono autovalori tutti reali ed autovettori a destra eguali ai corrispondenti autovettori a sinistra. Infatti indichiamo con ai gli autovalori e con u i i corrispondenti autovettori a destra; si ha: P u i ai u i rasponendo e tenendo conto della simmetria di P si ha: (u i ) P ai (u i ). quindi autovettori destri e sinistri si corrispondono. Gli autovalori sono reali; infatti se per assurdo esistessero gli autovalori ai +j bi e ai - j bi con i corrispondenti autovettori u i + jv i, e u i - jv i, si avrebbe: [(u i ) -j(v i ) ]P [(u i ) + j(v i ) ] [(u i ) u i +(v i ) v i ] (ai +j bi ) [(u i ) u i +(v i ) v i ] (ai - j bi ) da cui la conclusione che gli autovalori sono reali. In definitiva una matrice reale e simmetrica ammette la decomposizione spettrale: P uiu i, i α i La forma quadratica P è definita positiva se e solo se la matrice P è di pieno rango e tutti i suoi autovalori sono positivi (indicheremo ciò con la notazione P d.p. o se non sorgono equivoci P > ); è semidefinita positiva se e solo se tutti gli autovalori sono non negativi (P ³ ). In modo analogo si hanno le condizioni per le matrici definite negative (P < ) e semidefinite negative (P ).

4 La verifica di definita o semidefinita positività è quindi possibile se si conoscono gli autovalori di P. Si definisce indice di inerzia della matrice P la terna (π,ζ, υ) dove π rappresenta il numero di autovalori positivi, ζ il numero di autovalori nulli, e υ il numero di autovalori negativi. L indice di inerzia è caratteristico di una data matrice P reale e simmetrica. Se si effettua un cambiamento di variabili, ad esempio z, con invertibile, allora la forma quadratica si trasforma per controgredienza, cioè come segue: P z [ P ]z. La matrice P e tutte le matrici da essa derivate mediante una qualche trasformazione di controgredienza sono equivalenti e presentano lo stesso indice di inerzia. In particolare tutte queste matrici sono equivalenti alla seguente forma canonica: + I π ς I ν La verifica di definita o semidefinita positività è immediata se possediamo la forma canonica della matrice P. uesta forma canonica è facilmente ottenibile seguendo la procedura che viene riportata in seguito ed illustrata con alcuni esempi. Esempio.: Consideriamo la seguente forma quadratica: f() a cui corrisponde la matrice : P Osserviamo che la f() è scritta in modo da rispettare l ordine leicografico; procediamo alla riscrittura della f() mettendo in evidenza i quadrati notevoli. Si ha: f() [ + ] z

5 z - [ 6-3 ] + (- ) E quindi evidente che la seguente scelta di cambiamento di variabili: z [ + ]; z 3 [ 6-3 ]; z [ 4 porta a valutare l indice di inerzia seguente : [,,]. f(z) z + z - z 3. La matrice P è non definita. 3 ]; 4 Esempio :. Consideriamo la seguente forma quadratica: f() a cui corrisponde la matrice : 4 3 P 8 3 Osserviamo che la f() è scritta in modo da rispettare l ordine leicografico; procediamo alla riscrittura della f() mettendo in evidenza i quadrati notevoli. Si ha: f() [ ] z z + [ 7-3 ] 4 + ( 4 ) E quindi evidente che la seguente scelta di cambiamento di variabili: z [ ] ; z [ 7-3 ] ; z 3 [ 7 porta a valutare l indice di inerzia seguente : [3,,]. f(z) z + z + z 3. La matrice P è definita positiva. 3 ]; 4 Un differente algoritmo per la determinazione dell indice di inerzia è dovuto a Slvester. Data la matrice simmetrica P si calcolano i determinanti associati ai minori principali di ordine,,...fino all ordine n (vale a dire fino al calcolo del determinante di P). Indichiamo con p i tali determinanti, ponendo p. La sequenza: p, p, p,... p n presenterà un numero di permanenze di segno pari a π, ed un numero di variazioni di segno pari a υ; ovviamente ζ ν π υ.

6 Nel caso dell esempio si ha: P ; p ; p ; p -; p 3-6. La sequenza presenta due permanenze ed una variazione di segno, quindi l indice di inerzia vale [,,]. Nel caso dell esempio si ha: 4 3 P 8 3 p ; p 4; p 3; p 3 6. La sequenza presenta solo permanenze, quindi la matrice è definita positiva. L algoritmo di Slvester è poco efficiente nel caso di matrici di dimensioni medio alte.

7 3. OIIZZAZIONE: Consideriamo la relazione che dato un vettore genera un vettore mediante un operatore matriciale di dimensioni p.q : : [3.] Supponendo che sia di rango massimo, ovvero rank() min(p,q), assegnato il vettore,cerchiamo di ricavare un qualche vettore che dia significato alla relazione inversa: : [3.] Ovviamente nel caso che la matrice sia quadrata ed invertibile porremo: : - ; -. [3.3] Il problema dei minimi quadrati. Supponiamo p q e consideriamo il seguente problema di ottimizzazione: min( ) min( ( ) min J + ) [3.4] dove si è introdotta una matrice peso, reale simmetrica definita positiva. Imponendo l annullarsi del gradiente di J rispetto al vettore si ricava: J [3.5] In definitiva si ricava: ( ) -I [3.6] Il minimo dell indice di qualità assume il seguente valore: J min ( ( ) ) [3.7]

8 Il problema della soluzione a norma minima. Supponiamo p q e consideriamo il seguente problema di ottimizzazione: Determinare un vettore che sia soluzione dell equazione e che minimizzi R - per una assegnata matrice peso R, reale simmetrica e definite positiva. Il problema può essere risolto riformulando come un problema di pura ottimizzazione: min R min ma R + l l ( ) min ma J [3.8] l Il vettore l a p dimensioni è detto vettore dei moltiplicatori di Lagrange. Il problema può essere visto come un gioco con due giocatori;un giocatore variando le cerca di realizzare il minimo, mentre l avversario variando il vettore l cerca di ricavare il massimo. Per come è impostata la formulazione, poiché nell indice di qualità da ottimizzare appare il vettore l in forma lineare è ovvio che l avversario ha la possibilità di ottenere un guadagno infinito non appena. L unica strategia per è quella di mantenere, impedendo il gioco all avversario. Imponendo le usuali condizioni di stazionarietà si ricava: J l J R + l [3.9] uindi si ha: R l R l l ( R [3.] ) ed in definitiva: R ( R ) Ι [3.] Il vettore soddisfa l equazione, e presenta la norma minima (pesata con R - ): [3.] R ( R )

9 Problemi di ottimo vincolati Abbiamo visto in precedenza alcuni problemi di ottimo con vincoli al più di eguaglianza. Nella pratica ingegneristica spesso occorre affrontare problemi di ottimo lineare e non lineare con vincoli di disuguaglianza. Un tipico problema è quello in cui occorre minimizzare una funzione di costo lineare soggetta a vincoli di disuguaglianza : minl Pr ogrammazione Lineare Un secondo problema è quello in cui occorre minimizzare una funzione di costo quadratica soggetta a vincoli di disuguaglianza : ( + l Pr ogrammazione uadratica min ) Per entrambi questi problemi LP (Linear Programming) e P (uadratic Programming) esistono algoritmi di soluzione efficienti (si veda il oolbo di Ottimizzazione in atlab ).