Appendice 1. Matrici. A1.1 Definizioni e concetti preliminari

Transcript

1 Appdic 1. Matrici I qusta Appdic richiamrmo brvmt alcui coctti fodamtali riguardati l matrici, ch sarao impigati durat il Corso. Essi riguardao sostazialmt la diagoalizzazio la dcomposizio a valori sigolari (SVD) di ua matric quadrata. A1.1 Dfiizioi coctti prlimiari Ua matric ral A = ( a ij ), i, j = 1,2,...,, dfiisc ua trasformazio liar da! i!, dov! idica il campo di umri rali, La matric A si dic simmtrica s ovvro s y = Ax co x, y!". (1.1) A = A T, (1.2) a ij = a ji pr i, j = 1,2,...,. (1.3) Co il simbolo A T idichiamo la matric trasposta di A co y T x il prodotto tra il vttor riga y T il vttor coloa x. Il prodotto y T x dfiisc u prodotto scalar 1 i!. 1 Nllo spazio liar! è dfiito u prodotto scalar s ad ogi x, y!" è associato u umro ral, dotato usualmt co ( x, y), tal ch: 1. ( x, x) > 0 s x! 0 ( x, x) = 0 s x = 0 ; 2. ( x, y) = ( y, x) ; 3. (!x, y) =! ( x, y) ; 4. ( x + y, z) = ( x, z) + ( y, z). G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

2 2 S la matric A è simmtrica si ha La matric A si dic ch è dfiita positiva s y T Ax = x T Ay pr ogi x, y!". (1.4) s x T Ax > 0 pr ogi x! 0 "# ; (1.5) x T Ax < 0 pr ogi x! 0 "# (1.6) la matric A si dic dfiita gativa. S il sgo dlla forma quadratica x T Ax varia al variar di x i!, la matric A si dic o dfiita. La matric A si dic uitaria s AA T = I. (1.7) Pr l matrici uitari si ha A!1 = A T. (1.8) Idichiamo co a 1,a 2,...,a l colo dlla matric A. S A è uitaria si ha a T h a k =! hk, h, k = 1,2,...,, (1.9) dov! hk è il simbolo di Krockr. A causa dlla (1.9) l isim di vttori a 1,a 2,...,a è ua bas di!. Si cosidri u grico vttor x!". Possiamo smpr rapprstarlo i qusto modo, Pr la proprità (1.9) si ha ch Si cosidri ora il vttor x =! c i a i. (1.10) x =! c i. (1.11) Usado la (1.10) si ha quidi y = A T x. (1.12) y = c i A T T! a i = c 1,c 2,...,c, (1.13) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

3 3 y =! c i = x 2. (1.14) La trasformazio dfiita dalla (1.12) cosrva la orma dl vttor s A è uitaria. Ovviamt, la stssa proprità val pr la trasformazio y T = x T A. (1.15) L autovalor! h il corrispodt autovttor w h dlla matric A soo la soluzio dl problma Aw h =! h w h h = 1,2,...,. (1.16) Ua matric di dimsio ha autovalori! 1,! 2,...,! autovttori w 1,...,w. Gli autovalori soo l radici dll quazio algbrica di grado dt( A! "I) = 0. (1.17) Gli autovttori corrispodti ad autovalori distiti soo liarmt idipdti. La moltplicità algbrica dll autovalor! h è la moltplicità m h dlla corrispodt radic dll quazio (1.17); la moltplicità gomtrica è il umro h di autovttori liarmt idipdti associati all autovalor! h. Gli autovalori i corrispodti autovttori possoo ssr rali o complssi coiugati. L autovalor i modulo più grad di A prd il om di raggio spttral dlla matric A lo si idica co!( A), A1.2 Proprità spttrali dll matrici!( A) = max " h h. (1.18) Ora illustrrmo alcu proprità dgli autovalori autovttori di ua matric. A1.2.1 Sgo dlla part ral dgli autovalori di ua matric Mttiamoci l caso più gral, l autovalor! h il corrispodt autovttor w h soo complssi. Dalla (1.16) sgu ch quidi w h T! Aw h = " h w h T! w h, (1.19) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

4 4! h = w T" h Aw h. (1.20) w T" h w h Co a! idichiamo il complsso coiugato dl vttor complsso a. Dalla (1.20) sgu immdiatamt ch la part ral di! h è positiva s A è dfiita positiva, d è gativa s A è dfiita gativa. S A o è dfiita o possiamo prvdr ulla sul sgo dlla part ral di suoi autovalori. A1.2.2 Autovalori rali ortogoalità dgli autovttori S la matric A è simmtrica si ha ch: a) gli autovalori soo rali; b) gli autovttori soo ortoormali, w h T w k =! hk. (1.21) Dimostriamo la proprità a). Suppoiamo ch l autovalor! k il corrispodt autovttor w k siao complssi. Abbiamo Aw k =! k w k (1.22) Aw k! = " k! w k!. (1.23) Prmoltiplicado ambo i mmbri dlla (1.22) pr w k!t w k T, ottiamo ambo i mmbri dlla (1.23) pr w k!t Aw k = " k w k!t w k (1.24) w k T Aw k! = " k! w k T w k!. (1.25) Sottrado mmbro a mmbro l (1.24) (1.25) ottiamo # (! k "! k )w #T k w k = w T k Aw # k " w #T k Aw k = 0 (1.26) prché la matric A è, pr ipotsi, simmtrica. Essdo w k!t w k " 0 dalla (1.26) sgu ch! k =! k ", (1.27) quidi! k è ral. G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

5 5 Dimostriamo, ora, la proprità b). Siao w h w k du autovttori corrispodti a du autovalori! h! k distiti. Si ha Aw h =! h w h (1.28) Aw k =! k w k. (1.29) Prmoltiplicado ambo i mmbri dlla (1.28) pr w k T w h T, ottiamo ambo i mmbri dlla (1.23) pr w k T Aw h =! h w k T w h (1.30) w h T Aw k =! k w h T w k. (1.31) Sottrado mmbro a mmbro l (1.30) (1.31) ottiamo w k T w h ( ) = w k T Aw h " w h T Aw k = 0 (1.32)! h "! k prché la matric A è, pr ipotsi, simmtrica. Essdo (! h "! k ) # 0 dalla (1.26) sgu ch w T k w h = 0, (1.33) quidi du autovttori corrispodti a du autovalori distiti soo ortogoali. Cosa accad s tr autovalori soo coicidti, ad smpio,! "2 =! "1 =!? L autovalor! "2 ha moltplicità algbrica ugual a 3. Qual è la moltplicità gomtrica? I corrispodti autovttori w!2, w!1 w soo ortogoali a tutti gli altri autovttori. Cosidriamo il sottospazio S!2 di! grato dall isim dgli! 2 autovttori w 1,...,w!2 y u grico lmto di sso,!2 y = " c i w i. (1.34) Idichiamo, ioltr, co v u grico lmto di S 2, il sottospazio di! complmtar a S!2. Ora mostrrmo ch y T Av = 0, (1.35) ovvro la matric A mappa S 2 i s stsso. Pr la simmtria si ha G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

6 6 Usado la (1.34) la (1.36) ottiamo y T Av = v T Ay. (1.36) "2 y T Av = # c i! i v T w i = 0 (1.37) prché v T w i = 0. S la matric A mappa S 2 i s stsso sist almo u autovttor di A corrispodt all autovalor! "2 ch apparti a S 2, idichiamolo co w!1. Ritrado il ragioamto si mostra ch A mappa ach il sottospazio S 1, complmtar al sottospazio w 1,...,w!1, i s stsso. Prtato, sist almo u autovttor appartt a S 1, idichiamolo co w. I coclusio, sistoo tr autovttori w!2, w!1 w tra loro ortogoali corrispodti allo stsso autovalor! "2, quidi la moltplicità gomtrica di! "2 è ugual alla sua moltplicità algbrica. I coclusio, ua matric simmtrica di dimsio ha autovttori ortogoali w 1,...,w. Ciascu autovttor può ssr ormalizzato i modo tal ch w h T w h = 1. Cosidriamo la forma quadratica x T Ax ll ipotsi ch A sia simmtrica. Esprimiamo il vttor x lla bas dfiita dagli autovttori w 1,...,w attravrso la rlazio Si ossrvi ch x =! c h w h. (1.38) h=1 x =! c h (1.39) i cosguza dlla proprità (1.21). Utilizzado smpr qusta proprità (1.21) si ha immdiatamt h=1 x T Ax = " c 2 h! h. (1.40) h=1 Ordiiamo gli autovalori di A i modo tal ch Dalla (1.40) si ha ch! 1 "! 2 "... "!. (1.41)! 1 x 2 2 " x T Ax "! x 2 2. (1.42) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

7 7 Gli autovalori di ua matric simmtrica dfiita positiva (gativa) soo tutti positivi (gativi). A1.2.3 Diagoalizzazio Si assuma ch gli autovalori dlla matric A siao tutti distiti. Allora, gli autovttori w 1,...,w soo liarmt idipdti, quidi soo ua bas dllo spazio vttorial!. I raltà, la codizio di autovalori distiti è solo sufficit ma o cssaria pr l idipdza dgli autovttori. Ifatti, s la matric A è simmtrica tutti gli autovttori soo distiti, ach i prsza di autovalori coicidti, così com abbiamo visto prcdtmt. Idichiamo co W la matric ch ha com colo gli autovttori w 1,...,w, W = w 1,...,w. (1.43) Siccom gli autovttori soo liarmt idipdti la matric W è ivrtibil. Utilizzado la matric dgli autovttori W l (1.16) possoo ssr così riscritt dov D è la matric diagoal dgli autovalori Dalla (1.44) si ha immdiatamt ovvro AW = WD (1.44) D = diag (! 1,! 2,...,! ). (1.45) W!1 AW = D, (1.46) A = WDW!1. (1.47) Il comado MATLAB [W,D] = EIG(A) dà la diagoalizzazio dlla matric A : D è la matric diagoal dgli autovalori di A W la matric dgli autovttori. A1.2.4 Problma gralizzato agli autovalori Si cosidri il problma gralizzato agli autovalori Au =!Bu (1.48) dov A B soo du matrici simmtrich dfiit positiv. Com pr il problma agli autovalori stadard gli autovttori gli autovalori soo rali, gli autovalori soo positivi G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

8 8 gli autovttori corrispodti ad autovalori distiti soo ortogoali risptto al prodotto scalar x T By. Pr dimostrar qust proprità si può procdr com pr il problma agli autovalori stadard. Attzio o è covit partir dalla forma B!1 Au = "u prché, pur ssdo A B!1 simmtrich (l ivrsa di ua matric simmtrica è simmtrica), B!1 A i gral o è simmtrica. Bisoga procdr dirttamt sulla forma (1.48). A1.3 Dcomposizio a valori sigolari (SVD) Sia A ua grica matric quadrata di ordi. Cosidriamo la matric E immdiato ch, la matric P è simmtrica, d è, i gral, smi-dfiita positiva, P = A T A. (1.49) P = P T, (1.50) x T Px! 0 pr ogi x!". (1.51) S A o ha autovalori uguali a zro, quidi è ivrtibil, allora la matric P è dfiita positiva, x T Px > 0 pr ogi x!". (1.52) Idichiamo co µ 1, µ 2,..., µ gli autovalori dlla matric P co u 1,...,u i corrispodti autovttori. Essdo P simmtrica si ha ch: - gli autovalori µ 1, µ 2,..., µ soo rali; - gli autovttori u 1,...,u soo ortoormali, Ioltr, s P è dfiita positiva si ha altrimti si ha u hk =! hk, h, k = 1,2,..., (1.53) µ h > 0, h = 1,2,..., (1.54) µ h! 0, h = 1,2,...,. (1.55) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

9 9 Essdo pr dfiizio Pu k = µ k u k (1.56), si ha ch u h T Pu k = µ k u h T u k. (1.57) D altra part è quidi combiado l (1.57), (1.58) (1.53) si otti u T h Pu k = u T h A T Au k = ( Au h ) T ( Au k ), (1.58) ( Au h ) T ( Au k ) = µ k u T h u k = µ k! hk. (1.59) Duqu, ach i vttori Au 1,Au 2,..., Au (l immagii dgli autovttori u 1,...,u idott da A ) soo ortogoali. A partir da qusti vttori possiamo costruir ua uova bas di vttori ortoormali r 1,r 2,...,r. S A è ivrtibil si ha r k = Au k µ k, h = 1,2,...,. (1.60) S A ha u autovalor ugual a zro si ha, ad smpio, µ 1 = 0 è la (1.60) o ha sigificato. I qusto caso il corrispodt vttori r 1 (l immagii idotta da A ) è il vttor idticamt ullo, quidi o può ssr utilizzato pr costruir ua uova bas. Il vttor r 1 lo scgliamo i modo tal ch la sua lughzza sia uitaria sia ortogoal a tutti gli altri. I gral, abbiamo allora r hk =! hk, h = 1,2,...,, (1.61) Au k = µ k r k, h = 1,2,...,. (1.62) Qusta rlazio è valida i gral, ach quado A è o è ivrtibil. Cosidriamo, ora, l du matrici ch hao com colo i vttori u 1,...,u i vttori r 1,r 2,...,r, rispttivamt, U = u 1,...,u (1.63) R = r 1,r 2,...,r. (1.64) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

10 10 Pr dfiizio, trambi l matrici soo uitari, UU T = I (1.65) RR T = I. (1.66) L (1.62) possoo ssr sprss i maira sittica attravrso l matrici U d R ch abbiamo appa itrodotto la matric diagoal dov E immdiato vrificar ch S = diag (! 1,! 2,...,! ) (1.67)! k = µ k. (1.68) AU = RS. (1.69) L gradzz! 1,! 2,...,! prdoo il om di valori sigolari dlla matric A. Utilizzado la proprità (1.66) dalla (1.69) si ha mtr utilizzado la proprità (1.63) dalla (1.69) si ha R T AU = S, (1.70) A = RSU T. (1.71) La (1.71) è la dcomposizio a valori sigolari dlla matric A. Si ossrvi ch, la (1.70) è u altro modo di diagoalizzar la matric A. Il comado MATLAB [U,S,V] = SVD(X) dà la dcomposizio a valori sigolari dlla matric X (o cssariamt quadrata): S è la matric diagoal di valori sigolari, U V soo l matrici uitari tali ch X = USV T. Ua proprità otvol dlla dcomposizio a valori sigolari è ch può ssr immdiatamt stsa a ua grica matric rttagolar. Esrcizio A1.2.1 Estdr la dcomposizio a valori sigolari a ua matric A rttagolar. S A è ivrtibil dalla (1.71) sgu ch A!1 = US!1 R T. (1.72) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

11 11 Quidi i valori sigolari di A!1 soo 1 /! 1,1 /! 2,...,1 /!. S la matric A è simmtrica si vrifica immdiatamt ch quidi µ k =! k 2, (1.73)! k = " k. (1.74) Cosidriamo la forma quadratica x T Px. Il vttor x può ssr sprsso com Allora si ha " x T Px = # $! T% c i u i & ' P " $ #! j =1 x =! c i u i. (1.75) c % iu i ' & = " # $! c T% " iu i & ' $ #! j =1 % µ i c i u i ' & = µ 2! ic i. (1.76) h=1 Ricordado la (1.49) dalla (1.76) si otti quidi Essdo dalla (1.78) sgu ch Ioltr, si ha ach ( Ax) T 2 ( Ax) = µ i c i mi x!" x =1!, (1.77) h=1 Ax =! µ i c i. (1.78) h=1 A 2 2 = max x!" x =1 Ax 2 2 A 2 = max! k k (1.79). (1.80) Ax 2 = mi k # k. (1.81) G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005

12 12 Figura A1.2.2 La sfra S 2 (u crchio l piao) di raggio uitario si trasforma i u iprllissoid (u lliss l piao). Si cosidri ua grica matric A ivrtibil ordiiamo i valori sigolari i modo tal ch 0 <! 1 "! 2 "... "!. (1.82) I vttori u 1,...,u soo l isim di vttori ortoormali i! tali ch r 1 = Au 1 /! 1,r 2 = Au 2 /! 2,...,r = Au /! sia acora u isim di vttori ortoormali i!. I vttori r 1,r 2,...,r soo ruotati uiformmt risptto ai vttori u 1,...,u. La matric A trasforma la sfra di raggio uitario x 2 = 1 di! i u iprllissoid: A 2 =! è ha lughzza dl smiass maggior! 1 è la lughzza dl smiass mior. La dirzio dl smiass maggior è qulla dl vttor r corrispodt al valor sigolar più grad di A, mtr la dirzio dl smiass mior è qulla dl vttor r 1 corrispodt al valor sigolar più piccolo, Figura A1.21. G. Miao, Apputi dl Corso di Modlli Numrici pr i Campi, 2005