Corso di Geometria e Algebra Lineare - Sezione di Metodi Numerici

Transcript

1 Corso di Geometria e Algebra Lineare - Sezione di Metodi Numerici C. Vergara 5. Determinazione numerica di autovalori e autovettori Si consideri il seguente problema: Data la matrice A R n n, si determinino gli scalari λ C (autovalori) e i vettori x R n (autovettori) tali che Ax = λx. Si cercano cioè quei vettori tali per cui l azione della matrice A su di essi porta ad un semplice allungamento o accorciamento del vettore stesso (in generale Ay non è parallelo a y). A parte casi patologici, una matrice ammette sempre n autovalori, eventualemente con molteplicità multipla, cioè non necessariamente coincidenti. Ad ogni autovalore è associato un autovettore. La determinazione degli autovalori è fondamentale in molte applicazioni ingegneristiche, come per la ricerca delle frequenze proprie di oscillazione di una struttura, o la compressione di una immagine jpg. Dal punto di vista continuo, gli autovalori sono le radici del polinomio caratteristico p λ := det(λi A). Come visto, il calcolo del determinante è proibitivo (se non per matrici di dimensione molto ridotta) e da qui la necessità di introdurre metodi numerici. Prima di discutere di questi, si introducono di seguito alcune proprietà continue che saranno utilizzate dai metodi numerici. Se si conoscesse l autovettore x, l autovalore corrispondente si potrebbe determinare con il quoziente di Rayleigh λ = xt Ax x 2. Di seguito gli autovalori e gli autovettori corrispondenti verranno indicati con λ i e x i, i = 1,...,n. Gli autovettori x i formano una base ortogonale dello spazion R n. Poichè gli autovettori sono definiti a meno di una costante (se x i è autovettore allora βax i = βλx i,β 0, cioè anche βx i è autovettore), essi formano in particolare una base ortonormale, cioè x T i x j = δ ij ove δ ii = 1 e δ ij = 0 se i j. Inoltre si ricorda che se A è triangolare, allora i suoi autovalori stanno sulla diagonale. Infine, si consideri una matrice C invertibile e si costruisca D := C 1 AC. Se λ e x sono una coppia di autovalore e autovettore per A, allora si ha DC 1 x = C 1 Ax = C 1 λx. Definendo y := C 1 x, si ottiene Dy = λy, 1

2 cioè λ è un autovalore anche per D. Due matrici che condivisono gli stessi autovalori si dicono simili. Le matrici A e C 1 AC sono simili. Metodo delle potenze. È un metodo iterativo che permette di determinare l autovalore di modulo massimo. Si faccia la seguente ipotesi λ 1 > λ 2 λ 3... λ n, cioè si assuma che l autovalore di modulo massimo sia isolato. Il metodo delle potenze consiste nei seguenti passi: Dato x (0), si costruisca y (0) = x(0). Di seguito si calcoli ad ogni passo k x (k) = Ay (k 1), λ (k) = (y (k) ) T Ay (k). Ogni iterazione di questo metodo costa n 2 essendo il grosso del tempo di calcolo nel prodotto matrice vettore Ay (k). Si veda di seguito perché tale metodo funziona. Si scriva x (0) come combinazione lineare degli autovettori x (0) = α j x j, con α j dei coefficienti opportuni. Allora, si ha con β (0) = 1. Per k = 1, si ottiene da cui segue y (0) = β (0) α j x j, x (1) = Ay (0) = β (0) α j λ j x j, y (1) = β (1) α j λ j x j, con β (1) 1 =. Procedendo in questo modo, si ottiene alla generica iterazione k: x (1) y (k) = β (k) α j λ k j x j, con β (k) 1 =. Riscrivendo la precedente relazione come... x (k) ( ) k y (k) = β (k) λ k 1 α 1x 1 + α j λ k j x j = λ k λj 1 β(k) α 1 x 1 + α j x j, λ 1 j=2 2 j=2

3 ed utilizzando l ipotesi di separatezza di λ 1, si ottiene ( ) k y(k) = k λk 1β (k) α 1 x 1, cioè y (k) tende ad allinearsi con l autovettore corrispondente all autovalore massimo. Poichè y (k) ha modulo pari a 1, prendendo anche l autovettore x 1 di modulo 1 (come visto in precedenza gli autovettori si possono sempre riscalare) si ha che k (y(k) ) T Ay (k) = x T 1 Ax 1 = xt 1 Ax 1 x 1 2 = λ 1, dove l ultima uguaglianza è dovuta al quoziente di Raylegh. Questo mostra come k λ(k) = λ 1. Si fa notare come l autovalore di modulo massimo per A 1 sia pari a λ n. Quindi, applicando il metodo delle potenze ad A 1 si ottiene un metodo che converge al reciproco dell autovalore di modulo minimo. Ciò permette quindi di stimare numericamente λ n. Si scriva di seguito il metodo: Dato x (0), si costruisca y (0) = x(0). Di seguito si calcoli ad ogni passo k x (k) = A 1 y (k 1), µ (k) = (y (k) ) T A 1 y (k). Si fa notare come ad ogni iterazione si debba calcolare l inversa di A. Tuttavia, come notato nel corso, non è possibile determinare l espressione esplicita dell inversa, a causa dell impraticabilità della formula di Cramer. Si riscriva allora il metodo equivalentemente come segue Ax (k) = y (k 1), µ (k) = (y (k) ) T A 1 y (k). L algoritmo è formalmente lo stesso, ma ora bisogna risolvere un sistema lineare cosa che sappiamo fare per via numerica (ad esempio con la fattorizzazione LU). Il costo quindi di ogni iterazione è maggiore che per il metodo delle potenze originarie. Tuttavia si fa notare come il sistema lineare Ax (k) = y (k 1) coinvolga sempre la stessa matrice A, la cui fattorizzazione viene quindi fatta off-line, fuori dal ciclo for. Per il calcolo dell ultimo passo, si fa notare come compaia il termine A 1 y (k), cioè x (k+1). L algoritmo viene quindi efficientemente riscritto nel seguente modo Ax (k+1) = y (k), µ (k) = (y (k) ) T x (k+1). 3

4 In ogni caso si ha k µ (k) = 1/λ n. Si consideri ora il caso in cui si voglia approssimare l autovalore più prossimo ad un certo numero χ. Applicando il metodo delle potenze alla matrice A 1 χ con A χ = (A χi), si approssima l autovalore minimo λ χ n di A χ. Poiché si ha che λ χ n = λ j χ per un qualche j, ponendo λ j = λ χ n + χ si ottiene l autovalore di A più vicino a χ. Come criterio di arresto si usa solitamente quello basato sull incremento λ (k) λ (k 1) λ (k) < ε. Metodo delle iterazioni QR. È ancora un metodo iterativo, ma a differenza di quello delle potenze permette di determinare tutti gli autovalori, non solamente uno alla volta. Proprietà: Data una matrice A, esistono una matrice ortogonale Q (cioè tale per cui Q T = Q 1 ) e una matrice triangolare superiore R, tali che A = QR (fattorizzazione QR). Si prenda Q (0) ortogonale e si definisca T (0) = ( Q (0)) T AQ (0). T (0) è ovviamente simile ad A per costruzione. Il metodo delle iterazioni QR consiste ad ogni iterata k nei seguenti passi Q (k) R (k) = T (k 1), R (k) Q (k). Il primo passo consiste nella fattorizzazione QR e deve essere svolto con un opportuno algortmo che non vediamo in questo corso. Il secondo passo consiste in un prodotto matrice-vettore. Vediamo di seguito perché tale metodo funziona. Si ha R (k) Q (k) = ( Q (k)) T ( Q (k) R (k) Q (k) = Q (k)) T T (k 1) Q (k). Allora, sostituendo nel termine a destra l espressione che si otterrebbe scrivendo T (k 1) in funzione di T (k 2), si ottiene e procedendo in questo modo si ottiene Ricordando l espressione di T (0) si ha infine (Q (k)) T ( Q (k 1)) T T (k 2) Q (k 1) Q (k) (Q (k)) T... ( Q (1)) T T (0) Q (1)... Q (k). (Q (k)) T (... Q (0)) T ( AQ (0)... Q (k) = Q (0)... Q (k)) T AQ (0)... Q (k). Definendo S (k) = Q (0)... Q (k), si osserva come S (k) sia ortogonale in quanto prodotto di matrici ortogonali. Allora, si ha che T (k) è simile ad A. Si può inoltre mostrare (ma si omette di seguito la dimostrazione) che T (k) ij = 0 i > j, k 4

5 cioè T (k) tende a diventare triangolare superiore. Ciò significa che con λ i gli autovalori di A. Il criterio di arresto in questo caso è T (k) ii = λ i, k (k) max T i>j ij < ε. Si può mostrare che la velocità di convergenza del metodo dipende da quanto gli autovalori siano separati: se due autovalori sono vicini, sulla riga corrispondente i valori sotto la diagonale faranno fatica a tendere a zero. 5