Per esempio, una matrice 4 4 triangolare alta ha la forma. 0 a. mentre una matrice di ordine 4 triangolare bassa è del tipo

Transcript

1 Matrici triangolari Prima di esporre il metodo LU per la risoluzione di sistemi lineari, introduciamo la nozione di matrice triangolare Ci limiteremo al caso di matrici quadrate anche se l estensione a matrici rettangolari non presenta difficoltà Allora una n n matrice A è triangolare superiore o triangolare alta se i > j implica a ij = Vale a dire sono nulli tutti i coefficienti sotto la diagonale Tipicamente a a 2 a n a A = 22 a 2n a nn Invece una n n matrice A è triangolare inferiore o triangolare bassa se i < j implica a ij = Questa volta sono nulli tutti gli elementi sotto la diagonale Tipicamente a a A = 2 a 22 a n a n2 a nn Per esempio, una matrice 4 4 triangolare alta ha la forma a a2 a a4 a22 a2 a24 A a a4 a44 mentre una matrice di ordine 4 triangolare bassa è del tipo a a2 a22 A a a2 a a4 a4 a4 a44 Il determinante di una matrice triangolare ( di entrambi i tipi è il prodotto degli elementi diagonali Per esempio, se n = 4, deta = a a 22 a a 44 Segue che una matrice triangolare è singolare se almeno uno degli elementi diagonali è nullo Una matrice diagonale è nello stesso tempio triangolare alta e bassa I sistemi di equazioni con matrice dei coefficienti triangolare sono facilmente risolubili Cominciamo a mostrare l algoritmo nel caso A sia triangolare inferiore di ordine n Il sistema Ax = b, in forma esplicita, si scrive a x = b a 2 x + a 22 x 2 = b 2 a i x + a ij x j + a ii x i = b i a n x + a nn x n = b n Il metodo di risoluzione è il metodo di sostituzione in avanti Si calcola x dalla prima equazione x = b a

2 e, supposto di aver calcolato x, x 2, x i-, si utilizza la equazione i-esima a i x + a ij x j + a ii x i = b i, per calcolare x i, come x i =( b i a i x a i2 x 2 a ii- x i- /a ii, i = 2, n Per calcolare x i occorrono 2i- flop per cui il calcolo del vettore soluzione richiede 2( +2 + n n = n(n+ n = n 2 flop Il metodo di risoluzione del sistema Ax = b, nel caso di A triangolare superiore di ordine n, è, invece, il metodo di sostituzione all indietro Intanto, in forma esplicita, a x + a 2 x 2 + a n x n = b a 22 x 2 + a 2n x n = b 2 a ii x i + a ij x j + a in x n = b i a nn x n = b n Si calcola x n dall ultima equazione, ottenendo x n = b n a nn Poi, supposto di avere calcolato x n, x n-, x i+, si trova x i servendosi dell equazione i-esima Allora x i = (b i a ii+ x i+ a ii+2 x 2 a in x n /a ii, i = n-, Ancora una volta il costo complessivo è di n 2 flop Da notare che ogni elemento diagonale non nullo ha permesso il calcolo del vettore soluzione Questi due algoritmi molto efficaci per risolvere sistemi triangolari ( cioè con matrice dei coefficienti triangolare, si rilevano molto utili se la matrice A di un sistema si presenta in forma fattorizzata Per esempio si consideri il sistema (L UL 2 x = b, dove L e L 2 sono triangolari basse e U è triangolare alta, tutte dello stesso ordine n e non singolari Invece di calcolare la matrice A = L UL 2, conviene, usando la proprietà associativa, porre UL 2 x = y e risolvere il sistema triangolare L y = b Una volta calcolato y, si deve risolvere il sistema (UL 2 x = y, e conviene porre L 2 x = z, e risolvere il sistema Uz = y Infine, trovato z, non resta che risolvere L 2 x = z Il tutto con n 2 flop! Esempio Con riferimento all esempio di prima sia n = 4, e 2 2 L = 2, U = 2, L = Il vettore termine noto sia b = ( 5 9 T Allora, senza eseguire il prodotto A = L UL 2, da L UL 2 x = b, con la posizione UL 2 x = y, andiamo a risolvere il sistema L y = b, che, esplicitando, è y =, -2y + y 2 =, -y + y 2 + 2y = 5, y + y 2 + y + y 4 = 9 Sostituendo y nella seconda equazione si ha y 2 = 2, e sostituendo y e y 2 nella terza equazione si trova y = 7, e, infine, per sostituzione nella quarta si trae y 4 = - IL vettore soluzione è y = ( T Questo diventa vettore termine noto del sistema UL 2 x = y, e con la posizione L 2 x = z, dobbiamo risolvere il sistema Uz = y, che, esplicitando, è 2z - 2z 2 + z 4 =, z 2 + z + 2z 4 = 2, 2z + z 4 = 7, z 4 = - Allora, sostituendo z 4 nella terza equazione, si calcola z = 4, e con la sostituzione di z e z 4, nella seconda si trova z 2 =, e, infine, mettendo z 2, z e z 4 nella prima, si trova z = Il vettore soluzione è dunque z = ( 4 - T Resta da risolvere L 2 x = z, che, in forma esplicita, è

3 x =, -2x + 2x 2 =, x + x 2 + 2x = 4, x x 2 + x + 2x 4 = - Con la sostituzione di x nella seconda equazione si trae x 2 =, e con la sostituzione di x e x 2 nella terza equazione, si calcola x = e, infine, mettendo x, x 2, x, nella quarta equazione si trova x 4 = - Il vettore soluzione del sistema è x = ( - T Per illustrare il metodo LU richiamiamo la nozione si sottomatrice principale e minore principale di testa Sia A una matrice di ordine n Una sottomatrice principale di ordine h n, si ottiene selezionando h righe e colonne di A con gli stessi indici Se scegliamo le prime h righe e h colonne otteniamo la matrice principale di testa di ordine h Le matrici principali di testa sono n come n è la dimensione della matrice La primo è la matrice a, e l ultima e la matrice A stessa In sostanza si tratta delle sottomatrici a a2 a a a 2 a, a a a, ecc a a, a a a 2 I determinanti delle sottomatrici principali di testa sono i minori principali di testa di A Sarà utile per il seguito la seguente proprietà sulle matrici principali di testa Se L è una matrice triangolare inferiore e B è una matrice qualsiasi, entrambe quadrate dello stesso ordine, allora le sottomatrici principali di testa di A = LB, sono il prodotto tra le corrispondenti matrici principali di L e B Questo nasce dal fatto che, selezionata una sottomatrice principale di testa di L, questa viene affiancata da un blocco nullo in L Vale il Teorema Sia A una matrice quadrata di ordine n Se i primi n minori principali di testa di A sono diversi da zero, esiste una sola matrice triangolare bassa L con elementi diagonali uguali a uno e una sola matrice triangolare alta U, tali che A = LU L Algoritmo LU Nel descrivere questo algoritmo di fattorizzazione, mostreremo che, in realtà, si ottengono anche tutte le fattorizzazioni LU delle sottomatrici principali di testa Risulterà evidente l ipotesi sui minori principali di testa Le matrici L e U della fattorizzazione si ottengono dopo n- passi, durante i quali si hanno le fattorizzazioni intermedie A = L (k U (k, k =, n- Al termine del passo k-esimo, L (k è una matrice triangolare bassa con la seguente struttura (k (k L L (k L2 I (k dove L è una matrice quadrata di ordine k, triangolare bassa e con elementi diagonali uguali a (k uno, L 2 è una (n-k k matrice, I è la matrice identità di ordine n -k, e è un blocco k ( n-k nullo In sostanza L (k è una matrice triangolare inferiore con elementi diagonali uno, ma i coefficienti sotto l elemento diagonale sono zero a partire dalla colonna (k+-esima Invece U (k è una quasi triangolare alta con la struttura U (k U (k U U (k 2 (k 22

4 dove (k U è una matrice quadrata di ordine k triangolare alta, (k U 2 è una k (n-k matrice, (k U 22 è una matrice quadrata di ordine n - k, e è un blocco (n-k k nullo In sostanza U (k è tale che le prime k colonne hanno elementi nulli sotto l elemento diagonale Dalla proprietà prima enunciata, la matrice principale di testa di A, di ordine k, diventa il prodotto delle due matrici principali di testa di L (k e U (k che sono rispettivamente triangolare bassa (ad elementi diagonali uno e triangolare alta Cioè si ha la fattorizzazione LU di tale matrice Per uniformità di notazione poniamo L ( = I, U ( = A ( ( ( u u u j n ( ( ( ( U ui uij uin ( ( ( un unj unn Allora, u ( a è il primo pivot ed è non nullo perché a è il primo minore principale di testa Formiamo i moltiplicatori dividendo per il pivot ogni elemento della prima colonna u l i = i u, i = 2, La prima riga, contenente il pivot è la riga pivotale che è quella di riferimento per eseguire le seguenti trasformazioni Da ogni riga i sottraiamo la riga pivotale premoltiplicata per il moltiplicatore l i Si forma una nuova matrice U ( di elementi, ( ( ( ( uij uij li u j, i,j 2,n Gli elementi della prima riga sono gli stessi di U ( Gli elementi della prima colonna sotto il pivot sono stati resi nulli Questo è il motivo per cui l indice j parte da 2 Insomma la nuova matrice è ( ( ( u u j u n ( ( u22 u2n ( U ( ( un2 unn Mettiamo i moltiplicatori, nell ordine, nella prima colonna di L ( = I, sotto l elemento diagonale, per formare L ( = l 2 l n Si dimostra che A è il prodotto di tali matrici, quindi il primo passo A = L ( U ( è completato Supponiamo, ora, di essere pervenuti al passo (k-, con A = L (k- U (k-, (k (k L L (k, L2 I

5 (k (k (k U U2 U (k U22 La matrice L (k- è triangolare bassa con elementi diagonali uguali a uno, e la sottomatrice principale di testa di ordine k di U (k- (k (k è triangolare alta, con determinante u kk det U Poiché deve essere uguale al minore principale di testa di ordine k di A, segue che il k-esimo pivot (k Prendiamo in esame il blocco U kk (k ukk (k (k U22 uik (k unk e formiamo i moltiplicatori (k (k uik l (k u u u u (k kj (k ij (k nj ik, i k,n kk (k u kn (k u in (k unn (k u kk è non nullo La riga k-esima è, ora, la riga pivotale Da ogni riga i > k, sottraiamo la riga pivotale, premoltiplicata per il moltiplicatore i-esimo, vale a dire (k (k (k (k u u l u, i,j k,n ij ij ik kj Il blocco viene modificato con prima colonna nulla sotto il pivot La nuova matrice U (k ha i restanti elementi uguali alla matrice U (k- Mettiamo i moltiplicatori nella colonna k-esima ddi L (k- nell ordine sotto l elemento diagonale uno Si viene a formare la matrice L (k e ancora una volta si prova A = L (k U (k Al passo n- la matrice L = L (n- è triangolare bassa ( ma lo erano anche le altre con elementi diagonali uno, e U = U (n- è finalmente triangolare alta Risulta A = LU, e abbiamo anche ottenuto le fattorizzazioni delle sottomatrici principali Esempio A e proviamo a costruire la fattorizzazione A = LU Poiché, in generale, non possiamo controllare che i cinque minori principali di testa di A sono non nulli, mandiamo comunque in esecuzione l algoritmo di fattorizzazione, e al primo pivot nullo incontrato ( se ciò accade siamo costretti a fermarci e a riconoscere nella matrice A che il minore principale di testa corrispondente è nullo Quindi iniziamo con U ( = A, e

6 ( L Risulta evidentemente A = L ( U ( Il primo pivot è, e quindi formiamo il primo vettore di moltiplicatori 9/ =, (-/ = - 6/=2 9/= e la nuova matrice L ( 2 ( L Dalla seconda riga di U ( sottraiamo la prima riga premoltiplicata per il secondo elemento della prima riga di L ( che è il moltiplicatore, dalla terza riga di U ( sottraiamo la prima riga premoltiplicata per il terzo elemento della prima riga di L ( che è il moltiplicatore Dalla quarta riga di U ( sottraiamo la prima riga premoltiplicata per ilquarto elemento della prima riga di L ( che è il moltiplicatore 2 Dalla quinta riga di U ( sottraiamo la prima riga premoltiplicata per il quinto elemento della prima riga di L ( che è il moltiplicatore Si ottiene la nuova matrice ( U Il secondo pivot è Se ciò non fosse avvenuto, il minore principale di testa di ordine due sarebbe stato nullo Formiamo, allora, i moltiplicatori (-2/(- =2, 4/(-= -4, (-/(- =, La nuova matrice L (2 si ottiene da L ( sostituendo gli zeri della seconda colonna sotto l elemento diagonale uno, con i nuovi moltiplicatori Risulta, allora (2 L Dalla terza riga di U ( sottraiamo la seconda riga premoltiplicata per il terzo elemento della seconda colonna di L (2 che è il moltiplicatore 2 Dalla quarta riga di U ( sottraiamo la seconda riga premoltiplicata per il quarto elemento della seconda colonna di L (2 che è il moltiplicatore 4 Dalla

7 quinta riga di U ( sottraiamo la seconda riga premoltiplicata per il quinto elemento della seconda colonna di L (2 che è il moltiplicatore Otteniamo (2 U 2 Il terzo pivot è Se fosse risultato nullo, sarebbe stato nullo il minore principale di testa di ordine tre di A Allora i moltiplicatori sono (-6/ = -2 / = La nuova matrice L (, è ( L Dalla quarta riga di U (2 sottraiamo la terza riga premoltiplicata per quarto elemento della terza colonna di L ( che è il moltiplicatore 2 Dalla quinta riga di U (2 sottraiamo la terza riga premoltiplicata per il quinto elemento della terza colonna di L ( che è il moltiplicatore Si ottiene ( U 2 Il quarto pivot è Se fosse risultato zero, sarebbe stato zero anche il minore principale di testa di ordine quattro di A L ultimo moltiplicatore è (-/(- = Si trova la matrice finale triangolare bassa con elementi diagonali uno (4 L L Sottraiamo dalla quinta riga di U ( la quarta riga premoltiplicata per l ultimo moltiplicatore ( il quinto elemento della quarta colonna di L (4 Quindi la matrice finale triangolare alta è

8 (4 UU 2 In sostanza abbiamo fatto le 4 = 5-, fattorizzazioni A = L ( U (, A = L (2 U (2, A = L ( U (, A = L (4 U (4 = LU Esercizio Individuale le fattorizzazioni LU delle quattro sottomatrici principali Una di queste è Conseguenze della fattorizzazione L algoritmo LU produce il determinante di A se si calcola il prodotto degli elementi diagonali di U Nell esempio di prima il determinante è - 9 Infine i minori principali di testa di A sono i minori principali di testa di U Nell esempio illustrato sono nell ordine, -, -9, 9, -9 Il costo computazionale della fattorizzazione Una analisi dettagliata delle operazioni floating ( flop per eseguire la fattorizzazione, porta al calcolo esatto del costo complessivo C Interessa, però, solo la parte predominante del costo e si usa scrivere C = O(2n / Vuol dire che esistono altri termini in n 2 e n e un termine costante che, per n sufficientemente grande sono trascurabili rispetto al termine predominante Per esempio se fattorizziamo una matrice di ordine n =, dobbiamo eseguire 65 circa operazioni alle quali aggiungere circa operazioni che non alterano l ordine di grandezza del costo complessivo Utilizzo della fattorizzazione Una volta eseguita la fattorizzazione A = LU di A il sistema lineare si presenta nella forma LUx = b In questa forma si pone Ux = y, poi si comincia col risolvere il sistema triangolare inferiore,cioè con matrice dei coefficienti triangolare bassa, e a elementi diagonali unitari, Ly = b In forma esplicita questo sistema si scrive y = b l 2 y + y 2 = b 2 l i y + y i = b i l n y + y n = b n Allora la prima equazione dà y, e, supposto di averecalcolato y, y i-, dalla equazione i-esima si trova y i = b i l i y - l ii- y i-, i =2, n

9 Questo è il metodo di sostituzione in avanti per sistemi triangolari bassi, che abbiamo già illustrato, ma semplificato dal fatto il coefficiente di y i nella equazione i-esima è uno Il sistema Ux = y, in forma esplicita si scrive u x + u n x n = y u ii x i + u in x n = y i u nn x n = y n Questa volta il metodo risolutivo è esattamente quello di sostituzione all indietro già illustrato Si prende x n = y n /u nn dall ultima equazione, e, supposto di avere calcolato x n, x i+, si trova x i dalla equazione i-esima, x i = (y i - u in x n - u ii+ x i+ /u ii, i =n-, Come già riferito la fattorizzazione LU prende spesso il nome di fattorizzazione di Gauss ( o Gaussiana In generale le tecniche del tipo sottrarre da una riga un altra premoltiplicata, ec, vanno sotto il nome di procedure ( di riduzione di Gauss Costo complessivo Il costo per la soluzione di un sistema triangolare è n 2 flop e, in conseguenza, occorre aggiungere per la soluzione del sistema originario altri 2n 2 flop Questo non contribuisce all ordine di grandezza della fattorizzazione e resta il fatto che la soluzione di un sistema di ordine n richiede un costo di O(2n / flop Esempio Si consideri la matrice precedente e i sistemi con termine noto rispettivamente b = ( T, b = ( T Si controlla che i vettori soluzione sono rispettivamente x= ( T, x = ( 2 2 T Ricordiamo che A è fattorizzata in L 2 e U 2 Per risolvere il sistema col primo termine noto proposto occorre prima risolvere il sistema Ly = b, che, in questo caso si scrive y = 4 y + y 2 = -5

10 -y + 2y 2 +y = -8 2y -4y 2-2y +y 4 = 77 y + y 2 + y +y 4 + y 5 = -4 Si ottiene y = 4 e sostituendo y nella seconda equazione si trae y 2 = -5 -y = -7 Mettendo questi due nella terza equazione si ottiene y = -8 +y -2y 2 = Quindi con i valori di y, y 2, e y, nella quarta equazione si trae y 4 = 77-2y + 4y 2 +2y = Infine siamo in grado di calcolare y 5 = -4 -y -y 2 y y 4 = -4 Il vettore y diventa termine noto nel sistema Ux = y, che, in questo caso, si scrive x -2x 2 x x 4-2x 5 = 4 -x 2 +4x x 4-2x 5 = -7 x -2x+x 5 = -x 4 + x 5 = -x 5 = -4 Si ricava x 5 = 4, e sostituendo nella quarta equazione si ha x 4 = (-x 5 /(- = Poi, dalla terza equazione x = ( +2x 4 -x 5 / = -2 Quindi, dalla seconda equazione x 2 = (-7-4x +x 4 +2x 5 /(- = -2 Infine coinvolgendo la prima equazione si ottiene x = (4 +2x 2 +x + x 4 +2x 5 / = Esercizio Risolvere il sistema col secondo vettore termine noto Come si vede dall esempio, ma la cosa vale in generale, per risolvere vari sistemi con la stessa matrice dei coefficienti, si calcolano una volta per tutte le matrici della fattorizzazione e volta per volta si risolvono i due sistemi triangolari Il caso delle matrici a banda In molte applicazioni le matrici di sistema hanno una struttura particolare, detta struttura a bande, che ora illustriamo Facciamo riferimento a matrici quadrate, anche se le definizioni si estendono senza problemi a matrici rettangolari Definizione Una matrice quadrata A di ordine n ha larghezza di banda alta q, se j > i + q, implica a ij = Invece ha larghezza di banda bassa p se i > j + p implica a ij = Per comprendere questa struttura, ispirandoci al Matlab, diciamo che la diagonale di una matrice è la diagonale e la chiamiamo diagonale principale Poi gli elementi a i i+, i =, n-, formano la diagonale, immediatamente sopra la principale Gli elementi a i i+2, i =, n-2, formano la diagonale 2, gli elementi a i i+h, i =, n-h, h=, n-, formano la diagonale h La diagonale (n- è costituita dal solo elemento a n Quindi gli elementi a i- i, i = 2, n, sono quelli della diagonale -, immediatamente sotto la diagonale principale Gli elementi a i-h i, i = h+, n, h =, n-,sono quelli della diagonale h, e l unico a n va a formare la diagonale (n- Allora larghezza di banda alta q vuol dire che sono nulle le diagonali q+, n-, mentre larghezza di banda bassa p vuol dire che sono nulle le diagonali (p+, -(n- Una matrice triangolare superiore ha larghezza di banda bassa, mentre una triangolare inferiore ha larghezza di banda alta

11