Sistemi lineari. Lucia Gastaldi. 11 novembre Dipartimento di Matematica,

Transcript

1 Sistemi lineari Lucia Gastaldi Dipartimento di Matematica, 11 novembre 2007

2 Outline 1 Come risolvere un sistema lineare con MATLAB Il comando per risolvere i sistemi lineari Risoluzione di un sistema lineare Eliminazione di Gauss Fattorizzazione Strategia di pivoting 2 Analisi degli errori

3 Sistemi lineari Problema Date due matrici A R m n, e b R m p, esiste una unica matrice X R n p tale che AX = b? Esempio L equazione 7x = 21 ha un unica soluzione? Per trovare la risposta si divide: x = 21/7 = 3

4 Ax=b Tre casi possibili: Sistemi quadrati, m = n. Sistemi sovradeterminati, m > n. Sistemi sottodeterminati, m < n.

5 Come risolvere un sistema lineare con MATLAB La risoluzione del sistema lineare si ottiene usando i simboli di divisione: backslash \ e slash /. X = A\b Indica la soluzione del sistema AX = b. X = b/a Indica la soluzione del sistema XA = b. L operatore backslash usa algoritmi differenti per trattare diversi tipi di matrici: Permutazioni di matrici triangolari. Matrici simmetriche e definite positive. Matrici quadrate, non singolari. Sistemi rettangolari sovradeterminati. Sistemi rettangolari sottodeterminati.

6 Casi particolari I Matrice diagonale D R n n matrice diagonale con d ii 0 per i = 1,..., n: Dx = b x i = b i d ii per i = 1,..., n. La matrice può essere memorizzata in un vettore D. >> D=[ ]; >> b=[ ]; >> x=b./d x =

7 Casi particolari II Matrice triangolare superiore U R n n matrice triangolare superiore: U ij 0 per i j U = u 11 u 12 u 1n 0 u 22 u 2n 0 0 u nn x 1 x 2 x 3 = Si ricava dall ultima equazione x 3 = 3, si sostituisce nell equazione precedente: 2x 2 + x 3 = 3 2x 2 = 3 x 3 = 0 x 2 = 0; si sostituiscono x 3 e x 2 nella prima equazione: x 1 + 2x 2 + 0x 3 = 1 x 1 = 1.

8 Metodo di sostituzione all indietro Sia U R n n matrice triangolare superiore; se u ii 0 per i = 1,..., n, la soluzione del sistema lineare Ux = b è data da: x n = b n u nn x i = 1 b i u ii n j=i+1 u ij x j per i = n 1,..., 1.

9 Costo dell algoritmo di sostituzione all indietro Per calcolare la i-esima componente di x, devo eseguire sommando per i = 1,..., n si ottiene flops = n divisione n i moltiplicazioni n i somme/sottrazioni n n(n 1) (n i) = n i=1 = n 2.

10 Metodo di sostituzione in avanti Sia L R n n matrice triangolare inferiore; se l ii 0 per i = 1,..., n, la soluzione del sistema lineare Lx = b è data da: x 1 = b 1 l 11 x i = 1 i 1 b i l ij x j per i = 2,..., n. l ii j=1

11 Caso generale Teorema Sia A una matrice quadrata di dimensione n non singolare, cioè tale che det(a) 0. Sia b R n. Allora il sistema lineare Ax = b ha un unica soluzione x R n. Idea trasformare il sistema lineare assegnato in un sistema lineare equivalente che sia più semplice. Si eseguono un numero finito M di trasformazioni in modo tale che la matrice finale A M sia una matrice triangolare superiore U.

12 Operazioni ammissibili per trasformare un sistema lineare in un sistema equivalente Moltiplicazione di una riga per uno scalare: l equazione i-esima viene moltiplicata per un numero reale α 0. Somma fra righe: l equazione i-esima viene sommata all equazione j-esima. Scambio di riga: l equazione i-esima del sistema si scambia con l equazione j-esima del sistema.

13 Eliminazione di Gauss Consideriamo il seguente sistema di 3 equazioni in 3 incognite: x 1 x 2 = 10 1, x 3 5 vogliamo trsformarlo in un sistema del tipo u 11 u 12 u 13 0 u 22 u 23 x 1 x 2 = 0 0 u 33 x 3 y 1 y 2 y 3.

14 Primo passo Pongo A (0) = A e b (0) = b cioè A (0) = b (0) = Trasformo A (0) in A (1) e b (0) in b (1) in modo tale che A (1) abbia la seguente forma A (1) = b (1) = 10. 0

15 Primo passo (continua) Faccio una combinazione lineare fra le prime due righe di A (0) in modo da eliminare l incognita x 1 dalla seconda equazione. Precisamente moltiplico la prima equazione per 1/2 (= a 21 /a 11 ) e la sottraggo dalla seconda. Analogamente procedo con la terza riga e sottraggo la prima riga dalla terza (moltiplico la prima equazione per 1 (= a 31 /a 11 )) e ottengo A (1) = b (1) =

16 Secondo e ultimo passo Trasformo A (1) in A (2) e b (1) in b (2) in modo tale che A (2) sia triangolare superiore. Le prime due righe vengono riportate uguali. Faccio una combinazione lineare tra la seconda e la terza riga in modo da eliminare anche l incognita x 2 dalla terza equazione. Moltiplico la seconda riga per 4/3 = (a 32 /a 22 ) e la sottraggo dalla terza riga: U = A (2) = y = b (2) = Risolvendo il sistema Ux = y con il metodo delle sostituzioni all indietro si ottiene la soluzione x = (1, 2, 1).

17 Algoritmo di eliminazione di Gauss for k = 1,..., n 1 for i = k + 1,..., n end end m ik = a(k) ik a (k) kk for j = k + 1,..., n end a (k+1) ij b (k+1) i = a (k) ij = b (k) i m ik a (k) kj m ik b (k) k

18 Costo dell algoritmo di eliminazione di Gauss Per calcolare il k-esimo passo, devo eseguire n k divisioni (n k)(n k + 1) moltiplicazioni (n k)(n k + 1) somme/sottrazioni sommando per k = 1,..., n 1 si ha che il numero delle operazioni eseguite è dell ordine di n 3 o meglio: flops = 2 3 n3.

19 Fattorizzazione LU Costruiamo le seguenti matrici: L = m m n1 m nn 1 1 U = a (1) 11 a (1) 12 a (1) 1n 0 a (2) 22 a (2) 2n 0 0 a nn (n) Teorema LU = A. Si dice che la matrice triangolare inferiore L e la matrice triangolare superiore U forniscono una fattorizzazione LU della matrice A.

20 Fattorizzazione (continua) Supponiamo di avere una fattorizzazione LU della matrice A. Per risolvere il sistema Ax = b si procede come segue: LUx = b. Quindi si risolvono in sequenza due sistemi relativi a matrici triangolari: Ly = b Ux = y.

21 Si può sempre fattorizzare una matrice non singolare? L algoritmo fallisce se per qualche valore di k si ha a (k) kk = 0. Esempio A (1) = A = / b = b (1) = /2 1. Scambiando le righe del sistema si ottiene: Ã (1) = b(1) = /2 3/2

22 Esercizio Consideriamo la matrice non singolare A = Calcolare la fattorizzazione LU di A mediante la function lunopiv che si utilizza mediante il seguente comando >> [l,u]=lunopiv(a) Calcolare la differenza A LU.

23 Strategia di pivoting Per evitare possibili divisioni per 0 e per rendere l algoritmo di eliminazione (oppure l algoritmo di fattorizzazione LU) stabili rispetto alla propagazione degli errori di arrotondamento si usa la strategia di pivoting che consiste nello scambio sistematico di righe opportune. Il risultato della fattorizzazione LU è: PA = LU essendo P una matrice di permutazione che tiene conto degli scambi di righe avvenuti.

24 Algoritmo di eliminazione di Gauss con pivoting for k = 1,..., n 1 cerco più piccolo p tale che a (k) pk = max k i n a(k) ik scambio la riga k con la riga p for i = k + 1,..., n end end m ik = a(k) ik a (k) kk for j = k + 1,..., n end a (k+1) ij b (k+1) i = a (k) ij = b (k) i m ik a (k) kj m ik b (k) k

25 Le funzioni MATLAB per la fattorizzazione Funzione Significato lu Fattorizzazione PA = LU. chol Fattorizzazione di Cholesky A = LL T. qr Fattorizzazione A = QR. qz Fattorizzazione QZ. eig Decomposizione spettrale (autovalori, autovettori). svd Decomposizione in valori singolari A = UΣV T. schur Decomposizione di Schur A = UTU H.

26 Esercizio Si consideri il sistema lineare Ax = b con A R n n matrice di Hilbert di elementi 1 a ij =, i = 1,..., n, i + j 1 e b R n tale che la soluzione del sistema sia x = (1,..., 1) T. Calcolare con MATLAB la fattorizzazione LU con pivoting e risolvere il sistema al variare di n. Sia ˆx la soluzione calcolata. Riportare l errore relativo E = x ˆx / x in un grafico in scala semilogaritmica (usare il comando semilogy) per diversi valori di n. Riportare sullo stesso grafico anche la norma della matrice R = LU PA e del residuo b Aˆx / b. Per calcolare le norme usare il comando norm.

27 Traccia dell esercizio Il comando A=hilb(n) genera la matrice di Hilbert di dimensione n n. Il comando x=ones(n,1) genera il vettore colonna di dimensione n che ha tutte le componenti uguali a 1. b=a*x per calcolare il termine noto. xapp=a\x per risolvere il sistema lineare. norm(x-xapp) calcola la norma euclidea del vettore x-xapp.

28 Numero di condizionamento Sia ˆx un approssimazione della soluzione del sistema lineare Ax = b. Allora ˆx si può pensare come la soluzione esatta di un sistema perturbato del tipo (A + δa)ˆx = b + δb. Per semplicità supponiamo δa = 0. Vogliamo valutare la differenza x ˆx in funzione della perturbazione δb del termine noto.

29 Errori x ˆx errore assoluto; x ˆx x errore relativo.

30 Norma di matrice Data una matrice A e una norma di vettore x. Allora la norma di matrice associata alla norma di vettore deve soddisfare le seguenti condizioni: A 0 e A = 0 A = 0; αa = α A per ogni α R; A + B A + B (disuguaglianza triangolare); Ax A x per ogni x R n ; AB A B.

31 Stima dell errore Valutiamo l errore relativo corrispondente alla perturbazione δb del termine noto. x e ˆx sono soluzioni rispettivamente dei due sistemi lineari seguenti: Ax = b Aˆx = b + δb Sottraiamo la prima equazione dalla seconda: A(ˆx x) = δb ossia ˆx x = A 1 δb. Prendendo le norme si ha: ˆx x = A 1 δb A 1 δb.

32 Ax = b b A x 1 x A b Vogliamo valutare l errore relativo. Dividiamo l errore assoluto per x : ˆx x x A 1 δb x A 1 A δb b Definizione K(A) = A 1 A si dice numero di condizionamento della matrice A.

33 norm Se A è un array (matrice o vettore), il comando norm(a) calcola la norma 2 di A. Il comando norm(a,p) calcola la norma p di A come segue: Valore Norma 1 norma 1 2 norma 2 fro norma di Frobenius inf norma

34 Le funzioni MATLAB per il calcolo del numero di condizionamento Funzione Significato cond numero di condizionamento rcond stima del reciproco del numero di condizionamento in norma 1 condest stima del numero di condizionamento in norma 1 norm norma di vettore o di matrice

35 cond Data una matrice A R n n il suo numero di condizionamento in norma 2 si calcola con il comando: c=cond(a) Per calcolare il numero di condizionamento in norma 1, o di Frobenius si usa il comando c=cond(a,p) con Valore Norma 1 norma 1 2 norma 2 fro norma di Frobenius inf norma

36 rcond Il comando c=rcond(a) calcola una stima del reciproco del numero di condizionamento di A in norma 1. Se rcond(a) è vicino a 1, allora la matrice è ben condizionata. Se rcond(a) è vicino a 0, allora la matrice è mal condizionata. Confrontato con cond, rcond è più efficiente ma meno affidabile.

37 Esercizio Per n = 5, 10, 15, si costruisca la matrice A R n n bidiagonale, superiore i cui elementi non nulli sono: a ii = 1, i = 1,, n a ii+1 = 2 i = 1,, n 1. Calcolare l inversa A 1 mediante il comando inv(a). Calcolare inoltre il numero di condizionamento della matrice in norma 2 e norma (usare il comando norm(a) per il calcolo della norma 2 e norm(a,inf) per il calcolo della norma ). Confrontare il valore ottenuto con quello fornito da Matlab mediante il comando cond(a) e rcond(a). Verificare che rcond(a) fornisce il valore del reciproco del numero di condizionamento misurato in norma.

38 Esercizio Dati A = ( ) ( , b = calcolare la soluzione esatta del sistema Ax = b. Introdotta una perturbazione r = [ 10 8, 10 8 ] T al termine noto, si consideri la soluzione del sistema Aˆx = b + r. Calcolare l errore relativo commesso, e confrontarlo con la perturbazione relativa del termine noto. Il risultato era prevedibile? ),

39 Function di Matlab per la costruzione di matrici diag Sia V un vettore di N componenti. diag(v,k) è una matrice quadrata di ordine N+ABS(K) che ha gli elementi di V sulla diagonale K-esima. se K= 0 è la diagonale principale se K> 0 si trova sopra la diagonale principale se K< 0 si trova sotto la diagonale principale tril,triu L=tril(X) fornisce la parte triangolare inferiore di X. L=tril(X,K) fornisce gli elementi della diagonale K e quelli sotto. U=triu(X) fornisce la parte triangolare superiore di X. U=triu(X,K) fornisce gli elementi della diagonale K e quelli sopra.

40 Equazioni differenziali con valori ai limiti Si consideri l equazione differenziale u (x) + σ(x)u(x) = f (x) per x [0, a] u(0) = α, u(a) = β. Suddividiamo l intervallo [0, a] in N + 1 parti uguali e poniamo h = a/(n + 1). Poniamo poi x i = ih. Possiamo approssimare la derivata seconda con la seguente differenza finita del secondo ordine u (x i ) u(x i+1) 2u(x i ) + u(x i 1 ) h 2 per i = 1,..., N. Indicando con ui h sistema lineare: il valore approssimato di u(x i ), si ottiene il seguente uh i+1 2uh i + ui 1 h h 2 + σ(x i )ui h = f (x i ) per i = 1,..., N u0 h = α uh N+1 = β

41 Equazioni differenziali con valori ai limiti II Quindi si ricava la soluzione ui h per i = 1,..., N risolvendo il sistema Au h = b essendo A la matrice tridiagonale che ha i seguenti elementi e il termine noto è dato da Teorema di convergenza a ii = 2/h 2 + σ(x i ), a ii 1 = a ii+1 = 1/h 2 b 1 = f (x 1 ) + α/h 2, b i = f (x i ) per i = 2,..., N 1, b N = f (x N ) + β/h 2. Se la soluzione dell equazione differenziale u è una funzione di classe C 4, allora vale la seguente espressione per l errore ( N ) 1/2 ( N ) 1/2 u(x) u h 2 = u(x i ) ui h 2 Ch 2 u (iv) (x i ) 2. i=1 i=1

42 Risoluzione di equazioni differenziali La function diffinite calcola la soluzione di un equazione differenziale con valori ai limiti mediante il comando [x,u]=diffinite(f,sigma,a,b,alfa,beta,n) Input: f, sigma nomi delle function per f e σ; a,b estremi dell intervallo; alfa, beta valori agli estremi dell intervallo; N numero dei punti interni in cui si calcola la soluzione. Output: x vettore dei punti in cui si calcola la soluzione (compresi gli estremi); u soluzione (compresi gli estremi). Risolvere l equazione differenziale u (x) + sin x u(x) = (1 cos 2 x 2 cos x 1)e x per x [0, π] u(0) = u(π) = 0. Confrontare i risultati ottenuti con la soluzione esatta u(x) = sin x e x.

43 Convergenza del metodo delle differenze finite Esercizio Dato N=[ ], per ciascun valore di N calcolare la soluzione dell equazione differenziale dell esercizio precedente, riportare la soluzione in un grafico insieme alla soluzione esatta e valutare l errore relativo. Riportare gli errori in funzione di N in un grafico in scala bilogaritmica. Traccia Assegnare i dati: f, σ, a, b, α, β. Assegnare la soluzione esatta. Assegnare N=[ ]. Per ogni valore di N: for i=1:length(n) Calcolare la soluzione u con la function diffinite. Calcolare la soluzione esatta sol. Fare il grafico: plot(x,u,x,sol). Calcolare l errore: E(i)=norm(u-sol)/norm(sol). Riportare gli errori in funzione di N in un grafico in scala bilogaritmica: loglog(n,e,n,1./n.ˆ2).