Appunti di Metodi Numerici per l Ingegneria

Transcript

1 Appunti di Metodi Numerici per l Ingegneria Davide Cavalca Anno accademico 2006/07

2 Copyright 2006,2007 Davide Cavalca. Permission is granted to copy, distribute and/or modify this document under the terms of the GNU Free Documentation License, Version 1.2 or any later version published by the Free Software Foundation; with no Invariant Sections, no Front- Cover Texts, and no Back-Cover Texts. A copy of the license is included in the Appendix B, entitled GNU Free Documentation License. Copyright 2006,2007 Davide Cavalca. È dato il permesso di copiare, distribuire e/o modificare questo documento seguendo i termini della GNU Free Documentation License, Versione 1.2 o ogni versione successiva pubblicata dalla Free Software Foundation; senza Sezioni Non Modificabili, senza Testi Copertina, e senza Testi di Retro Copertina. Una copia della licenza è acclusa nell Appendice B, dal titolo GNU Free Documentation License. Hanno contribuito a questo lavoro: Davide Cavalca: autore originale; Angelo Stramieri: aiuto nella revisione, diverse correzioni e suggerimenti.

3 Indice Indice Elenco delle figure Elenco delle tabelle iii vii ix 1 Introduzione Informazioni sul corso Esempi Crescita di una popolazione Modello preda-predatore Oscillatore armonico Problemi di Cauchy Risoluzione di problemi di Cauchy Consistenza Stabilità Stabilità minima e zero-stabilità Convergenza A-stabilità Eulero Esplicito Eulero Implicito Crank-Nicholson Regioni di a-stabilità Riepilogo Abbattere i costi dei metodi impliciti Interpolazione di funzioni Interpolazione polinomiale Interpolazione polinomiale a tratti Approssimazioni con funzioni splines Interpolazione di Hermite Formule di quadratura interpolatorie Calcolo dell errore Interpolazione lineare composita Punti di Gauss Formule di quadratura in due dimensioni iii

4 iv INDICE 3.6 Formule di quadratura adattive Radici di equazioni non lineari Metodo di bisezione Metodi basati su valori di f e/o di f Metodo delle corde Metodo delle secanti Metodo di Newton o delle tangenti Test d arresto Radici di un sistema di equazioni non lineari Risoluzione di sistemi lineari Metodi diretti Metodo di eliminazione di Gauss Metodo di fattorizzazione di Gauss Riepilogo Metodo di fattorizzazione di Cholewski Accuratezza dei risultati Metodi iterativi Metodo di Jacobi Metodo di Gauss-Seidel Convergenza dei metodi iterativi Metodi di rilassamento Test d arresto Sistemi indeterminati Regressione Approssimazione di funzioni con i minimi quadrati Metodi iterativi avanzati Metodi di discesa Metodo del gradiente Metodo del gradiente coniugato Metodi avanzati per problemi di Cauchy Metodi multistep Consistenza Stabilità Metodi di Runge-Kutta Consistenza minima Stabilità Approssimazione di sistemi di equazioni differenziali Riepilogo A Norme di vettore e di matrice 107 A.1 Norme di vettore A.2 Norme di matrice A.2.1 Norme naturali

5 INDICE v B GNU Free Documentation License 111 B.1 Applicability and definitions B.2 Verbatim copying B.3 Copying in quantity B.4 Modifications B.5 Combining documents B.6 Collections of documents B.7 Aggregation with indipendent works B.8 Translation B.9 Termination B.10 Future revisions of this License

6

7 Elenco delle figure 1.1 Diagramma del processo di modellizzazione di un problema fisico Modello di crescita di una popolazione nel tempo Discretizzazione dell intervallo [0, T [ Approssimazione di integrale con (b a)g(a) Approssimazione di integrale con (b a)g(b) Approssimazione di integrale con la formula dei trapezi Sviluppo di Taylor Punti di stabilità di un pendolo Grafico della soluzione y(t) = e λt del problema modello Regione di a-stabilità per Eulero Esplicito Regione di a-stabilità per Eulero Implicito Regione di a-stabilità per Crank-Nicholson Grafico della soluzione y(t) = e 10t del problema modello nel caso di λ = Esempio di caso soglia in EE Soluzione del problema modello approssimata con EE nel caso soglia Soluzione del problema modello approssimata con EE oltre il caso soglia Grafico della soluzione y(t) = e 10t del problema modello nel caso di λ = Soluzione del problema modello approssimata con EI Nodi interpolatori di una generica funzione Polinomi di Lagrange per tre nodi prefissati Interpolazione polinomiale con nodi equispaziati della funzione f(x) = x Costruzione dei nodi di Chebishev Esempio di interpolazione polinomiale a tratti Confronto di due interpolazioni polinomiali a tratti per valori diversi di h Punti per interpolazione di Hermite Spiegazione della formula del punto medio (3.9) Errore di interpolazione Interpolazione composita con il metodo del punto medio Interpolazione composita con il metodo dei trapezi Dominio triangolare di integrazione vii

8 viii ELENCO DELLE FIGURE 3.13 Trasformazione geometria del dominio triangolare Una funzione che necessita di interpolazione adattiva Suddivisione dell intervallo per le formule adattive Applicazione del metodo di bisezione Applicazione del metodo delle corde Un esempio in cui il metodo delle corde fallisce Applicazione del metodo delle secanti Applicazione del metodo di Newton Dimostrazione del teorema della convergenza di Newton (Teorema 4.2) Distribuzione di punti da interpolare Regressione lineare della distribuzione di Figura Distribuzione di punti da interpolare con delle funzioni sinusoidali Rappresentazione grafica della Proprietà Grafico della funzione dente di sega sull intervallo [ 2π, 2π] Somme parziali della serie di Fourier per la funzione f(x) = x Grafico della funzione onda quadra sull intervallo [ 3π, 2π] Approssimazione in serie di Fourier della Delta di Dirac con 41 termini Grafico della funzione ghirlanda sull intervallo [ 3π, 3π] Grafico della funzione campana sull intervallo [ 3π, 3π] Schema d uso della FFT Andamento di L 1 (t) Andamento di L 2 (t) Grafico delle soluzioni del sistema (6.18)

9 Elenco delle tabelle 2.1 Riepilogo dei metodi di approssimazione ad un passo esaminati Calcolo dell ordine di precisione per alcune formule di quadratura Calcolo dell ordine di precisione per alcune formule di quadratura a due dimensioni Riepilogo degli esempi di approssimazione di funzioni periodiche con serie di Fourier Numero di stadi s necessario per ottenere un dato ordine di consistenza per un metodo RK esplicito Riepilogo dei metodi di approssimazione per problemi di Cauchy ix

10

11 Capitolo 1 Introduzione Questo lavoro è una raccolta di appunti delle lezioni per l anno 2006/2007 realizzato da uno studente del corso. Questi appunti sono rilasciati sotto licenza GNU FDL: questo significa che chiunque è libero di copiarli, stamparli, modificarli ed estenderli come preferisce. L unico vincolo imposto è il rilascio di lavori derivati sotto gli stessi termini di licenza dell opera originale: se create una nuova versione degli appunti aggiornata, ampliata o con delle correzioni siete tenuti a pubblicarla sempre sotto licenza GNU FDL e a mantenere il nome dell autore iniziale e di chi ha contribuito precedentemente. In questo modo, tutti potranno beneficiare dei vostri miglioramenti. La lista di chi ha contibuito all opera è presente nella seconda di copertina. Gli appunti sono scritti in LATEX: se create una versione modificata siete tenuti a distribuire i sorgenti aggiornati, in modo che altri possano a loro volta contribuire al lavoro. Il testo completo della licenza è riportato nell Appendice B; per maggiori informazioni contattate l autore o fate riferimento a L autore ringrazia Angelo Stramieri per l importante contributo nella revisione di questi appunti e le numerose correzioni apportate. Per informazioni sugli appunti ed ottenere il sorgente LATEX del documento, l autore può essere contattato via a <[email protected]>. Buono studio! 1.1 Informazioni sul corso Docente: prof. Donatella Marini <[email protected]> Sito del corso: html Testo di riferimento: A. Quarteroni, R. Sacco, F. Saleri: Matematica Numerica, Springer Verlag Italia, Esempi Questa sezione raccoglie alcuni esempi di modellizzazione di problemi fisici, che danno un idea delle possibili applicazioni degli argomenti del corso. 1

12 2 CAPITOLO 1. INTRODUZIONE problema fisico modello matematico equazioni differenziali (o sistemi di) ordinarie alle derivate parziali (lineari e non) problemi di Cauchy problemi ai limiti Figura 1.1: Diagramma del processo di modellizzazione di un problema fisico.

13 1.2. ESEMPI Crescita di una popolazione Problema: modellizzare la crescita di una popolazione di animali. Si chiama N(t) il numero di animali presenti al tempo t; si hanno a disposizione il numero medio di nascite b e di morti d per animale per unità di tempo. Il variare della popolazione nel tempo è descritto dall equazione N(t + Δt) = N(t) + bn(t)δt dn(t)δt; dividendo tutto per Δt si ottiene la legge per ogni intervallo di tempo Δt: N(t + Δt) N(t) Δt = (b d)n(t), che spinta al limite per Δt 0 ci fornisce l equazione differenziale del processo: N (t) = (b d)n(t) = r 0 N(t), con r 0 = b d tasso di incremento della popolazione. Associando a questa equazione una condizione iniziale si ottiene un problema di Cauchy: { N (t) = (b d)n(t) = r 0 N(t) N(0) = N 0 Questo è uno dei rari casi in cui il problema è risolvibile esattamente e non è quindi N(t) r 0 > 0 N 0 r 0 < 0 r 0 = 0 0 t Figura 1.2: Modello di crescita di una popolazione nel tempo necessario ricorrere all analisi numerica; la soluzione è N(t) = N 0 e r 0t. Si noti che ciò vale sono nel particolare caso in cui r 0 costante. In generale, infatti, r 0 = r 0 (t, N), poiché il tasso di incremento dipende dal tempo e dalla popolazione preesistente. In tal caso il problema non è più risolvibile esattamente ed è necessario ricorrere a soluzioni approssimate.

14 4 CAPITOLO 1. INTRODUZIONE Modello preda-predatore Detto anche problema dei conigli e delle volpi. Sono presenti due popolazioni, una di conigli e una di volpi. Chiamo rispettivamente C(t) e V (t) il numero di conigli e di volpi all istante t. Se non ci fossero volpi, i conigli crescerebbero in modo indefinito (non hanno predatori) riproducendosi liberamente: C (t) = ac(t), a > 0; se invece non ci fossero conigli, le volpi morirebbero di fame (senza prede di cui cibarsi) e tenderebbero ad estinguersi: V (t) = bv (t), b > 0. Nella realtà le due popolazioni sono interdipendenti: conigli con volpi: C (t) = ac(t) αv (t)c(t), α > 0 volpi con conigli: V (t) = bv (t) + βc(t)v (t), β > 0 Aggiungendo opportune condizioni iniziali otteniamo un problema di Cauchy: C (t) = (a αv (t)) C(t) V (t) = ( b + βc(t)) V (t) C(0) = C 0 V (0) = V 0 Questo sistema, al contrario del precedente, non si può risolvere esattamente: sono necessari metodi numerici per approssimare la soluzione Oscillatore armonico Problema: punto materiale di massa m che si muove lungo una corda elastica. Si definiscono la posizione y(t), la velocità y (t) e l accelerazione y (t). Se sul punto agisce una forza F si ha: F = m a = m y (t) Poiché la corda è elastica, essa esercita una forza di richiamo sulla massa: Da queste due equazioni si ricava: F = ky(t) y (t) = k m y(t), t > 0 che è un equazione differenziale del secondo ordine con 2 soluzioni. Con le opportune condizioni iniziali ottengo il problema di Cauchy: y (t) = k m y(t), t > 0 y(0) = y 0 y (0) = 0

15 1.3. PROBLEMI DI CAUCHY 5 Il problema è risolvibile esattamente, la soluzione generale è ( ) ( ) y(t) = c 1 cos k m t + c 2 sin k m t y(0) = y 0 y (0) = 0 Dalle condizioni iniziali si ricava il valore delle costanti ed infine la soluzione: y(0) = y 0 y(0) = c 1 = y 0 k y (0) = 0 y (0) = c 2 cos 0 m = 0 c 2 = 0 y(t) = y 0 cos k m t In questo caso è stato possibile risolvere l equazione esattamente. Per poter usare dei metodi numerici avremmo dovuto prima trasformare l equazione differenziale del II ordine in un sistema del I ordine. Questo è facilmente realizzabile ponendo y (t) = v(t) e riscrivendo il tutto come v (t) = k m y(t) y (t) = v(t) y(0) = y 0 v(0) = 0 Si noti che questa operazione non sarebbe stata possibile in presenza di una condizione finale del tipo y(t ) = y T ; in tal caso sarebbe stato necessario risolvere un problema ai limiti. 1.3 Problemi di Cauchy Caso scalare (una equazione in un incognita): si cerca la soluzione u(t) di Caso vettoriale (sistema): dove { u (t) = f(t, u(t)) t [t 0, T ] u(t 0 ) = u 0 { U (t) = F(t, U(t)) t [t 0, T ] U(t 0 ) = U 0 U = [U 1, U 2,..., U n ] T F = [F 1, F 2,..., F n ] T [ U 0 = U1 0, U2 0,..., Un 0 ] T

16 6 CAPITOLO 1. INTRODUZIONE Esempio: problema dell oscillatore armonico trattato nella Sezione in forma vettoriale [ ] y(t) U(t) = v(t) [ ] [ ] f1 (t, y(t), v(t)) v(t) F(t, U(t)) = = f 2 (t, y(t), v(t)) k m y(t) [ ] y0 U(0) = 0

17 Capitolo 2 Risoluzione di problemi di Cauchy { y (t) = f(t, y(t)) t [0, T ] T < + y(t 0 ) = y 0 (2.1) Nella maggior parte dei casi non siamo in grado di scrivere l espressione analitica della soluzione: abbiamo bisogno di metodi approssimati. Si inizia discretizzando la 0 ΔT T t 0 t 1 t 2... t i... t N = T Figura 2.1: Discretizzazione dell intervallo [0, T [ funzione: fissato un numero N di sottointervalli uguali di [0, T ] di lunghezza h = T N, avremo: t 0 = 0 t 1 = t 0 + h t 2 = t 1 + h... t N = t N 1 + h = T. Si va alla ricerca di valori y i : y i y(t i ) per qualsiasi i; i metodi numerici, infatti, trovano soluzioni approssimate di quelle vere nei diversi intervalli. In ognuno di questi intervalli integro l equazione differenziale. Iniziamo col primo: t1 t 0 y (t) dt = t1 t 0 f(t, y(t)) dt; Per il teorema fondamentale del calcolo integrale si ha t1 y(t 1 ) = y(t 0 ) + f(t, y(t)) dt. t 0 7

18 8 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY Se potessimo calcolare t 1 t 0 f(t, y(t)) dt otterremmo il valore esatto dell equazione in t 1. Sfortunatamente questo non è possibile nella stragrande maggioranza dei casi: è necessario approssimare o l integrale o la funzione stessa. Una possibile approssimazione per un generico integrale può essere la seguente: b a g(x) dx (b a)g(a) (2.2) Questa formula approssima l integrale con l area (col segno) del rettangolo avente g(x) g(a) 0 a b x Figura 2.2: Approssimazione di integrale con (b a)g(a). per base b a e per altezza il valore della funzione integranda nel primo estremo. L approssimazione comporta in generale un errore; è esatta solo per funzioni costanti (polinomi di grado zero). Questo genere di forumule si dicono formule di quadratura e sono alla base dei diversi metodi utilizzati per eseguire le approssimazioni. Applicando la formula al nostro caso nel primo intervallo otteniamo y 1 che è definito come l approssimazione di y(t 1 ): y(t 1 ) y(t 0 ) + (t 1 t 0 ) f (t 0, y(t 0 )) = = y 0 + hf(t 0, y 0 ) =: y 1 Procedendo analogamente per il secondo intervallo otteniamo t2 y(t 2 ) = y(t 1 ) + t 1 y (t) dt = t2 t2 t 1 f(t, y(t)) dt t 1 f(t, y(t)) dt y 1 + hf(t 1, y 1 ) =: y 2 Andando avanti si costruisce una successione di valori approssimati {y 0, y 1,..., y N } {y(t 0 ), y(t 1 ),..., y(t N )} Avanzando gli errori si accumulano, dando origine ad una soluzione non esatta. Questo avviene poiché durante l approssimazione degli y i nei diversi punti, ogni y i si porta dietro l accumulo di approssimazioni delle y N 1, y N 2,..., y i 2, y i 1 che concorrono a determinarne il valore. Per migliorare l approssimazione il più possibile

19 9 deve essere h 0; poiché h = T N, può in alternativa essere N. Idealmente, questo porta a lim y n = y(t n ) n + Noi vogliamo minizzare l errore complessivo, quindi deve essere che max n y n y(t n ) 0 Ricapitolando, abbiamo ottenuto una successione così strutturata: y 0 dato, y n+1 = y n + hf(t n, y n ) (2.3) per n = 0, 1, 2,..., N 1. Questa successione rappresenta una delle tecniche codificate per approssimare un problema di Cauchy. In particolare, questo metodo è detto metodo di Eulero esplicito (EE). Ora proviamo a risolvere il problema con un altra formula, molto simile alla precedente: b g(x) dx (b a)g(b) (2.4) Applicandolo al nostro caso nel primo intervallo avremo: g(x) a g(b) 0 a b x Figura 2.3: Approssimazione di integrale con (b a)g(b). y(t 1 ) y(t 0 ) + hf(t 1, y(t 1 )) y 0 + hf(t 1, y 1 ) =: y 1 Questa è un equazione non lineare, poichè y 1 è argomento di f. Analogamente per il secondo intervallo: y(t 2 ) y(t 1 ) + hf(t 2, y(t 2 )) y 1 + hf(t 2, y 2 ) =: y 2 La successione ottenuta è abbastanza diversa dalla precedente: y 0 dato, y n+1 = y n + hf(t n+1, y n+1 ) (2.5) per n = 0, 1, 2,..., N 1. Questo metodo è detto metodo di Eulero implicito (EI).

20 10 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY g(x) g(b) g(a) 0 a b x Figura 2.4: Approssimazione di integrale con la formula dei trapezi. Vediamo un terzo metodo: approssimiamo l integrale con l area del trapezio: b a g(x) dx (b a) 2 [g(a) + g(b)] (2.6) Questa formula, detta formula dei trapezi, è la semisomma delle precedenti. Anche in questo caso commettiamo un errore; abbiamo il valore esatto solo se g(x) è una funzione lineare (polinomio di grado 1). Applicando il metodo al nostro caso in modo analogo al precendente otteniamo questa successione: y 0 dato, y n+1 = y n + h 2 [f(t n, y n ) + f(t n+1, y n+1 )] (2.7) per n = 0, 1, 2,..., N 1. Questo metodo è detto metodo dei trapezi o metodo di Crank-Nicholson (CN). 2.1 Consistenza La consistenza di uno schema permette di valutare quanto bene uno schema adottato riproduca l equazione che approssima. Riscrivo EE come: y n+1 y n h f(t n, y n ) = 0 n = 0, 1,..., N 1 Se applico lo schema alla soluzione esatta trovo un errore y(t n+1 ) y(t n ) h f(t n, y(t n )) = τ n 0 (2.8) detto errore di troncamento locale, che si esprime come potenza del passo di discretizzazione h. In base a questo si definisce l errore di consistenza come τ = max n τ n (2.9) Questo errore è sicuramente diverso da zero; noi vogliamo che sia piccolo. In particolare se τ = ch p (p > 0) lim h 0 τ = 0

21 2.1. CONSISTENZA 11 il metodo si dice consistente di ordine p. Al crescere di p migliora la qualità dell approssimazione prodotta dallo schema. Per mettere in relazione i rapporti incrementali con le derivate ho bisogno delle serie di Taylor. y(t) 0 t h t t + h t Figura 2.5: Sviluppo di Taylor y( t + h) = y( t) + hy ( t) + h2 2 y ( t) + h3 6 y ( t) + (multipli dx) (2.10) y( t h) = y( t) hy ( t) + h2 2 y ( t) h3 6 y ( t) + (multipli sx) (2.11) Dalla (2.10) si trova che y ( t) = y( t + h) y( t) h h 2 y ( t) h2 6 y ( t) + che è uguale al rapporto incrementale destro più un errore dell ordine di h (se y è limitata). L espressione dell errore troncato al primo termine è la seguente: errore = y ( t) y( t + h) y( t) h = h 2 y (z) (2.12) con z [ t, t + h]. Dalla (2.11) si trova invece dove l errore è invece y ( t) = y( t) y( t h) h + h 2 y ( t) h2 6 y ( t) + errore = h 2 y (z), z [ t h, t] (2.13) In entrambi i casi errore è zero t se y 0, ovvero se y è una funzione lineare (polinomio di grado 1). Facendo la semisomma dei due sviluppi (2.10) e (2.11) ottengo y ( t) = y( t + h) y( t h) 2h h2 6 y ( t) +

22 12 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY e in questo caso l errore è errore = h2 6 y (z) z [ t h, t + h]. (2.14) Questo errore va con h 2 e decresce quindi più velocemente degli altri: l approssimazione è più precisa, poiché l errore va a zero se y 0, ovvero per polinomi di grado 2. Esaminiamo ora la consistenza dei diversi metodi esaminati in precedenza. Per EE si ha t n+1 = t n + h t = t n ; gli sviluppi saranno quindi calcolati intorno a t n usando la (2.10). Ricordando che il problema di Cauchy in esame è y (t) = f(t, y(t)), l errore di troncamento locale è dato da τ n = y(t n + h) y(t n ) h f(t n, y(t n )) = = y (t n ) + h 2 y (t n ) + h2 6 y (t n ) + y (t n ) = = h 2 y (t n ) + O(h 2 ). Da τ n si può calcolare l errore di consistenza del metodo: τ EE = max τ n = h n 2 max y (t) = ch. (2.15) t [0,T ] Poiché τ = ch abbiamo p = 1 EE è consistente di ordine 1. Infatti, per h 0 l errore tende linearmente a 0 con h. Si esegue la stessa analisi per EI: riscritto il metodo y n+1 y n h f(t n+1, y n+1 ) = 0, si applica lo schema alla soluzione esatta per trovare l errore di troncamento locale. Poiché in questo caso t n+1 = t n + h t = t n+1, gli sviluppi saranno intorno al punto t n+1 usando la (2.11). L espressione di τ n è quindi τ n = y(t n+1) y(t n ) h f(t n+1, y(t n+1 )) = = y (t n+1 ) h 2 y (t n+1 ) + h2 6 y (t n+1 ) + y (t n+1 ) = = h 2 y (t n+1 ) + O(h 2 ) e si ottiene l errore di consistenza τ EI = max τ n = h n 2 max y (t) = ch. (2.16) t [0,T ]

23 2.2. STABILITÀ 13 Poiché τ = ch abbiamo p = 1 EI è consistente di ordine 1. Osserviamo infine il comportamento di CN; anche in questo caso si usa il metodo y n+1 y n h 1 2 [f(t n, y n ) + f(t n+1, y n+1 )] = 0 per poi applicare lo schema alla soluzione esatta e trovare τ n. Per CN si ha t n+1 = t n + h t = t n e lo sviluppo è intorno a t n usando (2.10). L espressione dell errore di consistenza è τ n = y(t n+1) y(t n ) h 1 [ y (t n ) + y (t n+1 ) ] = 2 = y (t n ) + h 2 y (t n ) + h2 6 y (t n ) + h3 4! y (t n ) y (t n ) 1 2 y (t n+1 ) = = 1 [ y (t n ) y (t n+1 ) ] + h 2 2 y (t n ) + h2 6 y (t n ) + h3 4! yiv (t n ) + Sapendo che lo sviluppo di Taylor della derivata è la prima parte si può riscrivere come y (t n+1 ) = y (t n ) + hy (t n ) + h2 2 y (t n ) + 1 [ y (t n ) y (t n+1 ) ] = 1 [ ] hy (t n ) h y (t n ) + O(h 3 ). Questo premette di ricavare l espressione del τ n : τ CN n = h2 4 y (t n ) + h2 6 y (t n ) + = h2 12 y (t n ) + O(h 3 ) e quindi dell errore di consistenza del metodo: τ CN = max n h2 12 y (t n ) = h2 max t [0,T ] y (t) 12 = ch 2. (2.17) Poiché τ = ch 2 abbiamo p = 2 CN è consistente di ordine 2; l errore tende a zero quadraticamente. 2.2 Stabilità La stabilità di un sistema è la sua sensibilità alle variazioni sui dati. Si distingue tra problemi stabili e non stabili. Un sistema è stabile se piccole perturbazioni dei dati comportano piccole variazioni del risultato; al contrario, è instabile se a piccole variazioni corrispondono forti cambiamenti. Un determinato sistema fisico può avere dei punti di stabilità e dei punti di instabilità: si veda ad esempio la Figura 2.6 per l esempio di un pendolo. Per trattare la stabilità di un problema continuo (su un

24 14 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY punto stabile punto instabile Figura 2.6: Punti di stabilità di un pendolo intervallo [0, T ]) del tipo { y (t) = f(t, y(t)) y(0) = y 0 (2.18) si esamina il corrispondente problema perturbato: { z (t) = f(t, z(t)) + δ(t) z(0) = z 0 + δ 0 (2.19) Si studia la differenza y z: se è piccola (ovvero le perturbazioni sono piccole) allora il problema è stabile. Per il caso [0, T ] limitato (T < + ) (2.18) è stabile se δ 0, δ(t) : δ 0 < ε δ(t) < ε t, ε > 0 c > 0 indipendente da ε : z y cε; (2.20) in questo caso si parla di stabilità minima. La definizione fa uso della norma del massimo o norma infinita 1 z y = max z(t) y(t). t [0,T ] Se invece l intervallo è illimitato (T = + ) è necessaria una condizione aggiuntiva: (2.18) è stabile se vale (2.20) e inoltre si ha lim z(t) y(t) = 0; (2.21) t + in questo caso si parla di stabilità asintotica o a-stabilità Stabilità minima e zero-stabilità Consideriamo il problema modello { y (t) = λy(t) y(0) = 1 (2.22)

25 2.2. STABILITÀ 15 e λt λ > 0 y 0 = 1 λ < 0 λ = 0 0 t Figura 2.7: Grafico della soluzione y(t) = e λt del problema modello definito su [0, T ] e con λ R. Questo problema ha una soluzione esatta: y(t) = e λt. Per semplificare la trattazione ipotizzo di perturbare solo la condizione iniziale y(0): { z (t) = λz(t) z(0) = 1 + δ 0 La soluzione del sistema perturbato è invece z(t) = (1 + δ 0 )e λt = y(t) + δ 0 e λt. Per studiare la stabilità si valuta (per ogni t) la differenza z(t) y(t) = δ 0 e λt = δ0 e λt Per la (2.20) abbiamo che δ 0 e λt ε e λt Per risolvere la disequazione bisogna esaminare i diversi valori di λ: caso λ = 0 z(t) y(t) ε z y ε stabilità minima con c = 1; caso λ > 0: se l intervallo è limitato il massimo di e λt si ha nel punto T z(t) y(t) e λt ε = cε stabile con c = e λt R; se invece l intervallo è illimitato non si può verificare la stabilità; caso λ < 0: il massimo di e λt vale 1 ed è nel punto 0; si ha quindi z(t) y(t) ε stabile con c = 1. In conclusione, se l intervallo è limitato il sistema è stabile λ; nel caso illimitato, invece, lo è solo per λ < 0 (il caso λ = 0 non è significativo). Quello che vogliamo è che, se il problema in continuo è stabile, lo sia anche lo schema numerico approssimato; per verificare questo si procede nel discreto in modo analogo al continuo. Per creare lo schema si discretizza { [0, T ] in N parti con passo h = T N e si trova una soluzione approssimata y(h) = y (h) } 0, y(h) 1,..., y(h) N. La soluzione { del problema perturbato invece è approssimata da z (h) = z (h) } 0, z(h) 1,..., z(h) N. Lo 1 Per maggiori informazioni sulle norme di matrice e di vettore fare riferimento all Appendice A.

26 16 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY schema si dice zero-stabile (l equivalente della stabilità minima per i sistemi discreti) se δ 0, δ 1,..., δ N ( δ k < ε) c indipendente da ε h 0 > 0: h h 0 z (h) y (h) cε (2.23) Valutiamo la stabilità dell esempio utilizzando EE (2.3): la successione del problema originale è mentre quella del problema perturbato y 0 dato, y n = y n 1 + hf(t n 1, y n 1 ) n = 1, 2,..., N z 0 = y 0 + δ 0 dato, z n = z n 1 + h [f(t n 1, z n 1 ) + δ n 1 ] n = 1, 2,..., N Si può dimostrare che in generale vale la zero-stabilità (vedi libro). Noi esaminiamo un caso semplificato: { y (t) = f(t) y(0) = y 0 definito come al solito su [0, T ]. In questo caso, le due soluzioni sono rispettivamente Esaminiamo ora la differenza y n = y n 1 + hf(t n 1 ) z n = z n 1 + hf(t n 1 ) + hδ n 1 con e n errore pari a z n y n = z n 1 y n 1 + hδ n 1 =: e n e n = e n 1 +hδ n 1 = e n 2 +hδ n 2 +hδ n 1 = = e 0 +hδ 0 +hδ 1 +hδ 2 + +hδ n 1 dove l errore iniziale è e 0 = z 0 y 0 = δ 0. Abbiamo quindi n 1 e n e 0 + h δ j ε(1 + nh) ε(1 + Nh) = ε(1 + T ) j=0 = max e n = max z n y n ε(1 + T ) n n Il problema è quindi stabile con c = 1 + T finito. La dimostrazione è analoga per EI e per CN: in entrambi i casi risulta sempre c = 1 + T come per EE. La dimostrazione del caso generale è più laboriosa, poiché comporta la presenza dei termini f(t, ) che non si cancellano: z n y n = z n 1 y n 1 + hδ n 1 + h [f(t n 1, z n 1 ) f(t n 1, y n 1 )] z n y n z n 1 y n 1 + h δ n 1 + h f(t n 1, z n 1 ) f(t n 1, y n 1 ) }{{} L z n 1 y n 1 Si ipotizza che f sia Lipshitz sul secondo argomento (l ipotesi di Lipshitz è meno forte della derivabilità), e risulta e n h δ n 1 + (1 + hl) e n 1 ; alla fine si arriva ad un esponenziale, fare riferimento al libro per i dettagli.

27 2.3. CONVERGENZA Convergenza La convergenza permette di valutare quanto i valori ottenuti con i vari schemi siano vicini ai corrispondenti valori esatti. Dato uno schema numerico approssimazione di un problema di Cauchy, questo si dice convergente se max n y n (h) y(t n ) ch p (2.24) dove p > 0 è l ordine di convergenza. Se p = 1 dimezzando il passo si dimezza l errore, se p = 2 diventa un quarto. Teorema 2.1 (di Lax). Uno schema numerico è convergente se è consistente e stabile; l ordine di convergenza p è pari all ordine di consistenza (nella norma in cui si ha la stabilità). Questo teorema è dimostrabile in generale per tutti gli schemi numerici. Nel nostro caso ne usiamo una versione più specifica Teorema 2.2. Se uno schema numerico per problemi di Cauchy è zero-stabile e consistente di ordine p lo schema è convergente di ordine p, con y y (h) ch p. Il procedimento da seguire per lo studio di un problema di Cauchy è quindi il seguente: 1. fissare lo schema; 2. studiare la consistenza e scrivere l errore di consistenza in funzione di h; 3. valutare la stabilità; 4. se ci sono (2) e (3) lo schema è buono e il teorema di Lax (Teorema 2.1) ci garantisce che convergerà alla soluzione esatta con velocità data dall ordine di convergenza p. 2.4 A-stabilità Nel caso di un intervallo illimitato è necessario studiare la a-stabilità. Esaminiamo il problema modello: { y (t) = λy(t) y(0) = 1 con t > 0 e λ = a + ib C. La sua soluzione è y(t) = e λt = e at (cos bt + i sin bt) ed il suo modulo y(t) = e at cos bt + i sin bt = e at. Verifichiamo la a-stabilità: lim y(t) = t + + a > 0 0 a < 0 1 a = 0

28 18 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY Il problema è a-stabile se Re λ < 0, e in questo caso abbiamo lim y(t) = 0. t + Uno schema è a-stabile se è zero-stabile e inoltre vale lim y n = 0 t + poiché lo schema all infinito deve comportarsi come la soluzione esatta Eulero Esplicito y 0 = 1 y n = y n 1 + hλy n 1 = (1 + hλ)y n 1 = (1 + hλ) [(1 + hλ)y n 2 ] = (1 + hλ) 2 y n 2 = = (1 + hλ) n y 0 = (1 + hλ) n per ogni n. Per vedere se il sistema è a-stabile valuto lim y n = lim 1 + n + n + hλ n = hλ < 1 caso λ R : 1 < 1 + hλ }{{}}{{} < 1 EE è condizionatamente a-stabile (h deve h< 2 vera λ essere molto piccolo quando λ è grosso); caso λ C (Re λ < 0): si ha 1 + hλ = 1 + ah + ibh = (1 + ha) 2 + h 2 b h 2 (a 2 + b 2 ) + 2ha < 1 h(a 2 + b 2 ) < 2a h λ 2 < 2 Re λ; in }{{}}{{} >0 >0 conclusione h < 2 Re λ. λ 2 Si vede chiaramente che il caso reale (λ R ) ricade nel caso complesso. Si conclude che EE è a-stabile per h: 1 + hλ < 1, cio` per h piccolo Eulero Implicito y 0 = 1 y n = y n 1 + hλy n (1 hλ)y n = y n 1 y n = y n 1 1 hλ = y n 2 (1 hλ) 2 = = y 0 (1 hλ) n = 1 (1 hλ) n lim y 1 n = n + lim n + 1 hλ n = 0 1 hλ > 1 caso λ R 1 hλ > 1 sempre vera, poiché 1 hλ > 1; caso λ C (Re λ < 0): 1 hλ = 1 ah ibh = (1 ah) 2 + ( bh) h 2 (a 2 + b 2 ) 2ah > 1 h(a 2 + b 2 ) > 2a h λ 2 > 2 Re λ; in conclusione, poichè h > 0 la disuguaglianza è sempre verificata. In conclusione EI è a-stabile h che soddisfa la disequazione 1 hλ > 1, ossia h > 0 (ricordando che Re λ < 0).

29 2.4. A-STABILITÀ Crank-Nicholson y 0 = 1 y n = y n 1 + h 2 (λy n 1 + λy n ) y n = 2 + hλ 2 hλ y n 1 = y n = y n 1 + h 2 λy n 1 + h 2 λy n (1 h ) 2 λ y n = (1 + h ) 2 λ y n 1 (2 hλ)y n = (2 + hλ)y n 1 ) 2 ( ) 2 + hλ n y n 2 = = y 0 = 2 hλ lim 2 + hλ n n + 2 hλ = 0 ( 2 + hλ 2 hλ lim y n = n + ( ) 2 + hλ n 2 hλ Questo limite è zero quando il modulo è minore di uno: 2 + hλ 2 hλ < 1 (2.25) La disequazione, riscrivibile come 2 + hλ < 2 hλ è sempre vera, sia in campo reale sia in campo complesso (ricordare che h > 0), quindi CN è a-stabile h che soddisfa la (2.25) (ricordando che Re λ < 0) Regioni di a-stabilità Si definisce una regione di a-stabilità per i sistemi continui e per i rispettivi schemi numerici A h := A := {λ C: Re λ < 0} (2.26) { hλ C: } lim n = 0 n +. (2.27) Nel caso ideale A h = A. La regioni di a-stabilità per EE, visibile in Figura 2.8, è data da A EE h = {hλ C: 1 + hλ < 1}. (2.28) Questa regione è descritta nel piano dall equazione hλ ( 1) < 1, che rappresenta un cerchio centrato in ( 1, 0) e di raggio 1. Per EI, analogamente, si ha A EI h = {hλ C: 1 hλ > 1} (2.29) che è l esterno del cerchio di centro (1, 0) e raggio 1; questa regione è visibile in Figura 2.9. Per CN, infine, l espressione della regione rappresentata in Figura 2.10 è A CN h = {hλ C: 2 + hλ < 2 hλ } (2.30)

30 20 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY Im hλ 1 0 Re hλ Figura 2.8: Regione di a-stabilità per Eulero Esplicito. Im hλ 0 1 Re hλ Figura 2.9: Regione di a-stabilità per Eulero Implicito. Im hλ Re hλ Figura 2.10: Regione di a-stabilità per Crank-Nicholson.

31 2.4. A-STABILITÀ 21 che può essere riscritta come (hλ) ( 2) }{{} < (hλ) 2 }{{} distanza di hλ da ( 2, 0) distanza di hλ da (2, 0) che di fatto è verificata da tutti i punti del semipiano negativo Re Im. La regione di CN può quindi essere scritta come A CN h = {hλ C: Re hλ < 0} A (2.31) e coincide con quella del problema continuo. Ciò significa che il problema approssimato con CN riproduce bene l originale in continuo. In effetti, dei tre metodi CN è quello che fornisce l approssimazione migliore. Gli altri due metodi invece soffrono di problemi dovuti alle loro regioni di a-stabilità: A EE h è troppo piccola, mentre A EI h è troppo grande. Esempio (Eulero esplicito). { y (t) = 10y(t) y(0) = 1 Esaminiamo il problema modello nel caso particolare di λ = 10; la soluzione è y(t) = e 10t e il sistema è a-stabile (Figura 2.11). Studiamo il problema su [0, 1] nel e 10t 1 0 t Figura 2.11: Grafico della soluzione y(t) = e 10t del problema modello nel caso di λ = 10. caso reale per semplicità di trattazione e applichiamo i diversi metodi, a partire da EE. EE è condizionatamente a-stabile, e deve essere h < 2 λ = 2 10 = 1 5. Si analizza il problema nel caso soglia h = 1 5 hλ = 2: ci troviamo sul bordo della regione di a-stabilità di EE come visibile in Figura Si applica il metodo:

32 22 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY Im hλ Re hλ Figura 2.12: Esempio di caso soglia in EE. y n = y n 1 + hf(t n 1, y n 1 ) y 0 = 1 y 1 = y ( 10y 0) = ( 10) = 1 5 y 2 = y ( 10y 1) = 1 2( 1) = 1 y 3 = y ( 10y 2) = 1 2(1) = 1 y 4 = y ( 10y 3) = 1(1 2) = 1... La regola è quindi y n = y n 1 : la soluzione oscilla tra 1 e 1 e il metodo fallisce (Figura 2.13). Osserviamo invece il comportamento con h = 2 5 > 2 λ (fuori dalla y n 1 0 t 1 Figura 2.13: Soluzione del problema modello approssimata con EE nel caso soglia.

33 2.4. A-STABILITÀ 23 regione di a-stabilità): y 0 = 1 y 1 = y ( 10y 0) = 3y 0 = 3 y 2 = y ( 10y 1) = 3y 1 = 9 y 3 = y ( 10y 2) = 3y 2 = 27 y 4 = y ( 10y 3) = 3y 3 = Anche in questo caso la soluzione oscilla, ma le oscillazioni invece di restare costanti diventano sempre più grandi (Figura 2.14). In generale Eulero Esplicito fornisce y n 0 t Figura 2.14: Soluzione del problema modello approssimata con EE oltre il caso soglia. buoni risultati solo se h è abbastanza piccolo. Questo stesso problema non presenta difficoltà con EI e CN. Esaminiamo la soluzione con EI (con h = 2 5 ): y n = y n 1 + hf(t n, y n ) y 0 = 1 La soluzione è y n = y 1 = y ( 10y 1) 5y 1 = y 0 y 1 = 1 5 y 2 = y ( 10y 2) 5y 2 = y 1 y 2 = = 1 25 y 3 = y ( 10y 3) 5y 3 = y 2 y 3 = ( 1 5 ) n che va a zero rapidamente, in modo analogo alla soluzione

34 24 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY esatta. Risolvendo con CN si ottiene una convergenza ancora più veloce: y n = y n 1 + h 2 [f(t n 1, y n 1 ) + f(t n, y n )] y 0 = 1 y 1 = y [ 10(y 1 + y 0 )] 3y 1 = y 0 y 1 = 1 3 y 2 = y [ 10(y 2 + y 1 )] 3y 2 = y 1 y 2 = 1 9 y 3 = y [ 10(y 3 + y 2 )] 3y 3 = y 2 y 3 = Esempio (Eulero implicito). { y (t) = 10y(t) y(0) = 1 In questo caso scegliamo λ = 10; la soluzione è y(t) = e 10t e il sistema è chiaramente instabile (Figura 2.15). Osserviamo il comportamento di EI. Il metodo è stabile per e 10t 1 0 t Figura 2.15: Grafico della soluzione y(t) = e 10t del problema modello nel caso di λ = 10. hλ = 10h > 2 h > 1 5 ; scegliamo h = 3 5. y 0 = 1 y 1 = y (10y 1) 5y 1 = y 0 y 1 = 1 5 y 2 = y (10y 2) 5y 2 = y 1 y 2 = 1 25 y 3 = y (10y 3) 5y 3 = y 2 y 3 = La soluzione è y n = 1 5 y n 1: produce oscillazioni sempre più piccole fino a convergere a zero (Figura 2.16), un risultato palesemente in contrasto con il comportamento della funzione. Questo metodo non va bene, poiché è troppo a-stabile e tende ad

35 2.5. RIEPILOGO 25 1 y n 0 t 1 Figura 2.16: Soluzione del problema modello approssimata con EI. andare a zero anche quando non dovrebbe. Esaminiamo anche il caso soglia h = 1 5 : y 0 = 1 y 1 = y (10y 1) y 1 = y 0 y 1 = 1 y 2 = y (10y 2) y 2 = y 1 y 2 = 1 y 3 = y (10y 3) y 3 = y 2 y 3 = 1... La soluzione è y n = y n 1 e oscilla tra 1 e 1, come nella Figura 2.13: anche in questo caso non va bene. Questo esempio non avrebbe presentato problemi per CN. 2.5 Riepilogo In Tabella 2.1 è presentato un riepilogo dei tre metodi esaminati. EE, EI e CN sono tutti metodi a un passo poiché y n è sempre funzione solo del valore precedente y n 1 e non di altri punti. Altri tipi di metodi di approssimazione per problemi di Cauchy saranno esaminati nel Capitolo 6. Dei tre metodi, CN fornisce la migliore approssimazione, ma è un metodo costoso, come tutti i metodi impliciti. Al contrario, EE è poco accurato ma costa molto poco. Un metodo è più accurato tanto più è alto il suo ordine di convergenza. In generale i metodi espliciti non sono mai a-stabili, mentre lo sono solo alcuni di quelli impliciti (noi studieremo solo metodi impliciti a-stabili). 2.6 Abbattere i costi dei metodi impliciti Idea: partire da un metodo implicito accurato e renderlo esplicito. In questo modo perdiamo sicuramente l a-stabilità, ma vogliamo mantenere l accuratezza, cioè lo stesso ordine di convergenza. Partiamo da CN: y 0 dato, y n = y n 1 + h 2 [f(t n 1, y n 1 ) + f(t n, y n )]

36 26 CAPITOLO 2. RISOLUZIONE DI PROBLEMI DI CAUCHY Tipo Metodo Consistenza Zerostabilità Convergenza A- stabilità Regione di a-stabilità EE esplicito τ = O(h) sì sì: O(h) sì se h piccolo cerchio di centro ( 1, 0) e raggio 1 EI implicito τ = O(h) sì sì: O(h) sì esterno del cerchio di centro (1, 0) e raggio 1 CN implicito τ = O(h 2 ) sì sì: O(h 2 ) sì semipiano negativo (coincide con la regione nel continuo) Tabella 2.1: Riepilogo dei metodi di approssimazione ad un passo esaminati. La parte implicita di questo metodo è data dal secondo argomento di f(t n, y n ). Per eliminarla sostituisco y n con la sua approssimazione ỹ n calcolata usando EE. Il metodo risultante è detto metodo di Heun { yn = y n 1 + h 2 [f(t n 1, y n 1 ) + f(t n, ỹ n )] ỹ n = y n 1 + hf(t n 1, y n 1 ) (2.32) In questo modo perdo sicuramente la a-stabilità, ma vorrei conservare l ordine di consistenza O(h 2 ) tipico di CN. Per verificarlo calcolo l errore di troncamento locale in ogni punto: τ n = y(t n) y(t n 1 ) h = y(t n) y(t n 1 ) h 1 2 [f (t n 1, y n 1 ) + f (t n, y n 1 + hf(t n 1, y n 1 ))] = 1 [ y (t n 1 ) + f ( t n 1 + h, y(t n 1 ) + hy (t n 1 ) )] 2 Bisogna sviluppare in serie il termine f (t n 1 + h, y(t n 1 ) + hy (t n 1 )): è necessario utilizzare gli sviluppi di Taylor per funzioni di due variabili. Cerchiamo una strada alternativa. τ n misura l errore commesso quando sostituisco alle derivate i rapporti incrementali e alle funzioni i valori in certi punti. Per CN si ha τ n = h 2 y (t n ) che è zero se y (t n ) = 0. Per poter dire che l errore è di ordine due deve quindi essere τ n = 0 per le funzioni con y = 0, ovvero i polinomi di secondo grado (y(t) P 2 ). Un metodo di ordine due integra esattamente l equazione differenziale (nei punti di suddivisione) quando la sua soluzione è quindi in P 2, ovvero è del tipo y(t) = a + bt + ct 2. Si definisce P 2 = span { 1, t, t 2} ovvero gli elementi di P 2 sono le combinazioni lineari di 1, t e t 2. Esaminiamo allora tre problemi di Cauchy derivati da polinomi in P 2 e calcoliamo i relativi τ n :

37 2.6. ABBATTERE I COSTI DEI METODI IMPLICITI 27 { y (t) = 0 y(t) = 1 è soluzione di y(0) = 1 0; { y (t) = 1 y(t) = t è soluzione di y(0) = 0 ordine 1; ; τ n = 1 1 h ; τ n = 1 2 [0 + 0] = 0 ok per ordine h {}}{ t n t n 1 h 1 2 [1 + 1] = 0 ok per y(t) = t 2 è soluzione di = h { y (t) = 2t y(0) = 0 ; τ n = t2 n t2 n 1 h 1 2 [2t n 1 + 2t n ] = {}}{ (t n t n 1 )(t n+t n+1 ) h (t n 1 + t n ) = 0 ok per ordine 2. Lo schema integra quindi esattamente 1, 1, t 2 è di ordine due. Si potrebbe verificare se sia di ordine tre calcolando l errore del problema di Cauchy con soluzione y(t) = t 3, ma è inutile: è impossibile modificare un metodo implicito di ordine due e otterne uno di ordine superiore, può solo peggiorare o restare uguale.

38

39 Capitolo 3 Interpolazione di funzioni Approssimo f(x) f(x) che deve coincidere con la f(x) in certi punti dati: f(x) f(x) : f(x i ) = f(x i ), con x 1, x 2,..., x n+1 punti dati. Ogni oggetto di questo tipo si chiama interpolatore, mentre i punti di controllo sono detti nodi di interpolazione. Un interpolatore permette di ricostruire la funzione attraverso i nodi di interpolazione (Figura 3.1). f(x) 0 a = x 1 x i b = x n+1 x Figura 3.1: Nodi interpolatori di una generica funzione. 3.1 Interpolazione polinomiale Teorema 3.1. Siano dati n+1 punti distinti x 1, x 2,..., x n+1 e n+1 valori associati f(x 1 ), f(x 2 ),..., f(x n+1 ); allora! polinomio Π n (x) di grado n : Π n (x i ) = f(x i ) con i = 1, 2,..., n + 1. Π n (x) è detto polinomio interpolatore di Lagrange per f relativo ai nodi dati; questo è un interpolatore polinomiale. Dimostrazione. Considero lo spazio dei polinomi P n = span { 1, x, x 2,..., x n} formato da n + 1 oggetti linearmente indipendenti. Per i = 1, 2,..., n + 1 si definisce un polinomio L i (x) P n : L i (x i ) = 1 L i (x j ) = 0 j i. Ad esempio, dati tre nodi x 1 = x 2 = x 3 = 1, i polinomi corrispondenti, rappresentati in Figura 3.2, sono i seguenti: 29

40 30 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI 1 L 1 L 2 L3 0 x 1 x 2 x 3 x Figura 3.2: Polinomi di Lagrange per tre nodi prefissati. L 1 (x) P 2 : L 1 (x 1 ) = 1 L 1 (x 2 ) = L 1 (x 3 ) = 0; L 2 (x) P 2 : L 2 (x 2 ) = 1 L 2 (x 1 ) = L 2 (x 3 ) = 0; L 3 (x) P 2 : L 3 (x 3 ) = 1 L 3 (x 1 ) = L 3 (x 2 ) = 0. L espressione generale degli L i (x), detti polinomi caratteristici di Lagrange, è L i (x) = n+1 j=1 j i Questi n + 1 polinomi costituiscono una base per P n : P n = span {L 1 (x), L 2 (x),..., L n+1 (x)} x x j x i x j. (3.1) Infatti, gli L i sono esattamente n+1 e ognuno di essi ha esattamente grado n: perché siano una base è sufficiente dimostrare che sono linearmente indipendenti, ovvero che vale: n+1 i=1 Supponendo per assurdo α 1 0, avremmo α i L i (x) = 0 α i 0 n+1 α 1 L 1 (x) = α j L j (x) che calcolato per x = x 1 porta ad ottenere j=2 α 1 L 1 (x 1 ) = α 2 L 2 (x 1 ) α 3 L 3 (x 1 ) α n+1 L n+1 (x 1 ). }{{}}{{}}{{}}{{} =1 x def =0 =0 =0 Si trova α 1 = 0, che è in contrasto con l ipotesi per assurdo, quindi l assunto è dimostrato. Si procede analogamente per tutti gli α n fino a dimostrare che sono tutti uguali a zero sono tutti linearmente indipendenti sono una base per P n e

41 3.1. INTERPOLAZIONE POLINOMIALE 31 possono essere quindi usati per esprimere i polinomi in sostituzione dei monomi. È quindi possibile scrivere l espressione dei polinomi di Lagrange con questa base: Π n (x) = n+1 i=1 f(x i )L i (x). (3.2) Π n (x) è sicuramente un polinomio di grado al più n; si deve verificare che valga f(x i ) nei nodi. Si trova che: Π n (x k ) = n+1 i=1 f(x i ) L i (x k ) }{{} =1 se k=i =0 se k i = f(x k ) L k (x k ) = f(x k ) }{{} =1 quindi esiste; deve anche essere unico. Supponiamo per assurdo che non lo sia: avremmo due polinomi interpolatori p(x) e q(x) per f nei nodi x 1, x 2,..., x n+1. Sarà p(x) P n con p(x i ) = f(x i ) per i = 1, 2,..., n + 1; q(x) P n con q(x i ) = f(x i ) per i = 1, 2,..., n + 1; w(x) = p(x) q(x) P n con w(x i ) = p(x i ) q(x i ) = f(x i ) f(x i ) = 0 per i = 1, 2,..., n + 1. w è quindi un polinomio di grado n che si annulla in n + 1 punti distinti è identicamente nullo. A parte la dimostrazione formale, questo è intuitivo, poiché un polinomio di primo grado con due zeri (o uno di secondo (parabola) con tre, ecc.) può essere solo una retta coincidente con l asse delle ascisse. Interpolando si commette un errore, che non sarà mai zero a meno che la funzione non sia essa stessa un polinomio. L errore si definisce come e la sua espressione è data dal seguente E(x) = f(x) Π n (x) Teorema 3.2. Data f : [a, b] R, f C (n+1) (a, b) e n + 1 nodi x 1, x 2,..., x n+1 [a, b], x [a, b] z (x) [a, b] tale che E(x) = f(x) Π n (x) = f (n+1) (z) (n + 1)! ω n+1(x) (3.3) dove ω n+1 (x) = n+1 i=1 (x x i ). (3.4) Se x = x i (ovvero è uno dei nodi interpolatori) l errore si annulla, in tutti gli altri casi vale la precedente.

42 32 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI Dimostrazione. Su t [a, b] costruisco la funzione g(t) = E(t) ω n+1 (t) E(x) ω n+1 (x) che è continua con derivate continue fino all ordine n + 1 (g(t) C (n+1) (a, b)). La derivata di ordine n + 1 è g (n+1) (t) = E (n+1) (t) E(x) ω n+1 (x) (n + 1)! = f (n+1) (t) E(x) (n + 1)! (3.5) ω n+1 (x) poiché Π (n+1) n (t) = 0 e ω (n+1) n+1 (t) = (n + 1)!. g(t) ha n + 2 zeri: per t = x 1 si ha g(x 1 ) = E(x 1 ) }{{} =0 ω n+1 (x 1 ) }{{} =0 E(x) ω n+1 (x) = 0 quindi gli zeri sono x 1, x 2,..., x n+1 (tutti i nodi). Anche x è uno zero, infatti per t = x g(x) = E(x) ω n+1 (x) E(x) ω n+1 (x) = 0. Ne consegue che g (t) avrà n + 1 zeri, g (t) n zeri e g (n+1) (t) un solo zero z (x) : g (n+1) (z) = 0. Ponendo t = z nell espressione (3.5) di g (n+1) (t) calcolata in precedenza abbiamo g (n+1) (z) = f (n+1) (z) E(x) ω n+1 (x) (n + 1)! = 0 E(x) = f (n+1) (z) (n + 1)! ω n+1(x) Quello che interessa realmente è l errore massimo: max f(x) Π n(x) = f Π n max x [a,b] f (n+1) (x) (b a) n+1 ; x [a,b] (n + 1)! le lunghezze dei diversi intervalli sono tutte maggiorate con b a ω n+1 (x) = (x x 1 ) (x x 2 ) (x x n+1 ) (b a) (b a) (b a) }{{} n+1 volte ne consegue che f Π n f (n+1) (b a) n+1. (3.6) (n + 1)! Normalmente al crescere di n l errore tende ad azzerarsi perché l approssimazione migliora. Se però i nodi sono equispaziati in certi casi va a infinito. Consideriamo ad esempio la funzione f(x) = 1 sull intervallo [ 1, 1] e le sue interpolazioni 1+x 2 polinomiali con nodi equispaziati. Si vede che, al crescere del numero di nodi, i polinomi approssimano sempre meglio la parte centrale della funzione ma tendono ad oscillare sulle code, con oscillazioni sempre più grandi (Figura 3.3). Questa analisi è dovuta a Runge.

43 3.1. INTERPOLAZIONE POLINOMIALE 33 Figura 3.3: Interpolazione polinomiale con nodi equispaziati della funzione f(x) = x 2.

44 34 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI Per evitare questi problemi si prende una suddivisione dell intervallo con dei nodi addensati agli estremi (nodi di Chebishev 1 ). Per costruire questa suddivisione si prende una semicirconferenza, la si divide in n parti uguali ognuna di lunghezza π n e si proiettano i punti di suddivisione sull asse orizzonale (Figura 3.4). Questi punti Figura 3.4: Costruzione dei nodi di Chebishev forniscono una possibile suddivisione per l intervallo [ 1, 1] e la loro espressione analitica è ( ) π ^x i = cos n i con i = 0, 1, 2,..., n. L estensione sull intervallo [a, b] è x i = a + b 2 + b a ^x i Interpolazione polinomiale a tratti Se lavoriamo con dati sperimentali però i nodi sono già fissati e non si può usare la tecnica appena vista. Per poter continuare ad utilizzare un interpolazione polinomiale in questo caso si applica l interpolazione nei diversi intervalli della funzione, utilizzando funzioni polinomiali a tratti (Figura 3.5). Dati n + 1 punti x 1, x 2,..., x n+1 f(x) 0 a = x 1 x 2 x 3 x 4 x 5 = b x Figura 3.5: Esempio di interpolazione polinomiale a tratti. che determinano n sottointervalli I 1, I 2,..., I n avremo f(x) f(x): f Ik P 1 1 Matematico russo, Chebishev è una delle possibili traslitterazioni del nome dal cirillico.

45 3.2. APPROSSIMAZIONI CON FUNZIONI SPLINES 35 con k = 1, 2,..., n e f(x i ) = f(x i ) per i = 1, 2,..., n + 1. Questo metodo è detto interpolazione di Lagrange composita polinomiale a tratti (in questo caso è una lineare a tratti ma potrebbe essere anche di ordine superiore). Anche con questo metodo commettiamo un errore, che va calcolato intervallo per intervallo con la (3.6), ricordando che in questo caso n = 1 (interpoliamo con delle rette): E(x) = f(x) f(x) max E(x) max f (x) I k 2 x I k x I k 2! max E(x) max x [a,b] x [a,b] f f f h2 2 f (x) h2 k 2! con h := max k I k lunghezza dell intervallo più lungo. Con questo metodo posso rendere l errore piccolo quanto voglio diminuendo h (Figura 3.6). È possibile f(x) h = b a h = b a 5 0 a b x Figura 3.6: Confronto di due interpolazioni polinomiali a tratti per valori diversi di h. generalizzare questo metodo per tutti i polinomi di grado genericamente s: f(x) f(x): f Ik P s f(x i ) = f(x i ) + condizioni aggiuntive f f f (s+1) h (s+1) (s + 1)! Nella pratica ci si limita solitamente ad approssimazioni lineari o al più quadratiche. 3.2 Approssimazioni con funzioni splines Data una funzione f : [a, b] R e dati n + 1 nodi x 1, x 2,..., x n+1 con n + 1 valori f(x 1 ), f(x 2 ),..., f(x n+1 ) associati, si chiama spline interpolatoria di ordine k la funzione s k (x) tale che s k Is P k s = 1, 2,..., n è tale che s k (x i ) = f(x i ) con i = 1, 2,..., n + 1, dove s k C (k 1) (a, b). Il numero di condizioni necessarie è (k + 1)n k(n 1) = n + k: le (k + 1)n servono per determinare s k in ogni intervallo,

46 36 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI mentre le k(n 1) sono per la continuità. Se k = 1 trovo l interpolazione di Lagrange composita lineare a tratti; per k = 3 invece ho una spline cubica s 3 (x) tale che s 3 (x) Is P 3, s 3 C 2 (a, b) e s 3 (x i ) = f(x i ). In questo caso il numero di condizioni necessarie è pari a n Interpolazione di Hermite Si interpolano i valori della funzione e anche quelli di alcune sue derivate; si tratta sempre di un interpolazione di tipo polinomiale. È più accurata ma anche più costosa. Consideriamo il caso di due punti x 1 e x 2 con x 1 x 2, f(x 1 ) e f(x 2 ) dati, f (x 1 ) x 1 x 2 Figura 3.7: Punti per interpolazione di Hermite e f (x 2 ) dati (Figura 3.7). Ci sono quattro condizioni da verificare (quattro dof o gradi di libertà): cerco un polinomio p(x) tale che: p(x 1 ) = f(x 1 ); p(x 2 ) = f(x 2 ); p (x 1 ) = f (x 1 ); p (x 2 ) = f (x 2 ). Se le condizioni sono linearmente indipendenti deve essere p(x) P 3. Cerco un polinomio che soddisfi le condizioni richieste: q(x) (che dovrebbe essere di terzo grado) tale che q(x 1 ) = q(x 2 ) = 0 e q (x 1 ) = q (x 2 ) = 0 q(x) = 0. Un possibile polinomio che soddisfi le condizioni sarebbe q(x) = α(x x 1 ) 2 (x x 2 ) 2 che però è di quarto grado q(x) P 3 che soddisfi le condizioni le condizioni sono linearmente indipendenti. L espressione di p(x) è complicata da scrivere. Per costruire l interpolazione di Hermite globale su n + 1 punti si devono soddisfare 2(n + 1) condizioni; il polinomio risultante sarà di grado 2(n + 1) 1 = 2n + 1. Nella pratica questa tecnica è utilizzabile solo a tratti. 3.4 Formule di quadratura interpolatorie Sono utilizzate per approssimare integrali. L espressione generale è: I f(x) dx n+1 i=1 f(x i )ω i (3.7)

47 3.4. FORMULE DI QUADRATURA INTERPOLATORIE 37 dove gli x i sono i nodi di quadratura mentre gli ω i i pesi della formula di quadratura. Sia f(x) Π n (x) polinomio interpolatore di Lagrange di grado n relativo ai nodi dati: I f(x) dx I Π n (x) dx = n+1 I i=1 f(x i )L i (x) dx = n+1 i=1 f(x i ) L i (x) dx (3.8) ω i I }{{} Gli L i (x) sono i polinomi caratteristici di Lagrange definiti in (3.1) e costituiscono i pesi ω i per le formule di quadratura di tipo interpolatorio. Approssimando in questo modo si commette un errore. Si definisce l ordine di precisione di una formula di quadratura come l ordine massimo dei polinomi integrati esattamente dalla formula. Per le formule di quadratura interpolatorie l ordine di precisione è sempre n. Questo parametro dà un indicazione di massima del comportamento della formula con funzioni polinomiali; per avere una valutazione più precisa è necessario esaminare l errore: errore = I I f(x) dx formula = f(x) Π n (x) }{{} E(x) dx I max E(x) I I [f(x) Π n (x)] dx dove E(x) è l errore di interpolazione calcolato con la (3.6). Consideriamo ora diverse formule di quadratura su I = [a, b] con f(x) Π 0 (x) Π 0 (x) = f(a) b a f(x) dx b a f(a) dx = (b a)f(a). Questo metodo, rappresentato in Figura 2.2, integra esattamente solo i polinomi di grado zero (le costanti) e ha quindi un OdP = 0. Nella pratica è utilizzato solo per costruire il metodo di Eulero Esplicito esaminato a pagina 8. Π 0 (x) = f(b) b a f(x) dx b a f(b) dx = (b a)f(b). Questo metodo integra esattamente solo i polinomi di grado zero (le costanti) e ha quindi un OdP = 0. Nella pratica è utilizzato solo per costruire il metodo di Eulero Implicito esaminato a pagina 9. Π 0 (x) = f ( ) a+b 2 b a f(x) dx b a ( ) ( ) a + b a + b f dx = (b a)f. (3.9) 2 2 Questo metodo integra esattamente non solo i polinomi di grado zero, ma anche le rette e ha quindi un OdP = 1. Infatti, come visibile in Figura 3.8, l integrale di una retta è l area del trapezio di base minore f(a), base maggiore f(b) e altezza b a; la formula esaminata (b a)f( a+b 2 è altro che l area del trapezio. Nella pratica questa formula è utilizzata per costruire il metodo di Crank-Nicholson esaminato a pagina 9. ) = (b a) f(a)+f(b) 2 quindi non

48 38 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI f(b) f( a+b 2 ) f(a) f(x) 0 a a+b b x Figura 3.8: Spiegazione della formula del punto medio (3.9). 2 Se invece si sceglie f(x) Π 1 (x) l approssimazione utilizza due nodi; scegliamo x 1 = a e x 2 = b, lavorando sempre sull intervallo I = [a, b]. Si ha: b a f(x) dx b a Π 1 (x) = f(x 1 ) x x 2 +f(x 2 ) x x 1 x 1 x }{{ 2 x } 2 x }{{ 1 } L 1 (x) L 2 (x) Π 1 (x) dx = f(a) b (x b) dx + f(b) b (x a) dx a b a b a a b a f(a) + f(b) f(x) dx (b a) 2 (3.10) Questa è la formula dell area del trapezio: la funzione integra correttamente le rette, con OdP = 1 ed è rappresentata in Figura 2.4. Se si utilizza f(x) Π 2 (x) l approssimazione fa uso di tre nodi; scegliamo x 1 = a, x 2 = a+b 2, x 3 = b. Si ottiene la formula b a f(x) dx b a 6 [ f(a) + 4f ( a + b 2 ) ] + f(b) (3.11) detta formula di Cavalieri-Simpson, che approssima la funzione integranda con delle parabole ed ha OdP = 3. Cerchiamo una metodologia per trovare esattamente l ordine di precisione di una formula di quadratura. Ricordiamo la definizione dello spazio dei polinomi: P n = span {1, x, x 2,..., x n} Se la formula integra esattamente i monomi 1, x, x 2,..., x n sarà esatta p P n OdP = n. Si costruisce una tabella analoga alla seguente: f(x) f(x) dx 1 2 x 0 x formula

49 3.4. FORMULE DI QUADRATURA INTERPOLATORIE 39 f (x) f (x) dx 2f (0) (punto medio) f ( 1) + f (1) (trapezi) 1 3 (f ( 1) + 4f (0) + f (1)) (Cavalieri-Simpson) ( ) = 2 1 x ( ) = 0 x ( ) = 2 3 x OdP = 1 OdP = 1 3 ( ) = 0 x ( ) = x 5 0 OdP = 3 Tabella 3.1: Calcolo dell ordine di precisione per alcune formule di quadratura. Per comodità si calcolano gli integrali su [ 1, 1]: se l integrazione è esatta su questo intervallo lo sarà anche su [a, b], poiché è possibile passare da uno all altro con una trasformazione. ^x [ 1, 1] T x [a, b] La trasformazione usata è composta da una traslazione β ed una dilatazione (o compressione) α: x = α^x + β per ^x = 1 si ha x = a, per ^x = 1 si ha x = b, sostituendo: { a = α + β b = α + β da cui segue l espressione analitica della trasformazione x = b a ^x + a + b 2 2. (3.12) Analogamente si definisce una nuova funzione ^f(^x): [ 1, 1] R tale che ^f(^x) = f(x), dove x = T (^x). Il calcolo dell integrale diventa quindi: b a f(x) dx = b a ^f(^x) d^x Calcolo dell errore err = [f(x) Π n (x)] dx I I max E(x) I Richiamiamo l espressione dell errore di interpolazione (3.3) dimostrata nel Teorema 3.2: x I z (x) : E(x) = f (n+1) (z) (n + 1)! n+1 i=1 (x x i ) ; questa espressione, maggiorata nell ipotesi di regolarità (punti equidistanziati), ci dà l errore massimo: f (n+1) n+1 max E(x) max x x i. I I (n + 1)! i=1

50 40 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI Per calcolare l espressione della produttoria consideriamo un intervallo I = [a, b] con quattro nodi equispaziati (Figura 3.9): sarà necessario valutare x x 1, x x 2, x a = x 1 x 2 x 3 x 4 = b Figura 3.9: Errore di interpolazione x x 3 e x x 4. Se x cade nel primo intervallo (tra x 1 e x 2 ): y(x) = (x x 1 )(x x 2 ) y (x) = 2x x 1 x 2 x = x 1 + x 2 2 Ne consegue che y ( x 1 +x 2 ) 2 = (x 2 x 1 ) 2 4. Le distanze saranno quindi: x x 1 x x 2 max y(x) = (x 2 x 1 ) 2 I 4 x x 3 2h x x 4 3h = h2 4 Se avessi n + 1 punti sarebbe x x n+1 n h. La produttoria è quindi: e l errore diventa n+1 i=1 x x i hn+1 4 err = I max E(x) I max I I (2 3 4 n) = hn+1 4 n! f (n+1) 4(n + 1) hn+1. (3.13) Esaminiamo l espressione dell errore per le diverse formule: ) punto medio: approssima f(x) f(x M ) = f con un n nodi: n + 1 = 1, ( a+b 2 ovvero x M = a+b 2 err I max f 4 h, con h = b a; in realtà la formula integra anche le rette: il calcolo dell errore utilizzando la formula generale non è corretto. Per ottenere una valutazione più accurata studiamo la formula con gli sviluppi di Taylor: f(x) = f(x M ) + (x x M )f (x M ) + (x x M) 2 f (z) 2 con z punto tra x e x M. Sostituendo lo sviluppo nell integrale si ottiene: err = [f(x) f(x M )] dx = (x x M )f (x M ) + 1 (x x M ) 2 f (z) I I 2 I }{{} =0 1 2 max f ( (x x M ) 2 f ) dx = I max I I I 24 }{{} I 2 h 2

51 3.4. FORMULE DI QUADRATURA INTERPOLATORIE 41 con h = b a = I. In questo caso l errore è zero se la derivata seconda si annulla: la formula è esatta per polinomi di primo grado (rette e costanti quindi). trapezi: n + 1 = 2, x 1 = a, x 2 = b err max f 8 h 2 ; la formula generale è sostanzialmente corretta, seguendo un procedimento analogo a quello per il punto medio si trova quella esatta: con h = b a = I. ( err I max I f ) 12 }{{} I 2 = 2err (pm) h 2 Cavalieri-Simpson: n + 1 = 3, x 1 = a, x 2 = a+b 2, x 3 = b err max f 12 h 3 ; anche qui il calcolo dell errore è sbagliato; la formula esatta è: err I max I f IV 180 h4 con h = b a 2 = I Interpolazione lineare composita Per ottenere stime migliori devo aumentare il numero di nodi, ovvero il grado dei polinomi: ciò comporta maggiori costi e possibili oscillazioni sgradite. Per ovviare al problema proviamo ad approssimare con una costante a tratti (usando la formula del punto medio). f(x) f(x) f(x) Ik = f(x k M) con I k = [x k+1 x k ] con k = 1, 2,..., n e h = max k x k+1 x k. Si ha (Figura 3.10): f(x) 0 x 1 x 2 x 3 x 4 x 5 x Figura 3.10: Interpolazione composita con il metodo del punto medio. n n n f(x) dx = f(x) dx f(x k M) dx = I k f(x k M) I k=1 I k k=1 I k k=1

52 42 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI L errore complessivo come al solito è n err = f(x) dx I k k=1 ( se in ogni I k l espressione dell errore è I k trovo: n n [f(x) Π n (x)] dx I k k=1 k=1 max I I k n I k f(x k M) k=1 ) f max Ik 24 I k 2 ne faccio la somma e }{{} [ ] f(x) f(x k M) f 24 h2 n k=1 h 2 k n dx k=1 ( f ) I k = I max I 24 h2 ( f I k max I k 24 h2 k L unico elemento modificabile è h: più punti si usano migliore diventa l approssimazione, fermo restanto che in ogni intervallo l interpolazione è sempre costante. La precisione dell approssimazione cresce quadraticamente con h; al limite, per h 0 l errore si annullerebbe e l approssimazione sarebbe uguale al valore esatto dell integrale. Anche il metodo dei trapezi può essere applicato a tratti; si ha ) f(x) f(x) f(x) Ik = Π 1 (x) usando i nodi x k e x k+1 (Figura 3.11). L errore in questo caso è f(x) 0 x 1 x 2 x 3 x 4 x 5 x Figura 3.11: Interpolazione composita con il metodo dei trapezi. n [f(x) Π 1 (x)] dx k=1 I k I max I f 12 h2 Si minimizza l errore diminuendo h quadraticamente; anche qui per h 0 l errore si annulla. Utilizzando la formula di Cavalieri-Simpson l interpolazione a tratti diventa: f(x) f(x) n [f(x) Π 2 (x)] dx k=1 I k f(x) Ik = Π 2 (x) I max I f IV 180 h4

53 3.4. FORMULE DI QUADRATURA INTERPOLATORIE 43 Per implementare su calcolatore questi tre metodi solitamente si usano delle formule più esplicite: punto medio composito: I f(x) dx n hf k=1 ( ) x k M trapezi composita: [ f(x1 ) + f(x n+1 ) f(x) dx h + 2 Cavalieri-Simpson: I I f(x) dx h Punti di Gauss [ f(x 1 ) + 2 n f(x k ) + 4 k=2 ] n f(x k ) k=2 ] n f(x k M) + f(x n+1 ) Un altro modo per migliorare l interpolazione è scegliere in modo opportuno i nodi. Se x 1, x 2,..., x n+1 sono punti di Gauss, allora l ordine di precisione è 2(n+1) 1 = 2n+1 (due volte il numero dei nodi meno uno) ed è il massimo OdP ottenibile con una formula interpolatoria. Definizione 3.1. n + 1 punti sono punti di Gauss se sono gli zeri del polinomio di Legendre di grado n + 1. Definizione 3.2. I polinomi di Legendre sono polinomi definiti su [ 1, 1] tali che: k 0 L k (x) è un polinomio di grado esattamente k e inoltre: k= L k(x)l s(x) dx = 0 con s = 0, 1, 2,..., k 1 L k(x)l k(x) dx = 1 (ad esempio) (3.14) (3.15) La prima condizione impone l ortogonalità del prodotto scalare e può essere scritta come (L k, L s) = 0 per ogni s < k. Proviamo a costruire alcuni di questi polinomi: k = 0 L 0 (x) = cost individuato solo dalla (3.15): 1 ( L 0(x) 2) dx = 2(cost) 2 = 1 trovo il valore di cost 1 k = 1 L 1 (x) = αx + β uso la (3.14) e il valore di L 0 trovato al punto precedente: 0 = 1 1 (L 1(x)L 0(x)) dx = 1 Per trovare il valore di α devo usare la (3.15). 1 (αx + β) dx = 2β β = 0 L 1(x) = αx

54 44 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI k = L 2 (x) = a 0 + a 1 x + a 2 x 2 la (3.14) determina due condizioni: (L 2(x)L 0(x)) dx = 0 (L 2(x)L 1(x)) dx = 0 Si ha quindi L 2 (x) = a ( a 0 + a 1 x + a 2 x 2) dx = 0 a 0 = 1 3 a 2 ( a 0 + a 1 x + a 2 x 2) x dx = a 1 = 0 a 1 = 0 ( ) x ; per trovare il valore di a 2 si usa la (3.15). Si può dimostrare che questi polinomi costituiscono una base per P n : P n = span{1, x, x 2,..., x n+1 } = }{{} n + 1 monomi A questo proposito si veda il seguente = span{ L 0 (x), L 1 (x), L 2 (x),..., L n (x) } = }{{} n + 1 polinomi caratteristici di Lagrange = span{l 0(x), L 1(x), L 2(x),..., L }{{ n(x) }. } n + 1 polinomi di Legendre Teorema 3.3. {L 0 (x), L 1 (x), L 2 (x),..., L n(x)} sono una base per P n. Dimostrazione. I polinomi sono n + 1 oggetti, quindi basta dimostrare che sono linearmente indipendenti. In particolare, deve valere n i=0 α i L i (x) = 0 α i 0 i; il lato è ovvio, quello va dimostrato. Supponiamo per assurdo che α 0 0: avremo allora α 0 L 0 (x) = n i=1 α i L i (x). Moltiplicando per L 0 (x) e integrando troviamo: 1 n 1 α 0 (L 0(x)) 2 dx = α i L i (x)l 0(x) dx 1 }{{} = α 0 x def (3.15) } i=1 1 {{ } = 0 x def (3.14) da cui segue α 0 = 0 che contraddice l ipotesi. Si trova analogamente che α i = 0 i dimostrando quindi il teorema. Il teorema appena dimostrato ha un importante Corollario L k (x)p s(x) dx = 0 per tutti i polinomi di grado s < k. Dimostrazione. Dal teorema precedente discende che tutti i polinomi possono essere espressi come p n (x) = n i=0 β i L i (x). Si ha quindi: 1 1 L k (x)p s(x) dx = 1 1 L k (x) [ s r=0 β r L r(x)] dx = s r=0 β 1 r 1 L k (x)l r(x) dx. Questo integrale è zero per la definizione (3.14) (se s < k, vero per ipotesi). Proviamo ora a calcolare gli zeri di alcuni polinomi di Legendre sull intervallo di comodo [ 1, 1]: L 0 (x) = c ha zero radici; L 1 (x) = αx ha uno zero in x = 0; ) L 2 (x (x) = β ha due radici x = ± 1 3.

55 3.4. FORMULE DI QUADRATURA INTERPOLATORIE 45 Per passare da ^x [ 1, 1] ad un punto in un generico intervallo x [a, b] si utilizza una trasformazione geometrica x = b a ^x + a + b 2 2 Applicando la trasformazioni ai risultati precedenti troviamo: ^x = 0 x = a+b 2 che è il punto medio dell intervallo; ^x 1 = 1 3 x 1 = 1 ^x 2 = 1 3 b a 2 + a+b 2 3 x 2 = 1 3 b a 2 + a+b 2 In effetti il numero di radici di un polinomio di Legendre è regolato dal seguente Teorema 3.4. Il polinomio di Legendre L n(x) ha n radici distinte in ] 1, 1[. Dimostrazione. Poiché 1 1 L n(x) dx = 1 1 L n(x) 1 }{{} P 0 dx = 0 per il Corollario 3.3.1, tutti i polinomi di Legendre sono a media nulla e quindi tagliano l asse delle ascisse almeno una volta hanno almeno una radice. Dimostriamo ora che non possono avere meno di n radici. Supponiamo per assurdo che L n(x) abbia s radici, con s < n. Siano t 1, t 2,..., t s tali radici, avremo: s L n(x) = (x t i )p n s (x) i=1 dove la produttoria è un polinomio di grado s e p n s (x) 0. Calcoliamo l integrale 1 s L n(x) (x t i ) dx, 1 i=1 che è uguale a zero per definizione; sostituendo L n(x) nell integrale con quanto calcolato in precedenza si trova: ( 1 s 1 2 (x t i )) p n s (x) dx; i=1 questo integrale è diverso da zero, poiché ( s i=1 (x t i )) 2 non è un polinomio di Legendre è una contraddizione deve essere s = n. Ora è necessario dimostrare che le radici siano distinte (potrebbero esserci radici multiple). Sia per assurdo t 1 radice doppia; allora L n(x) = (x t 1 ) 2 p n 2 (x) con p n 2 (x) 0. Calcoliamo 1 1 L n(x)p n 2 (x) dx = 0 per definizione; sostituendo L n(x) nell integrale con quanto calcolato in precedenza si trova: 1 (x t 1 ) 2 (p n 2 (x)) 2 dx > 0 1

56 46 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI che è una contraddizione t 1 non può essere una radice doppia. Si dimostra analogamente lo stesso (sebbene con qualche complicazione aggiuntiva) per tutte le radici multiple le n radici sono distinte. Infine, bisogna dimostrare che gli estremi 1 e 1 non sono radici. Supponiamo per assurdo che 1 sia una radice; avremmo allora con p n 1 (x) 0. Calcoliamo: L n(x) = (x + 1)p n 1 (x) 1 1 L n(x)p n 1 (x) dx = 0 per definizione; sostituendo L n(x) nell integrale con quanto calcolato in precedenza si trova: 1 (x + 1) (p n 1 (x)) 2 dx > 0 1 che è una contraddizione 1 non è una radice. Si procede analogamente per 1 gli estremi non sono radici. Queste n radici distinte interne a ] 1, 1[ sono i punti di Gauss della Definizione 3.1. I punti di Gauss permettono di costruire formule di quadratura interpolatorie di grado massimo, come enunciato dal seguente Teorema 3.5. Sia f : [a, b] R integrabile. Si consideri la formula di quadratura interpolatoria b a f(x) dx b a Π n (x) dx = n+1 i=1 b n+1 f(x i ) L i (x) dx =: a i=1 f(x i )ω i. Se gli n + 1 nodi della formula sono punti di Gauss allora l ordine di precisione della formula è pari a 2(n + 1) 1 = 2n + 1 (due volte il numero di nodi meno uno); questo è l ordine massimo ottenibile con una formula di quadratura interpolatoria. Dimostrazione. Sappiamo per costruzione che err = b a n+1 f(x) dx f(x i )ω i = 0 f P n, poiché se f è un polinomio di grado n coincide col suo polinomio interpolatore di grado n. Vogliamo dimostrare che ciò è vero anche f P 2n+1. Sia f P 2n+1 : i=1 n+1 f(x) = p n (x) + q n (x) (x x i ) dove la produttoria è un polinomio di grado n + 1. Osservo che f(x i ) = p n (x i ) per i=1

57 3.5. FORMULE DI QUADRATURA IN DUE DIMENSIONI 47 i = 1, 2,..., n + 1. Sostituendo f nell errore si ha err = b a b n+1 p n (x) dx + q n (x) a b i=1 (x x i ) dx n+1 n+1 = i=1 p n (x i )ω i + q n (x) (x x i ) dx a i=1 b n+1 = q n (x) (x x i ) dx a i=1 }{{} L n+1 (x) n+1 f(x i )ω i = i=1 n+1 i=1 f(x i )ω i = Gli x i, essendo punti di Gauss, sono le radici del polinomio di Legendre di grado n + 1; questo polinomio è integrato tra contro un polinomio di grado n è zero per definizione err = 0 f P 2n+1. Resta da dimostrare che 2n+1 è l ordine massimo ottenibile. Supponiamo per assurdo che l ordine sia m > 2n+1 err = 0 f P m : se f P m sarà err = b a n+1 f(x) dx f(x i )ω i = 0 i=1 n+1 f(x) = p m (x) + (x x i )q m (n+1) (x) con f(x i ) = p m (x i ) per i = 1, 2,..., n + 1. Sostituendo f nell errore si ha b err = a p m (x) dx + = b n+1 a i=1 b n+1 a i=1 i=1 (x x i )q m (n+1) (x) dx n+1 (x x i )q m (n+1) (x) dx f(x i )ω i = i=1 che è l integrale di un polinomio di Legendre di grado n + 1 contro un polinomio di grado m (n+1) = m n 1 > n (m è almeno 2n+1) non vale l ortogonalità. Dei metodi esaminati in precedenza, solo il punto medio può essere un metodo di Gauss, poiché oltre alle costanti approssima correttamente anche le rette. I metodi dei trapezi e di Cavalieri-Simpson, invece, non possono essere metodi di Gauss poiché utilizzano gli estremi dell intervallo, che non possono essere punti di Gauss. 3.5 Formule di quadratura in due dimensioni Permettono di calcolare integrali del tipo f(x, y) dxdy T dove T è un dominio triangolare come quello di Figura Le formule principali sono tre:

58 48 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI (x M 2, y M 2 ) (x 2, y 2 ) T (x M 1, y M 1 ) (x 1, y 1 ) (x 0, y 0 ) (x M 0, y M 0 ) Figura 3.12: Dominio triangolare di integrazione. formula del baricentro (estensione della formula del punto medio in due dimensioni): f(x, y) dxdy T f(x B, y B ) (3.16) T con (x B, y B ) baricentro del dominio di coordinate ( ) x0 +x 1 +x 2 3, y 0+y 1 +y 2 3 ; formula dei vertici (estensione della formula dei trapezi in due dimensioni): T f(x, y) dxdy T 3 2 f(x i, y i ); (3.17) i=0 formula dei punti medi T f(x, y) dxdy T 3 con (x M i, y M i ) punti medi dei lati. 2 f(x M i, yi M ) (3.18) i=0 Le prime due formule sono esatte su P 1, la terza su P 2. Per verificare questa affermazione utilizziamo un dominio di comodo e ci riportiamo al caso generale con una trasformazione geometrica (Figura 3.13). x = A^x + b [ ] [ ] ] x a11 a = 12 [^x + y a 21 a 22 ^y [ ] b1 b 2 1. (0, 0) (x 0, y 0 ) 2. (1, 0) (x 1, y 1 ) { b1 = x 0 b 2 = y 0 [ ] x = y [ a11 a 12 a 21 a 22 ] [ ] [ ] x0 y 0 { a11 = x 1 x 0 a 21 = y 1 y 0

59 3.6. FORMULE DI QUADRATURA ADATTIVE 49 (0, 1) F (x 2, y 2 ) ^T T (x 1, y 1 ) (0, 0) (1, 0) (x 0, y 0 ) Figura 3.13: Trasformazione geometria del dominio triangolare. 3. (0, 1) (x 2, y 2 ) [ ] x = y [ x1 x 0 a 12 y 1 y 0 a 22 ] [ ] In conclusione, l espressione della trasformazione F è [ ] [ ] ] x x1 x = 0 x 2 x 0 [^x + y y 1 y 0 y 2 y 0 ^y ^T 0 1 [ ] x0 y 0 [ ] x0 y 0 { a12 = x 2 x 0 a 22 = y 2 y 0 dove il determinante della matrice A è det A = 2 T. Per verificare l ordine di precisione delle formule calcoliamo esattamente gli integrali per i monomi fino al secondo grado sul domino di comodo: 1 d^xd^y = ^T = 1 ^T ^x 1 ^x d^xd^y = ^x d^x d^y = ^T ^T ^T ^T ^y d^xd^y = ^x 2 d^xd^y = ^x^y d^xd^y = ^y 2 d^xd^y = d^x 0 1 ^x ^x 2 d^x ^x d^x d^x 0 1 ^x 0 1 ^x 0 1 ^x 0 ^y d^y = d^y = ^y d^y = ^y 2 d^y = ^x (1 ^x) d^x = 1 6 (1 ^x) 2 d^x = ^x 2 (1 ^x) d^x = 1 12 (1 ^x)2 ^x 2 d^x = 1 24 (1 ^x) 3 d^x = In Tabella 3.2 sono confrontati i valori esatti con le approssimazioni delle diverse formule. 3.6 Formule di quadratura adattive Se uso una formula composita su una funzione come quella di Figura 3.14 normalmente non approssimo bene la prima parte. Dovrei utilizzare una suddivisione uniforme molto più fitta: in questo modo l approssimazione sarebbe sicuramente accurata, ma con un significativo spreco di risorse, poiché la seconda parte della funzione è praticamente lineare. La soluzione è utilizzare una suddivisione non

60 50 CAPITOLO 3. INTERPOLAZIONE DI FUNZIONI f (^x) ^x 6 1 ^y 6 ^x 2 1 ^T f (^x) d^x baricentro vertici punti medi ^x^y 24 OdP = 1 OdP = 1 ^y ^T 3 ( ) = 1 2 ^T 3 ( ) = 1 6 ^T 3 ( ) = ( ) = 1 ^T ^T 12 3 ( ) = 1 24 ^T 3 ( ) = 1 12 Tabella 3.2: Calcolo dell ordine di precisione per alcune formule di quadratura a due dimensioni. f(x) 0 a b x Figura 3.14: Una funzione che necessita di interpolazione adattiva uniforme, molto più fitta nella prima parte che nella seconda. Poiché in generale non conosco come è fatta la funzione è necessario utilizzare una formula adattiva che alteri il passo di discretizzazione in funzione di diversi parametri. Lo scopo è ottenere un errore finale piccolo; poiché non posso calcolare a priori il valore di questo errore, devo stimarlo a partire dai valori trovati con le formule di quadratura tradizionali. Analizziamo la costruzione di una formula adattiva a partire dalla formula di Cavalieri-Simpson. Dato un generico intervallo di suddivisione [α, β] di lunghezza h 1 α h 2 h 2 β Figura 3.15: Suddivisione dell intervallo per le formule adattive h 1 (Figura 3.15), si esamina il valore S 1 di CS e lo si confronta con il valore esatto I = β α f(x) dx. Se l approssimazione è soddisfacente si passa all intervallo successivo,

61 3.6. FORMULE DI QUADRATURA ADATTIVE 51 altrimenti infittisco ulteriormente. Il valore dell errore sull intervallo [α, β] è err 1 = I S 1 = (h 1/2) 5 f IV (z) 90 con z ]α, β[. Dividendo l intervallo ottengo due sottointervalli di lunghezza h 2 = h 1 2 su cui applico nuovamente CS; ottengo una nuova soluzione S 2 di cui valuto l errore err 2 = I S 2 = (h 2/2) 5 90 [ ] f IV (z 1 ) + f IV (z 2 ) con z 1 ]α, α+β 2 [ e z 2 ] α+β 2, β[. Ipotizzando che in [α, β] la derivata quarta varii poco, il suo valore in z 1 e z 2 sarà quasi uguale. Avremo err 2 1 h f IV (z) = 1 16 Per stimare il valore effettivo dell errore calcolo (h 1 /2) 5 f IV (z). 90 err 1 err 2 = I S 1 I + S 2 = S 2 S 1 15 (h 1 /2) 5 f IV (z) 15err da cui segue immediatamente che err 2 S 2 S Passando ai moduli: err S 2 S 1 Per minimizzare l errore devo quindi minimizzare la differenza S 2 S 1. Per ogni intervallo, se vale S 2 S 1 10 ε l approssimazione trovata va bene, altrimenti suddivido ulteriormente l intervallo e calcolo CS su h 3. In generale, se si vuole che l errore sia minore di ε dovrà valere per ogni intervallo una condizione del tipo: S 2 S 1 10 ε β α b a.

62

63 Capitolo 4 Radici di equazioni non lineari Data una funzione f : [a, b] R, f C 0 [a, b], si cerca α C : f(α) = 0. Si cercano quindi le radici dell equazione f(x) = 0 in [a, b], con f che in generale è una funzione non lineare. Tutti i metodi di approssimazione per calcolare le radici sono metodi iterativi. Dato un valore iniziale x 0, si costruisce una successione {x k } con k > 0 tale che lim k x k = α. Si dice che un metodo ha ordine di convergenza p se c > 0 tale che x k+1 α x k α p c, k k 0 (tutto questo se la successione converge). Si noti che se p = 1 deve essere per forza c < 1 perché l errore si riduca da una iterazione alla successiva. In generale, si suddivide [a, b] in tanti intervalli in modo che in ognuno cada sempre una sola radice. Tutti i metodi che esamineremo sono validi nell ipotesi che f soddisfi il noto Teorema 4.1 (degli zeri). f : [a, b] R, f C 0 [a, b] : f(a)f(b) < 0 almeno un α ]a, b[ : f(α) = Metodo di bisezione Primo passo: a 1 = a, b 1 = b, x 1 = a 1+b 1 2. Per k 1 valuto f(a 1 )f(x 1 ) < 0 { ak+1 = a 1 b k+1 = x 1 ; f(x 1 )f(b 1 ) < 0 { ak+1 = x 1 b k+1 = b 1. Al passo k il valore successivo è x k+1 = a k+1 + b k+1. 2 La procedura per due iterazioni è illustrata in Figura 4.1. Se uno dei due prodotti risultasse esattamente zero abbiamo trovato la radice esatta e l algoritmo termina. 53

64 54 CAPITOLO 4. RADICI DI EQUAZIONI NON LINEARI f(x) a 0 x 1 αx 2 b x Figura 4.1: Applicazione del metodo di bisezione In generale il test d arresto utilizzato termina l algoritmo se b k+1 a k+1 < ε. Valutiamo la maggiorazione dell errore: x 1 α b a 2 x 2 α b 2 a 2 2. x k α b k a k 2 = b a 2 2 = b a 2 k Questo metodo converge sicuramente; non si parla di ordine di convergenza in questo caso poiché ad ogni iterazione l errore può essere arbitrariamente piccolo o grande. Perché l errore sia minore di ε deve essere: b a 2 k < ε 2 k > b a k > log ε 2 (b a) log 2 ε = c log 2 ε. Valutiamo l errore in alcuni casi: per ε = 10 1 si ha log 2 ε = log , 3 quindi k > c + 3, 3; per ε = 10 2 si ha log 2 ε = 2 log , 3 quindi k > c + 2 3, 3. Per migliorare l errore di una cifra decimale servono quindi quattro iterazioni. Questo metodo è piuttosto lento ma ha la garanzia di funzionare sempre. Inoltre, costa estremamente poco, poiché l unica operazione significativa da eseguire ad ogni iterazione è un confronto di segni. 4.2 Metodi basati su valori di f e/o di f x 0 dato, {x k } con k 1. Si linearizza f intorno al generico x k per trovare il punto successivo. Vicino a x k si approssima f(x) f(x k ) + q k (x x k ) = 0 (ci si riporta al

65 4.2. METODI BASATI SU VALORI DI F E/O DI F 55 caso della retta che interseca l asse delle ascisse) e il generico valore della successione è x k+1 = x k f(x k) q k Metodo delle corde Approssimo con la retta passante per i punti (a, f(a)) e (b, f(b)): y f(a) = f(b) f(a) (x a) b a }{{} q Per questo metodo q k = q per tutti i valori di k. Il valore iniziale è x 0 dato (x 0 = a f(x) a x 2 α 0 x 1 b x Figura 4.2: Applicazione del metodo delle corde. o x 0 = b) e x k+1 = x k b a f(b) f(a) f(x k). (4.1) La procedura per due iterazioni è illustrata in Figura 4.2. Questo metodo non funziona sempre: se f presenta dei massimi o dei minimi si rischia di finire fuori dall intervallo (Figura 4.3). Quando funziona ha ordine di convergenza p = Metodo delle secanti Si parte da due punti x 1 e x 0 in cui f ha segno diverso (solitamente gli estremi dell intervallo). Per ogni k si trova la retta passante per (x k 1, f(x k 1 )) e (x k, f(x k )): Dati x 1 = a e x 0 = b, si ha y f(x k 1 ) = f(x k) f(x k 1 ) (x x k 1 ). x k x k 1 }{{} q k

66 56 CAPITOLO 4. RADICI DI EQUAZIONI NON LINEARI f(x) x 2 α 0 a x 1 b x Figura 4.3: Un esempio in cui il metodo delle corde fallisce. f(x) a x 2 x 3 0 x 1 α b x Figura 4.4: Applicazione del metodo delle secanti.

67 4.2. METODI BASATI SU VALORI DI F E/O DI F 57 x k+1 = x k x k x k 1 f(x k ) f(x k 1 ) f(x k) (4.2) per k = 0, 1, 2,.... La procedura per tre iterazioni è illustrata in Figura 4.4. Come per il metodo precedente, se f presenta dei massimi o dei minimi il metodo potrebbe non funzionare; quando converge si ha p 1, Metodo di Newton o delle tangenti x 0 dato, {x k } con k 1. Si trovano le rette passanti per (x k, f(x k )) tangenti alla curva: y = f(x k ) + f (x k )(x x k ). }{{} q k Dato x 0 (x 0 = a o x 0 = b), si ha x k+1 = x k f(x k) f (x k ) (4.3) per k = 0, 1, 2,.... La procedura per due iterazioni è illustrata in Figura 4.5. Questo metodo è il più rapido, con ordine p = 2, ma richiede delle ipotesi aggiuntive sulla funzione per assicurare la convergenza; nell esempio in figura, funziona solo ponendo x 0 = b. Se si parte da un x 0 punto di Fourier (tale che f(x 0 )f (x 0 ) > 0) allora la f(x) a α 0 x 2 x 1 b x Figura 4.5: Applicazione del metodo di Newton. convergenza è garantita. Non è detto che partendo da un altro x 0 le cose vadano male, ma un punto di Fourier assicura che il metodo convergerà con successo, come enunciato dal seguente Teorema 4.2 (della convergenza di Netwon). Sia f : [a, b] R tale che: f C 2 [a, b] (4.4) f(a)f(b) < 0 (4.5) f (x) 0 x [a, b] (4.6) f (x) 0 x [a, b] (4.7)

68 58 CAPITOLO 4. RADICI DI EQUAZIONI NON LINEARI e sia x 0 un punto di Fourier (f(x 0 )f (x 0 ) > 0). Allora la successione di Newton x k = x k 1 f(x k 1) f (x k 1 ) k = 1, 2, 3,... (4.8) converge all unica radice α dell equazione f(x) = 0 (f(α) = 0). Inoltre, l ordine di convergenza è 2, cioè M > 0 : x k α x k 1 α 2 M (4.9) Dimostrazione. Le ipotesi (4.4) e (4.5) esistenza di almeno una radice; (4.6) unicità della radice α. Per dimostrare la convergenza ad α della (4.8) supponiamo, ad esempio, che f(a) < 0 e f(b) > 0, e quindi f (x) > 0 x e inoltre f (x) > 0 x. Si ha quindi la situazione raffiguata in Figura 4.6. I punti di Fourier sono tutti i punti f(x) a α 0 x 1 b x Figura 4.6: Dimostrazione del teorema della convergenza di Newton (Teorema 4.2). di [α, b]. Scegliamo x 0 = b. Dimostreremo che (4.8) è una successione monotona descrescente inferiormente limitata (e quindi ammette limite). Per k = 1 si ha x 1 = x 0 f(x 0) f (x 0 ). Poiché f(x 0 ) > 0 e f (x 0 ) > 0 x 1 < x 0. Inoltre, f > 0 la tangente alla curva in (x 0, f(x 0 )) sta sotto la curva. Quindi taglia l asse delle x prima della curva α < x 1 < x 0. Si vede immediatamente che, k, se x k sta a destra di α (f(x k ) > 0) il successivo x k+1 < x k e poiché f > 0, anche x k+1 > α k α < x k+1 < x k < < x 0. Allora la successione (4.8) ammette limite: η [a, b] : lim k x k = η Passando al limite in (4.8) e usando l ipotesi (4.4) si ha: η = η f(η) f f(η) = 0. (η)

69 4.2. METODI BASATI SU VALORI DI F E/O DI F 59 L unicità della radice implica η α. Dimostriamo ora che la convergenza è quadratica: 0 = f(α) = f(x k ) + f (x k )(α x k ) + f (z) (α x k ) 2 2 con z tra α e x k. Dividendo per f (x k ) si ha: che porta quindi ad ottenere ( k): α x k + f(x k) f = 1 (x k ) 2 (α x k) 2 f (z) f (x k ) }{{} α x k+1 α x k+1 α x k 2 = 1 f (z) 2 f (x k ) M con M = 1 2 max [a,b] f min [a,b] f. Il punto di partenza x 0 è cruciale per la buona convergenza del metodo di Netwon. Come si sceglie x 0 quando non è possibile (o è complicato) verificare le ipotesi del teorema? L errore è dato da α x k+1 M α x k 2 e k+1 M e k 2 ; analizzando il suo comportamento si ha: e 0 = x 0 α e 1 = x 1 α M e 0 2 e 2 = x 2 α M e 1 2 M Me M 3 e 0 4. e k = x k α M e k 1 2 (M e 0 ) 2k Poiché si vuole e k 0 deve essere necessariamente M M e 0 < 1; (4.10) nella pratica, è sufficiente che x 0 sia abbastanza vicino ad α Test d arresto I metodi esaminati proseguono all infinito. È necessaria una condizione per decidere quando fermarsi e considerare il risultato ottenuto abbastanza buono. Generalmente si usano i seguenti test: 1. Test sulle iterate successive: ad ogni iterazione valuto x k+1 x k a < ε; (4.11) se è vero, passo al test 2. Questo test è efficace se f (α) < 1 (f è abbastanza piatta). Il termine a denominatore serve per rendere la differenza un numero puro e poterla quindi confrontare con ε;

70 60 CAPITOLO 4. RADICI DI EQUAZIONI NON LINEARI 2. Test sul residuo: ad ogni iterazione valuto f(x k+1 ) f(a) < ε (4.12) se è vero mi fermo. Questo test lavora bene per f ripide, con f (α) > Radici di un sistema di equazioni non lineari È dato il sistema F(x) = 0, con x D R n : f 1 (x 1, x 2,..., x n ) = 0 f 2 (x 1, x 2,..., x n ) = 0. f n (x 1, x 2,..., x n ) = 0 Usiamo il metodo di Newton per risolverlo. Nel caso scalare, abbiamo: f(x) = 0 k f(x) f(x k ) + f (x k )(x x k ) = 0. Analogamente per un sistema: x (0) dato k F(x) F(x (k) ) + J F [x (k) ] ( x x (k)) = 0 dove J F [x (k) ] è la matrice Jacobiana calcolata in x(k) : ( f 1 x 1 x (k)) f 1 x 2 (x (k)) ( f 1 x n x (k)) ( f J F [x (k) ] = 2 x 1 x (k)) f 2 x 2 (x (k)) ( f 2 x n x (k))..... (. f n x 1 x (k)) f n x 2 (x (k)) ( f n x n x (k)) L algoritmo di Netwon per sistemi non lineari si scrive così: x (0) dato J F [x (k) ] δx = F (x (k)) k = 0, 1, 2,... x (k+1) = x (k) + δx (4.13) Ad ogni iterazione, si deve risolvere un sistema di equazioni lineari con matrice Jacobiana che cambia ad ogni iterazione (costoso!). I test d arresto utilizzati sono analoghi a quelli del caso scalare e utilizzano una qualche norma di vettore: 1. sulle iterate: x (k) x (k 1) x (0) < ε (4.14) 2. sul residuo: ( F x (k)) F ( x (0)) < ε (4.15)

71 Capitolo 5 Risoluzione di sistemi lineari Dati un vettore b R n e una matrice A R n n si cerca x R n tale che Ax = b. La condizione necessaria e sufficiente perché questo sistema abbia un unica soluzione è che la matrice A sia non singolare, ovvero che det A 0. È equivalente imporre che A sia invertibile, ovvero che A 1 A 1 A = I = AA 1 ; in tal caso è possibile trovare la soluzione del sistema con carta e penna moltiplicando per A 1 : A 1 Ax = A 1 b x = A 1 b. Il calcolo di A 1 in generale è molto costoso, e questa procedura non è di fatto praticabile. Vogliamo valutare i costi della risoluzione del sistema usando un metodo numerico su calcolatore e l accuratezza del risultato ottenuto rispetto alla soluzione esatta. Esaminiamo il problema con alcune matrici particolari. Matrice A diagonale d d A = 0 0 d d nn con det A = d 11 d 22 d nn 0 d ii 0 i. Il sistema si riduce quindi a n equazioni indipendenti tra loro: con la generica soluzione x 1 = b 1 d 11 x 2 = b 2 d 22. x n = bn d nn (5.1) x k = b k d kk (5.2) Per calcolare ogni soluzione devo fare una divisione: il costo totale è di n ops (molto basso). 61

72 62 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Matrice A triangolare inferiore l l 21 l A = l 31 l 32 l l n1 l n2 l n3 l nn con determinante dato da det A = l 11 l 22 l nn 0 l ii 0 i. Per risolvere il sistema si parte dalla prima equazione: con generico termine x 1 = b 1 l 11 x 2 = b 2 l 21 x 1 l 22 x 3 = b 3 l 31 x 1 l 32 x 2 l 33. x n = bn n 1 j=1 l njx j l nn (5.3) x k = b k k 1 j=1 l kjx j l kk, k = 1, 2,, n. (5.4) Il costo totale è n = n(n+1) 2 di ordine O(n 2 ). Matrice A triangolare superiore u 11 u 12 u 13 u 1n 0 u 22 u 23 u 2n A = 0 0 u 33 u 3n u nn Si procede analogamente al caso precedente ma partendo dall ultima equazione: con generico termine x 1 = b n 1 j=2 u 1jx j u 11 x 2 = b n 2 j=3 u 2jx j u 22. x n 1 = b n 1 u n 1,n x n u n 1,n 1 x n = bn u nn (5.5) x k = b k n j=k+1 u kj x j u kk, k = n, n 1,, 1. (5.6) Il costo totale è come il precedente: n(n+1) 2 di ordine O(n 2 ).

73 5.1. METODI DIRETTI 63 Per matrici A generiche si potrebbe usare il metodo di Cramer che permette di trovare la soluzione esatta. Le soluzioni del sistema sono gli x i = det A i det A dove A i è la matrice A con il vettore dei termini noti al posto della colonna i: b 1 a ij b 2 a ij A i =. b }{{} n Calcolare un singolo determinante è un operazione di costo O(n!); in questo caso devo calcolarne n + 1, quindi il costo totale è n!(n + 1) = (n + 1)!. Se ad esempio n = 20 (un sistema di venti equazioni in venti incognite, quindi piuttosto piccolo), il costo con questo metodo è 21! ops ops. Un calcolatore di media potenza esegue 10 9 flops; il tempo richiesto per ottenere il risultato è quindi i t = ops 10 9 flops = s pari a 1585 anni. Usando un calcolatore più potente, in grado di eseguire flops, si arriva ad una soluzione in soli 1,5 anni, un tempo comunque troppo grande. 5.1 Metodi diretti I metodi diretti permettono di arrivare con un numero finito di passi ad una soluzione finale esatta (se si lavora in aritmetica esatta). I metodi indiretti o metodi iterativi, al contrario, raggiungono la soluzione solo come limite di una successione Metodo di eliminazione di Gauss Sviluppiamo la trattazione con una matrice A R 3 3 per semplicità; i risultati sono ovviamente validi in generale. Si vuole risolvere il seguente sistema: Per risolvere il sistema si procede per passi: a 11 a 12 a 13 x 1 b 1 a 21 a 22 a 23 x 2 = b 2 (5.7) a 31 a 32 a 33 x 3 b 3 1. si elimina x 1 da tutte le equazioni tranne la prima, calcolando: II eq I eq III eq I eq ( ) a21 a ( 11 ) a31 a 11

74 64 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Il sistema risultante diventa espresso in forma matriciale: a 11 x 1 + a 12 x 2 + a 13 x 3 = b 1 0 x 1 + a (1) 22 x 2 + a (1) 23 x 3 = b (1) 2 0 x 1 + a (1) 32 x 2 + a (1) 33 x 3 = b (1) 3 a 11 a 12 a 13 0 a (1) 22 a (1) x b x 2 = b (1) 0 a (1) 32 a (1) 2 x 33 3 b (1) 3 (5.8) 2. si elimina x 2 da tutte le restanti equazioni tranne la seconda, calcolando Il sistema risultante diventa espresso in forma matriciale: III eq II eq ( ) (1) a 32 a (1) 22 a 11 x 1 + a 12 x 2 + a 13 x 3 = b 1 0 x 1 + a (1) 22 x 2 + a (1) 23 x 3 = b (1) 2 0 x x 2 + a (2) 33 x 3 = b (2) 3 a 11 a 12 a 13 0 a (1) 22 a (1) x b x 2 = b (1) 0 0 a (2) 2 x 33 3 b (2) 3 (5.9) A questo punto si usa il metodo di risoluzione per matrici triangolari. Il costo complessivo è dato da due parti: il costo per l eliminazione e il costo per la risoluzione di una matrice triangolare superiore: ( ) n 3 costo = O + 3 n(n + 1). 2 La parte più costosa di questo metodo, metodo di eliminazione di Gauss (MEG), è l eliminazione; ciononostante, questo è il metodo diretto più efficace. Il problema di questo metodo è che se si deve risolvere più volte lo stesso problema variando solo il vettore di termini noti è necessario comunque ricalcolare tutto da zero, con un dispendio significativo di risorse Metodo di fattorizzazione di Gauss In generale ogni matrice può essere scritta come il prodotto di due matrici triangolari, una inferiore e una superiore: A = L U. Il sistema diventa quindi: L U }{{ x } = b y { Ux = y x (2) Ly = b y (1)

75 5.1. METODI DIRETTI 65 Il sistema va risolto due volte, ognuna con costo n(n+1) 2, totale n(n + 1). Con questo metodo se cambia b basta ripetere la risoluzione di quest ultimo sistema, mantenendo le stesse matrici L e U. Le due matrici triangolari si calcolano a partire dal MEG: A (0) = A A (1) = M 1 A (0) M 1 = a a 31 a A (1) = M 1 A (0) A (2) = M 2 A (1) M 2 = a(1) 32 1 a (1) 22 U = A (2) = M 2 A (1) = M 2 M 1 A (0) = (M 2 M 1 ) A M 1 e M 2 sono matrici triangolari inferiori; il loro prodotto è ancora una triangolare inferiore. L inversa del loro prodotto sarà tale che M 1 U = A M = M 2 M 1 det M = (det M 2 ) (det M 1 ) = 1 0 invertibile M 1 = (M 2 M 1 ) 1 = M1 1 M 2 1 a = a 31 a L algortimo complessivo è A (0) = A A (k) = M k A (k 1) k = 1, 2,..., N 1 U = A (n 1) = (M N 1 M N 2 M 1 )A = MA L = M 1 = (M N 1 M N 2 M 1 ) 1 ( ) I costi per calcolare L = M 1 e U sono di ordine O n 3 3, quelli per la risoluzione dei due sistemi triangolari sono n(n + 1). Questo metodo è detto metodo di fattorizzazione di Gauss (MFG) Riepilogo MEG: ( ) Ax = b U x = b, U matrice triangolare superiore; costo = O n n(n+1) 2 ; MFG: A = L U, L matrice { triangolare inferiore con l ii = 1, U matrice triangolare superiore; LUx = b Ux = y II x Ly = b I y ; L = M 1 = (M n 1 M n 2 M 1 ) 1 ; ( ) costo = O n n(n + 1). a (1) 32 a (1) 22

76 66 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI MEG MFG; MFG è più conveniente se si devono risolvere tanti sistemi della stessa A e diversi termini noti. Questi metodi richiedono A non singolare e gli elementi pivot 1 non devono mai azzerarsi (è anzi preferibile che siano grandi). Si osservi ad esempio il seguente sistema: 2x 1 + x 2 x 3 = 2 4x 1 + 2x 2 + x 3 = 7 3x 1 2x 2 + x 3 = 4 Questo sistema ha la soluzione x 1 = x 2 = x 3 = 1 e quindi la matrice A è non singolare. Applicando MEG, il primo passo è 2x 1 + x 2 x 3 = 2 0 x x 2 + 3x 3 = 3 0 x x x 3 = 1 Nel secondo passo si deve sostituire la terza equazione con III eq II eq 2 5 0, che è ovviamente impossibile. Se stessimo risolvendo il sistema manualmente potremmo scambiare la seconda equazione con la terza e MEG potrebbe proseguire. In generale ad ogni passo i bisogna cercare il coefficiente più grande in modulo (il pivot) sulla i-esima colonna e scambiare la sua equazione con quella alla riga i. Questa operazione, detta processo di pivoting sulle righe permette al metodo di funzionare sempre. Teorema 5.1. MEG (o MFG) termina con successo tutti i minori principali sono diversi da zero. I minori principali sono tutti i minori costruiti intorno alla diagonale della matrice. Ad esempio, per a 11 a 12 a 13 a 21 a 22 a 23 a 31 a 32 a 33 i minori principali sono ] [a 11 (ordine 1); [ ] a11 a 12 (ordine 2); a 21 a 22 a 11 a 12 a 13 a 21 a 22 a 23 (ordine 3, tutta la matrice di partenza). a 31 a 32 a 33 e devono avere tutti determinante non nullo. Se non è così, è necessario usare il pivoting per poter applicare il metodo. Nella pratica si esegue sempre il pivoting, poiché è meno oneroso della verifica di tutti i minori. Alcune classi di matrici verificano automaticamente la CNES e quindi non necessitano di pivoting: 1 I pivot sono gli a 11, a (1) 22,..., a(n 1) nn per cui si divide nei diversi passi.

77 5.1. METODI DIRETTI 67 matrici simmetriche e definite positive: una matrice è simmetrica se concide con la sua trasposta (A T = A); una matrice A simmetrica è anche definita positiva se verifica una delle condizioni seguenti (sono tutte equivalenti tra loro): 1. A ha solo autovalori positivi; 2. x T Ax = (Ax, x) > 0 x R n x 0; inoltre (Ax, x) = 0 x = 0; 3. tutti i minori principali sono > 0 (condizione di Sylvester). matrici a dominanza diagonale stretta: i a ii > n j=1 a ij. j i Per MFG il processo di pivoting fa uso di una matrice di permutazione P tale che P A = LU; ne segue: P Ax = P b LUx = P b { Ux = y Ly = P b Data una matrice A R n n, det A 0, è sempre possibile trovare L triangolare inferiore e U triangolare superiore tale che LU = A? Le incognite del problema sono gli elementi l ij, u ij delle matrici; il numero di incognite è quindi n(n+1) 2 + n(n+1) 2 = n 2 + n, a fronte di sole n 2 equazioni. Poiché ci sono n incognite di troppo è necessario fissarle a priori. Ci sono due possibilità: o si fissa la diagonale di L o quella di U: l ii = 1 u ii = 1 i = 1, 2,..., n ricado in MFG i = 1, 2,..., n metodo di fattorizzazione di Crout Teorema 5.2. Data una matrice A invertibile e non singolare, A è fattorizzabile nel prodotto LU, L matrice triangolare inferiore con l ii = 1 e U matrice triangolare superiore, oppure L matrice triangolare inferiore e U matrice triangolare superiore con u ii = 1 tutti i minori principali di A sono non nulli. Un altra classe di matrici con cui il calcolo è semplificato sono le matrici tridiagonali: a 1 c b 2 a 2 c.. 2. A =. 0 b cn b n a n Una matrice di questo tipo può essere scomposta in due matrici triangolari per poi applicare MFG: α 1 c β α 2 c.. 2. L =. 0 β U = cn β n α n

78 68 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI In questo caso L e U sono bidiagonali, con coefficienti: α 1 = a 1 β 2 α 1 = b 2 β 2 = b 2 α 1 β 2 c 1 + α 2 = a 2 α 2 = a 2 β 2 c 1. L algortimo di calcolo pone inizialmente α 1 = a 1 e per ogni i = 2,, n calcola: b i β i = α i 1 α i = a i β i c i 1. I costi di questo metodo modificato sono sensibilmente più bassi: 2(n 1) per la fattorizzazione e O(n) per la risoluzione del sistema Metodo di fattorizzazione di Cholewski Se A è una matrice simmetrica L triangolare inferiore e D diagonale tali che LDL T = A; in questo caso i costi sono un po più bassi. Se A, oltre ad essere simmetrica, è anche definita positiva, allora!l triangolare inferiore tale che LL T = A, e si ha: { L T x = y Ly = b Quest ultimo caso è detto metodo di fattorizzazione di Cholewski (MFC) o delle radici quadrate, e ha costi dimezzati rispetto a MFG: ( ) n 3 costi = O + n(n + 1). 6 Esaminiamo il caso di A R 3 3 matrice simmetrica: Si cerca una L : LL T = A a 11 a 12 a 13 A = a 12 a 22 a 23 a 13 a 23 a 33 l l 11 l 12 l 13 a 11 a 12 a 13 l 21 l l 22 l 32 = a 12 a 22 a 23 l 31 l 32 l l 33 a 13 a 23 a 33 }{{}}{{}}{{} L L T A

79 5.1. METODI DIRETTI 69 Ne segue 2 : l 2 11 = a 11 l 11 = a 11 a 11 > 0 l 11 l 21 = a 12 l 21 = a 12 l 11 l 11 l 31 = a 13 l 31 = a 13 l 11 l l 2 22 = a 22 l 22 = a 22 l 2 21 = a 22 a2 12 a 11 = a 11 a 22 a 2 12 a 11 Nell ultimo caso si noti che il termine sotto radice è in realtà il determinante di un minore principale di A: a det 11 a 12 a 21 a 22 = a 11a 22 a 2 12 > Accuratezza dei risultati Usando uno dei metodi diretti precentemente esaminati si dovrebbe ottenere la soluzione x esatta. In realtà, questi metodi sono normalmente implementati su dei calcolatori, che non lavorano in aritmetica esatta, ma commettono errori di approssimazione e troncamento dei risultati; spesso inoltre i dati di partenza (matrice A e vettore b) sono frutto di esperimenti e quindi soggetti ad ulteriori errori. Si vuole verificare che commettendo piccoli errori sui dati gli errori sui risultati sono altrettanto piccoli. La misura dell errore è data da un rapporto di norme; per maggiori informazioni sul calcolo delle norme fare riferimento all Appendice A. Consideriamo soltanto una perturbazione sul vettore b: b è soggetta ad un errore δb piccolo: Ax = b A x = b b = b + δb L errore relativo sul vettore è quindi δb b < ε. Questo errore dovrebbe comportare un analoga perturbazione sulla soluzione x = x + δx: δx x < cε con c > 0 indipendente dalla dimensione n del sistema. Il sistema risultante diventa Ax = b A (x + δx) = b + δb Ax + Aδx = b + δb Sottraendo la prima e l ultima equazione si ha Aδx = δb δx = A 1 δb 2 Più correttamente, nel primo caso si avrebbe l 11 = ± a 11; poiché è del tutto indifferente la scelta della radice assumiamo di prendere sempre quella positiva.

80 70 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI e l errore sul risultato è δx = A 1 δb A 1 δb b ε A 1 A x b }{{} <ε poiché b = Ax A x. L errore relativo è quindi δx x A A 1 ε }{{} k(a) con k(a) detto numero di condizionamento della matrice. Questo valore permette di valutare quanto A è buona da trattare: se è grande (k(a) 1) la matrice si dice mal condizionata ed è difficile da trattare; in altre parole, non è garantito che gli errori sui risultati siano piccoli a fronte di piccole perturbazioni dei dati. Vale sempre k(a) 1 poiché 1 = I = A 1 A A 1 A = k(a). Se A = A T (matrice simmetrica) è definita positiva si ha k 2 (A) = A 2 A 1 2 = λ max Esempio. Si consideri il sistema [ ] [ ] [ ] x = x λ min = λ max λ min. che ha soluzione esatta x 1 = x 2 = 1. Il numero di condizionamento in questo caso è k(a) = λ max λ min = = Consideriamo un piccolo errore sul vettore b: [ ] 10 6 b = le soluzioni del sistema perturbato sono x 1 = 1 e x 2 = 2. L errore su b è abbastanza piccolo: b b = 10 6 b 10 6 = ; non si può dire altrettanto di quello sulla soluzione: x x x = 1 1 = 1 = k(a)ε che è troppo grande. Se invece si pone [ ] 10 b =

81 5.2. METODI ITERATIVI 71 le soluzioni sono x 1 = e x 2 = 1. Le perturbazioni in questo caso sono coerenti: b b b x x x = = = = Metodi iterativi I metodi iterativi non risolvono esattamente il sistema, ma cercano x come limite di una successione di iterate: x = lim k x(k). I metodi iterativi che esamineremo sono detti metodi di splitting: si separa (split) la matrice A nella somma algebrica di due matrici: A = M N. Il sistema esatto diventa: (M N)x = b Mx Nx = b Mx = Nx + b Si fissa poi x (0) a piacere (tipicamente si usa x (0) = 0 o x (0) = risolve il sistema approssimato [ 1 1 1] T) e si Mx (k) = Nx (k 1) + b (5.10) per k = 1, 2,.... Scelte diverse di M conducono a metodi diversi. In ogni caso la matrice M deve essere invertibile (det M 0) e facile da invertire. Chiamando e (k) := x x (k) l errore commesso ad ogni iterazione si vuole che lim k e(k) = 0. Calcolando la differenza tra il sistema esatto e quello approssimato si trova M ( x x (k)) ( = N x x (k 1)) = Me (k) = Ne (k 1) e l espressione dell errore diventa per ogni valore di k e (k) = M } 1 {{ N } e (k 1) = B 2 e (k 2) = = B k 1 e (1) = B k e (0) (5.11) B dove B := M 1 N è detta matrice di iterazione. Si ha e (k) 0 B k 0, cioè se B è una matrice convergente ρ(b) < 1. k

82 72 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Metodo di Jacobi Consideriamo il caso M = diag(a) matrice diagonale; N sarà 0 a ij 0 N = M A =... a ij 0 Perché N sia invertibile deve necessariamente essere a ii 0 per ogni valore di i. Per i = 1, 2,..., n si ha x (k) i = 1 b i a ii = 1 a ii b i i 1 j=1 n j=1 j i a ij x (k 1) j a ij x (k 1) j. Questo metodo è detto metodo di Jacobi (J) Metodo di Gauss-Seidel n j=i+1 a ij x (k 1) j = Consideriamo il caso M = tril(a) matrice triangolare inferiore; N sarà 0 a ij 0 N = M A = (5.12) Perché N sia invertibile deve necessariamente essere a ii 0 per ogni valore di i. Per i = 1, 2,..., n si ha x (k) i = 1 b i a ii i 1 j=1 a ij x (k) j n j=i+1 Questo metodo è detto metodo di Gauss-Seidel (GS) Convergenza dei metodi iterativi a ij x (k 1) j. (5.13) Teorema 5.3. Data una matrice A a dominanza diagonale stretta J e GS convergono. Dimostrazione. Ricordiamo la definizione di dominanza diagonale stretta: n i a ii > a ij. j=1 j i

83 5.2. METODI ITERATIVI 73 Nel caso di J si vuole provare che ρ(b J ) < 1 per ottenere e (k) 0. Calcolando 0 a ij a ii B J = M 1 0 N =... a ij a ii 0 si trova che n n ρ(b J ) B J = max b ij = max a ij i=1,n i=1,n a < 1. j=1 j=1 ii j i La dimostrazione per GS è più complessa e non viene quindi riportata. Teorema 5.4. Data una matrice A simmetrica (A T = A) e definita positiva GS converge. Corollario Se inoltre A è anche tridiagonale e i due metodi (J e GS) convergono GS converge più velocemente, con ρ(b GS ) = [ρ(b J )] Metodi di rilassamento Si introduce un parametro ω R detto parametro di rilassamento per migliorare la convergenza dei metodi iterativi: ciò porta alla creazione di nuovi metodi. JOR (J over relaxation) k si calcola la generica componente x (k) i con J e si pone x (k) i = ω x (k) i + (1 ω)x (k 1) i ; (5.14) per ω = 0 il metodo ovviamente non funziona, mentre per ω = 1 equivale a J. Vale il seguente Teorema 5.5. Se J convege JOR converge per 0 < ω 1. SOR (successive over relaxation) k si calcola la generica componente x (k) i con GS e lo si pone nella (5.14) come per JOR; anche in questo caso, per ω = 0 il metodo non funziona e per ω = 1 equivale a GS. Vale il seguente Teorema 5.6. Se B ω è la matrice di iterazione di SOR ρ(b ω ) ω 1 SOR diverge per ω < 0 e ω 2 (se SOR converge 0 < ω < 2). Teorema 5.7. Se A = A T definita positiva, SOR converge 0 < ω < 2.

84 74 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Test d arresto I test d arresto sono eseguti per decidere quando troncare la successione e considerare abbastanza buono il risultato ottenuto. Il primo test usato è il test sulle iterate: x (k) x (k 1) x (k) ε. (5.15) Questo test va bene se la convergenza è abbastanza rapida; se fosse troppo lenta lo scostamento tra le iterate potrebbe essere troppo piccolo il metodo rischierebbe di interrompersi troppo presto. Il secondo test usato è il test sul residuo: r (k) b ε (5.16) dove r (k) := Ax (k) b 0 è detto residuo. Generalmente si esegue (5.15) ad ogni iterazione; se il test ha successo si usa (5.16) per controllare che sia corretta; in tal caso ci si ferma, altrimenti si passa all iterazione successiva. In questo modo si limitano i costi: calcolare una norma ha costo O(n), mentre eseguire dei prodotti matrice vettore è O(n 2 ), un costo comparabile con quello di un iterazione di J o GS. In effetti, perché convenga usare un metodo iterativo al posto di uno diretto i costi devono essere sensibilmente inferiori: il numero di iterazioni deve essere n Sistemi indeterminati Dati un vettore di termini noti b R m e una matrice A R m n si cerca x R n : Ax = b, con m n. Se m < n si ha un sistema sottodeterminato (poche equazioni e tante incognite): è necessario fissare a priori il valore di m n incognite e poi risolvere normalmente il sistema. Se invece m n si ha un sistema sovradeterminato del tipo. ]. a mn [x n = b ṃ... Un sistema così strutturato può avere una sola, nessuna o infinite soluzioni a seconda di A e b. Ad esempio, il sistema 1 2 [ ] x = 6 x ha infinite soluzioni, poiché tutte le equazioni dicono la stessa cosa : sono tutte 1 multipli di x 1 + 2x 2 = 3. Se nello stesso sistema fosse invece b = 1 nessuna 1 equazione sarebbe soddisfatta e il sistema avrebbe zero soluzioni.

85 5.4. REGRESSIONE 75 Teorema 5.8. Sia A R m n, con m n. Se A ha rango pieno 3, il sistema normale 4 ha un unica soluzione, detta soluzione del sistema nel senso dei minimi quadrati. Dimostrazione. Esaminiamo ( il sistema ) ( normale A T Ax = A T b. La matrice A T A è T ( quadrata ( R n n ), inoltre A T A = A T A T) T ) = A T A è anche simmetrica. ( ) Si ha poi A T Ax, x = (Ax, Ax) = Ax 2 0. É noto che Ax = 0 Ax = 0; d altra parte, x = 0 rank(a) = n (teorema di Rouché-Capelli). Per la condizione del prodotto scalare si vede quindi che A è una matrice definita positiva il sistema ha un unica soluzione. Si cerca la soluzione candidata x R n : b Ax 2 sia minimo. Il corrispondente problema di minimo cerca x R n : b Ax 2 b Av 2 v R n. Si definisce una funzione vettoriale F (v) := b Av 2 = b 2 + Av 2 2 (b, Av) = b 2 + (Av, Av) 2 (b, Av) = ( ) ( ) = b 2 + A T Av, v 2 A T b, v ; F (v) è un oggetto quadratico in v, in particolare un paraboloide (l equivalente in una dimensione sarebbe una normale parabola): posso trovarne gli estremanti derivandolo attraverso l operatore gradiente. F = 0 F = 0 + 2A T Av 2A T b = 0 A T Av = A T b I punti estremali di F sono soluzioni di questo sistema lineare, che è il sistema normale: sappiamo che ha un unica soluzione A ha rango pieno. 5.4 Regressione Dati m punti nel piano (x 1, y 1 ), (x 2, y 2 ),..., (x m, y m ) distinti (Figura 5.1), si cerca un polinomio p P n : p(x i ) = y i, per i = 1, 2,..., n. Se n = m 1 si può usare l interpolazione di Lagrange discussa nella Sezione 3.1; in questo caso 100 punti saranno interpolati da un polinomio di grado 99, con tutti i problemi del caso, oscillazioni in primis. Se n m 1 questa strada non è praticabile e bisogna trovare un alternativa. Vogliamo studiare l andamento del fenomeno che i dati rappresentano, per capire come varierà nel futuro: si parla di data fitting dei valori sperimentali. Immaginiamo che esista una retta passante per tutti i punti (caso n = 1): si cerca la r(x) = a 1 + a 2 x che interpoli i punti dati (r(x i ) = y i ); avremo un sistema del tipo a 1 + a 2 x 1 = y 1 a 1 + a 2 x 2 = y 2. a 1 + a 2 x m = y m 3 Il rango di una matrice è l ordine massimo dei minori non nulli della matrice. Una matrice m n si dice a rango pieno o rango massimo se rank(a) = min(m, n), ovvero tutti i minori di grado pari alla dimensione minore della matrice sono diversi da zero. 4 Dato un sistema rettangolare Ax = b, si dice sistema normale il corrispondente sistema A T Ax = A T b.

86 76 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI f(x) y 1 0 x 1 x Figura 5.1: Distribuzione di punti da interpolare. con m equazioni e 2 incognite: è un sistema sovradeterminato e può essere risolto nel senso dei minimi quadrati. Il sistema Aa = y in forma matriciale è 1 x 1 y [ ] 1 1 x 2 a1 y 2 =.. a x m Moltiplicando a sinistra per A T si ottiene il sistema normale (che ha dimensione 2) A T Aa = A T y, con [ ] A T m mi=1 x A = i mi=1 x mi=1 i x 2 i [ mi=1 ] A T y y = i mi=1 x i y i y m Si ottiene il sistema [ m mi=1 x i ] [ ] mi=1 x i a1 mi=1 x 2 = i a 2 [ mi=1 ] y i mi=1 x i y i (5.17) La matrice A T A è simmetrica. Se i punti sono distinti la matrice A ha rango pieno (in questo caso rank (A) = 2), ed A T A è anche definita positiva. La retta che si ottiene dalla soluzione del sistema è detta retta di regressione lineare (Figura 5.2). C è un altro approccio per affrontare il problema. Scegliamo sempre di approssimare i dati con una retta (caso n = 1): r(x) = a 1 + a 2 x. Si calcola il valore della retta in ogni punto, esaminando la differenza con il valore reale y i : m [y i r(x i )] 2. i=1 Tra tutte le possibili rette si cerca quella che rende minima questa differenza; poiché la retta è identificata dai suoi coefficienti a 1 e a 2, cerchiamo di minimizzare m [y i (a 1 + a 2 x i )] 2 =: F (a) i=1

87 5.4. REGRESSIONE 77 f(x) y 1 0 x 1 x con a = Figura 5.2: Regressione lineare della distribuzione di Figura 5.1. [ ] a1 a 2 vettore delle incognite. Si cerca un a R 2 : F (a) F (b), b R 2 (problema di minimo). Per risolverlo si devono uguagliare a zero le derivate prime (in questo caso il gradiente, poiché si tratta di una funzione vettoriale): ] [ ] 0 F = 0 =. 0 [ F a 1 F a 2 Sviluppando si trova F m = 2 [(y i (a 1 + a 2 x i )) ( 1)] = 0 a 1 i=1 F m = 2 [(y i (a 1 + a 2 x i )) ( x i )] = 0 a 2 i=1 che porta ad un sistema di due equazioni in due incognite { mi=1 a 1 + m i=1 a 2 x i = m i=1 y i mi=1 a 1 x i + m i=1 a 2 x 2 i = m i=1 x i y i (5.18) in forma matriciale [ ] m mi=1 x i mi=1 x mi=1 i x 2 i }{{} A [ ] a1 a 2 = [ mi=1 ] y i mi=1. x i y i Questo è lo stesso sistema trovato in precedenza in (5.17). La matrice A è simmetrica; se gli x i sono distinti (come dall ipotesi) è anche definita positiva il sistema ha una sola soluzione; resta da dimostrare che questa soluzione è effettivamente quella minima. Calcoliamo la matrice Hessiana del sistema 2 F 2 F [ ] m H(F ) = a F a 2 a 1 a 1 a 2 2 F a 2 2 = 2 mi=1 x i mi=1 x i mi=1 x 2 i a meno del fattore 2 è la stessa matrice di (5.17). Il determinante della matrice è [ m m ] det H(F ) = m x 2 2 i x i 0. (5.19) i=1 i=1

88 78 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Teorema 5.9 (di Cauchy-Schwartz). Dati a, b R 2ab a 2 + b 2. Dimostrazione. Vale sempre (a b) 2 > 0, con il caso (a b) 2 = 0 a = b. Sviluppando il binomio si ha a 2 + b 2 2ab > 0 2ab < a 2 + b 2. Il teorema appena enunciato permette di valutare il determinante per alcuni valori di m. per m = 2 abbiamo ( ) ( ) ) 2 x x 2 2 (x 1 + x 2 ) 2 = 2 x x 2 2 (x x x 1 x 2 = = x x 2 2 2x 1 x 2 = (x 1 x 2 ) 2 0 per m = 3 analogamente ( ) 3 x x x 2 3 (x 1 + x 2 + x 3 ) 2 = ( ) = 2 x x x 2 3 2x 1 x 2 2x 1 x 3 2x 2 x 3 ( ) 2 x x x 2 3 x 2 1 x 2 2 x 2 1 x 2 3 x 2 2 x Se i punti sono distinti det H(F ) > 0. La soluzione del sistema (5.18) fornisce i coefficienti della retta di regressione, e si ottiene lo stesso risultato del caso precedente. f(x) y 1 0 x 1 x Figura 5.3: Distribuzione di punti da interpolare con delle funzioni sinusoidali. Invece di una retta si può usare, ad esempio, la combinazione lineare di due funzioni arbitrarie. Dati m punti nel piano (x 1, y 1 ), (x 2, y 2 ),..., (x m, y m ) distinti (Figura 5.3), si cerca la funzione g(x) = a 1 sin x + a 2 cos x tale che la differenza mi=1 [y i g(x i )] 2 sia minima. Il problema richiede di minimizzare la funzione m F (a) = [y i (a 1 sin x i + a 2 cos x i )] 2. i=1 Si procede come prima all annullamento del gradiente: ] F = [ F a 1 F a 2 = [ 2 mi=1 [(y i (a 1 sin x i + a 2 cos x i )) ( sin x i )] 2 m i=1 [(y i (a 1 sin x i + a 2 cos x i )) ( cos x i )] e si giunge al sistema [ mi=1 sin 2 ] [ ] [ x mi=1 mi=1 ] i sin x i cos x i a1 (sin x mi=1 sin x i cos x mi=1 i cos 2 = i )y i x i a mi=1. (5.20) 2 (cos x i )y i ] = 0

89 5.4. REGRESSIONE 79 Da qui si ricavano i coefficienti a 1, a 2 e la g(x) che approssima i dati nel senso dei minimi quadrati. In tutti i casi le incognite sono i coefficienti della combinazione lineare, mentre la scelta delle funzioni da usare è arbitraria e decisa all inizio. Si può arrivare a questa soluzione anche utilizzando l altro metodo. Procediamo ad un ulteriore generalizzazione, che include i casi esaminati precedentemente. Dati m punti nel piano (x 1, y 1 ), (x 2, y 2 ),..., (x m, y m ) distinti e uno spazio vettoriale S N = span {ϕ 1 (x), ϕ 2 (x),..., ϕ N (x)} di dimensione N, si cerca una funzione g(x) S N tale che la differenza m [y i g(x i )] 2 i=1 sia minima. Si può vedere che i due esempi precedenti ricadono in questo caso generale: regressione lineare: N = 2, S N = P 1 = span {1, x}; combinazione di seno e coseno: N = 2, S N = span {sin x, cos x}. Fissato lo spazio vettoriale, l espressione della g(x) è data la funzione da minimizzare è quindi g(x) = a 1 ϕ 1 (x) + a 2 ϕ 2 (x) + + a N ϕ N (x); m F (a) := [y i (a 1 ϕ 1 (x) + a 2 ϕ 2 (x) + + a N ϕ N (x))] 2. i=1 L espressione del gradiente in questo caso è F = F a 1 F a 2. F a N RN ; per k = 1, 2,..., N, il valore della k-esima derivata è F m = 2 [y i (a 1 ϕ 1 (x) + a 2 ϕ 2 (x) + + a N ϕ N (x))] ( ϕ k (x i )). a k i=1 Si arriva ad un sistema con N equazioni e N incognite, con mi=1 ϕ 1 (x i )ϕ 1 (x i ) mi=1 ϕ 1 (x i )ϕ 2 (x i ) mi=1 ϕ 1 (x i )ϕ N (x i ) mi=1 ϕ 2 (x i )ϕ 1 (x i ) mi=1 ϕ 2 (x i )ϕ 2 (x i ) mi=1 ϕ 2 (x i )ϕ N (x i ) M =..... ;. mi=1 ϕ N (x i )ϕ 1 (x i ) mi=1 ϕ N (x i )ϕ 2 (x i ) mi=1 ϕ N (x i )ϕ N (x i ) l espressione del generico elemento alla riga k e colonna j è m M kj = ϕ k (x i )ϕ j (x i ). i=1

90 80 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Approssimazione di funzioni con i minimi quadrati Data una funzione f(x) definita sull intervallo [a, b] e uno spazio vettoriale S = span {ϕ 1 (x), ϕ 2 (x),..., ϕ N (x)} di dimensione N, si cerca una funzione f N (x) S tale che b [f(x) f N (x)] 2 dx a sia minima. Non è sufficiente che f sia integrabile, deve anche esserlo f 2. Ad esempio, per la funzione f(x) = 1 x, l integrale x dx = x 1 0 = 1 è definito, mentre f 2 (x) = 1 x sull intervallo [0, 1] non è integrabile. Si chiama { } L 2 (a, b) := v : [a, b] R : b a v 2 (x) dx < + spazio delle funzioni integrabili al quadrato. In questo spazio è possibile definire un analogo della norma euclidea di vettore e del prodotto scalare ( b v L 2 (a,b) = v 2 (x) dx a ) 1 2 b v, w L 2 (v, w) L 2 (a,b) = v(x)w(x) dx; inoltre, in questo spazio vale ancora la disuguaglianza di Cauchy-Schwarz: (v, w) v w. Sia f L 2 (a, b), S = span {ϕ 1 (x), ϕ 2 (x),..., ϕ N (x)} sottospazio vettoriale di L 2 (a, b) di dimensione finita N, con {ϕ j } base ortogonale: (ϕ i, ϕ j ) = b a ϕ iϕ j dx = 0 per tutti gli i j. Si cerca una f N S tale che b a [f(x) f N (x)] 2 dx = f f N 2 sia minima. Usiamo la norma al quadrato e non quella normale poiché la prima è facilmente derivabile. La f N è una combinazione lineare delle ϕ i (x) della base: a N f N = a i ϕ i (x) i=1 dove i coefficienti a i sono le incognite del problema di minimo. Si vuole minimizzare la 2 b N F (a) := f(x) a j ϕ j (x) dx; a questo oggetto è un funzionale quadratico derivabile, di cui si cerca il j=1 min F (a). a R N

91 5.4. REGRESSIONE 81 Come prima bisogna annullare il gradiente; si trova un sistema Aa = b con A kj = b j = b a b a ϕ k (x)ϕ j (x) dx f(x)ϕ j (x) dx. In generale, la k-esima componente del gradiente (con k = 1, 2,..., N) è F b N = 2 f(x) a j ϕ j (x) ( ϕ k (x)) dx = 0 a k a j=1 e si ha b {[ f(x)ϕ k (x)] + [a 1 ϕ 1 (x)ϕ k (x) + a 2 ϕ 2 (x)ϕ k (x) + + a N ϕ N (x)ϕ k (x)]} = 0. a Poiché la base è ortogonale tutti i termini si annullano tranne quello con gli indici uguali: b b a k ϕ 2 k(x) dx = f(x)ϕ k (x) dx. Il sistema diventa b a ϕ2 1 (x) dx 0 b a ϕ2 2 (x) dx... 0 b a ϕ2 N (x) dx e ha come soluzione i coefficienti a a a 1 a 2. = a N b a f(x)ϕ 1(x) dx b a f(x)ϕ 2(x) dx. b a f(x)ϕ N(x) dx a k = b a f(x)ϕ k(x) dx b a ϕ2 k (x) dx = (f, ϕ k) ϕ k 2. (5.21) detti coefficienti di Fourier di f. Se {ϕ k } è una base ortonormale ( ϕ k = 1), allora a k = (f, ϕ k )) e valgono le seguenti proprietà. f f N S Figura 5.4: Rappresentazione grafica della Proprietà 1. Proprietà 1. f N è la proiezione di f sullo spazio S, cioè si ha: (f f N, v) = 0 v S. Questa proprietà è rappresentata graficamente in Figura 5.4

92 82 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Dimostrazione. Per k = 1, 2,..., N si ha b b N [f(x) f N (x)] ϕ k (x) dx = f(x) a j ϕ j (x) ϕ k (x) dx = a a j=1 b N = f(x)ϕ k (x) a j ϕ j (x)ϕ k (x) dx = a j=1 b b = f(x)ϕ k (x) dx a k ϕ 2 k(x) dx = 0. a a Quindi la proprietà essendo vera sulla base, è vera su ogni v S. Proprietà 2 (Disuguaglianza di Bessel). Dalla proprietà precedente segue che f N f (f N essendo la proiezione di f). Quindi si deduce, usando la definizione dei coefficienti di Fourier: f N 2 N 2 N N b = a i ϕ i = a 2 i ϕ i 2 = (f, ϕ i ) 2 f 2 (x) dx =: f 2 ; (5.22) i=1 i=1 i=1 a si ottiene una successione monotona crescente superiormente limitata, quindi la serie converge. a 2 i i=1 In generale, se S = P N 1, si ha una base ortogonale {ϕ 1 (x), ϕ 2 (x),..., ϕ N (x)}, dove i vale ϕ i P N 1, con (ϕ i, ϕ j ) = 0 per i j. Per semplicità consideriamo [a, b] = [ 1, 1]. La costruzione dello spazio procede come di seguito: ϕ 1 = c ϕ 2 = ax + b : 1 1 ϕ 2 (x)ϕ 1 (x) dx = 0 b = 0; si ha quindi ϕ 2 (x) = αx 2 2 ϕ 3 = ax 2 + bx + c : ϕ 3 (x)ϕ 1 (x) dx = 0 ϕ 3 (x)ϕ 2 (x) dx = b = 0 c = a ( 3 ; si ha quindi ϕ 3(x) = β x 3 1 ). 3 Si ottengono gli N polinomi di Legendre di grado 0, 1,..., N 1 (si veda la Definizione 3.2 per maggiori dettagli su questi polinomi). Se la funzione f è periodica è meglio usare funzioni periodiche per approssimarla. Ad esempio, se f è periodica di periodo 2π è meglio approssimarla con seni e coseni. In questo caso un possibile spazio S è il seguente: S = span {1, sin kx, cos kx} = span {1, sin x, cos x, sin 2x, cos 2x,..., sin Nx, cos Nx} per k = 1, N (il primo elemento è 1 = sin 0 + cos 0 quindi k parte da 1), con dim S = 2N + 1. Questo spazio è ortogonale, infatti k, l valgono π π sin kx dx = 0,

93 5.4. REGRESSIONE 83 π π cos kx dx = 0, π π sin kx cos lx dx = 0 e così via per tutti gli elementi; inoltre valgono anche 1 2 = π π 1 dx = 2π e sin kx 2 = π π sin2 kx dx = π = π π cos2 kx dx = cos kx 2. Da queste considerazioni segue che (ϕ i, ϕ j ) = 0 per i j e (ϕ i, ϕ i ) 0, quindi vale l indipendenza lineare: lo spazio in esame è effettivamente una base. Sotto queste ipotesi, si definisce la serie di Fourier troncata a N termini la funzione f N : N f(x) f N (x) = a 0 + (a k cos kx + b k sin kx) (5.23) k=1 dove i coefficienti calcolati con la (5.21) sono a 0 = 1 2π a k = 1 π b k = 1 π π π π π π π f(x) dx f(x) cos kx dx f(x) sin kx dx. (5.24) (5.25) (5.26) Vale il seguente Teorema Ogni f L 2 ( π, π) è sviluppabile in serie di Fourier, nel senso che π lim [f(x) f N (x)] 2 dx = 0 N π ovvero che f f N 2 0 per N. Se inoltre f C 1 ( π, π) si ha f N (x) f(x) puntualmente; la convergenza è uniforme se f(π) = f( π). Consideriamo alcuni esempi significativi di approssimazione di funzioni periodiche con serie di Fourier. f(x) 2π π 0 π 2π x Figura 5.5: Grafico della funzione dente di sega sull intervallo [ 2π, 2π]. Esempio 1 (dente di sega). Si consideri la funzione f(x) = x su [ π, π] e prolungata per periodicità (Figura 5.5); questa funzione presenta dei punti di discontinuità in

94 84 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI kπ, con k Z. I coefficienti di Fourier per questa funzione sono a 0 = 1 π x dx = 0 2π π a k = 1 π x cos kx dx = 0 π π b k = 1 { π 2 x sin kx dx = k π 2 π k se k pari se k dispari e la sua approssimazione in serie di Fourier è ( sin x sin 2x sin 3x f(x) f N (x) = ± ) sin Nx N dove il segno dell ultimo termine dipende dalla parità di N (positivo se N è dispari, negativo se N è pari. La funzione f N è continua e molto più facile da manipolare della f(x) da cui deriva. Si può anche scrivere ( ) sin x sin 2x sin 3x f(x) = x = ; l uguaglianza in questo caso è da intendersi come convergenza puntuale in ogni punto tranne i punti di discontinuità (in cui f salta ). In Figura 5.6 sono graficate le somme parziali della serie. Si nota che all aumentare del numero di termini l approssimazione produce delle oscillazioni indesiderate: si parla di overshoot in caso di sovrastima e undershoot per la sottostima della funzione; questa caratteristica è detta fenomeno di Gibbs. Esempio 2 (onda quadra). La funzione onda quadra è definita su [ π, π] e prolungata per periodicità (Figura 5.7): f(x) = { 1 π x < x π Questa funzione presenta dei punti di discontinuità in kπ, con k Z. I suoi coefficienti di Fourier sono a 0 = 1 2π a k = 1 π b k = 1 π π π π π π f(x) dx = 1 2 π e la sua approssimazione in serie di Fourier è 0 f(x) cos kx dx = 1 cos kx dx = 0 π π { 0 se k pari f(x) sin kx dx = se k dispari f(x) f N (x) = ( sin x + π 1 2 kπ sin 3x 3 + sin 5x 5 ) +.

95 5.4. REGRESSIONE 85 Figura 5.6: Somme parziali della serie di Fourier per la funzione f(x) = x. f(x) 3π 2π π 0 π 2π x Figura 5.7: Grafico della funzione onda quadra sull intervallo [ 3π, 2π].

96 86 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Figura 5.8: Approssimazione in serie di Fourier della Delta di Dirac con 41 termini. Esempio 3 (impulso o Delta di Dirac). Funzione f(x) = δ 0 (x) definita su [ π, π] e prolungata per periodicità; questa funzione (più propriamente si tratta di una distribuzione) vale zero dappertutto e infinito nell origine: rappresenta un rettangolo di base nulla e altezza infinita centrato nell origine. È una funzione fortemente discontinua, che non appartiene neanche a L 2. Gode di un importante proprietà: data una generica funzione g, l integrale della Delta per la funzione su tutto R è pari al valore della funzione in zero: δ 0 (x)g(x) dx = g(0). Grazie a questa proprietà possiamo calcolare i valori dei coefficienti di Fourier: a 0 = 1 2π a k = 1 π b k = 1 π π π π f(x) dx = 1 2π π f(x) cos kx dx = 1 π cos 0 = 1 π π π f(x) sin kx dx = 1 sin 0 = 0. π L approssimazione in serie di Fourier della Delta è δ 0 (x) f N (x) = 1 π ed è mostrata in Figura 5.8. ( cos x + cos 2x + cos 3x + ) Esempio 4 (ghirlanda). f(x) = (x + π)(x π) definita su [ π, π] e prolungata per periodicità (Figura 5.9); questa funzione è continua. I suoi coefficienti di Fourier

97 5.4. REGRESSIONE 87 f(x) 3π 2π π π 2π 3π 0 x Figura 5.9: Grafico della funzione ghirlanda sull intervallo [ 3π, 3π]. sono: b k = 0 a 0 = 1 2π a k = 1 π π π k π f(x) dx = 1 π π π f(x) cos kx dx = 2 π = 4 k 2 cos kπ = { 4 k 2 4 k 2 e la sua approssimazione in serie di Fourier: 0 (x 2 π 2 ) dx = 2 3 π2 π 0 se k pari se k dispari (x 2 π 2 ) cos kx dx = f(x) f N (x) = 2 ( 3 π2 + 4 cos x ) cos 2x cos 3x f(x) 3π 2π π 0 π 2π 3π x Figura 5.10: Grafico della funzione campana sull intervallo [ 3π, 3π]. Esempio 5 (campana). f(x) = (x π) 2 (x + π) 2 definita su [ π, π] e prolungata per periodicità (Figura 5.10); questa funzione è simile alla precedente ma oltre ad essere continua ha anche le derivate prime continue: f C 1 ( π, π). I suoi coefficienti di Fourier: b k = 0 a k = 1 π π k π f(x) cos kx dx = 2 π π 0 (x 2 π 2 ) 2 cos kx dx 1 k 3. Gli esempi precedenti sono riassunti in Tabella 5.1. Si vede che più la funzione è regolare, più rapidamente la serie di Fourier converge; da questa proprietà, detta

98 88 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Esempio Funzione Continuità Coefficienti di Fourier 3 Delta di Dirac non in L 2 b k = 0 a k x e onda quadra discontinue a k = 0 b k 1 k 4 ghirlanda continua b k = 0 a k 1 k 2 5 campana C 1 b k = 0 a k 1 k 3 Tabella 5.1: Riepilogo degli esempi di approssimazione di funzioni periodiche con serie di Fourier. decadimento rapido, segue che bastano pochi termini della serie per approssimare bene la funzione. Infatti: data una funzione f C 1, siano a k, b k i suoi coefficienti di Fourier e siano a k, b k i coefficienti di Fourier della sua derivata f. Si ha: b k = 1 π π = k 1 π π f (x) sin kx dx = 1 π π π f(x) cos kx dx = ka k f(x) sin kx π π } {{ } =0 π π f(x) cos kx dx =. Dalla disuguaglianza di Bessel (Proprietà 2) applicata a questa situazione N (b k) 2 f 2 k=1 si deduce che k=1 (b k )2 converge k=1 k 2 a 2 k converge, e quindi a2 k va a zero più rapidamente di k 2. Analogamente si ha che la k=1 k 2 b 2 k converge. Il risultato generale è dato dal seguente Teorema Se f C, allora r > 0 la serie k=1 k 2r a 2 k pure k=1 k 2r b 2 k converge. converge, e così Usando le formule di Eulero è possibile scrivere l espressione della serie di Fourier in un altro modo. Dalle relazioni si ottiene e la (5.23) si può scrivere come e ikx = cos kx + i sin kx e ikx = cos kx i sin kx cos kx = e ikx + e ikx 2 sin kx = e ikx e ikx 2 f(x) f N (x) = N k= N c k e ikx (5.27)

99 5.4. REGRESSIONE 89 con c k = 1 π f(x)e ikx dx. (5.28) 2π π I coefficienti c k si possono scrivere anche in funzione degli a k, b k : c k = a k ib k 2 c k = a k + ib k. 2 Gli sviluppi di Fourier facilitano i vari conti da eseguire su una funzione. Noti a k, b k i coefficienti a k, b k di f sono dati ( k) da a k = kb k b k = ka k mentre i coefficienti a k, b k di f sono ( k) a k = k 2 a k b k = k 2 b k. Un applicazione degli sviluppi di Fourier è la soluzione di equazioni differenziali. In un equazione del tipo y (x) 9y(x) = f(x) y(x) = c 1 e 3x + c 2 e 3x + y p (x) calcolare y p può essere complicato se f è complicata. Chiamando α k, β k i coefficienti di Fourier di f, si cerca y p (x) = a k cos kx + b k sin kx. k=0 k=1 Da y p(x) = k=0 k 2 a k cos kx k=1 k 2 b k sin kx si ottiene ( k 2 9)a k cos kx + ( k 2 9)b k sin kx = k=0 k=1 da cui seguono i valori di α k, β k per ogni k: α k cos kx + β k sin kx k=0 k=1 α k = (k 2 + 9)a k β k = (k 2 + 9)b k Nella pratica è comunque dispendioso e faticoso l uso degli sviluppi di Fourier. Esistono però programmi black-box (FFT, acronimo di Fast Fourier Transform) che permettono di ottenere gli N coefficienti di Fourier a partire dai valori della funzione in 2N + 1 punti equispaziati e viceversa (Figura 5.11). Il costo dell elaborazione con FFT è di O(N log N) se 2N è una potenza di 2, quindi è piuttosto basso.

100 90 CAPITOLO 5. RISOLUZIONE DI SISTEMI LINEARI Input f(x 1 ), f(x 2 ),..., f(x 2N+1 ) FFT Output a 0, a 1,..., a N b 1, b 2,..., b N a 0, a 1,..., a N b FFT 1 f(x1 ), f(x 2 ),..., f(x 2N+1 ) 1, b 2,..., b N Figura 5.11: Schema d uso della FFT. I punti x i devono essere equispaziati. 5.5 Metodi iterativi avanzati Sono metodi di recente ideazione applicabili a sistemi lineari con matrice A simmetrica e definita positiva. Si vuole risolvere un sistema Ax = b con matrice A simmetrica e definita positiva: il problema è trovare un Sia F : R n R il funzionale si ha il seguente risultato x R n : Ax = b. (5.29) F (v) := 1 2 (Av, v) (b, v) v Rn (5.30) Teorema Se A è simmetrica e definita positiva, il problema (5.29) è equivalente al seguente problema di minimo: Trovare u R n : F (u) = min F (v) (5.31) v Rn cioè (5.31) ha soluzione unica u R n e u x. Dimostrazione. F è un funzionale quadratico derivabile. Si trova F (v) = [ F v 1 ] T F F v 2... v n Av b; La matrice Hessiana H(F ) = A è definita positiva, quindi ha autovalori positivi il funzionale F è convesso (strettamente) F ha un minimo unico. Sia u R n il punto di minimo. Allora F (u) = 0 Au b = 0 u x per l unicità della soluzione di (5.29) Metodi di discesa Si cerca la soluzione x di (5.29) come punto di minimo di F (x){ con un metodo iterativo. Partendo da x (0) dato, si costruisce una successione x (k)} : x (k) x (converge alla soluzione del sistema). Dato il vettore di partenza x (0) R n (tipicamente x (0) = 0 o x (0) = 1), per ogni k 1 si pone x (k+1) = x (k) + α k p (k) (5.32)

101 5.5. METODI ITERATIVI AVANZATI 91 con i parametri α k R (scalare) e p (k) R n (direzione di discesa) da scegliere in modo che F (x (k+1) ) < F (x (k) ). Supponiamo di aver scelto p (k), cerchiamo α k tale che F (x (k) + α k p (k) ) < F (x (k) ). Sia g(α) := F (x (k) + αp (k) ) α R con g(α k ) = F (x (k+1) ) e g(0) = F (x (k) ), deve essere g(α k ) < g(0): si cerca α che minizzi g. Si trova che, essendo g una parabola convessa, ha un minimo nel suo vertice: k 0 si ha (b Ax (k), p (k)) ( α k = α opt = ( Ap (k), p (k)) = r (k), p (k)) ( Ap (k), p (k)) > 0 (5.33) Per scegliere p (k) si studia l errore nella norma A. Si trova che, se α k = α opt, l espressione dell errore è Metodo del gradiente E(x (k+1) ) = (1 γ k )E(x (k) ). Per ogni valore di k, si prende come direzione di discesa il residuo: L espressione dell errore è p (k) = r (k) = F (x (k) ). (5.34) E(x (k+1) ) = ( ) k(a) 1 2 E(x (k) ) k(a) + 1 che dipende dal condizionamento della matrice. Se A è mal condizionata k(a) 1 e la convergenza di questo metodo è molto lenta. Il costo del metodo del gradiente è quello di un prodotto matrice vettore (ordine O(n 2 )) ad ogni iterazione Metodo del gradiente coniugato Idea: se α k = α opt, allora k 1 si ha { nel piano span r (k), p (k 1)} : ( r (k), p (k 1)) = 0. Dato p (k 1) si cerca p (k) p (k) = r (k) + β k p (k 1) (5.35) con β k da scegliere in modo che la riduzione dell errore sia massima. Si trova che, se (Ap (k 1), r (k)) β k = ( Ap (k 1), p (k 1)) (5.36) l espressione dell errore è E(x (k) ) 4 ( k(a) 1 k(a) + 1 ) 2 E(x (k 1) ). Il numero di iterazioni necessarie per ridurre di ε l errore iniziale è proporzionale a k(a), mentre nel metodo del gradiente è proporzionale a k(a). Si può dimostrare che il metodo del gradiente coniugato converge in un numero di iterazioni n, con n dimensione del sistema.

102

103 Capitolo 6 Metodi avanzati per problemi di Cauchy Riprendiamo la risoluzione di problemi di Cauchy esaminata nel Capitolo 2: dato un problema { y (t) = f(t, y(t)) t [t 0, T ] y(t 0 ) = y 0 (6.1) si vuole approssimare la sua soluzione. Sono stati esaminati diversi metodi (EE, EI, CN, Heun), che nel caso migliore raggiungono un ordine di precisione pari a 2. I metodi trattati sono tutti metodi a un passo, che per costruire ogni valore u i ricorrono soltanto al valore precedente u i 1. In questo capitolo saranno esaminate due soluzioni alternative al problema: i metodi multistep e i metodi di Runge-Kutta. 6.1 Metodi multistep Un metodo multistep (MS) utilizza i valori in p punti precedenti (u n dipende da u n 1, u n 2,..., u n p ) per costruire uno schema di ordine p. Questi metodi cercano di limitare il numero di valutazioni della funzione, al costo di mantenere in memoria molti dati. L espressione generale di un metodo multistep è la seguente: per n = p, p + 1, p + 2,... si ha p p u n = α j u n j + h β j f n j + hβ 0 f n (6.2) j=1 j=1 dove f n j = f(t n j, u n j ). La prima parte della formula è una combinazione lineare dei punti in esame, mentre la seconda dei valori della funzione in questi punti. La terza parte, infine, determina il tipo di metodo: se β 0 0 si ha un metodo implicito, poiché β 0 f n = β 0 f(t n, u n ) dipende dal valore stesso che si sta calcolando; se β 0 = 0 il metodo è invece esplicito. Per costruire dei metodi consistenti sono necessarie delle condizioni su α e β; in particolare, per poter utilizzare un metodo a p passi servono p condizioni iniziali 93

104 94 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY u 0 = y 0, u 1, u 2,..., u p 1, che vanno calcolate con un metodo ad un passo. L obiettivo finale è ottenere un metodo convergente: perché questo accada è necessario verificarne la consistenza e la stabilità (Teorema 2.1) Consistenza Come nella Sezione 2.1, si procede calcolando l errore di troncamento locale: n si ha τ n = y(t n) p j=1 α jy(t n j ) p β j f(t n j, y(t n j )); h j=0 in generale τ n 0. L errore di consistenza è dato da τ = max n τ n. Un metodo è consistente se τ(h) 0 per h 0. Se τ = ch q (con q > 0), allora MS è consistente di ordine q (si noti che in generale q p). Come per il metodo di Heun (Sezione 2.6), usare gli sviluppi di Taylor per verificare la consistenza è troppo complicato: procediamo all esame dei polinomi. per q = 0 lo schema è esatto su y(t) = 1, che è soluzione di f(t, y(t)) = 0 e l errore di troncamento locale è τ n = 1 p j=1 α j 1 h p β j 0; j=0 { y (t) = 0 y(0) = 1 τ n = 0 vale p α j = 1; (6.3) j=1 se questa condizione è verificata il metodo è consistente di ordine 0; per q = 1 lo schema è esatto su y(t) = t, che è soluzione di f(t, y(t)) = 1 e l errore di troncamento locale è τ n = t n p j=1 α jt n j h p β j 1; j=0 { y (t) = 1 y(0) = 0 sviluppando t n j = t n jh si ha τ n = t n p j=1 α j(t n jh) h = p β j = j=0 1 {}} { p t n t n α j + h p j=1 jα j j=1 p p p β j = jα j β j ; h j=0 j=1 j=0

105 6.1. METODI MULTISTEP 95 τ n = 0 vale p p jα j β j = 0; (6.4) j=1 j=0 se questa condizione è verificata il metodo è consistente di ordine 1. Andando avanti con q = 2, 3,... si trovano sempre relazioni sui coefficienti analoghe a (6.3) e (6.4). Esempio (schema del punto medio). u n = u n 2 + 2hf(t n 1, u n 1 ) (6.5) per n = 2, 3,.... Questo schema si ottiene integrando l equazione differenziale y (t) = f(t, y(t)) su due intervalli, e approssimando con il metodo del punto medio (3.9): tn t n 2 y (t) dt = tn t n 2 f(t, y(t)) dt (t n t n 2 )f(t n 1, y(t n 1 )) 2hf(t n 1, u n 1 ). Questo è un metodo MS con p = 2, coefficienti α 1 = 0, α 2 = 1 e β 0 = 0, β 1 = 2, β 2 = 0. Si noti che i coefficienti verificano le condizioni (6.3) e (6.4) il metodo consistente di ordine 1. Volendo verificare se è anche di ordine 2, procediamo come in precedenza. Si considera per q = 2 lo schema è esatto su y(t) = t 2, che è soluzione { y (t) = 2t di f(t, y(t)) = 2t. L errore di troncamento locale in questo caso è 1 y(0) = 0 τ n = t2 n t 2 n 2 2t n 1 = 2h (t n t n 2 )(t n + t n 2 ) 2h 2t n 1 = = t n + (t n 2h) 2(t }{{} n h) = 0 }{{} t n 2 t n 1 ed il metodo è quindi di ordine 2. Ripendendo la procedura per q = 3 si vede che τ n 0 il metodo è di ordine 2. Esempio (metodi di Adams). Sono particolari metodi MS (a passo h uniforme) in cui f(t, y(t)) è approssimata con il suo polinomio interpolatore relativo ai p punti precedenti (più eventualmente il punto stesso). Per n = p, p + 1, p + 2,... si ha p u n = u n 1 + h b j f n j + hb 0 f n (6.6) j=1 a cui vanno aggiunte le p condizioni iniziali u 0, u 1,..., u p 1. Per questo metodo α 1 = 1 e α 2 = α 3 = = 0: è verificata la condizione (6.3) e quindi il metodo ha almeno ordine 0. A seconda del valore di b 0 distinguiamo due famiglie di metodi di Adams: 1 Se si parte dalla formula generale (6.2), allora risulta τ n = t2 n t2 n 2 h si ottiene alla fine τ n = 0. 4t n 1; in entrambi i casi

106 96 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY per b 0 0 si ottengono dei metodi impliciti, detti metodi di Adams-Moulton (AM); per b 0 = 0, invece, i metodi sono espliciti, e sono chiamati metodi di Adams- Bashforth (AB). Per i metodi espliciti si usa f Π p 1 (f) relativo ai punti t n 1, t n 2,..., t n p, mentre per quelli impliciti si ha f Π p (f) relativo ai punti t n, t n 1, t n 2,..., t n p. In entrambi i casi si procede in modo analogo alla costruzione dei metodi a 1 passo: tn t n 1 y (t) dt = tn t n 1 f(t, y(t)) dt Per un metodo esplicito, ad esempio, si ha da cui si ottiene lo schema tn t n 1 Π(f) =. p Π(f) = Π p 1 (t) = L i (t)f(t n i, u n i ), i=1 u n = u n 1 + p i=1 tn f(t n i, u n i ) L i (t)dt t n 1. Confrontando con l espressione generale (6.6)si vede che i coefficienti b i sono quindi dati da tn hb i = L i (t)dt t n 1. Esaminiamo la costruzione di un metodo AB a due passi (p = 2): per n = 2, 3,... si ha u n = u n 1 + hb 1 f n 1 + hb 2 f n 2. (6.7) Questo metodo è ottenuto approssimando f(t, y(t)) Π 1 (t) tale che Π 1 (t n 1 ) = f(t n 1, y(t n 1 )) f(t n 1, u n 1 ) Π 1 (t n 2 ) = f(t n 2, y(t n 2 )) f(t n 2, u n 2 ). L espressione del polinomio Π 1 (t) è la seguente: Π 1 (t) = t t n 2 f n 1 + t t n 1 f n 2 = t n 1 t n 2 t n 2 t n 1 = t t n 2 h Calcolando i valori dei coefficienti b 1, b 2 f n 1 t t n 1 f n 2 = L 1 (t)f n 1 + L 2 (t)f n 2 ; h b 1 = b 2 = tn t t n 2 = 3 t n 1 h 2 tn t t n 1 t n 1 h = 1 2

107 6.1. METODI MULTISTEP 97 L 1 (t) t n 2 t n 1 t n t Figura 6.1: Andamento di L 1 (t). L 2 (t) 1 t n 0 t n 2 t n 1 t Figura 6.2: Andamento di L 2 (t).

108 98 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY si ottiene l espressione del metodo ( 3 u n = u n 1 + h 2 f n 1 1 ) 2 f n 2. I metodi a un passo esaminati nel Capitolo 2 possono essere visti come casi particolari dei metodi di Adams. Per p = 1 l espressione di un metodo esplicito di AB è u n = u n 1 + hb 1 f n 1 ; si approssima f Π 0 (t) = f(t n 1, u n 1 ): tn L espressione del metodo è quindi t n 1 Π 0 (t) dt = hf n 1 b 1 = 1. u n = u n 1 + hf n 1 che è esattamente il metodo di Eulero esplicito definito nella (2.3). L analogo metodo implicitodi AM è u n = u n 1 + hb 1 f n 1 + hb 0 f n ; in questo caso f Π(f) relativo ai punti t n 1 e t n. L espressione del polinomio Π 1 (t) è la seguente: Π 1 (t) = t t n 1 f n + t t n f n 1 = t n t n t n 1 t n = t t n 1 f n t t n h h f n 1 = L 1 (t)f n + L 2 (t)f n 1 ; e si giunge al metodo di Crank-Nicholson definito nella (2.7) Stabilità Analogamente a quanto fatto per i metodi a un passo nella Sezione 2.2, distinguiamo due tipi di stabilità: stabilità minima o zero-stabilità, su un intervallo limitato (T < + ); a-stabilità, su un intervallo illimitato (T + ). Per { definire la zero-stabilità si costruisce, per ogni h, una successione di valori u (h) } { n del problema reale e una successione z n (h) } del problema perturbato. Gli z 0, z 1,..., z n sono caratterizzati { } { da } perturbazioni δ 0, δ 1,..., δ n, con δ k < ε per ogni k. Date le successioni, lo schema si dice zero-stabile se h 0 > 0, c > u (h) n z (h) n 0 : h ]0, h 0 ] vale n z (h) n u (h) < cε. Per definire la stabilità asintotica consideriamo il problema modello { y (t) = λy(t) t ]0, + [ y(0) = 1 n (6.8)

109 6.1. METODI MULTISTEP 99 che ha soluzione esatta y(t) = e λt graficata in Figura 2.7; esaminiamo il caso Re λ < 0 se λ C, o λ < 0 se λ R. L espressione di un metodo MS per questo problema è p p u n = α j u n j + hλ β j u n j. (6.9) j=1 Per valutarne la stabilità si cercano le soluzioni di (6.9), ponendo ( n) perché il sistema sia stabile deve essere u n = r n ; lim u n = 0 n e quindi il modulo di r deve essere minore di 1. Sostituendo in (6.9) si ottiene il polinomio p p r n α j r n j hλ β j r n j = 0. Raccogliendo r n p si ottiene j=1 Si trova un polinomio di grado p in r j=0 j=0 p p r n p r p α j r p j hλ β j r p j = 0. j=1 j=0 Π(r) := ρ(r) (hλ)σ(r) = 0 (6.10) detto polinomio caratteristico del metodo multistep. Questo polinomio è diviso in due parti, la prima indipendente e la seconda funzione di hλ: p ρ(r) = r p α j r p j j=1 p σ(r) = β j r p j. j=0 (6.11) (6.12) Il polinomio ρ(r) ha p radici r j in C, e, indipendentemente da p, avrà sempre una radice r 0 = 1 detta radice fondamentale (1 p j=1 α j = 0). Questo polinomio deve verificare alcune condizioni perché il metodo sia a-stabile. Definizione 6.1 (condizione delle radici). Il metodo (6.9) soddisfa la condizione delle radici se tutte le radici di ρ(r) sono contenute nel cerchio centrato nell origine e di raggio unitario. Inoltre, se una radice cade sul bordo del cerchio deve essere necessariamente una radice semplice. Formalmente, il polinomio ρ(r) ha radici r 0 = 1, r 1, r 2,..., r p 1 tali che r j 1; se r j = 1 allora la radice è semplice (ρ (r j ) 0).

110 100 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY Definizione 6.2 (condizione forte delle radici). La condizione forte delle radici è verificata se vale la Definizione 6.1 e inoltre l unica radice sul bordo è quella di consistenza r 0 ; in altre parole, tutte le radici tranne quella fondamentale devono essere interne al cerchio: r j < 1 per j = 1, 2,..., p 1, con r 0 = 1. Definizione 6.3 (condizione assoluta delle radici). Il metodo (6.9) soddisfa la condizione assoluta delle radici se h 0 > 0 tale che, h h 0 tutte le radici di Π(r) sono in modulo < 1. Teorema 6.1. Se un metodo multistep consistente verifica la condizione delle radici (Definizione 6.1), allora è zero-stabile (e quindi convergente). Abbiamo visto che i metodi a un passo esaminati nel Capitolo 2 sono casi particolari di MS. Per questi metodi il polinomio caratteristico è dato da ρ(r) = r 1 e quindi la condizione delle radici è sempre soddisfatta. Il Teorema 6.1 ci garantisce quindi che se il metodo è consistente sarà sempre zero-stabile. Per i metodi di Adams si ha ρ(r) = r p r p 1 r 0 = 1, r 1 = 0 con molteplicità p 1. Per questi metodo è verificata la condizione forte delle radici, quindi sono zero-stabili. Per il metodo del punto medio (6.5), il polinomio caratteristico è ρ(r) = r 2 1 r 0 = 1, r 1 = 1: la condizione delle radici è verificata ed il metodo è zero-stabile. La a-stabilità necessita invece della condizione assoluta delle radici. 6.2 Metodi di Runge-Kutta Sono metodi a un passo, che devono mantere in memoria solo il valore precedente, ma per contro fanno più valutazioni della funzione. Si approssima l integrale della funzione f con delle formule di quadratura di ordine elevato per ottenere un ordine di convergenza alto. L espressione generale di questi metodi è s u n+1 = u n + h b i K i i=1 s K i = f t n + c i h, u n + h a ij K j j=1 (6.13) (6.14) con s numero degli stadi (equivale al numero di nodi della formula di quadratura) e K i che esprime le valutazioni della funzione da approssimare. Un metodo di Runge- Kutta (RK) è completamente caratterizzato dai suoi coefficienti b i, c i, a ij, che sono riassunti nella matrice di Butcher: c 1 a 11 a 12 a 1s c 2 a 21 a 22 a 2s c s a s1 a s2 a ss b 1 b 2 b s L idea alla base di questi metodi è di usare una formula di quadratura di ordine elevato per calcolare t n+1 t n f(t, y(t)) dt: si ottiene y(t n+1 ) = y(t n ) + tn+1 t n f(t, y(t)) dt y(t n ) + formula.

111 6.2. METODI DI RUNGE-KUTTA 101 Ad esempio, usando la formula dei trapezi (2.6), l integrale diventa tn+1 e si ottiene il seguente metodo: t n f(t, y(t)) dt h 2 [f(t n, y(t n )) + f(t n+1, y(t n+1 ))] u n+1 = u n + h 2 [f(t n, u n ) + f(t n+1, u n+1 )]. Per questa formula s = 2 (due nodi). I nodi possono essere scritti anche come t n = t n + c 1 h e t n+1 = t n + c 2 h: i coefficienti c 1 = 0 e c 2 = 1 dicono dove si trovano i nodi lungo l asse t (in frazioni di h). Si nota che il metodo trovato è in realtà il metodo di Heun (2.32). Approssimando con il metodo di Eulero esplicito (2.3) u n+1 = u n + hf(t n, u n ), si ottengono K 1 = f(t n, u n ) = f(t n + c 1 h, u n ) K 2 = f(t n+1, u n+1 ) = f(t n + c 2 h, u n+1 ) = f(t n + c 2 h, u n + hk 1 ) che inseriti nella formula danno il metodo di Heun in forma RK: u n+1 = u n + h(b 1 K 1 + b 2 K 2 ) (6.15) dove K 1, K 2 hanno i valori precedenti e b 1 = b 2 = 1 2. Si può costruire un metodo migliore usando una formula di quadratura di grado più elevato; scegliamo di utilizzare Cavalieri-Simpson (3.11): tn+1 t n f(t, y(t)) dt h 6 [ ] f(t n, y(t n )) + 4f(t n+1/2, y(t n+1/2 )) + f(t n+1, y(t n+1 )) dove t n+1/2 è il punto di mezzo dell intervallo di integrazione. Il metodo a un passo che si ottiene è [ 1 u n+1 = u n + h 6 f(t n, u n ) f(t n+1/2, u n+1/2 ) + 1 ] 6 f(t n+1, u n+1 ) ; questo metodo ha tre nodi (quindi s = 3). I valori di u n+1/2 e u n+1 (argomenti di f)possono essere calcolati, ad esempio, con Eulero esplicito: u n+1/2 = u n + h 2 f(t n, u n ) { un + hf(t n, u n ) (un passo intero) u n+1 = u n+1/2 + h 2 f(t n+1/2, u n+1/2 ) u n+1 = u n + h 2 f(t h n, u n ) + }{{} 2 f(t n+1/2, u n + h 2 K 1 mezzo passo da t n+1/2 Per il calcolo di u n+1 sono possibili due approcci diversi; scegliendo la seconda strada, si trova K {}} 1 { f(t n, u n )) e il metodo di RK che si ottiene è } {{ } K 2 u n+1 = u n + h(b 1 K 1 + b 2 K 2 + b 3 K 3 )

112 102 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY con K 1 = f(t n, u n ) K 2 = f(t n + h 2, u n + h 2 K 1) K 3 = f(t n + h, u n + hk 1 ) e i coefficienti b 1 = b 3 = 1 6, b 2 = 2 3. L espressione generale dei K i secondo la (6.14) è 3 K 1 = f t n + c 1 h, u n + h a 1j K j con c 1 = 0 e a 11 = a 12 = a 13 = 0 j=1 3 K 2 = f t n + c 2 h, u n + h a 2j K j con c 2 = 1 2 e a 21 = 1 2, a 22 = a 23 = 0 j=1 3 K 3 = f t n + c 3 h, u n + h a 3j K j con c 3 = 1 e a 31 = 1, a 32 = a 33 = 0. j=1 Tutti i parametri di questo metodo possono essere riassunti nella sua matrice di Butcher: I metodi di Runge-Kutta impliciti sono usati raramente, in quanto molto costosi. Un metodo RK è esplicito se a ij = 0 per j i Consistenza minima Si procede in modo analogo ai metodi multistep trattati nella Sezione { y (t) = 0 y(t) = 1 è soluzione di f(t, y(t)) = 0, quindi in un metodo RK y(0) = 1 i K i 0 i e l errore di troncamento locale è τ n = 1 1 h s b i K i = 0 i=1 quindi il metodo è consistente di ordine 0; { y (t) = 1 y(t) = t è soluzione di f(t, y(t)) = 1, quindi K i 1 i e y(0) = 0 l errore di troncamento locale è τ n = t n+1 t n s s b i = 1 b i. h i=1 i=1 Ne consegue che τ n = 0 b i = 1. Questa condizione è sempre vera, poiché hb i = ω i pesi della formula di quadratura, ed è noto che ω i = h per definizione. Si conclude che i metodi RK sono consistenti di ordine 1.

113 6.3. APPROSSIMAZIONE DI SISTEMI DI EQUAZIONI DIFFERENZIALI 103 ordine s Tabella 6.1: Numero di stadi s necessario per ottenere un dato ordine di consistenza per un metodo RK esplicito. Per ordini superiori, si vorrebbe ottenere con s nodi un ordine di almeno s, ma non è sempre così. Teorema 6.2. Un metodo di Runge-Kutta esplicito a s stadi non può avere ordine > s. Inoltre, se s 5 non può avere ordine s. In Tabella 6.1 sono elencati il numero di stadi necessari per ottenere ordine di consistenza fino a Stabilità I metodi RK espliciti non sono mai a-stabili, poiché non esistono metodi espliciti a-stabili, ma solo condizionatamente a-stabili. 6.3 Approssimazione di sistemi di equazioni differenziali Si esamina il sistema di equazioni differenziali { Y (t) = F(t, Y(t)) t ]t 0, T [ Y (0) (t 0 ) = Y (0) (6.16) con i vettori [ ] T Y(t) = y 1 (t) y 2 (t) y N (t) f 1 (t, y 1 (t), y 2 (t),..., y N (t)) f 2 (t, y 1 (t), y 2 (t),..., y N (t)) F(t, Y(t)) =.. f N (t, y 1 (t), y 2 (t),..., y N (t)) Per risolvere questo sistema si possono applicare i vari metodi già visti: Eulero esplicito: Y (n+1) = Y (n) + hf(t n, Y (n) ) con n = 0, 1, 2,... ; in forma di sistema u (n+1) 1 = u (n) 1 + hf 1 (t n, u (n) 1, u(n) 2,..., u(n) N ) u (n+1) 2 = u (n) 2 + hf 2 (t n, u (n) 1, u(n) 2,..., u(n) N ). u (n+1) N = u (n) N + hf N(t n, u (n) 1, u(n) 2,..., u(n) N )

114 104 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY Eulero implicito: Y (n+1) = Y (n) + hf(t n+1, Y (n+1) ) con n = 0, 1, 2,... ; in forma di sistema u (n+1) 1 = u (n) 1 + hf 1 (t n+1, u (n+1) 1, u (n+1) 2,..., u (n+1) N ) u (n+1) 2 = u (n) 2 + hf 2 (t n+1, u (n+1) 1, u (n+1) 2,..., u (n+1) N ). u (n+1) N = u (n) N + hf N(t n+1, u (n+1) 1, u (n+1) 2,..., u (n+1) N ) Questo è un sistema non lineare, che può essere risolto in modo approssimato, ad esempio, con il metodo di Newton (Sezione 4.3). Questa operazione piuttosto costosa (va ripetuta ad ogni passo), quindi si preferiscono i metodi espliciti quanto possibile. Per problemi di Cauchy in un equazione sola, come quelli trattati nel Capitolo 2, i diversi metodi presentano le seguenti caratteristiche: metodi espliciti: mai a-stabili, accuratezza bassa, costi bassi; metodi impliciti: alcuni a-stabili, accuratezza buona, costi elevati. La mancanza di a-stabilità comporta la necessità di usare un passo di discretizzazione h piccolo (altrimenti lo schema non converge); d altra parte, con entrambi i metodi h deve comunque essere abbastanza piccolo per avere una buona accuratezza. Per questo motivo, la mancanza di a-stabilità non è un problema particolarmente critico per una singola equazione differenziale. Nel caso di sistemi, invece, può presentare dei problemi. Consideriamo il problema modello analogo del (2.22): { Y (t) = AY(t) Y(0) = 1 (6.17) con Re λ i < 0, λ i autovalori della matrice A. Per semplificare la trattazione consideriamo il seguente Esempio. Consideriamo un istanza del problema modello y 1 (t) = 2y 1(t) + y 2 (t) y 2 (t) = 100y 2(t) y 1 (0) = y 2 (0) = 1 (6.18) con matrice A = [ ] Gli autovalori della matrice sono λ 1 = 2, λ 2 = 100; poiché Re λ i < 0 siamo nel caso del problema modello. Calcoliamo le soluzioni del sistema: y 2 (t) è banale e sostituita nella prima y 2 (t) = e 100t y 1(t) = 2y 1 (t) + y 2 (t) = 2y 1 (t) + e 100t ;

115 6.4. RIEPILOGO 105 si procede risolvendo l equazione omogenea y 1 (t) + 2y 1(t) = 0, con soluzione y om 1 (t) = ce 2t e si cerca una soluzione particolare di y 1 (t)+2y 1(t) = e 100t del tipo y p 1 (t) = αe 100t. Poichè (y p 1 ) (t) = 100αe 100t, sostituendo y p 1 nella equazione si ha 100α e 100t + 2α e 100t = e 100t si trova il coefficiente α = La soluzione è quindi y 1 (t) = y om 1 (t) + y p 1 (t) = ce 2t 1 98 e 100t ; per trovare il valore di c si usa la condizione iniziale y 1 (0) = 1 c 1 98 = 1 c = 99 Concludendo, le due soluzioni sono y 1 (t) = e 2t 1 98 e 100t e 2t (6.19) y 2 (t) = e 100t (6.20) Per poter applicare un metodo esplicito deve essere h < 2 λ 1 e h < 2 λ 2 : l autovalore maggiore è il secondo, quindi h < Come visibile in Figura 6.3, le due soluzioni y(t) e 2t e 100t 0 t Figura 6.3: Grafico delle soluzioni del sistema (6.18). sono distanziate da diversi ordini di grandezza: e 100t è molto ripida e va a zero quasi subito. Siamo costretti ad usare un passo di discretizzazione molto piccolo, quando in realtà, a parte i primi intervalli, la y 2 è quasi zero e non contribuisce alla soluzione; d altra parte, la y 1 è molto meno ripida e può essere approssimata con un passo molto minore. Si tratta di un problema stiff, in cui le due soluzioni sono molto diverse e max λ i min λ i ; i i problemi di questo tipo si hanno quando la matrice A è mal condizionata (k(a) 1). In questi casi si può usare un metodo implicito dove serve (dove le due soluzioni sono molto diverse) e passare poi ad un metodo esplicito non appena possibile.

116 106 CAPITOLO 6. METODI AVANZATI PER PROBLEMI DI CAUCHY Metodo Tipo Consistenza Zero-stabilità A-stabilità Convergenza EE E τ ch sì no ch EI I τ ch sì sì ch CN I τ ch 2 sì sì ch 2 Heun E τ ch 2 sì no ch 2 AB(p) E τ ch p sì no ch p AM(p) I τ ch p+1 sì alcuni ch p+1 PM E τ ch 2 sì no ch 2 Tabella 6.2: Riepilogo dei metodi di approssimazione per problemi di Cauchy. La convergenza è intesa in norma infinita. 6.4 Riepilogo In Tabella 6.2 sono riassunti i diversi metodi per risolvere problemi di Cauchy. La convergenza dei diversi metodi è riportata in norma infinito. Per le altre norme si possono trovare relazioni di equivalenza. Ad esempio, per Eulero esplicito con intervalli uniformi (Nh = 1), si ha u u h ch = c 1 N. Ricordando le definizioni delle diverse norme, si può scrivere una relazione di equivalenza tra la norma 1 e la norma infinito: v 1 N v. Se u u h 1 N, allora u u h 1 N 1 N = 1. Per la norma 2 c è un equivalenza analoga: v 2 N v. Come prima, si trova che u u h 2 N 1 N = N N. In generale, se un metodo è tale che u u h ch α = cn α, allora h 0 = O(1) EE u u h 1 N N α = N 1 h = h α 1 = h 0 = O(1) EE h 1 = O(h) CN h 1 2 EE u u h 2 N 1 2 N α = N 1 2 α = h α 1 2 = h 1 2 EE h 3 2 CN

117 Appendice A Norme di vettore e di matrice A.1 Norme di vettore Dato un vettore x R n una sua norma x è una sua qualche misura. Formalmente, si definisce norma un applicazione che soddisfa le seguenti proprietà: x 0 con x = 0 x = 0; αx = α x, con α C; x : R n R + {0} x + y x + y (disuguaglianza triangolare). Se alla norma è possibile associare un prodotto scalare, vale la disuguaglianza di Cauchy-Schwarz, che è molto utile: Le tre norme principali sono: (x, y) x y. x = max x i (norma infinito) i=1,n n x 1 = x i (norma 1) i=1 ( n ) 1 x 2 = x i 2 2 (norma euclidea) i=1 (A.1) (A.2) (A.3) Di queste tre, l unica a cui si puo associare un prodotto scalare è la norma euclidea, e si ha: n (x, y) = x i y i = x 2 2 = (x, x). i=1 Due norme x e x si dicono equivalenti se c 1, c 2 > 0 : c 1 x x c 2 x. 107

118 108 APPENDICE A. NORME DI VETTORE E DI MATRICE In dimensione finita tutte le norme sono equivalenti; ad esempio: }{{} 1 x x 1 }{{} n x c 1 }{{} 1 x x 2 n 1 2 }{{} x c 1 La costante c 2 dipende dalla dimensione; se si passa a dimensione infinita (n ) queste relazioni non valgono più. c 2 c 2 A.2 Norme di matrice Data una matrice quadrata A R n n, si definisce la sua norma, in modo analogo al caso vettoriale, come l applicazione che soddisfa le seguenti proprietà: A > 0 con A = 0 A = 0; αa = α A, con α C; A : R n n R + {0} A + B A + B (disuguaglianza triangolare). C è una quarta proprietà sul prodotto che non è sempre verificata: AB A B ; se una norma verifica questa proprietà è detta sub-moltiplicativa. Esaminiamo un caso in cui non vale. Consideriamo come norma di matrice la seguente M = max m ij i,j e applichiamola alle matrici A = B = [ ] Si ha: A = B = 1 [ ] [ ] AB = = [ ] AB = 2 > 1 non è sub-moltiplicativa.

119 A.2. NORME DI MATRICE 109 A.2.1 Norme naturali Sono norme di matrice definite a partire da norme di vettore (per questo dette anche norme compatibili): Ax A := max x R n x e verifica le seguenti proprietà (oltre alle tre delle norme di matrici standard): Ax A x (per definizione A Ax x ): AB A B ; la dimostrazione semplice: AB = max y {}}{ A x R n Bx x A y max max x R n x Si definisce il raggio spettrale della matrice A come e vale il seguente A B x x R n x = A B. ρ(a) = max λ λ(a) = λ max (A.4) Teorema A.1. Per ogni norma naturale di matrice vale ρ(a) A. Dimostrazione. Si cerca la coppia (λ, v), λ C, v 0 tale che Av = λv. Si ha λ v = λv = Av A v ; poiché la norma usata è naturale. Ne segue λ A λ. Una matrice A si dice convergente se lim k Ak = 0 (A.5) con A k = A } A {{ A }. Si dimostra che A è convergente ρ(a) < 1. k volte Le principali norme naturali sono derivate dalle rispettive norme vettoriali: n x A = max a ij i=1,n j=1 n x 1 A 1 = max a ij j=1,n i=1 x 2 A 2 = ρ (A T A); (A.6) (A.7) (A.8) la norma 2 di matrice è detta anche norma spettrale. Se vale A = A T (matrice A simmetrica) la norma infinita equivale alla norma 1: A = A 1

120 110 APPENDICE A. NORME DI VETTORE E DI MATRICE mentre la norma spettrale equivale al raggio spettrale della matrice: A 2 = ρ (A T A) = ρ (A 2 ) = [ρ(a)] 2 = ρ(a) = max λ(a) = λ max. λ Anche il calcolo delle norme della matrice inversa è semplificato; come prima, infatti, vale A 1 = A 1 1 e A 1 2 = = ρ (A T A 1 ) = ρ (A 2 ) = max max λ λ(a 1 ) 2 = λ λ(a 2 ) = 1 min λ λ(a) = 1 λ min.

121 Appendice B GNU Free Documentation License Version 1.2, November 2002 Copyright 2000,2001,2002 Free Software Foundation, Inc. 51 Franklin St, Fifth Floor, Boston, MA USA Everyone is permitted to copy and distribute verbatim copies of this license document, but changing it is not allowed. Preamble The purpose of this License is to make a manual, textbook, or other functional and useful document free in the sense of freedom: to assure everyone the effective freedom to copy and redistribute it, with or without modifying it, either commercially or noncommercially. Secondarily, this License preserves for the author and publisher a way to get credit for their work, while not being considered responsible for modifications made by others. This License is a kind of copyleft, which means that derivative works of the document must themselves be free in the same sense. It complements the GNU General Public License, which is a copyleft license designed for free software. We have designed this License in order to use it for manuals for free software, because free software needs free documentation: a free program should come with manuals providing the same freedoms that the software does. But this License is not limited to software manuals; it can be used for any textual work, regardless of subject matter or whether it is published as a printed book. We recommend this License principally for works whose purpose is instruction or reference. B.1 Applicability and definitions This License applies to any manual or other work, in any medium, that contains a notice placed by the copyright holder saying it can be distributed under the terms of this License. Such a notice grants a world-wide, royalty-free license, unlimited 111

122 112 APPENDICE B. GNU FREE DOCUMENTATION LICENSE in duration, to use that work under the conditions stated herein. The Document, below, refers to any such manual or work. Any member of the public is a licensee, and is addressed as you. You accept the license if you copy, modify or distribute the work in a way requiring permission under copyright law. A Modified Version of the Document means any work containing the Document or a portion of it, either copied verbatim, or with modifications and/or translated into another language. A Secondary Section is a named appendix or a front-matter section of the Document that deals exclusively with the relationship of the publishers or authors of the Document to the Document s overall subject (or to related matters) and contains nothing that could fall directly within that overall subject. (Thus, if the Document is in part a textbook of mathematics, a Secondary Section may not explain any mathematics.) The relationship could be a matter of historical connection with the subject or with related matters, or of legal, commercial, philosophical, ethical or political position regarding them. The Invariant Sections are certain Secondary Sections whose titles are designated, as being those of Invariant Sections, in the notice that says that the Document is released under this License. If a section does not fit the above definition of Secondary then it is not allowed to be designated as Invariant. The Document may contain zero Invariant Sections. If the Document does not identify any Invariant Sections then there are none. The Cover Texts are certain short passages of text that are listed, as Front- Cover Texts or Back-Cover Texts, in the notice that says that the Document is released under this License. A Front-Cover Text may be at most 5 words, and a Back-Cover Text may be at most 25 words. A Transparent copy of the Document means a machine-readable copy, represented in a format whose specification is available to the general public, that is suitable for revising the document straightforwardly with generic text editors or (for images composed of pixels) generic paint programs or (for drawings) some widely available drawing editor, and that is suitable for input to text formatters or for automatic translation to a variety of formats suitable for input to text formatters. A copy made in an otherwise Transparent file format whose markup, or absence of markup, has been arranged to thwart or discourage subsequent modification by readers is not Transparent. An image format is not Transparent if used for any substantial amount of text. A copy that is not Transparent is called Opaque. Examples of suitable formats for Transparent copies include plain ASCII without markup, Texinfo input format, LATEX input format, SGML or XML using a publicly available DTD, and standard-conforming simple HTML, PostScript or PDF designed for human modification. Examples of transparent image formats include PNG, XCF and JPG. Opaque formats include proprietary formats that can be read and edited only by proprietary word processors, SGML or XML for which the DTD and/or processing tools are not generally available, and the machine-generated HTML, PostScript or PDF produced by some word processors for output purposes only. The Title Page means, for a printed book, the title page itself, plus such following pages as are needed to hold, legibly, the material this License requires to appear in the title page. For works in formats which do not have any title page as

123 B.2. VERBATIM COPYING 113 such, Title Page means the text near the most prominent appearance of the work s title, preceding the beginning of the body of the text. A section Entitled XYZ means a named subunit of the Document whose title either is precisely XYZ or contains XYZ in parentheses following text that translates XYZ in another language. (Here XYZ stands for a specific section name mentioned below, such as Acknowledgements, Dedications, Endorsements, or History.) To Preserve the Title of such a section when you modify the Document means that it remains a section Entitled XYZ according to this definition. The Document may include Warranty Disclaimers next to the notice which states that this License applies to the Document. These Warranty Disclaimers are considered to be included by reference in this License, but only as regards disclaiming warranties: any other implication that these Warranty Disclaimers may have is void and has no effect on the meaning of this License. B.2 Verbatim copying You may copy and distribute the Document in any medium, either commercially or noncommercially, provided that this License, the copyright notices, and the license notice saying this License applies to the Document are reproduced in all copies, and that you add no other conditions whatsoever to those of this License. You may not use technical measures to obstruct or control the reading or further copying of the copies you make or distribute. However, you may accept compensation in exchange for copies. If you distribute a large enough number of copies you must also follow the conditions in section B.3. You may also lend copies, under the same conditions stated above, and you may publicly display copies. B.3 Copying in quantity If you publish printed copies (or copies in media that commonly have printed covers) of the Document, numbering more than 100, and the Document s license notice requires Cover Texts, you must enclose the copies in covers that carry, clearly and legibly, all these Cover Texts: Front-Cover Texts on the front cover, and Back-Cover Texts on the back cover. Both covers must also clearly and legibly identify you as the publisher of these copies. The front cover must present the full title with all words of the title equally prominent and visible. You may add other material on the covers in addition. Copying with changes limited to the covers, as long as they preserve the title of the Document and satisfy these conditions, can be treated as verbatim copying in other respects. If the required texts for either cover are too voluminous to fit legibly, you should put the first ones listed (as many as fit reasonably) on the actual cover, and continue the rest onto adjacent pages. If you publish or distribute Opaque copies of the Document numbering more than 100, you must either include a machine-readable Transparent copy along with each Opaque copy, or state in or with each Opaque copy a computer-network location from which the general network-using public has access to download using public-standard

124 114 APPENDICE B. GNU FREE DOCUMENTATION LICENSE network protocols a complete Transparent copy of the Document, free of added material. If you use the latter option, you must take reasonably prudent steps, when you begin distribution of Opaque copies in quantity, to ensure that this Transparent copy will remain thus accessible at the stated location until at least one year after the last time you distribute an Opaque copy (directly or through your agents or retailers) of that edition to the public. It is requested, but not required, that you contact the authors of the Document well before redistributing any large number of copies, to give them a chance to provide you with an updated version of the Document. B.4 Modifications You may copy and distribute a Modified Version of the Document under the conditions of sections B.2 and B.3 above, provided that you release the Modified Version under precisely this License, with the Modified Version filling the role of the Document, thus licensing distribution and modification of the Modified Version to whoever possesses a copy of it. In addition, you must do these things in the Modified Version: A. Use in the Title Page (and on the covers, if any) a title distinct from that of the Document, and from those of previous versions (which should, if there were any, be listed in the History section of the Document). You may use the same title as a previous version if the original publisher of that version gives permission. B. List on the Title Page, as authors, one or more persons or entities responsible for authorship of the modifications in the Modified Version, together with at least five of the principal authors of the Document (all of its principal authors, if it has fewer than five), unless they release you from this requirement. C. State on the Title page the name of the publisher of the Modified Version, as the publisher. D. Preserve all the copyright notices of the Document. E. Add an appropriate copyright notice for your modifications adjacent to the other copyright notices. F. Include, immediately after the copyright notices, a license notice giving the public permission to use the Modified Version under the terms of this License, in the form shown in the Addendum below. G. Preserve in that license notice the full lists of Invariant Sections and required Cover Texts given in the Document s license notice. H. Include an unaltered copy of this License. I. Preserve the section Entitled History, Preserve its Title, and add to it an item stating at least the title, year, new authors, and publisher of the Modified Version as given on the Title Page. If there is no section Entitled History in the Document, create one stating the title, year, authors, and publisher of the Document as given on its Title Page, then add an item describing the Modified Version as stated in the previous sentence.

125 B.5. COMBINING DOCUMENTS 115 J. Preserve the network location, if any, given in the Document for public access to a Transparent copy of the Document, and likewise the network locations given in the Document for previous versions it was based on. These may be placed in the History section. You may omit a network location for a work that was published at least four years before the Document itself, or if the original publisher of the version it refers to gives permission. K. For any section Entitled Acknowledgements or Dedications, Preserve the Title of the section, and preserve in the section all the substance and tone of each of the contributor acknowledgements and/or dedications given therein. L. Preserve all the Invariant Sections of the Document, unaltered in their text and in their titles. Section numbers or the equivalent are not considered part of the section titles. M. Delete any section Entitled Endorsements. Such a section may not be included in the Modified Version. N. Do not retitle any existing section to be Entitled Endorsements or to conflict in title with any Invariant Section. O. Preserve any Warranty Disclaimers. If the Modified Version includes new front-matter sections or appendices that qualify as Secondary Sections and contain no material copied from the Document, you may at your option designate some or all of these sections as invariant. To do this, add their titles to the list of Invariant Sections in the Modified Version s license notice. These titles must be distinct from any other section titles. You may add a section Entitled Endorsements, provided it contains nothing but endorsements of your Modified Version by various parties for example, statements of peer review or that the text has been approved by an organization as the authoritative definition of a standard. You may add a passage of up to five words as a Front-Cover Text, and a passage of up to 25 words as a Back-Cover Text, to the end of the list of Cover Texts in the Modified Version. Only one passage of Front-Cover Text and one of Back-Cover Text may be added by (or through arrangements made by) any one entity. If the Document already includes a cover text for the same cover, previously added by you or by arrangement made by the same entity you are acting on behalf of, you may not add another; but you may replace the old one, on explicit permission from the previous publisher that added the old one. The author(s) and publisher(s) of the Document do not by this License give permission to use their names for publicity for or to assert or imply endorsement of any Modified Version. B.5 Combining documents You may combine the Document with other documents released under this License, under the terms defined in section B.4 above for modified versions, provided that you include in the combination all of the Invariant Sections of all of the original

126 116 APPENDICE B. GNU FREE DOCUMENTATION LICENSE documents, unmodified, and list them all as Invariant Sections of your combined work in its license notice, and that you preserve all their Warranty Disclaimers. The combined work need only contain one copy of this License, and multiple identical Invariant Sections may be replaced with a single copy. If there are multiple Invariant Sections with the same name but different contents, make the title of each such section unique by adding at the end of it, in parentheses, the name of the original author or publisher of that section if known, or else a unique number. Make the same adjustment to the section titles in the list of Invariant Sections in the license notice of the combined work. In the combination, you must combine any sections Entitled History in the various original documents, forming one section Entitled History ; likewise combine any sections Entitled Acknowledgements, and any sections Entitled Dedications. You must delete all sections Entitled Endorsements. B.6 Collections of documents You may make a collection consisting of the Document and other documents released under this License, and replace the individual copies of this License in the various documents with a single copy that is included in the collection, provided that you follow the rules of this License for verbatim copying of each of the documents in all other respects. You may extract a single document from such a collection, and distribute it individually under this License, provided you insert a copy of this License into the extracted document, and follow this License in all other respects regarding verbatim copying of that document. B.7 Aggregation with indipendent works A compilation of the Document or its derivatives with other separate and independent documents or works, in or on a volume of a storage or distribution medium, is called an aggregate if the copyright resulting from the compilation is not used to limit the legal rights of the compilation s users beyond what the individual works permit. When the Document is included in an aggregate, this License does not apply to the other works in the aggregate which are not themselves derivative works of the Document. If the Cover Text requirement of section B.3 is applicable to these copies of the Document, then if the Document is less than one half of the entire aggregate, the Document s Cover Texts may be placed on covers that bracket the Document within the aggregate, or the electronic equivalent of covers if the Document is in electronic form. Otherwise they must appear on printed covers that bracket the whole aggregate. B.8 Translation Translation is considered a kind of modification, so you may distribute translations of the Document under the terms of section B.4. Replacing Invariant Sections with

127 B.9. TERMINATION 117 translations requires special permission from their copyright holders, but you may include translations of some or all Invariant Sections in addition to the original versions of these Invariant Sections. You may include a translation of this License, and all the license notices in the Document, and any Warranty Disclaimers, provided that you also include the original English version of this License and the original versions of those notices and disclaimers. In case of a disagreement between the translation and the original version of this License or a notice or disclaimer, the original version will prevail. If a section in the Document is Entitled Acknowledgements, Dedications, or History, the requirement (section B.4) to Preserve its Title (section B.1) will typically require changing the actual title. B.9 Termination You may not copy, modify, sublicense, or distribute the Document except as expressly provided for under this License. Any other attempt to copy, modify, sublicense or distribute the Document is void, and will automatically terminate your rights under this License. However, parties who have received copies, or rights, from you under this License will not have their licenses terminated so long as such parties remain in full compliance. B.10 Future revisions of this License The Free Software Foundation may publish new, revised versions of the GNU Free Documentation License from time to time. Such new versions will be similar in spirit to the present version, but may differ in detail to address new problems or concerns. See Each version of the License is given a distinguishing version number. If the Document specifies that a particular numbered version of this License or any later version applies to it, you have the option of following the terms and conditions either of that specified version or of any later version that has been published (not as a draft) by the Free Software Foundation. If the Document does not specify a version number of this License, you may choose any version ever published (not as a draft) by the Free Software Foundation. Addendum: How to use this License for your documents To use this License in a document you have written, include a copy of the License in the document and put the following copyright and license notices just after the title page: Copyright YEAR YOUR NAME. Permission is granted to copy, distribute and/or modify this document under the terms of the GNU Free Documentation License, Version 1.2 or any later version published by the Free Software Foundation; with no Invariant Sections, no Front-Cover Texts, and no Back-Cover Texts. A copy of the license is included in the section entitled GNU Free Documentation License.

128 118 APPENDICE B. GNU FREE DOCUMENTATION LICENSE If you have Invariant Sections, Front-Cover Texts and Back-Cover Texts, replace the with... Texts. line with this: with the Invariant Sections being LIST THEIR TITLES, with the Front- Cover Texts being LIST, and with the Back-Cover Texts being LIST. If you have Invariant Sections without Cover Texts, or some other combination of the three, merge those two alternatives to suit the situation. If your document contains nontrivial examples of program code, we recommend releasing these examples in parallel under your choice of free software license, such as the GNU General Public License, to permit their use in free software.