Corso di Geometria e Algebra Lineare - Sezione di Metodi Numerici

Transcript

1 Corso di Geometria e Algebra Lineare - Sezione di Metodi Numerici C. Vergara 2. Determinazione numerica degli zeri di una funzione Si consideri il seguente problema: Data f : [a, b] R, determinare i valori di α, qualora esistano, tali per cui f(α) = 0. Una funzione potrebbe non ammettere soluzioni a questo problema, come nel caso in Figura 1 in linea continua, o ammetterne più di una (nel caso tratteggiato in figura ci sono due soluzioni). I valori che risolvono il precedente problema sono detti zeri o radici di f(x). f(x) α 2 α 1 x Figura 1: Esempi di funzioni e di esistenza di radici. Esempio: Si consideri un gas composto da N molecole, che occupa un volume V, a temperatura T e soggetto a pressione P. Dalla legge di Van der Walls abbiamo ( ( ) ) N 2 P + a (V Nb) = knt, V con a, b, k costanti. La precedente legge (ottenuta sotto opportune ipotesi sui gas) afferma che dato un gas (quindi con N assegnato), se si assegnano due quantità fra temperatura, pressione e volume, la terza quantità non può assumere qualsiasi valore ma deve soddisfare la legge 1

2 stessa. Ad esempio, se si volesse calcolare V, conoscendo T e P, bisognerebbe determinare i valori di V che sodisfano la legge di Van der Walls, cioè determinare gli zeri della funzione ( ( ) ) N 2 f(x) = P + a (x Nb) knt, x la cui determinazione deve essere fatta per via numerica. Definizione 1 Un metodo numerico si dice iterativo, se si basa sulla introduzione di una successione x (k), k = 0, 1,... il cui aggiornamento viene determinato mediante una certa legge. Affinché un metodo iterativo parta, è necessario fornire un punto di partenza x (0). Affinché un metodo iterativo produca una soluzione numerica accurata, si richiede che esso soddisfi la proprietà di convergenza, ovvero k x(k) = α, con α radice di f. Introducendo l errore e (k) := α x (k), la convergenza è equivalente a richiedere che k e(k) = 0. Definizione 2 Un metodo numerico iterativo si dice globale se la convergenza è garantita per ogni punto di partenza x (0), altrimenti si dice locale se esiste δ > 0 tale che la convergenza è garantita solo per x (0) (α δ, α + δ). Definizione 3 Un metodo numerico iterativo si dice di ordine p se vale e (k+1) e (k) p C, per un certo intero p che è detto ordine del metodo, e dove C è una costante che deve essere minore di uno nel caso p = 1. La precedente definizione dice che più l ordine di un metodo è alto, più la sua velocità di convergenza è alta. Infatti, a parità di errore al passo k, più p è grande, più l errore al passo k + 1 sarà piccolo (si noti che gli errori e (k) sono numeri piccoli quindi minori di uno). Definizione 4 Un metodo numerico si dice consistente se la soluzione continua (quella del problema originario) introdotta nel problema numerico, lo soddisfa. Teorema 1 Un metodo numerico iterativo convergente è consistente, ma non viceversa. Dal precedente teorema, segue che un metodo per poter essere convergente deve essere consistente. Quindi un buon criterio con cui costruire un metodo iterativo è di iniziare a verificare che sia consistente. Metodo della bisezione. Supponiamo che esista un unica radice in [a, b] (se ne esistono più di una, si riduca [a, b] finché ne contenga solamente una). Sia inoltre f continua. Allora 2

3 si ha: f(a)f(b) 0. L idea è quella di considerare come punto di partenza il punto medio x di [a, b], e poi di verificare se il segno di f(x) sia discorde rispetto a f(a) o a f(b). Nel primo caso vorrà dire che α sta fra a e x, nel secondo caso fra x e b. In entrambi i casi viene quindi einato un semi-intervallo, quello dove non è contenuta la radice. A questo punto si procede, calcolando il punto medio del nuovo intervallo e così via, producendo una seccessione di punti medi, cioè un metodo iterativo. f(x) k a = a k+1 x k+1 α k x = b k+1 k b x Figura 2: Iterazione k esima del metodo della bisezione e aggiornamento. Dati a e b, siano I 0 = [a, b], a (0) = a, b (0) = b. La regola di aggiornamento è data da x (k) = a(k) + b (k) 2 Se [f(a (k) )f(x (k) )] < 0 allora a (k+1) = a (k), b (k+1) = x (k). Altrimenti a (k+1) = x (k), b (k+1) = b (k). Si ponga infine I k+1 = [a (k+1), b (k+1) ]. Per costruzione, si ha che l errore in modulo è più piccolo di metà larghezza dell intervallo corrente, cioè x (k) α < 1 2 I k. La quantità di destra tende a zero per k, poiché l intervallo viene dimezzato ad ogni iterazione. Quindi si ha k e(k) = 0, che fa vedere come il metodo di bisezione sia convergente. Inoltre si può mostrare che esso è un metodo globale, ma senza ordine, in quanto la convergenza non è neanche monotona (cioè l errore non diminuisce ad ogni iterazione). Il metodo della bisezione è quindi caratterizzato da una convergenza lenta ma garantita. Metodo di Newton. Si supponga di avere la soluzione numerica al passo k, x (k). Dallo sviluppo in serie di Taylor si ha ( f(α) = f(x (k) ) + f (x (k) )(α x (k) ) + O α x (k) 2), 3

4 dove O(h q ) è una quantità che va a zero per h 0 velocemente almeno quanto h q. Ricordando che f(α) = 0 e trascurando l ultimo termine, si ottiene da cui si ricava 0 = f(α) f(x (k) ) + f (x (k) )(α x (k) ), α x (k) f(x(k) ) f (x (k) ). (1) Di conseguenza, si decide di aggiornare la soluzione numerica con la seguente regola x (k+1) = x (k) f(x(k) ) f (x (k) ), (2) che, vista la (1), dovrebbe essere più vicino alla radice α. La regola di aggiornamento (2) prende il nome di metodo di Newton. Il metodo di Newton è consistente, infatti introducendo la radice α nel metodo, si ottiene α = α f(α)/f (α). La quantità a destra è ancora α essendo f(α) = 0, e quindi metodo di Newton è consistente. Dal punto di vista geometrico, l interpretazione del metodo di Newton è quella di approssimare ad ogni iterazione la funzione f con la retta tangente in x (k) e porre come nuova iterata x (k+1) la radice di tale retta (si veda Figura 3). f(x k) f (x k ) f(x k ) xk+1 α x k Figura 3: Intepretazione geometrica del metodo di Newton. Il metodo di Newton utilizza più informazioni rispetto alla bisezione, per la quale è necessario conoscere solamente il segno della funzione f. Ci aspettiamo quindi una maggiore efficienza di Newton che, infatti, mostreremo in seguito essere di ordine 2. Si può inoltre mostrare che esso è un metodo locale. Quindi si potrebbe pensare di fare qualche iterazione di bisezione all inizio, sfruttando la globalità di questo metodo, e poi di avanzare con Newton una volta si ritenga di essersi avvicinati sufficientemente alla radice. Nel caso in cui non si disponga della derivata di f (ad esempio perché quest ultima è data per valori e non per via analitica) o nel caso in cui la derivata sia costosa da calcolare, si può pensare di sostituirla con il rapporto incrementale f(x (k) ) f(x (k 1) ) x (k) x (k 1) f (x (k) ), 4

5 ottenendo il metodo della secante che è di ordine p 1.6. x (k+1) = x (k) f(x(k) )(x (k) x (k 1) ) f(x (k) ) f(x (k 1) ), Equazioni di punto fisso. Si consideri una funzione (per semplicità continua) φ : [a, b] R e si consideri il problema Determinare i valori β [a, b] tali che β = φ(β) Un valore β che soddisfa la precedente proprietà, cioè la cui immagine è uguale a se stesso, si dice punto fisso della funzione φ e il precedente problema è detto problema di punto fisso. La rappresentazione grafica dei punti fissi è riportata in Figura 4, dove è mostrato come essi siano ottenuti dall intersezione di φ con la bisettrice y = x. φ( x) y=x α Figura 4: Intepretazione geometrica del punto fisso. Si consideri il problema di determinare le radici di f(x). Si introduca la funzione φ := x f(x). Allora, se α è radice di f, vale φ(α) = α f(α) = α, e quindi α è punto fisso di φ. Quindi, i due problemi determinare le radici di f(x) e determinare i punti fissi di φ(x) = x f(x) ammettono gli stessi risultati. Si può quindi passare da un problema all altro in base alle necessità. Ovviamente il problema di punto fisso non ammette in generale una formula analitica per la sua risoluzione. Bisogna ricorrere anche in questo caso a metodi numerici. In particolare, consideriamo il metodo delle iterazioni di punto fisso (MIPF) Dato x (0), si aggiorni la nuova iterata con la regola x (k+1) = φ(x (k) ). 5

6 Il precedente metodo è un metodo iterativo. È facile verificare che esso è consistente. Infatti introducendo il punto fisso β nel metodo, si ottiene β = φ(β) che è vera essendo β punto fisso. Si supponga di voler trovare le radici di f(x) = x cos(x). Come visto, tali radici sono anche i punti fissi di φ(x) = x f(x) = cos(x). Si decide quindi di usare il metodo delle iterazioni di punto fisso applicato a φ per determinare le radici di f. Si parte da x (0) = 1. Si ottiene x (1) = cos(x (0) ) = x (2) = cos(x (1) ) = x (10) = cos(x (9) ) = x (20) = cos(x (19) ) = che sembra convergere proprio verso il punto fisso β = , che è proprio una radice di f. Si consideri tuttavia il problema di determinare le radici di f(x) = x 2 + x + 1, cioè i punti fissi di φ = x 2 1. Applicando il metodo delle iterazioni di punto fisso a φ, partendo da x (0) = 0, si ottiene x (1) = (x (0) ) 2 1 = 1 x (2) = (x (1) ) 2 = 0 x (3) = (x (2) ) 2 1 = 1 che non converge seppur il problema ammetta le soluzioni α 1,2 = (1 ± 5)/2, determinabili risolvendo f(x) = 0. Quindi, il metodo delle iterazioni di punto fisso non è detto che converga al punto fisso anche se esso esiste. Si cercano di seguito le condizioni sotto le quali la convergenza sia garantita. Dalla definizione dell errore, del punto fisso β e della regola di aggiornamento del metodo delle iterazioni di punto fisso, si ottiene e (k+1) = β x (k+1) = φ(β) φ(x (k) ). Dal teorema di Lagrange, esiste un punto ξ (k) compreso fra β e x (k) (o fra x (k) e β) tale che φ(β) φ(x (k) ) = φ (ξ (k) )(β x (k) ). Si ha dunque e (k+1) = φ (ξ (k) )(β x (k) ) φ (ξ (k) ) e (k). (3) Osservando che k ξ (k) = β (essendo ξ (k) un punto compreso in un intervallo che tende a coincidere con il solo punto β) si ha k e(k+1 ) φ (β) k e(k), da cui si deduce che la convergenza è garantita per φ (β) < 1. (4) Tornando al problema precedente, si ottiene φ (β) = 1± 5 > 1, e questo spiega perché il metodo delle iterazione di punto fisso non convergeva. 6

7 Dal punto di vista pratico, la verifica della condizione (4) non è attuabile visto che β non è nota. Tuttavia, notiamo che essendo φ continua, esiste δ > 0 tale che φ (x) < 1 x (β δ, β + δ). Di conseguenza, esiste k tale per cui e (k+1) < e (k) per k > k. (5) Questo mostra che è sufficiente trovare (ad esempio con qualche iterazione di bisezione) un intervallo contenente β in cui φ < 1 per assicurare la convergenza. Inoltre, la (5) mostra come il MIPF sia almeno di grado 1. Ricapitolando: - se φ (β) < 1 convergenza; - se φ (β) > 1 non convergenza; - se φ (β) = 1 non si può concludere nulla. Dalla (5), segue che il metodo delle iterazioni di punto fisso è (almeno) di ordine 1, a patto di aspettare un numero sufficiente di iterazioni. Si nota pure che per φ (β) = 0 essa perde di senso. Infatti, in questo caso, si può dimostrare che si ottiene k e(k+1 ) 1 2 φ (β) k e(k) 2, e il metodo diventa quindi di ordine 2. Tornando alla reinterpretazione del problema di determinare le radici α di una funzione f(x) come punti fissi di un altra funzione φ(x), osserviamo che, in generale, le radici di f(x) sono i punti fissi di φ γ := x γ f(x), per un qualsiasi γ 0. La convergenza del MIPF applicato a φ γ dipende, come visto, da φ γ(β) e quindi da γ. Ci si può quindi chiedere se esistano delle scelte di γ diverse da quella classica γ = 1 che garantiscano un ordine di convergenza maggiore di 1. A questo fine, si prenda γ = 1 f (x), che porta a considerare la funzione φ N := x f(x) f (x). Applicando il MIPF a φ N, si ottiene x (k+1) = x (k) f(x(k) ) f (x (k) ), cioè il metodo di Newton. Perciò, per analizzare la convergenza del metodo di Newton, è sufficiente analizzare φ N (α), con α radice di f(x). Si ottiene φ N (x) = 1 [f (x)] 2 f(x)f (x), [f (x)] 2 da cui segue φ N(α) = 1 [f (α)] 2 [f (α)] 2 = 0, avendo notato che f(α) = 0. Questo mostra che il metodo di Newton è di ordine 2, come anticipato precedentemente. Tuttavia, se la molteplicità della radice α è pari a 2 (cioè se f (α) = 0), allora φ N (α) 0 in generale, e il metodo cessa di essere di ordine 2. In generale, se la molteplicità di α è pari a m (cioè se f (j) (α) = 0, j = 0, 1,...,m 1) allora si considera il metodo di Newton modificato x (k+1) = x (k) m f(x(k) ) f (x (k) ), 7

8 che è di ordine 2. Criteri d arresto. Come visto, un metodo iterativo convergente raggiunge la soluzione esatta del problema dopo infinite iterazioni. È quindi impensabile aspettare che il processo iterativo sia terminato, servendo un tempo infinito perché questo avvenga. Nasce quindi la necessità di introdurre dei criteri che permettano di capire quando sia opportuno arrestare il processo iterativo. L idea più semplice consiste nell arrestarsi quando l errore è sufficientemente piccolo, cioè se e (k)) < ε, con ε tolleranza assegnata. La scelta della tolleranza dipende dal problema specifico ed è determinata dalla sensibilità dell ingegnere, che in base alle situazioni deve capire se vuole una soluzione poco accurata, ma di veloce calcolo (tolleranza alta), oppure una soluzione molto accurata a costo di spendere molto tempo di calcolo (tolleranza bassa). Il precedente criterio sull errore non è tuttavia implementabile, dal momento che la radice α e quindi l errore non sono noti. Si consideri quindi l incremento fra due iterate successive, per cui vale x (k+1) x (k) = x (k+1) α + α x (k) = e (k+1) e (k) φ (ξ (k) ) 1 e (k), dove nell ultimo passaggio si è usata la (3). Se quindi in un intorno di α, φ è piccola, si ottiene che l incremento x (k+1) x (k) è simile all errore e quindi un buon criterio d arresto consiste nell arrestare il processo iterativo quando x (k+1) x (k) < ε. Tale metodo è quindi molto valido per metodi di ordine 2, essendo φ (α) = 0. Un secondo criterio d arresto utilizzabile nella pratica è quello basato sul calcolo del residuo f(x (k) ) e sul richiedere che esso sia sufficientemente piccolo cioè f(x (k) ) < ε. Infatti, ci si aspetta che più x (k) si avvicini ad α, più il residuo si avvicini a 0. Tuttavia, come si nota da Figura 5, tale criterio potrebbe essere molto fuorviante nel caso in cui f (α) << 1. Infatti, in tal caso, una riduzione del residuo al di sotto di una soglia prefissata ε non corrisponde al fatto che x (k) sia vicino ad α. Tale metodo è quindi valido se f (α) 1. 8

9 f(x) ε α x (k) x Figura 5: Intepretazione grafica del criterio sul residuo. 9