APPROSSIMAZIONE di FUNZIONI

Transcript

1 APPROSSIMAZIONE di FUNZIONI Francesca Pelosi Dipartimento di Sc. Matematiche ed Informatiche, Università di Siena CALCOLO NUMERICO a.a APPROSSIMAZIONE di FUNZIONI p.1/3

2 APPROSSIMAZIONE di FUNZIONI: consiste nella sostituzione di una funzione complicata con una più semplice scelta all interno di una classe di funzioni a dimensione finita La funzione da approssimare f(x) non è nota, ma si conoscono alcuni valori y i su un insieme di punti x i, i =, 1,..., n e si vogliono indicazioni sul comportamento della funzione in altri punti (dati sperimentali) modello rappresentativo La funzione da approssimare è nota in forma analitica, ma per il suo calcolo su calcolatore deve essere sostituita con funzioni più semplici APPROSSIMAZIONE di FUNZIONI p.2/3

3 APPROSSIMAZIONE di FUNZIONI Tecniche differenti a seconda del problema specifico comportano utilizzo di distanze diverse per approssimare dati sperimentali affetti da variabilità statica si sceglie la distanza di tipo L 2 (minimi quadrati) per pochi dati e accurati una interpolazione risulta più adeguata per approssimare f(x) per il suo calcolo su calcolatore è necessaria una approssimazione di tipo norma infinito APPROSSIMAZIONE di FUNZIONI p.3/3

4 MIGLIORE APPROSSIMAZIONE LINEARE DEF. Sia S uno spazio lineare normato e : S R un funzionale lineare tale che: 1. f, f S; 2. f = f ; 3. αf = α f, α R, f S; 4. f + g f + g, f, g S; V S un sottospazio lineare di dimensione finita, dim V = N. Preso f S, il problema di migliore approssimazione (m.a.) lineare consiste nel cercare v V tale che: f v f v, v V APPROSSIMAZIONE di FUNZIONI p.4/3

5 MIGLIORE APPROSSIMAZIONE LINEARE Esempio. S = R 2,f = (1, 1) e V il sottospazio di R 2 generato da v 1 = (1, ). Il problema di determinare la m.a. ad f in V consiste nel determinare sulla retta individuata da (1, ) il punto che dista meno da f = (1, 1) secondo la norma prescelta. B(f, r) = {(x, y) R 2 : (1, 1) (x, y) r} f f f V V V (1,) (1,) (,) (2,) (x, y) 1 = x + y, (x, y) 2 = x 2 + y 2, (x, y) = max{ x, y } APPROSSIMAZIONE di FUNZIONI p.5/3

6 MIGLIORE APPROSSIMAZIONE LINEARE TEOREMA (ESISTENZA) Sia f S. Se V ha dimensione finita, allora esiste almeno un v V tale che: f v f v, v V. Dim: Sia B una sfera centrata in f con raggio f : B = {g S : g f f }. B: g soddisfa g f = f ; V : in quanto V spazio lineare; B V = C. Se v C v f f inoltre C ovvero f = f, per cui inf v V f v = inf v C f v APPROSSIMAZIONE di FUNZIONI p.6/3

7 MIGLIORE APPROSSIMAZIONE LINEARE infatti se w V con w / B si ha: f w > f = f quindi lo è un approssimazione migliore di w per f. C è chiuso e limitato in uno spazio a dimensione finita C è un compatto, la norma è un funzionale da S in R, nell insieme C, ammette minimo. esiste un valore in cui raggiunge il valore minimo, e questo è per definizione la migliore approssimazione lineare. APPROSSIMAZIONE di FUNZIONI p.7/3

8 MIGLIORE APPROSSIMAZIONE LINEARE DEF. Sia S uno spazio lineare normato. Una norma : S R si dice stretta, se indicato con B(f, r) = {g S : g f r} la sfera centrata in f con raggio r e comunque presi g 1, g 2 B(f, r), ( g 1 f = g 2 f = r) si ha g = αg 1 + (1 α)g 2, α (, 1) g f < r. Esempio. S = R 2 la norma infinito, (x, y) = max{ x, y } non è stretta, la norma 1, (x, y) 1 = x + y non è stretta, la norma euclidea, (x, y) 2 = x 2 + y 2 è stretta. APPROSSIMAZIONE di FUNZIONI p.8/3

9 MIGLIORE APPROSSIMAZIONE LINEARE TEOREMA (UNICITÀ) Siano S uno spazio lineare strettamente normato e V un sottospazio S di dimensione finita N, la migliore approssimazione (m.a.) a f S con f / V esiste ed è unica. Dim: (Per assurdo) Suppongo che esistano due m.a. v 1, v 2 V ad f S, chiamo d = f v 1 = f v 2. Considero v = 1 2 v v 2, la distanza ottimale: f v = 1 2 f f 1 2 v v 2 = 1 2 (f v 1) (f v 2) 1 2 ( f v 1 + f v 2 ) = 1 2 2d = d. Poichè v 1, v 2 B(f, d ), per ipotesi di norma stretta f v < d. Assurdo, v risulta essere una approssimazione migliore di v 1, v 2. APPROSSIMAZIONE di FUNZIONI p.9/3

10 MIGLIORE APPROSSIMAZIONE LINEARE ESEMPI S = L 2 [a, b], spazio delle funzioni continue con potenza seconda integrabile in [a, b], è uno spazio di Hilbert dotato di prodotto scalare e norma: < f, g >= b a f(x)g(x)dx, f = < f, f >, spazio strettamente normato (norma dei minimi quadrati) S = L p 2 [a, b] con norma: b f = è strettamente normato. a p(x)[f(x)] 2 dx APPROSSIMAZIONE di FUNZIONI p.1/3

11 MIGLIORE APPROSSIMAZIONE LINEARE ESEMPI S = C[a, b] spazio delle funzioni continue in [a, b] con la norma di Chebichev f = max a x b f(x) non è strettamente normato. non è garantita l unicità della m.a. ma dipende dalla scelta del sottospazio. Se V = IP n la soluzione è unica. APPROSSIMAZIONE di FUNZIONI p.11/3

12 M. A. ai minimi quadrati Sia S = L 2 [a, b] e V sottospazio con dim V = N. Data f L 2 [a, b] si cerca un v V tale che f v f v, v V, ovvero b b a [f(x) v (x)] 2 dx a [f(x) v(x)] 2 dx v V b a [f(x) v (x)] 2 dx b Sia {v 1 (x), v 2 (x),..., v N (x)} base di V, v V v(x) = a 1 v 1 (x) + + a N v N (x) a [f(x) v(x)] 2 dx (1) APPROSSIMAZIONE di FUNZIONI p.12/3

13 M. A. ai minimi quadrati Trovare v equivale a trovare la N-upla di coefficienti a 1, a 2,..., a N che rendano minima la f v ovvero dalla [1], si cerca F (a 1, a 2,..., a N ) = F (a 1, a 2,..., a N ) = b a min F (a 1, a 2,..., a N ) a 1,a 2,...,a N {f(x) [a 1 v 1 (x) + + a N v N (x)]} 2 dx. F è derivabile rispetto alle variabili a 1, a 2,..., a N, non ha massimo, (è un paraboloide superiormente illimitato) i punti critici sono tutti e soli punti di minimo si determina il minimo risolvendo il sistema di equazioni normali: F a i (a 1, a 2,..., a N ) =, i = 1,..., N APPROSSIMAZIONE di FUNZIONI p.13/3

14 M. A. ai minimi quadrati F (a 1, a 2,..., a N ) = a i a i = = 2 b a b = 2 a b a [f(x) a i [f(x) b [f(x) a N a j v j (x)] 2 dx j=1 N a j v j (x)] 2 dx j=1 N a j v j (x)]v i (x)dx j=1 f(x)v i (x)dx N b a j v j (x)v i (x)dx j=1 a APPROSSIMAZIONE di FUNZIONI p.14/3

15 M. A. ai minimi quadrati F a i (.) =, i = 1,..., N N b a j j=1 a v j (x)v i (x)dx = b a f(x)v i (x)dx, i = 1,..., N N j=1 < v i, v j > a j =< v i, f >, i = 1,..., N < v 1, v 1 > a 1 + < v 1, v 2 > a < v 1, v N > a N = < v 1, f > < v 2, v 1 > a 1 + < v 2, v 2 > a < v 2, v N > a N = < v 2, f >... < v N, v 1 > a 1 + < v N, v 2 > a < v N, v N > a N = < v N, f > APPROSSIMAZIONE di FUNZIONI p.15/3

16 M. A. ai minimi quadrati Equazioni Normali in forma matriciale Ma = r con a = (a 1, a 2,..., a N ) T, r = (r 1, r 2,..., r N ) T, dove r i =< v i, f >= b a v i (x)f(x)dx, m i,j =< v i, v j >= b a v i (x)v j (x)dx M R N N risulta simmetrica per costruzione m i,j =< v i, v j >=< v j, v i >= m j,i = invertibile e definita positiva b a v j (x)v i (x)dx APPROSSIMAZIONE di FUNZIONI p.16/3

17 M. A. ai minimi quadrati Esempio: Sia f(x) = x 2, S = L 2 [, 1], con norma: 1 f = [f(x)] 2 dx, V = IP 1 con base {1, x}. Lo spazio S risulta strettamente normato, dim(v ) = N = 2 esiste una e una sola soluzione al problema di m.a. nel senso di minimi quadrati. v1(x) = 1, v 2 (x) = x, v(x) = a 1 + a 2 x, m 1,1 = < 1, 1 >= 1 1 1dx = 1 m 1,2 = < 1, x >= 1 1 xdx = x = 1 2 = m 2,1 m 2,2 = < x, x >= 1 x2 dx = x = 1 3 r 1 = < 1, x 2 >= 1 x2 dx = x = 1 3 r 2 = < x, x 2 >= 1 x3 dx = x = 1 4 APPROSSIMAZIONE di FUNZIONI p.17/3

18 M. A. ai minimi quadrati a 1 a 2 = la soluzione a 1 = 1 6, a 2 = 1, la m.a ai minimi quadrati di x 2 nello spazio IP 1 è la retta v (x) = x f(x)=x v * (x)=x 1/ APPROSSIMAZIONE di FUNZIONI p.18/3

19 M. A. ai minimi quadrati la matrice M può essere mal condizionata se V = IP n, con base {1, x, x 2,..., x n } e [a, b] = [, 1], m i,j = 1 x i+j 2 dx = 1 i + j 1 M è la matrice di Hilbert di ordine n, fortemente malcondizionata si può cambiare la base di V, la situazione ottimale si ha per 1 M =... m 1, i = j i,j =< v i, v j >=, i j 1 la base v 1 (x),..., v N (x) si dice ortonormale APPROSSIMAZIONE di FUNZIONI p.19/3

20 M. A. ai minimi quadrati Il sistema alle equazioni normali diventa a 1. a N = < v 1, f >. < v N, f > a 1 =< v 1, f >. a N =< v N, f > v (x) =< v 1, f > v 1 (x) + + < v N, f > v N (x) se la base v 1 (x),..., v N (x) è ortogonale m i,j = k i, i = j, i j M = k 1... k N a 1 = <v 1,f> k 1. a N = <v N,f> k N APPROSSIMAZIONE di FUNZIONI p.2/3

21 M. A. ai minimi quadrati: caso discreto Dati i punti (x 1, f 1 ),..., (x k, f k ) si cerca una funzione che passi vicino f i x i Si vuol misurare: v(x q ) f q, q = 1,..., k APPROSSIMAZIONE di FUNZIONI p.21/3

22 M. A. ai minimi quadrati: caso discreto Si può pensare come differenza tra componenti di due vettori di R k v(x 1 ) f 1.. v(x k ) f k APPROSSIMAZIONE di FUNZIONI p.22/3

23 M. A. ai minimi quadrati: caso discreto Si può pensare come differenza tra componenti di due vettori di R k v(x 1 ) f 1.. v(x k ) Teoricamente qualunque norma va bene, la più semplice è quella euclidea v(x 1 ) f 1.. = k (v(x q ) f q ) 2 q=1 v(x k ) 2 problema della m.a nel senso dei minimi quadrati f k f k APPROSSIMAZIONE di FUNZIONI p.22/3

24 M. A. ai minimi quadrati: caso discreto Si può pensare come differenza tra componenti di due vettori di R k v(x 1 ) f 1.. v(x k ) Teoricamente qualunque norma va bene, la più semplice è quella euclidea v(x 1 ) f 1.. = k (v(x q ) f q ) 2 q=1 v(x k ) 2 problema della m.a nel senso dei minimi quadrati f k S = L 2 [a, b], la 2 è una seminorma, se V S con dim V = N k 2 è una norma stretta in V esistenza e unicità della soluzione f k APPROSSIMAZIONE di FUNZIONI p.22/3

25 M. A. ai minimi quadrati: caso discreto Preso V S, dim V = N con base {v 1 (x), v 2 (x),..., v N (x)} v V, v(x) = N j=1 a jv j (x) il problema di m.a. ai minimi quadrati consiste nel trovare v V tale che: k (v (x q ) f q ) 2 k (v(x q ) f q ) 2, q=1 q=1 v V equivale a trovare la N-upla di coefficienti a 1, a 2,..., a N tale che F (a 1, a 2,..., a N ) = min F (a 1, a 2,..., a N ) a 1,a 2,...,a N F (a 1, a 2,..., a N ) = k N a j v j (x q ) f q q=1 j=1 2. APPROSSIMAZIONE di FUNZIONI p.23/3

26 M. A. ai minimi quadrati: caso discreto i punti critici sono tutti e soli punti di minimo si determina il minimo risolvendo il sistema di equazioni normali: F (a 1, a 2,..., a N ) =, i = 1,..., N a i F a i (a 1, a 2,..., a N ) = ( k q=1 2 N ) j=1 a jv j (x q ) f q v i (x q ) [ k N = 2 q=1 j=1 a jv j (x q )v i (x q ) ] k q=1 f qv i (x q ) F a 1 ( ) =, i = 1,..., N N k v j (x q )v i (x q ) = a j j=1 q=1 k f q v i (x q ), q=1 i = 1,..., N N j=1 < v i, v j > a j =< v i, f >, i = 1,..., N APPROSSIMAZIONE di FUNZIONI p.24/3

27 M. A. ai minimi quadrati: caso discreto Equazioni Normali in forma matriciale Ma = r con a = (a 1, a 2,..., a N ) T, r = (r 1, r 2,..., r N ) T, dove r i =< v i, f >= k v i (x q )f q, m i,j =< v i, v j >= q=1 k v i (x q )v j (x q ) q=1 Analogamente M R N N risulta simmetrica per costruzione invertibile e definita positiva può essere mal condizionata si considereano basi ortogonali/ortonormali rispetto al prodotto scalare. APPROSSIMAZIONE di FUNZIONI p.25/3

28 M. A. ai minimi quadrati: caso discreto Esempio: Dati i punti (, 1), (2, 1), (1, ), si vuol trovare la m.a. ai minimi quadrati in V = IP 1. con base {1, x}. Lo spazio S risulta strettamente normato, dim(v ) = N = 2 esiste una e una sola soluzione al problema di m.a. nel senso di minimi quadrati. v1(x) = 1, v 2 (x) = x, v(x) = a 1 + a 2 x, m 1,1 = < 1, 1 >= = 3 m 1,2 = < 1, x >= = 3 = m 2,1 m 2,2 = < x, x >= = 5 r 1 = < 1, f >= = 2 r 2 = < x, f >= = a 1 = a 2 2 la soluzione a 1 = 2 3, a 2 =, la m.a ai minimi quadrati dei punti assegnati nello spazio IP 1 è la retta costante v (x) = 2 3. APPROSSIMAZIONE di FUNZIONI p.26/3

29 M. A. ai minimi quadrati: caso discreto Esempio: Dati i punti (, 1), (2, 1), (1, ), si vuol trovare la m.a. ai minimi quadrati in V = IP 1. con base {1, x}. Lo spazio S risulta strettamente normato, dim(v ) = N = 2 esiste una e una sola soluzione al problema di m.a. nel senso di minimi quadrati. v1(x) = 1, v 2 (x) = x, v(x) = a 1 + a 2 x, m 1,1 = < 1, 1 >= = 3 m 1,2 = < 1, x >= = 3 = m 2,1 m 2,2 = < x, x >= = r 1 = < 1, f >= = 2 r 2 = < x, f >= = a 1 = a 2 2 la soluzione a 1 = 2 3, a 2 =, la m.a ai minimi quadrati dei punti assegnati nello spazio IP 1 è la retta costante v (x) = APPROSSIMAZIONE di FUNZIONI p.26/3

30 M. A. ai minimi quadrati: caso discreto Se la matrice M risulta mal condizionata: F (a 1, a 2,..., a N ) = k q=1 N j=1 a j v j (x q ) f q 2 = N j=1 a jv j (x 1 ) N j=1 a jv j (x 2 ). N j=1 a jv j (x k ) f 1 f 2. f k 2 2 = a 1 v 1 (x 1 ) + + a N v N (x 1 ) a 1 v 1 (x 2 ) + + a N v N (x 2 ). a 1 v 1 (x k ) + + a N v N (x k ) f 1 f 2. f k 2 2 APPROSSIMAZIONE di FUNZIONI p.27/3

31 M. A. ai minimi quadrati: caso discreto Posto v 1 (x 1 ) v N (x 1 ) v 1 (x 2 ) v N (x 2 ) G = R k N,... v 1 (x k ) v N (x k ) f 1 a 1 f 2 a 2 f = R k, a = R N.. f k a N F (a 1, a 2,..., a N ) = Ga f 2 2 G è la matrice di Gram rettangolare con g i,j = v j (x i ) APPROSSIMAZIONE di FUNZIONI p.28/3

32 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: interpolazione è un caso particolare di approssimazione: k = dim V = N k = 4 > N = 2 k = 3 > N = 2 k = 2 = N = 2 APPROSSIMAZIONE di FUNZIONI p.29/3

33 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica APPROSSIMAZIONE di FUNZIONI p.3/3

34 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data APPROSSIMAZIONE di FUNZIONI p.3/3

35 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data 1 5th degree APPROSSIMAZIONE di FUNZIONI p.3/3

36 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data 1 5th degree 6th degree APPROSSIMAZIONE di FUNZIONI p.3/3

37 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data 1 5th degree 6th degree 8th degree APPROSSIMAZIONE di FUNZIONI p.3/3

38 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data 1 5th degree 6th degree 8th degree 1th degree APPROSSIMAZIONE di FUNZIONI p.3/3

39 M. A. ai minimi quadrati: caso discreto OSSERVAZIONE: Aumentando il grado del polinomio possono sorgere problemi di instabilità numerica data 1 spline Si ricorre alle funzioni polinomiali a tratti (spline) APPROSSIMAZIONE di FUNZIONI p.3/3