Cpitolo primo Ottimizzzione Monodimensionle Introduzione I prolemi di ottimizzzione monodimensionle sono quelli nei quli è presente un sol vriile decisionle. Essi sono riconduciili i semplici prolemi di mssimizzzione e minimizzzione di un funzione f (x) che svolge il ruolo di prmetro di prestzione del sistem. Questi prolemi sono trdizionlmente oggetto di studio nei corsi di A- nlisi Mtemtic. Essi sono molto utili per introdurre il concetto di ottimizzzione ed illustrre l costruzione di un modello mtemtico e di un lgoritmo risolutivo. Pertnto nel seguito vengono illustrti semplici prolemi decisionli formulili in termini di modelli di ottimizzzione monodimensionle. Dopo l descrizione delle condizioni di ottimlità, vengono descritti lcuni metodi di ottimizzzione monodimensionle rticolti in metodi con uso dell derivt e metodi senz uso dell derivt. 1.1 COSTRUZIONE DI UN SEMPLICE MODELLO DI OTTIMIZZAZIONE E possiile risolvere un semplice prolem decisionle ttrverso l su formulzione con un modello in ottimizzzione monodimensionle. Si prend in considerzione il sistem costituito d un miente industrile nel qule si loclizzto un motore che emette gs di scrico inquinnte, nocivo per le mestrnze. In se lle norme per l sicurezz nei luoghi di lvoro è necessrio limitre l quntità di gs inquinnte emesso dl motore, che quindi può essere ssunt come misur delle prestzioni del sistem rispetto ll oiettivo d rggiungere. Le prove sperimentli effettute mettono in evidenz che le emissioni dipendono dll velocità di funzionmento del motore, compres in un intervllo [, ]. Si suppong di conoscere o di poter determinre l ndmento dell quntità I di inquinnte emess, in funzione dell velocità del motore. In figur 1.1 è riportto l insieme dei vlori determinti medinte prove sperimentli e l funzione ottenut interpoln-
28 Cpitolo primo do questi punti con un funzione che pprossim i vlori determinti sperimentlmente. FIG. 1.1 Risultti sperimentli e funzione interpolnte L velocità v può ssumere vlori compresi tr e e dunque il segmento A-B rppresent il dominio (o regione) di mmissiilità del prolem. Nel cso riportto in figur 1.2 il minimo ssoluto dell funzione ( I * ) si otz I = f (v) I*= f (v*) Si può notre che ll umentre dell velocità d l quntità di inquinnte emess prim decresce, fino d un vlore minimo in corrispondenz di un certo vlore di velocità, e poi cresce per vlori mggiori dell velocità. L ziend quindi può individure le condizioni nelle quli il motore può funzionre emettendo l quntità minim di inquinnte. L velocità ssume inftti il significto di vriile decisionle d determinre per ottimizzre il prmetro di prestzione del sistem. Il prolem decisionle può essere espresso in termini di prolem di ottimizzzione, con un sol vriile decisionle, espress dll velocità v, due vincoli, che esprimono i limiti inferiore e superiore posti l vlore dell velocità, ed un funzione oiettivo z, espress dl prmetro di prestzione I del sistem, d minimizzre, Min z = I v v A v* v B
Ottimizzzione Monodimensionle 29 tiene in corrispondenz di un punto interno l dominio, v = v *, che rppresent l soluzione ottim del prolem decisionle. Tutto vviene come se il prolem fosse non vincolto e quindi l soluzione ottim del prolem corrisponde l punto di minimo ssoluto dell funzione. Se intervenissero ltri fttori vincolre l estensione del dominio (si suppong per esempio che l velocità non poss superre un certo vlore per l usur di un componente meccnico oppure per rispettre un vincolo sull inquinmento custico) si può verificre l situzione rppresentt in figur 1.2, nell qule il punto di minimo ssoluto dell funzione corrisponde d un punto esterno l dominio di mmissiilità costituito dl segmento A-C. FIG. 1.2 Funzione oiettivo z = I = f (v) I = f (v) I ^ = f (v*) I* c A v ^ C v * B v In questo cso il prolem si dice vincolto e l soluzione ottim del prolem non corrisponde l punto di minimo ssoluto dell funzione. Il punto di minimo vincolto è il punto v ^ l qule corrisponde un vlore di z pri I ^ > I *. 1.2 ESEMPI DI OTTIMIZZAZIONE MONODIMENSIONALE Esempio 1 Un ziend produce un ene sostenendo un costo fisso di 1000, un costo unitrio di produzione di 0.40/unità ed un costo di mnutenzione degli impinti pri llo 0.5 del qudrto dell quntità di ene prodott. L cpcità produttiv mensile è di 10000 unità. Si vuol clcolre il livello di produzione che determin il minimo costo unitrio glole. Si indichi con x
30 Cpitolo primo l quntità d produrre e con z il costo unitrio glole. L funzione d minimizzre è espress d: z = 1000 + 0.4x + 0.5x 2 x sottoposto i vincoli reltivi ll intervllo di definizione dell vriile: x 10000 x 0 L funzione z corrisponde d un rco di iperole non equilter di sintoti x = 0 e z = 0.5 x + 0.4 (Fig.1.3). L derivt prim di z, è espress d: z' = 0.5 x 2 1000 x 2 FIG. 1.3 Funzione oiettivo z = f (x) di esempio 1 z = f (x) 2.0 1.4 1.0 0.4 x * 1000 2000 3000 4000 5000 6000 x Il punto di minimo dell funzione corrisponde l punto di nullo dell z'. Ponendo z' = 0, si ricv x * = 2000 cui corrisponde il vlore z * = 1.4. Per-
Ottimizzzione Monodimensionle 31 tnto il minimo costo unitrio glole, pri 1.4/unità, si ottiene con un produzione di 2000 unità l mese. Esempio 2 Un ziend mniftturier produce un ene con un cpcità produttiv mensile di 1.5 tonnellte. Ess sostiene un costo fisso mensile pri 250 ed un costo vriile di 0.5 per kg prodotto. L domnd D di ene sul mercto è espress d un funzione del prezzo: D = 2400 800 p, dove p è il prezzo espresso in /kg. L ziend vuol clcolre l quntità di ene d produrre per ottenere il mssimo utile. Nell ipotesi che tutt l quntità prodott si vendut, si può porre x=d e quindi dll funzione di domnd si può ricvre il prezzo unitrio p di vendit in funzione dell quntità prodott x : p=(2400 x)/800 = 3 0.00125x. L utile, differenz tr ricvi e costi, si può esprimere con z = (3 0.0125x)x (250 + 0.5x) = 0.00125x 2 +2.5x 250. Si può formulre dunque il seguente modello: Mx z = 0.00125x 2 +2.5x 250 sottoposto (s.) x 1500 x 0 L funzione z corrisponde d un prol con l concvità verso il sso (Fig. 1.4). Il punto di ottimo (mssimo), x * = 1000 pprtiene ll intervllo definito dl vincolo sull cpcità produttiv. Il mssimo utile, pri 1000, si ottiene quindi con un produzione mensile di 1000 kg. FIG. 1.4 Funzione oiettivo z = f (x) di esempio 2 z = f (x) 1000 500 O 500 v * 1.000 1.500 x
32 Cpitolo primo Esempio 3 Un impres commercile cquist merce e l rivende i dettglinti. Il costo dell merce è di 0.15/kg. Per cquisti di lmeno 30 quintli il prezzo è ridotto 0.125/kg. L domnd di merce sul mercto è espress dll funzione x = 10000 20000 p (dove x indic l quntità di merce richiest e p il prezzo unitrio per kg di prodotto). Per l su ttività l impres sostiene settimnlmente un costo fisso di 100 e può cquistre l mssimo 50 quintli di merce. Si vuol clcolre qunti kg di merce si devono cquistre e rivendere per ottenere il mssimo utile, nell ipotesi che tutt l quntità cquistt si rivendut. Si indichi con x l quntità (in kg) di merce cquistt e vendut e con z l utile netto. Il costo totle si può esprimere in funzione di x ttrverso le relzioni: C(x) = 0.15x + 100 se x < 3000 C(x) = 0.125x + 100 se x 3000 Dll funzione di domnd si può ricvre il prezzo p: p = 0.5 5 10-5 x. Il ricvo è dto dunque d: R = px = (0.5 5 10-5 x) x. Si può formulre dunque il seguente modello: Mx z 1 = (0.5 5 10-5 x) x (0.15x + 100) x < 3000 Mx z 2 = (0.5 5 10-5 x) x (0.125x + 100) x 3000 con i vincoli x 5000, x 0. Sviluppndo si ottiene: Mx z 1 = 5 10-5 x 2 + 0.35 x 100 x < 3000 Mx z2 = 5 10-5 x 2 + 0.375x 100 x 3000 Il grfico dell funzione è formto di due rchi di prol riportti in figur 1.5. Per x = 3000 l funzione present un punto di discontinuità. Nell intervllo 0 x < 3000 è crescente. Nell intervllo 3000 x 5000 present un punto di mssimo per x = 3750, con z = 603.12. Il mssimo utile si ottiene quindi con l cquisto e l vendit di 3750 kg di merce, conseguendo un utile pri 603.12.
FIG. 1.5 Funzione oiettivo z = f (x) di esempio 3 z = f (x) 603.12 Ottimizzzione Monodimensionle 33 512.50 3000 3500 3750 5000 x 1.3 PUNTI DI OTTIMO DI UNA FUNZIONE SCALARE E CONDIZIONI DI OTTIMALITÀ Per l soluzione dei prolemi di ottimizzzione introdotti nel prgrfo precedente è opportuno definire formlmente i punti di ottimo di un funzione sclre e le reltive condizioni di ottimlità. Si f (x) un funzione sclre di vriile sclre, definit in un insieme S R. Il punto x * è detto punto di minimo locle dell funzione se esiste un intorno N δ (x * ) di mpiezz δ tle che: f (x) f (x * ) 0 x N δ (x * ) (1.1) Se l condizione (1.1) è verifict per tutti i punti x di S, il punto x * è detto punto di minimo glole dell f (x) su S. In modo nlogo si definisce un punto di mssimo locle e glole invertendo il segno dell disuguglinz (1.1). Inoltre, se l (1.1) è verifict con il solo segno di mggiore (minore) x * è un punto di minimo (mssimo) in senso stretto.
34 Cpitolo primo Il prolem dell ricerc dei punti di minimo (mssimo) di un funzione f(x) è detto prolem di ottimizzzione monodimensionle, formlmente espresso come: z = f(x) Min (Mx) x S (1.2) dove f(x) è chimt funzione oiettivo e S insieme di mmissiilità. L insieme S, se convesso e limitto, è costituito d un segmento. Se convesso ed illimitto, è costituito d un semirett o dll rett rele. Nel seguito tle insieme srà indicto come intervllo o regione di mmissiilità. Se l insieme S non è convesso, risult, in generle, unione di insiemi convessi, limitti o illimitti, ed eventulmente di punti isolti sull rett rele. Se il numero di tli intervlli è finito, il prolem (1.1) si riconduce un serie di ricerche di minimo su un insieme convesso. Se l intervllo di mmissiilità è limitto m perto destr e/o sinistr si riduce uno od entrmi gli estremi di un quntità positiv, sufficientemente piccol per un pprossimzione significtiv del prolem, in modo d rendere l intervllo chiuso. Se l intervllo di mmissiilità è illimitto destr o sinistr, esso può essere pprossimto considerndo un estremo sufficientemente grnde. Tle prolem è, perltro, di interesse prtico solo qundo l funzione oiettivo è limitt ed h un punto di ottimo finito. Il prolem (1.2) può essere, pertnto, ricondotto l seguente prolem di ottimizzzione monodimensionle vincolt: Min z = f(x) s. x con < (1.3) Si noti che il prolem (1.3) è sempre consistente nell ipotesi <. Risult, invece, inconsistente se >, e nle se = in qunto l insieme di mmissiilità si riduce d un solo punto. E, inoltre, utile notre che in un prolem di ottimizzzione monodimensionle i vincoli sono sempre lineri o possono essere ricondotti d un formulzione linere. Se, invece, l intervllo di mmissiilità coincide con l insieme dei numeri reli il prolem (1.2) può essere riformulto come prolem di ottimizzzione monodimensionle non vincolt: Min f(x) x R (1.4)
Ottimizzzione Monodimensionle 35 Si noti che l funzione oiettivo può essere illimitt e dunque può non vere lcun punto di ottimo. Nel seguito si ssume che un tle punto esist e si finito. L definizione del punto di minimo (mssimo) locle e glole non è utilizzile nell ricerc del punto stesso perché richiederee il clcolo di f(x) in tutti i punti ed il confronto dei vlori. E opportuno pertnto trovre un insieme di condizioni necessrie e/o sufficienti che esprimno proprietà locli delle funzioni nei punti di minimo (mssimo). Se l funzione oiettivo f(x) è differenziile, condizione necessri ffinché un punto x * si un punto di minimo o mssimo locle non vincolto è: df = 0 dx x=x * L condizione sufficiente ffinché un punto x * si un punto di minimo (mssimo) locle non vincolto è invece: d 2 f > 0 (<0) dx 2 x=x * Sree possiile, pertnto, determinre i punti di minimo di un funzione individundo tutti i punti di nullo dell derivt prim f '(x) e verificndo per ciscuno di essi l condizione f "(x)>0. Questo pproccio non è sempre prticile. Sull se di queste condizioni è invece opportuno costruire un pproccio lgoritmico per l determinzione numeric del punto di ottimo. 1.4 METODI DI OTTIMIZZAZIONE MONODIMENSIONALE In ssenz di informzioni sull funzione oiettivo e sulle sue proprietà i prolemi (1.2) e (1.3) possono essere risolti con un metodo di ppliczione generle, nche se poco efficiente. In questo metodo, che prende il nome di ricerc simultne, l funzione oiettivo è vlutt in lcuni punti dell insieme di mmissiilità (d esempio equidistnti in un opportuno intervllo), ed il punto cui corrisponde il miglior vlore di funzione oiettivo costituisce un stim del punto di ottimo cercto. Quest stim è crtterizzt nturlmente d un intervllo di incertezz, l cui mpiezz dipende dl numero di punti in cui è stt vlutt l funzione oiettivo.
36 Cpitolo primo Se l funzione oiettivo h prticolri proprietà di convessità (o concvità) è possiile dottre metodi più efficienti. Si f riferimento, nel seguito, l minimo di funzioni convesse, m nloghi risultti possono essere ottenuti nel cso di mssimo di funzioni concve. Se l funzione oiettivo, suppost dott di proprietà di concvità, è nche derivile, x 1, x 2 [,] risult che: f ' (x 1 )(x 2 x 1 ) > 0 f(x 2 ) f(x 1 ) > 0 f ' (x 2 )(x 2 x 1 ) < 0 f(x 2 ) f(x 1 ) < 0 Nel cso di ottimizzzione vincolt, quindi, se l funzione oiettivo risult crescente nell estremo di sinistr, f ' ()>0, l funzione ssume vlori mggiori in tutto l intervllo [,] e il punto di minimo è costituito dll estremo inferiore. Anlogmente se l funzione oiettivo risult decrescente nell estremo di destr, f ' ()<0, l funzione ssume vlori mggiori in tutto l intervllo [,] e il punto di minimo è costituito dll estremo superiore. Se queste condizioni non sono verificte il punto di minimo può essere un punto interno. Le funzioni derivili hnno l proprietà che i punti interni di minimo sono punti di stzionrietà. Assumendo che l funzione oiettivo si dott di qulche form di convessità è possiile dottre metodi prticolrmente efficienti, definiti di ricerc sequenzile. Questi metodi vengono trdizionlmente divisi in due clssi: - metodi con uso dell derivt - metodi senz uso dell derivt Essi possono nche essere distinti in: - metodi di riduzione dell intervllo di incertezz, - metodi di generzione dirett di un successione di punti. Nei metodi di riduzione dell intervllo di incertezz, d ogni iterzione l intervllo inizile è ridotto ulteriormente, fino d ottenere un sottointervllo che contiene il punto di ottimo cercto, e l cui mpiezz è inferiore d un ssegnto vlore di precisione. Alcuni di questi metodi non fnno uso dell derivt e sono dunque pplicili nche funzioni non derivili.
Ottimizzzione Monodimensionle 37 Nei metodi di generzione dirett di un successione di punti, prtendo d un inizile vlutzione del punto di ottimo, si gener un successione di punti che converge l punto di ottimo cercto. Questi metodi si sno sull individuzione del punto di nullo dell derivt dell funzione oiettivo. Essi richiedono pertnto che l funzione si derivile. 1.5 METODI CON USO DELLA DERIVATA Questi metodi consentono di individure il minimo di un funzione pseudoconvess [Appendice A], ossi tle che, x 1, x 2 [,] f ' (x 1 )(x 2 x 1 ) 0 f(x 2 ) f (x 1 ) 0 f(x 2 ) f (x 1 ) < 0 f ' (x 1 )(x 2 x 1 ) < 0 Si f(x) un funzione pseudoconvess sull intervllo [c,] e c un punto interno ll intervllo [,]. Si può dimostrre che: - se risult f ' (c) > 0 si h f(x) f(c) x [c,]; - se risult f ' (c) < 0 si h f(x) f(c) x [,c]: - se risult f ' (c) = 0 c è un punto di minimo glole. Pertnto, si [ k, k ] l intervllo di incertezz sul punto di minimo ll iterzione k e si c k un punto interno, nel qule viene effettuto il clcolo dell derivt dell funzione oiettivo. L ppliczione dei test precedenti consente di ridurre l intervllo di incertezz del punto di minimo x * : - se f '(c k ) > 0 x * [ k,c k ]. Si pone k+1 = k, k+1 = c k ; - se f '(c k ) < 0 x * [c k, k ]. Si pone k+1 =c k, k+1 = k ; - se f '(c k ) = 0 x * = c k. 1.5.1 METODI DI RIDUZIONE DELL INTERVALLO DI INCERTEZZA Algoritmo di isezione In ssenz di prticolri indiczioni sull ndmento dell funzione oiettivo si sceglie c k ugule l punto centrle dell intervllo [ k, k ], ossi c k =( k + k )/2 (Fig. 1.6). Il clcolo dell derivt nel punto c e l ppliczione dei test reltivi port ll definizione di un nuovo intervllo di incertezz (Fig. 1.6, 1.6c).
38 Cpitolo primo L operzione si iter fino ll determinzione di un intervllo di incertezz che grntisc un pressegnt precisione. I pssi dell lgoritmo sono riportti nello schem seguente, dove ε è l precisione che si vuole rggiungere ed x * è l vlutzione corrente del punto di minimo: Algoritmo di isezione WHILE ( )>ε c=(+)/2 IF f '(c)> 0 THEN = c ELSE = c ENDIF END WHILE x * =(+)/2 FIG. 1.6,,c. Algoritmo di isezione f (x) () c () c (c) c Dopo n vlutzioni dell derivt dell funzione oiettivo si h un precisione ε =1/2 n. L lgoritmo di isezione può essere interpretto come un prticolrizzzione del metodo di isezione per individure i punti di nullo di un funzione, pplicto ll funzione derivt dell funzione oiettivo.
Ottimizzzione Monodimensionle 39 1.5.2 METODI DI GENERAZIONE DI UNA SUCCESSIONE DI PUNTI Algoritmo dell tngente (o di Newton) In questo lgoritmo, prtendo d un punto inizile noto, si determin il punto di nullo dell derivt (ossi il punto di minimo dell funzione oiettivo) come limite dell successione di punti ottenuti pprossimndo d ogni iterzione l derivt con l su tngente (ossi con l derivt second dell funzione oiettivo) (Fig. 1.7, 1.7). FIG. 1.7, Algoritmo dell tngente f (x) () x* x k f ' (x) f ' (x k) x k+1 x k () Si x k il punto ottenuto ll iterzione k (Fig. 1.7). Si può scrivere f'(x k )/(x k x k+1 ) = f"(x k ) e quindi: f "(x k ) (x k+1 x k )+ f '(x k ) = 0 (1.5)
40 Cpitolo primo Si ottiene quindi il nuovo punto x k+1 : x k+1 = x k f '(x k )/f "(x k ) (1.6) L relzione (1.6) viene pplict itertivmente, prtendo d un punto noto x o, finché risult x k+1 x k <ε, essendo ε l precisione richiest. Si noti che questo metodo richiede il clcolo dell derivt second, oltre che dell derivt prim dell funzione oiettivo. E richiesto, inoltre, che l derivt second non si mi null, ossi che ess, se continu, non cmi segno e dunque che l funzione oiettivo si convess. 1.6 METODI SENZA USO DELLA DERIVATA Questi metodi consentono di individure il minimo di un funzione pprentemente qusi convess [Appendice A], ossi tle che: f (µx 1 +(1 µ)x 2 )< Mx( f (x 1 ), f (x 2 )) x 1, x 2 [, ]: f (x 1 ) f (x 2 ), µ ]0,1[ oppure f (x)< Mx( f (x 1 ), f (x 2 )) x ]x 1,x 2 [ Si f (x) un funzione. qusiconvess sull intervllo [,], e sino c, d due punti interni ll intervllo [,] tli che c < d. Si può dimostrre che: - se risult f (c ) > f (d ) si h f (x)>f (d ) x ],c [ - se risult f (c ) < f (d ) si h f (x)>f (c ) x ]d, [ - se risult f (c ) = f (d ) si h f (x) f (c )=f (d ) x ],c [ ]d, [ Pertnto, si [ k, k ] l intervllo di incertezz sul punto di minimo ll iterzione k e sino c k e d k due punti interni, con c k <d k, nei quli viene effettuto il clcolo dell funzione oiettivo. L ppliczione dei test precedenti consente di ridurre l intervllo di incertezz del punto di minimo x * : - se f (c k )<f (d k ) x * [ k,d k ]. Si pone k+1 = k, k+1 = d k ; - se f (c k )>f (d k ) x * [c k, k ]. Si pone k+1 =c k, k+1 = k.
Ottimizzzione Monodimensionle 41 Il cso f (c k )= f (d k ) si può ssimilre per semplicità d uno dei csi precedenti. L efficienz dei metodi descritti potree essere migliort considerndo esplicitmente il cso in cui si verific f (c k )= f (d k ). Tle condizione, tuttvi, si verific molto di rdo. In ssenz di prticolri indiczioni sull ndmento dell funzione oiettivo i punti c k e d k sono scelti in posizione simmetric, ossi (d k k ) = α k ( k k ) (1.7) ( k c k ) = α k ( k k ) (1.8) Pertnto ll k-esim iterzione l intervllo di incertezz si riduce dell quntità α k. I coefficienti α k di riduzione dell intervllo possono differire d ogni iterzione. Dopo n iterzioni si rggiunge pertnto un precisione ε espress dl prodotto dei coefficienti di riduzione α k : ε = Π k=1,n α k. Differenti lgoritmi di soluzione si ottengono in corrispondenz di ogni possiile sequenz di vlori α k. Tli lgoritmi mostrno differente efficienz computzionle, vlutt in termini di tempi di clcolo, vendo in generle occupzione di memori trscurile. Il tempo di clcolo complessivo dipende principlmente dl numero di vlutzioni di funzione oiettivo che è necessrio effetture per ottenere un ssegnt precisione, ossi un riduzione dell intervllo di incertezz inizile. 1.6.1 METODI DI RIDUZIONE DELL INTERVALLO DI INCERTEZZA Algoritmo dell ricerc dicotomic In questo lgoritmo per ridurre rpidmente l intervllo di incertezz si scelgono i due punti prossimi l centro dell intervllo ossi α k = α o = 1/2+δ, con δ vlore positivo piccolo, sufficientemente grnde d rendere possiile che i due punti ed i corrispondenti vlori di funzione oiettivo sino distinti (Fig.1.8). Il clcolo dell funzione nei punti c e d e l ppliczione dei test reltivi port ll definizione di un nuovo intervllo di incertezz (Fig.1.8,c). L operzione si iter fino ll determinzione di un intervllo di incertezz che grntisce un pressegnt precisione. I pssi dell lgoritmo sono riportti nello schem seguente, dove ε è l precisione che si vuole rggiungere ed x * è l vlutzione corrente del punto di minimo.
42 Cpitolo primo Algoritmo dell ricerc dicotomic α o = 1/2+δ WHILE ( ) > ε c = ( )α o d = + ( )α o IF f(c)<f(d) THEN = d ELSE = c ENDIF END WHILE x*= (+)/2 Poiché d ogni iterzione è necessrio vlutre l funzione oiettivo in due punti, dopo n vlutzioni di funzione si rggiunge l precisione: ε d = α o n/2 = (1/2) n/2 =(0.707) n FIG. 1.8 Algoritmo dell ricerc dicotomic f (x) () c d () c d (c) c d Algoritmo dell sezione ure Per umentre l efficienz computzionle di un metodo di riduzione dell intervllo di incertezz può risultre conveniente costruire i punti c k e d k in modo che uno di essi costituisc uno dei due punti necessri ll iterzione
Ottimizzzione Monodimensionle 43 successiv, nche se in questo cso i vlori di α k risulternno mggiori di 0.5. E possiile determinre il vlore di α k che grntisce quest condizione. In figur 1.9 sono riportte l configurzione dell intervllo di incertezz llo stdio k e le due possiili configurzioni dello stdio k+1. Allo stdio k vlgono le relzioni seguenti: (d k k ) = α k ( k k ) (1.9) ( k c k ) = α k ( k k ) (1.10) Scritte per lo step k+1 esse forniscono: (d k+1 k+1 ) = α k+1 ( k+1 k+1 ) (1.11) ( k+1 c k+1 ) = α k+1 ( k+1 k+1 ) (1.12) L ipotesi di conservzione di uno dei punti impone che si: nell (1.11) d k+1 =c k, k+1 =d k, k+1 = k nell (1.12) c k+1 =d k, k+1 =c k, k+1 = k Si ottengono pertnto le relzioni: (c k k ) = α k+1 (d k k ) (1.13) ( k d k ) = α k+1 ( k c k ) (1.14) Risolvendo il sistem costituito dlle relzioni (1.9,1.10,1.13,1.14) (un delle relzioni del sistem è ridondnte) si ottiene un relzione che leg α k+1 ed α k : α k α k+1 +α k 1= 0 (1.15) Se si ssume α k costnte, ossi α k = α k+1 = α, dll (1.15) si ottiene l relzione α 2 +α 1=0, d cui α = ( 5 1)/2 = 0.618, che è pri l rpporto dell sezione ure, cioè l rpporto 1/µ = µ/(1 µ) con µ compreso tr 0 ed 1. Si noti che per l (1.9) e l (1.10) risult + = c+d. Inoltre le mpiezze finli di [c,] e [,d ] sono uguli. I pssi dell lgoritmo dell sezione ure sono riportti di seguito, con le notzioni già definite.
44 Cpitolo primo Algoritmo dell sezione ure α = ( 5 1)/2 c = α ( ) d = + c f 1 = f(c) ; f 2 = f(d) REPEAT IF f 1<f 2 THEN = d ; d = c; f 2= f 1 c = + d ; f 1=f(c) ELSE = c ; c = d ; f 1= f 2 d = + c ; f 2= f(d) ENDIF UNTIL ( c) ε IF f 1<f 2 THEN x* = (+d) / 2 ELSE x* = (c+) / 2 ENDIF Poiché d ogni iterzione è necessrio vlutre l funzione oiettivo in un solo punto, esclus l prim iterzione nell qule sono necessrie due vlutzioni di funzione oiettivo, dopo n vlutzioni di funzione si h un precisione: ε = α n-1 (0.618) n-1 FIG. 1.9 Algoritmo dell sezione ure f (x) () () c c d d c d stdio k stdio k +1 () stdio k +1 ()
Ottimizzzione Monodimensionle 45 1.7 CONSIDERAZIONI SULL USO E CONFRONTO TRA GLI ALGORITMI Gli lgoritmi descritti possono essere pplicti si prolemi di ottimizzzione non vincolt che vincolt. In questo secondo cso, inftti, vendo ssunto l funzione oiettivo derivile, è fcile verificre preliminrmente se uno degli estremi è il punto di minimo cercto, ltrimenti l ppliczione dell lgoritmo consente di determinre il punto interno di minimo. I metodi di ricerc del punto di nullo dell derivt richiedono che l funzione oiettivo si convess ed inoltre derivile, e per l lgoritmo delle tngente che si nche due volte derivile. Inoltre non è possiile, utilizzndo questi metodi, predeterminre il numero di iterzioni richieste per ottenere un ssegnt precisione. Tuttvi, se l funzione oiettivo present un ndmento molto regolre convergono molto rpidmente ll ottimo. L ppliczione di metodi di riduzione dell intervllo di incertezz consente di ovvire questi inconvenienti, tuttvi richiede l definizione di un intervllo inizile, ed ll umentre dell mpiezz di questo intervllo cresce il numero di iterzioni necessrie per ottenere un ssegnt precisione. Gli lgoritmi descritti possono essere pplicti fcilmente ll risoluzione di prolemi di ottimizzzione vincolt, ssumendo un intervllo inizile coincidente con l intervllo di mmissiilità. E nche possiile utilizzrli per risolvere prolemi di ottimizzzione non vincolt ssumendo un intervllo inizile molto mpio. In questo cso, tuttvi, può essere necessrio un notevole numero di iterzioni per rggiungere un precisione ssolut soddisfcente. Il confronto tr differenti lgoritmi costruiti per l soluzione dello stesso tipo di prolemi può essere effettuto tenendo conto di vri prmetri. L efficienz computzionle in termini di tempo di clcolo ed occupzione di memori richiesti costituisce uno dei prmetri fondmentli di vlutzione. Si consider spesso solo il tempo di clcolo in qunto l occupzione di memori è in generle, trscurile. Il tempo di clcolo dipende sostnzilmente dl numero di vlutzioni di funzione oiettivo o di derivt che è necessrio effetture per ottenere un ssegnt precisione ε. Si può effetture il confronto tr l lgoritmo dell sezione ure, più efficiente dell lgoritmo dell ricerc dicotomic e l lgoritmo dell isezione. Se n è il numero di vlutzioni dell funzione richiesto dll lgoritmo dell sezione ure per ottenere l precisione ε, si h: ε = α n 1 e dunque n 1 = ln(ε)/ln(α).
46 Cpitolo primo Se n è il numero di vlutzioni dell derivt dell funzione richiesto dll lgoritmo di isezione per ottenere l stess precisione ε, si h ε = (1/2) n e dunque n =ln(ε)/ln(1/2). Pertnto in generle, prità di precisione ottenut, risult (n 1)/n =ln(1/2)/ln(α) = 1.440, d cui si può ssumere che per vlori di interesse prtico si n /n 1.5. Pertnto, prità di ε, l lgoritmo dell sezione ure richiede un numero di vlutzioni dell funzione pri qusi d un volt e mezzo il numero di vlutzioni di derivt richieste dll lgoritmo di isezione. L efficienz reltiv dei due metodi dipende dunque dl rpporto tr il tempo richiesto per un vlutzione dell funzione e quello richiesto per un vlutzione dell derivt. Se questo rpporto risult minore di 1/1.5 l lgoritmo dell sezione ure è più efficiente di quello dell isezione. Se invece il rpporto è mggiore di 1/1.5 l lgoritmo di isezione è più efficiente di quello dell sezione ure. E importnte, considerre nche ltri spetti dell efficienz di un lgoritmo, quli l pplicilità, ossi l estensione dell clsse dei prolemi i quli l lgoritmo può essere pplicto, l roustezz, ossi l cpcità di risolvere efficientemente tutti (o qusi) i prolemi dell clsse di pplicilità, ed infine l sensiilità vrizioni di eventuli prmetri necessri per l complet definizione dell lgoritmo, quli d esempio l errore mssimo ccettile sull vlutzione del punto di ottimo cercto. Come si è visto nei prgrfi precedenti, gli lgoritmi senz uso dell derivt sono di pplicilità più vst perché ssumono solo che l funzione oiettivo si pprentemente qusiconvess [Appendice A]. I metodi con uso dell derivt richiedono invece che l funzione oiettivo si pseudoconvess e, dunque, differenziile e continu. L sensiilità i prmetri di controllo, che si riducono sostnzilmente ll precisione richiest ε, e l roustezz, ppiono stnz simili nei due csi. Infine, è necessrio considerre nche il lvoro necessrio per l codific (lgoritmi più complessi richiedono uno sforzo mggiore nche nell fse di verific e di mnutenzione) e per l preprzione dei dti di ingresso, quli, per esempio, l formulzione esplicit dell derivt dell funzione oiettivo. Per qunto rigurd l codific del progrmm l lgoritmo di isezione è il più semplice d progrmmre, nche se i metodi senz uso dell derivt sono solo poco più complessi. Infine, l preprzione dei dti richiede in un cso l codific dell funzione oiettivo nell ltro quello dell derivt.