3. IL METODO DI TUNNELING

Transcript

1 3. IL METODO DI TUNNELING L analisi nuerica ha da tepo reso disponibili una varietà di etodi di tipo iterativo per la soluzione di problei di inio. In questo capo si sono diostrati particolarente efficienti da un punto di vista coputazionale i etodi di tipo locale, che consentono di ottenere rapidaente una buona approssiazione del inio per problei convessi. Data la loro econoicità tali etodi hanno suscitato nel corso degli anni un largo interesse per quanto concerne la loro applicazione alla soluzione di problei inversi caratterizzati da funzione oggetto particolarente costose da un punto di vista coputazionale. Nel abito dell History Matching, una volta sviluppate tecniche di calcolo analitico delle derivate della funzione di risposta del sistea rispetto ai paraetri, tale interesse si è tradotto nello sviluppo di etodologie e software basati sull ipleentazione di algoriti locali, considerando in particolare etodi, quali il etodo di Levenberg Marquardt, particolarente adatti alla soluzione di problei ai inii quadrati non lineari. Il successo di un tale approccio, basato appunto su etodi di iniizzazione di tipo locale, non deve però far dienticare il liite intrinseco quando la funzione investigata non è convessa. In tal caso il inio individuato per una fissata paraetrizzazione è generalente un seplice inio locale, spesso associato ad un valore della funzione oggetto tale da non poter considerare soddisfacente la qualità dell accordo. D altra parte i etodi globali, più abiziosi in quanto diretti all individuazione del inio globale della funzione oggetto, sono generalente troppo costosi da un punto di vista coputazionale. Col desiderio di investigare possibili alternative econoiche al seplice utilizzo di etodi locali, è stato considerato un particolare algorito di iniizzazione, detto di Tunneling, con caratteristiche, coe vedreo, ibride. Tale etodo è stato sviluppato per risolvere problei del tipo: in xl x xu f x ( ) [3.1] ove la funzione f ( x) è una funzione sufficienteente continua, non necessariaente ai 17

2 inii quadrati, e x, x l u rappresentano i vincoli di inio e di assio iposti nello spazio delle variabili. Il etodo che descriviao in questo capitolo presenta caratteristiche di convergenza globali verso il inio caratterizzato dal inor valore della funzione obiettivo nella spazio delle variabili. Tuttavia, il raggiungiento di tale obiettivo coporta un costo coputazionale olto elevato, quindi risulta più iportante sfruttare le caratteristiche locali ibride dell algorito piuttosto che le sue proprietà di convergenza verso il inio globale L Algorito di Tunneling Il etodo di Tunneling fu introdotto per la pria volta nell anno 1977 da A.V. Levy e A. Montalvo [17]. L idea di base di questo algorito consiste di due fasi fondaentali: nella pria fase, si applica un etodo di iniizzazione qualunque per trovare un prio inio locale. Nella seconda fase si definisce una funzione ausiliaria, detta appunto funzione di Tunneling, che presenta una singolarità nel punto di inio appena calcolato: questo accorgiento perette di allontanarsi dal bacino di attrazione del inio locale e consente di esplorare lo spazio delle variabili per localizzare un punto in un altra valle che diventerà un nuovo punto di partenza per il etodo di iniizzazione locale. Mateaticaente, una volta trovato il prio inio x, in qualche odo si cerca un punto 0 x in un altra valle tale che: 0 ( ) f ( x ) f x 0 [3.2] L algorito di Tunneling può essere interpretato in odo olto seplice ed esaustivo considerando la iniizzazione di una funzione di una variabile reale, in odo da poter facilente visualizzare graficaente il processo, nonché la filosofia che regge questo etodo. Le due fasi dell algorito possono essere riassunte nella figura 3-1, in cui la pria fase di iniizzazione è seguita dalla fase di Tunneling, alla ricerca di un punto in un'altra valle caratterizzato da un valore inferiore della funzione oggetto. Una volta terinata la fase di iniizzazione, è necessario allontanare la 18

3 funzione di Tunneling dalla zona di attrazione del inio locale: ciò è possibile grazie all introduzione di un polo artificiale. Figura 3-1. Schea dell Algorito di Tunneling L introduzione di tale polo artificiale è ottenuta basandosi sulla definizione della funzione di Tunneling Classica: ( ) def f x f ( x ) T( x, x, λ ) = 2λ x x [3.3] Dove il paraetro λ > 0 rappresenta la forza del polo artificiale e x è il inio locale calcolato durante la fase di iniizzazione. Con il sibolo D indichereo d ora in avanti sepre la nora euclidea del generico vettore D nello spazio delle variabili. Graficaente, la definizione precedente si può interpretare osservando la figura

4 Figura 3-2. Collocaento del Polo Artificiale Nel Metodo di Tunneling Il etodo di Tunneling può dunque essere riassunto considerando una pria fase di iniizzazione, in cui si calcola un inio locale della funzione usando un generico algorito locale. Nella fase di Tunneling che segue, si genera un polo artificiale applicando la definizione [3.3] al problea traslato f ( x) f ( x ). Quindi si cerca un nuovo punto 0 x tale per cui: ( ) T x 0, x, λ 0 [3.4] Se la [3.4] è verificata, ne consegue che: 0 ( ) < f ( x ) f x [3.5] Cioè è stato localizzato un punto in una valle differente caratterizzato da un valore della funzione obiettivo inferiore a quello relativo al inio locale precedenteente calcolato. A questo punto, l algorito è nuovaente inizializzato ediante una nuova fase di iniizzazione. Dato un punto di partenza 0 x nello spazio delle variabili, le due fasi sono ripetute alternativaente fino a convergenza; in uno x 0 20

5 schea algoritico si ha: 1. Miniizzazione Locale: x, f ( x ) = Tunneling: x1, f ( x1) f ( x1) 3. Miniizzazione Locale: x, f ( x ) = Etc L idea, quindi, è quella di creare dei tunnel tra una valle e l altra e generare una sequenza di inii locali caratterizzati da un valore della funzione obiettivo sepre decrescente, cioè: f ( x1) f ( x2 )... f ( xg ) [3.6] Dove x G è il inio globale della funzione. Un iportante caratteristica del etodo è che è in grado di ignorare tutti i inii locali dotati di un valore della funzione oggetto aggiore di quelli già calcolati IL METODO DI TUNNELING ESPONENZIALE Uno dei principali problei che si incontrano utilizzando la funzione ausiliaria di Tunneling Classica, definita dalla [3.3], deriva dalla precisione con la quale il inio locale è calcolato. Se il etodo di iniizzazione non riesce a localizzare il punto stazionario con sufficiente precisione (ad esepio in caso di funzioni che presentano estese valli piatte), il nueratore della funzione di Tunneling non è positivo in tutto l intorno del inio x. In questo caso, il polo artificiale non può essere creato utilizzando la funzione di Tunneling Classica; questo effetto può essere analizzato grazie alla figura 3-3 e alla funzione obiettivo, presentata in figura, definita dall espressione seguente: 21

6 4 F( x) = ( x a) sin i( x a) + cos[ i x a { [ ] ( )]} i= 2 [3.7] In cui a è un paraetro scalare fissato. Figura 3-3. Tunneling Classico: Effetto dell Iprecisione sul Polo Coe si nota analizzando la figura 3-3, il grafico della funzione di Tunneling Classica è copletaente errato nell intorno del inio locale, dato che non ostra alcun punto di singolarità per tutti i valori di λ tranne λ = 0.7. Lo scopo dell introduzione del polo artificiale è di annichilire il bacino di attrazione del inio, a nel etodo Classico le iprecisioni di calcolo rendono inutile questo stratagea. Un odo per aggirare questo problea è introdurre una nuova funzione ausiliaria; questa funzione è detta di Tunneling Esponenziale [11], secondo la definizione seguente: λ def T (,, ) ( ) E x x λ = f x f ( x ) exp 2 x x [3.8] 22

7 La nuova funzione ausiliaria sfrutta le caratteristiche dell esponenziale: è infatti possibile diostrare che, utilizzando il etodo di Tunneling Esponenziale, la funzione crea un polo artificiale indipendenteente dalla precisione con la quale il inio locale è stato calcolato e indipendenteente dalla forza del polo λ. La figura 3-4 ostra questo risultato utilizzando la funzione obiettivo [3.7]. Figura 3-4. Tunneling Esponenziale: Effetto dell Iprecisione sul Polo D ora in poi ci riferireo alle funzioni di Tunneling Classica ed Esponenziale utilizzando i siboli T e T rispettivaente. C E POLI MOBILI Analizzando la definizione delle funzioni di Tunneling, si può notare che esistono dei punti per cui la condizione T( x) = 0 è verificata (condizione di punto stazionario per la funzione di Tunneling) a per i quali il valore della funzione oggetto originale è più elevato rispetto all ultio inio calcolato. In questo caso, la iniizzazione della funzione di Tunneling si arresta, poiché è stata raggiunta una condizione necessaria di 23

8 punto stazionario. Tuttavia, la funzione ausiliaria è ancora strettaente positiva, e di conseguenza la fase di Tunneling non può ancora essere terinata (cfr. [3.4]). Si è allora in presenza di un punto critico per T( x). T( x) Per evitare questo problea si crea un nuovo polo, detto polo obile a causa del fatto che può essere attivato o disattivato a seconda della vicinanza della funzione di Tunneling ai punti critici. Detto il punto critico per la funzione di Tunneling, i poli obili possono essere creati odificando la funzione T ( x, x, λ ) o T ( x, x, λ ), e più precisaente, nel caso della funzione di Tunneling Classica: x C E ( ) f x f ( x ) TC ( x, x, λ, x, λ) = [3.9] 2λ 2λ x x x x Mentre utilizzando la funzione di Tunneling Esponenziale: λ λ T (,,,, ) ( ) ( ) exp E x x λ x λ = f x f x exp 2 2 x x x x [3.10] Dove λ rappresenta la forza del polo obile. Figura 3-5. Punti Critici per la Funzione di Tunneling 24

9 Graficaente, la presenza del polo obile è illustrata nella figura 3-5, in cui si evidenzia anche la presenza di un inio locale e il relativo polo artificiale MINIMI LOCALI MULTIPLI Originariaente, il etodo di Tunneling fu creato per risolvere problei particolarente ardui nel capo della chiica coputazionale, quindi per ottiizzare le strutture olecolari basandosi sulla definizione di potenziale: il cosiddetto problea di Lennard Jones. In questo capo, nonché per olte funzioni test tratte dalla letteratura ateatica, si presenta un ostacolo: la possibile presenza di inii (locali o globali) allo stesso livello, cioè caratterizzati dallo stesso valore della funzione oggetto (entro una certa tolleranza) a differenti valori dei paraetri. Quindi, per evitare che il etodo venga nuovaente attirato nel bacino di attrazione di un inio già calcolato, è necessario serbare eoria dei inii locali o globali calcolati durante l ottiizzazione. Per ovviare a questo inconveniente, nelle funzioni di Tunneling Classica ed Esponenziale, rispettivaente, vengono introdotti i fattori: k k 1, exp j 2λ 2 j [3.11] j= 1 j= 1 x x j x x j λ Dove x, j = 1,..., k j sono i punti di inio locale allo stesso livello. L espressione finale per la funzione di Tunneling Classica è dunque: ( ) f x f ( x ) TC ( x, x, λ, x, λ) = k 2λ 2λ j x x x x j= 1 j [3.12] Mentre per la funzione di Tunneling Esponenziale si ha: 25

10 k λ λ j T (,,,, ) ( ) E x x λ x λ = f x f ( x ) exp exp 2 2 x x j= 1 x x j [3.13] È interessante notare che, se x G è un inio globale per la funzione obiettivo, allora le funzioni di Tunneling sono positive nell intero spazio delle variabili, vale a dire: T ( x, x, λ ) 0 e T ( x, x, λ ) 0 x [ x, x C G E G l u ] [3.14] 3.2. Algorito del Metodo di Tunneling In questa sezione è descritto l algorito generico per entrabe le funzioni di Tunneling [11]: per i dettagli di ipleentazione per ciascuno dei due etodi si rianda 0 alla sezione successiva. Dato quindi un punto iniziale x : 1. Eseguire una fase di iniizzazione che peretta di trovare un inio locale x [ x, x ] tale per cui f ( x ) = 0 usando un algorito locale qualunque. l u 2. Eseguire una fase di Tunneling, cioè, in dettaglio: (a) Definire la funzione di Tunneling utilizzando la [3.3] o la [3.8] a seconda del etodo scelto. (b) Controllare se il etodo ha già trovato altri inii locali allo stesso livello: se questo è il caso, calcolare i fattori [3.11] e ricalcolare la funzione ausiliaria di Tunneling. (c) Iniziare la fase di Tunneling partendo dal punto x, generato coe segue: Dove ε << 1 x = x + εr è un paraetro che dipende dal tipo di funzione di Tunneling scelto (per i dettagli si rianda alla sezione seguente) e coponenti aleatorie tali per cui 1 r 1. n r è un vettore di (d) Calcolare la forza del polo λ necessaria ad annichilire il inio locale; questo 26

11 valore è calcolato conteporaneaente alla direzione di discesa d basata sul gradiente della funzione obiettivo. (e) Trovare un punto in una valle differente, ottenuto generando la sequenza: dove k α k 1 k k x + = x + α d è il passo lungo la direzione di discesa del gradiente. (f) Se un polo obile è attivo, controllare se può essere disattivato (allontanaento dalla regione di attrazione di un punto critico per la funzione di Tunneling). Questo passo è descritto nella sezione seguente. (g) Se la lunghezza del passo lungo la direzione di discesa k è prossia a zero, attivare un polo obile; se ve n è già uno attivo, increentare la forza del polo obile ponendo: λ = λ +Δ λ e ricalcolare la funzione di Tunneling secondo la [3.12] o la [3.13]. (g) Se il nuero di iterazioni nella fase di Tunneling è aggiore di un valore assio iterax, iniziare una nuova fase di Tunneling generando un nuovo punto in una direzione aleatoria secondo il passo 2 (b). k α 3.3. Dettagli di Ipleentazione In questa sezione sono illustrati alcuni dettagli dell ipleentazione del etodo di Tunneling, sia per la funzione di Tunneling Classica che per quella Esponenziale. 1. Nel passo 2 (b) dell algorito, il paraetro ε deve essere valutato per generare un punto di partenza per la fase di Tunneling. Questo paraetro è cruciale, dato che un piccolo valore di ε potrebbe non allontanare a sufficienza la funzione di Tunneling da una zona di attrazione di un punto critico, entre con un valore elevato di ε si potrebbero ancare altri inii locali presenti nelle vicinanze. Mediante un analisi di sensitività, si è arrivati a concludere che, per la funzione di Tunneling Classica: 27

12 0.1 se T ( ) C x 0.1 ε = 0.1 T x ( ) C altrienti [3.15] Mentre per la funzione di Tunneling Esponenziale: λ ε = [3.16] ln( 100) Nel caso di problei di History Matching, il fatto di calcolare un valore ottiale per il paraetro ε non sarebbe strettaente necessario, dato che non si è alla ricerca di tutti i inii locali della funzione a solo di quelli caratterizzati da un piccolo valore della funzione obiettivo. Inoltre, è estreaente raro che esistano inii locali o globali dotati dello stesso valore della funzione oggetto. Tuttavia, è stato detto che il etodo di Tunneling fu creato per risolvere problei di chiica coputazionale, per cui il fatto di trovare un gran nuero di inii locali e globali allo stesso livello può essere rilevante e a volte fondaentale. 2. Nel passo 2 (e) dell algorito, è necessario verificare se il polo obile può essere disattivato. Perciò, la procedura da seguire è la seguente: a) Si generano due prodotti scalari: entrabi sono dati dal prodotto della derivata direzionale della funzione di Tunneling con la funzione stessa, con la differenza che nel prio il polo obile è disattivato. Si valutano cioè i prodotti T k d T k T( x, x, λ, x,0) e d T( x, x, λ, x, λ ). Se questi hanno lo stesso x segno, si pone λ = 0. k b) Se f x < 0.9f x si pone λ = 0. ( ) ( ) x c) Se il prodotto scalare tra la derivata direzionale con polo obile disattivato e il vettore ( x x ) è positivo, si pone λ = 0. 28

13 3.4. Alcuni Esepi Coe tutti gli altri etodi di ottiizzazione esposti nella tesi, l algorito di Tunneling è stato inizialente testato avvalendosi di funzioni coplesse, a dotate di espressione analitica della funzione e dei gradienti, disponibili nella letteratura ateatica riguardante l ottiizzazione ultidiensionale [12]. È qui possibile citare due esepi che rendano chiaro quali siano le prestazioni del etodo di Tunneling; entrabi sono generalente classificati coe Hard Proble [20], cioè sono un buon banco di prova per qualunque etodo di ottiizzazione si scelga di ipleentare. Il prio di essi è definito dalla [3.17], un esepio proposto da Levy e Goez [16]: n 1 π 2 2 f ( x) = ksin( πx1) + ( xi 1) 1 + ksin( πx 1) + x 1 n i= 1 10 x 10 i = 1,..., n f i = f ([ 1, 1,..., 1] ) = 0 2 ( i+ ) ( n ) 2 [3.17] n La funzione presenta 10 inii locali (dove n è la diensionalità del problea) e un solo inio globale. La figura 3-6 ostra le iterazioni del etodo di Tunneling; in evidenza il punto di partenza, la soluzione e le curve di livello della funzione obiettivo. Figura 3-6. Tunneling: Funzione di Levy Goez 29

14 Il secondo esepio che prendiao in considerazione è conosciuto coe funzione di Shubert, ed è forse il test più diffuso nell abito dell ottiizzazione ateatica di funzioni. Il problea è definito dalla [3.18], e rappresentato in tre diensioni nella figura f ( x, y) = icos[ ( i + 1) x + i] icos[ ( i + 1) y i] + i= 1 i= 1 10 xy, 10 f = [3.18] Figura 3-7. Funzione Test di Shubert La funzione presenta 760 inii locali, 18 dei quali sono globali. In questo caso, il etodo di Tunneling può essere ipostato perché calcoli tutti i inii globali della funzione oggetto oppure solo uno. Entrabe le siulazioni forniscono ottii risultati da un punto di vista delle prestazioni, coe è evidenziato nella tabella

15 Funzione Tunnel Classico Tunnel Esponenziale Levy Goez Shubert (1 inio) Shubert (18 inii) Tabella 3-1. Tunneling: Prestazioni durante l Ottiizzazione La tabella 3-1 ostra il nuero di valutazioni di funzioni necessarie per raggiungere il inio globale per le due funzioni test prese in considerazione in questa sezione; nel caso della funzione di Shubert, all algorito è stato richiesto di calcolare, durante la pria siulazione, solo un inio globale, entre nella seconda tutti i inii globali sono stati localizzati Note sull Algorito di Miniizzazione Coe abbiao già visto, il etodo di Tunneling è una tecnica di ottiizzazione basata sul gradiente; entrabe le fasi dell algorito richiedono la iniizzazione di una funzione. Nella pria fase si tratta della funzione obiettivo del problea considerato, entre nella seconda si considera l ottiizzazione della funzione ausiliaria di Tunneling. Per questo otivo, all interno del codice sorgente dell algorito è ipleentato un etodo di iniizzazione basato sul gradiente: l algorito di Broyden Fletcher Goldfarb Shanno (BFGS), un etodo Quasi Newton [17] che sfrutta le proprietà della atrice hessiana della funzione oggetto senza tuttavia calcolarla esplicitaente. Per i dettagli del etodo BFGS, si veda l Appendice C. Questo algorito fu originariaente ipleentato nel codice nuerico di Tunneling poiché è specificaente progettato per trattare problei su larga scala, e risulta affidabile e robusto anche per casi test descritti da igliaia di paraetri. Inoltre, per le prie applicazioni del etodo alla chiica coputazionale, il etodo BFGS fornì ottii risultati. Le siulazioni di History Matching sono state condotte basandosi sul codice sorgente di Tunneling originale, senza odificazioni di sorta. Tuttavia, coe si vedrà 31

16 nelle sezioni seguenti, il fatto che l History Matching sia definito coe problea ai inii quadrati penalizza in un certo senso il etodo BFGS, in quanto non è in grado di sfruttare tutte le iportanti caratteristiche di ottiizzazione degli algoriti costruiti appositaente per questo tipo di problea; ciò, coe vedreo, porta ad un rallentaento della convergenza del etodo BFGS e quindi del etodo di Tunneling. Dato appunto il tipo di ipleentazione considerato, nei casi previsti d ora in poi ci riferireo all algorito globale coe BFGS + BFGS Tunneling e History Matching Coe abbiao visto nelle sezioni precedenti, l algorito di Tunneling è in grado di fornire ottie prestazioni nel caso dell ottiizzazione di funzioni analitiche tratte dalla letteratura ateatica. Durante il processo di History Matching, tuttavia, il tepo di calcolo per ogni singola iterazione può essere olto grande, a seconda della coplessità del giaciento considerato. Dunque, il fattore liitante nelle siulazioni è il nuero di valutazioni di funzioni; questo genera due tipi di problei utilizzando etodi di ottiizzazione basati sui gradienti, ed in particolare nel caso del Tunneling. In prio luogo, a priori non si conosce l andaento qualitativo della funzione obiettivo né il nuero approssiativo di inii locali che la caratterizzano: quindi non si è in grado di dire se la funzione oggetto possiede valli estese e fondaentalente piatte o picchi olto profondi. In secondo luogo, liitando il nuero di valutazioni di funzioni a poche centinaia, si è obbligati a richiedere una scarsa precisione nel calcolo dei inii locali, per evitare che il etodo spenda troppe iterazioni per affinare il valore dei paraetri in una valle di un punto stazionario. Coe si è visto nelle sezioni precedenti, una scarsa precisione nel calcolo di un inio locale può generare dei problei nella definizione della funzione di Tunneling Classica. Per questo otivo, la totalità delle siulazioni condotte sui casi test di giaciento è stata effettuata basandosi sulla funzione di Tunneling Esponenziale. Inoltre, se la funzione possiede valli estese e piatte, una scarsa precisione nel calcolo di un inio locale può portare a dei valori dei paraetri fondaentalente lontani da quelli ottiali. Nonostante l eccellente idea di fondo che regge l algorito di Tunneling, un 32

17 punto a sfavore del etodo è dato dal fatto che è concepito coe tecnica di ottiizzazione per funzioni generiche, scalari. Nella vita reale, una buona parte dei problei di ottiizzazione consiste nella calibrazione di odelli ateatici sfruttando l accordo tra dati calcolati e proprietà isurate: vale a dire problei ai inii quadrati, la cui caratteristica principale è quella di possedere una funzione obiettivo vettoriale, le cui coponenti sono funzioni scalari. Il loro nuero è superiore al nuero di variabili del problea. Uno di questi problei ai inii quadrati è appunto l History Matching; le tecniche di ottiizzazione igliori per la soluzione di questi casi, coe il etodo di Levenberg Marquardt o di Gauss Newton, si basano su proprietà della funzione vettoriale che l algorito di Tunneling non è in grado di sfruttare poiché tratta soltanto funzioni scalari. Un odo per igliorare le caratteristiche del etodo è utilizzare una tecnica di ottiizzazione per problei ai inii quadrati durante la fase di iniizzazione; in effetti, l applicazione dell algorito di Levenberg Marquardt durante la pria fase del etodo di Tunneling in una siulazione di giaciento ha portato ad un significativo iglioraento delle prestazioni di questa tecnica di ottiizzazione. 33