Appunti delle esercitazioni di Ricerca Operativa

Transcript

1 Appunti delle esercitazioni di Ricerca Operativa a cura di P. Detti 1 Esercizi sulle condizioni di ottimalitµa per problemi di ottimizzazione vincolata Esempio 1 Determinare il punto di intersezione dei piani 3x 1 x + 4x 3 = 9 x 1 + x = 3 piµu vicino al punto di coordinate (3; 1; ). Il problema puµo essere formulato come problema di ottimizzazione vincolata in cui l'obiettivo µe quello di minizzare il quadrato della distanza tra il punto cercato e (3; 1; ): min(x 1 3) + (x + 1) + (x 3 ) h 1 (x) = 9 3x 1 + x 4x 3 = 0 h (x) = 3 x 1 x = 0 Notare che la funzione obiettivo µe coerciva, convessa, con derivate parziali continue, e che i vincoli sono lineari. Le condizioni di Karush Kuhn Tucker (KKT) sono quindi condizioni su±cienti di ottimo globale. Applichiamo le condizioni di KKT per determinare i punti che soddisfano le condizioni di ottimalitµa del primo ordine. La funzione Lagrangiana µe: L(x; ) = (x 1 3) + (x + 1) + (x 3 ) 1(9 3x 1 + x 4x 3 ) (3 x 1 x ) I vincoli sono tutti di uguaglianza. Imponendo le condizioni di KKT si ottiene il seguente sistema di equazioni: = (x 1 3) = 0 = (x + 1) 1 + = 0 = 3 ) = 0 3x 1 x + 4x 3 = 9 x 1 + x = 3 Dipartimento di Ingegneria dell'informazione - Universitµa di Siena 1

2 Dall'ultima equazione si ottiene x 1 = 3 x. La sostituzione di x 1 nella penultima equazione porta a x 3 = x. Il sistema, ridotto alle sole variabili x, 1 e, diventa: 4x 3 1 = 0 x + 1 = 4x 4 1 = 4 da cui si ottiene 1 = 3, = 3, x = 1 3, e x 1 = 3 x = 7 3, x 3 = x =. Il punto che soddisfa le condizioni del primo ordine µe 3 ^x = ( 7 3 ; 1 3 ; 3 ). In tale punto la funzione obiettivo vale 4. Controlliamo se nel punto trovato vale la condizione di quali cazione dei vincoli attivi. I gradienti del primo e del secondo vincolo sono rispettivamente: rh 1 = La matrice rh = dh = 3 4 dx µe costante ed ha rango pieno, e quindi la condizione di quali cazione µe soddisfatta in ^x. Il punto ^x µe quindi un punto di minimo globale. Esempio Determinare il punto della regione de nita dai vincoli x 1 +x x 1 4 piµu vicino al punto di coordinate (; 3). Il problema puµo essere formulato come problema di ottimizzazione vincolata nel modo seguente: min(x 1 ) + (x 3) g 1 (x) = x 1 x 0 g (x) = 4 x 1 0 Applichiamo le condizioni di KKT per determinare i punti che soddisfano le condizioni necessarie di ottimalitµa del primo ordine. La funzione Lagrangiana µe: L(x; ) = (x 1 ) + (x 3) 1( x 1 x ) (4 x 1 )

3 Imponiamo le condizioni di KKT: = (x 1 ) x 1 = 0 = (x 3) + 1 = 0 x 1 x 0 4 x x 1 1 x 1 = 0 4 x 1 = 0 0 La regione ammissibile µe quella compresa tra le due rette x 1 =, x 1 =, ed al di sotto della retta x 1 + x = 0 (Figura 1). Notare che la funzione obiettivo µe coerciva, convessa con derivate parziali continue, e A=(-,4) x C=(-,0) B=(,0) x 1 Figura 1: Regione ammissibile dell'esempio. che la regione ammissibile µe convessa. I vincoli hanno inoltre derivate parziali continue ovunque. Le condizioni di KKT sono quindi condizioni su±cienti di ottimo globale. Consideriamo i seguenti casi. Caso 1 Entrambi i vincoli sono attivi. L'insieme ammissibile µe costituito dai punti B = (; 0) e A = ( ; 4) riportati in Figura 1. Nel punto B il sistema diventa: (x 1 ) x 1 = 0 (x 3) + 1 = 0 x 1 = x = 0 0 3

4 da cui = = 0 0 che non ammette soluzione ( = 3= < 0). Nel punto A il sistema diventa: (x 1 ) x 1 = 0 (x 3) + 1 = 0 x 1 = x = 4 0 dalla seconda equazione si ottiene 1 = < 0 e quindi il sistema non ammette soluzione. Caso ( = 0) Consideriamo la regione in cui il solo vincolo g 1 (x) 0 µe attivo (segmento (A;B), estremi esclusi, di Figura 1). Per = 0 le condizioni di KKT diventano: (x 1 ) + 1 = 0 (x 3) + 1 = 0 x 1 x = 0 4 x 1 > 0 eliminando 1 dalle prime due equazioni si ottiene: x 1 x = 1 x 1 +x = da cui x 1 = 1= e x = 3=. Sostituendo x 1 nella prima equazione si ha 1 = 3. Nel punto (1=; 3=) la funzione obiettivo vale 9=. Caso 3 ( 1 = 0) Consideriamo la regione in cui il solo vincolo g (x) 0 µe attivo. Tale regione µe costituita dalle due semirette x 1 = e x 1 = aventi origine in A ed in B rispettivamente (Figura 1). Notare che A e B non appartengono a tale regione. Dalle condizioni di KKT si ha il sistema: (x 1 ) + x 1 = 0 (x 3) = 0 x 1 x > 0 4 x 1 = 0 0 4

5 che non ha soluzione. Caso 4 ( 1 = = 0) Nessun vincolo µe attivo. Si ottiene il sistema: x 1 = 0 x 3 = 0 x 1 x 0 4 x 1 0 che non ha soluzione ammissibile. L'unico punto che soddisfa le condizioni di ottimalitµa µe il punto (1=; 3=) trovato nel Caso. E µ facile veri care che in tale punto µe soddisfatta la condizione di quali cazione 1 dei vincoli. Si ha infattirg 1 (x) = 6= 0. L'ottimo globale µe quindi (1=; 3=). 1 Esempio 3 Dato il seguente problema di ottimizzazione vincolata maxln(x 1 ) + ln(x ) + 3ln(x 3 ) x 1 + x + x 3 = 3000 x x 1 x 3 1 studiare l'esistenza di punti di massimo. Studiamo il problema nella forma: min ln(x 1 ) ln(x ) 3ln(x 3 ) h(x) = 3000 x 1 x x 3 = 0 g 1 (x) = x g (x) = x 1 0 g 3 (x) = x Notare che la funzione obiettivo µe convessa e continua nell'insieme ammissibile, e che i vincoli sono lineari. Le condizioni di KKT sono quindi condizioni su±cienti di ottimo globale. La funzione Lagrangiana µe: L(x; ) = ln(x 1 ) ln(x ) 3ln(x 3 ) 1(3000 x 1 x x 3 ) (x 1 750)+ 3(x 1) 4(x 3 1) 5

6 Imponiamo le condizioni di KKT: = x = 0 = x = 3 = x = x 1 x x 3 = 0 x x 1 0 x x = 0 3x 3 = 0 4x 3 4 = Consideriamo i seguenti casi. Caso 1 Il solo vincolo g 1 (x) 0 µe attivo. Si ha quindi x 1 = 750. Dal vincolo h(x) = 0 si ottiene: = 0 da cui 1 = x ed x 3 assumono i valori: x = 1 = 900 x 3 = 3 1 = 1350 Dalla prima equazione si puµo ricavare = 1 x = = 50 che µe positivo. Il punto trovato µe quindi: Caso x 1 = 750 x = 900 x 3 = = Il solo vincolo g (x) 0 µe attivo. = 50 Si ha quindi x = 1. La seconda condizione di KKT diventa: = 3 = 0 6

7 e quindi il sistema non ha soluzione ( 3 < 0). Caso 3 Il solo vincolo g 3 (x) 0 µe attivo. Si ha quindi x 3 = 1. La terza condizione di KKT 3 = 3 4 = 0 e quindi il sistema non ha soluzione ( 4 < 0). Caso 4 Sono attivi i vincoli g 1 (x) 0eg (x) 0. Si ha quindi x 1 = 750 x = 1. Da h(x) = 0 si ottiene inoltre x 3 = 49. Il sistema = = 0 = + 3 = = 0 ammette soluzione con < 0 e 3 < 0. Caso 5 Sono attivi i vincoli g 1 (x) 0eg 3 (x) 0. Si ha quindi x 1 = 750 x 3 = 1. Da h(x) = 0 si ottiene inoltre x = 49. Il sistema = = 0 = = = = 0 ammette soluzione con < 0 e 4 < 0. Caso 6 Sono attivi i vincoli g (x) 0eg 3 (x) 0. Si ha quindi x = 1 x 3 = 1. Da h(x) = 0 si ottiene inoltre x 1 = 998. Il sistema = = 0 = = 3 = = 0 che ammette soluzione con 3 < 0 e 4 < 0. Caso 7 Sono attivi tutti i vincoli (g 1 (x) = 0, g (x) = 0 e g 3 (x) = 0). L'insieme ammissibile µe vuoto. Caso 8 Nessun vincolo µe attivo. Dalle condizioni di KKT si ottiene il sistema: 1 x1 + 1 = 0 x + 1 = = 0 x3 3 x 1 x x 3 = 0 7

8 che ammette la soluzione: x 1 = 500 x = 1000 x 3 = = che non soddisfa il vincolo x = 0 L'unico punto che soddisfa le condizioni necessarie del primo ordine µe il punto trovato nel Caso 1. Controlliamo che sia soddisfatta anche la condizione di quali cazione dei vincoli. Notare che nel punto trovato entrambi i vincoli sono attivi. I gradienti dei vincoli sono rh(x) = 6 4 La matrice rg(x) = ha rango pieno, e, quindi, la condizione di quali cazione µe soddisfatta. trovata µe quindi un ottimo globale. Esempio 4 Dato il seguente problema di ottimizzazione vincolata La soluzione maxx 1 + x x 1 4x 3 x 1 + x 0 x 1 0 studiare l'esistenza di punti di massimo. Studiamo il problema nella forma: min x 1 x g 1 (x) = 3 + x 1 4x 0 (1) g (x) = x 1 +x 0 () g 3 (x) = x 1 0 (3) La funzione Lagrangiana µe: L(x; ) = x 1 x 1(3 + x 1 4x ) ( x 1 +x ) x 1 3 8

9 Imponiamo le condizioni di KKT: = = 0 = x = x 1 4x 0 x 1 + x 0 x x 1 1 4x 1 = 0 x 1 + x = 0 x 1 3 = La regione ammissibile del problema, riportata in Figura, µe costituita dalla regione al di sotto della retta g 1 ed esterna alla parabola g. Notare che tale regione µe illimitata e non convessa. I gradienti dei vincoli, che serviranno per veri care la condizione dei quali cazione nei C=(0,0.75) A=(1,1) B=(0,0) punti trovati, sono: rg 1 = 1 4 Figura : Regione ammissibile dell'esempio 4. 1 rg = x Consideriamo i seguenti casi. Caso 1( 1 = = 3 = 0) rg 3 = 1 0 Nessun vincolo µe attivo. La regione ammissibile µe un insieme aperto costituito dai punti 9

10 del primo e del quarto quadrante al di sotto della retta ed esterni alla parabola. La prima condizione diventa = 1 = 0 ed il sistema quindi non ha soluzione. Caso ( = 3 = 0) Il solo vincolo attivo µe il vincolo (1). La prima condizione diventa = 1 1 = 0 ed il sistema anche in questo caso non ha soluzione ( 1 < 0). Caso 3( 1 = 3 = 0) Il solo vincolo attivo µe il vincolo (). Si ha = 1 + = 0 = 1 x = 0 x 1 + x = 0 dalle prime due condizioni si ottiene = 1 e x = 1=, e dalla terza x 1 = 1=4. Il punto ammissibile trovato µe quindi (1=4; 1=), a cui corrisponde un valore della funzione obiettivo pari a 1=. Poich erg (1=4; 1=)6= 0 il punto soddisfa la condizione di quali- cazione. Caso 4( 1 = = 0) Il solo vincolo attivo µe il vincolo (3). La prima condizione diventa = 1 3 = 0 ed il sistema quindi non ha soluzione ( 3 < 0). Caso 5( 3 = 0) Sono attivi i vincoli (1) e (). La regione in questo caso µe costituita dal punto A = (1; 1). Le condizioni di KKT diventano: = = 0 = = 0 0 da cui 1 = 3= e = 5=. Controlliamo la condizione di quali cazione dei vincoli. La matrice dei gradienti dei vincoli attivi dg(1; 1) dx =

11 ha rango pieno. Il punto A µe quindi un candidato di minimo locale. In tale punto la funzione obiettivo vale. Caso 6( = 0) Sono attivi i vincoli (1) e (3). La regione in questo caso µe costituita dal punto C = (0; 3=4). Le prime due condizioni diventano = = 0 = = 0 da cui 1 = 1=4 e 3 = 5=4 < 0. Il sistema non ammette quindi soluzione. Caso 7( 1 = 0) Sono attivi i vincoli () e (3). La regione in questo caso µe costituita dal punto B = (0; 0). La seconda condizione di KKT diventa = 1 = 0 Il sistema non ammette quindi soluzione. Caso 8 Sono attivi tutti i vincoli. La regione ammissibile in questo caso µe vuota. I punti che soddisfano sia le condizioni di KKT sia la condizione di quali cazione sono quindi (1=4; 1=) e A = (1; 1). Esempio 5 Un agente di borsa ha a disposizione 1000 Euro da investire su due titoli nanziari. Siano x 1 ed x le quantitµa investite sui due titoli rispettivamente. Dallo studio di dati storici, si stima che il guadagno medio atteso e la varianza dell'intero investimento, in funzione delle quantitµa investite, sono rispettivamente 0; 1x 1 + 0; 1x e 0; 005x 1 0; 006x 1 x + 0; 008x. Si richiede di massimizzare il guadagno atteso totale con il vincolo che la varianza non sia superiore a 65. Il problema puµo essere formulato nel seguente modo: min 0; 1x 1 0; 1x g 1 (x) = 65 0;005x 1 + 0; 006x 1x 0; 008x 0 (4) g (x) = 1000 x 1 x 0 (5) Puµo essere dimostrato che l'insieme ammissibile del problema in esame µe convesso (ossia che g 1 (x) µe una funzione convessa). Le condizioni di KKT sono quindi condizioni su±cienti di minimo globale. La funzione Lagrangiana µe: L(x; ) = 0; 1x 1 0; 1x 1(65 0; 005x 1 + 0; 006x 1x 0; 008x ) (1000 x 1 x 11

12 Imponiamo le condizioni di 1 1 0; 006x 1 + = 1 0; 006x = 0 g 1 (x) = 65 0; 005x 1 + 0; 006x 1x 0; 008x 0 g (x) = 1000 x 1 x ; 005x 1 + 0; 006x 1 x 0; 008x = x 1 1 x 1 = 0 0 Consideriamo i seguenti quattro casi. Caso 1 Entrambi i vincoli sono attivi. Dal sistema 65 0; 005x 1 + 0; 006x 1x 0; 008x = x 1 x = 0 si ottiene l'equazione 0; 019x 16x = 0 che non ha soluzioni reali. Caso µe attivo il solo vincolo g 1 (x) ( = 0). Si ottiene il seguente sistema di 1 1 0; 006x 1 = 1 0; 006x 1 1 = 0 g 1 (x) = 65 0; 005x 1 + 0; 006x 1x 0; 008x = 0 Esplicitando le prime due equazioni rispetto a 1, ed uguagliando le due espressioni si ottiene 0; 1 0; 01x 1 0; 006x = 0; 1 0; 016x 0; 006x 1 e quindi x 1 = 1; 9x. Sostituendo x 1 nella terza equazione si ottiene la soluzione x = 69:9 e x 1 = 348:1. µ E facile veri care che rg1 (x) 6= 0 in tale punto. La condizione di quali cazione µe quindi soddisfatta. Caso 3 µe attivo il solo vincolo g (x) ( 1 = 0). Le prime due condizioni diventano = 0; 1 + = 0 = 0; 1 + = 0 e quindi il sistema non ha soluzione. Caso 4 1

13 Entrambi i vincoli non sono attivi ( 1 = = 0). La prima condizione diventa = 0; 1 = e quindi il sistema non ha soluzione. Il minimo globale del problema µe quindi x 1 = 348:1 e x = 69:9. Esempio 6 Dato l'insieme di punti descritto dalle seguenti disequazioni x 1 x 1 x 1 + x 0 x 1 0 (6) veri care che il punto (1; 1) non soddisfa le condizioni di quali cazione. Consideriamo le disequazioni nella forma: g 1 (x) = 1 + x 1 x 0 (7) g (x) = x 1 +x 0 (8) g 3 (x) = x 1 0 (9) La regione ammissibile µe riportata in Figura 3, e consiste nella regione del primo e quarto quadrante al di sotto della retta 1 + x 1 x ed esterna alla parabola x 1 +x. Nel punto A = (1; 1) sono attivi i vincoli g 1 (x) e g (x). Controlliamo la condizione di quali cazione dei vincoli. Si ha 1 1 rg 1 = rg = x La matrice dei vincoli attivi dg(1; 1) 1 = dx 1 ha rango 1 e quindi la condizione di quali cazione dei vincoli non µe soddisfatta. Notare, infatti, che in A le due curve sono tangenti, e quindi i vettori gradiente relativi ai due vincoli sono paralleli. (10) 13

14 C=(0,0.5) A=(1,1) 0 B=(0,0) Figura 3: Regione ammissibile dell'esempio 6. Esempio 7 Dato il seguente problema di ottimizzazione vincolata minx 1 + 3x g 1 (x) = x 1 +x 1 g (x) = x 1=4 (11) studiare l'esistenza di punti di minimo. Studiamo il problema nella forma: minx 1 + 3x g 1 (x) = x 1 +x 1 0 g (x) = 4x 1 0 (1) La funzione Lagrangiana µe: L(x; ) = x 1 + 3x 1(x 1 +x 1) (4x 1) 14

15 Imponiamo le condizioni di KKT: = x 1 x 1 1 = 0 = 6x 1x x = 0 g 1 (x) = x 1 +x 1 0 g (x) = 4x 1 0 1(x 1 + x 1) = 0 (4x 1) = 0 0 La regione ammissibile del problema, riportata in Figura 4, µe costituita dalla intersezione della regione esterna alla circonferenza g 1 con i due semipiani x 1= e x 1=. I gradienti dei vincoli, che serviranno per veri care la condizione dei quali cazione nei x (? 3 1, ) (0,1) 3 1 (, ) x 1 3 (?,? 1 ) (0,-1) 3 1 (,? ) punti trovati, sono: x1 rg 1 = x Figura 4: Regione ammissibile dell'esempio 7. rg = Consideriamo i seguenti casi. Caso 1( 1 = = 0) 0 x Nessun vincolo µe attivo. Dalle prime due condizioni di KKT si ottiene il punto (0; 0) che non appartiene alla regione ammissibile. Caso ( 1 > 0 = 0) µe attivo il vincolo g 1 (x). Le prime due condizioni di KKT 1 x 1 1 = 1x = 0 15

16 Notare che nell'insieme ammissibile si ha sempre x 6= 0. La seconda equazione puµo essere quindi divisa per x ottenendo 1 = 3. Consideriamo i due sottocasi: x 1 = 0 e x 1 6= 0. Per x 1 = 0, dal primo vincolo si ottiene x = 1 e x = 1. I punti trovati sono quindi (0; 1), (0; 1). µ E facile veri care che in tali punti µe soddisfatta la condizione di quali cazione dei vincoli attivi. La funzione obiettivo in entrambi i punti assume valore 3. Per x 1 6= 0, dalle prime due condizioni di KKT si ottiene rispettivamente 1 = 1 e 1 = 3, e quindi il sistema non ammette soluzione. Caso 3( 1 = 0 > 0) µe attivo il vincolo g (x). Si ottengono i punti (0; 1=), (0; 1=) che non sono ammissibili. Caso 4( 1 > 0 > 0) Entrambi i vincoli sono attivi. La regione ammissibile µe costituita in questo caso dai quattro punti d'intersezione della circonferenza con le due rette x = 1= e x = 1=: ( p 3 ; 1 ), (p 3 ; 1 ), ( p 3 ; 1 ), ( p 3 ; 1 ). In tutti e quattro i punti, dalle prime due condizioni di KKT, si ottengono i moltiplicatori: 1 = 1 e =. Controlliamo la condizione di quali cazione dei vincoli attivi. Si ha la matrice dg = x1 x dx 0 x che nei punti trovati ha sempre rango. In tutti i punti la funzione obiettivo vale sempre 3=. Esempio 8 Si consideri il seguente problema di ottimizzazione vincolata: min x 1 x x 1 + x 7 x 1 + x a) Si individuino i punti che soddisfano le condizioni necessarie di ottimo del primo ordine (Karush-Kuhn-Tucker). Siete in grado di indicare il punto di minimo globale? b) Vi sono punti in cui la condizione di quali cazione dei vincoli attivi non µe soddisfatta? Motivare la risposta. Il problema puµo essere formulato nel seguente modo: min x 1 x g 1 (x) = x 1 x (13) g (x) = x 1 +x 0 (14) 16

17 L'insieme ammissibile del problema µe dato dall'intersezione della parte interna all'ellisse, corrispondente al primovincolo, conquellainternaallacirconferenzadescritta dal secondo vincolo. Tale insieme µe non convesso ed µe mostrato in Figura 5.? 0, 7?? 7??, 0??? 0,?? 0,??? 7?,0?? 0,? 7? Figura 5: Regione ammissibile dell'esempio 8. Troviamo i punti che soddisfano le condizioni di KKT. La funzione Lagrangiana µe: L(x; ) = x 1 x 1( x 1 x + 7) (x 1 +x ) Imponiamo le condizioni di KKT: = 0 = x + x 1 x = 0 g 1 (x) = x 1 x g (x) = x 1 +x 0 1( x 1 x + 7) = 0 (x 1 + x ) = 0 0 Consideriamo i seguenti quattro casi. Caso 1 Entrambi i vincoli non sono attivi ( 1 = = 0) Dalla prima condizione si ottiene 1 = 0 17

18 ed µe quindi impossibile. Caso Entrambi i vincoli sono attivi. In questo caso non esistono punti ammissibili dato che ellisse e circonferenza non hanno punti in comune. Caso 3 Il solo vincolo attivo µe g 1 (x) ( = 0). Si ha il sistema: 1 + 4x 1 1 = 0 x + x 1 = 0 x 1 x + 7 = 0 Dalla seconda equazione derivano i due seguenti sotto casi: i) x = 0; ii) x 6= 0. i) Dalla terza equazione, si ottengono i punti A( q 7 ; 0) e B( q 7 ; 0), di cui solo A soddisfa la condizione di non negativitµa su 1. ii) Poich e x 6= 0 si puµo dividere la seconda equazione per x ottenendo 1 = 1. Dalla prima equazione si ottiene x 1 = 1 4 e dalla terza x = q I punti sono quindi C(1 4 ;q 55 8 ) e D( 1 4 ; q 55 8 ). Caso 3 Il solo vincolo attivo µe g (x) ( 1 = 0). Si ha il sistema: 1 x 1 = 0 x x = 0 x 1 +x = 0 0 Possiamo considerare i due seguenti sotto casi: iii) x = 0; iv) x 6= 0. iii) L'unico punto che soddisfa il sistema µe E( p ; 0). iv) Dalla prima equazione si ha = 1 che non soddisfa la quarta equazione. Poich e l'insieme ammissibile µe chiuso e limitato esiste almeno un minimo globale. Tra quelli che soddisfano le condizioni necessarie di minimo, i punti che minimizzano la funzione obiettivo sono C e D. Per quanto riguarda la condizione di quali cazione dei vincoli attivi, si noti che non esistono punti in cui entrambi vincoli sono attivi. I gradienti dei due vincoli, inoltre, si 18

19 annullano solo nell'origine che non appartiene alla regione ammissibile. La condizione di quali cazione dei vincoli attivi µe, quindi, sempre soddisfatta. 19