3.6 Rilassamento Lagrangiano

Transcript

1 3.6 Rilassamento Lagrangiano Consideriamo un generico problema di Programmazione Lineare Intera min {c t x : Ax b, Dx d, x Z n } con tutti i coefficienti interi, dei vincoli Ax b facili e altri Dx d difficili. Il rilassamento continuo e quello per eliminazione dei Dx d forniscono dei bound spesso deboli. Esempi: TSP eliminando i vincoli di taglio (o relativi ai sottocicli), UFL eliminando i vincoli di domanda Ambito più ampio: min {c t x : Dx d, x X R n } dove i vincoli Dx d sono quelli che rendono il problema difficile. Idea: eliminare i vincoli difficili aggiungendo, per ognuno di essi, alla funzione obiettivo un termine con un moltiplicatore 0 che ne penalizza la violazione e che è 0 in tutti i punti che lo rispettano. 1

2 Sottoproblema Lagrangiano Definizione: Dato un problema min {c t x : Dx d, x X R n } (1) Per ogni vettore di moltiplicatori di Lagrange u 0, il sottoproblema Lagrangiano è dove w(u) = min {L(x, u) : x X R n } (2) L(x, u) = c t x + u t (d Dx) è la funzione Lagrangiana del problema primale (1) e w(u) = min {L(x, u) : x X R n } è la funzione duale. Proposizione: Per ogni u 0, il sottoproblema Lagrangiano (2) è un rilassamento del problema (1). Dim. Chiaramente {x X : Dx d} X. Inoltre, per ogni u 0 e ogni x ammissibile per il problema (1), w(u) c t x + u t (d Dx) c t x dato che u t (d Dx) 0 e w(u) è il valore minimo di c t x + u t (d Dx) per x X. Conseguenza: Se z = min {c t x : Dx d, x X} è finito, allora w(u) z per ogni u 0. 2

3 Per determinare la migliore stima per difetto w su z, si risolve il problema Lagrangiano duale Definizione: Il duale Lagrangiano del problema primale (1) è max u 0 w(u) (3) Solo vincoli di non negatività! N.B.: Effettuando il rilassamento Lagrangiano di vincoli lineari la funzione obiettivo resta lineare. Gli altri vincoli possono essere qualunque, purché il problema rilassato sia abbastanza facile. Corollario: (Dualità debole) Per ogni coppia x {x X : Dx d} ammissibile per il primale (1) e u 0 ammissibile per il duale (3), vale w(u) c t x. (4) Conseguenze: i) Se x è ammissibile per il primale (1), ũ è ammissibile per il duale (3) e w(ũ) = c t x, allora x è ottima per il primale e ũ è ottima per il duale. ii) Due casi: w = max u 0 w(u) z = min {c t x : Dx d, x X}, oppure uno dei due problemi è illimitato e l altro è inammissibile. 3

4 Contrariamente al caso dei Programmi Lineari, per i problemi di ottimizzazione discreta può esistere un salto di dualità, ovvero w < z. Per i problemi di PL il duale Lagrangiano coincide con il duale usuale (cf. esercizio 4.2). Caso con anche vincoli di uguaglianza: Stessi risultati, unica differenza: per vincoli di uguaglianza moltiplicatori di Lagrange u i R. Se tutti gli m vincoli rilassati sono di uguaglianza, il problema Lagrangiano duale è: max w(u) u R m 4

5 Esempio 1: Problema di zaino binario Sia max z = 10x 1 + 4x x 3 s.v. 3x 1 + x 2 + 4x 3 4 x 1, x 2, x 3 {0, 1} Rilassando l unico vincolo lineare si ottiene la funzione Lagrangiana: L(x, u) = 10x 1 + 4x x 3 + u(4 3x 1 x 2 4x 3 ) Funzione duale: w(u) = max x {0,1} 3 10x 1 + 4x x 3 + u(4 3x 1 x 2 4x 3 ) per u 0 Raccogliendo, otteniamo il sottoproblema Lagrangiano: w(u) = max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u risolvibile in tempo lineare ponendo a 1 (0) le variabili con coefficiente non negativo (non positivo) e scegliendo un valore arbitrario per quelle con coefficiente nullo. Problema Lagrangiano duale: min u 0 w(u) = min u 0 ( max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u ) 5

6 Funzione duale: w(u) = max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u Valori di u per i quali i coefficienti di x 1, x 2, x 3 sono non positivi: u 10 3 per x 1, u 14 4 per x 3 e u 4 per x 2. Soluzione ottima del sottoproblema Lagrangiano in funzione di u: x = (1, 1, 1) per u [0, 10 3 ], x = (0, 1, 1) per u [ 10 3, 14 4 ], x = (0, 1, 0) per u [ 14 4, 4], x = (0, 0, 0) per u [4, ). Quindi w(u) = 28 4u per u [0, 10 3 ] 18 u per u [ 10 3, 14 4 ] 4 + 3u per u [ 14 4, 4] 4u per u [4, ) 6

7 Grafico della funzione duale: w(u) u Duale Lagrangiano: min u 0 w(u) = min u 0 ( max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u ) soluzione ottima u = 14 4 con w = w(u ) =

8 Esempio 2: Localizzazione ottima senza vincoli di capacità (UFL) Consideriamo la variante con profitti p ij e costi f j dei depositi, in cui si massimizza i profitti. Formulazione di PLMI: z = max i M s.v. j N p ijx ij j N f jy j j N x ij = 1 i M (5) x ij y j i M, j N y j {0, 1} j N 0 x ij 1 i M, j N Rilassando i vincoli di domanda (5) si ottiene il sottoproblema Lagrangiano: w(u) = max i M j N (p ij u i )x ij j N f jy j + i M u i s.v. x ij y j i M, j N (6) y j {0, 1} j N (7) 0 x ij 1 i M, j N (8) che si scompone in N sottoproblemi indipendenti, uno per ogni sito candidato j. 8

9 Infatti w(u) = j N w j(u) + i M u i dove w j (u) = max i M (p ij u i )x ij f j y j (9) s.v. x ij y j i M y j {0, 1} 0 x ij 1 i M Per ogni j N, il sottoproblema (9) può essere risolto per ispezione: Se y j = 0, allora x ij = 0 per ogni i e il valore della funzione obiettivo è 0. Se y j = 1, conviene servire tutti i clienti con profitto positivo, ossia x ij = 1 per tutti gli i t.c. p ij u i > 0, per un valore della funzione obiettivo di i M max{p ij u i, 0} f j. Quindi w j (u) = max{0, i M max{p ij u i, 0} f j }. Esempio: vedere capitolo 10 di L. Wolsey, Integer Programming, p

10 In certi casi la risoluzione del duale Lagrangiano (3) fornisce una soluzione ottima del problema primale (1). Proposizione: Se u 0 e i) x(u) è una soluzione ottima del sottoproblema Lagrangiano (2) ii) Dx(u) d iii) (Dx(u)) i = d i per ogni moltiplicatore di Lagrange u i > 0 (condizione degli scarti complementari), allora x(u) è una soluzione ottima del problema di partenza (1). Dim. In base a (i) w w(u) = c t x(u) + u t (d Dx(u)) e in base a (iii) c t x(u) + u t (d Dx(u)) = c t x(u). Secondo (ii) x(u) è una soluzione ammisssibile di (1) e quindi c t x(u) z. Di conseguenza w c t x(u) + u t (d Dx(u)) = c t x(u) z e, poiché w z, tutto vale con il segno di uguaglianza e x(u) è una soluzione ottima di (1). Osservazione: Se si procede al rilassamento Lagrangiano di vincoli di uguaglianza, le condizioni (iii) sono automaticamente soddisfatte, e una soluzione ottima del sottoproblema Lagrangiano è ottima per il problema (1) se è ammissibile. 10

11 Proprietà importante del duale Lagrangiano: Proprietà: La funzione duale w(u) è concava. Dim. Siano u 1 0 e u 2 0. Per qualsiasi α tale che 0 α 1, sia x una soluzione ottima del sottoproblema Lagrangiano (2) per ũ = αu 1 + (1 α)u 2, ovvero w(ũ) = c t x + ũ t (d D x). Per definizione di w(u), abbiamo w(u 1 ) c t x + u t 1(d D x) e w(u 2 ) c t x + u t 2(d D x). Moltiplicando la prima disuguaglianza per α e la seconda per 1 α, si ottiene αw(u 1 ) + (1 α)w(u 2 ) c t x + (αu 1 + (1 α)u 2 ) t (d D x) = w(αu 1 + (1 α)u 2 ). 11

12 3.6.1 Caratterizzazione del duale Lagrangiano in termini di PL Quanto è stringente il limite inferiore su z che si ottiene risolvendo il duale Lagrangiano? Teorema: Consideriamo un generico problema di Programmazione Lineare Intera min {c t x : Ax b, Dx d, x Z n } con tutti i coefficienti interi. Siano w(u) = min {c t x + u t (d Dx) : Ax b, x Z n } la funzione duale, w = max u 0 w(u) il valore ottimo del duale Lagrangiano (3) e X = {x Z n : Ax b}, allora w = min {c t x : Dx d, x conv(x)}. (10) Il problema viene convessificato, duale Lagrangiano caratterizzato in termini di un Programma Lineare Corollario 1: Visto che conv(x) {x R n : Ax b}, z P L = min {c t x : Ax b, Dx d, x R n } w z. Secondo la funzione obiettivo, queste disuguaglianze possono essere strette, e.g., z P L < w < z. 12

13 Illustrazione: tratta da D. Bertsimas, R. Weismantel, Optimization over integers, Dynamic Ideas, 2005, p Si consideri il PLI min 3x 1 x 2 s.v. x 1 x 2 1 x 1 + 2x 2 5 3x 1 + 2x 2 3 6x 1 + x 2 15 x 1, x 2 0 intere - Rappresentare la regione ammissibile e la soluzione ottima del PLI e del suo rilassamento continuo. x P LI = (1, 2) con z P LI = 1 e x P L = (1/5, 6/5) con z P L = 3/5. - Effettuare il rilassamento Lagrangiano del primo vincolo. Per ogni u 0, il sottoproblema Lagrangiano è w(u) = min (3x 1 x 2 + u( 1 x 1 + x 2 )) (x 1,x 2 ) X con X l insieme delle soluzioni intere che soddisfano tutti gli altri vincoli. Disegnare conv(x) e il poliedro conv(x) {(x 1, x 2 ) R 2 : x 1 x 2 1}. 13

14 In base al teorema, determinare il valore ottimo del duale Lagrangiano w = max u 0 w(u) e la corrispondente soluzione ottima x D. Si ottiene x D = (1/3, 4/3) con w = 1/3. Quindi abbiamo: z P L = 3/5 < w = 1/3 < z P LI = 1, 2 Tracciando la funzione duale w(u) si può verificare graficamente che la soluzione ottima è u = 5/3 con w = 1/3. 14

15 Dim. Consideriamo il caso X = {x 1,..., x k } con un numero finito, anche se elevatissimo, di soluzioni ammissibili. Il problema duale Lagrangiano equivale a massimizzare una funzione concava lineare a tratti non ovunque differenziabile: w = max u 0 w(u) = max u 0 {min x X [ct x + u t (d Dx)]} = max u 0 { min 1 l k [ct x l + u t (d Dx l )]} e si può esprimere come il seguente Programma Lineare: w = max y s.v. c t x l + u t (d Dx l ) y l u 0, y R che contiene un numero elevatissimo di vincoli. Prendendo il duale di questo PL e applicando la dualità forte si ottiene: k w = min µ l (c t x l ) s.v. l=1 k µ l (Dx l d) 0 l=1 k µ l = 1 l=1 µ l 0 l. 15

16 Ponendo x = k l=1 µ lx l con k l=1 µ l = 1 e µ l 0 per ogni l, si ottiene: w = min c t x s.v. Dx d x conv(x). Il risultato si può estendere al caso in cui X è la regione ammissibile di qualsiasi PLI. Esempio di funzione duale w(u) concava lineare a tratti 16

17 In certi casi il limite inferiore su z ottenuto tramite rilassamento Lagrangiano non è più stringente del rilassamento continuo (lineare). Corollario 2: Se X = {x Z n : Ax b} e conv(x) = {x R n : Ax b} allora w = z P L = min {c t x : Ax b, Dx d, x R n }. Esempio: Sia un generico problema di zaino binario e il suo rilassamento continuo (lineare) max z = n i=1 p ix i s.v. n i=1 a ix i b x i {0, 1} n max x [0,1] n{ p i x i : i=1 i n a i x i b}. Il rilassamento Lagrangiano è tanto forte quanto il rilassamento continuo poiché X = {x {0, 1} n } e banalmente conv(x) = {x [0, 1] n }, i cui vincoli sono già contenuti nel rilassamento continuo. Quindi secondo il corollario w = z P L. i=1 17

18 3.6.2 Risoluzione del duale Lagrangiano Generalizzazione del metodo del gradiente per le funzioni di classe C 1 a funzioni C 1 a tratti Definizione: Sia C R n convesso e f : C R convessa su C un vettore γ R n è un sottogradiente di f in x C se f(x) f(x) + γ t (x x) x C il sottodifferenziale, indicato f(x), è l insieme di tutti i sottogradienti di f in x. Proprietà: 1) Una funzione f : C R convessa possiede almeno un sottogradiente in ogni punto interno x di C. N.B.: Esistenza di (almeno) un sottogradiente in ogni punto di int(c), con C convesso, è una condizione necessaria e sufficiente affinché f sia convessa su int(c). 2) Se f è convessa e x C, f(x) è un insieme non vuoto, convesso, chiuso e limitato 3) x è un minimo (globale) di f se e solo se 0 f(x ) 18

19 Consideriamo il problema min x R n f(x) con f(x) convessa Metodo del sottogradiente: Si parte da qualsiasi x 0, all iterazione k si sceglie un qualunque γ k f(x k ) e si pone con α k > 0 x k+1 := x k α k γ k Osservazione: Non si effettua un ottimizzazione 1-D perché nel caso delle funzioni non ovunque differenziabili γ con γ f(x) non è necessariamente di discesa! Esempio pagina successiva Ma si può dimostrare che, se il passo è sufficientemente piccolo, ci si avvicina ad una soluzione ottima: Lemma: Sia x k una soluzione non ottima e x una qualsiasi soluzione ottima, allora implica x k+1 x < x k x 2. 0 < α k < 2 f(x k) f(x ) γ k 2 19

20 Esempio: min 1 x1,x 2 1 f(x 1, x 2 ) con f(x 1, x 2 ) = max{ x 1, x 1 + x 2, x 1 2x 2 } non ovunque continuamente differenziabile Curve di livello in marrone, punti di non differenziabilità in verde (del tipo: (t, 0), ( t, 2t) e ( t, t) per t 0), minimo globale x = (0, 0) Se x k = (1, 0) e si considera il sottogradiente γ k = (1, 1) f(x k ), f(x) aumenta (peggiora) lungo la semiretta {x R 2 : x = x k α k γ k, α k 0} ma se il passo α k è sufficientemente piccolo x k+1 = x k α k γ k si avvicina a x. Esempio tratto da capitolo 8 di Bazaraa et al., Nonlinear Programming, Wiley, 2006, p

21 Teorema: Se f convessa, lim x f(x) = +, lim k α k = 0 e k=0 α k =, allora il metodo del sottogradiente termina dopo un numero finito di iterazioni con una soluzione ottima x o genera una successione infinita di punti {x k } che possiede una sottosuccessione che converge verso x. Scelta del passo: In pratica, successioni {α k } tali che lim k α k = 0, k=0 α k = (come, ad esempio, α k = 1/k) sono molto lente. A volte si sceglie α k = α 0 ρ k, per un dato ρ < 1. Una scelta più sofisticata e diffusa è: α k = ε k f(x k ) ˆf γ k 2 dove 0 < ε k < 2 e ˆf è il valore ottimo (minimo) f(x ) o una sua stima. Criterio di arresto: numero massimo di iterazioni perché anche se 0 f(x k ) non è detto che in x k si adoperi quel sottogradiente. N.B.: Il metodo non essendo monotono, si deve memorizzare il migliore u k trovato. Per estendere il metodo al caso con vincoli semplici (limiti superiori e/o inferiori sulle variabili) basta effettuare ad ogni iterazione una proiezione. 21

22 Metodo del sottogradiente per la risoluzione del duale Lagrangiano Duale Lagrangiano: max u 0 w(u) con w(u) = min {c t x + u t (d Dx) : x X R n } concava e lineare a tratti. Caratterizzazione dei sottogradienti di w(u): Proposizione: Siano ũ 0 e X(ũ) = {x X : w(ũ) = c t x + ũ t (d Dx)} l insieme delle soluzione ottime del sottoproblema Lagrangiano (2). Allora per ogni x(ũ) X(ũ), il vettore (d Dx(ũ)) w(ũ); ogni sottogradiente di w(u) in ũ può essere espresso come combinazione convessa dei sottogradienti (d Dx(ũ)) con x(ũ) X(ũ). Il primo punto è una semplice conseguenza delle definizioni di funzione duale e di sottogradiente. 22

23 Dim. Per definizione di w(u) In particolare, per qualsiasi x(ũ) X(ũ) si ha w(u) c t x + u t (d Dx) x X, u 0. w(u) c t x(ũ) + u t (d Dx(ũ)) u 0 (11) e chiaramente Sottraendo (12) da (11) si ottiene w(ũ) = c t x(ũ) + ũ t (d Dx(ũ)). (12) w(u) w(ũ) (u t ũ t )(d Dx(ũ)) u 0 che equivale a w(u) w(ũ) + (u t ũ t )(d Dx(ũ)) u 0. Quindi (d Dx(ũ)) w(ũ). 23

24 Procedura: 1) Scegliere u 0 iniziale, porre k := 0. 2) Risolvere il sottoproblema Lagrangiano min {c t x + u t k(d Dx) : x X}. (d Dx(u k )) è un sottogradiente di w(u) in u k, dove x(u k ) è la soluzione ottima trovata. 3) Aggiornare i moltiplicatori di Lagrange: u k+1 = max{0, u k + α k (d Dx(u k ))} con, ad esempio, α k = ε k ŵ w(u k ) d Dx(u k ) 2, dove ŵ è una stima del valore ottimo w. 4) Porre k := k

25 Esempio: Rilassamento Lagrangiano per il problema di zaino binario Sia Problema Lagrangiano duale: min u 0 con funzione duale max z = 10x 1 + 4x x 3 s.v. 3x 1 + x 2 + 4x 3 4 x 1, x 2, x 3 {0, 1} w(u) = min u 0 ( max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u ) w(u) = 28 4u per u [0, 10 3 ] 18 u per u [ 10 3, 14 4 ] 4 + 3u per u [ 14 4, 4] 4u per u [4, ) 25

26 w(u) u Soluzione ottima u = 14 4 con w = w(u ) =

27 Problema Lagrangiano duale: min u 0 w(u) = min u 0 ( max x {0,1} 3 (10 3u)x 1 + (4 u)x 2 + (14 4u)x 3 + 4u ) Sottogradiente γ k = (4 3x k 1 x k 2 4x k 3), dove x k = x(u k ) è la soluzione ottima del sottoproblema Lagrangiano alla k-esima iterazione. Aggiornamento moltiplicatore: u k+1 = max{0, u k α k γ k } con α k = 1 2 k Metodo del sottogradiente: k u k α k w(u k ) x k γ k max (10, 4, 14) t x + 4u = 28 (1, 1, 1) max ( 2, 0, 2) t x + 4u = (0, 0, 0) max (4, 2, 6) t x + 4u = (1, 1, 1) max (1, 1, 2) t x + 4u = (1, 1, 1) max ( 0.5, 0.5, 0) t x + 4u = (0, 1, 0) 3 Simbolo : sono presenti più soluzioni ottime x k e scegliamo quella lessicograficamente più piccola (poniamo a 0 ogni variabile x k i con coefficiente nullo) sia raggiunto all iterazione k = 4, il sottogradi- N.B.: benché il valore ottimo del moltiplicatore u = 14 4 ente non è nullo. 27

28 3.6.3 Rilassamento Lagrangiano per il TSP simmetrico (Held & Karp 1970) Problema: Dato un grafo non orientato G = (V, E) con un costo c e Z + per ogni lato e E, determinare un ciclo Hamiltoniano di costo totale minimo. Formulazione di PLI: min s.v. e E c ex e e δ(i) x e = 2 i V (13) e E(S) x e S 1 S V, 2 S n 1 (14) x e {0, 1} e E dove E(S) = {{i, j} E : i S, j S} Osservazioni: i) Causa presenza dei vincoli (13), metà di quelli di eliminazione dei sottocicli (14) sono ridondanti: sia S = V \ S allora e E(S) x e S 1 se e solo se e E(S) x e S 1. Si possono quindi eliminare tutti i vincoli (14) con 1 S. ii) Sommando tutti i vincoli di grado (13) e dividendo per 2 si ottiene e E x e aggiungere alla formulazione. = n, che si può 28

29 Ricordiamo che un ciclo Hamiltoniano è un 1-albero (i.e., un albero di supporto sui nodi {2,..., n} più due lati incidenti al nodo 1) in cui tutti i nodi hanno esattamente due lati incidenti. Poiché e E c ex e + i V u i(2 e δ(i) x e) = e={i,j} E (c e u i u j )x e + 2 i V u i, rilassando i vincoli di grado (13) per tutti i nodi eccetto il nodo 1, si ottiene il sottoproblema Lagrangiano: w(u) = min e E (c e u i u j )x e + 2 i V u i s.v. e δ(1) x e = 2 e E(S) x e S 1 e E x e = n x e {0, 1} S V, 2 S n 1, 1 S e E dove u 1 = 0 e E(S) = {{i, j} E : i S, j S}. N.B.: Le soluzioni ammissibili di questo problema sono esattamente gli 1-alberi. Per trovare un 1-albero di costo minimo: determinare con metodo greedy (Kruskal o Prim) un albero di supporto di costo minimo sui nodi {2,..., n} e selezionare due lati incidenti al nodo 1 di costo minimo. 29

30 Osservazione: Poiché i vincoli e δ(1) x e = 2 e E(S) x e S 1 S V, 2 S n 1, 1 S e E x e = n con x 0 descrivono il guscio convesso dei vettori (binari) di incidenza dei 1-alberi, il Corollario 2 implica che w = z P L. Il rilassamento continuo min s.v. e E c ex e e δ(i) x e = 2 i V e E(S) x e S 1 S V, 2 S n 1 x e 0 e E con un numero esponenziale di vincoli può quindi essere risolto senza considerarli esplicitamente. Poiché i vincoli rilassati sono di uguaglianza, il duale Lagrangiano è: max u R V : u 1 =0 w(u) 30

31 Esempio: tratto da L. Wolsey, Integer Programming, p Sia grafo non orientato G = (V, E) con 5 nodi e la matrice dei costi: Funzione duale: w(u k ) = min e u e={i,j} E(c k i u k j)x k e + 2 i V u k i : x k vettore di incidenza di uno 1-albero Notazione: c k ij = c e u k i uk j per e = {i, j} E Sottogradiente γ k con γi k = (2 e δ(i) xk e), dove x k = x(u k ) è la soluzione ottima del sottoproblema Lagrangiano alla k-esima iterazione. Non avendo rilassato il vincolo e δ(i) x e = 2 per i = 1, avremo sempre γ k 1 = 0. Partendo da u k 1 = 0 per k = 0, questo implica u k 1 = 0 per ogni k. 31

32 Una soluzione ammissibile di costo 148 trovata mediante una euristica: Risolviamo il duale Lagrangiano partendo da u 0 = 0 con ε = 1: Risolvendo il sottoproblema Lagrangiano con costi: C 0 = C = (c 0 e = c e per ogni e E dato che u 0 = 0), si trova x(u 0 ) corrispondente all 1-albero di costo 130:

33 Noto x(u 0 ), si può calcolare il valore della funzione duale: w(u 0 ) = , pari al costo dell 1-albero + 2 i V u0 i. Sottogradiente Aggiornamento vettore dei moltiplicatori: Quindi γ 0 = u 1 = u 0 + (ŵ w(u0 )) γ 0 ( ) = 0 + γ C 1 = x(u 1 ) corrisponde all 1-albero di costo 143: =

34 1 5 2 e w(u 1 ) = i V u1 i = 143. Poiché abbiamo Quindi u 2 = u 1 + (ŵ w(u1 )) γ 1 2 γ 1 = C 2 = 4 3 γ 1 = ( ) =

35 x(u 2 ) corrisponde all 1-albero di costo 147.5: e w(u 2 ) = Essendo tutti i costi c e interi, la soluzione ammissibile di costo 148 trovata con l euristica è ottima. JAVA Applet: mertens/tsp/index.html 35

36 3.6.4 Euristiche Lagrangiane Quando u k si avvicina a u, le soluzioni ottime x(u k ) dei sottoproblemi Lagrangiani tendono ad essere ammissibili per il primale. Esempio: nel TSP simmetrico, molti nodi del 1-albero hanno grado 2. Spesso semplici euristiche permettono di trasformare x(u k ) in una soluzione ammissibile senza peggiorare troppo il valore della funzione obiettivo. Esempio: Problema di Copertura di un Insieme ( Set covering ) min { n c j x j : j=1 n a ij x j 1, i = 1,..., m; x {0, 1} n } j=1 con a ij {0, 1} per 1 i m, 1 j n. Sottoproblema Lagrangiano ottenuto rilassando tutti i vincoli di copertura: n m m min{ (c j u i a ij )x j : x {0, 1} n } + con u 0. j=1 i=1 36 i=1 u i

37 Se c j = c j m i=1 u ia ij, per j = 1,..., n, si ottiene min{ n j=1 c jx j : x {0, 1} n } + m i=1 u i che si risolve ponendo x j = 1 se c j < 0, e x j = 0 altrimenti. Basta considerare x(u k ), eliminare dal problema le righe coperte da x(u k ) e coprire le altre in modo greedy. Sia la y soluzione greedy parziale, x(u k )+y è chiaramente una soluzione ammissibile. Verificare se qualche x j (u k ) = 1 può essere posta a 0. Fissare il valore di alcune variabili: Sia una soluzione ammissibile di valore ẑ, ogni migliore soluzione soddisfa m n m u i + min x {0,1} n{ (c j u i a ij )x j } c t x < ẑ i=1 j=1 Proprietà: Siano N + = {j N : c j m i=1 u ia ij > 0} e N = {j N : c j m i=1 u ia ij < 0}. - Se k N + e m i=1 u i + j N (c j m i=1 u ia ij ) + (c k m i=1 u ia ik ) ẑ, allora x k = 0 in qualsiasi soluzione migliore. - Se k N e m i=1 u i + j N \{k} (c j m i=1 u ia ij ) ẑ, allora x k = 1 in qualsiasi soluzione migliore. i=1 Esempio: Set covering (cf. capitolo 10 di L. Wolsey, Integer Programming, p.178) 37

38 3.6.5 Scelta del duale Lagrangiano Se il problema contiene più gruppi di vincoli, bisogna scegliere quali vincoli rilassare e quali mantenere esplicitamente. Criteri di scelta: i) quanto è stringente il bound w ottenuto risolvendo il duale Lagragiano, ii) difficoltà di risoluzione dei sottoproblemi Lagrangiani, iii) difficoltà di risoluzione del duale Lagrangiano: w = max u 0 w(u). Per (i) abbiamo il teorema. Per (ii) dipende dal problema specifico (ottimizzazione su X e conv(x)). Riguardo (iii), il numero di variabili duali è un indice di difficoltà del problema duale. Esempio: Localizzazione ottima senza vincoli di capacità (UFL) Consideriamo la variante in cui si massimizza i profitti, con profitti p ij, costi di attivazione dei depositi f j e, per ogni cliente, approvigionamento da un unico deposito. 38

39 max i M j N p ijx ij j N f jy j s.v. j N x ij = 1 i M (15) x ij y j i M, j N (16) y j {0, 1} x ij {0, 1} j N i M, j N Rilassando i vincoli di domanda (15) si ottiene il sottoproblema Lagrangiano: w(u) = max i M j N (p ij u i )x ij j N f jy j + i M u i s.v. x ij y j i M, j N y j {0, 1} x ij {0, 1} che si scompone in N sottoproblemi, uno per ogni sito candidato j, j N i M, j N w(u) = i M u i + j N max i M (p ij u i )x ij f j y j s.v. x ij y j i M y j {0, 1} x ij {0, 1} i M che si possono risolvere per ispezione (cf. Esempio 2 precedente). 39

40 Poiché abbiamo stabilito nell esercizio 3.3 che X j = {(x, y j ) R m n+1 : x ij y j, i M; 0 x ij 1, i M} ha tutti i vertici (punti estremi) interi, il bound Lagrangiano w ottenuto risolvendo min u 0 w(u) equivale a quello del rilassamento continuo. Rilassando i vincoli di coerenza (16) si ottiene il sottoproblema Lagrangiano: w(u) = max i M s.v. j N p ijx ij j N f jy j + i M j N x ij = 1 y j {0, 1} x ij {0, 1} j N u ij(y j x ij ) i M j N i M, j N Quanto stringente è il duale Lagrangiano e quanto difficile è il sottoproblema Lagrangiano? 40