a ij x j ) L i vincoli rilassati: a ij x j b i (i = 1,..., m) si inizia con un λ qualunque (es. λ i = 0 i);

Transcript

1 Determinazione di buoni moltiplicatori lagrangiani 1) Quando possibile, mediante analisi teorica del problema. 2) Metodo iterativo. Consideriamo il caso: funzione obiettivo: c j x j + λ i (b i j i j vincoli rilassati: j a ij x j ) }{{} a ij x j b i (i = 1,..., m) si inizia con un λ qualunque (es. λ i = 0 i); L i si risolve L(P, λ): se condizione di arresto soddisfatta, stop; altrimenti: for i := 1 to m do λ i := max(0, λ i tl i ) (con t > 0 prefissato) e si ripete. Significato della correzione: - L i < 0 : vincolo i violato λ i troppo piccolo (penalizza poco la funzione obiettivo); - L i > 0 : vincolo i lasco λ i troppo grande (premia molto la funzione obiettivo); - L i = 0 : vincolo i rispettato e non lasco λ i giusto. Procedimento non monotono si memorizza il miglior λ. t di solito decresce all aumentare del numero di iterazioni. Arresto se: - i (L i = 0) or (L i > 0 and λ i = 0) (ottimo), o - Z(L(P, λ)) non varia più apprezzabilmente, o - raggiunto numero massimo prefissato di iterazioni. Per il surrogato considerazioni analoghe ma meno efficaci i moltiplicatori non compaiono nella funzione obiettivo. 213

2 Relazioni di dominanza tra rilassamenti Definibili per il rilassamento dello stesso insieme di vincoli Notazioni: R (v) (P ) = rilassamento R dei vincoli (v); D (v)(w) (P ) = rilassamento D dei vincoli (v) e (w). Surrogato-Eliminazione Relazione 1 Il rilassamento surrogato duale domina il rilassamento per eliminazione. Dim: il rilassamento per eliminazione è un caso particolare di rilassamento surrogato. Infatti: Z(E (v) (P )) = Z(S (v) (P, 0)) Lagrangiano-Eliminazione Relazione 2 Il rilassamento lagrangiano duale domina il rilassamento per eliminazione. Dim: il rilassamento per eliminazione è un caso particolare di rilassamento lagrangiano. Infatti: Z(E (v) (P )) = Z(L (v) (P, 0)) 214

3 Surrogato-Lagrangiano Z(P ) = max c j x j (1) a ij x j b i (i = 1,..., m) (2) d kj x j = e k (k = 1,..., l) (3) x j {0, 1} (j = 1,..., n) (4) Z(S (2) (P, µ)) = max m µ i n i=1 c j x j (5) a ij x j m i=1 µ i b i (6) d kj x j = e k (k = 1,..., l) (7) x j {0, 1} (j = 1,..., n) (8) Z(L (2) (P, µ)) = max c j x j + m i=1 µ i b i m n µ i i=1 d kj x j = e k (k = 1,..., l) x j {0, 1} (j = 1,..., n) si ha pertanto che L (2) (P, µ) = L (6) (S (2) (P, µ), 1) Z(L (2) (P, µ)) Z(S (2) (P, µ)) µ 0 e analogamente si prova che Z(L (3) (P, µ)) Z(S (3) (P, µ)) µ Abbiamo quindi dimostrato che: Relazione 3 Il rilassamento surrogato duale domina il rilassamento lagrangiano duale. 215 a ij x j

4 Lagrangiano-Continuo Relazione 4 Il rilassamento lagrangiano duale domina il rilassamento continuo, cioè Z(L(P, λ )) Z(C(P )) (9) qualunque sia il sottoinsieme di vincoli rilassati. Dim: omessa (basata sulla teoria della dualità). Definizione Un modello di programmazione lineare intera Q possiede la proprietà di interezza se, per qualunque istanza, il suo rilassamento continuo ha soluzione ottima intera. Quindi se il rilassamento lagrangiano possiede la proprietà di interezza, si ha: (i) Z(L(P, λ)) = Z(C(L(P, λ))) λ D altra parte C(L(P, λ)) è un rilassamento di C(P ), (ii) Z(C(L(P, λ))) Z(C(P )) λ Da (i) e (ii) si ottiene Z(L(P, λ)) Z(C(P )) λ, per cui da (9) si ha Z(L(P, λ )) = Z(C(P )). Abbiamo quindi dimostrato che: Relazione 5 Se il rilassamento lagrangiano possiede la proprietà di interezza, il valore dato dal rilassamento lagrangiano duale coincide con quello dato dal rilassamento continuo. 216

5 Surrogato-Continuo Relazione 6 Il rilassamento surrogato duale domina il rilassamento continuo qualunque sia il sottoinsieme di vincoli rilassati. Dim: immediata dalle Relazioni 3 e 4. Relazione 7 Se il rilassamento surrogato possiede la proprietà di interezza, il valore dato dal rilassamento surrogato duale coincide con quello dato dal rilassamento continuo. Dim: analoga a quella della Relazione 5: Z(S(P, π)) = Z(C(S(P, π))) Z(C(P )) π Z(S(P, π )) = Z(C(P )). Decomposizione-Lagrangiano Relazione 8 Il rilassamento per decomposizione duale domina il rilassamento lagrangiano duale, cioè Z(D (v),(w) (P, λ )) min(z(l (v) (P, µ )), Z(L (w) (P, ν ))) Dim: omessa. Riassumendo: Z(S (v) (P, π )) Z(D (v),(w) (P, λ )) Z(L (v) (P, µ )) Z(C(P )) Z(E (v) (P )). 217

6 (K) max n p j x j w j x j Applicazioni a KP01 c x j {0, 1} (j = 1,..., n) (soluzione z(k) ) Continuo: upper bound z(c(k)) Dantzig. Eliminazione del vincolo: upper bound triviale ( n Surrogato: impossibile. Lagrangiano: un solo moltiplicatore λ 0: L(K, λ) max n λc + max n Soluzione: x j = p j x j + λ(c n w j x j ) = p j ). p j x j (con p j = p j λw j ) x j {0, 1} (j = 1,..., n) 1 se p j > 0 0 se p j 0 L(K, λ) ha la proprietà di interezza : z(l(k, λ)) = p j w j >λ λ z(l(k, λ)) = z(c(l(k, λ))) z(c(k)). λ ottimo: λ = p s /w s (s = elemento critico). Infatti: z(l(k, λ )) = s 1 p j w j > p s ws p j + p s w s p j p s w s w j c s 1 + c p s w s = w j = z(c(k)) p j + λc se p j p j+1 w j w j+1 218

7 Applicazioni a problema Knapsack Multiplo 0-1 n elementi con profitti p j e pesi w j (j = 1,..., n); m contenitori di capacità c i (i = 1,..., m); scegliere m sottoinsiemi disgiunti di elementi (uno per contenitore) che rispettino le capacità e diano il massimo profitto totale. x ij = 1 se elemento j assegnato a contenitore i 0 altrimenti (MK) max m i=1 m p j x ij w j x ij c i (i M = {1,..., m}) i=1 x ij 1 (j N = {1,..., n}) x ij {0, 1} (i M, j N) Generalizzazione di KP01 N P-hard; si può dimostrare che è fortemente N P-hard. Assumiamo: p j, w j, c i interi positivi; w j max i M {c i} j N; c i min j N {w j} i M; j N w j > c i i M; p1 w 1... p n w n. 219

8 Rilassamento surrogato S(MK, π) max m i=1 m n π i i=1 m p j x ij w j x ij m i=1 i=1 π i c i (con π i 0 i) x ij 1 (j N) x ij {0, 1} (i M, j N) Per ottenere un bound utile si deve avere π i > 0 i. Dim: se π k = 0 è ammissibile porre x kj = 1 j soluzione triviale n p j. La soluzione ottima del surrogato duale è π i = Q (costante qualunque > 0) i. Dim: sia k = arg min i M {π i}; sia (x ij) la soluzione ottima di S(MK, π); soluzione ammissibile con lo stesso valore: j : x ij = 1 e i k, poni x ij = 0 e x kj = 1 (unico effetto: diminuisce il lato sinistro del vincolo) S(MK, π) KP01: max n p j x kj dove m i=1 π i c i π k m c i i=1 w j x kj m i=1 π i c i π k x kj {0, 1} (j N) π i = Q > 0 i produce la minima capacità possibile e quindi il minimo valore di S(MK, π). 220

9 S(MK) max n p j y j w j y j m c i i=1 y j {0, 1} (j N) (KP01 con un solo contenitore di capacità m Es: n = 6; m = 2; (p j ) = ( 110, 150, 70, 80, 30, 5 ) (w j ) = ( 40, 60, 30, 40, 20, 5 ) (c i ) = ( 65, 85) Surrogato: c = 150. Soluzione ottima (tempo esponenziale nel caso peggiore): i=1 c i ) (y j ) = ( 1, 1, 1, 0, 1, 0), z(s(mk)) = 360. Upper bound (tempo polinomiale; l upper bound di un upper bound è ovviamente un upper bound) : Dantzig: UB = 370; upper bound migliorato: UB = 363. Nota: l ammissibilità della soluzione surrogata è difficile da verificare (si può dimostrare che verificarla è un problema N P-completo). 221

10 Rilassamento lagrangiano L(MK, λ) max m = n λ j + max m i=1 i=1 p j x ij + n λ j (1 m i=1 x ij ) (con λ j 0 j) p j x ij (con p j = p j λ j ) w j x ij c i (i M) Interpretazione: per ogni elemento j, se non si sceglie j, si guadagna λ j ; x ij {0, 1} (i M, j N) se si sceglie j una volta, si guadagna p j ; se si sceglie j per k (> 1) volte, si guadagna kp j ma si paga (k 1)λ j. Rilassamento del vincolo che lega i contenitori L(MK, λ) equivale ad m KP01 indipendenti: per i = 1,..., m : z i = max n p j x ij w j x ij c i x ij {0, 1} (j N) (stessi profitti e pesi, diverse capacità) z(l(mk, λ)) = m z i + n λ j i=1 222

11 L(MK, λ ) domina C(MK); si conoscono moltiplicatori λ per i quali: z(c(l(m K, λ))) = z(c(s(m K)) = z(c(m K)); Ad es: λ = p j w j p s w s se j < s (s = elemento critico di S(MK)) 0 se j s Es: n = 6; m = 2; (p j ) = ( 110, 150, 70, 80, 30, 5 ) (w j ) = ( 40, 60, 30, 40, 20, 5 ) (c i ) = ( 65, 85) Elemento critico del surrogato: s = 4. Lagrangiano: (λ j ) = ( 30, 30, 10, 0, 0, 0 ) ( p j ) = ( 80, 120, 60, 80, 30, 5 ) Soluzione ottima : (x ij) = z(l(mk, λ)) = = 360. Nota: l ammissibilità della soluzione lagrangiana è facile da verificare. 223

12 Tecniche di riduzione Upper bound riduzione della dimensione dell istanza. Algoritmo che stabilisce preventivamente il valore ottimo di certo numero di variabili soluzione di un istanza modificata e dipendente solo dalle rimanenti variabili. Dato P, si definisca il problema P [xh =1] che si ottiene imponendo che la variabile x h (h {1,..., n}) assuma valore 1: Z(P [xh =1]) = c h + max j h j h j h c j x j a ij x j b i a ih d kj x j = e k d kh x j {0, 1} (i = 1,..., m), (k = 1,..., l), (j = 1,..., n; j h). Rilassamento upper bound U(P [xh =1]) su Z(P [xh =1]); Z = valore di una soluzione ammissibile di P ( algoritmo approssimato); Regola 1 Se U(P [xh =1]) Z, si deve avere x h = 0 in qualunque soluzione di P di valore maggiore di Z. Definendo analogamente P [xh =0] (imponendo x h = 0), Regola 2 Se U(P [xh =0]) Z, si deve avere x h = 1 in qualunque soluzione di P di valore maggiore di Z. 224

13 Calcolando U(P [xh =1]) ed U(P [xh =0]) per h = 1,..., n J 0 J 1 = {h : U(P [xh =1]) Z}; = {h : U(P [xh =0]) Z}; J = {1,..., n}\(j 0 J 1 ). Se J 0 J 1 contraddizione, cioè: Regola 3 Se J 0 J 1 la soluzione ammissibile di valore Z è ottima per P. Se J = soluzione di valore h J 1 c h, ma non necessariamente ammissibile (J 0, J 1 rilassamenti), non necessariamente migliore di Z ( le Regole 1 e 2 sono condizioni necessarie ma non sufficienti), per cui Regola 4 Se J =, (a) se h J 1 a ih b i i e h J 1 d kh = e k k allora la soluzione ottima di P è la migliore tra - quella definita da J 0 e J 1 (di valore h J 1 c h ), - quella nota di valore Z; (b) altrimenti la soluzione nota di valore Z è ottima per P. 225

14 Se J 0 J 1 = e J, allora la soluzione di P si ottiene dalla soluzione del problema ridotto P [J0,J 1 ]: Z(P [J0,J 1 ]) = max j J j J j J c j x j a ij x j b i h J 1 a ih d kj x j = e k x j {0, 1} h J 1 d kh (i = 1,..., m), (k = 1,..., l), (j J), Regola 5 Se J 0 J 1 = e J, (a) se P [J0,J 1 ] non ammette soluzione, allora la soluzione nota di valore Z è ottima per P ; (b) altrimenti sia J = {j J : x j = 1 nella soluzione ottima di P [J0,J 1 ]} : la soluzione ottima di P è la migliore tra quella definita da J 0, J 1 e J (di valore h J 1 c h + j J c j), quella nota di valore Z. 226

15 Algoritmo di riduzione per KP01 1. soluzione approssimata di valore z a ; 2. upper bound U (Dantzig); 3. se z a = U, stop (z a è ottima); altrimenti 4. per j = 1,..., n si calcolano: U 1 j = upper bound sul valore della soluzione se x j = 1;, U 0 j = upper bound sul valore della soluzione se x j = 0; (ma: per j = 1,..., s 1 si ha U 1 j = U > z a, per j = s + 1,..., n si ha U 0 j = U > z a ); 5. J 0 := {j s : U 1 j z a }, J 1 := {j s : U 0 j z a }; 6. se J 0 J 1 or 7. J := {1,..., n} \ (J 0 J 1 ); j J 1 w j > c, stop (z a è ottima); altrimenti se J =, stop (soluzione = max(z a, 8. problema ridotto: z = 9. soluzione = max(z, z a ). j J 1 p j + max j J 1 p j )); altrimenti j J j J p j x j w j x j c w j j J 1 x j {0, 1} (j J) Complessità O(n 2 ) passo 4. (ordinamento una sola volta). Riducibile a O(n log n) con tecniche particolari. 227

16 Es: n = 7, (p j ) = ( 70, 20, 39, 36, 15, 5, 10 ), (w j ) = ( 31, 10, 20, 19, 8, 3, 6 ), c = 50. s = 3, c = 9, p = 90, U = 107; z a = 105. j = 1: s = 5, c = 1, p = 95, U 0 1 = 96 J 1 = {1}; j = 2: s = 3, c = 19, p = 70, U 0 2 = 107; j = 3: s = 4, c = 9, p = 90, U 0 3 = 107; j = 3: s = 1, c = 30, p = 39, U 1 3 = 106; j = 4: s = 2, c = 0, p = 106, U 1 4 = 106; j = 5: s = 3, c = 1, p = 105, U 1 5 = 106; j = 6: s = 3, c = 6, p = 95, U 1 6 = 106; j = 7: s = 3, c = 3, p = 100, U 1 7 = 105; J 0 = {7}. Problema ridotto: J = {2, 3, 4, 5, 6}, capacità = 19; sol: x 4 = 1, x 2 = x 3 = x 5 = x 6 = 0: z = = 106. Osservazione: ogni p è il valore di una soluzione ammissibile ad ogni iterazione: se p > z a, z a := p.... j = 4:... z a = 106, J 0 = {4}; j = 5:... J 0 = {4, 5}; j = 6:... J 0 = {4, 5, 6}; j = 7:... J 0 = {4, 5, 6, 7}. J = {2, 3}, capacità = 19; sol: x 2 = 1, x 3 = 0: z = = 90; z < z a z a ottima. 228

17 Algoritmi approssimati Problema di massimizzazione P (normalmente N P-difficile): istanza I: Z(I) = valore della soluzione ottima; per brevità: Z, Z A. Z A (I) = valore della soluzione fornita da un algoritmo approssimato A; Z A (I) Z(I). Valutazione di un algoritmo approssimato: tempo di calcolo (medio, massimo,...); errore (assoluto, percentuale,...). Metodi: 1) analisi sperimentale; 2) analisi probabilistica; 3) analisi del comportamento nel caso peggiore. procedure GREEDY (algoritmo approssimato per KP01) begin end. ordina gli elementi per p j /w j decrescenti; c = c; z g = 0; for j := 1 to n do if w j c then x j := 1, c := c w j, z g := z g + p j else x j := 0 Tempo O(n log n). 229

18 Analisi sperimentale Codifica dell algoritmo approssimato; codifica di un algoritmo esatto (o di un upper bound); sperimentazione su elaboratore: generazione di numerose istanze casuali: - secondo diverse distribuzioni di probabilità; - per problemi di diverse dimensioni; utilizzazione di istanze note dalla letteratura: - problemi reali, - problemi costruiti a tavolino. Analisi statistica sul comportamento dell algoritmo: errore percentuale medio; tempo di calcolo medio;... Vantaggi: realizzabile con relativa facilità sempre consigliabile. (Utilizzata anche per algoritmi esatti.) Svantaggi: scarso rigore teorico; incerta estensibilità ai casi reali. Es: algoritmo GREEDY: molto veloce; buona precisione se n sufficientemente grande; esistono algoritmi più veloci e più precisi (tempo O(n)). 230

19 Analisi probabilistica (cenni) Concetto di istanza media del problema, espressa come distribuzione di probabilità sulla classe di tutte le istanze possibili. tempo di esecuzione e valore della soluzione trattati come variabili aleatorie Analisi teorica della tendenza di tempo e/o errore al limite (normalmente per n ) per una data distribuzione di probabilità (spesso uniforme). Vantaggi: rigore teorico. Svantaggi: realizzabile con molta difficoltà (possibile solo per algoritmi molto semplici). incerta estensibilità ai casi reali. Es: algoritmo GREEDY: se p j, w j e c appartengono ad una distribuzione uniforme, (probabilità di trovare la soluzione ottima) n

20 Analisi del caso peggiore (Worst-case analysis) Si determina la massima deviazione relativa tra Z e Z A : r A = inf I P r(i) : r(i) = ZA (I) Z(I) r A viene detto worst-case performance ratio (WCPR) dell algoritmo A. r A 1. Vantaggi: rigore teorico. Svantaggi: realizzabile con difficoltà (possibile solo per algoritmi semplici). pessimistica rispetto ai casi reali. Per dimostrare che un certo r A è il valore richiesto: 1) si dimostra che per ogni istanza I di P si ha Z A (I) Z(I) ra 2) si produce: un istanza I per la quale ZA (I) Z(I) = ra, oppure una serie di istanze I per le quali ZA (I) Z(I) ra. 232

21 Worst-case analysis dell algoritmo GREEDY GREEDY è arbitrariamente cattivo (cioè r GREEDY = 0). Dim: istanza: (p j ) = ( 2, M ), (w j ) = ( 1, M ), c = M > 2 Z = M, Z GREEDY = 2 ZGREEDY Algoritmo migliorato G : z G := max La WCPR dell algoritmo migliorato è 1 2. Dim: s = elemento critico 1) Z s 1 Z G Z G s 1 p j p s 2) istanza: p j + p s (p j ) = ( 2, M, M ), (w j ) = ( 1, M, M ), c = 2M > 2 Z M 0. Z GREEDY, max{p j }. j Z 2 Z G r G 1 2 Z = 2M, Z G = max (M + 2, M) ZG Z M