Algoritmo Branch and Cut (B&C)

Transcript

1 Programmazione Lineare Intera: III Algoritmo Branch and Cut Daniele Vigo DEIS Università di Bologna rev.0 aprile 2005 Algoritmo Branch and Cut (B&C) Sviluppato negli anni 90, nasce come unione tra due tecniche: Branch and Bound Cutting Planes Idea base: a ogni nodo dell albero decisionale si generano tagli nella speranza di: ottenere una soluzione intera oppure un lower bound più elevato, se questo non avviene si esegue il branching B&C.2

2 Algoritmo Branch and Cut (2) Elimina i principali difetti di tali tecniche, in particolare: garantisce un rafforzamento dinamico del problema rispetto al branch and bound garantisce l eliminazione del fenomeno del tailing off, tipico del cutting planes, grazie alla possibilità di eseguire branching B&C.3 Algoritmo Branch and Cut (3) Una possibile realizazione: Algoritmo branch and bound + Tagli di Gomory Ad un generico nodo (Problema originale + vincoli di branching imposti) i tagli generati sono ricavati a partire dal rilassamento continuo del problema corrente (tableau ottimo) I tagli generati hanno validità locale, relativa al nodo corrente ed ai suoi (eventuali) discendenti E necessario memorizzare per ogni nodo i tagli generati B&C. 2

3 Algoritmo Branch and Cut (3) Attraverso tecniche specifiche (Lifting o Sequential Lifting) è possibile ricavare tagli validi globalmente memorizzati in una struttura globale detta pool di vincoli Viene persa la dipendenza tra il nodo corrente ed i tagli per esso ricavati: qualsiasi nodo vede tutti i tagli appartenenti al pool globale B&C.5 Branch and Cut: Esame di un nodo Elaborando un generico nodo dell albero decisionale. Si definisce la formulazione corrente (Problema P = Problema iniziale + vincoli di branching) 2. Si risolve il rilassamento C(P) con soluzione ottima x C 3. Nel caso in cui x C sia frazionaria si scandisce il pool di vincoli alla ricerca di vincoli violati da aggiungere alla formulazione corrente e si risolve il nuovo rilassamento. Se la nuova x C è ancora frazionaria e tutti i vincoli del pool sono soddisfatti si ricercano nuovi tagli globali da inserire nel pool (separazione), oppure si esegue il branching B&C.6 3

4 Definizione di un algoritmo B&C Elementi caratterizzanti l algoritmo: Pool dei vincoli: conserva i tagli validi globalmente Procedure di separazione: tali procedure permettono di individuare disuguaglianze non rispettate dalla soluzione del rilassamento corrente La definizione di efficaci procedure di separazione è il punto cruciale dell algoritmo; per esse esistono due diverse metodologie di sviluppo: procedure di separazione general-purpose, applicabili a ogni generico problema di PLI procedure di separazione specifiche per una data classe di problemi, si sviluppa cioè una procedura ad hoc per il problema B&C.7 Definizione di un algoritmo B&C (2) Definizione di un algoritmo applicabile a una singola classe di problemi PLI (procedure di separazione specifiche). Definizione di un modello PLI del problema (P) 2. Definizione, risoluzione e ricerca delle proprietà di C(P) 3. Traduzione delle proprietà individuate in termini di classi di disuguaglianza valide (analisi poliedrale). Per ogni classe C di disuguaglianze, definizione di procedure efficienti per la risoluzione esatta/euristica del Problema di Separazione per la classe C B&C.8

5 Esempio: Index Selection Problem Un DB relazionale odierno deve supportare interrogazioni in tempo reale (query) L esecuzione di una query richiede la scansione dei dati, che può essere accelerata dalla presenza di indici che mantengono ordinati i dati Il tempo di risposta ad una determinata query è quindi funzione dell indice utilizzato Ogni indice definito sul DB comporta un costo temporale fisso dovuto agli aggiornamenti un costo spaziale in termini di occupazione di memoria B&C.9 Esempio di istanza di ISP m = numero di query = 6 n = numero di indici potenziali = 5 (l indice 0 corrisponde alla scansione sequenziale dei dati) Costi temporali di risposta a ciascuna query: Query Indice0 Indice Indice2 Indice3 Indice Indice B&C.0 5

6 Esempio di istanza di ISP (2) Costo temporale fisso e dimensione (in Mbyte) degli indici: Indice Indice2 Indice3 Indice Indice5 Costo fisso Dim Lo spazio totale su disco a disposizione degli indici è D=9 Non è possibile usare più di un indice per la stessa query Si ricerca un sottoinsieme di indici di dimensione totale inferiore a D, tale che il costo complessivo della soluzione, che si ottiene sommando i costi fissi ed i costi relativi alle m query, sia minimo B&C. Modello PLI di ISP m = numero totale di query, M= {,, m} n = numero totale di indici potenziali N ={,, n}, N 0 =N {0} D = dimensione memoria a disposizione degli indici selezionati c = costo (tempo) fisso 0 per l aggiornamento dell indice N d = dimensione 0 dell indice N ω i = costo (tempo) 0 per rispondere alla query i M mediante l indice N B&C.2 6

7 Modello PLI di ISP (2) Le variabili decisionali del problema sono: per ogni indice N y = se indice viene selezionato 0 altrimenti Ogni query è associata ad un indice selezionato (incluso 0), per ogni i M e N 0 x i = se la query i usa l indice 0 altrimenti B&C.3 Modello ILP di ISP (2) Funzione obiettivo (min. costo fisso + costo query) ( P ) z = min c y + () (2) (3) () n = n = 0 m i= 0 (5) 0 d x x i i x y my n = i = = 0 y D =, i M i N, intere i M,, intere N B&C. 0 m n N 0 ω i x i Occupazione di memoria Un solo indice per query Consistenza tra x ed y 7

8 Risoluzione e proprietà di C(P) la soluzione di C(P), (x C,y C ), dovrebbe essere un lower-bound stretto, con un costo z C vicino al valore ottimo intero z* Rilassando la condizione di interezza in () il modello definirà:. m C y = m i= anche ammettendo che le x i siano intere si avrà y ic = solo se l indice è usato da tutte le query x C i B&C.5 Risoluzione e proprietà di C(P) (2) Il vincolo (3) fa sì che i valori y C siano lontani da Con un algoritmo branch and bound che utilizza C(P), tali soluzioni sarebbero individuate nei nodi profondi dell albero (nel nostro caso dopo nodi!) Occorre individuare un modello migliore (più stringente/tight) B&C.6 8

9 Rafforzamento di C(P) Alcuni costi ω i sono uguali ai costi ω i0 in tali casi, si può fissare x i = 0 dato che ogni soluzione ottima non ha interesse ad usare l indice per la query i potendo usare con lo stesso costo l indice 0 che non ha costi spaziali o temporali di gestione Si possono rimuovere tutte le variabili x i tali che ω i > ω i0, per ogni indice risultano attive: x i i I ove I { i : ω < ω } i i 0 B&C.7 Rafforzamento di C(P) (2) Oltre a diminuire il numero di variabili del problema questa riduzione consente di riscrivere il vincolo (3) come: ( 3 ') x I y, N i I i Rispetto alla formulazione precedente il coefficiente di y i è stato diminuito da m a I Il vincolo è più forte B&C.8 9

10 Rafforzamento di C(P) (3) La soluzione del nuovo rilassamento continuo è C 6 C C C C C C x20 =, x2 =, x3 = x53 = x30 = x = x65 = 0 0 C 7 C C y = y 3 =, y 5 = 0 3 Questo C(P) ha un lower bound pari a 890 Confrontando tale valore con il valore ottimo intero.00,( I, I 5 ) si comprende che utilizzare direttamente il branch and bound il tempo sarebbe elevatissima B&C.9 Analisi poliedrale di ISP Studiando la struttura di ISP si cercano nuove classi di disuguaglianze valide (da inserire nel pool) A tal fine si esamina la soluzione frazionaria x 6 =, x 0 =, x 0 C C C C C C C = x53 = x30 = x = x65 = l indice viene usato al 70% (y C =7/0 ) ma viene utilizzato al 00% per la query (x C =) Un indice selezionato parzialmente deve essere usato parzialmente anche dalle query (classe C ) Classe C : x i y C 7 C C y =, y 3 =, y 5 = 0 N, i I 3 B&C.20 0

11 Analisi poliedrale di ISP (2) I vincoli (3 ) possono essere ottenuti a partire dalla classe di disuguaglianze C sommando le disuguaglianze x i y per ogni i I Una soluzione che soddisfa le C soddisfa anche (3 ) Le C sono però molte di più (per ogni (3 ) si hanno I disuguaglianze C ) Non tutte le C sono indispensabili ( attive in (x C,y C )) Risulta dunque conveniente generare i vincoli della classe C durante l esecuzione dell algoritmo, limitandosi a quelli violati dalla soluzione corrente B&C.2 Problema di Separazione Problema di separazione per una classe (generica) C: dato x C individuare (se esiste) una disuguaglianza α T x α 0 appartenente alla classe C e tale che α T x C >α 0 In pratica per ogni classe C si ha interesse ad individuare numerose disuguaglianze violate Queste vanno scelte tra quelle che massimizzano il grado di violazione: α T x C - α 0 Questo, infatti, permette di accelerare la convergenza complessiva dell algoritmo branch and cut B&C.22

12 Separazione della Classe C Dato (x C,y C ), individuare (se esiste) una coppia (i,) tale che x ic > y C La famiglia C contiene solo O(nm) disuguaglianze, il problema di separazione si può risolvere per enumerazione begin for := to n do for each i I do if x C i > y C then vincolo x i y violato da (x C,y C ) end B&C.23 Separazione della Classe C (2) Si hanno due vincoli violati: x y e x 65 y 5 Si aggiungono questi vincoli al modello corrente e si riottimizza (con il simplesso duale): La nuova soluzione ottima ha costo 9900 C 3 C C 3 C C C C C C x60 =, x3= x53=, x2= x= x30=, x5= x55= x65= C 3 C =, y3 =, y5 C = Applicando la procedura di separazione alla nuova soluzione non si trovano altri vincoli violati (altrimenti si aggiungono e si riottimizza) La soluzione li soddisfa tutti anche se ne sono stati inseriti solo due! y B&C.2 2

13 Nuova classe di disuguaglianze Si può ora eseguire il branching, oppure studiare il punto frazionario alla ricerca di una nuova classe di disuguaglianze valide C 3 C C 3 C C C C C C x60 =, x3= x53=, x2= x= x30=, x5= x55= x65= y C 3 C =, y3 =, y5 C = Gli indici e 3 non possono essere scelti entrambi perché eccedono D (d = d 3.=0, D=9) Si ha la condizione y + y 3 < 2, rafforzabile in y + y 3 dato che y e y 3 devono essere interi. Violata dal punto frazionario corrente! B&C.25 Classe C 2 La nuova classe può essere formalizzata in: Classe : y S, S N, S : C 2 S S d > D Poiché esistono 2 n - sottoinsiemi non vuoti di N la classe C 2 può contenere un numero elevato di disuguaglianze L algoritmo di separazione per la classe C 2 non può essere un semplice enumerativo (tempo di calcolo esponenziale!) B&C.26 3

14 Separazione per la classe C 2 E possibile definire un problema di PLI la cui soluzione ottima (se esite) è la disuguaglianza della classe C 2 più violata dalla soluzione frazionaria corrente Il problema PLI di separazione può essere a sua volta risolto con un algoritmo branch-and-bound (o con un algoritmo dedicato se particolarmente semplice) B&C.27 Separazione per la classe C 2 (2) Determinare un S N tale che il vincolo è violato Si definisce per ogni indice N una variabile w n z = * = = d z se S 0 altrimenti. min n = D+ ε ( y z C ) z 0 intere, N E un problema di Knapsack 0- in forma di min B&C.28

15 Separazione per la classe C 2 (3) Risolvendo il KP0 si individuerà il sottoinsieme S cui corrisponde la massima violazione del vincolo: se w* < il vincolo è violato e può essere aggiunto al rilassamento continuo corrente. Altrimenti la soluzione (x C,y C ), soddisfa tutti i 2 n - vincoli di tipo C 2 correnti Il problema KP0 è NP-Hard (t. esponenziale) Esistono algoritmi dedicati molto efficienti (si veda B&C.29 Separazione euristica classe C 2 Un altra possibilità consiste nel limitare euristicamente la scelta dei sottoinsiemi S imponendo S k per un valore fissato di k (piccolo) Se k = 2 si ottiene il vincolo violato y + y 3. Aggiungendo tale vincolo alla formulazione corrente e riottimizzando si ottiene un gap pari a 220 Con k = 3 si ottiene la soluzione ottima intera per l esempio considerato (gap = 0) B&C.30 5

16 Separazione euristica classe C 2 Procedura euristica di separazione per la classe C 2 ; begin sia J* :={ N : y C >0}; for each S J*: S k do if d > S D then if i S y C > S then end. vincolo C 2 violato da (x C,y C ) B&C.3 Sperimentazione Confronto computazionale fra la tecnica branch-andbound puro basato sul modello (P) e branch-and-cut (con i vincoli delle classi C e C 2 ) Branch-and-bound Branch-and-cut m 250 n 50 Nodi >0000 Tempo (sec) >230.3 Nodi Tempo (sec) >0000 > >0000 > B&C.32 6