Simplesso Revised. Domenico Salvagnin

Transcript

1 Simplesso Revised Domenico Salvagnin Introduzione Consideriamo un problema di programmazione lineare in forma standard: min z = c T x (1.1) Ax = b (1.2) x 0 (1.3) dove A R m n è una matrice di rango pieno con m < n. Indichiamo con N = {1,..., n} l insieme di indici di tutte le variabili. Un vettore x che soddisfa (1.2) si dice soluzione, se soddisfa anche (1.3) si dice soluzione ammissibile. 2 Basi Si definisce base un insieme di m colonne di A linearmente indipendenti. Indichiamo con B l insieme ordinato di indici corrispondenti alle colonne in base: B = {k 1,..., k m } (2.1) e con R l insieme di indici associato alle colonne fuori base. La partizione tra colonne (e quindi variabili) in base e fuori base di A = [B R] permette di riscrivere il sistema (1.2) come Bx B + Rx R = b (2.2) dove abbiamo indicato con B l insieme delle colonne in base e con R l insieme delle colonne fuori base. Essendo B invertibile è possibile riscrivere (2.2) come x B = B 1 b B 1 Rx R (2.3) da cui è evidente che un assegnamento alle variabili fuori base x R determina univocamente il valore delle variabili in base x B. In particolare, se tutte le variabili fuori base sono a zero otteniamo la soluzione x = (x B, x N ) = (B 1 b, 0) (2.4) che viene detta soluzione base. Se tale soluzione soddisfa anche i vincoli di non-negatività (1.3) si dice soluzione base ammissibile. Due basi di A si dicono adiacenti se differiscono per una sola colonna. Sia B = [b 1,..., b p 1, b p, b p+1,..., b m ] una base di A e consideriamo la base adiacente B a = [b 1,..., b p 1, a, b p+1,..., b m ], in cui abbiamo sostituito la p-esima colonna b p con a. Poiché B è una base, è possibile esprimere a come combinazione lineare di vettori di B, cioè: m a = v i b i = Bv (2.5) i=1 1

2 Dall algebra lineare sappiamo che B a è non singolare se e solo se 0 e pertanto è possibile scrivere: b p = 1 a i p v i b i = B a η (2.6) dove abbiamo definito η = [ v 1,..., 1, 1, +1,..., v ] m Se definiamo la matrice di trasformazione elementare E 1 η E = [e 1,..., e p 1, η, e p+1,..., e m ] = η p.... η m 1 (2.7) (2.8) possiamo esprimere i vettori della base B in funzione dei vettori della base B a come B = B a E. Invertendo tale espressione e moltiplicando per E otteniamo infine B 1 a = EB 1 (2.9) Questa relazione ci dice che è possibile ottenere l inversa della base B a moltiplicando per E l inversa di B. La matrice E si ottiene dal vettore η, che a sua volta è facilmente calcolabile dal vettore v = B 1 a. 3 Simplesso primale L idea principale del simplesso primale è la seguente: partendo da una base ammissibile B del problema, ci si sposta iterativamente ad una base ammissibile adiacente di costo non peggiore, fino a raggiungere una base ottima. Per definire i dettagli dell algoritmo dobbiamo pertanto specificare: come riconoscere una base ottima (condizioni di ottimalità) come trovare una base ammissibile adiacente migliorante 3.1 Condizioni di ottimalità Partendo da (2.3) possiamo considerare la forma partizionata della funzione obiettivo, ottenendo: z = c T Bx B + c T Rx R = c T BB 1 b + (c T R c T BB 1 R)x R (3.1) Ora la funzione obiettivo è espressa come un termine costante più una funzione lineare delle sole variabili fuori base. Il vettore π T = c T BB 1 (3.2) prende il nome di vettore dei moltiplicatori e permette di definire comodamente i coefficiente d j della funzione obiettivo nella forma (3.1). Tali coefficienti prendono il nome di costi ridotti delle variabili x j e sono quindi definiti come d j = c j π T a j (3.3) Non è difficile dimostrare che il costo ridotto di una variabile in base è nullo. 2

3 I costi ridotti delle variabili fuori base permettono di definire un criterio di ottimalità per la base corrente. Immaginiamo di dare un valore positivo ad un variabile fuori base x j, j R. Dalla forma (3.1), possiamo dedurre che la funzione obiettivo z aumenti o diminuisca a seconda che il costo ridotto corrispondente sia d j > 0 o d j < 0. Pertanto possiamo concludere che se d j 0 j R (3.4) nessuna variabile fuori base può spostarsi da zero migliorando la funzione obiettivo e quindi la base corrente è ottima. É importante notare che tale condizione è solo sufficiente per l ottimalità di una base, ma è possibile dimostrare che esiste sempre una base ottima che verifica tale condizione. 3.2 Individuare una base adiacente migliorante Se la base corrente B non soddisfa la condizione di ottimalità (3.4), allora esiste una variabile fuori base x q con costo ridotto d q < 0. Possiamo pertanto provare ad aumentare x q in modo da mantenere le equazioni (2.2), l ammissibilità delle variabili in base e migliorare la funzione obiettivo il più possibile. Indichiamo con t 0 lo spostamento (displacement) della variabile x q. Poiché tutte le altre variabili fuori base rimangono a zero, possiamo riscrivere le equazioni (2.2) come da cui Bx B (t) + ta q = b (3.5) x B (t) = B 1 b tb 1 a q = β tα q (3.6) introducendo la notazione β = B 1 b e α q = B 1 a q. Poiché vogliamo mantenere l ammissibilità delle variabili in base, deve essere x i B (t) = β i tα i q 0 per ogni i = 1,..., m e questo insieme di m disequazioni ci permette di trovare un valore massimo per t. Dopo aver definito I = {i : α i q > 0} (3.7) possiamo calcolare il valore massimo θ per t θ = β p α p q { } βi = min i I αq i (3.8) Questa operazione prende il nome di ratio test. La p-esima variabile in base viene detta blocking variable e l elemento αq p viene detto elemento pivot (notate che il minimo non è necessariamente unico). Per t = θ la blocking variable diventa nulla (una proprietà tipica delle variabili in base): possiamo pertanto dire che la variabile x kp esce dalla base ed è sostituita dalla variabile x q. Il nuovo valore della funzione obiettivo è z = z + θd q (3.9) Per ottenere l inversa della nuova base è sufficiente applicare la formula (2.9), dove il vettore η è definito come in (2.7), con il vettore α che prende il posto del vettore v. Se I = non c è alcuna restrizione su t e quindi t = +. In tal caso la funzione obiettivo z può scendere indefinitamente e quindi il problema è illimitato (unbounded). 3.3 Descrizione algoritmica L analisi precedente ci permette di formalizzare algoritmicamente il simplesso primale revised. Step 0 (init) Data una base ammissibile B, calcolare le quantità B 1, β = B 1 b e z = c T B x B. 3

4 Step 1 Calcolare i moltiplicatori π T = c T B B 1. Step 2 (pricing) Calcolare i costi ridotti d j = c j π T a j per j R. Se d j 0 per ogni j allora la base corrente è ottima. Altrimenti scegliere una variabile x q con d q < 0 che entra in base. Step 3 Calcolare α q = B 1 a q. Step 4 (pivot step) Determinare I = {i : αq i > 0}. Se I = allora il problema è illimitato. Altrimenti effettuare il ratio test (3.8), determinando θ e la variabile x kp che esce dalla base. Step 5 (update) Aggiornare la base e la sua inversa. Aggiornare inoltre le quantità β e z Tornare allo Step 1. β i = β i θα i q i p (3.10) β p = θ (3.11) z = z + θd q (3.12) 4 Simplesso duale Ad un dato problema di programmazione lineare in forma standard ( ) è possibile associare un altro problema di programmazione lineare, che viene detto il suo duale Introducendo delle variabili ausiliarie d 0 possiamo ottenere la forma max Z = b T y (4.1) A T y c (4.2) max b T y (4.3) A T y + d = c (4.4) d 0 (4.5) Possiamo ora definire una diversa versione dell algoritmo del simplesso, che cerca sempre di risolvere il problema primale ( ), ma lo fa usando la forma duale ( ). Sia B una base di A, non necessariamente ammissibile. Riscrivendo le equazioni duali (4.4) come d T = c T y T A e scegliendo y T = c T B B 1 (cosa che possiamo sempre fare essendo le variabili y non vincolate in segno), possiamo ricavare le variabili duali d come d T B = c T B c T BB 1 B = 0 (4.6) d T R = c T R c T BB 1 R 0 (4.7) Si ha quindi che le variabili duali d B associate alle variabili primali in base sono esattamente nulle, mentre affinchè la soluzione duale sia ammissibile le variabili duali d R devono essere non negative. Assumiamo che la base corrente sia ammissibile per il duale, cioè che valga (4.7). Tale condizione non è altro che la condizione di ottimalità primale: pertanto, se la base corrente fosse anche ammissibile per il primale sarebbe ottima. L algoritmo del simplesso duale segue esattamente questa strada, partendo da una base ammissibile per il duale e spostandosi su una base adiacente ad ogni iterazione fino a trovarne una che è anche ammissibile per il primale (e quindi ottima). 4

5 4.1 Individuare una base adiacente migliorante duale Consideriamo le equazioni (4.6) e, come fatto nel simplesso primale, proviamo ad aumentare una variabile d kp, indicando con t 0 la variazione (displacement). Come al solito vogliamo aumentare una variabile mantenendo le equazioni presenti nel modello, e quindi calcoliamo un vettore di moltiplicatori y(t) tale da mantenere (4.6) al variare di t. y T B + d T B = c T B (4.8) B T y + d B = c B (4.9) B T y(t) + te p = c B = B T y (4.10) y(t) = y tb T e p (4.11) Adesso che abbiamo ottenuto y(t) possiamo calcolare di quanto cambia la funzione obiettivo duale al variare di t Z(t) = b T y(t) = b T tb T B T e p = Z tβ p (4.12) Poiché vogliamo massimizzare la funzione obiettivo duale (e t 0), un criterio per la scelta della variabile d kp da aumentare è che sia β p < 0 (incidentalmente, vuol dire che conviene scegliere una variabile primale non ammissibile). Tale variabile ha un costo ridotto potenzialmente positivo (in caso di spostamento non nullo) e pertanto lascia la base. Supponiamo di aver scelto una tale variabile. Vediamo ora cosa succede al variare di t alle variabili duali fuori base d R. Si ha che per ogni j R d j (t) = c j a T j y(t) = c j a T j y + ta T j B T e p = d j + tα p j 0 (4.13) Analogamente a quanto fatto con il simplesso primale, possiamo definire un insieme di indici J = {j R : α p j < 0} (4.14) e calcolare lo spostamento massimo θ D θ D = d q α p q = min j J { d j α p j } (4.15) Per t = θ D, il costo ridotto della variabile x q diventa nullo (una proprietà delle variabili in base) e possiamo quindi dire che x q entra in base. Notate come nel simplesso primale venga scelta per prima la variabile che entra in base e poi attraverso il ratio test quella che esce, mentre nel simplesso duale si ha l esatto contrario. Se J =, allora la quantità t può essere resa arbitrariamente grande e quindi il problema duale è illimitato (e il problema primale è impossibile). 4.2 Descrizione algoritmica L analisi precedente ci permette di formalizzare algoritmicamente il simplesso duale revised. Step 0 (init) Data una base ammissibile duale B, calcolare le quantità B 1, β = B 1 b, π T = c T B B 1, d T R = ct R yt R e Z = y T b. 5

6 Step 1 (dual pricing) Se β 0 allora la base corrente è ottima. Altrimenti scegliere una variabile x kp con β p < 0 che esce dalla base. Step 2 Calcolare α p R = et p B 1 R. Step 3 (dual pivot step) Determinare J = {j R : α p j < 0}. Se J = allora il problema è impossibile. Altrimenti effettuare il ratio test (4.15), determinando θ D e la variabile x q che entra in base. Step 4 (update) Aggiornare le variabili duali y e d e la funzione obiettivo Z y = y θ D B T e p (4.16) d j = d j + θ D α p j j R (4.17) d kp = θ D (4.18) Z = Z θ D β p (4.19) Calcolare il vettore α q = B 1 a q e lo step primale θ = βp e aggiornare il vettore β. Aggiornare la base α p q e la sua inversa. Tornare allo Step 1. 5 Simplesso Bounded Finora abbiamo visto versioni dell algoritmo del simplesso che si applicano ad un problema di programmazione lineare in forma standard. Nella sua forma più generale, un problema di programmazione lineare si può esprimere come min c T x Ax b (5.1) l x u dove {,, =} e alcuni lower/upper bound possono essere +/. Introducendo delle opportune variabili artificiali per i vincoli in forma di disuguaglianza abbiamo la forma generale min c T x Ax = b (5.2) l x u A seconda delle possibili combinazioni di valori per lower e upper bound, possiamo individuare i seguenti tipi di variabili (a meno di una traslazione, possiamo assumere che il lower bound, quando finito, sia nullo). ID Tipo Bounds FX fissata x j = 0 P non negativa x j 0 N non positiva x j 0 BD bounded 0 x j u j FR libera x j Vediamo ora una generalizzazione dell algoritmo del simplesso primale che permette di gestire tutti questi tipi di variabili (a meno di una complementazione, possiamo convertire tutte le variabili N in P, quindi assumiamo che non ce ne siano). Dobbiamo in particolare estendere tutti molti dei concetti su cui si basa l algoritmo del simplesso. 6

7 5.1 Ammissibilità Una soluzione si dice ammissibile se ogni variabile è all interno dei propri bound (questo deve valere per tutte le variabili). Per quanto riguarda le variabili fuori base, non sono più necessariamente nulle, ma alcune potrebbero essere al proprio upper bound. Definito l insieme U delle variabili fuori base all upper bound, possiamo calcolare le variabili in base come x B = B 1 (b j U a j u j ) = B 1 b u (5.3) 5.2 Condizioni di ottimalità La definizione di costo ridotto non cambia nella forma generale, ma vanno aggiornate le condizioni di ottimalità, in quanto le variabili fuori base potrebbero avere un displacement negativo (ad esempio nel caso di variabili all upper bound o libere). I criteri aggiornati diventano: ID Valore costo ridotto FX 0 P 0 d j 0 BD 0 d j 0 BD u j d j 0 FR 0 d j = 0 Da notare come una variabile fissata non entri mai in base (i costi ridotti vanno sempre bene, in quanto t è sempre nullo), mentre per una variabile libera il costo ridotto debba essere nullo, in quando può muoversi in entrambe le direzioni. 5.3 Cambio di base A seconda del tipo di variabile scelta per entrare in base, può essere d q < 0 (t 0) o d q > 0 (t 0). Vediamo per primo il caso d q < 0. Le equazioni (3.5) vanno riscritte in Bx B (t) + ta q = b u (5.4) x B (t) = B 1 b u tb 1 a q (5.5) = β tα q (5.6) che non è formalmente molto diverso dal caso standard. Cambiano invece le condizioni sullo spostamento massimo di t, in quando a seconda del tipo di variabile in base ho delle condizioni diverse su t. In particolare, devo considerare che: alcune variabili in base hanno un upper bound, quindi può esserci un limite per t anche per valori negativi di α i q se la variabile in base è libera non viene imposto nessun vincolo su t (quindi una variabile libera non esce mai dalla base) la variabile fuori base x q potrebbe essere a sua volta bounded e raggiungere il proprio upper bound u j prima di tutte le variabili in base. Formalmente devo definire due insiemi di indici I + = {i : α i q > 0 tipo(x ki ) {F X, P, BD}} (5.7) I = {i : α i q < 0 tipo(x ki ) {F X, BD}} (5.8) 7

8 calcolare le due quantità θ + = min i I + θ = min i I { βi α i q } { } βi u ki α i q (5.9) (5.10) e infine ottenere il massimo valore per t come θ = min{θ +, θ, u q } (5.11) Il caso in cui θ = u q prende il nome di bound flip ed è particolarmente vantaggioso: infatti in questo caso l iterazione è sicuramente non degenere e non c è bisogno di aggiornare la base (e la sua inversa!). Il caso d q > 0 è assolutamente analogo. In questo caso i due insiemi di indici vanno definiti come I + = {i : α i q > 0 tipo(x ki ) {F X, BD}} (5.12) I = {i : α i q < 0 tipo(x ki ) {F X, P, BD}} (5.13) e le due quantità come { } θ + βi u ki = max θ = max i I i I + αq i { } βi α i q (5.14) (5.15) e infine si ottinene il massimo valore per t come θ = max{θ +, θ, u q } (5.16) Notate come in questo caso si usi l operatore max in quanto lo spostamento t è 0. 8